الاستخدام المسؤول للذكاء الاصطناعي في الإصدار الخامس - ISO 42001، وموثوقية الذكاء الاصطناعي، وإدارة المخاطر، وواقع ممارسات التصنيع الجيدة (GMP)

الذكاء الاصطناعي يصل إلى MES, نظام إدارة الجودة و WMS المنصات قبل وقت طويل من انتهاء الجهات التنظيمية من تحديد توقعاتها. شركات تصنيع علوم الحياة والأغذية ومستحضرات التجميل والمواد الكيميائية عالقة بين ضغوط "إضافة الذكاء الاصطناعي" وواقع أن GMP وسلامة البيانات والتحقق منها لم تختفِ. السؤال الجوهري ليس: "هل لديك ذكاء اصطناعي؟"، بل: "هل يمكنك إثبات أن الذكاء الاصطناعي لا يُقوّض سيطرتك على العملية؟"

SG Systems Global لقد اتخذ موقفًا محافظًا عمدًا مع إمكانية التتبع V5V5 ليست منصة ذكاء اصطناعي مغلقة. إنها نظام الإعدام المتشدد التي يمكنها دمج الذكاء الاصطناعي بطريقة تظل شفافة وقابلة للمراجعة والتدقيق. عند استخدام الذكاء الاصطناعي، يكون المحصورة من خلال سير عمل الموافقة والتوقيعات ومسارات التدقيق بما يتماشى مع 21 CFR الجزء 11, تكامل البيانات التوقعات والتوجيهات الحديثة بشأن حوكمة الذكاء الاصطناعي.

فلسفتنا بسيطة: الذكاء الاصطناعي قادر على اقتراح الحلول، لكنه لا يستطيع اتخاذ القرارات بصمت. في الإصدار الخامس، كل إجراء بمساعدة الذكاء الاصطناعي قابل للتتبع والمراجعة، ويخضع لنفس الضوابط المطبقة على أي خطوة أخرى حاسمة في ممارسات التصنيع الجيدة (GMP).

— رئيس الجودة، الشركة المصنعة المنظمة

المشهد المعياري للذكاء الاصطناعي في التصنيع المنظم

تُشكّل العديد من المعايير والوثائق الإرشادية حاليًا توقعات الاستخدام المسؤول للذكاء الاصطناعي. ثلاثة من أهمها:

• ISO / IEC 42001 – نظام إدارة الذكاء الاصطناعي (AIMS). انظر مدخل المصطلحات:
  ISO/IEC 42001 – نظام إدارة الذكاء الاصطناعي.
• ISO/IEC TR 24028 - موثوقية الذكاء الاصطناعي - الأمن، والمتانة، والشفافية، والتحيز، والرقابة البشرية.
• ISO 23894 - إدارة مخاطر الذكاء الاصطناعي - تقييم المخاطر والتحكم في الذكاء الاصطناعي عبر دورة حياته.

في التصنيع المنظم، تتواجد معايير الذكاء الاصطناعي الناشئة هذه فوق الأسس المألوفة:

• 21 CFR الجزء 11 - السجلات والتوقيعات الإلكترونية.
• جامب 5 و CSV / تفكير CSA.
• إدارة مخاطر الجودة (ICH Q9، FMEA، HACCP، وما إلى ذلك).
• سلامة بيانات ALCOA+ و مسارات التدقيق.

بالنسبة للعملاء، يصبح السؤال العملي هو: هل يتوافق سلوك الذكاء الاصطناعي للمنصة مع هذه المبادئ، وهل يمكن إثبات هذا التوافق أثناء التفتيش، وليس مجرد الوعد به في عرض تقديمي؟

ماذا يعني "الذكاء الاصطناعي في الإصدار 5" فعليًا؟

في الإصدار الخامس، لا يعني "الذكاء الاصطناعي" إدخال نماذج لغوية كبيرة غير مُتحكّم فيها مباشرةً في سجلات الدفعات أو قرارات التصنيف أو الإصدار. بل يُركّز الإصدار الخامس على:

• القواعد الحتمية و البوابات الصلبة من خطوات التنفيذ.
• الإجراءات المساعدة حيث يقترح الذكاء الاصطناعي المحتوى (على سبيل المثال مسودات التدريب وملخصات المستندات) ولكن لا يمكنه تجاوز سير عمل الموافقة.
• الانفصال الصارم بين طبقات الاقتراح والسجلات الهامة لـ GMP مثل معدل الأيض الأساسي المبني على النشاط, شعبة الموارد البشرية و MMR.
• الحد الأدنى من واجهات برمجة التطبيقات الخارجية، مع توجيه البيانات المستوردة عبر سير عمل الموافقة والفحص قبل الاستخدام.
• سجلات جاهزة للتدقيق لأي حدث بمساعدة الذكاء الاصطناعي، مرتبط بالمستخدمين والأصول والكثير.

عند دمج V5 مع الذكاء الاصطناعي الخارجي (على سبيل المثال، للمساعدة في محتوى التدريب)، يتم تشغيل هذا التكامل في بيئة رملية مُتحكم بها. تُعامل المخرجات على أنها الداما والتي يجب مراجعتها والموافقة عليها قبل أن تصبح جزءًا من نظام الجودة الخاضع للرقابة.

ISO/IEC 42001 – نظام إدارة الذكاء الاصطناعي ونموذج حوكمة V5

ISO / IEC 42001 يحدد كيفية تنظيم المنظمة لهياكلها نظام إدارة الذكاء الاصطناعي (AIMS)السياسات، الأدوار، تقييم المخاطر، الضوابط، التوثيق، والتحسين. وهو يُضاهي معيارَي ISO 9001 وISO 27001 في مجال الذكاء الاصطناعي، ولكنه يُركز على حوكمة أنشطة الذكاء الاصطناعي.

صُمم V5 ليتناسب بشكل مريح مع نظام AIMS. على مستوى عالٍ:

• مجال - يمكن للعملاء تحديد نطاق ميزات V5 التي تستخدم الذكاء الاصطناعي (إن وجد) بشكل صريح وتقييد الميزات الأخرى بقواعد حتمية فقط.
• الادوار والمسؤوليات - يمكن أن تقتصر الميزات المدعومة بالذكاء الاصطناعي على أدوار محددة ويجب أن تتبع توثيقًا إجراءات التشغيل القياسية.
• تقييم المخاطر - يمكن تقييم كل حالة استخدام للذكاء الاصطناعي باستخدام نفس أدوات إدارة المخاطر الجيدة المستخدمة بالفعل لتغييرات العمليات أو المعدات.
• تدابير الرقابة – تصبح البوابات الصارمة والموافقات ومسارات التدقيق في V5 بمثابة طبقة "تحكم" ملموسة للاقتراحات الذكية أو المحتوى المستورد.
• المراقبة والتحسين – يوفر الإصدار V5 سجلات الأحداث والمقاييس التي يمكن أن تغذي دورة مراجعة AIMS الخاصة بالمنظمة.

والنتيجة هي أن الذكاء الاصطناعي لا يتفوق على نظام الجودة، بل يصبح مُدخلاً إضافياً في بيئة رقمية مُحددة المعالم، حيث يُسجل كل إجراء، ويبقى كل قرار حاسم تحت السيطرة البشرية.

ISO/IEC TR 24028 – موثوقية الذكاء الاصطناعي داخل سير عمل ممارسات التصنيع الجيدة (GMP)

ISO/IEC TR 24028 يركز على صنع الذكاء الاصطناعي جدير بالثقة: متينة وآمنة وشفافة وسهلة الفهم. في بيئة GMP أو GFSI، يُترجم ذلك إلى:

• لا توجد تغييرات غير مرئية إلى تعليمات الدفعة أو الملصقات أو خطط التفتيش التي يتم تشغيلها مباشرة بواسطة الذكاء الاصطناعي.
• اقتراحات قابلة للتفسير - على سبيل المثال، إظهار سبب اقتراح تصنيف الانحراف أو تحديث التدريب.
• استقلالية محدودة - لا يمكن للذكاء الاصطناعي أن يلتزم بقرار تنظيمي؛ بل يمكنه فقط دعم الإنسان الذي سيوقع.
• ضوابط الأمان والخصوصية - البيانات المرسلة إلى خدمات الذكاء الاصطناعي الخارجية محدودة، ويتم إخفاء هويتها عندما يكون ذلك ممكنًا، وتخضع لاتفاقيات الموردين.

في الإصدار 5، يتم تحقيق الثقة بشكل أقل عن طريق جعل النماذج أكثر تعقيدًا وأكثر عن طريق تقليص المساحة التي يُسمح لهم بالتصرف فيها. تم بناء المنصة على أساس التحكم الحتمي في الوزن والتوزيع, التحكم في الملصقات, علم الانساب و إمساك / إطلاقيجب أن تكون أي مساعدة للذكاء الاصطناعي متصلة بتلك الحواجز الواقية الموجودة.

ISO 23894 - إدارة مخاطر الذكاء الاصطناعي متوافقة مع إدارة مخاطر الجودة

ISO 23894 يُطبّق المنطق المألوف لتحديد المخاطر وتحليلها وتقييمها ومعالجتها على المخاطر المرتبطة بالذكاء الاصطناعي. بالنسبة للمصنعين الذين يستخدمون بالفعل أدوات مثل FMEA, بميا or هازوب، وهذا امتداد طبيعي.

تتضمن أسئلة مخاطر الذكاء الاصطناعي النموذجية في بيئة V5 ما يلي:

• هل يمكن أن يؤثر اقتراح الذكاء الاصطناعي على الانحراف التصنيف أو CAPA بطريقة تخفي اتجاها حاسما؟
• هل يمكن أن يؤدي إدخال الذكاء الاصطناعي الخارجي إلى إتلاف بيانات المواصفات المستخدمة؟ التحقق من الملصق أو إصدار القرارات؟
• هل يتم استخدام أي وظيفة بمساعدة الذكاء الاصطناعي أثناء التحقق من صحة العمليةوإذا كان الأمر كذلك، فكيف يتم توثيق ذلك؟

لأن الإصدار 5 يدعم بالفعل الهيكلة سجلات المخاطر, مراقبة التغيير و خطط التحقق الرئيسيةيمكن للعملاء توسيع نطاق هذه الأطر لتشمل الذكاء الاصطناعي دون الحاجة إلى ابتكار نظام موازٍ. يُعامل الذكاء الاصطناعي كعامل خطر محتمل آخر يجب تحليله والتحكم فيه.

21 CFR الجزء 11، سلامة البيانات والمحتوى المُولّد بواسطة الذكاء الاصطناعي

بمجرد أن تلمس الذكاء الاصطناعي أي شيء يصبح جزءًا من سجل التصنيع الدائم - تعليمات الدفعة، والمواصفات، والملصقات، والانحرافات، والتحقيقات، والتدريب - فإن مخرجاته تخضع لـ 21 CFR الجزء 11 و ALCOA +. يتعامل الإصدار 5 مع المسودات التي تم إنشاؤها بواسطة الذكاء الاصطناعي على أنها غير منضبط حتى المستخدم المؤهل:

• مراجعة المحتوى داخل المنصة.
• يعدله حيثما كان ذلك ضروريا.
• يوافق عليه ويرقيه إلى مستند أو سجل خاضع للرقابة باستخدام سير العمل القياسية.

كل خطوة تترك أثرا درب المراجعةمن راجع، ما الذي تغير، من وقّع، متى دخل حيز التنفيذ. لا يكتب محرك الذكاء الاصطناعي مباشرةً في النسخة المُصدرة من SOPأو رسومات MMR أو الملصقات. يُعد هذا الفصل بالغ الأهمية عند شرح النظام للمفتشين.

GAMP 5 وCSA والتحقق من صحة سير العمل بمساعدة الذكاء الاصطناعي

تحت جامب 5، التركيز على التحقق من صحة الاستخدام المقصودبالنسبة للميزات المدعومة بالذكاء الاصطناعي، يدعم الإصدار 5 ما يلي:

• أوصاف موثقة لما يُسمح لميزة الذكاء الاصطناعي بفعله (وما لا يُسمح لها بفعله).
• سجلات التكوين التي توضح كيفية تشغيل الميزة أو تقييدها أو تعطيلها لكل موقع.
• اختبار الأدلة على أن اقتراحات الذكاء الاصطناعي لا يمكنها تجاوز الموافقات المطلوبة أو تغيير السجلات الخاضعة للرقابة بشكل مباشر.
• سجلات المراقبة المستمرة لإثبات استمرار السيطرة على مر الزمن.

الناشئة CSV / تتمثل عقلية CSA في تركيز جهود التحقق حيث يكون الخطر أعلى. في الإصدار الخامس، يعني ذلك تكريس أكبر قدر من الاهتمام لكيفية تفاعل الميزات المدعومة بالذكاء الاصطناعي مع:

• سجلات دفعة و معدل الأيض الأساسي المبني على النشاط.
• الانحراف و كابا مهام سير العمل.
• التدريب والكفاءة السجلات.

نظرًا لأن V5 تم نشره بالفعل كمنصة معتمدة، يتم وضع القدرات المدعومة بالذكاء الاصطناعي على أنها خيارات قابلة للتكوين بدلاً من الإضافات غير المُتحكم بها. يُمكن للعملاء تفعيلها أو تعطيلها أو تقييدها لكل مصنع، أو لكل عائلة منتجات، أو لكل دور، كجزء من استراتيجية التحقق الخاصة بهم.

أنماط الذكاء الاصطناعي الجيدة والسيئة في ورشة العمل

أنماط جيدة

• الذكاء الاصطناعي يستخدم اقترح نص الإجراءات التشغيلية القياسية أو اختبارات التدريب أو سرديات التحقيق، يتبعها دائمًا مراجعة بشرية وموافقة في الإصدار 5.
• يتم استخدام الذكاء الاصطناعي لتسليط الضوء على الأنماط في الانحرافات أو الشكاوى أو نتائج OOS، مما يؤدي إلى تغذية البيانات المنظمة تحليل السبب الجذري.
• يتم استخدام الذكاء الاصطناعي للمساعدة في تصنيف السجلات أو توجيه المهام، في حين تظل القرارات والتوقيعات الفعلية مع المستخدمين المعتمدين.
• تم التقاط جميع أنشطة الذكاء الاصطناعي في مسارات التدقيق، مرئية لمسؤولي ضمان الجودة والمفتشين.

أنماط سيئة

• أدوات دردشة خارجية غير خاضعة للرقابة تُستخدم لتصميم تعليمات الدفعات أو العلامات أو بروتوكولات التحقق دون إمكانية التتبع.
• تقوم الذكاء الاصطناعي بتحرير المستندات المنشورة في نظام إدارة المستندات (DMS) بشكل مباشر أو تغيير قيم المواصفات الحرجة.
• وكلاء مستقلون يقومون بإغلاق الانحرافات أو CAPAs أو تغييرها حالة الإصدار، دون مراجعة بشرية.
• لا يوجد سجل واضح للسبب الذي أدى إلى التغيير، مما يجعل التحقيقات مستحيلة.

صُممت النسخة الخامسة لتمكين المجموعة الأولى من الأنماط ومنع الثانية هيكليًا. وحتى مع توسع قدرات الذكاء الاصطناعي، يبقى المبدأ قائمًا: قد يقوم الذكاء الاصطناعي بالإعلام، لكنه لا يتصرف بصمت.

مثال: التدريب بمساعدة الذكاء الاصطناعي والتحكم في المستندات في الإصدار 5

من الأمثلة العملية على ذلك محتوى التدريب وتوثيق الإجراءات. في العديد من المنشآت، يواجه الخبراء في هذا المجال صعوبة في مواكبة إجراءات التشغيل القياسية ووحدات التدريب لتغيرات العمليات. يمكن للذكاء الاصطناعي أن يُساعد في هذا الصدد، شريطة أن يكون التنفيذ مُحكمًا.

في سيناريو V5 النموذجي:

1. يقوم مالك العملية بتحديث مسار أو صيغة في الإصدار 5. يتم تسجيل هذا التغيير عبر مراقبة التغيير.
2. يقوم النظام بتحديد الإجراءات التشغيلية القياسية ووحدات التدريب المرتبطة التي قد تحتاج إلى مراجعة.
3. يمكن لمساعد الذكاء الاصطناعي اقترح صياغة محدثة أو أسئلة اختبار بناءً على العملية الجديدة، ولكنها تظل مسودات.
4. يقوم موظفو ضمان الجودة والتدريب بمراجعة المحتوى الجديد في نظام إدارة الوثائق ووحدات التدريب الخاضعة للرقابة وتعديله والموافقة عليه.
5. يتم تعيين التدريب المحدث عبر مصفوفة التدريب، وV5 يحدد الوصول إلى الشاشات الحرجة لـ GMP حتى الانتهاء.

يُسرّع الذكاء الاصطناعي عملية الصياغة، ولكنه لا يُغني عن الملكية أو المراجعة أو الموافقة. تبقى جميع الضوابط المعتادة - الإصدارات والتوقيعات وتواريخ السريان - كما هي.

المراجع الخارجية لحوكمة الذكاء الاصطناعي

بالنسبة للفرق التي تقوم ببناء إطار عمل حوكمة الذكاء الاصطناعي الخاص بها حول V5، فإن المستندات الخارجية التالية هي نقاط مرجعية مفيدة (تفتح جميعها في علامات تبويب جديدة):

• ISO/IEC 42001 – نظام إدارة الذكاء الاصطناعي (ISO)
• ISO/IEC TR 24028 – الجدارة بالثقة في الذكاء الاصطناعي (ISO)
• ISO 23894 – إدارة مخاطر الذكاء الاصطناعي (ISO)
• إدارة الغذاء والدواء - إرشادات ضمان برامج الكمبيوتر (CSA)

توفر هذه المصادر الخارجية، جنبًا إلى جنب مع نظام الجودة الداخلي وإطار التحكم V5، العمود الفقري لاستراتيجية الذكاء الاصطناعي القابلة للدفاع عنها في التصنيع المنظم.

مسرد ومقالات ذات صلة بأنظمة SG

• ISO/IEC 42001 – نظام إدارة الذكاء الاصطناعي
• ISO/IEC TR 24028 – موثوقية الذكاء الاصطناعي
• ISO 23894 – إدارة مخاطر الذكاء الاصطناعي
• تكامل البيانات
• 21 CFR الجزء 11 - السجلات والتوقيعات الإلكترونية
• GAMP 5 – التحقق من صحة البرمجيات
• نظام تنفيذ التصنيع (MES)
• QMS – نظام إدارة الجودة
• WMS – نظام إدارة المستودعات

خلاصة القول: لا يمكن قبول الذكاء الاصطناعي في التصنيع المنظم إلا عندما يعيش داخل إطار حوكمة قوي. صُمم V5 في البداية كنظام تنفيذ متوافق مع المعايير. ويُسمح للذكاء الاصطناعي بالدخول إلى هذه البيئة بنفس الشروط المُطبقة على أي وظيفة حيوية أخرى: موثقة، وخاضعة لتقييم المخاطر، ومُعتمدة، وتحت السيطرة البشرية دائمًا.