Üretimde Yapay Zeka'ya Güvenilebilir mi?

Yönetilen, Şeffaf Yapay Zeka

V5'te Yapay Zekanın Sorumlu Kullanımı – ISO 42001, Yapay Zeka Güvenilirliği, Risk Yönetimi ve GMP Gerçekliği

Yapay Zeka geliyor MES, KYS ve WMS Düzenleyiciler beklentilerini tanımlamayı tamamlamadan çok önce platformlar. Yaşam bilimi, gıda, kozmetik ve kimyasal üreticileri, "yapay zeka ekleme" baskısı ile yapay zekanın bu teknolojiye entegre edilmesinin zorluğu arasında sıkışmış durumda. GMP, veri bütünlüğü ve doğrulama ortadan kalkmadı. Asıl soru, "Yapay zekanız var mı?" değil; "Yapay zekanın süreç üzerindeki kontrolünüzü baltalamadığını kanıtlayabilir misiniz?"

SG Systems Global kasıtlı olarak muhafazakar bir tavır takındı V5 İzlenebilirlikV5, kara kutu bir yapay zeka platformu değildir. sert kapılı yürütme sistemi şeffaf, gözden geçirilebilir ve denetlenebilir bir şekilde istihbaratı dahil edebilen bir sistemdir. Yapay zekanın kullanıldığı yerlerde, sınırlanmış onay iş akışları, imzalar ve denetim izleri doğrultusunda 21 CFR Bölüm 11, veri bütünlüğü Yapay zeka yönetişimine ilişkin beklentiler ve modern rehberlik.

"Felsefemiz basit: Yapay zeka öneride bulunabilir, ancak sessizce karar veremez. V5'te, yapay zeka destekli her eylem izlenebilir, incelenebilir ve GMP açısından kritik diğer tüm adımlarla aynı kontrollere tabidir."

— Kalite Müdürü, Düzenlenmiş Üretici

Düzenlenmiş Üretimde Yapay Zeka için Standartlar Manzarası

Sorumlu yapay zeka kullanımına ilişkin beklentileri şekillendiren birçok standart ve kılavuz belge bulunmaktadır. Bunlardan en alakalı üçü şunlardır:

ISO / IEC 42001 – Yapay Zeka Yönetim Sistemi (AIMS). Sözlük girişine bakınız:
ISO/IEC 42001 – Yapay Zeka Yönetim Sistemi.
ISO/IEC TR 24028 - Yapay Zeka Güvenilirliği – güvenlik, sağlamlık, şeffaflık, taraflılık, insan gözetimi.
ISO 23894 - Yapay Zeka Risk Yönetimi – Yapay zekanın yaşam döngüsü boyunca risk değerlendirmesi ve kontrolü.

Düzenlenmiş üretimde, bu yeni yapay zeka standartları bilindik temellerin üzerine oturmaktadır:

21 CFR Bölüm 11 – elektronik kayıtlar ve imzalar.
Gamp 5 ve CSV / CSA düşüncesi.
Kalite risk yönetimi (ICH Q9, FMEA, HACCP, vb.).
ALCOA+ veri bütünlüğü ve denetim izleri.

Müşteriler açısından pratik soru şu oluyor: Platformun yapay zeka davranışı bu ilkelerle uyumlu mu ve bu uyum sadece bir slayt gösterisinde vaat edilmekle kalmayıp, inceleme sırasında da gösterilebilir mi?

"V5'teki Yapay Zeka" Aslında Ne Anlama Geliyor?

V5'te "Yapay Zeka", kontrolsüz büyük dil modellerini doğrudan toplu kayıtlara, etiketlemeye veya yayın kararlarına itmek anlamına gelmez. Bunun yerine V5 şunlara odaklanır:

Deterministik kurallar ve sert kapılı yürütme adımlarının.
Destekli eylemler Yapay zekanın içerik önerdiği (örneğin eğitim taslakları, belge özetleri) ancak onay iş akışlarını atlatamadığı yer.
Kesin ayrılık öneri katmanları ile GMP açısından kritik kayıtlar arasında eBMR, DHR ve MMR.
Minimum harici API'ler, içe aktarılan veriler yönlendirilerek onay iş akışları ve kullanmadan önce kontrol edin.
Denetime hazır günlükler Kullanıcılara, varlıklara ve lotlara bağlı, yapay zeka destekli her türlü etkinlik için.

V5 harici yapay zeka ile entegre olduğunda (örneğin, eğitim içeriğine yardımcı olmak için), bu entegrasyon kontrollü bir sanal alanda çalışır. Çıktılar şu şekilde işlenir: taslaklar Kontrollü kalite sisteminin bir parçası haline gelmeden önce gözden geçirilmesi ve onaylanması gereken.

ISO/IEC 42001 – Yapay Zeka Yönetim Sistemi ve V5 Yönetim Modeli

ISO / IEC 42001 bir kuruluşun nasıl yapılandırıldığını tanımlar Yapay Zeka Yönetim Sistemi (AIMS): politikalar, roller, risk değerlendirmesi, kontroller, dokümantasyon ve iyileştirme. ISO 9001 veya ISO 27001'in yapay zeka benzeridir, ancak yapay zeka faaliyetlerinin yönetimine odaklanır.

V5, böyle bir AIMS'in içine rahatça oturacak şekilde tasarlanmıştır. Üst düzeyde:

kapsam – Müşteriler, hangi V5 özelliklerinin yapay zekayı kullanacağını (eğer varsa) açıkça belirleyebilir ve diğerlerini yalnızca kesin kurallara kilitleyebilir.
Görev ve Sorumluluklar – Yapay zeka destekli özellikler, tanımlanmış rollerle sınırlı olabilir ve belgelenen kurallara uymak zorundadır SOP.
Risk değerlendirmesi – Her bir AI kullanım durumu, süreç veya ekipman değişiklikleri için halihazırda kullanılan aynı kalite risk yönetimi araçları kullanılarak değerlendirilebilir.
Kontrol önlemleri – V5'teki sert kapılar, onaylar ve denetim izleri, yapay zeka önerileri veya içe aktarılan içerik için somut "kontrol" katmanı haline gelir.
İzleme ve iyileştirme – V5, kuruluşun AIMS inceleme döngüsüne geri bildirimde bulunabilen olay günlükleri ve ölçümler sağlar.

Sonuç olarak, yapay zeka hiçbir zaman kalite sisteminin "üstünde" yer almaz. Her eylemin kaydedildiği ve her kritik kararın insan kontrolünde kaldığı, iyi tanımlanmış bir dijital ortama bir girdi daha haline gelir.

ISO/IEC TR 24028 – GMP İş Akışlarında Yapay Zeka Güvenilirliği

ISO/IEC TR 24028 AI yapmaya odaklanıyor güvenilir: sağlam, güvenli, şeffaf ve insanlar tarafından anlaşılabilir. GMP veya GFSI ortamında bu şu anlama gelir:

Görünmez değişiklik yok Yapay zeka tarafından doğrudan yönlendirilen toplu talimatlara, etiketlere veya denetim planlarına.
Açıklanabilir öneriler – örneğin, bir sapma sınıflandırmasının veya eğitim güncellemesinin neden önerildiğinin gösterilmesi.
Sınırlı özerklik – Yapay zeka düzenleyici bir karar alamaz; sadece imzalayacak insanı destekleyebilir.
Güvenlik ve gizlilik kontrolleri – harici AI servislerine gönderilen veriler sınırlıdır, mümkün olan yerlerde anonimleştirilir ve tedarikçi sözleşmeleri tarafından yönetilir.

V5'te güvenilirlik, modelleri daha karmaşık hale getirerek daha az ve daha çok hareket etmelerine izin verilen alanı daraltmakPlatform, deterministik kontrol üzerine kuruludur tartma ve dağıtım, etiket kontrolü, şecere ve tut / bırakHerhangi bir yapay zeka yardımının mevcut bariyerlere takılması gerekir.

ISO 23894 – Kalite Risk Yönetimiyle Uyumlu Yapay Zeka Risk Yönetimi

ISO 23894 Risk tanımlama, analiz, değerlendirme ve tedavinin bilindik mantığını yapay zekaya özgü risklere uygular. Şu anda bu tür araçları kullanan üreticiler için: FMEA, PFMEA or HAZOP, bu doğal bir uzantıdır.

V5 ortamındaki tipik yapay zeka risk soruları şunları içerir:

Bir yapay zeka önerisi bir şeyi etkileyebilir mi? sapma Kritik bir eğilimi gizleyecek şekilde sınıflandırma veya CAPA mı?
Harici AI girdisi, kullanılan bozuk şartname verilerini mi girdi? etiket doğrulaması veya serbest bırakma kararları?
Herhangi bir yapay zeka destekli işlev kullanılıyor mu? işlem doğrulamave eğer öyleyse, bu nasıl belgeleniyor?

Çünkü V5 zaten yapılandırılmış risk kayıtları, kontrolü değiştir ve doğrulama ana planlarıMüşteriler, paralel bir sistem icat etmeden bu çerçeveleri yapay zekaya genişletebilirler. Yapay zeka, analiz edilmesi ve kontrol edilmesi gereken potansiyel bir risk faktörü olarak ele alınır.

21 CFR Bölüm 11, Veri Bütünlüğü ve Yapay Zeka Tarafından Oluşturulan İçerik

Yapay zeka, kalıcı üretim kaydının bir parçası haline gelen herhangi bir şeye dokunduğunda (parti talimatları, özellikler, etiketler, sapmalar, araştırmalar, eğitim) çıktıları aşağıdakilere tabidir: 21 CFR Bölüm 11 ve ALCOA +. V5, AI tarafından oluşturulan taslakları şu şekilde ele alır: kontrolsüz Nitelikli bir kullanıcı olana kadar:

Platform içerisindeki içerikleri inceler.
Gerektiğinde değişiklik yapar.
Standart iş akışlarını kullanarak bunu onaylar ve kontrollü bir belge veya kayda dönüştürür.

Her adım bir iz bırakır denetim izi: kim inceledi, ne değişti, kim imzaladı, ne zaman yürürlüğe girdi. Yapay zeka motoru, bir belgenin yayınlanan revizyonuna asla doğrudan yazmaz. SOP, MMR veya etiket görseli. Bu ayrım, sistemi denetçilere açıklarken kritik öneme sahiptir.

GAMP 5, CSA ve Yapay Zeka Destekli İş Akışlarının Doğrulanması

Gamp 5odak noktası doğrulamadır kullanım amacıYapay zeka destekli özellikler için V5 şunları destekler:

Yapay zeka özelliğinin ne yapmasına izin verildiğine (ve ne yapmasına izin verilmediğine) ilişkin belgelenmiş açıklamalar.
Özelliğin site başına nasıl açıldığını, sınırlandırıldığını veya devre dışı bırakıldığını gösteren yapılandırma kayıtları.
Yapay zeka önerilerinin gerekli onayları atlatamayacağına veya kontrollü kayıtları doğrudan değiştiremeyeceğine dair kanıtları test edin.
Zaman içinde sürekli kontrolün gösterildiğini gösteren devam eden izleme kayıtları.

Ortaya çıkan CSV / CSA zihniyeti, doğrulama çabalarını riskin en yüksek olduğu yere odaklamaktır. V5'te bu, yapay zeka destekli özelliklerin aşağıdakilerle nasıl etkileşim kurduğuna en fazla dikkatin verilmesi anlamına gelir:

toplu kayıtlar ve eBMR.
sapma ve CAPA iş akışları.
eğitim ve yeterlilik Kayıtlar.

V5 zaten doğrulanmış bir platform olarak dağıtıldığı için, yapay zeka destekli yetenekler şu şekilde konumlandırılmıştır: yapılandırılabilir seçenekler Kontrolsüz eklentiler yerine. Müşteriler, kendi doğrulama stratejilerinin bir parçası olarak bunları tesis, ürün ailesi veya rol bazında etkinleştirebilir, devre dışı bırakabilir veya kısıtlayabilir.

Atölyede İyi ve Kötü Yapay Zeka Modelleri

İyi Desenler

Yapay zeka kullanılırdı önermek V5'te SOP metinleri, eğitim sınavları veya araştırma anlatıları her zaman insan incelemesi ve onayıyla takip edilir.
Sapmalarda, şikayetlerde veya OOS sonuçlarında kalıpları vurgulamak ve yapılandırılmış verilere beslemek için kullanılan yapay zeka sorun kaynağı çözümlemesi.
Yapay zeka, kayıtları sınıflandırmaya veya görevleri yönlendirmeye yardımcı olurken, gerçek kararlar ve imzalar yetkili kullanıcılarda kalır.
Tüm AI etkinliği yakalandı denetim izleri, QA ve müfettişler tarafından görülebilir.

Kötü Desenler

İzlenebilirliği olmayan toplu talimatları, etiketleri veya doğrulama protokollerini tasarlamak için kullanılan kontrolsüz dış sohbet araçları.
Yapay zeka, DMS'de yayınlanan dokümanları doğrudan düzenliyor veya kritik spesifikasyon değerlerini değiştiriyor.
Otonom aracılar sapmaları veya CAPA'ları kapatıyor veya değiştiriyor yayın durumu, insan incelemesi olmadan.
Hangi istemin hangi değişikliğe yol açtığına dair net bir kayıt bulunmadığından soruşturma yapmak imkânsızdır.

V5, ilk desen setini etkinleştirmek ve ikincisini yapısal olarak engellemek üzere tasarlanmıştır. Yapay zeka yetenekleri genişlese bile, prensip aynı kalır: Yapay zeka bilgilendirebilir, ancak sessizce hareket etmez.

Örnek: V5'te Yapay Zeka Destekli Eğitim ve Belge Kontrolü

Pratik bir örnek, eğitim içeriği ve prosedür dokümantasyonudur. Birçok tesiste, konu uzmanları SOP'ları ve eğitim modüllerini süreç değişiklikleriyle senkronize tutmakta zorlanır. Uygulama kontrollüyse, yapay zeka bu noktada yardımcı olabilir.

Tipik bir V5 senaryosunda:

Bir süreç sahibi V5'te bir yönlendirmeyi veya formülü günceller. Bu değişiklik şu şekilde kaydedilir: kontrolü değiştir.
Sistem, revizyona ihtiyaç duyabilecek bağlantılı SOP'ları ve eğitim birimlerini işaretler.
Bir yapay zeka asistanı şunları yapabilir: önermek Yeni sürece göre güncellenmiş ifadeler veya sınav soruları var, ancak bunlar taslak olarak kalıyor.
QA ve eğitim personeli, kontrollü DMS ve eğitim modüllerindeki yeni içeriği inceler, ayarlar ve onaylar.
Güncellenen eğitim şu şekilde atanır: eğitim matrisive V5, tamamlanana kadar GMP açısından kritik eleklere erişimi zorunlu hale getirir.

Yapay zeka, taslak hazırlama adımını hızlandırır, ancak mülkiyet, inceleme veya onay süreçlerinin yerini almaz. Tüm olağan kontroller (sürümleme, imzalar, yürürlük tarihleri) olduğu gibi kalır.

Yapay Zeka Yönetimi için Harici Referanslar

V5 etrafında kendi yapay zeka yönetişim çerçevelerini oluşturan ekipler için aşağıdaki harici belgeler faydalı referans noktalarıdır (hepsi yeni sekmelerde açılır):

Bu dış kaynaklar, dahili kalite sisteminiz ve V5 kontrol çerçevesiyle bir araya geldiğinde, düzenlenmiş üretimde savunulabilir bir yapay zeka stratejisinin omurgasını oluşturur.

İlgili SG Sistemleri Sözlüğü ve Makaleleri

Alt satır: Yapay zeka, yalnızca güçlü bir yönetişim çerçevesi içinde yaşadığında düzenlenmiş üretimde kabul edilebilir. V5, öncelikle uyumluluk düzeyinde bir yürütme sistemi olarak oluşturulmuştur. Yapay zekanın bu ortama girmesine, diğer kritik işlevlerle aynı koşullar altında izin verilir: belgelenmiş, risk değerlendirmesi yapılmış, doğrulanmış ve her zaman insan kontrolü altında.