Чи можна довіряти штучному інтелекту у виробництві?

Керований, прозорий ШІ

Відповідальне використання штучного інтелекту у V5 – ISO 42001, надійність штучного інтелекту, управління ризиками та реальність GMP

Штучний інтелект прибуває МНС, СМЯ та WMS платформи задовго до того, як регулятори завершать визначення своїх очікувань. Виробники наук про життя, продуктів харчування, косметики та хімікатів застрягли між тиском «додати штучний інтелект» та реальністю, що GMP, цілісність даних та валідація нікуди не зникли. Основне питання не в тому, «Чи є у вас штучний інтелект?», а в тому, «Чи можете ви довести, що штучний інтелект не підриває ваш контроль над процесом?»

SG Systems Global зайняв навмисно консервативну позицію щодо Відстеження V5V5 не є платформою штучного інтелекту «чорного ящика». Це жорстко закрита система виконання який може включати інтелект таким чином, щоб він залишався прозорим, таким, що підлягає перегляду та аудиту. Там, де використовується штучний інтелект, він обмежений за допомогою робочих процесів затвердження, підписів та журналів аудиту відповідно до 21 CFR ч. 11, цілісність даних очікування та сучасні рекомендації щодо управління ШІ.

«Наша філософія проста: ШІ може пропонувати, але не може мовчки вирішувати. У V5 кожна дія за допомогою ШІ відстежувана, переглядається та підлягає тому ж контролю, що й будь-який інший крок, критично важливий для GMP».

— Керівник відділу якості, зареєстрований виробник

Стандартизація штучного інтелекту в регульованому виробництві

Кілька стандартів та інструкцій зараз формують очікування щодо відповідального використання штучного інтелекту. Три найважливіші з них:

У регульованому виробництві ці нові стандарти штучного інтелекту базуються на знайомих основах:

Для клієнтів практичним питанням стає: чи відповідає поведінка штучного інтелекту платформи цим принципам, і чи можна продемонструвати цю відповідність під час перевірки, а не просто обіцяти її на слайдах?

Що насправді означає «Штучний інтелект у V5»

У V5 «штучний інтелект» не означає безпосереднє впровадження неконтрольованих моделей великих мов у пакетні записи, маркування чи рішення щодо випуску. Натомість, V5 зосереджується на:

  • Детерміновані правила та жорсткий стробування кроків виконання.
  • Допоміжні дії де ШІ пропонує контент (наприклад, чернетки навчальних матеріалів, короткий зміст документів), але не може обійти робочі процеси затвердження.
  • Суворе розділення між рівнями пропозицій та критично важливими для GMP записами, такими як еБМР, DHR та MMR.
  • Мінімальні зовнішні API, з імпортованими даними, що проходять через робочі процеси затвердження та перевірки перед використанням.
  • Журнали, готові до аудиту для будь-якої події за допомогою штучного інтелекту, пов'язаної з користувачами, активами та лотами.

Коли V5 інтегрується із зовнішнім штучним інтелектом (наприклад, для допомоги з навчальним контентом), ця інтеграція виконується в контрольованій пісочниці. Вихідні дані обробляються як Проекти які мають бути перевірені та затверджені, перш ніж вони стануть частиною контрольованої системи якості.

ISO/IEC 42001 – Система управління штучним інтелектом та модель управління V5

ISO / IEC 42001 визначає, як організація структурує свою Система управління штучним інтелектом (AIMS): політики, ролі, оцінка ризиків, засоби контролю, документація та вдосконалення. Це аналог ISO 9001 або ISO 27001 для ШІ, але зосереджений на управлінні діяльністю ШІ.

V5 розроблений для комфортного розміщення всередині такої AIMS. На високому рівні:

  • Сфера – клієнти можуть чітко визначити, які функції V5 використовують ШІ (якщо такі є), та заблокувати інші лише детермінованими правилами.
  • Ролі та обов'язки – Функції за допомогою штучного інтелекту можуть бути обмежені визначеними ролями та повинні відповідати задокументованим вимогам СОП.
  • Оцінка ризику – кожен варіант використання штучного інтелекту можна оцінити за допомогою тих самих інструментів управління ризиками якості, які вже використовуються для змін у процесах або обладнанні.
  • Заходи контролю – жорсткі шлюзи, схвалення та журнали аудиту у V5 стають конкретним «контрольним» шаром для пропозицій ШІ або імпортованого контенту.
  • Моніторинг та вдосконалення – V5 надає журнали подій та показники, які можуть бути використані в циклі перевірки AIMS організації.

У результаті ШІ ніколи не знаходиться «над» системою якості. Він стає ще одним вхідним елементом у чітко визначене цифрове середовище, де кожна дія реєструється, а кожне критичне рішення залишається під контролем людини.

ISO/IEC TR 24028 – Достовірність штучного інтелекту в робочих процесах GMP

ISO/IEC TR 24028 зосереджується на створенні штучного інтелекту заслуговуючий довіри: надійний, безпечний, прозорий та зрозумілий для людей. У середовищі GMP або GFSI це означає:

  • Без невидимих ​​змін до інструкцій з партії, етикеток або планів інспекції, що керуються безпосередньо штучним інтелектом.
  • Зрозумілі пропозиції – наприклад, пояснення причини запропонованої класифікації відхилень або оновлення навчання.
  • Обмежена автономія – Штучний інтелект не може приймати регуляторні рішення; він може лише підтримувати людину, яка його підпише.
  • Контроль безпеки та конфіденційності – дані, що надсилаються до зовнішніх служб штучного інтелекту, обмежені, анонімізовані, де це можливо, та регулюються угодами з постачальниками.

У V5 достовірність досягається не стільки шляхом ускладнення моделей, скільки шляхом звуження простору, де їм дозволено діятиПлатформа побудована на детермінованому управлінні зважування та дозування, контроль етикетки, генеалогія та утримувати / відпускатиБудь-яка допомога штучного інтелекту повинна враховувати ці існуючі бар'єри.

ISO 23894 – Управління ризиками штучного інтелекту узгоджено з управлінням ризиками якості

ISO 23894 застосовує знайому логіку ідентифікації, аналізу, оцінки та обробки ризиків до ризиків, пов’язаних зі штучним інтелектом. Для виробників, які вже використовують такі інструменти, як FMEA, PFMEA or HAZOP, це природне продовження.

Типові питання щодо ризиків ШІ в середовищі V5 включають:

  • Чи може пропозиція штучного інтелекту вплинути на відхилення класифікація або CAPA таким чином, що приховує критичну тенденцію?
  • Чи може зовнішній вхідний сигнал штучного інтелекту пошкодити дані специфікації, що використовуються для перевірка етикетки або рішення про звільнення?
  • Чи використовується якась функція за допомогою штучного інтелекту під час перевірка процесу, і якщо так, то як це задокументовано?

Оскільки V5 вже підтримує структуровані регістри ризиків, контроль змін та генеральні плани валідації, клієнти можуть розширити ці рамки на штучний інтелект, не винаходячи паралельну систему. Штучний інтелект розглядається як ще один потенційний фактор ризику, який необхідно аналізувати та контролювати.

21 CFR Частина 11, Цілісність даних та контент, створений штучним інтелектом

Щойно ШІ торкається чогось, що стає частиною постійного виробничого запису — інструкцій з партії, специфікацій, етикеток, відхилень, розслідувань, навчання — його результати підлягають 21 CFR ч. 11 та ALCOA+V5 розглядає чернетки, згенеровані штучним інтелектом, як неконтрольований доки кваліфікований користувач:

  • Переглядає контент всередині платформи.
  • Змінює його там, де це необхідно.
  • Затверджує та перетворює його на контрольований документ або запис за допомогою стандартних робочих процесів.

Кожен крок залишає аудит: хто перевірив, що змінилося, хто підписав, коли це набуло чинності. Двигун штучного інтелекту ніколи не записує зміни безпосередньо у випущену версію СОП, MMR або оформлення етикетки. Таке розділення є критично важливим під час пояснення системи інспекторам.

GAMP 5, CSA та перевірка робочих процесів за допомогою штучного інтелекту

під GAMP 5, основна увага приділяється перевірці Передбачуване використанняЩодо функцій за допомогою штучного інтелекту, V5 підтримує:

  • Документовані описи того, що дозволено робити функції штучного інтелекту (і що їй заборонено).
  • Записи конфігурації, що показують, як функція ввімкнена, обмежена або вимкнена для кожного сайту.
  • Перевірте докази того, що пропозиції ШІ не можуть обійти необхідні схвалення або безпосередньо змінити контрольовані записи.
  • Поточні записи моніторингу для демонстрації постійного контролю з плином часу.

Виникає CSV / Принцип CSA полягає в тому, щоб зосередити зусилля з перевірки там, де ризик найвищий. У V5 це означає приділяти найбільшу увагу тому, як функції на основі штучного інтелекту взаємодіють з:

Оскільки V5 вже розгорнуто як перевірена платформа, можливості на основі штучного інтелекту позиціонуються як налаштовувані параметри а не неконтрольовані доповнення. Клієнти можуть вмикати, вимикати або обмежувати їх для кожного заводу, для кожного сімейства продуктів або для кожної ролі в рамках власної стратегії валідації.

Хороші та погані моделі ШІ у виробничому цеху

Гарні візерунки

  • Штучний інтелект звик пропонувати Текст стандартних операційних процедур (СОП), навчальні тести або описові матеріали розслідувань, завжди після чого йде перевірка та затвердження людиною у V5.
  • Штучний інтелект використовується для виявлення закономірностей у відхиленнях, скаргах або результатах OOS, що враховується в структурованих даних. аналіз причин.
  • Штучний інтелект використовується для класифікації записів або маршрутизації завдань, тоді як фактичні рішення та підписи залишаються у авторизованих користувачів.
  • Вся активність ШІ, зафіксована в журнали аудиту, видимий для служби контролю якості та інспекторів.

Bad Patterns

  • Неконтрольовані зовнішні інструменти чату, що використовуються для розробки інструкцій для партій, етикеток або протоколів валідації без можливості відстеження.
  • Штучний інтелект безпосередньо редагує опубліковані документи в DMS або змінює критичні значення специфікацій.
  • Автономні агенти, що закривають відхилення або CAPA, або змінюють статус випуску, без перевірки людиною.
  • Немає чіткого запису того, яка саме підказка призвела до яких змін, що унеможливлює розслідування.

Архітектура V5 розроблена таким чином, щоб забезпечити перший набір шаблонів та структурно запобігти другому. Навіть попри розширення можливостей ШІ, принцип залишається незмінним: Штучний інтелект може інформувати, але він не діє мовчки.

Приклад: Навчання та контроль документів за допомогою штучного інтелекту у V5

Практичним прикладом є зміст навчання та процедурна документація. На багатьох заводах фахівці з предметної області намагаються синхронізувати стандартні операційні процедури (СОП) та навчальні модулі зі змінами в процесі. Штучний інтелект може допомогти тут, якщо впровадження контролюється.

У типовому сценарії V5:

  1. Власник процесу оновлює маршрутизацію або формулу у V5. Ця зміна реєструється через контроль змін.
  2. Система позначає пов’язані стандартні операційні процедури (СОП) та навчальні блоки, які можуть потребувати перегляду.
  3. Помічник зі штучним інтелектом може пропонувати оновлені формулювання або питання вікторини на основі нового процесу, але вони залишаються чернетками.
  4. Персонал з контролю якості та навчання переглядає, коригує та затверджує новий контент у контрольованій системі управління документацією (DMS) та навчальних модулях.
  5. Оновлене навчання призначається через навчальна матриця, а V5 жорстко блокує доступ до критично важливих для GMP екранів до завершення.

Штучний інтелект прискорює етап написання чернетки, але не замінює відповідальності, перевірки чи затвердження. Усі звичайні елементи керування — керування версіями, підписи, дати набрання чинності — залишаються незмінними.

Зовнішні посилання для управління штучним інтелектом

Для команд, які створюють власну систему управління штучним інтелектом на основі V5, корисними довідковими матеріалами є такі зовнішні документи (усі вони відкриваються в нових вкладках):

Ці зовнішні джерела, у поєднанні з вашою внутрішньою системою якості та структурою контролю V5, забезпечують основу для обґрунтованої стратегії штучного інтелекту в регульованому виробництві.

Глосарій та статті щодо пов'язаних систем SG

Підсумок: Штучний інтелект прийнятний у регульованому виробництві лише тоді, коли він працює в рамках чіткої системи управління. V5 спочатку створюється як система виконання, що відповідає вимогам. Штучний інтелект допускається в це середовище на тих самих умовах, що й будь-яка інша критична функція: документована, оцінена з урахуванням ризиків, перевірена та завжди під контролем людини.

Поділитися цим? 

схожі повідомлення

НАЗАД ДО НОВИН