Можно ли доверять ИИ в производстве?

Управляемый, прозрачный ИИ

Ответственное использование ИИ в версии 5 — ISO 42001, надежность ИИ, управление рисками и реальность GMP

Искусственный интеллект приходит в МЧС, СМК и WMS Платформы появляются задолго до того, как регуляторы успевают сформулировать свои ожидания. Производители продуктов питания, косметики и химикатов, работающих в сфере естественных наук, застревают между необходимостью «внедрить ИИ» и реальностью, GMP, целостность данных и валидация никуда не делись. Главный вопрос не в том, «Есть ли у вас ИИ?», а в том, «Можете ли вы доказать, что ИИ не подрывает ваш контроль над процессом?»

SG Systems Global занял намеренно консервативную позицию V5 ПрослеживаемостьV5 — это не платформа искусственного интеллекта, работающая по принципу «черного ящика». Это система исполнения с жестким контролем которые могут включать интеллектуальные данные таким образом, чтобы они оставались прозрачными, поддающимися проверке и аудиту. При использовании ИИ ограниченный путем утверждения рабочих процессов, подписей и контрольных журналов в соответствии с 21 CFR Часть 11, целостность данных ожидания и современные рекомендации по управлению ИИ.

«Наша философия проста: ИИ может предлагать решения, но не может молча принимать решения. В V5 каждое действие, выполняемое с помощью ИИ, отслеживается, проверяется и подлежит тем же мерам контроля, что и любой другой критически важный этап GMP».

— Руководитель отдела качества, регулируемый производитель

Стандарты для ИИ в регулируемом производстве

В настоящее время ожидания в отношении ответственного использования ИИ формируются несколькими стандартами и руководящими документами. Три наиболее важных из них:

ISO / IEC 42001 – Система управления искусственным интеллектом (AIMS). См. статью в глоссарии:
ISO/IEC 42001 – Система управления ИИ.
ISO / IEC TR 24028 – Надежность ИИ – безопасность, надежность, прозрачность, предвзятость, человеческий контроль.
стандартами качества ISO 23894 – Управление рисками с помощью ИИ – оценка и контроль рисков для ИИ на протяжении всего жизненного цикла.

В регулируемом производстве эти новые стандарты ИИ основываются на уже известных принципах:

21 CFR Часть 11 – электронные записи и подписи.
GAMP 5 и CSV / Мышление CSA.
Управление рисками качества (ICH Q9, FMEA, HACCP и т. д.).
Целостность данных ALCOA+ и контрольные следы.

Для клиентов возникает практический вопрос: соответствует ли поведение искусственного интеллекта платформы этим принципам и можно ли продемонстрировать это соответствие во время проверки, а не просто обещать в презентациях?

Что на самом деле означает «ИИ в V5»

В версии 5 «ИИ» не подразумевает внедрение неконтролируемых больших языковых моделей непосредственно в пакетные записи, маркировку или решения о выпуске. Вместо этого V5 фокусируется на:

Детерминированные правила и жесткое стробирование этапов исполнения.
Вспомогательные действия где ИИ предлагает контент (например, проекты учебных материалов, резюме документов), но не может обойти рабочие процессы утверждения.
Строгое разделение между уровнями предложений и критически важными записями GMP, такими как eBMR, DHR и MMR.
Минимальные внешние API, с импортированными данными, прошедшими через рабочие процессы утверждения и проверки перед использованием.
Журналы, готовые к аудиту для любого события с использованием искусственного интеллекта, привязанного к пользователям, активам и лотам.

При интеграции V5 с внешним ИИ (например, для поддержки обучающего контента) эта интеграция выполняется в контролируемой «песочнице». Выходные данные обрабатываются как Шашки которые должны быть рассмотрены и одобрены, прежде чем они станут частью контролируемой системы качества.

ISO/IEC 42001 – Система управления ИИ и модель управления V5

ISO / IEC 42001 определяет, как организация структурирует свою Система управления ИИ (AIMS): политики, роли, оценка рисков, средства контроля, документирование и совершенствование. Это аналог ISO 9001 или ISO 27001 для ИИ, но с акцентом на управлении деятельностью ИИ.

V5 разработан для комфортного размещения внутри AIMS. На высоком уровне:

Объем – клиенты могут явно указать, какие функции V5 используют ИИ (если таковые имеются), а другие ограничить только детерминированными правилами.
Роли и обязанности – Функции, поддерживаемые ИИ, могут быть ограничены определенными ролями и должны соответствовать документированным требованиям. СОП.
Оценка риска – каждый вариант использования ИИ можно оценить с помощью тех же инструментов управления рисками качества, которые уже используются для изменений в процессах или оборудовании.
Меры контроля – жесткие шлюзы, утверждения и аудиторские следы в V5 становятся конкретным «контрольным» слоем для предложений ИИ или импортированного контента.
Мониторинг и улучшение – V5 предоставляет журналы событий и показатели, которые могут быть использованы в цикле обзора AIMS организации.

В результате ИИ никогда не стоит «выше» системы качества. Он становится ещё одним элементом чётко определённой цифровой среды, где каждое действие регистрируется, а каждое критическое решение остаётся под контролем человека.

ISO/IEC TR 24028 – Достоверность ИИ в рабочих процессах GMP

ISO / IEC TR 24028 фокусируется на создании искусственного интеллекта заслуживающий доверия: надёжный, безопасный, прозрачный и понятный для человека. В условиях GMP или GFSI это означает:

Никаких невидимых изменений к инструкциям по партиям, этикеткам или планам проверки, управляемым непосредственно ИИ.
Объяснимые предложения – например, показывая, почему была предложена классификация отклонений или обновление обучения.
Ограниченная автономия – ИИ не может принять нормативное решение; он может только поддержать человека, который его подпишет.
Контроль безопасности и конфиденциальности – данные, отправляемые внешним службам ИИ, ограничены, анонимизированы, где это возможно, и регулируются соглашениями с поставщиками.

В V5 надежность достигается не столько за счет усложнения моделей, сколько за счет сужение пространства, где им разрешено действоватьПлатформа построена на детерминированном управлении взвешивание и дозирование, контроль над этикеткой, генеалогия и удерживать / отпускать. Любая помощь ИИ должна быть подключена к существующим ограждениям.

ISO 23894 – Управление рисками ИИ, согласованное с управлением рисками качества

стандартами качества ISO 23894 Применяет знакомую логику выявления, анализа, оценки и устранения рисков, связанных с ИИ. Для производителей, уже использующих такие инструменты, как FMEA, ПФМЕА or HAZOP, это естественное расширение.

Типичные вопросы о рисках ИИ в среде V5 включают:

Может ли предложение ИИ повлиять на отклонение классификация или CAPA таким образом, что скрывается критическая тенденция?
Может ли внешний ввод ИИ повредить данные спецификации, используемые для проверка этикетки или вынести решения?
Используется ли какая-либо функция с поддержкой ИИ во время проверка процесса, и если да, то как это документируется?

Поскольку V5 уже поддерживает структурированные регистры рисков, Смени управление и генеральные планы проверкиКлиенты могут расширить эти фреймворки на ИИ, не придумывая параллельную систему. ИИ рассматривается как ещё один потенциальный фактор риска, который необходимо анализировать и контролировать.

21 CFR Часть 11, Целостность данных и контент, созданный искусственным интеллектом

Как только ИИ касается чего-либо, что становится частью постоянной производственной записи — инструкций по партиям, спецификаций, этикеток, отклонений, расследований, обучения — его результаты подвергаются 21 CFR Часть 11 и ALCOA +. V5 обрабатывает черновики, созданные ИИ, как неконтролируемая до тех пор, пока квалифицированный пользователь:

Просматривает контент внутри платформы.
При необходимости вносит изменения.
Утверждает и преобразует его в контролируемый документ или запись с использованием стандартных рабочих процессов.

Каждый шаг оставляет контрольный журнал: кто проверил, что изменилось, кто подписал, когда вступило в силу. ИИ-движок никогда не записывает изменения напрямую в выпущенную версию SOP, КМС или изображение этикетки. Такое разделение крайне важно при объяснении системы инспекторам.

GAMP 5, CSA и проверка рабочих процессов с использованием ИИ

Под GAMP 5, основное внимание уделяется проверке предполагаемое использование. Для функций с поддержкой ИИ V5 поддерживает:

Документированные описания того, что разрешено делать функции ИИ (и что запрещено).
Записи конфигурации, показывающие, как функция включается, ограничивается или отключается для каждого сайта.
Испытания подтверждают, что предложения ИИ не могут обходить требуемые разрешения или напрямую изменять контролируемые записи.
Постоянные записи мониторинга для демонстрации постоянного контроля с течением времени.

Появляющаяся CSV / CSA стремится сосредоточить усилия по валидации на областях с наибольшим риском. В версии 5 это означает уделение наибольшего внимания взаимодействию функций на основе ИИ с:

Поскольку V5 уже развернута как проверенная платформа, возможности с использованием искусственного интеллекта позиционируются как настраиваемые параметры Вместо неконтролируемых дополнений. Клиенты могут включать, отключать или ограничивать их для каждого завода, каждой серии продуктов или каждой роли в рамках собственной стратегии валидации.

Хорошие и плохие шаблоны ИИ в цехе

Хорошие образцы

ИИ используется для предлагает Текст стандартных операционных процедур, обучающие тесты или исследовательские рассказы всегда сопровождаются проверкой и одобрением человеком в версии 5.
ИИ используется для выявления закономерностей в отклонениях, жалобах или результатах OOS, внося вклад в структурированную информацию анализ причин.
ИИ используется для классификации записей или маршрутизации задач, в то время как фактические решения и подписи остаются за авторизованными пользователями.
Вся активность ИИ зафиксирована в контрольные следы, видимый для QA и инспекторов.

Плохие шаблоны

Неконтролируемые внешние инструменты чата, используемые для разработки пакетных инструкций, этикеток или протоколов проверки без возможности отслеживания.
ИИ напрямую редактирует выпущенные документы в системе управления документами или изменяет критические значения спецификаций.
Автономные агенты закрывают отклонения или CAPA, или изменяют статус релиза, без человеческого контроля.
Нет четких сведений о том, какая подсказка привела к каким изменениям, что делает расследование невозможным.

Архитектура V5 разработана таким образом, чтобы обеспечить реализацию первого набора шаблонов и структурно предотвратить второй. Даже с расширением возможностей ИИ принцип остаётся прежним: ИИ может информировать, но не действует молча.

Пример: обучение и контроль документов с помощью ИИ в V5

Практическим примером служит учебный контент и документация по процедурам. На многих предприятиях эксперты в предметной области испытывают трудности с синхронизацией стандартных операционных процедур (СОП) и учебных модулей с изменениями в процессах. В этом может помочь ИИ, если внедрение контролируется.

В типичном сценарии V5:

Владелец процесса обновляет маршрутизацию или формулу в V5. Это изменение регистрируется через Смени управление.
Система отмечает связанные стандартные операционные процедуры и учебные модули, которые могут нуждаться в пересмотре.
Помощник ИИ может предлагать обновленные формулировки или вопросы теста на основе нового процесса, но они пока остаются черновиками.
Сотрудники отдела контроля качества и обучения проверяют, корректируют и утверждают новый контент в контролируемых системах управления документами и учебных модулях.
Обновленное обучение назначается через обучающая матрицаи V5 ограничивает доступ к критически важным экранам GMP до завершения.

ИИ ускоряет этап разработки, но не заменяет авторство, проверку или утверждение. Все обычные элементы управления — управление версиями, подписи, даты вступления в силу — остаются неизменными.

Внешние ссылки по управлению ИИ

Для команд, создающих собственную структуру управления ИИ на основе V5, следующие внешние документы могут стать полезными справочными источниками (все открываются в новых вкладках):

Эти внешние источники в сочетании с вашей внутренней системой качества и структурой управления V5 образуют основу для защищенной стратегии ИИ в регулируемом производстве.

Сопутствующий глоссарий и статьи SG Systems

Итог: ИИ приемлем в регулируемом производстве только в том случае, если он существует в рамках сильной системы управления. V5 изначально разрабатывалась как система исполнения, обеспечивающая соответствие требованиям. ИИ допускается в эту среду на тех же условиях, что и любая другая критически важная функция: документирование, оценка рисков, валидация и постоянный контроль со стороны человека.