人工智慧在製造業中值得信賴嗎？

受監管、透明的人工智慧

V5 中人工智慧的負責任使用—ISO 42001、人工智慧可信度、風險管理和 GMP 現實

人工智慧即將到來 MES系統, 質量管理體系以及 WMS 在監管機構完成對平台的預期之前，生命科學、食品、化妝品和化學製造商就已陷入「添加人工智慧」的壓力與現實之間的兩難。 GMP、資料完整性和驗證 問題並沒有消失。核心問題不是“你是否擁有人工智慧？”，而是“你能否證明人工智慧不會削弱你對流程的控制？”

SG Systems Global 一直採取刻意保守的立場 V5 可追溯性V5 不是一個黑箱人工智慧平台。它是一個 硬門控執行系統 它能夠以透明、可審查和可審計的方式融入智慧技術。人工智慧的應用領域是… 界透過審批工作流程、簽名和審計跟踪，符合以下規定： 21 CFR第11部分, 數據的完整性關於人工智慧治理的期望和現代指導。

“我們的理念很簡單：人工智慧可以提出建議，但不能擅自做決定。在V5版本中，每一個人工智慧輔助的操作都是可追溯的、可審查的，並且與其他任何GMP關鍵步驟一樣，都受到相同的控制。”

— 受監管製造商的品質主管

受監管製造業中人工智慧的標準格局

目前已有若干標準和指導文件對負責任的人工智慧使用提出了預期。其中三份最為相關：

ISO / IEC 42001 人工智慧管理系統（AIMS）。參見術語表條目：
ISO/IEC 42001 – 人工智慧管理體系.
ISO/IEC TR 24028 - 人工智慧可信度安全性、穩健性、透明度、偏見、人工監督。
ISO 23894 - 人工智慧風險管理 – 人工智慧全生命週期的風險評估與控制。

在受監管的製造業中，這些新興的人工智慧標準建立在人們熟悉的基礎上：

21 CFR第11部分 – 電子記錄和簽名。
GAMP 5 以及 CSV / CSA 思維。
品質風險管理（ICH Q9、FMEA、HACCP 等）。
ALCOA+ 資料完整性以及審計跟踪.

對客戶而言，實際的問題是：該平台的 AI 行為是否符合這些原則，以及這種符合性能否在檢查過程中得到證明，而不僅僅是在幻燈片中做出承諾？

V5 中的「人工智慧」究竟意味著什麼

在 V5 版本中，「人工智慧」並非指將不受控制的大型語言模型直接應用於大量記錄、標註或發布決策。相反，V5 版本更側重於：

確定性規則 以及硬性限制執行步驟。
協助行動 AI 可以提供內容建議（例如訓練草稿、文件摘要），但不能繞過審批流程。
嚴格分離 在建議層和GMP關鍵記錄之間，例如 eBMR, DHR 以及 MMR.
極簡外部API，導入的資料透過以下方式路由審批工作流使用前需進行檢查。
可用於審計的日誌 對於任何人工智慧輔助事件，都與使用者、資產和地塊相關聯。

當 V5 與外部 AI 整合時（例如，用於輔助訓練內容），此整合在受控沙箱中運作。輸出被視為草案必須經過審核和批准後，才能成為受控品質系統的一部分。

ISO/IEC 42001 – 人工智慧管理系統與V5治理模型

ISO / IEC 42001 定義了一個組織如何建構其結構。 人工智慧管理系統（AIMS）包括政策、角色、風險評估、控制、文件和改進。它是人工智慧領域類似於 ISO 9001 或 ISO 27001 的標準，但專注於人工智慧活動的治理。

V5 的設計旨在完美適應此類 AIMS。概括而言：

範圍 – 客戶可以明確地限定哪些 V5 功能使用 AI（如果有的話），並將其他功能鎖定為僅使用確定性規則。
角色和責任 – AI輔助功能可能僅限於特定角色，並且必須遵循已記錄的規則。標準操作程序.
風險評估 – 每個 AI 應用案例都可以使用與流程或裝置變更相同的品質風險管理工具進行評估。
控制措施 – V5 中的硬性限制、審批和審計追蹤成為 AI 建議或導入內容的具體「控制」層。
監測與改進 – V5 提供事件日誌和指標，可以回饋到組織的 AIMS 審查週期。

結果是，人工智慧永遠不會凌駕於品質體系之上。它只是定義明確的數位化環境中的另一個輸入，在這個環境中，每一個操作都會被記錄，每一個關鍵決策仍然由人掌控。

ISO/IEC TR 24028 – GMP 工作流程中的人工智慧可信度

ISO/IEC TR 24028 專注於人工智慧的開發可靠：穩健、安全、透明且易於人理解。在符合GMP或GFSI標準的環境中，這意味著：

沒有不可見的變化 批量處理由人工智慧直接驅動的指令、標籤或檢驗計劃。
可解釋的建議 – 例如，說明為什麼提出偏差分類或訓練更新。
有限自主性 人工智慧無法做出監管決定；它只能輔助簽署決定的人。
安全和隱私控制 – 發送給外部 AI 服務的資料受到限制，盡可能進行匿名化處理，並受供應商協議的約束。

在V5版本中，提高模型可信度不再是透過增加模型的複雜性來實現的，而是更多地透過… 縮小他們被允許行動的空間。該平台基於確定性控制建構。稱重和分發, 標籤控制, 家譜以及保持/釋放任何人工智慧輔助都必須融入現有的安全保障機制中。

ISO 23894 – 人工智慧風險管理與品質風險管理一致

ISO 23894 將風險識別、分析、評估和處理的常用邏輯應用於人工智慧特有的風險。對於已經在使用類似工具的製造商而言，這套方法尤其適用。失效模式分析, PFMEA or 危險區域操作規程這是自然而然的延伸。

V5 環境下典型的 AI 風險問題包括：

人工智慧建議能否影響… 偏差分類或 CAPA 方式是否掩蓋了關鍵趨勢？
外部人工智慧輸入是否會破壞用於此目的的規格資料？標籤驗證還是發布決定？
期間是否使用了任何人工智慧輔助功能工藝驗證如果屬實，又是如何記錄的呢？

因為V5已經支援結構化風險登記冊, 切換控制以及驗證總計劃客戶無需另起爐灶，即可將這些框架擴展到人工智慧領域。人工智慧被視為另一個潛在風險因素，必須對其進行分析和控制。

21 CFR 第 11 部分，資料完整性和人工智慧產生的內容

一旦人工智慧接觸到任何成為永久生產記錄一部分的內容——批次指令、規格、標籤、偏差、調查、培訓——其產出都將受到… 21 CFR第11部分以及美鋁+V5 將 AI 產生的草稿視為 不受控制 直到合格用戶為止：

評論平台內的內容。
必要時進行修改。
使用標準工作流程，將其批准並提升為受控文件或記錄。

每一步都會留下痕跡審計跟踪誰審核了、修改了什麼、誰簽署了、何時生效。人工智慧引擎絕不會直接寫入已發布的修訂版本。 SOP，MMR 或標籤圖案。這種區分對於向檢查員解釋該系統至關重要。

GAMP 5、CSA 和驗證 AI 輔助工作流程

下 GAMP 5重點在於驗證 有可能的使用對於人工智慧輔助功能，V5 支援：

對人工智慧功能允許執行的操作（以及不允許執行的操作）進行書面描述。
配置記錄顯示了每個網站如何啟用、限製或停用該功能。
測試證據，證明人工智慧建議不能繞過必要的審批程序或直接更改受控記錄。
持續監控記錄，以證明對控制工作的持續控制。

新興的 CSV CSA 的理念是將驗證工作集中在風險最高的地方。在 V5 版本中，這意味著要專注於 AI 輔助功能如何與以下方面互動：

批次記錄以及 eBMR.
偏差以及 CAPA 工作流程。
培訓和能力紀錄。

由於V5已部署為經過驗證的平台，因此人工智慧輔助功能被定位為 可配置選項 而不是不受控制的附加元件。客戶可以根據自身的驗證策略，按工廠、產品系列或角色啟用、停用或限制這些元件。

車間中人工智慧模式的優劣對比

好的模式

人工智慧過去建議 SOP 文本、訓練測驗或調查敘述，始終在 V5 中進行人工審核和批准。
人工智慧用於突出顯示偏差、投訴或 OOS 結果中的模式，並將其輸入結構化分析。根本原因分析.
AI 用於幫助對記錄進行分類或分配任務，而實際的決策和簽名仍然由授權使用者做出。
所有人工智慧活動均被捕獲 審計跟踪品質保證人員和檢驗員均可見。

不良模式

使用不受控制的外部聊天工具設計批次指令、標籤或驗證協議，且無法追溯。
AI 直接編輯 DMS 中已發佈的文件或變更關鍵規格值。
自主代理關閉偏差或糾正預防措施 (CAPA)，或更改發布狀態未經人工審核。
由於沒有明確的記錄顯示是什麼因素導致了哪些變化，因此無法進行調查。

V5 的架構旨在實現第一組模式，並從結構上防止第二組模式的出現。即使人工智慧能力不斷擴展，這項原則依然不變： 人工智慧可以提供訊息，但它不會默默行動。

範例：V5 中的 AI 輔助培訓和文件控制

一個實際的例子是培訓內容和程序文件。在許多工廠，領域專家難以確保標準作業規程 (SOP) 和培訓模組與流程變更保持同步。人工智慧可以在這方面提供幫助——前提是實施過程得到有效控制。

在典型的 V5 場景中：

流程擁有者在 V5 中更新了路由或公式。該更改會透過以下方式記錄：切換控制.
系統會標示出可能需要修訂的相關標準作業規程和訓練單元。
人工智慧助理可以建議根據新流程更新措詞或測驗題，但這些仍是草稿。
品質保證和培訓人員審核、調整和批准受控文件管理系統和培訓模組中的新內容。
更新後的培訓安排透過以下方式進行：訓練矩陣V5 嚴格限制對 GMP 關鍵篩選的訪問，直到完成為止。

人工智慧可以加快起草流程，但不會取代所有權、審核或批准。所有常規控制措施——版本控制、簽名、生效日期——都保持不變。

人工智慧治理的外部參考資料

對於圍繞 V5 建立自身 AI 治理框架的團隊而言，以下外部文件是有用的參考資料（均在新分頁中開啟）：

這些外部資源，加上您的內部品質系統和 V5 控制框架，為受監管製造業中可防禦的 AI 策略提供了支柱。

按行業

透過 ERP

合規解決方案