ISO/IEC TR 24028 — 人工智慧可信度（可靠性、穩健性、透明度和問責制）

本主題屬於 SG Systems Global 監管與營運術語表。

更新於 2025 年 11 月 • ISO/IEC 22989、ISO/IEC 42001、ISO/IEC 23894 • 品質、IT、資料科學、法規、製造

ISO/IEC TR 24028是定義人工智慧可信度的核心技術報告。它列舉了關鍵屬性——可靠性、穩健性、安全性、隱私性、透明度、公平性和問責制——並解釋了它們如何在人工智慧的整個生命週期中相互作用。 TR 24028 不認證系統，也不規定特定的架構；相反，它為組織、審核員和監管機構提供了一種共同的語言，用於判斷人工智慧驅動的流程是否可信。在受監管的行業（製藥、醫療器材、食品、化妝品、化學品）中，這種語言能夠區分「實驗性工具」和適合部署在經過驗證的品質管理系統 ( QMS ) 、製造執行系統 ( MES)或實驗室資訊管理系統(LIMS ) 中的人工智慧。

「值得信賴的人工智慧並非在於喜歡最終結果，而是能夠預測系統的行為方式，解釋其原因，抵禦濫用，並在有人詢問是誰批准時提供書面記錄。”

1) TR 24028 在生命週期中的位置

TR 24028 貫穿人工智慧從最初構思到最終退役的整個過程。在概念和用例設計階段，它有助於判斷人工智慧是否適用，以及哪些信任屬性最為關鍵（例如，安全性與公平性）。在資料和模型設計階段，它設定了多樣性、平衡性以及對雜訊或攻擊的穩健性的預期。在訓練和驗證階段，它指導對正常和異常情況、子群體表現以及壓力場景的覆蓋範圍。在部署和整合階段，它為人機互動設計和備用策略提供資訊。在運行和監控階段，它指導如何檢測漂移、偏差和效能退化。在退役階段，它指導安全退役和證據保留，確保人工智慧影響下的決策在多年後仍可追溯。

2）監管錨點和系統控制

雖然TR 24028本身並非可認證的標準，但其可信度術語已出現在法律和指南中。歐盟人工智慧法案將TR 24028的許多特性——穩健性、網路安全、透明度、偏見控制和人工監督——納入高風險人工智慧系統的強制性要求。製藥、醫療器材和食品業的監管機構日益關注人工智慧是否可靠、可解釋且受人為控制。根據美國聯邦法規21 CFR第11部分和附件11，任何涉及電子記錄的人工智慧都必須得到安全存取控制、具有明確含義的電子簽名以及全面的GxP審計追蹤的支援。 TR 24028正是連結這些監管要求和人工智慧工作流程實際運作的概念橋樑。

3) TR 24028 中的可信度維度

TR 24028 將人工智慧的可信度歸納為一系列反覆出現的主題。可靠性－人工智慧在預期條件下表現一致。穩健性——它能夠優雅地處理噪音、變化以及某些惡意輸入，而不會發生災難性故障。安全性－它不會對人員、產品或環境造成不可接受的損害風險。安全性——它能夠抵禦篡改、詐欺和未經授權的存取。隱私性——它尊重資料保護原則，並將個人或敏感資訊的洩漏降至最低。透明度和可解釋性－利害關係人能夠理解系統的功能、原因以及運作範圍。公平性——它避免不公正的偏見和歧視性影響。問責制－責任劃分清晰，並有決策和審批的證據。在受監管的環境中，任何嚴肅的人工智慧部署都需要針對上述每個維度做出明確的表態，而不僅僅是含糊其辭的「我們測試過了」。

4) 生命週期視圖－將信任映射到人工智慧活動

TR 24028 強調，可信度並非一次性測試，而是一項貫穿整個生命週期的屬性。在需求和設計階段，您需要記錄信任目標和約束條件（例如，「任何單點 AI 故障都不得導致未經人工審核的大量發布」）。在資料收集和準備階段，您需要確保資料集符合完整性、多樣性和隱私性要求。在模型建置階段，您應優先選擇能夠實現可解釋性和穩健性的架構和功能集（如適用）。在驗證和確認階段，您需要執行客製化測試來檢驗安全性、公平性、穩健性和可靠性。在部署階段，您需要以尊重現有控制措施和人員角色的方式將 AI 嵌入 MES、LIMS、WMS 和 ERP 系統中。在運行階段，您需要監控效能、覆蓋模式和事件；在退役階段，您需要在安全地停用或限制 AI 的同時，保留日誌、訓練資料摘要和文件以供後續審查。

5）信任標準與需求－規則，而非行銷

如果沒有明確的標準，宣稱人工智慧「值得信賴」毫無意義。 TR 24028 假設您將為每個用例定義驗收閾值，包括準確率範圍、穩健性裕度、允許的偏差增量、最大可接受的誤報/漏報率、隱私保障和可解釋性要求。風險較高的用例（例如，人工智慧為批量發布提供建議、在電子業務審查(eBR)中進行異常處理或品質覆蓋）需要更嚴格的閾值、更強大的備用方案和更保守的人工監督。這些信任標準應寫入品質管理系統 (QMS) 文件和風險登記冊，而不是開發人員在時間壓力下臨時制定，或作為簡報中的軟性行銷宣傳。

6) 信任屬性－真正有效的控制措施

TR 24028 針對每個信任維度都提出了具體的控制措施。可靠性透過完善的測試、變更控制和受監控的服務等級指標來保障。穩健性透過壓力測試、對抗性偵測、輸入驗證以及在條件超出訓練範圍時啟用的安全回退模式來保障。安全性透過 MES/HMI 邏輯中的防護措施、流程約束以及對高影響操作的人工審批來保障。安全性透過強化 API、職責分離以及雲端和本地組件的安全性配置來保障。隱私性透過最小化、匿名化/假名化以及嚴格的存取控制來保障。透明度透過模型文件、功能/決策解釋以及能夠展現上下文和置信度的使用者介面來保障。公平性透過資料審查、子組測試以及在無法充分消除偏見的情況下限制使用來保障。問責制透過角色、審批和審計追蹤來保障，這些機制將特定的 AI 行為與負責的所有者和版本關聯起來。

7）典型的信任失敗－以及如何證明它們

效能悄悄下降：模型準確度會隨著流程、材料或使用者群的變化而降低；這體現在誤報率/漏報率和覆蓋率的變化趨勢。隱性偏差：在特定群體、站點或產品系列上的表現較差；這體現在從未進行過或進行得太晚的子群體分析中。安全漏洞：暴露的端點、薄弱的身份驗證或快速注入路徑；這體現在滲透測試和事件日誌中。缺乏透明度：沒有人能夠解釋模型正在做什麼或為什麼這樣做；這體現在文件缺失、功能不透明以及使用者困惑中。過度自動化：操作人員將人工智慧視為絕對可靠；這體現在即使事件顯示人工智慧出錯，覆蓋率仍然很低。 TR 24028 要求這些故障模式應與控制措施和監控措施一起明確地出現在您的信任評估中，而不是作為事件後報告中的意外發現。

8）信託問題的處置－風險優先，而非表面功夫

當人工智慧信任問題出現時，TR 24028 指出，組織必須像對待其他關鍵風險一樣應對這些問題。技術補救措施包括使用更優質的資料進行重新訓練、更改架構、提高閾值、加強輸入驗證或限制人工智慧的決策範圍。程序措施包括制定新的標準作業程序 (SOP)、更新訓練矩陣、明確升級路徑以及修訂用例邊界。治理措施包括暫停某些人工智慧功能、重新評估風險等級或在恢復使用前對系統進行額外審查。僅僅進行表面修改——例如添加新的儀表板或修改用戶訊息——是不夠的；TR 24028 要求將信任問題視為任何其他重大品質或安全問題，並採取持久有效的解決方案，且結果必須記錄在案。

9) CAPA、變更控制與人工智慧生命週期管理

在受監管的環境中，真正重要的信任缺口應納入糾正和預防措施(CAPA)以及變更控制的範疇，而不僅限於資料科學的待辦事項清單中。 CAPA 可以著眼於減少偏差、提高穩健性、增強透明度或降低事件發生率，並透過與指標掛鉤的有效性檢查來控制。變更控制應規範新模型、重大重新訓練、架構變更以及影響人工智慧如何影響 MES/eBMR、LIMS 或 WMS 決策的整合修改。 TR 24028 的實質是告訴各組織：應將人工智慧系統視為具有管理責任的長期資產，而不是在初始專案結束後就消失的一次性實驗。

10）預防性設計－使用案例、使用者體驗與人為工程

TR 24028 敦促各組織在人工智慧設計中建立信任機制，而不是在事故發生後才匆忙添加信任。在用例層面，這意味著如果資料品質、可控性或監管無法達到信任閾值，則應拒絕使用人工智慧。在使用者介面層面，這意味著清楚標註人工智慧的輸出結果，在適當情況下展現其可靠性和合理性，並使使用者能夠輕鬆地質疑或推翻人工智慧的建議。在人為因素層面，這意味著確保操作人員、審核人員和審批人員了解人工智慧的功能和局限性，知道何時應該對其抱有懷疑，並且不會被大量晦澀難懂的警報訊息所淹沒。值得信賴的人工智慧通常不如「演示級」人工智慧那樣炫目和保守，但它能夠經受住審計和實際應用的考驗。

11) 監控與預警－透過SPC和OOT建立信任

信任並非一成不變，而是需要透過監控來維護。 TR 24028 與流程和品質監控中使用的統計製程管制 ( SPC) 控制限值和趨勢外 (OOT)概念自然契合。組織應長期追蹤人工智慧 (AI) 指標的趨勢，包括模型準確率、錯誤類型、子群組效能、覆蓋率、延遲、事件計數和安全事件。在這些指標上檢測到 OOT 可以觸發調查和重新驗證，從而在 AI 行為演變為品質或安全問題之前採取行動。在運作良好的環境中，大多數 AI 問題都是透過此類監控在內部發現的，而不是透過客戶投訴或檢查結果。

12）顯示可信度處於受控狀態的指標

具體的指標使 TR 24028 切實可行。追蹤正在使用的 AI 系統數量，並進行風險分類，確定負責人。衡量其中有多少系統擁有當前的信任評估和監控計劃。追蹤與 AI 相關的偏差/不合格報告 (NCR)、投訴和險情，以及有多少最終導致了糾正和預防措施 (CAPA) 或變更控制。監控子組績效，確保公平性承諾得以履行。追蹤使用或審批 AI 輸出的角色在訓練矩陣中的訓練完成情況。並監控覆蓋模式：「零覆蓋」和「持續覆蓋」都可能表示存在信任問題。總而言之，這些指標將「可信度」從願景變成可衡量的現實。

13）人工智慧賦能工作流程的驗證

對於嵌入GxP相關工作流程中的AI，TR 24028的信任概念必須體現在驗證過程中。需求不僅應明確功能，還應明確信任屬性：穩健性範圍、透明度預期、隱私約束和可接受的錯誤情況。 CSV和IQ /OQ/PQ測試計畫應明確檢驗AI在不同條件（正常、邊緣、故障、安全）下的行為。驗證證據應記錄測試的模型和資料版本，以及上線後的監控配置。保留和歸檔規則必須確保AI相關日誌、模型元資料和關鍵資料集在多年後仍可訪問，以便重現事件。如果您的驗證忽略了信任維度，則不符合TR 24028及其新興預期。

14) TR 24028 如何應用於各系統

執行（MES、WMS、自動化）。 TR 24028 信任概念適用於人工智慧在調度、路徑規劃、異常偵測、設定點建議和品質門控等方面的應用。系統應在適當情況下將人工智慧限制在諮詢角色，對高風險決策強制進行人工審核，並向操作員提供上下文和解釋。人工智慧對批次、標籤或設備狀態的變更必須經過與非人工智慧邏輯相同的控制。

品質與品質風險管理。品質團隊以 TR 24028 作為風險登記冊、偏差/不合格報告 (NCR)和糾正預防措施 (CAPA)中人工智慧相關條目的概念基礎。它也為接受或拒絕供應商在設備、實驗室儀器或 SaaS 工具中的人工智慧功能提供了標準。

數據和IT平台。資料和IT團隊使用TR 24028來建立AI平台：日誌記錄、安全性、模型登錄、監控和回滾的通用模式，使每個AI用例都能繼承基本的信任控制，而無需每次都建立自訂模式。

治理與管理評審。人工智慧指導委員會和管理評審使用TR 24028標準語言，以易於高階主管和監管機構理解的方式討論風險、績效和事件。他們不使用「我們的人工智慧運作良好」這樣的表述，而是以可靠性、穩健性、透明度、公平性和問責制為重點，並輔以證據。

15) 常見問題解答

Q1. ISO/IEC TR 24028 是否為可認證標準？
不。 TR 24028 是一份技術報告，而非可認證的管理系統標準。組織不能「通過」TR 24028 認證，但它們可以使其人工智慧治理、風險管理和驗證實踐與 TR 24028 的可信度概念保持一致，並利用 TR 24028 來支援其他認證，例如： ISO/IEC 42001.

Q2. TR 24028 與 ISO/IEC 23894 有何關係？
TR 24028 定義了人工智慧的可信度—可靠性、穩健性、安全性、公平性、透明度等。 ISO/IEC 23894 描述如何使用結構化的風險流程來管理人工智慧風險。它們共同提供了以下兩個方面： 性能 你想要的以及 過程 實現並保持這些目標。

Q3. TR 24028 是否涵蓋生成式人工智慧和大型語言模型？
原則上是的。 TR 24028 與技術無關；其可信度屬性適用於任何輸出會影響決策或結果的人工智慧系統。生成式人工智慧和大型語言模式在穩健性、安全性、透明度和濫用方面提出了特殊的挑戰——但它們仍然按照相同的信任維度進行評估。

Q4. TR 24028 與歐盟人工智慧法案有何關聯？
歐盟《人工智慧法案》界定了人工智慧的法律義務和風險類別；TR 24028 提供了一種結構化的方法，用於從相關維度思考系統是否值得信賴。運用 TR 24028 的概念有助於組織設計和記錄支持《人工智慧法案》合規性的控制措施，尤其適用於高風險系統，但 TR 24028 本身並非法律合規框架。

Q5. 在受監管的公司中，誰應該負責 TR 24028 的實施？
所有權應由各方共享：品質與風險/合規部門負責治理和文件編制；IT/資料部門負責平台和安全控制；營運部門負責將人工智慧嵌入製造執行系統/倉庫管理系統/自動化流程；監管事務部門負責確保符合外部預期。如果「人工智慧信任」僅掌握在資料科學家手中，那麼它將無法經得起審計、事故或組織變革的考驗。

相關閱讀
• 人工智慧治理與風險：
ISO/IEC 42001 | ISO/IEC 23894 | 良好規範
• 完整性和驗證：
數據的完整性 | 美鋁+ | CSV |虛擬機 | 審計追蹤（GxP）
• 執行與記錄：
MES系統 | eBR | eMMR | CPV | 偏差/NCR | CAPA