Liệu trí tuệ nhân tạo (AI) có thể được tin cậy trong sản xuất?

Trí tuệ nhân tạo được quản lý và minh bạch

Sử dụng AI một cách có trách nhiệm trong V5 – ISO 42001, Độ tin cậy của AI, Quản lý rủi ro và Thực tiễn GMP

Trí tuệ nhân tạo đang đến gần. MES, hệ thống quản lý chất lượng và WMS Các nền tảng đã xuất hiện từ rất lâu trước khi các cơ quan quản lý hoàn tất việc xác định kỳ vọng của họ. Các nhà sản xuất trong lĩnh vực khoa học đời sống, thực phẩm, mỹ phẩm và hóa chất đang mắc kẹt giữa áp lực phải “thêm AI” và thực tế là… GMP, tính toàn vẹn dữ liệu và xác thực Vấn đề vẫn chưa biến mất. Câu hỏi cốt lõi không phải là, "Bạn có trí tuệ nhân tạo (AI) không?" mà là, "Bạn có thể chứng minh rằng AI không làm suy yếu khả năng kiểm soát quy trình của bạn không?"

SG Systems Global đã có lập trường thận trọng một cách có chủ ý với Khả năng truy xuất nguồn gốc V5V5 không phải là một nền tảng AI hộp đen. Nó là một... hệ thống thực thi có cổng cứng Điều đó có thể tích hợp trí tuệ nhân tạo một cách minh bạch, dễ xem xét và kiểm toán. Ở những nơi trí tuệ nhân tạo được sử dụng, nó... bị ràng buộc bằng quy trình phê duyệt, chữ ký và nhật ký kiểm toán phù hợp với 21 CFR Phần 11, toàn vẹn dữ liệu kỳ vọng và hướng dẫn hiện đại về quản trị AI.

“Triết lý của chúng tôi rất đơn giản: Trí tuệ nhân tạo có thể đưa ra gợi ý, nhưng không thể tự động quyết định. Trong V5, mọi hành động được hỗ trợ bởi AI đều có thể theo dõi, xem xét và tuân thủ các quy trình kiểm soát giống như bất kỳ bước quan trọng nào khác theo tiêu chuẩn GMP.”

— Trưởng bộ phận Chất lượng, Nhà sản xuất được quản lý

Khung tiêu chuẩn cho AI trong sản xuất được quản lý

Hiện nay, một số tiêu chuẩn và tài liệu hướng dẫn đã định hình kỳ vọng về việc sử dụng AI một cách có trách nhiệm. Ba trong số những tài liệu quan trọng nhất là:

Trong lĩnh vực sản xuất được quản lý chặt chẽ, các tiêu chuẩn AI mới nổi này được xây dựng dựa trên những nền tảng quen thuộc:

Đối với khách hàng, câu hỏi thực tế đặt ra là: liệu hành vi của trí tuệ nhân tạo (AI) trên nền tảng này có phù hợp với các nguyên tắc đó hay không, và liệu sự phù hợp đó có thể được chứng minh trong quá trình kiểm tra, chứ không chỉ được hứa hẹn trong bản trình chiếu?

“Trí tuệ nhân tạo trong V5” thực sự có nghĩa là gì?

Trong V5, "AI" không có nghĩa là đưa trực tiếp các mô hình ngôn ngữ lớn không được kiểm soát vào các bản ghi xử lý hàng loạt, việc gắn nhãn hoặc các quyết định phát hành. Thay vào đó, V5 tập trung vào:

  • Các quy tắc xác định và cổng cứng các bước thực hiện.
  • Hành động được hỗ trợ Trong đó, AI đề xuất nội dung (ví dụ: bản nháp đào tạo, tóm tắt tài liệu) nhưng không thể bỏ qua quy trình phê duyệt.
  • Sự tách biệt nghiêm ngặt giữa các lớp đề xuất và các bản ghi quan trọng theo GMP như eBMR, DHR và MMR.
  • API bên ngoài tối thiểu, với dữ liệu nhập khẩu được định tuyến qua quy trình công việc phê duyệt và kiểm tra trước khi sử dụng.
  • Nhật ký sẵn sàng kiểm toán Đối với bất kỳ sự kiện nào được hỗ trợ bởi AI, đều được liên kết với người dùng, tài sản và các lô đất.

Khi V5 tích hợp với AI bên ngoài (ví dụ: để hỗ trợ nội dung đào tạo), quá trình tích hợp đó diễn ra trong một môi trường thử nghiệm được kiểm soát. Kết quả đầu ra được xử lý như... dự thảo Những yếu tố đó phải được xem xét và phê duyệt trước khi trở thành một phần của hệ thống kiểm soát chất lượng.

ISO/IEC 42001 – Hệ thống quản lý AI và mô hình quản trị V5

ISO / IEC 42001 Định nghĩa cách một tổ chức cấu trúc tổ chức của mình. Hệ thống quản lý AI (AIMS)Bao gồm: chính sách, vai trò, đánh giá rủi ro, kiểm soát, tài liệu và cải tiến. Đây là tiêu chuẩn tương đương với ISO 9001 hoặc ISO 27001 dành cho trí tuệ nhân tạo, nhưng tập trung vào quản trị các hoạt động liên quan đến trí tuệ nhân tạo.

V5 được thiết kế để nằm gọn gàng bên trong một hệ thống AIMS như vậy. Nhìn chung:

  • Phạm vi – Khách hàng có thể xác định rõ ràng các tính năng của V5 nào sử dụng AI (nếu có) và khóa các tính năng khác chỉ áp dụng các quy tắc xác định.
  • Vai trò và trách nhiệm – Các tính năng hỗ trợ bởi AI có thể bị giới hạn đối với các vai trò được xác định và phải tuân theo các quy trình đã được ghi lại. SOPs.
  • Đánh giá rủi ro – Mỗi trường hợp ứng dụng AI đều có thể được đánh giá bằng các công cụ quản lý rủi ro chất lượng tương tự như đã được sử dụng cho các thay đổi về quy trình hoặc thiết bị.
  • Các biện pháp kiểm soát – Các cổng kiểm soát chặt chẽ, phê duyệt và nhật ký kiểm toán trong V5 trở thành lớp “kiểm soát” cụ thể cho các đề xuất của AI hoặc nội dung được nhập khẩu.
  • Giám sát và cải tiến – V5 cung cấp nhật ký sự kiện và số liệu có thể được sử dụng để phản hồi trong chu trình đánh giá AIMS của tổ chức.

Kết quả là, trí tuệ nhân tạo (AI) không bao giờ "đứng trên" hệ thống quản lý chất lượng. Nó trở thành một yếu tố đầu vào khác trong một môi trường kỹ thuật số được xác định rõ ràng, nơi mọi hành động đều được ghi lại và mọi quyết định quan trọng vẫn nằm dưới sự kiểm soát của con người.

ISO/IEC TR 24028 – Độ tin cậy của AI trong quy trình GMP

ISO/IEC TR 24028 tập trung vào việc tạo ra AI đáng tin cậyMạnh mẽ, an toàn, minh bạch và dễ hiểu đối với con người. Trong môi trường GMP hoặc GFSI, điều đó có nghĩa là:

  • Không có thay đổi vô hình nào Để nhóm các hướng dẫn, nhãn hoặc kế hoạch kiểm tra lại với nhau, được thực hiện trực tiếp bởi trí tuệ nhân tạo.
  • Gợi ý có thể giải thích – ví dụ, giải thích lý do tại sao việc phân loại sai lệch hoặc cập nhật huấn luyện được đề xuất.
  • Quyền tự chủ có giới hạn – Trí tuệ nhân tạo không thể tự mình đưa ra quyết định về mặt pháp lý; nó chỉ có thể hỗ trợ người ký quyết định.
  • Kiểm soát an ninh và quyền riêng tư – Dữ liệu được gửi đến các dịch vụ AI bên ngoài bị hạn chế, được ẩn danh hóa nếu có thể và tuân theo các thỏa thuận với nhà cung cấp.

Trong V5, độ tin cậy đạt được không phải bằng cách làm cho các mô hình phức tạp hơn mà chủ yếu bằng cách... thu hẹp phạm vi hoạt động của họ.Nền tảng này được xây dựng dựa trên sự kiểm soát mang tính xác định của cân đo và phân phối, kiểm soát nhãn, gia hệ và giữ/thảBất kỳ sự hỗ trợ nào của trí tuệ nhân tạo đều phải tuân thủ các quy tắc bảo vệ hiện có.

ISO 23894 – Quản lý rủi ro AI phù hợp với quản lý rủi ro chất lượng

ISO 23894 Áp dụng logic quen thuộc về nhận diện, phân tích, đánh giá và xử lý rủi ro cho các rủi ro đặc thù của AI. Đối với các nhà sản xuất đã sử dụng các công cụ như... FMEA, PFMEA or NGUY HIỂMĐây là một sự mở rộng tự nhiên.

Các câu hỏi điển hình về rủi ro AI trong môi trường V5 bao gồm:

  • Liệu một đề xuất của AI có thể ảnh hưởng đến... sai lệch Phân loại hoặc CAPA theo cách che giấu một xu hướng quan trọng?
  • Liệu dữ liệu đầu vào từ AI bên ngoài có thể làm sai lệch dữ liệu đặc tả được sử dụng cho... xác minh nhãn hoặc đưa ra quyết định?
  • Liệu có chức năng hỗ trợ trí tuệ nhân tạo nào được sử dụng trong quá trình này không? Xác nhận quá trìnhVà nếu vậy, điều đó được ghi chép lại như thế nào?

Vì V5 đã hỗ trợ cấu trúc sổ đăng ký rủi ro, thay đổi kiểm soát và kế hoạch tổng thể xác thựcKhách hàng có thể mở rộng các khuôn khổ đó sang lĩnh vực trí tuệ nhân tạo mà không cần phát minh ra một hệ thống song song. Trí tuệ nhân tạo được coi như một yếu tố rủi ro tiềm tàng khác cần được phân tích và kiểm soát.

21 CFR Phần 11, Tính toàn vẹn dữ liệu và nội dung do AI tạo ra

Một khi trí tuệ nhân tạo (AI) can thiệp vào bất cứ thứ gì trở thành một phần của hồ sơ sản xuất vĩnh viễn — hướng dẫn sản xuất theo lô, thông số kỹ thuật, nhãn mác, sai lệch, điều tra, đào tạo — thì kết quả đầu ra của nó đều phải tuân theo các quy định. 21 CFR Phần 11 và ALCOA +V5 xử lý các bản nháp do AI tạo ra như sau: không kiểm soát cho đến khi có người dùng đủ điều kiện:

  • Đánh giá nội dung bên trong nền tảng.
  • Chỉnh sửa khi cần thiết.
  • Phê duyệt và chuyển đổi nó thành tài liệu hoặc hồ sơ được kiểm soát bằng cách sử dụng quy trình làm việc tiêu chuẩn.

Mỗi bước đi đều để lại dấu ấn. đường mòn kiểm toánAi đã xem xét, những thay đổi là gì, ai đã ký, và khi nào nó có hiệu lực. Công cụ AI không bao giờ ghi trực tiếp vào bản sửa đổi đã phát hành của một tài liệu. SOP, MMR hoặc hình ảnh nhãn. Việc tách biệt đó rất quan trọng khi giải thích hệ thống cho các thanh tra viên.

GAMP 5, CSA và Xác thực quy trình làm việc hỗ trợ bởi AI

Theo GAMP 5Trọng tâm là xác thực mục đích sử dụngĐối với các tính năng hỗ trợ trí tuệ nhân tạo, V5 hỗ trợ:

  • Mô tả bằng văn bản về những gì tính năng AI được phép làm (và những gì nó không được phép làm).
  • Các bản ghi cấu hình cho thấy tính năng này được bật, giới hạn hoặc vô hiệu hóa như thế nào đối với từng trang web.
  • Kiểm tra bằng chứng cho thấy các đề xuất của AI không thể bỏ qua các phê duyệt cần thiết hoặc thay đổi trực tiếp các hồ sơ được kiểm soát.
  • Việc theo dõi và ghi nhận liên tục các dữ liệu nhằm chứng minh khả năng kiểm soát được duy trì theo thời gian.

Sự nổi lên CSV Tư duy của CSA là tập trung nỗ lực xác thực vào những nơi có rủi ro cao nhất. Trong V5, điều đó có nghĩa là dành sự chú ý nhiều nhất cho cách các tính năng hỗ trợ AI tương tác với:

Vì V5 đã được triển khai như một nền tảng đã được kiểm chứng, nên các khả năng hỗ trợ bởi trí tuệ nhân tạo được định vị như sau: tùy chọn có thể cấu hình Thay vì các tiện ích bổ sung không được kiểm soát. Khách hàng có thể bật, tắt hoặc hạn chế chúng cho từng nhà máy, từng dòng sản phẩm hoặc từng vai trò như một phần của chiến lược xác thực riêng của họ.

Các mô hình AI tốt và xấu trong môi trường sản xuất

Các mẫu tốt

  • Trí tuệ nhân tạo từng được sử dụng để đề xuất Văn bản quy trình chuẩn (SOP), bài kiểm tra đào tạo hoặc tường thuật điều tra, luôn được con người xem xét và phê duyệt trong V5.
  • Trí tuệ nhân tạo (AI) được sử dụng để làm nổi bật các mẫu trong các sai lệch, khiếu nại hoặc kết quả OOS, cung cấp thông tin cho quy trình có cấu trúc. phân tích nguyên nhân gốc rễ.
  • Trí tuệ nhân tạo (AI) được sử dụng để hỗ trợ phân loại hồ sơ hoặc định tuyến nhiệm vụ, trong khi các quyết định và chữ ký thực tế vẫn thuộc về người dùng được ủy quyền.
  • Tất cả hoạt động của AI được ghi lại trong dấu vết kiểm toánCó thể nhìn thấy được bởi bộ phận kiểm soát chất lượng và các thanh tra viên.

Những thói quen xấu

  • Các công cụ trò chuyện bên ngoài không được kiểm soát được sử dụng để thiết kế hướng dẫn sản xuất theo lô, nhãn hoặc quy trình xác nhận mà không có khả năng truy vết.
  • Trí tuệ nhân tạo (AI) trực tiếp chỉnh sửa các tài liệu đã được phát hành trong hệ thống quản lý tài liệu (DMS) hoặc thay đổi các giá trị thông số kỹ thuật quan trọng.
  • Các tác nhân tự động đóng các sai lệch hoặc CAPA, hoặc thay đổi trạng thái phát hành, không cần sự xem xét của con người.
  • Không có ghi chép rõ ràng về việc tác nhân nào dẫn đến sự thay đổi nào, khiến việc điều tra trở nên bất khả thi.

V5 được thiết kế để cho phép nhóm mô hình đầu tiên và ngăn chặn về mặt cấu trúc nhóm mô hình thứ hai. Ngay cả khi khả năng của AI mở rộng, nguyên tắc vẫn không thay đổi: Trí tuệ nhân tạo có thể cung cấp thông tin, nhưng nó không hành động một cách âm thầm.

Ví dụ: Đào tạo có sự hỗ trợ của AI và kiểm soát tài liệu trong V5

Một ví dụ thực tế là nội dung đào tạo và tài liệu quy trình. Tại nhiều nhà máy, các chuyên gia gặp khó khăn trong việc đảm bảo các quy trình vận hành tiêu chuẩn (SOP) và mô-đun đào tạo được đồng bộ với những thay đổi trong quy trình. Trí tuệ nhân tạo (AI) có thể giúp ích ở đây – nếu việc triển khai được kiểm soát chặt chẽ.

Trong một kịch bản V5 điển hình:

  1. Người quản lý quy trình cập nhật định tuyến hoặc công thức trong V5. Thay đổi đó được ghi lại thông qua thay đổi kiểm soát.
  2. Hệ thống sẽ đánh dấu các quy trình vận hành tiêu chuẩn (SOP) và các đơn vị đào tạo liên quan có thể cần được sửa đổi.
  3. Trợ lý AI có thể đề nghị Đã cập nhật cách diễn đạt hoặc câu hỏi trắc nghiệm dựa trên quy trình mới, nhưng đây vẫn chỉ là bản nháp.
  4. Nhân viên kiểm định chất lượng và đào tạo xem xét, điều chỉnh và phê duyệt nội dung mới trong hệ thống quản lý tài liệu (DMS) và các mô-đun đào tạo được kiểm soát.
  5. Việc đào tạo cập nhật được chỉ định thông qua... ma trận huấn luyệnvà V5 khóa quyền truy cập vào các sàng lọc quan trọng theo tiêu chuẩn GMP cho đến khi hoàn tất.

Trí tuệ nhân tạo (AI) giúp tăng tốc quá trình soạn thảo nhưng không thay thế quyền sở hữu, xem xét hoặc phê duyệt. Tất cả các biện pháp kiểm soát thông thường—phiên bản, chữ ký, ngày hiệu lực—vẫn được giữ nguyên.

Tài liệu tham khảo bên ngoài về quản trị AI

Đối với các nhóm đang xây dựng khung quản trị AI riêng của họ xung quanh V5, các tài liệu bên ngoài sau đây là những điểm tham khảo hữu ích (tất cả đều mở trong tab mới):

Các nguồn thông tin bên ngoài này, kết hợp với hệ thống quản lý chất lượng nội bộ và khung kiểm soát V5, tạo nên nền tảng vững chắc cho một chiến lược AI khả thi trong sản xuất được quản lý chặt chẽ.

Thuật ngữ và bài viết liên quan của SG Systems

Tóm lại: Trí tuệ nhân tạo (AI) chỉ được chấp nhận trong sản xuất có quy định khi nó hoạt động trong một khuôn khổ quản trị chặt chẽ. V5 được xây dựng trước hết như một hệ thống thực thi tuân thủ các quy định. Trí tuệ nhân tạo (AI) được phép hoạt động trong môi trường đó với các điều kiện tương tự như bất kỳ chức năng quan trọng nào khác: được ghi chép, đánh giá rủi ro, xác thực và luôn luôn dưới sự kiểm soát của con người.

Chia sẻ bài viết này nhé? 

bài viết liên quan

QUAY LẠI TIN TỨC