ISO/IEC TR 24028 — Αξιοπιστία Τεχνητής Νοημοσύνης (Αξιοπιστία, Ανθεκτικότητα, Διαφάνεια και Λογοδοσία)

Αυτό το θέμα αποτελεί μέρος του SG Systems Global γλωσσάρι κανονιστικών και λειτουργικών όρων.

Ενημερώθηκε τον Νοέμβριο του 2025 • ISO/IEC 22989, ISO/IEC 42001, ISO/IEC 23894 • Ποιότητα, Πληροφορική, Επιστήμη Δεδομένων, Κανονισμοί, Κατασκευή

Το ISO/IEC TR 24028 είναι η βασική τεχνική έκθεση που ορίζει τι σημαίνει για την τεχνητή νοημοσύνη να είναι αξιόπιστη . Καταγράφει τις βασικές ιδιότητες - αξιοπιστία, ευρωστία, ασφάλεια, προστασία, ιδιωτικότητα, διαφάνεια, δικαιοσύνη και λογοδοσία - και εξηγεί πώς αλληλεπιδρούν σε όλο τον κύκλο ζωής της Τεχνητής Νοημοσύνης. Το TR 24028 δεν πιστοποιεί συστήματα ούτε ορίζει μία μόνο αρχιτεκτονική. Αντίθετα, παρέχει σε οργανισμούς, ελεγκτές και ρυθμιστικές αρχές μια κοινή γλώσσα για να κρίνουν εάν μια διαδικασία με δυνατότητα Τεχνητής Νοημοσύνης μπορεί να είναι αξιόπιστη. Σε ρυθμιζόμενες δραστηριότητες (φαρμακευτικές, ιατροτεχνολογικά προϊόντα, τρόφιμα, καλλυντικά, χημικά), αυτή η γλώσσα είναι που διαχωρίζει τα «πειραματικά εργαλεία» από την Τεχνητή Νοημοσύνη που είναι κατάλληλη για να ενταχθεί σε ένα επικυρωμένο Σύστημα Διαχείρισης Ποιότητας (QMS ) , Σύστημα Διαχείρισης Ποιότητας (MES ) ή Σύστημα Διαχείρισης Ποιότητας (LIMS).

«Η αξιόπιστη Τεχνητή Νοημοσύνη δεν έχει να κάνει με το να σου αρέσει το αποτέλεσμα. Έχει να κάνει με το να είσαι σε θέση να προβλέψεις πώς συμπεριφέρεται το σύστημα, να εξηγήσεις γιατί, να αντέχεις την κακοποίηση και να δείχνεις ένα ίχνος εγγράφων όταν κάποιος ρωτάει ποιος υπέγραψε.»

1) Πού ζει το TR 24028 σε όλο τον κύκλο ζωής

Το TR 24028 είναι σχετικό από την πρώτη ιδέα της Τεχνητής Νοημοσύνης έως την απόσυρση του μοντέλου. Στον σχεδιασμό της ιδέας και της περίπτωσης χρήσης , βοηθά να αποφασιστεί εάν η Τεχνητή Νοημοσύνη είναι καθόλου κατάλληλη και ποιες ιδιότητες εμπιστοσύνης είναι οι πιο κρίσιμες (π.χ., ασφάλεια έναντι δικαιοσύνης). Στον σχεδιασμό δεδομένων και μοντέλων , θέτει προσδοκίες για ποικιλομορφία, ισορροπία και ανθεκτικότητα σε θόρυβο ή επιθέσεις. Στην εκπαίδευση και την επικύρωση , καθοδηγεί την κάλυψη κανονικών και μη φυσιολογικών συνθηκών, την απόδοση υποπληθυσμού και τα σενάρια στρες. Στην ανάπτυξη και την ενσωμάτωση , ενημερώνει για τον σχεδιασμό ανθρώπινης εν κινήσει και τις στρατηγικές εφεδρείας. Στη λειτουργία και την παρακολούθηση , πλαισιώνει τον τρόπο με τον οποίο ανιχνεύετε την απόκλιση, την προκατάληψη και την υποβάθμιση. Και κατά την απόσυρση , καθοδηγεί την ασφαλή λήξη και τη διατήρηση αποδεικτικών στοιχείων, ώστε οι αποφάσεις που επηρεάζονται από την Τεχνητή Νοημοσύνη να παραμένουν ανιχνεύσιμες χρόνια αργότερα.

2) Ρυθμιστικές άγκυρες και έλεγχοι συστήματος

Ενώ το ίδιο το TR 24028 δεν αποτελεί πιστοποιήσιμο πρότυπο, η ορολογία αξιοπιστίας του εμφανίζεται στη νομοθεσία και στις οδηγίες. Ο νόμος περί τεχνητής νοημοσύνης της ΕΕ κωδικοποιεί πολλές ιδιότητες του TR 24028 - ανθεκτικότητα, κυβερνοασφάλεια, διαφάνεια, έλεγχο προκατάληψης, ανθρώπινη εποπτεία - σε υποχρεωτικές απαιτήσεις για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου. Οι ρυθμιστικές αρχές στον φαρμακευτικό κλάδο, τις συσκευές και τα τρόφιμα διερωτώνται ολοένα και περισσότερο εάν η τεχνητή νοημοσύνη είναι αξιόπιστη, εξηγήσιμη και υπόκειται σε ανθρώπινο έλεγχο. Σύμφωνα με το Μέρος 11 του 21 CFR και το Παράρτημα 11 , οποιαδήποτε τεχνητή νοημοσύνη που αγγίζει ηλεκτρονικά αρχεία πρέπει να υποστηρίζεται από ασφαλή έλεγχο πρόσβασης, ηλεκτρονικές υπογραφές με καθορισμένη σημασία και ολοκληρωμένα ίχνη ελέγχου GxP . Το TR 24028 είναι η εννοιολογική γέφυρα μεταξύ αυτών των ρυθμιστικών προσδοκιών και της συγκεκριμένης συμπεριφοράς των ροών εργασίας σας που βασίζονται στην τεχνητή νοημοσύνη.

3) Διαστάσεις αξιοπιστίας στο TR 24028

Το TR 24028 οργανώνει την αξιοπιστία της Τεχνητής Νοημοσύνης σε ένα σύνολο επαναλαμβανόμενων θεμάτων. Αξιοπιστία — η Τεχνητή Νοημοσύνη συμπεριφέρεται με συνέπεια υπό τις αναμενόμενες συνθήκες. Ανθεκτικότητα — χειρίζεται με χάρη τον θόρυβο, τη μεταβλητότητα και ορισμένες κακόβουλες εισόδους χωρίς καταστροφικές βλάβες. Ασφάλεια — δεν δημιουργεί απαράδεκτο κίνδυνο βλάβης για ανθρώπους, προϊόντα ή περιβάλλον. Ασφάλεια — αντιστέκεται στην παραβίαση, την απάτη και την μη εξουσιοδοτημένη πρόσβαση. Ιδιωτικότητα — σέβεται τις αρχές προστασίας δεδομένων και ελαχιστοποιεί την έκθεση προσωπικών ή ευαίσθητων πληροφοριών. Διαφάνεια και επεξήγηση — τα ενδιαφερόμενα μέρη μπορούν να κατανοήσουν τι κάνει το σύστημα, γιατί και εντός ποιας ορίων. Δικαιοσύνη — αποφεύγει την άδικη προκατάληψη και τις μεροληπτικές επιπτώσεις. Λογοδοσία — υπάρχουν σαφείς γραμμές ευθύνης, με αποδεικτικά στοιχεία αποφάσεων και εγκρίσεων. Κάθε σοβαρή ανάπτυξη Τεχνητής Νοημοσύνης σε ένα ρυθμιζόμενο περιβάλλον χρειάζεται μια θέση έναντι καθεμίας από αυτές τις διαστάσεις, όχι απλώς μια αόριστη δήλωση «το δοκιμάσαμε».

4) Προβολή Κύκλου Ζωής – Αντιστοίχιση Εμπιστοσύνης με Δραστηριότητες Τεχνητής Νοημοσύνης

Το TR 24028 τονίζει ότι η αξιοπιστία δεν είναι μια εφάπαξ δοκιμή. Είναι μια ιδιότητα κύκλου ζωής. Στις απαιτήσεις και τον σχεδιασμό , τεκμηριώνετε τους στόχους και τους περιορισμούς εμπιστοσύνης (π.χ., «καμία αποτυχία τεχνητής νοημοσύνης σε ένα σημείο δεν μπορεί να προκαλέσει μαζική κυκλοφορία χωρίς ανθρώπινη έγκριση»). Κατά την απόκτηση και την προετοιμασία δεδομένων , διασφαλίζετε ότι τα σύνολα δεδομένων πληρούν τις ανάγκες ακεραιότητας, ποικιλομορφίας και απορρήτου. Στην κατασκευή μοντέλων , προτιμάτε αρχιτεκτονικές και σύνολα χαρακτηριστικών που επιτρέπουν την επεξήγηση και την ευρωστία όπου απαιτείται. Στην επαλήθευση και την επικύρωση , εκτελείτε προσαρμοσμένες δοκιμές για να διερευνήσετε την ασφάλεια, τη δικαιοσύνη, την ευρωστία και την προστασία. Κατά την ανάπτυξη , ενσωματώνετε την Τεχνητή Νοημοσύνη σε MES, LIMS, WMS και ERP με τρόπους που σέβονται τους υπάρχοντες ελέγχους και τους ανθρώπινους ρόλους. Κατά τη λειτουργία , παρακολουθείτε την απόδοση, παρακάμπτετε μοτίβα και περιστατικά. Και κατά την απόσυρση , απενεργοποιείτε ή περιορίζετε την Τεχνητή Νοημοσύνη με ασφάλεια, διατηρώντας παράλληλα τα αρχεία καταγραφής, τις περιλήψεις δεδομένων εκπαίδευσης και την τεκμηρίωση για μεταγενέστερη αναθεώρηση.

5) Κριτήρια εμπιστοσύνης και όρεξη—Κανόνες, όχι μάρκετινγκ

Η δήλωση της Τεχνητής Νοημοσύνης ως «αξιόπιστης» δεν σημαίνει τίποτα χωρίς σαφή κριτήρια. Το TR 24028 προϋποθέτει ότι θα ορίσετε όρια αποδοχής - εύρη ακρίβειας, περιθώρια ανθεκτικότητας, επιτρεπόμενα δέλτα μεροληψίας, μέγιστα αποδεκτά ποσοστά ψευδώς θετικών/αρνητικών, εγγυήσεις απορρήτου και απαιτήσεις επεξήγησης - για κάθε περίπτωση χρήσης. Οι πιο επικίνδυνες περιπτώσεις χρήσης (π.χ., η Τεχνητή Νοημοσύνη παρέχει συμβουλές για την κυκλοφορία παρτίδας, ο χειρισμός εξαιρέσεων σε eBR ή οι παρακάμψεις ποιότητας) απαιτούν αυστηρότερα όρια, ισχυρότερες εναλλακτικές λύσεις και πιο συντηρητική ανθρώπινη εποπτεία. Αυτά τα κριτήρια εμπιστοσύνης θα πρέπει να καταγράφονται σε έγγραφα QMS και μητρώα κινδύνου , όχι αυτοσχεδιασμένα από προγραμματιστές υπό πίεση χρόνου ή να αντιμετωπίζονται ως ισχυρισμοί μάρκετινγκ σε τράπουλες διαφανειών.

6) Ιδιότητες εμπιστοσύνης – Στοιχεία ελέγχου που πραγματικά τσιμπάνε

Για κάθε διάσταση εμπιστοσύνης, το TR 24028 αναμένει συγκεκριμένους ελέγχους. Η αξιοπιστία ενισχύεται μέσω δοκιμών ορθότητας, ελέγχου αλλαγών και παρακολουθούμενων μετρήσεων επιπέδου υπηρεσιών. Η ανθεκτικότητα ενισχύεται μέσω δοκιμών αντοχής σε ακραίες καταστάσεις, διερευνήσεων ανταγωνισμού, επικύρωσης εισόδου και ασφαλών λειτουργιών εφεδρείας όταν οι συνθήκες αποκλίνουν εκτός του εκπαιδευμένου φακέλου. Η ασφάλεια ενισχύεται από φρουρούς στη λογική MES/HMI, περιορισμούς διεργασιών και ανθρώπινη υπογραφή για ενέργειες με υψηλό αντίκτυπο. Η ασφάλεια ενισχύεται από ενισχυμένα API, διαχωρισμό καθηκόντων και ασφαλή διαμόρφωση στοιχείων cloud και on-prem. Το απόρρητο ενισχύεται μέσω ελαχιστοποίησης, ανωνυμοποίησης/ψευδωνυμοποίησης και αυστηρού ελέγχου πρόσβασης. Η διαφάνεια ενισχύεται από την τεκμηρίωση του μοντέλου, τις εξηγήσεις χαρακτηριστικών/αποφάσεων και τις διεπαφές χρήστη που δείχνουν το πλαίσιο και την εμπιστοσύνη. Η δικαιοσύνη ενισχύεται από τον έλεγχο δεδομένων, τις δοκιμές υποομάδων και τους περιορισμούς στη χρήση όπου η μεροληψία δεν μπορεί να μετριαστεί επαρκώς. Η λογοδοσία ενισχύεται από ρόλους, εγκρίσεις και διαδρομές ελέγχου που συνδέουν συγκεκριμένη συμπεριφορά AI με έναν υπεύθυνο κάτοχο και έκδοση.

7) Τυπικές Αποτυχίες Εμπιστοσύνης—Και Πώς να τις Αποδείξετε

Αθόρυβη απόκλιση απόδοσης: η ακρίβεια του μοντέλου υποβαθμίζεται καθώς αλλάζουν οι διαδικασίες, τα υλικά ή οι πληθυσμοί. Αυτό αποδεικνύεται από τις τάσεις στα ποσοστά ψευδώς θετικών/αρνητικών και στις παρακάμψεις. Κρυφή μεροληψία: χειρότερη απόδοση σε συγκεκριμένες ομάδες, τοποθεσίες ή οικογένειες προϊόντων. Αυτό αποδεικνύεται από ανάλυση υποομάδων που δεν έγινε ποτέ ή έγινε πολύ αργά. Αδυναμίες ασφαλείας: εκτεθειμένα τελικά σημεία, ασθενής έλεγχος ταυτότητας ή διαδρομές άμεσης έγχυσης. Αυτό αποδεικνύεται από δοκιμές διείσδυσης και αρχεία καταγραφής συμβάντων. Έλλειψη διαφάνειας: κανείς δεν μπορεί να εξηγήσει τι κάνει το μοντέλο ή γιατί. Αυτό αποδεικνύεται από την έλλειψη τεκμηρίωσης, τα αδιαφανή χαρακτηριστικά και τη σύγχυση των χρηστών. Υπεραυτοματοποίηση: οι χειριστές αντιμετωπίζουν την Τεχνητή Νοημοσύνη ως αλάνθαστη. Αυτό αποδεικνύεται από τα χαμηλά ποσοστά παράκαμψης, ακόμη και όταν τα συμβάντα δείχνουν ότι η Τεχνητή Νοημοσύνη έκανε λάθος. Το TR 24028 αναμένει ότι αυτές οι λειτουργίες αστοχίας θα εμφανίζονται ρητά στις αξιολογήσεις εμπιστοσύνης σας, μαζί με τους ελέγχους και την παρακολούθηση, όχι ως εκπλήξεις στις αναφορές μετά το συμβάν.

8) Διευθέτηση ζητημάτων εμπιστοσύνης—Πρώτα ο κίνδυνος, όχι τα κοσμήματα

Όταν εμφανίζονται ζητήματα εμπιστοσύνης στην Τεχνητή Νοημοσύνη, το TR 24028 υποδηλώνει ότι οι οργανισμοί πρέπει να τα αντιμετωπίζουν όπως θα αντιμετώπιζαν άλλους κρίσιμους κινδύνους. Οι τεχνικές διορθώσεις περιλαμβάνουν την επανεκπαίδευση σε καλύτερα δεδομένα, την αλλαγή αρχιτεκτονικών, την αυστηροποίηση των ορίων, την ενίσχυση της επικύρωσης εισόδου ή τον περιορισμό του εύρους αποφάσεων της Τεχνητής Νοημοσύνης. Τα διαδικαστικά μέτρα περιλαμβάνουν νέες Τυπικές Διαδικασίες Λειτουργίας (SOP), ενημερωμένους πίνακες εκπαίδευσης , διευκρινισμένες διαδρομές κλιμάκωσης και αναθεωρημένα όρια περιπτώσεων χρήσης. Οι αντιδράσεις διακυβέρνησης περιλαμβάνουν την παύση ορισμένων λειτουργιών της Τεχνητής Νοημοσύνης, την αναταξινόμηση των επιπέδων κινδύνου ή την υποβολή του συστήματος σε πρόσθετη αναθεώρηση πριν από την επανέναρξη της χρήσης. Οι αισθητικές αλλαγές - ένας νέος πίνακας ελέγχου, ένα αναδιατυπωμένο μήνυμα χρήστη - δεν αρκούν. Το TR 24028 απαιτεί τα ζητήματα εμπιστοσύνης να αντιμετωπίζονται όπως κάθε άλλο σημαντικό ζήτημα ποιότητας ή ασφάλειας, με διαρκείς διορθώσεις και τεκμηριωμένα αποτελέσματα.

9) CAPA, Έλεγχος Αλλαγών & Διαχείριση Κύκλου Ζωής Τεχνητής Νοημοσύνης

Σε ρυθμιζόμενα περιβάλλοντα, τα σημαντικά κενά εμπιστοσύνης ανήκουν στο CAPA και στον Έλεγχο Αλλαγών , όχι μόνο στα καθυστερημένα έργα της επιστήμης δεδομένων. Το CAPA μπορεί να στοχεύσει στη μειωμένη μεροληψία, στη βελτιωμένη ευρωστία, στην υψηλότερη διαφάνεια ή στα χαμηλότερα ποσοστά συμβάντων, με ελέγχους αποτελεσματικότητας που συνδέονται με μετρήσεις. Ο έλεγχος αλλαγών θα πρέπει να διέπει τα νέα μοντέλα, την σημαντική επανεκπαίδευση, τις αλλαγές στην αρχιτεκτονική και τις τροποποιήσεις ενσωμάτωσης που επηρεάζουν τον τρόπο με τον οποίο η Τεχνητή Νοημοσύνη επηρεάζει τις αποφάσεις MES/eBMR, LIMS ή WMS. Το TR 24028 ουσιαστικά λέει στους οργανισμούς: να αντιμετωπίζουν τα συστήματα Τεχνητής Νοημοσύνης ως μακροχρόνια περιουσιακά στοιχεία με ευθύνες διαχείρισης - όχι ως πειράματα μιας χρήσης που εξαφανίζονται μετά το τέλος του αρχικού έργου.

10) Πρόληψη μέσω Σχεδιασμού—Περίπτωση Χρήσης, UX & Ανθρώπινοι Παράγοντες

Το TR 24028 ωθεί τους οργανισμούς να οικοδομήσουν εμπιστοσύνη στον σχεδιασμό της Τεχνητής Νοημοσύνης και όχι να την εφαρμόσουν μετά από περιστατικά. Σε επίπεδο περίπτωσης χρήσης, αυτό σημαίνει άρνηση της Τεχνητής Νοημοσύνης όπου η ποιότητα, η ελεγξιμότητα ή η εποπτεία των δεδομένων δεν μπορούν να ανταποκριθούν στα όρια εμπιστοσύνης. Σε επίπεδο διεπαφής χρήστη, σημαίνει σαφή επισήμανση της παραγωγής της Τεχνητής Νοημοσύνης, επίδειξη εμπιστοσύνης και λογικής όπου είναι απαραίτητο και εύκολη αμφισβήτηση ή παράκαμψη των συστάσεων της Τεχνητής Νοημοσύνης. Σε επίπεδο ανθρώπινου παράγοντα, σημαίνει διασφάλιση ότι οι χειριστές, οι κριτές και οι εγκρίνοντες κατανοούν τις δυνατότητες και τους περιορισμούς της Τεχνητής Νοημοσύνης, γνωρίζουν πότε να την εμπιστεύονται και δεν υπερφορτώνονται με αδιαφανείς ειδοποιήσεις. Η αξιόπιστη Τεχνητή Νοημοσύνη είναι συχνά λιγότερο φανταχτερή και πιο συντηρητική από την Τεχνητή Νοημοσύνη «βαθμού επίδειξης» — αλλά επιβιώνει από τους ελέγχους και το άγχος του πραγματικού κόσμου.

11) Παρακολούθηση και Έγκαιρη Προειδοποίηση—Εμπιστοσύνη μέσω SPC και OOT

Η εμπιστοσύνη δεν είναι μόνιμη. ανανεώνεται μέσω της παρακολούθησης. Το TR 24028 ευθυγραμμίζεται φυσικά με τα όρια ελέγχου SPC και τις έννοιες Out-of-Trend (OOT) που χρησιμοποιούνται στην παρακολούθηση διεργασιών και ποιότητας. Οι οργανισμοί θα πρέπει να παρακολουθούν τις μετρήσεις AI με την πάροδο του χρόνου: ακρίβεια μοντέλου, τύποι σφαλμάτων, απόδοση υποομάδων, ποσοστά παράκαμψης, καθυστέρηση, αριθμός συμβάντων και συμβάντα ασφαλείας. Η ανίχνευση OOT σε αυτές τις μετρήσεις μπορεί να ενεργοποιήσει έρευνες και εκ νέου επικύρωση πριν η συμπεριφορά της AI γίνει πρόβλημα ποιότητας ή ασφάλειας. Σε καλά οργανωμένα περιβάλλοντα, τα περισσότερα προβλήματα AI εντοπίζονται εσωτερικά μέσω αυτής της παρακολούθησης και όχι μέσω παραπόνων πελατών ή ευρημάτων επιθεωρήσεων.

12) Μετρήσεις που αποδεικνύουν ότι η αξιοπιστία είναι υπό έλεγχο

Οι συγκεκριμένες μετρήσεις καθιστούν το TR 24028 απτό. Παρακολουθήστε πόσα συστήματα Τεχνητής Νοημοσύνης (ΤΝ) χρησιμοποιούνται, με ταξινόμηση κινδύνου και τους εκχωρημένους κατόχους. Μετρήστε ποιο ποσοστό από αυτά διαθέτει τρέχουσες αξιολογήσεις εμπιστοσύνης και σχέδια παρακολούθησης. Παρακολουθήστε τις αποκλίσεις/NCR που συνδέονται με την ΤΝ , τα παράπονα και τα σχεδόν ατυχήματα, και πόσα οδηγούν σε CAPA ή έλεγχο αλλαγών. Παρακολουθήστε την απόδοση των υποομάδων για να διασφαλίσετε ότι τηρούνται οι δεσμεύσεις περί δίκαιης μεταχείρισης. Παρακολουθήστε την ολοκλήρωση της εκπαίδευσης από τον Πίνακα Εκπαίδευσης για ρόλους που χρησιμοποιούν ή εγκρίνουν αποτελέσματα ΤΝ. Και παρακολουθήστε τα μοτίβα παράκαμψης: τόσο οι «μηδενικές παρακάμψεις» όσο και οι «σταθερές παρακάμψεις» μπορούν να υποδηλώνουν προβλήματα εμπιστοσύνης. Συνολικά, αυτές οι μετρήσεις μετακινούν την «αξιοπιστία» από την προσδοκία στην μετρήσιμη πραγματικότητα.

13) Επικύρωση ροών εργασίας με δυνατότητα τεχνητής νοημοσύνης

Για την Τεχνητή Νοημοσύνη (AI) που ενσωματώνεται σε ροές εργασίας σχετικές με το GxP, οι έννοιες εμπιστοσύνης του TR 24028 πρέπει να εμφανίζονται κατά την επικύρωση. Οι απαιτήσεις θα πρέπει να καθορίζουν όχι μόνο τη λειτουργικότητα αλλά και τα χαρακτηριστικά εμπιστοσύνης: εύρη ευρωστίας, προσδοκίες διαφάνειας, περιορισμούς απορρήτου και αποδεκτά προφίλ σφαλμάτων. Τα σχέδια δοκιμών CSV και IQ/OQ/PQ θα πρέπει να αμφισβητούν ρητά τη συμπεριφορά της AI υπό διαφορετικές συνθήκες (ονομαστική, ακμή, αποτυχία, ασφάλεια). Τα στοιχεία επικύρωσης θα πρέπει να τεκμηριώνουν ποια έκδοση του μοντέλου και των δεδομένων δοκιμάστηκαν και πώς διαμορφώνεται η παρακολούθηση μετά την έναρξη λειτουργίας. Οι κανόνες διατήρησης και αρχειοθέτησης πρέπει να διασφαλίζουν ότι τα αρχεία καταγραφής, τα μεταδεδομένα μοντέλου και τα βασικά σύνολα δεδομένων που σχετίζονται με την AI παραμένουν προσβάσιμα για την ανακατασκευή συμβάντων χρόνια αργότερα. Εάν η επικύρωσή σας αγνοεί τις διαστάσεις εμπιστοσύνης, είναι εκτός συμβατότητας με το TR 24028 και τις αναδυόμενες προσδοκίες.

14) Πώς το TR 24028 ταιριάζει λειτουργικά σε όλα τα συστήματα

Εκτέλεση (MES, WMS, αυτοματοποίηση). Οι έννοιες εμπιστοσύνης του TR 24028 εφαρμόζονται στην Τεχνητή Νοημοσύνη στον προγραμματισμό, τη δρομολόγηση, την ανίχνευση ανωμαλιών, τις προτάσεις σημείων ρύθμισης και τις πύλες ποιότητας. Τα συστήματα θα πρέπει να περιορίζουν την Τεχνητή Νοημοσύνη σε συμβουλευτικούς ρόλους όπου είναι απαραίτητο, να επιβάλλουν την ανθρώπινη αναθεώρηση για αποφάσεις υψηλού κινδύνου και να παρέχουν στους χειριστές το πλαίσιο και τις εξηγήσεις. Οι αλλαγές της Τεχνητής Νοημοσύνης σε παρτίδες, ετικέτες ή καταστάσεις εξοπλισμού πρέπει να περνούν από τους ίδιους ελέγχους με τη λογική που δεν βασίζεται στην Τεχνητή Νοημοσύνη.

Ποιότητα & QRM. Οι ομάδες ποιότητας χρησιμοποιούν το TR 24028 ως εννοιολογική βάση για καταχωρίσεις που σχετίζονται με την Τεχνητή Νοημοσύνη στο μητρώο κινδύνων , στις Αποκλίσεις/NCR και στο CAPA . Επίσης, καθορίζει τα κριτήρια για την αποδοχή ή την απόρριψη δυνατοτήτων Τεχνητής Νοημοσύνης προμηθευτών σε εξοπλισμό, εργαστηριακά όργανα ή εργαλεία SaaS.

Πλατφόρμες δεδομένων και πληροφορικής. Οι ομάδες δεδομένων και πληροφορικής χρησιμοποιούν το TR 24028 για τη δομή πλατφορμών Τεχνητής Νοημοσύνης: κοινό μοτίβο για την καταγραφή, την ασφάλεια, τα μητρώα μοντέλων, την παρακολούθηση και την επαναφορά σε παλαιότερες εκδόσεις, έτσι ώστε κάθε περίπτωση χρήσης της Τεχνητής Νοημοσύνης να κληρονομεί βασικά στοιχεία ελέγχου αξιοπιστίας αντί να δημιουργεί εξατομικευμένα μοτίβα κάθε φορά.

Αναθεώρηση διακυβέρνησης και διαχείρισης. Οι συντονιστικές επιτροπές της Τεχνητής Νοημοσύνης και η ανασκόπηση της διαχείρισης χρησιμοποιούν τη γλώσσα του TR 24028 για να συζητήσουν τον κίνδυνο, την απόδοση και τα περιστατικά με τρόπο που να έχει νόημα για το εκτελεστικό και ρυθμιστικό κοινό. Αντί για «η Τεχνητή Νοημοσύνη μας λειτουργεί», μιλούν με όρους αξιοπιστίας, ευρωστίας, διαφάνειας, δικαιοσύνης και λογοδοσίας, υποστηριζόμενα από αποδεικτικά στοιχεία.

15) Συχνές ερωτήσεις

Ε1. Είναι το ISO/IEC TR 24028 πιστοποιήσιμο πρότυπο;
Όχι. Το TR 24028 είναι μια τεχνική έκθεση, όχι ένα πιστοποιήσιμο πρότυπο συστήματος διαχείρισης. Οι οργανισμοί δεν μπορούν να «πιστοποιηθούν» για το TR 24028, αλλά μπορούν να ευθυγραμμίσουν τις πρακτικές διακυβέρνησης, διαχείρισης κινδύνου και επικύρωσης της Τεχνητής Νοημοσύνης με τις έννοιες αξιοπιστίας του και να το χρησιμοποιήσουν για να υποστηρίξουν πιστοποιήσεις όπως ISO/IEC 42001.

Ε2. Πώς σχετίζεται το TR 24028 με το ISO/IEC 23894;
Το TR 24028 ορίζει πώς μοιάζει η αξιοπιστία στην Τεχνητή Νοημοσύνη — αξιοπιστία, ανθεκτικότητα, ασφάλεια, δικαιοσύνη, διαφάνεια κ.λπ. ISO/IEC 23894 περιγράφει τον τρόπο διαχείρισης των κινδύνων Τεχνητής Νοημοσύνης χρησιμοποιώντας μια δομημένη διαδικασία διαχείρισης κινδύνων. Μαζί, παρέχουν και τα δύο ιδιότητες θέλετε και το διαδικασια μας για την επίτευξη και τη διατήρησή τους.

Ε3. Καλύπτει το TR 24028 την γενετική τεχνητή νοημοσύνη και τα μοντέλα μεγάλης γλώσσας;
Ναι, κατ' αρχήν. Το TR 24028 δεν εξαρτάται από την τεχνολογία. Οι ιδιότητες αξιοπιστίας του ισχύουν για οποιοδήποτε σύστημα Τεχνητής Νοημοσύνης του οποίου τα αποτελέσματα επηρεάζουν τις αποφάσεις ή τα αποτελέσματα. Η γενετική Τεχνητή Νοημοσύνη και τα μοντέλα μεγάλης γλώσσας εγείρουν συγκεκριμένες προκλήσεις για την ανθεκτικότητα, την ασφάλεια, τη διαφάνεια και την κακή χρήση—αλλά εξακολουθούν να αξιολογούνται με βάση τις ίδιες διαστάσεις εμπιστοσύνης.

Ε4. Πώς συνδέεται το TR 24028 με τον νόμο της ΕΕ για την τεχνητή νοημοσύνη;
Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη ορίζει τις νομικές υποχρεώσεις και τις κατηγορίες κινδύνου για την τεχνητή νοημοσύνη. Το TR 24028 παρέχει έναν δομημένο τρόπο για να σκεφτούμε εάν ένα σύστημα είναι αξιόπιστο σε σχέση με τις σχετικές διαστάσεις. Η χρήση των εννοιών του TR 24028 βοηθά τους οργανισμούς να σχεδιάζουν και να τεκμηριώνουν ελέγχους που υποστηρίζουν τη συμμόρφωση με τον νόμο για την τεχνητή νοημοσύνη, ειδικά για συστήματα υψηλού κινδύνου, αλλά το TR 24028 από μόνο του δεν αποτελεί πλαίσιο νομικής συμμόρφωσης.

Ε5. Ποιος θα πρέπει να είναι ο κάτοχος της εφαρμογής του TR 24028 σε μια ρυθμιζόμενη εταιρεία;
Η ιδιοκτησία θα πρέπει να είναι κοινή: Ο υπεύθυνος Ποιότητας και Κινδύνου/Συμμόρφωσης για τη διακυβέρνηση και την τεκμηρίωση. Ο υπεύθυνος Πληροφορικής/Δεδομένων για τους ελέγχους πλατφόρμας και ασφάλειας. Οι λειτουργίες έχουν τον έλεγχο του τρόπου ενσωμάτωσης της Τεχνητής Νοημοσύνης στο MES/WMS/αυτοματοποίηση. Και οι Ρυθμιστικές Υποθέσεις διασφαλίζουν την ευθυγράμμιση με τις εξωτερικές προσδοκίες. Εάν η «εμπιστοσύνη στην Τεχνητή Νοημοσύνη» αφορά μόνο τους επιστήμονες δεδομένων, δεν θα επιβιώσει από ελέγχους, συμβάντα ή οργανωτικές αλλαγές.

Σχετική ανάγνωση
• Διακυβέρνηση και Κίνδυνος Τεχνητής Νοημοσύνης:
ISO/IEC 42001 | ISO/IEC 23894 | GxP
• Ακεραιότητα & Επικύρωση:
Ακεραιότητα δεδομένων | ALCOA+ | CSV |VMP | Διαδρομή Ελέγχου (GxP)
• Εκτέλεση & Αρχεία:
ΜΕΣ | eBR | ηλεκτρονική MMR | CPV | Απόκλιση/NCR | ΚΑΠΑ