ISO/IEC TR 24028 — Fiabilité de l'IAGlossaire

ISO/IEC TR 24028 — Fiabilité de l'IA (Fiabilité, Robustesse, Transparence et Responsabilité)

Ce sujet fait partie du SG Systems Global Glossaire réglementaire et opérationnel.

Mise à jour novembre 2025 • ISO/IEC 22989, ISO/IEC 42001, ISO/IEC 23894 • Qualité, Informatique, Science des données, Réglementation, Production

La norme ISO/IEC TR 24028 est le rapport technique de référence qui définit la fiabilité de l'intelligence artificielle . Elle recense les propriétés clés – fiabilité, robustesse, sûreté, sécurité, confidentialité, transparence, équité et responsabilité – et explique leurs interactions tout au long du cycle de vie de l'IA. La norme TR 24028 ne certifie pas les systèmes et ne prescrit pas d'architecture particulière ; elle fournit plutôt aux organisations, aux auditeurs et aux autorités de réglementation un langage commun pour évaluer la fiabilité d'un processus utilisant l'IA. Dans les secteurs réglementés (pharmaceutique, dispositifs médicaux, agroalimentaire, cosmétique, chimie), ce langage permet de distinguer les outils expérimentaux des IA adaptées à un système de management de la qualité (SMQ), un système d'exécution des processus ( SEP ) ou un système de gestion de l'information de laboratoire ( SGI) validé.

« Une IA digne de confiance ne se résume pas à apprécier le résultat. Il s'agit d'être capable de prédire le comportement du système, d'en expliquer le raisonnement, de résister aux abus et de fournir une trace écrite lorsqu'on demande qui a validé une action. »

TL; DR: La norme ISO/IEC TR 24028 définit dimensions de la fiabilité de l'IA — fiabilité, robustesse, sûreté, sécurité, confidentialité, transparence, équité et responsabilité — et les intègre au cycle de vie du système d'IA. Elle sous-tend la norme du système de gestion ISO/CEI 42001 et les conseils en matière de risques ISO/CEI 23894Le document TR 24028 explique ce que signifie la « confiance » dans l’IA. veux dire; votre QRM, CSVet les processus de gouvernance déterminent comment vous construisez, validez, surveillez et documentez les systèmes d'IA afin qu'ils soient à la hauteur de ces propriétés dans les opérations quotidiennes.

1) Où se situe le règlement TR 24028 au cours de son cycle de vie

La norme TR 24028 est pertinente depuis la conception initiale de l'IA jusqu'à la mise hors service des modèles. Lors de la conception des concepts et des cas d'utilisation , elle aide à déterminer la pertinence de l'IA et les propriétés de confiance les plus critiques (par exemple, sécurité ou équité). Lors de la conception des données et des modèles , elle définit les exigences en matière de diversité, d'équilibre et de robustesse face au bruit ou aux attaques. Lors de l'entraînement et de la validation , elle garantit la couverture des conditions normales et anormales, l'évaluation des performances des sous-populations et les scénarios de stress. Lors du déploiement et de l'intégration , elle oriente la conception de l'intervention humaine et les stratégies de repli. Lors de l'exploitation et de la surveillance , elle encadre la détection des dérives, des biais et de la dégradation. Enfin, lors de la mise hors service , elle guide la mise en œuvre sécurisée et la conservation des preuves afin que les décisions influencées par l'IA restent traçables des années plus tard.

2) Ancrages réglementaires et contrôles du système

Bien que la norme TR 24028 ne soit pas certifiable, sa terminologie de fiabilité est utilisée dans la législation et les recommandations. La loi européenne sur l'IA intègre de nombreuses propriétés de la TR 24028 – robustesse, cybersécurité, transparence, contrôle des biais et supervision humaine – dans les exigences obligatoires des systèmes d'IA à haut risque. Les autorités réglementaires des secteurs pharmaceutique, des dispositifs médicaux et agroalimentaire s'interrogent de plus en plus sur la fiabilité, l'explicabilité et le contrôle humain des IA. Conformément à la partie 11 du titre 21 du CFR et à son annexe 11 , toute IA traitant des données électroniques doit être protégée par un contrôle d'accès sécurisé, des signatures électroniques à signification définie et des pistes d'audit GxP complètes . La TR 24028 constitue le lien conceptuel entre ces exigences réglementaires et le comportement concret de vos flux de travail basés sur l'IA.

3) Dimensions de la fiabilité dans la norme TR 24028

La norme TR 24028 structure la fiabilité de l'IA autour de plusieurs thèmes récurrents : la fiabilité (l'IA se comporte de manière cohérente dans les conditions attendues), la robustesse (elle gère efficacement le bruit, la variabilité et certaines entrées malveillantes sans défaillance catastrophique), la sécurité (elle ne crée pas de risque inacceptable pour les personnes, les produits ou l'environnement), la sûreté (elle résiste à la falsification, à la fraude et à l'accès non autorisé), la confidentialité (elle respecte les principes de protection des données et minimise l'exposition des informations personnelles ou sensibles), la transparence et l'explicabilité (les parties prenantes peuvent comprendre le fonctionnement du système, ses raisons d'être et ses limites), l'équité (elle évite les biais injustes et les impacts discriminatoires) et la responsabilité (les responsabilités sont clairement définies, avec des preuves des décisions et des approbations). Tout déploiement sérieux d'IA dans un environnement réglementé doit prendre position sur chacune de ces dimensions, et non se contenter d'une vague déclaration du type « nous l'avons testé ».

4) Vue du cycle de vie – Cartographie de la confiance et des activités d'IA

La norme TR 24028 souligne que la fiabilité n'est pas un test ponctuel, mais une propriété inhérente au cycle de vie. Lors de la conception et de la définition des exigences , les objectifs et les contraintes de confiance sont documentés (par exemple : « aucune défaillance unique de l'IA ne doit entraîner la mise en production par lots sans validation humaine »). Lors de l'acquisition et de la préparation des données , les ensembles de données doivent répondre aux exigences d'intégrité, de diversité et de confidentialité. Lors de la construction du modèle , les architectures et les ensembles de fonctionnalités privilégiés permettent l'explicabilité et la robustesse lorsque cela est nécessaire. Lors de la vérification et de la validation , des tests personnalisés sont exécutés pour évaluer la sûreté, l'équité, la robustesse et la sécurité. Lors du déploiement , l'IA est intégrée aux systèmes MES, LIMS, WMS et ERP en respectant les contrôles existants et les rôles humains. En exploitation , les performances sont surveillées, les anomalies et les incidents sont corrigés. Enfin, lors de la mise hors service , l'IA est désactivée ou limitée en toute sécurité, tout en préservant les journaux, les résumés des données d'entraînement et la documentation pour une consultation ultérieure.

5) Critères de confiance et appétit — des règles, pas du marketing

Affirmer qu'une IA est « digne de confiance » est vain sans critères clairs. La norme TR 24028 suppose que vous définirez des seuils d'acceptation – plages de précision, marges de robustesse, écarts de biais admissibles, taux de faux positifs/négatifs maximaux acceptables, garanties de confidentialité et exigences d'explicabilité – pour chaque cas d'utilisation. Les cas d'utilisation plus risqués (par exemple, l'IA conseillant sur la mise en production par lots, la gestion des exceptions dans eBR ou les dérogations aux critères de qualité) requièrent des seuils plus stricts, des mécanismes de repli plus robustes et une supervision humaine plus rigoureuse. Ces critères de confiance doivent être consignés dans les documents du système de management de la qualité (SMQ) et les registres des risques , et non improvisés par les développeurs sous la pression du temps ou présentés comme de simples arguments marketing dans des présentations.

6) Propriétés de la fiducie – Des contrôles réellement efficaces

Pour chaque dimension de confiance, la norme TR 24028 exige des contrôles concrets. La fiabilité est assurée par des tests rigoureux, la gestion des changements et le suivi des indicateurs de niveau de service. La robustesse est assurée par des tests de charge, des tests d'attaques adverses, la validation des entrées et des modes de repli sécurisés lorsque les conditions s'écartent du cadre d'entraînement. La sûreté est assurée par des garde-fous dans la logique MES/IHM, des contraintes de processus et une validation humaine pour les actions à fort impact. La sécurité est assurée par des API renforcées, la séparation des tâches et une configuration sécurisée des composants cloud et sur site. La confidentialité est assurée par la minimisation, l'anonymisation/pseudonymisation et un contrôle d'accès strict. La transparence est assurée par la documentation du modèle, les explications des fonctionnalités/décisions et des interfaces utilisateur qui présentent le contexte et le niveau de confiance. L'équité est assurée par l'examen des données, les tests par sous-groupes et les restrictions d'utilisation lorsque les biais ne peuvent être suffisamment atténués. La responsabilité est assurée par des rôles, des approbations et des pistes d'audit qui relient le comportement spécifique de l'IA à un responsable et à une version.

7) Les défaillances typiques des trusts – et comment les prouver

Dérive silencieuse des performances : la précision du modèle se dégrade avec l’évolution des processus, des matériaux ou des populations, comme en témoignent les tendances des taux de faux positifs/négatifs et de corrections. Biais cachés : performances moindres sur certains groupes, sites ou familles de produits, comme en témoigne l’absence d’analyse de sous-groupes ou son exécution trop tardive. Failles de sécurité : points d’accès exposés, authentification faible ou vecteurs d’injection rapide, comme en témoignent les tests d’intrusion et les journaux d’incidents. Manque de transparence : le fonctionnement du modèle et ses raisons d’être sont inexpliqués, comme en témoignent l’absence de documentation, le manque de clarté des fonctionnalités et la confusion des utilisateurs. Sur-automatisation : les opérateurs considèrent l’IA comme infaillible, comme en témoignent les faibles taux de correction, même lorsque des incidents démontrent les erreurs de l’IA. La norme TR 24028 exige que ces modes de défaillance apparaissent explicitement dans vos évaluations de confiance, accompagnés de contrôles et d’une surveillance, et non comme des surprises dans les rapports post-incident.

8) Règlement des problèmes de fiducie — Priorité aux risques, pas aux apparences

Face aux problèmes de confiance liés à l'IA, la norme TR 24028 exige des organisations qu'elles les traitent au même titre que les autres risques critiques. Les solutions techniques comprennent le réentraînement des modèles sur des données plus fiables, la modification des architectures, le renforcement des seuils, le durcissement de la validation des entrées et la limitation du champ d'application des décisions de l'IA. Les mesures procédurales incluent de nouvelles procédures opérationnelles standard (POS), des matrices d'entraînement mises à jour , des procédures d'escalade clarifiées et une redéfinition des cas d'utilisation. Les mesures de gouvernance peuvent consister à suspendre certaines fonctions de l'IA, à reclasser les niveaux de risque ou à soumettre le système à un examen approfondi avant sa remise en service. Des modifications superficielles – un nouveau tableau de bord, un message utilisateur reformulé – ne suffisent pas ; la norme TR 24028 exige que les problèmes de confiance soient traités comme tout autre problème majeur de qualité ou de sécurité, avec des solutions durables et des résultats documentés.

9) CAPA, contrôle des changements et gestion du cycle de vie de l'IA

Dans les environnements réglementés, les écarts de confiance significatifs doivent être intégrés aux actions correctives et préventives (CAPA) et à la gestion des changements , et non pas uniquement aux listes d'attente des projets de science des données. Les CAPA peuvent viser à réduire les biais, à améliorer la robustesse, à accroître la transparence ou à diminuer le taux d'incidents, avec des contrôles d'efficacité liés à des indicateurs de performance. La gestion des changements doit encadrer les nouveaux modèles, les réentraînements importants, les modifications d'architecture et les changements d'intégration qui influent sur l'impact de l'IA sur les décisions relatives aux systèmes MES/eBMR, LIMS ou WMS. La norme TR 24028 invite les organisations à considérer les systèmes d'IA comme des actifs pérennes nécessitant une gestion responsable, et non comme des expériences jetables qui disparaissent une fois le projet initial terminé.

ISO/IEC TR 24028 Dimensions de la fiabilité de l'IA tout au long du cycle de vie de l'IA
ISO/IEC TR 24028 – Dimensions de la fiabilité (fiabilité, robustesse, transparence, responsabilité) cartographiées dans les systèmes d’IA.

10) Prévention par la conception — Cas d’utilisation, expérience utilisateur et facteurs humains

La norme TR 24028 incite les organisations à intégrer la confiance dès la conception de l'IA, et non à l'ajouter a posteriori. Concrètement, cela signifie refuser l'IA lorsque la qualité des données, leur contrôlabilité ou la supervision ne permettent pas d'atteindre les seuils de confiance requis. Au niveau de l'interface utilisateur, cela implique d'étiqueter clairement les résultats de l'IA, d'afficher le niveau de confiance et la justification le cas échéant, et de faciliter la contestation ou le remplacement de ses recommandations. Du point de vue des facteurs humains, cela signifie s'assurer que les opérateurs, les examinateurs et les approbateurs comprennent les capacités et les limites de l'IA, savent quand se méfier d'elle et ne sont pas submergés d'alertes opaques. Une IA fiable est souvent moins spectaculaire et plus prudente qu'une IA de démonstration, mais elle résiste aux audits et aux contraintes du monde réel.

11) Surveillance et alerte précoce – Confiance via le SPC et l’OOT

La confiance n'est pas acquise ; elle se renouvelle par la surveillance. La norme TR 24028 s'aligne naturellement sur les limites de contrôle SPC et les concepts de « hors tendance » (OOT) utilisés dans la surveillance des processus et de la qualité. Les organisations doivent suivre l'évolution des indicateurs d'IA dans le temps : précision du modèle, types d'erreurs, performance des sous-groupes, taux de dérogation, latence, nombre d'incidents et événements de sécurité. La détection d'outsiders sur ces indicateurs peut déclencher des investigations et une revalidation avant que le comportement de l'IA ne devienne un problème de qualité ou de sécurité. Dans les environnements bien gérés, la plupart des problèmes d'IA sont détectés en interne grâce à cette surveillance, et non suite à des réclamations clients ou à des constats d'inspection.

12) Indicateurs démontrant que la fiabilité est sous contrôle

Des indicateurs concrets rendent la norme TR 24028 tangible. Suivez le nombre de systèmes d'IA utilisés, leur classification des risques et les responsables désignés. Mesurez le pourcentage de ces systèmes disposant d'évaluations de confiance et de plans de surveillance à jour. Suivez les écarts/non-conformités , les réclamations et les incidents évités de justesse liés à l'IA, et déterminez combien d'entre eux donnent lieu à des actions correctives et préventives (CAPA) ou à une gestion des changements. Surveillez les performances des sous-groupes pour garantir le respect des engagements d'équité. Suivez la réalisation des formations, issues de la matrice de formation, pour les rôles utilisant ou approuvant les résultats de l'IA. Enfin, surveillez les schémas de dérogation : l'absence de dérogation comme les dérogations constantes peuvent révéler des problèmes de confiance. Ensemble, ces indicateurs transforment la « fiabilité » d'un idéal en une réalité mesurable.

13) Validation des flux de travail basés sur l'IA

Pour les IA intégrées aux flux de travail soumis aux BPF, les concepts de confiance de la norme TR 24028 doivent être pris en compte lors de la validation. Les exigences doivent spécifier non seulement les fonctionnalités, mais aussi les attributs de confiance : plages de robustesse, attentes en matière de transparence, contraintes de confidentialité et profils d’erreur acceptables. Les plans de test CSV et IQ/OQ/PQ doivent explicitement tester le comportement de l’IA dans différentes conditions (nominales, limites, défaillance, sécurité). Les preuves de validation doivent documenter la version du modèle et des données testées, ainsi que la configuration de la surveillance après la mise en production. Les règles de conservation et d’archivage doivent garantir l’accessibilité des journaux relatifs à l’IA, des métadonnées du modèle et des principaux jeux de données pour la reconstitution des événements des années plus tard. Si votre validation ignore les dimensions de confiance, elle est non conforme à la norme TR 24028 et aux nouvelles exigences.

14) Comment la TR 24028 s'intègre opérationnellement aux différents systèmes

Exécution (MES, WMS, automatisation). Les concepts de confiance de la norme TR 24028 s'appliquent à l'IA dans la planification, le routage, la détection d'anomalies, la proposition de points de consigne et les contrôles qualité. Les systèmes doivent limiter le rôle de l'IA à des fonctions consultatives lorsque cela est approprié, exiger une validation humaine pour les décisions à haut risque et fournir aux opérateurs le contexte et les explications nécessaires. Les modifications apportées par l'IA aux lots, aux étiquettes ou à l'état des équipements doivent être soumises aux mêmes contrôles que les systèmes non-IA.

Qualité et gestion des risques qualité. Les équipes qualité utilisent la norme TR 24028 comme cadre conceptuel pour les entrées relatives à l'IA dans le registre des risques , les écarts/non-conformités et les actions correctives et préventives (CAPA) . Elle définit également les critères d'acceptation ou de refus des fonctionnalités d'IA des fournisseurs dans les équipements, les instruments de laboratoire ou les outils SaaS.

Plateformes de données et informatiques. Les équipes de données et informatiques utilisent la norme TR 24028 pour structurer les plateformes d'IA : un modèle commun pour la journalisation, la sécurité, les registres de modèles, la surveillance et la restauration, afin que chaque cas d'utilisation de l'IA hérite de contrôles de fiabilité de base plutôt que de créer des modèles sur mesure à chaque fois.

Gouvernance et revue de gestion. Les comités de pilotage et les revues de gestion de l'IA utilisent la terminologie TR 24028 pour aborder les risques, les performances et les incidents de manière compréhensible pour les dirigeants et les organismes de réglementation. Au lieu de se contenter d'affirmer que « notre IA fonctionne », ils mettent l'accent sur la fiabilité, la robustesse, la transparence, l'équité et la responsabilité, en s'appuyant sur des preuves.

15) FAQ

Q1. La norme ISO/IEC TR 24028 est-elle une norme certifiable ?
Non. Le rapport technique TR 24028 n'est pas une norme de système de management certifiable. Les organisations ne peuvent pas être « certifiées » selon le TR 24028, mais elles peuvent aligner leurs pratiques de gouvernance, de gestion des risques et de validation de l'IA sur ses concepts de fiabilité et l'utiliser pour appuyer des certifications telles que… ISO/CEI 42001.

Q2. Quel est le lien entre la norme TR 24028 et la norme ISO/IEC 23894 ?
La norme TR 24028 définit ce à quoi ressemble la fiabilité en matière d'IA : fiabilité, robustesse, sécurité, équité, transparence, etc. ISO/CEI 23894 décrit comment gérer les risques liés à l'IA grâce à un processus de gestion des risques structuré. Ensemble, ils fournissent à la fois propriétés vous voulez et le processus pour les atteindre et les maintenir.

Q3. La norme TR 24028 couvre-t-elle l'IA générative et les grands modèles de langage ?
Oui, en principe. La norme TR 24028 est indépendante de toute technologie ; ses propriétés de fiabilité s’appliquent à tout système d’IA dont les résultats influencent les décisions ou les conséquences. L’IA générative et les grands modèles de langage soulèvent des défis spécifiques en matière de robustesse, de sécurité, de transparence et de risque d’utilisation abusive, mais ils sont néanmoins évalués selon les mêmes critères de confiance.

Q4. Quel est le lien entre la TR 24028 et la loi européenne sur l'IA ?
La loi européenne sur l'IA définit les obligations légales et les catégories de risques liés à l'IA ; la norme TR 24028 propose une méthode structurée pour évaluer la fiabilité d'un système selon des critères pertinents. L'utilisation des concepts de la norme TR 24028 aide les organisations à concevoir et à documenter des contrôles favorisant la conformité à la loi sur l'IA, notamment pour les systèmes à haut risque. Cependant, la norme TR 24028 ne constitue pas, à elle seule, un cadre de conformité juridique.

Q5. Qui devrait être responsable de la mise en œuvre de la norme TR 24028 dans une entreprise réglementée ?
La responsabilité doit être partagée : le responsable Qualité et Risques/Conformité est en charge de la gouvernance et de la documentation ; le responsable IT/Données est responsable de la plateforme et des contrôles de sécurité ; les Opérations sont responsables de l’intégration de l’IA dans les systèmes MES/WMS/d’automatisation ; et les Affaires Réglementaires veillent à la conformité avec les attentes externes. Si la « confiance en matière d’IA » repose uniquement sur les data scientists, elle ne résistera pas aux audits, aux incidents ou aux changements organisationnels.


Lecture connexe
• Gouvernance et risques liés à l'IA :
ISO/CEI 42001 | ISO/CEI 23894 | BxP
• Intégrité et validation :
L'intégrité des données | ALCOA + | CSV |VMP | Piste d'audit (GxP)
• Exécution et enregistrements :
MOIS | eBR | eMMR | CPV | Déviation/NCR | CAPA



NOS SOLUTIONS

Trois systèmes. Une expérience fluide.

Découvrez comment V5 MES, QMS et WMS fonctionnent ensemble pour numériser la production, automatiser la conformité et suivre l'inventaire, le tout sans paperasse.

Exécution de la fabrication (MES)

Contrôlez chaque lot, chaque étape.

Dirigez chaque lot, mélange et produit avec des flux de travail en direct, l'application des spécifications, le suivi des écarts et la révision des lots, sans avoir besoin de presse-papiers.

  • Cycles de lots plus rapides
  • Production sans erreur
  • Traçabilité électronique complète
EN SAVOIR PLUS

Gestion de la qualité (QMS)

Appliquez la qualité, pas la paperasse.

Capturez chaque SOP, vérification et audit avec conformité en temps réel, contrôle des écarts, flux de travail CAPA et signatures numériques, sans classeur nécessaire.

  • Conformité 100 % sans papier
  • Alertes d'écart instantanées
  • Toujours prêt pour l'audit
En Savoir Plus

Gestion d'entrepôt (WMS)

Un inventaire auquel vous pouvez faire confiance.

Suivez chaque sac, lot et palette grâce à l'inventaire en temps réel, la séparation des allergènes, le contrôle des dates de péremption et l'étiquetage automatisé.

  • Traçabilité complète des lots et des dates de péremption
  • FEFO/FIFO appliqué
  • Précision des stocks en temps réel
En Savoir Plus

Vous êtes en excellente compagnie

  • Que peut-on faire pour vous aider aujourd'hui?

    Nous sommes prêts quand vous l'êtes.
    Choisissez votre chemin ci-dessous — que vous recherchiez un essai gratuit démonstration en direct configuration personnalisée, notre équipe vous guidera à chaque étape.
    Commençons — remplissez le formulaire rapide ci-dessous.

    Vos informations sont sécurisées et ne seront utilisées que pour répondre à votre demande.