ISO/IEC TR 24028 — AI-pålitelighet (pålitelighet, robusthet, åpenhet og ansvarlighet)

Dette emnet er en del av SG Systems Global ordliste over regulatoriske forhold og drift.

Oppdatert november 2025 • ISO/IEC 22989, ISO/IEC 42001, ISO/IEC 23894 • Kvalitet, IT, Datavitenskap, Regulatorisk, Produksjon

ISO/IEC TR 24028 er den sentrale tekniske rapporten som definerer hva det vil si at kunstig intelligens er pålitelig . Den katalogiserer de viktigste egenskapene – pålitelighet, robusthet, sikkerhet, personvern, åpenhet, rettferdighet og ansvarlighet – og forklarer hvordan de samhandler gjennom hele AI-livssyklusen. TR 24028 sertifiserer ikke systemer eller foreskriver én arkitektur; i stedet gir den organisasjoner, revisorer og regulatorer et felles språk for å bedømme om en AI-aktivert prosess kan stoles på. I regulerte operasjoner (farmasi, medisinsk utstyr, mat, kosmetikk, kjemikalier) er det dette språket som skiller «eksperimentelle verktøy» fra AI som er egnet til å sitte i et validert QMS , MES eller LIMS.

«Pålitelig AI handler ikke om å like resultatet. Det handler om å kunne forutsi hvordan systemet oppfører seg, forklare hvorfor, motstå misbruk og vise et papirspor når noen spør hvem som har signert.»

1) Hvor TR 24028 befinner seg gjennom hele livssyklusen

TR 24028 er relevant fra den første AI-ideen og frem til modellutfasing. I konsept- og brukstilfelledesign bidrar den til å avgjøre om AI i det hele tatt er passende, og hvilke tillitsegenskaper som er mest kritiske (f.eks. sikkerhet kontra rettferdighet). I data- og modelldesign setter den forventninger til mangfold, balanse og robusthet overfor støy eller angrep. I trening og validering driver den dekning av normale og unormale forhold, ytelse for delpopulasjoner og stressscenarier. I utrulling og integrering informerer den om «human-in-the-loop»-design og fallback-strategier. I drift og overvåking rammer den hvordan du oppdager avvik, skjevhet og degradering. Og ved utfasing veileder den sikker solnedgang og bevisoppbevaring, slik at beslutninger påvirket av AI forblir sporbare år senere.

2) Reguleringsankre og systemkontroller

Selv om TR 24028 i seg selv ikke er en sertifiserbar standard, fremgår dens pålitelighetsterminologi av lover og retningslinjer. EUs KI-lov koder mange av TR 24028-egenskapene – robusthet, cybersikkerhet, åpenhet, kontroll av skjevheter og menneskelig tilsyn – inn i obligatoriske krav for KI-systemer med høy risiko. Regulatorer innen legemidler, utstyr og mat spør i økende grad om KI er pålitelig, forklarbar og underlagt menneskelig kontroll. I henhold til 21 CFR del 11 og vedlegg 11 må all KI som berører elektroniske registre støttes av sikker tilgangskontroll, e-signaturer med definert betydning og omfattende GxP-revisjonsspor . TR 24028 er den konseptuelle broen mellom disse regulatoriske forventningene og den konkrete oppførselen til dine KI-aktiverte arbeidsflyter.

3) Dimensjoner for pålitelighet i TR 24028

TR 24028 organiserer pålitelighet av AI i et sett med tilbakevendende temaer. Pålitelighet – AI-en oppfører seg konsekvent under forventede forhold. Robusthet – den håndterer støy, variasjon og visse ondsinnede inndata på en elegant måte uten katastrofale feil. Sikkerhet – den skaper ikke uakseptabel risiko for skade på mennesker, produkter eller miljø. Sikkerhet – den motstår manipulering, svindel og uautorisert tilgang. Personvern – den respekterer prinsipper for databeskyttelse og minimerer eksponering av personlig eller sensitiv informasjon. Åpenhet og forklarbarhet – interessenter kan forstå hva systemet gjør, hvorfor og innenfor hvilke grenser. Rettferdighet – den unngår urettferdig skjevhet og diskriminerende påvirkning. Ansvarlighet – det er klare ansvarslinjer, med bevis på beslutninger og godkjenninger. Enhver seriøs AI-implementering i et regulert miljø trenger en posisjon mot hver av disse dimensjonene, ikke bare en vag "vi testet det"-erklæring.

4) Livssyklusvisning – Kartlegging av tillit til AI-aktiviteter

TR 24028 understreker at pålitelighet ikke er en engangstest; det er en livssyklusegenskap. I krav og design dokumenterer du tillitsmål og begrensninger (f.eks. "ingen enkeltpunkts AI-feil kan forårsake batchutgivelse uten menneskelig signering"). I datainnsamling og forberedelse sørger du for at datasett oppfyller behov for integritet, mangfold og personvern. I modellkonstruksjon foretrekker du arkitekturer og funksjonssett som muliggjør forklarbarhet og robusthet der det er nødvendig. I verifisering og validering kjører du skreddersydde tester for å undersøke sikkerhet, rettferdighet, robusthet og trygghet. I utrulling integrerer du AI i MES, LIMS, WMS og ERP på måter som respekterer eksisterende kontroller og menneskelige roller. I drift overvåker du ytelse, overstyrer mønstre og hendelser; og ved pensjonering deaktiverer eller begrenser du AI på en sikker måte samtidig som du bevarer logger, sammendrag av treningsdata og dokumentasjon for senere gjennomgang.

5) Tillitskriterier og appetitt – regler, ikke markedsføring

Å erklære AI som «pålitelig» betyr ingenting uten klare kriterier. TR 24028 forutsetter at du definerer akseptgrenser – nøyaktighetsområder, robusthetsmarginer, tillatte biasdeltaer, maksimalt akseptable falske positive/negative rater, personverngarantier og krav til forklaringsevne – for hvert brukstilfelle. Mer risikable brukstilfeller (f.eks. AI-rådgivning om batchutgivelse, unntakshåndtering i eBR eller kvalitetsoverstyringer) krever strengere terskler, sterkere reserveløsninger og mer konservativt menneskelig tilsyn. Disse tillitskriteriene bør skrives inn i QMS-dokumenter og risikoregistre , ikke improviseres av utviklere under tidspress eller behandles som myke markedsføringspåstander i lysbildefremvisninger.

6) Tillitsegenskaper – Kontroller som faktisk biter

For hver tillitsdimensjon forventer TR 24028 konkrete kontroller. Pålitelighet håndheves av god testing, endringskontroll og overvåkede tjenestenivåmålinger. Robusthet håndheves av stresstesting, kontradiktoriske sonder, inputvalidering og sikre fallback-moduser når forholdene avviker fra det trente rammeverket. Sikkerhet håndheves av vakter i MES/HMI-logikk, prosessbegrensninger og menneskelig signering for handlinger med stor innvirkning. Sikkerhet håndheves av herdede API-er, ansvarsdeling og sikker konfigurasjon av sky- og lokale komponenter. Personvern håndheves av minimering, anonymisering/pseudonymisering og streng tilgangskontroll. Åpenhet håndheves av modelldokumentasjon, forklaringer av funksjoner/beslutninger og brukergrensesnitt som viser kontekst og tillit. Rettferdighet håndheves av datagransking, undergruppetesting og begrensninger på bruk der skjevhet ikke kan reduseres tilstrekkelig. Ansvarlighet håndheves av roller, godkjenninger og revisjonsspor som knytter spesifikk AI-atferd til en ansvarlig eier og versjon.

7) Typiske tillitssvikt – og hvordan man kan bevise dem

Stille ytelsesavvik: Modellnøyaktigheten forringes etter hvert som prosesser, materialer eller populasjoner endres; vist ved trender i falskt positive/negative rater og overstyringer. Skjult skjevhet: dårligere ytelse på bestemte grupper, nettsteder eller produktfamilier; vist ved undergruppeanalyse som aldri ble gjort – eller gjort for sent. Sikkerhetssvakheter: eksponerte endepunkter, svak autentisering eller stier for rask injeksjon; vist ved penetrasjonstester og hendelseslogger. Mangel på åpenhet: ingen kan forklare hva modellen gjør eller hvorfor; vist ved manglende dokumentasjon, ugjennomsiktige funksjoner og brukerforvirring. Overautomatisering: operatører behandler AI som ufeilbarlig; vist ved lave overstyringsrater selv når hendelser viser at AI-en tok feil. TR 24028 forventer at disse feilmodusene vises eksplisitt i tillitsvurderingene dine, sammen med kontroller og overvåking, ikke som overraskelser i rapporter etter hendelser.

8) Avhending av tillitsspørsmål – Risiko først, ikke kosmetikk

Når problemer med AI-tillit oppstår, innebærer TR 24028 at organisasjoner må håndtere dem slik de ville gjort med andre kritiske risikoer. Tekniske utbedringer inkluderer omskolering på bedre data, endring av arkitekturer, stramme inn terskler, styrket validering av input eller begrensning av omfanget av AI-beslutninger. Prosedyretiltak inkluderer nye SOP-er, oppdaterte opplæringsmatriser , klargjorte eskaleringsbaner og reviderte grenser for brukstilfeller. Styringsresponser inkluderer å sette visse AI-funksjoner på pause, omklassifisere risikonivåer eller underkaste systemet ytterligere gjennomgang før bruk gjenopptas. Kosmetiske endringer – et nytt dashbord, en omformulert brukermelding – er ikke nok; TR 24028 krever at tillitsproblemer behandles som alle andre betydelige kvalitets- eller sikkerhetsproblemer, med varige rettelser og dokumenterte resultater.

9) CAPA, endringskontroll og forvaltning av AI-livssyklus

I regulerte miljøer hører betydningsfulle tillitshull hjemme innenfor CAPA og endringskontroll , ikke bare i etterslep innen datavitenskap. CAPA kan målrettes mot redusert skjevhet, forbedret robusthet, høyere åpenhet eller lavere hendelsesrater, med effektivitetskontroller knyttet til målinger. Endringskontroll bør styre nye modeller, betydelig omskolering, arkitekturendringer og integrasjonsmodifikasjoner som påvirker hvordan AI påvirker MES/eBMR-, LIMS- eller WMS-beslutninger. TR 24028 forteller i hovedsak organisasjoner: behandle AI-systemer som langlivede eiendeler med forvaltningsansvar – ikke som engangseksperimenter som forsvinner etter at det første prosjektet er avsluttet.

10) Forebygging gjennom design – brukstilfelle, brukeropplevelse og menneskelige faktorer

TR 24028 presser organisasjoner til å bygge tillit til AI-design, ikke å legge det til etter hendelser. På brukstilfellenivå betyr det å nekte AI der datakvalitet, kontrollerbarhet eller tilsyn ikke kan oppfylle tillitsgrenser. På brukergrensesnittnivå betyr det å tydelig merke AI-utdata, vise tillit og begrunnelse der det er passende, og gjøre det enkelt å utfordre eller overstyre AI-anbefalinger. På menneskelige faktorer-nivå betyr det å sikre at operatører, anmeldere og godkjennere forstår AI-funksjoner og begrensninger, vet når de skal mistro den, og ikke blir overbelastet med ugjennomsiktige varsler. Pålitelig AI er ofte mindre prangende og mer konservativ enn "demo-grade" AI – men den overlever revisjoner og stress i den virkelige verden.

11) Overvåking og tidlig varsling – Tillit via SPC og OOT

Tillit er ikke permanent; den fornyes gjennom overvåking. TR 24028 samsvarer naturlig med SPC-kontrollgrenser og Out-of-Trend (OOT) -konsepter som brukes i prosess- og kvalitetsovervåking. Organisasjoner bør følge trender for AI-målinger over tid: modellnøyaktighet, feiltyper, undergruppeytelse, overstyringsrater, latens, antall hendelser og sikkerhetshendelser. OOT-deteksjon på disse målene kan utløse undersøkelser og revalidering før AI-atferd blir et kvalitets- eller sikkerhetsproblem. I veldrevne miljøer fanges de fleste AI-problemer opp internt via slik overvåking, ikke via kundeklager eller inspeksjonsfunn.

12) Målinger som viser at pålitelighet er under kontroll

Konkrete målinger gjør TR 24028 håndgripelig. Spor hvor mange AI-systemer som er i bruk, med risikoklassifisering og tildelte eiere. Mål hvor stor prosentandel av dem som har gjeldende tillitsvurderinger og overvåkingsplaner. Spor AI-relaterte avvik/NCR , klager og nestenulykker, og hvor mange som resulterer i CAPA eller endringskontroll. Overvåk undergruppers ytelse for å sikre at rettferdighetsforpliktelser oppfylles. Spor opplæringsfullføring fra opplæringsmatrisen for roller som bruker eller godkjenner AI-utganger. Og overvåk overstyringsmønstre: både «null overstyringer» og «konstante overstyringer» kan indikere tillitsproblemer. Samlet sett flytter disse målingene «pålitelighet» fra ambisjon til målbar virkelighet.

13) Validering av AI-aktiverte arbeidsflyter

For AI innebygd i GxP-relevante arbeidsflyter, må TR 24028-tillitskonsepter vises i validering. Krav bør spesifisere ikke bare funksjonalitet, men også tillitsattributter: robusthetsområder, forventninger til transparens, personvernbegrensninger og akseptable feilprofiler. CSV- og IQ/OQ/PQ -testplaner bør eksplisitt utfordre AI-atferd under forskjellige forhold (nominell, kant, feil, sikkerhet). Valideringsbevis bør dokumentere hvilken versjon av modellen og dataene som ble testet, og hvordan overvåking er konfigurert etter lansering. Regler for oppbevaring og arkivering må sikre at AI-relaterte logger, modellmetadata og viktige datasett forblir tilgjengelige for rekonstruksjon av hendelser år senere. Hvis valideringen ignorerer tillitsdimensjoner, er den ute av takt med TR 24028 og nye forventninger.

14) Hvordan TR 24028 passer driftsmessig på tvers av systemer

Utførelse (MES, WMS, automatisering). TR 24028-tillitskonsepter gjelder for AI i planlegging, ruting, avviksdeteksjon, forslag til settpunkt og kvalitetsporter. Systemer bør begrense AI til rådgivende roller der det er hensiktsmessig, håndheve menneskelig gjennomgang for høyrisikobeslutninger og gi operatører kontekst og forklaringer. AI-endringer i batcher, etiketter eller utstyrstilstander må gå gjennom de samme kontrollene som ikke-AI-logikk.

Kvalitet og kvantitativ styring (QRM). Kvalitetsteam bruker TR 24028 som konseptuelt grunnlag for AI-relaterte oppføringer i risikoregisteret , avvik /NCR og CAPA . Den danner også grunnlaget for å godta eller avvise leverandørers AI-funksjoner i utstyr, laboratorieinstrumenter eller SaaS-verktøy.

Data- og IT-plattformer. Data- og IT-team bruker TR 24028 til å strukturere AI-plattformer: felles mønster for logging, sikkerhet, modellregistre, overvåking og tilbakerulling, slik at hvert AI-brukstilfelle arver grunnleggende pålitelighetskontroller i stedet for å lage skreddersydde mønstre hver gang.

Styring og ledelsesgjennomgang. Styringskomiteer for kunstig intelligens og ledelsesgjennomgang bruker TR 24028-språket for å diskutere risiko, ytelse og hendelser på en måte som gir mening for ledelsen og regulatorene. I stedet for «vår kunstig intelligens fungerer» snakker de om pålitelighet, robusthet, åpenhet, rettferdighet og ansvarlighet, støttet av bevis.

15) Vanlige spørsmål

Q1. Er ISO/IEC TR 24028 en sertifiserbar standard?
Nei. TR 24028 er en teknisk rapport, ikke en sertifiserbar standard for styringssystemer. Organisasjoner kan ikke «sertifiseres i henhold til» TR 24028, men de kan tilpasse sin praksis for styring, risikostyring og validering av kunstig intelligens med dens pålitelighetskonsepter og bruke den til å støtte sertifiseringer som ISO/IEC 42001.

Q2. Hvordan forholder TR 24028 seg til ISO/IEC 23894?
TR 24028 definerer hva troverdighet i AI ser ut – pålitelighet, robusthet, sikkerhet, rettferdighet, åpenhet osv. ISO/IEC 23894 beskriver hvordan man håndterer AI-risikoer ved hjelp av en strukturert risikoprosess. Sammen gir de både egenskaper du vil ha og prosess å oppnå og opprettholde dem.

Spørsmål 3. Dekker TR 24028 generativ AI og store språkmodeller?
Ja i prinsippet. TR 24028 er teknologiuavhengig; dens pålitelighetsegenskaper gjelder for ethvert AI-system hvis resultater påvirker beslutninger eller resultater. Generativ AI og store språkmodeller reiser spesifikke utfordringer for robusthet, sikkerhet, åpenhet og misbruk – men de evalueres fortsatt langs de samme tillitsdimensjonene.

Q4. Hvordan er TR 24028 knyttet til EUs kunstig intelligens-lov?
EUs KI-lov definerer juridiske forpliktelser og risikokategorier for KI; TR 24028 gir en strukturert måte å tenke på om et system er pålitelig langs relevante dimensjoner. Bruk av TR 24028-konsepter hjelper organisasjoner med å designe og dokumentere kontroller som støtter samsvar med KI-loven, spesielt for høyrisikosystemer, men TR 24028 i seg selv er ikke et juridisk samsvarsrammeverk.

Q5. Hvem bør eie implementeringen av TR 24028 i et regulert selskap?
Eierskap bør deles: Kvalitet og risiko/samsvar skal lede styring og dokumentasjon; IT/data skal lede plattform- og sikkerhetskontroller; Driftsavdelingen skal eie hvordan AI integreres i MES/WMS/automatisering; og Regulatory Affairs sikrer samsvar med eksterne forventninger. Hvis «AI-tillit» kun ligger hos dataforskere, vil den ikke overleve revisjoner, hendelser eller organisatoriske endringer.

Relatert Reading
• Styring og risiko for kunstig intelligens:
ISO/IEC 42001 | ISO/IEC 23894 | GxP
• Integritet og validering:
Dataintegritet | ALCOA+ | CSV |VMP | Revisjonsspor (GxP)
• Utførelse og registre:
MES | eBR | eMMR | CPV | Avvik/NCR | LOKK