ISO/IEC TR 24028 — AI-tillförlitlighet (tillförlitlighet, robusthet, transparens och ansvarsskyldighet)

Detta ämne är en del av SG Systems Global ordlista över regler och verksamhet.

Uppdaterad november 2025 • ISO/IEC 22989, ISO/IEC 42001, ISO/IEC 23894 • Kvalitet, IT, Datavetenskap, Regulatorisk hantering, Tillverkning

ISO/IEC TR 24028 är den centrala tekniska rapporten som definierar vad det innebär att artificiell intelligens är tillförlitlig . Den katalogiserar de viktigaste egenskaperna – tillförlitlighet, robusthet, säkerhet, integritet, transparens, rättvisa och ansvarsskyldighet – och förklarar hur de samverkar över AI:s livscykel. TR 24028 certifierar inte system eller föreskriver en enda arkitektur; istället ger den organisationer, revisorer och tillsynsmyndigheter ett gemensamt språk för att bedöma om en AI-aktiverad process kan litas på. Inom reglerade verksamheter (läkemedel, medicintekniska produkter, livsmedel, kosmetika, kemikalier) är det språket som skiljer "experimentella verktyg" från AI som är lämplig att placeras inuti ett validerat QMS , MES eller LIMS.

”Tillförlitlig AI handlar inte om att gilla resultatet. Det handlar om att kunna förutsäga hur systemet beter sig, förklara varför, motstå missbruk och visa ett spår av dokument när någon frågar vem som godkänt.”

1) Var TR 24028 finns under hela livscykeln

TR 24028 är relevant från den första AI-idén till modellpensionering. I koncept- och användningsfallsdesign hjälper den till att avgöra om AI alls är lämplig och vilka förtroendeegenskaper som är mest kritiska (t.ex. säkerhet kontra rättvisa). I data- och modelldesign sätter den förväntningar på mångfald, balans och robusthet mot brus eller attacker. I träning och validering driver den täckning av normala och onormala förhållanden, delpopulationers prestanda och stresscenarier. I driftsättning och integration informerar den "human-in-the-loop"-design och reservstrategier. I drift och övervakning utformar den hur du upptäcker avvikelse, bias och försämring. Och vid pensionering vägleder den säker solnedgång och bevislagring så att beslut som påverkas av AI förblir spårbara år senare.

2) Regulatoriska ankare och systemkontroller

Även om TR 24028 i sig inte är en certifierbar standard, framträder dess tillförlitliga terminologi i lagar och riktlinjer. EU:s AI-lag kodar in många egenskaper i TR 24028 – robusthet, cybersäkerhet, transparens, partiskhetskontroll, mänsklig tillsyn – i obligatoriska krav för AI-system med hög risk. Tillsynsmyndigheter inom läkemedelsindustrin, läkemedelsindustrin och livsmedel frågar sig alltmer om AI är tillförlitlig, förklarbar och föremål för mänsklig kontroll. Enligt 21 CFR del 11 och bilaga 11 måste all AI som berör elektroniska register stödjas av säker åtkomstkontroll, e-signaturer med definierad innebörd och omfattande GxP-granskningsspår . TR 24028 är den konceptuella bron mellan dessa regulatoriska förväntningar och det konkreta beteendet hos dina AI-aktiverade arbetsflöden.

3) Tillförlitlighetsdimensioner i TR 24028

TR 24028 organiserar AI:s tillförlitlighet i en uppsättning återkommande teman. Tillförlitlighet – AI:n beter sig konsekvent under förväntade förhållanden. Robusthet – den hanterar brus, variation och vissa skadliga inmatningar på ett elegant sätt utan katastrofala fel. Säkerhet – den skapar inte oacceptabel risk för skada på människor, produkter eller miljö. Säkerhet – den motstår manipulering, bedrägerier och obehörig åtkomst. Integritet – den respekterar dataskyddsprinciper och minimerar exponeringen av personlig eller känslig information. Transparens och förklarlighet – intressenter kan förstå vad systemet gör, varför och inom vilka gränser. Rättvisa – den undviker orättvis partiskhet och diskriminerande påverkan. Ansvarsskyldighet – det finns tydliga ansvarslinjer, med bevis på beslut och godkännanden. Varje seriös AI-implementering i en reglerad miljö behöver en ståndpunkt gentemot var och en av dessa dimensioner, inte bara ett vagt "vi testade det"-uttalande.

4) Livscykelvy – Kartläggning av förtroende till AI-aktiviteter

TR 24028 betonar att tillförlitlighet inte är ett engångstest; det är en livscykelegenskap. I krav och design dokumenterar du tillitsmål och begränsningar (t.ex. "inget AI-fel på en enda punkt får orsaka batchrelease utan mänsklig signering"). Vid datainsamling och förberedelse säkerställer du att dataset uppfyller integritets-, mångfalds- och sekretessbehov. Vid modellkonstruktion föredrar du arkitekturer och funktionsuppsättningar som möjliggör förklarbarhet och robusthet där det behövs. Vid verifiering och validering kör du skräddarsydda tester för att undersöka säkerhet, rättvisa, robusthet och trygghet. Vid driftsättning bäddar du in AI i MES, LIMS, WMS och ERP på sätt som respekterar befintliga kontroller och mänskliga roller. I drift övervakar du prestanda, åsidosätter mönster och incidenter; och vid pensionering inaktiverar eller begränsar du AI på ett säkert sätt samtidigt som du bevarar loggar, sammanfattningar av träningsdata och dokumentation för senare granskning.

5) Förtroendekriterier och aptit – regler, inte marknadsföring

Att förklara AI vara "trovärdig" betyder ingenting utan tydliga kriterier. TR 24028 förutsätter att du definierar acceptanströsklar – noggrannhetsintervall, robusthetsmarginaler, tillåtna biasdelta, maximalt acceptabla falskt positiva/negativa frekvenser, integritetsgarantier och förklarbarhetskrav – för varje användningsfall. Mer riskfyllda användningsfall (t.ex. AI-rådgivning om batchrelease, undantagshantering i eBR eller kvalitetsåsidosättningar) kräver striktare trösklar, starkare reservlösningar och mer konservativ mänsklig tillsyn. Dessa förtroendekriterier bör skrivas in i QMS-dokument och riskregister , inte improviseras av utvecklare under tidspress eller behandlas som mjuka marknadsföringspåståenden i bildspel.

6) Tillitsfulla egenskaper – Kontroller som faktiskt biter

För varje förtroendedimension förväntar sig TR 24028 konkreta kontroller. Tillförlitligheten upprätthålls genom sunda tester, ändringskontroll och övervakade servicenivåmått. Robustheten upprätthålls genom stresstester, kontradiktoriska sonder, inmatningsvalidering och säkra reservlägen när förhållandena avviker från det tränade området. Säkerheten upprätthålls genom skydd i MES/HMI-logik, processbegränsningar och mänsklig signering för åtgärder med stor inverkan. Säkerheten upprätthålls genom härdade API:er, arbetsuppdelning och säker konfiguration av moln- och lokala komponenter. Integritet upprätthålls genom minimering, anonymisering/pseudonymisering och strikt åtkomstkontroll. Transparens upprätthålls genom modelldokumentation, förklaringar av funktioner/beslut och användargränssnitt som visar kontext och förtroende. Rättvisa upprätthålls genom datagranskning, undergruppstestning och begränsningar av användning där partiskhet inte kan mildras på ett adekvat sätt. Ansvarsskyldighet upprätthålls genom roller, godkännanden och revisionsspår som länkar specifikt AI-beteende till en ansvarig ägare och version.

7) Typiska misslyckanden med förtroende – och hur man bevisar dem

Tyst prestandaavvikelse: modellens noggrannhet försämras när processer, material eller populationer förändras; bevisas av trender i falskt positiva/negativa andelar och overrides. Dold bias: sämre prestanda på specifika grupper, platser eller produktfamiljer; bevisas av subgruppsanalys som aldrig gjordes – eller gjordes för sent. Säkerhetsbrister: exponerade slutpunkter, svag autentisering eller snabbinjektionsvägar; bevisas av penetrationstester och incidentloggar. Brist på transparens: ingen kan förklara vad modellen gör eller varför; bevisas av saknad dokumentation, ogenomskinliga funktioner och användarförvirring. Överautomatisering: operatörer behandlar AI som ofelbar; bevisas av låga overridesfrekvenser även när incidenter visar att AI:n hade fel. TR 24028 förväntar sig att dessa fellägen ska visas explicit i dina förtroendebedömningar, tillsammans med kontroller och övervakning, inte som överraskningar i rapporter efter incidenten.

8) Hantering av förtroendefrågor – risk först, inte kosmetika

När problem med AI-förtroende uppstår innebär TR 24028 att organisationer måste hantera dem på samma sätt som de skulle hantera andra kritiska risker. Tekniska åtgärder inkluderar omskolning på bättre data, ändrade arkitekturer, skärpta tröskelvärden, skärpning av validering av indata eller begränsning av AI:s beslutsomfång. Proceduråtgärder inkluderar nya standardoperationer (SOP), uppdaterade utbildningsmatriser , förtydligade eskaleringsvägar och reviderade gränser för användningsfall. Styrningsåtgärder inkluderar att pausa vissa AI-funktioner, omklassificera risknivåer eller att granska systemet ytterligare innan det återupptas. Kosmetiska förändringar – en ny instrumentpanel, ett omformulerat användarmeddelande – räcker inte; TR 24028 kräver att förtroendeproblem behandlas som alla andra betydande kvalitets- eller säkerhetsproblem, med varaktiga åtgärder och dokumenterade resultat.

9) CAPA, förändringskontroll och AI-livscykelhantering

I reglerade miljöer hör meningsfulla förtroendeglapp hemma inom CAPA och Change Control , inte bara i datavetenskapliga eftersläpningar. CAPA kan rikta in sig på minskad partiskhet, förbättrad robusthet, högre transparens eller lägre incidenter, med effektivitetskontroller kopplade till mätvärden. Change Control bör styra nya modeller, betydande omskolning, arkitekturförändringar och integrationsmodifieringar som påverkar hur AI påverkar MES/eBMR-, LIMS- eller WMS-beslut. TR 24028 säger i huvudsak till organisationer: behandla AI-system som långlivade tillgångar med förvaltningsansvar – inte som engångsexperiment som försvinner efter att det initiala projektet avslutats.

10) Förebyggande genom design – användningsfall, användarupplevelse och mänskliga faktorer

TR 24028 uppmanar organisationer att bygga förtroende i AI-design, inte att lägga till det efter incidenter. På användningsfallsnivå innebär det att vägra AI där datakvalitet, kontrollerbarhet eller tillsyn inte kan uppfylla förtroendetrösklar. På användargränssnittsnivå innebär det att tydligt märka AI-utdata, visa förtroende och motivering där så är lämpligt, och göra det enkelt att utmana eller åsidosätta AI-rekommendationer. På nivån med mänskliga faktorer innebär det att säkerställa att operatörer, granskare och godkännare förstår AI:s funktioner och begränsningar, vet när de ska misstro den och inte överbelastas med ogenomskinliga varningar. Tillförlitlig AI är ofta mindre flashig och mer konservativ än "demo-grade" AI – men den överlever revisioner och verklig stress.

11) Övervakning och tidig varning – förtroende via SPC och OOT

Förtroende är inte permanent; det förnyas genom övervakning. TR 24028 överensstämmer naturligt med SPC-kontrollgränser och Out-of-Trend (Out-of-Trend) -koncept som används i process- och kvalitetsövervakning. Organisationer bör följa trender för AI-mått över tid: modellens noggrannhet, feltyper, undergruppsprestanda, override-frekvenser, latens, incidentantal och säkerhetshändelser. OOT-detektering på dessa mätvärden kan utlösa utredningar och omvalidering innan AI-beteende blir ett kvalitets- eller säkerhetsproblem. I välskötta miljöer upptäcks de flesta AI-problem internt via sådan övervakning, inte via kundklagomål eller inspektionsresultat.

12) Mätvärden som visar att pålitligheten är under kontroll

Konkreta mätvärden gör TR 24028 konkret. Spåra hur många AI-system som används, med riskklassificering och tilldelade ägare. Mät hur stor andel av dem som har aktuella förtroendebedömningar och övervakningsplaner. Spåra AI-kopplade avvikelser/NCR , klagomål och nära attacker, och hur många som resulterar i CAPA eller ändringskontroll. Övervaka undergruppers prestanda för att säkerställa att rättviseåtaganden uppfylls. Spåra utbildningsslutförda från utbildningsmatrisen för roller som använder eller godkänner AI-output. Och övervaka åsidosättningsmönster: både "noll åsidosättningar" och "konstanta åsidosättningar" kan indikera förtroendeproblem. Tillsammans flyttar dessa mätvärden "tillförlitlighet" från ambition till mätbar verklighet.

13) Validering av AI-aktiverade arbetsflöden

För AI inbäddad i GxP-relevanta arbetsflöden måste TR 24028-förtroendekoncept synas i valideringen. Kraven bör specificera inte bara funktionalitet utan även förtroendeattribut: robusthetsintervall, transparensförväntningar, integritetsbegränsningar och acceptabla felprofiler. CSV- och IQ/OQ/PQ -testplaner bör explicit utmana AI-beteende under olika förhållanden (nominellt, edge, fel, säkerhet). Valideringsbevis bör dokumentera vilken version av modellen och data som testades, och hur övervakning konfigureras efter lansering. Regler för lagring och arkivering måste säkerställa att AI-relaterade loggar, modellmetadata och viktiga datamängder förblir tillgängliga för rekonstruktion av händelser år senare. Om din validering ignorerar förtroendedimensioner är den oförenlig med TR 24028 och framväxande förväntningar.

14) Hur TR 24028 passar operativt över olika system

Exekvering (MES, WMS, automatisering). TR 24028-förtroendekoncept gäller för AI inom schemaläggning, routing, avvikelsedetektering, förslag på börvärden och kvalitetsgrindar. System bör begränsa AI till rådgivande roller där så är lämpligt, tillämpa mänsklig granskning för högriskbeslut och ge operatörer sammanhang och förklaringar. AI-ändringar av batcher, etiketter eller utrustningstillstånd måste passera genom samma kontroller som icke-AI-logik.

Kvalitet och kvantitativ hantering (QRM). Kvalitetsteam använder TR 24028 som konceptuell grund för AI-relaterade poster i riskregistret , avvikelser/NCR och CAPA . Den ligger också till grund för kriterier för att acceptera eller avvisa leverantörers AI-funktioner i utrustning, laboratorieinstrument eller SaaS-verktyg.

Data- och IT-plattformar. Data- och IT-team använder TR 24028 för att strukturera AI-plattformar: gemensamt mönster för loggning, säkerhet, modellregister, övervakning och rollback, så att varje AI-användningsfall ärver grundläggande tillförlitlighetskontroller snarare än att skapa skräddarsydda mönster varje gång.

Styrnings- och ledningsgranskning. AI-styrkommittéer och ledningsgranskning använder TR 24028-språk för att diskutera risker, prestanda och incidenter på ett sätt som är begripligt för chefer och tillsynsmyndigheter. Istället för "vår AI fungerar" talar de i termer av tillförlitlighet, robusthet, transparens, rättvisa och ansvarsskyldighet, med stöd av bevis.

15) Vanliga frågor

F1. Är ISO/IEC TR 24028 en certifierbar standard?
Nej. TR 24028 är en teknisk rapport, inte en certifierbar standard för ledningssystem. Organisationer kan inte "certifieras enligt" TR 24028, men de kan anpassa sin AI-styrning, riskhantering och valideringspraxis till dess tillförlitlighetskoncept och använda den för att stödja certifieringar som ISO/IEC 42001.

F2. Hur relaterar TR 24028 till ISO/IEC 23894?
TR 24028 definierar vad tillförlitlighet inom AI innebär – tillförlitlighet, robusthet, säkerhet, rättvisa, transparens etc. ISO/IEC 23894 beskriver hur man hanterar AI-risker med hjälp av en strukturerad riskprocess. Tillsammans ger de både egenskaper du vill och process att uppnå och bibehålla dem.

F3. Omfattar TR 24028 generativ AI och stora språkmodeller?
Ja i princip. TR 24028 är teknikoberoende; dess tillförlitlighetsegenskaper gäller alla AI-system vars utdata påverkar beslut eller resultat. Generativ AI och stora språkmodeller medför specifika utmaningar för robusthet, säkerhet, transparens och missbruk – men de utvärderas fortfarande utifrån samma tillitsdimensioner.

F4. Hur kopplas TR 24028 till EU:s AI-lag?
EU:s AI-lag definierar rättsliga skyldigheter och riskkategorier för AI; TR 24028 ger ett strukturerat sätt att tänka på om ett system är tillförlitligt utifrån relevanta dimensioner. Att använda TR 24028-koncept hjälper organisationer att utforma och dokumentera kontroller som stöder efterlevnad av AI-lagen, särskilt för högrisksystem, men TR 24028 i sig är inte ett ramverk för rättslig efterlevnad.

F5. Vem bör äga implementeringen av TR 24028 i ett reglerat företag?
Ägarskapet bör delas: Kvalitet och risk/efterlevnad ska leda styrning och dokumentation; IT/data ska leda plattforms- och säkerhetskontroller; Verksamheten ska ansvara för hur AI integreras i MES/WMS/automation; och Regulatory Affairs säkerställer överensstämmelse med externa förväntningar. Om "AI-förtroende" endast ligger hos dataforskare kommer det inte att överleva revisioner, incidenter eller organisationsförändringar.

Relaterad läsning
• AI-styrning och risk:
ISO/IEC 42001 | ISO/IEC 23894 | GxP
• Integritet och validering:
Dataintegritet | ALCOA + | CSV |VMP | Revisionslogg (GxP)
• Utförande och register:
MES | eBR | eMMR | CPV | Avvikelse/NCR | KEPS