Voiko tekoälyyn luottaa teollisuudessa?

Hallittu, läpinäkyvä tekoäly

Tekoälyn vastuullinen käyttö V5:ssä – ISO 42001, tekoälyn luotettavuus, riskienhallinta ja GMP-todellisuus

Tekoäly saapuu maahan MES, QMS ja WMS alustoja kauan ennen kuin sääntelyviranomaiset ovat saaneet määriteltyä odotuksensa. Biotieteiden, elintarvikkeiden, kosmetiikan ja kemikaalien valmistajat ovat jumissa "tekoälyn lisäämisen" paineen ja todellisuuden välillä, että GMP, tietojen eheys ja validointi eivät ole kadonneet minnekään. Ydinkysymys ei ole: "Onko teillä tekoälyä?", vaan: "Voitteko todistaa, että tekoäly ei heikennä prosessin hallintaanne?"

SG Systems Global on ottanut tarkoituksella konservatiivisen kannan V5-jäljitettävyysV5 ei ole musta laatikko -tekoälyalusta. Se on kovaportainen toteutusjärjestelmä joka voi sisällyttää älykkyyttä tavalla, joka pysyy läpinäkyvänä, tarkistettavana ja auditoitavana. Tekoälyn käyttö on rajoittuu hyväksyntäprosessien, allekirjoitusten ja tarkastuspolkujen avulla 21 CFR-osa 11, tietojen eheys odotukset ja nykyaikaiset ohjeet tekoälyn hallintaan.

”Filosofiamme on yksinkertainen: tekoäly voi ehdottaa, mutta se ei voi tehdä hiljaisia ​​päätöksiä. V5:ssä jokainen tekoälyn avustama toimenpide on jäljitettävissä, tarkasteltavissa ja samojen valvontatoimien alainen kuin mikä tahansa muu GMP-kriittinen vaihe.”

— Laatupäällikkö, valvottu valmistaja

Tekoälyn standardimaisema säännellyssä valmistuksessa

Useat standardit ja ohjeasiakirjat muokkaavat nyt odotuksia tekoälyn vastuulliselle käytölle. Kolme tärkeimmistä ovat:

Säännellyssä valmistuksessa nämä uudet tekoälystandardit perustuvat tuttuihin perusteisiin:

Asiakkaille käytännön kysymys kuuluu: onko alustan tekoälyn toiminta näiden periaatteiden mukainen, ja voidaanko tämä yhdenmukaisuus osoittaa tarkastuksen aikana, eikä sitä voida vain luvata diaesityksessä?

Mitä "tekoäly V5:ssä" oikeastaan ​​tarkoittaa

V5:ssä ”tekoäly” ei tarkoita hallitsemattomien, suurten kielimallien syöttämistä suoraan erätietueisiin, merkintöihin tai julkaisupäätöksiin. Sen sijaan V5 keskittyy seuraaviin asioihin:

  • Deterministiset säännöt ja kova portti toteutusvaiheista.
  • Avustetut toiminnot jossa tekoäly ehdottaa sisältöä (esim. koulutusluonnoksia, asiakirjojen yhteenvetoja), mutta ei voi ohittaa hyväksyntäprosesseja.
  • Tiukka erottelu ehdotuskerrosten ja GMP-kriittisten tietueiden välillä, kuten eBMR, DHR ja MMR.
  • Minimaaliset ulkoiset API:t, ja tuodut tiedot reititetään hyväksynnän työnkulkuja ja tarkastukset ennen käyttöä.
  • Auditointivalmiit lokit mihin tahansa tekoälyn avustamaan tapahtumaan, joka on sidottu käyttäjiin, resursseihin ja tontteihin.

Kun V5 integroituu ulkoiseen tekoälyyn (esimerkiksi koulutussisällön avustamiseksi), integraatio toimii kontrolloidussa hiekkalaatikossa. Tulosteita käsitellään seuraavasti: luonnoksia jotka on tarkastettava ja hyväksyttävä ennen kuin niistä tulee osa valvottua laatujärjestelmää.

ISO/IEC 42001 – Tekoälyn hallintajärjestelmä ja V5-hallintomalli

ISO / IEC 42001 määrittelee, miten organisaatio rakentuu AI-hallintajärjestelmä (AIMS)käytännöt, roolit, riskienarviointi, kontrollit, dokumentointi ja parantaminen. Se on ISO 9001- tai ISO 27001 -standardin tekoälyanalogi, mutta keskittyy tekoälytoimintojen hallintaan.

V5 on suunniteltu mukavasti tällaisen AIMS-laitteen sisälle. Korkealla tasolla:

  • Laajuus – Asiakkaat voivat eksplisiittisesti määrittää, mitkä V5-ominaisuudet käyttävät tekoälyä (jos mitään) ja lukita muut vain deterministisiin sääntöihin.
  • Roolit ja vastuut – Tekoälyllä avustetut ominaisuudet voidaan rajoittaa määriteltyihin rooleihin, ja niiden on noudatettava dokumentoituja käytäntöjä SOP.
  • Riskien arviointi – kutakin tekoälyn käyttötapausta voidaan arvioida samoilla laaturiskienhallintatyökaluilla, joita on jo käytetty prosessi- tai laitemuutoksiin.
  • Valvontatoimenpiteet – V5:n kovat valvontaprosessit, hyväksynnät ja tarkastuslokit muodostavat konkreettisen ”ohjauskerroksen” tekoälyehdotuksille tai tuodulle sisällölle.
  • Seuranta ja parantaminen – V5 tarjoaa tapahtumalokeja ja mittareita, joita voidaan hyödyntää organisaation AIMS-tarkistussyklissä.

Tuloksena on, että tekoäly ei koskaan ole laatujärjestelmän "yläpuolella". Siitä tulee yksi syöte hyvin määriteltyyn digitaaliseen ympäristöön, jossa jokainen toimenpide kirjataan ja jokainen kriittinen päätös pysyy ihmisen hallinnassa.

ISO/IEC TR 24028 – Tekoälyn luotettavuus GMP-työnkulkujen sisällä

ISO/IEC TR 24028 -standardin keskittyy tekoälyn tekemiseen luotettava: vankka, turvallinen, läpinäkyvä ja ihmisille ymmärrettävä. GMP- tai GFSI-ympäristössä tämä tarkoittaa:

  • Ei näkymättömiä muutoksia suoraan tekoälyn ohjaamiin eräohjeisiin, etiketteihin tai tarkastussuunnitelmiin.
  • Selitettävät ehdotukset – esimerkiksi osoittamalla, miksi poikkeamaluokitusta tai koulutuksen päivitystä ehdotettiin.
  • Rajattu autonomia – Tekoäly ei voi tehdä sääntelypäätöstä; se voi ainoastaan ​​tukea allekirjoittavaa ihmistä.
  • Tietoturva- ja yksityisyydensuojan hallinta – ulkoisille tekoälypalveluille lähetettävä data on rajoitettua, anonymisoitua mahdollisuuksien mukaan ja sitä säännellään toimittajasopimuksilla.

V5:ssä luotettavuus saavutetaan vähemmän tekemällä malleista monimutkaisempia ja enemmän kaventamalla tilaa, jossa heidän sallitaan toimiaAlusta on rakennettu deterministiselle ohjaukselle punnitus ja annostelu, etikettien hallinta, sukututkimus ja pidä / vapautaKaikki tekoälyavustukset on kytkettävä olemassa oleviin kaiteisiin.

ISO 23894 – Tekoälyriskienhallinta linjassa laaturiskienhallinnan kanssa

ISO 23894 soveltaa tuttua riskien tunnistamisen, analysoinnin, arvioinnin ja hoidon logiikkaa tekoälyyn liittyviin riskeihin. Valmistajille, jotka jo käyttävät työkaluja, kuten VVA, PFMEA or HAZOP, tämä on luonnollinen jatke.

Tyypillisiä tekoälyyn liittyviä riskikysymyksiä V5-ympäristössä ovat:

  • Voisiko tekoälyn ehdotus vaikuttaa poikkeama luokittelua tai CAPA:a tavalla, joka peittää kriittisen trendin?
  • Voisiko ulkoinen tekoälyn syöte vioittaa spesifikaatiotietoja, joita käytetään etiketin vahvistus vai vapauttamispäätöksiä?
  • Käytetäänkö mitään tekoälyavusteista toimintoa prosessin validointija jos on, niin miten se on dokumentoitu?

Koska V5 tukee jo strukturoituja riskirekisterit, muuta ohjausta ja validoinnin pääsuunnitelmatasiakkaat voivat laajentaa näitä viitekehyksiä tekoälyyn keksimättä rinnakkaista järjestelmää. Tekoälyä kohdellaan vain yhtenä mahdollisena riskitekijänä, jota on analysoitava ja hallittava.

21 CFR osa 11, Tietojen eheys ja tekoälyn luoma sisältö

Kun tekoäly koskettaa mitä tahansa, josta tulee osa pysyvää valmistustietoa – eräohjeita, eritelmiä, etikettejä, poikkeamia, tutkimuksia, koulutusta – sen tuotokset ovat alttiita 21 CFR-osa 11 ja ALCOA +V5 käsittelee tekoälyn luomia luonnoksia kontrolloimaton kunnes pätevä käyttäjä:

  • Arvostelee alustan sisällön.
  • Muokkaa sitä tarvittaessa.
  • Hyväksyy ja siirtää sen hallituksi asiakirjaksi tai tietueeksi vakiotyönkulkujen avulla.

Jokainen askel jättää jälkeensä Kirjausketju: kuka tarkisti, mitä muutettiin, kuka allekirjoitti, milloin se tuli voimaan. Tekoälymoottori ei koskaan kirjoita suoraan julkaistuun versioon SOP, MMR-todistus tai etiketin kuvitus. Tämä erottelu on kriittistä, kun järjestelmää selitetään tarkastajille.

GAMP 5, CSA ja tekoälyavusteisten työnkulkujen validointi

Alle GAMP 5, keskitytään validointiin käyttötarkoitukseenTekoälyavusteisten ominaisuuksien osalta V5 tukee:

  • Dokumentoidut kuvaukset siitä, mitä tekoälyominaisuus saa tehdä (ja mitä se ei saa tehdä).
  • Konfiguraatiotiedot, jotka osoittavat, miten ominaisuus on otettu käyttöön, rajoitettu tai poistettu käytöstä toimipaikattain.
  • Testaa näyttöä siitä, että tekoälyn ehdotukset eivät voi ohittaa vaadittuja hyväksyntöjä tai muuttaa valvottuja tietueita suoraan.
  • Jatkuvat seurantatiedot jatkuvan hallinnan osoittamiseksi ajan kuluessa.

Esiin nouseva CSV / CSA-ajattelutapa on keskittää validointityö sinne, missä riski on suurin. V5:ssä tämä tarkoittaa, että eniten huomiota kiinnitetään siihen, miten tekoälyllä avustetut ominaisuudet ovat yhteydessä seuraaviin:

Koska V5 on jo käytössä validoituna alustana, tekoälyllä avustetut ominaisuudet on asemoitu seuraavasti: konfiguroitavat asetukset hallitsemattomien lisäosien sijaan. Asiakkaat voivat ottaa ne käyttöön, poistaa ne käytöstä tai rajoittaa niitä laitoskohtaisesti, tuoteperhekohtaisesti tai roolikohtaisesti osana omaa validointistrategiaansa.

Hyvät vs. huonot tekoälymallit tuotantotiloissa

Hyvät kuviot

  • Tekoäly ennen ehdottaa SOP-teksti, koulutuskyselyt tai tutkintakertomukset, joita aina seuraa ihmisen tekemä tarkistus ja hyväksyntä V5:ssä.
  • Tekoälyä käytetään poikkeamien, valitusten tai OOS-tulosten kaavojen korostamiseen, mikä syötetään strukturoituun analyysiin perussyyanalyysimenetelmiä.
  • Tekoälyä käytetään apuna tietueiden luokittelussa tai tehtävien reitityksessä, kun taas varsinaiset päätökset ja allekirjoitukset pysyvät valtuutetuilla käyttäjillä.
  • Kaikki tekoälyn toiminta tallennetaan kirjausketjut, laadunvarmistukselle ja tarkastajille näkyvissä.

Huonot kuviot

  • Hallitsemattomia ulkoisia chat-työkaluja, joita käytetään eräohjeiden, etikettien tai validointiprotokollien suunnitteluun ilman jäljitettävyyttä.
  • Tekoäly muokkaa suoraan julkaistuja dokumentteja asiakirjahallintajärjestelmässä tai muuttaa kriittisiä spesifikaatioarvoja.
  • Autonomiset agentit sulkevat poikkeamia tai CAPA-toimenpiteitä tai muuttavat julkaisun tilailman ihmisen tarkistusta.
  • Ei ole selkeää tietoa siitä, mikä kehotus johti mihinkin muutokseen, mikä tekee tutkinnasta mahdotonta.

V5 on suunniteltu mahdollistamaan ensimmäinen joukko kuvioita ja estämään rakenteellisesti toinen. Vaikka tekoälyn ominaisuudet laajenevat, periaate pysyy samana: Tekoäly voi tiedottaa, mutta se ei toimi hiljaa.

Esimerkki: Tekoälyavusteinen koulutus ja dokumenttienhallinta V5:ssä

Käytännön esimerkki on koulutussisältö ja menettelytapadokumentaatio. Monissa tehtaissa aiheen asiantuntijoilla on vaikeuksia pitää SOP:t ja koulutusmoduulit synkronoituna prosessimuutosten kanssa. Tekoäly voi auttaa tässä – jos toteutus on hallittua.

Tyypillisessä V5-skenaariossa:

  1. Prosessin omistaja päivittää reitityksen tai kaavan versiossa V5. Tämä muutos kirjataan lokiin muuta ohjausta.
  2. Järjestelmä merkitsee toisiinsa liittyvät SOP:t ja koulutusyksiköt, jotka saattavat vaatia tarkistamista.
  3. Tekoälyavustaja voi ehdottaa päivitettyjä sanamuotoja tai tietokilpailukysymyksiä uuden prosessin perusteella, mutta nämä ovat edelleen luonnoksia.
  4. Laadunvarmistus- ja koulutushenkilöstö tarkistaa, säätää ja hyväksyy uuden sisällön valvotussa asiakirjahallintajärjestelmässä ja koulutusmoduuleissa.
  5. Päivitetty koulutus määrätään koulutusmatriisi, ja V5 estää pääsyn GMP-kriittisiin seulontoihin valmiiksi saamiseen asti.

Tekoäly nopeuttaa luonnosteluvaihetta, mutta ei korvaa omistajuutta, tarkistusta tai hyväksyntää. Kaikki tavanomaiset hallintatoiminnot – versiointi, allekirjoitukset ja voimaantulopäivät – pysyvät ennallaan.

Ulkoiset viitteet tekoälyn hallintaan

Seuraavat ulkoiset dokumentit ovat hyödyllisiä viitekohtia tiimeille, jotka rakentavat omaa tekoälyn hallintakehystään V5:n ympärille (kaikki avautuvat uusiin välilehtiin):

Nämä ulkoiset lähteet yhdistettynä sisäiseen laatujärjestelmään ja V5-ohjauskehykseen muodostavat perustan puolustettavissa olevalle tekoälystrategialle säännellyssä valmistuksessa.

Aiheeseen liittyvä SG Systemsin sanasto ja artikkelit

Bottom line: Tekoäly on hyväksyttävää säännellyssä valmistuksessa vain, jos se toimii vahvan hallintokehyksen sisällä. V5 rakennetaan aluksi vaatimustenmukaisuustason suoritusjärjestelmäksi. Tekoäly sallitaan kyseiseen ympäristöön samoilla ehdoilla kuin mikä tahansa muu kriittinen toiminto: dokumentoitu, riskiarvioitu, validoitu ja aina ihmisen valvonnassa.

Jaa tämä? 

Related Posts

TAKAISIN UUTISIIN