End-to-end arbeidsflyt, styring, autentisering og ansvarlig bruk

Gevinster:

• Evne til konsekvent å bygge inn AI på alle trinn fra design til drift, med menneskelige verifikasjonsporter og overgangsbetingelser med én setning
• Evne til å etablere et styringsrammeverk med godkjent kjøretøyliste, dataklassifisering, sporbarhet, opplæring og løpende verifisering
• Evne til å bygge inn prinsippene om menneskelig ansvar, sikkerhetsprioritet, verifisering, konfidensialitet, åpenhet og miljø-sosialt ansvar i arbeidsflyten

I de ti foregående enhetene har vi sett hvordan man kan bruke AI på en sikker måte i individuelle områder av kjemiteknikk – design, simulering, kinetikk, egenskapsprediksjon, optimalisering, kontrolldata, HAZOP, standardsøk og Python. I denne siste enheten setter vi delene sammen: Vi lærer hvordan vi bygger inn AI fra start til slutt av et prosjekt eller et anlegg med konsekvent disiplin, menneskelige verifikasjonsporter og en styringsstruktur – rammeverket som bestemmer reglene for hvilke verktøy, data og beslutninger skal brukes i en organisasjon. Målet er å bygge et lagdelt system som forhindrer en enkelt AI-feil i å krype inn i et design, en forretningsbeslutning eller et sikkerhetsdokument.

Den grunnleggende ideen er enkel: en menneskelig verifikasjonsport og en klar overgangsbetingelse er plassert på hvert trinn; Du kan ikke gå gjennom en dør uten å gå gjennom en annen. Dette er en livreddende struktur i kjemiteknikk, så vel som i rettsmedisinske eller medisinske felt - for også her har feil konsekvenser ikke på papiret, men i virkeligheten, på mennesker og miljø.

End-to-end arbeidsflyt: med verifikasjonsporter

La oss vurdere et kjemisk ingeniørprosjekt i fem faser og plassere rollen til AI og verifikasjonsporten i hver:

1. Design og konsept. AI genererer rutealternativer og PFD-utkast. Dør: opprettholdes materialbalansen for hånd, ble ruten valgt med ingeniørmessig skjønn?

2. Analyse og simulering. Oppsummerer AI-simuleringsutgang, gir kinetikk/egenskapsskisse. Gate: er den termodynamiske modellen passende, holder masse/energibalansen, er de kritiske verdiene avhengige av den eksperimentelle/databasekilden?

3. Optimalisering og dimensjonering. AI produserer optimaliserings- og beregningskodeutkast. Dør: er begrensningene komplette, er koden testet, er den i det optimale sikkerhetsvinduet?

4. Sikkerhet og samsvar. Gir AI HAZOP-skjelett og standardkart. Dør: Har fareanalysen blitt utført av et ekspertteam, er standardelementene verifisert fra primærkilden, er autorisert godkjenning innhentet?

5. Drift og overvåking. AI overvåker sensordata og flagger uregelmessigheter. Dør: signal ekte eller sensor, sikkerhetsbeskyttelse i uavhengig SIS?

Disse portene forhindrer at en enkelt ubekreftet utgang overføres til neste trinn. Selv om en feil rømmer, er det en god sjanse for at den blir fanget ved neste dør.

Tips: Skriv en "overgangsbetingelse" med én setning for hvert trinn og gjør den synlig for teamet: "Simulering kan ikke startes før materialbalansen er manuelt bekreftet." Slike klare regler sikrer at disiplinen opprettholdes selv under tidspress.

Styringsrammeverk: institusjonell disiplin

Individuell verifisering er bra, men det er behov for et styringsrammeverk i en fasilitetsskala. Fem nøkkelkomponenter:

1. Godkjent kjøretøy og modellliste. Den definerer hvilke AI-verktøy som kan brukes til hvilke oppgaver. Ikke-godkjente verktøy brukes ikke for sikkerhetskritiske kontoer.

2. Dataklassifisering. I hvilket kjøretøy kan registrerte resepter, driftsforhold og personopplysninger legges inn? Konfidensielle/proprietære data gis ikke til verktøy som lekker data utenfor organisasjonen.

3. Registrering og sporbarhet (revisjonsspor). Hvilken utgang kom fra hvilket verktøy, hvem verifiserte det, hvilken kilde var det knyttet til? Det skal være sporbart hvis det oppstår et problem.

4. Opplæring og kompetanse. Brukere må kjenne grensene for AI, risikoen for hallusinasjoner og disiplinen for verifisering. Verktøyet er kraftig, men farlig i feil hender.

5. Kontinuerlig verifisering. Modeller og kjøretøy varierer; Påliteligheten til utgangene testes på nytt med jevne mellomrom.

Oppmerksomhet: I en institusjon er tilnærmingen "alle bør gi dataene de ønsker til AI-verktøyet de vil ha" en risiko for både proprietær informasjonslekkasje og sikkerhetssvikt. Styring er den usynlige, men kritiske infrastrukturen som begrenser disse risikoene.

Ansvarlig bruksprinsipper

La oss koble modulen med seks prinsipper:

1. Menneskelig ansvar. Den endelige avgjørelsen og underskriften ligger hos den kompetente eksperten; AI-ens utgang er ikke en erstatning for godkjenningen.
2. Sikkerhetsprioritet. Sikkerhetskritiske beslutninger (sikkerhet, fare, materiale, dimensjonering) krever verifisering og autorisert godkjenning.
3. Disiplinen for verifisering. Hver utgang er koblet til fysikk/kilde, testet med en uavhengig metode, og ført gjennom tolkningsfilteret.
4. Sikkerhet. Eiendoms- og personopplysninger behandles kun på en godkjent og sikker måte.
5. Åpenhet. Bruken av AI er oppgitt ærlig i rapporter og dokumentasjon.
6. Miljø- og samfunnsansvar. Beslutninger tar ikke bare hensyn til økonomien, men også menneskers helse og miljøet.

tre minisaker

Tilfelle 1 - Døren fanget feilen. I ett prosjekt ble en 4 % masseubalanse i AIs PFD-trekk fanget opp i balanseporten før man gikk inn i simuleringsfasen. Feilen ble fikset ved kilden; Hvis det ikke var noen dør, ville denne feilen spre seg til simulering og deretter til dimensjonering. Den lagdelte strukturen fungerte.

Sak 2 – Styring forhindret datalekkasje. En ingeniør var i ferd med å lime inn en proprietær katalysatoroppskrift i et åpent AI-kjøretøy. Byråets dataklassifiseringsregel sa at disse dataene kun kunne behandles i et internt godkjent verktøy. Regelen forhindret en kommersielt kritisk lekkasje.

Sak 3 – Sporbarhet ga tillit. I en revisjon ble vi spurt om hvordan en designbeslutning ble tatt. Takket være institusjonens registreringsdisiplin var det mulig å dokumentere at AI bare produserte et utkast, at hver kritisk verdi ble tilskrevet den eksperimentelle kilden, og at avgjørelsen ble godkjent av den autoriserte ingeniøren. Åpenhet ga både tillit og rettslig beskyttelse.

Fire kopierbare maler

1) Plan for arbeidsflytport:

Din rolle: prosjektsikringskonsulent. Mitt prosjekt: [beskrivelse]. Forbered meg en VERIFICATION GATE-plan for stadiene (design, analyse, dimensjonering, sikkerhet, drift): hva gjør AI på hvert trinn, hvilken overgangsbetingelse med én setning KAN IKKE overføres til neste trinn uten å være oppfylt, hvem verifiserer. Spesiell vekt på sikkerhetskritiske dører.

2) Selvregulering av styresett:

Det utstedes en egenrevisjonssjekkliste for bruk av AI i vår organisasjon: (1) finnes det en liste over godkjente verktøy, (2) er dataklassifisering definert, (3) føres journal/sporbarhet, (4) er det brukeropplæring, (5) er det kontinuerlig verifisering? Be om en "ja/delvis/nei"-evaluering og forbedringsforslag for hvert element. Kontekst: [definisjon]

3) Åpenhet / brukserklæring:

Lag et åpenhetsavsnitt som ærlig beskriver bruken av AI for en ingeniørrapport: på hvilke stadier AI ble brukt til å utarbeide/analysere, hvordan utdataene ble validert, med endelig ansvar på den ansvarlige ingeniøren. Overdrivelse; bare reflekter hva som faktisk ble gjort. Gjøremål: [beskrivelse]

4) Siste kontroll før avgjørelse:

Jeg er i ferd med å ta denne avgjørelsen: [beslutning]. Kjør meg gjennom en siste sjekkliste før du gir den bort: (1) er dette sikkerhetskritisk, (2) er noen verdier jeg stoler på hentet/eksperimentert, (3) har det vært uavhengig verifisering, (4) er myndighetsgodkjenning nødvendig, (5) har konfidensialitet/overholdelse blitt observert? Merk trinnet du ser mangler. Avgjørelsen er min; Du følger sjekklisten.

Svak forespørsel / Sterk forespørsel

Svak melding:

Hvordan bør jeg bruke AI i prosjektet mitt?

Ingen kontekst, ingen valideringsstruktur. AI gir et generelt svar, og omgår sikkerhetskritiske porter.

Kraftig ledetekst:

Din rolle: prosjektsikringskonsulent. Jeg ønsker å bruke AI fra design til drift i et 50 000 tonn/år kjemisk produksjonsprosjekt. For hvert trinn får jeg et rammeverk for rollen til AI, verifikasjonsstrukturen som ikke kan passeres uten bestått, hvem som skal godkjenne den, og hvilke data som kan gis til hvilket verktøy. Merk også sikkerhetskritiske trinn og fremhev hvor menneskelig godkjenning er obligatorisk.

Forskjellen er tydelig: prosjektkontekst, porter, godkjenning og dataregler systematiserer bruken av AI.

Rollefordeling i en ende-til-ende-struktur

Scene

Rollen til AI

verifikasjonsport

Design

Rute, PFD-utkast

Saldo + rutebekreftelse

Analyse

Simuleringssammendrag, prediksjon

Modell + kildebekreftelse

Dimensjonering

optimalisering, kode

Begrensning + test + sikkerhet

Sikkerhet/compliance

HAZOP skjelett, kart

Ekspertteam + primærkilde

Business

Uregelmessig sporing

Ekte/sensor + uavhengig SIS

Vanlige feil

• Hoppedører under tidspress. Å hoppe over en port vil tillate feilen å lekke inn i påfølgende stadier.
• Forsømmelse av styresett. Uregelmessig bruk av verktøy og data utgjør lekkasje og sikkerhetsrisiko.
• Skjuler bruk. Hvis AI-bruk ikke dokumenteres transparent, undergraves både tillit og juridisk beskyttelse.
• Sikkerhetskritisk godkjenning for å se formell. Autorisert godkjenning er ikke en signeringsformalitet, men et ekte verifiseringsansvar.
• Å glemme de miljømessige og sosiale aspektene. Beslutninger veies ikke bare fra økonomiske, men også fra helse- og miljøperspektiv.

Oppsummert

I en ende-til-ende-struktur er AI innebygd med menneskelige verifikasjonsporter på alle stadier av kjemiteknikk; Du kan ikke gå gjennom en dør uten å gå gjennom en annen. Et styringsrammeverk (sertifiserte verktøy, dataklassifisering, sporbarhet, opplæring, kontinuerlig verifisering) bringer denne disiplinen til bedriftsskalaen. Ryggraden i ansvarlig bruk er seks prinsipper: menneskelig ansvar, sikkerhetsprioritet, verifikasjonsdisiplin, konfidensialitet, åpenhet og miljø-samfunnsansvar. AI er en kraftig assistent; Men eieren av design, sikkerhet og det siste ordet er alltid den kompetente eksperten.

Søknadsoppgave

Lag en fem-trinns verifiseringsportplan for ditt eget (eller imaginære) prosjekt med malen "arbeidsflytportplan"; Skriv en overgangsbetingelse for én setning for hvert trinn. Deretter, med "governance self-revisjon"-malen, evaluer hvordan bruken av AI i dette prosjektet gjør seg når det gjelder godkjente verktøy, dataklassifisering, sporbarhet og opplæring, og identifiser minst to forbedringer.

sjekkliste

• [ ] Jeg satte en menneskelig verifikasjonsport og en bestått-betingelse med én setning på hvert trinn.
• [ ] Jeg definerte den godkjente verktøylisten og dataklassifiseringen.
• [ ] Jeg registrerte/sporbarhet (hvilken utgang, hvem som verifiserte, hvilken kilde).
• [ ] Jeg oppga bruken av AI transparent i rapporten.
• [ ] Jeg tilskriver sikkerhetskritiske beslutninger autorisert ekspertgodkjenning og miljø-samfunnsansvar.

Moduleksamen

1. Hvilken av følgende er den mest nøyaktige posisjoneringen for kunstig intelligens i kjemiteknikk?

• A) Kunstig intelligens kan skrive sikkerhetsberegninger direkte inn i designet uten menneskelig godkjenning
• B) AI er en kontoakselerator og en blåkopigenerator; Ansvaret for å bestemme sikkerheten til designet og den endelige avgjørelsen ligger hos mennesket ✔
• C) Siden kunstig intelligens alltid er mer pålitelig enn mennesker, bør sikkerhetsbeslutninger overlates til det.
• D) Kunstig intelligens er bare nyttig for å oppsummere tekst, det har ingenting med tekniske beregninger å gjøre

Beskrivelse: Kunstig intelligens; Det er en assistent som triagerer voluminøse data, flagger mønstre og lager beregninger/kodeutkast. Ansvar og godkjenning av kritiske spørsmål som sikkerhet ved design, tolkning av simulering og endelig beslutning tilhører den kompetente eksperten; En ubekreftet utgang kan føre til en reaktorlekkasje eller en eksplosjon. Derfor erstatter ikke produksjon av kunstig intelligens kompetent ekspertgodkjenning.

2. Hva er tre-trinns verifiseringsdisiplin for et ingeniørberegningsresultat gitt av kunstig intelligens?

• A) Se om resultatet er flytende og selvsikkert
• B) Still det samme spørsmålet til kunstig intelligens tre ganger og ta gjennomsnittet
• C) Koble den til fysikk/kilde, test den uavhengig, pass den gjennom kommentargrensefilter ✔
• D) Aksepter resultatet direkte og kontroller det kun på rapportstadiet

Forklaring: Hver utgang kobles først til fysikken/kilden (hvilken ligning, hvilken kilde, hvilken antakelse), deretter testes den med en uavhengig metode (håndberegning, simulering, referansedata, ordresjekk), og til slutt sendes den gjennom kommentargrensefilteret (er massen/energien bevart, er verdien realistisk). Disse tre trinnene fanger de fleste hallusinasjoner.

3. Hva bør gjøres hvis den totale massen som kommer inn og ut ikke samsvarer med materialbalanseutkastet etablert av kunstig intelligens i en prosessdesign?

• A) Den lille forskjellen er uviktig, ignorer den og fortsett designet
• B) Forskjellen er funnet og korrigert; det er ofte en glemt flyt eller en dobbelttelling tilbake ✔
• C) Balansen anses som riktig fordi den kunstige intelligensen beregner det på den måten.
• D) Verdien av en utgående strøm forstørres manuelt for å gjøre opp forskjellen

Forklaring: I kjemiteknikk er masse enten bevart eller ikke; «det koster omtrent» er uakseptabelt. Hvis input = output-ligningen ikke er tilfredsstilt, er det ofte en glemt sideflyt, en dobbelttalt resirkulering eller en feil. Designet kan ikke videreføres før dette er funnet og korrigert; ellers vil feilen forplante seg til alle etterfølgende dimensjoneringer.

4. En prosesssimulering 'konvergerte og ga et pent bilde'. Hva er den mest kritiske risikoen for nøyaktigheten av dette resultatet?

• A) Tabellen er ikke presentert i farger og leselig form
• B) Simuleringen konvergerer for raskt
• C) En termodynamisk modell som ikke er egnet for systemets egenskaper gir overbevisende, men feilaktige resultater ✔
• D) For mange desimaler i flyttabellen

Forklaring: De fleste av simuleringsfeilene er ikke numeriske, men på grunn av valg av termodynamisk modell (eiendomspakke). Å bruke en ideell modell på en polar blanding kan gjøre en azeotrop usynlig, og resultatet blir jevnt, men helt feil. Et tilsynelatende konvergent og vakkert bilde viser seg ikke å være sant; modelltilpasning og eksperimentell sammenligning er nødvendig.

5. Hvordan bør man handle når kunstig intelligens gir en reaksjonshastighetskonstant (k) verdi for et reaktordesign?

• A) Verdien bør bestemmes eksperimentelt; AI-prediksjon brukes ikke som designdata ✔
• B) Verdi settes direkte inn i design ettersom AI leverer trygt
• C) Verdien antas å være den samme i hver reaksjon uavhengig av forhold
• D) Verdien er tilstrekkelig når et lignende tall vises på Internett

Beskrivelse: Hastighetskonstanter, aktiveringsenergi og mekanisme bestemmes kun ved eksperiment; Den samme reaksjonen oppfører seg veldig forskjellig med forskjellige katalysatorer, urenheter eller faser. En k-verdi returnert av AI kan være en innledende gjetning, men det er ikke designdata. Hver kinetisk parameter som går inn i grunnlaget for designet må være basert på empirisk kilde.

6. Hvordan bør varmen til en eksoterm reaksjon (reaksjonsentalpi) bestemmes for sikker kjøledesign?

• A) Startverdien gitt av kunstig intelligens legges direkte inn i kjøledesignet
• B) Verdien er målt ved kalorimetri og evaluert av en autorisert ingeniør, den er ikke basert på prediksjon av kunstig intelligens ✔
• C) Hvis reaksjonen er eksoterm, kan varmebelastningen neglisjeres
• D) Verdien av en lignende forbindelse brukes uavhengig av tilstanden

Beskrivelse: Reaksjonsvarme og termisk løpspotensial er et sikkerhetskritisk problem. En verdi returnert av AI kan tilhøre et annet løsningsmiddel/tilstand og kan gi en betydelig feilrepresentasjon av den faktiske varmebelastningen. Disse verdiene måles med kalorimetri (f.eks. reaksjonskalorimetri) og evalueres av den kompetente ingeniøren; Den er aldri basert på prediksjon av kunstig intelligens alene.

7. Kunstig intelligens ga damptrykket til et løsemiddel med et sikkert tall. Hva bør gjøres før du bruker denne verdien?

• A) Siden verdien er gitt flytende, plasseres den direkte i kolonnedesignet
• B) Kun enheten styres, det er ikke nødvendig å se på kilden
• C) Verdien er verifisert av en pålitelig database (DIPPR/NIST) eller eksperiment, med betingelsen ✔
• D) Hvis verdien sammenlignes med verdien til et annet løsemiddel og er lik, godtas den.

Forklaring: Funksjonsestimering er det numeriske grunnlaget for design, og en feil her forplanter seg gjennom hele beregningen. AI-verdien kan tilhøre en annen forbindelse, være i feil tilstand eller være en hallusinasjon. Derfor blir hver kritisk funksjon verifisert av en pålitelig database (DIPPR/NIST) eller eksperiment; må også bes om sammen med verditilstanden (temperatur, trykk, fase).

8. Hva skjer hvis kunstig intelligens blir bedt om å 'minimere energi' i en prosessoptimalisering, men ingen begrensninger for produktrenhet er gitt?

• A) Resultatet er alltid trygt og av høy kvalitet, restriksjoner er unødvendige
• B) Et misvisende optimum kan dukke opp som ser bra ut på papiret, men som ofrer renhet eller sikkerhet ✔
• C) Kunstig intelligens fullfører de manglende begrensningene spontant og riktig
• D) Optimalisering fungerer ikke og gir ingen resultater

Forklaring: Ubegrenset optimalisering er misvisende: AI eller algoritmen kan foreslå et "optimum" som på papiret reduserer energien, men som i realiteten reduserer produktets renhet under spesifikasjonen eller overskrider sikkerhetsmarginen. Derfor må alle kvalitets- og sikkerhetsbegrensninger, samt formåls- og beslutningsvariabler, være fullstendig definert; Det matematiske optimum må også testes for sikkerhet og gjennomførbarhet.

9. Hva er den første tingen å gjøre når AI flagger et plutselig hopp i sensordata som 'mulig lekkasje'?

• A) Stoppe prosessen umiddelbart, fordi den kunstige intelligensen sa at den lekker
• B) Ignorerer signalet fordi sensorer alltid er feil
• C) Sjekke med pålitelighetsfilter om signalet er en reell prosesshendelse eller et sensor-/måleproblem ✔
• D) Slett hoppet automatisk fra datasettet

Forklaring: Sensorer kan lyve: kalibrering sklir, en forbindelse løsner, ledningen fanger opp støy. Et anomalisignal må først filtreres for datapålitelighet: stemmer det overens med nabo-/tilknyttede sensorer, er det fysisk mulig, samsvarer det med vedlikeholds-/kalibreringsposten? Først etter at disse er bestått undersøkes det som en reell prosesshendelse; Ellers kan det forekomme inngrep basert på en falsk alarm.

10. Hva er den hensiktsmessige og sikre rollen til AI i HAZOP-studien?

• A) Produsere en komplett HAZOP ved å kjenne prosessen og gjøre møtet unødvendig
• B) Klassifisering av risikonivåer nøyaktig og ta føre-var-beslutninger
• C) Gi et arbeidsrammeverk, veiledende ordspørsmål og utarbeide referater; Overlat selve farevurderingen til ekspertteamet ✔
• D) Gå til møteplassen og signere den endelige risikorapporten alene

Beskrivelse: HAZOP er en sikkerhetskritisk spesialistaktivitet. Kunstig intelligens; Matriserammeverket for node/parameter/guideord gir raskere dokumentasjon, for eksempel typisk scenariogjenkalling og minuttredigering. Men hvilket avvik som er den reelle faren, konsekvensens alvor og tilstrekkeligheten av forholdsregelen tilhører det tverrfaglige ekspertteamet; Dessuten finnes ikke prosessspesifikke farer i kunstig intelligens. AI-utkastet er input, ikke output, fra ekspertmøtet.

11. Hva er det mest kritiske forbeholdet for AI i standarder og regulatorisk forskning?

• A) Kunstig intelligens er aldri feil i sin standardkunnskap, den kan brukes direkte
• B) Hvert stoffnummer, grenseverdi og dato må verifiseres fra en primær og nåværende kilde; AI gir kun retning ✔
• C) Oppdateringssjekk er unødvendig fordi standardene aldri endres.
• D) Å lage en sjekkliste alene beviser samsvar

Forklaring: Standardforskning er et av områdene der AI-hallusinasjoner kan være mest ødeleggende: et ikke-eksisterende varenummer, et feil bruddpunkt eller et utdatert krav kan presenteres på en svært overbevisende måte. Overholdelse betyr både sikkerhet og lov. Derfor kan ikke hvert stoff, grenseverdi og dato brukes uten bekreftelse fra primær og nåværende kilde; AI gir kun retning.

12. En Python-teknisk beregningskode skrevet av kunstig intelligens fungerte uten feil og produserte et tall. Hva skal til for å stole på denne konklusjonen?

• A) Den feilfrie operasjonen av koden beviser at resultatet er riktig.
• B) Koden bør testes med kjent resultat, enhets- og kanttilfeller bør testes, og sikkerhetsberegningen bør også verifiseres av myndigheten ✔
• C) Hvis koden er lang og ser kompleks ut, kan den anses som riktig
• D) Siden det er skrevet av kunstig intelligens, er det ikke behov for ytterligere verifisering

Forklaring: 'Fungerer' og 'riktig' er forskjellige ting: koden kan kjøre uten feil og produsere feil tall (enhetsforvirring, fortegnsfeil, indeksforskyvning). Derfor bør hver kode testes på en testcase (analytisk prøve, håndberegning, referansedata) hvis svar er kjent uavhengig; enheter og kantkasser må kontrolleres; Sikkerhetskritiske beregninger må også verifiseres av autorisert ingeniør.

13. Hva er den mest effektive måten å beskytte en ende-til-ende AI-aktivert kjemisk prosess mot en enkelt feil som lekker inn i design- eller sikkerhetsdokumentet?

• A) Delegere hele prosessen til et enkelt AI-verktøy og ta en titt på slutten
• B) Fjerning av mellomverifikasjoner for hastighet og kontroll kun på sluttfasen
• C) Sette en menneskelig verifikasjonsport og en en-setnings pass-betingelse på hvert trinn (lagdelt verifisering) ✔
• D) Hver maskinist kan bruke sitt eget kjøretøy fritt uten å føre journal.

Beskrivelse: En menneskelig verifikasjonsport og en klar overgangstilstand (er den stabil, er den koblet til kilden, er koden testet, er ekspertgodkjenning mottatt) er plassert på hvert trinn (design, analyse, dimensjonering, sikkerhet, drift). Du kan ikke gå gjennom en dør uten å gå gjennom en annen; Denne lagdelte strukturen forhindrer at en enkelt AI-feil lekker inn i påfølgende stadier.

14. Hvilken av følgende applikasjoner gjør bruken av kunstig intelligens i en institusjon trygg med tanke på styring?

• A) Hver bruker kan fritt legge inn proprietære data i et hvilket som helst åpent verktøy etter eget valg.
• B) Et styringsrammeverk som inkluderer en godkjent kjøretøyliste, dataklassifisering, sporbarhet, opplæring og løpende verifisering ✔
• C) Bruk av kunstig intelligens registreres ikke i det hele tatt
• D) Bruk av ett enkelt, ikke-godkjent verktøy for hver jobb, inkludert sikkerhetskritiske kontoer

Forklaring: Tilnærmingen 'Alle bør gi dataene de vil ha til kjøretøyet de vil ha' utgjør en risiko for både proprietær informasjonslekkasje og sikkerhetsfeil. Et solid styringsrammeverk; Den inkluderer godkjent kjøretøy- og modellliste, dataklassifisering (hvilket kjøretøy kan registrere registrerte/personlige data), registrering og sporbarhet (revisjonsspor), brukeropplæring og kontinuerlig verifisering. Dette er kritisk infrastruktur som begrenser risiko.