Täielik töövoog, juhtimine, autentimine ja vastutustundlik kasutamine

Kasu:

• Võimalus järjekindlalt manustada tehisintellekti igas etapis alates projekteerimisest kuni kasutamiseni, inimese kontrollivärava ja ühelauseliste üleminekutingimustega
• Võimalus luua juhtimisraamistik kinnitatud sõidukiloendi, andmete klassifikatsiooni, jälgitavuse, koolituse ja pideva kontrolliga
• Võimalus integreerida töövoosse inimvastutuse, turvalisuse prioriteedi, kontrollimise, konfidentsiaalsuse, läbipaistvuse ja keskkonnasotsiaalse vastutuse põhimõtted

Eelmises kümnes üksuses oleme näinud, kuidas tehisintellekti ohutult kasutada keemiatehnoloogia üksikutes valdkondades – projekteerimine, simulatsioon, kineetika, omaduste ennustamine, optimeerimine, juhtimisandmed, HAZOP, standardiotsing ja Python. Selles viimases tükis paneme tükid kokku: õpime, kuidas manustada tehisintellekti projekti või rajatise algusest lõpuni järjepideva distsipliini, inimkontrolli väravate ja juhtimisstruktuuriga – raamistik, mis määrab reeglid, mille alusel tööriistu, andmeid ja otsuseid organisatsioonis kasutatakse. Eesmärk on luua kihiline süsteem, mis takistab üksiku tehisintellekti vea pugemist disaini, äriotsusesse või turvadokumenti.

Põhiidee on lihtne: igas etapis on inimese kontrollivärav ja selge üleminekutingimus; Ühest uksest ei saa läbi ilma teisest läbi minemata. See on elupäästev struktuur keemiatehnikas, aga ka kohtuekspertiisi või meditsiini valdkonnas — sest ka siin on eksimustel tagajärjed mitte paberil, vaid tegelikkuses, inimestele ja keskkonnale.

Otsast lõpuni töövoog: kontrollväravatega

Vaatleme keemiatehnoloogia projekti viies etapis ja asetame igasse AI ja kontrollivärava rolli:

1. Disain ja kontseptsioon. AI genereerib marsruudivalikud ja PFD mustandi. Uks: kas materjali tasakaalu hoitakse käsitsi, kas marsruut valiti inseneri hinnanguga?

2. Analüüs ja simulatsioon. Teeb kokkuvõtte AI simulatsiooni väljundist, annab kineetika/omaduste visandi. Värav: kas termodünaamiline mudel on sobiv, kas massi/energia tasakaal on paigas, kas kriitilised väärtused sõltuvad katse-/andmebaasiallikast?

3. Optimeerimine ja suuruse määramine. AI toodab optimeerimis- ja arvutuskoodi mustandit. Uks: kas piirangud on täidetud, kas koodi on testitud, kas see on optimaalses turvaaknas?

4. Turvalisus ja vastavus. Pakub AI HAZOPi skeletti ja standardkaarti. Uks: kas ohuanalüüsi on läbi viinud ekspertrühm, kas standardseid elemente on kontrollitud esmasest allikast, kas on saadud volitatud luba?

5. Töötamine ja jälgimine. AI jälgib andurite andmeid ja märgib kõrvalekaldeid. Uks: reaal- või sensorsignaal, turvakaitse sõltumatus SIS-is?

Need väravad takistavad ühe kontrollimata väljundi kandmist järgmisse etappi. Isegi kui viga pääseb välja, on suur tõenäosus, et see tabatakse järgmises ukses.

Näpunäide: kirjutage iga etapi kohta ühelauseline üleminekutingimus ja tehke see meeskonnale nähtavaks: "Simulatsiooni ei saa alustada enne, kui materjali bilanss on käsitsi kontrollitud." Sellised selged reeglid tagavad distsipliini säilimise ka ajasurve korral.

Juhtimisraamistik: institutsionaalne distsipliin

Individuaalne kontrollimine on hea, kuid haldusraamistikku on vaja rajatise ulatuses. Viis põhikomponenti:

1. Heakskiidetud sõidukite ja mudelite nimekiri. See määrab, milliseid tehisintellekti tööriistu saab milliste ülesannete jaoks kasutada. Kinnitamata tööriistu ei kasutata turvakriitiliste kontode jaoks.

2. Andmete klassifikatsioon. Millisesse sõidukisse saab sisestada registreeritud retsepte, kasutustingimusi ja isikuandmeid? Konfidentsiaalseid/omandiõigusega kaitstud andmeid ei anta tööriistadele, mis lekivad andmeid väljapoole organisatsiooni.

3. Salvestus ja jälgitavus (kontrolljälg). Milline väljund tuli millisest tööriistast, kes seda kontrollis, millise allikaga see lingiti? Probleemi ilmnemisel peaks see olema jälgitav.

4. Koolitus ja pädevus. Kasutajad peavad teadma tehisintellekti piire, hallutsinatsioonide riski ja kontrollimise distsipliini. Tööriist on võimas, kuid valedes kätes ohtlik.

5. Pidev kontrollimine. Mudelid ja sõidukid on erinevad; Väljundite usaldusväärsust kontrollitakse perioodiliselt uuesti.

Tähelepanu: asutuses on lähenemine "igaüks peaks andma soovitud tehisintellekti tööriistale soovitud andmed" nii varalise teabe lekke kui ka turvatõrke oht. Juhtimine on nähtamatu, kuid kriitiline infrastruktuur, mis neid riske piirab.

Vastutustundliku kasutamise põhimõtted

Ühendame mooduli kuue põhimõttega:

1. Inimlik vastutus. Lõpliku otsuse ja allkirja teeb pädev ekspert; AI väljund ei asenda selle heakskiitu.
2. Turvalisuse prioriteet. Ohutuse seisukohast kriitilised otsused (ohutus, oht, materjal, suurus) nõuavad kontrollimist ja volitatud heakskiitu.
3. Kontrollimise distsipliin. Iga väljund on ühendatud füüsika/allikaga, testitakse sõltumatu meetodiga ja lastakse läbi tõlgendusfiltri.
4. Turvalisus. Konfidentsiaalseid ja isikuandmeid töödeldakse ainult heakskiidetud ja turvalisel viisil.
5. Läbipaistvus. AI kasutamist on aruannetes ja dokumentides ausalt öeldud.
6. Keskkonna- ja sotsiaalne vastutus. Otsuste tegemisel ei arvestata mitte ainult majandust, vaid ka inimeste tervist ja keskkonda.

kolm minikarpi

Juhtum 1 – uks tabas vea. Ühes projektis tabati AI PFD süvise massi tasakaalustamatus enne simulatsioonifaasi liikumist tasakaaluväravasse. Viga parandati allikas; Kui ust poleks, leviks see viga simulatsioonile ja seejärel dimensioonile. Kihiline struktuur töötas.

Juhtum 2 – juhtimine hoidis ära andmete lekke. Insener kavatses kleepida avatud tehisintellektiga sõidukisse patenteeritud katalüsaatori retsepti. Agentuuri andmete klassifitseerimise reegel ütles, et neid andmeid saab töödelda ainult ettevõttesisese heakskiidetud tööriistaga. Reegel hoidis ära äriliselt kriitilise lekke.

Juhtum 3 – jälgitavus tõi usalduse. Ühes auditis küsiti meilt, kuidas tehti projekteerimisotsus. Tänu asutuse salvestusdistsipliinile oli võimalik dokumenteerida, et AI koostas ainult mustandi, et iga kriitiline väärtus omistati katseallikale ja otsuse kiitis heaks volitatud insener. Läbipaistvus tagas nii usalduse kui ka õiguskaitse.

Neli kopeeritavat malli

1) Töövoo värava plaan:

Sinu roll: projekti tagamise konsultant. Minu projekt: [kirjeldus]. Koostage mulle etappide (projekteerimine, analüüs, suurus, turvalisus, käitamine) jaoks VERIFICATION GATE plaan: mida teeb AI igas etapis, millist ühelauselist üleminekutingimust EI SAA järgmisse etappi edasi anda, kui see pole täidetud, kes kontrollib. Eriline rõhk turvakriitilistel ustel.

2) Juhtimise iseregulatsioon:

Tehisintellekti kasutamiseks meie organisatsioonis väljastatakse enesekontrolli kontrollnimekiri: (1) kas on olemas heakskiidetud tööriistade loend, (2) kas andmete klassifikatsioon on määratletud, (3) kas arvestust/jälgitavust peetakse, (4) kas on olemas kasutajakoolitus, (5) kas toimub pidev kontroll? Küsige iga üksuse kohta "jah/osaline/ei" hindamist ja parendusettepanekuid. Kontekst: [definitsioon]

3) Läbipaistvus / kasutusdeklaratsioon:

Koostage läbipaistvuslõik, mis kirjeldab ausalt tehisintellekti kasutamist inseneriaruande jaoks: millistel etappidel kasutati tehisintellekti koostamiseks/analüüsiks, kuidas väljundeid valideeriti, kusjuures lõplik vastutus lasub vastutaval inseneril. Liialdus; lihtsalt kajastage seda, mida tegelikult tehti. Tegevused: [kirjeldus]

4) Viimane kontroll enne otsust:

Teen kohe selle otsuse: [otsus]. Enne selle väljastamist tehke mulle läbi viimane kontrollnimekiri: (1) kas see on turvalisuse seisukohast kriitiline, (2) kas mõni väärtus, millele ma tuginen, on hangitud/katsetatud, (3) kas on toimunud sõltumatu kontroll, (4) kas on nõutav asutuse heakskiit, (5) kas konfidentsiaalsust/nõuetele vastavust on järgitud? Märkige samm, mida näete puuduvat. Otsus on minu; Järgite kontrollnimekirja.

Nõrk viip / Tugev viip

Nõrk viip:

Kuidas peaksin oma projektis AI-d kasutama?

Pole konteksti, pole valideerimisstruktuuri. AI annab üldise vastuse, minnes turvakriitilistest väravatest mööda.

Võimas viip:

Sinu roll: projekti tagamise konsultant. Soovin kasutada tehisintellekti projekteerimisest töötamiseni 50 000 tonni aastas keemiatootmise projektis. Iga etapi jaoks saan AI rolli raamistiku, verifitseerimisstruktuuri, mida läbimata ei saa, kes selle heaks kiidab ja milliseid andmeid millisele tööriistale anda saab. Märkige ka turvalisuse seisukohast olulised sammud ja tõstke esile kohad, kus inimese heakskiit on kohustuslik.

Erinevus on selge: projekti kontekst, väravad, kinnitus- ja andmereeglid süstematiseerivad tehisintellekti kasutamist.

Rollide jaotus otsast lõpuni struktuuris

Lava

AI roll

kontrollvärav

Disain

Marsruut, PFD eelnõu

Saldo + marsruudi kinnitus

Analüüs

Simulatsiooni kokkuvõte, ennustus

Mudel + allika kinnitus

Suuruse määramine

optimeerimine, kood

Piirang + test + turvalisus

Turvalisus/vastavus

HAZOPi skelett, kaart

Ekspertmeeskond + esmane allikas

Äri

Anomaaliate jälgimine

Päris/sensor + sõltumatu SIS

Levinud vead

• Uste hüppamine ajasurve all. Värava vahelejätmine võimaldab veal lekkida järgmistesse etappidesse.
• Valitsemise eiramine. Tööriistade ja andmete ebaregulaarne kasutamine kujutab endast lekke- ja turvariske.
• Kasutamise varjamine. Kui tehisintellekti kasutamist läbipaistvalt ei dokumenteerita, kahjustatakse nii usaldust kui ka õiguskaitset.
• Turvakriitiline kinnitus ametlikuks nägemiseks. Volitatud heakskiit ei ole allkirjastamise formaalsus, vaid tõeline kontrollimiskohustus.
• Unustades keskkonna- ja sotsiaalsed aspektid. Otsuseid ei kaaluta mitte ainult majanduslikust, vaid ka tervise ja keskkonna vaatenurgast.

Kokkuvõttes

Lõpp-otsani struktuuris on tehisintellekt keemiatehnoloogia igas etapis manustatud inimese kontrolliväravatega; Ühest uksest ei saa läbi ilma teisest läbi minemata. Juhtimisraamistik (sertifitseeritud tööriistad, andmete klassifitseerimine, jälgitavus, koolitus, pidev kontrollimine) toob selle distsipliini ettevõtte mastaabis. Vastutustundliku kasutamise selgrooks on kuus põhimõtet: inimvastutus, turvalisuse prioriteet, kontrollimise distsipliin, konfidentsiaalsus, läbipaistvus ja keskkonna-ühiskonna vastutus. AI on võimas assistent; Kuid disaini, turvalisuse ja viimase sõna omanik on alati pädev ekspert.

Rakenduse ülesanne

Looge oma (või väljamõeldud) projekti jaoks viieastmeline kinnitusvärava plaan malliga "töövoo värava plaan"; Kirjutage iga etapi jaoks ühelauseline üleminekutingimus. Seejärel hinnake "juhtimise enesekontrolli" malli abil, kuidas AI kasutamine selles projektis heaks kiidetud tööriistade, andmete klassifitseerimise, jälgitavuse ja koolituse osas toimib, ning tuvastage vähemalt kaks täiustust.

kontrollnimekiri

• [ ] Panin igasse etappi inimese kontrollivärava ja ühelauselise läbimise tingimuse.
• [ ] Määratlesin kinnitatud tööriistaloendi ja andmete klassifikatsiooni.
• [ ] Pidasin arvestust/jälgitavust (milline väljund, kes kontrollis, mis allikas).
• [ ] Esitasin aruandes tehisintellekti kasutamise läbipaistvalt.
• [ ] Ohutuse seisukohalt olulised otsused omistan volitatud eksperdi heakskiidule ja keskkonnaühiskonna vastutusele.

Mooduli eksam

1. Milline järgmistest on tehisintellekti kõige täpsem positsioneerimine keemiatehnoloogias?

• A) Tehisintellekt võib kirjutada ohutusarvutused otse disaini ilma inimese nõusolekuta
• B) AI on konto kiirendi ja kavandite generaator; Vastutus disaini ohutuse ja lõpliku otsuse tegemise eest lasub inimesel ✔
• C) Kuna tehisintellekt on alati usaldusväärsem kui inimene, tuleks julgeolekuotsused jätta tema teha.
• D) Tehisintellekt on kasulik ainult teksti kokkuvõtmiseks, sellel pole midagi pistmist inseneriarvutustega

Kirjeldus: Tehisintellekt; See on assistent, mis triaažib mahukaid andmeid, märgistab mustreid ja koostab arvutusi/koodikavandeid. Vastutus ja heakskiit kriitilistes küsimustes, nagu projekti ohutus, simulatsiooni tõlgendamine ja lõplik otsus, kuulub pädevale eksperdile; Kinnitamata väljund võib põhjustada reaktori lekke või plahvatuse. Seetõttu ei asenda tehisintellekti väljund pädeva eksperdi heakskiitu.

2. Milline on tehisintellekti antud inseneriarvutuse tulemuse kolmeastmeline kontrollimise distsipliin?

• A) Vaadake, kas väljund on ladus ja enesekindel
• B) Esitage tehisintellektile kolm korda sama küsimus ja võtke keskmine
• C) Ühendage see füüsika/allikaga, testige seda iseseisvalt, laske see läbi kommentaaride piirifiltri ✔
• D) Tulemuse otsene aktsepteerimine ja selle kontrollimine ainult aruande etapis

Selgitus: Iga väljund ühendatakse esmalt füüsika/allikaga (milline võrrand, milline allikas, milline eeldus), seejärel testitakse seda sõltumatu meetodiga (käsitsi arvutamine, simulatsioon, võrdlusandmed, järjekorra kontroll) ja lõpuks lastakse see läbi kommentaaride piirfiltri (kas mass/energia on säästev, kas väärtus on realistlik). Need kolm sammu tabavad enamikku hallutsinatsioone.

3. Mida teha, kui sisenev ja väljuv kogumass ei ühti tehisintellekti poolt protsessikavandis kehtestatud materjalibilansi süvisega?

• A) Väike erinevus on ebaoluline, jätke see tähelepanuta ja jätkake kujundamist
• B) Leitakse erinevus ja parandatakse; sageli on unustatud voog või topeltloendatud loopback ✔
• C) Tasakaalu peetakse õigeks, sest tehisintellekt arvutab selle nii.
• D) Väljuva voo väärtust suurendatakse käsitsi, et vahe tasa teha

Selgitus: keemiatehnikas mass kas säilib või mitte; "see maksab ligikaudu" on vastuvõetamatu. Kui võrrand sisend = väljund ei ole täidetud, on sageli unustatud kõrvalvool, topeltloendatud taaskasutus või viga. Disaini ei saa edasi liikuda enne, kui see on leitud ja parandatud; vastasel juhul levib viga kõikidesse järgnevatesse suuruse määramisse.

4. Protsessi simulatsioon 'lähenes ja andis korraliku pildi'. Mis on selle tulemuse täpsuse kõige kriitilisem risk?

• A) Tabel ei ole esitatud värvilise ja loetava kujul
• B) Simulatsioon läheneb liiga kiiresti
• C) Süsteemi omadustele mittesobiv termodünaamiline mudel annab veenvad, kuid ebaõiged tulemused ✔
• D) Liiga palju komakohti vootabelis

Selgitus: Enamik simulatsioonivigu ei ole numbrilised, vaid tulenevad termodünaamilise mudeli (omaduspaketi) valikust. Ideaalse mudeli rakendamine polaarsele segule võib muuta aseotroopi nähtamatuks ja tulemus on sujuv, kuid täiesti vale. Pealtnäha ühtlane ja ilus pilt ei osutu tõeks; mudeli sobivus ja eksperimentaalne võrdlus on vajalik.

5. Kuidas käituda, kui tehisintellekt annab reaktori konstruktsiooni jaoks reaktsioonikiiruse konstandi (k) väärtuse?

• A) Väärtus tuleks määrata katseliselt; AI ennustust ei kasutata disainiandmetena ✔
• B) Väärtus pannakse otse disaini, kuna AI toimib enesekindlalt
• C) Eeldatakse, et väärtus on igas reaktsioonis sama, sõltumata tingimustest
• D) Väärtusest piisab, kui Internetti ilmub sarnane arv

Kirjeldus: Kiiruskonstandid, aktiveerimisenergia ja mehhanism määratakse ainult katsega; Sama reaktsioon käitub erinevate katalüsaatorite, lisandite või faasidega väga erinevalt. Tehisintellekti tagastatud k väärtus võib olla esialgne oletus, kuid see ei ole kujundusandmed. Iga disaini aluseks olev kineetiline parameeter peab põhinema empiirilisel allikal.

6. Kuidas määrata eksotermilise reaktsiooni soojust (reaktsioonientalpiat) ohutuks jahutuseks?

• A) Tehisintellekti antud algväärtus sisestatakse otse jahutusprojekti
• B) Väärtust mõõdetakse kalorimeetria abil ja seda hindab volitatud insener, see ei põhine tehisintellekti ennustusel ✔
• C) Kui reaktsioon on eksotermiline, võib soojuskoormuse tähelepanuta jätta
• D) Sarnase ühendi väärtust kasutatakse olenemata tingimusest

Kirjeldus: Reaktsioonisoojus ja termilise põgenemise potentsiaal on ohutuse seisukohalt kriitiline probleem. Tehisintellekti tagastatud väärtus võib kuuluda mõnele muule lahustile/seisundile ja võib tegelikku soojuskoormust oluliselt valesti esitada. Neid väärtusi mõõdetakse kalorimeetria abil (nt reaktsioonikalorimeetria) ja neid hindab pädev insener; See ei põhine kunagi ainult tehisintellekti ennustamisel.

7. Tehisintellekt andis lahusti aururõhu kindla numbriga. Mida tuleks teha enne selle väärtuse kasutamist?

• A) Kuna väärtus on antud ladusalt, paigutatakse see otse veeru kujundusse
• B) Kontrollitakse ainult seadet, allikat pole vaja vaadata
• C) Väärtust kontrollib usaldusväärne andmebaas (DIPPR/NIST) või katse tingimusega ✔
• D) Kui väärtust võrreldakse teise lahusti väärtusega ja see on sarnane, aktsepteeritakse.

Selgitus: funktsioonide hinnang on disaini arvuline alus ja viga levib kogu arvutuses. AI väärtus võib kuuluda mõnele teisele ühendile, olla vales seisundis või olla hallutsinatsioon. Seetõttu kontrollitakse iga kriitilist funktsiooni usaldusväärse andmebaasi (DIPPR/NIST) või katse abil; tuleb küsida ka koos väärtuse tingimusega (temperatuur, rõhk, faas).

8. Mis juhtub, kui tehisintellektil kästakse protsessi optimeerimisel „energiat minimeerida”, kuid toote puhtuse piirangut ei seata?

• A) Tulemus on alati turvaline ja kvaliteetne, piirangud pole vajalikud
• B) Võib tekkida eksitav optimum, mis näeb paberil hea välja, kuid ohverdab puhtuse või turvalisuse ✔
• C) Tehisintellekt täidab puuduvad piirangud spontaanselt ja korrektselt
• D) Optimeerimine ei tööta ega anna tulemusi

Selgitus: Piiranguteta optimeerimine on eksitav: tehisintellekt või algoritm võib soovitada „optimumit”, mis paberil vähendab energiat, kuid tegelikult vähendab toote puhtust alla spetsifikatsiooni või ületab ohutusvaru. Seetõttu peavad kõik kvaliteedi- ja turvapiirangud, samuti eesmärgi- ja otsustusmuutujad olema täielikult määratletud; Matemaatilise optimumi ohutuse ja teostatavuse osas tuleb samuti testida.

9. Mida teha esimese asjana, kui tehisintellekt märgib andurite andmete äkilise hüppe võimaliku lekkena?

• A) Protsessi kohene peatamine, kuna tehisintellekt ütles, et see lekib
• B) Signaali eiramine, kuna andurid on alati valed
• C) Usaldusväärsuse filtriga kontrollimine, kas signaal on reaalne protsessisündmus või anduri/mõõtmisprobleem ✔
• D) Kustutage hüpe automaatselt andmekogumist

Selgitus: andurid võivad valetada: kalibreerimine libiseb, ühendus läheb lahti, liin võtab müra. Anomaalia signaal tuleb esmalt filtreerida andmete usaldusväärsuse tagamiseks: kas see on kooskõlas naaberanduritega/seotud anduritega, kas see on füüsiliselt võimalik, kas see ühtib hoolduse/kalibreerimise kirjega? Alles pärast nende läbimist uuritakse seda kui reaalset protsessisündmust; Vastasel juhul võib sekkumine toimuda valehäire alusel.

10. Milline on tehisintellekti sobiv ja ohutu roll HAZOPi uuringus?

• A) Protsessi tundmise ja koosoleku tarbetuks muutmise kaudu täieliku HAZOPi loomine
• B) Riskitasemete täpne klassifitseerimine ja ettevaatavate otsuste tegemine
• C) tööraamistiku loomine, juhtsõnaküsimused ja protokolli koostamine; Tegeliku ohu hindamine jätke ekspertmeeskonna hooleks ✔
• D) Minek kohtumispaika ja allkirjastama lõpliku riskiaruande üksi

Kirjeldus: HAZOP on turvalisuse seisukohalt kriitiline spetsialistide tegevus. Tehisintellekt; Sõlme/parameetri/juhissõna maatriksi raamistik kiirendab dokumenteerimist, näiteks tüüpilist stsenaariumi meeldetuletamist ja minutite redigeerimist. Kuid milline kõrvalekalle on tegelik oht, tagajärje tõsidus ja ettevaatusabinõu piisavus, kuuluvad multidistsiplinaarsesse ekspertrühma; Pealegi ei leidu tehisintellektis protsessispetsiifilisi ohte. Tehisintellekti mustand on ekspertide koosoleku sisend, mitte väljund.

11. Mis on tehisintellekti jaoks kõige kriitilisem hoiatus standardites ja regulatiivsetes uuringutes?

• A) Tehisintellekt ei eksi kunagi oma standardteadmistes, seda saab otse kasutada
• B) Iga aine number, piirväärtus ja kuupäev tuleb kontrollida esmasest ja praegusest allikast; AI annab ainult suuna ✔
• C) Värskenduste kontrollimine pole vajalik, kuna standardid ei muutu kunagi.
• D) Ainuüksi kontrollnimekirja koostamine tõendab vastavust

Selgitus: standardite uurimine on üks valdkondi, kus tehisintellekti hallutsinatsioonid võivad olla kõige laastavamad: olematu kaubanumbri, vale murdepunkti või aegunud nõude saab esitada väga veenvalt. Vastavus tähendab nii turvalisust kui ka seadust. Seetõttu ei saa iga ainet, piirväärtust ja kuupäeva kasutada ilma esmase ja praeguse allika kinnituseta; AI annab ainult suuna.

12. Tehisintellekti kirjutatud Pythoni inseneriarvutuskood töötas vigadeta ja andis numbri. Mida oleks vaja selle järelduse usaldamiseks?

• A) Koodi veatu toimimine tõestab tulemuse õigsust.
• B) Koodi tuleks testida teadaoleva tulemusega, testida ühiku- ja servajuhtumeid ning turvaarvutust ka ametiasutuses kontrollida ✔
• C) Kui kood on pikk ja tundub keeruline, võib seda õigeks pidada
• D) Kuna see on kirjutatud tehisintellekti poolt, pole täiendavat kontrolli vaja

Selgitus: "Töötav" ja "õige" on erinevad asjad: kood võib töötada ilma vigadeta ja anda vale numbri (ühiku segadus, märgiviga, indeksi nihe). Seetõttu tuleks iga koodi testida testjuhtumil (analüütiline valim, käsitsi arvutamine, võrdlusandmed), mille vastus on iseseisvalt teada; ühikuid ja servakarpe tuleb kontrollida; Ohutuskriitilisi arvutusi peab kontrollima ka volitatud insener.

13. Mis on kõige tõhusam viis täielikku tehisintellekti toega keemiatehnoloogia protsessi kaitsmiseks projekti- või turvadokumenti lekkiva üksiku vea eest?

• A) Delegeerige kogu protsess ühele AI-tööriistale ja vaadake lõppu
• B) Kiiruse vahekontrollide eemaldamine ja kontrollimine alles viimases etapis
• C) Inimkontrolli värava ja ühelauselise läbimise tingimuse seadmine igas etapis (kihiline kontrollimine) ✔
• D) Iga insener võib oma sõidukit vabalt kasutada ilma arvestust pidamata.

Kirjeldus: Igas etapis (projekteerimine, analüüs, suuruse määramine, turvalisus, käitamine) asetatakse inimese kontrollimise värav ja selge üleminekutingimus (kas see on stabiilne, kas see on allikaga ühendatud, kas kood on testitud, kas on saadud ekspertide heakskiit). Sa ei saa läbida ühest uksest teise läbimata; See kihiline struktuur hoiab ära ühe AI ​​vea lekkimise järgmistesse etappidesse.

14. Milline järgmistest rakendustest muudab tehisintellekti kasutamise asutuses juhtimise seisukohalt ohutuks?

• A) Iga kasutaja võib vabalt sisestada omandiõigusega kaitstud andmeid ükskõik millisesse enda valitud avatud tööriista.
• B) juhtimisraamistik, mis sisaldab heakskiidetud sõidukite nimekirja, andmete klassifikatsiooni, jälgitavust, koolitust ja pidevat kontrollimist ✔
• C) Tehisintellekti kasutamist ei registreerita üldse
• D) Ühe heakskiitmata tööriista kasutamine iga töö jaoks, sealhulgas turvakriitiliste kontode jaoks

Selgitus: "Igaüks peaks andma soovitud sõidukile andmed, mida nad tahavad" kujutab endast nii omandiõigusega kaitstud teabe lekke kui ka turvavigade ohtu. kindel juhtimisraamistik; See sisaldab heakskiidetud sõidukite ja mudelite loendit, andmete klassifikatsiooni (milline sõiduk saab registreerida registreeritud/isikuandmeid), registreerimist ja jälgitavust (kontrolljälg), kasutajate koolitust ja pidevat kontrollimist. See on kriitiline infrastruktuur, mis piirab riske.