Potek dela od konca do konca, upravljanje, avtentikacija in odgovorna uporaba

Dobički:

• Sposobnost dosledne vdelave umetne inteligence na vsaki stopnji od zasnove do delovanja, s človeškimi vrati za preverjanje in prehodnimi pogoji v enem stavku
• Sposobnost vzpostavitve okvira upravljanja z odobrenim seznamom vozil, klasifikacijo podatkov, sledljivostjo, usposabljanjem in stalnim preverjanjem
• Sposobnost vgradnje načel človeške odgovornosti, varnostne prioritete, preverjanja, zaupnosti, transparentnosti in okoljsko-družbene odgovornosti v potek dela

V prejšnjih desetih enotah smo videli, kako varno uporabljati AI na posameznih področjih kemijskega inženirstva – načrtovanje, simulacija, kinetika, napovedovanje lastnosti, optimizacija, nadzorni podatki, HAZOP, iskanje po standardih in Python. V tej zadnji enoti sestavljamo dele: Naučili se bomo, kako vgraditi AI od začetka do konca projekta ali objekta z dosledno disciplino, človeškimi vrati za preverjanje in strukturo upravljanja – okvir, ki določa pravila, po katerih se bodo orodja, podatki in odločitve uporabljali v organizaciji. Cilj je zgraditi večplastni sistem, ki preprečuje, da bi se en hrošč AI prikradel v načrt, poslovno odločitev ali varnostni dokument.

Osnovna ideja je preprosta: človeška vrata za preverjanje in jasen prehodni pogoj so postavljeni na vsako stopnjo; Ne morete skozi ena vrata, ne da bi šli skozi druga. To je rešilna struktura v kemijskem inženiringu, pa tudi na forenzičnem ali medicinskem področju — saj tudi tukaj napake nimajo posledic na papirju, ampak v resnici, na ljudeh in okolju.

Potek dela od konca do konca: z vrati za preverjanje

Razmislimo o projektu kemijskega inženirstva v petih fazah in v vsako umestimo vlogo AI in vrat za preverjanje:

1. Oblikovanje in koncept. AI ustvari možnosti poti in osnutek PFD. Vrata: ali se materialno ravnovesje vzdržuje ročno, je bila pot izbrana z inženirsko presojo?

2. Analiza in simulacija. Povzema rezultate simulacije AI, daje skico kinetike/lastnosti. Vrata: ali je termodinamični model ustrezen, ali ravnovesje mase/energije drži, ali so kritične vrednosti odvisne od eksperimentalnega vira/vira podatkovne baze?

3. Optimizacija in dimenzioniranje. AI izdela osnutek kode za optimizacijo in izračun. Vrata: ali so omejitve popolne, ali je koda testirana, ali je v optimalnem varnostnem oknu?

4. Varnost in skladnost. Zagotavlja okostje AI HAZOP in standardni zemljevid. Vrata: Ali je analizo nevarnosti opravila strokovna skupina, ali so bili standardi preverjeni iz primarnega vira, ali je bila pridobljena avtorizirana odobritev?

5. Delovanje in spremljanje. AI spremlja podatke senzorjev in označuje anomalije. Vrata: signal real ali senzor, varnostna zaščita v neodvisnem SIS?

Ta vrata preprečujejo prenos posameznega nepreverjenega izhoda v naslednjo stopnjo. Tudi če žuželka pobegne, obstaja velika verjetnost, da jo bodo ujeli pri sosednjih vratih.

Namig: Napišite »prehodni pogoj« v enem stavku za vsako stopnjo in ga naredite vidnega ekipi: »Simulacije ni mogoče začeti, dokler materialna bilanca ni ročno preverjena.« Takšna jasna pravila zagotavljajo ohranjanje discipline tudi pod časovnim pritiskom.

Okvir upravljanja: institucionalna disciplina

Posamezno preverjanje je dobro, vendar je potreben okvir upravljanja na ravni objekta. Pet ključnih komponent:

1. Seznam odobrenih vozil in modelov. Določa, katera orodja AI se lahko uporabljajo za katere naloge. Neodobrena orodja se ne uporabljajo za varnostno pomembne račune.

2. Klasifikacija podatkov. V katero vozilo se lahko vnesejo registrirani recepti, pogoji delovanja in osebni podatki? Zaupni/zaščiteni podatki niso posredovani orodjem, ki oddajajo podatke izven organizacije.

3. Evidentiranje in sledljivost (revizijska sled). Kateri rezultat je prišel iz katerega orodja, kdo ga je preveril, s katerim virom je bil povezan? Če se pojavi težava, mora biti sledljiva.

4. Usposabljanje in usposobljenost. Uporabniki morajo poznati meje umetne inteligence, tveganje halucinacij in disciplino preverjanja. Orodje je močno, vendar nevarno v napačnih rokah.

5. Stalno preverjanje. Modeli in vozila se razlikujejo; Zanesljivost izhodov se občasno ponovno testira.

Pozor: V instituciji je pristop "vsakdo naj da želene podatke orodju AI, ki ga želi" tveganje za uhajanje lastniških informacij in varnostne napake. Upravljanje je nevidna, a kritična infrastruktura, ki omejuje ta tveganja.

Načela odgovorne uporabe

Povežimo modul s šestimi principi:

1. Človeška odgovornost. Končno odločitev in podpis ima pristojni strokovnjak; Rezultat AI ni nadomestilo za njegovo odobritev.
2. Varnostna prednost. Varnostno kritične odločitve (varnost, nevarnost, material, velikost) zahtevajo preverjanje in avtorizirano odobritev.
3. Disciplina preverjanja. Vsak izhod je povezan s fiziko/virom, testiran z neodvisno metodo in šel skozi interpretacijski filter.
4. Varnost. Zaščitni in osebni podatki se obdelujejo samo na odobren in varen način.
5. Preglednost. Uporaba umetne inteligence je pošteno navedena v poročilih in dokumentaciji.
6. Okoljska in družbena odgovornost. Odločitve ne upoštevajo le gospodarstva, temveč tudi zdravje ljudi in okolje.

trije mini kovčki

1. primer – Vrata so ujela hrošča. V enem projektu je bilo 4-odstotno masno neravnovesje v osnutku PFD AI ujeto v vratih ravnotežja, preden se je premaknilo v fazo simulacije. Napaka je bila odpravljena pri izvoru; Če vrat ne bi bilo, bi se ta napaka razširila na simulacijo in nato na dimenzioniranje. Večplastna struktura je delovala.

Primer 2 – Upravljanje je preprečilo uhajanje podatkov. Inženir je nameraval prilepiti lastniški recept za katalizator v odprto vozilo z umetno inteligenco. Pravilo o razvrščanju podatkov agencije pravi, da se ti podatki lahko obdelujejo samo v interno odobrenem orodju. Pravilo je preprečilo komercialno kritično uhajanje.

Primer 3 – Sledljivost je prinesla zaupanje. Pri eni reviziji so nas vprašali, kako je bila sprejeta odločitev o oblikovanju. Zahvaljujoč snemalni disciplini institucije je bilo mogoče dokumentirati, da je AI izdelal samo osnutek, da je bila vsaka kritična vrednost pripisana eksperimentalnemu viru in da je odločitev odobril pooblaščeni inženir. Transparentnost je zagotovila zaupanje in pravno zaščito.

Štiri predloge za kopiranje

1) Načrt vrat poteka dela:

Vaša vloga: svetovalec za zagotavljanje projektov. Moj projekt: [opis]. Pripravite mi načrt VERIFIKACIJSKIH VRAT za stopnje (načrtovanje, analiza, dimenzioniranje, varnost, delovanje): kaj naredi AI na vsaki stopnji, katerega prehodnega pogoja v enem stavku NI MOGOČE prenesti na naslednjo stopnjo, ne da bi bil izpolnjen, kdo preverja. Poseben poudarek na varnostno kritičnih vratih.

2) Samoregulacija upravljanja:

Za uporabo umetne inteligence v naši organizaciji je izdan kontrolni seznam za samorevizijo: (1) ali obstaja seznam odobrenih orodij, (2) ali je opredeljena klasifikacija podatkov, (3) ali se vodi evidenca/sledljivost, (4) ali obstaja usposabljanje uporabnikov, (5) ali obstaja stalno preverjanje? Zahtevajte oceno "da/delno/ne" in predloge za izboljšave za vsak element. Kontekst: [definicija]

3) Preglednost/izjava o uporabi:

Pripravite odstavek o preglednosti, ki pošteno opisuje uporabo umetne inteligence za inženirsko poročilo: na katerih stopnjah je bila umetna inteligenca uporabljena za osnutek/analizo, kako so bili rezultati potrjeni, s končno odgovornostjo odgovornega inženirja. pretiravanje; samo odraža, kaj je bilo dejansko storjeno.Dejanja: [opis]

4) Zadnji pregled pred odločitvijo:

Sprejel bom to odločitev: [odločitev]. Preglejte me zadnji kontrolni seznam, preden ga izdam: (1) ali je to kritično za varnost, (2) ali so vrednosti, na katere se zanašam, pridobljene/preizkušene, (3) ali je bilo opravljeno neodvisno preverjanje, (4) ali je potrebna odobritev organa, (5) ali je bila upoštevana zaupnost/skladnost? Označite korak, ki vam manjka. Odločitev je moja; Sledite kontrolnemu seznamu.

Šibek poziv/močan poziv

Šibek poziv:

Kako naj uporabim AI v svojem projektu?

Brez konteksta, brez validacijske strukture. Umetna inteligenca daje splošen odgovor, mimo varnostno kritičnih vrat.

Močan poziv:

Vaša vloga: svetovalec za zagotavljanje projektov. Umetno inteligenco želim uporabiti od zasnove do delovanja v projektu 50.000 ton/leto kemične proizvodnje. Za vsako stopnjo dobim okvir za vlogo umetne inteligence, strukturo preverjanja, ki je ni mogoče opraviti brez prehoda, kdo jo bo odobril in katere podatke je mogoče dati kateremu orodju. Označite tudi varnostno kritične korake in poudarite, kje je obvezna človeška odobritev.

Razlika je jasna: kontekst projekta, vrata, odobritev in podatkovna pravila sistematizirajo uporabo umetne inteligence.

Porazdelitev vlog v strukturi od konca do konca

Oder

Vloga AI

vrata za preverjanje

Oblikovanje

Trasa, osnutek PFD

Stanje + potrditev poti

Analiza

Povzetek simulacije, napoved

Model + potrditev vira

Dimenzioniranje

optimizacija, koda

Omejitev + test + varnost

Varnost/skladnost

Okostje HAZOP, zemljevid

Strokovna ekipa + primarni vir

Posel

Sledenje anomalij

Real/senzor + neodvisen SIS

Pogoste napake

• Preskakovanje vrat pod časovnim pritiskom. Če preskočite vrata, bo napaka prešla v naslednje stopnje.
• Zanemarjanje vladanja. Nepravilna uporaba orodij in podatkov povzroča uhajanje in varnostna tveganja.
• Skrivanje uporabe. Če uporaba umetne inteligence ni pregledno dokumentirana, sta ogrožena tako zaupanje kot pravna zaščita.
• Varnostno kritična odobritev za ogled formalne. Pooblaščena odobritev ni formalnost podpisa, temveč odgovornost za resnično preverjanje.
• Pozabljamo na okoljske in socialne vidike. Odločitve se ne pretehtajo le z ekonomskih, temveč tudi z zdravstvenih in okoljskih vidikov.

Če povzamem

V strukturi od konca do konca je umetna inteligenca vgrajena s človeškimi vrati za preverjanje na vsaki stopnji kemijskega inženiringa; Ne morete skozi ena vrata, ne da bi šli skozi druga. Okvir upravljanja (certificirana orodja, klasifikacija podatkov, sledljivost, usposabljanje, stalno preverjanje) prinaša to disciplino v obseg podjetja. Hrbtenica odgovorne uporabe je šest načel: človeška odgovornost, varnostna prioriteta, verifikacijska disciplina, zaupnost, transparentnost in okoljsko-družbena odgovornost. AI je močan pomočnik; Toda lastnik dizajna, varnosti in zadnje besede je vedno kompetenten strokovnjak.

Aplikacijska naloga

Ustvarite načrt vrat za preverjanje v petih korakih za svoj (ali namišljeni) projekt s predlogo »načrt prehodov delovnega toka«; Za vsako stopnjo napišite prehodni pogoj v enem stavku. Nato s predlogo »samorevizija upravljanja« ocenite, kako uspešna je uporaba umetne inteligence v tem projektu v smislu odobrenih orodij, klasifikacije podatkov, sledljivosti in usposabljanja ter določite vsaj dve izboljšavi.

kontrolni seznam

• [ ] Na vsako stopnjo sem postavil človeška vrata za preverjanje in pogoj prehoda z enim stavkom.
• [ ] Določil sem odobren seznam orodij in klasifikacijo podatkov.
• [ ] Vodil sem evidenco/sledljivost (kakšen rezultat, kdo je preveril, kateri vir).
• [ ] V poročilu sem transparentno navedel uporabo AI.
• [ ] Odločitve, ki so pomembne za varnost, pripisujem odobritvi pooblaščenih strokovnjakov in okoljsko-družbeni odgovornosti.

Modulni izpit

1. Kaj od naslednjega je najbolj natančno pozicioniranje za umetno inteligenco v kemijskem inženirstvu?

• A) Umetna inteligenca lahko zapiše varnostne izračune neposredno v načrt brez človeške odobritve
• B) AI je pospeševalnik računov in generator načrtov; Odgovornost za ugotavljanje varnosti zasnove in končno odločitev nosi človek ✔
• C) Ker je umetna inteligenca vedno bolj zanesljiva od človeka, je treba odločitve o varnosti prepustiti njej.
• D) Umetna inteligenca je uporabna samo za povzemanje besedila, nima nič skupnega z inženirskimi izračuni

Opis: Umetna inteligenca; Je pomočnik, ki triira obsežne podatke, označuje vzorce in ustvarja izračune/osnutke kod. Odgovornost in odobritev kritičnih vprašanj, kot so varnost zasnove, interpretacija simulacije in končna odločitev, pripada pristojnemu strokovnjaku; Nepotrjen izhod lahko povzroči puščanje reaktorja ali eksplozijo. Zato rezultati umetne inteligence ne nadomestijo odobritve pristojnih strokovnjakov.

2. Katera je disciplina preverjanja v treh korakih za rezultat inženirskega izračuna, ki ga poda umetna inteligenca?

• A) Preverjanje, ali je rezultat tekoč in samozavesten
• B) Trikrat postavite isto vprašanje umetni inteligenci in vzemite povprečje
• C) Povežite ga s fiziko/virom, preizkusite neodvisno, pustite skozi filter meje komentarjev ✔
• D) Neposredno sprejemanje rezultata in njegovo preverjanje le v fazi poročila

Pojasnilo: Vsak izhod je najprej povezan s fiziko/virom (katera enačba, kateri vir, katera predpostavka), nato je preizkušen z neodvisno metodo (ročni izračun, simulacija, referenčni podatki, preverjanje vrstnega reda) in nazadnje je šel skozi filter meje komentarja (ali je masa/energija ohranjena, ali je vrednost realna). Ti trije koraki ujamejo večino halucinacij.

3. Kaj storiti, če se skupna vstopna in izstopna masa ne ujema z osnutkom materialne bilance, ki ga je vzpostavila umetna inteligenca v načrtu procesa?

• A) Majhna razlika je nepomembna, zanemarite jo in nadaljujte z načrtovanjem
• B) Razlika je najdena in popravljena; pogosto pride do pozabljenega toka ali dvojne štetje povratne zanke ✔
• C) Ravnovesje velja za pravilno, ker ga umetna inteligenca tako izračuna.
• D) Vrednost izhodnega toka se ročno poveča, da se nadomesti razlika

Pojasnilo: V kemijskem inženirstvu se masa ohrani ali ne; 'stane približno' je nesprejemljivo. Če enačba vhod = izhod ni izpolnjena, pogosto pride do pozabljenega stranskega toka, dvojnega štetja recikliranja ali napake. Načrtovanja ni mogoče napredovati, dokler tega ne najdemo in popravimo; drugače se bo napaka razširila na vsa naslednja dimenzioniranja.

4. Simulacija procesa je "konvergirala in dala lepo sliko". Kaj je najbolj kritično tveganje za točnost tega rezultata?

• A) Tabela ni predstavljena v barvni in čitljivi obliki
• B) Simulacija konvergira prehitro
• C) Termodinamični model, ki ni primeren za značilnosti sistema, daje prepričljive, a nepravilne rezultate ✔
• D) Preveč decimalnih mest v tabeli toka

Pojasnilo: večina simulacijskih napak ni numeričnih, temveč zaradi izbire termodinamičnega modela (paket lastnosti). Uporaba idealnega modela na polarno zmes lahko naredi azeotrop neviden in rezultat bo gladek, vendar popolnoma napačen. Na videz konvergentna in lepa slika se ne izkaže za resnično; potrebno je prileganje modela in eksperimentalna primerjava.

5. Kako ravnati, ko umetna inteligenca poda vrednost konstante hitrosti reakcije (k) za zasnovo reaktorja?

• A) Vrednost je treba določiti eksperimentalno; Predvidevanje umetne inteligence se ne uporablja kot načrtovalni podatki ✔
• B) Vrednost je vložena neposredno v načrtovanje, saj AI zagotavlja samozavestno
• C) Predpostavlja se, da je vrednost enaka pri vsaki reakciji ne glede na pogoje
• D) Vrednost je zadostna, ko se podobna številka pojavi na internetu

Opis: Konstante hitrosti, aktivacijska energija in mehanizem so določeni samo z eksperimentom; Ista reakcija se z različnimi katalizatorji, nečistočami ali fazami obnaša zelo različno. Vrednost k, ki jo vrne umetna inteligenca, je lahko začetna ugibanja, vendar ni načrtovalni podatek. Vsak kinetični parameter, ki je osnova zasnove, mora temeljiti na empiričnem viru.

6. Kako naj se določi toplota eksotermne reakcije (reakcijska entalpija) za varno načrtovanje hlajenja?

• A) Začetna vrednost, ki jo poda umetna inteligenca, se neposredno vnese v načrt hlajenja
• B) Vrednost je izmerjena s kalorimetrijo in ovrednotena s strani pooblaščenega inženirja, ne temelji na napovedi umetne inteligence ✔
• C) Če je reakcija eksotermna, lahko toplotno obremenitev zanemarimo
• D) Vrednost podobne spojine se uporabi ne glede na stanje

Opis: Reakcijska toplota in potencial toplotnega uhajanja sta kritična za varnost. Vrednost, ki jo vrne AI, lahko pripada drugemu topilu/stanju in lahko bistveno napačno predstavlja dejansko toplotno obremenitev. Te vrednosti so izmerjene s kalorimetrijo (npr. reakcijska kalorimetrija) in ovrednotene s strani pristojnega inženirja; Nikoli ne temelji zgolj na predvidevanju umetne inteligence.

7. Umetna inteligenca je dala parni tlak topila z zanesljivo številko. Kaj je treba storiti pred uporabo te vrednosti?

• A) Ker je vrednost podana tekoče, je postavljena neposredno v zasnovo stolpca
• B) Nadzira se samo enota, ni treba gledati vira
• C) Vrednost je preverjena z zanesljivo zbirko podatkov (DIPPR/NIST) ali poskusom s pogojem ✔
• D) Če se vrednost primerja z vrednostjo drugega topila in je podobna, je sprejeta.

Pojasnilo: Ocena značilnosti je numerična osnova zasnove in napaka se tukaj širi skozi celoten izračun. Vrednost AI lahko pripada drugi spojini, je v napačnem stanju ali je halucinacija. Zato je vsaka kritična značilnost preverjena z zanesljivo bazo podatkov (DIPPR/NIST) ali poskusom; zahtevati je treba tudi skupaj s pogojem vrednosti (temperatura, tlak, faza).

8. Kaj se zgodi, če se umetni inteligenci reče, naj 'minimizira energijo' pri optimizaciji procesa, vendar ni podana nobena omejitev glede čistosti izdelka?

• A) Rezultat je vedno varen in kakovosten, omejitve so nepotrebne
• B) Lahko se pojavi zavajajoč optimum, ki na papirju izgleda dobro, vendar žrtvuje čistost ali varnost ✔
• C) Umetna inteligenca spontano in pravilno dopolnjuje manjkajoče omejitve
• D) Optimizacija ne deluje in ne daje rezultatov

Pojasnilo: Neomejena optimizacija je zavajajoča: umetna inteligenca ali algoritem lahko predlaga 'optimum', ki na papirju zmanjša energijo, v resnici pa zmanjša čistost izdelka pod specifikacijo ali preseže varnostno mejo. Zato morajo biti vse kakovostne in varnostne omejitve ter spremenljivke namena in odločitve popolnoma definirane; Matematični optimum je treba preizkusiti tudi glede varnosti in izvedljivosti.

9. Kaj je prva stvar, ki jo je treba storiti, ko umetna inteligenca označi nenaden skok v podatkih senzorja kot "možno uhajanje"?

• A) Takojšnja ustavitev procesa, ker je umetna inteligenca rekla, da pušča
• B) Ignoriranje signala, ker so senzorji vedno napačni
• C) Preverjanje s filtrom zanesljivosti, ali je signal resničen procesni dogodek ali težava senzorja/meritve ✔
• D) Samodejno izbriši skok iz nabora podatkov

Pojasnilo: Senzorji lahko lažejo: kalibracija zdrsne, povezava postane ohlapna, linija pobere šum. Signal anomalije je treba najprej filtrirati zaradi zanesljivosti podatkov: ali je skladen s sosednjimi/povezanimi senzorji, ali je fizično izvedljiv, ali se ujema z zapisom vzdrževanja/kalibracije? Šele potem, ko so ti opravljeni, se raziskuje kot resničen procesni dogodek; V nasprotnem primeru lahko pride do intervencije na podlagi lažnega alarma.

10. Kakšna je primerna in varna vloga umetne inteligence v študiji HAZOP?

• A) Izdelava popolnega HAZOP s poznavanjem postopka in s tem, da je sestanek nepotreben
• B) Natančno razvrščanje ravni tveganja in sprejemanje previdnostnih odločitev
• C) Zagotavljanje delovnega okvira, usmerjevalna vprašanja in priprava zapisnika; Dejansko oceno nevarnosti prepustite strokovni ekipi ✔
• D) Samostojni odhod na kraj sestanka in podpis končnega poročila o tveganju

Opis: HAZOP je varnostno kritična strokovna dejavnost. Umetna inteligenca; Ogrodje matrike vozlišča/parametrov/vodilnih besed pospeši dokumentacijo, kot je tipični priklic scenarija in minutno urejanje. Katero odstopanje pa je prava nevarnost, resnost posledice in ustreznost previdnosti pa so v pristojnosti multidisciplinarne strokovne ekipe; Poleg tega v umetni inteligenci ni nevarnosti, specifičnih za proces. Osnutek AI je vhod, ne rezultat strokovnega srečanja.

11. Kaj je najbolj kritično opozorilo za AI v raziskavah standardov in predpisov?

• A) Umetna inteligenca se nikoli ne zmoti v svojem standardnem znanju, lahko se uporablja neposredno
• B) Vsaka številka snovi, mejna vrednost in datum morajo biti preverjeni iz primarnega in trenutnega vira; AI samo usmerja ✔
• C) Preverjanje posodobitev ni potrebno, ker se standardi nikoli ne spremenijo.
• D) Samo ustvarjanje kontrolnega seznama dokazuje skladnost

Pojasnilo: Raziskave standardov so eno od področij, kjer so halucinacije umetne inteligence lahko najbolj uničujoče: neobstoječa številka artikla, nepravilna prekinitvena točka ali zastarela zahteva je lahko predstavljena na zelo prepričljiv način. Skladnost pomeni varnost in zakon. Zato vsake snovi, mejne vrednosti in datuma ni mogoče uporabiti brez potrditve primarnega in trenutnega vira; AI zagotavlja samo smer.

12. Inženirska računska koda Python, ki jo je napisala umetna inteligenca, je delovala brez napak in ustvarila številko. Kaj bi bilo potrebno, da bi zaupali temu sklepu?

• A) Delovanje kode brez napak dokazuje, da je rezultat pravilen.
• B) Kodo je treba preizkusiti z znanim rezultatom, preskusiti je treba enote in robne primere, organ pa mora preveriti tudi varnostni izračun ✔
• C) Če je koda dolga in izgleda zapletena, se lahko šteje za pravilno
• D) Ker ga piše umetna inteligenca, ni potrebe po dodatnem preverjanju

Pojasnilo: 'Deluje' in 'pravilno' sta različni stvari: koda se lahko izvaja brez napak in ustvari napačno številko (zmeda enote, napaka predznaka, premik indeksa). Zato je treba vsako kodo preizkusiti na testnem primeru (analitični vzorec, ročni izračun, referenčni podatki), katerega odgovor je znan neodvisno; enote in robne ohišja je treba preveriti; Izračune, ki so pomembni za varnost, mora preveriti tudi pooblaščeni inženir.

13. Kateri je najučinkovitejši način za zaščito celovitega procesa kemijskega inženiringa, ki ga podpira AI, pred puščanjem enega samega hrošča v načrtu ali varnostnem dokumentu?

• A) Prenos celotnega postopka na eno samo orodje AI in ogled na koncu
• B) Odstranitev vmesnih preverjanj hitrosti in preverjanje samo v končni fazi
• C) Postavitev človeških vrat za preverjanje in prehodnega pogoja z enim stavkom na vsaki stopnji (večplastno preverjanje) ✔
• D) Vsak inženir lahko prosto uporablja svoje vozilo brez vodenja evidenc.

Opis: Vrata za človeško preverjanje in jasen prehodni pogoj (ali je stabilen, ali je povezan z virom, ali je koda preizkušena, ali je prejeta odobritev strokovnjakov) so nameščeni na vsaki stopnji (načrtovanje, analiza, dimenzioniranje, varnost, delovanje). Ne morete skozi ena vrata, ne da bi šli skozi druga; Ta večplastna struktura preprečuje, da bi posamezna napaka AI prešla v naslednje stopnje.

14. Katera od naslednjih aplikacij naredi uporabo umetne inteligence v instituciji varno z vidika upravljanja?

• A) Vsak uporabnik lahko prosto vnese lastniške podatke v katero koli odprto orodje po lastni izbiri.
• B) Okvir upravljanja, ki vključuje odobren seznam vozil, klasifikacijo podatkov, sledljivost, usposabljanje in stalno preverjanje ✔
• C) Uporaba umetne inteligence sploh ni evidentirana
• D) Uporaba enega samega, neodobrenega orodja za vsako opravilo, vključno z varnostno kritičnimi računi

Pojasnilo: Pristop „Vsak naj da želene podatke vozilu, ki ga želi“ predstavlja tveganje za uhajanje lastniških informacij in varnostne napake. trden okvir upravljanja; Vključuje seznam odobrenih vozil in modelov, klasifikacijo podatkov (katero vozilo lahko registrira registrirane/osebne podatke), registracijo in sledljivost (revizijska sled), usposabljanje uporabnikov in stalno preverjanje. To je kritična infrastruktura, ki omejuje tveganja.