Kompletný pracovný tok, riadenie, overovanie a zodpovedné používanie

zisky:

• Schopnosť dôsledne začleniť AI v každej fáze od návrhu až po prevádzku, s bránami na overenie ľudí a podmienkami prechodu v jednej vete
• Schopnosť vytvoriť rámec riadenia so schváleným zoznamom vozidiel, klasifikáciou údajov, sledovateľnosťou, školením a priebežným overovaním
• Schopnosť začleniť princípy ľudskej zodpovednosti, bezpečnostnej priority, overovania, dôvernosti, transparentnosti a environmentálne-sociálnej zodpovednosti do pracovného toku

V predchádzajúcich desiatich častiach sme videli, ako bezpečne používať AI v jednotlivých oblastiach chemického inžinierstva – dizajn, simulácia, kinetika, predikcia vlastností, optimalizácia, riadiace dáta, HAZOP, vyhľadávanie štandardov a Python. V tejto záverečnej časti poskladáme jednotlivé časti: Naučíme sa, ako začleniť AI od začiatku do konca projektu alebo zariadenia s konzistentnou disciplínou, bránami na overovanie ľudí a štruktúrou riadenia – rámec, ktorý určuje pravidlá, podľa ktorých sa budú v organizácii používať nástroje, údaje a rozhodnutia. Cieľom je vybudovať vrstvený systém, ktorý zabráni tomu, aby sa jedna chyba AI vkradla do návrhu, obchodného rozhodnutia alebo bezpečnostného dokumentu.

Základná myšlienka je jednoduchá: v každej fáze je umiestnená ľudská verifikačná brána a jasná podmienka prechodu; Nemôžete prejsť cez jedny dvere bez toho, aby ste neprešli cez druhé. Ide o život zachraňujúcu štruktúru v chemickom inžinierstve, ako aj vo forenzných alebo lekárskych odboroch – pretože aj tu majú chyby dôsledky nie na papieri, ale v skutočnosti na ľudí a životné prostredie.

Kompletný pracovný postup: s overovacími bránami

Pozrime sa na projekt chemického inžinierstva v piatich fázach a do každej umiestnime úlohu AI a overovacej brány:

1. Dizajn a koncepcia. AI generuje možnosti trasy a návrh PFD. Dvere: je materiálová bilancia udržiavaná ručne, bola trasa zvolená na základe technického posúdenia?

2. Analýza a simulácia. Sumarizuje výstup simulácie AI, poskytuje kinetiku/náčrt vlastností. Brána: je termodynamický model vhodný, platí hmotnostná/energetická rovnováha, sú kritické hodnoty závislé od experimentálneho/databázového zdroja?

3. Optimalizácia a dimenzovanie. AI vytvára návrh optimalizačného a výpočtového kódu. Dvere: sú obmedzenia úplné, bol kód testovaný, je v optimálnom bezpečnostnom okne?

4. Bezpečnosť a súlad. Poskytuje kostru AI HAZOP a štandardnú mapu. Dvere: Vykonal analýzu nebezpečenstva expertný tím, boli štandardné položky overené z primárneho zdroja, získal autorizovaný súhlas?

5. Prevádzka a monitorovanie. Umelá inteligencia monitoruje dáta senzorov a signalizuje anomálie. Dvere: skutočný signál alebo senzor, bezpečnostná ochrana v nezávislom SIS?

Tieto brány zabraňujú prenosu jedného neovereného výstupu do ďalšej fázy. Aj keď ploštica utečie, je veľká šanca, že sa chytí pri susedných dverách.

Tip: Pre každú fázu napíšte „podmienku prechodu“ v jednej vete a zobrazte ju tímu: „Simuláciu nemožno spustiť, kým sa materiálová bilancia manuálne neoverí.“ Takéto jasné pravidlá zabezpečujú dodržiavanie disciplíny aj pod časovým tlakom.

Rámec riadenia: inštitucionálna disciplína

Individuálne overovanie je dobré, ale na úrovni zariadení je potrebný rámec riadenia. Päť kľúčových komponentov:

1. Zoznam schválených vozidiel a modelov. Definuje, ktoré nástroje AI možno použiť na aké úlohy. Neschválené nástroje sa nepoužívajú pre účty kritické z hľadiska bezpečnosti.

2. Klasifikácia údajov. Do ktorého vozidla môžu vstúpiť evidované predpisy, prevádzkové podmienky a osobné údaje? Dôverné/proprietárne údaje sa neposkytujú nástrojom, ktoré unikajú údaje mimo organizácie.

3. Evidencia a sledovateľnosť (audítorský záznam). Ktorý výstup pochádzal z ktorého nástroja, kto ho overil, s akým zdrojom bol prepojený? Malo by byť vysledovateľné, ak sa vyskytne problém.

4. Školenie a spôsobilosť. Používatelia musia poznať limity AI, riziko halucinácií a disciplínu pri overovaní. Nástroj je silný, ale nebezpečný v nesprávnych rukách.

5. Priebežné overovanie. Modely a vozidlá sa líšia; Spoľahlivosť výstupov sa pravidelne testuje.

Pozor: V inštitúcii je prístup „každý by mal poskytnúť údaje, ktoré chce, nástroju AI, ktorý chce“ rizikom úniku chránených informácií a zlyhania zabezpečenia. Riadenie je neviditeľná, ale kritická infraštruktúra, ktorá obmedzuje tieto riziká.

Zásady zodpovedného používania

Spojme modul so šiestimi princípmi:

1. Ľudská zodpovednosť. Konečné rozhodnutie a podpis je na kompetentnom odborníkovi; Výstup AI nenahrádza jeho schválenie.
2. Bezpečnostná priorita. Rozhodnutia kritické z hľadiska bezpečnosti (bezpečnosť, nebezpečenstvo, materiál, veľkosť) vyžadujú overenie a autorizované schválenie.
3. Disciplína overovania. Každý výstup je pripojený k fyzike/zdroju, testovaný nezávislou metódou a prechádza cez interpretačný filter.
4. Bezpečnosť. Vlastnícke a osobné údaje sa spracúvajú iba schváleným a bezpečným spôsobom.
5. Transparentnosť. Používanie AI je čestne uvedené v správach a dokumentácii.
6. Environmentálna a sociálna zodpovednosť. Rozhodnutia zohľadňujú nielen ekonomiku, ale aj ľudské zdravie a životné prostredie.

tri mini prípady

Prípad 1 – Dvere zachytili chybu. V jednom projekte sa 4 % hmotnostná nerovnováha v PFD návrhu AI zachytila ​​v bráne rovnováhy pred prechodom do simulačnej fázy. Chyba bola opravená pri zdroji; Ak by neexistovali žiadne dvere, táto chyba by sa rozšírila do simulácie a potom do dimenzovania. Vrstvená štruktúra fungovala.

Prípad 2 – Riadenie zabránilo úniku údajov. Inžinier sa chystal vložiť patentovaný recept na katalyzátor do otvoreného vozidla AI. Pravidlo agentúry na klasifikáciu údajov uviedlo, že tieto údaje možno spracovať iba v internom schválenom nástroji. Toto pravidlo zabránilo komerčne kritickému úniku.

Prípad 3 – Vysledovateľnosť priniesla dôveru. V jednom audite sme dostali otázku, ako bolo prijaté rozhodnutie o dizajne. Vďaka záznamovej disciplíne inštitúcie bolo možné zdokumentovať, že AI vytvorila iba návrh, že každá kritická hodnota bola pripísaná experimentálnemu zdroju a že rozhodnutie bolo schválené autorizovaným inžinierom. Transparentnosť poskytla dôveru aj právnu ochranu.

Štyri kopírovateľné šablóny

1) Plán brány pracovného postupu:

Vaša úloha: konzultant pre zabezpečenie projektu. Môj projekt: [popis]. Pripravte mi plán VERIFIKAČNEJ BRÁNY pre fázy (návrh, analýza, dimenzovanie, bezpečnosť, prevádzka): čo robí AI v každej fáze, ktorá podmienka prechodu v jednej vete NEMÔŽE prejsť do ďalšej fázy bez toho, aby bola splnená, kto overí. Špeciálny dôraz na bezpečnostné dvere.

2) Samoregulácia riadenia:

Na používanie AI v našej organizácii je vydaný kontrolný zoznam samokontroly: (1) existuje zoznam schválených nástrojov, (2) je definovaná klasifikácia údajov, (3) vedie sa záznam/sledovateľnosť, (4) existuje školenie používateľov, (5) existuje nepretržité overovanie? Požiadajte o hodnotenie „áno/čiastočné/nie“ a návrhy na zlepšenie pre každú položku. Kontext: [definícia]

3) Transparentnosť / vyhlásenie o použití:

Navrhnite transparentný odsek, ktorý čestne popisuje použitie AI pre inžiniersku správu: v ktorých fázach sa AI použila na návrh/analýzu, ako boli výstupy overené, s konečnou zodpovednosťou zodpovedného inžiniera. Preháňanie; len odzrkadľovať, čo sa skutočne urobilo. Činnosti: [popis]

4) Posledná kontrola pred rozhodnutím:

Chystám sa urobiť toto rozhodnutie: [rozhodnutie]. Predtým, ako mi ho odovzdám, prezrite si záverečný kontrolný zoznam: (1) je to kritické pre bezpečnosť, (2) sú získané/experimentované nejaké hodnoty, na ktoré sa spolieham, (3) vykonalo sa nezávislé overenie, (4) vyžaduje sa schválenie úradom, (5) bola dodržaná dôvernosť/súlad? Označte krok, ktorý chýba. Rozhodnutie je na mne; Postupujete podľa kontrolného zoznamu.

Slabá výzva / Silná výzva

Slabá výzva:

Ako by som mal používať AI vo svojom projekte?

Žiadny kontext, žiadna overovacia štruktúra. Umelá inteligencia dáva všeobecnú odpoveď a obchádza brány kritické z hľadiska bezpečnosti.

Výkonná výzva:

Vaša úloha: konzultant pre zabezpečenie projektu. Chcem použiť AI od návrhu až po prevádzku v projekte chemickej výroby 50 000 ton ročne. Pre každú fázu dostanem rámec pre rolu AI, overovaciu štruktúru, ktorá nemôže prejsť bez absolvovania, kto to schváli a aké údaje je možné poskytnúť ktorému nástroju. Označte tiež kroky kritické z hľadiska bezpečnosti a zdôraznite, kde je povinné schválenie človekom.

Rozdiel je jasný: kontext projektu, brány, schvaľovanie a pravidlá údajov systematizujú používanie AI.

Rozdelenie rolí v štruktúre typu end-to-end

Etapa

Úloha AI

overovacia brána

Dizajn

Trasa, návrh PFD

Zostatok + potvrdenie trasy

Analýza

Súhrn simulácie, predpoveď

Model + potvrdenie zdroja

Dimenzovanie

optimalizácia, kód

Obmedzenie + test + bezpečnosť

Bezpečnosť/súlad

HAZOP kostra, mapa

Expertný tím + primárny zdroj

Podnikanie

Sledovanie anomálií

Reálny/senzor + nezávislý SIS

Časté chyby

• Skákanie dverí pod časovým tlakom. Preskočenie brány umožní, aby sa chyba dostala do ďalších fáz.
• Zanedbávanie správy vecí verejných. Nepravidelné používanie nástrojov a údajov predstavuje únik a bezpečnostné riziká.
• Skrytie použitia. Ak používanie AI nie je zdokumentované transparentne, je narušená dôvera aj právna ochrana.
• Schválenie dôležité pre bezpečnosť vidieť formálne. Autorizované schválenie nie je formalitou podpisu, ale skutočnou zodpovednosťou za overenie.
• Zabúdanie na environmentálne a sociálne aspekty. Rozhodnutia sa zvažujú nielen z ekonomického, ale aj zdravotného a environmentálneho hľadiska.

V súhrne

V komplexnej štruktúre je AI zabudovaná do ľudských verifikačných brán v každej fáze chemického inžinierstva; Nemôžete prejsť cez jedny dvere bez toho, aby ste neprešli cez druhé. Rámec riadenia (certifikované nástroje, klasifikácia údajov, sledovateľnosť, školenia, priebežné overovanie) prináša túto disciplínu do podnikového rozsahu. Základom zodpovedného používania je šesť princípov: ľudská zodpovednosť, bezpečnostná priorita, overovacia disciplína, dôvernosť, transparentnosť a environmentálno-spoločenská zodpovednosť. AI je výkonný asistent; Ale majiteľom dizajnu, bezpečnosti a posledného slova je vždy kompetentný odborník.

Aplikačná úloha

Vytvorte päťstupňový plán overovacej brány pre svoj vlastný (alebo imaginárny) projekt pomocou šablóny „plán brány pracovného toku“; Napíšte podmienku prechodu v jednej vete pre každú fázu. Potom pomocou šablóny „samokontroly riadenia“ zhodnoťte, ako sa darí využívaniu AI v tomto projekte z hľadiska schválených nástrojov, klasifikácie údajov, sledovateľnosti a školení a identifikujte aspoň dve zlepšenia.

kontrolný zoznam

• [ ] V každej fáze som dal ľudskú verifikačnú bránu a podmienku úspešnosti v jednej vete.
• [ ] Definoval som schválený zoznam nástrojov a klasifikáciu údajov.
• [ ] Viedol som evidenciu/sledovateľnosť (aký výstup, kto overoval, aký zdroj).
• [ ] V správe som transparentne uviedol použitie AI.
• [ ] Rozhodnutia kritické z hľadiska bezpečnosti pripisujem schváleniu oprávneným odborníkom a environmentálnej zodpovednosti.

Modulová skúška

1. Ktorá z nasledujúcich možností je pre umelú inteligenciu v chemickom inžinierstve najpresnejšia?

• A) Umelá inteligencia môže písať bezpečnostné výpočty priamo do návrhu bez súhlasu človeka
• B) AI je urýchľovač účtu a generátor plánov; Zodpovednosť za určenie bezpečnosti návrhu a konečné rozhodnutie je na človeku ✔
• C) Keďže umelá inteligencia je vždy spoľahlivejšia ako ľudia, bezpečnostné rozhodnutia by sa mali nechať na ňu.
• D) Umelá inteligencia je užitočná len na zhrnutie textu, nemá nič spoločné s inžinierskymi výpočtami

Popis: Umelá inteligencia; Je to asistent, ktorý triedi objemné údaje, označuje vzory a vytvára výpočty/návrhy kódu. Zodpovednosť a schválenie kritických otázok, ako je bezpečnosť návrhu, interpretácia simulácie a konečné rozhodnutie, patrí kompetentnému odborníkovi; Nepotvrdený výstup môže viesť k úniku reaktora alebo výbuchu. Výstup umelej inteligencie preto nenahrádza kompetentné odborné schválenie.

2. Aká je disciplína trojstupňového overovania výsledku inžinierskeho výpočtu, ktorý poskytuje umelá inteligencia?

• A) Zistite, či je výstup plynulý a istý
• B) Trikrát položte rovnakú otázku umelej inteligencii a urobte priemer
• C) Pripojte ho k fyzike/zdroju, otestujte ho nezávisle, prejdite cez filter hraníc komentárov ✔
• D) Priame prijatie výsledku a jeho kontrola až vo fáze správy

Vysvetlenie: Každý výstup je najprv pripojený k fyzike/zdroju (ktorá rovnica, ktorý zdroj, aký predpoklad), potom je testovaný nezávislou metódou (ručný výpočet, simulácia, referenčné údaje, kontrola objednávky) a nakoniec prechádza cez filter hranice komentára (či je hmota/energia zachovaná, je hodnota realistická). Tieto tri kroky zachytávajú väčšinu halucinácií.

3. Čo by sa malo urobiť, ak sa celková hmotnosť na vstupe a výstupe nezhoduje s návrhom materiálovej bilancie stanoveným umelou inteligenciou v návrhu procesu?

• A) Malý rozdiel nie je dôležitý, ignorujte ho a pokračujte v návrhu
• B) Rozdiel sa nájde a opraví; často dochádza k zabudnutému toku alebo k dvojnásobne započítanej slučke ✔
• C) Rovnováha sa považuje za správnu, pretože umelá inteligencia ju tak vypočíta.
• D) Hodnota odchádzajúceho prúdu sa manuálne zväčší, aby sa vyrovnal rozdiel

Vysvetlenie: V chemickom inžinierstve sa hmotnosť buď zachováva, alebo nie; „stojí to približne“ je neprijateľné. Ak rovnica vstup = výstup nie je splnená, často dochádza k zabudnutému bočnému toku, dvojitému započítaniu recyklácie alebo chybe. Návrh nemôže pokračovať, kým sa to nenájde a neopraví; inak sa chyba rozšíri na všetky nasledujúce dimenzovanie.

4. Simulácia procesu „konvergovala a poskytla úhľadný obraz“. Aké je najkritickejšie riziko pre presnosť tohto výsledku?

• A) Tabuľka nie je prezentovaná farebne a čitateľne
• B) Simulácia konverguje príliš rýchlo
• C) Termodynamický model, ktorý nie je vhodný pre charakteristiky systému, poskytuje presvedčivé, ale nesprávne výsledky ✔
• D) Príliš veľa desatinných miest v tabuľke prietokov

Vysvetlenie: Väčšina simulačných chýb nie je numerických, ale v dôsledku výberu termodynamického modelu (balíka vlastností). Aplikovaním ideálneho modelu na polárnu zmes môže byť azeotrop neviditeľný a výsledok bude hladký, ale úplne nesprávny. Zdanlivo konvergentný a krásny obraz sa neukáže ako pravdivý; Vyžaduje sa prispôsobenie modelu a experimentálne porovnanie.

5. Ako by sa malo postupovať, keď umelá inteligencia udáva hodnotu konštanty rýchlosti reakcie (k) pre návrh reaktora?

• A) Hodnota by sa mala určiť experimentálne; Predikcia AI sa nepoužíva ako údaje o návrhu ✔
• B) Hodnota je vložená priamo do dizajnu, pretože AI prináša sebavedomie
• C) Predpokladá sa, že hodnota je rovnaká v každej reakcii bez ohľadu na podmienky
• D) Hodnota je dostatočná, keď sa podobné číslo objaví na internete

Popis: Rýchlostné konštanty, aktivačná energia a mechanizmus sú určené iba experimentom; Rovnaká reakcia sa správa veľmi odlišne s rôznymi katalyzátormi, nečistotami alebo fázami. Hodnota k vrátená AI môže byť počiatočným odhadom, ale nejde o návrhové dáta. Každý kinetický parameter, ktorý je základom návrhu, musí byť založený na empirickom zdroji.

6. Ako by sa malo určiť teplo exotermickej reakcie (entalpia reakcie) pre bezpečný návrh chladenia?

• A) Počiatočná hodnota daná umelou inteligenciou sa priamo zadáva do návrhu chladenia
• B) Hodnota je meraná kalorimetriou a vyhodnotená autorizovaným inžinierom, nie je založená na predpovedi umelej inteligencie ✔
• C) Ak je reakcia exotermická, tepelné zaťaženie možno zanedbať
• D) Hodnota podobnej zlúčeniny sa použije bez ohľadu na podmienku

Popis: Reakčné teplo a potenciál tepelného úniku sú kritickým problémom z hľadiska bezpečnosti. Hodnota vrátená AI môže patriť k inému rozpúšťadlu/podmienke a môže výrazne skresľovať skutočné tepelné zaťaženie. Tieto hodnoty sú merané kalorimetriou (napr. reakčná kalorimetria) a vyhodnotené príslušným inžinierom; Nikdy nie je založený len na predpovediach umelej inteligencie.

7. Umelá inteligencia udávala tlak pár rozpúšťadla spoľahlivým číslom. Čo treba urobiť pred použitím tejto hodnoty?

• A) Keďže hodnota je daná plynule, je umiestnená priamo v dizajne stĺpika
• B) Ovláda sa len jednotka, netreba sa pozerať na zdroj
• C) Hodnota je overená spoľahlivou databázou (DIPPR/NIST) alebo experimentom s podmienkou ✔
• D) Ak sa hodnota porovnáva s hodnotou iného rozpúšťadla a je podobná, je akceptovaná.

Vysvetlenie: Odhad prvku je numerickým základom návrhu a chyba sa tu šíri počas celého výpočtu. Hodnota AI môže patriť inej zlúčenine, môže byť v zlom stave alebo môže ísť o halucináciu. Preto je každá kritická vlastnosť overená spoľahlivou databázou (DIPPR/NIST) alebo experimentom; musí byť tiež vyžiadaná spolu s podmienkou hodnoty (teplota, tlak, fáza).

8. Čo sa stane, ak sa umelej inteligencii povie, aby pri optimalizácii procesu „minimalizovala energiu“, ale nie je dané žiadne obmedzenie čistoty produktu?

• A) Výsledok je vždy bezpečný a kvalitný, obmedzenia sú zbytočné
• B) Môže sa objaviť zavádzajúce optimum, ktoré vyzerá dobre na papieri, ale obetuje čistotu alebo bezpečnosť ✔
• C) Umelá inteligencia spontánne a správne dopĺňa chýbajúce obmedzenia
• D) Optimalizácia nefunguje a neprináša žiadne výsledky

Vysvetlenie: Neobmedzená optimalizácia je zavádzajúca: AI alebo algoritmus môže navrhnúť „optimum“, ktoré na papieri znižuje energiu, ale v skutočnosti znižuje čistotu produktu pod špecifikáciu alebo prekračuje bezpečnostnú rezervu. Preto musia byť plne definované všetky kvalitatívne a bezpečnostné obmedzenia, ako aj účelové a rozhodovacie premenné; Matematické optimum musí byť tiež testované na bezpečnosť a realizovateľnosť.

9. Čo treba urobiť ako prvé, keď AI označí náhly skok v údajoch snímača ako „možný únik“?

• A) Okamžité zastavenie procesu, pretože umelá inteligencia povedala, že uniká
• B) Ignorovanie signálu, pretože snímače sú vždy nesprávne
• C) Kontrola spoľahlivosti filtra, či je signál skutočnou procesnou udalosťou alebo problémom snímača/merania ✔
• D) Automaticky odstrániť skok zo súboru údajov

Vysvetlenie: Senzory môžu klamať: kalibrácia skĺzne, spojenie sa uvoľní, vedenie zachytáva šum. Signál anomálie musí byť najprv odfiltrovaný, aby sa zabezpečila spoľahlivosť údajov: je v súlade so susednými/pridruženými snímačmi, je to fyzicky možné, zodpovedá záznamom o údržbe/kalibrácii? Až po ich prejdení sa to vyšetruje ako skutočná procesná udalosť; V opačnom prípade môže dôjsť k zásahu na základe falošného poplachu.

10. Aká je vhodná a bezpečná úloha AI v štúdii HAZOP?

• A) Vytvorenie úplného HAZOP tým, že poznáte proces a urobíte stretnutie zbytočným
• B) Presná klasifikácia úrovní rizika a prijímanie preventívnych rozhodnutí
• C) Poskytnutie pracovného rámca, otázok so sprievodným slovom a príprava zápisnice; Prenechajte skutočné posúdenie nebezpečenstva na tím odborníkov ✔
• D) Prísť na miesto stretnutia a podpísať záverečnú správu o rizikách sám

Popis: HAZOP je bezpečnostne kritická špecializovaná činnosť. Umelá inteligencia; Rámec matice uzlov/parametrov/vodiacich slov urýchľuje dokumentáciu, ako je vyvolanie typického scenára a úprava minút. Ale ktorá odchýlka je skutočným nebezpečenstvom, závažnosť následku a primeranosť preventívneho opatrenia patrí do multidisciplinárneho expertného tímu; Okrem toho sa v umelej inteligencii nenachádzajú riziká špecifické pre proces. Návrh AI je vstupom, nie výstupom stretnutia odborníkov.

11. Aká je najkritickejšia námietka pre AI v oblasti štandardov a regulačného výskumu?

• A) Umelá inteligencia sa vo svojich štandardných znalostiach nikdy nemýli, dá sa priamo využiť
• B) Každé číslo látky, limitná hodnota a dátum musia byť overené z primárneho a súčasného zdroja; AI poskytuje iba smer ✔
• C) Kontrola aktualizácie je zbytočná, pretože normy sa nikdy nemenia.
• D) Samotné vytvorenie kontrolného zoznamu dokazuje súlad

Vysvetlenie: Výskum noriem je jednou z oblastí, kde môže byť halucinácia AI najničivejšia: neexistujúce číslo položky, nesprávny bod zlomu alebo zastaraná požiadavka môžu byť prezentované veľmi presvedčivým spôsobom. Súlad znamená bezpečnosť aj právo. Každú látku, limitnú hodnotu a dátum preto nemožno použiť bez potvrdenia z primárneho a súčasného zdroja; AI poskytuje iba smer.

12. Kód inžinierskeho výpočtu v jazyku Python napísaný umelou inteligenciou fungoval bez chýb a vytvoril číslo. Čo by bolo potrebné na verenie tomuto záveru?

• A) Bezchybné fungovanie kódu dokazuje, že výsledok je správny.
• B) Kód by sa mal otestovať so známym výsledkom, mali by sa otestovať jednotkové a okrajové prípady a úrad by mal overiť aj výpočet bezpečnosti ✔
• C) Ak je kód dlhý a vyzerá zložito, možno ho považovať za správny
• D) Keďže je napísaný umelou inteligenciou, nie je potrebné dodatočné overovanie

Vysvetlenie: 'Fungujúce' a 'správne' sú rôzne veci: kód môže bežať bez chýb a produkovať nesprávne číslo (zámena jednotiek, chyba znamienka, posun indexu). Preto by mal byť každý kód testovaný na testovacom prípade (analytická vzorka, ručný výpočet, referenčné údaje), ktorého odpoveď je známa nezávisle; jednotky a okrajové puzdrá musia byť skontrolované; Výpočty kritické z hľadiska bezpečnosti musí overiť aj autorizovaný inžinier.

13. Aký je najefektívnejší spôsob ochrany komplexného procesu chemického inžinierstva s podporou AI pred jedinou chybou, ktorá prenikne do návrhu alebo bezpečnostného dokumentu?

• A) Delegovanie celého procesu na jediný nástroj AI a pohľad na koniec
• B) Odstránenie priebežných overovaní rýchlosti a kontroly len v záverečnej fáze
• C) Zavedenie ľudskej overovacej brány a podmienky úspešnosti jednej vety v každej fáze (vrstvené overenie) ✔
• D) Každý strojník môže voľne používať svoje vozidlo bez vedenia záznamov.

Popis: V každej fáze (návrh, analýza, dimenzovanie, bezpečnosť, prevádzka) je umiestnená ľudská verifikačná brána a jasná podmienka prechodu (či je stabilná, je pripojená k zdroju, je testovaný kód, je prijatý odborný súhlas). Nemôžete prejsť cez jedny dvere bez toho, aby ste neprešli cez iné; Táto vrstvená štruktúra zabraňuje úniku jedinej chyby AI do nasledujúcich fáz.

14. Ktorá z nasledujúcich aplikácií robí používanie umelej inteligencie v inštitúcii bezpečným z hľadiska riadenia?

• A) Každý používateľ môže voľne zadávať vlastné údaje do ľubovoľného otvoreného nástroja podľa vlastného výberu.
• B) Rámec riadenia, ktorý zahŕňa zoznam schválených vozidiel, klasifikáciu údajov, sledovateľnosť, školenie a priebežné overovanie ✔
• C) Používanie umelej inteligencie sa vôbec nezaznamenáva
• D) Používanie jedného neschváleného nástroja pre každú úlohu vrátane účtov kritických z hľadiska bezpečnosti

Vysvetlenie: Prístup „Každý by mal poskytnúť údaje, ktoré chce, do vozidla, ktoré chce“ predstavuje riziko úniku vlastníckych informácií a bezpečnostných chýb. pevný rámec riadenia; Zahŕňa zoznam schválených vozidiel a modelov, klasifikáciu údajov (ktoré vozidlo môže zaregistrovať registrované/osobné údaje), registráciu a sledovateľnosť (audítorský záznam), školenie používateľov a priebežné overovanie. Ide o kritickú infraštruktúru, ktorá obmedzuje riziká.