Teljes körű munkafolyamat, irányítás, hitelesítés és felelősségteljes használat

Nyereség:

• Képes mesterséges intelligencia következetes beágyazására a tervezéstől a működésig minden szakaszban, emberi ellenőrző kapukkal és egymondatos átmeneti feltételekkel
• Képes irányítási keretrendszer létrehozására jóváhagyott járműlistával, adatosztályozással, nyomon követhetőséggel, képzéssel és folyamatos ellenőrzéssel
• Az emberi felelősség, a biztonsági prioritás, az ellenőrzés, a titoktartás, az átláthatóság és a környezeti-társadalmi felelősség elveinek beágyazása a munkafolyamatba

Az előző tíz egységben láthattuk, hogyan lehet biztonságosan használni a mesterséges intelligenciát a vegyészmérnökség egyes területein – tervezés, szimuláció, kinetika, tulajdonság-előrejelzés, optimalizálás, vezérlési adatok, HAZOP, szabványkeresés és Python. Ebben az utolsó részben összerakjuk a darabokat: Megtanuljuk, hogyan ágyazzuk be a mesterséges intelligenciát az elejétől a végéig egy projektbe vagy egy létesítménybe következetes fegyelem mellett, emberi ellenőrzési kapukkal és irányítási struktúrával – a kerettel, amely meghatározza azokat a szabályokat, amelyek alapján az eszközöket, adatokat és döntéseket egy szervezetben használni fogják. A cél egy olyan réteges rendszer felépítése, amely megakadályozza, hogy egyetlen mesterséges intelligencia hiba beférkőzzön egy tervbe, egy üzleti döntésbe vagy egy biztonsági dokumentumba.

Az alapötlet egyszerű: minden szakaszban egy emberi ellenőrző kapu és egy világos átmeneti feltétel kerül elhelyezésre; Nem lehet átmenni az egyik ajtón anélkül, hogy át ne mennénk a másikon. Életmentő szerkezet ez a vegyészmérnökökben, valamint a törvényszéki vagy orvostudományi területeken – mert itt is a hibáknak nem papíron, hanem a valóságban, az emberre és a környezetre is vannak következményei.

Végpontok közötti munkafolyamat: ellenőrző kapukkal

Tekintsünk egy vegyészmérnöki projektet öt fázisban, és mindegyikbe helyezzük el az AI és az ellenőrző kapu szerepét:

1. Tervezés és koncepció. Az AI útvonalopciókat és PFD-tervezetet generál. Ajtó: az anyagegyensúlyt kézzel tartják fenn, az útvonalat mérnöki mérlegelés alapján választották?

2. Elemzés és szimuláció. Összefoglalja az AI szimuláció kimenetét, kinetikát/tulajdonságvázlatot ad. Kapu: megfelelő-e a termodinamikai modell, fennáll-e a tömeg/energia egyensúly, a kritikus értékek a kísérleti/adatbázis forrástól függenek?

3. Optimalizálás és méretezés. Az AI optimalizálási és számítási kódvázlatot készít. Ajtó: teljesek a megszorítások, tesztelték a kódot, az optimális biztonsági ablakban van?

4. Biztonság és megfelelőség. AI HAZOP vázat és szabványos térképet biztosít. Ajtó: A veszélyelemzést szakértői csoport végezte, a szabványos elemeket az elsődleges forrásból ellenőrizték, megkapták-e az engedélyt?

5. Működés és felügyelet. Az AI figyeli az érzékelőadatokat, és jelzi az anomáliákat. Ajtó: valós jelzés vagy érzékelő, biztonsági védelem független SIS-ben?

Ezek a kapuk megakadályozzák, hogy egyetlen ellenőrizetlen kimenet is a következő fokozatba kerüljön. Még ha el is szökik egy hiba, jó eséllyel elkapják a szomszédban.

Tipp: Minden szakaszhoz írjon egy egymondatos „átmeneti feltételt”, és tegye láthatóvá a csapat számára: „A szimuláció nem indítható el mindaddig, amíg az anyagegyensúlyt manuálisan nem ellenőrizték.” Az ilyen egyértelmű szabályok biztosítják a fegyelem fenntartását időkényszer esetén is.

Irányítási keret: intézményi fegyelem

Az egyéni ellenőrzés jó, de szükség van egy létesítményszintű irányítási keretre. Öt fő összetevő:

1. Jóváhagyott jármű- és modelllista. Meghatározza, hogy mely AI-eszközök milyen feladatokhoz használhatók. A biztonsági szempontból kritikus fiókokhoz nem használnak jóváhagyatlan eszközöket.

2. Adatok osztályozása. Melyik járműbe kerülhet be a nyilvántartott vény, üzemeltetési feltételek és személyes adatok? A bizalmas/tulajdonvédett adatokat nem adjuk át olyan eszközöknek, amelyek adatokat szivárogtatnak ki a szervezeten kívül.

3. Rögzítés és nyomon követhetőség (audit trail). Melyik eszközből melyik kimenet származott, ki ellenőrizte, melyik forráshoz kapcsolták? Nyomon követhetőnek kell lennie, ha probléma merül fel.

4. Képzés és kompetencia. A felhasználóknak ismerniük kell a mesterséges intelligencia korlátait, a hallucinációk kockázatát és az ellenőrzés szabályait. A szerszám erős, de rossz kezekben veszélyes.

5. Folyamatos ellenőrzés. A modellek és a járművek eltérőek; A kimenetek megbízhatóságát időszakonként újraellenőrzik.

Figyelem: Egy intézményben az a megközelítés, hogy "mindenkinek át kell adnia a kívánt adatokat az általa kívánt AI-eszköznek", a védett információ kiszivárgásának és a biztonsági meghibásodásnak a kockázata. A kormányzás az a láthatatlan, de kritikus infrastruktúra, amely korlátozza ezeket a kockázatokat.

Felelősségteljes használat elvei

Kössük össze a modult hat alapelvvel:

1. Emberi felelősség. A végső döntés és az aláírás az illetékes szakértőé; Az AI kimenete nem helyettesíti a jóváhagyását.
2. Biztonsági prioritás. A biztonság szempontjából kritikus döntések (biztonság, veszély, anyag, méretezés) ellenőrzést és jóváhagyást igényelnek.
3. Az ellenőrzés fegyelme. Mindegyik kimenet a fizikához/forráshoz van kötve, független módszerrel tesztelve, és átmegy az értelmezési szűrőn.
4. Biztonság. A védett és személyes adatokat csak jóváhagyott, biztonságos módon kezeljük.
5. Átláthatóság. Az AI használatát a jelentések és a dokumentáció őszintén leszögezi.
6. Környezeti és társadalmi felelősségvállalás. A döntések nemcsak a gazdaságot, hanem az emberi egészséget és a környezetet is figyelembe veszik.

három mini tok

1. eset – Az ajtó elkapta a hibát. Az egyik projektben a mesterséges intelligencia PFD-tervezetében 4%-os tömegkiegyensúlyozatlanságot észleltek az egyensúlyi kapuban, mielőtt a szimulációs fázisba léptek. A hibát a forrásnál javították; Ha nem lenne ajtó, ez a hiba átterjedne a szimulációra, majd a méretezésre. A réteges szerkezet működött.

2. eset – A kormányzás megakadályozta az adatszivárgást. Egy mérnök egy szabadalmaztatott katalizátorreceptet akart beilleszteni egy nyitott mesterséges intelligencia járműbe. Az ügynökség adatminősítési szabálya szerint ezeket az adatokat csak a házon belül jóváhagyott eszközzel lehet feldolgozni. A szabály megakadályozta a kereskedelmi szempontból kritikus szivárgást.

3. eset – A nyomon követhetőség bizalmat teremtett. Az egyik audit során megkérdeztük, hogyan született a tervezési döntés. Az intézmény rögzítési fegyelmének köszönhetően sikerült dokumentálni, hogy az AI csak tervezetet készített, minden kritikus értéket a kísérleti forráshoz rendeltek, és a döntést az arra jogosult mérnök jóváhagyta. Az átláthatóság bizalmat és jogi védelmet egyaránt nyújtott.

Négy másolható sablon

1) Munkafolyamat-kapu terv:

Az Ön szerepköre: projektbiztosítási tanácsadó. Projektem: [leírás]. Készítsen nekem egy VERIFIKÁCIÓS KAPU tervet a szakaszokra (tervezés, elemzés, méretezés, biztonság, üzemeltetés): mit csinál az AI az egyes szakaszokban, melyik egymondatos átmeneti feltételt NEM LEHET átadni a következő szakaszba anélkül, hogy teljesülne, ki ellenőrzi. Különös hangsúly a biztonsági szempontból kritikus ajtókra.

2) Kormányzási önszabályozás:

Önellenőrzési ellenőrző lista kerül kiadásra a mesterséges intelligencia szervezetünkben történő használatára vonatkozóan: (1) van-e lista a jóváhagyott eszközökről, (2) meghatározott-e az adatok osztályozása, (3) van-e nyilvántartva/nyomonkövethetőség, (4) van-e felhasználói képzés, (5) van-e folyamatos ellenőrzés? Kérjen "igen/részleges/nem" értékelést és javítási javaslatokat minden egyes tételhez. Kontextus: [definíció]

3) Átláthatóság/használati nyilatkozat:

Készítsen egy átláthatósági bekezdést, amely őszintén leírja a mesterséges intelligencia használatát egy mérnöki jelentéshez: mely szakaszokban használtak mesterséges intelligenciát a tervezet elkészítéséhez/elemzéséhez, hogyan validálták a kimeneteket, a végső felelősséggel a felelős mérnöké. Túlzás; csak tükrözze, hogy mi történt valójában.Teendők: [leírás]

4) Utolsó ellenőrzés a döntés előtt:

A következő döntés meghozatalára készülök: [határozat]. Futtasson át egy utolsó ellenőrzőlistát, mielőtt átadná: (1) ez biztonsági szempontból kritikus, (2) származnak-e olyan értékek, amelyekre támaszkodok, (3) történt-e független ellenőrzés, (4) szükséges-e a hatóság jóváhagyása, (5) betartották-e a bizalmas kezelést/megfelelőséget? Jelölje be a hiányzó lépést. A döntés az enyém; Kövesse az ellenőrző listát.

Gyenge felszólítás / Erős felszólítás

Gyenge felszólítás:

Hogyan használjam az AI-t a projektemben?

Nincs kontextus, nincs érvényesítési struktúra. Az AI általános választ ad, megkerülve a biztonsági szempontból kritikus kapukat.

Erőteljes felszólítás:

Az Ön szerepköre: projektbiztosítási tanácsadó. Egy 50 000 tonna/év vegyipari gyártási projektben a tervezéstől a működésig MI-t szeretnék használni. Minden szakaszhoz kapok egy keretrendszert az AI szerepére, azt az igazolási struktúrát, amelyen nem lehet átmenni átadás nélkül, ki hagyja jóvá, milyen adatot milyen eszközhöz lehet adni. Jelölje meg a biztonság szempontjából kritikus lépéseket is, és jelölje ki azokat, ahol az emberi jóváhagyás kötelező.

A különbség egyértelmű: a projektkörnyezet, a kapuk, a jóváhagyási és adatszabályok rendszerezik az AI használatát.

Szereposztás végpontok közötti struktúrában

Színpad

Az AI szerepe

ellenőrző kapu

Tervezés

Útvonal, PFD tervezet

Egyenleg + útvonal megerősítése

Elemzés

Szimulációs összefoglaló, előrejelzés

Modell + forrás megerősítése

Méretezés

optimalizálás, kódolás

Korlátozás + teszt + biztonság

Biztonság/megfelelőség

HAZOP csontváz, térkép

Szakértői csapat + elsődleges forrás

Üzleti

Anomália nyomon követése

Valódi/érzékelő + független SIS

Gyakori hibák

• Ajtók ugrása időnyomás alatt. Egy kapu átugrása lehetővé teszi, hogy a hiba a következő szakaszokba szivárogjon.
• A kormányzás elhanyagolása. Az eszközök és adatok szabálytalan használata szivárgási és biztonsági kockázatokat jelent.
• Használat elrejtése. Ha a mesterséges intelligencia felhasználását nem dokumentálják átláthatóan, a bizalom és a jogi védelem egyaránt aláásódik.
• Biztonságkritikus jóváhagyás a hivatalos megjelenéshez. Az engedélyezett jóváhagyás nem aláírási formalitás, hanem valódi ellenőrzési felelősség.
• A környezeti és társadalmi szempontokat elfelejtve. A döntéseket nemcsak gazdasági, hanem egészségügyi és környezetvédelmi szempontból is mérlegelik.

Összefoglalva

Egy végponttól végpontig terjedő struktúrában a mesterséges intelligencia a vegyészmérnökség minden szakaszában emberi ellenőrző kapukkal van beágyazva; Nem lehet átmenni az egyik ajtón anélkül, hogy át ne mennénk a másikon. Az irányítási keretrendszer (tanúsított eszközök, adatok osztályozása, nyomon követhetőség, képzés, folyamatos ellenőrzés) ezt a fegyelmet a vállalati léptékbe hozza. A felelős használat gerincét hat alapelv alkotja: emberi felelősség, biztonsági prioritás, ellenőrzési fegyelem, titoktartás, átláthatóság és környezeti-társadalmi felelősség. Az AI egy hatékony asszisztens; De a tervezés, a biztonság és az utolsó szó tulajdonosa mindig az illetékes szakértő.

Pályázati feladat

Hozzon létre egy ötlépcsős ellenőrző kaputervet saját (vagy képzeletbeli) projektjéhez a „munkafolyamat-kaputerv” sablon segítségével; Minden szakaszhoz írjon egy mondatos átmeneti feltételt! Ezután a „kormányzási önellenőrzés” sablonnal értékelje ki, hogyan teljesít az AI használata ebben a projektben a jóváhagyott eszközök, adatosztályozás, nyomon követhetőség és képzés tekintetében, és azonosítson legalább két fejlesztést.

ellenőrző lista

• [ ] Minden szakaszhoz egy emberi ellenőrző kaput és egy mondatos áthaladási feltételt tettem.
• [ ] Meghatároztam a jóváhagyott szerszámlistát és adatosztályozást.
• [ ] Nyilvántartást/követhetőséget vezettem (milyen kimenet, ki ellenőrizte, milyen forrás).
• [ ] A jelentésben átláthatóan fogalmaztam meg az AI használatát.
• [ ] A biztonság szempontjából kritikus döntéseket az engedélyezett szakértői jóváhagyásnak és a környezetvédelmi társadalmi felelősségnek tulajdonítom.

Modul vizsga

1. Az alábbiak közül melyik a legpontosabb helymeghatározás a mesterséges intelligencia számára a vegyészmérnökökben?

• A) A mesterséges intelligencia emberi jóváhagyás nélkül is be tud írni biztonsági számításokat közvetlenül a tervezésbe
• B) A mesterséges intelligencia egy fiókgyorsító és tervgenerátor; A tervezés biztonságának meghatározása és a végső döntés felelőssége az embert terheli ✔
• C) Mivel a mesterséges intelligencia mindig megbízhatóbb, mint az ember, a biztonsági döntéseket rá kell bízni.
• D) A mesterséges intelligencia csak szövegösszegzésre hasznos, semmi köze a mérnöki számításokhoz

Leírás: Mesterséges intelligencia; Ez egy asszisztens, amely terjedelmes adatokat osztályoz, mintákat jelez, és számításokat/kódvázlatokat készít. A kritikus kérdések, például a tervezés biztonsága, a szimuláció értelmezése és a végső döntés felelőssége és jóváhagyása az illetékes szakértőt illeti; A meg nem erősített kimenet a reaktor szivárgásához vagy robbanáshoz vezethet. Ezért a mesterséges intelligencia kibocsátása nem helyettesíti az illetékes szakértői jóváhagyást.

2. Melyik a mesterséges intelligencia által adott mérnöki számítási eredmény háromlépéses ellenőrzési tudománya?

• A) Annak ellenőrzése, hogy a kimenet gördülékeny és magabiztos-e
• B) Tegye fel háromszor ugyanazt a kérdést a mesterséges intelligenciának, és vegye fel az átlagot
• C) Csatlakoztassa a fizikához/forráshoz, tesztelje önállóan, engedje át kommenthatár-szűrőn ✔
• D) Az eredmény közvetlen elfogadása és ellenőrzése csak a jelentés szakaszában

Magyarázat: Minden kimenet először a fizikához/forráshoz kapcsolódik (melyik egyenlet, melyik forrás, melyik feltételezés), majd független módszerrel tesztelik (kézi számítás, szimuláció, referencia adatok, sorrendellenőrzés), végül a megjegyzés-határszűrőn (megtakarított-e a tömeg/energia, reális-e az érték). Ez a három lépés elkapja a legtöbb hallucinációt.

3. Mi a teendő, ha a be- és kilépő össztömeg nem egyezik meg a mesterséges intelligencia által a folyamattervben megállapított anyagmérleg-tervezettel?

• A) A kis különbség nem fontos, hagyja figyelmen kívül, és folytassa a tervezést
• B) Megtaláljuk és kijavítjuk a különbséget; gyakran előfordul egy elfelejtett áramlás vagy egy duplán számolt visszahurok ✔
• C) A mérleg helyesnek tekinthető, mert a mesterséges intelligencia úgy számolja ki.
• D) A kimenő adatfolyam értékét manuálisan felnagyítja a különbség pótlására

Magyarázat: A vegyiparban a tömeg vagy megmarad, vagy nem; A „körülbelül kerül” elfogadhatatlan. Ha az input = output egyenlet nem teljesül, akkor gyakran egy elfelejtett oldaláramlás, duplán számolt újrahasznosítás vagy hiba történik. A tervezést addig nem lehet előrelépni, amíg ezt meg nem találjuk és kijavítjuk; ellenkező esetben a hiba minden további méretezésre át fog terjedni.

4. Egy folyamatszimuláció „konvergált és szép képet adott”. Mi a legkritikusabb kockázat ennek az eredménynek a pontosságát illetően?

• A) A táblázat nem színes és olvasható formában van feltüntetve
• B) A szimuláció túl gyorsan konvergál
• C) A rendszer jellemzőinek nem megfelelő termodinamikai modell meggyőző, de téves eredményeket ad ✔
• D) Túl sok tizedesjegy a folyamattáblázatban

Magyarázat: A legtöbb szimulációs hiba nem numerikus, hanem a termodinamikai modell (tulajdoncsomag) kiválasztásából ered. Ideális modell alkalmazása poláris keverékre láthatatlanná teheti az azeotrópot, és az eredmény sima, de teljesen rossz lesz. Egy látszólag összetartó és szép kép nem bizonyul igaznak; modellillesztésre és kísérleti összehasonlításra van szükség.

5. Hogyan kell eljárni, ha a mesterséges intelligencia reakciósebesség-állandó (k) értéket ad egy reaktortervhez?

• A) Az értéket kísérletileg kell meghatározni; Az AI-előrejelzés nem használatos tervezési adatként ✔
• B) Az érték közvetlenül a tervezésbe kerül, mivel az AI magabiztosan teljesít
• C) Feltételezzük, hogy az érték minden reakcióban azonos, függetlenül a körülményektől
• D) Az érték akkor elegendő, ha egy hasonló szám megjelenik az interneten

Leírás: A sebességi állandókat, az aktiválási energiát és a mechanizmust csak kísérlet határozza meg; Ugyanaz a reakció nagyon eltérően viselkedik különböző katalizátorokkal, szennyeződésekkel vagy fázisokkal. Az AI által visszaadott k érték lehet kezdeti tipp, de nem tervezési adat. A tervezés alapjául szolgáló minden kinetikai paraméternek empirikus forráson kell alapulnia.

6. Hogyan kell meghatározni az exoterm reakció hőjét (reakcióentalpiát) a biztonságos hűtés kialakításához?

• A) A mesterséges intelligencia által megadott kezdeti érték közvetlenül bekerül a hűtési tervbe
• B) Az értéket kalorimetriával mérik és felhatalmazott mérnök értékeli, nem mesterséges intelligencia előrejelzésen alapul ✔
• C) Ha a reakció exoterm, akkor a hőterhelés elhanyagolható
• D) A hasonló vegyület értékét a feltételtől függetlenül használjuk

Leírás: A reakcióhő és a termikus kifutási potenciál biztonsági szempontból kritikus probléma. A mesterséges intelligencia által visszaadott érték egy másik oldószerhez/állapothoz tartozhat, és jelentősen hamisan ábrázolhatja a tényleges hőterhelést. Ezeket az értékeket kalorimetriával (például reakciókalorimetriával) mérik, és az illetékes mérnök értékeli; Soha nem csak mesterséges intelligencia előrejelzésén alapul.

7. A mesterséges intelligencia egy oldószer gőznyomását magabiztos számmal adta meg. Mit kell tenni ennek az értéknek a használata előtt?

• A) Mivel az érték gördülékenyen van megadva, közvetlenül az oszloptervbe kerül
• B) Csak az egységet vezérlik, nem kell a forrást nézni
• C) Az értéket megbízható adatbázis (DIPPR/NIST) vagy kísérlet ellenőrzi, a feltétellel ✔
• D) Ha az értéket összehasonlítjuk egy másik oldószer értékével, és hasonló, akkor elfogadjuk.

Magyarázat: A jellemzőbecslés a tervezés numerikus alapja, és itt egy hiba átterjed a számítás során. Az AI-érték egy másik vegyülethez tartozhat, rossz állapotban lehet, vagy hallucináció lehet. Ezért minden kritikus jellemzőt megbízható adatbázis (DIPPR/NIST) vagy kísérlet igazol; az értékfeltétellel együtt (hőmérséklet, nyomás, fázis) is kérni kell.

8. Mi történik, ha a mesterséges intelligenciának azt mondják, hogy „minimalizálja az energiát” egy folyamatoptimalizálás során, de a termék tisztaságára nincs megkötés?

• A) Az eredmény mindig biztonságos és jó minőségű, a korlátozások szükségtelenek
• B) Félrevezető optimum alakulhat ki, amely papíron jól néz ki, de feláldozza a tisztaságot vagy a biztonságot ✔
• C) A mesterséges intelligencia spontán módon és helyesen pótolja a hiányzó korlátokat
• D) Az optimalizálás nem működik, és nem ad eredményt

Magyarázat: A korlátlan optimalizálás félrevezető: a mesterséges intelligencia vagy az algoritmus javasolhat egy „optimumot”, amely papíron csökkenti az energiát, de valójában a termék tisztaságát a specifikáció alá csökkenti, vagy meghaladja a biztonsági határt. Ezért minden minőségi és biztonsági korlátot, valamint a célt és a döntési változókat teljesen meg kell határozni; A matematikai optimumot is tesztelni kell a biztonság és a megvalósíthatóság szempontjából.

9. Mi az első teendő, ha az AI „lehetséges szivárgásként” jelzi az érzékelőadatok hirtelen ugrását?

• A) A folyamat azonnali leállítása, mert a mesterséges intelligencia azt mondta, hogy szivárog
• B) A jel figyelmen kívül hagyása, mert az érzékelők mindig rosszak
• C) Megbízhatósági szűrővel annak ellenőrzése, hogy a jel valódi folyamatesemény vagy érzékelő/mérési probléma ✔
• D) Az ugrás automatikus törlése az adatkészletből

Magyarázat: Az érzékelők hazudhatnak: a kalibráció csúszik, a kapcsolat meglazul, a vezeték zajt vesz fel. Az anomália jelet először az adatmegbízhatóság érdekében szűrni kell: konzisztens-e a szomszédos/társult érzékelőkkel, lehetséges-e fizikailag, egyezik-e a karbantartási/kalibrációs rekorddal? Csak ezek átadása után vizsgálják valódi folyamateseményként; Ellenkező esetben téves riasztás alapján beavatkozás történhet.

10. Mi a mesterséges intelligencia megfelelő és biztonságos szerepe a HAZOP tanulmányban?

• A) Teljes HAZOP létrehozása a folyamat ismeretében és a találkozó szükségtelenné tételével
• B) A kockázati szintek pontos osztályozása és az elővigyázatossági döntések meghozatala
• C) Munkakeret biztosítása, útmutató szavas kérdések és jegyzőkönyvek készítése; A tényleges veszélyfelmérést bízza a szakértői csoportra ✔
• D) Egyedül menjen el a találkozó helyszínére és írja alá a végső kockázati jelentést

Leírás: A HAZOP biztonsági szempontból kritikus szakmai tevékenység. Mesterséges intelligencia; A csomópont/paraméter/útmutató mátrix keretrendszer felgyorsítja a dokumentációt, például a tipikus forgatókönyv-előhívást és a percszerkesztést. De hogy melyik eltérés a valós veszély, a következmény súlyossága és az óvintézkedés megfelelősége, az a multidiszciplináris szakértői csoporté; Ráadásul a mesterséges intelligenciában nem találhatók folyamatspecifikus veszélyek. Az AI-tervezet a szakértői értekezlet bemenete, nem pedig kimenete.

11. Mi a legkritikusabb figyelmeztetés a mesterséges intelligencia számára a szabványok és a szabályozási kutatások során?

• A) A mesterséges intelligencia soha nem téved standard tudásában, közvetlenül használható
• B) Minden anyagszámot, határértéket és dátumot elsődleges és aktuális forrásból kell igazolni; Az AI csak irányt ad ✔
• C) A frissítések ellenőrzése szükségtelen, mert a szabványok soha nem változnak.
• D) Egy ellenőrző lista elkészítése önmagában bizonyítja a megfelelőséget

Magyarázat: A szabványok kutatása az egyik olyan terület, ahol a mesterséges intelligencia hallucinációja a legpusztítóbb lehet: egy nem létező tételszám, egy helytelen töréspont vagy egy elavult követelmény nagyon meggyőzően bemutatható. A megfelelés biztonságot és törvényt is jelent. Ezért az egyes anyagok, határértékek és dátumok nem használhatók fel az elsődleges és a jelenlegi forrás megerősítése nélkül; Az AI csak irányt ad.

12. A mesterséges intelligencia által írt Python mérnöki számítási kód hiba nélkül működött és számot produkált. Mi kell ahhoz, hogy megbízzunk ebben a következtetésben?

• A) A kód hibamentes működése bizonyítja az eredmény helyességét.
• B) Ismert eredménnyel tesztelni kell a kódot, tesztelni kell az egység és éles eseteket, valamint a biztonsági számítást is ellenőriztetni kell a hatósággal ✔
• C) Ha a kód hosszú és bonyolultnak tűnik, akkor helyesnek tekinthető
• D) Mivel mesterséges intelligencia írta, nincs szükség további ellenőrzésre

Magyarázat: A „működő” és a „helyes” különböző dolgok: előfordulhat, hogy a kód hiba nélkül fut, és rossz számot produkál (egységzavar, előjel-hiba, indexeltolás). Ezért minden kódot olyan teszteseten kell tesztelni (analitikai minta, kézi számítás, referencia adatok), amelynek válasza egymástól függetlenül ismert; az egységeket és az éltokokat ellenőrizni kell; A biztonsági szempontból kritikus számításokat a felhatalmazott mérnöknek is ellenőriznie kell.

13. Mi a leghatékonyabb módja annak, hogy egy végponttól végpontig terjedő mesterségesintelligencia-kompatibilis vegyészmérnöki folyamatot egyetlen hiba kiszivárgása ellen a tervezési vagy biztonsági dokumentumba védjen?

• A) Delegálja a teljes folyamatot egyetlen AI-eszközre, és nézze meg a végét
• B) A sebesség közbenső ellenőrzések eltávolítása és az ellenőrzés csak a végső szakaszban
• C) Emberi ellenőrző kapu és egymondatos áthaladási feltétel feltétele minden szakaszban (réteges ellenőrzés) ✔
• D) Minden mérnök szabadon használhatja saját járművét nyilvántartás vezetése nélkül.

Leírás: Minden szakaszban (tervezés, elemzés, méretezés, biztonság, üzemeltetés) egy emberi ellenőrző kapu és egy egyértelmű átmeneti feltétel (stabil-e, csatlakozik-e a forráshoz, tesztelve van-e a kód, megvan-e a szakértői jóváhagyás). Nem léphet át az egyik ajtón anélkül, hogy át ne menne a másikon; Ez a réteges szerkezet megakadályozza, hogy egyetlen mesterséges intelligencia hiba szivárogjon a következő szakaszokba.

14. Az alábbi alkalmazások közül melyik teszi biztonságossá a mesterséges intelligencia használatát egy intézményben az irányítás szempontjából?

• A) Minden felhasználó szabadon bevihet védett adatokat bármely szabadon választott eszközbe.
• B) Irányítási keretrendszer, amely magában foglalja a jóváhagyott járműlistát, az adatok osztályozását, a nyomon követhetőséget, a képzést és a folyamatos ellenőrzést ✔
• C) A mesterséges intelligencia használatát egyáltalán nem rögzítik
• D) Egyetlen, nem jóváhagyott eszköz használata minden munkához, beleértve a biztonsági szempontból kritikus fiókokat is

Magyarázat: A „Mindenkinek át kell adnia a kívánt adatokat a kívánt járműnek” megközelítés mind a védett információk kiszivárgásának, mind a biztonsági hibáknak a kockázatát rejti magában. Szilárd irányítási keret; Tartalmazza a jóváhagyott jármű- és modelllistát, adatbesorolást (mely jármű regisztrálhat regisztrált/személyes adatokat), regisztrációt és nyomon követhetőséget (audit trail), felhasználói oktatást és folyamatos ellenőrzést. Ez egy kritikus infrastruktúra, amely korlátozza a kockázatokat.