Pelnas:
- Galimybė nuosekliai integruoti dirbtinį intelektą kiekviename etape nuo projektavimo iki eksploatavimo, naudojant žmogaus patikrinimo vartus ir vieno sakinio perėjimo sąlygas
- Gebėjimas sukurti valdymo sistemą su patvirtintu transporto priemonių sąrašu, duomenų klasifikavimu, atsekamumu, mokymu ir nuolatine patikra
- Gebėjimas į darbo eigą įtraukti žmogaus atsakomybės, saugumo prioriteto, patikrinimo, konfidencialumo, skaidrumo ir aplinkosaugos bei socialinės atsakomybės principus.
Per pastaruosius dešimt skyrių matėme, kaip saugiai naudoti AI atskirose chemijos inžinerijos srityse – projektavimo, modeliavimo, kinetikos, savybių numatymo, optimizavimo, valdymo duomenų, HAZOP, standartų paieškos ir Python srityse. Šiame paskutiniame skyriuje sudedame dalis: išmoksime integruoti dirbtinį intelektą nuo projekto ar objekto pradžios iki pabaigos, laikantis nuoseklios disciplinos, žmogaus patikrinimo vartų ir valdymo struktūros – sistemos, kuri nustato taisykles, pagal kurias organizacijoje bus naudojami įrankiai, duomenys ir sprendimai. Tikslas yra sukurti daugiasluoksnę sistemą, kuri neleistų vienai AI klaidai įsiskverbti į dizainą, verslo sprendimą ar saugos dokumentą.
Pagrindinė idėja paprasta: kiekviename etape yra žmogaus patikrinimo vartai ir aiški perėjimo sąlyga; Negalite praeiti pro vienas duris, nepraėję pro kitas. Tai gelbstinti struktūra chemijos inžinerijoje, taip pat teismo medicinos ar medicinos srityse – nes ir čia klaidos turi pasekmių ne popieriuje, o realybėje, žmonėms ir aplinkai.
Darbo eiga nuo galo iki galo: su patvirtinimo vartais
Panagrinėkime chemijos inžinerijos projektą penkiais etapais ir kiekviename įveskime AI ir patikros vartų vaidmenį:
1. Dizainas ir koncepcija. AI generuoja maršruto parinktis ir PFD juodraštį. Durys: ar medžiagų balansas palaikomas rankomis, ar maršrutas pasirinktas remiantis inžineriniu sprendimu?
2. Analizė ir modeliavimas. Apibendrina AI modeliavimo išvestį, pateikia kinetikos / savybių eskizą. Vartai: ar tinkamas termodinaminis modelis, ar laikomasi masės/energijos balanso, ar kritinės vertės priklauso nuo eksperimentinio/duomenų bazės šaltinio?
3. Optimizavimas ir dydžio nustatymas. AI sukuria optimizavimo ir skaičiavimo kodo juodraštį. Durys: ar apribojimai baigti, ar kodas patikrintas, ar jis yra optimaliame saugumo lange?
4. Saugumas ir atitiktis. Pateikiamas AI HAZOP skeletas ir standartinis žemėlapis. Durys: ar pavojaus analizę atliko ekspertų grupė, ar standartiniai elementai buvo patikrinti iš pirminio šaltinio, ar buvo gautas įgaliotas patvirtinimas?
5. Veikimas ir stebėjimas. AI stebi jutiklių duomenis ir žymi anomalijas. Durys: realus signalas ar jutiklis, saugos apsauga nepriklausomoje SIS?
Šie vartai neleidžia vienam nepatvirtintam išėjimui perkelti į kitą etapą. Net jei klaida pabėgs, yra didelė tikimybė, kad ji bus sugauta šalia.
Patarimas: kiekvienam etapui parašykite vieno sakinio „pereinamąją sąlygą“ ir padarykite ją matomą komandai: „Modeliavimas negali būti pradėtas, kol medžiagų balansas nepatvirtintas rankiniu būdu“. Tokios aiškios taisyklės užtikrina drausmės išlaikymą net ir esant laiko spaudimui.
Valdymo sistema: institucinė disciplina
Individualus patikrinimas yra gerai, tačiau reikia valdymo sistemos objekto mastu. Penki pagrindiniai komponentai:
1. Patvirtintas transporto priemonių ir modelių sąrašas. Jis apibrėžia, kurie AI įrankiai gali būti naudojami kokioms užduotims atlikti. Nepatvirtinti įrankiai nenaudojami saugumui svarbioms paskyroms.
2. Duomenų klasifikavimas. Į kokią transporto priemonę galima įrašyti registruotus receptus, eksploatavimo sąlygas ir asmens duomenis? Konfidencialūs / patentuoti duomenys neteikiami įrankiams, kurie nutekina duomenis už organizacijos ribų.
3. Registravimas ir atsekamumas (audito seka). Kokia išvestis buvo gauta iš kurio įrankio, kas ją patvirtino, su kokiu šaltiniu ji buvo susieta? Jei kiltų problemų, jis turėtų būti atsekamas.
4. Mokymas ir kompetencija. Vartotojai turi žinoti AI ribas, haliucinacijų riziką ir tikrinimo discipliną. Įrankis yra galingas, bet pavojingas netinkamose rankose.
5. Nuolatinis tikrinimas. Modeliai ir transporto priemonės skiriasi; Išėjimų patikimumas periodiškai tikrinamas iš naujo.
Dėmesio: įstaigoje požiūris „kiekvienas nori pateikti norimus duomenis norimam dirbtinio intelekto įrankiui“ yra ir patentuotos informacijos nutekėjimo, ir saugumo gedimo rizika. Valdymas yra nematoma, bet svarbi infrastruktūra, kuri riboja šią riziką.
Atsakingo naudojimo principai
Sujungkime modulį šešiais principais:
- Žmogaus atsakomybė. Galutinį sprendimą ir parašą turi kompetentingas ekspertas; AI išvestis nepakeičia jos patvirtinimo.
- Saugumo prioritetas. Saugumui svarbius sprendimus (saugą, pavojų, medžiagą, dydį) reikia patikrinti ir patvirtinti.
- Patikrinimo disciplina. Kiekvienas išėjimas yra prijungtas prie fizikos / šaltinio, išbandomas nepriklausomu metodu ir perduodamas per interpretavimo filtrą.
- Saugumas. Nuosavybės ir asmens duomenys tvarkomi tik patvirtintu, saugiu būdu.
- Skaidrumas. AI naudojimas yra sąžiningai nurodytas ataskaitose ir dokumentuose.
- Aplinkosauginė ir socialinė atsakomybė. Priimant sprendimus atsižvelgiama ne tik į ekonomiką, bet ir į žmonių sveikatą bei aplinką.
trys mini dėklai
1 atvejis – klaidą užklupo durys. Viename projekte 4 % masės disbalansas AI PFD grimzlėje buvo užfiksuotas balanso vartuose prieš pereinant į modeliavimo fazę. Klaida buvo ištaisyta šaltinyje; Jei durų nebūtų, ši klaida išplistų į modeliavimą, o paskui į matmenų nustatymą. Sluoksniuota struktūra veikė.
2 atvejis – valdymas užkirto kelią duomenų nutekėjimui. Inžinierius ketino įklijuoti patentuotą katalizatoriaus receptą į atvirą AI transporto priemonę. Agentūros duomenų klasifikavimo taisyklėje teigiama, kad šie duomenys gali būti tvarkomi tik naudojant patvirtintą įrankį. Taisyklė užkirto kelią komerciniu požiūriu kritiniam nutekėjimui.
3 atvejis – atsekamumas sukėlė pasitikėjimą. Vieno audito metu mūsų klausė, kaip buvo priimtas projektinis sprendimas. Įstaigos įrašymo disciplinos dėka buvo galima dokumentuoti, kad AI parengė tik juodraštį, kad kiekviena kritinė vertė buvo priskirta eksperimentiniam šaltiniui ir kad sprendimą patvirtino įgaliotas inžinierius. Skaidrumas suteikė ir pasitikėjimo, ir teisinės apsaugos.
Keturi kopijuojami šablonai
1) Darbo eigos vartų planas:
Jūsų vaidmuo: projektų užtikrinimo konsultantas. Mano projektas: [aprašymas]. Paruoškite man etapų (projektavimo, analizės, dydžio, saugumo, eksploatavimo) TIKRINIMO VARTŲ planą: ką AI daro kiekviename etape, kurios vieno sakinio perėjimo sąlygos NEGALI būti perduotos į kitą etapą neįvykdžius, kas tikrina. Ypatingas dėmesys saugumui svarbioms durims.
2) Valdymo savireguliacija:
Išduodamas AI naudojimui mūsų organizacijoje savikontrolės kontrolinis sąrašas: (1) ar yra patvirtintų įrankių sąrašas, (2) ar apibrėžta duomenų klasifikacija, (3) ar saugomas įrašas / atsekamumas, (4) ar vyksta naudotojų mokymai, (5) ar yra nuolatinis patikrinimas? Paprašykite kiekvieno elemento įvertinimo „taip/dalinis/ne“ ir patobulinimo pasiūlymų. Kontekstas: [apibrėžimas]
3) Skaidrumas / naudojimo deklaracija:
Sukurkite skaidrumo pastraipą, kurioje sąžiningai aprašomas AI naudojimas inžinerinei ataskaitai: kokiais etapais AI buvo naudojamas rengiant / analizuojant, kaip buvo patvirtinti rezultatai, o galutinė atsakomybė tenka atsakingam inžinieriui. Perdėjimas; tiesiog atspindėkite tai, kas iš tikrųjų buvo padaryta.Doings: [description]
4) Paskutinis patikrinimas prieš priimant sprendimą:
Aš ruošiuosi priimti šį sprendimą: [sprendimas]. Prieš pateikdami jį, patikrinkite galutinį kontrolinį sąrašą: (1) ar tai labai svarbu saugumui, (2) ar yra kokių nors vertybių, kuriomis pasitikiu, gautos iš šaltinio / eksperimentuotos, (3) ar buvo atliktas nepriklausomas patikrinimas, (4) ar reikalingas institucijos patvirtinimas, (5) ar buvo laikomasi konfidencialumo / atitikties? Pažymėkite žingsnį, kurio, jūsų manymu, trūksta. Sprendimas yra mano; Jūs sekate kontrolinį sąrašą.
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas:
Kaip turėčiau naudoti AI savo projekte?
Nėra konteksto, jokios patvirtinimo struktūros. AI pateikia bendrą atsakymą, aplenkdamas saugumui svarbius vartus.
Galingas raginimas:
Jūsų vaidmuo: projekto užtikrinimo konsultantas. 50 000 tonų per metus chemijos gamybos projekte noriu naudoti AI nuo projektavimo iki eksploatavimo. Kiekvienam etapui gaunu AI vaidmens karkasą, patikros struktūrą, kurios neišlaikius negalima, kas ją patvirtins ir kokius duomenis kokiam įrankiui galima suteikti. Taip pat pažymėkite saugumui svarbius veiksmus ir pažymėkite, kur būtinas žmogaus patvirtinimas.
Skirtumas akivaizdus: projekto kontekstas, vartai, patvirtinimo ir duomenų taisyklės susistemina AI naudojimą.
Vaidmenų pasiskirstymas struktūroje nuo galo iki galo
Scena
AI vaidmuo
patikrinimo vartai
Dizainas
Maršrutas, PFD juodraštis
Likutis + maršruto patvirtinimas
Analizė
Modeliavimo santrauka, numatymas
Modelio + šaltinio patvirtinimas
Dydžio nustatymas
optimizavimas, kodas
Apribojimas + testas + saugumas
Saugumas/atitikimas
HAZOP skeletas, žemėlapis
Ekspertų komanda + pirminis šaltinis
Verslas
Anomalijų sekimas
Realus / jutiklis + nepriklausoma SIS
Dažnos klaidos
- Šokinėjančios durys veikiant laiko spaudimui. Praleidus vartus, klaida gali patekti į kitus etapus.
- Valdymo nepaisymas. Nereguliarus įrankių ir duomenų naudojimas kelia nutekėjimo ir saugumo pavojų.
- Naudojimo slėpimas. Jei dirbtinio intelekto naudojimas nėra dokumentuojamas skaidriai, pažeidžiamas pasitikėjimas ir teisinė apsauga.
- Saugumui svarbus patvirtinimas, kad būtų galima peržiūrėti formalų. Įgaliotasis patvirtinimas nėra pasirašymo formalumas, o tikra atsakomybė už patikrinimą.
- Pamiršus aplinkos ir socialinius aspektus. Sprendimai sveriami ne tik iš ekonomikos, bet ir iš sveikatos bei aplinkosaugos perspektyvų.
Apibendrinant
Visapusiškoje struktūroje dirbtinis intelektas yra integruotas su žmogaus patikrinimo vartais kiekviename chemijos inžinerijos etape; Negalite praeiti pro vienas duris, nepraėję pro kitas. Valdymo sistema (sertifikuoti įrankiai, duomenų klasifikavimas, atsekamumas, mokymas, nuolatinis tikrinimas) perkelia šią discipliną į įmonės mastą. Atsakingo naudojimo pagrindas yra šeši principai: žmogaus atsakomybė, saugumo prioritetas, tikrinimo disciplina, konfidencialumas, skaidrumas ir aplinkosaugos visuomenės atsakomybė. AI yra galingas asistentas; Tačiau dizaino, saugumo ir paskutinio žodžio savininkas visada yra kompetentingas ekspertas.
Taikymo užduotis
Sukurkite savo (arba įsivaizduojamo) projekto penkių žingsnių patvirtinimo vartų planą naudodami „darbo eigos vartų plano“ šabloną; Kiekvienam etapui parašykite vieno sakinio perėjimo sąlygą. Tada naudodami „valdymo savikontrolės“ šabloną įvertinkite, kaip dirbtinio intelekto naudojimas šiame projekte yra patvirtintų įrankių, duomenų klasifikavimo, atsekamumo ir mokymo srityse, ir nustatykite bent du patobulinimus.
kontrolinis sąrašas
- [ ] Kiekviename etape įdėjau žmogaus patvirtinimo vartus ir vieno sakinio leidimo sąlygą.
- [ ] Apibrėžiau patvirtintą įrankių sąrašą ir duomenų klasifikaciją.
- [ ] Aš saugojau įrašą / atsekamumą (kokią produkciją, kas patikrino, koks šaltinis).
- [ ] Ataskaitoje aiškiai nurodžiau AI naudojimą.
- [ ] Saugumui svarbius sprendimus priskiriu įgalioto eksperto patvirtinimui ir aplinkosaugos visuomenės atsakomybei.
Modulio egzaminas
1. Kuris iš šių dalykų yra tiksliausias dirbtinio intelekto padėties nustatymas chemijos inžinerijoje?
- A) Dirbtinis intelektas gali įrašyti saugos skaičiavimus tiesiai į projektą be žmogaus sutikimo
- B) AI yra paskyros spartintuvas ir planų generatorius; Atsakomybė už konstrukcijos saugumą ir galutinį sprendimą tenka žmogui ✔
- C) Kadangi dirbtinis intelektas visada yra patikimesnis už žmones, saugumo sprendimus reikėtų palikti jam.
- D) Dirbtinis intelektas naudingas tik tekstui apibendrinti, jis neturi nieko bendra su inžineriniais skaičiavimais
Aprašymas: Dirbtinis intelektas; Tai asistentas, kuris rūšiuoja didelius duomenis, pažymi šablonus ir gamina skaičiavimus / kodo juodraščius. Atsakomybė ir tvirtinimas kritiniais klausimais, pvz., projekto sauga, modeliavimo interpretavimas ir galutinis sprendimas, priklauso kompetentingam ekspertui; Nepatvirtintas išėjimas gali sukelti reaktoriaus nuotėkį arba sprogimą. Todėl dirbtinio intelekto produkcija nepakeičia kompetentingo eksperto patvirtinimo.
2. Kuri yra trijų pakopų patikros disciplina dirbtinio intelekto duotam inžinerinio skaičiavimo rezultatui?
- A) Matyti, ar rezultatai sklandūs ir pasitikintys
- B) Užduokite tą patį klausimą dirbtiniam intelektui tris kartus ir paimkite vidurkį
- C) Prijunkite jį prie fizikos / šaltinio, patikrinkite savarankiškai, perleiskite per komentarų ribų filtrą ✔
- D) Tiesioginis rezultato priėmimas ir jo tikrinimas tik ataskaitos etape
Paaiškinimas: Kiekviena išvestis pirmiausia prijungiama prie fizikos / šaltinio (kuri lygtis, koks šaltinis, kokia prielaida), tada patikrinama nepriklausomu metodu (rankinis skaičiavimas, modeliavimas, atskaitos duomenys, eilės patikrinimas), ir galiausiai perduodama per komentaro ribos filtrą (ar išsaugoma masė / energija, ar vertė yra tikroviška). Šie trys žingsniai užklumpa daugumą haliucinacijų.
3. Ką daryti, jei bendra masė, įeinanti ir išeinanti, neatitinka medžiagų balanso grimzlės, nustatytos dirbtinio intelekto proceso projekte?
- A) Mažas skirtumas yra nesvarbus, nekreipkite dėmesio į jį ir tęskite dizainą
- B) Skirtumas randamas ir pataisomas; dažnai pamirštamas srautas arba du kartus skaičiuojamas atgalinis ciklas ✔
- C) Balansas laikomas teisingu, nes dirbtinis intelektas jį taip apskaičiuoja.
- D) Išeinančio srauto vertė padidinama rankiniu būdu, kad būtų kompensuotas skirtumas
Paaiškinimas: chemijos inžinerijoje masė arba išsaugoma, arba ne; „Tai kainuoja maždaug“ yra nepriimtina. Jei įvesties = išvesties lygtis netenkinama, dažnai pamirštamas šalutinis srautas, dvigubai skaičiuojamas pakartotinis apdorojimas arba klaida. Projektas negali būti tęsiamas tol, kol tai nebus nustatyta ir nepataisyta; kitu atveju klaida bus perduota į visus tolesnius dydžius.
4. Proceso modeliavimas „susiliejo ir davė puikų vaizdą“. Kokia yra didžiausia rizika šio rezultato tikslumui?
- A) Lentelė nėra spalvota ir neįskaitoma
- B) Modeliavimas susilieja per greitai
- C) Termodinaminis modelis, kuris neatitinka sistemos charakteristikų, duoda įtikinamus, bet neteisingus rezultatus ✔
- D) Per daug skaitmenų po kablelio srauto lentelėje
Paaiškinimas: Dauguma modeliavimo klaidų yra ne skaitinės, o dėl termodinaminio modelio (ypatybės paketo) pasirinkimo. Pritaikius idealų modelį poliariniam mišiniui, azeotropas gali tapti nematomas, o rezultatas bus lygus, bet visiškai neteisingas. Iš pažiūros susiliejantis ir gražus vaizdas nepasitvirtina; reikalingas modelio pritaikymas ir eksperimentinis palyginimas.
5. Kaip elgtis, kai dirbtinis intelektas suteikia reakcijos greičio konstantos (k) reikšmę reaktoriaus konstrukcijai?
- A) vertė turėtų būti nustatyta eksperimentiniu būdu; AI numatymas nenaudojamas kaip projektavimo duomenys ✔
- B) Vertė tiesiogiai įtraukiama į dizainą, nes dirbtinis intelektas užtikrina patikimumą
- C) Laikoma, kad vertė yra vienoda kiekvienoje reakcijoje, nepaisant sąlygų
- D) Reikšmės pakanka, kai panašus skaičius pasirodo internete
Aprašymas: Greičio konstantos, aktyvavimo energija ir mechanizmas nustatomi tik eksperimentu; Ta pati reakcija su skirtingais katalizatoriais, priemaišomis ar fazėmis elgiasi labai skirtingai. AI grąžinta k reikšmė gali būti pradinis spėjimas, bet tai nėra projektiniai duomenys. Kiekvienas kinetinis parametras, kuris yra projektavimo pagrindas, turi būti pagrįstas empiriniu šaltiniu.
6. Kaip reikia nustatyti egzoterminės reakcijos šilumą (reakcijos entalpiją), kad būtų sukurtas saugus aušinimas?
- A) Dirbtinio intelekto suteikta pradinė vertė tiesiogiai įvedama į aušinimo projektą
- B) Vertė matuojama kalorimetrija ir įvertinta įgalioto inžinieriaus, ji nėra pagrįsta dirbtinio intelekto prognozėmis ✔
- C) Jei reakcija egzoterminė, šilumos apkrovą galima nepaisyti
- D) Panašaus junginio reikšmė naudojama nepriklausomai nuo sąlygos
Aprašymas: Reakcijos šiluma ir šiluminio pabėgimo potencialas yra saugai svarbi problema. AI grąžinama vertė gali priklausyti kitam tirpikliui / būklei ir gali labai klaidingai parodyti tikrąją šilumos apkrovą. Šios vertės matuojamos kalorimetrija (pvz., reakcijos kalorimetrija) ir įvertinamos kompetentingo inžinieriaus; Jis niekada nėra pagrįstas vien dirbtinio intelekto prognozėmis.
7. Dirbtinis intelektas patikimu skaičiumi davė tirpiklio garų slėgį. Ką reikia padaryti prieš naudojant šią vertę?
- A) Kadangi vertė pateikiama sklandžiai, ji dedama tiesiai į stulpelio dizainą
- B) Valdomas tik įrenginys, nereikia žiūrėti į šaltinį
- C) Vertė patikrinama patikima duomenų baze (DIPPR/NIST) arba eksperimentu su sąlyga ✔
- D) Jei vertė lyginama su kito tirpiklio verte ir yra panaši, ji priimama.
Paaiškinimas: ypatybių įvertinimas yra skaitinis projektavimo pagrindas, o klaida čia plinta per visą skaičiavimą. AI reikšmė gali priklausyti kitam junginiui, būti netinkamos būklės arba būti haliucinacija. Todėl kiekviena svarbi savybė patikrinama patikima duomenų baze (DIPPR/NIST) arba eksperimentu; taip pat turi būti prašoma kartu su vertės sąlyga (temperatūra, slėgis, fazė).
8. Kas atsitiks, jei dirbtiniam intelektui bus pasakyta, kad optimizuojant procesą reikia „sumažinti energiją“, tačiau produkto grynumo apribojimas nenurodytas?
- A) Rezultatas visada saugus ir kokybiškas, apribojimai nereikalingi
- B) Gali atsirasti klaidinantis optimalus variantas, kuris gerai atrodo ant popieriaus, bet paaukos grynumą arba saugumą ✔
- C) Dirbtinis intelektas spontaniškai ir teisingai užbaigia trūkstamus suvaržymus
- D) Optimizavimas neveikia ir neduoda rezultatų
Paaiškinimas: nesuvaržytas optimizavimas yra klaidinantis: AI arba algoritmas gali pasiūlyti „optimumą“, kuris popieriuje sumažina energijos kiekį, bet iš tikrųjų sumažina produkto grynumą žemiau specifikacijos arba viršija saugos ribą. Todėl visi kokybės ir saugumo apribojimai, taip pat tikslo ir sprendimų kintamieji turi būti visiškai apibrėžti; Taip pat turi būti patikrintas matematinis optimalumas dėl saugumo ir pagrįstumo.
9. Ką pirmiausia reikia padaryti, kai AI pažymi staigų jutiklio duomenų šuolį kaip „galimą nuotėkį“?
- A) Nedelsiant sustabdyti procesą, nes dirbtinis intelektas pasakė, kad jis nutekėjo
- B) Signalo nepaisymas, nes jutikliai visada neteisingi
- C) Patikrinimas naudojant patikimumo filtrą, ar signalas yra tikras proceso įvykis, ar jutiklio / matavimo problema ✔
- D) Automatiškai ištrinti šuolį iš duomenų rinkinio
Paaiškinimas: Jutikliai gali meluoti: kalibravimas nutrūksta, jungtis atsilaisvina, linija girdi triukšmą. Anomalijos signalas pirmiausia turi būti filtruojamas siekiant duomenų patikimumo: ar jis atitinka gretimus / susijusius jutiklius, ar tai fiziškai įmanoma, ar jis atitinka priežiūros / kalibravimo įrašą? Tik po to, kai jie praeina, jis tiriamas kaip tikras proceso įvykis; Priešingu atveju įsikišimas gali įvykti dėl klaidingo pavojaus signalo.
10. Koks yra tinkamas ir saugus AI vaidmuo HAZOP tyrime?
- A) Sukurti pilną HAZOP žinant procesą ir padaryti susitikimą nereikalingą
- B) Tikslus rizikos lygių klasifikavimas ir atsargumo sprendimų priėmimas
- C) Darbo pagrindų sudarymas, žodiniai klausimai ir protokolų rengimas; Faktinio pavojaus įvertinimą palikite ekspertų komandai ✔
- D) Nuvykti į susitikimo vietą ir pasirašyti galutinę rizikos ataskaitą vienas
Aprašymas: HAZOP yra saugumui svarbi specialistų veikla. Dirbtinis intelektas; Mazgo / parametro / vadovo matricos sistema pagreitina dokumentaciją, pvz., tipinį scenarijaus atkūrimą ir minučių redagavimą. Bet koks nukrypimas yra tikrasis pavojus, pasekmių rimtumas ir atsargumo priemonių adekvatumas priklauso daugiadisciplininei ekspertų komandai; Be to, dirbtiniame intelekte nerasta su procesu susijusių pavojų. AI projektas yra ekspertų susitikimo įvestis, o ne rezultatas.
11. Koks yra svarbiausias DI įspėjimas standartų ir reguliavimo tyrimuose?
- A) Dirbtinis intelektas niekada neklysta savo standartinėmis žiniomis, jis gali būti naudojamas tiesiogiai
- B) Kiekvienos medžiagos numeris, ribinė vertė ir data turi būti patikrinti iš pirminio ir esamo šaltinio; AI suteikia tik kryptį ✔
- C) Atnaujinimo tikrinimas nereikalingas, nes standartai niekada nesikeičia.
- D) Vien tik kontrolinio sąrašo sudarymas įrodo atitiktį
Paaiškinimas: Standartų tyrimai yra viena iš sričių, kur AI haliucinacijos gali būti labiausiai pražūtingos: neegzistuojantis elemento numeris, neteisingas lūžio taškas arba pasenęs reikalavimas gali būti pateiktas labai įtikinamai. Atitiktis reiškia ir saugumą, ir įstatymus. Todėl kiekviena medžiaga, ribinė vertė ir data negali būti naudojami be pirminio ir esamo šaltinio patvirtinimo; AI suteikia tik kryptį.
12. Python inžinerijos skaičiavimo kodas, parašytas dirbtinio intelekto, veikė be klaidų ir sukūrė skaičių. Ko reikėtų, kad patikėtum šia išvada?
- A) Kodo veikimas be klaidų įrodo, kad rezultatas yra teisingas.
- B) Kodas turi būti išbandytas su žinomu rezultatu, turi būti išbandyti vienetai ir briaunos, o saugumo skaičiavimą taip pat turėtų patikrinti institucija ✔
- C) Jei kodas ilgas ir atrodo sudėtingas, jis gali būti laikomas teisingu
- D) Kadangi tai parašyta dirbtinio intelekto, papildomos patikros nereikia
Paaiškinimas: „Darbas“ ir „teisinga“ yra skirtingi dalykai: kodas gali veikti be klaidų ir pateikti neteisingą skaičių (vieneto supainiojimas, ženklo klaida, indekso poslinkis). Todėl kiekvienas kodas turėtų būti išbandytas bandomuoju atveju (analitinis pavyzdys, rankinis skaičiavimas, atskaitos duomenys), kurio atsakymas žinomas nepriklausomai; mazgai ir briaunos dėklai turi būti patikrinti; Saugos požiūriu kritinius skaičiavimus taip pat turi patikrinti įgaliotas inžinierius.
13. Koks yra veiksmingiausias būdas apsaugoti visapusį dirbtinį intelektą palaikantį cheminės inžinerijos procesą nuo vienos klaidos, kuri nepatektų į projektą arba saugos dokumentą?
- A) Viso proceso delegavimas vienam AI įrankiui ir pažvelgimas į pabaigą
- B) Pašalinkite tarpinius greičio patikrinimus ir patikrinkite tik paskutiniame etape
- C) Žmogaus patvirtinimo vartų ir vieno sakinio leidimo sąlygos nustatymas kiekviename etape (patikrinimas sluoksniuose) ✔
- D) Kiekvienas inžinierius gali laisvai naudotis savo transporto priemone, neveikdamas įrašų.
Aprašymas: kiekviename etape (projektavimas, analizė, dydžio nustatymas, saugumas, eksploatacija) pateikiami žmogaus patikrinimo vartai ir aiški perėjimo sąlyga (ar jis stabilus, ar prijungtas prie šaltinio, ar kodas patikrintas, ar gautas ekspertų patvirtinimas). Negalite praeiti pro vienas duris, nepraėję pro kitas; Ši daugiasluoksnė struktūra neleidžia vienai AI klaidai patekti į tolesnius etapus.
14. Kurios iš šių programų užtikrina, kad dirbtinio intelekto naudojimas institucijoje būtų saugus valdymo požiūriu?
- A) Kiekvienas vartotojas gali laisvai įvesti patentuotus duomenis į bet kurį pasirinktą atvirą įrankį.
- B) valdymo sistema, apimanti patvirtintą transporto priemonių sąrašą, duomenų klasifikaciją, atsekamumą, mokymą ir nuolatinį tikrinimą ✔
- C) Dirbtinio intelekto naudojimas apskritai nėra užfiksuotas
- D) Vieno nepatvirtinto įrankio naudojimas kiekvienam darbui, įskaitant saugumui svarbias paskyras
Paaiškinimas: „Kiekvienas turi pateikti norimus duomenis norimai transporto priemonei“ kelia pavojų, kad gali nutekėti patentuota informacija, ir gali atsirasti saugumo klaidų. Tvirta valdymo sistema; Tai apima patvirtintų transporto priemonių ir modelių sąrašą, duomenų klasifikaciją (kuri transporto priemonė gali registruoti registruotus/asmens duomenis), registraciją ir atsekamumą (audito seka), naudotojų mokymus ir nuolatinį tikrinimą. Tai kritinė infrastruktūra, kuri riboja riziką.