Pilnīga darbplūsma, pārvaldība, autentifikācija un atbildīga lietošana

Ieguvumi:

• Spēja konsekventi iegult mākslīgo intelektu katrā posmā no projektēšanas līdz darbībai, izmantojot cilvēka pārbaudes vārtus un viena teikuma pārejas nosacījumus
• Spēja izveidot pārvaldības sistēmu ar apstiprinātu transportlīdzekļu sarakstu, datu klasifikāciju, izsekojamību, apmācību un pastāvīgu pārbaudi
• Spēja darbplūsmā iestrādāt cilvēka atbildības, drošības prioritātes, pārbaudes, konfidencialitātes, caurspīdīguma un vides un sociālās atbildības principus

Iepriekšējās desmit vienībās mēs esam redzējuši, kā droši izmantot AI atsevišķās ķīmiskās inženierijas jomās — projektēšanā, simulācijā, kinētikā, īpašību prognozēšanā, optimizācijā, vadības datos, HAZOP, standartu meklēšanā un Python. Šajā pēdējā daļā mēs apkopojam detaļas: mēs uzzināsim, kā iegult AI no projekta vai objekta sākuma līdz beigām ar konsekventu disciplīnu, cilvēku pārbaudes vārtiem un pārvaldības struktūru — sistēmu, kas nosaka noteikumus, saskaņā ar kuriem organizācijā tiks izmantoti rīki, dati un lēmumi. Mērķis ir izveidot daudzslāņu sistēmu, kas neļauj vienai AI kļūdai iekļūt dizainā, biznesa lēmumā vai drošības dokumentā.

Pamatideja ir vienkārša: katrā posmā tiek novietoti cilvēka verifikācijas vārti un skaidrs pārejas nosacījums; Jūs nevarat iziet cauri vienām durvīm, neizejot cauri citām. Tā ir dzīvību glābjoša struktūra ķīmijas inženierijā, kā arī tiesu medicīnas vai medicīnas jomā — jo arī šeit kļūdas atstāj sekas nevis uz papīra, bet gan patiesībā, uz cilvēkiem un vidi.

Pilnīga darbplūsma: ar verifikācijas vārtiem

Apskatīsim ķīmiskās inženierijas projektu piecās fāzēs un katrā no tiem izvietosim AI lomu un verifikācijas vārtus:

1. Dizains un koncepcija. AI ģenerē maršruta opcijas un PFD melnrakstu. Durvis: vai materiālu līdzsvars tiek uzturēts ar rokām, vai maršruts tika izvēlēts ar inženiertehnisko spriedumu?

2. Analīze un simulācija. Apkopo AI simulācijas izvadi, sniedz kinētikas/īpašības skici. Vārti: vai termodinamiskais modelis ir piemērots, vai masas/enerģijas bilance ir spēkā, vai kritiskās vērtības ir atkarīgas no eksperimentālā/datu bāzes avota?

3. Optimizācija un izmēru noteikšana. AI izstrādā optimizācijas un aprēķinu koda projektu. Durvis: vai ierobežojumi ir pabeigti, vai kods ir pārbaudīts, vai tas ir optimālā drošības logā?

4. Drošība un atbilstība. Nodrošina AI HAZOP skeletu un standarta karti. Durvis: vai bīstamības analīzi ir veikusi ekspertu grupa, vai standarta preces ir pārbaudītas no primārā avota, vai ir saņemts autorizēts apstiprinājums?

5. Darbība un uzraudzība. AI uzrauga sensoru datus un atzīmē anomālijas. Durvis: signāls reāls vai sensors, drošības aizsardzība neatkarīgā SIS?

Šie vārti novērš vienas nepārbaudītas izvades pārnešanu uz nākamo posmu. Pat ja kļūda aizbēg, pastāv liela iespēja, ka tā tiks noķerta pie blakus durvīm.

Padoms. Katram posmam uzrakstiet viena teikuma “pārejas nosacījumu” un padariet to redzamu komandai: “Simulāciju nevar sākt, kamēr materiāla līdzsvars nav manuāli pārbaudīts.” Šādi skaidri noteikumi nodrošina disciplīnas saglabāšanu pat laika spiediena apstākļos.

Pārvaldības ietvars: institucionālā disciplīna

Individuāla pārbaude ir laba, taču ir nepieciešama pārvaldības sistēma objekta mērogā. Piecas galvenās sastāvdaļas:

1. Apstiprināto transportlīdzekļu un modeļu saraksts. Tas nosaka, kuri AI rīki var tikt izmantoti kādiem uzdevumiem. Drošības ziņā kritiskiem kontiem netiek izmantoti neapstiprināti rīki.

2. Datu klasifikācija. Kurā transportlīdzeklī var ievadīt reģistrētas receptes, ekspluatācijas nosacījumus un personas datus? Konfidenciāli/patentēti dati netiek sniegti rīkiem, kas noplūst ārpus organizācijas.

3. Reģistrācija un izsekojamība (revīzijas izsekojamība). Kura izvade tika iegūta no kāda rīka, kas to pārbaudīja, ar kuru avotu tas bija saistīts? Ja rodas problēma, tai jābūt izsekojamai.

4. Apmācība un kompetence. Lietotājiem ir jāzina AI robežas, halucināciju risks un pārbaudes disciplīna. Instruments ir spēcīgs, bet bīstams nepareizās rokās.

5. Nepārtraukta pārbaude. Modeļi un transportlīdzekļi atšķiras; Periodiski tiek atkārtoti pārbaudīta izvadu uzticamība.

Uzmanību: Iestādē pieeja "katram ir jāsniedz dati, ko viņi vēlas AI rīkam, kuru viņi vēlas" ir gan patentētas informācijas noplūdes, gan drošības kļūmes risks. Pārvaldība ir neredzama, bet kritiska infrastruktūra, kas ierobežo šos riskus.

Atbildīgas lietošanas principi

Savienosim moduli ar sešiem principiem:

1. Cilvēka atbildība. Galīgo lēmumu un parakstu pieņem kompetentais eksperts; AI izvade neaizstāj tā apstiprinājumu.
2. Drošības prioritāte. Drošībai kritiskiem lēmumiem (drošība, bīstamība, materiāls, izmēri) ir nepieciešama pārbaude un pilnvarota apstiprināšana.
3. Pārbaudes disciplīna. Katra izeja ir savienota ar fiziku/avotu, pārbaudīta ar neatkarīgu metodi un izlaista caur interpretācijas filtru.
4. Drošība. Īpašumtiesības un personas dati tiek apstrādāti tikai apstiprinātā, drošā veidā.
5. Pārredzamība. AI izmantošana ir godīgi norādīta pārskatos un dokumentācijā.
6. Vides un sociālā atbildība. Pieņemot lēmumus, tiek ņemta vērā ne tikai ekonomika, bet arī cilvēku veselība un vide.

trīs mini futrāļi

1. gadījums — durvis noķēra kļūdu. Vienā projektā 4% masas nelīdzsvarotība AI PFD projektā tika noķerta līdzsvara vārtos pirms pāriešanas uz simulācijas fāzi. Kļūda tika novērsta tās avotā; Ja durvju nebūtu, šī kļūda izplatītos uz simulāciju un pēc tam uz izmēru noteikšanu. Slāņainā struktūra strādāja.

2. gadījums — pārvaldība novērsa datu noplūdi. Inženieris gatavojās ielīmēt patentētu katalizatora recepti atvērtā AI transportlīdzeklī. Aģentūras datu klasifikācijas noteikumos teikts, ka šos datus var apstrādāt tikai uzņēmuma apstiprinātā rīkā. Noteikums novērsa komerciāli kritisku noplūdi.

3. gadījums — izsekojamība radīja uzticību. Vienā auditā mums jautāja, kā tika pieņemts projektēšanas lēmums. Pateicoties iestādes ierakstīšanas disciplīnai, bija iespējams dokumentēt, ka AI sagatavoja tikai melnrakstu, ka katra kritiskā vērtība tika attiecināta uz eksperimentālo avotu un ka lēmumu apstiprināja pilnvarotais inženieris. Pārredzamība nodrošināja gan uzticību, gan tiesisko aizsardzību.

Četras kopējamas veidnes

1) Darbplūsmas vārtu plāns:

Jūsu loma: projektu nodrošināšanas konsultants. Mans projekts: [apraksts]. Sagatavojiet man VERIFIKĀCIJAS VĀRTU plānu posmiem (dizains, analīze, izmēru noteikšana, drošība, darbība): ko AI dara katrā posmā, kuru viena teikuma pārejas nosacījumu NEVAR pāriet uz nākamo posmu, ja tas nav izpildīts, kurš pārbauda. Īpašs uzsvars uz drošībai kritiskām durvīm.

2) Pārvaldības pašregulācija:

Tiek izdots pašpārbaudes kontrolsaraksts AI lietošanai mūsu organizācijā: (1) vai ir apstiprināto rīku saraksts, (2) vai ir noteikta datu klasifikācija, (3) vai tiek veikta uzskaite/izsekojamība, (4) vai notiek lietotāju apmācība, (5) vai notiek nepārtraukta pārbaude? Pieprasiet "jā/daļēji/nē" novērtējumu un uzlabojumu ieteikumus katrai precei. Konteksts: [definīcija]

3) Pārredzamība/lietošanas deklarācija:

Izveidojiet pārskatāmības rindkopu, kurā godīgi aprakstīta AI izmantošana inženiertehniskā ziņojuma sagatavošanai: kādos posmos AI tika izmantots projektēšanai/analīzei, kā tika apstiprināti rezultāti, un galīgo atbildību uzņemas atbildīgais inženieris. Pārspīlējums; tikai atspoguļojiet to, kas faktiski tika darīts.Darīšana: [apraksts]

4) Pēdējā pārbaude pirms lēmuma pieņemšanas:

Es gatavojos pieņemt šādu lēmumu: [lēmums]. Pirms tā nodošanas izpildiet man galīgo kontrolsarakstu: (1) vai tas ir svarīgi drošībai, (2) vai vērtības, uz kurām paļaujos, ir iegūtas/eksperimentētas, (3) vai ir veikta neatkarīga pārbaude, (4) vai ir nepieciešams iestādes apstiprinājums, (5) vai ir ievērota konfidencialitāte/atbilstība? Atzīmējiet soli, kas, jūsuprāt, trūkst. Lēmums ir mans; Jūs ievērojat kontrolsarakstu.

Vāja uzvedne / spēcīga uzvedne

Vāja uzvedne:

Kā man vajadzētu izmantot AI savā projektā?

Nav konteksta, nav validācijas struktūras. AI sniedz vispārīgu atbildi, apejot drošībai kritiskos vārtus.

Spēcīga uzvedne:

Jūsu loma: projektu nodrošināšanas konsultants. Es vēlos izmantot AI no projektēšanas līdz darbībai 50 000 tonnu gadā ķīmiskās ražošanas projektā. Katram posmam es iegūstu AI lomu ietvaru, verifikācijas struktūru, kuru nevar nokārtot, neizturot, kas to apstiprinās un kādus datus kādam rīkam var piešķirt. Atzīmējiet arī drošībai būtiskus soļus un iezīmējiet, kur cilvēka apstiprinājums ir obligāts.

Atšķirība ir skaidra: projekta konteksts, vārti, apstiprināšanas un datu noteikumi sistematizē AI izmantošanu.

Lomu sadalījums no gala līdz galam struktūrā

Skatuves

AI loma

verifikācijas vārti

Dizains

Maršruts, PFD melnraksts

Atlikums + maršruta apstiprinājums

Analīze

Simulācijas kopsavilkums, prognoze

Modeļa + avota apstiprinājums

Izmēru noteikšana

optimizācija, kods

Ierobežojums + pārbaude + drošība

Drošība/atbilstība

HAZOP skelets, karte

Ekspertu komanda + primārais avots

Bizness

Anomāliju izsekošana

Reāls/sensors + neatkarīga SIS

Biežas kļūdas

• Durvju lēkšana zem laika spiediena. Vārtu izlaišana ļaus kļūdai iekļūt turpmākajos posmos.
• Pārvaldības neievērošana. Neregulāra rīku un datu izmantošana rada noplūdes un drošības riskus.
• Lietojuma slēpšana. Ja mākslīgā intelekta izmantošana netiek dokumentēta pārredzami, tiek iedragāta gan uzticība, gan tiesiskā aizsardzība.
• Drošības ziņā svarīgs apstiprinājums, lai redzētu formālu. Pilnvarota apstiprināšana nav parakstīšanas formalitāte, bet gan patiesa atbildība par pārbaudi.
• Aizmirstot vides un sociālos aspektus. Lēmumi tiek svērti ne tikai no ekonomikas, bet arī no veselības un vides perspektīvas.

Rezumējot

Pilnīgā struktūrā AI ir iestrādāts ar cilvēka pārbaudes vārtiem katrā ķīmiskās inženierijas posmā; Jūs nevarat iziet cauri vienām durvīm, neizejot cauri citām. Pārvaldības sistēma (sertificēti rīki, datu klasifikācija, izsekojamība, apmācība, nepārtraukta pārbaude) nodrošina šo disciplīnu uzņēmuma mērogā. Atbildīgas lietošanas pamatā ir seši principi: cilvēka atbildība, drošības prioritāte, pārbaudes disciplīna, konfidencialitāte, pārredzamība un vides un sabiedrības atbildība. AI ir spēcīgs palīgs; Taču dizaina, drošības un pēdējā vārda īpašnieks vienmēr ir kompetentais eksperts.

Lietojumprogrammas uzdevums

Izveidojiet piecpakāpju verifikācijas vārtu plānu savam (vai iedomātam) projektam, izmantojot veidni “darbplūsmas vārtu plāns”; Katram posmam uzrakstiet viena teikuma pārejas nosacījumu. Pēc tam, izmantojot “pārvaldības pašpārbaudes” veidni, novērtējiet, kā AI izmantošana šajā projektā darbojas attiecībā uz apstiprinātajiem rīkiem, datu klasifikāciju, izsekojamību un apmācību, un identificējiet vismaz divus uzlabojumus.

kontrolsaraksts

• [ ] Katrā posmā es ievietoju cilvēka verifikācijas vārtus un viena teikuma izturēšanas nosacījumu.
• [ ] Es definēju apstiprināto instrumentu sarakstu un datu klasifikāciju.
• [ ] Es veicu uzskaiti/izsekojamību (kāda produkcija, kas pārbaudīja, kāds avots).
• [ ] Es ziņojumā skaidri norādīju AI izmantošanu.
• [ ] Drošības ziņā kritiskus lēmumus es attiecinu uz pilnvarota eksperta apstiprinājumu un vides sabiedrības atbildību.

Moduļa eksāmens

1. Kurš no šiem ir visprecīzākais mākslīgā intelekta pozicionēšanas veids ķīmiskajā inženierijā?

• A) Mākslīgais intelekts var ierakstīt drošības aprēķinus tieši projektā bez cilvēka apstiprinājuma
• B) AI ir konta paātrinātājs un projektu ģenerators; Atbildība par dizaina drošuma noteikšanu un galīgo lēmumu gulstas uz cilvēku ✔
• C) Tā kā mākslīgais intelekts vienmēr ir uzticamāks par cilvēkiem, drošības lēmumi ir jāatstāj tā ziņā.
• D) Mākslīgais intelekts noder tikai teksta apkopošanai, tam nav nekāda sakara ar inženiertehniskajiem aprēķiniem

Apraksts: Mākslīgais intelekts; Tas ir palīgs, kas izšķir apjomīgus datus, atzīmē modeļus un veido aprēķinus/koda melnrakstus. Atbildība un apstiprināšana kritiskos jautājumos, piemēram, konstrukcijas drošība, simulācijas interpretācija un galīgais lēmums, ir kompetentam ekspertam; Neapstiprināta izvade var izraisīt reaktora noplūdi vai sprādzienu. Tāpēc mākslīgā intelekta izlaide neaizstāj kompetentu ekspertu apstiprinājumu.

2. Kura ir mākslīgā intelekta sniegtā inženiertehniskā aprēķina rezultāta trīspakāpju verifikācijas disciplīna?

• A) Redzot, vai rezultāts ir plūstošs un pārliecināts
• B) Uzdodiet to pašu jautājumu mākslīgajam intelektam trīs reizes un ņemiet vidējo
• C) Savienojiet to ar fiziku/avotu, pārbaudiet to neatkarīgi, izlaidiet to caur komentāru robežas filtru ✔
• D) Rezultāta tieša pieņemšana un pārbaude tikai ziņojuma stadijā

Paskaidrojums: katra izeja vispirms tiek savienota ar fiziku/avotu (kurš vienādojums, kurš avots, kurš pieņēmums), pēc tam tiek pārbaudīts ar neatkarīgu metodi (rokas aprēķins, simulācija, atsauces dati, secības pārbaude), un visbeidzot tā tiek izlaista caur komentāru robežas filtru (vai masa/enerģija ir saglabāta, vai vērtība ir reāla). Šie trīs soļi uztver lielāko daļu halucināciju.

3. Kā rīkoties, ja kopējā ienākošā un izejošā masa neatbilst materiāla bilances iegrimei, ko procesa projektā noteicis mākslīgais intelekts?

• A) Mazā atšķirība nav svarīga, ignorējiet to un turpiniet dizainu
• B) Atšķirība tiek atrasta un izlabota; bieži vien ir aizmirsta plūsma vai divreiz skaitīta atpakaļcilpa ✔
• C) Līdzsvars tiek uzskatīts par pareizu, jo mākslīgais intelekts to aprēķina tā.
• D) Izejošās straumes vērtība tiek manuāli palielināta, lai kompensētu atšķirību

Paskaidrojums: ķīmijas inženierijā masa tiek saglabāta vai nesaglabājas; “tas maksā aptuveni” ir nepieņemami. Ja vienādojums ievade = izvade nav izpildīts, bieži vien ir aizmirsta sānu plūsma, divreiz skaitīta pārstrāde vai kļūda. Dizainu nevar virzīt uz priekšu, kamēr tas nav atrasts un izlabots; pretējā gadījumā kļūda tiks izplatīta visos turpmākajos lieluma noteikumos.

4. Procesa simulācija “konverģēja un sniedza glītu attēlu”. Kāds ir viskritiskākais risks šī rezultāta precizitātei?

• A) Tabula nav attēlota krāsainā un salasāmā formā
• B) Simulācija saplūst pārāk ātri
• C) Termodinamiskais modelis, kas nav piemērots sistēmas īpašībām, rada pārliecinošus, bet nepareizus rezultātus ✔
• D) Plūsmas tabulā ir pārāk daudz zīmju aiz komata

Paskaidrojums: Lielākā daļa simulācijas kļūdu nav skaitliskas, bet gan termodinamiskā modeļa (īpašuma paketes) izvēles dēļ. Piemērojot ideālu modeli polārajam maisījumam, azeotrops var kļūt neredzams, un rezultāts būs gluds, bet pilnīgi nepareizs. Šķietami saplūstoša un skaista aina nepierāda patiesību; ir nepieciešama modeļa atbilstība un eksperimentāls salīdzinājums.

5. Kā rīkoties, ja mākslīgais intelekts dod reakcijas ātruma konstantes (k) vērtību reaktora konstrukcijai?

• A) Vērtība jānosaka eksperimentāli; AI prognoze netiek izmantota kā dizaina dati ✔
• B) Vērtība tiek tieši iekļauta dizainā, jo AI nodrošina pārliecinošu darbu
• C) Tiek pieņemts, ka vērtība ir vienāda katrā reakcijā neatkarīgi no apstākļiem
• D) Vērtība ir pietiekama, kad līdzīgs skaitlis parādās internetā

Apraksts: Ātruma konstantes, aktivācijas enerģiju un mehānismu nosaka tikai eksperimentāli; Viena un tā pati reakcija uzvedas ļoti atšķirīgi ar dažādiem katalizatoriem, piemaisījumiem vai fāzēm. AI atgrieztā k vērtība var būt sākotnējais minējums, bet tas nav dizaina dati. Katram kinētiskajam parametram, kas ir dizaina pamatā, jābūt balstītam uz empīrisku avotu.

6. Kā jānosaka eksotermiskas reakcijas siltums (reakcijas entalpija) drošai dzesēšanas konstrukcijai?

• A) Mākslīgā intelekta dotā sākotnējā vērtība tiek tieši ievadīta dzesēšanas projektā
• B) Vērtību mēra ar kalorimetriju un novērtē pilnvarots inženieris, tā nav balstīta uz mākslīgā intelekta prognozi ✔
• C) Ja reakcija ir eksotermiska, siltuma slodzi var neņemt vērā
• D) Līdzīga savienojuma vērtība tiek izmantota neatkarīgi no nosacījuma

Apraksts: Reakcijas siltums un termiskā aizbēgšanas potenciāls ir drošībai kritiska problēma. AI atgrieztā vērtība var piederēt citam šķīdinātājam/stāvoklim un var būtiski nepatiesi atspoguļot faktisko siltuma slodzi. Šīs vērtības mēra ar kalorimetriju (piemēram, reakcijas kalorimetriju) un novērtē kompetentais inženieris; Tas nekad nav balstīts tikai uz mākslīgā intelekta prognozēm.

7. Mākslīgais intelekts deva šķīdinātāja tvaika spiedienu ar pārliecinošu skaitli. Kas jādara pirms šīs vērtības izmantošanas?

• A) Tā kā vērtība tiek norādīta raiti, tā tiek ievietota tieši kolonnas dizainā
• B) Tiek kontrolēta tikai iekārta, nav jāskatās uz avotu
• C) Vērtību pārbauda uzticama datu bāze (DIPPR/NIST) vai eksperiments ar nosacījumu ✔
• D) Ja vērtību salīdzina ar cita šķīdinātāja vērtību un tā ir līdzīga, tā tiek pieņemta.

Paskaidrojums. Iezīmju novērtējums ir dizaina skaitliskais pamats, un kļūda tiek izplatīta visā aprēķinā. AI vērtība var piederēt citam savienojumam, būt nepareizā stāvoklī vai būt halucinācijai. Tāpēc katru kritisko funkciju pārbauda uzticama datubāze (DIPPR/NIST) vai eksperiments; ir jāpieprasa arī kopā ar vērtības nosacījumu (temperatūra, spiediens, fāze).

8. Kas notiek, ja mākslīgajam intelektam tiek likts “minimizēt enerģijas patēriņu” procesa optimizācijā, bet netiek noteikts produkta tīrības ierobežojums?

• A) Rezultāts vienmēr ir drošs un kvalitatīvs, ierobežojumi nav vajadzīgi
• B) Var parādīties maldinošs optimums, kas labi izskatās uz papīra, bet upurē tīrību vai drošību ✔
• C) Mākslīgais intelekts spontāni un pareizi aizpilda trūkstošos ierobežojumus
• D) Optimizācija nedarbojas un nesniedz rezultātus

Paskaidrojums: Neierobežota optimizācija ir maldinoša: mākslīgais intelekts vai algoritms var ieteikt “optimumu”, kas uz papīra samazina enerģiju, bet patiesībā samazina produkta tīrību zem specifikācijas vai pārsniedz drošības rezervi. Tāpēc ir pilnībā jādefinē visi kvalitātes un drošības ierobežojumi, kā arī mērķi un lēmumu mainīgie; Jāpārbauda arī matemātiskā optimuma drošība un iespējamība.

9. Kas ir pirmā lieta, kas jādara, ja AI atzīmē pēkšņu sensoru datu lēcienu kā “iespējamu noplūdi”?

• A) Nekavējoties pārtrauciet procesu, jo mākslīgais intelekts teica, ka tas noplūst
• B) Signāla ignorēšana, jo sensori vienmēr ir nepareizi
• C) Pārbaude ar uzticamības filtru, vai signāls ir reāls procesa notikums vai sensora/mērīšanas problēma ✔
• D) Automātiski dzēst lēcienu no datu kopas

Paskaidrojums: Sensori var melot: kalibrēšana paslīd, savienojums kļūst vaļīgs, līnija uztver troksni. Anomālijas signāls vispirms ir jāfiltrē, lai nodrošinātu datu ticamību: vai tas atbilst blakus esošajiem/saistītajiem sensoriem, vai tas ir fiziski iespējams, vai tas atbilst apkopes/kalibrēšanas ierakstam? Tikai pēc tam, kad tie ir izturēti, tas tiek izmeklēts kā reāls procesa notikums; Pretējā gadījumā iejaukšanās var notikt, pamatojoties uz viltus trauksmi.

10. Kāda ir piemērota un droša mākslīgā intelekta loma HAZOP pētījumā?

• A) Izveidojiet pilnīgu HAZOP, zinot procesu un padarot sapulci nevajadzīgu
• B) Precīza riska līmeņu klasificēšana un piesardzības lēmumu pieņemšana
• C) darba ietvara nodrošināšana, virzošie jautājumi un protokolu sagatavošana; Faktisko bīstamības novērtējumu atstājiet ekspertu komandai ✔
• D) Došanās uz tikšanās vietu un galīgā riska ziņojuma parakstīšana vienatnē

Apraksts: HAZOP ir drošībai kritiska speciālista darbība. Mākslīgais intelekts; Mezglu/parametru/vadošo vārdu matricas ietvars paātrina dokumentāciju, piemēram, tipisku scenāriju atsaukšanu un minūšu rediģēšanu. Bet kura novirze ir reālās briesmas, seku nopietnība un piesardzības pasākumu atbilstība pieder daudznozaru ekspertu komandai; Turklāt mākslīgajā intelektā nav atrodami procesam raksturīgi apdraudējumi. AI projekts ir ekspertu sanāksmes ievade, nevis iznākums.

11. Kāds ir vissvarīgākais brīdinājums attiecībā uz mākslīgo intelektu standartu un regulējošo pētījumu jomā?

• A) Mākslīgais intelekts nekad nav kļūdījies savās standarta zināšanās, to var tieši izmantot
• B) Katrs vielas numurs, robežvērtība un datums ir jāpārbauda no primārā un pašreizējā avota; AI sniedz tikai virzienu ✔
• C) Atjauninājumu pārbaude nav nepieciešama, jo standarti nekad nemainās.
• D) Kontrolsaraksta izveidošana vien pierāda atbilstību

Paskaidrojums: Standartu izpēte ir viena no jomām, kur mākslīgā intelekta halucinācijas var būt vispostošākās: neesošs preces numurs, nepareizs pārtraukuma punkts vai novecojušas prasības var tikt pasniegtas ļoti pārliecinošā veidā. Atbilstība nozīmē gan drošību, gan likumu. Tāpēc katru vielu, robežvērtību un datumu nevar izmantot bez apstiprinājuma no primārā un pašreizējā avota; AI sniedz tikai virzienu.

12. Mākslīgā intelekta rakstītais Python inženierijas aprēķinu kods darbojās bez kļūdām un radīja skaitli. Kas būtu nepieciešams, lai uzticētos šim secinājumam?

• A) Koda darbība bez kļūdām pierāda, ka rezultāts ir pareizs.
• B) Kods ir jāpārbauda ar zināmu rezultātu, jāpārbauda vienības un malas gadījumi, kā arī drošības aprēķins jāpārbauda iestādei ✔
• C) Ja kods ir garš un izskatās sarežģīts, to var uzskatīt par pareizu
• D) Tā kā to raksta mākslīgais intelekts, nav nepieciešama papildu pārbaude

Paskaidrojums: “Darbs” un “pareizi” ir dažādas lietas: kods var darboties bez kļūdām un radīt nepareizu numuru (vienības apjukums, zīmes kļūda, indeksa maiņa). Tāpēc katrs kods ir jāpārbauda testa gadījumā (analītiskais paraugs, roku aprēķins, atsauces dati), kura atbilde ir zināma neatkarīgi; ir jāpārbauda vienības un malu korpusi; Pilnvarotajam inženierim ir jāpārbauda arī drošībai būtiskie aprēķini.

13. Kāds ir visefektīvākais veids, kā aizsargāt visaptverošu AI iespējotu ķīmiskās inženierijas procesu no vienas kļūdas noplūdes dizaina vai drošības dokumentā?

• A) Visa procesa deleģēšana vienam AI rīkam un apskata beigas
• B) Ātruma starpposma pārbaužu noņemšana un pārbaude tikai pēdējā posmā
• C) Cilvēka verifikācijas vārtu un viena teikuma izlaiduma nosacījuma ievietošana katrā posmā (slāņainā verifikācija) ✔
• D) Katrs inženieris var brīvi izmantot savu transportlīdzekli, neveicot uzskaiti.

Apraksts: Katrā posmā (projektēšana, analīze, izmēru noteikšana, drošība, darbība) tiek novietoti cilvēka verifikācijas vārti un skaidrs pārejas nosacījums (vai tas ir stabils, vai tas ir savienots ar avotu, vai kods ir pārbaudīts, vai ir saņemts eksperta apstiprinājums). Jūs nevarat iziet cauri vienām durvīm, neizejot cauri citām; Šī slāņveida struktūra novērš vienas AI kļūdas noplūdi turpmākajos posmos.

14. Kurš no tālāk norādītajiem lietojumiem padara mākslīgā intelekta izmantošanu iestādē drošu pārvaldības ziņā?

• A) Katrs lietotājs var brīvi ievadīt patentētus datus jebkurā atvērtā rīkā pēc savas izvēles.
• B) Pārvaldības sistēma, kas ietver apstiprinātu transportlīdzekļu sarakstu, datu klasifikāciju, izsekojamību, apmācību un pastāvīgu pārbaudi ✔
• C) Mākslīgā intelekta izmantošana vispār netiek reģistrēta
• D) Viena neapstiprināta rīka izmantošana katram darbam, tostarp drošībai svarīgi konti

Paskaidrojums. Pieeja “Ikvienam ir jāsniedz vēlamie dati vajadzīgajam transportlīdzeklim” rada gan patentētas informācijas noplūdes, gan drošības kļūdu risku. stabila pārvaldības sistēma; Tas ietver apstiprināto transportlīdzekļu un modeļu sarakstu, datu klasifikāciju (kuru transportlīdzekli var reģistrēt reģistrētos/personas datus), reģistrāciju un izsekojamību (audita pēdas), lietotāju apmācību un nepārtrauktu verifikāciju. Šī ir kritiskā infrastruktūra, kas ierobežo riskus.