Verkflæði frá enda til enda, stjórnunarhættir, auðkenning og ábyrg notkun

Hagnaður:

• Geta til að fella inn gervigreind stöðugt á hverju stigi frá hönnun til notkunar, með mannlegum sannprófunarhliðum og breytingaskilyrðum í einni setningu
• Geta til að koma á stjórnkerfi með samþykktum ökutækjalista, gagnaflokkun, rekjanleika, þjálfun og áframhaldandi sannprófun
• Hæfni til að fella meginreglurnar um mannlega ábyrgð, öryggisforgang, sannprófun, trúnað, gagnsæi og umhverfis- og samfélagslega ábyrgð inn í verkflæðið

Í fyrri tíu einingunum höfum við séð hvernig á að nota gervigreind á öruggan hátt á einstökum sviðum efnaverkfræði—hönnun, uppgerð, hreyfifræði, eignaspá, hagræðingu, stjórnunargögn, HAZOP, staðlaleit og Python. Í þessari lokaeiningu setjum við verkin saman: Við munum læra hvernig á að fella gervigreind inn frá upphafi til enda verkefnis eða aðstöðu með stöðugum aga, mannlegum sannprófunarhliðum og stjórnskipulagi – ramminn sem ákvarðar reglurnar undir hvaða verkfæri, gögn og ákvarðanir verða notaðar í stofnun. Markmiðið er að smíða lagskipt kerfi sem kemur í veg fyrir að ein gervigreindarvilla læðist inn í hönnun, viðskiptaákvörðun eða öryggisskjal.

Grunnhugmyndin er einföld: mannlegt sannprófunarhlið og skýrt umbreytingarskilyrði eru sett á hverju stigi; Þú getur ekki farið í gegnum eina dyr án þess að fara í gegnum aðra. Þetta er lífsbjargandi mannvirki í efnaverkfræði, sem og á réttar- eða læknisfræðilegum sviðum - því einnig hér hafa mistök afleiðingar ekki á pappír heldur í raun og veru, á fólk og umhverfi.

Verkflæði frá enda til enda: með sannprófunarhliðum

Við skulum íhuga efnaverkfræðiverkefni í fimm áföngum og setja hlutverk gervigreindar og sannprófunarhliðsins í hvert:

1. Hönnun og hugmynd. AI býr til leiðarvalkosti og PFD drög. Hurð: er efnisjafnvæginu haldið með höndunum, var leiðin valin með mati verkfræðinnar?

2. Greining og uppgerð. Tekur saman gervigreindaruppgerð, gefur hreyfifræði/eiginleikaskissu. Hlið: er varmafræðilega líkanið viðeigandi, heldur massa/orkujafnvægið, eru mikilvæg gildi háð tilrauna-/gagnagrunnsuppsprettu?

3. Hagræðing og stærð. AI framleiðir hagræðingar- og útreikningskóðadrög. Hurð: er takmörkunum lokið, hefur kóðinn verið prófaður, er hann í besta öryggisglugganum?

4. Öryggi og samræmi. Veitir AI HAZOP beinagrind og staðlað kort. Hurð: Hefur hættugreiningin verið unnin af sérfræðiteymi, hafa staðlaðar vörur verið sannreyndar frá aðalaðilanum, hefur viðurkennt samþykki verið fengið?

5. Rekstur og eftirlit. Gervigreind fylgist með skynjaragögnum og flaggar frávik. Hurð: merki raunverulegt eða skynjari, öryggisvörn í sjálfstæðu SIS?

Þessi hlið koma í veg fyrir að eitt óstaðfest úttak sé flutt á næsta stig. Jafnvel þó að galli sleppi, þá eru góðar líkur á að hann náist í næsta húsi.

Ábending: Skrifaðu eina setningu „umskiptaskilyrði“ fyrir hvert stig og gerðu það sýnilegt fyrir teymið: „Ekki er hægt að hefja uppgerð fyrr en efnisjafnvægi hefur verið staðfest handvirkt. Svo skýrar reglur tryggja að aga haldist jafnvel við tímapressu.

Stjórnarrammi: stofnanaaga

Einstök sannprófun er góð, en þörf er á stjórnunarramma á aðstöðukvarða. Fimm lykilþættir:

1. Samþykkt ökutæki og tegundarlisti. Það skilgreinir hvaða gervigreind verkfæri er hægt að nota fyrir hvaða verkefni. Ósamþykkt verkfæri eru ekki notuð fyrir reikninga sem eru mikilvægir fyrir öryggi.

2. Gagnaflokkun. Í hvaða ökutæki geta skráðir lyfseðlar, rekstrarskilyrði og persónuupplýsingar farið inn? Trúnaðar-/eignargögn eru ekki gefin verkfærum sem leka gögnum utan fyrirtækisins.

3. Skráning og rekjanleiki (endurskoðunarslóð). Hvaða úttak kom frá hvaða tóli, hver staðfesti það, hvaða uppruna var það tengt? Það ætti að vera rekjanlegt ef vandamál koma upp.

4. Þjálfun og hæfni. Notendur verða að þekkja takmörk gervigreindar, hættu á ofskynjunum og aga sannprófunar. Verkfærið er öflugt, en hættulegt í röngum höndum.

5. Stöðug sannprófun. Líkön og farartæki eru mismunandi; Áreiðanleiki úttakanna er endurprófaður reglulega.

Athygli: Í stofnun er nálgunin „allir ættu að gefa gögnin sem þeir vilja til gervigreindartækisins sem þeir vilja“ hætta á bæði einkaupplýsingaleka og öryggisbilun. Stjórnarhættir eru ósýnilegir en mikilvægir innviðir sem takmarka þessa áhættu.

Ábyrgar notkunarreglur

Tengjum eininguna við sex meginreglur:

1. Mannleg ábyrgð. Endanleg ákvörðun og undirskrift liggur hjá þar til bærum sérfræðingi; Framleiðsla gervigreindar kemur ekki í staðinn fyrir samþykki þess.
2. Öryggisforgangur. Ákvarðanir sem eru mikilvægar fyrir öryggi (öryggi, hætta, efni, stærð) krefjast sannprófunar og viðurkennds samþykkis.
3. Agi sannprófunar. Hver útgangur er tengdur við eðlisfræði/uppsprettu, prófuð með sjálfstæðri aðferð og fer í gegnum túlkunarsíuna.
4. Öryggi. Einungis er unnið með einkaupplýsingar og persónuupplýsingar á viðurkenndan, öruggan hátt.
5. Gagnsæi. Notkun gervigreindar kemur heiðarlega fram í skýrslum og skjölum.
6. Umhverfis- og samfélagsleg ábyrgð. Ákvarðanir taka ekki aðeins mið af efnahagslífi heldur einnig heilsu manna og umhverfi.

þrjú smámál

Tilfelli 1 - Hurðin greip gallann. Í einu verkefninu var 4% massaójafnvægi í PFD drögum gervigreindar festist í jafnvægishliðinu áður en farið var yfir í uppgerðina. Villan var lagfærð við upprunann; Ef það væri engin hurð myndi þessi villa breiðast út í uppgerð og síðan í vídd. Lagskipt uppbygging virkaði.

Mál 2 — Stjórnarhættir komu í veg fyrir gagnaleka. Verkfræðingur ætlaði að líma sérsniðna hvatauppskrift í opið gervigreind farartæki. Gagnaflokkunarregla stofnunarinnar sagði að einungis væri hægt að vinna þessi gögn í innanhúss viðurkenndu tæki. Reglan kom í veg fyrir viðskiptalega mikilvægan leka.

Mál 3 - Rekjanleiki vakti traust. Í einni úttektinni var spurt hvernig hönnunarákvörðun væri tekin. Þökk sé upptökuaga stofnunarinnar var hægt að skjalfesta að gervigreindin framleiddi aðeins drög, að hvert mikilvæga gildi væri eignað tilraunauppsprettu og að ákvörðunin hafi verið samþykkt af viðurkenndum verkfræðingi. Gagnsæi veitti bæði traust og réttarvernd.

Fjögur afritanleg sniðmát

1) Verkflæðisháttaráætlun:

Hlutverk þitt: ráðgjafi í verkefnatryggingu. Verkefnið mitt: [lýsing]. Útbúa mér VERIFICATION GATE áætlun fyrir stigin (hönnun, greining, stærð, öryggi, rekstur): hvað gerir gervigreind á hverju stigi, hvaða umbreytingarskilyrði einnar setningar ER EKKI hægt að fara yfir á næsta stig án þess að vera uppfyllt, hver sannreynir. Sérstök áhersla lögð á öryggiskrítískar hurðir.

2) Sjálfstýring stjórnarhátta:

Gátlisti fyrir sjálfsendurskoðun er gefinn út fyrir notkun gervigreindar í fyrirtækinu okkar: (1) er listi yfir samþykkt verkfæri, (2) er gagnaflokkun skilgreind, (3) er skráning/rekjanleiki haldið, (4) er notendaþjálfun, (5) er stöðug sannprófun? Óskið eftir „já/að hluta/nei“ mati og ábendingum um úrbætur fyrir hvert atriði. Samhengi: [skilgreining]

3) Gagnsæi / yfirlýsing um notkun:

Gerðu drög að gagnsæismálsgrein sem lýsir á heiðarlegan hátt notkun gervigreindar fyrir verkfræðiskýrslu: á hvaða stigum gervigreind var notuð til að semja/greina, hvernig framleiðslan var fullgilt, með lokaábyrgð á ábyrgðarverkfræðingnum. ýkjur; endurspegla bara hvað var í raun gert. Gerðir: [lýsing]

4) Síðasta athugun fyrir ákvörðun:

Ég er að fara að taka þessa ákvörðun: [ákvörðun]. Keyrðu mig í gegnum lokagátlistann áður en þú gefur hann: (1) er þetta mikilvægt fyrir öryggið, (2) eru einhver gildi sem ég treysti á fengin/reynt, (3) hefur verið óháð sannprófun, (4) er krafist samþykkis yfirvalds, (5) hefur trúnaðar/fylgni verið gætt? Merktu skrefið sem þú sérð vanta. Ákvörðunin er mín; Þú fylgir gátlistanum.

Veik kvaðning / Sterk kvaðning

Veik kvaðning:

Hvernig ætti ég að nota gervigreind í verkefninu mínu?

Ekkert samhengi, engin staðfestingaruppbygging. Gervigreind gefur almennt svar, framhjá öryggis mikilvægum hliðum.

Öflug tilvitnun:

Þitt hlutverk: ráðgjafi í verkefnatryggingu. Ég vil nota gervigreind frá hönnun til rekstrar í 50.000 tonnum/ári efnaframleiðsluverkefni. Fyrir hvert stig fæ ég ramma fyrir hlutverk gervigreindar, sannprófunarskipulagið sem ekki er hægt að standast án þess að standast, hver mun samþykkja það og hvaða gögn er hægt að gefa hvaða tæki. Merktu einnig öryggis mikilvæg skref og auðkenndu hvar mannlegt samþykki er skylt.

Munurinn er skýr: verkefnasamhengi, hlið, samþykki og gagnareglur setja kerfisbundið notkun gervigreindar.

Hlutverkadreifing í enda-til-enda uppbyggingu

Sviði

Hlutverk gervigreindar

sannprófunarhlið

Hönnun

Leið, PFD drög

Staða + leiðar staðfesting

Greining

Uppgerð samantekt, spá

Líkan + staðfesting heimildar

Stærð

hagræðing, kóða

Þvingun + próf + öryggi

Öryggi/fylgni

HAZOP beinagrind, kort

Sérfræðingateymi + aðaluppspretta

Viðskipti

Fráviksmæling

Raunveruleg/skynjari + óháð SIS

Algeng mistök

• Stökkhurðir undir tímapressu. Að sleppa hlið mun leyfa villunni að leka inn í síðari stig.
• Vanræksla stjórnarhætti. Óregluleg notkun tækja og gagna hefur í för með sér leka og öryggisáhættu.
• Felur notkun. Ef notkun gervigreindar er ekki skjalfest á gagnsæjan hátt er grafið undan bæði trausti og réttarvernd.
• Öryggismikilvæg samþykki til að sjá formlegt. Viðurkennt samþykki er ekki formsatriði undirritunar heldur raunveruleg sannprófunarábyrgð.
• Að gleyma umhverfis- og félagslegum þáttum. Ákvarðanir eru ekki aðeins vegnar út frá efnahagslegum, heldur einnig heilbrigðis- og umhverfissjónarmiðum.

Í stuttu máli

Í enda-til-enda uppbyggingu er gervigreind innbyggt með sannprófunarhliðum manna á hverju stigi efnaverkfræði; Þú getur ekki farið í gegnum eina dyr án þess að fara í gegnum aðra. Stjórnunarrammi (vottuð verkfæri, flokkun gagna, rekjanleiki, þjálfun, stöðug sannprófun) færir þessa fræðigrein til fyrirtækjaskalans. Hryggjarstykkið í ábyrgri notkun er sex meginreglur: Mannleg ábyrgð, öryggisforgangur, sannprófunaraga, trúnaður, gagnsæi og ábyrgð umhverfissamfélagsins. AI er öflugur aðstoðarmaður; En eigandi hönnunar, öryggis og síðasta orðið er alltaf hæfur sérfræðingur.

Umsóknarverkefni

Búðu til fimm þrepa staðfestingarhliðaráætlun fyrir þitt eigið (eða ímyndaða) verkefni með sniðmátinu „vinnuflæðishliðsáætlun“; Skrifaðu eins setningar umbreytingarskilyrði fyrir hvert stig. Síðan, með sniðmátinu „sjálfsendurskoðun stjórnunar“, metið hvernig notkun gervigreindar í þessu verkefni gengur hvað varðar samþykkt verkfæri, flokkun gagna, rekjanleika og þjálfun og greindu að minnsta kosti tvær umbætur.

gátlisti

• [ ] Ég setti mannlegt sannprófunarhlið og einnar setningar framhjáhaldsskilyrði á hverju stigi.
• [ ] Ég skilgreindi samþykktan verkfæralista og gagnaflokkun.
• [ ] Ég hélt skrá/rekjanleika (hvaða framleiðsla, hver staðfesti, hvaða uppruna).
• [ ] Ég sagði notkun gervigreindar á gagnsæjan hátt í skýrslunni.
• [ ] Ég rek öryggisákvarðanir ákvarðanir til viðurkennds sérfræðingasamþykkis og ábyrgðar umhverfissamfélagsins.

Einingapróf

1. Hver af eftirfarandi er nákvæmasta staðsetning gervigreindar í efnaverkfræði?

• A) Gervigreind getur skrifað öryggisútreikninga beint inn í hönnunina án samþykkis manna
• B) AI er reikningshraðall og teikningarrafall; Ábyrgðin á því að ákvarða öryggi hönnunarinnar og endanlega ákvörðun er hjá manneskjunni ✔
• C) Þar sem gervigreind er alltaf áreiðanlegri en menn ættu öryggisákvarðanir að vera undir henni.
• D) Gervigreind er aðeins gagnleg til að draga saman texta, hún hefur ekkert með verkfræðilega útreikninga að gera

Lýsing: Gervigreind; Það er aðstoðarmaður sem prófar fyrirferðarmikil gögn, flaggar mynstur og framleiðir útreikninga/kóðadrög. Ábyrgð og samþykki mikilvægra atriða eins og öryggi hönnunar, túlkun á uppgerð og lokaákvörðun tilheyrir þar til bærum sérfræðingi; Óstaðfest framleiðsla gæti leitt til leka í kjarnaofni eða sprengingu. Þess vegna kemur gervigreind framleiðsla ekki í stað samþykkis hæfs sérfræðinga.

2. Hver er þriggja þrepa sannprófunargreinin fyrir verkfræðilega útreikningsniðurstöðu sem gervigreind gefur?

• A) Að sjá hvort framleiðslan sé reiprennandi og örugg
• B) Spyrðu sömu spurningu til gervigreindar þrisvar sinnum og taktu meðaltalið
• C) Tengdu það við eðlisfræði/heimild, prófaðu það sjálfstætt, farðu í gegnum athugasemdamörkasíu ✔
• D) Samþykkja niðurstöðuna beint og athuga hana aðeins á skýrslustigi

Skýring: Hver útgangur er fyrst tengdur við eðlisfræðina/uppsprettu (hvaða jöfnu, hvaða uppspretta, hvaða forsenda), síðan er það prófað með sjálfstæðri aðferð (handreikningur, uppgerð, viðmiðunargögn, pöntunarathugun) og að lokum er það flutt í gegnum athugasemdamarkasíuna (er massinn/orkan varðveitt, er gildið raunhæft). Þessi þrjú skref grípa flestar ofskynjanir.

3. Hvað ætti að gera ef heildarmassi inn og út samsvarar ekki efnisjafnvægisdrögunum sem gervigreind hefur gert í ferlihönnun?

• A) Litli munurinn skiptir ekki máli, hunsaðu hann og haltu áfram hönnuninni
• B) Mismunurinn er fundinn og leiðréttur; það er oft gleymt flæði eða tvítalið bakslag ✔
• C) Jafnvægið er talið rétt vegna þess að gervigreindin reiknar það þannig.
• D) Verðmæti útstreymis er stækkað handvirkt til að jafna upp mismuninn

Skýring: Í efnaverkfræði er massi annað hvort varðveittur eða ekki; „það kostar um það bil“ er óviðunandi. Ef inntak = úttaksjöfnu er ekki fullnægt er oft gleymt hliðarflæði, tvítalin endurvinnsla eða villa. Ekki er hægt að þróa hönnunina fyrr en þetta er fundið og leiðrétt; annars mun villan breiðast út í allar síðari stærðir.

4. Ferlishermi 'samræmdist og gaf snyrtilega mynd'. Hver er mikilvægasta áhættan fyrir nákvæmni þessarar niðurstöðu?

• A) Taflan er ekki sett fram í lit og læsilegu formi
• B) Uppgerðin rennur of hratt saman
• C) Hitaaflfræðilegt líkan sem hentar ekki eiginleikum kerfisins gefur sannfærandi en rangar niðurstöður ✔
• D) Of margir aukastafir í flæðitöflunni

Skýring: Flestar hermivillurnar eru ekki tölulegar, heldur vegna vals á varmafræðilegu líkani (eiginleikapakka). Með því að nota tilvalið líkan á skautblöndu getur það gert azeotrope ósýnilegan og útkoman verður slétt en algjörlega röng. Samræmd og falleg mynd að því er virðist, reynist ekki sönn; líkanapassa og tilraunasamanburðar er krafist.

5. Hvernig á maður að bregðast við þegar gervigreind gefur hvarfhraðafasta (k) gildi fyrir reactor hönnun?

• A) Gildið ætti að ákvarða með tilraunum; AI spá er ekki notuð sem hönnunargögn ✔
• B) Gildi er sett beint í hönnun þar sem gervigreind skilar af öryggi
• C) Gert er ráð fyrir að gildið sé það sama í öllum viðbrögðum óháð aðstæðum
• D) Gildið nægir þegar svipaður fjöldi birtist á netinu

Lýsing: Hraðafastar, virkjunarorka og vélbúnaður ákvarðast aðeins með tilraunum; Sama hvarfið hegðar sér mjög mismunandi með mismunandi hvata, óhreinindi eða fasa. K-gildi sem AI skilar getur verið upphafleg ágiskun, en það eru ekki hönnunargögn. Sérhver hreyfibreyta sem fer inn í grunn hönnunarinnar verður að byggjast á reynsluheimildum.

6. Hvernig ætti að ákvarða varma útverma hvarfs (hvarfþarms) fyrir örugga kælihönnun?

• A) Upphafsgildið gefið af gervigreind er beint inn í kælihönnunina
• B) Gildið er mælt með hitaeiningum og metið af viðurkenndum verkfræðingi, það er ekki byggt á gervigreindarspá ✔
• C) Ef hvarfið er útvarma getur hitaálagið vanrækt
• D) Gildi svipaðs efnasambands er notað óháð ástandi

Lýsing: Viðbragðshiti og hitauppstreymi er hættulegt öryggisatriði. Gildi sem gervigreindin skilar gæti tilheyrt öðru leysi/ástandi og gæti gefið verulega ranga mynd af raunverulegu hitaálagi. Þessi gildi eru mæld með hitaeiningum (t.d. hvarfhitamælingu) og metin af þar til bærum verkfræðingi; Það er aldrei byggt á gervigreindarspá eingöngu.

7. Gervigreind gaf gufuþrýsting leysis með öruggri tölu. Hvað ætti að gera áður en þetta gildi er notað?

• A) Þar sem gildið er gefið reiprennandi er það sett beint í dálkinn
• B) Aðeins einingunni er stjórnað, það er engin þörf á að skoða upprunann
• C) Gildið er staðfest með áreiðanlegum gagnagrunni (DIPPR/NIST) eða tilraun, með skilyrðinu ✔
• D) Ef gildið er borið saman við gildi annars leysis og er svipað er það samþykkt.

Skýring: Eiginleikamat er tölulegur grunnur hönnunar og villa hér breiðist út í gegnum útreikninginn. AI gildið getur tilheyrt öðru efnasambandi, verið í röngu ástandi eða verið ofskynjanir. Þess vegna er hver mikilvægur eiginleiki staðfestur með áreiðanlegum gagnagrunni (DIPPR/NIST) eða tilraun; Einnig verður að biðja um ásamt gildisskilyrði (hitastig, þrýstingur, fasi).

8. Hvað gerist ef gervigreind er sagt að „lágmarka orku“ í hagræðingu ferlis en engin takmörkun á hreinleika vöru er gefin?

• A) Niðurstaðan er alltaf örugg og vönduð, takmarkanir eru óþarfar
• B) Villandi hagkvæmni gæti komið fram sem lítur vel út á pappír en fórnar hreinleika eða öryggi ✔
• C) Gervigreind klárar þær skorður sem vantar sjálfkrafa og rétt
• D) Hagræðing virkar ekki og gefur engum árangri

Skýring: Óþvinguð hagræðing er villandi: gervigreind eða reiknirit gæti gefið til kynna „ákjósanlegt“ sem á pappír dregur úr orku en í raun minnkar hreinleiki vörunnar undir forskrift eða fer yfir öryggismörk. Þess vegna verður að skilgreina að fullu allar gæða- og öryggisþvinganir, sem og tilgangs- og ákvörðunarbreytur; Einnig þarf að prófa stærðfræðilega ákjósanlegan árangur með tilliti til öryggis og hagkvæmni.

9. Hvað er það fyrsta sem þarf að gera þegar gervigreind flaggar skyndilega stökk í skynjaragögnum sem „mögulegan leka“?

• A) Stöðva ferlið strax, vegna þess að gervigreindin sagði að það leki
• B) Hunsa merkið vegna þess að skynjarar eru alltaf rangir
• C) Athugaðu með áreiðanleikasíu hvort merkið sé raunverulegur ferliatburður eða skynjari/mælingarvandamál ✔
• D) Eyða stökkinu sjálfkrafa úr gagnasafninu

Skýring: Skynjarar geta legið: kvörðun losnar, tenging losnar, línan tekur upp hávaða. Fráviksmerki verður fyrst að sía fyrir áreiðanleika gagna: er það í samræmi við nálæga/tengda skynjara, er það líkamlega mögulegt, passar það við viðhalds-/kvörðunarskrána? Aðeins eftir að þetta hefur verið samþykkt er það rannsakað sem raunverulegur ferliatburður; Annars getur inngrip átt sér stað á grundvelli falskrar viðvörunar.

10. Hvert er viðeigandi og öruggt hlutverk gervigreindar í HAZOP rannsókninni?

• A) Framleiða fullkomið HAZOP með því að þekkja ferlið og gera fundinn óþarfa
• B) Að flokka áhættustig nákvæmlega og taka varúðarákvarðanir
• C) Að útvega vinnuramma, leiðbeinandi orðaspurningar og útbúa fundargerðir; Látið sérfræðingateymi um raunverulegt hættumat ✔
• D) Að fara á fundarstað og undirrita endanlega áhættuskýrslu ein og sér

Lýsing: HAZOP er sérfræðistarfsemi sem er mikilvæg fyrir öryggismál. Gervigreind; Hnútur/færibreytur/leiðarorð fylkisrammi flýtir fyrir skjölum, svo sem dæmigerðri atburðarásinnkallun og mínútubreytingum. En hvaða frávik er raunveruleg hætta, alvarleiki afleiðinganna og fullnægjandi varúðarráðstöfun tilheyra þverfaglegu sérfræðingateymi; Þar að auki finnast ferlisértækar hættur ekki í gervigreind. Gervigreindaruppkastið er inntak, ekki úttak, á sérfræðingafundinum.

11. Hver er mikilvægasti fyrirvarinn fyrir gervigreind í stöðlum og eftirlitsrannsóknum?

• A) Gervigreind er aldrei röng í staðlaðri þekkingu sinni, það er hægt að nota hana beint
• B) Hvert efnisnúmer, viðmiðunargildi og dagsetningu verður að sannreyna frá frum- og núverandi uppsprettu; AI veitir aðeins stefnu ✔
• C) Uppfærsluathugun er óþörf vegna þess að staðlarnir breytast aldrei.
• D) Að búa til gátlista eitt og sér sannar að farið sé að

Skýring: Staðlarannsóknir eru eitt af þeim sviðum þar sem gervigreind ofskynjanir geta verið hrikalegastar: vörunúmer sem ekki er til, rangt brot eða úrelt krafa er hægt að setja fram á mjög sannfærandi hátt. Fylgni þýðir bæði öryggi og lög. Því er ekki hægt að nota hvert efni, viðmiðunargildi og dagsetningu án staðfestingar frá frum- og núverandi uppruna; AI veitir aðeins stefnu.

12. Python verkfræðiútreikningskóði skrifaður af gervigreind virkaði án villna og framleiddi tölu. Hvað þyrfti til að treysta þessari niðurstöðu?

• A) Villulaus aðgerð kóðans sannar að niðurstaðan er rétt.
• B) Kóðann ætti að prófa með þekktri niðurstöðu, einingar- og brúntilvik ætti að prófa og öryggisútreikningurinn ætti einnig að vera staðfestur af yfirvaldi ✔
• C) Ef kóðinn er langur og lítur flókinn út getur hann talist réttur
• D) Þar sem það er skrifað af gervigreind er engin þörf á frekari sannprófun

Skýring: 'Virka' og 'rétt' eru ólíkir hlutir: kóðinn gæti keyrt án villna og framkallað ranga tölu (einingarugl, táknvilla, vísitölubreyting). Þess vegna ætti að prófa hvern kóða á prófunartilviki (greiningarsýni, handreikningur, viðmiðunargögn) þar sem svarið er þekkt sjálfstætt; einingar og brúnhulstur verða að athuga; Viðurkenndur verkfræðingur skal einnig staðfesta útreikninga sem eru mikilvægir fyrir öryggi.

13. Hver er áhrifaríkasta leiðin til að vernda allt til enda gervigreindarvirkt efnaverkfræðiferli fyrir því að ein villa leki inn í hönnunar- eða öryggisskjalið?

• A) Framselja allt ferlið í eitt gervigreindarverkfæri og skoða lokin
• B) Að fjarlægja millisannprófanir fyrir hraða og athuga aðeins á lokastigi
• C) Setja mannlegt sannprófunarhlið og einnar setningar passa skilyrði á hverju stigi (lagskipt sannprófun) ✔
• D) Hver vélstjóri getur notað eigin farartæki að vild án þess að halda skrár.

Lýsing: Mannlegt sannprófunarhlið og skýrt umbreytingarástand (er það stöðugt, er það tengt upprunanum, er kóðinn prófaður, er samþykki sérfræðinga fengið) eru sett á hverju stigi (hönnun, greining, stærð, öryggi, rekstur). Þú getur ekki farið í gegnum eina dyr án þess að fara í gegnum aðra; Þessi lagskiptu uppbygging kemur í veg fyrir að ein gervigreind villa leki inn í síðari stig.

14. Hver af eftirfarandi forritum gerir notkun gervigreindar á stofnun örugga með tilliti til stjórnunar?

• A) Sérhver notandi getur frjálslega slegið inn einkagögn í hvaða opnu verkfæri að eigin vali.
• B) Stjórnaramma sem inniheldur samþykktan ökutækjalista, gagnaflokkun, rekjanleika, þjálfun og áframhaldandi sannprófun ✔
• C) Notkun gervigreindar er alls ekki skráð
• D) Notkun eitt, ósamþykkt verkfæri fyrir hvert starf, þar á meðal öryggis mikilvæga reikninga

Skýring: Aðferðin „Allir ættu að gefa ökutækinu sem þeir vilja fá gögnin sem þeir vilja“ hefur í för með sér hættu á bæði einkaupplýsingaleka og öryggisvillum. Traust stjórnunarrammi; Það felur í sér viðurkennda ökutækja- og tegundalista, gagnaflokkun (hvaða ökutæki getur skráð skráð/persónuleg gögn), skráningu og rekjanleika (endurskoðunarslóð), notendaþjálfun og stöðuga sannprófun. Þetta er mikilvægur innviði sem takmarkar áhættu.