Potek dela od konca do konca, upravljanje ladijskega podjetja, kibernetska varnost in odgovorna uporaba — Umetna inteligenca v pomorstvu (krovni in ladijski stroji)

Dobički:

Sposobnost dosledne uporabe umetne inteligence na vsaki stopnji kampanje, od začetka do konca, s človeškimi vrati za preverjanje in zapisi odločitev
Sposobnost vzpostavitve okvira upravljanja ladijskega podjetja, vključno s seznamom odobrenih vozil, klasifikacijo podatkov, integracijo ISM, kibernetsko varnostjo (izolacija kritičnega sistema, zaupnost podatkov, redundanca)
Sposobnost vključitve človeške odgovornosti, preglednosti, izogibanja pretiranim zahtevkom, prednostne naloge varnosti in okolja ter načel zaupnosti v potek dela

Prejšnje enote so posamezno obdelovale umetno inteligenco na področju poti, goriva, vremena, dokumentacije, tovora, spremljanja strojev, diagnostike, zakonodaje in podpore pri odločanju na mostu. Ta enota združuje vse: kako dosledno, nadzorovano in varno postaviti AI od začetka do konca kampanje. Kako ladji in družbi to uspeva? In kako so ta orodja sama (podatki, povezljivost, kibernetska varnost) zaščitena? Cilj je vzpostaviti okvir, ki zajema vrednost umetne inteligence v pomorstvu, pri tem pa nikoli ne pozabiti na njeno varnostno kritično naravo.

Potek dela od konca do konca: vrata za človeško preverjanje

Zamislite si ekspedicijo kot verigo; Na vsak obroč postavite človeška vrata za preverjanje (točka, na kateri človek potrdi, da je pogoj izpolnjen, preden gre mimo):

Načrtovanje potovanja: AI ustvari alternativno pot/gorivo → Izhod: kapitan potrdi in potrdi UKC/no-go in omejitve v ECDIS.
Spremljanje vremena: povzetki napovedi z umetno inteligenco → Vrata: več virov + uradna potrditev opozorila, odločitev o zavetju je v pristojnosti kapitana.
Tovor: priporočilo za shranjevanje YZ → Vrata: računalnik za nakladanje z odobritvijo stabilnosti/trdnosti, odobritvijo glavnega častnika.
Stroj: znak anomalije AI → Vrata: fizično preverjanje, diagnoza in odločitev o vzdrževanju so v pristojnosti glavnega inženirja.
Dokumentacija: Načrti AI → Vrata: preverjanje resničnih podatkov in podpis v človeku.
Zakonodaja: AI usmerja → Vrata: določba je preverjena iz uradnega vira.
Most: AI daje prednost → Vrata: COLREG manever in odločitev o navigaciji je v rokah častnika.

Pravilo: ne da bi šli mimo enih vrat, ne morete naprej do naslednjih. Ta večplastna struktura preprečuje, da bi en hrošč AI ušel v odpravo ali poročilo. Vsaka vrata pustijo zapis: kaj je bilo predlagano, kdo je potrdil, kaj je bilo odločeno.

Namig: vodite kratek "dnevnik odločitev" za vsako uporabo umetne inteligence: katero orodje, kakšen vnos, kaj je rekla umetna inteligenca, kako je bila preverjena, kdo jo je odobril. Pri preiskavi nesreče ali reviziji vas ta zapis ščiti in omogoča stalne izboljšave.

Upravljanje ladijskega podjetja

Orodja AI se ne smejo uporabljati naključno, ampak znotraj okvira:

Seznam odobrenih orodij: Katera orodja AI so odobrena za katera delovna mesta? Občutljivi podatki se ne nalagajo v naključna orodja in javne storitve.
Klasifikacija podatkov: Tovorni manifest, pot, komercialne pogodbe, osebni podatki posadke so občutljivi; Določeno je, kateri podatki gredo kam.
Vloga in avtoriteta: Kdo lahko uporablja AI pri kateri odločitvi, kdo jo odobri? Kapitan in glavni inženir imata jasno zadnjo besedo.
Usposabljanje: posadka mora poznati meje umetne inteligence (halucinacije, dvoumnost, preverjanje); Raje se učijo discipline kot orodja.
Integracija ISM: uporaba umetne inteligence je proceduralno dodana sistemu upravljanja varnosti ladje (ISM); postane revizijsko.
Stalno preverjanje: spremlja se delovanje vozil; Nepravilni predlogi se zabeležijo in orodje ali uporaba se pregleda.

Kibernetska varnost: tarča je privezana ladja

Sodobna ladja je povezan sistem: posodobitve ECDIS, satelitske komunikacije, nadzor na daljavo, storitve AI. Ta povezava je napadalna površina. Pomorske kibernetske varnosti (tudi povezane s smernicami IMO za obvladovanje kibernetskega tveganja na ladjah in ISM) ni mogoče zanemariti:

Izolirajte kritične navigacijske/strojne sisteme: Sistemi, kot je ECDIS, nadzor strojev, so ločeni od interneta in orodij AI.
Zasebnost podatkov: podatki o poti, tovoru in komercialni podatki ne smejo uhajati v nevarne storitve AI; masko, če je potrebno.
Tveganje manipulacije: signal GPS/AIS je lahko lažen; S temi poškodovanimi podatki AI proizvaja napačne predloge. Vhodna varnost je predpogoj za varnost izhoda.
Redundanca: Če se sistem zruši ali pride do kibernetskega incidenta, se ohrani zmožnost tradicionalne navigacije (papirni zemljevid, osnovni postopek).

Pozor: Podatki, ki jih naložite v orodje AI, so morda izven vašega nadzora. Lokacija ladje, podrobnosti o tovoru, podatki o posadki in poslovne skrivnosti; obdelani na odobren, varen in po potrebi prikrit način. Lepljenje občutljivih podatkov v javno storitev "zaradi priročnosti" je resna kršitev varnosti in zasebnosti.

Etična in odgovorna uporaba

Človeška odgovornost: Vsako varnostno kritično odločitev sprejme kompetenten človek; Rezultat AI ni nadomestilo za njegovo odobritev.
Transparentnost: kadar se uporablja AI (zlasti pri poročanju in analizah), je to navedeno pošteno.
Izogibanje pretiranim zahtevam: Nejasna ocena ni predstavljena kot gotovost; Stopnja zaupanja je izražena iskreno.
Prednost okolja in varnosti: komercialni dobiček ni nikoli pred pomorsko varnostjo in varstvom okolja.
Zasebnost: Posadka in komercialni podatki so zaščiteni.

trije mini kovčki

Primer 1 — Sistem vrat zaustavi napako. Na ladji AI predlaga pot za varčevanje s privlačnim gorivom; vendar na "vratih za načrtovanje potovanja" kapitan najde napako v potrditvi ECDIS in zavrne predlog. Večstopenjska vrata preprečujejo, da bi hrošč odšel v morje. Evidenca odločbe dokazuje, da postopek deluje pravilno.

2. primer – Preprečeno je uhajanje podatkov. Častnik bo prilepil tovorni manifest v javno storitev umetne inteligence; politika podjetja (odobreno orodje + maskiranje) to preprečuje. Poslovni podatki so varovani. Nauk: okvir upravljanja preprečuje dobronamerno, a tvegano vedenje.

Primer 3 – Lažni signal GPS. Na območju se pojavi ponarejanje GPS; AI priporoča nepravilen popravek smeri s poškodovanimi podatki o lokaciji. Ekipa potrdi lokacijo z neodvisnimi metodami (radar, oko, križni ležaj), opazi odstopanje in zavrne predlog AI. Nauk: če je vhod poškodovan, je poškodovan tudi izhod; Neodvisno preverjanje in redundanca rešujeta življenja.

Štiri predloge za kopiranje

1) Revizija uporabe AI ob koncu kampanje:

Tokrat sem uporabil AI za: [seznam]. Osnutek tabele zapisov odločitev za vsako: delo, uporabljeno orodje, vnos, izhod umetne inteligence, kako preverjeno, kdo je odobril, rezultat. Označite manjkajoče/nepreverjene.

2) Osnutek politike uporabe AI:

Napišite OSNUTEK postopka "odgovorne uporabe umetne inteligence" za našo ladjo: odobrena orodja, klasifikacija podatkov, kdo odobri katero odločitev, obveznost preverjanja, kibernetska varnost in pravila o zasebnosti. Opomba: ta osnutek bo odobrila ekipa DPA/ISM podjetja.

3) Nadzor maskiranja podatkov:

Preverite občutljive podatke, preden v orodje AI vnesete naslednje besedilo: [besedilo]. Predlagajte lokacijo ladje, podrobnosti o tovoru, osebne podatke, poslovno skrivnost in kako jo lahko prikrijem. Če niste prepričani, recite "ne vnašaj, najprej preveri".

4) Scenarij kibernetske/redundančne vaje:

Ustvari kibernetski incident ali scenarij zrušitve sistema na sistemih mostov/strojev; Napišite oris vaje v 5 korakih in vprašanja za razpravo, ki bodo posadki pomagala pri vadbi prehoda na tradicionalno upravljanje navigacije/motorja.

Šibek poziv/močan poziv

Šibek poziv:

Kako uporabljam AI na ladji?

Zelo splošno; Ni razsežnosti varnosti, podatkov, upravljanja in preverjanja.

Močan poziv:

Vaša vloga: svetovalec za digitalizacijo ladij. Vrsta ladje [x], družba, povezana z upravljanjem flote. Naloga: osnutek celovitega ogrodja za uporabo umetne inteligence pri sledenju poti, gorivu, strojem in dokumentaciji: človeška vrata za preverjanje na vsaki stopnji, odobrena pravila za vozila in podatke, ukrepi kibernetske varnosti, beleženje odločitev. Poudarite, da odločitve, ki so pomembne za varnost, ostajajo ljudje in da umetna inteligenca ni nadomestilo za odobritev. Označite področja, ki so nejasna/zahtevajo odobritev podjetja.

Zahteva po vratih, upravljanju in kibernetski varnosti omogoča, da je izhod uporaben v podjetju.

Okvirna miza od konca do konca

Oder

Prispevek AI

človeška vrata za preverjanje

Načrtovanje odprave

Alternativa poti/goriva

Odobritev kapitana ECDIS

spremljanje vremena

Povzetek napovedi

Več virov + kapitan

tovor

Stack priporočilo

Nalaganje računalnika + 1. častnik

stroj

znak anomalije

Fizična potrditev + glavni inženir

Dokumentacija

osnutek

Pravi podatki + podpis

zakonodaja

preusmeriti

Uradna potrditev vira

most

prednostna naloga

Odločba COLREG, uradnik

Pogoste napake

Obhod vrat za preverjanje. Odstranitev vmesnih potrditev za hitrost bo omogočila uhajanje ene same napake v odpravo.
Ne vodenje evidence odločitev. Če evidence ni, postane obramba in izboljšanje revizije in preiskave težavna.
Posredovanje občutljivih podatkov nevarnemu orodju. Pot, tovor, osebni podatki se obdelujejo z odobritvijo in prikrivanjem.
Brez izolacije kritičnih sistemov. Nadzor ECDIS/stroja je ločen od interneta in orodij AI.
Zanemarjanje odvečnosti. V sistemskem/kibernetskem incidentu je treba vzdrževati običajne navigacijske zmogljivosti.
Postavljanje komercialnega dobička pred varnost. Varnost in okolje sta vedno na prvem mestu.

Če povzamem

Ključ do uporabe umetne inteligence od konca do konca v pomorstvu je večplastno ogrodje, ki na vsaki stopnji postavi vrata za človeško preverjanje in zapis odločitve. Ta okvir dopolnjujejo upravljanje ladijskega podjetja (odobreni instrument, klasifikacija podatkov, vloga, usposabljanje, integracija ISM), kibernetska varnost (izolacija kritičnih sistemov, zaupnost podatkov, varnost vnosa, redundanca) in načela odgovorne uporabe (človeška odgovornost, preglednost, izogibanje pretirani trditvi, prednostna naloga varnosti, zaupnost). AI ustvarja resnično vrednost pri pošiljanju; Toda odločitve, ki so kritične za varnost, so vedno v lasti kompetentnega človeka in rezultati umetne inteligence ne nadomestijo te odobritve.

Aplikacijska naloga

Razmislite o ekspediciji od začetka do konca za svojo ladjo. Za vsako fazo (načrtovanje, zrak, tovor, stroji, dokumentacija, ureditev, most) izpolnite enovrstično tabelo »kaj počne umetna inteligenca / kaj so človeška vrata / kako preverim / kdo odobri«. Nato dodajte ukrep »maskiranje podatkov« in ukrep »kibernetska/redundanca«. Na koncu ustvarite predlogo zapisnika odločitev, ki ga boste tokrat vodili.

kontrolni seznam

[ ] Na vsako stopnjo sem postavil človeška vrata za preverjanje.
[ ] Vodil sem evidenco odločitev za vsako uporabo AI.
[ ] Upošteval sem odobrena pravila za razvrščanje orodij in podatkov; Zaščitil/zamaskiral sem občutljive podatke.
[ ] Izoliral sem kritične navigacijske/strojne sisteme in ohranil zmožnost redundance.
[ ] Zagotovil sem, da odločitve, ki so kritične za varnost, sprejema kompetenten človek in niso nadomestilo za odobritev AI.

Modulni izpit

1. Kaj od naslednjega je najbolj natančno določanje položaja za umetno inteligenco v pomorstvu?

A) Umetna inteligenca je orodje za podporo odločanju; Odgovornost za odločitve, ki so pomembne za varnost, kot so potrditev poti, manevriranje in odločitve o strojih, ostaja v rokah kapitana in glavnega inženirja ✔
B) Ker je umetna inteligenca na morju zanesljivejša od človeka, je treba odločitve o poti in manevrih prepustiti njej.
C) Umetna inteligenca deluje le pri povzemanju besedila, nima nobene zveze z navigacijo in strojnim delom
D) Umetna inteligenca lahko vnese pot v ECDIS in jo izvede brez človeške odobritve

Opis: Pomorstvo je varnostno kritično območje; Umetna inteligenca je orodje za podporo odločanju, ki prihrani čas pri poti, gorivu, vremenu, dokumentaciji, spremljanju strojev in zakonodaji. Vendar pa sta kapitan in glavni strojnik tista, ki sta pravno odgovorna za pomorsko varnost, okolje in varnost lastnine; manevriranje, ustavljanje stroja in odločitve v sili so človeški, rezultati umetne inteligence pa niso nadomestilo za odobritev pristojnih strokovnjakov.

2. Kaj je najbolj kritičen korak, ki ga je treba narediti, preden izvedete alternativno pot, ki jo predlaga umetna inteligenca?

A) Preverite pot glede na prepovedana območja v ECDIS in UKC in jo odobri kapitan ✔
B) Neposredno izvajanje, brez dodatnih preverjanj, saj to izračuna umetna inteligenca
C) Prepričajte se, da izberete samo najkrajšo razdaljo
D) Preklop na tistega, ki prihrani največ goriva, ne da bi sploh preveril pot

Opis: Pot, ki jo je ustvarila umetna inteligenca, je osnutek in ni bila preverjena na uradnem zemljevidu. Nobena pot se ne izvaja brez preverjanja ECDIS za prepovedana območja in oddaljenost pod kobilico (UKC) ob plimi. Prihranek časa/goriva nikoli ne more odtehtati te varnostne potrditve.

3. Kateri je najnatančnejši pristop, ko umetna inteligenca predvideva porabo za optimizacijo goriva?

A) Predpostavljamo splošni model ladje in zahtevamo najnižjo porabo goriva brez podajanja omejitev
B) Osnova ocene na dejanski krivulji zmogljivosti ladje in navedba komercialno-pravnih omejitev ✔
C) Uporaba prve številke, ki jo je podala umetna inteligenca, ne da bi jo preverili
D) Dovolj je samo zmanjšanje hitrosti; čarter in pristaniško okno nista pomembna

Pojasnilo: Napoved, ustvarjena s predpostavko splošnega 'modela ladje', je lahko resno prizadeta na vaši ladji. Ocena mora temeljiti na krivulji dejanske zmogljivosti ladje (podatki o preskusih na morju in servisiranju); Poleg tega je treba navesti komercialno-pravne omejitve, kot sta najmanjša hitrost čarterja in pristaniško okno. Spremembe trima/hitrosti se uporabljajo tudi s človeško odobritvijo na meji stabilnosti in zdravja stroja.

4. Kaj lahko rečemo o vrednosti CII (indikator intenzivnosti ogljika), ki jo izračuna umetna inteligenca?

A) Lahko se deklarira neposredno kot uradno poročilo CII
B) Je samo napoved; Uradno poročilo je izdelano po odobreni metodi in mora biti potrjeno s posodobljenim virom ✔
C) Vedno drži, ker je izračun umetne inteligence boljši od človeškega
D) Potrditev ni potrebna, ker se pragovi emisij niso nikoli spremenili

Pojasnilo: Številke emisij, kot je CII, so uradni rezultati, pridobljeni z odobrenimi metodami in preverjenimi podatki. Vrednost, ki jo daje umetna inteligenca, je le napoved; lahko uporabi stari koeficient ali povzroči halucinacije. Ni ga mogoče uporabiti kot uradno poročilo in mora biti potrjeno s posodobljenim uradnim virom.

5. Zakaj je umetna inteligenca najbolj dragocena pri ocenjevanju vremena in stanja morja?

A) Temelji na enem samem modelu in daje natančno višino valov
B) Skrivanje negotovosti in predstavljanje vsake napovedi kot gotovosti
C) Primerjava različnih modelov in prikazovanje ločevanja in negotovosti ✔
D) Nadomešča uradna pomorska opozorila in jih naredi nepotrebne.

Pojasnilo: Vremenska napoved je verjetnostna in najpomembnejša velikost je negotovost. Umetna inteligenca je najbolj dragocena, ko primerja različne modele in naredi razlike (in s tem negotovost) vidne; To zagotavlja načrtovanje na varni strani. Nevarno je skrivati negotovost in predstavljati osrednjo napoved kot gotovost.

6. Kakšno je stalno načelo pri pripravi vsebine z umetno inteligenco za dnevnik križarjenja ali uradno poročilo o incidentu?

A) Umetna inteligenca dopolni nepopolno zapomnjene podrobnosti na razumen način
B) Zabeleži se samo dejansko opazovanje; Umetna inteligenca ne more nadomestiti podatkov ali podrobnosti, manjkajoča mesta so označena z ✔
C) Če je besedilo tekoče, so številke in dogodki, ki jih je dodala umetna inteligenca, sprejeti brez preverjanja.
D) Umetna inteligenca lahko oceni informacije o času in lokaciji, opazovanje ni potrebno

Pojasnilo: Uradne evidence so pravni dokazi in morajo po vsebini popolnoma ustrezati resnici. Umetna inteligenca ne more izdelati informacij o času, lokaciji, hitrosti in dogodkih; Preprosto prevede dejansko opažanje, ki ga podate, v ustrezen stavek. Manjkajoče mesto ni zapolnjeno z 'razumno fikcijo', temveč je označeno; Za točnost in podpis je odgovoren človek. V nasprotnem primeru obstaja nevarnost ponarejanja dokumentov.

7. Kako naj se določi stabilnost ladje (GM) in vzdolžna trdnost v nakladalnem načrtu?

A) Zanašanje na grobo GM in trim vrednost, ki jo poda umetna inteligenca
B) Izračunano na odobrenem nakladalnem računalniku in odobreno s strani glavnega častnika/kapitana ✔
C) Ocenjeno na podlagi izkušenj, brez uporabe orodij
D) Pogled samo na skupno težo, brez upoštevanja porazdelitve teže

Opis: stabilnost in trdnost sta ključni za varnost; ena napaka bi lahko prevrnila ladjo ali poškodovala trup. Ti izračuni prihajajo samo iz odobrenega nakladalnega računalnika in jih odobri glavni častnik/kapitan. Približna vrednost GM, ki jo poda AI, ni uradni izračun; na primer, lahko zgreši učinek proste tekočine in lažno naredi ladjo videti "varno".

8. Kakšna bi morala biti vloga umetne inteligence pri pravilih ločevanja in zlaganja nevarnega tovora (IMDG)?

A) Umetna inteligenca poda natančno pravilo ločevanja in načrt zlaganja se neposredno uporabi
B) Pravila diskriminacije so določena s splošnim znanjem o umetni inteligenci, formalna koda ni potrebna
C) Umetna inteligenca vodi, kateri razdelek pogledati; natančno pravilo ločevanja/zlaganja potrjeno iz uradnega kodeksa IMDG ✔
D) Za nevarna tovora ni potrebno pravilo ločevanja, vse se lahko zloži skupaj

Pojasnilo: Če so nekatere nevarne snovi postavljene ena poleg druge, lahko reagirajo in povzročijo požar ali eksplozijo. Umetna inteligenca vas lahko opomni, katero številko ZN in razdelek IMDG pogledati; vendar mora biti natančno pravilo ločevanja/zlaganja potrjeno v uradnem kodeksu IMDG. AI lahko poda zastarelo ali nepravilno pravilo, zato končno odločitev določi uradna koda.

9. Kako ravnati, ko AI označi anomalijo v podatkih senzorjev stroja (na primer odstopanje v temperaturi izpušnih plinov v jeklenki)?

A) Signal se šteje za dokončno napako in oprema se takoj zaustavi.
B) Signal je hipoteza; Ocenjuje se v kontekstu, fizično preverja in odločitev o diagnozi-vzdrževanju ostane pri glavnem inženirju ✔
C) Ni potrebe po dodatnem preverjanju, ker to pravi umetna inteligenca
D) Če umetna inteligenca ne pove ničesar, se domneva, da je oprema popolnoma zdrava

Pojasnilo: Umetna inteligenca pravi, da je anomalija/motnja v delovanju, je hipoteza in ne diagnoza. Odstopanje se najprej ovrednoti v kontekstu (ali je to lahko obremenitev, zrak, sprememba hitrosti), nato se fizično preveri (odčitek merilnika, pregled opreme) in odločitev o diagnozi-vzdrževanju ostane pri glavnem inženirju. Poleg tega tišina umetne inteligence ni zagotovilo, da "ni problema".

10. Kako uporabiti umetno inteligenco, ko se v strojnici hkrati oglasi veliko alarmov (alarm poplav) in kakšna je njena meja?

A) Umetna inteligenca ugotovi glavni vzrok in samodejno sprejme odločitev o zaustavitvi stroja
B) Umetna inteligenca ustvari hipotezo o vzroku; hipoteza je fizično preverjena in odločitev o ustavitvi/posredovanju ostane pri inženirju ✔
C) Če je eden od alarmov utišan, bodo minili tudi drugi, preverjanje ni potrebno.
D) Umetna inteligenca je razvrstitev temeljnega vzroka točna, tudi če so časovni žigi napačni

Opis: Napaka pogosto sproži verigo sekundarnih alarmov; Glavni vzrok je en sam. AI lahko razvrsti po dnevniku alarmov s časovnim žigom in ustvari hipotezo o glavnem vzroku. Vendar je treba to hipotezo preveriti s fizičnimi indikatorji, odločitve, kot je zaustavitev stroja ali onemogočanje varnostnega potovanja, pa pripadajo človeškemu inženirju; ni mogoče avtomatizirati.

11. Kako naj se uporablja AI, ko se v zakonodaji, kot je SOLAS, zahteva natančna številka artikla ali številčni prag?

A) Številka postavke in prag, ki ju poda umetna inteligenca, sta zapisana neposredno v poročilo.
B) Vodniki z umetno inteligenco; Natančna snov in mejna vrednost sta prebrana in potrjena iz trenutnega uradnega vira ✔
C) Ker se pravila ne spreminjajo, je znanje umetne inteligence vedno posodobljeno.
D) Trditev, da je umetna inteligenca tako rekla, je veljavna osnova pri reviziji

Opis: Umetna inteligenca lahko prepričljivo izmisli številko postavke, datum ali mejno vrednost, ki dejansko ne obstaja (halucinira), pravila pa se nenehno posodabljajo. Zato se umetna inteligenca uporablja samo kot vodilo, katero pogodbo/kodo in temo je treba pogledati; Sodba se vedno bere iz trenutnega uradnega vira. V reviziji "umetna inteligenca tako trdi" nima veljave.

12. Kakšna je vloga umetne inteligence/avtomatizacije pri odločitvi o manevru za izogibanje trčenju na mostu (COLREG)?

A) Sistem izda ukaz za manever in policist ga izvrši
B) Sistem daje prednost ciljem in usmerja pozornost; Odločitev o manevru pripada častniku in kapitanu v okviru COLREG ✔
C) Dovolj je, da se zanesete na AIS; Radarska in vizualna potrditev nista potrebni
D) Policist lahko zapusti nadzor, ker avtomatika deluje zanesljivo

Opis: Sodobni sistemi lahko izračunajo CPA/TCPA in določijo prednost ciljev; To je dragoceno pri usmerjanju policistove pozornosti. Odločitev o manevriranju – koliko stopinj, kdaj, v katero smer – pa je v okviru COLREG in dobre pomorske prakse v rokah častnika straže in kapitana. Tudi če sistem reče 'varno mimo', je za trčenje odgovoren policist, ki je izvedel ali ni izvedel manever.

13. Zakaj je 'avtomatizirana samozadovoljnost' (pretirano zanašanje na avtomatizacijo) nevarna na mostu?

A) Ni nevarno; Če je sistem zanesljiv, ni treba vizualno gledati.
B) Zmanjšuje človeško pozornost in ustvarja odvisnost od enega vira; Manjkajoči podatki, kot je čoln brez AIS, so lahko zgrešeni ✔
C) Težava je samo zato, ker poveča porabo goriva.
D) Videti le na starih ladjah, na sodobnih mostovih ni tveganja

Pojasnilo: Ker sistemi delujejo zanesljivo, lahko človeška pozornost oslabi in nadzor se lahko opusti. ker je majhen čoln brez AIS viden le radarju in očem; Sistem deluje z nepopolnimi podatki. Zato bi morali radar, AIS, ECDIS in oko navzkrižno potrjevati drug drugega, in ko so viri ločeni, je treba za osnovo vzeti najnevarnejšo interpretacijo.

14. Kakšno načelo velja pred vnosom podatkov o lokaciji ladje, tovornem manifestu ali posadki v orodje AI?

A) Občutljive podatke je mogoče zaradi hitrosti prilepiti neposredno v javno storitev
B) Klasifikacija podatkov je nepotrebna; V poljubno vozilo je mogoče vnesti kakršnekoli podatke
C) Občutljivi podatki se obdelujejo le v odobrenih, varnih orodjih in po potrebi zamaskirajo; kritični sistemi so izolirani ✔
D) Podatki o posadki in komercialni podatki niso občutljivi in jih ni treba varovati

Pojasnilo: podatki, naloženi v orodje AI, lahko uidejo nadzoru. Pot, podatki o tovoru, komercialne pogodbe in osebni podatki posadke so občutljivi; Obdelovati ga je treba samo v odobrenih, varnih vozilih in po potrebi maskirati. Lepljenje občutljivih podatkov v javno storitev 'zaradi priročnosti' je resna kršitev varnosti in zasebnosti. Poleg tega so kritični navigacijski/strojni sistemi izolirani.

15. Kateri je najučinkovitejši način za dosledno in varno uporabo AI od začetka do konca kampanje?

A) Vzpostavite večplastni okvir, ki na vsaki stopnji postavi vrata za človeško preverjanje in zapis odločitev ✔
B) Prenos vseh odločitev o odpravah na eno samo orodje AI in ogled konca
C) Odstranite vmesna preverjanja hitrosti in preverite samo ob prihodu
D) Vsak uradnik lahko prosto uporablja svoje vozilo brez vodenja evidence odločb.

Opis: potovanje je mišljeno kot veriga, s človeškimi verifikacijskimi vrati in prehodnimi pogoji, postavljenimi na vsako stopnjo (načrtovanje, zrak, tovor, stroji, dokumentacija, zakonodaja, most); Ne morete skozi ena vrata, ne da bi šli skozi druga. Vsaka vrata pustijo zapis odločitve. Ta večplastna struktura preprečuje, da bi posamezna napaka umetne inteligence ušla v ekspedicijo ali poročilo, in zagotavlja obrambnost pri reviziji.