Tok rada od kraja do kraja, upravljanje brodskom kompanijom, sajber sigurnost i odgovorno korištenje

Dobici:

• Sposobnost dosljedne primjene AI u svakoj fazi kampanje, od početka do kraja, s ljudskim kapijama za verifikaciju i zapisima odluka
• Sposobnost uspostavljanja okvira upravljanja brodskom kompanijom uključujući odobrenu listu vozila, klasifikaciju podataka, ISM integraciju, sajber sigurnost (kritična izolacija sistema, povjerljivost podataka, redundantnost)
• Sposobnost ugrađivanja ljudske odgovornosti, transparentnosti, izbjegavanja prekomjernih potraživanja, prioriteta sigurnosti i okoliša i principa povjerljivosti u radni tok

Prethodne jedinice su obrađivale AI pojedinačno u pogledu rute, goriva, vremena, dokumentacije, tereta, praćenja mašina, dijagnostike, zakonodavstva i podrške odlučivanju o mostu. Ova jedinica kombinuje sve: kako pozicionirati AI dosljedno, kontrolirano i sigurno od početka do kraja kampanje. Kako brod i kompanija to uspijevaju? A kako su sami ovi alati (podaci, povezanost, sajber sigurnost) zaštićeni? Cilj je uspostaviti okvir koji će obuhvatiti vrijednost AI u pomorstvu, a da se pritom ne zaboravlja njena priroda kritična za sigurnost.

Tok posla od kraja do kraja: kapije za verifikaciju ljudi

Zamislite ekspediciju kao lanac; Stavite kapiju za ljudsku verifikaciju (tačka u kojoj čovjek potvrđuje da je uvjet ispunjen prije prolaska) na svaki prsten:

1. Planiranje putovanja: AI generiše alternativu rute/goriva → Kapija: kapetan potvrđuje i potvrđuje UKC/ne-go i ograničenja u ECDIS-u.
2. Praćenje vremena: AI sažeci prognoze → Kapija: više izvora + službena potvrda upozorenja, odluka o skloništu je na kapetanu.
3. Teret: YZ preporuka za odlaganje → Vrata: kompjuter za punjenje sa odobrenjem stabilnosti/snage, odobrenjem glavnog službenika.
4. Mašina: AI znak anomalije → Vrata: fizička verifikacija, dijagnoza i odluka o održavanju je na glavnom inženjeru.
5. Dokumentacija: AI nacrti → Gate: stvarna verifikacija podataka i potpis na ljudskom.
6. Zakonodavstvo: AI usmjerava → Kapija: odredba je provjerena iz zvaničnog izvora.
7. Most: AI daje prioritet → Kapija: COLREG manevar i odluka o navigaciji su u rukama oficira.

Pravilo: bez prolaska kroz jedna vrata, ne možete preći na sledeća. Ova slojevita struktura sprječava da jedan AI bug procuri u ekspediciju ili izvještaj. Svaka vrata ostavljaju zapis: šta je predloženo, ko je to potvrdio, šta je odlučeno.

Savjet: Vodite kratku “dnevnicu odluka” za svaku upotrebu AI: koji alat, koji unos, šta je AI rekao, kako je verifikovan, ko ga je odobrio. U istrazi nesreće ili reviziji, ovaj zapis vas štiti i omogućava kontinuirano poboljšanje.

Upravljanje brodskom kompanijom

AI alati ne bi trebalo da se koriste nasumično, već unutar okvira:

• Lista odobrenih alata: Koji AI alati su odobreni za koje poslove? Osjetljivi podaci se ne učitavaju na nasumične alate i javne usluge.
• Klasifikacija podataka: teretni manifest, ruta, komercijalni ugovori, lični podaci posade su osjetljivi; Definirano je koji podaci gdje idu.
• Uloga i autoritet: Ko može koristiti AI u kojoj odluci, ko je odobrava? Kapetan i glavni inženjer imaju jasnu posljednju riječ.
• Obuka: Posada mora poznavati granice AI (halucinacije, dvosmislenost, verifikacija); Više se uči disciplini nego alatima.
• Integracija ISM-a: Korištenje AI je proceduralno dodato u sistem upravljanja sigurnošću broda (ISM); postaje podložna reviziji.
• Kontinuirana verifikacija: Performanse vozila se prate; Pogrešni prijedlozi se snimaju i alat ili upotreba se revidiraju.

Cyber ​​sigurnost: privezani brod je meta

Moderni brod je povezan sistem: ažuriranja ECDIS-a, satelitske komunikacije, daljinski nadzor, AI usluge. Ova veza je površina napada. Pomorska kibernetička sigurnost (također povezana sa IMO-ovim smjernicama za upravljanje sajber rizikom na brodu i ISM-om) ne može se zanemariti:

• Izolujte kritične navigacione/mašinske sisteme: Sistemi kao što su ECDIS, kontrola mašina drže se odvojeno od interneta i AI alata.
• Privatnost podataka: Podaci o rutama, teretu i komercijalnim podacima ne smiju procuriti u nesigurne usluge umjetne inteligencije; maska ​​ako je potrebno.
• Rizik od manipulacije: GPS/AIS signal može biti lažan; Sa ovim oštećenim podacima, AI proizvodi pogrešne prijedloge. Sigurnost ulaza je preduvjet za sigurnost izlaza.
• Redundantnost: Ako se sistem sruši ili dođe do cyber incidenta, tradicionalna navigacija (papirna karta, osnovna procedura) je očuvana.

Oprez: Svi podaci koje učitate u AI alat mogu biti van vaše kontrole. Lokacija broda, detalji o teretu, podaci o posadi i poslovne tajne; obrađene na odobren, siguran i, ako je potrebno, maskiran način. Lijepljenje osjetljivih podataka na javni servis "radi praktičnosti" predstavlja ozbiljno kršenje sigurnosti i privatnosti.

Etična i odgovorna upotreba

• Ljudska odgovornost: svaku odluku kritičnu za sigurnost donosi kompetentan čovjek; Izlaz AI nije zamjena za njegovo odobrenje.
• Transparentnost: Kada se koristi AI (posebno u izvještavanju i analizi) to se kaže iskreno.
• Izbjegavanje pretjeranih zahtjeva: Nejasna procjena se ne predstavlja kao sigurnost; Nivo povjerenja se izražava iskreno.
• Prioritet zaštite okoliša i sigurnosti: Komercijalna dobit nikada nije prije pomorske sigurnosti i zaštite okoliša.
• Privatnost: Posada i komercijalni podaci su zaštićeni.

tri mini kofera

Slučaj 1 — Sistem vrata zaustavlja grešku. Na brodu, AI predlaže put za uštedu atraktivnog goriva; ali na "kapijama za planiranje putovanja" kapetan nalazi nedostatak u ECDIS potvrdi i odbija prijedlog. Višeslojna vrata sprječavaju bubu da prođe u more. Odluka bilježi da proces radi ispravno.

Slučaj 2 — Spriječeno je curenje podataka. Službenik se sprema da zalijepi teretni manifest u javni AI servis; politika kompanije (odobreni alat + maskiranje) to sprečava. Poslovni podaci su zaštićeni. Pouka: okvir upravljanja sprječava dobronamjerno, ali rizično ponašanje.

Slučaj 3 — Lažni GPS signal. GPS lažiranje se dešava u nekom području; AI preporučuje pogrešnu korekciju kursa sa oštećenim podacima o lokaciji. Tim potvrđuje lokaciju nezavisnim metodama (radar, oko, krstarenje), uočava odstupanje i odbija AI prijedlog. Lekcija: ako je ulaz oštećen, i izlaz je oštećen; Nezavisna verifikacija i redundantnost spašavaju živote.

Četiri šablona za kopiranje

1) Kraj revizije upotrebe AI u kampanji:

Ovaj put sam koristio AI za: [list]. Nacrtajte tablicu evidencije odluka za svaki: rad, korišteni alat, ulaz, AI izlaz, kako je potvrđeno, ko je odobrio, rezultat. Označite sve koji nedostaju/nepotvrđeni.

2) Nacrt politike upotrebe AI:

Napišite NACRT procedure "odgovorne upotrebe AI" za naš brod: odobreni alati, klasifikacija podataka, ko odobrava koju odluku, obaveza verifikacije, kibernetička sigurnost i pravila privatnosti. Napomena: ovaj nacrt će odobriti tim kompanije DPA/ISM.

3) Kontrola maskiranja podataka:

Provjerite ima li osjetljivih podataka prije nego što unesete sljedeći tekst u AI alat: [tekst]. Predložite lokaciju broda, detalje o teretu, lične podatke, poslovnu tajnu i kako to mogu maskirati. Ako niste sigurni, recite "ne ulazi, prvo provjeri".

4) Cyber ​​/ scenarij vježbe redundance:

Stvoriti cyber incident ili scenario pada sistema na sistemima mostova/mašina; Napišite nacrt vježbe u 5 koraka i pitanja za diskusiju koja će pomoći posadi da uvježbaju svoj prijelaz na tradicionalnu navigaciju/upravljanje motorom.

Slaba prompt / Jaka prompt

Slab upit:

Kako da koristim AI na brodu?

Vrlo općenito; Ne postoji dimenzija sigurnosti, podataka, upravljanja i verifikacije.

Snažan upit:

Vaša uloga: konsultant za digitalizaciju broda. Tip broda [x], kompanija povezana s upravljanjem flotom. Zadatak: izraditi end-to-end okvir za korištenje AI u praćenju ruta, goriva, mašina i dokumentacije: kapija za verifikaciju ljudi u svakoj fazi, odobrena pravila o vozilu i podacima, mjere sajber sigurnosti, snimanje odluka. Naglasite da odluke kritične za sigurnost ostaju ljudske i AI nije zamjena za odobrenje. Označite područja koja su nejasna/zahtevaju odobrenje kompanije.

Zahtijevanje kapija, upravljanja i sajber sigurnosti čini izlaz upotrebljivim u poduzeću.

Okvirni stol od kraja do kraja

Stage

AI doprinos

ljudska verifikaciona kapija

Planiranje ekspedicije

Alternativa rute/gorivu

Kapetan ECDIS odobrenje

praćenje vremena

Sažetak prognoze

Više resursa + kapetan

tereta

Preporuka za slaganje

Kompjuter za punjenje + 1. oficir

mašina

znak anomalije

Fizička potvrda + glavni inženjer

Dokumentacija

nacrt

Pravi podaci + potpis

zakonodavstvo

preusmjeravanje

Zvanična potvrda izvora

most

određivanje prioriteta

Odluka COLREG, službeniče

Uobičajene greške

• Zaobilazeći verifikacione kapije. Uklanjanje međupotvrda za brzinu omogućit će da jedna greška procuri u ekspediciju.
• Ne vođenje evidencije odluka. Ako nema evidencije, odbrana i poboljšanje revizije i istrage postaju teški.
• Davanje osjetljivih podataka nesigurnom alatu. Ruta, opterećenje, lični podaci se obrađuju uz odobrenje i maskiranje.
• Ne izoluju kritične sisteme. ECDIS/kontrola mašine se drži odvojeno od interneta i AI alata.
• Zanemarivanje viška. Konvencionalna navigacijska sposobnost mora se održavati u sistemu/cyber incidentu.
• Stavljanje komercijalne dobiti ispred sigurnosti. Sigurnost i okoliš su uvijek prioritet.

Ukratko

Ključ za korištenje AI end-to-end u pomorstvu je slojeviti okvir koji postavlja kapiju ljudske verifikacije i zapis odluke u svakoj fazi. Ovaj okvir je dopunjen upravljanjem brodskom kompanijom (odobreni instrument, klasifikacija podataka, uloga, obuka, ISM integracija), sajber bezbjednost (izolacija kritičnih sistema, povjerljivost podataka, ulazna sigurnost, redundantnost) i principi odgovornog korištenja (ljudska odgovornost, transparentnost, izbjegavanje prekomjerne tvrdnje, prioritet povjerljivosti, sigurnost). AI stvara stvarnu vrijednost u transportu; Ali odluke koje su važne za sigurnost uvijek su u vlasništvu kompetentnog čovjeka, a izlaz umjetne inteligencije ne zamjenjuje to odobrenje.

Zadatak aplikacije

Razmislite o ekspediciji od početka do kraja za svoj brod. Za svaku fazu (planiranje, vazduh, teret, mašinerija, dokumentacija, regulacija, most), popunite tabelu u jednom redu „šta radi AI / šta je ljudska kapija / kako da proverim / ko odobrava“. Zatim dodajte "maskiranje podataka" i mjeru "cyber/redundantnost". Konačno, kreirajte predložak zapisa odluke koji ćete ovaj put čuvati.

kontrolna lista

• [ ] Postavio sam kapiju ljudske verifikacije u svaku fazu.
• [ ] Vodio sam evidenciju odluka za svaku upotrebu AI.
• [ ] Postupio sam u skladu sa odobrenim pravilima za klasifikaciju alata i podataka; Zaštitio/maskiram osjetljive podatke.
• [ ] Izolovao sam kritične navigacione/mašinske sisteme i održao mogućnost redundantnosti.
• [ ] Osigurao sam da odluke kritične za sigurnost donosi kompetentan čovjek i da nisu zamjena za odobrenje AI.

Modul Exam

1. Koje od sljedećeg je najpreciznije pozicioniranje umjetne inteligencije u pomorstvu?

• A) Vještačka inteligencija je alat za podršku odlučivanju; Odgovornost za sigurnosno kritične odluke kao što su potvrda rute, manevrisanje i odluke o mašinama ostaje na kapetanu i glavnom inženjeru ✔
• B) Budući da je umjetna inteligencija pouzdanija od ljudi na moru, odluke o rutama i manevrima trebaju biti prepuštene njoj.
• C) Vještačka inteligencija radi samo u sažimanju teksta, nema nikakve veze sa navigacijom i radom mašina
• D) Vještačka inteligencija može ući u rutu u ECDIS i izvršiti je bez ljudskog odobrenja

Opis: Pomorstvo je sigurnosno kritično područje; Umjetna inteligencija je alat za podršku odlučivanju koji štedi vrijeme na ruti, gorivu, vremenu, dokumentaciji, praćenju mašina i zakonodavstvu. Međutim, kapetan i glavni inženjer su ti koji su zakonski odgovorni za pomorsku sigurnost, okoliš i sigurnost imovine; manevrisanje, zaustavljanje mašina i odluke u hitnim slučajevima su ljudski, a izlaz veštačke inteligencije nije zamena za odobrenje kompetentnog stručnjaka.

2. Koji je najkritičniji korak koji treba poduzeti prije nego što se izvrši alternativa rute koju predlaže umjetna inteligencija?

• A) Provjerite rutu u odnosu na zabranjena područja u ECDIS-u i UKC-u i odobrite je od strane kapetana ✔
• B) Direktno izvršavanje, bez dodatnih provjera, kako to izračunava umjetna inteligencija
• C) Pazite da odaberete samo najkraću udaljenost
• D) Prebacivanje na onu koja štedi najviše goriva bez provjere rute uopće

Opis: Ruta generirana umjetnom inteligencijom je nacrt i nije verificirana na službenoj mapi. Nijedna ruta se ne vozi bez provjere ECDIS-a za zabranjena područja i podkobilice (UKC) za vrijeme plime. Ušteda vremena/goriva nikada ne može nadmašiti ovu sigurnosnu potvrdu.

3. Koji je najprecizniji pristup kada umjetna inteligencija predviđa potrošnju za optimizaciju goriva?

• A) Pretpostavljajući opći model broda i traženje najniže potrošnje goriva bez davanja ograničenja
• B) Baziranje procjene na stvarnoj krivulji performansi broda i davanje komercijalno-pravnih ograničenja ✔
• C) Primjena prvog broja koji je dala umjetna inteligencija bez njegove provjere
• D) Dovoljno je samo smanjenje brzine; charter i port window su nebitni

Objašnjenje: Predviđanje proizvedeno pretpostavkom općeg 'modela broda' može biti ozbiljno uvrijeđeno za vaš brod. Procjena bi se trebala temeljiti na krivulji stvarnih performansi broda (podaci o ispitivanju na moru i servisu); Dodatno, treba dati komercijalno-pravna ograničenja kao što su minimalna brzina čartera i prozor za luku. Promjene trima/brzine se također primjenjuju uz ljudsko odobrenje na granici stabilnosti i zdravlja mašine.

4. Šta se može reći o vrijednosti CII (indikator intenziteta ugljika) koju izračunava umjetna inteligencija?

• A) Može se deklarirati direktno kao službeni CII izvještaj
• B) To je samo predviđanje; Zvanični izvještaj je izrađen odobrenom metodom i mora biti potvrđen sa ažuriranim izvorom ✔
• C) To je uvijek istina jer je proračun umjetne inteligencije bolji od ljudskog
• D) Nema potrebe za potvrdom jer se pragovi emisije nikada nisu mijenjali

Objašnjenje: Podaci o emisiji kao što je CII su zvanični rezultati proizvedeni odobrenim metodama i provjerenim podacima. Vrijednost koju daje umjetna inteligencija samo je predviđanje; može koristiti stari koeficijent ili proizvesti halucinacije. Ne može se koristiti kao službeni izvještaj i mora se potvrditi ažuriranim zvaničnim izvorom.

5. Šta čini umjetnu inteligenciju najvrednijom u procjeni vremena i stanja mora?

• A) Zasnovano na jednom modelu i daje preciznu visinu talasa
• B) Skrivanje neizvjesnosti i predstavljanje svakog predviđanja kao izvjesnosti
• C) Usporediti različite modele i učiniti vidljivim razdvajanje i nesigurnost ✔
• D) Zamjenjuje službena pomorska upozorenja i čini ih nepotrebnim.

Objašnjenje: Vremenska prognoza je vjerovatnoća, a najvažnija veličina je neizvjesnost. AI je najvredniji kada upoređuje različite modele i čini divergenciju (i stoga neizvjesnost) vidljivom; Ovo osigurava sigurno planiranje. Opasno je skrivati ​​neizvjesnost i predstavljati centralno predviđanje kao izvjesnost.

6. Koji je stalni princip pri pripremi sadržaja s umjetnom inteligencijom za dnevnik krstarenja ili službeni izvještaj o incidentu?

• A) Imati umjetnu inteligenciju dovršiti nepotpuno zapamćene detalje na razuman način
• B) Zapisuje se samo stvarno opažanje; Umjetna inteligencija ne može izmisliti podatke ili detalje, mjesta koja nedostaju su označena ✔
• C) Ako je tekst tečan, brojevi i događaji koje je dodala umjetna inteligencija prihvaćaju se bez provjere.
• D) Umjetna inteligencija može procijeniti informacije o vremenu i lokaciji, nema potrebe za posmatranjem

Objašnjenje: Službene evidencije su pravni dokaz i njihov sadržaj mora tačno odgovarati istini. Umjetna inteligencija ne može izmišljati informacije o vremenu, lokaciji, brzini i događajima; To jednostavno prevodi stvarno zapažanje koje ste dali u odgovarajuću rečenicu. Mjesto koje nedostaje nije popunjeno 'razumnom fikcijom', već je označeno; Odgovornost za tačnost i potpis leži na čovjeku. U suprotnom postoji opasnost od falsifikovanja dokumenata.

7. Kako treba odrediti stabilnost broda (GM) i uzdužnu čvrstoću u planu utovara?

• A) Oslanjajući se na grubu GM i trim vrijednost koju daje umjetna inteligencija
• B) Izračunato na odobrenom kompjuteru za utovar i odobreno od strane načelnika/kapetan ✔
• C) Procijenjeno iskustvom, bez korištenja alata
• D) Gledajući samo ukupnu težinu, bez razmatranja raspodjele težine

Opis: Stabilnost i snaga su kritične za sigurnost; jedna greška mogla bi srušiti brod ili oštetiti trup. Ovi proračuni dolaze samo iz odobrenog kompjutera za utovar i odobrava ih glavni oficir/kapetan. Gruba GM vrijednost koju daje AI nije zvanična kalkulacija; na primjer, može propustiti efekat slobodne tekućine i lažno učiniti da brod izgleda 'sigurno'.

8. Koja bi trebala biti uloga vještačke inteligencije u pravilima odvajanja i slaganja opasnog tereta (IMDG)?

• A) Vještačka inteligencija daje tačno pravilo razdvajanja i plan slaganja se direktno primenjuje
• B) Pravila diskriminacije su određena općim znanjem o umjetnoj inteligenciji, nije potreban formalni kod
• C) Vještačka inteligencija vodi koji dio treba pogledati; tačno pravilo odvajanja/slaganja potvrđeno iz zvaničnog IMDG koda ✔
• D) Za opasne terete nije potrebno pravilo odvajanja, svi se mogu slagati zajedno

Objašnjenje: Ako se neke opasne tvari postave jedna pored druge, one mogu reagirati i uzrokovati požar ili eksploziju. AI vas može podsjetiti koji UN broj i IMDG odjeljak da pogledate; međutim, tačno pravilo razdvajanja/slaganja mora biti potvrđeno iz zvaničnog IMDG koda. AI može dati zastarjelo ili netačno pravilo, pa službeni kod određuje konačnu odluku.

9. Kako treba postupiti kada AI označi anomaliju u podacima senzora mašine (na primjer, odstupanje u temperaturi izduvnih gasova cilindra)?

• A) Signal se smatra definitivnom greškom i oprema se odmah zaustavlja.
• B) Signal je hipoteza; Procjenjuje se u kontekstu, fizički verificira i odluka o dijagnostici-održavanju ostaje na glavnom inženjeru ✔
• C) Nema potrebe za dodatnom provjerom jer to govori umjetna inteligencija
• D) Ako umjetna inteligencija ništa ne kaže, pretpostavlja se da je oprema apsolutno zdrava

Objašnjenje: Umjetna inteligencija koja kaže 'postoji anomalija/kvar' je hipoteza, a ne dijagnoza. Odstupanje se prvo procjenjuje u kontekstu (može li to biti opterećenje, zrak, promjena brzine), zatim se fizički provjerava (očitavanje mjerača, provjera opreme) i odluka o dijagnostici-održavanju ostaje na glavnom inženjeru. Uz to, šutnja vještačke inteligencije nije garancija da nema problema.

10. Kako koristiti umjetnu inteligenciju kada se u strojarnici istovremeno oglasi više alarma (alarmnih poplava) i koja je njena granica?

• A) Vještačka inteligencija utvrđuje osnovni uzrok i automatski donosi odluku da zaustavi mašinu
• B) Vještačka inteligencija generiše hipotezu o osnovnom uzroku; hipoteza je fizički potvrđena i odluka da se zaustavi/intervenira ostaje na inženjeru ✔
• C) Ako se jedan od alarma utiša, i ostali će proći, nema potrebe za provjerom.
• D) Rangiranje uzroka AI je tačno čak i ako su vremenske oznake netačne

Opis: Greška često pokreće niz sekundarnih alarma; Osnovni uzrok je jedan. AI može sortirati dnevnik alarma s vremenskim oznakama i generirati hipotezu o osnovnom uzroku. Međutim, ova hipoteza mora biti potvrđena fizičkim pokazateljima, a odluke kao što su zaustavljanje mašine ili onemogućavanje sigurnosnog putovanja pripadaju ljudskom inženjeru; ne može se automatizirati.

11. Kako se AI treba koristiti kada se u zakonodavstvu kao što je SOLAS zahtijeva precizan broj artikla ili brojčani prag?

• A) Broj stavke i prag koji daje umjetna inteligencija upisuju se direktno u izvještaj.
• B) Vodiči za umjetnu inteligenciju; Tačna supstanca i prag su očitani i potvrđeni iz trenutnog zvaničnog izvora ✔
• C) Pošto se pravila ne menjaju, znanje veštačke inteligencije je uvek ažurno.
• D) Reći 'vještačka inteligencija je tako rekla' valjana je osnova u reviziji

Opis: Umjetna inteligencija može uvjerljivo napraviti broj stavke, datum ili graničnu vrijednost koja zapravo ne postoji (halucinira), a pravila se stalno ažuriraju. Stoga se AI koristi samo kao vodič za koji ugovor/kod i temu treba pogledati; Presuda se uvijek čita iz trenutnog zvaničnog izvora. U reviziji, 'veštačka inteligencija je tako rekla' nema validnost.

12. Koja je uloga vještačke inteligencije/automatizacije u odluci o manevarskom izbjegavanju sudara mosta (COLREG)?

• A) Sistem daje naredbu za manevar i oficir ga izvršava
• B) Sistem daje prioritet ciljevima i usmjerava pažnju; Odluka o manevru pripada oficiru i kapetanu u okviru COLREG ✔
• C) Dovoljno je osloniti se na AIS; Radarska i vizuelna potvrda nije potrebna
• D) Službenik može ostaviti kontrolu jer automatizacija radi pouzdano

Opis: Moderni sistemi mogu izračunati CPA/TCPA i odrediti prioritete ciljeva; Ovo je dragocjeno u usmjeravanju pažnje policajca. Međutim, odluka o manevru - koliko stepeni, kada, u kom pravcu - pripada časniku straže i kapetanu u okviru COLREG-a i dobre pomorske prakse. Čak i ako sistem kaže 'prođite bezbjedno', odgovornost za sudar snosi službenik koji je izvršio ili nije izvršio manevar.

13. Zašto je 'samozadovoljstvo automatizacijom' (prekomerno oslanjanje na automatizaciju) opasno na mostu?

• A) Nije opasno; Ako je sistem pouzdan, nema potrebe da ga gledate vizuelno.
• B) Smanjuje ljudsku pažnju i stvara zavisnost od jednog izvora; Podaci koji nedostaju kao što je brod bez AIS-a mogu biti propušteni ✔
• C) To je problem samo zato što povećava potrošnju goriva.
• D) Vidi se samo na starim brodovima, nema rizika na modernim mostovima

Objašnjenje: Kako sistemi rade pouzdano, ljudska pažnja može oslabiti i kontrola može biti napuštena. Budući da je mali čamac bez AIS-a vidljiv samo radarima i očima; Sistem radi sa nepotpunim podacima. Dakle, radar, AIS, ECDIS i oko treba da se međusobno potvrde, a kada su izvori razdvojeni, za osnovu treba uzeti najopasnije tumačenje.

14. Koji princip se primjenjuje prije unosa lokacije broda, manifesta tereta ili informacija o posadi u AI alat?

• A) Osjetljivi podaci mogu se zalijepiti direktno u javni servis radi brzine
• B) Klasifikacija podataka je nepotrebna; Bilo koji podatak se može unijeti u bilo koje vozilo
• C) Osetljivi podaci se obrađuju samo u odobrenim, sigurnim alatima i maskiraju kada je to potrebno; kritični sistemi su izolovani ✔
• D) Podaci o posadi i komercijalni podaci nisu osjetljivi i ne moraju biti zaštićeni

Objašnjenje: Podaci učitani u AI alat mogu izmaknuti kontroli. Podaci o ruti, teretu, komercijalni ugovori i lični podaci posade su osjetljivi; Treba ga obraditi samo u odobrenim, sigurnim vozilima i maskirati gdje je to potrebno. Lijepljenje osjetljivih podataka na javni servis 'zbog pogodnosti' predstavlja ozbiljno kršenje sigurnosti i privatnosti. Osim toga, kritični navigacijski/mašinski sistemi su izolovani.

15. Koji je najefikasniji način da se AI dosljedno i bezbedno koristi od početka do kraja kampanje?

• A) Uspostavite slojeviti okvir koji postavlja kapiju ljudske verifikacije i zapis odluke u svakoj fazi ✔
• B) Delegiranje svih odluka o ekspediciji na jedan AI alat i gledanje na kraju
• C) Uklonite međuprovjere brzine i provjerite samo po dolasku
• D) Svaki službenik može slobodno koristiti svoje vozilo bez vođenja evidencije o odlukama.

Opis: Putovanje se smatra lancem, sa kapijom za ljudsko verifikaciju i prelaznim uslovima postavljenim u svakoj fazi (planiranje, vazduh, teret, mašinerija, dokumentacija, zakonodavstvo, most); Ne možete proći kroz jedna vrata, a da ne prođete kroz druga. Svaka vrata ostavljaju zapis odluke. Ova slojevita struktura sprečava da jedna greška veštačke inteligencije procuri u ekspediciju ili izveštaj i obezbeđuje odbramljivost u reviziji.