End-to-End workflow, riadenie lodnej spoločnosti, kybernetická bezpečnosť a zodpovedné používanie

zisky:

• Schopnosť dôsledne nasadzovať AI v každej fáze kampane, od začiatku do konca, s ľudskými verifikačnými bránami a záznamami rozhodnutí
• Schopnosť vytvoriť rámec riadenia lodnej spoločnosti vrátane zoznamu schválených vozidiel, klasifikácie údajov, integrácie ISM, kybernetickej bezpečnosti (izolácia kritického systému, dôvernosť údajov, redundancia)
• Schopnosť začleniť ľudskú zodpovednosť, transparentnosť, vyhýbanie sa nadmerným nárokom, prioritu bezpečnosti a ochrany životného prostredia a zásady dôvernosti do pracovného toku

Predchádzajúce jednotky spracovávali AI individuálne v oblasti trasy, paliva, počasia, dokumentácie, nákladu, monitorovania strojov, diagnostiky, legislatívy a podpory rozhodovania o moste. Táto jednotka kombinuje všetko: ako dôsledne, kontrolovateľne a bezpečne umiestniť AI od začiatku až do konca kampane. Ako to loď a spoločnosť zvládajú? A ako sú tieto samotné nástroje (dáta, konektivita, kybernetická bezpečnosť) chránené? Cieľom je vytvoriť rámec, ktorý zachytáva hodnotu umelej inteligencie v námornej doprave a zároveň nezabúda na jej kritickú bezpečnosť.

Kompletný pracovný postup: brány na overenie ľudí

Predstavte si expedíciu ako reťaz; Na každý prsteň umiestnite ľudskú overovaciu bránu (bod, v ktorom človek pred prechodom potvrdí, že podmienka je splnená):

1. Plánovanie plavby: AI generuje alternatívu trasy/paliva → Brána: kapitán potvrdí a potvrdí UKC/no-go a obmedzenia v ECDIS.
2. Monitorovanie počasia: Súhrny predpovedí AI → Brána: viaczdrojová + oficiálne potvrdenie varovania, rozhodnutie ukryť sa je na kapitánovi.
3. Náklad: Odporúčanie pre uloženie YZ → Dvere: nakladací počítač so schválením stability/pevnosti, schválenie vedúceho.
4. Stroj: Značka anomálie AI → Dvere: fyzické overenie, diagnostika a rozhodnutie o údržbe závisí od hlavného inžiniera.
5. Dokumentácia: AI plány → Brána: overenie skutočných údajov a podpis u človeka.
6. Legislatíva: AI riadi → Brána: poskytovanie je overené z oficiálneho zdroja.
7. Most: AI uprednostňuje → Brána: Manéver a navigácia COLREG je v rukách dôstojníka.

Pravidlo: bez prejdenia jedných dverí nemôžete prejsť k ďalším. Táto vrstvená štruktúra zabraňuje úniku jedinej chyby AI do expedície alebo správy. Každé dvere zanechávajú záznam: čo bolo navrhnuté, kto to potvrdil, o čom sa rozhodlo.

Tip: Uchovajte si krátky „záznam rozhodnutí“ pre každé použitie AI: ktorý nástroj, aký vstup, čo povedala AI, ako to bolo overené, kto to schválil. Pri vyšetrovaní alebo audite nehôd vás tento záznam chráni a umožňuje neustále zlepšovanie.

Riadenie lodnej spoločnosti

Nástroje AI by sa nemali používať náhodne, ale v rámci:

• Zoznam schválených nástrojov: Ktoré nástroje AI sú schválené pre ktoré úlohy? Citlivé údaje sa nenahrávajú do náhodných nástrojov a verejných služieb.
• Klasifikácia údajov: Zoznam nákladu, trasa, obchodné zmluvy, osobné údaje posádky sú citlivé; Je definované, ktoré údaje kam idú.
• Úloha a právomoc: Kto môže použiť AI v ktorom rozhodnutí, kto ho schvaľuje? Kapitán a hlavný inžinier majú jasné posledné slovo.
• Školenie: Posádka musí poznať hranice AI (halucinácie, nejednoznačnosť, overovanie); Učí sa skôr disciplína ako nástroje.
• Integrácia ISM: Používanie AI sa procedurálne pridáva do systému riadenia bezpečnosti lode (ISM); sa stáva auditovateľným.
• Priebežné overovanie: Výkonnosť vozidiel sa monitoruje; Nesprávne návrhy sa zaznamenajú a nástroj alebo použitie sa upraví.

Kybernetická bezpečnosť: cieľom je pripútaná loď

Moderná loď je prepojený systém: aktualizácie ECDIS, satelitná komunikácia, vzdialené monitorovanie, služby AI. Toto spojenie je útočnou plochou. Námornú kybernetickú bezpečnosť (tiež spojenú s usmerneniami IMO pre riadenie kybernetického rizika lodí a ISM) nemožno zanedbávať:

• Izolujte kritické navigačné/strojové systémy: Systémy ako ECDIS, riadenie strojov sú oddelené od internetu a nástrojov AI.
• Súkromie údajov: Údaje o trase, náklade a komerčné údaje nesmú uniknúť do nezabezpečených služieb AI; maska ​​v prípade potreby.
• Riziko manipulácie: Signál GPS/AIS môže byť falošný; S týmito poškodenými údajmi AI vytvára nesprávne návrhy. Zabezpečenie vstupu je predpokladom zabezpečenia výstupu.
• Redundancia: Ak systém zlyhá alebo dôjde k kybernetickému incidentu, zachová sa tradičná schopnosť navigácie (papierová mapa, základný postup).

Upozornenie: Všetky údaje, ktoré načítate do nástroja AI, môžu byť mimo vašej kontroly. Poloha lode, podrobnosti o náklade, informácie o posádke a obchodné tajomstvá; spracované schváleným, bezpečným a v prípade potreby maskovaným spôsobom. Vkladanie citlivých údajov do verejnej služby „pre pohodlie“ je vážnym narušením bezpečnosti a súkromia.

Etické a zodpovedné používanie

• Ľudská zodpovednosť: Každé rozhodnutie kritické z hľadiska bezpečnosti robí kompetentný človek; Výstup AI nenahrádza jeho schválenie.
• Transparentnosť: Keď sa používa AI (najmä pri podávaní správ a analýz), uvádza sa to čestne.
• Vyhýbanie sa nadmerným nárokom: Vágny odhad nie je prezentovaný ako istota; Úroveň dôvery je vyjadrená čestne.
• Priorita životného prostredia a bezpečnosti: Komerčný zisk nikdy nie je pred námornou bezpečnosťou a ochranou životného prostredia.
• Súkromie: Posádka a obchodné údaje sú chránené.

tri mini prípady

Prípad 1 — Systém dverí zastaví chybu. Na lodi AI navrhne cestu, ako ušetriť atraktívne palivo; ale na "bráne plánovania plavby" kapitán nájde chybu v potvrdení ECDIS a zamietne návrh. Poschodové dvere zabraňujú tomu, aby ploštica prešla do mora. Záznam rozhodnutia dokumentuje, že proces funguje správne.

Prípad 2 – Je zabránené úniku údajov. Dôstojník sa chystá vložiť zoznam nákladu do verejnej služby AI; firemná politika (schválený nástroj + maskovanie) tomu bráni. Obchodné údaje sú chránené. Poučenie: Rámec riadenia zabraňuje dobre mieneným, ale riskantným správaniu.

Prípad 3 — Falošný signál GPS. GPS spoofing sa vyskytuje v oblasti; AI odporúča nesprávnu opravu kurzu s poškodenými údajmi o polohe. Tím potvrdí polohu nezávislými metódami (radar, oko, krížové ložisko), všimne si odchýlku a zamietne návrh AI. Ponaučenie: ak je poškodený vstup, je poškodený aj výstup; Nezávislé overovanie a redundancia zachraňujú životy.

Štyri kopírovateľné šablóny

1) Koniec auditu používania AI kampane:

Tentokrát som použil AI pre: [zoznam]. Navrhnite tabuľku záznamov rozhodnutí pre každú: prácu, použitý nástroj, vstup, výstup AI, spôsob overenia, kto schválil, výsledok. Označte všetky chýbajúce/neoverené.

2) Návrh pravidiel používania AI:

Napíšte NÁVRH postupu „zodpovedného používania AI“ pre našu loď: schválené nástroje, klasifikácia údajov, kto schvaľuje aké rozhodnutie, povinnosť overenia, pravidlá kybernetickej bezpečnosti a súkromia. Poznámka: Tento návrh bude schválený tímom DPA/ISM spoločnosti.

3) Ovládanie maskovania údajov:

Pred zadaním nasledujúceho textu do nástroja AI skontrolujte citlivé údaje: [text]. Navrhnite polohu lode, podrobnosti o náklade, osobné údaje, obchodné tajomstvo a ako to môžem zamaskovať. Ak si nie ste istí, povedzte „nezadávajte, najskôr skontrolujte“.

4) Scenár kybernetického/redundantného cvičenia:

vytvoriť scenár kybernetického incidentu alebo havárie systému na mostných/strojových systémoch; Napíšte 5-krokový náčrt cvičenia a diskusné otázky, ktoré pomôžu posádke precvičiť si prechod na tradičnú navigáciu/riadenie motora.

Slabá výzva / Silná výzva

Slabá výzva:

Ako môžem použiť AI na lodi?

Veľmi všeobecné; Neexistuje žiadny rozmer zabezpečenia, údajov, správy a overovania.

Výkonná výzva:

Vaša úloha: konzultant pre digitalizáciu lodí. Loď typu [x], spoločnosť prepojená so správou flotily. Úloha: navrhnúť komplexný rámec pre používanie AI pri sledovaní trasy, paliva, strojov a dokumentácie: brána na overenie ľudí v každej fáze, schválené pravidlá pre vozidlá a údaje, opatrenia kybernetickej bezpečnosti, zaznamenávanie rozhodnutí. Zdôraznite, že rozhodnutia kritické z hľadiska bezpečnosti zostávajú ľudské a AI nie je náhradou za schválenie. Označte oblasti, ktoré sú nejasné/vyžadujú súhlas spoločnosti.

Požadovaním brán, riadenia a kybernetickej bezpečnosti je výstup použiteľný pre podniky.

Koncový rámový stôl

Etapa

Príspevok AI

ľudská overovacia brána

Plánovanie expedície

Alternatíva trasy/paliva

Schválenie kapitána ECDIS

sledovanie počasia

Zhrnutie predpovede

Viaczdrojový + kapitán

nákladu

Odporúčanie zásobníka

Načítavam počítač + 1. dôstojník

stroj

znak anomálie

Fyzické potvrdenie + hlavný inžinier

Dokumentácia

návrh

Reálne údaje + podpis

legislatívy

presmerovať

Oficiálne potvrdenie zdroja

most

uprednostňovanie

rozhodnutie COLREG, dôstojník

Časté chyby

• Obchádzanie overovacích brán. Odstránenie prechodných potvrdení rýchlosti umožní, aby sa jedna chyba dostala do expedície.
• Neuchovávanie záznamov o rozhodnutiach. Ak neexistuje záznam, obrana a zlepšovanie auditu a vyšetrovania sa stáva zložitým.
• Poskytovanie citlivých údajov nezabezpečenému nástroju. Trasa, zaťaženie, osobné údaje sú spracované so schválením a maskovaním.
• Neizoluje kritické systémy. ECDIS/ovládanie stroja je oddelené od internetu a nástrojov AI.
• Zanedbanie nadbytočnosti. V systéme/kybernetickom incidente sa musí zachovať konvenčná navigačná schopnosť.
• Uprednostnenie komerčného zisku pred bezpečnosťou. Bezpečnosť a životné prostredie sú vždy prioritou.

V súhrne

Kľúčom k úplnému využívaniu AI v námornej doprave je vrstvený rámec, ktorý do každej fázy vkladá bránu na overenie ľudí a záznam rozhodnutí. Tento rámec dopĺňa riadenie lodných spoločností (schválený nástroj, klasifikácia údajov, úloha, školenie, integrácia ISM), kybernetická bezpečnosť (izolácia kritických systémov, dôvernosť údajov, bezpečnosť vstupov, redundancia) a zásady zodpovedného používania (ľudská zodpovednosť, transparentnosť, vyhýbanie sa nadmernému tvrdeniu, priorita bezpečnosti, dôvernosť). AI vytvára skutočnú hodnotu v preprave; Rozhodnutia kritické z hľadiska bezpečnosti však vždy vlastní kompetentný človek a výstup AI toto schválenie nenahrádza.

Aplikačná úloha

Zvážte expedíciu od začiatku do konca pre vašu vlastnú loď. Pre každú fázu (plánovanie, vzduch, náklad, stroje, dokumentácia, regulácia, most) vyplňte jednoriadkovú tabuľku „čo robí AI / čo je ľudská brána / ako overím / kto schvaľuje“. Potom pridajte „maskovanie údajov“ a opatrenie „kybernetická/redundancia“. Nakoniec vytvorte šablónu záznamu o rozhodnutí, ktorý si tentoraz ponecháte.

kontrolný zoznam

• [ ] V každej fáze som umiestnil ľudskú overovaciu bránu.
• [ ] Viedol som si záznamy o rozhodnutiach pre každé použitie AI.
• [ ] Dodržal som schválené pravidlá klasifikácie nástrojov a údajov; Chránil som/maskoval som citlivé údaje.
• [ ] Izoloval som kritické navigačné/strojové systémy a zachoval som redundanciu.
• [ ] Zabezpečil som, aby rozhodnutia kritické z hľadiska bezpečnosti prijímal kompetentný človek a nenahrádzali schválenie AI.

Modulová skúška

1. Ktorá z nasledujúcich možností je pre umelú inteligenciu v námornej doprave najpresnejšia?

• A) Umelá inteligencia je nástroj na podporu rozhodovania; Zodpovednosť za rozhodnutia kritické z hľadiska bezpečnosti, ako je potvrdenie trasy, manévrovanie a rozhodnutia o strojoch, zostáva na kapitánovi a hlavnom inžinierovi ✔
• B) Keďže umelá inteligencia je na mori spoľahlivejšia ako ľudia, rozhodnutia o trase a manévroch by sa mali ponechať na ňu.
• C) Umelá inteligencia funguje len pri sumarizovaní textu, s navigáciou a strojovou prácou nemá nič spoločné
• D) Umelá inteligencia môže zadať trasu do ECDIS a vykonať ju bez súhlasu človeka

Opis: Námorná oblasť je oblasťou kritickou z hľadiska bezpečnosti; Umelá inteligencia je nástroj na podporu rozhodovania, ktorý šetrí čas na trase, palivo, počasie, dokumentáciu, monitorovanie strojov a legislatívu. Je to však kapitán a hlavný inžinier, ktorí sú zo zákona zodpovední za námornú bezpečnosť, ochranu životného prostredia a majetku; Manévrovanie, zastavenie stroja a núdzové rozhodnutia sú ľudské a výstupy umelej inteligencie nie sú náhradou za schválenie kompetentným odborníkom.

2. Aký je najdôležitejší krok pred vykonaním alternatívy trasy navrhnutej umelou inteligenciou?

• A) Skontrolujte trasu oproti zakázaným oblastiam v ECDIS a UKC a schválite ju kapitánom ✔
• B) Priame vykonávanie, nerobenie dodatočných kontrol, ako to vypočítava umelá inteligencia
• C) Uistite sa, že ste si vybrali len najkratšiu vzdialenosť
• D) Prepnutie na ten, ktorý šetrí najviac paliva bez toho, aby ste vôbec kontrolovali trasu

Popis: Trasa vygenerovaná umelou inteligenciou je návrh a nebola overená na oficiálnej mape. Žiadna trasa neprebehne bez toho, aby sa pri prílive skontrolovala ECDIS, či neobsahuje zakázané oblasti a vzdialenosť pod kýlom (UKC). Úspora času/paliva nemôže nikdy prevážiť toto bezpečnostné potvrdenie.

3. Aký je najpresnejší prístup, keď umelá inteligencia predpovedá spotrebu pre optimalizáciu paliva?

• A) Predpokladom všeobecného modelu lode a požiadaním o najnižšiu spotrebu paliva bez obmedzenia
• B) Odhad založený na skutočnej výkonnostnej krivke lode s uvedením obchodno-právnych obmedzení ✔
• C) Použitie prvého čísla daného umelou inteligenciou bez jeho overenia
• D) Stačí znížiť rýchlosť; charta a prístavné okno sú irelevantné

Vysvetlenie: Predpoveď vytvorená predpokladom všeobecného „modelu lode“ môže byť na vašej lodi vážne urazená. Odhad by mal byť založený na skutočnej výkonnostnej krivke lode (skúšobné a prevádzkové údaje na mori); Okrem toho by sa mali stanoviť obchodno-právne obmedzenia, ako je minimálna rýchlosť charterovej lode a okno prístavu. Zmeny sklonu/rýchlosti sa tiež aplikujú so súhlasom človeka na hranici stability a zdravia stroja.

4. Čo možno povedať o hodnote CII (ukazovateľ intenzity uhlíka) vypočítanej umelou inteligenciou?

• A) Môže byť vyhlásená priamo ako oficiálna správa CII
• B) Je to len predpoveď; Oficiálna správa je vypracovaná schválenou metódou a musí byť potvrdená aktuálnym zdrojom ✔
• C) Je to vždy pravda, pretože výpočet umelej inteligencie je lepší ako ľudský
• D) Nie je potrebné potvrdenie, pretože emisné prahy sa nikdy nezmenili

Vysvetlenie: Údaje o emisiách ako CII sú oficiálne výstupy vytvorené schválenými metódami a overenými údajmi. Hodnota udávaná umelou inteligenciou je len predpoveďou; môže použiť starý koeficient alebo spôsobiť halucinácie. Nedá sa použiť ako oficiálna správa a musí byť potvrdená aktuálnym oficiálnym zdrojom.

5. Čo robí umelú inteligenciu najcennejšou pri hodnotení počasia a stavu mora?

• A) Založené na jedinom modeli a poskytujúce presnú výšku vlny
• B) Skrytie neistoty a prezentovanie každej predpovede ako istoty
• C) Porovnanie rôznych modelov a zviditeľnenie separácie a neistoty ✔
• D) Nahrádza oficiálne námorné varovania a robí ich nepotrebnými.

Vysvetlenie: Predpoveď počasia je pravdepodobnostná a najdôležitejšou veličinou je neistota. AI je najcennejšia, keď porovnáva rôzne modely a zviditeľňuje divergenciu (a teda neistotu); To zaisťuje plánovanie na bezpečnej strane. Je nebezpečné skrývať neistotu a prezentovať ústrednú predpoveď ako istotu.

6. Aký je konštantný princíp pri príprave obsahu s umelou inteligenciou pre denník plavby alebo oficiálnu správu o incidente?

• A) Umelá inteligencia doplní neúplne zapamätané detaily primeraným spôsobom
• B) Zaznamenáva sa len skutočné pozorovanie; Umelá inteligencia nedokáže vymyslieť údaje ani detaily, chýbajúce miesta sú označené ✔
• C) Ak je text plynulý, čísla a udalosti pridané umelou inteligenciou sú akceptované bez overenia.
• D) Umelá inteligencia dokáže odhadnúť informácie o čase a polohe, nie je potrebné pozorovanie

Vysvetlenie: Úradné záznamy sú zákonným dôkazom a ich obsah musí presne zodpovedať pravde. Umelá inteligencia nemôže vymýšľať informácie o čase, mieste, rýchlosti a udalostiach; Jednoducho prevedie vaše pozorovanie do správnej vety. Chýbajúce miesto nie je vyplnené „primeranou fikciou“, je označené; Za presnosť a podpis je zodpovedný človek. V opačnom prípade hrozí falšovanie dokladov.

7. Ako by sa mala určiť stabilita lode (GM) a pozdĺžna pevnosť v pláne nakladania?

• A) Spoliehanie sa na približnú hodnotu GM a orezania danú umelou inteligenciou
• B) Vypočítané na schválenom nakladacom počítači a schválené vedúcim dôstojníkom/kapitánom ✔
• C) Odhadované na základe skúseností, bez použitia akýchkoľvek nástrojov
• D) Pozeráme sa len na celkovú hmotnosť, bez ohľadu na rozloženie hmotnosti

Popis: Stabilita a pevnosť sú kritické z hľadiska bezpečnosti; jedna chyba by mohla prevrhnúť loď alebo poškodiť trup. Tieto výpočty pochádzajú len zo schváleného nakladacieho počítača a schvaľuje ich hlavný dôstojník/kapitán. Hrubá hodnota GM daná AI nie je oficiálnym výpočtom; môže napríklad vynechať účinok voľnej tekutiny a falošne spôsobiť, že loď bude vyzerať „bezpečne“.

8. Aká by mala byť úloha umelej inteligencie v pravidlách oddeľovania a ukladania nebezpečného nákladu (IMDG)?

• A) Umelá inteligencia dáva presné pravidlo oddelenia a plán stohovania sa priamo aplikuje
• B) Pravidlá diskriminácie sú určené všeobecnými znalosťami umelej inteligencie, nie je potrebný žiadny formálny kód
• C) Umelá inteligencia usmerňuje, na ktorú sekciu sa treba pozrieť; presné pravidlo oddeľovania/skladania potvrdené z oficiálneho kódu IMDG ✔
• D) Pri nebezpečných nákladoch sa nevyžaduje žiadne pravidlo oddeľovania, všetky sa môžu stohovať

Vysvetlenie: Ak sú niektoré nebezpečné látky umiestnené vedľa seba, môžu reagovať a spôsobiť požiar alebo výbuch. AI vám môže pripomenúť, na ktoré číslo OSN a sekciu IMDG sa máte pozrieť; presné pravidlo oddeľovania/skladania však musí byť potvrdené z oficiálneho IMDG kódexu. AI môže poskytnúť zastarané alebo nesprávne pravidlo, takže konečné rozhodnutie určuje oficiálny kódex.

9. Ako by sa malo postupovať, keď AI označí anomáliu v údajoch snímača stroja (napríklad odchýlku teploty výfukových plynov valca)?

• A) Signál sa považuje za definitívnu poruchu a zariadenie sa okamžite zastaví.
• B) Signál je hypotéza; Vyhodnotí sa v kontexte, fyzicky overí a rozhodnutie o diagnóze a údržbe zostáva na hlavnom inžinierovi ✔
• C) Nie je potrebné dodatočné overovanie, pretože to hovorí umelá inteligencia
• D) Ak umelá inteligencia nič nehovorí, predpokladá sa, že zariadenie je absolútne zdravé

Vysvetlenie: Umelá inteligencia, ktorá hovorí, že „existuje anomália/porucha“ je hypotéza, nie diagnóza. Odchýlka sa najprv vyhodnotí v kontexte (môže to byť záťaž, vzduch, zmena rýchlosti), potom sa overí fyzicky (odčítanie meradiel, kontrola zariadenia) a rozhodnutie o diagnóze-údržbe zostáva na hlavnom inžinierovi. Navyše ticho umelej inteligencie nie je zárukou „žiadneho problému“.

10. Ako využiť umelú inteligenciu, keď sa v strojovni ozýva veľa alarmov (alarmových záplav) súčasne a aký je jej limit?

• A) Umelá inteligencia určí hlavnú príčinu a automaticky urobí rozhodnutie zastaviť stroj
• B) Umelá inteligencia vytvára hypotézu hlavnej príčiny; hypotéza je fyzicky overená a rozhodnutie zastaviť/zasiahnuť zostáva na inžinierovi ✔
• C) Ak je jeden z alarmov stíšený, prejdú aj ostatné, nie je potrebné overovanie.
• D) Poradie hlavnej príčiny AI je presné, aj keď sú časové pečiatky nesprávne

Popis: Porucha často spúšťa reťaz sekundárnych alarmov; Hlavná príčina je jediná. AI dokáže triediť protokol alarmov s časovou pečiatkou a generovať hypotézu hlavnej príčiny. Táto hypotéza však musí byť overená fyzickými indikátormi a rozhodnutia, ako je zastavenie stroja alebo deaktivácia bezpečnostnej jazdy, patria ľudskému inžinierovi; nie je možné automatizovať.

11. Ako by sa mala používať AI, keď sa v právnych predpisoch, ako je SOLAS, vyžaduje presné číslo výrobku alebo číselný prah?

• A) Číslo položky a prah daný umelou inteligenciou sú zapísané priamo do správy.
• B) Sprievodcovia umelou inteligenciou; Presná látka a prahová hodnota sa čítajú a potvrdzujú z aktuálneho oficiálneho zdroja ✔
• C) Keďže pravidlá sa nemenia, poznatky umelej inteligencie sú vždy aktuálne.
• D) Povedať „umelá inteligencia to povedala“ je platný základ v audite

Popis: Umelá inteligencia dokáže presvedčivo vymyslieť číslo položky, dátum alebo prahovú hodnotu, ktorá v skutočnosti neexistuje (halucinuje) a pravidlá sa neustále aktualizujú. Preto sa AI používa len ako vodítko, na ktorú zmluvu/kódex a tému sa treba pozrieť; Verdikt sa vždy číta z aktuálneho oficiálneho zdroja. V audite „umelá inteligencia to povedala“ nemá žiadnu platnosť.

12. Aká je úloha umelej inteligencie/automatizácie pri rozhodovaní o manévri vyhýbania sa zrážke mosta (COLREG)?

• A) Systém vydá príkaz na manéver a dôstojník ho vykoná
• B) Systém uprednostňuje ciele a upriamuje pozornosť; Rozhodnutie o manévri patrí dôstojníkovi a kapitánovi v rámci COLREG ✔
• C) Stačí sa spoľahnúť na AIS; Radarové a vizuálne potvrdenie sa nevyžaduje
• D) Dôstojník môže opustiť kontrolu, pretože automatizácia funguje spoľahlivo

Popis: Moderné systémy dokážu vypočítať CPA/TCPA a určiť priority cieľov; To je cenné pri usmerňovaní pozornosti dôstojníka. Rozhodnutie o manévri - koľko stupňov, kedy, ktorým smerom - však patrí strážnikovi a kapitánovi v rámci COLREG a dobrej námornej praxe. Aj keď systém povie „prejdi bezpečne“, zodpovednosť za kolíziu nesie dôstojník, ktorý manéver vykonal alebo nevykonal.

13. Prečo je na moste nebezpečná „spokojnosť s automatizáciou“ (prílišné spoliehanie sa na automatizáciu)?

• A) Nie je nebezpečný; Ak je systém spoľahlivý, nie je potrebné sa pozerať vizuálne.
• B) Znižuje ľudskú pozornosť a vytvára závislosť na jedinom zdroji; Chýbajúce údaje, ako napríklad loď bez AIS, môžu chýbať ✔
• C) Je to problém len preto, že zvyšuje spotrebu paliva.
• D) Viditeľné len na starých lodiach, na moderných mostoch žiadne riziko nehrozí

Vysvetlenie: Keďže systémy fungujú spoľahlivo, ľudská pozornosť môže slabnúť a kontrola môže byť opustená. keďže malá loď bez AIS je viditeľná iba pre radar a oči; Systém pracuje s neúplnými údajmi. Preto by sa radar, AIS, ECDIS a oko mali vzájomne potvrdzovať, a keď sú zdroje oddelené, za základ by sa mala brať najnebezpečnejšia interpretácia.

14. Aká zásada platí pred zadaním polohy lode, zoznamu nákladu alebo informácií o posádke do nástroja AI?

• A) Citlivé údaje je možné z dôvodu rýchlosti vložiť priamo do verejnej služby
• B) Klasifikácia údajov nie je potrebná; Akékoľvek údaje je možné zadať do akéhokoľvek vozidla
• C) citlivé údaje sa spracúvajú iba v schválených, bezpečných nástrojoch a v prípade potreby sa maskujú; kritické systémy sú izolované ✔
• D) Údaje o posádke a obchodné údaje nie sú citlivé a nie je potrebné ich chrániť

Vysvetlenie: Údaje nahrané do nástroja AI sa môžu vymknúť spod kontroly. Trasa, podrobnosti o náklade, obchodné zmluvy a osobné údaje posádky sú citlivé; Mal by sa spracovávať iba v schválených, bezpečných vozidlách a podľa potreby maskovať. Vkladanie citlivých údajov do verejnej služby „pre pohodlie“ je vážnym narušením bezpečnosti a súkromia. Okrem toho sú kritické navigačné/strojové systémy izolované.

15. Aký je najefektívnejší spôsob, ako konzistentne a bezpečne používať AI od začiatku až do konca kampane?

• A) Vytvorte vrstvený rámec, ktorý v každej fáze umiestni ľudskú overovaciu bránu a záznam rozhodnutí ✔
• B) Delegovanie všetkých rozhodnutí o expedícii na jediný nástroj AI a pohľad na koniec
• C) Odstráňte prechodné overenia rýchlosti a skontrolujte ich až pri príchode
• D) Každý príslušník môže voľne používať svoje vozidlo bez toho, aby viedol evidenciu rozhodnutí.

Opis: Plavba je chápaná ako reťaz s ľudskou overovacou bránou a prechodnými podmienkami umiestnenými v každej fáze (plánovanie, vzduch, náklad, stroje, dokumentácia, legislatíva, most); Nemôžete prejsť cez jedny dvere bez toho, aby ste neprešli cez druhé. Každé dvere zanechávajú záznam o rozhodnutí. Táto vrstvená štruktúra zabraňuje úniku jedinej chyby AI do expedície alebo správy a poskytuje obhajobu pri audite.