Kompleksowy przepływ pracy, zarządzanie statkami, bezpieczeństwo cybernetyczne i odpowiedzialne użytkowanie — Sztuczna inteligencja w transporcie morskim (maszyny pokładowe i okrętowe)

Zyski:

Możliwość konsekwentnego wdrażania sztucznej inteligencji na każdym etapie kampanii, od początku do końca, z ludzkimi bramkami weryfikacyjnymi i zapisami decyzji
Możliwość ustanowienia ram zarządzania spółką okrętową, w tym listy zatwierdzonych pojazdów, klasyfikacji danych, integracji ISM, bezpieczeństwa cybernetycznego (izolacja systemu krytycznego, poufność danych, redundancja)
Możliwość włączenia do przepływu pracy zasad odpowiedzialności ludzkiej, przejrzystości, unikania nadmiernych roszczeń, priorytetu bezpieczeństwa i środowiska oraz zasad poufności

Poprzednie jednostki przetwarzały sztuczną inteligencję indywidualnie w zakresie tras, paliwa, pogody, dokumentacji, ładunku, monitorowania maszyn, diagnostyki, prawodawstwa i wspomagania decyzji na mostku. Ta jednostka łączy w sobie wszystko: potrafi konsekwentnie, w sposób kontrolowany i bezpieczny pozycjonować sztuczną inteligencję od początku do końca kampanii. Jak statek i firma sobie z tym radzą? W jaki sposób chronione są same te narzędzia (dane, łączność, cyberbezpieczeństwo)? Celem jest ustanowienie ram, które uchwyciłyby wartość sztucznej inteligencji w transporcie morskim, nie zapominając jednocześnie o jej krytycznym znaczeniu dla bezpieczeństwa.

Kompleksowy przepływ pracy: bramki weryfikacyjne przez człowieka

Pomyśl o wyprawie jak o łańcuchu; Umieść bramkę weryfikacji przez człowieka (punkt, w którym człowiek potwierdza, że warunek został spełniony przed przejściem) na każdym pierścieniu:

Planowanie podróży: AI generuje trasę/alternatywę paliwową → Brama: kapitan potwierdza i potwierdza UKC/no-go i ograniczenia w ECDIS.
Monitoring pogody: podsumowania prognoz AI → Brama: wiele źródeł + oficjalne potwierdzenie ostrzeżenia, decyzja o schronieniu należy do kapitana.
Ładunek: Zalecenia dotyczące rozmieszczenia YZ → Drzwi: komputer załadunkowy z zatwierdzeniem stabilności/wytrzymałości, zatwierdzeniem starszego oficera.
Maszyna: Znak anomalii AI → Drzwi: weryfikacja fizyczna, diagnostyka i decyzja dotycząca konserwacji zależą od głównego inżyniera.
Dokumentacja: Plany AI → Brama: weryfikacja prawdziwych danych i podpis u człowieka.
Ustawodawstwo: AI kieruje → Brama: przepis został zweryfikowany na podstawie oficjalnego źródła.
Mostek: AI ustala priorytety → Brama: Decyzja o manewrach i nawigacji COLREG leży w rękach oficera.

Zasada: nie przechodząc przez jedne drzwi, nie możesz przejść do następnych. Ta warstwowa struktura zapobiega przedostawaniu się pojedynczego błędu sztucznej inteligencji do wyprawy lub raportu. Każde drzwi pozostawiają zapis: co zaproponowano, kto to potwierdził, co postanowiono.

Wskazówka: prowadź krótki „dziennik decyzji” dla każdego użycia sztucznej inteligencji: jakie narzędzie, jakie dane wejściowe, co powiedziała sztuczna inteligencja, jak to zweryfikowano, kto to zatwierdził. Podczas dochodzenia lub audytu wypadku ten zapis chroni Cię i umożliwia ciągłe doskonalenie.

Zarządzanie spółką okrętową

Narzędzia AI nie powinny być używane przypadkowo, ale w ramach:

Lista zatwierdzonych narzędzi: które narzędzia AI są zatwierdzone do jakich zadań? Wrażliwe dane nie są przesyłane do przypadkowych narzędzi i usług publicznych.
Klasyfikacja danych: Manifest towarowy, trasa, umowy handlowe, dane osobowe załogi są wrażliwe; Określono, które dane dokąd trafiają.
Rola i uprawnienia: kto może wykorzystać sztuczną inteligencję w jakiej decyzji, kto ją zatwierdza? Kapitan i główny inżynier mają ostateczne zdanie.
Szkolenie: Załoga musi znać ograniczenia AI (halucynacje, niejednoznaczność, weryfikacja); Dyscypliny się uczy, a nie narzędzi.
Integracja z ISM: zastosowanie sztucznej inteligencji jest proceduralnie dodawane do systemu zarządzania bezpieczeństwem statku (ISM); staje się kontrolowalne.
Weryfikacja ciągła: Monitorowana jest wydajność pojazdów; Nieprawidłowe sugestie są rejestrowane, a narzędzie lub sposób jego użycia zostaje zweryfikowany.

Cyberbezpieczeństwo: statek na uwięzi jest celem

Nowoczesny statek to system połączony: aktualizacje ECDIS, łączność satelitarna, zdalny monitoring, usługi AI. To połączenie jest powierzchnią ataku. Nie można zaniedbać cyberbezpieczeństwa morskiego (związanego również z wytycznymi IMO dotyczącymi zarządzania ryzykiem cybernetycznym na statkach i ISM):

Izoluj krytyczne systemy nawigacji/maszyny: systemy takie jak ECDIS i sterowanie maszynami są oddzielone od Internetu i narzędzi sztucznej inteligencji.
Prywatność danych: dane dotyczące tras, ładunków i danych handlowych nie mogą wyciekać do niezabezpieczonych usług AI; maskę, jeśli to konieczne.
Ryzyko manipulacji: sygnał GPS/AIS może być fałszywy; W przypadku tych uszkodzonych danych sztuczna inteligencja generuje błędne sugestie. Bezpieczeństwo wejścia jest warunkiem wstępnym bezpieczeństwa wyjścia.
Redundancja: w przypadku awarii systemu lub incydentu cybernetycznego, zachowana zostaje tradycyjna nawigacja (mapa papierowa, podstawowa procedura).

Uwaga: wszelkie dane ładowane do narzędzia AI mogą wymknąć się spod Twojej kontroli. Lokalizacja statku, szczegóły ładunku, informacje o załodze i tajemnice handlowe; przetwarzane w zatwierdzony, bezpieczny i w razie potrzeby zamaskowany sposób. Wklejanie wrażliwych danych do usługi publicznej „dla wygody” stanowi poważne naruszenie bezpieczeństwa i prywatności.

Etyczne i odpowiedzialne użytkowanie

Odpowiedzialność człowieka: każdą decyzję o znaczeniu krytycznym dla bezpieczeństwa podejmuje kompetentny człowiek; Wyniki AI nie zastępują jej zatwierdzenia.
Przejrzystość: gdy wykorzystywana jest sztuczna inteligencja (szczególnie w raportach i analizach), jest ona wyrażana uczciwie.
Unikanie zawyżania: Niejasne szacunki nie są przedstawiane jako pewne; Poziom zaufania wyrażany jest szczerze.
Priorytet dotyczący środowiska i bezpieczeństwa: Zysk komercyjny nigdy nie jest ważniejszy niż bezpieczeństwo na morzu i ochrona środowiska.
Prywatność: Dane załogi i handlowe są chronione.

trzy mini etui

Przypadek 1 — System drzwi zatrzymuje błąd. Na statku sztuczna inteligencja sugeruje sposób na zaoszczędzenie atrakcyjnego paliwa; ale na „bramce planowania podróży” kapitan znajduje błąd w potwierdzeniu ECDIS i odrzuca propozycję. Wielopoziomowe drzwi zapobiegają przedostawaniu się robaka do morza. Zapis decyzji dokumentuje, że proces przebiega prawidłowo.

Przypadek 2 — zapobiega się wyciekom danych. Funkcjonariusz ma zamiar wkleić manifest ładunku do publicznej usługi AI; Polityka firmy (atestowane narzędzie + maskowanie) temu zapobiega. Dane biznesowe są chronione. Lekcja: ramy zarządzania zapobiegają zachowaniom mającym dobre intencje, ale ryzykownym.

Przypadek 3 – Fałszywy sygnał GPS. Na danym obszarze dochodzi do fałszowania sygnału GPS; AI zaleca nieprawidłową korektę kursu z uszkodzonymi danymi lokalizacji. Zespół potwierdza lokalizację niezależnymi metodami (radar, oko, namiar krzyżowy), zauważa odchylenie i odrzuca propozycję AI. Lekcja: jeśli dane wejściowe są uszkodzone, dane wyjściowe również są uszkodzone; Niezależna weryfikacja i redundancja ratują życie.

Cztery szablony do kopiowania

1) Koniec audytu wykorzystania AI w kampanii:

Tym razem użyłem AI do: [lista]. Przygotuj tabelę zapisów decyzji dla każdego: pracy, użytego narzędzia, danych wejściowych, wyników AI, sposobu weryfikacji, kto zatwierdził, wynik. Zaznacz te, które pozostają brakujące/niezweryfikowane.

2) Projekt polityki wykorzystania AI:

Napisz PROJEKT procedury „odpowiedzialnego korzystania z AI” dla naszego statku: zatwierdzone narzędzia, klasyfikacja danych, kto zatwierdza jaką decyzję, obowiązek weryfikacji, zasady cyberbezpieczeństwa i prywatności. Uwaga: ta wersja robocza zostanie zatwierdzona przez zespół DPA/ISM firmy.

3) Kontrola maskowania danych:

Przed wprowadzeniem następującego tekstu do narzędzia AI sprawdź, czy nie ma wrażliwych danych: [tekst]. Zaproponuj lokalizację statku, szczegóły ładunku, dane osobowe, tajemnicę handlową i sposób, w jaki mogę ją zamaskować. Jeśli nie jesteś pewien, powiedz „nie wchodź, najpierw sprawdź”.

4) Scenariusz ćwiczeń w zakresie cyberbezpieczeństwa/redundancji:

Stwórz scenariusz incydentu cybernetycznego lub awarii systemu w systemach mostowych/maszynowych; Napisz pięcioetapowy zarys ćwiczenia i pytania do dyskusji, które pomogą załodze przećwiczyć przejście do tradycyjnej nawigacji/zarządzania silnikiem.

Słaba zachęta/silna zachęta

Słaba zachęta:

Jak korzystać ze sztucznej inteligencji na statku?

Bardzo ogólne; Nie ma wymiaru bezpieczeństwa, danych, zarządzania i weryfikacji.

Potężny monit:

Twoja rola: konsultant ds. cyfryzacji statków. Typ statku [x], firma powiązana z zarządzaniem flotą. Zadanie: opracować kompleksowe ramy wykorzystania sztucznej inteligencji w zakresie tras, paliwa, śledzenia maszyn i dokumentacji: bramka weryfikacyjna na każdym etapie, zasady dotyczące zatwierdzonych pojazdów i danych, środki bezpieczeństwa cybernetycznego, rejestrowanie decyzji. Podkreśl, że decyzje krytyczne dla bezpieczeństwa pozostają podejmowane przez człowieka, a sztuczna inteligencja nie zastępuje zatwierdzenia. Zaznacz obszary, które są niejasne/wymagają zgody firmy.

Wymaganie bramek, zarządzania i cyberbezpieczeństwa sprawia, że wyniki są przydatne w przedsiębiorstwie.

Stół ramowy typu end-to-end

Scena

Wkład AI

bramka weryfikacyjna człowieka

Planowanie wyprawy

Trasa/alternatywne paliwo

Zatwierdzenie ECDIS kapitana

monitorowanie pogody

Podsumowanie prognozy

Wiele zasobów + kapitan

ładunek

Rekomendacja stosu

Komputer ładujący + pierwszy oficer

maszyna

znak anomalii

Potwierdzenie fizyczne + główny inżynier

Dokumentacja

projekt

Prawdziwe dane + podpis

ustawodawstwo

przekierować

Oficjalne potwierdzenie źródła

most

priorytetyzacja

Decyzja COLREG, funkcjonariuszu

Typowe błędy

Omijanie bramek weryfikacyjnych. Usunięcie pośrednich potwierdzeń szybkości umożliwi przedostanie się pojedynczego błędu do wyprawy.
Brak ewidencji decyzji. Jeżeli nie ma żadnych zapisów, obrona i doskonalenie audytu i dochodzenia stają się trudne.
Przekazywanie wrażliwych danych niezabezpieczonemu narzędziu. Trasa, ładunek, dane osobowe przetwarzane są za zgodą i maskowaniem.
Nie izolowanie systemów krytycznych. Sterowanie ECDIS/maszynami jest oddzielone od Internetu i narzędzi sztucznej inteligencji.
Zaniedbanie redundancji. W przypadku incydentu systemowego/cybernetycznego należy zachować konwencjonalne możliwości nawigacyjne.
Stawianie zysku komercyjnego ponad bezpieczeństwo. Bezpieczeństwo i środowisko są zawsze priorytetem.

Podsumowując

Kluczem do kompleksowego wykorzystania sztucznej inteligencji w transporcie morskim jest wielowarstwowa struktura, która na każdym etapie umieszcza bramkę weryfikacyjną przez człowieka i zapis decyzji. Ramy te uzupełniają zarządzanie armatorem (zatwierdzony instrument, klasyfikacja danych, rola, szkolenie, integracja ISM), cyberbezpieczeństwo (izolacja systemów krytycznych, poufność danych, bezpieczeństwo danych wejściowych, redundancja) i zasady odpowiedzialnego użytkowania (odpowiedzialność człowieka, przejrzystość, unikanie nadmiernych stwierdzeń, priorytet bezpieczeństwa, poufność). Sztuczna inteligencja tworzy prawdziwą wartość w transporcie; Jednak decyzje dotyczące bezpieczeństwa są zawsze podejmowane przez kompetentnego człowieka, a wyniki sztucznej inteligencji nie zastępują tej zgody.

Zadanie aplikacji

Rozważ wyprawę od początku do końca na własnym statku. Dla każdego etapu (planowanie, transport lotniczy, ładunek, maszyny, dokumentacja, regulacje, most) wypełnij jednowierszową tabelę „co robi sztuczna inteligencja / czym jest ludzka brama / jak mogę zweryfikować / kto zatwierdza”. Następnie dodaj miarę „maskowania danych” i „cyber/nadmiarowości”. Na koniec utwórz szablon protokołu decyzji, który tym razem będziesz przechowywać.

lista kontrolna

[ ] Na każdym etapie umieściłem ludzką bramkę weryfikacyjną.
[ ] Prowadziłem rejestr decyzji dotyczących każdego zastosowania sztucznej inteligencji.
[ ] Przestrzegałem zatwierdzonych zasad klasyfikacji narzędzi i danych; Chroniłem/maskowałem wrażliwe dane.
[ ] Odizolowałem krytyczne systemy nawigacji/maszyny i utrzymałem zdolność redundancji.
[ ] Zapewniłem, że decyzje krytyczne dla bezpieczeństwa są podejmowane przez kompetentnego człowieka i nie zastępują zgody AI.

Egzamin modułowy

1. Które z poniższych jest najdokładniejszym pozycjonowaniem sztucznej inteligencji na morzu?

A) Sztuczna inteligencja jest narzędziem wspierającym podejmowanie decyzji; Odpowiedzialność za decyzje krytyczne dla bezpieczeństwa, takie jak potwierdzenie trasy, manewry i decyzje dotyczące maszyn, spoczywa na kapitanie i głównym inżynierze ✔
B) Ponieważ sztuczna inteligencja jest bardziej niezawodna niż ludzie na morzu, decyzje dotyczące trasy i manewrów należy jej pozostawić.
C) Sztuczna inteligencja zajmuje się jedynie streszczaniem tekstu, nie ma ona nic wspólnego z nawigacją i pracą maszyn
D) Sztuczna inteligencja może wprowadzić trasę do ECDIS i wykonać ją bez zgody człowieka

Opis: Morze jest obszarem o znaczeniu krytycznym dla bezpieczeństwa; Sztuczna inteligencja to narzędzie wspomagające podejmowanie decyzji, które oszczędza czas związany z trasą, paliwem, pogodą, dokumentacją, monitorowaniem maszyn i przepisami. Jednakże to kapitan i główny inżynier są prawnie odpowiedzialni za bezpieczeństwo na morzu, środowisko i ochronę mienia; manewrowanie, zatrzymywanie maszyn i decyzje w sytuacjach awaryjnych są podejmowane przez człowieka, a wyniki sztucznej inteligencji nie zastępują zgody kompetentnego eksperta.

2. Jaki jest najważniejszy krok, jaki należy wykonać przed wykonaniem trasy alternatywnej sugerowanej przez sztuczną inteligencję?

A) Sprawdź trasę pod kątem obszarów zakazanych w ECDIS i UKC i zatwierdź ją przez kapitana ✔
B) Bezpośrednie wykonywanie, bez wykonywania dodatkowych kontroli, jak to oblicza sztuczna inteligencja
C) Upewnij się, że wybierasz tylko najkrótszą odległość
D) Przejście na ten, który oszczędza najwięcej paliwa, bez sprawdzania trasy w ogóle

Opis: Trasa wygenerowana przez sztuczną inteligencję jest szkicem i nie została zweryfikowana na oficjalnej mapie. Żadna trasa nie zostanie wyznaczona bez sprawdzenia w ECDIS obszarów zakazanych i prześwitu pod stępką (UKC) podczas przypływu. Oszczędność czasu/paliwa nigdy nie przewyższy tego potwierdzenia bezpieczeństwa.

3. Jakie jest najdokładniejsze podejście, gdy sztuczna inteligencja przewiduje zużycie w celu optymalizacji paliwa?

A) Zakładając ogólny model statku i prosząc o najniższe zużycie paliwa bez podawania ograniczeń
B) Oparcie szacunków na rzeczywistej krzywej wydajności statku i podanie ograniczeń handlowo-prawnych ✔
C) Zastosowanie pierwszej liczby nadanej przez sztuczną inteligencję bez jej weryfikacji
D) Wystarczy zmniejszyć prędkość; Czarter i okno portowe nie mają znaczenia

Wyjaśnienie: Przewidywania powstałe na podstawie założenia ogólnego „modelu statku” mogą poważnie zaszkodzić Twojemu statkowi. Szacunek powinien opierać się na rzeczywistej krzywej wydajności statku (dane z prób morskich i eksploatacji); Dodatkowo należy podać ograniczenia handlowo-prawne, takie jak minimalna prędkość czarteru i okno portowe. Zmiany trymu/prędkości są również stosowane za zgodą człowieka na granicy stabilności i stanu maszyny.

4. Co można powiedzieć o wartości CII (wskaźnika intensywności emisji dwutlenku węgla) obliczonej przez sztuczną inteligencję?

A) Można zgłosić bezpośrednio jako oficjalny raport CII
B) To tylko przepowiednia; Oficjalny raport sporządzany jest zatwierdzoną metodą i musi być potwierdzony aktualnym źródłem ✔
C) To zawsze prawda, ponieważ obliczenia sztucznej inteligencji są lepsze niż ludzkie
D) Nie ma potrzeby potwierdzania, ponieważ progi emisji nigdy się nie zmieniły

Wyjaśnienie: Dane dotyczące emisji, takie jak CII, są oficjalnymi wynikami uzyskanymi na podstawie zatwierdzonych metod i zweryfikowanych danych. Wartość podana przez sztuczną inteligencję jest jedynie przewidywaniem; może użyć starego współczynnika lub wywołać halucynacje. Nie można go używać jako oficjalnego raportu i należy go potwierdzić w oparciu o aktualne oficjalne źródło.

5. Co sprawia, że sztuczna inteligencja jest najcenniejsza w ocenie pogody i stanu morza?

A) W oparciu o jeden model i podając dokładną wysokość fali
B) Ukrywanie niepewności i przedstawianie każdej prognozy jako pewności
C) Porównanie różnych modeli i uwidocznienie separacji i niepewności ✔
D) Zastępuje oficjalne ostrzeżenia morskie i czyni je niepotrzebnymi.

Wyjaśnienie: Prognozowanie pogody jest probabilistyczne, a najważniejszą wielkością jest niepewność. Sztuczna inteligencja jest najcenniejsza, gdy porównuje różne modele i uwidacznia rozbieżności (a tym samym niepewność); Dzięki temu planowanie jest bezpieczne. Ukrywanie niepewności i przedstawianie głównej prognozy jako pewności jest niebezpieczne.

6. Jaka jest niezmienna zasada podczas przygotowywania treści wykorzystujących sztuczną inteligencję do dziennika rejsu lub oficjalnego raportu z incydentu?

A) Posiadanie sztucznej inteligencji uzupełnia w rozsądny sposób nie do końca zapamiętane szczegóły
B) Rejestruje się tylko rzeczywistą obserwację; Sztuczna inteligencja nie może dopisywać danych ani szczegółów, brakujące miejsca są zaznaczone ✔
C) Jeżeli tekst jest płynny, liczby i zdarzenia dodane przez sztuczną inteligencję są akceptowane bez weryfikacji.
D) Sztuczna inteligencja może oszacować informacje o czasie i lokalizacji, nie ma potrzeby obserwacji

Wyjaśnienie: Oficjalne protokoły są dowodem prawnym i ich treść musi w pełni odpowiadać prawdzie. Sztuczna inteligencja nie jest w stanie sfabrykować informacji o czasie, lokalizacji, prędkości i zdarzeniu; Po prostu tłumaczy faktyczną obserwację, którą podajesz, na właściwe zdanie. Brakujące miejsce nie jest wypełniane „rozsądną fikcją”, jest ono zaznaczane; Odpowiedzialność za dokładność i podpis spoczywa na człowieku. W przeciwnym razie istnieje ryzyko sfałszowania dokumentów.

7. Jak w planie załadunku należy określić stateczność (GM) i wytrzymałość wzdłużną statku?

A) Opierając się na przybliżonych wartościach GM i wykończenia podanych przez sztuczną inteligencję
B) Obliczone na zatwierdzonym komputerze załadunkowym i zatwierdzone przez starszego oficera/kapitana ✔
C) Oszacowane na podstawie doświadczenia, bez użycia jakichkolwiek narzędzi
D) Patrzy się tylko na masę całkowitą, bez uwzględnienia rozkładu masy

Opis: Stabilność i wytrzymałość mają kluczowe znaczenie dla bezpieczeństwa; jeden błąd może przewrócić statek lub uszkodzić kadłub. Obliczenia te pochodzą wyłącznie z zatwierdzonego komputera załadunkowego i są zatwierdzane przez starszego oficera/kapitana. Przybliżona wartość GM podana przez sztuczną inteligencję nie jest oficjalną kalkulacją; na przykład może pominąć efekt wolnego płynu i fałszywie sprawić, że statek będzie wyglądał na „bezpieczny”.

8. Jaka powinna być rola sztucznej inteligencji w zasadach separacji i składowania ładunków niebezpiecznych (IMDG)?

A) Sztuczna inteligencja podaje dokładną regułę separacji i plan układania jest bezpośrednio stosowany
B) Zasady dyskryminacji wyznacza ogólna wiedza o sztucznej inteligencji, nie jest potrzebny żaden formalny kodeks
C) Sztuczna inteligencja wskazuje, którą sekcję należy obejrzeć; dokładna zasada separacji/układania potwierdzona na podstawie oficjalnego kodu IMDG ✔
D) W przypadku ładunków niebezpiecznych nie jest wymagana zasada separacji, wszystkie można układać w stosy

Wyjaśnienie: Jeżeli obok siebie zostaną umieszczone niektóre niebezpieczne substancje, mogą one zareagować i spowodować pożar lub eksplozję. AI może przypomnieć Ci, na który numer ONZ i sekcję IMDG należy zwrócić uwagę; jednakże dokładna zasada separacji/układania musi zostać potwierdzona w oficjalnym Kodeksie IMDG. Sztuczna inteligencja może podać przestarzałą lub niepoprawną zasadę, więc ostateczną decyzję określa oficjalny kodeks.

9. Jak należy postępować, gdy sztuczna inteligencja sygnalizuje anomalię w danych z czujników maszyny (np. odchylenie temperatury spalin w cylindrze)?

A) Sygnał uznaje się za ostateczną usterkę i urządzenie zostaje natychmiast zatrzymane.
B) Sygnał jest hipotezą; Jest oceniany w kontekście, weryfikowany fizycznie, a decyzja w sprawie diagnozy i konserwacji pozostaje w gestii głównego inżyniera ✔
C) Nie ma potrzeby dodatkowej weryfikacji, bo tak mówi sztuczna inteligencja
D) Jeśli sztuczna inteligencja nic nie mówi, zakłada się, że sprzęt jest całkowicie zdrowy

Wyjaśnienie: Sztuczna inteligencja stwierdzająca, że „występuje anomalia/awaria” jest hipotezą, a nie diagnozą. Odchylenie jest najpierw oceniane kontekstowo (czy może to być obciążenie, powietrze, zmiana prędkości), następnie jest weryfikowane fizycznie (odczyt miernika, sprawdzenie sprzętu), a decyzja w sprawie diagnozy i konserwacji pozostaje w gestii głównego inżyniera. Dodatkowo milczenie sztucznej inteligencji nie gwarantuje, że „nie ma problemu”.

10. Jak wykorzystać sztuczną inteligencję, gdy w maszynowni włącza się jednocześnie wiele alarmów (zalewów alarmowych) i jaki jest jej limit?

A) Sztuczna inteligencja określa pierwotną przyczynę i automatycznie podejmuje decyzję o zatrzymaniu maszyny
B) Sztuczna inteligencja generuje hipotezę o pierwotnej przyczynie; hipoteza jest weryfikowana fizycznie, a decyzja o zatrzymaniu/interweniowaniu pozostaje w gestii inżyniera ✔
C) Jeżeli jeden z alarmów zostanie wyciszony, pozostałe również miną, nie ma potrzeby weryfikacji.
D) Ranking głównych przyczyn AI jest dokładny, nawet jeśli znaczniki czasu są nieprawidłowe

Opis: Usterka często wyzwala łańcuch alarmów wtórnych; Podstawowa przyczyna jest pojedyncza. Sztuczna inteligencja może sortować dziennik alarmów ze znacznikami czasu i generować hipotezę o pierwotnej przyczynie. Jednakże hipotezę tę należy zweryfikować za pomocą wskaźników fizycznych, a decyzje takie jak zatrzymanie maszyny lub wyłączenie wyłączenia awaryjnego należą do człowieka-inżyniera; nie da się zautomatyzować.

11. Jak należy stosować sztuczną inteligencję, jeżeli przepisy takie jak SOLAS wymagają dokładnego numeru artykułu lub progu liczbowego?

A) Numer pozycji i próg podany przez sztuczną inteligencję są zapisywane bezpośrednio w raporcie.
B) Poradniki dotyczące sztucznej inteligencji; Dokładna substancja i próg są odczytywane i potwierdzane z aktualnego oficjalnego źródła ✔
C) Ponieważ zasady się nie zmieniają, wiedza sztucznej inteligencji jest zawsze aktualna.
D) Stwierdzenie „sztuczna inteligencja tak powiedziała” stanowi ważną podstawę audytu

Opis: Sztuczna inteligencja może w przekonujący sposób wymyślić numer przedmiotu, datę lub wartość progową, która w rzeczywistości nie istnieje (halucynacje), a zasady są stale aktualizowane. Dlatego sztuczna inteligencja służy jedynie jako wskazówka, którą umowę/kodeks i temat należy sprawdzić; Werdykt jest zawsze odczytywany z aktualnego oficjalnego źródła. W audycie stwierdzenie „sztuczna inteligencja tak powiedziała” nie ma żadnego uzasadnienia.

12. Jaka jest rola sztucznej inteligencji/automatyzacji w podejmowaniu decyzji o manewrze unikania kolizji na moście (COLREG)?

A) System wydaje rozkaz manewru, a funkcjonariusz go wykonuje
B) System nadaje priorytet celom i kieruje uwagę; Decyzja o manewrze należy do oficera i kapitana w ramach COLREG ✔
C) Wystarczy polegać na AIS; Potwierdzenie radarowe i wizualne nie jest wymagane
D) Funkcjonariusz może opuścić kontrolę, ponieważ automatyka działa niezawodnie

Opis: Nowoczesne systemy potrafią obliczać CPA/TCPA i ustalać priorytety celów; Jest to cenne w kierowaniu uwagą funkcjonariusza. Jednakże decyzja o manewrze – o ile stopni, kiedy, w jakim kierunku – należy do oficera wachtowego i kapitana w ramach COLREG i dobrej praktyki morskiej. Nawet jeśli system powie „przejedź bezpiecznie”, odpowiedzialność za kolizję ponosi funkcjonariusz, który wykonał lub nie wykonał manewru.

13. Dlaczego „samozadowolenie z automatyzacji” (nadmierne poleganie na automatyce) jest niebezpieczne na moście?

A) To nie jest niebezpieczne; Jeśli system jest niezawodny, nie ma potrzeby patrzeć wizualnie.
B) Ogranicza ludzką uwagę i powoduje zależność od jednego źródła; Brakujące dane, takie jak łódź bez AIS, mogą zostać pominięte ✔
C) Jest to problem tylko dlatego, że zwiększa zużycie paliwa.
D) Widoczne tylko na starych statkach, na nowoczesnych mostach nie ma zagrożenia

Wyjaśnienie: Ponieważ systemy działają niezawodnie, ludzka uwaga może osłabnąć, a kontrola może zostać porzucona. mając na uwadze, że mała łódź bez AIS jest widoczna tylko dla radaru i oczu; System działa z niekompletnymi danymi. Dlatego radar, AIS, ECDIS i oko powinny się wzajemnie potwierdzać, a w przypadku rozdzielenia źródeł należy przyjąć za podstawę najbardziej niebezpieczną interpretację.

14. Jaka zasada ma zastosowanie przed wprowadzeniem lokalizacji statku, manifestu ładunku lub informacji o załodze do narzędzia AI?

A) Wrażliwe dane można wkleić bezpośrednio do usługi publicznej, aby przyspieszyć
B) Klasyfikacja danych jest niepotrzebna; Do dowolnego pojazdu można wprowadzić dowolne dane
C) Dane wrażliwe są przetwarzane wyłącznie w zatwierdzonych, bezpiecznych narzędziach i w razie potrzeby maskowane; systemy krytyczne są izolowane ✔
D) Dane załogi i dane handlowe nie są wrażliwe i nie muszą być chronione

Wyjaśnienie: Dane przesłane do narzędzia AI mogą wymknąć się spod kontroli. Trasa, szczegóły ładunku, umowy handlowe i dane osobowe załogi są wrażliwe; Należy go przetwarzać wyłącznie w zatwierdzonych, bezpiecznych pojazdach i, jeśli to konieczne, zamaskować. Wklejanie wrażliwych danych do usług publicznych „dla wygody” stanowi poważne naruszenie bezpieczeństwa i prywatności. Ponadto izolowane są krytyczne systemy nawigacji/maszyny.

15. Jaki jest najskuteczniejszy sposób spójnego i bezpiecznego korzystania ze sztucznej inteligencji od początku do końca kampanii?

A) Ustanów warstwową strukturę, która na każdym etapie umieszcza bramkę weryfikacyjną i zapis decyzji przez człowieka ✔
B) Delegowanie wszystkich decyzji dotyczących wypraw do jednego narzędzia AI i podsumowanie
C) Usuń pośrednie weryfikacje prędkości i sprawdź tylko po przybyciu na miejsce
D) Każdy funkcjonariusz może swobodnie korzystać z własnego pojazdu bez prowadzenia ewidencji decyzji.

Opis: Rejs postrzegany jest jako łańcuch, z bramką weryfikacyjną przez człowieka i warunkiem przejściowym umieszczonym na każdym etapie (planowanie, lotnictwo, ładunek, maszyny, dokumentacja, ustawodawstwo, most); Nie można przejść przez jedne drzwi, nie przechodząc przez drugie. Każde drzwi pozostawiają zapis decyzji. Ta warstwowa struktura zapobiega przedostawaniu się pojedynczego błędu sztucznej inteligencji do wyprawy lub raportu i zapewnia bezpieczeństwo podczas audytu.