Zyski:
- Możliwość rozróżnienia, gdzie sztuczna inteligencja oszczędza czas w pracy na morzu (trasa, paliwo, pogoda, dokumentacja, maszyny, przepisy), a gdzie decyzje dotyczące manewrów i bezpieczeństwa pozostawia się kapitanowi i głównemu inżynierowi, w zależności od poziomu ryzyka.
- Umiejętność zastosowania dyscypliny weryfikującej każdy wynik sztucznej inteligencji poprzez etapy podłączenia go do źródła, potwierdzenia za pomocą niezależnego narzędzia i poddania interpretacji eksperckiej.
- Umiejętność zrozumienia, że ze względu na krytyczny charakter bezpieczeństwa morskiego wyniki sztucznej inteligencji nie zastępują zgody kompetentnego eksperta i że ostateczna odpowiedzialność spoczywa na człowieku.
Jesteś na mostku kontenerowca. Przed Tobą mapa elektroniczna (ECDIS – Electronic Chart Display and Information System, cyfrowy ekran nawigacyjny zastępujący mapę papierową), z jednej strony radar, a z drugiej zalecenie trasy przesłane przez serwis prognozy pogody. Sztuczna inteligencja (zwana dalej AI – zdolność komputera do uczenia się wzorców z dużych zbiorów danych oraz tworzenia prognoz i sugestii) stworzyła następującą sugestię: „Zmień trasę o 20 km na południe, zaoszczędź 18 godzin, zaoszczędź 9 ton paliwa”. Sugestia jest kusząca. Ale na tej trasie jest inny statek, płytka i flota rybacka. Kto zatwierdzi tę propozycję? Odpowiedź jest jedna i stanowi podstawę tego modułu: kapitan. AI oblicza, sugeruje, sygnalizuje; Jednak osobą, która prawnie odpowiada za bezpieczeństwo życia, mienia i środowiska na morzu jest kapitan i tej odpowiedzialności nie można przenieść na żaden algorytm.
Moduł ten został napisany dla oficerów pokładowych (kapitan, pierwszy oficer, oficerowie nawigacyjny) oraz inżynierów inżynierii morskiej (główny inżynier, drugi inżynier, oficerowie maszynowni). Celem jest nauczenie kompleksowego stosowania sztucznej inteligencji, od optymalizacji tras i paliwa po ocenę pogody, od nawigacji i dokumentacji ładunku po monitorowanie maszyn i konserwację predykcyjną, od badań regulacyjnych w zakresie bezpieczeństwa po wsparcie decyzji na mostach; ale jednocześnie ma sprawić, że sztuczna inteligencja zrozumie, na czym powinna stać i dlaczego należy zweryfikować jej wyniki.
Dlaczego morze jest dziedziną szczególną?
Przemysł morski to jeden z sektorów o krytycznym znaczeniu dla bezpieczeństwa (gdzie błąd może prowadzić do utraty życia, katastrofy ekologicznej lub strat wielomilionowych), w którym koszt błędu jest najwyższy. Pojazd lądowy może zatrzymać się na poboczu drogi; 300-metrowa cysterna nie może się zatrzymać, nie może od razu skręcić ani zwolnić przed przejechaniem kilku kilometrów. Zespół przebywa z dala od najbliższego portu przez kilka dni; Złej decyzji nie da się natychmiast skorygować z zewnątrz. Ponadto dziedzina ta jest ściśle uregulowana przez międzynarodowy zbiór przepisów – SOLAS (Międzynarodowa Konwencja o Bezpieczeństwie Życia na Morzu), COLREG (Zasady zapobiegania zderzeniom na morzu), MARPOL (Konwencja o zapobieganiu zanieczyszczaniu mórz przez statki), Kodeks ISM (Międzynarodowy Kodeks Zarządzania Bezpieczeństwem).
Dlatego od początku rola sztucznej inteligencji w żegludze jest jasna: sztuczna inteligencja jest narzędziem wspierającym podejmowanie decyzji, a nie decydentem. W obszarach kluczowych dla bezpieczeństwa, takich jak inżynieria i nawigacja, wyniki sztucznej inteligencji nie zastępują zatwierdzenia przez kompetentnego eksperta (kapitana, głównego inżyniera, inspektora klasy). sztuczna inteligencja; To asystent, który przetwarza Big Data, tworzy scenariusze, pisze wersje robocze i zaznacza wzorce. Ostatnie słowo zawsze należy do człowieka.
Uwaga: „AI tak powiedziała” nie jest obroną. Pytanie, które należy zadać w dochodzeniu powypadkowym (dochodzenie w sprawie wypadku morskiego, klub P&I, państwo bandery): „Z jakiego niezależnego źródła kapitan/inżynier zweryfikował to zalecenie?” Jeśli nie ma zapisu weryfikacji, odpowiedzialność spoczywa wyłącznie na człowieku – sztuczna inteligencja nie ponosi żadnego ciężaru.
Gdzie sztuczna inteligencja oszczędza czas na morzu, a gdzie pozostawia go ludziom?
Aby prawidłowo ustawić sztuczną inteligencję, podziel pracę na dwie części: pracę szybką i decyzje ludzkie.
- Można przyspieszyć (sztuczna inteligencja pomaga z pewnością): porównywanie wielu scenariuszy prognoz pogody, szacunki zużycia paliwa i czasu dla alternatywnych tras, sporządzanie dzienników pokładowych i dokumentów portowych, oznaczanie anomalii w danych z czujników maszyn, sporządzanie projektów dotyczących znajdowania odpowiednich klauzul w długim tekście przepisów, wydobywanie wzorców z historii konserwacji.
- Człowiek (AI sugeruje, a nie podejmuje decyzje): ostateczne zatwierdzenie trasy, ile mil minąć statek (decyzja COLREG), czy zatrzymać maszynę, uciec do schronu portowego w przypadku niebezpiecznej pogody, czy można przełożyć konserwację, manewr awaryjny.
To rozróżnienie będzie powtarzane w każdej jednostce w całym module. To, że sztuczna inteligencja wskazuje zalecenie jako „bezpieczne”, nie oznacza, że zalecenie jest bezpieczne na morzu; przedstawia jedynie hipotezę.
Dyscyplina walidacji: filtr trójstopniowy
Przed wyrzuceniem każdego produktu AI do morza przepuść go przez trzy filtry:
- Podłącz go do źródła. Na jakich danych opiera się rekomendacja? Czy dane pogodowe są aktualne, który model? Na jakiej mapie (ENC – Elektroniczna Mapa Nawigacyjna, oficjalna mapa cyfrowa) opiera się rekomendacja trasy? Dane wyjściowe niewiadomego pochodzenia są produktami nieweryfikowalnymi.
- Potwierdź za pomocą niezależnego narzędzia. Sprawdź zalecenia dotyczące trasy w ECDIS dla obszarów zakazanych (płytki/niebezpieczny obszar, którego nie należy przekraczać); szacowanie paliwa na podstawie krzywej wydajności statku; anomalię maszyny za pomocą drugiego czujnika lub pomiaru ręcznego.
- Uzyskaj komentarz eksperta. Nawet jeśli liczba jest poprawna, czy ma to sens w kontekście morskim? Jeśli „18 godzin zysku” wymaga przejścia przez front burzowy, zysk ten jest fałszywy.
Wskazówka: Przy każdym żądaniu mów AI „zaznacz, gdzie nie jesteś pewien i zapisz, jakie dane wymagają weryfikacji”. Dobry wynik skrywa w sobie niepewność; Wymaganie tego ułatwia weryfikację.
trzy mini etui
Przypadek 1 – Trasa niezweryfikowana. Na masowcu oficer wachtowy wchodzi na „skrót” sugerowaną przez AI trasę, nie sprawdzając jej w ECDIS. Trasa przebiega przez brzeg, którego głębokość zmienia się wraz z przypływem; Przy niskiej wodzie UKC (pod stępką) spada prawie do zera. Kapitan zdaje sobie z tego sprawę w ostatniej chwili i koryguje trasę. AI poprawnie obliczyła czas; ale nie potwierdzono głębokości i pływów. Lekcja: wzrost prędkości nie może przebić weryfikacji bezpieczeństwa.
Przypadek 2 — Wcześnie wykryte awaria. W silniku dziobowym tankowca YZ oznacza temperaturę spalin w cylindrze, gdy jeden cylinder różni się od pozostałych o 30°C. Główny inżynier ręcznie sprawdza wskaźniki, sprawdza wtryskiwacz paliwa i stwierdza zatkany wtryskiwacz. Jest on wymieniany przed portem, więc nie będzie problemów podczas nawigacji. AI zauważyła; inżynier zdiagnozował i naprawił.
Sprawa 3 – Fałszywy artykuł legislacyjny. Oficer pyta AI o zasady dotyczące wód balastowych; Sztuczna inteligencja generuje przekonujący, ale nieistniejący „numer pozycji” (halucynacja – informacja, którą sztuczna inteligencja wymyśla jako rzeczywistą). Gdyby urzędnik napisał to w protokole bez sprawdzenia tego, pojawiłyby się poważne problemy w audycie. Bez względu na porównanie z oficjalnym tekstem IMO. Lekcja: w ustawodawstwie sztuczna inteligencja mówi jedynie, „gdzie szukać”; Przepis czytasz z tekstu oficjalnego.
Słaba zachęta/silna zachęta
Słaba zachęta:
Podaj mi najlepszą trasę.
„Najlepszy” jest nieokreślony; typ statku, ładunek, pogoda, bez ograniczeń. Sztuczna inteligencja generuje ogólną i niepewną odpowiedź.
Potężny monit:
Twoja rola: starszy doradca oficera nawigacyjnego. Statek: ładunek masowy 180 m, zanurzenie 10,5 m, prędkość eksploatacyjna 13 węzłów. Trasa: Gibraltar -> Pireus. Mam 72-godzinną prognozę wiatru/fal (poniżej). Zadanie: Opracuj 2-3 alternatywne trasy; Dla każdego zapisz szacowany czas, paliwo i najwyższą wysokość fali, jaką doświadczyłeś. Ograniczenie: potwierdzę w ECDIS obszary UKC i obszary niedozwolone; zauważasz „wymagane potwierdzenie” dla mielizn/pływów. Zaznacz dowolną liczbę, której nie jesteś pewien.
Kontekst, ograniczenie i żądanie sprawdzenia sprawiają, że dane wyjściowe są zarówno użyteczne, jak i bezpieczne.
Tabela ról i odpowiedzialności
Zadanie
Rola sztucznej inteligencji
ultimately responsible
Generowanie alternatywnych tras
Scenario, prediction
captain
Potwierdzenie trasy i UKC
Warning/draft
Kapitan/oficer nawigacyjny
fuel optimization
account, suggestion
Captain/company
Wykrywanie anomalii maszynowych
marking
chief engineer
maintenance decision
Zalecenie priorytetowe
chief engineer
Regulatory research
Przekieruj do źródła
Officer + official text
COLREG maneuver
(Bez decyzji)
Watch officer/captain
Typowe błędy
- Myślenie, że AI jest decydentem. Sztuczna inteligencja sugeruje; Kapitan/główny inżynier podejmuje decyzje i ponosi za nie odpowiedzialność.
- Brak podłączenia wyjścia do źródła. Jaki model pogody, jaka mapa, jaki czujnik? Nie można zweryfikować danych wyjściowych bez źródła.
- Mylenie halucynacji z rzeczywistością. Sztuczna inteligencja może wymyślić nieistniejący przedmiot, zasadę portu lub głębokość; Wymagane jest potwierdzenie z oficjalnego źródła.
- Poświęcenie weryfikacji bezpieczeństwa na rzecz szybkości. Oszczędności czasu/paliwa nigdy nie przeważają nad potwierdzeniem UKC i zakazem startu.
- Bezkrytyczne przesyłanie do pojazdu danych poufnych/handlowych. Manifest towarowy, trasa, umowy handlowe są wrażliwe; wymagany homologowany pojazd i maskowanie.
Podsumowując
Żegluga morska jest dziedziną o krytycznym znaczeniu dla bezpieczeństwa, a sztuczna inteligencja jest w tym przypadku asystentem wspierającym podejmowanie decyzji, a nie decydentem. sztuczna inteligencja; oszczędza czas na trasie, paliwie, pogodzie, dokumentacji, monitorowaniu maszyn i badaniach regulacyjnych; ale zatwierdzanie tras, manewrowanie, zatrzymywanie silników i decyzje w sytuacjach awaryjnych należą do ludzi – głównie kapitana i głównego inżyniera. Każdy wynik musi przejść trzystopniowy filtr (przypisać źródło, zweryfikować za pomocą niezależnego narzędzia, przejść przez recenzję ekspercką). Wyniki sztucznej inteligencji nie zastępują zgody kompetentnego eksperta.
Zadanie aplikacji
Opisz swój własny typ statku (lub wyimaginowany statek). Poproś sztuczną inteligencję o opracowanie dwóch alternatywnych tras, korzystając z powyższego wzorca „Silna zachęta”. Następnie filtruj dane wyjściowe w trzech krokach: zapisz źródło każdej liczby, wskaż, którego narzędzia dodatkowego (ECDIS, krzywa wydajności) użyjesz i wymień punkty „wymagane potwierdzenia” oznaczone przez sztuczną inteligencję.
lista kontrolna
- [ ] Umieściłem sztuczną inteligencję jako narzędzie wspierające podejmowanie decyzji; Podejmuję decyzję.
- [ ] Podłączyłem każde wyjście do źródła (model pogody, mapa, czujnik).
- [ ] Potwierdziłem zalecenia niezależnym narzędziem (ECDIS, krzywa wydajności, pomiar ręczny).
- [ ] Sprawdziłem informacje na temat ustawodawstwa/szczegółowości/zasad z oficjalnego źródła; Sprawdziłem, czy nie ma halucynacji.
- [ ] Priorytetowo traktowałem weryfikację bezpieczeństwa nad wzrostem prędkości/paliwa i chroniłem wrażliwe dane.