Dobici:
- Mogućnost razlikovanja gdje umjetna inteligencija štedi vrijeme u pomorskom radnom toku (ruta, gorivo, vremenska prognoza, dokumentacija, mašinerija, zakon), a gdje su odluke o manevru i sigurnosti prepuštene kapetanu i glavnom inženjeru, ovisno o nivou rizika.
- Sposobnost primjene discipline koja provjerava svaki izlaz umjetne inteligencije kroz korake povezivanja s izvorom, potvrđivanja neovisnim alatom i prolaska kroz stručnu interpretaciju.
- Sposobnost razumijevanja da, zbog bezbjednosne prirode pomorstva, umjetna inteligencija ne zamjenjuje odobrenje kompetentnog stručnjaka i da je konačna odgovornost na čovjeku.
Nalazite se na mostu kontejnerskog broda. Pred vama je elektronska karta (ECDIS - Electronic Chart Display and Information System, digitalni navigacijski ekran koji zamjenjuje papirnu kartu), radar s jedne strane, a preporuka rute koju šalje služba vremenske prognoze s druge strane. Umjetna inteligencija (u daljem tekstu AI — sposobnost kompjutera da uči obrasce iz velikih podataka i proizvodi predviđanja i prijedloge) proizvela je ovaj prijedlog: "Pomjerite svoju rutu 12 milja južno, uštedite 18 sati, uštedite 9 tona goriva." Prijedlog je primamljiv. Ali na toj ruti je još jedan brod, plitak i ribarska flota. Ko će odobriti ovaj prijedlog? Odgovor je jedan i okosnica ovog modula: kapetan. AI izračunava, predlaže, signalizira; Ali osoba koja je zakonski odgovorna za sigurnost života, imovine i okoliša na moru je kapetan i ta odgovornost se ne može prenijeti ni na jedan algoritam.
Ovaj modul je napisan za časnike palube (kapetan, prvi časnik, navigacijski časnici) i inženjere pomorske inžinjerije (glavni inženjer, drugi strojar, časnici stroja). Cilj je naučiti umjetnu inteligenciju da se koristi od kraja do kraja, od optimizacije rute i goriva do procjene vremena, od dokumentacije za navigaciju i teret do praćenja mašina i prediktivnog održavanja, od istraživanja regulative sigurnosti do podrške odlučivanju o mostovima; ali u isto vrijeme, to je da AI shvati gdje treba stajati i zašto se njegov izlaz mora provjeriti.
Zašto je pomorstvo posebna oblast?
Pomorstvo je jedan od sektora kritičnih za sigurnost (gdje greška može dovesti do gubitka života, ekološke katastrofe ili štete od milion dolara) gdje je cijena greške najveća. Kopneno vozilo se može zaustaviti na strani puta; Cisterna od 300 metara ne može se zaustaviti, ne može se odmah okrenuti ili usporiti prije nego što se kreće nekoliko kilometara. Tim je danima udaljen od najbliže luke; Pogrešna odluka se ne može odmah ispraviti spolja. Štaviše, ova oblast je strogo regulisana međunarodnim skupom pravila — SOLAS (Međunarodna konvencija za bezbednost života na moru), COLREG (pravila za sprečavanje sudara na moru), MARPOL (konvencija za sprečavanje zagađenja mora sa brodova), ISM Code (Međunarodni kodeks upravljanja bezbednošću).
Stoga je uloga AI u transportu jasna od samog početka: AI je alat za podršku odlučivanju, a ne donosilac odluka. U oblastima koje su kritične za sigurnost kao što su inženjering i navigacija, AI izlaz nije zamjena za odobrenje od strane kompetentnog stručnjaka (kapetan, glavni inženjer, nadzornik klase). AI; To je pomoćnik koji obrađuje velike podatke, proizvodi scenarije, piše nacrte i označava obrasce. Poslednja reč uvek pripada osobi.
Oprez: "AI je tako rekao" nije odbrana. Pitanje koje treba postaviti u istrazi nakon nesreće (istraga pomorskih nesreća, P&I klub, država zastave) je: „Sa kojim nezavisnim izvorom je kapetan/inženjer potvrdio ovu preporuku?“ Ako ne postoji evidencija verifikacije, odgovornost je u potpunosti na ljudima - AI ne snosi nikakav teret.
Gdje AI štedi vrijeme na moru, gdje ga ostavlja ljudima?
Da biste pravilno pozicionirali AI, podijelite posao na dva: brzi rad i ljudske odluke.
- Može se ubrzati (AI pomaže sa samopouzdanjem): upoređivanje više scenarija vremenske prognoze, procjena goriva/vremena alternativa ruta, izrada dnevnika i lučkih papira, označavanje anomalija u podacima senzora mašina, izrada nalaženja relevantne klauzule u dugom regulatornom tekstu, izdvajanje obrazaca iz istorije održavanja.
- Ljudski (AI daje prijedloge, a ne odluke): konačno odobrenje rute, koliko milja treba proći kroz brod (odluka COLREG), da li zaustaviti mašinu, pobjeći u zaklon u luci u slučaju opasnog vremena, da li se održavanje može odgoditi, hitni manevar.
Ova razlika će se ponoviti u svakoj jedinici kroz modul. Samo zato što AI pokazuje preporuku kao „sigurnu“ ne dokazuje da je preporuka sigurna na moru; ona samo nudi hipotezu.
Disciplina validacije: filter u tri koraka
Prije izbacivanja svakog AI izlaza u more, prođite ga kroz tri filtera:
- Povežite ga sa izvorom. Na kojim podacima se zasniva preporuka? Da li su vremenski podaci ažurirani, koji model? Na kojoj karti (ENC - Elektronska navigacijska karta, zvanična digitalna karta) se zasniva preporuka rute? Izlaz nepoznatog porijekla je neprovjerljiv izlaz.
- Potvrdite nezavisnim alatom. Provjerite preporuku rute u ECDIS-u za zabranjena područja (plitko/opasno područje koje se ne smije prelaziti); procjena goriva sa krivom performansi broda; anomalija mašine pomoću drugog senzora ili ručnog merenja.
- Dobijte stručni komentar. Čak i ako je broj tačan, ima li smisla u pomorskom kontekstu? Ako "18 sati dobitka" zahtijeva prolazak kroz olujni front, taj dobitak je lažan.
Savjet: Recite AI "označite gdje niste sigurni i zapišite koje podatke treba provjeriti" uz svaki zahtjev. Dobar rezultat priznaje sopstvenu nesigurnost; Ovo zahtijevanje olakšava verifikaciju.
tri mini kofera
Slučaj 1 — Neprovjerena ruta. Na brodu za rasute terete, službenik straže ulazi na "prečicu" rutu koju je predložila AI bez provjere u ECDIS-u. Ruta prolazi preko obale čija se dubina mijenja s plimom; U maloj vodi, UKC (ispod kobilice klirens) pada skoro na nulu. Kapiten to shvati u poslednjem trenutku i koriguje rutu. AI je tačno izračunao vrijeme; ali potvrda dubine i plime nije izvršena. Pouka: povećanje brzine ne može nadmašiti sigurnosnu validaciju.
Slučaj 2 — Kvar je rano otkriven. Na pramčanom motoru tankera, YZ označava temperaturu izduvnih gasova cilindra kada jedan cilindar odstupa od ostalih za 30°C. Glavni inženjer ručno provjerava indikatore, provjerava mlaznicu goriva i pronalazi začepljenu mlaznicu. Zamijenjen je prije luke, tako da neće biti problema tokom navigacije. AI je istakao; inženjer je dijagnosticirao i popravio.
Slučaj 3 — Lažni zakonski članak. Policajac pita AI o pravilima balastne vode; AI proizvodi uvjerljiv, ali nepostojeći "broj predmeta" (halucinacije — informacije koje AI izmišlja kao stvarne). Ako bi službenik ovo napisao u izvještaju, a da ga nije provjerio, došlo bi do ozbiljnih problema u reviziji. Bez obzira na zvaničan IMO tekst. Pouka: u zakonodavstvu, AI samo govori „gde tražiti“; Odredbu ste pročitali iz zvaničnog teksta.
Slaba prompt / Jaka prompt
Slab upit:
Daj mi najbolji put.
"Najbolji" je nedefinisan; tip broda, teret, vrijeme, bez ograničenja. AI daje generički i nesiguran odgovor.
Snažan upit:
Vaša uloga: savjetnik višeg navigacijskog časnika. Brod: 180 m rasuti teret, gaz 10,5 m, radna brzina 13 čvorova. Ruta: Gibraltar -> Pirej. Imam prognozu vetra/talasa za 72 sata (ispod). Zadatak: Nacrtati 2-3 alternative rute; Za svaki zapišite procijenjeno vrijeme, gorivo i najveću doživljenu visinu talasa. Ograničenje: potvrdit ću UKC i zabranjena područja u ECDIS-u; primjećujete "potrebna je potvrda" za plićake/plimu. Označite bilo koji broj za koji niste sigurni.
Kontekst, ograničenje i zahtjev za provjeru valjanosti čine izlaz korisnim i sigurnim.
Tabela uloga i odgovornosti
Quest
Uloga AI
na kraju odgovorna
Generiranje alternativa rute
Scenario, predviđanje
kapetane
Potvrda rute i UKC
Upozorenje/nacrt
Kapetan/navigacijski oficir
optimizacija goriva
račun, prijedlog
Kapetan/četa
Detekcija anomalija mašine
obeležavanje
glavni inženjer
odluka o održavanju
Prioritetna preporuka
glavni inženjer
Regulatorna istraživanja
Preusmjerite na izvor
Službenik + službeni tekst
COLREG manevar
(van odluke)
Oficir/kapetan
Uobičajene greške
- Misleći da AI donosi odluke. AI predlaže; Kapetan/glavni inženjer donosi odluke i snosi odgovornost.
- Ne povezuje izlaz sa izvorom. Koji vremenski model, koja karta, koji senzor? Izlaz bez izvora se ne može provjeriti.
- Mijenjanje halucinacije sa stvarnošću. AI može izmisliti nepostojeću stavku, pravilo porta ili dubinu; Potrebna je potvrda sa zvaničnim izvorom.
- Žrtvovanje sigurnosne provjere radi brzine. Ušteda vremena/goriva nikada ne nadmašuje UKC i potvrdu zabrane kretanja.
- Učitavanje povjerljivih/komercijalnih podataka u vozilo neselektivno. Tovarni manifest, ruta, komercijalni ugovori su osjetljivi; odobreno vozilo i potrebna maska.
Ukratko
Pomorstvo je domen kritičan za sigurnost i AI je ovdje pomoćnik za podršku odlučivanju, a ne donosilac odluka. AI; štedi vrijeme na ruti, gorivu, vremenu, dokumentaciji, praćenju mašina i regulatornom istraživanju; ali odobrenje rute, manevrisanje, zaustavljanje motora i odluke u hitnim slučajevima su na ljudima - uglavnom kapetanu i glavnom inženjeru. Svaki izlaz mora proći filter u tri koraka (pripisati izvoru, provjeriti nezavisnim alatom, proći kroz stručni pregled). AI izlaz nije zamjena za odobrenje kompetentnog stručnjaka.
Zadatak aplikacije
Opišite vlastiti tip broda (ili zamišljeni brod). Neka AI nacrta dvije alternative rute koristeći gornji obrazac "Strong prompt". Zatim filtrirajte izlaz u tri koraka: zapišite izvor svakog broja, naznačite koji sekundarni alat (ECDIS, kriva performansi) ćete koristiti i navedite tačke „potrebne potvrde“ koje je AI označio.
kontrolna lista
- [ ] Pozicionirao sam AI kao alat za podršku odlučivanju; Ja donosim odluku.
- [ ] Povezao sam svaki izlaz sa izvorom (vremenski model, mapa, senzor).
- [ ] Preporuke sam potvrdio nezavisnim alatom (ECDIS, kriva performansi, ručno mjerenje).
- [ ] Provjerio sam informacije o zakonu/dubini/pravilu iz zvaničnog izvora; Proverio sam da li postoje halucinacije.
- [ ] Dao sam prioritet sigurnosnoj provjeri u odnosu na povećanje brzine/goriva i zaštićene osjetljive podatke.