Добици:
- Бити у стању да разликује где вештачка интелигенција штеди време у поморском току рада (рута, гориво, време, документација, машине, законодавство), а где су одлуке о маневру и безбедности препуштене капетану и главном инжењеру, у зависности од нивоа ризика.
- Способност примене дисциплине која проверава сваки излаз вештачке интелигенције кроз кораке повезивања са извором, потврђивања независним алатом и проласка кроз стручну интерпретацију.
- Способност да се разуме да, због безбедносно критичне природе поморства, излаз вештачке интелигенције не замењује одобрење компетентног стручњака и да коначна одговорност лежи на човеку.
Налазите се на мосту контејнерског брода. Пред вама је електронска мапа (ЕЦДИС – Елецтрониц Цхарт Дисплаи анд Информатион Систем, дигитални навигациони екран који замењује папирну карту), радар на једној страни, а препорука руте коју шаље служба временске прогнозе на другој. Вештачка интелигенција (у даљем тексту АИ — способност рачунара да учи обрасце из великих података и производи предвиђања и предлоге) дала је овај предлог: „Померите своју руту 12 миља јужно, уштедите 18 сати, уштедите 9 тона горива.“ Предлог је примамљив. Али на тој рути је још један брод, плитак и рибарска флота. Ко ће одобрити овај предлог? Одговор је један и окосница овог модула: капетан. АИ израчунава, предлаже, сигнализира; Али особа која је по закону одговорна за безбедност живота, имовине и животне средине на мору је капетан и та одговорност се не може пренети ни на један алгоритам.
Овај модул је написан за официре на палуби (капетан, први официр, навигациони официри) и инжењере поморске инжињерије (главни инжењер, други инжењер, официри мотора). Циљ је научити АИ да се користи од краја до краја, од оптимизације руте и горива до процене времена, од документације за навигацију и терет до праћења машина и предиктивног одржавања, од истраживања регулативе безбедности до подршке одлучивању о мостовима; али у исто време, то је да се АИ схвати где треба да стоји и зашто његов излаз мора бити верификован.
Зашто је поморство посебна област?
Поморство је један од сектора критичних за безбедност (где грешка може довести до губитка живота, еколошке катастрофе или штете од милион долара) где је цена грешке највећа. Копнено возило се може зауставити на страни пута; Цистерна од 300 метара не може да се заустави, не може одмах да се окрене или успори пре него што се помери неколико километара. Тим је данима удаљен од најближе луке; Погрешна одлука се не може одмах исправити споља. Штавише, област је строго регулисана међународним скупом правила — СОЛАС (Међународна конвенција за безбедност живота на мору), ЦОЛРЕГ (правила за спречавање судара на мору), МАРПОЛ (конвенција за спречавање загађивања мора са бродова), ИСМ кодекс (Међународни кодекс управљања безбедношћу).
Стога је улога вештачке интелигенције у транспорту јасна од самог почетка: АИ је алат за подршку одлучивању, а не доносилац одлука. У областима које су критичне за безбедност као што су инжењеринг и навигација, излаз вештачке интелигенције није замена за одобрење од стране компетентног стручњака (капетан, главни инжењер, надзорник класе). АИ; То је помоћник који обрађује велике податке, производи сценарије, пише нацрте и обележава обрасце. Последња реч увек припада особи.
Опрез: „АИ је тако рекао“ није одбрана. Питање које треба поставити у истрази након несреће (истрага поморских несрећа, П&И клуб, држава заставе) је: „Са којим независним извором је капетан/инжењер верификовао ову препоруку?“ Ако не постоји записник о верификацији, одговорност је у потпуности на човеку — АИ не сноси никакав терет.
Где АИ штеди време на мору, где га оставља људима?
Да бисте правилно позиционирали АИ, поделите посао на два: брзи рад и људске одлуке.
- Може се убрзати (АИ помаже са самопоуздањем): упоређивање више сценарија временске прогнозе, процена горива/времена алтернатива рута, израда дневника и лучких папира, означавање аномалија у подацима сензора машина, састављање релевантне клаузуле у дугом тексту прописа, издвајање образаца из историје одржавања.
- Људски (АИ даје предлоге, а не одлуке): коначно одобрење руте, колико миља да прође брод (одлука ЦОЛРЕГ), да ли да заустави машину, побегне у склониште у луци у случају опасног времена, да ли одржавање може да се одложи, ванредни маневар.
Ова разлика ће се понављати у свакој јединици током модула. Само зато што АИ показује препоруку као „сигурну“ не доказује да је препорука безбедна на мору; она само нуди хипотезу.
Дисциплина валидације: филтер у три корака
Пре него што баците сваки АИ излаз у море, прођите га кроз три филтера:
- Повежите га са извором. На којим подацима се заснива препорука? Да ли су временски подаци ажурирани, који модел? На којој мапи (ЕНЦ - Електронска навигациона карта, званична дигитална мапа) се заснива препорука руте? Излаз непознатог порекла је непроверљив излаз.
- Потврдите независним алатом. Проверите препоруку руте у ЕЦДИС-у за забрањена подручја (плитка/опасна област која се не сме прелазити); процена горива са кривом перформанси брода; аномалија машине помоћу другог сензора или ручног мерења.
- Добијте стручни коментар. Чак и ако је број тачан, да ли има смисла у поморском контексту? Ако "18 сати добитка" захтева пролазак кроз олујни фронт, тај добитак је лажан.
Савет: Реците АИ „означите где нисте сигурни и запишите које податке треба проверити“ уз сваки захтев. Добар резултат признаје сопствену несигурност; Ово захтева олакшава верификацију.
три мини кофера
Случај 1 — Неверификована рута. На броду за расути терет, службеник сата улази на „пречицу“ руту коју је предложила АИ без провере у ЕЦДИС-у. Траса пролази преко обале чија се дубина мења са плимом; У малој води, УКЦ (зазор испод кобилице) пада скоро на нулу. Капитен то у последњем тренутку схвата и коригује руту. АИ је тачно израчунао време; али потврда дубине и плиме није извршена. Поука: повећање брзине не може надмашити безбедносну валидацију.
Случај 2 — Квар је рано откривен. На прамчаном мотору танкера, ИЗ означава температуру издувних гасова цилиндра када један цилиндар одступа од осталих за 30°Ц. Главни инжењер ручно проверава индикаторе, проверава млазницу горива и проналази зачепљену бризгаљку. Замењује се пре луке, тако да неће бити проблема током навигације. АИ је истакао; инжењер је дијагностиковао и поправио.
Случај 3 — Лажни законски члан. Полицајац пита АИ о правилима баластне воде; АИ производи убедљив, али непостојећи „број ставке“ (халуцинације — информације које АИ измишља као стварне). Ако би службеник ово написао у извештају без провере, дошло би до озбиљних проблема у ревизији. Без обзира када се упореди са званичним текстом ИМО. Поука: у законодавству АИ само говори „где тражити“; Одредбу сте прочитали из званичног текста.
Слаби промпт / Јаки промпт
Слабо обавештење:
Дај ми најбољи пут.
„Најбољи“ је недефинисан; тип брода, терет, време, без ограничења. АИ производи генерички и несигуран одговор.
Снажан упит:
Ваша улога: саветник вишег навигационог официра. Брод: 180 м расути терет, газ 10,5 м, радна брзина 13 чворова. Рута: Гибралтар -> Пиреј. Имам 72-часовну прогнозу ветра/таласа (испод). Задатак: Нацрт 2-3 алтернативе руте; За сваки запишите процењено време, гориво и највећу доживљену висину таласа. Ограничење: потврдићу УКЦ и забрањена подручја у ЕЦДИС-у; приметите да је потребна потврда за плићаке/плиму. Означите било који број за који нисте сигурни.
Контекст, ограничење и захтев за валидацију чине излаз корисним и сигурним.
Табела улога и одговорности
Куест
Улога АИ
на крају одговорна
Генерисање алтернатива руте
Сценарио, предвиђање
капетане
Потврда руте и УКЦ
Упозорење/нацрт
Капетан/навигациони официр
оптимизација горива
рачун, предлог
Капетан / чета
Детекција аномалија машине
обележавање
главни инжењер
одлука о одржавању
Приоритетна препорука
главни инжењер
Регулаторна истраживања
Преусмери на извор
Службеник + службени текст
ЦОЛРЕГ маневар
(ван одлуке)
Официр/капетан
Уобичајене грешке
- Мислећи да АИ доноси одлуке. АИ предлаже; Капетан/главни инжењер доноси одлуке и сноси одговорност.
- Не повезује излаз са извором. Који временски модел, која мапа, који сензор? Не може се проверити излаз без извора.
- Грешка халуцинација за стварност. АИ може да измисли непостојећу ставку, правило порта или дубину; Потребна је потврда са званичним извором.
- Жртвовање безбедносне провере ради брзине. Уштеда у времену/гориву никада не надмашује УКЦ и потврду забране кретања.
- Учитавање поверљивих/комерцијалних података у возило неселективно. Товарни манифест, рута, комерцијални уговори су осетљиви; потребно одобрено возило и маскирање.
Укратко
Поморство је критичан домен за безбедност и АИ је овде помоћник за подршку одлучивању, а не доносилац одлука. АИ; штеди време на рути, гориву, времену, документацији, праћењу машина и регулаторном истраживању; али одобравање руте, маневрисање, заустављање мотора и одлуке у хитним случајевима су на људима—углавном на капетану и главном инжењеру. Сваки излаз мора проћи филтер у три корака (приписати извору, проверити независним алатом, проћи кроз стручни преглед). АИ излаз није замена за одобрење компетентног стручњака.
Задатак апликације
Опишите сопствени тип брода (или замишљени брод). Нека АИ нацрта две алтернативе руте користећи горњи образац „Стронг промпт“. Затим филтрирајте излаз у три корака: запишите извор сваког броја, назначите који секундарни алат (ЕЦДИС, крива перформанси) ћете користити и наведите тачке „потребне потврде“ које је АИ означио.
контролна листа
- [ ] Позиционирао сам АИ као алат за подршку одлучивању; Ја доносим одлуку.
- [ ] Повезао сам сваки излаз са извором (временски модел, мапа, сензор).
- [ ] Препоруке сам потврдио независним алатом (ЕЦДИС, крива перформанси, ручно мерење).
- [ ] Проверио сам информације о закону/дубини/правилу из званичног извора; Проверио сам да ли постоје халуцинације.
- [ ] Дао сам приоритет верификацији безбедности у односу на повећање брзине/горива и заштићене осетљиве податке.