Добици:
- Способност препознавања да АИ може произвести фиктивне коефицијенте, клаузуле правила и техничке вредности и применити верификацију у контексту безбедности живота/имовине
- Способност управљања сајбер безбедношћу, приватношћу података и регулаторним ограничењима у бродским и ОТ (оперативна технологија) системима
- Разумевање да је крајња одговорност за одобрење класе, безбедност пловидбе и етику на инжењеру и капетану.
Током овог модула користили смо вештачку интелигенцију (АИ) као акцелератор у свакој фази бродског и поморског инжењеринга: од дизајна облика до структурне анализе, предиктивног одржавања до оптимизације путовања, усклађености са емисијама до производње у бродоградилишту. У овој последњој јединици се враћамо уназад и сагледавамо целу слику: која су кључна ограничења вештачке интелигенције у поморству, који ризици (халуцинације, сајбер безбедност, приватност података, пристрасност) су у сталној опасности и ко сноси одговорност? Зато што је предуслов за безбедно коришћење возила знати где оно може поћи по злу.
Теза овог модула се овде примењује и регулише све остале: у поморском раду који је критичан за безбедност, излаз вештачке интелигенције није замена за одобрење од стране надлежног инжењера, мајстора или геодета класе. АИ предлаже, нацрта, израчунава и подсећа; Али власник решења којим се утврђује безбедност живота, имовине и животне средине је онај ко то решење потписује и правно је одговоран.
Концепти: Халуцинација: АИ измишља вредност, правило или ресурс који не постоји. ОТ безбедност: сајбер заштита оперативне технологије (системи за контролу машина и темпомат). Тровање подацима: Намерно корупција обука/улазних података да би се модел довео у заблуду. Пристрасност модела: Систематска и неправедна пристрасност модела која долази из података на којима је обучен. Ланац одговорности: Правно и техничко власништво над одлуком је јасно евидентно.
Трајне границе АИ
АИ има четири сталне границе у транспорту и оне неће нестати чак ни како технологија буде напредовала. Прво, халуцинација: модел попуњава празнину са „највероватније“ изјавама када нема дефинитивне податке; Испоставило се да је ово измишљена клаузула класе, немогућа вредност стабилности или непостојећи коефицијент. Друго, понашање ван употребе: модел постаје непоуздан ван ситуација за које је обучен и тестиран (необичан тип брода, необичан квар, невидљив саобраћај). Треће, недостатак разумевања физике: АИ обрађује обрасце речи, не „разуме“ очување енергије или Њутнове законе; Може да произведе резултат који изгледа разумно, али је физички немогуће. Четврто, правовременост: законодавство, промена цена и технологије; Информације о моделу су замрзнуте на датум.
Ова ограничења објашњавају зашто је дисциплина верификације коју смо научили током модула неопходна: контрола реда величине, конзистентност јединице, независна репродукција и верификација извора. Нарочито када АИ врши прорачуне (нпр. Питхон/Екцел скрипту генерисану за момент баласта/стабилности или прорачун снаге), чак и ако код изгледа флуидно и функционише, његова логика, улази и ивични случајеви се не претварају у безбедносну одлуку без независног тестирања. Само зато што шифра налога „функционише“ не значи да је „тачна“.
Опрез: Рачуноводствени код генерисан од вештачке интелигенције може да функционише без грешака, али може да садржи погрешну формулу, погрешну јединицу или превиђену ивицу. Пре него што прихватите код, тестирајте га са познатим уносом (пример на који знате одговор из прве руке), тестирајте ивичне случајеве и проверите резултат на независан начин. У прорачунима који су критични за безбедност као што је стабилност, одобрени компјутер за утовар и потврда инжењера су од суштинског значаја.
Сајбер безбедност и приватност података
Савремени брод је плутајућа компјутерска мрежа: навигациони системи, контрола машина, управљање теретом и сателитска повезаност су међусобно повезани. То значи површину сајбер напада. Системи вештачке интелигенције додају два нова ризика овој слици. Прво, ОТ (оперативна технологија) безбедност: АИ компонента везана за навигацију и контролу машина представља директан безбедносни ризик ако је нападнута; тако да су критични ОТ системи изоловани, АИ излаз никада не би требало да покреће контролну акцију сам по себи, људско одобрење и безбедно подразумевано понашање морају бити одржани. Друго, приватност података: облик трупа, криве перформанси, уговори са бродоградилиштем и оперативна телеметрија су пословна тајна и интелектуална својина; Уношење ових података у неодобрене екстерне услуге вештачке интелигенције је неповратан губитак.
Поред тога, ризици манипулације као што су тровање података (обмањивање модела злонамерним уносом) и лажирање података као што је АИС захтевају да се не верује слепо улазима АИ. Правило: критични подаци су анонимизовани или се уопште не деле, користе се само одобрени алати са гарантованом поверљивошћу, критични улази се унакрсно проверавају ради аутентичности.
Ризик
Како настаје?
предострожности
халуцинације
Измишљено правило/вредност/извор
Потврда из извора, контрола ранга
ОТ сајбер напад
Инфилтрација у контролни систем
Изолација, људско одобрење, безбедно подразумевано
цурење података
Уношење поверљивих података у екстерни алат
Анонимизација, одобрен алат
Тровање/споофинг података
Намерно оштећен унос
Валидација уноса, унакрсна провера
Пристрасност модела
Неуравнотежени подаци о обуци
Преглед резултата људским расуђивањем
Етика и ланац одговорности
Правно и техничко власништво одлуке у поморству треба да буде јасно: капетан је одговоран за безбедност пловидбе, главни инжењер је одговоран за машинерију, задужени инжењер је одговоран за пројектовање и прорачун, а надзорник класе је одговоран за поштовање правила. АИ не би требало да уводи „јаз у одговорности“ у овај ланац. „АИ је ово предложио“ није изговор; Одговоран је човек који користи вештачку интелигенцију и прихвата њен резултат. Стога, употреба АИ мора бити транспарентна (мора бити забележена коју одлуку подржава, коју верификацију је подвргнута) и коначна одлука мора бити на потписаном човеку.
Етичка димензија такође укључује безбедност посаде и животну средину: ако предлог за уштеду горива доводи посаду у опасност, ако решење за аутоматизацију сужава безбедносну маргину, ако краткорочни добитак маскира дугорочни ризик, инжењерска етика захтева да се каже „не“. АИ је моћан алат за продуктивност; Али ефикасност никада не може бити испред живота, животне средине и поштеног инжењерског суда.
Мини Цасес
Случај 1 — „АИ је тако рекао“ изговор. У извештају се користи гранична вредност коју је дала АИ, без верификације, и испоставило се да је вредност нетачна. Одговорно лице покушава да се одбрани речима „Ово је предложила АИ“. Ни класни закон ни закон о одговорности ово не признају: одговоран је инжењер који прихвата резултате. Лекција: АИ није изговор; Одговорност је на особи која га користи.
Случај 2 — Цурење поверљивих података. Тим налепи стварне перформансе и податке власника брода у јавно доступан АИ алат и захтева анализу. Ови подаци су сада ван контроле; настају пословна тајна и повреда уговора. Не би било ризика ако радите са анонимним репрезентативним вредностима или одобреним алатом. Поука: прави/поверљиви подаци се никада не уносе у неодобрени екстерни алат.
Случај 3 — Ради, али погрешан код. АИ генерише Питхон скрипту за тренутак стабилности; код ради без грешака и враћа разуман број. Када га инжењер тестира са познатим случајем оптерећења (чији је одговор познат руком), открива да код узима термин ван дохвата руке са погрешним предзнаком. Сценарио је „радио“, али је резултат био погрешан. Поука: рад шифре рачуна није гаранција исправности; Тестирање са познатим уносом и независном верификацијом је од суштинског значаја.
Шаблони упита који се могу копирати
Шаблон 1 — Самопроцена ограничења и ризика:
Улога: Ви сте рецензент који врши ревизију АИ излаза који користим. Контекст: [задатак/излаз]. Задатак: 1) Где је ризик од халуцинације висок у овом резултату? 2) Да ли постоји нешто упитно у смислу физичке веродостојности? 3) Које вредности које захтевају правовременост (законодавство/цена) треба да буду верификоване? 4) Шансе да се овај резултат и питање дистрибуирају као исход? да то провери.
Шаблон 2 — Распоред верификације кода рачуна:
Направите план за верификацију пре употребе следећег рачуноводственог кода генерисаног од вештачке интелигенције (Питхон/Екцел): [налепите код/логику]1) Предложите тестни унос за који знам одговор одмах.2) Наведите ивичне случајеве које треба тестирати (нула, негативна, екстремна).3) Како да проверим конзистентност јединице?4) На који независни начин треба да проверим/потврђујем резултат апликације? безбедносно критични рачун.
Шаблон 3 — Филтер приватности података:
Проверите приватност следећег контекста који бих дао алату вештачке интелигенције: [текст за дељење]1) Да ли у њему постоје пословна тајна/поверљиви подаци/подаци о уговору?2) Које вредности треба да буду анонимизоване или издвојене?3) Да ли овај задатак захтева одобрену интерну алатку? Ограничење: Стварни подаци о испоруци/учинку/уговору не улазе у спољни алат.
Шаблон 4 — Напомена о одговорности и транспарентности:
Нацртајте меморандум о транспарентности како бисте документовали следећу одлуку засновану на вештачкој интелигенцији: [одлука]. Садржај: (1) у којој фази је АИ коришћена, (2) кроз које провере је прошла, (3) који је човек то одобрио, (4) који су извори верификовани. Ограничење: Јасно наведите да коначна одговорност лежи на људском потпису.
Слаби промпт / Јаки промпт
Слабо обавештење:
Ставићу ову анализу вештачке интелигенције у извештај, да ли је у реду?
Снажан упит:
Улога: Ви сте независни рецензент који врши ревизију АИ излаза. Контекст: [анализа/излаз и где да се користи]. Задатак:1) Означите ризик од халуцинације, физичку веродостојност и правовременост.2) Да ли постоје подаци који не би требало да се деле ради поверљивости?3) Који кораци би људи требали да верификују овај излаз? Наведите кораке верификације и да одговорност лежи на инжењеру за потпис.
Слаби промпт тражи потврду; Снажан промпт излаже ризике, приватност и ланац људске верификације.
Уобичајене грешке
- То значи "АИ је тако рекао." Одговорност лежи на особи која прихвата резултате; АИ није изговор.
- Уношење поверљивих података у екстерни алат. Пословна тајна и кршење уговора; Подаци који су једном процурили не могу се повратити.
- Сматрајући да је радни код исправан. Скрипта која ради без грешака може садржати погрешну формулу/јединицу; Тестирање и независна потврда су неопходни.
- Препуштајући ОТ систем АИ. Контролну акцију никада не покреће само АИ; Људско одобрење и безбедно подразумевано задржавање.
- Стављање ефикасности испред сигурности. Живот, животна средина и поштено инжењерско расуђивање нису жртвовани ни за какву уштеду.
Укратко
Трајне границе (халуцинације, понашање ван дистрибуције, недостатак разумевања физике, застарелост) и ризици (сајбер/ОТ безбедност, приватност података, тровање, пристрасност) АИ у поморству илуструју зашто је дисциплина верификације која се учи кроз модул неопходна. У одлукама које су критичне за безбедност, излаз вештачке интелигенције није замена за компетентно људско одобрење; Ланац одговорности је јасан и „АИ је тако рекао“ није изговор. АИ је моћан акцелератор; Али живот, животна средина и поштено инжењерско расуђивање увек су на првом месту.
Задатак апликације
Изаберите излаз АИ (налог, нацрт извештаја или код) који сте направили у овом модулу. Означите ризике од халуцинације, физичке веродостојности и стварности шаблоном „ограничење и самопроцена ризика“. Ако је то шифра налога, тестирајте је са познатим уносом користећи шаблон „план верификације кода рачуна“ и проверите независно. Примените „филтер приватности података“ и филтрирајте податке који не би требало да се деле. На крају, напишите меморандум о транспарентности који документује одлуку и јасно ставља до знања ко има крајњу одговорност.
контролна листа
- [ ] Проверио сам халуцинације, физику и ризике стварности од АИ излаза.
- [ ] Тестирао сам и независно верификовао шифру налога са познатим уносом.
- [ ] Нисам унео поверљиве/уговорене податке у екстерни алат; Анонимизовао сам га.
- [ ] Задржао сам људско одобрење и безбедно подразумевано у ОТ/контролним системима.
- [ ] Транспарентно сам документовао употребу вештачке интелигенције и разјаснио ко је одговоран.
- [ ] Никада нисам ставио ефикасност испред живота, животне средине и инжењерске етике.
Модул Екам
1. Када радите са АИ алатом као поморски инжењер, крајња одговорност за шта од следећег увек треба да остане на човеку (инжењеру/ученику)?
- А) Одобрење и потписивање усклађености структурног елемента са правилом класе ✔
- Б) Израда првог нацрта извештаја отпора
- Ц) Уређивање ознака осе графикона
- Д) Припрема речника појмова за технички извештај
Опис: АИ; Може да убрза задатке као што су предкалкулација отпора, састављање извештаја и сажетак података. Међутим, одобравање усаглашености структурног елемента са правилом класе и одражавање тога као потпис на техничком досијеу је одлука која ствара сигурност живота и имовине; не може се пренети на АИ без независне провере и овлашћеног одобрења.
2. Имали сте АИ да израчуна отпор чамца и смањио је резултат за 20% са 'емпиријским фактором корекције' који није био у експерименту модела. Која је прва исправна радња коју треба предузети?
- А) Прихватање резултата какав јесте јер АИ делује самоуверено
- Б) Поставите у питање извор коефицијента, одбаците неосновану исправку и прерачунајте је признатом методом ✔
- Ц) Још више повећати коефицијент и остати на сигурној страни
- Д) Прелазак на избор пропелера без промене резултата
Објашњење: Језички модели могу убедљиво да произведу неосноване коефицијенте и бројеве (халуцинације). У прорачуну који директно утиче на погонску снагу и гориво, као што је отпор, потребно је преиспитати извор сваког коришћеног коефицијента (метода, тест модела, стандард) и одбацити неподржани коефицијент.
3. Уместо да користи количину превезеног терета као именилац у израчунавању бродског ЦИИ (Индикатор интензитета угљеника), АИ је користио само удаљеност. Шта је главни проблем са овим излазом?
- А) ЦИИ се рачуна само за танкере, ово је непотребно на броду
- Б) ЦИИ резултат увек долази као проценат, децимални је погрешан
- Ц) ЦИИ именилац не би требало да буде само растојање, већ и носивост (сопствена тежина) помножена растојањем ✔
- Д) Подаци о брзини су обавезни за израчунавање ЦИИ, недостају
Опис: ЦИИ мери емисије угљеника по обављеном послу и заснива се на понуђеном корисном терету помноженом са растојањем (нпр. носивост к растојање). Изостављање термина оптерећење/капацитет потпуно погрешно израчунава индикатор. Први и обавезан корак је да сваки термин у индикаторима продуктивности у потпуности буде у складу са ИМО дефиницијом.
4. Који је највреднији резултат система предиктивног одржавања са вештачком интелигенцијом у машинској просторији?
- А) Сумирајте просечне трошкове претходног одржавања у једном реду
- Б) Трансформисање свих сензорских података у шаренији графикон
- Ц) Боја и листа трендова вибрација/температура
- Д) Претходно обележавање временског прозора када је већа вероватноћа да ће лежај или турбопуњач отказати ✔
Опис: Сврха предиктивног одржавања је да се открије тенденција да се опрема поквари пре него што откаже и да се одржавање планира на време. Тако се смањује ризик од неочекиваних кварова и застоја. Вредно је не само сумирати прошлост, већ и производити рана упозорења о будућности.
5. АИ је упоредио резултат напрезања у моделу ФЕА (анализа коначних елемената) са дозвољеним напоном у коду класе и прогласио га 'одговарајућим'. Који је најисправнији приступ?
- А) Верификација подешавања модела (мрежа, гранични услови, оптерећење) и потврђивање дозвољеног напрезања из текста правила класе ✔
- Б) Директно потврђивање резултата јер је АИ рекао 'фит'
- Ц) Насумично снижавање дозвољеног стреса да бисте остали на безбедној страни
- Д) Промена само скале боја без затезања мреже
Опис: ФЕА резултат; Потпуно зависи од квалитета мреже, граничних услова, дефиниције оптерећења и својстава материјала. Поред тога, дозвољена вредност напона коју користи АИ може бити нетачна. Пре прихватања резултата потребно је проверити подешавање модела и потврдити вредност правила класе из текста.
6. Направили сте руту која минимизира гориво извођењем временских рута помоћу АИ. Које разматрање је најважније за употребљивост резултата?
- А) Рута мора бити безбедна у смислу безбедности пловидбе (таласи, временске прилике, ограничења брода) и мора бити одобрена од стране капетана ✔
- Б) Најкраћи изглед руте на карти
- Ц) Рута укључује највише портова
- Д) Рута минимизира ЕТА без обзира на уговор
Објашњење: Без обзира колико је предлог руте оптималан за гориво, безбедност навигације и овлашћење капетана имају приоритет. Ако олуја, висина таласа и ограничења брода прелазе сигурносну границу, добитак горива је бесмислен. Коначна одлука о рути мора бити филтрирана кроз безбедносна ограничења и одобрена од стране капетана.
7. Тражили сте од АИ захтев СОЛАС-а и он је дао тачну вредност са референцом на одређени 'број поглавља/правила'. Које је исправно инжењерско понашање?
- А) Директна примена вредности јер је АИ ажуриран
- Б) Подизање вредности насумично да бисте остали на сигурној страни
- Ц) Проверите број и вредност ставке из званичног, ажурног извора СОЛАС/класе ✔
- Д) Додавање у датотеку без провере броја ставке
Опис: Језички модели могу погрешно запамтити или измислити бројеве и вредности клаузуле уговора/правила. У обавезујућим пољима као што су СОЛАС, МАРПОЛ и правила класе, свака ставка и вредност морају бити вербатимно верификовани из званичног, тренутног извора (ИМО текст, правило класе, циркулар управљања); АИ излаз показује само где треба тражити.
8. У аутономном навигационом систему или систему за навигацију уз помоћ одлука, АИ је предложио маневар на основу радарских и АИС података. Која је тачна процена у смислу ЦОЛРЕГ (избегавање сукоба)?
- А) Аутоматски извршите маневар док АИ приступа тренутним подацима
- Б) Пренесите предлог другом броду преко ВХФ-а и сачекајте његово одобрење
- Ц) Искључивање радара и ослањање само на АИС
- Д) Размотрите предлог као подршку одлуци и препустите ЦОЛРЕГ и коначну одлуку о маневру часнику страже/капетану.
Објашњење: У складу са правилима ЦОЛРЕГ-а и добром поморском праксом, одговорност за избегавање судара и коначну одлуку о маневру лежи на власти на мосту (капетан/стражар). Препорука АИ је подршка одлучивању; слепе тачке, грешке сензора и тумачење правила захтевају људски надзор.
9. Генерисали сте препоруку за уштеду горива из криве СФОЦ (специфичне потрошње горива) главног мотора са АИ. Који је најприкладнији метод за тестирање разумности?
- А) Примените препоруку на податке о прошлим путовањима и упоредите са стварном потрошњом горива ✔
- Б) Прихватити предлог какав јесте и уписати га у буџет као уштеду.
- Ц) Узимање најоптимистичнијег процента штедње као једине реалне вредности
- Д) Само улепшајте график СФОЦ криве
Објашњење: Тврдњу о уштеди коју производи АИ треба тестирати упоређивањем са стварним подацима о пловидби (забележена потрошња горива, оптерећење, брзина, временске прилике). Примена ретроспективно на податке о прошлим путовањима и поређење са стварном потрошњом показује колико је препорука реална.
10. Нацрт истраживања/техничког извештаја који је припремила АИ садржи техничке вредности које су флуидне, али неизвесног порекла. Шта је исправно понашање?
- А) Представљање извештаја какав јесте јер је текст течан
- Б) Упарите сваку вредност са оригиналним мерењем/извором и уклоните непотврђено ✔
- Ц) Заокруживање и глосирање вредности
- Д) Само прочитајте резиме и прескочите остатак
Опис: Свака техничка вредност у извештају мора бити следљива до свог оригиналног извора (мерење, запис калибрираног уређаја, правило класе, подаци произвођача). Ниједан број не треба да се доставља разреду или управи без провере његовог извора, чак и ако је то вредност у течној реченици; У супротном, фиктивна вредност улази у базу одлука.
11. Који је најбољи корак пре употребе Екцел/Питхон прорачуна генерисаног вештачком интелигенцијом (нпр. стање баласта и тренутак стабилности)?
- А) Примена прорачуна директно на стварни план утовара
- Б) Само гледајући дужину и изглед кода
- Ц) Испробавање ивичних случајева упоређивањем прорачуна са познатим тестним сценаријем и одобреним алатом за учитавање ✔
- Д) Брисање дела кода да би се скратио
Објашњење: Прорачуни стабилности и оптерећења могу изгледати исправно, али дају нетачне резултате. Покретање прорачуна на малом тестном сценарију где знате исход, било ручно или са сертификованим рачунаром за учитавање, упоређивањем са очекиваним излазом и испробавањем граничних/ивичних случајева оптерећења ће ухватити грешку пре него што се пренесе на стварну одлуку о учитавању.
12. Желите да налепите недељене податке о дизајну и перформансама вашег брода у јавни АИ алат и затражите анализу. Који је најисправнији приступ?
- А) Лепљење података како јесте за брзину
- Б) Довољно је само избрисати назив брода и поделити све преостале податке
- Ц) Дељење података и затим тражење од АИ да их избрише
- Д) Провера институционалне политике и анонимизација података или коришћење безбедног/институционалног алата ✔
Откривање: Форма трупа, криве перформанси и подаци о уговору о бродовласнику/дворишту су пословна тајна и осетљиви су на интелектуалну својину; Поред тога, информације о критичној инфраструктури и ОТ систему носе сајбер ризик. Пре дељења података, потребно је проверити корпоративну политику, анонимизовати је или користити корпоративни алат који не дели податке.
13. Контрола квалитета помоћу вештачке интелигенције на блоку бродоградилишта означила је заварени шав као „прихватљив“. Које је исправно инжењерско понашање?
- А) Сматрајте АИ процену коначним прихватањем и одобрите шивење
- Б) Разматрање АИ прелиминарне евалуације као алата за скрининг и повезивање коначног прихватања са НДТ резултатом и одобрењем класе ✔
- Ц) Прелазак на следећи блок без прегледа шава уопште
- Д) Довољно је једноставно визуелно проверити изглед шава
Опис: Квалитет заваривања је безбедносно критична област која захтева резултате испитивања без разарања (НДТ) и одобрење класе. Прелиминарна процена АИ путем слика или података даје смернице, али коначно прихватање се даје квалификованом инспекцијом и одобрењем од стране надзорника класе.
14. У управљању флотом, АИ је дао дефинитивну препоруку за експедицију која каже да су „ова лука бункера и ова брзина дефинитивно најпрофитабилнији“. Која је тачна процена?
- А) Директна имплементација препоруке док АИ приступа ажурираним подацима
- Б) Пренети предлог бродовласнику као чврсту обавезу
- Ц) Закључавање целог плана експедиције на основу овог појединачног излаза
- Д) Сматрати коначну понуду непоузданом и третирати је као сценарио који се може проверити са тренутном ценом, условима чартер и безбедношћу ✔
Објашњење: Цена бункера, услови чартера, временске прилике и кашњења у луци се брзо мењају и неизвесне су варијабле; АИ не може гарантовати апсолутну профитабилност. Предлог треба третирати као исход сценарија који мора бити верификован са тренутном ценом, условима чартер партије и безбедносним ограничењима.