zisky:
- Schopnosť skenovať a zhrnúť triedne pravidlo, SOLAS/MARPOL a požiadavky prieskumu v štruktúrovanom formáte s AI
- Schopnosť vytvárať správy o prieskumoch, technické dokumenty a súbory zhody vo forme návrhu s podporou AI
- Schopnosť overiť každú klauzulu pravidla, dátum a požiadavku poskytnutú AI z oficiálneho a aktuálneho zdroja
Loď existuje aj na papieri: pravidlá triedy, zmluvné prehliadky, legislatíva vlajkového štátu, osvedčenia, technické príručky a inšpekčné správy. Tento svet dokumentov stanovuje právnu a technickú legitimitu lode; Jedno chýbajúce osvedčenie alebo nesprávne vyložené pravidlo bude mať za následok zadržanie lode v prístave (zadržanie štátnou prístavnou kontrolou) alebo zrušenie jej poistenia. Triedne pravidlá (triedne pravidlá; technické požiadavky klasifikačnej spoločnosti týkajúce sa návrhu, konštrukcie a údržby lode) a texty právnych predpisov sú dlhé, prepletené a neustále aktualizované dokumenty. Umelá inteligencia (AI) urýchľuje sumarizáciu, porovnávanie a zostavovanie správ. Námorná legislatíva je však jednou z oblastí, kde je AI najviac halucinačná.
Absolútne pravidlo: Žiadna klauzula pravidla, číslo klauzuly, limitná hodnota alebo fráza „ktorá požiadavka SOLAS/MARPOL/trieda je“ uvedená AI sa nesmie použiť bez toho, aby bola doslovne potvrdená aktuálnym a oficiálnym textom príslušného dokumentu. AI dokáže vymyslieť čísla položiek a vierohodné, ale falošné hodnoty, ktoré v skutočnosti neexistujú; V legislatíve to má vážne dôsledky z hľadiska práva a bezpečnosti.
Pojmy: Klasifikačná spoločnosť: Organizácia, ktorá kontroluje a certifikuje súlad lode s pravidlami (ABS, DNV, LR, BV, Türk Loydu atď.). SOLAS: Medzinárodný dohovor o bezpečnosti života na mori. Prieskum: Pravidelná kontrola dodržiavania pravidiel lode. Štátna prístavná kontrola: Inšpekcia cudzích lodí vykonávaná prístavným štátom. Certifikát: Oficiálny dokument potvrdzujúci určitú zhodu. Halucinácie: Umelá inteligencia vyrábajúca neexistujúcu hmotu/hodnotu ako skutočnú.
Prečo je regulácia pre AI nebezpečná oblasť?
Veľké jazykové modely vytvárajú „najpravdepodobnejšie pokračovanie“ textu; Nie je spojená s definitívnym zdrojom. Z toho vyplývajú tri pasce v námornej legislatíve. Po prvé, falošné prisudzovanie: AI môže vytvoriť referenciu, ktorá vyzerá realisticky, ale je nepravdivá alebo neexistuje, ako napríklad „SOLAS kapitola II-1, pravidlo 8.3“. Po druhé, pôvodná hodnota: pravidlá sa často aktualizujú; Prah v pamäti AI mohol byť nahradený. Po tretie, zmätok kontextu: možno hovoriť o pravidle platnom pre jeden typ/veľkosť lode, ako keby sa uplatňovalo na inú loď, pre ktorú je neplatné.
Takže používajte AI ako nástroj „vyhľadávania a navrhovania“ v legislatíve, nie ako „úrad“. Umelá inteligencia vás môže nasmerovať na dokument, ktorý si potrebujete pozrieť, na ktorú časť, zhrnúť dlhý text, načrtnúť rozdiel medzi dvoma verziami; ale každá konkrétna položka, hodnota a odkaz je overený prečítaním z pôvodného aktuálneho textu. Najbezpečnejším použitím je poskytnúť AI príslušný text pravidla ako kontext (ak je to možné) a pokyn „povedzte mi, iba ak je jeho zdroj nejasný, na základe textu, ktorý poskytnem“.
Upozornenie: Dôveryhodná forma čísla položky, ktorú uvádza AI, nie je dôkazom jeho presnosti. Nemôžete povedať inšpektorovi alebo triede „AI to povedala“; Každý odkaz musí byť založený na príslušnej strane platného úradného dokumentu. Akákoľvek látka, ktorej zdroj nemožno uviesť, nie je zahrnutá v správe.
Vypracovanie prieskumu a technickej správy
Umelá inteligencia je skutočne užitočná pri zlepšovaní štruktúry, jazyka a konzistentnosti prehľadov a technických správ: premieňa zoznam zistení inšpekcií na organizovanú správu, pripomína chýbajúce nadpisy a zabezpečuje, aby sa rovnaký nález napísal konzistentne na rôznych miestach. Každá technická hodnota protokolu (nameraná hrúbka, zistená rýchlosť korózie, limitná hodnota) však musí závisieť od merania a zdroja. Zatiaľ čo AI vytvára hladkú správu, má tendenciu vyplniť nenameranú hodnotu ako „primeranú“; V správe o prieskume je to neprijateľné.
Dobrý pracovný postup je takýto: poskytnete skutočné merania a zistenia, štruktúry AI a verbalizujete ich, potom priradíte každú hodnotu k jej zdroju (meter, dátum, miesto) a extrahujete každé vyhlásenie o neistom pôvode. Správa je právny a technický dokument; Zodpovednosť nesie podpisujúci geodet/inžinier.
Quest
Bezpečné používanie AI
Rizikové/zakázané použitie
Súhrn pravidiel
Uveďte text a zhrňte ho
Vyžiadanie položky/hodnoty z pamäte
Nájdenie citácie
"Ktorý dokument si mám pozrieť?"
Použitie čísla položky bez jeho overenia
Rozdiel vo verzii
Porovnajte dva texty
Za predpokladu aktuálnej verzie
Návrh správy
Štruktúrovanie zistení
tvoria nemeranú hodnotu
Zoznam certifikátov
Pripomenutie požadovaných dokumentov
Neoveruje sa dátum platnosti
Mini kufríky
Prípad 1 – Vymyslená doložka SOLAS. Inžinier požiada AI, aby podporila požiadavku na bezpečnostné vybavenie; AI udáva presnú hodnotu so špecifickým „číslom kapitoly/pravidla SOLAS“. Keď sa technik pozrie na aktuálny konsolidovaný text SOLAS, vidí, že toto číslo článku patrí inej téme a daná hodnota nie je zahrnutá v texte. Správna požiadavka je v inom pravidle a inej hodnote. Poučenie: každý legislatívny odkaz je overený doslovne z pôvodného aktuálneho textu.
Prípad 2 – Zastaraná prahová hodnota. Tím zapíše environmentálnu požiadavku do správy so starou limitnou hodnotou danou AI. Táto hodnota bola sprísnená pred niekoľkými rokmi; Loď je za aktuálnym limitom. Správa obsahuje nesprávne "vhodné" vyhlásenie. Chyba sa zachytí pri porovnaní s aktuálnym textom MARPOL. Ponaučenie: regulačné hranice sú aktualizované; Hodnota v pamäti AI môže byť zastaraná.
Prípad 3 – Vymyslené meranie. Správa o meraní hrúbky návrhu pripravená AI obsahuje hodnoty hrúbky pre niektoré body, ktoré sa zdajú byť „rozumné“, ale v skutočnosti sa nemerajú. Keď geodet porovná každú hodnotu so záznamom merania v teréne, nájde a vymaže riadky, ktoré nemajú zdroj. Poučenie: každá technická hodnota v správe by mala byť založená na skutočnom meraní; plynulý text nie sú dáta.
Kopírovateľné šablóny výziev
Šablóna 1 – Zhrnutie textu pravidla (v závislosti od zdroja):
Úloha: Ste asistent čítania námornej legislatívy. Kontext: Nižšie vkladám príslušný text pravidla. Úloha: Na základe textu, ktorý som uviedol: 1) Zhrňte požiadavku tohto článku v jednoduchom jazyku. 2) Ak existuje číselný limit/hodnota, citujte ho doslovne a s jeho jednotkou.3) Nepridávajte nič, čo nie je v texte; Ak to nie je jasné, povedzte „nie je v texte“. Obmedzenie: NEZMYSLEJTE si číslo položky ani hodnotu z vlastnej pamäte.
Šablóna 2 – Plán overovania citácií:
Uveďte, ktoré úradné dokumenty a oddiely by som si mal pozrieť, keď sa pokúsim odpovedať na nasledujúcu regulačnú otázku: [otázka]. 1) Prípadne relevantné dokumenty a názvy sekcií. 2) Poznámka „Overiť z pôvodného textu“ pre každú z nich. Obmedzenie: Presné číslo výrobku a hodnota; Prečítam si ich z oficiálneho textu. Označte „nejasné“ tam, kde si nie ste istý.
Šablóna 3 – Konfigurácia správy z prieskumu:
Preveďte nasledujúce nespracované zistenia inšpekcie do organizovanej správy z prieskumu: [nálezy a skutočné merania].1) Štruktúra so štandardnými nadpismi; označte chýbajúce nadpisy.2) Priraďte každú technickú hodnotu k meraniu, ktoré uvediem. Obmedzenie: NEVYMAĽUJTE žiadnu hodnotu, ktorú som nenameral, alebo ju vyplňte ako „primeranú“; označte každé vyhlásenie o neistom zdroji tagom [VERIFY].
Šablóna 4 – Regulačná kontrola výstupných halucinácií:
Uveďte všetky odkazy a číselné hodnoty v tejto odpovedi na právny predpis/pravidlo:[prilepiť odpoveď]Každý riadok: (citácia/hodnota) | (na základe: daného textu/predpokladu/neistoty)| (ako to overím). Zvýraznite každý riadok, ktorého základ je „neistý“ alebo „pamäťový“, a uveďte, že by sa nemal používať bez overenia z oficiálneho zdroja.
Slabá výzva / Silná výzva
Slabá výzva:
Aké sú požiadavky na toto vybavenie podľa SOLAS? Povedzte to číslom položky.
Výkonná výzva:
Úloha: Ste asistent čítania legislatívy. Kontext: Nižšie uvádzam aktuálny text príslušnej sekcie SOLAS. Úloha: Zhrňte požiadavku na vybavenie len na základe tohto textu a citujte ju doslovne s jednotkou číselnej hodnoty, ak existuje. Obmedzenie: NEVYHODUJTE číslo položky alebo hodnotu, ktorá nie je v texte; Ak to nie je v texte, povedzte „nie je to v texte, ktorý ste poskytli“. Každú referenciu osobitne overím podľa oficiálneho konsolidovaného výkazu.
Slabá výzva predpokladá, že autoritou je AI a žiada položky z pamäte; Silný text výzvy poskytuje kontext a zakazuje vymýšľanie.
Časté chyby
- Zámena AI za regulačný orgán. Čísla a hodnoty položiek môžu byť fiktívne; AI je vyhľadávací/návrhový nástroj, nie zdroj.
- Prepadnutie štýlu citovania. Presvedčivý formát „kapitola/pravidlo“ nie je dôkazom presnosti.
- Za predpokladu aktuálnosti. Pravidlá sa často aktualizujú; Prah v pamäti môže byť zastaraný.
- Vytvorenie hodnoty v prehľade. Nenamerané technické hodnoty by nemali vstupovať do správy potichu v plynulom texte.
- Preskakovanie kontextu typu/veľkosti lode. Pravidlo platné pre jednu loď môže byť neplatné pre inú loď; treba skontrolovať pokrytie.
V súhrne
Klasifikačné pravidlá, legislatíva a dokumenty o prieskumoch stanovujú právno-technickú legitimitu lode a AI urýchľuje zhrnutie, porovnanie a štruktúrovanie týchto textov. Legislatíva je však oblasťou, kde AI halucinuje najviac: každá klauzula, odkaz a prahová hodnota je overená doslovne z aktuálneho oficiálneho textu; Každá technická hodnota v správach je spojená so skutočným meraním. AI je nástroj na vyhľadávanie a navrhovanie, nie právno-technická autorita; Zodpovednosť nesie inžinier podpisovania a geodet.
Aplikačná úloha
Vyberte časť textu pravidla (reprezentatívny alebo verejne dostupný príklad) a nechajte AI zhrnúť ho výlučne na základe textu, ktorý poskytnete so šablónou „zhrnutie textu pravidla (závislý od zdroja)“. Potom požiadajte AI o zapamätané číslo položky na rovnakú tému a otestujte výstup pomocou šablóny „audit halucinácie regulačného výstupu“; Nahláste, koľko citácií je neoveriteľných. Nakoniec vytvorte surový zoznam výsledkov prieskumu a označte všetky hodnoty neurčitého pôvodu.
kontrolný zoznam
- [ ] Každý právny predpis/odkaz na triedu som doslovne overil z aktuálneho oficiálneho textu.
- [ ] AI som použil ako nástroj na vyhľadávanie a návrh, nie ako autoritu.
- [ ] Potvrdil som, že limitné hodnoty pravidiel sú aktuálne.
- [ ] Prepojil som každú technickú hodnotu v správe so skutočným meraním/zdrojom.
- [ ] Skontroloval som, či rozsah typu/dĺžky lode odkazuje na správne pravidlo.
- [ ] Záverečnú správu a vyhlásenie o zhode som nechal u inšpektora/inžiniera, ktorý ju podpísal.