zisky:
- Schopnost skenovat a shrnout třídní pravidla, SOLAS/MARPOL a požadavky na průzkum ve strukturovaném formátu s AI
- Schopnost vytvářet zprávy o průzkumech, technické dokumenty a soubory shody ve formě návrhu s podporou AI
- Schopnost ověřit každou klauzuli pravidla, datum a požadavek daný AI z oficiálního a aktuálního zdroje
Loď existuje také na papíře: pravidla třídy, smluvní průzkumy, legislativa státu vlajky, certifikáty, technické příručky a inspekční zprávy. Tento svět dokumentů zakládá právní a technickou legitimitu lodi; Jedno chybějící osvědčení nebo nesprávně vyložené pravidlo bude mít za následek zadržení lodi v přístavu (zadržení státní přístavní inspekce) nebo zneplatnění jejího pojištění. Třídní pravidla (třídní pravidla; technické požadavky klasifikační společnosti týkající se návrhu, konstrukce a údržby lodi) a texty legislativy jsou dlouhé, provázané a neustále aktualizované dokumenty. Umělá inteligence (AI) umožňuje rychlejší shrnutí, porovnávání a navrhování zpráv. Námořní legislativa je však jednou z oblastí, kde je umělá inteligence nejvíce halucinační.
Absolutní pravidlo: Žádná klauzule pravidla, číslo klauzule, mezní hodnota nebo fráze „že je požadavek SOLAS/MARPOL/třída“ poskytnutá AI nesmí být použita, aniž by byla doslovně potvrzena aktuálním a oficiálním textem příslušného dokumentu. Umělá inteligence dokáže vymyslet čísla položek a věrohodné, ale falešné hodnoty, které ve skutečnosti neexistují; V legislativě to má vážné důsledky z hlediska právního a bezpečnostního.
Pojmy: Klasifikační společnost: Organizace, která kontroluje a osvědčuje soulad lodi s pravidly (ABS, DNV, LR, BV, Türk Loydu atd.). SOLAS: Mezinárodní úmluva o bezpečnosti života na moři. Průzkum: Pravidelná kontrola, zda loď dodržuje pravidla. Státní přístavní inspekce: Inspekce cizích lodí státem přístavu. Certifikát: Oficiální dokument osvědčující určitou shodu. Halucinace: Umělá inteligence, která vyrábí neexistující hmotu/hodnotu jako skutečnou.
Proč je regulace pro umělou inteligenci nebezpečnou oblastí?
Velké jazykové modely vytvářejí „nejpravděpodobnější pokračování“ textu; Není spojen s definitivním zdrojem. Z toho vyplývají tři pasti v námořní legislativě. Za prvé, falešná atribuce: AI může vytvořit referenci, která vypadá realisticky, ale je nepravdivá nebo neexistuje, jako je „SOLAS kapitola II-1, pravidlo 8.3“. Za druhé, starší hodnota: pravidla jsou často aktualizována; Práh v paměti AI mohl být nahrazen. Za třetí, zmatek v kontextu: lze hovořit o pravidle platném pro jeden typ/velikost lodi, jako by se vztahovalo na jinou loď, pro kterou je neplatné.
Používejte tedy umělou inteligenci jako nástroj „vyhledávání a navrhování“ v legislativě, nikoli jako „úřad“. Umělá inteligence vás může nasměrovat na dokument, na který se musíte podívat, na kterou část, shrnout dlouhý text, načrtnout rozdíl mezi dvěma verzemi; ale každá konkrétní položka, hodnota a reference je ověřena přečtením z původního aktuálního textu. Nejbezpečnějším použitím je poskytnout AI příslušný text jako kontext (pokud je to možné) a pokyn „řekni mi, pouze pokud je jeho zdroj nejasný, na základě textu, který poskytnu“.
Upozornění: Uvěřitelná forma čísla položky, kterou uvádí AI, není důkazem jeho přesnosti. Nemůžete říct inspektorovi nebo třídě „AI to řekla“; Každý odkaz musí být založen na příslušné straně platného úředního dokumentu. Žádná látka, jejíž zdroj nelze uvést, není ve zprávě zahrnuta.
Vypracování průzkumu a technické zprávy
Umělá inteligence je skutečně užitečná při zlepšování struktury, jazyka a konzistence průzkumů a technických zpráv: přeměňuje seznam zjištění inspekce na organizovanou zprávu, připomíná chybějící nadpisy a zajišťuje, aby byl stejný nález napsán konzistentně na různých místech. Každá technická hodnota protokolu (naměřená tloušťka, zjištěná rychlost koroze, mezní hodnota) však musí záviset na měření a zdroji. Zatímco AI vytváří hladkou zprávu, má tendenci vyplnit neměřenou hodnotu jako „přiměřenou“; To je ve zprávě o průzkumu nepřijatelné.
Dobrý pracovní postup je tento: poskytnete skutečná měření a nálezy, struktury umělé inteligence a verbalizujete je, poté přiřadíte každou hodnotu k jejímu zdroji (metr, datum, místo) a extrahujete každé prohlášení o nejistém původu. Zpráva je právním a technickým dokumentem; Zodpovědnost nese podepisující geodet/inženýr.
Quest
Bezpečné používání AI
Rizikové/zakázané použití
Shrnutí pravidel
Uveďte text a shrňte
Vyžádání položky/hodnoty z paměti
Hledání citace
"Na který dokument se mám podívat?"
Použití čísla položky bez jeho ověření
Rozdíl ve verzi
Porovnejte dva texty
Za předpokladu aktuální verze
Návrh zprávy
Strukturování nálezů
tvoří neměřenou hodnotu
Seznam certifikátů
Připomenutí požadovaných dokumentů
Neověřuje se datum platnosti
Mini pouzdra
Případ 1 – Vymyšlená doložka SOLAS. Technik požádá AI, aby podpořila požadavek na bezpečnostní vybavení; AI udává přesnou hodnotu se specifickým „číslem kapitoly/pravidla SOLAS“. Když se technik podívá na aktuální konsolidovaný text SOLAS, vidí, že toto číslo článku patří jinému předmětu a daná hodnota není v textu zahrnuta. Správný požadavek je v jiném pravidle a jiné hodnotě. Poučení: každý legislativní odkaz je doslovně ověřen z původního aktuálního textu.
Případ 2 – Zastaralý práh. Tým zapíše environmentální požadavek do zprávy se starou limitní hodnotou danou AI. Tato hodnota byla před několika lety zpřísněna; Loď je za aktuálním limitem. Zpráva obsahuje nesprávné prohlášení "vhodné". Chyba je zachycena při porovnání s aktuálním textem MARPOL. Lekce: Regulační hranice jsou aktualizovány; Hodnota v paměti AI mohla být zastaralá.
Případ 3 — Umělé měření. Zpráva o měření tloušťky návrhu připravená AI obsahuje hodnoty tloušťky pro některé body, které se zdají být „rozumné“, ale ve skutečnosti nejsou měřeny. Jakmile geodet porovná každou hodnotu se záznamem měření v terénu, najde a odstraní čáry, které nemají žádný zdroj. Ponaučení: každá technická hodnota ve zprávě by měla být založena na skutečném měření; plynulý text není data.
Kopírovatelné šablony výzev
Šablona 1 — Shrnutí textu pravidla (v závislosti na zdroji):
Role: Jste asistentem čtení námořní legislativy. Kontext: Níže vkládám příslušný text pravidla. Úkol: Vychází POUZE z textu, který jsem uvedl: 1) Shrňte požadavek tohoto článku srozumitelným jazykem. 2) Pokud existuje číselný limit/hodnota, citujte jej doslovně a s jeho jednotkou.3) Nepřidávejte nic, co v textu není; Pokud to není jasné, řekněte „není v textu“. Omezení: Nevytvářejte číslo položky nebo hodnotu z vlastní paměti.
Šablona 2 — Plán ověření citace:
Uveďte, na které úřední dokumenty a oddíly bych se měl podívat, když se snažím odpovědět na následující regulační otázku: [otázka]. 1) Případně relevantní dokumenty a názvy oddílů. 2) Poznámka „Ověřit z původního textu“ u každého. Omezení: Přesné číslo artiklu a hodnota; Přečtu si je z oficiálního textu. Označte „nejasné“, kde si nejste jisti.
Šablona 3 – Konfigurace zprávy z průzkumu:
Převeďte následující nezpracovaná kontrolní zjištění do organizované zprávy o průzkumu: [zjištění a aktuální měření].1) Struktura se standardními nadpisy; označte chybějící nadpisy.2) Přiřaďte každou technickou hodnotu k měření, které uvedu. Omezení: NEVYMLUVUJTE žádnou hodnotu, kterou jsem nezměřil, nebo ji vyplňte jako „přiměřenou“; označte každé prohlášení o nejistém zdroji tagem [VERIFY].
Šablona 4 – Regulační výstupní kontrola halucinací:
Uveďte všechny odkazy a číselné hodnoty v následujících odpovědích na právní předpisy/pravidlo:[vložit odpověď]Každý řádek: (citace/hodnota) | (na základě: daného textu/předpokladu/nejisté)| (jak to ověřím). Zvýrazněte jakýkoli řádek, jehož základ je „nejistý“ nebo „paměťový“, a uveďte, že by neměl být používán bez ověření z oficiálního zdroje.
Slabá výzva / Silná výzva
Slabá výzva:
Jaké jsou požadavky na toto vybavení podle SOLAS? Řekněte to s číslem položky.
Výkonná výzva:
Role: Jste asistentem čtení legislativy. Kontext: Níže vkládám aktuální text příslušné sekce SOLAS. Úkol: Shrňte požadavek na vybavení pouze na základě tohoto textu a citujte jej doslovně s jeho číselnou hodnotou, pokud existuje. Omezení: NEVYMĚŇUJTE číslo položky nebo hodnotu, která není v textu; Pokud to není v textu, řekněte „není to v textu, který jste uvedli“. Každou referenci ověřím samostatně podle oficiálního konsolidovaného výkazu.
Slabá výzva předpokládá, že autoritou je AI a žádá o položky z paměti; Silný text výzvy poskytuje kontext a zakazuje výrobu.
Časté chyby
- Záměna AI za regulační orgán. Čísla a hodnoty položek mohou být fiktivní; AI je vyhledávací/návrhový nástroj, nikoli zdroj.
- Propadá citačnímu stylu. Přesvědčivý formát „kapitola/pravidlo“ není důkazem přesnosti.
- Za předpokladu včasnosti. Pravidla jsou často aktualizována; Práh v paměti může být zastaralý.
- Vytvoření hodnoty ve zprávě. Nenaměřené technické hodnoty by neměly vstupovat do zprávy tiše v plynulém textu.
- Přeskakování kontextu typu/velikosti lodi. Pravidlo platné pro jednu loď může být neplatné pro jinou; pokrytí je třeba zkontrolovat.
V souhrnu
Klasifikační pravidla, legislativa a dokumenty o průzkumech zakládají právně-technickou legitimitu lodi a AI urychluje shrnutí, srovnání a strukturování těchto textů. Legislativa je však oblastí, kde AI halucinuje nejvíce: každá klauzule, odkaz a prahová hodnota jsou doslovně ověřeny ze současného oficiálního textu; Každá technická hodnota ve zprávách je spojena se skutečným měřením. AI je nástroj pro vyhledávání a navrhování, nikoli právně-technická autorita; Odpovědnost leží na inženýrovi podpisu a geodetu.
Aplikační úkol
Vyberte část textu pravidla (reprezentativní nebo veřejně dostupný příklad) a nechte ji AI shrnout pouze na základě textu, který poskytnete pomocí šablony „shrnutí textu pravidla (závislý na zdroji)“. Poté požádejte AI o zapamatované číslo položky na stejné téma a otestujte výstup pomocí šablony „regulatorní výstup halucinace“; Uveďte, kolik citací nelze ověřit. Nakonec vytvořte hrubý seznam výsledků průzkumu a označte všechny hodnoty nejistého původu.
kontrolní seznam
- [ ] Ověřil jsem každou legislativu/odkaz třídy doslovně z aktuálního oficiálního textu.
- [ ] AI jsem použil jako nástroj pro vyhledávání a návrhy, ne jako autoritu.
- [ ] Potvrdil jsem, že limitní hodnoty pravidla jsou aktuální.
- [ ] Propojil jsem každou technickou hodnotu ve zprávě se skutečným měřením/zdrojem.
- [ ] Zkontroloval jsem, že rozsah typu/délky lodě odkazuje na správné pravidlo.
- [ ] Závěrečnou zprávu a prohlášení o shodě jsem nechal u inspektora/inženýra, který ji podepsal.