Kasu:
- Riskipõhine klassifikatsioon selle kohta, kus AI kiireneb ja kus on keskkonnatehnikas riskantne
- Oskus ära tunda LLM-ide hallutsinatsioonide riski seoses keskkonna piirväärtuste, standardite ja ressurssidega
- Võimalus valideerida tehisintellekti väljundit laboris, valdkonnas ja regulatiivsetes tingimustes ning rakendada eetilisi/privaatsuspõhimõtteid
Kujutage ette töötamist keskkonnainsenerina organiseeritud tööstustsooni ühises reoveepuhastis. Väljalaskevees on KHT järsk tõus, ärijuht ütleb telefonis: "Soovin põhjust ja lahendust võimalikult kiiresti." Teie laual on eelmise nädala laboratoorsed tulemused, SCADA kirjed ja äsja avatud vestlusaken. Te küsite AI "miks väljund COD suurenes, kirjutage ka tühjenduspiir?" Mudel kirjutab mõne sekundi jooksul õiges türgi keeles punkthaaval kirja võimalikud põhjused ja ka lause "Veereostuse kontrolli määruse kohaselt on KHT-heite piirmäär 120 mg/L." Probleem on selles, et see murdepunkt võib olla mudeliga kohandatud; Sõltuvalt teie tööstusest, vastuvõtvast keskkonnast ja rajatise tüübist võib tegelik limiit olla täiesti erinev. See üksus õpetab teid juhtima just seda hetke – hetke, mil teie insenerivastutus ristub tehisintellekti kiire, kuid kontrollimata väljundiga.
Mida AI teeb ja ei tee keskkonnatehnikas
Suured keelemudelid (LLM) on süsteemid, mida treenitakse tohutute tekstiandmete "järgmise sõna ennustamise" põhimõttel. See muudab nad keeletöös väga tugevaks, kuid faktide kontrollimisel põhimõtteliselt nõrgaks. Mudel ei "mäleta" murdepunkti, vaid toodab arvu, mis tundub statistiliselt mõistlik.
Jobs AI on keskkonnatehnika valdkonnas hea:
- Pikkade õigusaktide, KMH aruannete või kirjandustekstide kokkuvõtete tegemine ja koostamine
- Arvutuse struktuuri, valemi ja loogika kehtestamine (massibilanss, emissioonikoormus, efektiivsus)
- Võimalike põhjuste ja tõrkeotsingu stsenaariumide loendi koostamine
- Aruande kavandite, tabelite, ettekannete ja kirjavahetuse koostamine
- Keerulise teema (nt nitrifikatsioonikeemia) samm-sammult selgitamine
Ülesanded, mida AI teha ei saa/on ebausaldusväärne:
- Ajakohase ja kontekstipõhise piirväärtuse, standardnumbri või määruse artikli esitamine
- Juurdepääs teie rajatise tegelikele mõõtmisandmetele (kui te neid ei esita)
- Asendus laborianalüüsiks või välimõõtmiseks
- Võtke endale juriidiline/haldusvastutus – allkiri on teie
Näpunäide. Mõelge tehisintellektile kui "vanemale praktikandile". Kiire, hästi loetav, hea mustandi kirjutaja; Kuid iga väljatrükki ei saada ilma ise kontrollimata kuhugi. Iga number ja iga viide õigusaktidele, mille ta toodab, on vaid hüpotees, kuni te seda allikast kontrollite.
Hallutsinatsioonid: väljamõeldud piirväärtus ja reguleeriv artikkel
Hallutsinatsioon on see, kui modell toodab ebareaalset teavet täie enesekindlusega. Kolm kõige ohtlikumat tüüpi hallutsinatsioone keskkonnatehnikas on:
- Väljamõeldud piirväärtus: numbrid, mis tunduvad õiged, kuid võivad olla valed, näiteks "PM10 24-tunnine piirang on 50 µg/m³".
- Väljamõeldud seadusandlik viide: "Vastavalt määruse artiklile 12/3..." — määruse artikli number ja nimetus näivad tõesed, kuid sisu on väljamõeldud.
- Fiktiivne allikas: olematu artikkel, standardnumber (nt "TS EN 12457") või institutsiooniline juhend.
Allolev tabel näitab ohutuid ja riskantseid vastuste mustreid, mida mudel võib anda samale küsimusele:
Mudeli väljund
Risk
mida teha
"Väljaheite piirmäär on täpselt 120 mg/l."
Kõrge — täpne arv, allikata
Kontrollige ametlikest õigusaktidest
"Väljaheite piirmäärad varieeruvad olenevalt sektorist ja vastuvõtvast keskkonnast, tuleks tutvuda vastava regulatsioonitabeliga."
Madal - ruuter
Kontrollige ikka, kuid usaldusväärne
"Ma ei saa seda väärtust kontrollida, vaadake ametlikku allikat."
madal
ideaalne käitumine
Ettevaatust: mida täpsem ja kindlam number on kirjutatud, seda ohtlikum on see allikata. Selge väärtus, nagu "120 mg/l", rahustab teid, kuid annab vale kindlustunde. Ärge tuginege oma otsuses ühelegi piirväärtusele, mida pole viidatud.
Riskipõhine tööjaotus
Otsuse tulemuse kaal määrab, kus kasutada tehisintellekti vabalt ja kus ainult koostamise eesmärgil. Järgmine klassifikatsioon on praktiline kompass:
Quest
Riski tase
AI roll
Kohustuslik kontrollimine
Kirjanduse/õigusaktide kokkuvõte, mõiste seletus
madal
tootja, kiirendaja
Kontrollige võtmenõudeid
Aruande/kirjavahetuse mustand, tabeli paigutus
madal
mustandi kirjutaja
Toimetuse ülevaade
Andmeanalüüsi seadistus, arvutusvalem
keskmine
ehitaja
Sisendandmed + arvutuse käsitsi juhtimine
Protsessi tõrkeotsingu stsenaarium
keskmine
ideede generaator
Laboratoorsed + väliandmed
Heitmete/heitmete piirmäärade määramine
kõrge
Ainult mustand
Ametlik seadusandlus + akrediteeritud labor
KMH tulemus, "mõju tühine" otsus
kõrge
Ainult mustand
Ekspert + välimõõtmine
Inimese/keskkonna tervisealased otsused
kriitiline
Toetage, ärge kunagi otsustage
Täielik seadusandlus + ekspertide kinnitus
Reegel on lihtne: mida pöördumatum on tulemus ja mida rohkem elusid/raha/seadusi see mõjutab, seda rangemalt kontrollitakse tehisintellekti väljundit. Suurendate kiirust madala riskiga; suure riski korral koostab tehisintellekt ainult esimese eelnõu, otsuse teevad andmed ja õigusaktid.
Nõrk viip / Tugev viip
Kaks erinevat sama vajaduse taotlust põhjustavad täiesti erinevad riskiprofiilid:
NÕRK VIIPA: "Mis on reovee väljalaske KHT piirang? Kirjutage lühidalt."Probleem: sunnib mudelit sobituma ühe kindla arvuga. Sektor, vastuvõttev keskkond, rajatise tüüp pole täpsustatud. Väljund tuleb ilma allikata. TUGEV VIIP: "Selgitage, millistest teguritest (sektor, vastuvõttev keskkond, voolukiirus) sõltub Türkiye tekstiilitööstuse reovee KHT-heite piirmäär. ÄRGE moodustage täpset arvu; selle asemel selgitage samm-sammult, millisest ametlikust määruse tabelist ja milliste parameetrite järgi seda lugeda. Kui te pole kindel, märkige "tuleb kontrollida". Erinevus: tugev viip ei muuda mudelit numbriga sobivaks; Ta kasutab seda JUHENDINA ja jätab lõpliku sõna seadusandlusele.
Eetika ja andmete privaatsus
Keskkonnainsenerina on teie käsutuses olevad andmed sageli tundlikud: ettevõtte pideva monitooringu (CPMS) kirjed, rikkumiste ajalugu, tootmisvõimsus on ärisaladused. Kõik andmed, mille kleepite avalikku AI-tööriista, võivad olla teie kontrolli alt väljas.
Põhiprintsiibid:
- Anonüümseks muutmine: eemaldage viibalt ettevõtte nimi, rajatise koordinaadid, isikuandmed ja lepingu üksikasjad. "Ettevõte X" asemel kirjutage "tekstiilitehas".
- Kaitske ärisaladust: kontrollige oma ettevõtte andmepoliitikat enne teabe (nt rikkumisandmete, võimsuse, kulude) jagamist.
- Läbipaistvus: kui koostasite aruande tehisintellektiga, märkige see oma töövoos asjakohaselt; Pidage meeles, et vastutus on teie.
# Lihtne anonüümsuse kontroll enne andmete viipasse sisestamist sensitiiv_fields = ["ettevõtte_nimi", "koordinaat", "tc_no", "capacity", "cost"]def prompt_safe_is(tekst, sensitiivne): found = [a insensitiivseks if a in text.lower()] return (len(leitud) == 0, teksti_8, näide: mg/L, võimsus: 5000 m3/päevas"safe, risky = prompt_safe_mi(example, sense_areas)print("Kas seda saab saata:", safe) # Falseprint("Enne puhastada:", riskantne) # ['ettevõtte_nimi', 'võimsus']
mini korpus
Keskkonnakonsultatsioonifirma noor insener küsib tehisintellektilt kiireloomulist hinnapakkumist "mis on vanaõli jäätmekood ja kõrvaldamisviis". Mudel tagastab enesekindlalt 6-kohalise jäätmekoodi ja vastuse "kõrvaldamine põletamise teel". Insener paneb selle otse hinnapakkumisse. Pärast üleandmist kontrollib vaneminsener: esitatud kood ei vasta jäätmete tegelikule allikale ja sisule; Õige klassifitseerimise saab teha ainult analüüsiaruande ja ametliku jäätmenimekirjaga. Vale kood tähendab valet kõrvaldamisviisi ja halduskaristuste ohtu. Õppetund: kood, mille AI andis, oli hüpotees; Kuna seda analüüsi ja õigusaktidega ei kontrollitud, ei saanud see olla ka otsuse aluseks.
Levinud vead
- Tehisintellekti antud piirväärtuse lisamine aruandesse ilma selle allikat küsimata.
- Pidades viidet "määruse artiklile X" usaldusväärseks, ilma seda tegeliku tekstiga võrdlemata.
- Konfidentsiaalse teabe, näiteks ettevõtte nime, jälgimisandmete jms kleepimine avalikku tööriista.
- Kõrge riskiga otsuse (tühjenemise piirmäär, EIA tulemus) põhinemine tehisintellekti väljundil.
- Modelli enesekindla tooni eksitamine täpsuse tõendamiseks.
- Püüdes vastutust masinale lükata, öeldes "AI ütles"; Allkiri ja vastutus lasub inseneril.
Kokkuvõttes
- AI on keskkonnatehnoloogia kiirendaja: võimas lühikokkuvõte, mustand, konto redigeerimine ja stsenaariumide genereerimine; Täpsetele piirväärtustele ja õigusaktidele viidates on see ebausaldusväärne.
- LLM-id tekitavad hallutsinatsioone piiride, standardite ja allikate kohta; täpsed ja allikateta numbrid on suurim oht.
- Tööjaotus on riskipõhine: mida pöördumatum on tulemus, seda rangem on kontrollimine.
- Iga AI väljund on vaid ettepanek/visand, kuni see on kinnitatud labori, välimõõtmise ja valitsuse õigusaktidega.
- Ärge edastage konfidentsiaalseid ja isikuandmeid avalikult ilma neid anonüümseks muutmata.
- AI on "vanem praktikant": see töötab, kuid insener kannab allkirja ja vastutust.
Rakenduse ülesanne
Valige oma õppevaldkonnast (reovesi, õhk, jäätmed või KMH) viis ülesannet ja asetage igaüks ülalolevasse riskipõhisesse tabelisse: kirjutage ülesanne, määrake riskitase (madal/keskmine/kõrge/kriitiline), määratlege tehisintellekti roll ja kohustuslik kontrollietapp. Seejärel valige üks neist ülesannetest ja kirjutage esmalt teadlikult "nõrk viip", märkides linnukesega, kas mudelist saadud vastuses on vähemalt üks allikata viide piirväärtustele või õigusaktidele; Seejärel kirjutage sama vajaduse jaoks "tugev viip", mis keelab arvude moodustamise ja suunab teid allika juurde, ning võrrelge kahte väljundit kõrvuti. Lõpuks kirjeldage ühes lõigus, milliseid valitsuse õigusakte ja milliseid labori/välja andmeid te selle ülesande kontrollimiseks kasutate.