Hagnaður:
- Áhættutengd flokkun á því hvar gervigreind er að hraða og hvar það er áhættusamt í umhverfisverkfræði
- Hæfni til að viðurkenna hættu LLMs á ofskynjunum varðandi umhverfismörk, staðla og auðlindir
- Hæfni til að sannreyna gervigreind framleiðsla á rannsóknarstofu, sviði og reglugerðum og beita siðferðilegum / persónuverndarreglum
Ímyndaðu þér að vinna sem umhverfisverkfræðingur í sameiginlegri skólphreinsistöð á skipulögðu iðnaðarsvæði. Það er skyndilega aukning á COD í úttaksvatninu, segir viðskiptastjórinn í síma, "Ég vil orsökina og lausnina sem fyrst." Á borðinu þínu eru niðurstöður rannsóknarstofu frá síðustu viku, SCADA skrár og spjallgluggi sem þú varst að opna. Þú spyrð gervigreind "af hverju jókst framleiðsla COD, skrifaðu líka niður losunarmörkin?" Innan nokkurra sekúndna skrifar líkanið á réttri tyrknesku, lið fyrir lið, mögulegar ástæður og einnig setninguna "Samkvæmt vatnsmengunarreglugerðinni eru losunarmörk COD 120 mg/L." Vandamálið er að þessi brotpunktur gæti hafa verið fyrirmyndaður; Það fer eftir iðnaði þínum, móttökuumhverfi og gerð aðstöðu, raunveruleg mörk geta verið allt önnur. Þessi eining kennir þér að stjórna því augnabliki - augnablikinu þegar verkfræðiábyrgð þín skerast hratt en óstaðfest framleiðsla gervigreindar.
Hvað gervigreind gerir og gerir ekki í umhverfisverkfræði
Stór tungumálalíkön (LLM) eru kerfi þjálfuð á meginreglunni um að "spá fyrir næsta orð" á stórum textagögnum. Þetta gerir þá mjög sterka í tungumálavinnu, en í grundvallaratriðum veikir í staðreyndaskoðun. Líkanið „man ekki“ eftir brotpunkt, það framleiðir tölu sem lítur tölfræðilega sanngjarnt út.
Störf gervigreind er góð í umhverfisverkfræði:
- Að draga saman og semja langa löggjöf, matsskýrslur eða bókmenntatexta
- Koma á uppbyggingu, formúlu og rökfræði útreiknings (massajafnvægi, losunarálag, skilvirkni)
- Að búa til lista yfir mögulegar orsakir og aðstæður fyrir úrræðaleit
- Gera drög að skýrslum, töflur, kynningar og bréfaskipti
- Að útskýra flókið efni (t.d. nítrunarefnafræði) skref fyrir skref
Verkefni sem gervigreind getur ekki gert/er óáreiðanlegt:
- Að veita uppfærð og samhengissértæk viðmiðunarmörk, staðalnúmer eða reglugerðargrein
- Aðgangur að raunverulegum mæligögnum aðstöðu þinnar (nema þú gefur það upp)
- Skipti um rannsóknarstofugreiningu eða vettvangsmælingu
- Taktu á þig lagalega/stjórnsýslulega ábyrgð - undirskriftin er þín
Ábending: Hugsaðu um gervigreind eins og „eldri nemi. Fljótur, vel lesinn, góður rithöfundur; En þú sendir ekki hverja útprentun hvert sem er án þess að athuga það sjálfur. Sérhver tala og sérhver tilvísun í löggjöf sem hann framleiðir er bara tilgáta þar til þú staðfestir það frá upprunanum.
Ofskynjanir: tilbúið viðmiðunarmörk og reglugerðargrein
Ofskynjanir er þegar líkanið framleiðir óraunverulegar upplýsingar með fullu öryggi. Þrjár hættulegustu tegundir ofskynjana í umhverfisverkfræði eru:
- Tilbúið viðmiðunargildi: Tölur sem virðast réttar en kunna að vera rangar, eins og "Dagstakmarkið fyrir PM10 er 50 µg/m³".
- Tilvísun í lagasetningu: „Samkvæmt 12./3. grein reglugerðarinnar...“ — greinarnúmer og heiti reglugerðarinnar virðast raunverulegt, en innihaldið er tilbúið.
- Upprunaleg heimild: Grein sem ekki er til, staðalnúmer (t.d. „TS EN 12457“) eða leiðarvísir stofnana.
Taflan hér að neðan sýnir öruggt og áhættusamt svarmynstur sem líkanið getur gefið við sömu spurningu:
Framleiðsla líkans
Áhætta
hvað á að gera
"Lokunarmörkin eru nákvæmlega 120 mg/L."
Hátt — nákvæm tala, óheimilt
Staðfestu frá opinberri löggjöf
"Losunarmörk eru mismunandi eftir geira og móttökuumhverfi; skoða skal viðeigandi reglugerðartöflu."
Lágt - leið
Staðfesta samt, en áreiðanlegt
„Ég get ekki staðfest þetta gildi, sjá opinbera heimild.“
lágt
hugsjón hegðun
Varúð: Því nákvæmari og öruggari sem númerið er skrifað, því hættulegra er það ef það er óheimilt. Skýrt gildi eins og „120 mg/L“ mun róa þig en gefa falskt sjálfstraust. Ekki byggja ákvörðun þína á viðmiðunarmörkum sem ekki er vitnað í.
Áhættutengd verkaskipting
Vægi niðurstaðna ákvörðunarinnar er það sem ákvarðar hvar á að nota gervigreind að vild og hvar á að nota það aðeins til að gera uppkast. Eftirfarandi flokkun er hagnýtur áttaviti:
Leit
Áhættustig
Hlutverk gervigreindar
Lögboðin sannprófun
Bókmenntir/lagayfirlit, hugtakaskýring
lágt
framleiðandi, eldsneytisgjöf
Krossathugaðu lykilkröfur
Skýrslu/bréfauppkast, töfluskipulag
lágt
drög að rithöfundi
Ritstjórnarrýni
Uppsetning gagnagreiningar, reikniformúla
miðlungs
byggingarmaður
Inntaksgögn + handvirk stjórn á útreikningi
Vinnuúrræðaleit atburðarás
miðlungs
hugmyndaframleiðandi
Rannsóknarstofu + vettvangsgögn
Ákvörðun losunar/losunarmarka
hátt
Aðeins drög
Opinber löggjöf + viðurkennd rannsóknarstofa
Niðurstaða mats á umhverfisáhrifum, „áhrif hverfandi“ dómur
hátt
Aðeins drög
Sérfræðingur + vettvangsmæling
Heilsuákvarðanir manna/umhverfis
gagnrýninn
Stuðningur, aldrei ákveðið
Full löggjöf + samþykki sérfræðinga
Reglan er einföld: því óafturkræfnari sem útkoman er og því fleiri líf/peninga/lög sem hún hefur áhrif á, því strangari er AI framleiðsla sannreynd. Þú færð hraða með lítilli áhættu; í mikilli áhættu AI framleiðir aðeins fyrstu drögin, gögn og löggjöf taka ákvörðun.
Veik kvaðning / Sterk kvaðning
Tvær mismunandi beiðnir um sömu þörf gefa tilefni til gjörólíkra áhættusniða:
VEIK KVÖRÐUN: "Hver er COD-takmörk frárennslisvatns? Skrifaðu stuttlega." Vandamál: Þvingar líkanið til að passa við eina harða tölu. Geiri, móttökuumhverfi, gerð aðstöðu ekki tilgreind. Úttakið kemur án heimildar. STERK HRINGING: "Útskýrðu hvaða þáttum (geiri, móttökuumhverfi, rennsli) losunarmörk COD fyrir afrennsli textíliðnaðarins í Türkiye ráðast af. EKKI búa til nákvæma tölu; í staðinn skaltu útskýra skref fyrir skref úr hvaða opinberu reglugerðartöflu og samkvæmt hvaða færibreytum ætti að lesa hana. Ef þú ert ekki viss skaltu tilgreina 'verður að sannreyna'." Mismunur: Sterk hvetja lætur líkanið ekki passa við númer; Það notar það sem leiðbeiningar og lætur lokaorðið eftir í löggjöfinni.
Siðfræði og persónuvernd gagna
Sem umhverfisverkfræðingur eru gögnin sem þú hefur oft viðkvæm: Skrár fyrirtækis um stöðugt eftirlit (CPMS), brotasögu, framleiðslugeta eru viðskiptaleyndarmál. Öll gögn sem þú límir inn í opinbert gervigreindarverkfæri gætu verið óviðráðanleg.
Grunnreglur:
- Nafnlaus: Fjarlægðu nafn fyrirtækis, hnit aðstöðu, persónuleg gögn, samningsupplýsingar úr leiðbeiningunum. Í stað „fyrirtækis X“ skrifa „textílverksmiðja“.
- Verndaðu viðskiptaleyndarmál: Athugaðu gagnastefnu fyrirtækisins áður en þú deilir upplýsingum eins og brotagögnum, getu, kostnaði.
- Gagnsæi: Ef þú gerðir skýrslu með gervigreind, tilgreindu það á viðeigandi hátt í verkflæðinu þínu; Mundu að ábyrgðin er þín.
# Einföld nafnleynd athugun áður en gögn eru sett í kvaðninguna sensitive_fields = ["fyrirtækjanafn", "hnit", "tc_no", "capacity", "cost"]def prompt_safe_is(texti, næmur): found = [a fyrir a í næmum ef a í text.lower()] skilar (= "len(com,found)y_name)y_name. COD: 850 mg/L, rúmtak: 5000 m3/dag"öruggt, áhættusamt = prompt_safe_mi(example, sensitive_areas)print("Er hægt að senda það:", öruggt) # Falseprint("Á að þrífa fyrst:", áhættusamt) # ['nafn fyrirtækis', 'geta']
lítill hulstur
Ungur verkfræðingur hjá umhverfisráðgjafafyrirtæki spyr gervigreindina „hver er úrgangskóði og förgunaraðferð á úrgangsolíu“ um brýnt tilboð. Líkanið skilar af öryggi 6 stafa úrgangskóða og svarinu „förgun með brennslu“. Verkfræðingurinn setur þetta beint inn í tilvitnunina. Eftir afhendingu athugar yfirverkfræðingur: kóðinn sem gefinn er upp samsvarar ekki raunverulegum uppruna og innihaldi úrgangs; Rétt flokkun er aðeins hægt að gera með greiningarskýrslu og opinberum úrgangslista. Rangur kóða þýðir röng förgunarleið og hætta á stjórnsýsluviðurlögum. Lexía: Kóðinn sem gervigreindin gaf var tilgáta; Þar sem það var ekki sannreynt með greiningu og löggjöf gæti það ekki verið grundvöllur ákvörðunarinnar.
Algeng mistök
- Að setja viðmiðunarmörkin sem gervigreind gefa inn í skýrsluna án þess að spyrja uppruna hennar.
- Telja tilvísunina í "reglugerð X" áreiðanlega án þess að bera hana saman við raunverulegan texta.
- Límdu trúnaðarupplýsingar eins og nafn fyrirtækis, rakningargögn o.s.frv. inn í opinbera tólið.
- Byggir áhættuákvörðun (losunarmörk, niðurstaða mats á umhverfisáhrifum) á framleiðslu gervigreindar.
- Að misskilja öruggan tón líkansins fyrir sönnunargögn um nákvæmni.
- Að reyna að færa ábyrgðina yfir á vélina með því að segja "AI said"; Undirskriftin og ábyrgðin er hjá verkfræðingnum.
Í stuttu máli
- Gervigreind er hraðall í umhverfisverkfræði: öflugur í stuttu máli, drög, reikningsbreytingar og sviðsmyndagerð; Það er óáreiðanlegt þegar vísað er í nákvæm viðmiðunarmörk og löggjöf.
- LLMs framleiða ofskynjanir um skerðingar, staðla og heimildir; nákvæmar tölur og óupphafnar tölur eru mesta áhættan.
- Verkaskiptingin byggist á áhættu: því óafturkræfnari sem niðurstaðan er, því strangari er sannprófunin.
- Sérhver gervigreind framleiðsla er bara tillaga/skissa þar til hún hefur verið staðfest af rannsóknarstofu, vettvangsmælingum og lögum stjórnvalda.
- Ekki láta í té trúnaðar- og persónuupplýsingar á neinar opinberar leiðir án þess að gera þær nafnlausar.
- Gervigreind er „eldri nemi“: hún keyrir, en verkfræðingurinn ber undirskriftina og ábyrgðina.
Umsóknarverkefni
Veldu fimm verkefni úr fræðasviðinu þínu (afrennsli, loft, úrgangur eða EIA) og settu hvert verkefni í áhættutengda töfluna hér að ofan: skrifaðu verkefnið, ákvarðaðu áhættustigið (lágt/miðlungs/hátt/mikið), skilgreindu hlutverk gervigreindar og lögboðið sannprófunarskref. Veldu síðan eitt af þessum verkefnum og skrifaðu fyrst vísvitandi „veika tilkynningu“, merktu við hvort það sé að minnsta kosti ein óheimild tilvísun í viðmiðunarmörk eða löggjöf í svarinu sem þú færð frá líkaninu; Síðan, fyrir sömu þörf, skrifaðu "sterka vísbendingu" sem bannar að búa til tölur og vísar þér að upprunanum og berðu saman úttakið tvö hlið við hlið. Lýstu að lokum í einni málsgrein hvaða stjórnvaldslöggjöf og hvaða rannsóknarstofu/vettvangsgögn þú munt nota til að sannreyna þetta verkefni.