Добици:
- Класификација заснована на ризику где се вештачка интелигенција убрзава, а где је ризична у еколошком инжењерингу
- Способност препознавања ризика од халуцинација ЛЛМ-а у вези са граничним вредностима животне средине, стандардима и ресурсима
- Способност да се валидирају излаз вештачке интелигенције у лабораторији, на терену и у регулативи и примени етичке принципе/принципе приватности
Замислите да радите као инжењер заштите животне средине у заједничком постројењу за пречишћавање отпадних вода организоване индустријске зоне. Дошло је до наглог повећања ЦОД-а у излазној води, пословни менаџер каже телефоном: „Желим узрок и решење што је пре могуће“. На вашем столу су лабораторијски резултати од прошле недеље, СЦАДА записи и прозор за ћаскање који сте управо отворили. Питате АИ "зашто се повећао излазни ЦОД, запишите и границу пражњења?" У року од неколико секунди, модел исписује на правилном турском, ставку по ставку, могуће разлоге и такође реченицу „Према Уредби о контроли загађења воде, граница испуштања ЦОД-а је 120 мг/Л“. Проблем је у томе што је ова тачка прекида можда била уграђена у модел; У зависности од ваше индустрије, пријемног окружења и типа објекта, стварно ограничење може бити потпуно другачије. Ова јединица вас учи да управљате управо тим тренутком — тренутком када се ваша инжењерска одговорност укршта са брзим, али непровереним излазом вештачке интелигенције.
Шта АИ ради, а шта не ради у еколошком инжењерингу
Велики језички модели (ЛЛМ) су системи обучени по принципу „предвиђања следеће речи“ на огромним текстуалним подацима. То их чини веома јаким у раду са језиком, али суштински слабим у проверавању чињеница. Модел не "памти" тачку прекида, он производи број који изгледа статистички разумно.
Послови АИ је добар у еколошком инжењерингу:
- Резимирање и израда дугог законодавства, извештаја о процени утицаја на животну средину или текстова литературе
- Успостављање структуре, формуле и логике прорачуна (биланс масе, оптерећење емисије, ефикасност)
- Креирање листе могућих узрока и сценарија за решавање проблема
- Припрема нацрта извештаја, табела, презентација и кореспонденције
- Објашњавање сложене теме (нпр. хемија нитрификације) корак по корак
Задаци које АИ не може да уради/је непоуздан:
- Пружање ажурне и контекст специфичне граничне вредности, стандардног броја или члана прописа
- Приступ стварним подацима мерења вашег објекта (осим ако их не доставите)
- Замена за лабораторијске анализе или мерење на терену
- Преузми правну/административну одговорност — потпис је ваш
Савет: Размишљајте о вештачкој интелигенцији као о „вишој стажисти“. Брз, начитан, добар писац нацрта; Али не шаљете сваки отисак нигде а да га сами не проверите. Сваки број и свако позивање на законодавство које он произведе је само хипотеза док то не потврдите из извора.
Халуцинације: измишљена гранична вредност и регулациони чланак
Халуцинација је када модел производи нестварне информације са пуним поверењем. Три најопасније врсте халуцинација у инжењерству животне средине су:
- Израђена гранична вредност: бројеви који изгледају тачни, али могу бити погрешни, као што је „24-часовно ограничење за ПМ10 је 50 µг/м³“.
- Измишљена законска референца: „Према члану 12/3 Уредбе...“ — број чланка и назив уредбе изгледају као стварни, али је садржај измишљен.
- Измишљени извор: Непостојећи чланак, стандардни број (нпр. „ТС ЕН 12457“) или институционални водич.
Табела испод показује сигурне и ризичне обрасце одговора које модел може дати на исто питање:
Излаз модела
Ризик
шта да се ради
"Граница испуштања је тачно 120 мг/Л."
Високо — тачан број, без извора
Проверите из званичног законодавства
„Границе испуштања варирају у зависности од сектора и пријемног окружења; треба консултовати релевантну табелу прописа.“
Низак — рутер
Још увек проверено, али од поверења
"Не могу да проверим ову вредност, погледајте званични извор."
ниско
идеално понашање
Опрез: Што је одређенији и сигурнији број написан, то је опаснији ако није извор. Јасна вредност попут "120 мг/Л" ће вас опустити, али дати лажно самопоуздање. Не заснивајте своју одлуку на било којој граничној вредности која није наведена.
Подела рада заснована на ризику
Тежина исхода одлуке је оно што одређује где ће се вештачка интелигенција користити слободно, а где само за потребе израде нацрта. Следећа класификација је практичан компас:
Куест
Ниво ризика
Улога АИ
Обавезна верификација
Резиме литературе/законодавства, објашњење концепта
ниско
продуцент, акцелератор
Унакрсна провера кључних тврдњи
Нацрт извештаја/преписке, изглед табеле
ниско
писац нацрта
Уредничка рецензија
Подешавање анализе података, формула за израчунавање
средње
градитељ
Улазни подаци + ручна контрола прорачуна
Сценарио за решавање проблема у процесу
средње
генератор идеја
Лабораторијски + теренски подаци
Одређивање границе испуштања/емисије
висока
Само нацрт
Званично законодавство + акредитована лабораторија
Резултат ЕИА, "утицај занемарљив" пресуда
висока
Само нацрт
Експерт + мерење на терену
Одлуке о здрављу људи/животне средине
критичан
Подршка, никад не одлучи
Потпуна законска регулатива + стручно одобрење
Правило је једноставно: што је исход неповратнији и што више живота/новца/закона утиче, то се строжије проверава АИ излаз. Добијате брзину уз мали ризик; у високом ризику АИ производи само први нацрт, подаци и законодавство доносе одлуку.
Слаби промпт / Јаки промпт
Два различита захтева за исту потребу доводе до потпуно различитих профила ризика:
ВЕАК ПРОМПТ: „Која је граница за испуштање отпадне воде за ЦОД? Напишите кратко.“ Проблем: Присиљава модел да стане у један чврсти број. Сектор, пријемно окружење, тип објекта није наведен. Излаз долази без извора. ЈАКО УПОЗОРЕЊЕ: „Објасните од којих фактора (сектор, пријемно окружење, брзина протока) зависи ограничење испуштања отпадних вода текстилне индустрије у Турској. НЕМОЈТЕ правити тачан број; уместо тога, објасните корак по корак из које званичне табеле прописа и према којим параметрима треба да се чита. Ако нисте сигурни, наведите „мора бити верификован“.“ Разлика: Снажан упит не чини да модел одговара броју; Користи га као ВОДИЧ и оставља коначну реч законодавству.
Етика и приватност података
Као инжењер заштите животне средине, подаци које имате често су осетљиви: евиденција о континуираном праћењу (ЦПМС) компаније, историја кршења, производни капацитет су пословна тајна. Сви подаци које налепите у јавни алат за вештачку интелигенцију могу бити ван ваше контроле.
Основни принципи:
- Анонимизирај: Уклоните назив компаније, координате објекта, личне податке, детаље уговора из упита. Уместо „компанија Кс” напишите „текстилна фабрика”.
- Заштитите пословну тајну: Проверите своју политику корпоративних података пре него што поделите информације као што су подаци о кршењу података, капацитет, цена.
- Транспарентност: Ако сте саставили извештај са АИ, наведите то на одговарајући начин у свом току рада; Запамтите да је одговорност ваша.
# Једноставна провера анонимизације пре стављања података у промпт сенситиве_фиелдс = ["цомпани_наме", "цоординате", "тц_но", "цапацити", "цост"]деф промпт_сафе_ис(тект, сенситиве): фоунд = [а за а ин сенситиве иф а ин тект.ловер()] цом ретурн = лен_наме = ": цом ретурн_ АБЦ текстил, ЦОД: 850 мг/Л, капацитет: 5000 м3/дан"сафе, риски = промпт_сафе_ми(екампле, сенситиве_ареас)принт("Може ли се послати:", безбедно) # Фалсепринт("Прво се очисти:", риски) # ['цомпани_пацити'],
мини цасе
Млади инжењер у консултантској фирми за животну средину пита АИ „која је шифра отпада и начин одлагања отпадног уља“ за хитну понуду. Модел самоуверено враћа 6-цифрени код отпада и одговор „одлагање спаљивањем“. Инжењер ово ставља директно у цитат. Након испоруке, виши инжењер проверава: дати код не одговара стварном извору и садржају отпада; Тачна класификација се може извршити само уз извештај о анализи и службену листу отпада. Погрешан код значи погрешан пут одлагања и ризик од административних санкција. Лекција: Шифра коју је АИ дала била је хипотеза; Пошто није верификовано анализом и законима, није могло бити основа за одлуку.
Уобичајене грешке
- Стављање граничне вредности коју је дала АИ у извештај без питања његовог извора.
- Сматрајући да је референца на "Члан Кс Уредбе" поуздана без поређења са стварним текстом.
- Лепљење поверљивих информација као што су назив компаније, подаци о праћењу итд. у јавни алат.
- Заснивање одлуке високог ризика (ограничење пражњења, резултат ЕИА) на АИ излазу.
- Погрешити самоуверени тон модела за доказ тачности.
- Покушај пребацивања одговорности на машину говорећи "АИ је рекао"; Потпис и одговорност лежи на инжењеру.
Укратко
- АИ је акцелератор у инжењерингу животне средине: моћан у кратким цртама, нацртима, уређивањем налога и генерисањем сценарија; Непоуздано је када се позива на тачне граничне вредности и законе.
- ЛЛМ производе халуцинације о граничним вредностима, стандардима и изворима; прецизни и неоткривени бројеви представљају највећи ризик.
- Подела рада је заснована на ризику: што је исход неповратнији, то је строжа провера.
- Сваки излаз АИ је само предлог/скица док се не потврди лабораторијским, теренским мерењем и државним законодавством.
- Немојте давати поверљиве и личне податке ни на један јавни начин без анонимизације.
- АИ је „старији приправник“: он ради, али инжењер носи потпис и одговорност.
Задатак апликације
Изаберите пет задатака из ваше области студија (отпадне воде, ваздух, отпад или ЕИА) и ставите сваки у горњу табелу засновану на ризику: напишите задатак, одредите ниво ризика (низак/средњи/висок/критичан), дефинишите улогу АИ и обавезни корак верификације. Затим изаберите један од ових задатака и прво намерно напишите „слаб упит“, означивши да ли постоји бар једна референца без извора на граничне вредности или законодавство у одговору који добијете од модела; Затим, за исту потребу, напишите „јаку промпт“ која забрањује измишљање бројева и упућује вас на извор, и упоредите два излаза један поред другог. На крају, у једном пасусу опишите које државно законодавство и које лабораторијске/теренске податке ћете користити за верификацију овог задатка.