Единица 6 / 10

Анализа на податоци и мониторинг на животната средина

Добивки:

  • Способност за примена на концепти за временски серии, премин на прагови и контрола на квалитетот на сензорот (QA/QC).
  • Способност да креирате скенирање на аномалии, резиме на трендови и стратегија за податоци што недостасуваат со вештачка интелигенција
  • Способност да се проверат надминувањата и аномалиите посочени од вештачката интелигенција со необработени податоци и калибрација

Вие сте инженер во смена во пречистителна станица на организирана индустриска зона. Континуираната станица за мониторинг лоцирана на излезот го снима растворениот кислород (DO), pH, спроводливоста и хемиската побарувачка на кислород (COD) на секои 15 минути. Во 03:40 часот наутро, вредноста на COD на екранот SCADA скока на 1.240 mg/L и системот вклучува аларм. Граница на празнење 250 mg/L. Прашањето што треба да го поставите пред да ве фати паника е: Дали е ова вистински инцидент со загадување или е снимање со сензор? Во оваа единица, ќе научите како да користите јазичен модел (LLM) како „асистент за прво читање“ за скенирање податоци за временски серии, обележување аномалии и генерирање резимеа на трендовите; Но, разговараме зошто тој никогаш нема да и ја остави конечната одлука на неа.

Анатомија на податоци за континуирано следење

Податоците за мониторинг на животната средина се временска серија собрани во редовни временски интервали. Секоја мерна точка носи временски печат, вредност и идеално знаменце за квалитет. За да имате смисла на необработените податоци, мора да разликувате три концепти:

  • Тренд: Долгорочен тренд (на пр. сезонско зголемување на спроводливоста).
  • Сезонско/циклус: Модели кои се повторуваат во текот на денот или годината (на пр., покачување на DO со дневна фотосинтеза).
  • Аномалија: Единечни или краткорочни вредности кои статистички отстапуваат од очекуваната шема.

Параметар

Типичен опсег на следење

Ограничување на примерокот (празнење)

Вообичаен проблем со сензорот

pH вредност

1-5 мин

6-9 (без единица)

Поместување на референтната електрода

Растворен кислород (DO)

5-15 мин

≥ 5 mg/L (медиум за примање)

Фулирање на мембраната (бионасипување)

спроводливост

5-15 мин

Во зависност од класата, µS/cm

Калибрација лебдат

COD (континуиран анализатор)

15-60 мин

250 mg/L

Исцрпување на реагенсот, затнување

PM10 (воздух)

1 час

50 µg/m³ (24 часа)

Ефект на влажност/кондензација

Зошто знаменцата за QA/QC се од витално значење?

QA/QC (обезбедување квалитет / контрола на квалитет) е за прикачување на ознака за доверба на секое мерење. Дури и ако вредноста статистички се чини дека е „пречекорување“, таа е неважечка ако е земена надвор од прозорецот за калибрација или ако сензорот е под одржување. Вообичаени кодови на знамиња:

Flag Meaning----- -----------------------------G Good — valid, accepted measurementS Suspect — doubtful, verification requiredM Missing — missing / empty recordC Calibration — calibration/maintenance window, data invalidE Estimated — imputed estimated value

Совет: Секогаш отворајте ги дневниците за калибрација и одржување пред да започнете со анализа на надминување. Ако скокот COD во 03:40 се совпаѓа со автоматска калибрација во текот на ноќта или промена на реагенсот, ова е податок од знамето „C“; Не е предмет за аларм, туку за чистење податоци.

Скенирање на аномалии и резиме на трендови со вештачка интелигенција

Можете да го користите LLM за брзо прегледување на табеларни податоци, обрасци на знамиња што може да ги пропушти човечкото око и да ги средите првичните хипотези. Критична точка: Давање на моделот необработени податоци, единици и ограничувања заедно и барање за проверливи набљудувања од него.

СЛАБ ПРЕТСТАВ: "Дали има проблем со овие податоци за квалитетот на водата?" СИЛНО ПРЕДУПРЕДУВАЊЕ: „Подолу се дадени 15 минути податоци за следење на точката на испуштање отпадна вода (колони: време, COD [mg/L], спроводливост [µS/cm], pH, знаменце QA). Ограничувањето на COD за празнење е 250 mg/L, опсег на pH 6-9. Вашата задача: 1) Наведете ги временските ознаки само со „Ev.G.“ со 2) (добро) разделете ги оние со ознаки C/M/S во посебна листа „задолжителна проверка“ 3) Наведете за секое пречекорување дали е еднократно покачување (>= 3 последователни линии 4) Забележете дали промената на спроводливоста и на pH не е истовремено потврдено со податоци наместо тоа, напишете „мора да се потврди со необработени податоци“.

Моќниот промпт го врзува моделот со конкретна процедура, ги анализира знаменцата и вклучува експлицитна инструкција „ако не сте сигурни, не кажувајте“ за ограничување на халуцинацијата (нашминкана интерпретација).

Внимание: LLM може да направи грешки во споредбите на нумеричкиот праг; Може погрешно да ги означи 248 mg/L како „надминува“ или 252 mg/L како „во границите“. Повторно проверете го СЕКОЕ надминување на листите на модели, или визуелно од необработената табела или со формула (на пр. вредност > 250). Моделот скенира; Вие одлучувате за границата.

Стратегија за податоци што недостасуваат (импутација)

Сензорите се затнат, струјата снемува, комуникацијата се прекинува. Како ги пополнувате податоците што недостасуваат директно влијае на вашата анализа на трендови и надминувања. Лажната импутација може да „создаде“ пречекорување што не постои или да скрие вистинско пречекорување.

увезете панди како pdimport numpy како np# 15 минути COD серија; -999 код на уредот "нема податоци" "знаме": ["G", "G", "M", "M", "G", "S", "G", "G"],})# 1) Конвертирај ги шифрите на уредот во фактички што недостасуваат valuedf.loc[df["koi"] == -999, "koi"] = np.nan# gRT чекори (=SHOar# 2); flag imputationgap = df["koi"].isna()df["koi_full"] = df["koi"].interpolate(limit=2)df.loc[gap & df["koi_full"].notna(), "flag"] = "E" # Проценети ограничувања за надминување на одлуката 3 вредности САМО = df[(df["koi_full"] > 250) & (df["знаме"] == "G")]печатење(асими[["ts", "koi_full", "знаме"]])

Во овој пристап, кратки празнини се пополнуваат, но пополнетите вредности се означени со E и одлуката за надминување се донесува само од вистинското мерење (G). Бидејќи вредноста од 1240 mg/L е означена како S (сомнително), таа не е вклучена во списокот за автоматско надминување; прво се проверува.

Потврда со повлекување на сензорот и калибрација

Златниот стандард за одредување дали прескокнувањето е реално или сензорот е лабораториски резултат на истовремен примерок за земање. На пример, ако континуираниот анализатор покажа 1240 mg/L во 03:40 часот, а лабораториската измерена вредност на примерокот земен во тоа време е 205 mg/L, проблемот е во сензорот; не испуштање. Ова е триангулација на излезот на AI или SCADA аларм со теренот и лабораторијата.

мини футрола

Сензорот за заматеност во сливот на вода за пиење покажуваше тренд на постепено зголемување веќе три дена. Тимот на смена даде неделни податоци на LLM; „Можно е вистинско зголемување на заматеноста поради истекувањето по врнежите“, рече моделот. Меѓутоа, кога инженерот ги погледнал метеоролошките записи, видел дека таа недела немало дожд во регионот. За време на теренската проверка, беше разбрано дека на оптичкиот прозорец на сензорот се формирала биорасплодување; По чистење и калибрација, вредностите се вратија во нормала. Толкувањето на LLM за „можниот вистински настан“ беше побиено со надворешни податоци (запис за врнежи) и контрола на теренот. Поука: Моделот може да произведе веродостојна, но лажна приказна; верификациониот синџир го фаќа.

Вообичаени грешки

  • Грешка на податоците во прозорецот за калибрација/одржување (знаме C) за реално надминување.
  • Нечујно пополнување на податоците што недостасуваат и пријавување на импутираните вредности како реални мерења.
  • Погрешно отскокнување (една линија, можеби електричен шум) за континуиран настан.
  • Слепо верувајќи во споредбите на точката на прекин на LLM (248 наспроти 250).
  • Донесување одлуки врз основа на еден параметар без вкрстена проверка на истовремените параметри (pH + спроводливост + COD).
  • Декларирање на алармот за „вистински“ без исклучување на поместување на сензорот со примерок за фаќање/лабораториска потврда.
  • Игнорирање на поместувањата на локалното/UTC и летното време и припишување настани на погрешно време.

Сумирано

  • Податоците за следење на животната средина се временска серија; Не може да се толкува без да се разликува тренд, сезонска и аномалија.
  • Знамињата за QA/QC се ознаката за доверба на податоците; одлуките се носат само од валидни (G) податоци.
  • LLM е брз асистент за прво читање за скенирање на аномалии, листа на надминувања и резиме на трендови, а не носител на одлуки.
  • Стратегијата за податоци што недостасуваат (импутирање) треба да биде транспарентна; Пополнетите вредности се означени и не се земени како основа за одлуката за надминување.
  • Лебдењето на сензорот, бионасипувањето и повлекувањето на калибрацијата произведуваат „лажно пречекорување“; разликува примерок за грабање и лабораториска потврда.
  • Излезот на вештачката интелигенција е хипотеза; Необработените податоци не влегуваат во официјалниот извештај без верификација со запис за калибрација и теренска контрола.

Задача за апликација

Земете 24-часовна и 15-минутна база на податоци за следење што ја имате (или синтетички генерирате) (најмалку еден параметар: COD, pH или PM10) и креирајте серија што додава знаменца за QA/QC и списоци за надминување на ограничувањата. Прво, напишете силно барање и побарајте LLM за скенирање на аномалија и надминување; Потоа, независно потврдете ги истите надминувања со филтерот за вредност > ограничување во Python. Направете барем еден пример за импутација и означете ги пополнетите вредности со E. За секое „пречекорување“ наоѓате „како да го потврдам ова со записот за зграпчување/калибрација?“ Одговори на прашањето во една реченица. На крајот, табеларизирајте колку од аномалиите означени од LLM се вистински настани и колку се проблеми со сензорите/податоците, со оправдување.