Vienetas 6 / 10

Aplinkos duomenų ir monitoringo analizė

Pelnas:

  • Gebėjimas taikyti laiko eilutes, slenksčio kirtimo ir jutiklių kokybės kontrolės (QA/QC) koncepcijas
  • Galimybė kurti anomalijų nuskaitymą, tendencijų santrauką ir trūkstamų duomenų strategiją naudojant AI
  • Galimybė patikrinti AI nurodytus viršijimus ir anomalijas naudojant neapdorotus duomenis ir kalibravimą

Esate organizuotos pramoninės zonos nuotekų valymo įrenginių pamainos inžinierius. Prie išleidimo angos esanti nuolatinio stebėjimo stotis registruoja ištirpusį deguonį (DO), pH, laidumą ir cheminį deguonies poreikį (COD) kas 15 minučių. 03:40 ryto COD reikšmė SCADA ekrane pašoka iki 1240 mg/L ir sistema pakelia aliarmą. Išmetimo riba 250 mg/L. Klausimas, kurį turite užduoti prieš panikuojant, yra toks: ar tai tikras taršos incidentas, ar tai jutiklio įrašas? Šiame skyriuje sužinosite, kaip naudoti kalbos modelį (LLM) kaip „pirmojo skaitymo asistentą“ nuskaityti laiko eilučių duomenis, žymėti anomalijas ir generuoti tendencijų suvestines; Tačiau diskutuojame, kodėl jis niekada nepaliks galutinio sprendimo jai.

Nuolatinio stebėjimo duomenų anatomija

Aplinkos monitoringo duomenys yra laiko eilutės, renkamos reguliariais laiko intervalais. Kiekvienas matavimo taškas turi laiko žymą, vertę ir geriausiu atveju kokybės vėliavėlę. Norėdami suprasti neapdorotus duomenis, turite atskirti tris sąvokas:

  • Tendencija: ilgalaikė tendencija (pvz., sezoninis laidumo padidėjimas).
  • Sezoniškumas / ciklas: modeliai, kurie kartojasi per dieną ar metus (pvz., DO padidėjimas dėl dienos fotosintezės).
  • Anomalija: pavienės arba trumpalaikės vertės, kurios statistiškai skiriasi nuo laukiamo modelio.

Parametras

Tipiškas stebėjimo diapazonas

Mėginio limitas (iškrovimas)

Dažna jutiklio problema

pH

1-5 min

6–9 (be vieneto)

Atskaitos elektrodo poslinkis

Ištirpęs deguonis (DO)

5-15 min

≥ 5 mg/l (gaunančioji terpė)

Membranos užteršimas (biologinis užsiteršimas)

laidumas

5-15 min

Priklausomai nuo klasės, µS/cm

Kalibravimo poslinkis

COD (nuolatinis analizatorius)

15-60 min

250 mg/l

Reagento išsekimas, užsikimšimas

PM10 (oras)

1 valanda

50 µg/m³ (24 val.)

Drėgmės/kondensacijos efektas

Kodėl QA/QC vėliavėlės yra gyvybiškai svarbios?

QA/QC (kokybės užtikrinimas / kokybės kontrolė) yra patikimumo etiketės pritvirtinimas prie kiekvieno matavimo. Net jei vertė statistiškai atrodo „viršijanti“, ji negalioja, jei ji buvo paimta už kalibravimo lango arba jei jutiklis yra prižiūrimas. Įprasti vėliavų kodai:

Žyma Reikšmė----- ------------------------------G Geras – tinkami, priimti matavimai Įtariamas – abejotinas, reikalingas patikrinimas M Trūksta – trūksta / tuščias įrašas C Kalibravimas – kalibravimo/priežiūros langas, duomenys negalioja

Patarimas: prieš pradėdami viršijimo analizę, visada atidarykite kalibravimo ir priežiūros žurnalus. Jei COD šuolis 03:40 sutampa su automatiniu nakties kalibravimu arba reagento keitimu, tai yra "C" vėliavėlės duomenys; Tai ne signalizacijos, o duomenų valymo objektas.

Anomalijų nuskaitymas ir tendencijų santrauka naudojant AI

Galite naudoti LLM norėdami greitai peržiūrėti lentelių duomenis, pažymėti modelius, kurių žmogaus akis gali nepastebėti, ir išsiaiškinti pradines hipotezes. Kritinis taškas: pateikiant modeliui neapdorotus duomenis, vienetus ir limitą kartu ir prašymas iš jo patikrinti patikrinamus stebėjimus.

Silpnas raginimas: "Ar yra problemų dėl šių vandens kokybės duomenų?" STIPRUS PARAŠYMAS: "Žemiau pateikiami 15 minučių nuotekų išleidimo taško stebėjimo duomenys (stulpeliai: laikas, COD [mg/L], laidumas [µS/cm], pH, QA vėliavėlė). Išmetimo COD riba yra 250 mg/L, pH diapazonas 6-9. Jūsų užduotis: 1) Išvardykite laiko žymes su atskiromis žymomis, kurių limitas viršija. su C/M/S vėliavėlėmis į atskirą sąrašą „Reikalingas patikrinimas“. vietoj to turi būti patvirtinti neapdoroti duomenys“.

Galingas raginimas susieja modelį su konkrečia procedūra, analizuoja vėliavėles ir apima aiškų nurodymą „jei nesate tikri, nesakyk“, kad apribotų haliucinacijas (išgalvotas aiškinimas).

Atsargiai: LLM gali padaryti klaidų lyginant skaitinius slenksčius; Gali klaidingai pažymėti 248 mg/l kaip „viršyti“ arba 252 mg/l kaip „riboje“. Iš naujo patikrinkite KIEKVIENĄ modelių sąrašų viršijimą vizualiai iš neapdorotos lentelės arba naudodami formulę (pvz., vertė > 250). Modelis nuskaito; Jūs nustatote ribą.

Trūksta duomenų strategijos (įskyrimas)

Jutikliai užsikemša, dingsta elektra, nutrūksta ryšys. Tai, kaip užpildote trūkstamus duomenis, tiesiogiai veikia jūsų tendencijų ir viršijimo analizę. Klaidingas priskyrimas gali „sukurti“ viršijimą, kurio nėra, arba paslėpti tikrą viršijimą.

importuoti pandas kaip pdimport numpy kaip np# 15 minučių COD serija; -999 įrenginio kodas "nėra duomenų" "vėliava": ["G", "G", "M", "M", "G", "S", "G", "G"],})# 1) Konvertuokite įrenginio kodus į faktinį trūkstamą valuedf.loc[df["koi"] == -999, "koi"] = np.nan# 2) Linijiniai interpolacijos žingsniai (SHORT=2); vėliavėlė imputationgap = df["koi"].isna()df["koi_full"] = df["koi"].interpolate(limit=2)df.loc[gap & df["koi_full"].notna(), "flag"] = "E" # Numatytos žymos # nuskaitymo vertes (3) A viršijimo matavimo vertės. TIK = df[(df["koi_full"] > 250) & (df["flag"] == "G")]print(asyms[["ts", "koi_full", "flag"]])

Taikant šį metodą, užpildomi trumpi tarpai, tačiau užpildytos reikšmės pažymėtos E ir sprendimas dėl viršijimo priimamas tik iš tikro matavimo (G). Kadangi 1240 mg/L reikšmė pažymėta kaip S (įtartinas), ji nėra įtraukta į automatinio viršijimo sąrašą; pirmiausia patikrinama.

Patikrinimas naudojant jutiklio poslinkį ir kalibravimą

Auksinis standartas, leidžiantis nustatyti, ar viršijimas yra tikras, ar jutiklio nukrypimas yra laboratorinis tuo pačiu metu paimto mėginio rezultatas. Pavyzdžiui, jei nuolatinis analizatorius 03:40 rodė 1240 mg/L, o laboratoriškai išmatuota tuo metu paimto mėginio vertė yra 205 mg/L, problema yra jutiklyje; neiškrauti. Tai yra AI išvesties arba SCADA aliarmo trianguliacija su lauku ir laboratorija.

mini dėklas

Drumstumo jutiklis geriamojo vandens baseine tris dienas rodė laipsniško didėjimo tendenciją. Pamainos komanda kassavaitinius duomenis teikė LLM; „Galimas tikras drumstumo padidėjimas dėl nuotėkio po lietaus“, – sakė modelis. Tačiau pažvelgęs į meteorologinius įrašus inžinierius pamatė, kad tą savaitę regione lietaus nebuvo. Lauko apžiūros metu buvo suprasta, kad ant jutiklio optinio langelio susidarė bioužterštumas; Po valymo ir kalibravimo vertės grįžo į normalias. LLM „galimo faktinio įvykio“ interpretaciją paneigė išoriniai duomenys (kritulių rekordas) ir lauko kontrolė. Pamoka: modelis gali sukurti patikimą, bet klaidingą istoriją; patvirtinimo grandinė jį pagauna.

Dažnos klaidos

  • Klaidingi duomenys kalibravimo/priežiūros lange (C žyma) dėl tikrojo viršijimo.
  • Tyliai užpildykite trūkstamus duomenis ir praneškite priskiriamas vertes kaip tikrus matavimus.
  • Vienetinio atšokimo (viena eilutė, galbūt elektrinis triukšmas) sumaišymas su nuolatiniu įvykiu.
  • Aklai pasitikėjimas LLM lūžio taškų palyginimais (248 prieš 250).
  • Sprendimų priėmimas remiantis vienu parametru be kryžminio vienalaikių parametrų (pH + laidumas + COD) tikrinimo.
  • Signalizacijos paskelbimas „tikru“, neatmetant jutiklio nukrypimo su paėmimo mėginio / laboratorijos patvirtinimu.
  • Vietinio laiko/UTC ir vasaros laiko pamainų nepaisymas ir įvykių priskyrimas netinkamam laikui.

Apibendrinant

  • Aplinkos monitoringo duomenys yra laiko eilutė; Jo negalima interpretuoti neišskiriant tendencijų, sezoniškumo ir anomalijų.
  • QA/QC vėliavėlės yra duomenų pasitikėjimo žyma; sprendimai priimami tik iš galiojančių (G) duomenų.
  • LLM yra greitas anomalijų nuskaitymo, viršijimo sąrašo ir tendencijų suvestinės asistentas, o ne sprendimų priėmėjas.
  • Trūkstamų duomenų strategija (įskaita) turėtų būti skaidri; Užpildytos vertės yra pažymėtos ir nėra laikomos sprendimo viršyti pagrindu.
  • Jutiklio poslinkis, biologinis užterštumas ir kalibravimo poslinkis sukelia „netikrą viršijimą“; išskiria griebimo mėginį ir laboratorinį patvirtinimą.
  • AI išvestis yra hipotezė; Neapdoroti duomenys nepatenka į oficialią ataskaitą be patikrinimo kalibravimo įrašu ir lauko kontrole.

Taikymo užduotis

Paimkite 24 valandų 15 minučių stebėjimo duomenų rinkinį, kurį turite (arba sugeneruokite sintetiškai) (bent vienas parametras: COD, pH arba PM10) ir sukurkite paleidimą, kuris prideda QA/QC vėliavėles ir išvardija ribas viršijančius atvejus. Pirmiausia parašykite tvirtą raginimą ir paprašykite LLM nuskaityti anomalijas ir viršijimą; Tada nepriklausomai patikrinkite tuos pačius viršijimus naudodami Python filtrą vertė > riba. Padarykite bent vieną imputacijos pavyzdį ir užpildytas reikšmes pažymėkite E. Kiekvienam „viršijimui“ rasite „kaip tai patikrinti su griebimo mėginio / kalibravimo įrašu? Atsakykite į klausimą vienu sakiniu. Galiausiai su pateisinimu pateikite lentelę, kiek LLM pažymėtų anomalijų yra tikri įvykiai, o kiek – jutiklių / duomenų problemų.