Yunit 6 / 10

Data ng Pangkapaligiran at Pagsubaybay sa Pagsusuri

Mga nadagdag:

  • Kakayahang mag-apply ng time series, threshold crossing at sensor quality control (QA/QC) na mga konsepto
  • Kakayahang gumawa ng anomalya na pag-scan, buod ng trend at nawawalang diskarte sa data gamit ang AI
  • Kakayahang i-verify ang mga paglampas at anomalyang itinuro ng AI na may raw data at pagkakalibrate

Isa kang shift engineer sa wastewater treatment plant ng isang organisadong industrial zone. Ang isang tuluy-tuloy na istasyon ng pagsubaybay na matatagpuan sa outlet ay nagtatala ng dissolved oxygen (DO), pH, conductivity at chemical oxygen demand (COD) bawat 15 minuto. Sa 03:40 ng umaga, ang halaga ng COD sa screen ng SCADA ay tumalon sa 1,240 mg/L at nag-alarm ang system. Limitasyon sa paglabas 250 mg/L. Ang tanong na kailangan mong itanong bago ka mag-panic ay: Ito ba ay isang tunay na insidente ng polusyon o ito ba ay isang pag-record ng sensor? Sa unit na ito, matututunan mo kung paano gumamit ng language model (LLM) bilang "first reading assistant" para sa pag-scan ng data ng time series, pagmamarka ng mga anomalya at pagbuo ng mga buod ng trend; Ngunit pinag-uusapan natin kung bakit hinding-hindi niya ipaubaya sa kanya ang huling desisyon.

Anatomy ng patuloy na data ng pagsubaybay

Ang data ng pagsubaybay sa kapaligiran ay isang serye ng oras na kinokolekta sa mga regular na agwat ng oras. Ang bawat punto ng pagsukat ay may dalang timestamp, isang halaga, at perpektong may kalidad na bandila. Upang magkaroon ng kahulugan sa raw data, dapat mong makilala ang tatlong konsepto:

  • Trend: Pangmatagalang trend (hal. pana-panahong pagtaas ng conductivity).
  • Seasonality/cycle: Mga pattern na umuulit sa araw o taon (hal., elevation ng DO sa araw na photosynthesis).
  • Anomalya: Singular o panandaliang mga halaga na istatistikal na lumihis mula sa inaasahang pattern.

Parameter

Karaniwang saklaw ng pagsubaybay

Sample na limitasyon (discharge)

Karaniwang problema sa sensor

pH

1-5 min

6-9 (walang yunit)

Paglipat ng sanggunian ng elektrod

Dissolved oxygen (DO)

5-15 min

≥ 5 mg/L (medium sa pagtanggap)

Membrane fouling (biofouling)

kondaktibiti

5-15 min

Depende sa klase, µS/cm

Pag-calibrate drift

COD (continuous analyzer)

15-60 min

250mg/L

Pagkaubos ng reagent, pagbara

PM10 (hangin)

1 oras

50 µg/m³ (24 na oras)

Epekto ng humidity/condensation

Bakit mahalaga ang mga flag ng QA/QC?

Ang QA/QC (quality assurance / quality control) ay tungkol sa paglalagay ng trust label sa bawat pagsukat. Kahit na ang isang value ay lumalabas na "overshoot" ayon sa istatistika, hindi ito wasto kung kinuha ito sa labas ng window ng pagkakalibrate o kung nasa ilalim ng maintenance ang sensor. Mga karaniwang flag code:

Kahulugan ng Flag----- ----------------------------G Mabuti — wasto, tinatanggap na mga sukatS Suspek — nagdududa, kinakailangan ang pag-verifyM Nawawala — nawawala / walang laman na talaC Calibration — window ng pagkakalibrate/pagpapanatili, hindi wasto ang dataE Tinantyang — imputed na tinantyang halaga

Tip: Palaging buksan ang mga tala ng pagkakalibrate at pagpapanatili bago simulan ang pagsusuri sa paglampas. Kung ang paglukso ng COD sa 03:40 ay kasabay ng awtomatikong magdamag na pag-calibrate o pagbabago ng reagent, ito ay isang "C" na data ng bandila; Ito ay hindi isang paksa para sa alarma, ngunit para sa paglilinis ng data.

Anomalyang pag-scan at buod ng trend gamit ang AI

Maaari mong gamitin ang LLM upang mabilis na suriin ang tabular na data, i-flag ang mga pattern na maaaring makaligtaan ng mata ng tao, at ayusin ang mga paunang hypotheses. Ang kritikal na punto: Ang pagbibigay sa modelo ng hilaw na data, mga yunit at limitasyon nang magkasama at humihingi ng mga napapatunayang obserbasyon mula dito.

WEAK PROMPT: "May problema ba sa data ng kalidad ng tubig na ito?" STRONG PROMPT: "Nasa ibaba ang 15 minuto ng data ng pagsubaybay sa isang wastewater discharge point (mga column: oras, COD [mg/L], conductivity [µS/cm], pH, QA flag). i-flag sa isang hiwalay na listahan ng 'kinakailangan ang pag-verify' 3) Ipahiwatig para sa bawat overshoot kung ito ay isang solong pagtalon (iisang linya) o isang tuluy-tuloy na pagtaas (>= 3 magkasunod na linya 4) Tandaan kung ang konduktibidad at pH ay nagbabago nang sabay-sabay (ang sabay na pagbabago ay katibayan na pabor sa aktwal na kaganapan.

Ang malakas na prompt ay nagbubuklod sa modelo sa isang kongkretong pamamaraan, nag-parse ng mga flag, at may kasamang tahasang "kung hindi ka sigurado, huwag sabihin" ang pagtuturo upang limitahan ang guni-guni (ginawa-gawa na interpretasyon).

Mag-ingat: Maaaring magkamali ang LLM sa mga paghahambing ng numerical threshold; Maaaring maling label ang 248 mg/L bilang "lumampas" o 252 mg/L bilang "sa loob ng limitasyon." I-verify muli ang BAWAT paglampas sa mga listahan ng modelo, alinman sa biswal mula sa raw na talahanayan o gamit ang isang formula (hal. value > 250). Ang modelo ay nag-scan; Ikaw ang magpapasya sa limitasyon.

Nawawalang diskarte sa data (imputation)

Ang mga sensor ay nagiging barado, ang kuryente ay nawawala, ang komunikasyon ay nasira. Kung paano mo pinupunan ang nawawalang data, direktang nakakaapekto sa iyong pagsusuri sa trend at paglampas. Ang maling imputation ay maaaring "lumikha" ng isang overshoot na hindi umiiral o itago ang isang tunay na overshoot.

mag-import ng mga pandas bilang pdimport numpy bilang np# 15 minutong serye ng COD; -999 device code "walang data" "flag": ["G", "G", "M", "M", "G", "S", "G", "G"],})# 1) I-convert ang mga code ng device sa aktwal na nawawalang valuedf.loc[df["koi"] == -999, "koi"] = np.nan# 2) SHORT na interpolation para sa (=2 Linear interpolation); flag imputationgap = df["koi"].isna()df["koi_full"] = df["koi"].interpolate(limit=2)df.loc[gap & df["koi_full"].notna(), "flag"] = "E" # Estimated# 3) Limitasyong paglampas sa pag-scan sa value ng Pagsusukat ONLY df[(df["koi_full"] > 250) at (df["flag"] == "G")]print(asyms[["ts", "koi_full", "flag"]])

Sa diskarteng ito, ang mga maikling gaps ay pinupunan, ngunit ang mga napunan na halaga ay minarkahan ng E at ang overshoot na desisyon ay ginawa lamang mula sa aktwal na pagsukat (G). Dahil ang halaga ng 1240 mg/L ay na-flag bilang S (kahina-hinala), hindi ito kasama sa listahan ng awtomatikong paglampas; ay na-verify muna.

Pag-verify sa pamamagitan ng sensor drift at pagkakalibrate

Ang pamantayang ginto para sa pagtukoy kung ang isang overshoot ay totoo o ang sensor drift ay ang resulta ng laboratoryo ng isang kasabay na sample ng grab. Halimbawa, kung ang tuluy-tuloy na analyzer ay nagpakita ng 1240 mg/L sa 03:40, at ang nasusukat na halaga ng laboratoryo ng sample na kinuha sa oras na iyon ay 205 mg/L, ang problema ay nasa sensor; hindi discharge. Ito ay triangulation ng AI ​​output o SCADA alarm sa field at laboratoryo.

mini case

Ang turbidity sensor sa isang palanggana ng inuming tubig ay nagpapakita ng unti-unting pagtaas ng trend sa loob ng tatlong araw. Ang shift team ay nagbigay ng lingguhang data sa LLM; "Ang isang tunay na pagtaas sa labo dahil sa post-rainfall runoff ay posible," sabi ng modelo. Gayunpaman, nang tingnan ng inhinyero ang mga rekord ng meteorolohiko, nakita niyang walang ulan sa rehiyon noong linggong iyon. Sa panahon ng field inspection, naunawaan na ang biofouling ay nabuo sa sensor optical window; Pagkatapos ng paglilinis at pagkakalibrate, ang mga halaga ay bumalik sa normal. Ang interpretasyon ng LLM sa "posibleng aktwal na kaganapan" ay pinabulaanan ng panlabas na data (tala ng ulan) at kontrol sa field. Aral: Ang modelo ay maaaring makabuo ng isang makatotohanan ngunit maling kuwento; nahuhuli ito ng chain ng pag-verify.

Mga karaniwang pagkakamali

  • Napagkamalan ang data sa window ng pagkakalibrate/pagpapanatili (flag C) para sa tunay na paglampas.
  • Tahimik na pinupunan ang nawawalang data at nag-uulat ng mga imputed na halaga bilang mga tunay na sukat.
  • Napagkakamalang singular bounce (isang linya, posibleng ingay ng kuryente) para sa tuluy-tuloy na kaganapan.
  • Blindly na nagtitiwala sa mga paghahambing ng breakpoint ng LLM (248 vs 250).
  • Paggawa ng mga desisyon batay sa iisang parameter nang walang cross-checking na sabay-sabay na mga parameter (pH + conductivity + COD).
  • Ang pagdedeklara ng alarma na "totoo" nang hindi inaalis ang sensor drift na may grab sample/laboratory confirmation.
  • Pagbabalewala sa lokal na oras/UTC at mga pagbabago sa oras ng tag-init at pag-uugnay ng mga kaganapan sa maling oras.

Sa buod

  • Ang data ng pagsubaybay sa kapaligiran ay isang serye ng oras; Hindi ito mabibigyang-kahulugan nang walang pagkilala sa kalakaran, seasonality at anomalya.
  • Ang mga flag ng QA/QC ay ang trust tag ng data; ang mga desisyon ay ginawa lamang mula sa wastong (G) data.
  • Ang LLM ay isang mabilis na unang basahin na katulong para sa pag-scan ng anomalya, listahan ng paglampas at buod ng trend, hindi isang gumagawa ng desisyon.
  • Ang nawawalang diskarte sa data (imputation) ay dapat na transparent; Ang mga napunan na halaga ay minarkahan at hindi kinuha bilang batayan para sa pagpapasya sa paglampas.
  • Ang sensor drift, biofouling, at calibration drift ay gumagawa ng "spurious overshoot"; nakikilala ang grab sample at laboratory confirmation.
  • Ang output ng AI ay isang hypothesis; Ang raw data ay hindi pumapasok sa opisyal na ulat nang walang pag-verify sa pamamagitan ng rekord ng pagkakalibrate at kontrol sa field.

Gawain ng aplikasyon

Kumuha ng 24 na oras, 15 minutong dataset ng pagsubaybay na mayroon ka (o synthetically generate) (kahit isang parameter: COD, pH, o PM10) at gumawa ng run na nagdaragdag ng mga flag ng QA/QC at naglilista ng mga paglampas sa limitasyon. Una, magsulat ng isang malakas na prompt at hilingin sa LLM para sa pag-scan ng anomalya at paglampas; Pagkatapos ay independyenteng i-verify ang parehong mga paglampas sa value > limit filter sa Python. Gumawa ng kahit isang halimbawa ng imputation at markahan ang mga napunan na halaga ng E. Para sa bawat "overshoot" makikita mo ang "paano ko ito ibe-verify gamit ang grab sample/calibration record?" Sagutin ang tanong sa isang pangungusap. Sa huli, i-tabulate kung ilan sa mga anomalyang na-flag ng LLM ang mga tunay na kaganapan at ilan ang mga problema sa sensor/data, na may mga katwiran.