Unità 7 / 12

Analiżi u Osservabbiltà ta' log

Qligħ:

  • Kapaċità li tiġbor fil-qosor miżbliet ta 'zkuk kbar billi taħbihom u tiffiltrahom għal AI u toħloq skeda ta' żmien
  • Li tkun kapaċi tevalwa r-relazzjonijiet tal-ħin stabbiliti mill-AI bħala ipoteżi, mhux kawżalità
  • Kapaċità li tivvalida l-ipoteżi tal-kawża ewlenija b'metriċi u kodiċi u tipprepara skeċċ postmortem

Meta softwer ikun qed jaħdem fil-produzzjoni (ambjent ħaj), biss traċċi, metriċi u zkuk (linji ta 'ġurnali stampati bil-ħin prodotti mill-applikazzjoni waqt li tkun qed taħdem) jgħidulek x'qed tagħmel. Il-ġbid ta' sinjal sinifikanti minn eluf, xi kultant miljuni, ta' linji ta' zkuk waqt qtugħ huwa l-aktar mument stressanti u kritiku taż-żmien ta' rispons għal inċident. Hawnhekk, l-AI tista 'tkun ta' għajnuna, tiġbor fil-qosor test massiv, tiġbed mudelli, u tiġġenera ipoteżijiet - sakemm tirrispetta l-privatezza u l-limiti ta 'verifika.

F'din l-unità, nitgħallmu nużaw l-AI fil-kuntest tal-osservabbiltà — il-kapaċità li nifhmu l-istat intern ta 'sistema billi nħarsu lejn l-outputs esterni tagħha: estrazzjoni tat-tifsira mill-istorbju tal-ġurnal, nistabbilixxu l-kronoloġija ta' bug, insibu mudelli ripetuti, u abbozzar ta 'postmortem. Twissija kritika bil-quddiem: zkuk tal-produzzjoni mhux ipproċessati ħafna drabi jkun fihom dejta personali u sigrieti; twaħħalhom bl-addoċċ f'għodda AI hija vjolazzjoni serja.

Għaliex Iz-Zkuk Huma Iebsa, Għaliex L-AI Tgħajjef?

Zkuk huma diffiċli għal tliet raġunijiet: volum (hemm wisq), storbju (ħafna linji huma irrilevanti), u eki mhux mixtieqa (avveniment huwa mxerred tul ir-zkuk ta 'servizzi differenti). L-għajn tal-bniedem tgħejja f'dan il-munzell u titlef il-linja importanti.

L-AI hija tajba biex tiġbor fil-qosor blokki kbar ta 'test, tgħodd mudelli ripetuti, u tistaqsi "x'inbidel eżatt qabel dik il-fqigħ ta' żbalji?" Huwa qawwi fl-istabbiliment ta 'relazzjonijiet ta' ħin bħal Madankollu, hemm żewġ limiti. L-ewwel hija t-tieqa tal-kuntest: l-ammont ta 'zkuk li tista' tidħol f'mudell huwa limitat, għalhekk għandek bżonn tiffiltra u kampjun l-ewwel. It-tieni, validazzjoni: AI li tgħid "hawn hija l-kawża ewlenija" hija ipoteżi; M'għandekx tieħu deċiżjoni mingħajr ma tikkonfermaha b'metriċi u kodiċi.

Attenzjoni: zkuk tal-produzzjoni mhux ipproċessati jista 'jkun fihom indirizz IP, email, token, ID tas-sessjoni u xi kultant sigriet miftuħ. Maskrahom qabel ma tmigħhom lill-AI, jew uża biss għodod approvati mill-intrapriża u garantiti mid-dejta. Aħna napprofondixxu dan is-suġġett f'unità 10.

Pass pass: Minn Log għal Root Cause

  1. Dejjaq it-tieqa tal-ħin. Iddetermina l-minuti meta beda l-avveniment; Eżamina dik it-tieqa, mhux il-ġurnata kollha.
  2. Iffiltra l-istorbju. Ħaxix linji magħrufa ripetittivi, li ma jagħmlux ħsara; Iffoka fuq l-iżball (Żball), twissija (WARN) u l-ewwel mument ta 'devjazzjoni.
  3. Maskra data sensittiva. Naddaf id-dejta personali u s-sigrieti qabel ma tagħtihom lill-AI.
  4. Oħloq sommarju u skeda tal-ħin. Staqsi lill-AI biex tiġbor fil-qosor l-avveniment fi kronoloġija ("l-ewwel dan, imbagħad dak").
  5. Ivvalida l-ipoteżi b'metriċi u kodiċi. Ir-raġuni indikata mill-AI; Ikkonferma bid-dashboard, il-kodiċi rilevanti u l-kalendarju tal-iskjerament, jekk applikabbli.
  6. Poġġi dak li jitgħallem bil-miktub. Agħmel skeċċ postmortem u elenka l-azzjonijiet preventivi.

Tliet Każijiet Mini

Każ 1 — 40,000 linja miġbura fil-qosor f'5 minuti. Servizz ta' ħlas irrapporta żball intermittenti għal 12-il minuta. It-tim mitmugħa t-tieqa rilevanti ta’ 20 minuta ta’ zkuk moħbija (madwar 40,000 linja, meħuda bħala kampjun) lill-AI u ġġenera skeda ta’ żmien. Il-mudell wera li l-fqigħ tal-iżball ikkoinċida mal-mument meta l-ħin tar-rispons ta 'servizz ta' dipendenza żdied minn 200 ms għal 8 sekondi. It-tim ikkonferma dan fuq id-dashboard u naqas il-kawża fi żmien 10 minuti.

Każ 2 — Korrelazzjoni qarrieqa. F'inċident ieħor, l-AI tat it-tort billi qalet li l-iżbalji kienu qed iseħħu "fl-istess ħin" bħala ħidma ta' cron (kompitu skedat). Meta t-tim ivverifika l-metriċi, raw li cron kien fil-fatt spiċċa qabel l-avveniment; Il-korrelazzjoni kienet koinċidenza. Il-kawża vera kienet tnixxija tal-memorja. Lezzjoni: Il-korrelazzjoni tal-ħin stabbilita mill-AI hija ħjiel, mhux evidenza.

Każ 3 — Postmortem aċċellerat. Wara qtugħ, it-tim alimenta t-traskrizzjoni tal-messaġġ (makkra) u l-kronoloġija mill-kanal tal-avveniment għall-AI u kellu jipproduċi skeċċ postmortem: sommarju, impatt, skeda ta’ żmien, kawża ewlenija, azzjonijiet. L-editur uman ikkoreġa l-fatti u ħatar sidien tal-azzjonijiet. Id-dokument, li normalment jieħu sagħtejn, tlesta f'madwar 40 minuta bi struttura aktar konsistenti.

Erba' Mudelli Kopjabbli

Sommarju tar-reġistri u skeda tal-ħin (b'reġistru mgħotti):

Hawn taħt hemm tieqa tal-avveniment tal-ġurnal tal-produzzjoni mgħotti.1) Ferra l-avveniment f'kronoloġija kronoloġika (immarka l-mument tal-ewwel devjazzjoni).2) Għadda u grupp it-tipi ta 'żball/twissija rikorrenti l-aktar frekwenti.3) "X'inbidel eżatt qabel?" Elenka l-avvenimenti tal-kandidati għall-mistoqsija. Dawn huma ipoteżi; Immarkaha bħala "għandha tiġi vverifikata". {{zkuk}}

Estrazzjoni tal-mudell ta' żball:

Sib mudelli ta' żball rikorrenti f'dawn il-linji ta' log. Għal kull mudell: linja tal-kampjun (mgħottija), sors stmat u tifsira possibbli. Iġbor żbalji singoli rari iżda kritiċi f'lista separata ta' "attenzjoni".{{zkuk}}

Ġenerazzjoni ta' mistoqsija/filtru strutturata:

Għal {{log tool: grep/jq/Kibana KQL/CloudWatch Insights}}, ikteb mistoqsija li tissodisfa l-kundizzjoni li ġejja: {{eż. Żbalji 5xx fl-aħħar 15-il minuta, eskluż l-utent X}}. Spjega l-mistoqsija; Kun żgur li mhux qed tagħmel l-ismijiet tad-dominju, staqsi jekk m'intix ċert.

Skeċċ ta' wara l-mortem:

Ikteb skeċċ ta' wara l-qatla mill-kronoloġija tal-avveniment (mgħottija) li ġejja: Sommarju / Impatt (tul ta' żmien, utent affettwat) / Kronoloġija / Kawża ewlenija / Dak li mar tajjeb / Azzjonijiet (ħalli l-qasam tas-sid vojt għal kull wieħed). TUŻAX lingwaġġ akkużatorju; Kun fattwali u proattiv.{{kalendarju}}

Pront dgħajjef / Pront qawwi

Dgħajjef: "Ħares lejn dawn iz-zkuk, x'hemm ħażin?" (Logg mhux ipproċessat tal-ġurnata kollha, b'dejta personali, mhux immirat.)
Qawwija: "Taħt hemm ir-reġistru tal-produzzjoni mgħotti minn 14:02–14:20 (iffiltrat għal 5xxs). F'din it-tieqa, sib il-mument meta beda l-iżball, għodd it-tip ta' żball l-aktar frekwenti, u elenka d-devjazzjonijiet li dehru fis-60 sekonda immedjatament qabel l-isplużjoni; immarkahom kollha bħala 'ipoteżi li trid tiġi vverifikata'."

Verżjoni qawwija; Iddejjaq it-tieqa tal-ħin, tiffiltra u taħbi l-ġurnal, tistaqsi mistoqsija ċara, u tistabbilixxi mill-bidu nett li l-output huwa ipoteżi.

Tfittxija

AI hija b'saħħitha

Limitu / verifika

Sommarju tal-ġurnal kbir

Iva, malajr

Jista 'jkun hemm telf ta' kampjuni

Stabbiliment ta 'relazzjoni ta' ħin

jiġġenera ħjiel

Korrelazzjoni ≠ kawżalità

Ġenerazzjoni ta' mistoqsija/filtru

abbozz tajjeb

L-ismijiet tad-dominju huma reali?

Skeċċ postmortem

Struttura u lingwa

Il-każijiet huma kkonfermati mill-bniedem

Korrelazzjoni Mhix Kawża

L-iżvantaġġ l-aktar komuni fl-analiżi tal-log huwa l-fallacy "ġara fl-istess ħin, għalhekk huwa għalhekk". L-AI taqa’ f’din in-nassa daqshekk faċilment, jekk mhux aktar faċilment, mill-bnedmin; għaliex jaħseb li simultanjetà fit-test hija sinjal qawwi. Biex tkun tista’ tgħid li ġrajja waħda fil-fatt twassal għal oħra; ħin, mekkaniżmu u, jekk possibbli, ripetibbiltà huma meħtieġa. Għal kull talba ta' kawżalità li tistabbilixxi l-AI, nistaqsu "x'evidenza oħra tikkonferma dan?" Ittestja bil-mistoqsija.

Tip: Meta tilloggja fl-AI, minflok dump tat-test, jekk possibbli, ipprintja mistoqsija/filtru l-ewwel u mexxiha fil-vettura tiegħek; Dan il-mod inti kemm tnaqqas id-dejta sensittiva u tissepara t-tieqa tal-kuntest tal-mudell fir-ringieli verament importanti.

Żbalji komuni

  • Twaħħal log mhux ipproċessat u mhux maskra. Żvelar ta' data personali u sigrieti; ksur serju tal-privatezza.
  • Tagħti l-ġurnata kollha f'daqqa. Jeċċedi t-tieqa tal-kuntest, is-sinjal huwa mgħarraq fil-ħoss.
  • Korrelazzjoni żbaljata għall-kawżalità. Ir-relazzjoni tal-ħin stabbilita mill-AI hija ħjiel, mhux evidenza.
  • Li sserraħ fuq mistoqsija b'isem ta' dominju magħmul. Il-mudell jista' jissuġġerixxi isem ta' qasam ta' log li ma jeżistix; verifika bl-skematika.
  • Il-pubblikazzjoni tal-postmortem mingħajr ma tivverifikaha. Il-fatti u ċ-ċifri tal-impatt iridu jkunu kkonfermati mill-bniedem.

Fil-qosor

L-AI hija għodda b'saħħitha biex tegħleb il-volum u l-istorbju fl-analiżi tal-log: tiġbor fil-qosor traskrizzjonijiet kbar, tistabbilixxi skadenzi, estrazzjoni ta 'mudelli, u tħejji abbozzi ta' wara l-mortem. Imma ftakar tliet limiti: tesportax data sensittiva mingħajr ma taħbiha, iffiltraha u kampjunha biex taqbel mat-tieqa tal-kuntest, u vverifika kull talba ta' kawżalità b'metriċi u kodiċi. Il-korrelazzjoni mhix kawżalità; L-AI tagħti ħjiel, inti tieħu d-deċiżjoni bl-evidenza.

Kompitu ta' applikazzjoni

Agħżel tieqa ta' 15–20 minuta minn ġurnal ta' avveniment jew ambjent tat-test li għandek. L-ewwel maskra data personali u sigrieti (jew tipproduċi log sintetiku). Imbagħad oħroġ kronoloġija u t-tipi ta 'żbalji l-aktar frekwenti mill-AI bil-mudell "sommarju tal-ġurnal u skeda ta' żmien". Ipprova tivverifika l-ipoteżi tal-kawża ewlenija li l-AI ressqet b'metrika jew biċċa kodiċi li għandek: l-ipoteżi żammet, jew kienet korrelazzjoni qarrieqa? Ikteb is-sejba tiegħek f'sentenza waħda.

lista ta' kontroll

  • [ ] Jien inmaskra d-dejta personali u s-sigrieti qabel ma nagħti l-ġurnal lill-AI.
  • [ ] Inaqqas l-analiżi għal tieqa ta' żmien dejqa u niffiltra.
  • [ ] Nara r-relazzjonijiet tal-ħin stabbiliti mill-AI bħala ipoteżi, mhux kawżalità.
  • [ ] Nivverifika t-talba tal-kawża ewlenija b'metriċi u kodiċi.
  • [ ] Nikkonferma li l-ismijiet tad-dominju tal-mistoqsijiet/filtri li niġġenera huma reali.
  • [ ] Jiena niċċertifika umanament il-fatti u ċ-ċifri fl-iskeċċ ta' wara l-mewt.