Logi analüüs ja vaadeldavus

Kasu:

• Võimalus teha kokkuvõtet suurtest palkide prügimägedest, maskeerides ja filtreerides need AI-sse ning luua ajaskaala
• Võimalus hinnata tehisintellekti loodud ajasuhteid hüpoteeside, mitte põhjuslike seostena
• Võimalus kinnitada algpõhjuse hüpoteesi mõõdikute ja koodiga ning koostada surmajärgne sketš

Kui tarkvara töötab tootmisrežiimis (reaalajas keskkond), näitavad ainult jäljed, mõõdikud ja logid (rakenduse töötamise ajal loodud ajatembeldatud logiread) teile, mida see teeb. Katkestuse ajal tuhandetelt, mõnikord miljonitelt logiliinidelt sisuka signaali tõmbamine on intsidendile reageerimise kõige stressirohkem ja ajakriitilisem hetk. Siin saab AI olla abimees, kes teeb kokkuvõtteid tohutust tekstist, eraldab mustreid ja loob hüpoteese – seni, kuni austate privaatsus- ja kontrollipiiranguid.

Selles õppetükis õpime kasutama tehisintellekti vaadeldavuse kontekstis — võime mõista süsteemi sisemist olekut, vaadates selle väliseid väljundeid: logimürast tähenduse eraldamine, vea ajaskaala kindlaksmääramine, korduvate mustrite leidmine ja surmajärgse analüüsi koostamine. Kriitiline hoiatus: töötlemata tootmislogid sisaldavad sageli isikuandmeid ja saladusi; nende juhuslik kleepimine AI-tööriistadesse on tõsine rikkumine.

Miks logid on rasked, miks on AI kasulik?

Logid on keerulised kolmel põhjusel: helitugevus (neid on liiga palju), müra (paljud read on ebaolulised) ja segadus (sündmus on erinevate teenuste logides laiali). Inimsilm väsib selles hunnikus ära ja jätab olulise joone vahele.

Tehisintellekt on hea suurte tekstiplokkide kokkuvõtte tegemisel, korduvate mustrite loendamisel ja küsimisel: "Mis muutus vahetult enne seda vigade pakki?" See on võimas ajasuhete loomisel, näiteks on siiski kaks piiri. Esimene on konteksti aken: mudelisse mahutavate logide arv on piiratud, seega peate esmalt filtreerima ja proovima. Teiseks, valideerimine: AI ütlemine "siin on algpõhjus" on hüpotees; Ärge langetage otsust ilma seda mõõdikute ja koodiga kinnitamata.

Ettevaatust. Toortootmise logid võivad sisaldada IP-aadressi, e-posti aadressi, luba, seansi ID-d ja mõnikord ka avatud saladust. Maskeerige need enne tehisintellektile söötmist või kasutage ainult ettevõtte heakskiidetud andmeturbega tööriistu. Süvendame seda teemat 10. üksuses.

Samm-sammult: logist algpõhjuseni

1. Kitsendage ajaakent. Määrake minutid, millal sündmus algas; Uurige seda akent, mitte kogu päeva.
2. Filtreerige müra. Rookida välja teadaolevad korduvad kahjutud jooned; Keskenduge veale (ERROR), hoiatusele (WARN) ja esimesele kõrvalekaldemomendile.
3. Maskeerige tundlikud andmed. Enne tehisintellektile andmist puhastage isikuandmed ja saladused.
4. Loo kokkuvõte ja ajaskaala. Paluge tehisintellektil teha sündmusest kronoloogias kokkuvõte ("kõigepealt see, siis see").
5. Kinnitage hüpotees mõõdikute ja koodiga. AI poolt välja toodud põhjus; Kinnitage vajaduse korral armatuurlaua, asjakohase koodi ja juurutamise ajaskaala abil.
6. Pane õpitu kirja. Tehke surmajärgne visand ja loetlege ennetavad tegevused.

Kolm miniümbrist

Juhtum 1 – 5 minutiga kokku võetud 40 000 rida. Makseteenus teatas 12 minuti jooksul vahelduvast veast. Meeskond edastas tehisintellektile asjakohase 20-minutilise maskeeritud logide akna (umbes 40 000 rida, proovid) ja koostas ajaskaala. Mudel näitas, et veapuhang langes kokku hetkega, mil sõltuvusteenuse reageerimisaeg kasvas 200 ms-lt 8 sekundini. Meeskond kinnitas seda armatuurlaual ja tuvastas põhjuse 10 minuti jooksul.

2. juhtum – eksitav korrelatsioon. Teises intsidendis süüdistas AI seda, öeldes, et vead toimusid "samal ajal" kui cron (plaanitud ülesanne). Kui meeskond mõõdikuid kontrollis, nägid nad, et cron oli tegelikult enne sündmust lõpetanud; Korrelatsioon oli kokkusattumus. Tegelik põhjus oli mäluleke. Õppetund: AI loodud ajakorrelatsioon on vihje, mitte tõend.

Juhtum 3 – postmortem kiirendatud. Pärast katkestust edastas meeskond (maskeeritud) sõnumi transkripti ja ajaskaala sündmuse kanalist tehisintellektile ning lasi sellel koostada surmajärgse visandi: kokkuvõte, mõju, ajaskaala, algpõhjus, tegevused. Inimtoimetaja parandas faktid ja määras tegevuse omanikud. Dokument, milleks kulub tavaliselt 2 tundi, valmis ligikaudu 40 minutiga ühtlasema ülesehitusega.

Neli kopeeritavat malli

Logi kokkuvõte ja ajaskaala (maskitud logiga):

Allpool on maskeeritud tootmislogi sündmuste aken.1) Valage sündmus kronoloogilisele ajajoonele (märkige esimese kõrvalekalde hetk).2) Loendage ja rühmitage kõige sagedamini korduvad vea-/hoiatusetüübid.3) "Mis muutus vahetult enne?" Loetlege küsimuse kandidaatsündmused. Need on hüpoteesid; Märkige see kui "peab olema kinnitatud". {{logs}}

Vea mustri ekstraheerimine:

Leidke nendelt logiridadelt korduvad veamustrid. Iga mustri jaoks: näidisrida (maskeeritud), hinnanguline allikas ja võimalik tähendus. Koguge haruldased, kuid kriitilised üksikud vead eraldi "tähelepanu" loendisse.{{logs}}

Struktureeritud päringu/filtri genereerimine:

{{logitööriista: grep/jq/Kibana KQL/CloudWatch Insights}} jaoks kirjutage päring, mis vastab järgmisele tingimusele: {{nt. 5xx viga viimase 15 minuti jooksul, välja arvatud kasutaja X}}. Selgitage päringut; Veenduge, et te ei mõtle domeeninimesid välja, küsige, kui te pole kindel.

Surmajärgne sketš:

Kirjutage surmajärgne visand järgmiselt (maskeeritud) sündmuse ajaskaalalt: Kokkuvõte / Mõju (kestus, mõjutatud kasutaja) / Ajaskaala / Algpõhjus / Mis läks hästi / Toimingud (jätke omaniku väli igaühe jaoks tühjaks). ÄRGE kasutage süüdistavat keelt; Olge faktiline ja ennetav.{{timeline}}

Nõrk viip / Tugev viip

Nõrk: "Vaata neid palke, mis viga on?" (Terve päeva töötlemata logi koos isikuandmetega, sihtimata.)

Tugev: "Allpool on maskeeritud tootmislogi ajavahemikust 14:02–14:20 (filtreeritud 5xxs). Selles aknas leidke tõrkepuhangu alguse hetk, loendage kõige sagedasem veatüüp ja loetlege plahvatuse eelse 60 sekundi jooksul ilmnenud kõrvalekalded; märkige need kõik kui "kinnitatav hüpotees".

Võimas versioon; See kitsendab ajaakent, filtreerib ja maskeerib logi, esitab selge küsimuse ja teeb algusest peale kindlaks, et väljund on hüpotees.

Quest

AI on tugev

Piirang / kinnitamine

Suur logi kokkuvõte

Jah, kiiresti

Võib esineda proovivõtu kadu

Ajalise suhte loomine

genereerib vihjeid

Korrelatsioon ≠ põhjuslik seos

Päringu/filtri genereerimine

hea mustand

Kas domeeninimed on tõelised?

Surmajärgne sketš

Struktuur ja keel

Juhtumid on inimeste poolt kinnitatud

Korrelatsioon ei ole põhjuslik seos

Logianalüüsi kõige levinum lõks on eksitus "see juhtus samal ajal, nii et sellepärast". AI langeb sellesse lõksu sama kergesti, kui mitte kergemini kui inimesed; sest ta arvab, et samaaegsus tekstis on tugev signaal. Et saaks öelda, et üks sündmus viib tegelikult teiseni; vaja on ajastust, mehhanismi ja võimalusel korratavust. Iga AI tuvastatud põhjusliku seose väite kohta küsime: "Millised muud tõendid seda kinnitavad?" Testige seda küsimusega.

Näpunäide: tehisintellekti sisse logides printige võimalusel tekstitõmmise asemel esmalt päring/filter ja käivitage see oma sõidukis; Nii vähendate nii tundlikke andmeid kui ka eraldate mudeli kontekstiakna tõeliselt olulisteks ridadeks.

Levinud vead

• Toores, maskeerimata palgi kleepimine. Isikuandmete ja saladuste avaldamine; eraelu puutumatuse tõsine rikkumine.
• Anname terve päeva korraga. See ületab konteksti akna, signaal upub mürasse.
• Põhjusliku seose eksimine. AI loodud ajasuhe on vihje, mitte tõend.
• Päringule tuginemine väljamõeldud domeeninimega. Mudel võib soovitada logivälja nime, mida pole olemas; kontrollige skeemiga.
• Surmajärgse uuringu avaldamine ilma seda kinnitamata. Faktid ja mõjuarvud peavad olema inimlikult kinnitatud.

Kokkuvõttes

AI on võimas tööriist helitugevuse ja müra ületamiseks logianalüüsis: suurte ärakirjade kokkuvõtte tegemine, ajakavade määramine, mustrite eraldamine ja surmajärgsete visandite ettevalmistamine. Kuid pidage meeles kolme piirangut: ärge eksportige tundlikke andmeid ilma neid maskeerimata, filtreerige ja proovige need kontekstiaknasse sobitamiseks ning kontrollige iga põhjusliku seose väidet mõõdikute ja koodiga. Korrelatsioon ei ole põhjuslik seos; AI annab vihjeid, teie teete otsuse tõenditega.

Rakenduse ülesanne

Valige oma sündmuste või testkeskkonna logist 15–20-minutiline aken. Esmalt maskeerige isikuandmed ja saladused (või koostage sünteetiline logi). Seejärel ekstraheerige AI-st kronoloogia ja sagedasemad veatüübid malliga „logi kokkuvõte ja ajaskaala”. Proovige kontrollida algpõhjuse hüpoteesi, mille AI esitas teil oleva mõõdiku või kooditükiga: kas hüpotees pidas paika või oli see eksitav korrelatsioon? Pane oma leid ühe lausega kirja.

kontrollnimekiri

• [ ] Maskin isikuandmed ja saladused enne logi tehisintellektile andmist.
• [ ] Ma taandan analüüsi kitsale ajaaknale ja filtreerin.
• [ ] Näen tehisintellekti loodud ajasuhteid hüpoteeside, mitte põhjuslike seostena.
• [ ] Kontrollin algpõhjuse väidet mõõdikute ja koodiga.
• [ ] Kinnitan, et minu loodud päringute/filtrite domeeninimed on tõelised.
• [ ] Kinnitan inimlikult surmajärgse sketši faktid ja arvud.