లాగ్ విశ్లేషణ మరియు పరిశీలన

లాభాలు:

• AIకి మాస్కింగ్ మరియు ఫిల్టర్ చేయడం ద్వారా పెద్ద లాగ్ డంప్‌లను సంగ్రహించే సామర్థ్యం మరియు టైమ్‌లైన్‌ని సృష్టించడం
• AI ద్వారా స్థాపించబడిన సమయ సంబంధాలను పరికల్పనలుగా అంచనా వేయగలగడం, కారణం కాదు
• మూలకారణ పరికల్పనను కొలమానాలు మరియు కోడ్‌తో ధృవీకరించే సామర్థ్యం మరియు పోస్ట్‌మార్టం స్కెచ్‌ను సిద్ధం చేయడం

సాఫ్ట్‌వేర్ ఉత్పత్తి (లైవ్ ఎన్విరాన్‌మెంట్)లో నడుస్తున్నప్పుడు, ట్రేస్‌లు, మెట్రిక్‌లు మరియు లాగ్‌లు (అప్లికేషన్ రన్ అవుతున్నప్పుడు దాని ద్వారా ఉత్పత్తి చేయబడిన టైమ్-స్టాంప్డ్ లాగ్ లైన్‌లు) మాత్రమే అది ఏమి చేస్తుందో మీకు తెలియజేస్తుంది. అంతరాయం సమయంలో వేలాది, కొన్నిసార్లు మిలియన్ల లాగ్ లైన్‌ల నుండి అర్ధవంతమైన సిగ్నల్‌ను లాగడం అనేది సంఘటన ప్రతిస్పందన యొక్క అత్యంత ఒత్తిడితో కూడిన మరియు సమయం-క్లిష్టమైన క్షణం. మీరు గోప్యత మరియు ధృవీకరణ పరిమితులను గౌరవించినంత వరకు - ఇక్కడ, AI ఒక సహాయకుడిగా ఉంటుంది, భారీ వచనాన్ని సంగ్రహించడం, నమూనాలను సంగ్రహించడం మరియు పరికల్పనలను రూపొందించడం.

ఈ యూనిట్‌లో, మేము AIని పరిశీలనాత్మక సందర్భంలో ఉపయోగించడం నేర్చుకుంటాము — దాని బాహ్య అవుట్‌పుట్‌లను చూడటం ద్వారా సిస్టమ్ యొక్క అంతర్గత స్థితిని అర్థం చేసుకోగల సామర్థ్యం: లాగ్ శబ్దం నుండి అర్థాన్ని సంగ్రహించడం, బగ్ యొక్క కాలక్రమాన్ని ఏర్పాటు చేయడం, పునరావృతమయ్యే నమూనాలను కనుగొనడం మరియు పోస్ట్‌మార్టంను రూపొందించడం. ముందు కీలక హెచ్చరిక: ముడి ఉత్పత్తి లాగ్‌లు తరచుగా వ్యక్తిగత డేటా మరియు రహస్యాలను కలిగి ఉంటాయి; వాటిని AI సాధనంలోకి అనుకోకుండా అతికించడం తీవ్రమైన ఉల్లంఘన.

లాగ్‌లు ఎందుకు కఠినంగా ఉన్నాయి, AI ఎందుకు ఉపయోగపడుతుంది?

లాగ్‌లు మూడు కారణాల వల్ల కష్టంగా ఉన్నాయి: వాల్యూమ్ (చాలా ఎక్కువ ఉన్నాయి), శబ్దం (అనేక పంక్తులు అసంబద్ధం) మరియు అయోమయ (వివిధ సేవల లాగ్‌లలో ఒక ఈవెంట్ చెల్లాచెదురుగా ఉంటుంది). మానవ కన్ను ఈ కుప్పలో అలసిపోతుంది మరియు ముఖ్యమైన రేఖను కోల్పోతుంది.

AI పెద్ద టెక్స్ట్ బ్లాకులను సంగ్రహించడం, పునరావృతమయ్యే నమూనాలను లెక్కించడం మరియు "ఎర్రర్‌ల విస్ఫోటనం కంటే ముందు ఏమి మార్చబడింది?" అని అడగడం మంచిది. అయితే, రెండు పరిమితులు ఉన్నాయి వంటి సమయ సంబంధాలను స్థాపించడంలో ఇది శక్తివంతమైనది. మొదటిది కాంటెక్స్ట్ విండో: మీరు మోడల్‌కి సరిపోయే లాగ్‌ల పరిమాణం పరిమితంగా ఉంటుంది, కాబట్టి మీరు ముందుగా ఫిల్టర్ చేసి నమూనా చేయాలి. రెండవది, ధృవీకరణ: "ఇక్కడే మూల కారణం" అని AI చెప్పడం ఒక పరికల్పన; కొలమానాలు మరియు కోడ్‌తో నిర్ధారించకుండా నిర్ణయం తీసుకోవద్దు.

జాగ్రత్త: ముడి ఉత్పత్తి లాగ్‌లలో IP చిరునామా, ఇమెయిల్, టోకెన్, సెషన్ ID మరియు కొన్నిసార్లు బహిరంగ రహస్యం ఉండవచ్చు. వాటిని AIకి అందించే ముందు మాస్క్ చేయండి లేదా ఎంటర్‌ప్రైజ్-ఆమోదిత, డేటా-సురక్షిత సాధనాలను మాత్రమే ఉపయోగించండి. మేము ఈ అంశాన్ని యూనిట్ 10లో లోతుగా చేస్తాము.

దశల వారీగా: లాగ్ నుండి రూట్ కాజ్ వరకు

1. సమయ విండోను కుదించండి. ఈవెంట్ ప్రారంభమైన నిమిషాలను నిర్ణయించండి; ఆ విండోను పరిశీలించండి, రోజంతా కాదు.
2. శబ్దాన్ని ఫిల్టర్ చేయండి. తెలిసిన పునరావృత, హానిచేయని పంక్తులను తొలగించండి; లోపం (ERROR), హెచ్చరిక (హెచ్చరిక) మరియు మొదటి విచలన క్షణంపై దృష్టి పెట్టండి.
3. సున్నితమైన డేటాను ముసుగు చేయండి. వ్యక్తిగత డేటా మరియు రహస్యాలను AIకి ఇచ్చే ముందు వాటిని శుభ్రపరచండి.
4. సారాంశం మరియు కాలక్రమాన్ని సృష్టించండి. ఈవెంట్‌ను కాలక్రమంలో సంగ్రహించమని AIని అడగండి (“మొదట ఇది, ఆ తర్వాత”).
5. కొలమానాలు మరియు కోడ్‌తో పరికల్పనను ధృవీకరించండి. AI ద్వారా సూచించబడిన కారణం; వర్తిస్తే డాష్‌బోర్డ్, సంబంధిత కోడ్ మరియు విస్తరణ టైమ్‌లైన్‌తో నిర్ధారించండి.
6. నేర్చుకున్నది వ్రాతపూర్వకంగా ఉంచండి. పోస్ట్‌మార్టం స్కెచ్‌ని రూపొందించి, నివారణ చర్యలను జాబితా చేయండి.

మూడు మినీ కేసులు

కేసు 1 — 40,000 పంక్తులు 5 నిమిషాల్లో సంగ్రహించబడ్డాయి. చెల్లింపు సేవ 12 నిమిషాల పాటు అడపాదడపా లోపాన్ని నివేదించింది. బృందం సంబంధిత 20 నిమిషాల మాస్క్‌డ్ లాగ్‌లను (సుమారు 40,000 లైన్‌లు, నమూనా) AIకి అందించింది మరియు టైమ్‌లైన్‌ను రూపొందించింది. డిపెండెన్సీ సేవ యొక్క ప్రతిస్పందన సమయం 200 ms నుండి 8 సెకన్లకు పెరిగిన క్షణంతో లోపం ఏర్పడిందని మోడల్ చూపించింది. బృందం దీన్ని డాష్‌బోర్డ్‌లో ధృవీకరించింది మరియు 10 నిమిషాల్లో కారణాన్ని తగ్గించింది.

కేసు 2 - తప్పుదారి పట్టించే సహసంబంధం. మరొక సంఘటనలో, క్రాన్ (షెడ్యూల్డ్ టాస్క్) రన్‌లో "అదే సమయంలో" లోపాలు జరుగుతున్నాయని AI నిందించింది. బృందం కొలమానాలను తనిఖీ చేసినప్పుడు, క్రాన్ వాస్తవానికి ఈవెంట్‌కు ముందే పూర్తి చేసిందని వారు చూశారు; సహసంబంధం యాదృచ్చికం. అసలు కారణం మెమరీ లీక్. పాఠం: AI ద్వారా స్థాపించబడిన సమయ సహసంబంధం ఒక క్లూ, సాక్ష్యం కాదు.

కేసు 3 - పోస్ట్‌మార్టం వేగవంతం చేయబడింది. అంతరాయం తరువాత, బృందం ఈవెంట్ ఛానెల్ నుండి (ముసుగు) సందేశ ట్రాన్స్క్రిప్ట్ మరియు టైమ్‌లైన్‌ను AIకి అందించింది మరియు అది పోస్ట్‌మార్టం స్కెచ్‌ను రూపొందించింది: సారాంశం, ప్రభావం, టైమ్‌లైన్, మూల కారణం, చర్యలు. మానవ సంపాదకుడు వాస్తవాలను సరిదిద్దారు మరియు చర్య యజమానులను నియమించారు. సాధారణంగా 2 గంటల సమయం పట్టే పత్రం, మరింత స్థిరమైన నిర్మాణంతో సుమారు 40 నిమిషాల్లో పూర్తయింది.

నాలుగు కాపీ చేయగల టెంప్లేట్లు

లాగ్ సారాంశం మరియు కాలక్రమం (ముసుగు లాగ్‌తో):

మాస్క్‌డ్ ప్రొడక్షన్ లాగ్ యొక్క ఈవెంట్ విండో క్రింద ఉంది.1) ఈవెంట్‌ను కాలక్రమానుసారం టైమ్‌లైన్‌లో పోయాలి (మొదటి విచలనం యొక్క క్షణాన్ని గుర్తించండి).2) తరచుగా పునరావృతమయ్యే లోపం/హెచ్చరిక రకాలను లెక్కించండి మరియు సమూహపరచండి.3) "ఇంతకు ముందు ఏమి మారింది?" ప్రశ్న కోసం అభ్యర్థి ఈవెంట్‌లను జాబితా చేయండి. ఇవి పరికల్పనలు; "తప్పక ధృవీకరించబడాలి" అని గుర్తు పెట్టండి. {{లాగ్‌లు}}

లోపం నమూనా వెలికితీత:

ఈ లాగ్ లైన్లలో పునరావృత దోష నమూనాలను కనుగొనండి. ప్రతి నమూనా కోసం: నమూనా లైన్ (ముసుగు), అంచనా మూలం మరియు సాధ్యమయ్యే అర్థం. అరుదైన కానీ క్లిష్టమైన ఒకే ఎర్రర్‌లను ప్రత్యేక "శ్రద్ధ" జాబితాలో సేకరించండి.{{లాగ్‌లు}}

నిర్మాణాత్మక ప్రశ్న/ఫిల్టర్ జనరేషన్:

{{లాగ్ సాధనం: grep/jq/Kibana KQL/CloudWatch అంతర్దృష్టులు}} కోసం, కింది షరతుకు అనుగుణంగా ప్రశ్నను వ్రాయండి: {{ఉదా. వినియోగదారు X}}ని మినహాయించి, గత 15 నిమిషాల్లో 5xx లోపాలు. ప్రశ్నను వివరించండి; మీరు డొమైన్ పేర్లను రూపొందించడం లేదని నిర్ధారించుకోండి, మీకు ఖచ్చితంగా తెలియకపోతే అడగండి.

పోస్టుమార్టం స్కెచ్:

కింది (ముసుగు వేసుకున్న) ఈవెంట్ టైమ్‌లైన్ నుండి పోస్ట్‌మార్టం స్కెచ్‌ను వ్రాయండి: సారాంశం / ప్రభావం (వ్యవధి, వినియోగదారు ప్రభావితం) / కాలక్రమం / మూల కారణం / ఏది బాగా జరిగింది / చర్యలు (ఒక్కొక్కటికి యజమాని ఫీల్డ్‌ను ఖాళీగా ఉంచండి). నిందించే భాషను ఉపయోగించవద్దు; వాస్తవికంగా మరియు చురుకుగా ఉండండి.{{timeline}}

బలహీనమైన ప్రాంప్ట్ / బలమైన ప్రాంప్ట్

బలహీనం: "ఈ లాగ్‌లను చూడండి, తప్పు ఏమిటి?" (రోజు మొత్తం ముడి లాగ్, వ్యక్తిగత డేటాతో, లక్ష్యం చేయబడలేదు.)

బలమైనది: "క్రింద 14:02–14:20 (5xxs వరకు ఫిల్టర్ చేయబడింది) నుండి మాస్క్‌డ్ ప్రొడక్షన్ లాగ్ ఉంది. ఈ విండోలో, ఎర్రర్ బర్స్ట్ అయిన క్షణాన్ని కనుగొనండి, చాలా తరచుగా ఎర్రర్ రకాన్ని లెక్కించండి మరియు పేలుడుకు ముందు వెంటనే 60 సెకన్లలో కనిపించిన విచలనాలను జాబితా చేయండి; వాటన్నింటినీ ధృవీకరించడానికి 'పరికల్పన'గా గుర్తించండి."

శక్తివంతమైన వెర్షన్; ఇది టైమ్ విండోను కుదించి, లాగ్‌ను ఫిల్టర్ చేస్తుంది మరియు మాస్క్ చేస్తుంది, స్పష్టమైన ప్రశ్నను అడుగుతుంది మరియు అవుట్‌పుట్ ఒక పరికల్పన అని మొదటి నుండి నిర్ధారిస్తుంది.

తపన

AI బలంగా ఉంది

పరిమితి / ధృవీకరణ

పెద్ద లాగ్ సారాంశం

అవును, వేగంగా

నమూనా నష్టం ఉండవచ్చు

సమయ సంబంధాన్ని ఏర్పాటు చేయడం

సూచనలను సృష్టిస్తుంది

సహసంబంధం ≠ కారణం

ప్రశ్న/ఫిల్టర్ జనరేషన్

మంచి డ్రాఫ్ట్

డొమైన్ పేర్లు నిజమేనా?

పోస్ట్‌మార్టం స్కెచ్

నిర్మాణం మరియు భాష

కేసులు మానవ ధృవీకరించబడ్డాయి

సహసంబంధం కారణం కాదు

లాగ్ విశ్లేషణలో అత్యంత సాధారణ ఆపద ఏమిటంటే "ఇది ఒకే సమయంలో జరిగింది, అందుకే" తప్పు. AI ఈ ట్రాప్‌లో మనుషుల కంటే తేలికగా పడిపోతుంది; ఎందుకంటే ఇది టెక్స్ట్‌లో ఏకకాలాన్ని బలమైన సంకేతంగా భావిస్తుంది. ఒక సంఘటన వాస్తవానికి మరొకదానికి దారితీస్తుందని చెప్పగలగాలి; టైమింగ్, మెకానిజం మరియు, వీలైతే, రిపీటబిలిటీ అవసరం. AI స్థాపించే ప్రతి కారణవాద దావా కోసం, మేము "దీనిని ఏ ఇతర సాక్ష్యం నిర్ధారిస్తుంది?" ప్రశ్నతో పరీక్షించండి.

చిట్కా: AIకి లాగిన్ చేస్తున్నప్పుడు, టెక్స్ట్ డంప్‌కు బదులుగా, వీలైతే, ముందుగా ఒక ప్రశ్న/ఫిల్టర్‌ను ప్రింట్ చేసి, దాన్ని మీ వాహనంలో రన్ చేయండి; ఈ విధంగా మీరిద్దరూ సెన్సిటివ్ డేటాను తగ్గించి, మోడల్ యొక్క కాంటెక్స్ట్ విండోను నిజంగా ముఖ్యమైన అడ్డు వరుసలుగా వేరు చేస్తారు.

సాధారణ తప్పులు

• ముడి, ముసుగు లేని లాగ్‌ను అతికించడం. వ్యక్తిగత డేటా మరియు రహస్యాలను బహిర్గతం చేయడం; గోప్యతకు తీవ్రమైన ఉల్లంఘన.
• రోజంతా ఒకేసారి ఇస్తున్నారు. ఇది సందర్భ విండోను మించిపోయింది, సిగ్నల్ శబ్దంలో మునిగిపోతుంది.
• కారణం కోసం తప్పు సహసంబంధం. AI ద్వారా స్థాపించబడిన సమయ సంబంధం ఒక క్లూ, సాక్ష్యం కాదు.
• రూపొందించబడిన డొమైన్ పేరుతో ప్రశ్నపై ఆధారపడటం. మోడల్ ఉనికిలో లేని లాగ్ ఫీల్డ్ పేరును సూచించవచ్చు; స్కీమాటిక్‌తో ధృవీకరించండి.
• ధృవీకరించకుండానే పోస్టుమార్టంను ప్రచురించడం. వాస్తవాలు మరియు ప్రభావ గణాంకాలు తప్పనిసరిగా మానవ ధృవీకరించబడాలి.

సారాంశంలో

లాగ్ విశ్లేషణలో వాల్యూమ్ మరియు శబ్దాన్ని అధిగమించడానికి AI ఒక శక్తివంతమైన సాధనం: పెద్ద ట్రాన్‌స్క్రిప్ట్‌లను సంగ్రహించడం, టైమ్‌లైన్‌లను ఏర్పాటు చేయడం, నమూనాలను సంగ్రహించడం మరియు పోస్ట్‌మార్టం స్కెచ్‌లను సిద్ధం చేయడం. కానీ మూడు పరిమితులను గుర్తుంచుకోండి: సున్నితమైన డేటాను మాస్క్ చేయకుండా ఎగుమతి చేయవద్దు, సందర్భ విండోకు సరిపోయేలా ఫిల్టర్ చేయండి మరియు నమూనా చేయండి మరియు ప్రతి కారణాన్ని కొలమానాలు మరియు కోడ్‌తో ధృవీకరించండి. సహసంబంధం కారణం కాదు; AI ఆధారాలు ఇస్తుంది, మీరు ఆధారాలతో నిర్ణయం తీసుకోండి.

అప్లికేషన్ టాస్క్

మీ వద్ద ఉన్న ఈవెంట్ లేదా టెస్ట్ ఎన్విరాన్‌మెంట్ లాగ్ నుండి 15-20 నిమిషాల విండోను ఎంచుకోండి. ముందుగా వ్యక్తిగత డేటా మరియు రహస్యాలను మాస్క్ చేయండి (లేదా సింథటిక్ లాగ్‌ను రూపొందించండి). ఆపై "లాగ్ సారాంశం మరియు కాలక్రమం" టెంప్లేట్‌తో AI నుండి కాలక్రమం మరియు చాలా తరచుగా ఎర్రర్ రకాలను సంగ్రహించండి. మీ వద్ద ఉన్న మెట్రిక్ లేదా కోడ్ ముక్కతో AI ముందుకు తెచ్చిన మూలకారణ పరికల్పనను ధృవీకరించడానికి ప్రయత్నించండి: పరికల్పన ఉంచబడిందా లేదా అది తప్పుదారి పట్టించే సహసంబంధమా? మీ అన్వేషణను ఒక వాక్యంలో వ్రాయండి.

చెక్లిస్ట్

• AIకి లాగ్ ఇవ్వడానికి ముందు నేను వ్యక్తిగత డేటా మరియు రహస్యాలను దాచిపెడతాను.
• [ ] నేను విశ్లేషణను ఇరుకైన సమయ విండో మరియు ఫిల్టర్‌కి తగ్గిస్తాను.
• [ ] నేను AI ద్వారా స్థాపించబడిన సమయ సంబంధాలను పరికల్పనలుగా చూస్తున్నాను, కారణవాదం కాదు.
• [ ] నేను మూలకారణ దావాను కొలమానాలు మరియు కోడ్‌తో ధృవీకరిస్తాను.
• [ ] నేను ఉత్పత్తి చేసే ప్రశ్నలు/ఫిల్టర్‌ల డొమైన్ పేర్లు నిజమైనవని నేను ధృవీకరిస్తున్నాను.
• [ ] పోస్ట్‌మార్టం స్కెచ్‌లోని వాస్తవాలు మరియు గణాంకాలను నేను మానవీయంగా ధృవీకరిస్తాను.