تحليل السجل وقابلية الملاحظة

المكاسب:

• القدرة على تلخيص عمليات تفريغ السجلات الكبيرة عن طريق إخفاءها وتصفيتها للذكاء الاصطناعي وإنشاء جدول زمني
• القدرة على تقييم العلاقات الزمنية التي أنشأها الذكاء الاصطناعي على أنها فرضيات وليست سببية
• القدرة على التحقق من صحة فرضية السبب الجذري باستخدام المقاييس والكود وإعداد رسم تخطيطي بعد الوفاة

عندما يتم تشغيل البرنامج في مرحلة الإنتاج (البيئة المباشرة)، فإن التتبعات والمقاييس والسجلات فقط (أسطر السجل المختومة بالوقت التي ينتجها التطبيق أثناء تشغيله) هي التي تخبرك بما يفعله. إن سحب إشارة ذات معنى من الآلاف، وأحيانًا الملايين، من خطوط السجل أثناء انقطاع الخدمة هو أكثر اللحظات إرهاقًا وحرجًا من حيث الوقت في الاستجابة للحوادث. هنا، يمكن أن يكون الذكاء الاصطناعي أداة مساعدة، حيث يلخص النصوص الضخمة، ويستخرج الأنماط، ويولد الفرضيات - طالما أنك تحترم حدود الخصوصية والتحقق.

في هذه الوحدة، نتعلم استخدام الذكاء الاصطناعي في سياق إمكانية الملاحظة - القدرة على فهم الحالة الداخلية للنظام من خلال النظر إلى مخرجاته الخارجية: استخلاص المعنى من ضجيج السجل، وإنشاء الجدول الزمني للخطأ، وإيجاد أنماط متكررة، وصياغة تقرير ما بعد الوفاة. تحذير بالغ الأهمية مقدمًا: غالبًا ما تحتوي سجلات الإنتاج الخام على بيانات وأسرار شخصية؛ يعد لصقها بشكل عشوائي في أداة الذكاء الاصطناعي انتهاكًا خطيرًا.

لماذا تعتبر السجلات صعبة، ولماذا الذكاء الاصطناعي مفيد؟

تعد السجلات صعبة لثلاثة أسباب: الحجم (هناك عدد كبير جدًا)، والضوضاء (العديد من الأسطر غير ذات صلة)، والفوضى (الحدث مبعثر عبر سجلات الخدمات المختلفة). تتعب العين البشرية في هذه الكومة وتخطئ الخط المهم.

الذكاء الاصطناعي جيد في تلخيص كتل كبيرة من النص، وإحصاء الأنماط المتكررة، والسؤال "ما الذي تغير قبل موجة الأخطاء تلك؟" إنه قوي في إقامة علاقات زمنية مثل: ومع ذلك، هناك حدان. الأول هو نافذة السياق: كمية السجلات التي يمكنك ملاءمتها للنموذج محدودة، لذا تحتاج إلى التصفية وأخذ العينات أولاً. ثانيًا، التحقق من الصحة: ​​قول الذكاء الاصطناعي "هذا هو السبب الجذري" هو فرضية؛ لا تتخذ قرارًا دون تأكيده بالمقاييس والرمز.

تنبيه: قد تحتوي سجلات الإنتاج الأولية على عنوان IP والبريد الإلكتروني والرمز المميز ومعرف الجلسة وفي بعض الأحيان سر مفتوح. قم بإخفائها قبل إطعامها للذكاء الاصطناعي، أو استخدم فقط الأدوات المعتمدة من قبل المؤسسة والمؤمنة بالبيانات. سنتعمق في هذا الموضوع في الوحدة العاشرة.

خطوة بخطوة: من السجل إلى السبب الجذري

1. تضييق نافذة الوقت. تحديد الدقائق التي بدأ فيها الحدث؛ افحص تلك النافذة، وليس طوال اليوم.
2. تصفية الضوضاء. تخلص من الخطوط المتكررة وغير الضارة المعروفة؛ ركز على الخطأ (ERROR)، والتحذير (WARN)، ولحظة الانحراف الأولى.
3. إخفاء البيانات الحساسة. نظف البيانات والأسرار الشخصية قبل تسليمها إلى الذكاء الاصطناعي.
4. إنشاء ملخص والجدول الزمني. اطلب من الذكاء الاصطناعي تلخيص الحدث في تسلسل زمني ("أولاً هذا، ثم ذاك").
5. التحقق من صحة الفرضية باستخدام المقاييس والرمز. السبب الذي أشارت إليه منظمة العفو الدولية؛ قم بالتأكيد من خلال لوحة المعلومات والكود ذي الصلة والجدول الزمني للنشر، إن أمكن.
6. ضع ما تعلمته كتابةً. قم بعمل رسم تخطيطي لما بعد الوفاة وقم بإدراج الإجراءات الوقائية.

ثلاث حالات صغيرة

الحالة 1 - 40.000 سطر تم تلخيصها في 5 دقائق. أبلغت خدمة الدفع عن خطأ متقطع لمدة 12 دقيقة. قام الفريق بتغذية نافذة مدتها 20 دقيقة من السجلات المقنعة (حوالي 40 ألف سطر، تم أخذ عينات منها) إلى الذكاء الاصطناعي وقام بإنشاء جدول زمني. أظهر النموذج أن انفجار الخطأ تزامن مع اللحظة التي زاد فيها زمن استجابة خدمة التبعية من 200 مللي ثانية إلى 8 ثوانٍ. أكد الفريق ذلك على لوحة القيادة وقام بتضييق نطاق السبب في غضون 10 دقائق.

الحالة 2 - الارتباط المضلل. وفي حادثة أخرى، ألقى الذكاء الاصطناعي اللوم عليه بقوله إن الأخطاء تحدث "في نفس الوقت" أثناء تشغيل cron (مهمة مجدولة). عندما قام الفريق بفحص المقاييس، رأوا أن cron قد انتهى بالفعل قبل الحدث؛ وكان الارتباط من قبيل الصدفة. وكان السبب الحقيقي هو تسرب الذاكرة. الدرس المستفاد: الارتباط الزمني الذي أنشأه الذكاء الاصطناعي هو دليل وليس دليلاً.

الحالة 3 - تسريع عملية ما بعد الوفاة. بعد انقطاع الخدمة، قام الفريق بتغذية نص الرسالة (المقنعة) والجدول الزمني من قناة الحدث إلى الذكاء الاصطناعي وطلب منه إنتاج رسم تخطيطي بعد الوفاة: ملخص، والتأثير، والجدول الزمني، والسبب الجذري، والإجراءات. المحرر البشري صحح الحقائق وعين أصحاب العمل. تم الانتهاء من الوثيقة، التي تستغرق عادةً ساعتين، في حوالي 40 دقيقة ببنية أكثر اتساقًا.

أربعة قوالب قابلة للنسخ

ملخص السجل والمخطط الزمني (مع السجل المقنع):

يوجد أدناه نافذة حدث لسجل الإنتاج المقنع.1) قم بصب الحدث في جدول زمني زمني (حدد لحظة الانحراف الأول).2) قم بعد وتجميع أنواع الأخطاء/التحذيرات الأكثر تكرارًا.3) "ما الذي تغير قبل ذلك؟" قم بإدراج الأحداث المرشحة للسؤال. هذه فرضيات؛ ضع علامة "يجب التحقق منها". {{سجلات}}

استخراج نمط الخطأ:

ابحث عن أنماط الأخطاء المتكررة في سطور السجل هذه. لكل نمط: خط العينة (مقنع)، المصدر المقدر والمعنى المحتمل. اجمع الأخطاء الفردية النادرة والحرجة في قائمة "انتباه" منفصلة.{{logs}}

إنشاء استعلام/عامل تصفية منظم:

بالنسبة إلى {{log tool: grep/jq/Kibana KQL/CloudWatch Insights}}، اكتب استعلامًا يستوفي الشرط التالي: {{e.g. أخطاء 5xx في آخر 15 دقيقة، باستثناء المستخدم X}}. اشرح الاستعلام؛ تأكد من أنك لا تقوم باختلاق أسماء النطاقات، واسأل إذا لم تكن متأكدًا.

رسم ما بعد الوفاة:

اكتب رسمًا تخطيطيًا بعد الوفاة من الجدول الزمني للحدث (المقنع) التالي: الملخص / التأثير (المدة، المستخدم المتأثر) / الجدول الزمني / السبب الجذري / ما سار على ما يرام / الإجراءات (اترك حقل المالك فارغًا لكل منها). لا تستخدم لغة الاتهام؛ كن واقعيًا واستباقيًا.{{الخط الزمني}}

موجه ضعيف / موجه قوي

ضعيف: "انظر إلى هذه السجلات، ما المشكلة؟" (السجل الأولي لليوم بأكمله، مع البيانات الشخصية، غير مستهدف.)

Strong: "يوجد أدناه سجل الإنتاج المقنع من 14:02 إلى 14:20 (تمت تصفيته إلى 5xxs). في هذه النافذة، ابحث عن اللحظة التي بدأ فيها انفجار الخطأ، وقم بإحصاء نوع الخطأ الأكثر شيوعًا، وقم بإدراج الانحرافات التي ظهرت في الـ 60 ثانية قبل الانفجار مباشرة؛ ضع علامة عليها جميعًا على أنها "فرضية يجب التحقق منها"."

نسخة قوية؛ فهو يضيق النافذة الزمنية، ويصفي السجل ويخفيه، ويطرح سؤالاً واضحًا، ويثبت منذ البداية أن الناتج عبارة عن فرضية.

كويست

الذكاء الاصطناعي قوي

الحد / التحقق

ملخص السجل الكبير

نعم، بسرعة

قد يكون هناك فقدان العينات

إقامة علاقة زمنية

يولد تلميحات

الارتباط ≠ السببية

الاستعلام/جيل التصفية

مشروع جيد

هل أسماء النطاقات حقيقية؟

رسم تخطيطي بعد الوفاة

البنية واللغة

الحالات مؤكدة بشريا

الارتباط ليس السببية

المأزق الأكثر شيوعًا في تحليل السجل هو مغالطة "لقد حدث ذلك في نفس الوقت، ولهذا السبب". يقع الذكاء الاصطناعي في هذا الفخ بسهولة، إن لم يكن بسهولة أكبر، من البشر؛ لأنه يرى أن التزامن في النص إشارة قوية. أن نكون قادرين على القول بأن حدثًا ما يؤدي في الواقع إلى حدث آخر؛ مطلوب التوقيت والآلية، وإذا أمكن، التكرار. في مقابل كل ادعاء سببي يثبته الذكاء الاصطناعي، نسأل "ما هي الأدلة الأخرى التي تؤكد ذلك؟" اختبرها بالسؤال.

نصيحة: عند تسجيل الدخول إلى الذكاء الاصطناعي، بدلاً من تفريغ النص، إذا أمكن، قم بطباعة استعلام/مرشح أولاً وتشغيله في سيارتك؛ بهذه الطريقة يمكنك تقليل البيانات الحساسة وفصل نافذة سياق النموذج إلى الصفوف المهمة حقًا.

الأخطاء الشائعة

• لصق السجل الخام غير المقنع. الكشف عن البيانات والأسرار الشخصية؛ انتهاك خطير للخصوصية.
• إعطاء اليوم كله دفعة واحدة. إنه يتجاوز نافذة السياق، وغرق الإشارة في الضوضاء.
• الارتباط الخاطئ للسببية. العلاقة الزمنية التي أنشأها الذكاء الاصطناعي هي دليل وليست دليلاً.
• الاعتماد على استعلام باسم مجال مصطنع. قد يقترح النموذج اسم حقل سجل غير موجود؛ تحقق مع التخطيطي.
• نشر التشريح دون التحقق منه. يجب أن يتم تأكيد الحقائق وأرقام التأثير بشريًا.

باختصار

يعد الذكاء الاصطناعي أداة قوية للتغلب على الحجم والتشويش في تحليل السجل: تلخيص النصوص الكبيرة، وإنشاء جداول زمنية، واستخراج الأنماط، وإعداد رسومات ما بعد الوفاة. لكن تذكر ثلاثة حدود: لا تقم بتصدير البيانات الحساسة دون إخفاءها، وقم بتصفيتها وأخذ عينات منها لتناسب نافذة السياق، والتحقق من كل ادعاء سببي باستخدام المقاييس والتعليمات البرمجية. الارتباط ليس السببية. الذكاء الاصطناعي يعطي أدلة، وأنت تتخذ القرار بالأدلة.

مهمة التطبيق

حدد نافذة مدتها 15-20 دقيقة من سجل الأحداث أو بيئة الاختبار لديك. قم أولاً بإخفاء البيانات والأسرار الشخصية (أو قم بإنتاج سجل اصطناعي). ثم قم باستخراج التسلسل الزمني وأنواع الأخطاء الأكثر شيوعًا من الذكاء الاصطناعي باستخدام قالب "ملخص السجل والمخطط الزمني". حاول التحقق من فرضية السبب الجذري التي طرحها الذكاء الاصطناعي باستخدام مقياس أو جزء من التعليمات البرمجية لديك: هل كانت الفرضية صحيحة، أم أنها كانت علاقة مضللة؟ اكتب النتيجة التي توصلت إليها في جملة واحدة.

قائمة مرجعية

• [ ] أقوم بإخفاء البيانات والأسرار الشخصية قبل إعطاء السجل إلى الذكاء الاصطناعي.
• [ ] أقوم بتقليل التحليل إلى نافذة زمنية ضيقة وتصفية.
• [ ] أرى أن العلاقات الزمنية التي أنشأها الذكاء الاصطناعي هي فرضيات وليست سببية.
• [ ] أتحقق من مطالبة السبب الجذري باستخدام المقاييس والتعليمات البرمجية.
• [ ] أؤكد أن أسماء النطاقات الخاصة بالاستعلامات/المرشحات التي أقوم بإنشائها حقيقية.
• [ ] أشهد بشكل إنساني على الحقائق والأرقام الواردة في رسم ما بعد الوفاة.