التسجيل ومسار التدقيق والإثبات — الأمن وحوكمة الشركات

المكاسب:

القدرة على تصميم الحد الأدنى من مخطط مسار التدقيق الكافي لإعادة بناء الحدث
القدرة على منع السجل من أن يكون مصدرًا للتسرب عن طريق إخفاء المطالبة/الاستجابة
القدرة على إنشاء سجلات يمكن التحقق منها مع هوية الارتباط والثبات وفترة الاحتفاظ

في نظام الذكاء الاصطناعي، من المؤكد أنه سيتم طرح السؤال يومًا ما: "لماذا تم اتخاذ هذا القرار بهذه الطريقة، ما الذي حدث بالضبط في ذلك اليوم؟" قد يتم طرح هذا السؤال من قبل العميل أو المدقق أو الجهة التنظيمية أو المحكمة. ستكون إجابتك إما عبارة عن مسار تدقيق يمكن التحقق منه أو "لا نعرف". هذا الأخير غير مقبول في بيئة الشركات. في هذه الوحدة، سوف نتعلم ما ينبغي وما لا ينبغي تسجيله خصيصًا للذكاء الاصطناعي، وكيفية إنشاء مسار تدقيق، وكيفية الحفاظ على توازن السجلات مع الأمان والخصوصية.

لماذا يختلف التسجيل في الذكاء الاصطناعي؟

في البرامج الكلاسيكية، يتم تسجيل "من فعل ماذا". في الذكاء الاصطناعي، تتم إضافة ثلاثة أبعاد جديدة إلى هذا: النموذج/الإصدار المستخدم، والموجه الذي تم إرساله، والاستجابة التي تم إنتاجها. عند حدوث خطأ أو شكوى، لا يمكنك إعادة بناء الحادثة دون هذه الثلاثة. ولكن هذه الاستجابة/الاستجابة الفورية يمكن أن تحتوي على معلومات تحديد الهوية الشخصية، كما رأينا في الوحدة 2 - مما يعني أن السجل نفسه يمكن أن يصبح مصدرًا للتسريبات. هذا هو فن التوازن.

تحذير: التسجيل ليس "تسجيل كل شيء". إن كثرة التسجيل تؤدي إلى مخاطر تتعلق بالخصوصية، والقليل من التسجيل يؤدي إلى نقص الأدلة. الهدف هو الاحتفاظ بما يكفي من معلومات تحديد الهوية الشخصية لإعادة بناء الحدث عن طريق إخفائه.

ما الذي يجب تسجيله؟ مخطط مسار التدقيق

يتضمن مسار تدقيق الذكاء الاصطناعي القوي، كحد أدنى:

من: معرف المستخدم والدور (أو معرف الخدمة).
متى: الطابع الزمني (إلحاق فقط إذا أمكن).
ماذا: الفعل المطلوب والأدوات المستدعىة.
أي نموذج: اسم النموذج وإصداره (مثل claude-opus-4-8)، والمعلمات المهمة مثل درجة الحرارة.
ملخص الإدخال/الإخراج: إصدار مقنع أو ملخص/تجزئة للطلب والاستجابة.
القرار: هل تمت معالجتها تلقائيًا أم ذهبت إلى إنسان أم تمت الموافقة عليها أم رفضها؟
النتيجة: هل العملية ناجحة أم خطأ، ما هو المورد المتأثر؟

خطوة بخطوة: إنشاء مسار التدقيق

تحديد هدف. من سيقرأ هذه السجلات ولماذا؟ (الاستجابة للحوادث، وتدقيق الامتثال، وتصحيح الأخطاء.) يحدد الغرض ما تحتفظ به.
فرض سياسة تحديد الهوية الشخصية. قم بإخفاء الموجه/الاستجابة قبل التسجيل (الوحدة 2).
توفير الثبات. السماح للسجلات الهامة بالإلحاق فقط؛ لا ينبغي لأحد أن يكون قادرا على محو الماضي بصمت.
تحديد فترة الاحتفاظ. تحديد المدة وفقاً لتوازن المتطلبات القانونية والسرية؛ الحذف تلقائيًا عند انتهاء الوقت.
الحد من الوصول. يجب أيضًا حماية الوصول إلى السجلات باستخدام RBAC؛ يجب أيضًا تسجيل قراءة السجل.
إضافة معرف الارتباط (معرف التتبع). ربط كافة خطوات الطلب (الإدخال، استدعاء الأداة، التحقق، الإخراج) بهوية واحدة.

أربعة قوالب قابلة للنسخ

مخطط سجل التدقيق (JSON):

{ "trace_id": "..."، "time": "YYYY-MM-DDThh:mm:ssZ"، "user": "..."، "role": "..."، "model": "claude-opus-4-8"، "parameters": { "درجة الحرارة": 0 }، "request_summary": "<masked>"، "response_summary": "<masked>"، "tools": ["tool_a"، "tool_b"], "decision": "auto|human_approval", "approval": "approved|rejected|none", "result": "success|error", "affected_resource": "..."}

موجه التحكم في تسجيل معلومات تحديد الهوية الشخصية (PII):

تحقق من أمثلة السجل أدناه. هل الحقول المطلوبة لمسار التدقيق (من، متى، النموذج، القرار، النتيجة) كاملة؟ هل تم أيضًا تسريب معلومات تحديد الهوية الشخصية (PII) الخام؟ بالنسبة لكل صف، قم بالإبلاغ على النحو التالي: "المساحة غير كافية / مفقودة: ... /تسرب معلومات تحديد الهوية الشخصية: ..." <logs>{{ example }}</logs>

مطالبة إعادة بناء الحدث:

تنتمي سجلات التدقيق التالية إلى Trace_id واحد. تحويل الحدث إلى سرد بترتيب زمني: ماذا يريد المستخدم، ماذا فعل النموذج، ما هي عمليات التحقق التي تم إجراؤها، كيف تم اتخاذ القرار، ما هي النتيجة؟ ضع علامة على الخطوات المفقودة أو غير المتسقة.<records>{{ Trace_registers }}</records>

قاعدة قرار سياسة الاحتفاظ:

لكل نوع سجل، حدد: - هل هناك التزام قانوني بالاحتفاظ؟ (الحد الأدنى للمدة إن وجدت)- هل تحتوي على معلومات تحديد الهوية الشخصية؟ (إذا تم تضمينه، تقصير المدة، تضييق الوصول) - دليل على حادث أمني؟ (لا يمكن تغيير المتجر)النتيجة: "تخزين N من الأيام + إلحاق mi فقط + مستوى الوصول".

موجه ضعيف / موجه قوي

نهج الفقراء

نهج قوي

عدم التسجيل على الإطلاق ("لا أحتاج")

تسجيل الحد الأدنى المحدد لإعادة بناء الحدث

تسجيل المطالبة/الاستجابة الأولية كما هي

ملخص مقنع + تسجيل معرف التتبع

تخزين السجلات بشكل غير محدود

فترة الاحتفاظ مع التوازن القانوني + الخصوصية

يمكن لأي شخص حذف السجلات

يتم إلحاق السجلات الهامة فقط، ويتم التحكم في الوصول إليها

ثلاث حالات صغيرة

الحالة 1 - خفض معرف التتبع التحقيق اليومي إلى 15 دقيقة. قال أحد العملاء لمساعد التقييم المسبق للائتمان في أحد البنوك: "لقد تم رفض طلبي بشكل غير عادل". وبفضل معرف الارتباط، أعاد الفريق بناء مدخلات هذا التطبيق وعمليات التحقق من الموظف والقرار في 15 دقيقة؛ أظهر أن الخطأ كان بسبب حد غير صحيح في التحقق من صحة القاعدة وتم إصلاحه.

الحالة 2 - تم اكتشاف تسجيل زائد أثناء عملية التدقيق. كانت إحدى شركات التجارة الإلكترونية تكتب جميع المطالبات/الردود على السجلات الأولية لتصحيح الأخطاء. خلال التدقيق السنوي، تبين أن هذه السجلات تحتوي على عناوين العملاء وأرقام هواتفهم وتم الاحتفاظ بها لمدة عامين. تم إغلاق النتيجة عن طريق التبديل إلى سياسة الإخفاء + الاحتفاظ لمدة 90 يومًا؛ تم الحفاظ على وظيفة مسار التدقيق.

الحالة 3 - كشف سجل الإلحاق فقط عن إساءة استخدام داخلية. حاول أحد الموظفين في أحد مقدمي الخدمة حذف السجلات لإخفاء دفعة خاطئة قام بإنشائها. نظرًا لأن السجلات قابلة للإلحاق فقط ويتم تسجيل محاولات قراءة/حذف السجل، فقد أصبحت المحاولة مرئية على الفور؛ وأدى الحادث إلى تصحيح تأديبي وإجرائي.

نصيحة: قم بتعيين معرف الارتباط (معرف التتبع) لكل طلب وتنفيذه خلال جميع الخطوات. عند حدوث مشكلة، فإن القدرة على جمع "كل شيء يتعلق بهذا الطلب" باستخدام استعلام واحد هو أكبر مسرع للاستجابة للحوادث.

الأخطاء الشائعة

عدم التسجيل على الإطلاق، أو تسجيل القليل جدًا بحيث لا يمكنك إعادة بناء الحدث.
تسجيل الطلب/الاستجابة الأولية بدون قناع وتحويل السجل إلى مصدر للتسرب.
عدم تسجيل اسم النموذج/الإصدار والقرار (تلقائي/بشري).
يؤدي تخزين السجلات لفترة زمنية غير محدودة إلى زيادة مخاطر الخصوصية.
ترك السجلات الهامة عرضة للتغيير؛ عدم تسجيل الوصول إلى السجل.
عدم القدرة على ربط الخطوات معًا لأنها لا تستخدم معرف الارتباط (معرف التتبع).

باختصار

ويضيف تسجيل الذكاء الاصطناعي ثلاثة أبعاد إلى "من فعل ماذا": أي نموذج/إصدار، وأي استجابة، وأي استجابة.
الهدف هو الحفاظ على الحد الأدنى من معلومات تحديد الهوية الشخصية (PII) بما يكفي لإعادة بناء الحدث عن طريق إخفائه - لا أكثر ولا أقل.
يجب أن يتضمن مسار التدقيق مجالات من/متى/ماذا/أي نموذج/قرار/نتيجة.
يجب أن تكون السجلات الهامة قابلة للإلحاق فقط، ويجب أن يكون الوصول إليها محدودًا، ويجب أيضًا تسجيل الوصول إلى السجل.
يربط معرف الارتباط (معرف التتبع) جميع خطوات الطلب ويسرع عملية التحقيق في الحادث.

مهمة التطبيق

حدد طلبًا من تدفق الذكاء الاصطناعي الخاص بك واكتب مسار التدقيق المثالي له باستخدام مخطط JSON أعلاه. ثم قم بإجراء اختبارين: (1) هل يمكنك سرد القصة من البداية إلى النهاية بهذا التسجيل فقط؟ (2) هل توجد معلومات تحديد هوية شخصية (PII) خام في السجل؟ إذا كان هناك حقل مفقود، فأضفه، وإذا كان هناك معلومات تحديد الهوية الشخصية، فقم بإخفائه. وأخيرًا، قم بتعيين فترة الاحتفاظ ومستوى الوصول.

قائمة مرجعية

[ ] يتضمن مسار التدقيق حقول من/متى/ماذا/النمط/القرار/النتيجة.
[ ] يتم إخفاء المطالبة/الاستجابة قبل السجلات (بدون معلومات تحديد الهوية الشخصية).
[ ] يتم تعيين معرف الارتباط (معرف التتبع) لكل طلب.
[ ] يتم إلحاق السجلات المهمة فقط ويتم التحكم في الوصول إليها.
[ ] تحدد فترة التخزين بالرصيد القانوني + السرية، ويتم حذفها في نهاية المدة.
[ ] باستخدام السجلات يمكنني إعادة بناء الحدث في أقل من 30 دقيقة.