المكاسب:
- فهم أن البيانات الأمنية حساسة في ثلاث طبقات (البيانات الشخصية، وذكاء الشركة، وخريطة الضعف) ولا يمكن منحها لأداة خارجية دون إخفاء الهوية.
- ما يميز الدفاع عن الهجوم هو السلطة والنية؛ إن القدرة على فرض حسن النية لا تحل محل السلطة وأن ترخيص السيارة لا يحل محل الشرعية.
- أن تكون قادرًا على تحويل البيانات الأمنية إلى مراقبة شخصية والتعرف على عادة السؤال "هل أنا مرخص، هل تم إخفاء هويتي، هل الغرض دفاعي" قبل كل مهمة؟
خلال هذه الوحدة، استخدمنا الذكاء الاصطناعي في كل جانب من جوانب عمل متخصص الأمن: تحليل السجل، وصيد التهديدات، وتحديد أولويات الثغرات الأمنية، والاستجابة للحوادث، وتحليل التصيد الاحتيالي، ومراجعة التعليمات البرمجية، وذكاء التهديدات، وإعداد التقارير. تتناول هذه الوحدة الخطوط المرسومة حول كل هذه الاستخدامات القوية. لأن قوة الذكاء الاصطناعي في الأمن السيبراني ذات شقين: يمكن استخدام نفس القدرة للدفاع والهجوم؛ نفس الوصول إلى البيانات يسرع ويعمل التسريبات. توضح هذه الوحدة الفرق بين "يمكن" و"ينبغي".
هناك حدان أساسيان، وكلاهما لا جدال فيه. الأول هو الخصوصية وحماية البيانات: البيانات الأمنية (السجلات، عناوين IP، معلومات المستخدم، الكود، تفاصيل الأحداث) هي بيانات شخصية ومعلومات استخباراتية حساسة تكشف عن سطح الهجوم الخاص بالمنظمة؛ فهو لا يذهب إلى أي مكان دون حماية. ثانيًا، الأخلاق والشرعية: يُستخدم الذكاء الاصطناعي فقط في الأنظمة المصرح لك باستخدامها، وذلك لأغراض دفاعية وبإذن كتابي؛ يعد الوصول غير المصرح به أو إنشاء أدوات الهجوم أو الاختبار غير المصرح به جريمة. عنوان هذه الوحدة ليس شعارًا، بل هو ترخيص للمهنة: النسخة المطبوعة التي لم يتم التحقق منها هي ادعاء، والاستخدام غير المصرح به هو جريمة.
الخصوصية: لماذا تعد البيانات الأمنية حساسة للغاية؟
تعتبر بيانات الأمان حساسة في ثلاث طبقات:
- طبقة البيانات الشخصية: أسماء المستخدمين، ورسائل البريد الإلكتروني، وعناوين IP (التي يمكن اعتبارها بيانات شخصية في KVKK)، وسجلات الوصول. إنه محمي بموجب KVKK وGDPR.
- طبقة ذكاء الشركة: طوبولوجيا الشبكة الداخلية، وأسماء الخوادم، ونظام التسمية، والنظام الموجود. وهذا يعطي المهاجم خريطة للمنظمة.
- طبقة الضعف: ما هي نقاط الضعف المفتوحة، وما هو النظام المعرض للخطر. هذه قائمة بالأهداف التي سيستهدفها المهاجم في حالة تسرب المعلومات.
يؤدي لصق حدث يحتوي على السجل الأولي وعنوان IP الحقيقي وأسماء الخادم الداخلي في أداة الذكاء الاصطناعي العامة إلى كشف الطبقات الثلاث. القاعدة: إخفاء الهوية أولاً، ثم عدم الكشف عنها على الإطلاق إن أمكن. استبدال القيم الفعلية بعناصر نائبة متسقة (USER_A، IC_IP_1، HOST_1)؛ إذا كان ذلك ممكنًا، استخدم أدوات الشركة التي تتضمن عقدًا لمعالجة البيانات، ولا تستخدم بياناتك في التدريب النموذجي، ويفضل العمل داخل الشركة. في بعض الحالات (مثل تحقيقات الطب الشرعي الجارية، والبيانات السرية للغاية) لا يتم استخدام أي أدوات خارجية.
الأخلاق والشرعية: خط الدفاع/الهجوم
يمكن استخدام نفس الدراية دفاعيًا وهجوميًا؛ السلطة والنية تحدد الفرق. يعد العثور على ثغرة أمنية في نظامك وإغلاقها بمثابة دفاع؛ يعد البحث في نظام شخص آخر دون إذن وصولاً غير مصرح به. يعد تحليل رسالة البريد الإلكتروني التصيدية وسيلة دفاعية؛ تعتبر كتابة بيان تصيد مقنع بمثابة هجوم. يعتبر فحص السجل والكشف عن الهجوم بمثابة دفاع؛ يعد جمع البيانات لتتبع شخص ما أمرًا مضايقًا وغير قانوني.
والجدول التالي يوضح هذا السطر:
عمل
الدفاع (شرعي)
الهجوم/الحظر
العثور على ثغرة أمنية
في النظام الخاص، بإذن، لإغلاقه
في شخص آخر، دون إذن
اختبار الاختراق
بنطاق وإذن كتابي
اختبار غير مصرح به = الهجوم
التصيد
تحليل، كشف
إنتاج وإرسال
البرمجيات الخبيثة
التحليل (بمعزل)
اكتب وانشر
جمع البيانات
للحدث، شامل، مسجل
للمشاهدة والتجسس على الشخص
الوصول
داخل السلطة
غير مصرح به = جريمة
ترفض أدوات الذكاء الاصطناعي الحديثة بالفعل طلبات مثل "اكتب لي برنامج فدية فعال" أو "كيف يمكنني التسلل إلى هذا الموقع"؛ لكن المسؤولية لا تكمن في فلتر السيارة، بل في أخلاقيات المهنة. الاستخدام غير المصرح به غير مشروع إذا كانت السيارة تسمح بذلك.
التحقق: الركن الفني للأخلاق
إن التحقق ليس مجرد خطوة نوعية، بل هو ضرورة أخلاقية. إن كتابة ادعاء غير مثبت في تقرير قد يعني اتهام شخص ما ظلما أو مقاطعة العمل بقرار خاطئ. دعونا نكرر نظام التحقق الذي رأيناه خلال هذه الوحدة كمبدأ أخلاقي هنا: لا تتحول أي نتيجة أو IOC أو CVE أو إسناد أو جملة تقرير صادرة عن الذكاء الاصطناعي إلى إجراء أو وثيقة رسمية دون تأكيدها بأدلة أولية ومصدر رسمي.
ثلاث حالات صغيرة
الحالة 1 - إخفاء الهوية بشكل صحيح. يريد أحد المحللين تحليل حادثة خطيرة باستخدام الذكاء الاصطناعي. يقوم أولاً باستبدال جميع عناوين IP الحقيقية وأسماء المستخدمين وأسماء الخوادم الداخلية بعناصر نائبة متسقة، ويستخدم أداة عقد معالجة بيانات الشركة، ويشارك النمط فقط. التحليل أسرع، ولا يتم تسريب أي بيانات حساسة. هذه هي الطريقة الصحيحة: لا يجب أن تكون السرعة والخصوصية متعارضتين.
الحالة الثانية - "الصدقة" غير المصرح بها. أحد الخبراء "يتساءل عما إذا كانت شركة أحد الأصدقاء آمنة" ويسأل الذكاء الاصطناعي عن كيفية اختبار نظام تلك الشركة. في حين أن هذا قد يبدو حسن النية، إلا أنه محاولة للوصول غير المصرح به: اختبار نظام شخص آخر دون إذن كتابي ونطاق محدد يعد جريمة. الطريقة الصحيحة: لا يوجد اختبار على الإطلاق؛ وتوجيهها إلى فريق الأمن الخاص بالشركة أو خدمة اختبار الاختراق المعتمدة. حسن النية ليس بديلا عن السلطة.
الحالة 3 – التحول إلى المراقبة. يريد أحد المديرين استخدام الذكاء الاصطناعي لتكوين ملف تعريف لجميع أنشطة الموظف من سجلات الأمان لفهم ما إذا كان هذا الشخص "مخلصًا" أم لا. وهذا يتجاوز غرض الأمن إلى المراقبة الشخصية؛ كلاهما ينتهك KVKK ويتجاوز حد الاستخدام الشرعي لبيانات الأمان. يرفض متخصص الأمن ذلك ويوجه الطلب إلى القناة المناسبة (الموارد البشرية، القانونية، إطار التحقيق المحدد). الدرس: يتم جمع البيانات الأمنية للأمان؛ إنها ليست أداة مراقبة شخصية.
موجه ضعيف / موجه قوي
حث ضعيف:
قم بتحليل جميع أنشطة أحمد يلماز (14.2.10.7) في الأشهر الثلاثة الماضية، وما إذا كان يفعل أي شيء مريب، وقم بإنشاء ملف تعريف شخصي.
يستهدف هذا الطلب شخصًا حقيقيًا، ويقدم بيانات شخصية بدون قناع، ويتجاوز الأغراض الأمنية وينزلق إلى المراقبة، ويطلب مخرجات غير مشروعة مثل "ملف تعريف الشخصية". إنه انتهاك لـ KVKK وانتهاك أخلاقي.
مطالبة قوية:
دورك: المساعد الذي يقوم بصياغة التحليل الأمني للمحلل. العمل مع البيانات مجهولة المصدر ضمن نطاق التحقيق في حادث محدد. المهمة:هل هناك حالة شاذة في نمط وصول USER_A في نافذة الحدث المحددة (03:00-04:00) المتوافقة مع فرضية تسرب البيانات؟ لا تعلق على الشخصية/الولاء؛ فقط قم بتقييم النمط الفني من خلال خط الأدلة. لا تختار الخروج. البيانات: [مجهول، النافذة ذات الصلة فقط]
الطلب القوي يكون مجهول المصدر، ويقتصر على نطاق محدد من التحقيق، ولا يتطلب تفسيرًا شخصيًا، ويعمل فقط مع البيانات ذات الصلة والنمط الفني.
قوالب سريعة قابلة للنسخ
نموذج تدقيق إخفاء الهوية تحقق من البيانات التالية قبل إعطائها إلى أداة ذكاء اصطناعي خارجية: هل هناك أي عنوان IP حقيقي، واسم مستخدم، وبريد إلكتروني، واسم المضيف/الخادم الداخلي، واسم المجال، ومعلومات الشركة، والبيانات الشخصية المتبقية فيه؟ قم بإدراجها جميعًا واقتراح عناصر نائبة متسقة. تحذير إذا كان هناك أي شيء مشبوه. البيانات: [لصق]
نموذج التحقق من النطاق والسلطة تحقق من المهمة الأمنية التي سأقوم بها: هل هي ضمن حدود النظام التي تم التصريح لي بها، هل هي ضمن نطاق غرض/تحقيق محدد، هل تتحول إلى المراقبة الشخصية، هل تتطلب إذنًا كتابيًا؟ إذا كان هناك علم أحمر، قم بالتحذير واقترح بديلاً مشروعًا. المهمة: [كتابة]
نموذج تذكير الحدود الأخلاقية قم بتقييم الطلب: هل هو دفاعي ومصرح به، أم أنه يقع ضمن حدود الوصول/الهجوم/المراقبة غير المصرح به؟ إذا كان مشروعًا، فاكتب كيفية القيام بذلك بأمان، وإذا لم يكن كذلك، فلماذا لا يجب القيام به والقناة الصحيحة.الطلب: [كتابة]
نموذج متطلبات التحقق لكل نتيجة، وIOC، وCVE، والإسناد، وجملة التقرير التي تنتجها، أضف ملاحظة "بأي دليل أولي/مصدر رسمي يجب التحقق منه". افترض أنه لن يصبح إجراءً أو مستندًا رسميًا حتى يتم التحقق منه. المهمة: [كتابة]
الأخطاء الشائعة
- تجاوز إخفاء الهوية. من الخطأ أن نقول "الاستخدام الداخلي على أي حال"؛ يعتبر أي عنوان IP/مستخدم/مضيف فعلي لأداة الذكاء الاصطناعي الخارجية بمثابة تسرب.
- الخلط بين النوايا الحسنة والسلطة. "أردت المساعدة" لا يبرر الوصول غير المصرح به؛ مطلوب إذن كتابي ونطاق محدد.
- تحويل البيانات الأمنية إلى مراقبة. يتم جمع السجلات لأغراض أمنية؛ يعد تصنيف/مراقبة شخص ما انتهاكًا لـ KVKK وسوء الاستخدام.
- ظاناً أن رخصة المركبة شرعية. لمجرد أن الذكاء الاصطناعي لا يرفض شيئًا ما، فإن هذا الإجراء ليس قانونيًا/أخلاقيًا؛ المسؤولية تقع عليك.
- التفكير في التحقق باعتباره ترفًا. فالادعاء بدون دليل قد يتهم شخصا ما ظلما أو يتوقف عن العمل؛ التحقق هو التزام أخلاقي.
نصيحة: اطرح ثلاثة أسئلة قبل أي مهمة: "هل أنا مرخص في هذا النظام؟ هل قمت بإخفاء هويتي في هذه البيانات؟ هل هذا الغرض دفاعي أم مراقبة/هجوم؟" إذا لم تتمكن من قول "نعم/دفاع" بوضوح للثلاثة، توقف واستشر أحد الأشخاص ذوي السلطة.
تنبيه: الوصول غير المصرح به، والاختبار غير المصرح به، والقرصنة، والمراقبة الشخصية؛ وحتى لو تم ذلك بنية حسنة فهو جريمة وخارجة عن هذه المهنة. قوة الذكاء الاصطناعي لا تغير هذا الخط، بل تزيد من سرعته فقط إذا تم استخدامه بشكل غير صحيح. الحد ليس تقنيًا، بل قانونيًا وأخلاقيًا.
في ملخص
لقد وضعت هذه الوحدة خطوطًا لا جدال فيها حول الاستخدامات القوية التي تم تعلمها خلال الوحدة. هناك حدودان: السرية (البيانات الأمنية هي بيانات شخصية + ذكاء الشركة + خريطة الضعف؛ لا يتم تقديمها دون إخفاء الهوية، إن أمكن) والأخلاق/الشرعية (يتم استخدام الذكاء الاصطناعي فقط في الأنظمة المصرح بها، لأغراض دفاعية، بإذن كتابي). ما يميز الدفاع عن الهجوم هو السلطة والنية؛ حسن النية لا يحل محل السلطة، كما أن ترخيص السيارة لا يحل محل الشرعية. التحقق ليس الجودة فقط، بل هو التزام أخلاقي يمنع الاتهامات دون أدلة والقرارات الخاطئة. ثلاثة أسئلة قبل كل مهمة: هل أنا مرخص، هل تم إخفاء هويتي، هل الهدف دفاعي؟
مهمة التطبيق
اختر ثلاثًا من المهام التي تعلمتها في الوحدة (مثل تحليل السجل، وتحليل التصيد الاحتيالي، والتحقيق في الحوادث). قم بتطبيق قوالب "التحكم في النطاق والتفويض" و"التحكم في إخفاء الهوية" لكل منها: هل أنت مرخص، وكيف ستجعل البيانات مجهولة المصدر، وهل الغرض دفاعي على الحدود؟ ثم اكتب نموذج طلب يتجاوز الحد (غير مصرح به/مراقبة) وقم بتوثيق سبب رفضه وما هي القناة الصحيحة باستخدام قالب "تذكير الحد الأخلاقي".
قائمة مرجعية
- [ ] في كل دور، عملت فقط على الأنظمة المصرح لي بها.
- [ ] لقد قمت بإخفاء هوية البيانات ونهبها قبل إعطائها إلى الأداة الخارجية.
- [ ] أكدت أن الهدف هو الدفاع وليس المراقبة/الهجوم.
- [ ] لم أستبدل حسن النية بالسلطة، أو إذن المركبة بالمشروعية.
- [ ] لقد رفضت طلبات التصنيف/التتبع الشخصية وقمت بتوجيهها إلى القناة الصحيحة.
- [ ] لم أقم بتحويل كل نتيجة/IOC/CVE/استشهاد/ادعاء إلى إجراء دون التحقق منها.
- [ ] عندما كنت في شك، قمت باستشارة أحد الأشخاص في السلطة (قانوني، إداري، مراقب بيانات).