المكاسب:
- تقييم ما إذا كان استخدام الذكاء الاصطناعي يتطلب حماية البيانات (DPIA).
- تطبيق عملية DPIA المكونة من سبع خطوات على مشروع الذكاء الاصطناعي
- تحديد أولويات المخاطر باستخدام مصفوفة التأثير الاحتمالي وإجراءات تخفيف التصميم
تشكل بعض استخدامات الذكاء الاصطناعي مخاطر جسيمة على الأفراد: المراقبة واسعة النطاق، ومعالجة البيانات الحساسة، والقرارات الآلية. في مثل هذه المشاريع، يتوقع كل من KVKK/GDPR وقانون الاتحاد الأوروبي للذكاء الاصطناعي إجراء تقييم منظم للمخاطر قبل بدء العمل. اسم هذا التقييم هو تقييم تأثير حماية البيانات (DPIA). في هذه الوحدة، سنتعلم كيفية معرفة ما إذا كان الاستخدام يتطلب حماية حماية البيانات (DPIA)، وكيفية تطبيق عملية حماية حماية البيانات (DPIA) المكونة من سبع خطوات على مشروع الذكاء الاصطناعي، وكيفية تحديد أولويات المخاطر باستخدام مصفوفة التأثير الاحتمالي.
ما هو DPIA ومتى يكون مطلوبًا؟
تقييم تأثير حماية البيانات (DPIA) هو تحليل منظم يقيّم مسبقًا مخاطر نشاط المعالجة على حقوق الأفراد وحرياتهم ويحدد التدابير التخفيفية. النقطة الحرجة: يتم إجراء حماية حماية البيانات (DPIA) في مرحلة التصميم، قبل بدء المعالجة - وليس بعد حدوث المشكلة.
عادة ما تكون DPIA مطلوبة عندما:
- استخدام التكنولوجيا الجديدة (غالبًا ما يتم تضمين الذكاء الاصطناعي).
- معالجة واسعة النطاق للبيانات الشخصية.
- المراقبة المنهجية أو التنميط.
- معالجة البيانات الخاصة.
- القرارات الآلية التي تؤثر بشكل كبير على الناس.
نصيحة: إذا لم تكن متأكدًا، فقم بإجراء "فحص": في حالة وجود اثنين أو أكثر من العناصر الخمسة المذكورة أعلاه، قم بإجراء DPIA افتراضيًا. تكلفة القيام بـ DPIA منخفضة؛ تكلفة عدم القيام بذلك مرتفعة جدًا في انتهاك واحد.
عملية DPIA المكونة من سبع خطوات
يمكنك تطبيق DPIA على مشروع الذكاء الاصطناعي في هذه الخطوات السبع:
خطوة
ماذا تفعل؟
1. الوصف
وصف المعالجة: ما هي البيانات والغرض والنطاق والتدفق
2. الضرورة والتناسب
هل الذكاء الاصطناعي ضروري حقًا؟ هل هناك طريقة أقل تدخلا؟
3. رأي أصحاب المصلحة
الحصول على رأي الأشخاص/الممثلين المعنيين
4. تحديد المخاطر
قائمة الأضرار المحتملة للأفراد
5. تقييم المخاطر
سجل كل خطر حسب الاحتمالية والتأثير
6. تدابير التخفيف
تصميم الاحتياطات اللازمة لكل خطر، وتحديد المخاطر المتبقية
7. الموافقة والمراجعة
توثيق النتيجة وتقديمها للاعتماد وتحديثها بشكل دوري
تحديد أولويات المخاطر: مصفوفة التأثير الاحتمالي
تقوم بتقييم كل خطر في بعدين: احتمالية حدوثه والأثر في حالة حدوثه. والجمع بين الاثنين يعطي الأولوية.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>تأثير منخفض
تأثير متوسط
تأثير عالي
احتمال كبير
متوسطة
عالية
حرجة
احتمال متوسط
منخفض
متوسطة
عالية
احتمال منخفض
منخفض
منخفض
متوسطة
المخاطر الحرجة والعالية هي المخاطر التي لا ينبغي استمرار المشروع دون اتخاذ الاحتياطات اللازمة. الهدف ليس القضاء على كل المخاطر؛ هو تقليل كل خطر إلى مستوى مقبول وقبول المخاطر المتبقية (المتبقية) بوعي.
ثلاث حالات صغيرة
الحالة 1 - تم حذف قانون حماية البيانات (DPIA). تطبق سلسلة البيع بالتجزئة نظامًا يتتبع سلوك العملاء في المتجر باستخدام الذكاء الاصطناعي، بدون حماية البيانات (DPIA). وبعد أشهر، كشفت شكوى أن النظام توصل إلى استنتاجات محددة (الصحة، التنبؤ بالحمل). لا توجد إجابة على السؤال "لماذا لم تقم بإجراء DPIA" في التدقيق. كان من الممكن أن يكون قانون حماية البيئة من البداية قد اكتشف هذا الخطر في مرحلة التصميم وجعل المشروع آمنًا.
الحالة 2 - تم إنقاذ المشروع بواسطة DPIA. يتم إجراء DPIA لدعم التوظيف AI في أحد البنوك. أثناء مرحلة تحديد المخاطر، تبين أن خطر التحيز الجنسي بسبب البيانات التاريخية "مرتفع". وللتخفيف من حدة المشكلة، يقوم الفريق بإزالة المعلومات المتعلقة بالجنس من النموذج، وينسب النتائج إلى اختبار التحيز المنتظم، ويتطلب التحقق البشري. الآن ينخفض الخطر إلى "معتدل" ويصبح المشروع مقبولا. DPIA تجعل المشروع آمنًا بدلاً من قتله.
الحالة 3 - اختبار التناسب. تريد إحدى الشركات فحص رسائل البريد الإلكتروني للموظفين من أجل "تحليل الولاء" باستخدام الذكاء الاصطناعي. في خطوة الضرورة/التناسب في قانون حماية البيانات، وجد أن هذا تدخلي بشكل مفرط بالنسبة للغرض؛ هناك بدائل أقل تدخلا. عدم الموافقة على المشروع بشكله الحالي. ويميز اختبار التناسب بين "نستطيع" و"يجب علينا".
تنبيه: DPIA ليس نموذجًا يتم ملؤه مرة واحدة ويتم وضعه جانبًا. عند معالجة التغييرات (بيانات جديدة، غرض جديد، أداة جديدة) يجب تحديث DPIA. إن تقييم تأثير حماية البيانات (DPIA) الميت أكثر تضليلًا من عدم وجود تأثير حماية البيانات (DPIA) على الإطلاق لأنه يعطي ثقة زائفة.
من يقوم بعلاقة DPIA وتسجيل المخاطر مع DPIA
لا يمكن لشخص واحد ملء طلب حماية البيانات الشخصية على مكتبه؛ تصحيح DPIA هو جهد جماعي. عادةً، ينفذ مسؤول حماية البيانات العملية (الفاعل)، ويكون مدير الامتثال هو المسؤول النهائي (المسؤول)، وتصف وحدة الأعمال ذات الصلة المعالجة، وتقيم التدابير الفنية لتكنولوجيا المعلومات/الأمن وتؤكد الأساس القانوني. لا ينبغي إهمال الحصول على آراء الأشخاص المعنيين (الخطوة الثالثة)؛ ومع ذلك، فهذه هي الخطوة الأكثر تخطيًا في الممارسة العملية.
إن نتائج تقييم حماية البيانات الشخصية لا تأتي من فراغ: حيث يتم تسجيل المخاطر المحددة في سجل المخاطر الخاص بالمنظمة. سجل المخاطر عبارة عن رسم بياني مباشر يلتقط جميع المخاطر المفتوحة وأولوياتها وعمليات التخفيف منها والأسباب المتسببة فيها وتواريخ المراجعة الأخيرة. بهذه الطريقة، تتحدث مخاطر مشروع الذكاء الاصطناعي بنفس لغة إدارة المخاطر الشاملة للمؤسسة ويتم مراقبتها بانتظام.
منطقة تسجيل المخاطر
مثال
تعريف المخاطر
التحيز الجنسي في التوظيف الذكاء الاصطناعي
الأولوية
عالية
تدابير التخفيف
استخراج المتغير البديل + اختبار التحيز
مسؤول
مسؤول حماية البيانات
مراجعة
كل 3 أشهر
نصيحة: تعامل مع حماية حماية البيانات (DPIA) بعقلية "سجل المخاطر وتتبعها"، وليس بأسلوب "القيام به والنسيان". هل تم تنفيذ تخفيف المخاطر، وهل كانت المخاطر المتبقية عند مستوى مقبول - بدون تتبع سجلات هذه المخاطر، يصبح قانون حماية البيانات بمثابة وثيقة نافذة.
قوالب قابلة للنسخ
النموذج 1 — الفحص المسبق لـ DPIA: "هل DPIA مطلوب لاستخدام الذكاء الاصطناعي هذا؟ [وصف الاستخدام]. قم بالتقييم مقابل خمسة محفزات: التكنولوجيا الجديدة، والمعالجة واسعة النطاق، والمراقبة المنهجية، والبيانات الحساسة، واتخاذ القرارات الآلية الهامة. كم عدد المشغلات الموجودة، هل توصي بـ DPIA، مع وجود مبرر."
النموذج 2 - العصف الذهني لتحديد المخاطر: "قم بإدراج الأضرار المحتملة للأشخاص في مشروع الذكاء الاصطناعي هذا [وصف المشروع]: تسرب البيانات، والتمييز، وسوء التقدير، وانتهاك الخصوصية، وانعدام الشفافية، وانحراف الهدف. اكتب سيناريو من جملة واحدة لكل ضرر. اكتشف فقط، ولكن لا تتصدى له."
النموذج 3 - تسجيل احتمالية التأثير: "سجل المخاطر التالية [أدرج المخاطر] كاحتمالية (منخفضة/متوسطة/عالية) والتأثير (منخفض/متوسط/مرتفع)؛ وتظهر الأولوية (منخفضة/متوسطة/عالية/حرجة) في كل صف. أدرج الحرجة والمرتفعة في الأعلى. حاضر في تنسيق الجدول."
النموذج 4 - تصميم التخفيف: "بالنسبة للمخاطر التالية [اكتب الخطر]، اقترح 3 تدابير تخفيف على الأقل (تقنية، عملية، تنظيمية). قم بتقدير مستوى "المخاطر المتبقية" بعد كل إجراء. إذا كان الخطر لا يزال مرتفعًا بعد الإجراء، قم بالإشارة إلى أنه يجب إعادة تصميم المشروع."
موجه ضعيف / موجه قوي
ضعيف: "هل مشروع الذكاء الاصطناعي هذا محفوف بالمخاطر؟" -> النموذج يعطي إجابة غامضة "ربما"؛ لا يصنف المخاطر، ولا يرتب أولويات المخاطر، ولا ينتج عنه تدابير. قوي: "قم بإجراء تقييم مصغر لحماية سلامة البيانات لمشروع الذكاء الاصطناعي التالي: (1) وصف المعالجة، (2) تقييم الحاجة إلى حماية حماية البيانات من خلال 5 مشغلات، (3) إدراج 6 أضرار محتملة للأشخاص، (4) تسجيل كل منها حسب احتمالية التأثير، (5) التوصية بالتخفيف من المخاطر الحرجة/العالية. اتخاذ قرار قانوني نهائي؛ إنتاج مسودة ستنتقل إلى الموافقة القانونية."-> يُنتج النموذج مسودة لقانون حماية البيانات (DPIA) المنظم والقابل للتنفيذ.
الأخطاء الشائعة
- إجراء DPIA بعد بدء المعاملة (أو حتى بعد حدوث المشكلة).
- تخطي المعالجة عالية المخاطر التي تتطلب حماية حماية البيانات (DPIA) باعتبارها "ليست مشكلة كبيرة".
- عدم حصر المخاطر وترتيبها حسب الاحتمالية والأثر.
- اعتبار DPIA "كاملاً" دون إنتاج تدابير لكل خطر.
- تخطي خطوة الضرورة/التناسب والقول "يمكننا أن نفعل ذلك، لذلك دعونا نفعل ذلك".
- تعبئة بيانات DPIA مرة واحدة وعدم تحديثها عند تغيير العملية.
- الموافقة على المشروع دون توثيق المخاطر المتبقية (المتبقية) بشكل واضح.
باختصار
- DPIA هو تحليل منظم يقيم تأثير المعالجة عالية المخاطر على الأفراد قبل البدء بها.
- تكون حماية حماية البيانات (DPIA) مطلوبة إذا كانت هناك تقنية جديدة، أو معالجة واسعة النطاق، أو مراقبة منهجية، أو بيانات حساسة، أو اتخاذ قرارات آلية مهمة.
- تتكون العملية من سبع خطوات: التحديد، الضرورة/التناسب، رأي أصحاب المصلحة، تحديد المخاطر، التقييم، الإجراء، الموافقة/المراجعة.
- يتم تحديد أولويات المخاطر باستخدام مصفوفة التأثير الاحتمالي؛ لا يتم قبول المخاطر الحرجة/العالية دون اتخاذ الاحتياطات اللازمة.
- لا تقضي حماية حماية البيانات على المشروع، بل تجعله آمنًا؛ إنها وثيقة حية يجب تحديثها مع معالجة التغييرات.
مهمة التطبيق
اختر استخدامًا للذكاء الاصطناعي الذي قد تستخدمه مؤسستك والذي قد يكون عالي المخاطر (على سبيل المثال، تجنيد الدعم، أو التتبع السلوكي، أو التصنيف الائتماني). فكر أولاً في ما إذا كانت DPIA ضرورية مع خمسة مشغلات. ثم قم بإجراء تقييم مصغر لحماية البيانات الخاصة بهذا الاستخدام: قم بوصف المعالجة، وقم بإدراج ما لا يقل عن ستة أضرار محتملة للأفراد، وسجل كل منها في مصفوفة احتمالية التأثير، وقم بتعيين الأولوية. صمم ثلاثة تدابير تخفيف لاثنين من المخاطر الحرجة والعالية، وقم بتقدير مستوى المخاطر المتبقية بعد الإجراء. أخيرًا، لاحظ متى يجب تحديث حماية حماية البيانات (DPIA) هذه.
قائمة مرجعية
- [ ] لقد قمت بتقييم متطلبات حماية حماية البيانات (DPIA) من خلال خمسة مشغلات.
- [ ] قمت بتعريف المعالجة (البيانات، الغرض، النطاق، التدفق).
- [ ] شككت في الضرورة والتناسب.
- [ ] لقد قمت بإدراج الأضرار المحتملة للأفراد.
- [ ] لقد أعطيت الأولوية للمخاطر في مصفوفة التأثير الاحتمالي.
- [ ] لقد صممت تدابير تخفيف للمخاطر الحرجة/العالية.
- [ ] لقد قمت الآن بتوثيق المخاطر ووضع شروط المراجعة.