المكاسب:
- فهم المنطق القائم على المخاطر لقانون الذكاء الاصطناعي للاتحاد الأوروبي (غير مقبول، مرتفع، محدود، الحد الأدنى) والتزامات الأنظمة عالية المخاطر
- القدرة على اكتشاف معالجة البيانات الشخصية وتحديد الأغراض والإفصاح ومخاطر النقل الدولي من حيث KVKK في استخدام الذكاء الاصطناعي
- القدرة على التقييم المسبق لمخرجات الذكاء الاصطناعي دون اعتبارها مشورة قانونية نهائية وإدراج البيانات الشخصية والدعم القانوني في المبادرات عالية المخاطر.
تصف الأخلاق "ما هو صحيح"؛ من ناحية أخرى، يصف الامتثال ما "يتطلبه القانون" والذي يؤدي انتهاكه إلى فرض عقوبات ودعاوى قضائية وفقدان السمعة. بالنسبة لأحد كبار المسؤولين التنفيذيين، يعد الامتثال مسألة مسؤولية قانونية شخصية؛ "لم أكن أعرف" ليس دفاعا. في هذه الوحدة، سنناقش اللائحتين الأكثر أهمية للذكاء الاصطناعي: قانون الاتحاد الأوروبي للذكاء الاصطناعي (قانون الاتحاد الأوروبي للذكاء الاصطناعي؛ القانون الشامل للاتحاد الأوروبي الذي ينظم الذكاء الاصطناعي وفقًا لمستوى المخاطر) وKVKK (قانون حماية البيانات الشخصية؛ قانون حماية البيانات الشخصية في تركيا مشابه للائحة العامة لحماية البيانات في أوروبا). الهدف ليس أن تصبح محامياً؛ معرفة متى تتوقف والحصول على الدعم القانوني وتجنب المخاطر العمياء.
الأساس المنطقي لقانون الذكاء الاصطناعي للاتحاد الأوروبي: قائم على المخاطر
يقسم قانون الذكاء الاصطناعي للاتحاد الأوروبي أنظمة الذكاء الاصطناعي إلى أربع فئات وفقًا لمستوى المخاطر ويفرض التزامات مختلفة على كل فئة. على الرغم من أنه لا يتم تنفيذه بشكل مباشر في تركيا؛ فهو يُلزم المؤسسات التي تبيع المنتجات/الخدمات إلى الاتحاد الأوروبي، أو التي لديها عملاء من الاتحاد الأوروبي أو تقوم بمعالجة بيانات مستخدمي الاتحاد الأوروبي، وقد أصبح معيارًا عالميًا.
مستوى المخاطر
مثال
المسؤولية
غير مقبول
التهديف الاجتماعي، والأنظمة التلاعبية
ممنوع
مخاطر عالية
التوظيف والائتمان والرعاية الصحية والبنية التحتية الحيوية
صارمة: إدارة المخاطر، جودة البيانات، الرقابة البشرية، التسجيل، الشفافية
مخاطر محدودة
Chatbot، محتوى إنتاجي
الشفافية: إشعار المستخدم بأنه ذكاء اصطناعي
الحد الأدنى من المخاطر
تصفية البريد العشوائي، لعبة
ممارسة جيدة طوعية ومجانية
مصطلح مهم: النظام عالي المخاطر هو أحد تطبيقات الذكاء الاصطناعي الذي يمكن أن يؤثر بشكل مباشر على الحقوق الأساسية للأشخاص أو سلامتهم أو فرصهم في الحياة (الوظائف، الائتمان، التعليم، الصحة). قانون هذه الأنظمة هو؛ وينص على تقييم المخاطر، والجودة والبيانات غير المتحيزة، والرقابة البشرية، والوثائق الفنية، وحفظ السجلات والشفافية.
نصيحة: عند تقييم مبادرة الذكاء الاصطناعي، اسأل نفسك: "هل هذا النظام مشارك في قرار يؤثر على وظيفة الشخص أو ماله أو صحته أو حريته؟" إذا كانت الإجابة بنعم، فمن المحتمل أن يكون الأمر عالي الخطورة ويتطلب عناية خاصة مع الدعم القانوني.
الالتزامات الأساسية لـ KVKK
تنظم KVKK معالجة البيانات الشخصية (أي معلومات تجعل الشخص محددًا أو قابلاً للتعريف: الاسم، ومعرف TR، والبريد الإلكتروني، والموقع، وحتى البيانات السلوكية). النقاط الحاسمة فيما يتعلق بالذكاء الاصطناعي:
- الأساس القانوني: يلزم وجود سبب وجيه (موافقة صريحة، أو عقد، أو مصلحة مشروعة، وما إلى ذلك) لمعالجة البيانات الشخصية.
- قيود الغرض: لا يمكن استخدام البيانات لأغراض أخرى غير الغرض الذي تم جمعها من أجله. قد يتطلب إدخال البيانات التي تم جمعها لغرض ما في تدريب الذكاء الاصطناعي دعمًا إضافيًا.
- تقليل البيانات: تتم معالجة أكبر قدر ممكن من البيانات فقط.
- الإفصاح: يجب إعلام الشخص المعني بكيفية معالجة بياناته.
- النقل: يخضع نقل البيانات إلى الخارج (على سبيل المثال، إلى مزود ذكاء اصطناعي خارجي) لقواعد خاصة.
- القرار التلقائي: يجب احترام الحق في الاعتراض على القرارات التلقائية الكاملة التي تؤثر على الشخص.
غالبًا ما يكون لصق بيانات العملاء في أداة الذكاء الاصطناعي بمثابة "نقل البيانات إلى الخارج" و"المعالجة غير المقصودة"؛ هذا هو انتهاك الامتثال الأكثر شيوعًا والأخطر.
خطوة بخطوة: التحقق من الملاءمة
1. تحديد مستوى المخاطرة. ما هو النظام ذو المخاطر غير المقبولة/المرتفعة/المحدودة/الحد الأدنى؟
2. تحقق مما إذا كانت هناك بيانات شخصية. ما هي البيانات الشخصية التي تذهب إلى أين وعلى أي أساس؟
3. تطابق الالتزامات. قم بإدراج المتطلبات القانونية بناءً على مستوى المخاطر وحالة البيانات.
4. احصل على الدعم القانوني. إشراك القانون في كل مبادرة ذات خطورة عالية أو تتضمن بيانات شخصية.
5. التوثيق والمراقبة. تسجيل قرارات الامتثال والإفصاحات وعمليات التفتيش.
ثلاث حالات صغيرة
الحالة 1 - النقل الصامت إلى الخارج. أرسل أحد بائعي التجزئة بيانات إلى أداة ذكاء اصطناعي موجودة في الخارج لتحليل شكاوى العملاء. ولم يتناول نص التوضيح ذلك، ولم يكن هناك أساس للنقل. حدث انتهاك فيما يتعلق بـ KVKK؛ كان هناك خطر فرض غرامات إدارية أثناء التدقيق. تحولت المؤسسة إلى حل يقوم بمعالجة البيانات محليًا وتحديث الإضاءة.
الحالة 2 - صرامة النظام عالي المخاطر. كانت إحدى شركات تكنولوجيا الموارد البشرية تبيع برامج توظيف لشركة AB. وقد اعتبر هذا الأمر "شديد الخطورة" في قانون الذكاء الاصطناعي للاتحاد الأوروبي. دخلت الشركة السوق بسلاسة لأنها قامت بإعداد إدارة المخاطر وأدلة جودة البيانات والرقابة البشرية والتوثيق مسبقًا. تأخر وصول منافس غير مستعد لأنه لم يتمكن من الوفاء بنفس الالتزامات. تحول الانسجام إلى ميزة تنافسية.
الحالة 3 - قوة الإضاءة. قامت إحدى شركات التأمين بتوعية العملاء بشكل واضح عند التسعير باستخدام الذكاء الاصطناعي وفتحت الطريق أمام الاعتراضات على القرارات الآلية بالكامل. اعترض أحد العملاء، وتمت المراجعة البشرية، وتم تصحيح خطأ في البيانات. فالشفافية والاستئناف لم تلبيا المتطلبات القانونية فحسب، بل وقعتا أيضا في خطأ حقيقي.
أربعة قوالب قابلة للنسخ
1) الرقابة الأولية لتصنيف المخاطر:
دورك: مستشار امتثال الذكاء الاصطناعي (تقييم أولي، وليس مشورة قانونية). قم بتصنيف النظام التالي وفقًا لمستويات مخاطر قانون الذكاء الاصطناعي للاتحاد الأوروبي: غير مقبول، مرتفع، محدود، الحد الأدنى. اكتب مبرراتك وما هي الالتزامات الرئيسية التي ستنشأ؛ اذكر أن الدعم القانوني مطلوب لاتخاذ القرار النهائي. النظام: [النص]
2) خريطة تدفق البيانات الشخصية:
في هذا الاستخدام للذكاء الاصطناعي، يمكنك رسم خريطة للبيانات الشخصية التي تتم معالجتها، ولأي غرض يتم جمعها، وأين يتم نقلها (خاصة في الخارج). حدد النقاط الخطرة فيما يتعلق بـ KVKK وحدد المشكلات التي تتطلب الدعم القانوني. الاستخدام: [النص]
3) التحكم في الإضاءة والاعتراضات:
تحقق من توضيح KVKK ومتطلبات الاعتراض التلقائي على القرار للذكاء الاصطناعي الذي يواجه العميل: ما الذي يجب إبلاغ المستخدم به، وكيف يجب معالجة الاعتراض؟ قائمة أوجه القصور. الاستخدام: [النص]
4) قائمة التحقق من جاهزية الامتثال:
قم بإعداد قائمة مرجعية للامتثال لقانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي لمبادرة الذكاء الاصطناعي عالية المخاطر التالية: إدارة المخاطر، وجودة البيانات، والرقابة البشرية، والتوثيق، والتسجيل، والشفافية. اكتب سؤالاً لكل عنصر يمكنني تقييمه على أنه "جاهز/غير مكتمل". المبادرة: [النص]
موجه ضعيف / موجه قوي
ضعيف: "هل هذا الذكاء الاصطناعي قانوني؟"
النتيجة: رد سطحي وغير موثوق؛ ولا تستطيع منظمة العفو الدولية، ولا ينبغي لها، أن تقدم مشورة قانونية نهائية.
غوتشلو: "أقوم بتقييم أداة فحص مسبق للتوظيف يتم بيعها للعملاء في الاتحاد الأوروبي. قم بتصنيفها مسبقًا وفقًا لمستويات مخاطر قانون الذكاء الاصطناعي للاتحاد الأوروبي وقم بإدراج الالتزامات (إدارة المخاطر وجودة البيانات والرقابة البشرية والوثائق) التي ستنشأ إذا تم اعتبارها عالية المخاطر على الأرجح. أيضًا، فيما يتعلق بـ KVKK، اطرح الأسئلة التي أحتاج إلى طرحها حول بيانات المرشحين التي تتم معالجتها وكيف. اذكر أن هذا تقييم أولي، والقانون مطلوب لاتخاذ القرار النهائي."
النتيجة: تقييم أولي منظم وإعداد للحصول على الدعم القانوني؛ ليست عبارة "قانونية/غير" عمياء.
الأخطاء الشائعة
- توقع مشورة قانونية نهائية من منظمة العفو الدولية. يقوم الذكاء الاصطناعي بإجراء تقييم أولي؛ القرار القانوني النهائي يعود للمحامي.
- تجاهل نقل البيانات إلى الخارج. غالبًا ما يعد إدخال بيانات العميل في أداة ذكاء اصطناعي خارجية انتهاكًا للامتثال.
- التقليل من شأن النظام عالي المخاطر. تتطلب الأنظمة المشاركة في قرارات الأعمال والائتمان والصحة رعاية خاصة.
- تجاوز الحق في الحصول على المعلومات والاعتراض. تعد الشفافية والاستئناف من المتطلبات القانونية للقرارات الآلية التي تؤثر على الأفراد.
- الاعتقاد بأن الانسجام هو شيء لمرة واحدة. تغير التشريعات والأنظمة؛ ويجب مراقبة الامتثال باستمرار.
تنبيه: المعلومات الواردة في هذه الوحدة للتوعية العامة وليست نصيحة قانونية. كما أن مخرجات الذكاء الاصطناعي ليست مشورة قانونية. في أي مبادرة تعالج البيانات الشخصية أو تكون عالية المخاطر، من الضروري استشارة خبير قانوني مؤهل قبل اتخاذ القرار. تكلفة انتهاكات الامتثال تنمو بشكل كبير في شكل غرامات ودعاوى قضائية وفقدان السمعة.
في ملخص
الالتزام هو الحد الأدنى الذي يقتضيه القانون، ومخالفته يفرض مسؤولية قانونية على المدير. ينظم قانون الذكاء الاصطناعي في الاتحاد الأوروبي الذكاء الاصطناعي وفقًا لمستوى المخاطر (غير مقبول، مرتفع، محدود، الحد الأدنى)؛ تعتبر إدارة المخاطر وجودة البيانات والرقابة البشرية والشفافية ضرورية للأنظمة عالية المخاطر. من ناحية أخرى، تتطلب KVKK أن تتوافق البيانات الشخصية مع الأساس القانوني، والحد من الغرض، والتقليل، والإفصاح، وقواعد النقل الدولية؛ يعد إدخال بيانات العميل في أداة ذكاء اصطناعي خارجية أكثر الاختراقات شيوعًا. لا يستطيع الذكاء الاصطناعي سوى إجراء تقييمات أولية؛ يجب الحصول على دعم الخبراء لاتخاذ قرار قانوني نهائي. في الوحدة التالية، سنناقش هيكل الفريق والكفاءات الذي سينفذ هذه الإستراتيجية بأكملها.
مهمة التطبيق
اختر حالة استخدام الذكاء الاصطناعي. 1. قم بالتصنيف المسبق لمستوى المخاطر الخاص بقانون الذكاء الاصطناعي للاتحاد الأوروبي باستخدام النموذج. 2. قم بتخطيط تدفق البيانات الشخصية باستخدام القالب وتحديد ما إذا كان هناك تحويل دولي. قم بتدوين سؤالي الامتثال الأكثر أهمية اللذين يطرحان، ولاحظ المصدر/الخبير القانوني الذي ستوجههم إليه. عدم إصدار أحكام قانونية نهائية؛ فقط قم بتوضيح الأسئلة.
قائمة مرجعية
- [ ] لقد قمت بتصنيف مستوى خطورة النظام مسبقًا بموجب قانون الذكاء الاصطناعي للاتحاد الأوروبي.
- [ ] إذا كان الأمر عالي المخاطر، فقد قمت بإدراج الالتزامات ذات الصلة.
- [ ] قمت بتحديد البيانات الشخصية التي تمت معالجتها وأساسها.
- [ ] لقد تحققت مما إذا كان هناك نقل للبيانات إلى الخارج.
- [ ] لقد قمت بمراجعة متطلبات المعلومات والحق في الاعتراض.
- [ ] لقد قمت بإعداد أسئلة الامتثال الهامة للحصول على الدعم القانوني.
- [ ] لم أعتبر مخرجات الذكاء الاصطناعي بمثابة نصيحة قانونية نهائية.