المكاسب:
- التعرف على فئات المخاطر الأربع والممارسات المحظورة في قانون الاتحاد الأوروبي للذكاء الاصطناعي
- التقييم المعقول لفئة المخاطر التي يقع فيها الاستخدام
- افهم سبب تأثير التزامات الذكاء الاصطناعي عالية المخاطر والأغراض العامة على الشركات التركية
يعد قانون الاتحاد الأوروبي للذكاء الاصطناعي (EU AI Act)، الذي يدخل حيز التنفيذ في عام 2024، أول تنظيم شامل للذكاء الاصطناعي في العالم ويمتد تأثيره إلى ما هو أبعد من حدود الاتحاد الأوروبي. قد يكون هذا القانون ملزمًا بشكل مباشر لشركة مقرها في تركيا ولكنها تخدم سوق الاتحاد الأوروبي أو لديها عملاء من الاتحاد الأوروبي أو تبيع منتجات إلى الاتحاد الأوروبي. في هذه الوحدة، ستتعلم المنطق الأساسي للقانون - نهجه القائم على المخاطر - بفئاته الأربعة، والممارسات المحظورة والالتزامات عالية المخاطر؛ سنحاول تقييم المربع الذي يقع فيه الاستخدام.
الفكرة الأساسية: كلما زادت المخاطرة، كلما كانت القاعدة أكثر صرامة
لا يجمع قانون الذكاء الاصطناعي للاتحاد الأوروبي كل الذكاء الاصطناعي معًا. ويقسم نظام الذكاء الاصطناعي إلى أربع فئات حسب الضرر المحتمل ويفرض التزامات مختلفة على كل فئة. لا تحمل التوصية الموسيقية نفس المخاطر التي يحملها نظام فحص التوظيف؛ ولا يطبق عليهم القانون نفس القاعدة. وهذا النهج القائم على المخاطر هو العمود الفقري للقانون.
فئة المخاطر
معنى
مثال
القاعدة
محظور (غير مقبول)
تهديد مفتوح للحقوق الأساسية
التهديف الاجتماعي، والتلاعب اللاوعي
الحظر الشامل
مخاطر عالية
يؤثر بشكل خطير على حياة الإنسان
التوظيف والائتمان والرعاية الصحية والتعليم والبنية التحتية الحيوية
مسؤولية صارمة
مخاطر محدودة
يتطلب الشفافية
روبوت الدردشة، والتزييف العميق، ومحتوى الذكاء الاصطناعي
المعلومات إلزامية
الحد الأدنى من المخاطر
خطر ضئيل
مرشح البريد العشوائي، لعبة الذكاء الاصطناعي، محرك التوصيات
مجانا
التطبيقات المحظورة: خط أحمر
تعتبر بعض استخدامات الذكاء الاصطناعي ضارة للغاية بحيث لا يمكن نشرها بغض النظر عن مدى تقليل المخاطر. وهي ضمن الفئة المحظورة (الخطر غير المقبول):
- التسجيل الاجتماعي المدعوم من الدولة (تسجيل الأشخاص وفقًا لسلوكهم / خصائصهم وإضعافهم).
- الأنظمة التي تتلاعب بالعقل الباطن للناس وتسبب لهم الأذى.
- الأنظمة التي تستغل نقاط الضعف مثل العمر والإعاقة.
- بعض تطبيقات تحديد الهوية البيومترية والمراقبة الجماعية في الوقت الفعلي (مع استثناءات محدودة).
- تطبيقات محددة مثل التعرف على المشاعر في مكان العمل والتعليم.
انتبه: حقيقة أن الاستخدام يقع في فئة "ممنوع" لا يشكل عائقًا يمكن التغلب عليه بقول "لدي سبب وجيه". هذه الممارسات محظورة تماماً؛ ولا يمكن إطلاقها حتى مع اتخاذ تدابير للحد من المخاطر. التحقق الأول الذي يجب إجراؤه هو ما إذا كان المشروع مدرجًا في هذه القائمة.
التزامات عالية المخاطر
الأنظمة عالية المخاطر ليست محظورة ولكنها تخضع لشروط صارمة. المجالات النموذجية عالية المخاطر: التوظيف وإدارة الموظفين، والائتمان والتأمين، والتعليم وتقييم الامتحانات، والرعاية الصحية، والبنية التحتية الحيوية، وإنفاذ القانون والهجرة. الالتزامات النموذجية في هذه الأنظمة:
- إنشاء وصيانة نظام إدارة المخاطر.
- جودة البيانات وإدارة التحيز (تمثيلية ودقيقة لبيانات التدريب).
- التوثيق الفني وحفظ السجلات (إمكانية التتبع).
- الشفافية وتوفير المعلومات للمستخدم.
- السيطرة البشرية (قدرة الإنسان على التدخل والتجاوز).
- الدقة والمتانة وضمانات الأمن السيبراني.
التزامات الذكاء الاصطناعي للأغراض العامة (GPAI).
ويفرض القانون التزامات محددة تتعلق بالشفافية والتوثيق على نماذج الذكاء الاصطناعي ذات الأغراض العامة (GPAI) - أي النماذج الأساسية متعددة الأغراض مثل نماذج اللغات الكبيرة - وكذلك على الاستخدامات الفردية: توفير ملخصات عن بيانات التدريب، وسياسة الامتثال لحقوق الطبع والنشر، وتقييم إضافي للنماذج ذات المخاطر النظامية. إذا قامت إحدى المنظمات بتضمين هذه النماذج في منتجها الخاص، فقد تنعكس بعض هذه الالتزامات في السلسلة.
ثلاث حالات صغيرة
الحالة 1 - فحص التوظيف (عالية المخاطر). تقوم شركة برمجيات في إزمير بتطوير منصة توظيف تخدم شركات الاتحاد الأوروبي؛ يقوم النظام تلقائيًا بتسجيل المرشحين وإقصائهم. وهذا مجال يعتبره القانون بوضوح شديد الخطورة. شركة؛ يجب أن تفي بجودة البيانات واختبار التحيز والتدقيق البشري والتزامات التوثيق. إن حجة "نحن في تركيا، لا تلزمنا" باطلة؛ وبما أن النظام يُستخدم في سوق الاتحاد الأوروبي، فإن القانون ينطبق.
الحالة 2 - روبوت الدردشة الخاص بالعميل (مخاطر محدودة). يقوم أحد مواقع التجارة الإلكترونية بنشر روبوت الدردشة لخدمة عملائه في الاتحاد الأوروبي. وهذا ضمن فئة المخاطر المحدودة؛ الالتزام الرئيسي هو الشفافية: يجب إبلاغ المستخدم بوضوح أنك "تتحدث إلى ذكاء اصطناعي". إخفاء ذلك يعد مخالفة؛ يكفي أن تحدد.
الحالة الثالثة - الاقتراب من الخط المحظور. ترغب إحدى سلسلة متاجر البيع بالتجزئة في تحليل ردود أفعال العملاء العاطفية من خلال كاميرات المتجر ومنح درجة "السرقة المحتملة". يقع هذا ضمن المنطقة المحظورة/عالية الخطورة للغاية من حيث أبعاد التعرف على المشاعر والتسجيل. يقوم الفريق القانوني بإيقاف المشروع في مرحلة التصميم؛ ومن الواضح أنه لا يمكن تنفيذه حتى مع اتخاذ تدابير للحد من المخاطر.
نصيحة: السؤال الأول عند بدء مشروع جديد للذكاء الاصطناعي هو "ما مدى فائدة هذا؟" بل بالأحرى "ما هي فئة المخاطر التي يقع فيها هذا؟" ينبغي أن يكون. يؤدي إجراء التصنيف في المقام الأول إلى تجنب إهدار الموارد على مشروع سيتم إلغاؤه لاحقًا.
قوالب قابلة للنسخ
النموذج 1 - التقييم الأولي لفئة المخاطر: "قم بالتقييم المسبق لاستخدام الذكاء الاصطناعي التالي وفقًا لقانون الاتحاد الأوروبي للذكاء الاصطناعي: [وصف الاستخدام]. حدد فئة المخاطر (محظورة / عالية / محدودة / الحد الأدنى) التي قد يقع فيها، مع التبرير. ضع علامة على النقاط التي لست متأكدًا منها على أنها "مطلوب تأكيد قانوني"، ولا تصدر حكمًا قانونيًا نهائيًا."
النموذج 2 - فحص التطبيقات المحظورة: "قم بمسح فكرة المشروع التالية فقط مقابل قائمة "التطبيقات المحظورة بموجب قانون الاتحاد الأوروبي للذكاء الاصطناعي": [وصف المشروع]. هل هناك خطر من حيث التسجيل الاجتماعي، والتلاعب باللاوعي، واستغلال نقاط الضعف، والمراقبة البيومترية غير المصرح بها، والتعرف على المشاعر؟ اكتب نعم/لا والمبرر في كل عنوان."
النموذج 3 - قائمة التحقق من المسؤولية عالية المخاطر: "بالنسبة لهذا الاستخدام عالي الخطورة للذكاء الاصطناعي، ينشئ [وصف الاستخدام] جدولًا "ما هو وضعنا الحالي، وما هو المفقود" عبر ستة عناوين للمسؤولية (إدارة المخاطر، وجودة البيانات، والتوثيق، والشفافية، والتدقيق البشري، والمتانة). اقترح إجراءً ملموسًا في كل صف."
النموذج 4 - إشعار الشفافية (خطر محدود): "بالنسبة إلى برنامج الدردشة الآلي الذي يخدم مستخدمي الاتحاد الأوروبي، اكتب إشعارًا قصيرًا "أنت تتحدث إلى الذكاء الاصطناعي" ليتم عرضه للمستخدم. بسيط ومطمئن، يتكون من جملتين كحد أقصى. يتضمن خيار التبديل إلى وكيل بشري."
موجه ضعيف / موجه قوي
ضعيف: "هل يهمنا قانون الاتحاد الأوروبي للذكاء الاصطناعي؟"-> يقدم النموذج إجابة عامة؛ فهو لا يصنف استخدامك الملموس، ولا يقيم اتصالك بسوق الاتحاد الأوروبي. جوتشلو: "نحن شركة مقرها في إزمير، ونبيع التوظيف وفحص الذكاء الاصطناعي لشركة في ألمانيا. ما هي فئة المخاطر التي يندرج هذا الاستخدام تحت قانون الاتحاد الأوروبي للذكاء الاصطناعي، وما هي الالتزامات التي تقع على عاتقنا ولماذا لا يعفينا وجودنا في تركيا؟ حدد أين أنت غير متأكد." -> ينتج النموذج قائمة تصنيف ومسؤولية خاصة بالسياق.
الأخطاء الشائعة
- التفكير "نحن في تركيا، وقانون الاتحاد الأوروبي لا يلزمنا"؛ ومع ذلك، فإن لمس سوق الاتحاد الأوروبي يكفي.
- تصنيف المخاطر بعد تطوير المشروع؛ ومع ذلك، ينبغي أن يتم ذلك في المقام الأول.
- اعتبار ممارسة محظورة عائقاً يمكن التغلب عليه بـ "المبرر الجيد".
- تجاوز تقارير الشفافية في الأنظمة المحدودة المخاطر (جعل الروبوت يبدو وكأنه إنسان).
- إهمال التدقيق البشري وإدارة التحيز من الالتزامات عالية المخاطر.
- التغاضي عن التزامات الذكاء الاصطناعي ذات الأغراض العامة (GPAI) قد يتردد صداها في أسفل السلسلة.
- تبادل قانون الذكاء الاصطناعي للاتحاد الأوروبي مع KVKK؛ إنهما مختلفان لكنهما متكاملان.
باختصار
- يتخذ قانون الاتحاد الأوروبي للذكاء الاصطناعي نهجًا قائمًا على المخاطر ويقسم الذكاء الاصطناعي إلى أربع فئات: محظور، ومرتفع، ومحدود، والحد الأدنى.
- ولا يمكن الإفراج عن الممارسات المحظورة (التسجيل الاجتماعي، والتلاعب، وما إلى ذلك) حتى لو تم تقليل المخاطر.
- أنظمة عالية المخاطر. وهي تخضع لالتزامات صارمة مثل إدارة المخاطر وجودة البيانات والرقابة البشرية والتوثيق.
- في الأنظمة ذات المخاطر المحدودة، يكون الالتزام الرئيسي هو الشفافية (الإبلاغ عن وجود الذكاء الاصطناعي).
- وتتأثر الشركات التركية التي تدخل سوق الاتحاد الأوروبي أيضًا بالقانون؛ يجب أن يتم التصنيف في بداية المشروع.
مهمة التطبيق
فكر في ثلاثة استخدامات مختلفة للذكاء الاصطناعي قد تستخدمها مؤسستك (أو شركة وهمية) فيما يتعلق بسوق الاتحاد الأوروبي. ضع كل منها في واحدة من فئات المخاطر الأربع في قانون الذكاء الاصطناعي للاتحاد الأوروبي واكتب مبررك. ضع الالتزامات الستة عالية المخاطر للاستخدام الذي تجده عالي المخاطر في مخطط التحكم: املأ أعمدة "الحالة الحالية" و"غير مكتمل/الإجراء". اكتب بيان الشفافية الذي سيتم عرضه للمستخدم للاستخدام الذي يقع ضمن فئة المخاطر المحدودة. وأخيرًا، إذا كان أي من استخداماتك يقترب من الخط المحظور، فلاحظ ذلك ولماذا.
قائمة مرجعية
- [ ] لقد صنفت كل استخدام للذكاء الاصطناعي في واحدة من فئات المخاطر الأربع.
- [ ] لقد قمت بفحص مشاريعي ومقارنتها بقائمة التطبيقات المحظورة.
- [ ] لقد قمت بإنشاء مخطط لمراقبة المسؤولية للاستخدام عالي المخاطر.
- [ ] لقد أدرجت التدقيق البشري وإدارة التحيز في الالتزامات.
- [ ] لقد قمت بإعداد بيان الشفافية للاستخدام المحدود للمخاطر.
- [ ] أفهم سبب تفعيل القانون بسبب اتصالي بسوق الاتحاد الأوروبي.
- [ ] لقد قمت بتصنيف المخاطر في بداية المشروع، وليس في النهاية.