المكاسب:
- التمييز بين ثلاثة نماذج للتحكم البشري (في الحلقة، في الحلقة، في القيادة)
- التعرف على مخاطر التحيز والتمييز والتخفيف منها في مخرجات الذكاء الاصطناعي
- ترجمة مبادئ الشفافية وقابلية التفسير إلى تطبيقات ملموسة
قد يعمل نظام الذكاء الاصطناعي بشكل مثالي من الناحية الفنية ولكنه يظل مخطئًا: فقد يقضي بشكل منهجي على مجموعة ما، أو يفشل في تفسير سبب قراره، أو يدفع الناس إلى قبوله دون استجواب. في هذه الوحدة، نقوم بترجمة الجانب "الناعم" ولكن الأكثر حسمًا للحوكمة - السيطرة البشرية، وإدارة التحيز، والشفافية، والأخلاق - إلى ممارسات ملموسة. الهدف ليس شعارات غامضة مثل "لا تثق في الذكاء الاصطناعي"؛ إنها آليات عمل توضح كيفية تدقيق المخرجات، وتقليل التحيز، وتحقيق الشفافية.
ثلاثة نماذج للسيطرة البشرية
الرقابة البشرية تعني أن الإنسان يحتفظ بالسيطرة على القرارات التي يتخذها الذكاء الاصطناعي. هناك ثلاثة نماذج أساسية ومن الضروري اختيار النموذج المناسب حسب المخاطر.
نموذج
معنى
حيث يناسب
الإنسان في الحلقة
الشخص يوافق على كل قرار
قرارات عالية المخاطر ومؤثرة
الإنسان على الحلقة
يعمل الذكاء الاصطناعي، ويراقب البشر ويتدخلون إذا لزم الأمر
مخاطر متوسطة، معاملات كبيرة الحجم
الرجل في القيادة
الإنسان يصمم النظام، ويضع حدوده، ويستطيع أن يغلقه
المستوى العام للحوكمة
بالنسبة للقرارات التي تؤثر بشكل كبير على الشخص (التوظيف، والائتمان، والرعاية الصحية)، يفضل نموذج الإنسان في الحلقة: الذكاء الاصطناعي يقدم المشورة، ولكن الإنسان الكفء هو الذي يتخذ القرار النهائي. "قال الذكاء الاصطناعي ذلك" ليس عذرًا أبدًا؛ المسؤولية تقع دائما على عاتق الشخص.
تنبيه: لا يكفي أن تكون السيطرة على الإنسان "على الورق". إذا وافق الإنسان تلقائيًا على اقتراح الذكاء الاصطناعي (الختم المطاطي)، فلن تكون هناك سيطرة حقيقية. لكي يكون التدقيق ذا معنى، يجب على المرء أن يكون قادرًا على رؤية الأساس المنطقي، والتشكيك فيه، والقول "لا" حقًا.
خطر التحيز والتمييز
يحدث التحيز عندما يؤدي الذكاء الاصطناعي إلى الإضرار أو المزايا بشكل منهجي لمجموعات معينة. غالبًا ما يكون مصدرها هو بيانات التدريب: إذا كان هناك تمييز في البيانات التاريخية، فإن الذكاء الاصطناعي يتعلمها ويحافظ عليها، بل ويوسعها.
خطوات عملية للحد من التحيز:
- مراجعة المتغيرات الحساسة: التحقق من تأثير مجالات مثل الجنس والعمر والعرق على القرار.
- نتائج الاختبار حسب المجموعات: هل ينتج النظام معدلات رفض/قبول مختلفة في المجموعات المختلفة؟
- احذر من المتغيرات البديلة: قد تشير حقول مثل "الحي" أو "المدرسة" ضمنيًا إلى التمييز العرقي/الطبقي.
- إنشاء مراقبة منتظمة: يتم اختبار التحيز بشكل مستمر، وليس مرة واحدة فقط؛ وقد يعود مع تغير البيانات.
ثلاث حالات صغيرة
الحالة 1 - ختم مطاطي. وفي أحد البنوك، يوافق مسؤولو القروض على درجة الذكاء الاصطناعي دون مراجعتها؛ يقولون "لقد قام النظام بحسابه بالفعل". تظهر عملية التدقيق أنه في 498 من أصل 500 طلب، اتخذ الإنسان نفس القرار الذي اتخذه الذكاء الاصطناعي - لذلك لا توجد مراجعة حقيقية. الحل: مطالبة الأشخاص برؤية الأسباب، وإعادة تخمين القرار إلى حد ما، واطلب ملاحظة "لماذا أوافق/لا أوافق".
الحالة 2 - التحيز الضمني. يسجل الذكاء الاصطناعي للتوظيف نتائج أقل للمرشحات، على الرغم من أنه لا يستخدم الجنس على الإطلاق. من أين؟ ولأن البيانات السابقة شملت في الغالب رجالًا في منصب معين، فقد تعلم النموذج تمييزًا غير مباشر من خلال متغيرات بديلة مثل "المهنة غير المنقطعة". يكشف الاختبار الجماعي هذا؛ يقوم الفريق باستخراج المتغيرات البديلة ومراقبة النتيجة.
الحالة 3 - الثقة بالشفافية. وفي تقييمها للأضرار المدعومة بالذكاء الاصطناعي، تقوم شركة التأمين بإبلاغ كل عميل بأن "القرار مدعوم بالذكاء الاصطناعي، ويمكنهم الاستئناف وطلب المراجعة البشرية". معدل الاعتراض أقل من المتوقع لأن العملاء يفهمون العملية ويثقون بها. تعمل الشفافية على زيادة الثقة مع تقليل المخاطر.
الشفافية وقابلية التفسير
تتعلق الشفافية بتوضيح للأشخاص المعنيين أن الذكاء الاصطناعي يعمل وكيف يعمل. تعني القابلية للتفسير القدرة على شرح سبب القرار بطريقة مفهومة. تطبيقات ملموسة:
- إشعار "أنت تتحدث إلى الذكاء الاصطناعي" عند تفاعل الذكاء الاصطناعي مع الشخص.
- "لقد استند هذا القرار إلى العوامل التالية" في تفسير القرارات التلقائية.
- قم بتقديم مسار الاستئناف بوضوح وطلب المراجعة البشرية.
- بالنسبة للفرق الداخلية: توثيق وتسجيل ما يفعله النموذج.
تلميح: اسأل أحد قرارات الذكاء الاصطناعي "ما هي أهم ثلاثة عوامل أثرت في هذا القرار؟" اختبرها بالسؤال. إذا لم يتمكن النظام من جعل هذا الأمر مفهومًا وكان القرار يؤثر على الشخص بشكل كبير، فإن هذا النظام ليس جاهزًا بعد للاستخدام المسؤول.
التحيز الآلي: فخ المرء نفسه
وحتى لو تم ترسيخ الشفافية والرقابة البشرية، فهناك خطر خبيث على الجانب البشري: التحيز للأتمتة. هذا هو ميل الناس إلى الثقة في مخرجات الآلة أكثر من ثقتهم في حكمهم. ولأن مقترحات الذكاء الاصطناعي التي تظهر على الشاشة تبدو "موضوعية ومحسوبة"، فإن المرء يميل إلى قبولها دون استجواب - وهذا هو الأصل النفسي للختم المطاطي.
هناك طرق ملموسة للحد من هذا. قم بتشجيع الرأي المضاد أولاً: اسأل الشخص الذي يوافق على القرار "لماذا قد أختلف مع الذكاء الاصطناعي؟" اطلب منه أن يفكر في السؤال. ثم أظهر درجة الثقة: وضح مدى ثقة الذكاء الاصطناعي؛ ضع علامة على مخرجات الثقة المنخفضة بشكل منفصل. ثم قم بإعداد تنبيه التعارض: إذا كانت توصية الذكاء الاصطناعي تنتهك قاعدة المؤسسة أو البيانات المتاحة للإنسان، فسيقوم النظام بتسليط الضوء على ذلك. وأخيرا، تطبيق المبدأين الإنسانيين على القرارات الحاسمة؛ يكون المعتمد الواحد أكثر عرضة لتحيز الأتمتة.
تحذير: إن قول "هناك موافقة بشرية" لا يعني التحرر من تحيز الأتمتة. يجب أن يتمتع الإنسان بالسلطة والوقت والمعلومات الصحيحة للتشكيك في الذكاء الاصطناعي. إن النظام الذي يجبر الشخص الموافق على اتخاذ 200 قرار في 3 ثوانٍ لا يوفر في الواقع تحكمًا بشريًا حقيقيًا.
قوالب قابلة للنسخ
النموذج 1 - اختيار نموذج التحكم البشري: "ما هو نموذج التحكم البشري المناسب لاستخدام الذكاء الاصطناعي التالي [وصف الاستخدام]: في الحلقة، أو في الحلقة، أو في القيادة؟ يوصى به مع التبرير، مع الأخذ في الاعتبار المخاطر والتأثير على الفرد. حدد عنصر التحكم الذي يجب أن أضيفه لتجنب مخاطر الطوابع المطاطية."
النموذج 2 - خطة اختبار التحيز: "قم بوضع خطة اختبار التحيز [وصف الاستخدام] للذكاء الاصطناعي الداعم للقرار التالي: ما هي المجموعات التي يجب أن أقارنها، ما المقياس الذي يجب أن أقيسه (معدل الرفض/القبول، وما إلى ذلك)، ما هي المتغيرات البديلة التي يجب أن أبحث عنها، كم مرة يجب أن أكرر الاختبار؟ اكتبه خطوة بخطوة."
النموذج 3 - نص وصف القرار: "اكتب نص وصف بسيط لقرار آلي مخصص: ما إذا كان القرار مدعومًا بالذكاء الاصطناعي، والعوامل الرئيسية التي تؤثر على القرار، وطريقة للاستئناف وطلب المراجعة البشرية. لهجة غير اتهامية ومحترمة، 120 كلمة أو أقل."
النموذج 4 - قائمة مراجعة المراجعة الأخلاقية: "قم بإعداد قائمة مراجعة مراجعة الأخلاقيات قبل نشر استخدام الذكاء الاصطناعي: العدالة/التمييز، والشفافية، والتحكم البشري، والخصوصية، والأمن، والمساءلة. قم بتضمين سؤال أو سؤالين واضحين للإجابة عليهم تحت كل عنوان."
موجه ضعيف / موجه قوي
ضعيف: "هل هذا التوظيف للذكاء الاصطناعي عادل؟"-> يقدم النموذج إجابة عامة مثل "يجب أن يكون عادلاً"؛ لا يوفر طريقة قابلة للاختبار وقياس التحيز. STRONG: "قم بإعداد خطة اختبار التحيز لهذا التوظيف الذي يدعم الذكاء الاصطناعي: طريقة لمقارنة معدلات القبول عبر الجنس والفئات العمرية، والمتغيرات البديلة التي يجب أخذها في الاعتبار، وعتبة الاختلاف المقبولة، وتكرار المراقبة. أضف أيضًا التحكم للتأكد من أن الإنسان يتخذ القرار النهائي." -> ينتج النموذج آلية عدالة قابلة للقياس وقابلة للتكرار.
الأخطاء الشائعة
- ترك السيطرة البشرية "على الورق" والموافقة تلقائيًا على توصية الذكاء الاصطناعي (ختم مطاطي).
- ترك القرارات التي تؤثر بشكل كبير على الشخص دون إشراف بدلاً من تركها في الحلقة.
- مع الأخذ في الاعتبار أن التحيز قد تم حله فقط لأنني "حذفت المتغير الحساس"؛ تخطي متغيرات الوكيل.
- اختبار التحيز مرة واحدة وعدم مراقبته بشكل مستمر.
- تخطي الشفافية لأنها "تفاصيل فنية، لن يفهمها المستخدم".
- استخدام نظام لا يستطيع تفسير سبب اتخاذ القرار في القرارات الحاسمة.
- ترك التقييم الأخلاقي إلى ما بعد النشر قائلا "سنرى لاحقا".
باختصار
- ويتم تنفيذ السيطرة البشرية في ثلاثة نماذج؛ في القرارات التي تؤثر على الناس، يتم تفضيل الأشخاص في الدورة.
- يجب أن تكون السيطرة ذات معنى؛ إن الختم المطاطي (الموافقة التلقائية) ليس هو التدقيق الفعلي.
- غالبًا ما يأتي التحيز من بيانات التدريب؛ وينبغي اختبار المتغيرات الحساسة والبديلة ومراقبتها باستمرار.
- تتطلب الشفافية وقابلية الشرح أن يُعرض بوضوح للمستخدم أن الذكاء الاصطناعي يلعب دورًا وسبب القرار.
- تتم المراجعة الأخلاقية قبل النشر؛ المسؤولية تقع دائما على عاتق الإنسان، "قالت منظمة العفو الدولية ذلك" ليس عذرا.
مهمة التطبيق
اختر عملية اتخاذ قرار تعتمد على الذكاء الاصطناعي والتي تؤثر على الأشخاص في مؤسستك (على سبيل المثال، تقييم الطلب). تحديد نموذج التحكم البشري المناسب لهذه العملية مع التبرير وتصميم عنصر تحكم ملموس لمنع الختم المطاطي (على سبيل المثال، شرط رؤية التبرير، ومراجعة العينة). ثم اكتب خطة اختبار التحيز: حدد المجموعات التي ستقارنها، وبأي مقياس، وعدد المرات، والمتغيرات الوكيلة التي ستهتم بها. أخيرًا، قم بصياغة نص شرح القرار الذي سيتم عرضه للشخص أثناء هذه العملية ويتضمن مسار الاستئناف/المراجعة البشرية.
قائمة مرجعية
- [ ] لقد اخترت نموذج التحكم البشري المناسب لهذه العملية.
- [ ] لقد صممت تحكمًا ملموسًا يمنع الختم المطاطي.
- [ ] قمت بإعداد خطة اختبار التحيز (المجموعات، المقياس، التكرار).
- [ ] قمت بتقييم مخاطر المتغيرات البديلة.
- [ ] كتبت نص شرح القرار للشخص.
- [ ] لقد عرضت بوضوح طريق الاستئناف والمراجعة البشرية.
- [ ] لقد أجريت المراجعة الأخلاقية قبل النشر.