المكاسب:
- يدرك أن البيانات هي المصدر الرئيسي لتحيز الذكاء الاصطناعي
- يدرك المخاطر التي يمكن أن يخلقها التحيز في مكان العمل
- ينفذ التدابير التي يمكن اتخاذها للحد من التحيز
يظهر الذكاء الاصطناعي كآلة محايدة وموضوعية؛ ولكن الحقيقة أكثر تعقيدا من ذلك بكثير. تتعلم أنظمة الذكاء الاصطناعي التحيزات البشرية في البيانات التي يتم تدريبها عليها، وفي بعض الأحيان تقوم بتضخيمها وإعادة إنتاجها. التحيز هو ميل النظام إلى تفضيل أو استبعاد أشخاص أو مجموعات معينة بشكل منهجي. في هذه الوحدة، سننظر في مصدر التحيز، وما هي المخاطر الملموسة التي يشكلها في مكان العمل، وما يمكن فعله لمواجهته. هذه ليست مجرد مسألة "أخلاقية"؛ إنها مسألة تجارية عملية تنطوي على مخاطر قانونية وتجارية ومخاطر تتعلق بالسمعة عند سوء إدارتها.
من أين يأتي التحيز؟
تأتي معلومات النموذج اللغوي من النصوص الضخمة التي ينتجها البشر. تحتوي هذه النصوص على كل معارف المجتمع البشري، وعلى كل صوره النمطية واختلالاته وأوجه عدم المساواة التاريخية فيه. لا يميز النموذج بين الأنماط "الجيدة" و"السيئة". يتعلم كل ما هو موجود في البيانات.
مثال: إذا كانت بعض المهن مرتبطة في الغالب بنوع الجنس في النصوص السابقة (على سبيل المثال، "ممرضة" مع أنثى، و"مهندس" مع ذكر)، يتعلم النموذج هذا الارتباط. قد تميل إلى اختيار ضمير مذكر عند إكمال الجملة، "دخل مهندس إلى المكتب، هو..." العارضة ليست خبيثة؛ إنه يعكس فقط عدم التوازن في البيانات.
لذا فإن التحيز يرجع في الغالب إلى كونه مرآة للبيانات، وليس خطأ برمجيًا واعيًا. إن تفسير المشكلة على أنها "كتب شخص ما تعليمات برمجية سيئة" هو أمر مضلل؛ المشكلة هي أن عدم التوازن في العالم ينتقل إلى البيانات ومن هناك إلى النموذج.
المخاطر الملموسة في مكان العمل
المنطقة
خطر التحيز
ضرر محتمل
التوظيف
معرفة الاتجاه في البيانات التاريخية والقضاء على مجموعات معينة
قضية قانونية، فقدان القدرة
التواصل مع العملاء
اللغة النمطية أو الإقصائية
فقدان السمعة، وهروب العملاء
الائتمان/المخاطر
- إدامة عدم المساواة الماضية
التمييز والعقوبات
تقييم الأداء
تحمل التحيز في البيانات إلى القرار
ترقية/مكافأة غير عادلة
المحتوى/ التسويق
جعل مجموعة معينة غير مرئية
ضرر العلامة التجارية
ثلاث حالات صغيرة
الحالة 1 - كان الإعلان يضيق نطاق اللغة. بدأت إحدى الشركات في طباعة إعلانات الوظائف باستخدام الذكاء الاصطناعي. وبعد فترة، لوحظ أن الإعلانات تروق لملف تعريف معين بعبارات مثل "شاب وديناميكي"، و"هدف عدواني"، وبالتالي تقلل من تنوع التطبيقات. أضاف الفريق خطوة تتحقق من كل مشاركة بحثًا عن "لغة شاملة"؛ لقد زاد تنوع المتقدمين بشكل ملحوظ في غضون بضعة أشهر.
الحالة 2 - التحيز الخفي في الملخص. طلب أحد المديرين من الذكاء الاصطناعي تلخيص 30 تعليقًا للموظفين. يبدو أن الملخص يركز التعليقات السلبية على فريق واحد معين؛ بينما في البيانات الأولية كان الوضع متوازنا. بالغ النموذج في عدة تصريحات قوية. وعندما عاد المدير وفحص البيانات الأولية، تجنب ارتكاب أي فكرة خاطئة.
الحالة 3 - نجح تفويض الشمولية. قام أحد فرق التسويق بتوحيد التعليمات الواردة في نسخة الحملة من أجل "استخدام لغة شاملة وغير محددة للجنس/العمر/المجموعة وإدراج افتراضاتك في النهاية". انخفضت التعبيرات الصيغةية في النصوص المنتجة بشكل ملحوظ؛ لم يكن على الفريق تصحيح كل نتيجة يدويًا مرارًا وتكرارًا.
لماذا يصعب التعرف على التحيز؟
إن الشيء الأكثر مكراً فيما يتعلق بالتحيز هو أنه غالباً ما يكون غير مرئي. يبدو الإخراج سلسًا واحترافيًا ومعقولًا؛ ولا يصبح الاتجاه بداخلها واضحًا إلا عندما ينظر المرء بعناية أو يقيس تأثيره على المجموعات المختلفة. ومن المضلل أن نقول "لا يوجد تحيز هنا" من خلال النظر إلى مثال واحد؛ غالبًا ما يتجلى التحيز ليس في الأمثلة الفردية ولكن في الاتجاه العام للنظام.
تنبيه: الافتراض بأن "أنا محايد، وبالتالي فإن الأداة التي أستخدمها محايدة أيضًا" هو أمر خطير. تعتمد حيادية الأداة على بيانات التدريب وكيفية فحصها، وليس على نيتك.
موجه ضعيف / موجه قوي
موجه ضعيف: قم بوصف المرشح المثالي لهذا المنصب.
النتيجة: قد يعتمد النموذج على الصور النمطية ويقدم صورة معينة على أنها "مثالية".
موجه قوي: قم بإدراج الكفاءات القابلة للقياس فقط لهذا المنصب والتي لها صلة حقيقية بالوظيفة. لا تستخدم أي خصائص لا تتعلق بالوظيفة، مثل الجنس، العمر، الحالة الاجتماعية، مسقط الرأس. وأخيرًا، اكتب ما تركته تحت عنوان "الافتراضات التي أتجنبها".
النتيجة: يقتصر التقييم على المعايير المتعلقة بالوظيفة، ويتم استبعاد الميزات غير ذات الصلة.
قوالب للحد من التحيز
تحقق من النص أدناه للحصول على لغة شاملة. ضع علامة على العبارات التي تشير ضمنًا إلى الجنس أو العمر أو العرق أو الإعاقة أو مجموعة محددة واقترح بديلاً محايدًا لكل منها. النص: [الصق هنا]
قم بإجراء هذا التقييم فقط بناءً على هذه المعايير الموضوعية: [المعايير]. ولا تأخذ بعين الاعتبار أي معلومات غير هذه المعايير (الاسم، الجنس، العمر).
أدرج تحت عنوان منفصل في النهاية الافتراضات التي قمت بها في النص الذي أنتجته. لذلك أستطيع أن أرى التحيزات الخفية.
قم بتقييم هذا المحتوى من خلال عيون ثلاث مجموعات مختلفة من القراء وقم بوضع علامة على أي عبارات قد تسيء إلى أي منهم. المحتوى: [الصق هنا]
الأخطاء الشائعة
الأخطاء الشائعة
- بافتراض إخراج الذكاء الاصطناعي "المحايد". على الرغم من أن المخرجات تبدو محايدة، إلا أنها قد تحمل التحيز في البيانات؛ مطلوب الإشراف النشط.
- أنظر إلى مثال واحد وأقول "لا يوجد تحيز". التحيز مخفي في الاتجاه العام للنظام.
- ترك عملية صنع القرار عالية التأثير للذكاء الاصطناعي غير الخاضع للرقابة. تعتبر السلطة البشرية ضرورية في قرارات مثل التوظيف والترقية والائتمان.
- نسيان المطالبة بالشمولية. إذا لم تطلب ذلك بشكل صريح في الموجه، فسيعود النموذج إلى الأنماط الافتراضية.
- وهذا يعني "الآلة قالت ذلك". والشخص الذي يستخدم القرار مسؤول أيضًا عن العواقب.
العدالة مسؤولية الجميع
مكافحة التحيز ليست مجرد مهمة الفريق الفني. يتحمل كل موظف يستخدم مخرجات الذكاء الاصطناعي مسؤولية التساؤل عما إذا كان هذا المخرج عادلاً. "الآلة أخبرتني" ليست عذرا؛ والشخص الذي يتخذ القرار مسؤول أيضًا عن العواقب.
باختصار
- المصدر الرئيسي لتحيز الذكاء الاصطناعي ليس الحقد، بل الاختلالات والقوالب النمطية الموجودة في بيانات التدريب.
- إجحاف؛ فهو يخلق مخاطر قانونية حقيقية ومخاطر تتعلق بالسمعة في مجالات مثل التوظيف واتصالات العملاء والتمويل والتقييم.
- غالبًا ما يكون التحيز غير مرئي ومضمنًا في التصرف العام للنظام؛ إن النظر إلى مثال واحد أمر مضلل.
- لتقليل: كن على دراية، واقتصر القرار على المعايير المتعلقة بالوظيفة، واطلب صراحة الشمولية، وفرض سيطرة بشرية على القرارات عالية التأثير.
- "الآلة أخبرتني" ليست عذرا؛ الإنصاف مسؤولية كل من يستخدم المخرجات.
مهمة التطبيق
اطلب من الذكاء الاصطناعي "وصف العامل المثالي [في أي مهنة]" وحدد الافتراضات (التي ربما تكون غير ضرورية) التي تم تقديمها في المخرجات. ثم كرر ذلك مع نموذج "المعايير المتعلقة بالوظيفة" أعلاه وقارن بين الناتجين لتحقيق العدالة.
قائمة التحقق
- [ ] أفهم أن المصدر الأساسي للتحيز هو بيانات التدريب.
- [ ] أستطيع أن أذكر المخاطر الملموسة التي يمكن أن يشكلها التحيز في مكان العمل.
- [ ] أعلم أن التحيز غالبًا ما يكون غير مرئي وأن النظر إلى مثال واحد أمر مضلل.
- [ ] يمكنني أن أطلب بوضوح الشمولية والمعايير المتعلقة بالوظيفة في الموجه.
- [ ] أطلب إشرافًا بشريًا على القرارات ذات التأثير العالي.