التحيز والتمثيل والحساسية الثقافية

المكاسب:

• تعرف من خلال الأمثلة على كيفية تسبب التحيز الثقافي والجنساني والتشخيصي في نماذج الذكاء الاصطناعي في حدوث ضرر في سياق علم النفس
• القدرة على تنفيذ فحص التحيز الذي يختبر المخرجات لمجموعات ولغات وثقافات مختلفة
• القدرة على تطوير تقنيات سريعة وتحققية تصحح القواعد المتمركزة في الغرب ولغة الوصم

الذكاء الاصطناعي (AI) ليس محايدًا. يتعلم نموذج الذكاء الاصطناعي من كومة ضخمة من النصوص على الإنترنت، وتنحرف "الرؤية العالمية" للنموذج بسبب من يحتوي على صوت أكثر ومن يحتوي على صوت أقل. ويسمى هذا التشويه التحيز. إن التحيز في علم النفس ليس عيبًا تقنيًا عاديًا؛ يمكن أن يؤثر بشكل مباشر على تقييم الشخص وتشخيصه وعلاجه. يمكن قراءة الأعراض على أنها "طبيعية" في ثقافة ما و"مرضية" في ثقافة أخرى؛ يمكن تأطير السلوك على أنه "تأكيد" في أحد الجنسين و"عدوان" في الآخر. يمكن للذكاء الاصطناعي أن يتعلم هذه التحيزات التاريخية ويكررها. ستتعلم في هذه الوحدة التعرف على التحيز في الذكاء الاصطناعي في سياق علم النفس وتدقيق المخرجات الخاصة بالمجموعات واللغات والثقافات المختلفة.

من أين يأتي التحيز وكيف يضر؟

هناك ثلاثة مصادر رئيسية لتحيز الذكاء الاصطناعي:

1. عدم توازن بيانات التدريب. يتم تدريب النماذج في الغالب باستخدام نصوص لغة وثقافة وفترة معينة. يأتي الجزء الأكبر من أدبيات علم النفس من المجتمعات الغربية المتعلمة والصناعية. ومن ثم فإن افتراض الذكاء الاصطناعي "للإنسان العادي" يعكس هذه العينة الضيقة.
2. إدراج التحيز التاريخي. يتم أيضًا تضمين النصوص التي أساءت ووصم مجموعات معينة في الماضي في البيانات؛ يتعلم النموذج هذه الأنماط.
3. قلة التمثيل. يحتوي النموذج إما على معلومات غير كافية أو تحتوي على معلومات نمطية حول المجموعات الممثلة تمثيلاً ناقصًا (العرق واللغة والتوجه الجنسي والإعاقة المختلفة).

الضرر ملموس: قد يقوم الذكاء الاصطناعي بتقييم الأعراض على أنها أكثر خطورة في مجموعة واحدة وأخف من مجموعة أخرى؛ قد يعتبر خطأً أن التعبير الثقافي (طقوس الحداد، التجربة الدينية) هو أحد الأعراض؛ يمكن أن ينتج لغة موصومة ومبتذلة.

تحذير: حتى لو بدا أن أحد مخرجات الذكاء الاصطناعي هو "علم موضوعي"، فقد يحمل التحيزات التي تعلمها. وخاصة عندما يتعلق الأمر بالثقافات والأجناس والتوجهات الجنسية والمجموعات الاجتماعية والاقتصادية المختلفة، فإننا نعتبر كل نتيجة على أنها "هل هذا عادل لجميع الفئات؟" تصفية مع السؤال.

أنواع التحيز الخاصة بعلم النفس

نوع التحيز

عرض في علم النفس

خطر

التحيز الثقافي

اعتبار المعايير الغربية عالمية

لا تخلط بين التعبير الثقافي وعلم الأمراض

التحيز بين الجنسين

تفسير نفس السلوك بشكل مختلف حسب الجنس

التفاوت التشخيصي

التحيز التشخيصي

تصوير مجموعات معينة على أنها "عرضة" لتشخيصات معينة

أكثر/تحت التشخيص

التحيز اللغوي

أكثر "براعة" في اللغة السائدة، سطحيا في الأخرى

التقييم غير المتكافئ

ختم

اللغة التي تحدد الشخص من خلال تشخيصه

تأطير المهينة

خطوة بخطوة: التحكم في التحيز

1. يمكنك تغيير الإخراج إلى "لمن كتب؟" سؤال. من هو الموضوع الافتراضي؟ إنه عمومًا رجل متعلم وغربي و"متوسط".
2. اختبار مع مجموعات مختلفة. كرر نفس المطالبة في سياقات ثقافية وجنسانية وعمرية مختلفة؛ هل التعليقات تتغير؟
3. مسح اللسان الوصمي. الصياغة الصحيحة التي تحدد الشخص المصاب بالتشخيص ("شخص يعاني من الفصام" بدلاً من "الفصام").
4. أضف السياق الثقافي. أخبر الذكاء الاصطناعي بالسياق الثقافي/اللغوي للعميل و"لا تعتبر التعبيرات التي قد تكون طبيعية في هذا السياق بمثابة علم الأمراض".
5. عيون الخبراء والمجتمع. إذا لم تكن متأكدًا من مسألة ثقافية ما، فاستشر زميلًا يعرف تلك الثقافة.
6. دع الناس يقررون. وحتى التحقق من التحيز لا يُترك للذكاء الاصطناعي؛ الحكم النهائي للعدالة هو لك.

نصيحة: طريقة عملية لاختبار ما إذا كان الناتج متحيزًا: قم بتغيير سمة واحدة (الجنس والثقافة والعمر) في الموجه واطرح نفس السؤال مرة أخرى. إذا تغير التفسير "بشكل غير عادل" مع هذا التغيير، هناك تحيز.

ثلاث حالات صغيرة

الحالة 1 - إضفاء الطابع المرضي على التعبير الثقافي. يخبر أحد المحترفين الذكاء الاصطناعي أن عميلاً من ثقافة مختلفة "يتحدث إلى المتوفى" أثناء عملية الحزن. ويصنف الذكاء الاصطناعي هذا على أنه "قد يكون عرضًا ذهانيًا". ومع ذلك، يعد هذا تعبيرًا شائعًا وطبيعيًا عن الحزن في ثقافة ذلك العميل. يرفض الخبير مخرجات الذكاء الاصطناعي لأنه يعرف السياق الثقافي. يمكن لأي شخص لا يعرف السياق أن يرتكب خطأً خطيرًا في الحكم.

الحالة 2 – اختبار التحيز الجنسي. يقدم المحقق ملخص الحالة نفسه إلى الذكاء الاصطناعي مرتين؛ إنه يغير فقط جنس الشخص. في النسخة "الأنثوية"، يؤكد الذكاء الاصطناعي على "عدم الاستقرار العاطفي"، بينما في النسخة "الذكورية"، فإنه يؤطر نفس السلوك باعتباره "استجابة للتوتر". وهذا يظهر بوضوح التحيز الجنسي للنموذج. ويوثق الباحث هذا الاختلاف ويستخدم المخرجات بهذا الوعي.

الحالة 3 - تصحيح لغة الوصم. الذكاء الاصطناعي هو "خط حدودي مريض"، كما جاء في أحد التقارير. ويرى المتخصص أن ذلك لغة وصم تحدد هوية الشخص المصاب بتشخيصه وتترجمها إلى لغة تركز على الشخص، مثل "فرد ذو نمط شخصية حدودي محدد". تغيير بسيط في اللغة يحدث فرقًا كبيرًا في حماية كرامة العميل.

المطالبات والقوالب القابلة للنسخ

تحقق من النص التالي للتأكد من عدم وجود تحيز: ضع علامة على العبارات التي تشير إلى التحيز الثقافي أو الجنس أو التوجه الجنسي أو العمر أو التحيز الاجتماعي والاقتصادي. اعرض أيضًا الافتراضات التي تعتبر المعايير الغربية عالمية. اقترح بديلاً أكثر عدالة لكل منها.النص: [النص]

ساعدني في تقييم الموقف التالي، ولكن السياق الثقافي للعميل هو [الثقافة/اللغة]. في هذا السياق، تقديم التعبيرات التي قد تكون طبيعية مثل علم الأمراض؛ إذا لم تكن متأكدًا من نقطة ثقافية ما، فقل "قد يختلف هذا ثقافيًا، فاستشر خبيرًا". الحالة: [حالة مجهولة]

ترجمة التعابير الوصمية في هذا النص والتي تحدد هوية الشخص المصاب بتشخيصه (على سبيل المثال، "فصامي"، "خط حدودي") إلى لغة تركز على الشخص وتحافظ على كرامته. لا تغير المحتوى، فقط قم بإضفاء طابع إنساني على اللغة. النص: [النص]

سأقوم بتقييم ملخص الحالة التالي مرتين: مرة الموضوع [الميزة أ]، والأخرى [الميزة ب]. هل هناك فرق غير عادل بين التقييمين، وإذا كان الأمر كذلك، فهل هو بسبب التحيز؟ قارن.الملخص: [ملخص مجهول]

موجه ضعيف / موجه قوي

المطالبة الضعيفة: "هل سلوك هذا العميل طبيعي أم غير طبيعي؟"

هذه المطالبة لا تسأل من هو "الطبيعي"؛ ويفترض الذكاء الاصطناعي وجود "طبيعي" متمحور حول الغرب وغير مثقف، ويمكن أن يؤدي إلى اعتلال التعبير الثقافي.

موجه قوي: "هذا العميل موجود في [السياق الثقافي/اللغوي]. اشرح ما إذا كان هذا السلوك قد يكون تعبيرًا عاديًا في هذا السياق الثقافي أو علامة تتطلب الاهتمام، وناقش كليهما بشكل منفصل. لا تصدر حكمًا نهائيًا؛ ذكرني بالتشاور مع خبير يعرف السياق الثقافي."

تضع هذه المطالبة السياق في المركز، وتمنع سوء القراءة الثقافية، وتترك القرار للخبير.

الأخطاء الشائعة

• الخلط بين مخرجات الذكاء الاصطناعي و"الهدف". متناسين أن النموذج يحمل تحيزاً وقبول المخرجات كحقيقة علمية.
• اعتبار القاعدة الغربية عالمية. تعريف "طبيعي" وفقًا لثقافة واحدة وتصنيف التعبيرات المختلفة على أنها مرضية.
• عدم ملاحظة لغة الوصمة. الخطأ في اللغة التي تحدد هوية الشخص المصاب بتشخيصه بأنها "لغة تقنية".
• لا اختبار للتحيز. عدم تجربة نفس الموجه مع مجموعات مختلفة والتحقق من الاتساق.
• اتخاذ القرارات بمفردك في ثقافة لا تعرفها. إصدار الأحكام دون استشارة زميل يعرف تلك الثقافة.

باختصار

الذكاء الاصطناعي متحيز لأنه يتعلم من نصوص عالم متحيز؛ في علم النفس، يُترجم هذا التحيز إلى ضرر ملموس في شكل الوصمة الثقافية والجنسية والتشخيصية واللغوية. قارن كل نتيجة بالسؤال "هل هذا عادل لجميع المجموعات؟" قم بتصفيته؛ اختبار نفس الموجه مع مجموعات مختلفة؛ أضف سياقًا ثقافيًا إلى مطالبتك؛ تغيير لغة الوصم إلى لغة تتمحور حول الشخص؛ ابحث عن عيون الخبراء/المجتمع للتعرف على ثقافة لا تعرفها. إن الحكم بالعدالة، بما في ذلك السيطرة على التحيز، ينبع من الإنسان.

مهمة التطبيق

إعداد ملخص الحالة (مجهول). أعطها للذكاء الاصطناعي مرتين؛ تغيير سمة واحدة فقط (الجنس أو الثقافة أو العمر). ضع المطبوعتين جنبًا إلى جنب وافحص الاختلافات غير العادلة. اطلب أيضًا من الذكاء الاصطناعي أن يترجم العبارات الوصمية في فقرة التقرير إلى لغة تتمحور حول الشخص ولاحظ الفرق.

قائمة مرجعية

• [ ] قم بتغيير الإخراج إلى "هل هذا عادل لجميع المجموعات؟" لقد طرحت السؤال.
• [ ] لقد اختبرت نفس الموجه مع مجموعات/ثقافات مختلفة.
• [ ] أضفت السياق الثقافي إلى الموجه؛ أنا لم أمرض التعبير الثقافي.
• [ ] لقد قمت بتغيير لغة الوصم إلى لغة تتمحور حول الشخص.
• [ ] طلبت نصيحة أحد الخبراء/الزملاء بشأن مسألة ثقافية لم أكن على دراية بها.
• [ ] لقد تركت القرار النهائي للعدالة لحكمي الشخصي، وليس للذكاء الاصطناعي.