المكاسب:
- إدراك متى ينتج الذكاء الاصطناعي التحيز من خلال بيانات التدريب، والتأطير، والمعايير المزدوجة، والإطراء
- القدرة على السيطرة على التحيز من خلال الأسئلة المحايدة والتمييز بين الأدلة النمطية واختبار الزاوية العكسية
- القدرة على ترجمة لغة الوصم إلى لغة وصفية ومحترمة باستخدام المعرفة الثقافية كنقطة اهتمام بدلاً من قاعدة نهائية
إن سبب وجود العمل الاجتماعي هو العدالة والكرامة الإنسانية؛ في جوهر المهنة يوجد الالتزام بأن كل فرد له قيمة متساوية، ويتم معارضة التمييز، وحماية الفئات الضعيفة. وينطوي الذكاء الاصطناعي على خطر يمكن أن يلحق الضرر بصمت بهذه القيم على وجه التحديد: التحيز. يتعلم الذكاء الاصطناعي من البيانات التاريخية؛ وإذا كانت تلك البيانات تتضمن عدم المساواة، والقوالب النمطية، والتمييز في المجتمع، فإن الذكاء الاصطناعي يتعلمها ويعيد إنتاجها بلغة بطلاقة تبدو "موضوعية". وفي أيدي الأخصائي الاجتماعي، يمكن أن يترجم ذلك إلى تقييم أكثر سلبية بشكل منهجي لمجموعة ما، أو صورة نمطية للأسرة، أو سوء فهم للثقافة. في هذه الوحدة، ستتعلم التعرف على تحيز الذكاء الاصطناعي، والسيطرة عليه، واستخدام الذكاء الاصطناعي بعدالة وحساسية ثقافية.
حقيقة منذ البداية: الذكاء الاصطناعي ليس محايدًا، بل يبدو محايدًا. وأخطر الانحياز هو ذلك الذي يتم تقديمه بلغة واثقة ومهنية؛ لأنه مقبول دون سؤال. إن مهمتك كأخصائي اجتماعي هي جعل هذا التحيز غير المرئي مرئيًا ومراقبة ما إذا كانت النتائج تتعارض مع قيمك المهنية.
من أين يأتي تحيز الذكاء الاصطناعي وكيف يبدو؟
- تحيز بيانات التدريب يتعلم الذكاء الاصطناعي من النصوص التي تعكس عدم المساواة في المجتمع. قد تتسرب الصور النمطية حول مجموعات عرقية معينة أو الفقراء أو المعاقين أو أحياء معينة أو جنس معين إلى المخرجات.
- اللغة والتأطير التحيز. يمكن للذكاء الاصطناعي أن يصور مجموعة ما على أنها سلبية، أو "إشكالية"، أو "كائن يحتاج إلى المساعدة"؛ مجموعة أخرى كمواضيع. ويمكن تفسير نفس السلوك على أنه "ثقافي" من قبل مجموعة واحدة و"إشكالي" من قبل مجموعة أخرى.
- قلة التمثيل. قد يفهم الذكاء الاصطناعي بشكل غير دقيق أو سطحي المجموعات الممثلة تمثيلاً ناقصًا في البيانات (مجموعات سكانية صغيرة، حالات نادرة).
- التملق (التملق). يميل الذكاء الاصطناعي إلى تأكيد وجهة نظرك الضمنية؛ السؤال المتحيز يجلب تأكيدًا متحيزًا.
تعتبر هذه التحيزات خطيرة بشكل خاص في العمل الاجتماعي لأن النتائج تمس بشكل مباشر حياة الناس الحقيقية - التقييم، والتقرير، والإحالة.
تحذير: إن عبارة "قام الذكاء الاصطناعي بتقييم الأمر بهذه الطريقة" هي علامة تحذير وليست مبررًا. عندما ترى مخرجات تصور مجموعة أو فردًا بشكل سلبي، فإن السؤال الأول هو "هل يعتمد على الأدلة أم على الصور النمطية؟" ينبغي أن يكون.
خطوة بخطوة: التدقيق ضد التحيز
- اسأل محايدة. اطرح أسئلة لا تنطوي على أي معنى أو قيادة؛ لا "أشرح سبب إهمال هذه العائلة"، بل "ماذا يمكن أن تعني هذه الملاحظات، ما هي التفسيرات البديلة؟" بسأل.
- التمييز بين الأدلة والصورة النمطية. لكل عبارة سلبية، اسأل: هل هي مبنية على أدلة ملموسة أمامي، أم أنها مبنية على افتراض عام حول مجموعة ما؟
- اختبار من الزاوية المعاكسة. فكر في نفس الموقف لمجموعة مختلفة: "إذا كان العميل من خلفية اجتماعية واقتصادية/عرقية مختلفة، فهل سيكتبه الذكاء الاصطناعي بنفس اللغة؟"
- ابحث عن الحساسية الثقافية. اسأل عن السياق الثقافي للسلوك؛ لكن خذ المعرفة الثقافية كاحتمال ونقطة تحذير، وليست قاعدة مطلقة (تجنب الصورة النمطية).
- تنظيف اللسان المطبوع. ترجمه إلى لغة تصف الموقف وليس الشخص، وترى أيضًا نقاط القوة.
ثلاث حالات صغيرة
الحالة 1 - كشفت الزاوية العكسية عن التحيز. طلب أحد الخبراء من الذكاء الاصطناعي تلخيص حالتين متشابهتين؛ كان الاختلاف الوحيد هو الوضع الاجتماعي والاقتصادي للعائلات. كتب YZ بلهجة "ارتفاع خطر الإهمال" بالنسبة للأسرة ذات الدخل المنخفض، وبلهجة "الوالد مجبر على التصرف" بالنسبة للأسرة ذات الدخل المرتفع. وقد أدرك الخبير هذا المعيار المزدوج وقام بتحويل كلا التقييمين إلى لغة متساوية قائمة على الأدلة.
الحالة 2 - تصحيح التفسير الثقافي الخاطئ. صاغ YZ حالة الطفل الذي يعيش مع أسرة ممتدة على أنها "قضايا حدودية وبيئة منزلية مختلطة". وكان الخبير يعلم أن الأسرة الممتدة، ضمن السياق الثقافي للأسرة، تشكل مصدراً قوياً للدعم والحماية. لقد حول الذكاء الاصطناعي قوة ثقافية إلى مشكلة. لقد تم تصحيح المراجعة للتعرف على هذا الدعم كمورد.
الحالة 3 - السؤال الرئيسي ينتج عنه تحيز. "اكتب لماذا هذا الأب غير جدير بالثقة"، سأل أحد المتدربين منظمة العفو الدولية. وأنتج الذكاء الاصطناعي نصاً يصور الأب بشكل سلبي (تملق) دون أي دليل. عدل المشرف السؤال: "ما هي الملاحظات على الأب، ما هي نقاط القوة والضعف لديه؟" وأصبح الناتج متوازنا ومستندا إلى الأدلة. الدرس المستفاد: السؤال المتحيز ينتج عنه إجابة متحيزة.
أربعة قوالب قابلة للنسخ
1) اطلب تقييماً محايداً ومتوازناً:
في تلخيص الملاحظات التالية، فإنك تعرض نقاط القوة المحتملة والمخاوف المحتملة بطريقة متوازنة وتستند فقط إلى الأدلة. لا تقم بأي استنتاجات بناءً على الصور النمطية. إذا كان التعليق لا يعتمد على الملاحظة، فاكتب "أدلة غير كافية". الملاحظات: [لصق الملاحظات]
2) فحص التحيز (اختبار الزاوية المعاكسة):
تحقق من نص المراجعة أدناه. هل هناك بيانات تنقل صورة نمطية غير مؤكدة بسبب الوضع الاجتماعي والاقتصادي للعميل أو العرق أو الدين أو الجنس أو الإعاقة أو الحي؟ لكل سؤال، اسأل: "هل سيتم كتابة هذا بنفس اللغة إذا كان العميل من مجموعة مختلفة؟" ضع علامة على الجمل المشكلة. النص: [لصق النص]
3) السياق الثقافي (غير النمطي):
قدم احتمالات لما قد يعنيه السلوك/الموقف التالي في سياقات ثقافية مختلفة. أعطها كنقاط يجب أخذها بعين الاعتبار، وليس كقواعد مطلقة؛ التأكيد على أن هناك فروقاً فردية في كل مجتمع. لا تعمم على مجموعة واحدة. الحالة: [أكتب الحالة]
4) تنظيف اللسان البصمة:
في النص أدناه، ابحث عن الصفات التي تحكم على الشخص أو وصمه (على سبيل المثال، "مهمل"، "غير متعاون"، "إشكالي"). بالنسبة لكل منها، استبدل نفس الحقيقة ببديل وصفي ومحترم ويعترف بنقاط القوة. إضافة معلومات جديدة. النص: [لصق النص]
موجه ضعيف / موجه قوي
حث ضعيف:
اشرح لماذا هذه الأسرة غير كافية في تربية الأطفال.
هذا السؤال يفترض النتيجة من البداية ("غير كافية"). الذكاء الاصطناعي، بميله إلى التملق، سينتج نصًا متحيزًا وخاليًا من الأدلة يؤكد هذا الافتراض. إذا كان السؤال متحيزا، فإن الإجابة ستكون متحيزة أيضا.
مطالبة قوية:
بناءً على الملاحظات التالية، قم بإدراج نقاط القوة في تربية الأطفال لدى هذه الأسرة ومجالات الاهتمام بطريقة متوازنة ومثبتة بالأدلة فقط. لا تفترض النتيجة من البداية؛ وإذا كانت الأدلة غير كافية، فاذكر ذلك. تجنب الصور النمطية.الملاحظات: [لصق الملاحظات]
الفرق: السؤال المتوازن الذي لا يفترض النتيجة ويطلب الدليل يمنع التحيز أصلاً.
أنواع التحيز والتدابير المضادة
نوع التحيز
كيف تبدو
الإجراء المضاد
بيانات التدريب
الصورة النمطية الجماعية
تمييز نمط الأدلة
تأطير
لغة سلبية/سلبية
لغة متوازنة تتمحور حول الموضوع
معايير مزدوجة
نفس السلوك، لهجة مختلفة
اختبار الزاوية العكسية
العمى الثقافي
تحويل القوة الثقافية إلى مشكلة
سؤال السياق الثقافي
الإطراء
تأكيد ضمنا
لا تسأل أسئلة محايدة
نقص التمثيل
سطحي/سوء فهم
تأكيد محلي/خبير
الأخطاء الشائعة
- طرح أسئلة متحيزة. السؤال الذي يفترض نتيجة ينتج عنه إجابة متحيزة؛ مشكلة محايدة.
- الاعتماد على لغة واثقة. النبرة المهنية لا تجعل الانحياز صحيحا؛ انظر إلى الأدلة.
- اعتبار المعرفة الثقافية قاعدة قطعية. اعتبرها نقطة احتمال واهتمام؛ تجنب الصور النمطية.
- عدم ملاحظة المعايير المزدوجة. اختبر كيفية كتابة نفس السلوك في مجموعات مختلفة.
- الخلط بين الختم كدليل. إنه حكم "إهمال". صف الظاهرة، لا تحكم على الشخص.
باختصار
الذكاء الاصطناعي ليس محايدًا، بل يبدو محايدًا؛ إنه يعيد إنتاج عدم المساواة والقوالب النمطية في البيانات التعليمية بلغة بطلاقة. في العمل الاجتماعي، يمكن أن يؤدي هذا إلى تقييمات غير عادلة لأشخاص حقيقيين. التعرف على التحيز (بيانات التدريب، والتأطير، والمعايير المزدوجة، والعمى الثقافي، والإطراء)، والتحقق منه (السؤال المحايد، وفصل نمط الأدلة، واختبار الزاوية، والحساسية الثقافية، وإزالة وصمة العار)، وتصفية كل ناتج من خلال قيم المهنة المتمثلة في العدالة والشرف. المرشح الأخلاقي الأخير هو أنت دائمًا.
مهمة التطبيق
اطلب من الذكاء الاصطناعي تلخيص نفس المجموعة من الملاحظات الخيالية مع ملفين شخصيين مختلفين للمجموعة (على سبيل المثال، حالة اجتماعية واقتصادية مختلفة) ومقارنتها مع "اختبار الزاوية العكسية" لمعرفة ما إذا كانت النغمات/اللغة تختلف. ثم حاول طرح سؤال محايد مع سؤال متحيز بشكل واعي ("اشرح لماذا لا يكفي") وافحص الفرق في النتائج. وأخيرًا، قم بتطبيق قالب "تنظيف لغة العلامة المائية" على النص.
قائمة مرجعية
- [ ] لقد قمت بصياغة أسئلتي بشكل محايد، دون افتراض النتيجة.
- [ ] لقد قمت بفحص كل عبارة سلبية باستخدام التمييز بين الأدلة والصورة النمطية.
- [ ] لقد قمت بفحص المعايير المزدوجة من خلال اختبار الزاوية العكسية.
- [ ] لقد استخدمت المعرفة الثقافية كنقطة تحذير، وليست قاعدة مطلقة.
- [ ] استبدلت لغة الوصم بلغة وصفية ومحترمة.