تعصب، نمائندگی، اور ثقافتی حساسیت

فائدہ:

• مثالوں کے ساتھ پہچانیں کہ کس طرح مصنوعی ذہانت کے ماڈلز میں ثقافتی، صنفی اور تشخیصی تعصب نفسیات کے تناظر میں نقصان کا باعث بنتا ہے۔
• تعصب کی جانچ کو لاگو کرنے کی اہلیت جو مختلف گروہوں، زبانوں اور ثقافتوں کے لیے آؤٹ پٹ کی جانچ کرتی ہے۔
• فوری اور توثیق کی تکنیک تیار کرنے کی اہلیت جو مغربی مرکز کے معمول اور بدنما زبان کو درست کرتی ہے

مصنوعی ذہانت (AI) غیر جانبدار نہیں ہے۔ ایک AI ماڈل انٹرنیٹ پر متن کے ایک بڑے ڈھیر سے سیکھتا ہے، اور ماڈل کا "عالمی منظر" اس بات سے متزلزل ہوتا ہے کہ اس میں کس کی آواز زیادہ ہے اور کس کی آواز کم ہے۔ اس تحریف کو تعصب کہا جاتا ہے۔ نفسیات میں تعصب کوئی معمولی تکنیکی خرابی نہیں ہے۔ یہ کسی شخص کی تشخیص، تشخیص اور علاج کو براہ راست متاثر کر سکتا ہے۔ ایک علامت کو ایک ثقافت میں "عام" اور دوسری ثقافت میں "پیتھولوجیکل" کے طور پر پڑھا جا سکتا ہے۔ ایک رویے کو ایک صنف میں "جارحیت" اور دوسری میں "جارحیت" کے طور پر تیار کیا جا سکتا ہے۔ AI ان تاریخی تعصبات کو سیکھ اور نقل کر سکتا ہے۔ اس یونٹ میں آپ نفسیات کے تناظر میں AI میں تعصب کو پہچاننا سیکھیں گے اور مختلف گروہوں، زبانوں اور ثقافتوں کے نتائج کا آڈٹ کریں گے۔

تعصب کہاں سے آتا ہے اور کیسے نقصان پہنچاتا ہے؟

AI تعصب کے تین بنیادی ذرائع ہیں:

1. تربیتی ڈیٹا کا عدم توازن۔ ماڈلز کو بنیادی طور پر ایک مخصوص زبان، ثقافت اور مدت کے متن کے ساتھ تربیت دی جاتی ہے۔ نفسیاتی ادب کا بڑا حصہ مغربی، تعلیم یافتہ، صنعتی معاشروں سے آتا ہے۔ لہذا AI کا "عام انسان" مفروضہ اس تنگ نمونے کی عکاسی کرتا ہے۔
2. تاریخی تعصب کی شمولیت۔ وہ متن جو ماضی میں بعض گروہوں کو پیتھولوجائز اور بدنامی کا نشانہ بناتے تھے وہ بھی ڈیٹا میں شامل ہیں۔ ماڈل ان نمونوں کو سیکھتا ہے۔
3. نمائندگی کا فقدان۔ ماڈل کے پاس یا تو کم نمائندگی والے گروہوں (مختلف نسل، زبان، جنسی رجحان، معذوری) کے بارے میں ناکافی یا دقیانوسی معلومات ہیں۔

نقصان ٹھوس ہے: AI علامات کو ایک گروپ میں زیادہ شدید اور دوسرے کی نسبت ہلکا سمجھ سکتا ہے۔ غلطی سے ثقافتی اظہار (ماتم کی رسم، مذہبی تجربہ) کو علامت سمجھ سکتا ہے۔ یہ بدنما، کلچڈ زبان پیدا کر سکتا ہے۔

احتیاط: یہاں تک کہ اگر AI سے کوئی آؤٹ پٹ "معروضی سائنس" لگتا ہے، تو یہ وہ تعصبات لے سکتا ہے جو اس نے سیکھا ہے۔ خاص طور پر جب بات مختلف ثقافتوں، جنسوں، جنسی رجحانات، اور سماجی اقتصادی گروہوں کی ہو تو ہم ہر ایک نتیجہ کو "کیا یہ تمام گروہوں کے لیے منصفانہ ہے؟" سوال کے ساتھ فلٹر کریں۔

نفسیات کے لیے مخصوص تعصب کی اقسام

تعصب کی قسم

نفسیات میں دیکھیں

خطرہ

ثقافتی تعصب

مغربی اصولوں کو آفاقی سمجھنا

ثقافتی اظہار کو پیتھالوجی کے لیے غلط نہ سمجھیں۔

صنفی تعصب

جنس کے لحاظ سے ایک ہی رویے کی مختلف تشریح کرنا

تشخیصی تفاوت

تشخیصی تعصب

بعض گروہوں کو مخصوص تشخیص کے لیے "مشکل" کے طور پر پیش کرنا

تشخیص سے زیادہ/کم

زبان کا تعصب

غالب زبان میں زیادہ "ماہر"، دوسری میں سطحی

غیر مساوی تشخیص

مہر لگانا

وہ زبان جو شخص کو اس کی تشخیص سے پہچانتی ہے۔

گھٹیا فریمنگ

مرحلہ وار: تعصب کنٹرول

1. آپ آؤٹ پٹ کو "یہ کس کے لیے لکھا گیا تھا؟" میں تبدیل کر سکتے ہیں۔ سوال پہلے سے طے شدہ موضوع کون ہے؟ وہ عام طور پر ایک تعلیم یافتہ، مغربی، "اوسط" آدمی ہے۔
2. مختلف گروپوں کے ساتھ ٹیسٹ کریں۔ مختلف ثقافتی، جنس اور عمر کے سیاق و سباق میں اسی پرامپٹ کو دہرائیں۔ کیا تبصرے بدل رہے ہیں؟
3. داغدار زبان کو اسکین کریں۔ درست الفاظ جو اس شخص کی تشخیص سے شناخت کرتا ہے ("شیزوفرینیا" کے بجائے "شیزوفرینیا کا سامنا کرنے والا شخص")۔
4. ثقافتی سیاق و سباق شامل کریں۔ AI کو کلائنٹ کا ثقافتی/لسانی سیاق و سباق بتائیں اور "ایسے تاثرات پر غور نہ کریں جو اس تناظر میں عام ہو سکتے ہیں پیتھالوجی۔"
5. ماہر اور کمیونٹی کی آنکھیں۔ اگر آپ کو کسی ثقافتی مسئلے کے بارے میں یقین نہیں ہے، تو کسی ایسے ساتھی سے مشورہ کریں جو اس ثقافت کو جانتا ہو۔
6. لوگوں کو فیصلہ کرنے دیں۔ یہاں تک کہ تعصب کی جانچ بھی AI پر نہیں چھوڑی گئی ہے۔ انصاف کا آخری فیصلہ آپ کے ہاتھ میں ہے۔

ٹپ: یہ جانچنے کا ایک عملی طریقہ کہ آیا کوئی آؤٹ پٹ متعصب ہے: پرامپٹ میں ایک وصف (جنس، ثقافت، عمر) کو تبدیل کریں اور وہی سوال دوبارہ پوچھیں۔ اگر اس تبدیلی کے ساتھ تشریح "غیر منصفانہ" بدل جاتی ہے، تو تعصب ہوتا ہے۔

تین چھوٹے مقدمات

کیس 1 - ثقافتی اظہار کی پیتھولوجائزنگ۔ ایک پیشہ ور AI کو بتاتا ہے کہ ایک مختلف ثقافت سے تعلق رکھنے والا کلائنٹ غم کے عمل کے دوران "میت سے بات کر رہا ہے"۔ AI اسے "ایک نفسیاتی علامت ہو سکتا ہے" کے طور پر تیار کرتا ہے۔ تاہم، یہ اس کلائنٹ کی ثقافت میں غم کا ایک عام اور عام اظہار ہے۔ ماہر AI کے آؤٹ پٹ کو مسترد کرتا ہے کیونکہ وہ ثقافتی تناظر کو جانتا ہے۔ کوئی شخص جو سیاق و سباق کو نہیں جانتا تھا وہ سنگین غلط فہمی کر سکتا ہے۔

کیس 2 - صنفی تعصب کی جانچ۔ ایک تفتیش کار AI کو ایک ہی کیس کا خلاصہ دو بار دیتا ہے۔ یہ صرف انسان کی جنس کو تبدیل کرتا ہے۔ "خواتین" ورژن میں، AI "جذباتی عدم استحکام" پر زور دیتا ہے، جب کہ "مرد" ورژن میں، یہ اسی طرز عمل کو "تناؤ کے ردعمل" کے طور پر تیار کرتا ہے۔ یہ واضح طور پر ماڈل کے صنفی تعصب کو ظاہر کرتا ہے۔ محقق اس فرق کو دستاویز کرتا ہے اور اس آگاہی کے ساتھ نتائج کا استعمال کرتا ہے۔

کیس 3 - بدنما زبان کو درست کرنا۔ ایک رپورٹ کے مسودے میں کہا گیا ہے کہ اے آئی ایک "بیمار بارڈر لائن" ہے۔ ماہر اسے ایک بدنما زبان کے طور پر دیکھتا ہے جو اس کی تشخیص کے ساتھ اس شخص کی شناخت کرتی ہے اور اسے اس زبان میں ترجمہ کرتی ہے جو اس شخص پر مرکوز ہوتی ہے، جیسے کہ "ایک متعین سرحدی شخصیت کے پیٹرن والا فرد"۔ زبان میں ایک چھوٹی سی تبدیلی کلائنٹ کے وقار کی حفاظت میں بڑا فرق ڈالتی ہے۔

کاپی کرنے کے قابل اشارے اور ٹیمپلیٹس

تعصب کے لیے درج ذیل متن کو چیک کریں: جھنڈے والے بیانات جو ثقافتی، جنس، جنسی رجحان، عمر، یا سماجی و اقتصادی تعصب کی نشاندہی کرتے ہیں۔ ان مفروضوں کو بھی دکھائیں جو مغربی اصولوں کو آفاقی مانتے ہیں۔ ہر ایک کے لیے بہتر متبادل تجویز کریں۔ متن: [text]

مندرجہ ذیل صورت حال کا جائزہ لینے میں میری مدد کریں، لیکن کلائنٹ کا ثقافتی سیاق و سباق [ ثقافت/ زبان] ہے۔ اس تناظر میں، ایسے تاثرات پیش کرنا جو پیتھالوجی کے طور پر نارمل ہو سکتے ہیں۔ اگر آپ کو کسی ثقافتی نقطہ کے بارے میں یقین نہیں ہے، تو کہیں کہ "یہ ثقافتی طور پر مختلف ہو سکتا ہے، کسی ماہر سے مشورہ کریں۔" حیثیت: [گمنام حیثیت]

اس متن میں بدنما تاثرات کا ترجمہ کریں جو اس شخص کی تشخیص کے ساتھ اس کی شناخت کرتے ہیں (مثال کے طور پر، "شیزوفرینک،" "ایک بارڈر لائن") جو اس شخص کو مرکز کرتی ہے اور اس کی عزت کو محفوظ رکھتی ہے۔ مواد کو تبدیل نہ کریں، صرف زبان کو انسان بنائیں۔ متن: [متن]

میں مندرجہ ذیل کیس کے خلاصے کا دو بار جائزہ لوں گا: ایک بار موضوع [فیچر A]، دوسرا [فیچر B]۔ کیا دونوں تشخیصات کے درمیان غیر منصفانہ فرق ہے، اور اگر ایسا ہے، تو کیا یہ تعصب کی وجہ سے ہے؟ موازنہ کریں خلاصہ: [گمنام خلاصہ]

کمزور فوری / مضبوط اشارہ

کمزور اشارہ: "کیا اس کلائنٹ کا رویہ نارمل ہے یا غیر معمولی؟"

یہ پرامپٹ یہ نہیں پوچھتا کہ "عام" کس کے لیے ہے؛ AI مغربی مرکوز، غیر مہذب "عام" کو فرض کرتا ہے اور ثقافتی اظہار کو پیتھولوجائز کر سکتا ہے۔

مضبوط اشارہ: "یہ کلائنٹ [ثقافتی/لسانی سیاق و سباق] میں ہے۔ وضاحت کریں کہ کیا یہ سلوک اس ثقافتی تناظر میں ایک عام اظہار ہوسکتا ہے یا ایک علامت جس پر توجہ دینے کی ضرورت ہے، دونوں پر الگ الگ بحث کریں۔ کوئی حتمی فیصلہ نہ کریں؛ مجھے کسی ایسے ماہر سے مشورہ کرنے کی یاد دلائیں جو ثقافتی تناظر کو جانتا ہو۔"

یہ پرامپٹ سیاق و سباق کو مرکز میں رکھتا ہے، ثقافتی غلط فہمی کو روکتا ہے، اور فیصلہ ماہر پر چھوڑ دیتا ہے۔

عام غلطیاں

• "مقصد" کے لیے AI آؤٹ پٹ کو غلط سمجھنا۔ یہ بھول جانا کہ ماڈل تعصب رکھتا ہے اور آؤٹ پٹ کو سائنسی حقیقت کے طور پر قبول کرتا ہے۔
• مغربی اصول کو آفاقی تصور کرنا۔ ایک ثقافت کے مطابق "نارمل" کی تعریف کرنا اور مختلف تاثرات کو پیتھولوجائز کرنا۔
• بدنما زبان پر توجہ نہ دینا۔ اس زبان کو غلط سمجھنا جو اس کی تشخیص کے ساتھ شخص کی شناخت "تکنیکی زبان" کے طور پر کرتی ہے۔
• تعصب کی جانچ نہیں کرنا۔ مختلف گروپوں کے ساتھ ایک ہی پرامپٹ کی کوشش نہیں کرنا اور مستقل مزاجی کی جانچ کرنا۔
• ایسی ثقافت میں اکیلے فیصلے کرنا جسے آپ نہیں جانتے۔ کسی ایسے ساتھی سے مشورہ کیے بغیر فیصلہ کرنا جو اس ثقافت کو جانتا ہو۔

خلاصہ میں

AI متعصب ہے کیونکہ یہ متعصب دنیا کے متن سے سیکھتا ہے۔ نفسیات میں، یہ تعصب ثقافتی، جنس، تشخیصی، زبان، اور بدنما داغ کی شکل میں ٹھوس نقصان میں ترجمہ کرتا ہے۔ ہر آؤٹ پٹ کا اس سوال کے ساتھ موازنہ کریں "کیا یہ تمام گروپس کے لیے مناسب ہے؟" اسے دباؤ؛ مختلف گروپوں کے ساتھ ایک ہی پرامپٹ کی جانچ کریں۔ اپنے پرامپٹ میں ثقافتی سیاق و سباق شامل کریں؛ بدنما زبان کو شخصی زبان میں تبدیل کرنا؛ کسی ایسی ثقافت پر ماہر/کمیونٹی کی نظریں تلاش کریں جس سے آپ ناواقف ہیں۔ انصاف کا فیصلہ، بشمول تعصب پر قابو، انسان سے نکلتا ہے۔

درخواست کا کام

کیس کا خلاصہ تیار کریں (گمنام)۔ اسے دو بار AI کو دیں؛ صرف ایک خصوصیت (جنس، ثقافت یا عمر) کو تبدیل کریں۔ دونوں پرنٹ آؤٹ کو ساتھ ساتھ رکھیں اور غیر منصفانہ اختلافات کی جانچ کریں۔ AI کو رپورٹ کے پیراگراف میں بدنما فقروں کا شخصی مرکز زبان میں ترجمہ کریں اور فرق کو نوٹ کریں۔

چیک لسٹ

• آؤٹ پٹ کو "کیا یہ تمام گروپوں کے لیے مناسب ہے؟" میں تبدیل کریں۔ میں نے سوال کیا۔
• میں نے ایک ہی پرامپٹ کو مختلف گروپوں/ثقافتوں کے ساتھ آزمایا۔
• میں نے ثقافتی سیاق و سباق کو پرامپٹ میں شامل کیا ہے۔ میں نے ثقافتی اظہار کو پیتھولوجائز نہیں کیا۔
• میں نے بدنما زبان کو شخصی زبان میں بدل دیا۔
• میں نے ایک ثقافتی مسئلے پر ایک ماہر/ساتھی سے مشورہ طلب کیا جس سے میں ناواقف تھا۔
• میں نے انصاف کا حتمی فیصلہ اپنے فیصلے پر چھوڑ دیا، اے آئی پر نہیں۔