فائدہ:
- سمجھتا ہے کہ ڈیٹا AI تعصب کا بنیادی ذریعہ ہے۔
- ان خطرات کو پہچانتا ہے جو کام کی جگہ پر تعصب پیدا کر سکتا ہے۔
- ایسے اقدامات کو نافذ کرتا ہے جو تعصب کو کم کرنے کے لیے اٹھائے جاسکتے ہیں۔
AI ایک غیر جانبدار، معروضی مشین کے طور پر ظاہر ہوتا ہے؛ لیکن حقیقت بہت زیادہ پیچیدہ ہے. AI سسٹمز اس ڈیٹا میں انسانی تعصبات سیکھتے ہیں جس پر انہیں تربیت دی جاتی ہے اور بعض اوقات ان کو بڑھاتے اور دوبارہ تیار کرتے ہیں۔ تعصب ایک نظام کا رجحان ہے جو کچھ لوگوں یا گروہوں کو منظم طریقے سے پسند کرتا ہے یا اسے خارج کرتا ہے۔ اس یونٹ میں، ہم غور کریں گے کہ تعصب کہاں سے آتا ہے، کام کی جگہ پر اس سے کون سے ٹھوس خطرات لاحق ہوتے ہیں، اور اس کے خلاف کیا کیا جا سکتا ہے۔ یہ صرف "اخلاقیات" کا معاملہ نہیں ہے۔ یہ ایک عملی کاروباری معاملہ ہے جس کا غلط انتظام ہونے پر قانونی، تجارتی اور شہرت کا خطرہ ہوتا ہے۔
تعصب کہاں سے آتا ہے؟
زبان کے ماڈل کی معلومات انسانوں کی تخلیق کردہ بڑی تحریروں سے آتی ہے۔ ان تحریروں میں انسانی معاشرے کے تمام علم کے ساتھ ساتھ اس کے تمام دقیانوسی تصورات، عدم توازن اور تاریخی عدم مساوات موجود ہیں۔ ماڈل "اچھے" اور "خراب" نمونوں میں فرق نہیں کرتا ہے۔ یہ جو کچھ بھی ڈیٹا میں ہے سیکھتا ہے۔
مثال: اگر ماضی کے متن میں کچھ پیشے بنیادی طور پر کسی جنس سے وابستہ تھے (جیسے "نرس" خاتون کے ساتھ، "انجینئر" مرد کے ساتھ)، ماڈل اس تعلق کو سیکھتا ہے۔ وہ جملہ مکمل کرتے وقت مرد ضمیر کا انتخاب کر سکتی ہے، "ایک انجینئر دفتر میں آیا، وہ..." ماڈل بدنیتی پر مبنی نہیں ہے؛ یہ محض اعداد و شمار میں عدم توازن کو ظاہر کرتا ہے۔
لہذا تعصب زیادہ تر اس کی وجہ ہے کہ یہ ڈیٹا کا آئینہ ہے، نہ کہ شعوری پروگرامنگ کی غلطی۔ "کسی نے برا کوڈ لکھا" کے طور پر مسئلہ کی وضاحت گمراہ کن ہے۔ مسئلہ یہ ہے کہ دنیا میں عدم توازن کو ڈیٹا اور وہاں سے ماڈل میں لے جایا جاتا ہے۔
کام کی جگہ پر ٹھوس خطرات
علاقہ
تعصب کا خطرہ
ممکنہ نقصان
بھرتی
تاریخی اعداد و شمار میں رجحان جانیں اور کچھ گروپوں کو ختم کریں۔
قانونی مقدمہ، قابلیت کا نقصان
کسٹمر مواصلات
دقیانوسی یا خارجی زبان
ساکھ کا نقصان، گاہک کی پرواز
کریڈٹ/خطرہ
ماضی کی عدم مساوات کو برقرار رکھنا
امتیازی سلوک، پابندیاں
کارکردگی کی تشخیص
ڈیٹا میں تعصب کو فیصلے میں لے جانا
غیر منصفانہ پروموشن/بونس
مواد/مارکیٹنگ
مخصوص گروپ کو پوشیدہ بنائیں
برانڈ کا نقصان
تین چھوٹے کیسز
کیس 1 - اشتہار زبان کو تنگ کر رہا تھا۔ ایک کمپنی نے AI کے ساتھ ملازمت کی پوسٹنگ پرنٹ کرنا شروع کی۔ تھوڑی دیر کے بعد، یہ دیکھا گیا کہ اشتہارات نے "نوجوان اور متحرک"، "جارحانہ ہدف" جیسے تاثرات کے ساتھ ایک مخصوص پروفائل پر اپیل کی اور اس طرح ایپلی کیشنز کے تنوع کو کم کر دیا۔ ٹیم نے ایک قدم شامل کیا جو ہر پوسٹنگ کو "شامل زبان" کے لیے چیک کرتا ہے۔ درخواست دہندگان کے تنوع میں چند مہینوں میں نمایاں اضافہ ہوا ہے۔
کیس 2 - خلاصہ میں پوشیدہ تعصب۔ ایک مینیجر کے پاس AI کا خلاصہ 30 ملازمین کے تاثرات تھے۔ ریکاپ ایک خاص ٹیم پر منفی تبصروں کو مرکوز کرتی نظر آتی ہے۔ جبکہ خام اعداد و شمار میں صورتحال متوازن تھی۔ ماڈل نے کئی مضبوط بیانات کو بڑھا چڑھا کر پیش کیا۔ منیجر نے واپس جا کر خام ڈیٹا چیک کیا تو اس نے غلط فہمی پیدا کرنے سے گریز کیا۔
کیس 3 - شمولیت کے مینڈیٹ نے کام کیا۔ ایک مارکیٹنگ ٹیم نے مہم کی نقل میں دی گئی ہدایات کو معیاری بنایا تاکہ "شامل، غیر مخصوص جنس/عمر/گروپ کی زبان استعمال کریں اور اپنے مفروضوں کو آخر میں درج کریں۔" تیار کردہ تحریروں میں فارمولک اظہار میں نمایاں کمی آئی ہے۔ ٹیم کو بار بار ہر آؤٹ پٹ کو دستی طور پر درست کرنے کی ضرورت نہیں تھی۔
تعصب کو پہچاننا کیوں مشکل ہے؟
تعصب کے بارے میں سب سے خطرناک چیز یہ ہے کہ یہ اکثر پوشیدہ ہوتا ہے۔ آؤٹ پٹ ہموار، پیشہ ورانہ اور معقول نظر آتا ہے۔ اس کے اندر کا رجحان اسی وقت ظاہر ہوتا ہے جب کوئی غور سے دیکھے یا مختلف گروہوں پر اس کے اثرات کو ماپے۔ ایک مثال کو دیکھ کر یہ کہنا کہ "یہاں کوئی تعصب نہیں ہے" گمراہ کن ہے۔ تعصب اکثر انفرادی مثالوں میں نہیں بلکہ نظام کے عمومی رجحان میں ظاہر ہوتا ہے۔
احتیاط: یہ مفروضہ کہ "میں غیر جانبدار ہوں، اس لیے جو ٹول میں استعمال کرتا ہوں وہ بھی غیر جانبدار ہے" خطرناک ہے۔ ٹول کی غیر جانبداری کا انحصار تربیت کے ڈیٹا اور اس کا معائنہ کرنے کے طریقہ پر ہے، نہ کہ آپ کے ارادے پر۔
کمزور پرامپٹ / مضبوط اشارہ
کمزور اشارہ: اس عہدے کے لیے مثالی امیدوار کی وضاحت کریں۔
نتیجہ: ماڈل دقیانوسی تصورات پر انحصار کر سکتا ہے اور کسی خاص پروفائل کو "مثالی" کے طور پر پیش کر سکتا ہے۔
مضبوط اشارہ: اس پوزیشن کے لیے صرف قابل پیمائش صلاحیتوں کی فہرست بنائیں جو واقعی کام سے متعلق ہوں۔ ایسی کوئی خصوصیت استعمال نہ کریں جس کا تعلق ملازمت سے نہ ہو، جیسے جنس، عمر، ازدواجی حیثیت، آبائی شہر۔ آخر میں، وہ لکھیں جو آپ نے "مفروضوں سے بچتا ہوں" کے عنوان کے تحت چھوڑا ہے۔
نتیجہ: تشخیص ملازمت سے متعلق معیار تک محدود ہے، غیر متعلقہ خصوصیات کو خارج کر دیا گیا ہے۔
تعصب کو کم کرنے کے لیے ٹیمپلیٹس
جامع زبان کے لیے ذیل کا متن چیک کریں۔ جھنڈے والے بیانات جو جنس، عمر، نسل، معذوری، یا کسی مخصوص گروہ کو ظاہر کرتے ہیں اور ہر ایک کے لیے غیر جانبدار متبادل تجویز کرتے ہیں۔ متن: [یہاں چسپاں کریں]
یہ تشخیص صرف ان معروضی معیارات کی بنیاد پر کریں: [معیار]۔ ان معیارات (نام، جنس، عمر) کے علاوہ کسی بھی معلومات کو مدنظر نہ رکھیں۔
آخر میں ایک علیحدہ عنوان کے تحت فہرست بنائیں جو آپ نے اپنے تیار کردہ متن میں کیے ہیں۔ تو میں پوشیدہ تعصبات دیکھ سکتا ہوں۔
قارئین کے تین مختلف گروہوں کی نظروں سے اس مواد کا جائزہ لیں اور کسی بھی ایسے بیانات کو نشان زد کریں جو ان میں سے کسی کو ناراض یا ناراض کر سکتے ہیں۔ مواد: [یہاں پیسٹ کریں]
عام غلطیاں
عام غلطیاں
- "غیر جانبدار" AI آؤٹ پٹ فرض کرنا۔ اگرچہ آؤٹ پٹ غیر جانبدار دکھائی دیتا ہے، یہ ڈیٹا میں تعصب کو لے سکتا ہے؛ فعال نگرانی کی ضرورت ہے۔
- ایک مثال کو دیکھتے ہوئے اور کہا کہ "کوئی تعصب نہیں ہے"۔ نظام کے عمومی رجحان میں تعصب پوشیدہ ہے۔
- اعلیٰ اثر والے فیصلہ سازی کو غیر زیر نگرانی AI پر چھوڑنا۔ بھرتی، پروموشن اور کریڈٹ جیسے فیصلوں میں انسانی اختیار ضروری ہے۔
- شمولیت کا مطالبہ کرنا بھول جانا۔ اگر آپ پرامپٹ میں واضح طور پر اس کی درخواست نہیں کرتے ہیں، تو ماڈل ڈیفالٹ پیٹرن پر واپس آجاتا ہے۔
- اس کا مطلب ہے "مشین نے کہا۔" فیصلے کو استعمال کرنے والا بھی نتائج کا ذمہ دار ہے۔
انصاف سب کی ذمہ داری ہے۔
تعصب سے لڑنا صرف تکنیکی ٹیم کا کام نہیں ہے۔ ہر ملازم جو AI آؤٹ پٹ استعمال کرتا ہے اس کی ذمہ داری ہے کہ وہ سوال کرے کہ آیا وہ آؤٹ پٹ منصفانہ ہے۔ "مشین نے مجھے بتایا" کوئی بہانہ نہیں ہے۔ فیصلہ کرنے والا بھی نتائج کا ذمہ دار ہے۔
خلاصہ میں
- AI تعصب کا بنیادی ذریعہ بدکاری نہیں ہے، بلکہ تربیتی ڈیٹا میں موجودہ عدم توازن اور دقیانوسی تصورات ہیں۔
- تعصب؛ یہ بھرتی، کسٹمر مواصلات، مالیات اور تشخیص جیسے شعبوں میں حقیقی قانونی اور شہرت کا خطرہ پیدا کرتا ہے۔
- تعصب اکثر پوشیدہ ہوتا ہے اور نظام کے مجموعی انداز میں سرایت کرتا ہے۔ کسی ایک مثال کو دیکھنا گمراہ کن ہے۔
- کم کرنے کے لیے: آگاہ رہیں، فیصلے کو ملازمت سے متعلق معیار تک محدود رکھیں، واضح طور پر شمولیت کے لیے پوچھیں، اعلیٰ اثر والے فیصلوں پر انسانی کنٹرول رکھیں۔
- "مشین نے مجھے بتایا" کوئی بہانہ نہیں ہے۔ انصاف ہر اس شخص کی ذمہ داری ہے جو آؤٹ پٹ استعمال کرتا ہے۔
درخواست کا کام
AI کو بتائیں کہ "ایک مثالی [کسی بھی پیشے کے] کارکن کی وضاحت کریں" اور نشان زد کریں کہ آؤٹ پٹ میں کیا (شاید غیر ضروری) مفروضے کیے گئے تھے۔ پھر اوپر "ملازمت سے متعلق معیار" ٹیمپلیٹ کے ساتھ دہرائیں اور انصاف کے لیے دونوں آؤٹ پٹس کا موازنہ کریں۔
چیک لسٹ
- [ ] میں سمجھتا ہوں کہ تعصب کا بنیادی ذریعہ تربیتی ڈیٹا ہے۔
- میں ان ٹھوس خطرات کا نام دے سکتا ہوں جو کام کی جگہ پر تعصب لاحق ہوسکتے ہیں۔
- میں جانتا ہوں کہ تعصب اکثر پوشیدہ ہوتا ہے اور کسی ایک مثال کو دیکھنا گمراہ کن ہوتا ہے۔
- [ ] میں واضح طور پر پرامپٹ میں شمولیت اور ملازمت سے متعلق معیار کے بارے میں پوچھ سکتا ہوں۔
- مجھے اعلیٰ اثر والے فیصلوں کی انسانی نگرانی کی ضرورت ہے۔