فائدہ:
- ذمہ دار AI اصولوں (منصفانہ، شفافیت، جوابدہی، رازداری، انسانی نگرانی، سلامتی، پائیداری) کو ٹھوس فیصلوں سے جوڑنے کی صلاحیت
- اخلاقیات کو قانونی تعمیل سے الگ کرکے اور 'ہم کر سکتے ہیں' اور 'ہمیں چاہیے' کے درمیان فرق کرکے متاثرہ فریقوں اور تعصب کو جانچنے کی صلاحیت
- ڈیزائن میں شفافیت، انسانی نگرانی اور اپیل شامل کرکے بدسلوکی کے منظرناموں کو پیشگی کم کرنے کی صلاحیت
ایک AI سٹارٹ اپ تکنیکی طور پر کامل، مالی طور پر منافع بخش، اور قانونی طور پر قابل عمل ہو سکتا ہے۔ لیکن یہ اب بھی غلط ہو سکتا ہے. اخلاقیات "ہم کر سکتے ہیں" اور "ہمیں چاہئے" کے درمیان فرق ہے۔ ایک سینئر مینیجر کے لیے اخلاقیات زیب وزینت یا تعلقات عامہ کا معاملہ نہیں ہے۔ یہ وہ بنیاد ہے جو ادارے کی طویل مدتی اعتبار، ساکھ اور سماجی جواز کو برقرار رکھتی ہے۔ اس یونٹ میں، آپ ذمہ دار AI کے اصول سیکھیں گے (مصنوعی ذہانت کو اس طریقے سے تیار کرنے اور استعمال کرنے کا طریقہ جو منصفانہ، شفاف، جوابدہ اور انسانی وقار کا احترام کرنے والا ہو) اور روزمرہ کے فیصلوں میں ان کی عکاسی کیسے کی جائے۔
ذمہ دار AI کے بنیادی اصول
مختلف فریم ورک ایک جیسے اصولوں پر ملتے ہیں۔ مینیجر کے لیے عملی خلاصہ:
اصول
آپ کا کیا مطلب ہے؟
منتظم کا سوال
انصاف
غیر امتیازی سلوک
کیا یہ غیر منصفانہ طور پر کسی گروپ کو متاثر کرتا ہے؟
شفافیت
قابل فہم ہو
کیا ہم فیصلے کی وجہ بتا سکتے ہیں؟
احتساب
ذمہ دار کون ہے اس کی نشاندہی کرنا
غلطی ہو جائے تو ذمہ دار کون؟
رازداری
ذاتی ڈیٹا کا احترام
کیا ہمیں ڈیٹا استعمال کرنے کا حق ہے؟
انسانی نگرانی
قابو میں رہنا
کیا کوئی اعتراض کر کے اسے روک سکتا ہے؟
سیکورٹی
کوئی نقصان نہ کرو
کیا یہ زیادتی ہو سکتی ہے؟
پائیداری
ماحولیاتی/سماجی اثرات
ہم قیمت کس پر عائد کریں؟
یہ اصول خلاصہ نہیں ہیں۔ ان میں سے ہر ایک کو ٹھوس فیصلے سے جوڑا جا سکتا ہے۔ مثال کے طور پر، "شفافیت" کا مطلب ہے کسی صارف کو یہ بتانا کہ وہ AI سے بات کر رہے ہیں۔ "انسانی نگرانی" کا مطلب یہ ہے کہ قرض کے انکار کا انسانی جائزہ لیا جائے اور اسے اپیل کے لیے کھلا چھوڑ دیا جائے۔
ٹپ: ہر اعلیٰ اثر والے AI فیصلے کے ساتھ، ایک سوال پوچھیں: "کیا میں سب سے زیادہ منفی طور پر متاثر ہونے والے شخص کو اس فیصلے کی واضح وضاحت اور پیچھے کھڑا کر سکتا ہوں؟" اگر جواب ناگوار ہوتا ہے، تو ایک اخلاقی مسئلہ ہے۔
اخلاقیات قانون سے مختلف ہیں۔
ایک اہم امتیاز: قانونی تعمیل (یونٹ 9) کم از کم ہے۔ اخلاقیات ایک اونچی لکیر ہے۔ کچھ قانونی ہو سکتا ہے لیکن غیر اخلاقی۔ مثال کے طور پر، صارف کے رویے میں ہیرا پھیری کے لیے کسی ایپ کو مصنوعی ذہانت کے استعمال سے منع نہیں کیا جا سکتا، لیکن یہ غیر اخلاقی ہے۔ ذمہ دار ادارے "کیا حرام ہیں؟" نہیں "کیا یہ سچ ہے؟" وہ پوچھتا ہے.
قدم بہ قدم: فیصلے میں اخلاقیات کو سرایت کرنا
1. متاثرہ فریقوں کی شناخت کریں۔ اس اقدام سے کون متاثر ہوتا ہے؟ (گاہک، ملازم، معاشرہ، پسماندہ گروہ)
2. پالیسیوں کے ساتھ اسکین کریں۔ مذکورہ بالا اصولوں میں سے ہر ایک کے لحاظ سے پہل پر سوال کریں۔
3. تعصب اور نقصان کے لیے ٹیسٹ کریں۔ کیا ماڈل کچھ گروپوں کو غیر منصفانہ طور پر متاثر کرتا ہے؟ بدسلوکی کے منظرنامے کیا ہیں؟
4. شفافیت اور نگرانی شامل کریں۔ مصنوعی ذہانت کے استعمال کی اطلاع دیں، انسانی اعتراض کا کوئی راستہ نہ چھوڑیں۔
5. دستاویزات اور جائزہ۔ اخلاقی تشخیص کو محفوظ کریں؛ وقتاً فوقتاً دوبارہ چیک کریں۔
تین چھوٹے مقدمات
کیس 1 - قانونی لیکن غلط۔ ایک ایپ نے مصنوعی ذہانت کا استعمال کرتے ہوئے صارفین کو ایپ میں زیادہ دیر تک رکھنے کے لیے نشہ آور اطلاعات پیدا کیں۔ اس میں کوئی قانونی رکاوٹ نہیں تھی لیکن جب پریس میں اس کی اطلاع دی گئی تو شہرت کو شدید نقصان پہنچا۔ اس کے نوجوان صارفین کو خاص طور پر نشانہ بنانے پر تنقید ہوئی۔ کمپنی نے اس فیچر کو ہٹا دیا۔ اگر اخلاقی فلٹر شروع سے تھا، تو یہ خطرہ دیکھا جائے گا.
کیس 2 - فیئرنس ٹیسٹ کی قدر۔ بینک کے کریڈٹ اسکورنگ ماڈل نے منظم طریقے سے محفوظ گروپوں کی درخواستوں کو کم اسکور دیا۔ یہ انصاف کے آڈٹ میں پکڑا گیا۔ ماڈل کو نئے سرے سے ڈیزائن کیا گیا اور اس کے نتائج میں گروپ ایکویٹی کو یقینی بنانے کے لیے باقاعدگی سے جانچ کی گئی۔ اخلاقی اصول (انصاف) ایک ٹھوس امتحان میں بدل گیا اور حقیقی نقصان کو روکا۔
کیس 3 - شفافیت نے اعتماد پیدا کیا۔ ایک ای کامرس کمپنی نے اپنے کسٹمر سپورٹ چیٹ بوٹ کے آغاز میں یہ جملہ ڈالا کہ "ایک مصنوعی ذہانت کا معاون آپ کی مدد کرتا ہے، آپ کسی بھی وقت انسانی نمائندے سے رابطہ کر سکتے ہیں"۔ شفافیت اور انسانی اخراج نے اطمینان کو کم نہیں کیا۔ اس کے برعکس، اس سے اعتماد میں اضافہ ہوا اور شکایات میں 15 فیصد کمی واقع ہوئی۔ شفافیت کو صحیح طریقے سے انجام دیا گیا، قیمت نہیں تھی۔
چار کاپی کرنے کے قابل ٹیمپلیٹس
1) اخلاقی اسکریننگ:
آپ کا کردار: ذمہ دار AI مشیر۔ اس اقدام کو 7 اصولوں کے لیے اسکین کریں: انصاف، شفافیت، جوابدہی، رازداری، انسانی نگرانی، سلامتی، پائیداری۔ ہر پالیسی کے لیے، ایک خطرہ اور ایک سفارش لکھیں۔ پہل: [متن]
2) متاثرہ پارٹی تجزیہ:
اس AI اقدام سے متاثر ہونے والے تمام فریقوں کی فہرست بنائیں (گاہک، ملازم، معاشرہ، پسماندہ گروہ)۔ ہر فریق کے لیے ممکنہ مثبت اور منفی اثرات لکھیں۔ اس گروپ کو نشان زد کریں جس کا سب سے زیادہ نقصان ہو سکتا ہے۔ پہل: [متن]
3) بدسلوکی کا منظر:
5 منظرنامے بنائیں جن میں درج ذیل AI خصوصیت کا غلط استعمال کیا جا سکتا ہے (بشمول ہیرا پھیری، امتیازی سلوک، رازداری کی خلاف ورزی، دھوکہ)۔ ہر منظر نامے کے لیے احتیاطی ڈیزائن کا فیصلہ تجویز کریں۔ وصف: [متن]
4) شفافیت اور نگرانی کا کنٹرول:
گاہک کا سامنا کرنے والے AI کے لیے شفافیت اور انسانی نگرانی کا منصوبہ لکھیں کہ: صارف کو کیا بتایا جائے گا اور کیسے؛ اسے انسانوں میں کیسے منتقل کیا جا سکتا ہے؟ وہ فیصلے پر اعتراض کیسے کر سکتا ہے؟ استعمال: [متن]
کمزور فوری / مضبوط اشارہ
کمزور: "کیا یہ AI اخلاقی ہے؟"
نتیجہ: ایک سطحی "ہاں/نہیں"؛ کون سا اصول، کون متاثر، کون سا پیمانہ واضح نہیں ہے۔
مضبوط: "ہم بھرتی سے پہلے اسکریننگ ٹول میں AI استعمال کرنے پر غور کر رہے ہیں (حتمی فیصلہ انسان ہی کرے گا)۔ انصاف، شفافیت، جوابدہی، اور انسانی نگرانی کے اصولوں کے لیے اس کی جانچ کریں۔ ٹھوس طور پر لکھیں کہ امیدواروں کے کون سے گروپ غیر منصفانہ طور پر متاثر ہو سکتے ہیں، مجھے کون سے تعصبی ٹیسٹ کرنے کی ضرورت ہے، اور امیدوار فیصلے کے خلاف کیسے اپیل کر سکتے ہیں۔"
نتیجہ: ایک اصول پر مبنی، عملی تشخیص جو متاثرہ فریق کی شناخت کرتا ہے اور جانچ اور اپیل کا مشورہ دیتا ہے۔
عام غلطیاں
- قانونی تعمیل کے ساتھ اخلاقیات کو الجھانا۔ ہر وہ چیز جو قانونی ہے اخلاقی نہیں ہے۔ اخلاقیات ایک اونچی لکیر ہے۔
- اخلاقیات کو باقی رکھنا۔ ڈیزائن کے بعد "اخلاقیات کی منظوری" حاصل کرنا بہت دیر ہو چکا ہے۔ اخلاقیات کو شروع سے ہی ڈیزائن میں سرایت کرنا چاہیے۔
- انصاف کا امتحان نہیں ۔ یہ مفروضہ کہ "ہمارا ماڈل غیر جانبدار ہے" خطرناک ہے۔ پیمائش کے بغیر نہیں جانا جا سکتا.
- لاگت کے لیے شفافیت کو غلط سمجھنا۔ درست طریقے سے شفافیت اعتماد اور قدر میں اضافہ کرتی ہے۔
- متاثرہ اطراف کو تنگ رکھنا۔ صرف گاہک کے بارے میں سوچنا اور ملازم، معاشرے اور پسماندہ گروہوں کو نظر انداز کرنا ایک اندھا دھبہ پیدا کرتا ہے۔
احتیاط: اخلاقی تشخیص کو مکمل طور پر مصنوعی ذہانت پر چھوڑ دینا متضاد اور خطرناک ہے۔ AI اخلاقی سوالات اٹھانے میں مدد کر سکتا ہے، لیکن قدر کا فیصلہ، ثقافتی تناظر، اور حتمی اخلاقی ذمہ داری انسان کے ساتھ ہے۔ کسی تنظیم کے اخلاقی موقف کا تعین لوگوں کے شعوری انتخاب سے ہوتا ہے، نہ کہ "AI نے ایسا کہا"۔
خلاصہ میں
اخلاقیات "ہم کر سکتے ہیں" اور "ہمیں چاہئے" کے درمیان فرق ہے اور تنظیم کی طویل مدتی ساکھ کی حفاظت کرتی ہے۔ ذمہ دار AI؛ یہ انصاف، شفافیت، احتساب، رازداری، انسانی نگرانی، سلامتی اور پائیداری کے اصولوں پر مبنی ہے۔ یہ اصول خلاصہ نہیں ہیں۔ یہ ٹھوس فیصلوں میں ترجمہ کرتا ہے جیسے متاثرہ فریقوں کی شناخت کرنا، تعصب کی جانچ کرنا، شفافیت فراہم کرنا، اور انسانی نگرانی شامل کرنا۔ اخلاقیات قانون سے مختلف ہے اور ایک اعلیٰ لکیر ہے۔ اسے آخر تک نہیں چھوڑا جا سکتا، اسے ڈیزائن میں سرایت کرنا ضروری ہے۔ اگلی اکائی میں، ہم تعمیل پر بات کریں گے، جو اخلاقیات کے قانونی مساوی ہے، خاص طور پر EU AI قانون اور KVKK۔
درخواست کا کام
ایک اعلی اثر والے AI اسٹارٹ اپ کا انتخاب کریں۔ ٹیمپلیٹ 2 کے ساتھ، تمام متاثرہ فریقوں کی فہرست بنائیں اور اس گروپ کو نشان زد کریں جس کا سب سے زیادہ نقصان ہو سکتا ہے۔ ٹیمپلیٹ 1 کے ساتھ، سات اصولوں کے لیے پہل کو اسکین کریں۔ دو انتہائی اہم اخلاقی خطرات کے لیے ایک ٹھوس اقدام (منصفانہ جانچ، شفافیت کی اطلاع، اپیل کا راستہ، وغیرہ) کی وضاحت کریں۔ آخر میں، "کیا میں سب سے زیادہ منفی طور پر متاثر ہونے والے شخص کو اس فیصلے کی وضاحت کر سکتا ہوں؟" ایمانداری سے سوال کا جواب دیں۔
چیک لسٹ
- میں نے تمام متاثرہ فریقوں کی شناخت کر لی ہے۔
- میں نے ذمہ دار AI کے سات اصولوں کے ساتھ اسٹارٹ اپ کی اسکریننگ کی۔
- میں نے تعصب/انصاف کے لیے ایک ٹیسٹ کا منصوبہ بنایا۔
- میں نے شفافیت کا بیان تیار کیا ہے۔
- میں نے انسانی نگرانی اور اپیل کا کوئی راستہ نہیں چھوڑا۔
- میں نے بدسلوکی کے منظرناموں کے بارے میں سوچا۔
- [ ] "کیا میں اسے سب سے زیادہ متاثر ہونے والے کو سمجھا سکتا ہوں؟" میں نے امتحان پاس کیا۔