فائدہ:
- AI سے متعلق مخصوص خطرات کو پہچاننے کی صلاحیت جیسے ہیلوسینیشن، تعصب، ڈیٹا کا رساو، ماڈل ڈرفٹ، انحصار، اور کاروباری اثرات کے ساتھ ناقابلِ وضاحت
- امکانات اور اثرات کے طول و عرض میں خطرات کو اسکور کرنا اور انہیں تخفیف کے اقدامات کے ساتھ ادارے کی خطرے کی بھوک کے اندر رکھنا
- یکسانیت کے بجائے خطرے کی سطح کے مطابق نگرانی کو ایڈجسٹ کرنے کی صلاحیت، انسانی حتمی بات کو یقینی بنانا اور اعلی خطرے والے فیصلوں میں مسلسل نگرانی
قیمت اور خطرہ ایک ہی سکے کے دو رخ ہیں۔ AI قدر کے نئے ذرائع کھولتا ہے، لیکن یہ نئی قسم کے خطرات کو بھی متعارف کراتا ہے جو روایتی سافٹ ویئر کو برداشت نہیں ہوتا ہے۔ ایک سینئر مینیجر کے لیے، مسئلہ خطرے سے بچنے کا نہیں ہے، بلکہ جان بوجھ کر خطرے کا انتظام کرنا ہے (خطرے کا انتظام؛ خطرات کو پہچاننے، ماپنے، کم کرنے اور انہیں قابل قبول حدوں پر رکھنے کا نظم و ضبط)۔ اس یونٹ میں، آپ AI سے مخصوص خطرات، ان کے کاروباری اثرات، اور تخفیف کے عملی طریقوں کے بارے میں جانیں گے۔ مقصد یہ نہیں ہے کہ "ایسا نہ کریں کیونکہ خطرہ ہے" یا "ایسا کرنا جیسے کوئی خطرہ نہیں ہے"۔ یہ ہر اقدام کو خطرے کی شعوری بھوک کے ساتھ انجام دینا ہے۔ خطرے کی سطح جو ادارہ لینے کے لیے تیار ہے۔
AI مخصوص خطرات
روایتی IT خطرات (کمزوری، بندش) اب بھی لاگو ہوتے ہیں۔ لیکن مصنوعی ذہانت اپنے خطرات میں اضافہ کرتی ہے:
خطرے کی قسم
آپ کا کیا مطلب ہے؟
کاروباری اثرات کی مثال
فریب
یہ بنایا گیا تھا لیکن یہ قابل اعتماد نکلا
گاہک کو غلط معلومات، قانونی ذمہ داری
تعصب
آؤٹ پٹ پر ڈیٹا میں ناانصافی کی عکاسی
امتیازی بھرتی/کریڈٹ کا فیصلہ
ڈیٹا لیک
گاڑی میں خفیہ ڈیٹا کا لیک ہونا
KVKK کی خلاف ورزی، ساکھ کا نقصان
ماڈل بڑھے
وقت کے ساتھ کارکردگی میں کمی
فیصلوں کا خاموش الٹ جانا
لت
ایک ہی سپلائر میں بند
قیمت / رسائی جھٹکا
ناقابل وضاحت
فیصلے کی وجہ معلوم نہیں۔
آڈٹ اور اعتراض کی دشواری
یہاں دو اصطلاحات اہم ہیں: تعصب وہ ہے جب مصنوعی ذہانت تربیتی ڈیٹا میں غیر منصفانہ نمونوں کو سیکھتی ہے اور اپنے فیصلوں میں ان کی عکاسی کرتی ہے۔ مثال کے طور پر، اگر تاریخی بھرتی کا ڈیٹا ایک گروپ کے حق میں ہے، تو ماڈل بھی کرتا ہے۔ ماڈل ڈرفٹ وہ ہوتا ہے جب ماڈل متروک ہو جاتا ہے اور دنیا میں تبدیلی کے ساتھ اس کی کارکردگی خاموشی سے کم ہو جاتی ہے (نئی مصنوعات، نئے طرز عمل)۔
ٹپ: خطرے کے بارے میں سوچیں "ہو سکتا ہے/نہیں ہو گا" کے لحاظ سے نہیں بلکہ دو جہتوں میں: امکان (کتنا امکان ہے) اور اثر (اگر ایسا ہوتا ہے تو کتنا نقصان ہوتا ہے)۔ زیادہ اثر والے + زیادہ امکان والے لوگ سب سے پہلے مخاطب ہوتے ہیں۔ کم + کم اقدار کے حامل افراد کو قبول کیا جاتا ہے اور ان کی نگرانی کی جاتی ہے۔
خطرے کی سطح کے مطابق نگرانی
ہر استعمال کے علاقے میں ایک جیسا خطرہ نہیں ہوتا ہے۔ ہوشیار نقطہ نظر خطرے کی سطح کے مطابق نگرانی کرنا ہے:
- کم خطرہ (انسیٹ ڈرافٹ، دماغی طوفان): روشنی کی نگرانی، رفتار کی ترجیح۔
- درمیانہ خطرہ (گاہک کے لیے مواد، فیصلے کی حمایت): انسانی منظوری، نمونے لینے کا کنٹرول۔
- زیادہ خطرہ (کریڈٹ، بھرتی، صحت، قانونی): لازمی انسانی فیصلہ، مکمل رجسٹریشن، باقاعدہ آڈٹ۔
یہ "خطرے پر مبنی" نقطہ نظر EU AI قانون (Unit 9) کی ریڑھ کی ہڈی بھی ہے۔
مرحلہ وار: رسک مینجمنٹ سائیکل
1. خطرات کو پہچانیں۔ ہر اقدام کے لیے AI مخصوص خطرات کی فہرست بنائیں۔
2. اسکور کا امکان اور اثر۔ دو جہتوں میں ہر خطرے کا اندازہ اور ترجیح دیں۔
3. تخفیف کی پیمائش کی وضاحت کریں۔ جیسے انسانی منظوری، ڈیٹا کی گمنامی، ٹریکنگ، سپلائر تنوع۔
4. باقی خطرہ قبول کریں یا روک دیں۔ کمی کے بعد جو خطرہ باقی رہتا ہے اسے قبول کر لیا جاتا ہے اگر یہ بھوک کے اندر ہو۔ اگر نہیں تو کوشش رک جاتی ہے۔
5. دیکھیں اور جائزہ لیں۔ خطرات جامد نہیں ہیں؛ بڑھے ہوئے اور نئے خطرات کی مسلسل نگرانی ضروری ہے۔
تین چھوٹے مقدمات
کیس 1 - فریب کاری کی قیمت۔ ایک ایئر لائن کے کسٹمر چیٹ بوٹ نے مسافر کے لیے غیر موجود رقم کی واپسی کی پالیسی "بنائی"۔ کسٹمر نے اس پر بھروسہ کیا اور لین دین کیا۔ عدالت نے کمپنی کو اپنے ہی بوٹ کے اعلان کا ذمہ دار ٹھہرایا۔ سبق: گاہک کے لیے AI آؤٹ پٹ درمیانے/زیادہ خطرہ ہے۔ تصدیق اور حد ضروری تھی۔ اس کے بعد بوٹ کو صرف منظور شدہ پالیسی ٹیکسٹس سے جواب دینے تک محدود رکھا گیا۔
کیس 2 - خاموش تعصب۔ تاریخی اعداد و شمار میں عدم توازن کی وجہ سے ایک کمپنی کے ہائرنگ اسکریننگ ماڈل نے منظم طریقے سے بعض اسکولوں سے بھرتی کرنے والوں کی حمایت کی۔ فرق ایک آڈٹ میں سامنے آیا۔ ایک ساکھ اور قانونی خطرہ تھا۔ ماڈل کو محفوظ خصوصیات سے الگ کیا گیا تھا اور باقاعدہ انصاف کی نگرانی سے منسلک کیا گیا تھا۔ اگر تعصب کا ٹیسٹ شروع سے کر لیا جاتا تو ایسا نہ ہوتا۔
کیس 3 - ڈرفٹ کی گرفت۔ ایک بینک کے فراڈ کا پتہ لگانے کا ماڈل خاموشی سے کمزور ہو گیا جب فراڈ کا نیا نمونہ سامنے آیا۔ مس ریٹ 3 ماہ میں 8% سے بڑھ کر 19% ہو گیا۔ اچھی خبر: ایجنسی نے ماہانہ کارکردگی کی نگرانی کو لاگو کیا تھا، بڑھے ہوئے کا جلد پتہ چلا تھا، اور ماڈل کو دوبارہ تربیت دی گئی تھی۔ نگرانی کے بغیر نقصان کئی گنا بڑھ جاتا۔
چار کاپی کرنے کے قابل ٹیمپلیٹس
1) رسک انوینٹری:
آپ کا کردار: AI رسک مینیجر۔ درج ذیل استعمال کے معاملے کے لیے AI سے متعلق مخصوص خطرات کی فہرست بنائیں: فریب کاری، تعصب، ڈیٹا کا رساو، بڑھے ہوئے، انحصار، ناقابل وضاحت۔ ہر خطرے کے لیے، اس منظر نامے میں اس کے ممکنہ اظہار اور کاروباری اثرات کو ایک جملے میں لکھیں۔ استعمال کا علاقہ: [متن]
2) امکان/اثر اسکورنگ:
درج ذیل خطرات کو امکان (1-5) اور اثر (1-5) کے طور پر اسکور اور ضرب دے کر ترجیح دیں۔ وضاحت کریں کہ آپ سرفہرست تین خطرات کو کیوں ترجیح دیتے ہیں۔ خطرات: [فہرست]
3) تخفیف کا منصوبہ:
درج ذیل ترجیحی خطرات کے لیے عملی تخفیف کے اقدامات تجویز کریں: [خطرات]۔ ہر اقدام کے لیے: کیا کرنا ہے، کون ذمہ دار ہے، خطرے کی کس سطح پر لازمی ہے۔ جہاں مناسب ہو انسانی نگرانی، ڈیٹا کی گمنامی، نگرانی اور سپلائر تنوع کا استعمال کریں۔
4) رسک بیسڈ سرویلنس میٹرکس:
استعمال کے درج ذیل شعبوں کو خطرے کی سطح (کم/درمیانی/اعلی) پر تفویض کریں اور ہر سطح کے لیے درکار نگرانی کا تعین کریں: کیا انسانی منظوری درکار ہے، کیا ریکارڈ رکھا جائے گا، معائنہ کی تعدد کیا ہے؟ استعمال کرتا ہے: [فہرست]
کمزور فوری / مضبوط اشارہ
کمزور: "اس AI پروجیکٹ کے خطرات کیا ہیں؟"
نتیجہ: خطرات کی عمومی فہرست؛ امکان، اثر اور کوئی تخفیف، آپ فیصلہ نہیں کر سکتے۔
Güçlü: "ہم بینک میں قرض کی درخواست کی ابتدائی تشخیص میں AI کا استعمال کریں گے (انسان حتمی فیصلہ کرے گا)۔ اس منظر نامے سے مخصوص خطرات کی فہرست بنائیں (تعصب، ناقابل بیانی، فریب کاری، ڈیٹا پرائیویسی)؛ ہر ایک کو امکان اور اثر کے لحاظ سے اسکور کریں؛ ٹھوس تخفیف اور نگرانی کی تجویز کریں جو کہ تینوں ریاستوں کے لیے سب سے زیادہ خطرے کے تقاضوں کو سمجھا جاتا ہے۔"
نتیجہ: ایک منظر نامے سے متعلق، اسکور، تخفیف اور تعمیل سے متعلق خطرے کا تجزیہ۔
عام غلطیاں
- تمام اقدامات پر یکساں نگرانی کا اطلاق کرنا۔ کم رسک والے کام کو سست کرنا اتنا ہی نقصان دہ ہے جتنا کہ زیادہ خطرے والے کام کو نظر انداز کرنا۔ نگرانی خطرے کی سطح پر مبنی ہونی چاہئے۔
- فریب کو "چھوٹی سی غلطی" سمجھنا۔ گاہک کو غلط آؤٹ پٹ کے نتیجے میں قانونی ذمہ داری ہو سکتی ہے۔
- تعصب کی جانچ نہیں کرنا۔ منصفانہ جانچ کے بغیر تعینات کردہ ماڈل خاموش امتیاز پیدا کر سکتا ہے۔
- Drift نہیں دیکھ رہا ہے۔ ایک ماڈل جو ایک بار اچھی طرح سے کام کرتا ہے ہمیشہ کے لئے اچھا کام نہیں کرتا ہے۔ مسلسل نگرانی کی ضرورت ہے۔
- ایک ہی سپلائر میں مقفل کرنا۔ ایگزٹ پلان کے بغیر، لت آپ کو قیمت اور رسائی کے جھٹکے کے لیے کھلا چھوڑ دیتی ہے۔
احتیاط: رسک مینجمنٹ ایک بار اور ہمیشہ کے لیے نہیں ہے۔ مصنوعی ذہانت کے نظام زندہ نظام ہیں۔ صرف اس لیے کہ ایک ماڈل آج محفوظ ہے اس بات کی ضمانت نہیں دیتا کہ یہ کل محفوظ رہے گا۔ مسلسل نگرانی، باقاعدہ معائنہ اور ایک واضح کِل سوئچ ہر ہائی رسک سسٹم کا حصہ ہونا چاہیے۔
خلاصہ میں
روایتی IT خطرات کے اوپری حصے میں، AI منفرد خطرات کو شامل کرتا ہے جیسے کہ فریب کاری، تعصب، ڈیٹا کا رساو، بڑھے ہوئے، انحصار، اور ناقابلِ وضاحت۔ ان خطرات کا امکان اور اثر کے لحاظ سے جائزہ لیا جانا چاہئے اور انہیں ترجیح دی جانی چاہئے، اور تخفیف کے اقدامات کے ساتھ ادارے کے خطرے کی بھوک کے اندر رکھنا چاہئے۔ نگرانی یکساں نہیں ہے لیکن خطرے کی سطح کے مطابق ہونی چاہیے۔ زیادہ خطرے والے فیصلوں میں، لوگوں کو حتمی کہنا چاہیے۔ رسک مینجمنٹ ایک مسلسل سائیکل ہے؛ نگرانی اور کنٹرول کے بغیر مکمل نہیں ہوتا۔ اگلی اکائی میں، ہم گورننس اور پالیسی کا ڈھانچہ قائم کریں گے جو اس خطرے کے نظم و ضبط کو مستقل بناتا ہے۔
درخواست کا کام
AI کے استعمال کے کیس کا انتخاب کریں اور ٹیمپلیٹ 1 کے ساتھ اس کے مخصوص خطرات کی فہرست بنائیں۔ ہر خطرے کو امکان اور اثر کے لحاظ سے اسکور کریں، تین انتہائی اہم کی نشاندہی کریں۔ تخفیف کے ٹھوس اقدامات اور ان تینوں خطرات کے لیے درکار نگرانی کی سطح لکھیں۔ آخر میں، استعمال کو کم/درمیانے/زیادہ خطرے کے طور پر درجہ بندی کریں اور نوٹ کریں کہ یہ کس طرح نگرانی کی ضروریات کو تبدیل کرتا ہے۔
چیک لسٹ
- [ ] میں نے مصنوعی ذہانت کے منظر نامے سے متعلق مخصوص خطرات کو درج کیا ہے۔
- [ ] میں نے ہر خطرے کو امکان اور اثر کے لحاظ سے اسکور کیا۔
- میں نے انتہائی اہم خطرات کے لیے تخفیف کے اقدامات کی وضاحت کی ہے۔
- میں نے خطرے کی سطح کے مطابق استعمال کے علاقے کی درجہ بندی کی ہے۔
- میں نے خطرے کی سطح کے مطابق نگرانی کو ایڈجسٹ کیا۔
- میں نے تعصب اور بڑھے ہوئے ٹیسٹنگ/مانیٹرنگ کا منصوبہ بنایا۔
- میں نے ہائی رسک سسٹم کے لیے اسٹاپنگ اتھارٹی قائم کی ہے۔