فائدہ:
- چھ انسانی تصدیقی دروازوں کے ساتھ درخواست سے بند ہونے تک ہر مرحلے پر AI کو مستقل طور پر سرایت کرنے کی صلاحیت
- منظور شدہ ٹولز کی فہرست، ڈیٹا پالیسی، کردار، رجسٹریشن، تربیت اور جاری جائزے کے ساتھ کارپوریٹ گورننس فریم ورک قائم کرنے کی صلاحیت
- کام کے بہاؤ میں انسانی ذمہ داری، تصدیق، رازداری/KVKK، ثبوت کی پابندی، تعصب پر قابو پانے اور کلائنٹ کی مرکزیت کے اصولوں کو سرایت کرنے کی صلاحیت
اس پورے ماڈیول میں، ہم نے بتایا کہ مصنوعی ذہانت کا استعمال کیسے کیا جائے اور سماجی کام کے مختلف کاموں میں اسے کہاں روکا جائے — دستاویزات، تشخیص، رسک سپورٹ، حوالہ، منصوبہ، رپورٹ، مواصلات، پروگرام ڈیزائن۔ اس آخری اکائی میں، ہم ٹکڑوں کو ایک ساتھ رکھتے ہیں: جہاں AI درخواست سے لے کر کیس کے بند ہونے تک آخر سے آخر تک بیٹھے گا، جو انسانی توثیق کا دروازہ ہر مرحلے پر رک جاتا ہے، اور ہم اس کے لیے ضروری گورننس فریم ورک قائم کریں گے جو کسی تنظیم میں پائیدار ہو۔ مقصد یہ ہے کہ بکھرے ہوئے نکات کو ایک مستقل اور دہرانے کے قابل کام کرنے والے نظم و ضبط میں تبدیل کیا جائے۔
شروع سے ہی انٹیگریٹیو اصول: AI ورک فلو کے ہر قدم پر ایک ایکسلریٹر ہے، کسی بھی قدم پر فیصلہ ساز نہیں۔ ہر مرحلے پر ایک انسانی دروازہ ہے، اور آپ ایک دروازے سے گزرے بغیر دوسرے پر نہیں جا سکتے۔ یہ تہہ دار ڈھانچہ کسی ایک ہیلوسینیشن، تعصب، یا رازداری کی غلطی کو کسی ایسے فیصلے میں داخل ہونے سے روکتا ہے جو کلائنٹ کی زندگی کو متاثر کرتا ہے۔
سرے سے آخر تک بہاؤ اور چھ انسانی دروازے
آئیے ایک کیس پر اس کے مخصوص مراحل پر غور کریں اور ہر مرحلے پر ایک تصدیقی گیٹ لگائیں:
1. درخواست / پہلا رابطہ — دروازہ: رازداری۔ جب پہلی معلومات آتی ہے تو، AI انٹرویو کی تیاری کے لیے استعمال کیا جاتا ہے (گائیڈ، سوال کا فریم)۔ دروازہ: کوئی اصل کلائنٹ ڈیٹا اوپن ٹول میں داخل نہیں ہوتا ہے۔ کلاس، میچ گاڑی کے لیے پوچھیں۔
2. تشخیص - گیٹ: طبی فیصلہ۔ AI نوٹوں کو بائیو سائیکو سماجی جہتوں میں ترتیب دیتا ہے اور کوتاہیوں اور طاقتوں کی یاد دلاتا ہے۔ دروازہ: تشخیص اور تشخیص ماہر سے تعلق رکھتا ہے؛ AI تشخیص نہیں کرتا ہے۔
3. خطرہ - دروازہ: اتھارٹی اور ٹیم۔ AI خطرے/حفاظتی عوامل کی یاد دلاتا ہے اور حفاظتی منصوبہ بندی کا ڈھانچہ بناتا ہے۔ دروازہ: خطرے کا فیصلہ صرف ماہر، ٹیم، نگرانی اور قانونی عمل کے ذریعے کیا جاتا ہے۔ AI اسکور/فیصلے پیدا نہیں کرتا ہے۔
4. منصوبہ بندی اور رہنمائی — دروازہ: توثیق اور مؤکل۔ AI اہداف کو SMART میں رکھتا ہے، وسائل کے خیالات اور خط کے مسودے تیار کرتا ہے۔ دروازہ: مؤکل اہداف طے کرتا ہے۔ سروس/پتہ/حالت کی تصدیق سرکاری ذریعہ سے کی گئی ہے۔
5. رپورٹ اور مواصلات — دروازہ: ثبوت اور جوابدہی۔ AI رپورٹ کو تشکیل دیتا ہے، متن کو آسان اور ترجمہ کرتا ہے۔ دروازہ: ہر کیس ثبوت پر منحصر ہے، رائے ماہر کی ہے، اہم معلومات کے نقصان اور تعصب کی جانچ پڑتال کی جاتی ہے، دستخط شخص میں ہے.
6. بند کرنا اور حوالے کرنا — گیٹ: درستگی۔ YZ تاریخ کے مطابق فائل کا خلاصہ کرتا ہے۔ دروازہ: خلاصہ صرف ریکارڈ پر مبنی ہے۔ نتائج اور سیکھنے کی تصدیق ماہر کے ذریعہ کی جاتی ہے۔
اشارہ: دروازوں کو یاد رکھنے کے لیے ایک سوال کا استعمال کریں: "اس مرحلے میں، کیا AI فیصلہ کرتا ہے یا کوئی خاکہ تیار کرتا ہے؟" اگر جواب "فیصلہ" ہے تو رک جاؤ - وہ قدم انسان کا ہے۔ اگر جواب "مسودہ" ہے تو جاری رکھیں، لیکن آؤٹ پٹ کی تصدیق کیے بغیر اگلے مرحلے پر نہ جائیں۔
کارپوریٹ گورننس: انفرادی نظم و ضبط کافی نہیں ہے۔
ماہر کی اچھی عادات قیمتی لیکن نازک ہوتی ہیں۔ کسی تنظیم میں AI کے محفوظ اور مستقل استعمال کے لیے گورننس فریم ورک کی ضرورت ہوتی ہے۔ اس فریم ورک کے اہم اجزاء ہیں:
- منظور شدہ گاڑیوں کی فہرست۔ یہ لکھا اور واضح ہے کہ کون سا ٹول کس کام کے لیے استعمال کیا جائے گا اور کون سا ڈیٹا کس ٹول میں ڈالا جا سکتا ہے۔ "ہر ایک کو چاہیے کہ وہ جو بھی ٹول استعمال کرے استعمال کرے" ایک سیکورٹی کمزوری ہے۔
- ڈیٹا کی درجہ بندی کی پالیسی۔ اس کی وضاحت کی گئی ہے کہ کون سے ڈیٹا کو اوپن ٹول میں پروسیس کیا جائے گا اور کون سا ڈیٹا صرف محفوظ سسٹم میں پروسیس کیا جائے گا۔
- کردار اور اختیار۔ یہ واضح ہے کہ کون کیا کر سکتا ہے اور کون سا فیصلہ کس اتھارٹی پر منحصر ہے (خاص طور پر خطرے کے فیصلے)۔
- لاگ اور آڈٹ ٹریل. اے آئی کو کہاں اور کیسے استعمال کیا جاتا ہے اس کی نگرانی کی جا سکتی ہے۔ جب کوئی مسئلہ ہو تو اسے پیچھے دیکھا جا سکتا ہے۔
- تعلیم اور آگہی۔ ہر ملازم اس ماڈیول کے اصولوں کو جانتا ہے۔ نئے آنے والے کو تربیت دی جاتی ہے۔
- مستقل جائزہ۔ اوزار، خطرات اور قانون سازی میں تبدیلی؛ فریم ورک کو باقاعدگی سے اپ ڈیٹ کیا جاتا ہے۔ پالیسی ایک بار لکھی اور بھول جانے کے بعد متروک ہو جاتی ہے۔
تین چھوٹے مقدمات
کیس 1 - دروازے نے سلسلہ کے آغاز میں ایک بگ پکڑ لیا۔ ایک معاملے میں، AI نے ایک مشاہدہ شامل کیا جس کا کلائنٹ نے تشخیص کے مرحلے کے دوران ذکر نہیں کیا۔ "کلینیکل ججمنٹ" کے دروازے پر ماہر نے اسے پکڑا اور اسے حذف کردیا۔ اگر وہ پکڑا نہ جاتا تو یہ من گھڑت مشاہدہ پلان میں، وہاں سے رپورٹ تک، اور وہاں سے عدالتی فیصلے تک جا سکتا تھا۔ پرتوں کی تصدیق نے غلطی کو ابتدائی نقطہ پر روک دیا۔
کیس 2 - گورننس نے خلاف ورزی کو روکا۔ ایک تنظیم منظور شدہ ٹول لسٹ اور ڈیٹا پالیسی کے بغیر کام کر رہی تھی۔ ہر کوئی اپنی اپنی گاڑی استعمال کر رہا تھا۔ ایک آڈٹ سے انکشاف ہوا ہے کہ کئی ملازمین کھلے ٹولز میں کلائنٹ کا اصل ڈیٹا داخل کر رہے تھے۔ تنظیم نے ایک گورننس فریم ورک قائم کیا ہے: منظور شدہ ٹولز، ڈیٹا کی درجہ بندی، تربیت اور رجسٹریشن۔ اگلے عرصے میں، خلاف ورزیوں کی تعداد صفر تک گر گئی۔ سبق: ادارہ جاتی ڈھانچے کے بغیر انفرادی نیک نیتی کافی نہیں ہے۔
کیس 3 - مسلسل جائزہ اپ ٹو ڈیٹ رکھا گیا۔ ایک تنظیم کی AI پالیسی، جو ایک سال پہلے لکھی گئی تھی، ایک نئی قسم کے ٹول اور اپ ڈیٹ کردہ قانون سازی کی وجہ سے پرانی ہو گئی تھی۔ سالانہ جائزہ نے اس پر قبضہ کر لیا؛ پالیسی کو اپ ڈیٹ کیا گیا، تربیت کی تجدید کی گئی۔ فریم ایک زندہ دستاویز رہا، شیلف کا زیور نہیں۔
چار کاپی کرنے کے قابل ٹیمپلیٹس
1) کیس فلو تصدیق گیٹ چیک لسٹ:
آپ کا کردار: سپروائزر۔ مجھے مندرجہ ذیل کیس کے مرحلے کے لیے ایک تصدیقی چیک لسٹ ملتی ہے: اس مرحلے میں AI ڈرافٹ کیا کر سکتا ہے، کون سا فیصلہ ضروری ہے کہ انسانی ہو، کون سی رازداری اور تعصب کی جانچ پڑتال کی جانی چاہیے، اگلے مرحلے پر جانے سے پہلے مجھے کس چیز کی تصدیق کرنی چاہیے؟ مرحلہ: [درخواست / تشخیص / خطرہ / منصوبہ / رپورٹ / بندش]
2) تصدیق شدہ گاڑی کی مماثلت:
ذیل میں کام کی فہرستوں میں سے ہر ایک کے لیے، AI ٹول کی قسم کی وضاحت کریں جو استعمال کیا جا سکتا ہے (اوپن ٹول / محفوظ انٹرپرائز سسٹم صرف / کوئی AI دستیاب نہیں) اور جواز۔ کلائنٹ ڈیٹا پر مشتمل ہر کام کو "صرف محفوظ نظام" کے بطور نشان زد کریں۔
3) کارپوریٹ AI پالیسی کا مسودہ:
آپ کا کردار: کارپوریٹ پالیسی ایڈیٹر۔ سوشل سروس ایجنسی کے لیے ذمہ دار AI استعمال کی پالیسی کا مسودہ تیار کریں؛ مندرجہ ذیل موضوعات کا احاطہ کریں: مقصد، منظور شدہ ٹولز، ڈیٹا کی درجہ بندی، کردار اور اجازت، رازداری/KVKK، خطرے کے فیصلے کی حد، ریکارڈنگ اور آڈیٹنگ، تربیت، جائزہ شیڈول۔ عام فریم ورک قائم کریں؛ ادارہ اپنی تفصیلات خود بھرے گا۔
4) سیلف ریگولیشن (ذاتی استعمال کا جائزہ):
ایک سماجی کارکن کے طور پر میرے AI کے استعمال کا جائزہ لینے کے لیے میرے لیے 10 سوالات کی خود چیک لسٹ بنائیں: رازداری، تصدیق، تعصب، ثبوت کی وفاداری، فیصلے کی حدود، اور کلائنٹ کی مرکزیت۔ ہر سوال کا جواب "ہاں/نہیں" میں دیا جائے۔
کمزور فوری / مضبوط اشارہ
کمزور اشارہ:
میں آپ کو اس کیس کی پوری معلومات دیتا ہوں۔ آپ درخواست سے لے کر رپورٹ تک سب کچھ سنبھال لیں، میں صرف آخر میں اس پر دستخط کروں گا۔
یہ پورے عمل کو آؤٹ سورس کر رہا ہے — بشمول رازداری، طبی فیصلہ، خطرے کا فیصلہ، ثبوت کی پابندی — سافٹ ویئر کو۔ آخر میں واحد دستخط ہمیں درمیان کی تمام غلطیوں، من گھڑت اور تعصبات سے اندھا کر دیتا ہے۔
طاقتور اشارہ:
آپ کا کردار: ایڈیٹر جو ہر قدم پر میری مدد کرتا ہے۔ میں کیس کے ساتھ مرحلہ وار آگے بڑھوں گا (تشخیص، منصوبہ، رپورٹ...)۔ ہر قدم پر: صرف گمنام/محفوظ ڈیٹا کے ساتھ کام کریں، ایک مسودہ تیار کریں، مجھے فیصلہ کرنے دیں، جو چیز نوٹ میں نہیں ہے اسے شامل نہ کریں، اور مجھے یاد دلائیں کہ اگلے مرحلے پر جانے سے پہلے مجھے کس چیز کی تصدیق کرنی ہے۔ آئیے اس قدم کے ساتھ شروع کریں: [قدم]
فرق: ہر قدم پر دروازے کی حفاظت کرنا اور AI کو قدم بہ قدم اسسٹنٹ کے طور پر پوزیشن دینا رفتار کو برقرار رکھتے ہوئے حفاظت اور ذمہ داری انسان کو برقرار رکھتا ہے۔
اسٹیج گیٹ ذمہ داری کا خلاصہ
اسٹیج
AI کی شراکت
انسانی دروازہ
اہم کنٹرول
درخواست
انٹرویو کی تیاری
رازداری
ڈیٹا کلاس
تشخیص
سائز میں ترمیم
طبی فیصلہ
کوئی تشخیص نہیں، کوئی من گھڑت بات نہیں۔
خطرہ
عنصر کی یاد دہانی
اتھارٹی + ٹیم
کوئی سکور/فیصلہ نہیں۔
منصوبہ/رہنمائی
مسودہ + خیال
توثیق + کلائنٹ
ماخذ کی تصدیق، کلائنٹ کی ترجیح
رپورٹ/رابطہ
ساخت + سادگی
ثبوت + ذمہ داری
ماہر میں رائے، تعصب کنٹرول
بند کرنا
تاریخ کا خلاصہ
درستگی
ریکارڈ پر مبنی
عام غلطیاں
- پورے عمل کو AI کے حوالے کرنا اور آخر میں ایک ہی دستخط پر دستخط کرنا۔ درمیان میں غلطیاں نظر نہیں آتیں۔ ہر قدم پر دروازے ہونے چاہئیں۔
- بغیر تصدیق کیے دروازے سے گزرنا۔ ایک مرحلے کی من گھڑت اگلے کو وراثت میں ملتی ہے۔ ہر آؤٹ پٹ کی توثیق کی جاتی ہے۔
- حکمرانی کو انفرادی نظم و ضبط پر چھوڑنا۔ ادارہ جاتی فریم ورک کے بغیر، اچھی عادات نازک ہوتی ہیں۔
- پالیسی ایک بار لکھیں اور بھول جائیں۔ اوزار اور قانون سازی میں تبدیلی؛ مسلسل جائزہ لینا ضروری ہے۔
- ریکارڈ نہ رکھنا۔ آڈٹ ٹریل کے بغیر، کسی مسئلے کو پیچھے نہیں دیکھا جا سکتا اور اس کا جوابدہ نہیں ٹھہرایا جا سکتا۔
خلاصہ میں
سماجی کام میں، اے آئی ہر قدم پر ایک اتپریرک ہے، کسی بھی قدم پر فیصلہ ساز نہیں، درخواست سے لے کر کیس بند کرنے تک۔ چھ انسانی دروازے (رازداری، طبی فیصلہ، اتھارٹی/ٹیم، توثیق/کلائنٹ، ثبوت/احتساب، سالمیت) کو اختتام سے آخر تک بہاؤ میں رکھیں؛ ایک دروازے سے دوسرے دروازے تک بغیر گزرے نہ گزریں۔ اسے پائیدار بنانے کے لیے کارپوریٹ گورننس کی ضرورت ہے: منظور شدہ ٹولز کی فہرست، ڈیٹا پالیسی، کردار، رجسٹریشن، تربیت اور جاری جائزہ۔ ماڈیول کے چھ ڈرائیونگ اصول — انسانی ذمہ داری، توثیق، رازداری/PDPA، ثبوت کے لیے وابستگی، تعصب پر قابو، اور کلائنٹ کی مرکزیت — کو ہر ورک فلو میں بُنا جانا چاہیے۔
درخواست کا کام
درخواست سے بند ہونے تک ایک خیالی کیس کو ذہنی طور پر چارٹ کریں۔ "کیس فلو تصدیق گیٹ" ٹیمپلیٹ کے ساتھ ہر مرحلے کے لیے ایک چیک لسٹ تیار کریں۔ پھر اس معاملے میں کاموں کو "توثیق شدہ گاڑی کی مماثلت" ٹیمپلیٹ کے ساتھ کھلی گاڑی / محفوظ نظام / کوئی AI کے طور پر درجہ بندی کریں۔ آخر میں، "سیلف آڈٹ" ٹیمپلیٹ کے ساتھ AI کے اپنے استعمال کے لیے 10 سوالات کی فہرست بنا کر خود کا جائزہ لیں۔
چیک لسٹ
- میں نے آخر سے آخر تک بہاؤ میں چھ انسانی دروازوں کی نشاندہی کی ہے۔
- ہر قدم پر "فیصلہ یا مسودہ؟" میں نے سوال کا اطلاق کیا۔
- میں نے کاموں کو گاڑی کی صحیح قسم سے ملایا (کھلا/محفوظ/کوئی نہیں)۔
- میں کارپوریٹ گورننس کے اجزاء (آلہ، ڈیٹا، کردار، رجسٹریشن، تربیت، جائزہ) جانتا ہوں۔
- میں نے ماڈیول کے چھ کیریئر اصولوں کو اپنے ورک فلو میں لاگو کیا۔
ماڈیول امتحان
1. سماجی کام میں مصنوعی ذہانت کے لیے مندرجہ ذیل میں سے کون سی پوزیشننگ سب سے زیادہ درست ہے؟
- A) مصنوعی ذہانت انسانی منظوری کے بغیر کلائنٹ کے خطرے کی سطح اور مداخلت کا فیصلہ کر سکتی ہے۔
- ب) AI خلاصہ کرنے، ترتیب دینے، آسان بنانے اور مسودہ تیار کرنے کا ایک ٹول ہے۔ طبی فیصلے، خطرے اور حتمی فیصلے کی ذمہ داری ماہر پر منحصر ہے ✔
- C) مصنوعی ذہانت صرف متن کا ترجمہ کرنے کے لیے مفید ہے اور اس کا سماجی کام کے دیگر کاموں سے کوئی تعلق نہیں ہے۔
- D) چونکہ مصنوعی ذہانت ہمیشہ انسانوں سے زیادہ غیر جانبدار ہوتی ہے، اس لیے تشخیص اس پر چھوڑ دینا چاہیے۔
تفصیل: مصنوعی ذہانت؛ یہ ایک اسسٹنٹ ہے جو نوٹ ترتیب دیتا ہے، فائل کا خلاصہ کرتا ہے، متن کو آسان بناتا ہے اور مسودے تیار کرتا ہے۔ طبی فیصلے، خطرے کی تشخیص، پیشہ ورانہ رائے اور حتمی فیصلے کی ذمہ داری اہل پیشہ ور پر منحصر ہے؛ غیر تصدیق شدہ آؤٹ پٹ کلائنٹ کی غلط فہمی، خطرے سے بچنے، یا حساس ڈیٹا کے لیک ہونے کا باعث بن سکتا ہے۔
2. آرٹیفیشل انٹیلی جنس کے ذریعے انٹرویو کے خام نوٹوں کو کیس ریکارڈ میں تبدیل کرنے کی سب سے درست ہدایت کیا ہے؟
- A) مصنوعی ذہانت سے گمشدہ حصوں کو معقول طریقے سے بھرنے کی درخواست کرنا تاکہ یہ پیشہ ور نظر آئے۔
- ب) ریکارڈ کو تقویت دینے کے لیے AI کو اضافی مشاہدات شامل کرنے کی اجازت دینا
- C) طالب علم سے صرف وہی معلومات استعمال کرنے کو کہے جو اصل میں نوٹ میں شامل ہے، گمشدہ اشیاء کو 'وضاحت کی ضرورت ہے' کے بطور نشان زد کریں، اور کچھ بھی شامل نہ کریں۔
- D) نوٹ کے ساتھ موازنہ کیے بغیر اسے براہ راست فائل میں ڈالنا جب تک آؤٹ پٹ روانی سے ہو۔
وضاحت: AI کا سب سے خطرناک رجحان ایسے مشاہدات، اعداد یا اقتباسات کو گھڑنا ہے جو نوٹ میں نہیں ہیں تاکہ ریکارڈ کو 'مکمل' لگ سکے۔ صحیح نقطہ نظر یہ ہے کہ 'صرف جو نوٹ میں ہے اسے استعمال کریں، گمشدہ کو نشان زد کریں، کچھ بھی شامل نہ کریں'۔ خلا کو پُر نہیں کیا جاتا ہے، وہ وضاحت کے لیے نشان زد ہیں۔
3. کیس ریکارڈ میں 'حقیقت' اور 'تشریح' کے درمیان فرق کیوں ضروری ہے؟
- A) ایک حقیقت ایک ٹھوس مشاہدہ/بیان ہے، جبکہ تشریح ایک پیشہ ورانہ اندازہ ہے جس کی بنیاد کی ضرورت ہوتی ہے۔ دونوں کو الگ کیا جائے اور تبصرہ کو ٹیگ کیا جائے ✔
- ب) تفریق غیر ضروری ہے۔ حقیقت اور تبصرہ ریکارڈ میں اسی طرح لکھا جا سکتا ہے۔
- ج) صرف تشریح اہمیت رکھتی ہے۔ یہ ممکن ہے چاہے حقائق درج نہ ہوں۔
- D) چونکہ مصنوعی ذہانت یہ فرق بالکل ٹھیک کرتی ہے، اس لیے انسانی کنٹرول کی ضرورت نہیں ہے۔
تشریح: 'وہ انٹرویو میں تین بار روئے' ایک حقیقت ہے۔ 'وہ افسردہ تھا' ایک تبصرہ ہے جسے طبی بنیادوں کے بغیر نہیں لکھا جا سکتا۔ ریکارڈ حقیقت کو پیش کرتا ہے اور اس میں صرف واضح لیبلنگ اور جواز کے ساتھ تشریح شامل ہے۔ AI دونوں کو روانی سے ملا سکتا ہے۔ یہ ایک فرد کا فرض ہے کہ وہ فرق کرے اور بدنامی والی زبان سے گریز کرے۔
4. یہ فیصلہ کرنے میں AI کو کیا کردار ادا کرنا چاہیے کہ آیا بچہ گھر میں محفوظ ہے یا کیس کے خطرے کی سطح؟
- A) مصنوعی ذہانت کیس کو پڑھ سکتی ہے، خطرے کی سطح کا تعین کر سکتی ہے اور حفاظتی فیصلہ کر سکتی ہے۔
- ب) مصنوعی ذہانت کی طرف سے دیا گیا 'کم رسک' لیبل ماہر کے مشاہدے کو اس کے برعکس کر سکتا ہے۔
- C) مصنوعی ذہانت صرف عوامل کو یاد دلاتی ہے اور نوٹوں کو منظم کرتی ہے۔ خطرے کی سطح اور حفاظت کا فیصلہ ماہر، ٹیم، نگرانی اور قانونی عمل سے تعلق رکھتا ہے ✔
- D) مصنوعی ذہانت خطرے سے متعلق فیصلہ سازی میں انسانوں سے زیادہ قابل اعتماد ہے کیونکہ یہ غیر جانبدار ہے۔
تفصیل: خطرے کی سطح اور حفاظتی فیصلہ؛ اس کے لیے پیشہ ورانہ اختیار، طبی فیصلہ، کثیر الضابطہ ٹیم کی رائے، نگرانی اور قانونی ذمہ داری کی ضرورت ہوتی ہے۔ یہاں، AI صرف خطرے/حفاظتی عوامل کو یاد کر سکتا ہے اور نوٹوں میں ترمیم کر سکتا ہے۔ اسکور یا فیصلے نہیں دے سکتے۔ یہ تربیتی اعداد و شمار میں تعصب کی وجہ سے پسماندہ گروہوں کو منظم طور پر زیادہ خطرہ بھی قرار دے سکتا ہے، اس لیے اس کی پیداوار کو فیصلے کے طور پر استعمال نہیں کیا جا سکتا۔
5. کیا کرنا چاہیے جب مصنوعی ذہانت کسی کلائنٹ کو 'یہ سنٹر، وہ فون' کہہ کر ریفرل کی معلومات فراہم کرتی ہے؟
- A) مؤکل کو دینے سے پہلے ادارے کے سرکاری اور موجودہ ذریعہ سے پتہ اور فون نمبر کی تصدیق کرنا ✔
- ب) معلومات کو براہ راست کلائنٹ تک پہنچانا کیونکہ اسے اعتماد کے ساتھ پیش کیا جاتا ہے۔
- ج) یہ فرض کرتے ہوئے کہ معلومات بالکل درست ہیں جب تک کہ مصنوعی ذہانت موجودہ تاریخ بتاتی ہے۔
- د) یہ سوچتے ہوئے کہ معلومات کی درستگی کی چھان بین کی ضرورت نہیں کیونکہ اس کا کہیں ذکر ہے۔
تفصیل: مصنوعی ذہانت خدمات، درخواست کی ضروریات، پتے اور ٹیلیفون نمبر بنا سکتی ہے یا پرانی معلومات فراہم کر سکتی ہے۔ ادارے ضم ہوتے ہیں، منتقل ہوتے ہیں، بند ہوتے ہیں۔ کلائنٹ کو غیر تصدیق شدہ پتے پر بھیجنے سے سفر ضائع ہو جائے گا اور اعتماد ختم ہو جائے گا۔ لہذا، آرٹیفیشل انٹیلی جنس کے ذریعے فراہم کردہ رابطہ کی معلومات کو کلائنٹ کو منتقل کرنے سے پہلے ادارے کے اپنے سرکاری چینل کے ذریعے تصدیق کرنی چاہیے۔
6. جوابی منصوبے میں اہداف کس کو طے کرنے چاہئیں اور AI کا کیا کردار ہے؟
- الف) مصنوعی ذہانت کو دونوں مقاصد کا تعین کرنا چاہیے اور کلائنٹ سے پوچھے بغیر پورا منصوبہ لکھنا چاہیے۔
- ب) مؤکل (ماہر کے ساتھ مل کر) اہداف کا تعین کرتا ہے۔ AI انہیں SMART فارمیٹ میں رکھتا ہے اور ان کی تشکیل کرتا ہے، نئے اہداف کا اضافہ نہیں کرتا ✔
- C) مقاصد غیر اہم ہیں؛ منصوبے میں جتنے زیادہ اہداف شامل ہوں گے، اتنا ہی بہتر ہے۔
- D) مصنوعی ذہانت کلائنٹ کی ترجیحات کو نظر انداز کر سکتی ہے کیونکہ یہ پیشہ ورانہ لگتی ہے۔
تفصیل: سماجی کام کی بنیادی قدر 'خود ارادیت' ہے: مؤکل اہداف اور ترجیحات کا تعین کرتا ہے، انہیں ماہر پیشہ ورانہ علم کے ساتھ تشکیل دیتا ہے۔ مصنوعی ذہانت ان اہداف کو SMART فارمیٹ میں رکھتی ہے اور اقدامات اور اشارے تجویز کرتی ہے۔ لیکن وہ نئے اہداف شامل نہیں کر سکتا جو کلائنٹ نہیں کہتا۔ ایک غیر ملکی، بیرونی طور پر مسلط کردہ منصوبہ کلائنٹ پر لاگو نہیں کیا جا سکتا۔
7. عدالت میں پیش کی جانے والی سماجی تحقیقاتی رپورٹ میں، کس معاملے میں مصنوعی ذہانت سب سے زیادہ خطرناک ہے؟
- A) رپورٹ کو 'مکمل' ظاہر کرنے کے لیے غیر موجود تاریخوں، مشاہدات یا اقتباسات ایجاد کرنے کی صلاحیت ✔
- ب) متن کی زبان کو بہت زیادہ رسمی بنانا
- C) رپورٹ کو درخواست سے کم لکھنا
- D) عنوانات کی حروف تہجی کی ترتیب
وضاحت: AI کا سب سے خطرناک رجحان رپورٹ کو 'مکمل' ظاہر کرنے کے لیے ایک غیر موجود تاریخ، مشاہدہ یا اقتباس شامل کرنا ہے۔ عدالتی رپورٹ میں من گھڑت جملہ دونوں فیصلے کو گمراہ کر سکتا ہے اور ماہر کی ساکھ کو تباہ کر سکتا ہے۔ لہذا، ہر کیس کو ایک حقیقی انٹرویو/مشاہدہ/دستاویز سے جوڑا جانا چاہیے، اور ماہر کی طرف سے پیشہ ورانہ رائے قائم کی جانی چاہیے۔
8. سماجی تحقیقاتی رپورٹ کا پیشہ ورانہ رائے اور رائے (تجویز) سیکشن کسے لکھنا چاہیے؟
- الف) مصنوعی ذہانت؛ کیونکہ یہ ایک زیادہ غیر جانبدارانہ سفارش پیدا کرتا ہے۔
- ب) رپورٹ لکھتے وقت رائے کا حصہ کبھی نہیں بھرا جاتا۔
- ج) مصنوعی ذہانت رائے لکھتی ہے، ماہر صرف آخر میں اشارہ کرتا ہے۔
- D) ماہر؛ پیشہ ورانہ رائے اور رائے اس کا اختیار اور ذمہ داری ہے، مصنوعی ذہانت صرف زبان کو واضح کرتی ہے ✔
بیان: پیشہ ورانہ رائے اور رائے — 'یہ اس بچے کا بہترین مفاد ہے'، 'یہ انتظام مناسب ہے' — ماہر کا قانونی اختیار اور ذمہ داری ہے۔ 'میں مصنوعی ذہانت کے لیے کیا تجویز کروں؟' یہ نہیں پوچھا جاتا ہے؛ ایک 'تجویز' جو وہ پیش کرتا ہے من گھڑت اور ذمہ داری کی منتقلی دونوں ہو سکتا ہے۔ بہترین طور پر، مصنوعی ذہانت ماہر کی طرف سے لکھی گئی رائے کی زبان کو واضح کرتی ہے۔
9. مصنوعی ذہانت کے حامل کلائنٹ کے لیے بھاری سرکاری ہیلپ لیٹر کو آسان بناتے وقت سب سے اہم کنٹرول کیا ہے؟
- الف) متن کو ہر ممکن حد تک مختصر رکھیں، تفصیلات کو نہ دیکھیں
- ب) نتیجہ روانی اور جمالیاتی نظر آتا ہے۔
- C) اس بات کی توثیق کرنا کہ اصل سے موازنہ کرکے کوئی حقوق، شرائط، رقم، تاریخیں یا نوٹس نہیں چھوڑے گئے ہیں ✔
- D) سادگی کلائنٹ کو کم معلومات دے کر اسے سکون فراہم کرتی ہے۔
تشریح: آسان کرنے کا مطلب بگاڑ نہیں ہے۔ 'مختصر' یا 'آسان' کرنے سے AI صحیح، شرط، رقم، تاریخ یا نوٹس کو نگل سکتا ہے۔ مؤکل 'آسان' لیکن نامکمل معلومات کے ساتھ اپنا حق کھو سکتا ہے۔ لہذا، آسان متن کا اصل سے موازنہ کیا جانا چاہئے اور اس بات کی تصدیق کی جانی چاہئے کہ کوئی اہم معلومات ضائع نہیں ہوئی ہے، اور یہاں تک کہ مصنوعی ذہانت کے پاس ان اہم عناصر کی فہرست بھی ہونی چاہئے جن کی وہ حفاظت کرتی ہے۔
10. فنڈنگ کی درخواست کا مسودہ تیار کرتے وقت مصنوعی ذہانت سے تیار کردہ اعدادوشمار کا علاج کرنا کیسے درست ہے؟
- A) مصنوعی ذہانت کے ذریعہ دیے گئے اعدادوشمار کو براہ راست استعمال کرتے ہوئے اسے متاثر کن نظر آتا ہے۔
- ب) مصنوعی ذہانت سے متعلق اعدادوشمار نہ بنانا، جہاں ضروری ہو [ڈیٹا کی ضرورت ہے] پرنٹ کرنا اور ہر نمبر کو اصلی ماخذ سے ڈالنا ✔
- ج) اس بات پر غور کرتے ہوئے کہ جب تک نمبر کسی درخواست میں شامل کیا جاتا ہے ماخذ غیر اہم ہے۔
- D) یہ فرض کرتے ہوئے کہ اعدادوشمار کی تصدیق کرنے کی ضرورت نہیں ہے کیونکہ AI اعتماد سے لکھتا ہے
تفصیل: مصنوعی ذہانت حیرت انگیز لیکن غیر منبع اعدادوشمار بنا سکتی ہے۔ ماخذ کے بغیر ایک شخصیت تقریبا ہمیشہ ناقابل اعتماد ہے. درخواست میں من گھڑت اعدادوشمار دونوں درخواست کو مسترد کر دیں گے اور ادارے کی ساکھ کو تباہ کر دیں گے۔ صحیح طریقہ یہ ہے کہ AI کو میک اپ نمبرز نہ بنائیں ('لکھیں [DATA REQUIRED]') اور ہر نمبر کو اصلی، تصدیق شدہ ذریعہ سے ڈالیں۔
11. مصنوعی ذہانت سے پوچھنا کیوں نقصان دہ ہے کہ 'یہ وضاحت کریں کہ یہ خاندان بچوں کی پرورش میں کیوں ناکافی ہے'؟
- A) کیونکہ سوال بہت لمبا ہے۔
- ب) چونکہ مصنوعی ذہانت خاندانی معاملات پر کوئی معلومات فراہم نہیں کر سکتی
- ج) چونکہ یہ نتیجہ شروع سے ہی فرض کر لیتا ہے، مصنوعی ذہانت (خوشامد سے) ایک غیر مصدقہ اور جانبدارانہ تصدیق پیدا کرتی ہے۔ سوال غیر جانبدار اور متوازن ہونا چاہیے ✔
- D) کیونکہ مصنوعی ذہانت ہمیشہ خاندان کے حق میں لکھے گی۔
وضاحت: یہ سوال نتیجہ کو پیش کرتا ہے ('ناکافی')۔ AI ایک ثبوت سے پاک اور متعصب متن تیار کرتا ہے جو اس مفروضے کی چاپلوسی کے رجحان کے ساتھ تصدیق کرتا ہے (اپنے تاثر کی تصدیق کریں)۔ ایک متعصب سوال ایک متعصب جواب پیدا کرتا ہے۔ درحقیقت، یہ ایک غیر جانبدار سوال ہے جو نتیجہ کا اندازہ نہیں لگاتا، طاقت اور خدشات دونوں میں توازن رکھتا ہے، اور صرف ثبوت مانگتا ہے۔
12. AI آؤٹ پٹ میں تعصب کی جانچ کرنے کے لیے 'انڈر اینگل ٹیسٹنگ' کیسے لگائیں؟
- ا) ایک مختلف گروہ کے لیے اسی صورت حال کے بارے میں سوچنا اور پوچھنا 'کیا یہ ایک ہی زبان میں لکھا جائے گا؟' ✔ پوچھ کر دوہرے معیار کی جانچ کرنا
- ب) مصنوعی ذہانت کے پہلے جواب کو غیر جانبدار کے طور پر قبول کرنا اور دوسرے زاویے کی تلاش نہ کرنا
- ج) صرف ایسے سوالات پوچھنا جو کلائنٹ کے گروپ کو سپورٹ کرتے ہوں۔
- D) یہ فرض کرتے ہوئے کہ اضافی کنٹرول کی ضرورت نہیں ہے کیونکہ مصنوعی ذہانت میں تعصب بالکل موجود نہیں ہے۔
وضاحت: AI مختلف گروہوں کے لیے ایک ہی طرز عمل کو مختلف لہجے میں لکھ سکتا ہے (مثلاً 'نظر انداز کرنے کا خطرہ' کم آمدنی والے خاندان کے لیے، 'زبردستی والدین' زیادہ آمدنی والے افراد کے لیے)۔ الٹا ٹیسٹ یہ ہے کہ 'اگر کلائنٹ کسی مختلف سماجی اقتصادی/نسلی گروپ سے ہوتا، تو کیا یہ ایک ہی زبان میں لکھا جاتا؟' پوچھنا ہے یہ دقیانوسی تصورات پر مبنی دوہرے معیارات کو ظاہر کرتا ہے، ثبوت کی نہیں۔
13. کلائنٹ کی اصل فائل (بشمول نام، پتہ، صحت کی معلومات) کا خلاصہ کرنے کا صحیح طریقہ کون سا ہے؟
- A) رفتار کے لیے، اسے قریبی عوامی AI ٹول میں پیسٹ کریں اور اس کا خلاصہ کریں۔
- ب) پرائیویسی پر توجہ دیے بغیر فائل پر کارروائی کرنا کیونکہ یہ مختصر ہے۔
- ج) صحت کی معلومات سمیت ہر چیز درج کریں اور صرف نتیجہ محفوظ کریں۔
- D) صرف ادارے کے ذریعہ منظور شدہ محفوظ نظام میں یا غیر شناخت شدہ متن کے ساتھ، کم از کم ڈیٹا کے ساتھ عمل کریں ✔
افشاء: ذاتی ڈیٹا جو کلائنٹ کی شناخت کرتا ہے — خاص طور پر حساس ڈیٹا جیسے کہ صحت — کو کبھی بھی کسی عوامی ٹول میں داخل نہیں کیا جاتا جسے ادارے نے منظور نہ کیا ہو۔ متن پر عملدرآمد کیا جا سکتا ہے، بیرونی سرورز پر ذخیرہ کیا جا سکتا ہے یا ماڈل ٹریننگ میں استعمال کیا جا سکتا ہے، اور اخراج ناقابل واپسی ہے۔ یہ بھی KVKK کی خلاف ورزی ہے۔ اس قسم کا کام صرف اندرون خانہ، محفوظ، منظور شدہ سسٹمز میں کیا جاتا ہے جو ڈیٹا کو لیک نہیں کرتے یا غیر شناخت شدہ متن کے ساتھ۔
14. کسی دستاویز سے ناموں کو حذف کرنا ہمیشہ عوامی ٹول کے لیے کیوں کافی نہیں ہوتا ہے؟
- A) ناموں کو حذف کرنا ہمیشہ مکمل گمنام ہوتا ہے اور ہر دستاویز کو محفوظ بناتا ہے۔
- ب) جب تک دستاویز مختصر ہے، سیاق و سباق سے شناخت کا اندازہ لگانا ناممکن ہے۔
- ج) ایک دستاویز جس کا نام مکمل طور پر حذف کر دیا گیا ہے وہ KVKK کے دائرہ کار سے باہر ہے۔
- D) سیاق و سباق (پڑوس، عمر، واقعہ، خاندانی ڈھانچہ) شناخت کا دوبارہ دعوی کر سکتا ہے۔ تحفظ ٹول اور ماحول کے انتخاب سے فراہم کیا جاتا ہے ✔
وضاحت: نام حذف ہونے کے باوجود سیاق و سباق (محلے، عمر، واقعہ، تاریخ، خاندانی ڈھانچہ وغیرہ کا نایاب مجموعہ) کسی شخص کو قابل شناخت بنا سکتا ہے۔ پڑوس میں وہ واحد شخص ہو سکتا ہے جو تفصیل کے مطابق ہو۔ حقیقی تحفظ ماسکنگ سے نہیں بلکہ صحیح ٹول اور ماحول کو منتخب کرنے سے فراہم کیا جاتا ہے۔ سیاق و سباق بھی ذاتی ڈیٹا ہے اور غیر یقینی معلومات کو اعلیٰ طبقے کے طور پر محفوظ کیا جانا چاہیے۔
15. درخواست دینے سے لے کر کیس کے بند ہونے تک، حتمی فیصلے میں کسی ایک AI غلطی کو لیک ہونے سے روکنے کا سب سے مؤثر طریقہ کیا ہے؟
- A) پورے عمل کو ایک واحد AI ٹول کو سونپنا اور آخر میں صرف ایک بار دستخط کرنا
- ب) ہر مرحلے پر انسانی تصدیقی گیٹ اور پاس کی شرط لگانا (پرتوں والی تصدیق) ✔
- C) رفتار کے لیے درمیانی توثیق کو ہٹانا اور صرف آؤٹ پٹ اسٹیج پر چیک کرنا
- D) ہر ماہر کو اجازت دینا کہ وہ ریکارڈ رکھے بغیر اپنے آلے کو آزادانہ طور پر استعمال کرے۔
تفصیل: ہر مرحلے پر ایک انسانی تصدیقی گیٹ لگایا جاتا ہے (درخواست/رازداری، تشخیص/طبی فیصلہ، خطرہ/اختیار، منصوبہ/تصدیق، رپورٹ/ثبوت، بندش/درستگی)؛ آپ ایک دروازے سے دوسرے دروازے سے گزرے بغیر نہیں گزر سکتے۔ یہ تہہ دار ڈھانچہ ایک مرحلے پر فریب، تعصب، یا رازداری کی غلطی کو کسی مؤکل کو متاثر کرنے والے فیصلے میں داخل ہونے سے روکتا ہے۔