فائدہ:
- مصنوعی ذہانت کے ساتھ رسک اور حفاظتی عنصر کی چیک لسٹ اور حفاظتی منصوبہ تیار کرنے کی صلاحیت اور کسی بھی علاقے کو چھوڑے بغیر کام کرنا
- یہ سمجھیں کہ خطرے کی سطح/اسکور اور حفاظتی فیصلے صرف ماہرین، ٹیمیں، نگرانی اور قانونی عمل کرتے ہیں، اور یہ کہ مصنوعی ذہانت فیصلے نہیں کر سکتی۔
- یہ دیکھتے ہوئے کہ مصنوعی ذہانت پسماندہ گروہوں کی طرف منظم تعصب کو منسوب کر سکتی ہے اور اس کے آؤٹ پٹ کو کبھی بھی فیصلے کے طور پر استعمال نہ کرنے اور انتہائی حساس ڈیٹا کو صرف ایک محفوظ نظام میں پروسیس کرنے کے نظم و ضبط کا اطلاق کر سکتی ہے۔
سماجی کام کی سب سے سنگین ذمہ داری خطرے کی تشخیص ہے - وہ فیصلے جو براہ راست زندگی کی حفاظت سے متعلق ہیں، جیسے کہ آیا کسی بچے کو نظر انداز کیا جاتا ہے یا اس کے ساتھ بدسلوکی کی جاتی ہے، آیا کوئی فرد اپنے آپ کو یا کسی اور کو نقصان پہنچانے کا امکان رکھتا ہے، آیا کوئی بوڑھا شخص محفوظ ہے، یا تشدد کا شکار ہونے والا کتنا خطرے سے دوچار ہے۔ اس یونٹ کا پہلا اور سب سے زیادہ جرات مندانہ اصول یہ ہے: خطرے سے متعلق فیصلہ سازی AI سے تعلق نہیں رکھتی، نہیں کر سکتی اور نہیں ہونی چاہیے۔ کسی شخص کی حفاظت کے بارے میں فیصلہ؛ اس کے لیے پیشہ ورانہ اختیار، طبی فیصلہ، کثیر الضابطہ ٹیم کی رائے، نگرانی اور قانونی ذمہ داری کی ضرورت ہوتی ہے۔ AI یہاں صرف ایک تیاری اور یاد دہانی کا ٹول ہے: یہ آپ کو یاد دلاتا ہے کہ کن خطرات اور حفاظتی عوامل کا جائزہ لینا ہے، آپ کے نوٹس کو منظم کرنا ہے، حفاظتی منصوبے کا خاکہ پیش کرتا ہے۔ یہ کوئی سکور نہیں دیتا، یہ نہیں کہتا کہ "خطرہ کم/زیادہ ہے"، یہ کوئی فیصلہ نہیں کرتا۔
ہم اس پر اتنی سختی سے کیوں زور دیتے ہیں؟ کیونکہ خطرے کے میدان میں، AI غلطی کی قیمت ناقابل واپسی ہے۔ خطرے کی AI کی درجہ بندی "کم" بچے کو غیر محفوظ بنا دیتی ہے۔ خطرے کو غیر ضروری طور پر "اونچا" ظاہر کرنا ایک خاندان کو غیر منصفانہ طور پر الگ کرنے کا باعث بن سکتا ہے۔ مزید برآں، AI تربیتی اعداد و شمار میں تعصب رکھتا ہے: الگورتھم جو منظم طریقے سے بعض سماجی اقتصادی گروہوں، نسلوں، یا محلوں کو زیادہ خطرہ قرار دیتے ہیں، دنیا بھر میں دستاویزی شکل میں موجود ہیں۔ لہذا یہاں تک کہ اگر AI کا آؤٹ پٹ ایک ان پٹ ہے، یہ کبھی بھی آپ کے آزادانہ فیصلے کو اوور رائیڈ نہیں کر سکتا۔
AI کا جائز کردار: یاد دہانی اور ضابطہ
تین جگہیں ہیں جہاں آپ خطرے میں AI کو محفوظ طریقے سے استعمال کر سکتے ہیں:
1. عنصر کی یاد دہانی۔ خطرے کے عوامل (مثال کے طور پر، تشدد کی ماضی کی تاریخ، مادہ کا استعمال، سماجی تنہائی، پچھلے داخلے) اور حفاظتی عوامل (مثال کے طور پر، ایک معاون بالغ، باقاعدگی سے اسکول میں حاضری، ایک مضبوط سوشل نیٹ ورک) جن پر خطرے کی تشخیص میں غور کیا جانا چاہئے وہ طویل ہیں؛ AI ایک چیک لسٹ کو یاد کرکے آپ کو کسی بھی علاقے کو کھونے سے بچنے میں مدد کرتا ہے جو آپ کی تنظیم کے استعمال کردہ فریم ورک کے مطابق ہے۔
2. نوٹ میں ترمیم کرنا۔ یہ آپ کے مشاہدے اور کلائنٹ کے بیانات کا ایک منظم، حقیقت پر مبنی متن میں ترجمہ کرتا ہے — تاکہ آپ اپنے فیصلے کی بنیاد واضح ڈیٹا پر رکھ سکیں۔
3. سیکیورٹی پلان کا مسودہ۔ ایک سیکورٹی پلان (ایک ٹھوس منصوبہ جو یہ طے کرتا ہے کہ خطرے کی صورت میں شکار کیا کرے گا، وہ کس سے رابطہ کرے گا، کہاں جائے گا) کا ایک خاص ڈھانچہ ہوتا ہے۔ AI کلائنٹ کے ساتھ بھرنے کے لیے ایک ڈرافٹ کنکال تیار کر سکتا ہے۔ لیکن آپ اور کلائنٹ حقیقت کے مطابق منصوبے کے مواد کو پُر کرتے ہیں۔
احتیاط: AI سے کبھی نہ پوچھیں "اس معاملے میں خطرے کی سطح کیا ہے؟" یا "کیا بچہ گھر میں محفوظ ہے؟" مت پوچھو۔ آؤٹ پٹ کو فیصلے کے طور پر استعمال نہ کریں، چاہے آپ پوچھیں۔ ان سوالات کا جواب صرف مجاز ماہر، ٹیم اور ادارے کے آفیشل رسک ٹول کے ذریعے دیا جاتا ہے۔
مرحلہ وار: خطرے کے عمل میں AI کو صحیح طریقے سے پوزیشننگ کرنا
- سب سے پہلے حفاظت۔ اگر کوئی فوری اور سنگین خطرہ (زندگی کی حفاظت) ہو، تو ادارے کے ہنگامی طریقہ کار کو چلانا ضروری ہے، نہ کہ AI سے نمٹنے کے لیے۔ AI کو فوری طور پر تاخیر نہیں کرنی چاہئے۔
- بے شناخت کرنا۔ خطرے کی درجہ بندی سب سے زیادہ حساس ڈیٹا ہے؛ کلائنٹ کی شناخت کرنے والی معلومات کو اوپن ٹول میں داخل نہیں کیا جاتا ہے، صرف محفوظ ادارہ ٹول استعمال کیا جاتا ہے۔
- مجھے عامل کی فہرست یاد دلائیں۔ ادارہ جاتی فریم ورک کے لیے مناسب خطرے اور حفاظتی عنصر کی چیک لسٹ کی درخواست کریں۔
- اپنا فیصلہ خود کریں۔ آپ عوامل کا وزن کرتے ہیں، ٹیم کے ساتھ تشخیص کرتے ہیں، اور سپروائزر سے مشورہ کرتے ہیں۔ آپ نہیں چاہتے کہ AI "تشخیص" کرے۔
- کلائنٹ کے ساتھ حفاظتی منصوبہ مکمل کریں۔ ڈرافٹ کنکال AI سے آ سکتا ہے؛ مواد کلائنٹ کے اصل نیٹ ورک، وسائل اور ترجیحات کے ساتھ بھرا ہوا ہے۔
تین چھوٹے مقدمات
کیس 1 - چھوٹ گیا حفاظتی عنصر۔ ایک ماہر نے گھریلو تشدد کے معاملے میں خطرے کے عوامل پر توجہ مرکوز کی۔ فیکٹر چیک لسٹ جس کے لیے اس نے AI سے پوچھا تھا کہ وہ "حفاظتی عوامل" سیکشن میں کام کرنے والے کلائنٹ کے محفوظ سپورٹ نیٹ ورک کے بارے میں پوچھے — ایک ایسا علاقہ جسے ماہر نے چھوٹ دیا تھا۔ یہ نیٹ ورک سیکورٹی پلان کا سب سے زیادہ حقیقت پسندانہ حصہ بن گیا۔ فیصلہ پھر ماہر پر منحصر تھا۔ AI نے محض سوال یاد دلایا۔
کیس 2 - غلط سکور پر بھروسہ نہیں کیا گیا۔ ایک ایجنسی نے ایک ٹرائل AI ٹول کیس کو "کم خطرہ" کے طور پر لیبل دیکھا۔ تاہم، ماہر کے مشاہدے اور مؤکل کے بیان نے ایک سنگین خطرے کی طرف اشارہ کیا۔ ٹیم نے AI لیبل کو مسترد کر دیا اور اپنے جائزے کی بنیاد پر حفاظتی کارروائی شروع کی۔ بعد میں تصدیق ہوئی کہ خطرہ حقیقی تھا۔ سبق: AI سکور فیصلہ نہیں ہے؛ انسانی فیصلے کو ترجیح دی جاتی ہے۔
کیس 3 - تعصب پکڑا گیا۔ ایک مقدمے میں، ایک ہی کیس AI کو دو بار دیا گیا تھا۔ فرق صرف اس محلے کا تھا جہاں کلائنٹ رہتا تھا۔ AI نے منظم طریقے سے پسماندہ سمجھے جانے والے پڑوس کے لیے اعلیٰ "خطرے کی زبان" تیار کی۔ اس نے AI کے تربیتی ڈیٹا میں تعصب کا مظاہرہ کیا اور ایجنسی کی خطرے سے متعلق فیصلہ سازی میں AI کا استعمال نہ کرنے کی پالیسی کو تقویت دی۔
چار کاپی کرنے کے قابل ٹیمپلیٹس
1) رسک/حفاظتی عنصر کی یاد دہانی:
آپ کا کردار: سماجی کام کے نگران کا معاون۔ خطرے کے عوامل اور حفاظتی عوامل کی ایک چیک لسٹ تیار کریں جن کا [گھریلو تشدد] کے معاملات میں خطرے کی تشخیص میں جائزہ لینے کی سفارش کی جاتی ہے۔ اسے یاد دہانیوں کی فہرست کے طور پر پیش کریں۔ کوئی اسکور، فیصلے، یا "خطرے کی سطح" پیدا نہ کریں۔ تشخیص اور فیصلہ ماہر کا ہے۔
2) سیکورٹی پلان کا مسودہ کنکال:
آپ کا کردار: ایڈیٹر۔ گھریلو تشدد کے شکار سے بھرے جانے والے حفاظتی منصوبے کا ایک خالی خاکہ تیار کریں: انتباہی نشانات، محفوظ مقامات، رابطہ کرنے کے لیے لوگ اور ادارے، اہم دستاویزات، بچوں کے لیے منصوبہ، ڈیجیٹل حفاظت۔ مواد کو بھرنا؛ کلائنٹ کے ساتھ پُر کرنے کے لیے ہر عنوان کے نیچے خالی جگہیں چھوڑ دیں۔
3) رسک نوٹ میں ترمیم کرنا (فیصلہ کیے بغیر):
مندرجہ ذیل مشاہدے اور بیان کے نوٹس کو حقیقت پر مبنی، منظم متن میں ترجمہ کریں۔ مشاہدہ اور کلائنٹ کا بیان الگ الگ لیبل کریں۔ خطرے کی سطح بتاتے ہوئے، فیصلہ کرنا، تبصرہ شامل کرنا۔ صرف وہی ترمیم کریں جو نوٹ میں ہے اور غائب/غیر واضح علاقوں کو نشان زد کریں۔ نوٹ: [پیسٹ غیر شناخت شدہ نوٹ]
4) تعصب نفس پر قابو:
نیچے دیے گئے ڈرافٹ رسک نوٹ میں، کیا کوئی ایسا بیان ہے جو کلائنٹ کی سماجی و اقتصادی حیثیت، نسل، پڑوس، یا اسی طرح کی خصوصیت کی وجہ سے غیر ثابت شدہ تعصب کا اظہار کرتا ہے؟ ہر جملے کو نشان زد کریں جو ثبوت کے بجائے دقیانوسی تصورات پر مبنی ہو۔ متن کو تبدیل نہ کریں، صرف انتباہ کریں۔ نوٹ: [نوٹ پیسٹ کریں]
کمزور فوری / مضبوط اشارہ
کمزور اشارہ:
اس کیس کو پڑھیں اور فیصلہ کریں کہ آیا بچے کے لیے گھر میں رہنا محفوظ ہے اور خطرے کی سطح کیا ہے۔
یہ ایک سافٹ ویئر کو انسانی زندگی کے بارے میں سب سے زیادہ وزنی فیصلہ آؤٹ سورس کر رہا ہے۔ یہ غیر اخلاقی ہے، پیشہ ورانہ ذمہ داری کے برعکس، اور AI کے تعصب کو براہ راست بچے کی قسمت میں لے جاتا ہے۔
طاقتور اشارہ:
آپ کا کردار: یاد دہانی اسسٹنٹ۔ نیچے دیے گئے غیر شناخت شدہ نوٹ کو پڑھنے سے پہلے، خطرے اور حفاظتی عوامل کی ایک چیک لسٹ تیار کریں تاکہ [بچوں کو نظر انداز کرنے] کے معاملات کی تشخیص میں جائزہ لیا جائے۔ فیصلہ، سکور یا خطرے کی سطح تیار کرنا۔ میں اپنی ٹیم کے ساتھ تشخیص کروں گا؛ آپ صرف مجھے یاد دلاتے ہیں کہ مجھے کن علاقوں کو نہیں چھوڑنا چاہئے۔
فرق: فیصلے مانگنے کے بجائے "مجھے کون سے سوالات نہیں بھولنا چاہئے" کہنا AI کو محفوظ اور اخلاقی محاذ پر رکھتا ہے۔
خطرے کے میدان میں کردار کی حدود
جستجو
کیا AI یہ کر سکتا ہے؟
کون کرتا ہے؟
فیکٹر چیک لسٹ کی یاد دہانی
جی ہاں
AI (یاد دہانی)
حقائق پر مبنی نوٹس میں ترمیم کرنا
جی ہاں
AI + ماہر کی منظوری
سیکورٹی پلان خالی کنکال
جی ہاں
اے آئی مواد کلائنٹ + ماہر
رسک لیول/اسکور کا تعین
نہیں
ماہر + ٹیم + نگرانی
"کیا یہ محفوظ ہے؟" فیصلہ
نہیں
قابل ماہر، قانونی عمل
حفاظتی اقدامات شروع کرنا
نہیں
ادارہ، مجاز اتھارٹی
عام غلطیاں
- خطرے کے سکور/فیصلے کے لیے AI سے پوچھنا۔ سب سے خطرناک غلطی؛ فیصلے کے لیے پیشہ ورانہ اختیار اور قانونی ذمہ داری درکار ہے۔
- AI لیبل پر بھروسہ کرنا۔ ایک "کم خطرہ" کا نتیجہ اس کے برعکس آپ کے مشاہدے کو کبھی باطل نہیں کرے گا۔
- تعصب کو نظر انداز کرنا۔ AI پسماندہ گروہوں کو منظم اعلی خطرہ قرار دے سکتا ہے۔ خود کو کنٹرول کرنا ضروری ہے.
- تاخیر کی عجلت۔ اگر زندگی کی حفاظت ہے، ہنگامی طریقہ کار پہلے؛ AI سے نمٹنا انتظار نہیں کر سکتا۔
- اوپن ٹول کو انتہائی حساس ڈیٹا دینا۔ رسک نوٹس پر کارروائی صرف محفوظ ادارے کے ٹول میں کی جاتی ہے۔
خلاصہ میں
خطرے کی تشخیص سماجی کام کی سب سے بڑی ذمہ داری ہے، اور فیصلہ مکمل طور پر فرد پر منحصر ہے - پیشہ ور، ٹیم، نگرانی، قانونی اتھارٹی۔ یہاں، AI صرف یاد دلانے کا ایک ٹول ہے (خطرے/حفاظتی عنصر کی فہرست)، ترتیب دینے (حقیقت پر مبنی نوٹ) اور مسودہ تیار کرنے (حفاظتی منصوبہ بندی)؛ یہ اسکور نہیں کرتا، یہ فیصلے نہیں کرتا۔ یاد رکھیں کہ AI تعصب رکھتا ہے، اس کے آؤٹ پٹ کو کبھی بھی فیصلے کے طور پر استعمال نہ کریں اور انتہائی حساس ڈیٹا کو صرف محفوظ سسٹم میں پروسیس کریں۔
درخواست کا کام
فرضی کیس کی قسم کا انتخاب کریں۔ "خطرہ/حفاظتی عنصر کی یاد دہانی" ٹیمپلیٹ کے ساتھ ایک چیک لسٹ حاصل کریں اور تصدیق کریں کہ AI کسی بھی "خطرے کی سطح" پیدا نہیں کرتا ہے۔ پھر "سیکیورٹی پلان آؤٹ لائن سکیلیٹن" ٹیمپلیٹ کے ساتھ ایک خالی پلان سکیلیٹن پکڑیں۔ شعوری طور پر AI سے پوچھنا "خطرے کی سطح کیا ہے؟" اور ایک جملے میں لکھیں کہ آپ کو فیصلے کے طور پر آؤٹ پٹ کا استعمال کیوں نہیں کرنا چاہیے۔
چیک لسٹ
- میں نے AI سے صرف فیکٹر ریمائنڈر کے لیے کہا، فیصلہ/اسکور نہیں۔
- میں نے انتہائی حساس ڈیٹا کو صرف محفوظ انٹرپرائز ٹول میں پروسیس کیا۔
- میں نے کلائنٹ کے ساتھ مل کر سیکورٹی پلان کے مواد کو پُر کرنے کا منصوبہ بنایا۔
- [ ] میں نے تعصب کے لیے AI آؤٹ پٹ کو چیک کیا۔
- میں نے تصدیق کی کہ خطرے کا حتمی فیصلہ ٹیم، نگرانی اور مناسب عمل پر منحصر ہے۔