فائدہ:
- یہ سمجھنا کہ مصنوعی ذہانت کیوں بحران، خودکشی اور خود کو نقصان پہنچانے کے خطرے میں فیصلے نہیں کر سکتی اور انسانی مداخلت کیوں لازمی ہے۔
- ماہرین کے فیصلے کے نیچے، صرف یاد دہانی/چیک لسٹ کی سطح پر خطرے کی تشخیص میں AI کو پوزیشن دینے کی صلاحیت
- ہنگامی پروٹوکول، روٹنگ لائنز اور سیکیورٹی پلان میں مصنوعی ذہانت کے محدود اور کنٹرول شدہ کردار کی وضاحت کرنے کی صلاحیت
یہ یونٹ پورے ماڈیول کی سب سے اہم حد کھینچتا ہے۔ دماغی صحت کے کاروبار میں ایسے لمحات ہوتے ہیں جہاں یہ رفتار، آسانی یا کارکردگی کے بارے میں نہیں ہوتا ہے۔ صرف ایک آدمی کی زندگی اور ایک ماہر کی ذمہ داری بولتی ہے۔ حالات جیسے خودکشی کا خطرہ، خود کو یا دوسروں کو نقصان پہنچانا، شدید نفسیات، تشدد کا خطرہ، بچے/زیادتی کی اطلاع دینا بحران ہیں۔ ان لمحات میں، مصنوعی ذہانت (AI) فیصلے نہیں کر سکتی، خطرے کی پیمائش نہیں کر سکتی، مداخلت اور ذمہ داری نہیں لے سکتی۔ یہ "AI ابھی تک کافی اچھا نہیں ہے" کا معاملہ نہیں ہے۔ بحران فطری طور پر حقیقی وقت میں انسانی تعلق، طبی فیصلے، اور جوابدہی کی ضرورت ہے۔ اس یونٹ میں، آپ سیکھیں گے کہ AI بحران میں کیوں رک جائے گا، انسان کیوں ضروری ہیں، اور AI کس محدود کردار میں سب سے زیادہ رہ سکتا ہے۔
AI بحران میں فیصلے کیوں نہیں کر سکتا
بحران کی تشخیص کے لیے چار چیزوں کی ضرورت ہوتی ہے، اور نہ ہی AI میں کافی ہے:
- حقیقی وقت کا رشتہ۔ خطرے کی حقیقی علامات اکثر بولے گئے الفاظ میں نہیں ہوتیں۔ یہ آواز کے لہجے، ٹھہراؤ، نثر، باڈی لینگویج، "ان کہی" میں چھپا ہوا ہے۔ AI ایک متن دیکھتا ہے؛ لوگوں کو نہیں دیکھتا.
- کلی کلینیکل استدلال۔ خطرہ؛ یہ درجنوں عوامل جیسے کہ تاریخ، حفاظتی عوامل، تحریک، رسائی (طریقہ تک رسائی)، سپورٹ سسٹم کا لائیو وزن ہے۔ AI ایک مکینیکل "خطرے کا اسکور" دے سکتا ہے، لیکن یہ اسکور انسان کو نہیں بچائے گا۔
- ذمہ داری اور احتساب۔ ایک ایسا شخص ہونا چاہیے جو بحران کے فیصلے کے پیچھے دستخط کرے، جو اگر ضروری ہو تو جوابدہ ہو، اور جو مؤکل کی جان لے۔ AI ذمہ داری نہیں اٹھا سکتا۔
- جوابی صلاحیت۔ بحران میں جس چیز کی ضرورت ہوتی ہے (حفاظتی منصوبہ بنانا، خاندان کو شامل کرنا، ایمرجنسی روم میں جانا، ہسپتال کا حوالہ دینا) ٹھوس، انسانی ساختہ اقدامات ہیں۔
احتیاط: جب کوئی کلائنٹ خطرے کی علامات ظاہر کرتا ہے، تو AI سے پوچھیں "کیا کوئی خطرہ ہے؟" پوچھنا "فیصلہ ملتوی کرنا اور ذمہ داری سے بچنا ہے۔ بحران میں، ماہر براہ راست قدم اٹھاتا ہے۔ اس وقت AI کا کوئی فیصلہ کن کردار نہیں ہے۔ ضرورت پڑنے پر ہاٹ لائنز اور انسانی امدادی سلسلہ کو چالو کیا جاتا ہے۔
کرائسس چیٹ بوٹس میں AI کا خطرہ
حالیہ برسوں میں، AI چیٹ بوٹس جو کہتے ہیں "مجھے آپ کی حمایت کرنے دو" بڑے پیمانے پر ہو چکے ہیں۔ بحران میں ان کا خطرہ سنگین ہے: ایک بوٹ خودکشی کے پیغام کو غلط سمجھ سکتا ہے، موضوع سے گریز کر سکتا ہے، کلچ جواب دے سکتا ہے، یا (دستاویزی صورتوں کے طور پر) نقصان دہ طریقے سے جواب دے سکتا ہے۔ ایک شخص محسوس کرتا ہے کہ دوسرا شخص حقیقی خطرے میں ہے اور وہ کارروائی کرتا ہے۔ ایک بوٹ یہ قابل اعتماد طریقے سے نہیں کر سکتا۔ اس لیے کبھی بھی بحران میں مبتلا کسی صارف کو چیٹ بوٹ سے رجوع نہ کریں۔
AI کا قابل قبول محدود کردار
AI بحران میں فیصلے نہیں کر سکتا۔ لیکن سیشن کے باہر، پیشہ ور کا اپنے کام کی حمایت میں بہت محدود کردار ہو سکتا ہے:
- یاد دہانی/چیک لسٹ۔ ایک چیک لسٹ کے طور پر ان شعبوں کی تیاری کرنا جن کے بارے میں ماہر کو خطرے کی تشخیص میں پوچھنا نہیں بھولنا چاہیے (ماہر اسے استعمال کرتا ہے، مؤکل نہیں)۔
- پروٹوکول کا مسودہ۔ ادارے کے کرائسس پروٹوکول، ریفرل لائنز کی فہرست، سیکیورٹی پلان ٹیمپلیٹ کا مسودہ تیار کرنا (پھر ماہر/ادارہ اس کی منظوری دیتا ہے)۔
- ٹریننگ/ریہرسل۔ ماہر کی بحرانی انٹرویو کی مہارت کو بہتر بنانے کے لیے خیالی منظر نامے کی ریہرسل (کوئی حقیقی مؤکل نہیں)۔
ان کرداروں میں کیا مشترک ہے: AI کبھی بھی ایک حقیقی کلائنٹ کے ساتھ، لائیو بحران میں فیصلہ سازی کی پوزیشن میں نہیں ہوتا ہے۔
صورتحال
AI کا کردار
جو فیصلہ کرتا ہے۔
لائیو بحران (خطرے میں کلائنٹ)
کوئی فیصلہ کن کردار نہیں۔
ماہر، براہ راست اور فوری طور پر
سیشن سے باہر: ایک چیک لسٹ کی تیاری
ڈرافٹ یاد دہانی
ماہر منظور کرتا ہے/استعمال کرتا ہے۔
کرائسس پروٹوکول/ٹیمپلیٹ تحریر
متن کا مسودہ
ماہر/ادارہ منظور کرتا ہے۔
بحران میں کلائنٹ کی رہنمائی
ممنوع (کبھی چیٹ بوٹ نہ کریں)
انسانی حمایت کا سلسلہ
تین چھوٹے مقدمات
کیس 1 - سرحدی تحفظ۔ ایک کلائنٹ ایک سیشن میں کہتا ہے، "میں اسے مزید نہیں لے سکتا، میں اسے ختم کرنا چاہتا ہوں۔" ماہر سوچتا ہے، "میں یہ AI کو لکھوں گا اور اس سے اس کی سنجیدگی کے بارے میں پوچھوں گا،" لیکن رک جاتا ہے۔ اس کے بجائے وہ براہ راست، پرسکون اور براہ راست خطرے کی تشخیص میں آگے بڑھتا ہے: سوچ کی فریکوئنسی، منصوبہ، طریقہ، پہنچ، حفاظتی عوامل کے بارے میں بات چیت؛ ایک سیکورٹی پلان بناتا ہے؛ ضروری معاونت کو چالو کرتا ہے۔ فیصلہ اور ذمہ داری شروع سے آخر تک انسان کی ہے۔ AI کے لیے اس لمحے میں داخل ہونا بالکل درست نہیں ہوگا۔
کیس 2 - کشتی کی کمی۔ ایک تنظیم گھنٹے کے بعد کی مدد کے لیے AI چیٹ بوٹ کی تعیناتی پر غور کر رہی ہے۔ پائلٹ ٹیسٹنگ میں، بوٹ خودکشی کا مشورہ دینے والے پیغام کے جواب میں عام "خیال رکھنا" کے ساتھ جواب دیتا ہے۔ یہ نہ تو خطرے کو پہچانتا ہے اور نہ ہی ہدایت دیتا ہے۔ ایجنسی فیصلہ کرتی ہے کہ بوٹ بحران سے محفوظ نہیں ہے۔ اس کے بجائے، یہ ایک واضح نظام قائم کرتا ہے جو لوگوں کو ایک حقیقی بحران کی لکیر کی طرف اور وقت سے باہر کے حالات کے لیے آن کال ماہر کی طرف ہدایت کرتا ہے۔
کیس 3 - صحیح محدود استعمال۔ اپنے خطرے کی تشخیص کی مشق کو مضبوط بنانے کے لیے، ایک ماہر نے AI سے "ان علاقوں کی چیک لسٹ مانگی ہے جن کے بارے میں مجھے ایک جامع خودکشی کے خطرے کی تشخیص کے انٹرویو میں پوچھنا یاد رکھنا چاہیے۔" AI ایک اچھی یاد دہانی کی فہرست تیار کرتا ہے۔ ماہر اسے حفاظتی جال کے طور پر اپنے بیگ میں رکھتا ہے۔ یہاں، AI کلائنٹ کو بالکل نہیں چھوتا ہے۔ یہ صرف ماہر کی تیاری کی حمایت کرتا ہے۔ یہ قابل قبول حد ہے۔
کاپی کرنے کے قابل اشارے اور ٹیمپلیٹس
نوٹ: ان ٹیمپلیٹس میں سے کوئی بھی حقیقی کلائنٹ کے ساتھ براہ راست بحران میں استعمال نہیں کیا جانا چاہئے۔ تمام سیشن کے باہر، ماہر کی اپنی تیاری کے لیے۔
ایک عمومی چیک لسٹ تیار کریں تاکہ ایک پیشہ ور خطرے کی تشخیص میں پوچھنا نہ بھولے (تعدد/سوچ کی شدت، منصوبہ، طریقہ تک رسائی، حفاظتی عوامل، تاریخ، سپورٹ سسٹم)۔ یہ فہرست محض ماہر کی اپنی یاد دہانی ہے۔ خطرے کا فیصلہ نہیں دیا جاتا ہے، یہ کلائنٹ کو نہیں دیا جاتا ہے۔
ہماری تنظیم کے لیے کرائسس ریفرنس پروٹوکول ٹیمپلیٹ تیار کریں: آن/آف گھنٹے کے مراحل، کس کو کال کرنا ہے، ایمرجنسی لائنوں کا حوالہ دینا، دستاویزات۔ ہمارے ماہرین اور انتظامیہ اس کا جائزہ لیں گے اور اسے مقامی حقیقت اور قانون سازی کے مطابق منظور کریں گے۔
سیفٹی پلان ٹیمپلیٹ کا ایک خالی مسودہ تیار کریں: انتباہی علامات، مقابلہ کرنے کی حکمت عملی، لوگوں کی مدد، پیشہ ورانہ مواصلات، ماحول کو محفوظ بنانا۔ ماہر کلائنٹ کے روبرو مواد بھرے گا۔ آپ صرف خالی ٹیمپلیٹ دیں۔
میری بحران سے متعلق انٹرویو کی مہارت کو بہتر بنانے کے لیے ایک خیالی ریہرسل کا منظر نامہ ترتیب دیں (کوئی حقیقی مؤکل نہیں)۔ مجھے اپنے ماہرانہ کردار میں جواب دینے دیں، پھر مجھے اپنے نقطہ نظر پر تعمیری رائے دیں۔ یہ ایک ٹریننگ ریہرسل ہے، حقیقی کیس نہیں۔
کمزور فوری / مضبوط اشارہ
کمزور اشارہ: "اس مؤکل نے کہا: [جملے]۔ کیا خودکشی کا زیادہ خطرہ ہے، مجھے کیا کرنا چاہیے؟"
یہ فوری طور پر بحران کا فیصلہ AI کو سونپتا ہے۔ AI خطرے کی پیمائش نہیں کر سکتا، ذمہ داری نہیں لے سکتا، اور اس لمحے کو حقیقی وقت میں انسانی مداخلت کی ضرورت ہے۔ یہ استعمال خطرناک ہے۔
مضبوط اشارہ: "میں سیشن سے باہر ہوں، کوئی حقیقی کلائنٹ نہیں ہے۔ اپنی رسک اسیسمنٹ کی مہارتوں کو برش کرنے کے لیے، ان علاقوں کی یاد دہانی کے طور پر ایک فہرست بنائیں جن کا مجھے خودکشی کے خطرے والے انٹرویو میں احاطہ نہیں کرنا چاہیے۔ حقیقی صورتحال میں فیصلہ اور مداخلت میری ذمہ داری ہوگی۔"
یہ پرامپٹ AI کو صرف سیشن سے باہر تیاری کے ٹول کے طور پر استعمال کرتا ہے۔ بحران فیصلہ انسان پر چھوڑ دیتا ہے۔
عام غلطیاں
- AI سے بحران کے فیصلے کے لیے پوچھنا۔ "کیا کوئی خطرہ ہے؟" مشاورتی AI؛ فیصلہ اور ذمہ داری سے محروم ہونا ہے۔
- بحران میں گاہک کو بوٹ کی طرف ہدایت کرنا۔ یہ بھول جانا کہ چیٹ بوٹ قابل اعتماد طریقے سے خطرے کا انتظام نہیں کر سکتا۔
- حقیقی کے لیے رسک سکور کو غلط سمجھنا۔ طبی تشخیص کے لیے AI سے مکینیکل "رسک لیول" آؤٹ پٹ کو تبدیل کرنا۔
- اسٹیجنگ ٹول کو لائیو استعمال میں منتقل کرنا۔ AI کے ساتھ مشاورت سے لائیو بحران میں سیشن سے باہر کی چیک لسٹ کا استعمال کرنا۔
- انسانی معاونت کا سلسلہ قائم نہیں کرنا۔ تنظیم میں بعد کے اوقات کے لیے حقیقی ماہر/کرائسز لائن سسٹم کے بجائے AI پر انحصار کرنا۔
خلاصہ میں
بحران، خودکشی اور نقصان کا خطرہ ماڈیول کی واضح ترین حد ہے: ان لمحات میں AI فیصلے نہیں کر سکتا، خطرے کی پیمائش نہیں کر سکتا، مداخلت کر سکتا ہے اور ذمہ داری قبول نہیں کر سکتا۔ کیونکہ بحران کے لیے حقیقی وقت کی مصروفیت، کلی طبی فیصلے، احتساب اور انسانی مداخلت کی ضرورت ہوتی ہے۔ AI کے لیے واحد قابل قبول کردار چیک لسٹ، پروٹوکول/ٹیمپلیٹ ڈرافٹ، اور تربیتی ریہرسل، سیشن کے باہر، پیشہ ور کی اپنی تیاری میں معاونت کرتا ہے۔ بحران میں کسی کلائنٹ کو کبھی بھی چیٹ بوٹ کی طرف مت بھیجیں۔ ہیومن سپورٹ چین اور ہاٹ لائنز کو فعال کر دیا گیا ہے۔
درخواست کا کام
اپنی پریکٹس یا تنظیم کے لیے کرائسز روٹنگ فلو بنائیں: قدم بہ قدم کیا ہوتا ہے جب کوئی کلائنٹ خطرے کا مظاہرہ کرتا ہے، کسے کہا جاتا ہے، کن لائنوں کا حوالہ دیا جاتا ہے؟ تصدیق کریں کہ AI اس بہاؤ کے کسی بھی مرحلے پر فیصلہ ساز نہیں ہے۔ AI سے سیشن سے باہر ہونے والے خطرے کی تشخیص کی چیک لسٹ بھی نکالیں اور ایک جملے میں لکھیں کہ یہ صرف آپ کی یاد دہانی کیوں ہے اور کلائنٹ کو نہیں دی جا سکتی۔
چیک لسٹ
- میں نے لائیو بحران میں AI کو کوئی فیصلہ کن کردار نہیں دیا۔
- میں نے براہ راست بحران کی تشخیص اور ردعمل خود کیا۔
- [ ] میں نے بحران میں مبتلا کلائنٹ کو چیٹ بوٹ کی طرف نہیں بھیجا۔
- میں نے AI کا استعمال صرف سیشن سے باہر کی تیاری (چیک لسٹ/پروٹوکول/ریہرسل) کے لیے کیا۔
- میں نے کارپوریٹ ہیومن سپورٹ چین اور ہاٹ لائنز کی تعریف کی۔
- [ ] میں نے اندرونی طور پر محسوس کیا ہے کہ بحران کا فیصلہ اور ذمہ داری فرد پر عائد ہوتی ہے۔