فریب کاری، وشوسنییتا، اور ثبوت پر مبنی توثیق

فائدہ:

• میڈیکل AI آؤٹ پٹ میں فریب کی اقسام (من گھڑت ذریعہ، غلط خوراک، خیالی مطالعہ) کو پہچاننے کی صلاحیت
• ہر کلینکل دعوے کو موجودہ رہنمائی اور پرائمری سورس سے ملٹی لیئرڈ تصدیق کے ساتھ جوڑنے کی صلاحیت
• ماڈل کی غیر یقینی صورتحال کو منظم کرنے کی اہلیت، کہ اعتماد کا بیان درستگی کا ثبوت نہیں ہے، اور غلطی کا خطرہ جو یقینی لگتا ہے

طب میں مصنوعی ذہانت (AI) کا سب سے بڑا خطرہ یہ نہیں ہے کہ وہ غلطیاں کرتا ہے، بلکہ یہ ہے کہ وہ بڑے اعتماد کے ساتھ غلطیاں کرتا ہے۔ زبان کے ماڈل ایسے متن تیار کرتے ہیں جو روانی اور قائل ہو؛ ایک جملہ وہی پراعتماد لہجہ لگتا ہے چاہے وہ سچ ہو یا غلط۔ اسے "ہیلوسینیشن" کہا جاتا ہے: جب ماڈل ایسی معلومات تیار کرتا ہے جو حقیقت میں موجود نہیں ہے (من گھڑت ماخذ، غلط خوراک، خیالی مطالعہ، غیر موجود گائیڈ میٹریل) گویا یہ حقیقی ہے۔ دوسرے علاقوں میں، فریب کاری ایک خرابی ہے؛ یہ طب میں حفاظت کا مسئلہ ہے۔ اس یونٹ میں آپ ہیلوسینیشن کی اقسام، ملٹی لیئر توثیق، اور ماڈل کی غیر یقینی صورتحال کا انتظام کرنا سیکھیں گے۔ بنیادی اصول: اعتماد کا بیان سچائی کا ثبوت نہیں ہے۔ بنیادی ماخذ اور موجودہ رہنمائی سے منسلک کیے بغیر ہر طبی دعویٰ استعمال نہیں کیا جا سکتا۔

فریب کی وجہ کیا ہے؟

AI ایک ایسا نظام ہے جو "اگلے ممکنہ لفظ" کی پیشین گوئی کرتا ہے۔ یہ حقیقت کے ڈیٹا بیس سے نہیں پڑھتا ہے۔ یہاں تک کہ اگر وہ کسی سوال کا جواب نہیں جانتا ہے، تو وہ ایک قابل فہم جواب پیش کرتا ہے جو ان نصوص سے "مماثل" ہے جن پر اس کی تربیت کی گئی ہے۔ یہی وجہ ہے کہ وہ مکمل طور پر تشکیل شدہ اقتباس کے ساتھ ایک غیر موجود مضمون، واضح نمبر کے ساتھ ایک غلط خوراک، قطعی زبان کے ساتھ ایک پرانی سفارش دے سکتا ہے۔ ماڈل "میں نہیں جانتا" کہنے کے بجائے خالی جگہ کو پُر کرتا ہے۔ مزید برآں، تربیت کا ڈیٹا ایک تاریخ پر منجمد کر دیا جاتا ہے۔ ہو سکتا ہے کہ وہ ان رہنما خطوط سے واقف نہ ہوں جو تب سے تبدیل ہو چکے ہیں۔

اشارہ: AI سے پوچھیں "کیا آپ کو یقین ہے؟" پوچھنا قابل اعتماد امتحان نہیں ہے۔ ماڈل آسانی سے کہہ سکتا ہے کہ "ہاں، مجھے یقین ہے" یا، اس کے برعکس، صحیح جواب سے بہہ جائے۔ اصل امتحان یہ ہے کہ دعوے کو آزاد بنیادی ماخذ میں تلاش کیا جائے۔

طبی فریب کاری کی اقسام

نوع

مثال

خطرہ

ماخذ بنایا

غیر موجود مضمون/DOI

ثبوت کا جھوٹا سلسلہ

غلط خوراک/یونٹ

غلط ملی گرام یا یونٹ

مریض کو براہ راست نقصان پہنچانا

خیالی کام / نتیجہ

غیر RCT "ثبوت"

غلط طبی فیصلہ

پرانی سفارش

پرانا گائیڈ مضمون

پرانے علاج

غلط تقسیم

اصلی مضمون، غلط نتیجہ

تحریف شدہ معلومات

حد سے زیادہ عام کرنا

استثنیٰ کو چھوڑیں۔

غلط استعمال

کثیر پرت کی توثیق

فریب کے خلاف واحد دفاع منظم تصدیق ہے۔ پانچ پرتیں:

1. ماخذ پر نیچے جائیں۔ موجودہ رہنما خطوط، پیکیج داخل یا بنیادی مضمون سے ہر خوراک، معیار اور سفارش کو کھولیں اور تصدیق کریں۔
2. کراس چیک۔ کیا دو آزاد معتبر ذرائع ایک ہی بات کہتے ہیں؟
3. ٹاپیکلٹی معلومات کس تاریخ سے تعلق رکھتی ہیں؟ کیا تب سے بدلا ہے؟
4. کلینیکل مستقل مزاجی کیا دعویٰ مریض کی حقیقت اور عمومی طبی منطق کے مطابق ہے؟
5. ماہر آنکھ۔ کسی بھی شک یا نازک موڑ پر متعلقہ برانچ سے رجوع کریں۔

تین چھوٹے مقدمات

کیس 1 - غلط خوراک جو محفوظ معلوم ہوتی ہے۔ ایک معالج AI سے شاذ و نادر ہی استعمال ہونے والی دوا کی خوراک کے بارے میں پوچھتا ہے۔ AI ایک بہت واضح نمبر دیتا ہے۔ ڈاکٹر پراسپیکٹس کو دیکھتا ہے؛ اصل خوراک AI کے کہنے کا ایک تہائی ہے۔ AI کے درست لہجے نے درستگی کی نشاندہی نہیں کی۔ تصدیق نے ایک مہلک غلطی کو روک دیا۔

کیس 2 - پریت کا کام۔ AI علاج کی حمایت کے لیے "2020 میں شائع ہونے والے 1,200 مریضوں کے ملٹی سینٹر RCT" کا حوالہ دیتا ہے۔ ڈاکٹر اس مطالعہ کی تلاش کر رہا ہے؛ ایسا کوئی مطالعہ نہیں ہے۔ AI نے اپنے دعوے کو قابل اعتبار بنانے کے لیے نمبرز اور تفصیلات بنائی تھیں۔

کیس 3 - پرانی سفارش۔ AI ایک پرانی دوا تجویز کرتا ہے جو اب کسی بیماری کے علاج میں پہلے تجویز نہیں کی جاتی ہے۔ ڈاکٹر موجودہ گائیڈ کو دیکھتا ہے؛ نقطہ نظر بدل گیا ہے، ایک نیا ایجنٹ پہلے آیا ہے۔ AI کا علم پچھلے دور میں منجمد تھا۔ موجودہ رہنمائی فیصلے کو درست کرتی ہے۔

مرحلہ وار: دعوے کی تصدیق کرنا

1. دعوے کو ایک جملہ تک کم کریں۔ جیسے "X کی دوا Y کی خوراک میں تجویز کی جاتی ہے۔"
2. وسائل کی قسم کا تعین کریں۔ خوراک، معیار یا ثبوت؟
3. بنیادی ماخذ کھولیں۔ پراسپیکٹس، دستی، پب میڈ۔
4. دو ذرائع سے کراس چیک کریں۔
5. اپ ٹو ڈیٹ کی تصدیق کریں۔
6. اگر یہ فٹ نہیں ہے، اسے مسترد کریں؛ اگر شک ہو تو کسی ماہر سے مشورہ کریں۔

چار کاپی کرنے کے قابل ٹیمپلیٹس

ٹاسک: ہر قابل تصدیق دعوے (خوراک، تشخیصی معیار، ماخذ، عددی نتیجہ، گائیڈ لائن کی سفارش) کو الگ الگ لائنوں پر ذیل میں AI آؤٹ پٹ میں درج کریں۔ ہر ایک کے لیے "جس سے بنیادی ذریعہ کی تصدیق کی جائے" کالم شامل کریں۔ خود کی تصدیق؛ صرف ان پوائنٹس کو آؤٹ پٹ کریں جن کی جانچ کرنا ہے۔ آؤٹ پٹ: [...]

ٹاسک: درج ذیل دعوے کے درست ہونے کے لیے کن شرائط کو پورا کرنا ضروری ہے اور کن حالات میں یہ غلط ہو سکتا ہے۔ تاکہ میں دیکھ سکوں کہ مجھے کہاں تصدیق کرنی ہے۔ دعویٰ: [...]

ٹاسک: درج ذیل متن میں، ماخذ کا حوالہ دیئے بغیر عددی یا مطلق بیانات کو نشان زد کریں (مثلاً "80% موثر"، "500 ملی گرام فی دن")۔ ہر ایک کو "unsourced - تصدیق درکار ہے" کے ساتھ لیبل لگائیں۔ متن: [...]

کام: اس طبی سفارش کے موجودہ خطرے کا اندازہ لگانے کے لیے مجھ سے پوچھیں: یہ کس رہنما اصول پر مبنی ہو سکتا ہے، اسے آخری بار کب اپ ڈیٹ کیا گیا تھا، کیا حالیہ برسوں میں اس علاقے میں تبدیلیوں کا کوئی امکان ہے؟ گائیڈ لائن کا متن نہ بنائیں۔ کنٹرول سوالات پیدا کریں۔ تجویز: [...]

کمزور فوری / مضبوط اشارہ

کمزور: "کیا یہ سچ ہے؟" (AI آسانی سے "ہاں" کہتا ہے۔)

مضبوط: "ذیل میں AI پرنٹ آؤٹ میں ہر ایک خوراک، ذریعہ، اور رہنما خطوط کی سفارش کو ایک الگ لائن پر درج کریں اور لکھیں کہ کس بنیادی ذریعہ سے مجھے ہر ایک کے لیے تصدیق کرنی چاہیے۔ ایسے بیانات کو نشان زد کریں جو غیر منقولہ یا قطعی نظر آتے ہوں بطور 'تصدیق درکار'۔ اپنی تصدیق کریں؛ بس ایک چیک لسٹ تیار کریں۔"

طاقتور پرامپٹ میں، آپ AI کو ایک ایسے کردار میں ڈالتے ہیں جو "توثیق" نہیں کرتا ہے بلکہ "اس کے اپنے آؤٹ پٹ کو قابل سماعت بناتا ہے۔"

عام غلطیاں

• درستگی کے لیے پراعتماد لہجے میں غلطی کرنا۔ اعتماد کا بیان ثبوت نہیں ہے۔
• "کیا آپ کو یقین ہے؟" کے ساتھ ٹیسٹنگ۔ ماڈل دونوں سمتوں میں آسانی سے پھسلتا ہے۔
• ایک ذریعہ سے مطمئن ہونا۔ کراس چیکنگ ضروری ہے۔
• اپ ڈیٹ کو چھوڑنا۔ ماڈل کی معلومات کو ایک تاریخ میں منجمد کر دیا گیا ہے۔
• کسی نازک موڑ پر کسی ماہر سے مشورہ نہ کرنا۔ قابل اعتراض فیصلوں میں دوسری رائے لینی چاہیے۔

آٹومیشن تعصب: کسی کا اپنا جال

ہیلوسینیشن ماڈل کی غلطی ہے۔ لیکن انسانی غلطی بھی ہے: آٹومیشن تعصب۔ یہ انسانی رجحان ہے کہ جب کوئی مشین جواب دیتی ہے تو سوال کیے بغیر جواب کو درست مان لیتا ہے۔ صرف اس لیے کہ ایک کیلکولیٹر قابل اعتماد ہے، ہم اس کے عادی ہو جاتے ہیں۔ ہم نادانستہ طور پر زبان کے ماڈل پر وہی اعتماد رکھتے ہیں۔ تاہم، زبان کا ماڈل کیلکولیٹر کی طرح قطعی نہیں ہے۔ امکانی اور غلط ہے۔

آٹومیشن کا تعصب خاص طور پر اس وقت خطرناک ہوتا ہے جب تھکا ہوا، وقت کے دباؤ میں، اور معمول کے کاموں میں۔ قبضے کے اختتام پر، AI آؤٹ پٹ کو مسترد کرنا آسان ہے جو ہموار اور ہموار لگتا ہے کیونکہ "یہ بہرحال سچ ہے۔" تریاق تصدیق کو ایک عادت اور ایک نظام بنانا ہے: اسے کسی کی فوری توجہ کے لیے نہیں، بلکہ تحریری چیک ان مرحلے سے جوڑنا۔ "میں تھک گیا ہوں، لیکن چیک لسٹ یہی کہتی ہے" آٹومیشن تعصب کے خلاف بہترین دفاع ہے۔

احتیاط: سب سے بڑا خطرہ یہ نہیں ہے کہ AI غلطیاں کرے گا۔ اس کا مطلب یہ ہے کہ جب آپ تھک چکے ہوں تو آپ اس غلطی کو سوال کیے بغیر قبول کرلیں۔ تصدیق کو تحریری نظام سے لنک کریں، ذاتی غور و فکر سے نہیں۔

خلاصہ میں

ہیلوسینیشن طب میں AI کا سب سے سنگین خطرہ ہے: ماڈل ایک ہی پر اعتماد لہجے میں جھوٹ اور سچائی پیدا کرتا ہے۔ من گھڑت ذریعہ، غلط خوراک، فرضی مطالعہ، اور پرانی سفارش سب سے عام قسمیں ہیں۔ واحد دفاع کثیر سطحی تصدیق ہے: بنیادی ذریعہ اور موجودہ رہنمائی کے خلاف ہر دعوے کی جانچ کریں، کرنسی کے لیے کراس چیکنگ اور جانچ؛ اہم نکات پر ماہر سے مشورہ کریں۔ کبھی بھی اعتماد کے بیان کو سچائی کے ثبوت کے طور پر نہ لیں۔

درخواست کا کام

AI سے جان بوجھ کر چیلنج کرنے والا طبی سوال پوچھیں (ایک نایاب خوراک یا موجودہ علاج)۔ ہر خوراک، ذریعہ، اور سفارش کی تصدیق کریں جو وہ بنیادی ذریعہ سے کرتا ہے۔ کتنے دعوے سچے نکلے اور کتنے جھوٹے یا من گھڑت؟ اس ٹیبل کو میچ کریں کہ غلطیاں کس قسم کے فریب میں آتی ہیں اور نوٹ کریں کہ کس طرح پر اعتماد لہجہ آپ کو گمراہ کر سکتا ہے۔

چیک لسٹ

• میں نے ہر دعوے کو ایک جملہ تک گھٹا دیا۔
• میں نے بنیادی ذریعہ سے خوراک/معیار/ذریعہ/سفارش کی تصدیق کی ہے۔
• میں نے دو آزاد ذرائع سے کراس چیک کیا۔
• میں نے تصدیق کی ہے کہ معلومات تازہ ترین ہیں۔
• میں نے کلینکل مستقل مزاجی کے ساتھ دعویٰ کا تجربہ کیا۔
• میں نے قابل اعتراض/اہم نکتہ پر ایک ماہر سے مشورہ کیا۔
• میں نے پراعتماد لہجے کو درستگی کا ثبوت نہیں سمجھا۔