فائدہ:
- KVKK/پرائیویسی کے دائرہ کار میں مریض لیبارٹری کے ڈیٹا کو گمنام کرنے اور محفوظ ٹولز اور ڈیٹا پروسیسنگ کے قوانین کو لاگو کرنے کی اہلیت
- سمجھیں کہ مصنوعی ذہانت کے ماڈلز کے طبی استعمال میں توثیق، کارکردگی کی پیمائش اور تعصب کا کنٹرول کیوں ضروری ہے۔
- مصنوعی ذہانت کے ہر استعمال میں چار اخلاقی اصولوں اور ذمہ داری کے سلسلے کو باندھ کر حتمی ذمہ داری قبول کرنے کی صلاحیت
ایک لیبارٹری صحت کی دیکھ بھال کے نظام کے سب سے زیادہ ڈیٹا پر مشتمل پوائنٹس میں سے ایک ہے۔ ہر مریض، ہر ٹیسٹ، ہر نتیجہ ڈیٹا کا ایک ٹکڑا ہوتا ہے، اور ان میں سے زیادہ تر حصے حساس ذاتی ڈیٹا یعنی صحت کے ڈیٹا کے دائرہ کار میں ہوتے ہیں۔ مصنوعی ذہانت اس ڈیٹا پر کام کر کے بڑی قدر پیدا کر سکتی ہے، لیکن جب لاپرواہی سے استعمال کیا جائے تو یہی مصنوعی ذہانت رازداری کی سنگین خلاف ورزیوں، قانونی ذمہ داریوں اور مریض کے اعتماد کو نقصان پہنچا سکتی ہے۔ مزید یہ کہ، یہ صرف رازداری کے بارے میں نہیں ہے: یہ ثابت کرنا ایک پیشہ ورانہ اور اخلاقی ذمہ داری ہے کہ ایک مصنوعی ذہانت کا ماڈل جو کلینیکل استعمال میں لایا گیا ہے وہ واقعی قابل اعتماد ہے — یعنی توثیق — اور اس بات کو یقینی بنانا کہ وہ ماڈل بعض مریضوں کے گروپوں (تعصب) کے لیے غیر منصفانہ نہیں ہے۔
اس یونٹ میں، آپ یہ سیکھیں گے کہ KVKK/رازداری کے دائرہ کار میں مریض کے لیبارٹری ڈیٹا کی حفاظت کیسے کی جائے؛ توثیق، کارکردگی میٹرکس، اور کلینیکل AI ماڈلز کا تعصب کنٹرول؛ اور ہر استعمال میں اخلاقی اصولوں کو کیسے باندھا جائے۔ بنیادی اصول: ڈیٹا کسی بھی گاڑی میں بغیر گمنام کے داخل نہیں ہوتا ہے۔ کوئی بھی ماڈل طبی فیصلوں میں حصہ نہیں لیتا جب تک کہ آپ کے اپنے ڈیٹا پر اس کی توثیق نہ کر لی جائے۔ اور حتمی ذمہ داری ہمیشہ ماہر پر عائد ہوتی ہے۔
رازداری: کون سا ڈیٹا، اس کی حفاظت کیسے کی جائے۔
مریض لیبارٹری کا ڈیٹا (نتائج، تشخیص، پروٹوکول نمبر، شناخت) ترکی میں KVKK (ذاتی ڈیٹا پروٹیکشن قانون) کے تحت محفوظ ہے، یورپ میں GDPR، اور اضافی تحفظ کی ضرورت ہے کیونکہ صحت کا ڈیٹا "خصوصی نوعیت" کا ہے۔ مصنوعی ذہانت کا استعمال کرتے وقت تین بنیادی اصول:
- نام ظاہر نہ کریں۔ نام، TR ID، پروٹوکول/فائل نمبر، تاریخ پیدائش، رابطہ اور ادارے کی معلومات کو ہٹا دیں۔ "68 سالہ خاتون مریضہ" کافی ہے۔ "Ayşe Yılmaz, 12.03.1957" نہیں۔ نوٹ کریں کہ نایاب بیماری + چھوٹی جگہ جیسے امتزاج بالواسطہ طور پر شناخت ظاہر کر سکتے ہیں۔
- کم از کم ڈیٹا پالیسی۔ کام کے لیے درکار کم از کم ڈیٹا کا اشتراک کریں۔ حوالہ کی حد کے سوال کے لیے مریض کی پوری فائل کی ضرورت نہیں ہوتی۔
- محفوظ گاڑی کا انتخاب۔ کارپوریٹ ٹولز کا انتخاب کریں جن کے پاس ڈیٹا پروسیسنگ کا معاہدہ ہو اور وہ ماڈل ٹریننگ میں آپ کا ڈیٹا استعمال نہ کریں۔ کسی خام مریض کی فائل کو عوامی ٹول پر اپ لوڈ کرنا سب سے عام اور شدید خلاف ورزی ہے۔
ڈیٹا کی قسم
خطرہ
درست رویہ
نام، TR ID، پروٹوکول نمبر
براہ راست شناخت
نکالنا، گمنام کرنا
تاریخ پیدائش، پتہ
بالواسطہ شناخت
عمر کی حد تک ڈاؤن لوڈ کریں، پتہ ہٹا دیں۔
نتائج کی قدریں۔
صحت کے اعداد و شمار
گمنام طور پر، کم سے کم اشتراک کریں۔
تصویر (سمیئر، پیتھالوجی)
صحت کا ڈیٹا + ID کا اشارہ
اسے تصدیق شدہ طبی نظام میں رکھیں؛ کھلی گاڑی میں لوڈ کرنا
دھیان: "میں نے اسے خفیہ کیا ہے، لہذا میں نام بھی بھیج سکتا ہوں" غلط ہے۔ خفیہ کاری نقل و حمل کو محفوظ بناتی ہے، لیکن AI ٹول کو شناختی ڈیٹا بھیجنے کا جواز نہیں بنتی۔ شناختی ڈیٹا نکالا جاتا ہے۔
ماڈل کی توثیق: کیوں "شائع" کافی نہیں ہے۔
صرف اس وجہ سے کہ ایک AI ماڈل (مثال کے طور پر ایک تصویر کا درجہ بندی کرنے والا یا ایک تشریحی انجن) ایک جگہ پر اچھی طرح کام کرتا ہے، اس کا مطلب یہ نہیں ہے کہ یہ آپ کی لیب میں اچھی طرح سے کام کرے گا۔ ہو سکتا ہے کہ ماڈل کو کسی اور آبادی، کسی اور ڈیوائس، ایک اور سٹیننگ پروٹوکول پر تربیت دی گئی ہو۔ اس کی کارکردگی آپ کے نمونوں میں مختلف ہو سکتی ہے۔ اسے ڈسٹری بیوشن شفٹ کہتے ہیں۔ لہذا، طبی استعمال میں ڈالے جانے والے ہر ماڈل کی آپ کے اپنے ڈیٹا پر توثیق کی جانی چاہیے، اس کی کارکردگی کو باقاعدگی سے ماپا جانا چاہیے اور اس کی نگرانی کی جانی چاہیے۔
توثیق میں استعمال ہونے والے کلیدی کارکردگی کے میٹرکس:
- حساسیت: وہ شرح جس پر ماڈل درست طریقے سے ان لوگوں کو پکڑتا ہے جو واقعی بیمار/مثبت ہیں۔ کم حساسیت = کھوئے ہوئے حقیقی مثبت (جھوٹے منفی) = اہم نتائج کے گم ہونے کا خطرہ۔
- خصوصیت: صحیح معنوں میں صحت مند/منفی کے خاتمے کی درست شرح۔ کم مخصوصیت = بہت سے غلط الارم۔
- غلط منفی/غلط مثبت شرحیں: لیبارٹری میں، ایک غلط منفی (ایک اہم تلاش غائب) عام طور پر غلط مثبت سے زیادہ خطرناک ہے؛ یہ توازن ماڈل کے مطلوبہ استعمال کے مطابق ایڈجسٹ کیا جاتا ہے۔
ماڈل کی توثیق ہوجانے کے بعد، اسے فراموش نہیں کیا جاتا۔ وقت گزرنے کے ساتھ، ڈیوائس، ری ایجنٹ، آبادی تبدیل ہو سکتی ہے اور کارکردگی بدل سکتی ہے۔ لہذا، مسلسل نگرانی اور وقتا فوقتا دوبارہ تشخیص کی ضرورت ہے۔
تعصب: ماڈل کس کے ساتھ غیر منصفانہ ہے؟
ایک ماڈل تربیتی ڈیٹا میں عدم توازن کے بارے میں سیکھتا ہے۔ اگر کسی تصویری ماڈل کو زیادہ تر کسی مخصوص مریض گروپ کی مثالوں پر تربیت دی جاتی ہے، تو اس سے کم نمائندگی والے گروپ میں مزید غلطیاں ہو سکتی ہیں۔ لیبارٹری کے سیاق و سباق میں، اس کا مطلب ہے کہ ماڈل کسی خاص عمر، جنس، یا طبی گروپ کے لیے کم اچھی کارکردگی کا مظاہرہ کرتا ہے — اور یہ ایکوئٹی/اخلاقیات کا مسئلہ ہے۔ توثیق کرتے وقت، نہ صرف عام طور پر بلکہ ذیلی گروپوں میں بھی کارکردگی کو جانچنا ضروری ہے۔ تعصب کو نظر انداز کرنے کا مطلب خاموشی سے کچھ مریضوں کو بدتر خدمات فراہم کرنا ہے۔
اخلاقی چار اصول اور ذمہ داری کا سلسلہ
صحت کی اخلاقیات کے چار بنیادی اصول لیبارٹری AI پر بھی لاگو ہوتے ہیں:
- فائدہ:مریض کے فائدے کے لیے مصنوعی ذہانت کا استعمال کیا جانا چاہیے۔ ایکسلریشن کو حفاظت سے سمجھوتہ نہیں کرنا چاہئے۔
- غیر خرابی: غیر تصدیق شدہ آؤٹ پٹ، جعلی اہم قدر، کھوئی ہوئی تلاش نقصان کا باعث بن سکتی ہے۔ ان کی روک تھام اخلاقی ذمہ داری ہے۔
- خود مختاری: اس کے ڈیٹا پر مریض کے حقوق محفوظ ہیں۔ رازداری اور رضامندی کا احترام کیا جاتا ہے۔
- انصاف: ماڈل کو تمام مریضوں کے گروپوں کو یکساں معیار کی خدمت فراہم کرنی چاہیے۔ تعصب کی جانچ پڑتال ضروری ہے.
اور سب سے بڑھ کر، ذمہ داری کا ایک سلسلہ ہے: مصنوعی ذہانت ایک پیداوار پیدا کر سکتی ہے، لیکن ماہر اس پیداوار کے نتائج کا ذمہ دار ہے۔ "AI نے ایسا کہا" کوئی عذر نہیں ہے؛ دستخط، فیصلہ اور ذمہ داری انسان کی ہے۔
کمزور فوری / مضبوط اشارہ
کمزور اشارہ:
Ayşe Yılmaz (TC 123...، پروٹوکول 2024-88) کے تمام نتائج اور تشخیص کی تشریح کریں اور رپورٹ لکھیں۔
یہ درخواست براہ راست شناختی ڈیٹا (KVKK خلاف ورزی) پر مشتمل ہے، ڈیٹا کے کم از کم اصول کی خلاف ورزی کرتی ہے اور تشخیص کی درخواست کرتی ہے۔ یہ رازداری اور سرحدوں کی سنگین خلاف ورزی ہے۔
طاقتور اشارہ:
آپ کا کردار: لیبارٹری کے ماہر کا ڈرافٹ تیاری کا معاون۔ درج ذیل ڈیٹا گمنام ہے؛ شناختی معلومات پر مشتمل نہیں ہے۔ صرف درکار طبی/تجزیاتی معلومات کے ساتھ کام کریں۔ تشخیص کرنا؛ "ممکنہ" زبان استعمال کریں؛ معالج سے رجوع کریں۔ مریض: 68 سالہ خاتون، تائیرائڈ کی بیماری معلوم ہوتی ہے۔ گمنام نتائج (حوالہ کے ساتھ): TSH 6.2 mIU/L (ref 0.4-4.0)، عام رینج کے اندر مفت T4۔ ٹاسک: مریض کو بریفنگ کا ایک سادہ خاکہ لکھیں۔ ایک شناختی اشارہ بنائیں۔
مضبوط پرامپٹ گمنام ہے، کم سے کم ڈیٹا کے ساتھ کام کرتا ہے، تشخیص کو ماہر کے پاس رکھتا ہے، اور حد کی وضاحت کرتا ہے۔
تین چھوٹے مقدمات
کیس 1 - رازداری کی خلاف ورزی کو روکنا۔ مریض کی رپورٹ کی تشریح کرنے کے لیے، ایک ٹیکنیشن سب سے پہلے متن سے نام، ID، اور پروٹوکول نمبر نکالتا ہے جس میں "Anonymization Control" ٹیمپلیٹ ہوتا ہے۔ یہ صرف عمر، جنس اور نتائج کی قدروں کو چھوڑ دیتا ہے۔ پھر یہ ایک محفوظ، کارپوریٹ ٹول میں چلتا ہے۔ ڈیٹا کسی شناخت کے ساتھ ادارے سے باہر نہیں جاتا ہے۔ کام شروع ہونے سے پہلے خلاف ورزی کو روک دیا گیا۔
کیس 2 - غیر تصدیق شدہ ماڈل ٹریپ۔ ایک لیبارٹری اپنے آلے میں براہ راست دوسرے مرکز میں تیار کردہ پیشاب کی تلچھٹ کے ماڈل کا استعمال شروع کرتی ہے۔ اس کی توثیق نہیں ہوتی۔ تھوڑی دیر کے بعد، یہ دیکھا گیا ہے کہ ماڈل اپنے سٹیننگ پروٹوکول (ڈسٹری بیوشن شفٹ) میں کثرت سے کچھ کرسٹلز سے محروم رہتا ہے۔ جھوٹے منفی جمع ہو گئے ہیں۔ سبق: ماڈل طبی فیصلہ سازی میں اس وقت تک اہمیت نہیں رکھتا جب تک کہ آپ کے اپنے ڈیٹا پر اس کی توثیق نہ کر دی جائے اور حساسیت/خصوصیات کی پیمائش نہ کر لی جائے۔
کیس 3 - تعصب کو پکڑنا۔ کارکردگی کے آڈٹ میں، اگرچہ ایک ماڈل کی مجموعی حساسیت زیادہ دکھائی دیتی ہے، لیکن یہ بزرگ مریضوں کے ذیلی گروپ میں نمایاں طور پر کم پائی جاتی ہے۔ ماڈل اس گروپ میں زیادہ غلطیاں کرتا ہے۔ لیبارٹری ماڈل آؤٹ پٹس کے اس گروپ میں اضافی ماہر کا جائزہ شامل کرتی ہے اور مینوفیکچرر سے رابطہ کرتی ہے۔ سبق: کارکردگی کو نہ صرف مجموعی طور پر بلکہ ذیلی گروپوں میں بھی جانچا جاتا ہے۔ انصاف کا اصول اس کا تقاضا کرتا ہے۔
کاپی کرنے کے قابل پرامپٹ ٹیمپلیٹس
نام، TR ID، پروٹوکول/فائل نمبر، تاریخ پیدائش، پتہ، ٹیلی فون اور ادارے کی معلومات نیچے دیے گئے متن سے نکالیں؛ "[ہٹا دیا]" کے ساتھ تبدیل کریں. اگر کوئی بالواسطہ ID کا اشارہ ہے تو خبردار کریں (نادر تشخیص + چھوٹا مقام)۔ صرف ضروری طبی/تجزیاتی معلومات چھوڑ دیں۔ متن: [متن]۔
ماڈل کی توثیق کے منصوبے کا سانچہ ایک مصنوعی ذہانت کے ماڈل کے لیے ایک مسودہ توثیق کا منصوبہ تیار کریں جسے میں طبی استعمال میں لاؤں گا: میں اسے کس ڈیٹا کے ساتھ جانچوں گا، حساسیت/خصوصیات کی پیمائش کیسے کی جائے، جھوٹے منفی/مثبت کے توازن کا اندازہ کیسے لگایا جائے، ذیلی گروپ (عمر/کارکردگی کو کس طرح کنٹرول کیا جائے)، کارکردگی کو کس طرح کنٹرول کرنا ہے۔ میں فیصلہ کروں گا؛ آپ ایک چیک لسٹ تیار کرتے ہیں۔
BIAS چیک ٹیمپلیٹی ماڈل کی کارکردگی کا جائزہ لیتا ہے۔ فہرست جس میں ذیلی گروپس (عمر، جنس، طبی گروپ، نمونہ کی قسم) مجھے الگ سے کارکردگی تلاش کرنی چاہیے اور اگر مجھے ایک گروپ میں نمایاں طور پر خراب کارکردگی نظر آتی ہے تو مجھے کون سے اقدامات کرنے چاہئیں۔ انصاف/مساوات کے انتباہات شامل کریں۔
ایتھیکل سیلف آڈٹ ٹیمپلیٹ جو AI استعمال میں کرنے جا رہا ہوں اس کا آڈٹ چار اخلاقی اصولوں کے مطابق کیا جاتا ہے: فائدہ، غیر مؤثریت، خود مختاری (رازداری/ رضامندی)، انصاف۔ ہر پالیسی کے لیے خطرے سے متعلق سوال پوچھیں۔ نیز، "اس آؤٹ پٹ کا ذمہ دار کون ہے؟" مجھ سے اپنے سوال کا جواب طلب کریں۔ استعمال: [تعریف]۔
عام غلطیاں
- گاڑی کو شناختی ڈیٹا دینا۔ نام، TR ID نمبر اور پروٹوکول نمبر بغیر گمنامی کے شیئر نہیں کیے جاتے ہیں۔ خفیہ کاری اس کا جواز پیش نہیں کرتی ہے۔
- بالواسطہ شناخت کو بھول جانا۔ نایاب تشخیص + چھوٹی جگہ جیسے مجموعے شناخت کو ظاہر کرسکتے ہیں۔
- ماڈل کو توثیق کیے بغیر استعمال کرنا۔ کہیں اور چلنے والا ماڈل آپ کے ڈیٹا پر مختلف کارکردگی دے سکتا ہے۔
- صرف عام طور پر کارکردگی کو دیکھیں۔ اگر ذیلی گروپ کا تجزیہ نہیں کیا جاتا ہے تو تعصب پوشیدہ رہتا ہے۔
- ماڈل پر ذمہ داری ڈالنا۔ "AI نے کہا" کوئی عذر نہیں ہے۔ فیصلہ اور دستخط ماہر کے ہیں۔
مشورہ: AI کے ہر استعمال سے پہلے، ایک ساتھ دو سوالات پوچھیں: "کیا یہ ڈیٹا غیر شناخت شدہ ہے؟" اور "کیا میں جانتا ہوں کہ یہ ماڈل میری پیداوار پر کیسے کام کرتا ہے؟" پہلے کا جواب رازداری کی حفاظت کرتا ہے، دوسرے کا جواب سلامتی کی حفاظت کرتا ہے۔
خلاصہ میں
لیبارٹری ڈیٹا خاص معیار کا صحت کا ڈیٹا ہے۔ مصنوعی ذہانت کا استعمال کرتے وقت گمنامی، کم از کم ڈیٹا پالیسی اور محفوظ ٹول کا انتخاب لازمی ہے۔ طبی استعمال میں ڈالے جانے والے ماڈلز کی تصدیق آپ کے اپنے ڈیٹا پر ہونی چاہیے۔ حساسیت، مخصوصیت اور غلط منفی/مثبت توازن کی پیمائش کی جانی چاہیے۔ تعصب کی جانچ کرنے کے لیے ذیلی گروپس میں بھی کارکردگی کی جانچ کی جانی چاہیے۔ چار اخلاقی اصول - فائدہ مندی، غیر مؤثریت، خودمختاری، انصاف - ہر استعمال میں بنے ہوئے ہیں، اور ان سب سے بڑھ کر ذمہ داری کا سلسلہ کھڑا ہے: اگرچہ پیداوار ماڈل سے آتی ہے، فیصلہ اور ذمہ داری ماہر کی ہوتی ہے۔
درخواست کا کام
"گمنامائزیشن کنٹرول" ٹیمپلیٹ کے ساتھ مریض کے نمونے کے متن کو گمنام کریں اور فہرست بنائیں کہ آپ نے کون سی معلومات ہٹائی ہیں۔ ایک AI ماڈل کے لیے ایک تصدیقی چیک لسٹ بنائیں جسے آپ استعمال کر رہے ہیں (یا استعمال کرنے پر غور کر رہے ہیں) "ماڈل ویلیڈیشن پلان" ٹیمپلیٹ کے ساتھ؛ حساسیت/خصوصیت اور ذیلی گروپ کا تجزیہ شامل کریں۔ آخر میں، "اخلاقی سیلف آڈٹ" ٹیمپلیٹ کے ساتھ چار اصولوں کے خلاف استعمال کا جائزہ لیں۔
چیک لسٹ
- [ ] میں نے ڈیٹا کو گمنام کیا میں نے بالواسطہ اور بالواسطہ شناخت کے اشارے ہٹا دیئے۔
- میں نے کم از کم ڈیٹا پالیسی کا اطلاق کیا؛ میں نے صرف وہی شیئر کیا جو ضروری تھا۔
- میں نے ایک محفوظ، کارپوریٹ اور ڈیٹا پروسیسنگ کنٹریکٹڈ ٹول استعمال کیا۔
- [] میں نے اپنے ڈیٹا پر ماڈل کی توثیق کی۔ میں نے حساسیت/خصوصیت کی پیمائش کی۔
- میں نے ذیلی گروپس میں کارکردگی کی جانچ کی اور تعصب کی جانچ کی۔
- میں نے چار اخلاقی اصولوں کا مشاہدہ کیا اور تصدیق کی کہ ذمہ داری ماہر پر عائد ہوتی ہے۔