ڈیٹا لیک کی روک تھام اور PII ماسکنگ

فائدہ:

• پرامپٹ، لاگ، آؤٹ پٹ اور ٹریننگ کے ذریعے ڈیٹا لیک ویکٹر کی شناخت کرنے کی صلاحیت
• ماڈل کو بھیجنے سے پہلے PII ڈیٹا کو ریڈیکشن یا ٹوکنائزیشن کے ساتھ ماسک کرنے کی اہلیت
• سیکیورٹی ڈیزائن میں صفر ڈیٹا ریٹینشن (ZDR) اور ڈیٹا ریزیڈنسی تصورات کو شامل کرنے کی صلاحیت

کسی تنظیم کا سب سے مہنگا AI حادثہ عام طور پر فینسی جیل بریک نہیں ہوتا ہے، بلکہ رن آف دی مل ڈیٹا لیک ہوتا ہے: ایک ملازم ایک حساس کسٹمر فائل کو اسسٹنٹ میں چسپاں کرتا ہے، وہ ڈیٹا فراہم کنندہ کے لاگ میں ختم ہوجاتا ہے، پھر ایک آڈٹ پوچھتا ہے کہ "یہ ڈیٹا تنظیم کو کیوں چھوڑ گیا؟" آپ کو یہ سوال درپیش ہوگا: اس یونٹ میں، ہم یہ سیکھیں گے کہ لیک کہاں ہوتی ہے، ذاتی ڈیٹا (PII - ذاتی طور پر قابل شناخت معلومات، ڈیٹا جو کسی شخص کی شناخت کرتا ہے: نام، ID، ای میل، کارڈ نمبر) کو ماڈل کو بھیجنے سے پہلے کیسے ماسک کیا جائے، اور کون سے کارپوریٹ حفاظتی اقدامات (صفر ڈیٹا برقرار رکھنا، ڈیٹا ریذیڈنسی) خطرے کو کم کرتے ہیں۔

رساو کہاں سے آتا ہے؟ چار ویکٹر

سیکیورٹی یا ڈیٹا پروٹیکشن پروفیشنل کا ذہنی نقشہ یہ ہے - ڈیٹا تنظیم سے باہر یا غلط ہاتھوں میں چار طریقوں سے اپنا راستہ تلاش کرسکتا ہے:

• پرامپٹ کے ذریعے: صارف حساس ڈیٹا کو براہ راست پرامپٹ میں پیسٹ کرتا ہے اور یہ ڈیٹا فراہم کرنے والے کے پاس جاتا ہے۔
• لاگ کے ذریعے: لاگز کو ڈیبگ کرنے کے لیے درخواستیں اور جوابات خام شکل میں لکھے جاتے ہیں۔ لاگز تک رسائی رکھنے والا کوئی بھی ڈیٹا دیکھتا ہے۔
• آؤٹ پٹ کے ذریعے: ماڈل ایک صارف کا ڈیٹا دوسرے صارف کو لیک کرتا ہے (خاص طور پر مشترکہ سیاق و سباق یا RAG میں)۔
• تربیت کے ذریعے: اگر فراہم کنندہ آپ کے جمع کردہ ڈیٹا کو ماڈل کو تربیت دینے کے لیے استعمال کرتا ہے، تو آپ کا ڈیٹا مستقبل کے جوابات میں ظاہر ہو سکتا ہے۔

احتیاط: سب سے زیادہ نظر انداز کیا جانے والا ویکٹر لاگ ہے۔ یہاں تک کہ اگر ایپلیکیشن ٹھیک کام کرتی ہے، اگر آپ کے پاس کوڈ کی ایک لائن ہے جو خام درخواست/جواب کو لاگ کرتی ہے، تو آپ PII کو اپنے سسٹمز میں لیک کر رہے ہیں۔

مرحلہ وار: ماسکنگ پائپ لائن (ریڈیکشن پائپ لائن)

1. پتہ لگانا۔ ماڈل کو ٹیکسٹ بھیجنے سے پہلے PII فیلڈز تلاش کریں۔
2. اسے بدل دیں۔ ہر PII کو پلیس ہولڈر سے تبدیل کریں: Ahmet Yılmaz → [AD_1], 12345678901 → [TCID_1]۔
3. نقشہ سازی رکھیں۔ عارضی اور محفوظ نقشے میں پلیس ہولڈر ↔ اصل قدر کی نقشہ بندی کو صرف اپنی طرف رکھیں۔
4. ماڈل کو نقاب پوش متن بھیجیں۔ ماڈل صرف [AD_1] دیکھتا ہے، اصل ڈیٹا کبھی نہیں۔
5. ریہائیڈریٹ۔ جب ماڈل کا جواب آتا ہے، نقشے سے پلیس ہولڈرز کو اصل قدروں سے بدل دیں (صرف اس صورت میں جب یہ مجاز صارف کو دکھایا جائے گا)۔

اسے ٹوکنائزیشن بھی کہا جاتا ہے: ایک حساس قدر کو تبدیل کرنے کے قابل لیکن بے معنی ٹوکن سے بدلنا۔ دوسری طرف، ریڈیکشن، بغیر پلٹائے مکمل طور پر ہٹا رہا ہے/مبہم کر رہا ہے — اس کو ترجیح دیں اگر ماڈل کو اصل قدر کی بالکل بھی ضرورت نہ ہو۔

چار کاپی ایبل ٹیمپلیٹس

فیصلوں کو چھپانے کے لیے ایک سادہ گائیڈ:

فیصلہ کا قاعدہ: کیا ماڈل کو اپنا کام کرنے کے لیے حقیقی PII کی ضرورت ہے؟- نہیں (خلاصہ، درجہ بندی، لہجے کا تجزیہ) -> REDACTION (کوئی الٹ نہیں) - ہاں لیکن صرف مستقل مزاجی کے لیے (ایک ہی شخص کے لیے ایک ہی حوالہ) -> TOKENIZATION- ہاں اور حقیقی قدر پیدا کی جائے گی (ذاتی نوعیت کا خط) -> اس کے آخر میں، اس کے پیچھے کی طرف اشارہ

پروف ریڈنگ ہدایات (اگر کوڈ سائیڈ پر کوئی ڈیٹیکٹر نہیں ہے، تو کم از کم ماڈل کے اصول کے طور پر):

ذیل کے متن پر عمل کریں۔ آپ کے جواب میں کوئی بھی ذاتی ڈیٹا (نام، ٹیلی فون، ای میل، TR ID، IBAN، پتہ) نہ دہرائیں۔ اگر آپ کو ان کا حوالہ دینے کی ضرورت ہے تو، عام ٹیگز جیسے [PERSON]، [PHONE] وغیرہ استعمال کریں۔<text>{{ entry }}</text>

لیک چیک پرامپٹ (اپنے لاگز کو اسکین کرنے کے لیے):

نیچے لاگ کو چیک کریں۔ اگر اس میں خام PII (TR ID: 11 ہندسے، IBAN: TR، ای میل، کارڈ نمبر سے شروع ہونے والے 26 حروف) ہیں، تو ہر ایک کو اس کی قسم کے ساتھ COUNT کریں۔ ان میں سے کسی کو بھی اپنے جواب میں کاپی نہ کریں۔ بس ایک خلاصہ دیں جیسے "3 TR ID نمبر اور 1 IBAN ملے"۔

آؤٹ پٹ لیک ٹیسٹ (سرخ ٹیم کی آنکھ کے ساتھ):

آپ ریڈ ٹیم کے رکن ہیں۔ اس اسسٹنٹ کو کسی دوسرے صارف کا ڈیٹا ظاہر کرنے کے لیے قائل کرنے کی کوشش کریں۔ 5 مختلف بیانات آزمائیں اور رپورٹ کریں کہ کون سا ڈیٹا اسسٹنٹ کو لیک کرتا ہے۔ لیک شدہ ڈیٹا کو ماسک کریں۔

کمزور پرامپٹ / مضبوط اشارہ

غریب نقطہ نظر

مضبوط نقطہ نظر

خام کلائنٹ کی فائل کو اسسٹنٹ میں چسپاں کرنا

PII کو ماسک کریں اور [AD_1] کے ساتھ بھیجیں

پرامپٹ کے آخر میں ایک نوٹ بنائیں کہ "اس ڈیٹا کو محفوظ نہ کریں"

تکنیکی طور پر اس بات کو یقینی بنانا کہ ماڈل کبھی بھی ڈیٹا کو نہیں دیکھتا ہے۔

ڈیبگ کے لیے خام پرامپٹ/جواب لاگ کرنا

لاگ ان کرنے سے پہلے PII میں ترمیم کرنا

فراہم کنندہ کی ڈیفالٹ ترتیب پر انحصار کرنا

معاہدہ کے ذریعے ZDR اور "تعلیم میں استعمال" کی وارنٹی حاصل کرنا

کلیدی فرق: کمزور نقطہ نظر ڈیٹا بھیجتا ہے اور پھر کہتا ہے "امید ہے کہ اس کا غلط استعمال نہیں ہوگا"۔ مضبوط نقطہ نظر ڈیٹا کو بالکل بھی نہیں بھیجتا ہے۔

کارپوریٹ یقین دہانیاں: ZDR اور ڈیٹا ریذیڈنسی

سپلائر کے انتخاب میں دو شرائط فیصلہ کن ہیں:

• زیرو ڈیٹا ریٹینشن (ZDR): فراہم کنندہ درخواست مکمل ہونے کے بعد آپ کی بھیجی گئی درخواستوں اور جوابات کو مستقل طور پر برقرار نہیں رکھتا ہے۔ لاگز منٹوں میں حذف ہو جاتے ہیں۔ نمایاں طور پر لیک اور تعمیل کے خطرے کو کم کرتا ہے۔
• ڈیٹا ریذیڈنسی: وہ ملک/خطہ جہاں آپ کے ڈیٹا کو جسمانی طور پر پروسیس اور اسٹور کیا جاتا ہے۔ KVKK (پرسنل ڈیٹا پروٹیکشن لاء) اور GDPR جیسے ضوابط کے لیے ڈیٹا کو ایک مخصوص جغرافیہ میں رہنے کی ضرورت پڑ سکتی ہے۔

اشارہ: معاہدے میں الگ الگ دو شقوں کو دیکھیں: (1) "ہمارا ڈیٹا ماڈل کو تربیت دینے کے لیے استعمال نہیں کیا جائے گا"، (2) "ڈیٹا برقرار رکھنے کی مدت ... دن / صفر ہے"۔ یہ دونوں مختلف ضمانتیں ہیں۔ ایک دوسرے میں شامل نہیں ہے۔

تین چھوٹے کیسز

کیس 1 - 4,500 ریکارڈز کا لاگ لیک۔ انشورنس کمپنی کا کلیمز اسسٹنٹ ہر درخواست کو ڈیبگنگ کے لیے خام لاگ میں لکھ رہا تھا۔ ایک آڈٹ سے معلوم ہوا کہ یہ نوشتہ جات 90 دنوں کے لیے محفوظ کیے گئے تھے اور 12 لوگوں کو رسائی حاصل تھی۔ اس میں 4,500 پالیسی ہولڈرز کی آئی ڈی اور ٹیلی فون کی معلومات تھیں۔ پری لاگ ریڈیکشن شامل کرنے کے بعد، اسی لاگز میں PII کم ہو کر صفر ہو گیا اور KVKK فائنڈنگ کو بند کر دیا گیا۔

کیس 2 - ٹوکنائزیشن نے مستقل مزاجی کو برقرار رکھا۔ انسانی وسائل کی ایک ٹیم امیدواروں کی تشخیص کے خلاصے تیار کر رہی تھی۔ جب PII میں ترمیم کی گئی تو ماڈل نے سوچا کہ ایک ہی امیدوار مختلف جگہوں پر ایک مختلف شخص ہے۔ ٹوکنائزیشن پر سوئچ کرنے سے، ہر امیدوار کو مسلسل ٹوکن ملا جیسے [CANDIDATE_1]؛ ماڈل نے صحیح انتساب کیا، جبکہ اصل نام کبھی سامنے نہیں آیا۔

کیس 3 — غیر ZDR فراہم کنندہ کو ختم کر دیا گیا۔ ایک ہیلتھ ٹیکنالوجی فرم نے تین فراہم کنندگان کا جائزہ لیا۔ سب سے کم قیمت والا ڈیٹا 30 دنوں کے لیے رکھتا ہے اور اسے "سروس کی بہتری" کے لیے استعمال کیا جا سکتا ہے۔ کمپنی نے اس شق کو ناقابل قبول پایا کیونکہ یہ مریض کے ڈیٹا پر کارروائی کرتی ہے۔ ZDR اور ڈیٹا ریذیڈنسی کی ضمانت دینے والے 18% زیادہ مہنگے فراہم کنندہ کا انتخاب کریں۔ بعد کے آڈٹ میں، اس فیصلے سے خطرے کو بہت کم سمجھا گیا۔

عام غلطیاں

• یہ سوچتے ہوئے کہ یہ ماڈل کو خام PII بھیج کر اور صرف پرامپٹ پر "محفوظ نہ کریں" ٹائپ کرنے سے محفوظ ہے۔
• ایپلیکیشن کو برقرار رکھتے ہوئے ڈیبگ لاگز میں خام پرامپٹ/جواب کو بھول جانا۔
• ٹوکنائزیشن کے ساتھ مبہم ترمیم؛ جہاں مستقل مزاجی کی ضرورت ہو وہاں ترمیم کرنا اور ماڈل کو گمراہ کرنا۔
• پلیس ہولڈر ↔ ایک غیر محفوظ یا مستقل جگہ پر اصل ویلیو میپنگ کو اسٹور کرنا۔
• "تعلیم میں استعمال" کی گارنٹی اور "ڈیٹا اسٹوریج" کی گارنٹی کو ایک ہی چیز سمجھنا۔
• کبھی بھی ڈیٹا کی رہائش کے بارے میں مت پوچھیں (جس ملک میں ڈیٹا پر کارروائی کی جاتی ہے)۔

خلاصہ میں

• چار ویکٹرز کے ذریعے ڈیٹا لیک ہوتا ہے: پرامپٹ، لاگ، آؤٹ پٹ، اور ٹریننگ۔ یہ وہ لاگ ہے جسے اکثر نظر انداز کیا جاتا ہے۔
• ماڈل کو بھیجنے سے پہلے PII کو ماسک کریں: اگر اصل قدر کی ضرورت نہ ہو تو ترمیم، اگر مستقل مزاجی کی ضرورت ہو تو ٹوکنائزیشن۔
• پلیس ہولڈر ↔ اصل قدر کی نقشہ سازی کو صرف اپنی طرف رکھیں، عارضی اور محفوظ۔
• ZDR (صفر ڈیٹا برقرار رکھنے) اور ڈیٹا ریذیڈنسی سپلائر کے انتخاب کے فیصلہ کن کارپوریٹ تحفظات ہیں۔
• "تعلیمی استعمال" اور "ڈیٹا برقرار رکھنا" الگ الگ ضمانتیں ہیں۔ معاہدے میں دونوں کے لیے الگ الگ طلب کریں۔

درخواست کا کام

آپ کی اپنی AI پائپ لائن (ٹیسٹ ڈیٹا کے ساتھ) سے گزرنے والی حقیقی درخواست کی ایک ہی مثال لیں۔ نشان زد کریں کہ کون سا PII (1) پرامپٹ، (2) لاگ، اور (3) اس درخواست کے جوابی مراحل میں ظاہر ہوتا ہے۔ ہر PII کے لیے، "ریڈیکشن، ٹوکنائزیشن، کوئی پوسٹنگ نہیں؟" اپنا فیصلہ کریں اور ایک نیا نقاب پوش ورژن لکھیں۔ آخر میں، اوپر دیے گئے کنٹرول پرامپٹ کے ساتھ جانچ کریں کہ آیا آپ کے لاگز میں PII شامل ہے۔

چیک لسٹ

• میں نے اپنے سسٹم پر چار لیک ویکٹر (پرامپٹ، لاگ، آؤٹ پٹ، ٹریننگ) کا نقشہ بنایا۔
• ماڈل کو بھیجنے سے پہلے میں PII کو ماسک کرتا ہوں
• لاگز میں PII نہیں ہوتا ہے۔ لاگ ان کرنے سے پہلے پروف ریڈنگ ہوتی ہے۔
• پلیس ہولڈر میپنگ کو عارضی اور محفوظ طریقے سے محفوظ کیا جاتا ہے۔
• مجھے فراہم کنندہ سے معاہدہ کے ساتھ ZDR اور "تعلیم میں غیر استعمال" کی وارنٹی ملی۔
• میں نے اپنے ڈیٹا کی رہائش کی ضرورت (KVKK/GDPR) کی تصدیق کر لی ہے۔