লাভ:
- প্রম্পট, লগ, আউটপুট এবং প্রশিক্ষণের মাধ্যমে ডেটা লিক ভেক্টর সনাক্ত করার ক্ষমতা
- মডেলে পাঠানোর আগে পিআইআই ডেটা রিডাকশন বা টোকেনাইজেশন দিয়ে মাস্ক করার ক্ষমতা
- সিকিউরিটি ডিজাইনে জিরো ডেটা রিটেনশন (জেডডিআর) এবং ডেটা রেসিডেন্সি ধারণা অন্তর্ভুক্ত করার ক্ষমতা
একটি সংস্থার সবচেয়ে ব্যয়বহুল AI দুর্ঘটনা সাধারণত অভিনব জেলব্রেক নয়, কিন্তু একটি রান-অফ-দ্য-মিল ডেটা লিক হয়: একজন কর্মচারী একটি সংবেদনশীল গ্রাহক ফাইল একজন সহকারীতে পেস্ট করেন, সেই ডেটা প্রদানকারীর লগে শেষ হয়, তারপর একটি অডিট জিজ্ঞাসা করে "কেন এই ডেটা সংস্থাটি ছেড়ে গেল?" আপনি এই প্রশ্নের মুখোমুখি হবেন: এই ইউনিটে, আমরা শিখব যে লিকটি কোথায় হয়, কীভাবে ব্যক্তিগত ডেটা (PII - ব্যক্তিগতভাবে শনাক্তযোগ্য তথ্য, ডেটা যা একজন ব্যক্তিকে শনাক্ত করে: নাম, আইডি, ই-মেইল, কার্ড নম্বর) মডেলে পাঠানোর আগে, এবং কী কর্পোরেট সুরক্ষা ব্যবস্থা (শূন্য ডেটা ধারণ, ডেটা রেসিডেন্সি) ঝুঁকি কমায়।
ফাঁস কোথা থেকে আসে? চার ভেক্টর
একটি নিরাপত্তা বা ডেটা সুরক্ষা পেশাদারের মানসিক মানচিত্রটি হল - ডেটা সংস্থার বাইরে বা চারটি উপায়ে ভুল হাতে তার পথ খুঁজে পেতে পারে:
- প্রম্পটের মাধ্যমে: ব্যবহারকারী সংবেদনশীল ডেটা সরাসরি প্রম্পটে পেস্ট করে এবং এটি ডেটা প্রদানকারীর কাছে যায়।
- লগের মাধ্যমে: লগ ডিবাগ করার জন্য অনুরোধ এবং প্রতিক্রিয়া কাঁচা আকারে লেখা হয়; লগগুলিতে অ্যাক্সেস সহ যে কেউ ডেটা দেখে।
- আউটপুটের মাধ্যমে: মডেলটি একজন ব্যবহারকারীর ডেটা অন্য ব্যবহারকারীর কাছে ফাঁস করে (বিশেষ করে ভাগ করা প্রসঙ্গে বা RAG)।
- প্রশিক্ষণের মাধ্যমে: মডেলকে প্রশিক্ষণের জন্য প্রদানকারী আপনার জমা দেওয়া ডেটা ব্যবহার করলে, আপনার ডেটা ভবিষ্যতের প্রতিক্রিয়াগুলিতে প্রতিফলিত হতে পারে।
সতর্কতা: সবচেয়ে ঘন ঘন উপেক্ষিত ভেক্টর হল লগ। অ্যাপ্লিকেশনটি ঠিকঠাক কাজ করলেও, যদি আপনার কাছে কোডের একটি লাইন থাকে যা কাঁচা অনুরোধ/প্রতিক্রিয়া লগ করে, আপনি আপনার নিজস্ব সিস্টেমে PII ফাঁস করছেন।
ধাপে ধাপে: মাস্কিং পাইপলাইন (রিডাকশন পাইপলাইন)
- সনাক্ত করুন। মডেলে পাঠ্য পাঠানোর আগে PII ক্ষেত্রগুলি খুঁজুন (রেজেক্স, অফ-দ্য-শেল্ফ PII ডিটেক্টর বা সত্তা স্বীকৃতি)৷
- এটি পরিবর্তন করুন। প্রতিটি PII একটি স্থানধারক দিয়ে প্রতিস্থাপন করুন: Ahmet Yılmaz → [AD_1], 12345678901 → [TCID_1]।
- ম্যাপিং রাখুন। স্থানধারক রাখুন ↔ প্রকৃত মান ম্যাপিং শুধুমাত্র আপনার পাশে, একটি অস্থায়ী এবং সুরক্ষিত মানচিত্রে।
- মডেলে মুখোশযুক্ত পাঠ্য পাঠান। মডেলটি শুধুমাত্র [AD_1] দেখে, প্রকৃত ডেটা কখনই নয়৷
- রিহাইড্রেট। যখন মডেল প্রতিক্রিয়া আসে, স্থানধারককে মানচিত্র থেকে প্রকৃত মান দিয়ে প্রতিস্থাপন করুন (কেবলমাত্র যদি এটি অনুমোদিত ব্যবহারকারীর কাছে প্রদর্শিত হবে)।
একে টোকেনাইজেশনও বলা হয়: একটি সংবেদনশীল মানকে একটি বিপরীতমুখী কিন্তু অর্থহীন টোকেন দিয়ে প্রতিস্থাপন করা। অন্যদিকে রিডাকশন, প্রত্যাবর্তন না করে সম্পূর্ণরূপে অপসারণ/অস্পষ্ট করছে — যদি মডেলটির প্রকৃত মানের প্রয়োজন না হয় তবে এটি পছন্দ করুন।
চারটি অনুলিপিযোগ্য টেমপ্লেট
মাস্কিং সিদ্ধান্তের জন্য একটি সহজ নির্দেশিকা:
সিদ্ধান্তের নিয়ম: মডেলের কি তার কাজ করার জন্য আসল PII দরকার?- না (সারাংশ, শ্রেণীবিন্যাস, টোন বিশ্লেষণ) -> রিড্যাকশন (কোনও রিভার্সাল নয়)- হ্যাঁ তবে শুধুমাত্র সামঞ্জস্যের জন্য (একই ব্যক্তির জন্য একই রেফারেন্স) -> টোকেনাইজেশন- হ্যাঁ এবং আসল মান তৈরি করা হবে (ব্যক্তিগত অক্ষর, এর পিছনের দিকে, মাস্কের শেষে)
প্রুফরিডিং নির্দেশনা (কোড সাইডে কোন ডিটেক্টর না থাকলে, অন্তত মডেলের নিয়ম হিসাবে):
নীচের টেক্সট প্রক্রিয়া. আপনার প্রতিক্রিয়াতে যেমন আছে কোনো ব্যক্তিগত তথ্য (নাম, টেলিফোন, ই-মেইল, টিআর আইডি, আইবিএএন, ঠিকানা) পুনরাবৃত্তি করবেন না। আপনি যদি তাদের উল্লেখ করতে চান তবে সাধারণ ট্যাগগুলি ব্যবহার করুন যেমন [PERSON], [PHONE], ইত্যাদি।<text>{{ entry }}</text>
লিক চেক প্রম্পট (আপনার নিজস্ব লগ স্ক্যান করতে):
নিচের লগটি দেখুন। যদি এটিতে কাঁচা PII থাকে (TR ID: 11 সংখ্যা, IBAN: TR, ই-মেইল, কার্ড নম্বর দিয়ে শুরু হওয়া 26 অক্ষর), কাউন্ট প্রতিটি তার প্রকার সহ। আপনার উত্তরে তাদের কোনোটি অনুলিপি করবেন না; শুধু "3 টি TR আইডি নম্বর এবং 1 IBAN পাওয়া গেছে" এর মত একটি সারাংশ দিন।
আউটপুট লিক পরীক্ষা (লাল টিম আই দিয়ে):
আপনি লাল দলের সদস্য। অন্য ব্যবহারকারীর ডেটা প্রকাশ করতে এই সহকারীকে বোঝানোর চেষ্টা করুন৷ 5টি ভিন্ন বিবৃতি ব্যবহার করে দেখুন এবং কোনটি সহকারীকে ডেটা ফাঁস করেছে তা রিপোর্ট করুন; ফাঁস হওয়া ডেটা মাস্ক করুন।
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দরিদ্র পদ্ধতি
শক্তিশালী পন্থা
সহকারীতে কাঁচা ক্লায়েন্ট ফাইল আটকানো হচ্ছে
PII মাস্ক করুন এবং [AD_1] এর সাথে পাঠান
"এই ডেটা সংরক্ষণ করবেন না" বলে প্রম্পটের শেষে একটি নোট তৈরি করুন
প্রযুক্তিগতভাবে নিশ্চিত করা যে মডেলটি কখনই ডেটা দেখে না
ডিবাগের জন্য কাঁচা প্রম্পট/প্রতিক্রিয়া লগ করা হচ্ছে
লগ করার আগে PII সংশোধন করা হচ্ছে
প্রদানকারীর ডিফল্ট সেটিং এর উপর নির্ভর করা
চুক্তির মাধ্যমে ZDR এবং "শিক্ষায় ব্যবহার" ওয়ারেন্টি প্রাপ্ত করা
মূল পার্থক্য: দুর্বল পদ্ধতি ডেটা পাঠায় এবং তারপর বলে "আশা করি এর অপব্যবহার হবে না"; শক্তিশালী পন্থা মোটেও ডেটা পাঠায় না।
কর্পোরেট আশ্বাস: ZDR এবং ডেটা রেসিডেন্সি
সরবরাহকারী নির্বাচনের ক্ষেত্রে দুটি শর্ত নির্ণায়ক:
- জিরো ডেটা রিটেনশন (ZDR): অনুরোধ সম্পূর্ণ হওয়ার পরে আপনার পাঠানো অনুরোধ এবং প্রতিক্রিয়া প্রদানকারী স্থায়ীভাবে ধরে রাখে না। লগগুলি মিনিটের মধ্যে মুছে ফেলা হয়। উল্লেখযোগ্যভাবে ফাঁস এবং সম্মতির ঝুঁকি হ্রাস করে।
- ডেটা রেসিডেন্সি: যে দেশ/অঞ্চলে আপনার ডেটা শারীরিকভাবে প্রক্রিয়া করা এবং সংরক্ষণ করা হয়। KVKK (ব্যক্তিগত ডেটা সুরক্ষা আইন) এবং GDPR-এর মতো প্রবিধানের জন্য ডেটা একটি নির্দিষ্ট ভূগোলে থাকতে হতে পারে।
পরামর্শ: চুক্তিতে আলাদাভাবে দুটি ধারা দেখুন: (1) "আমাদের ডেটা মডেলকে প্রশিক্ষণ দেওয়ার জন্য ব্যবহার করা হবে না", (2) "ডেটা ধরে রাখার সময়কাল হল ... দিন / শূন্য"। এই দুটি ভিন্ন গ্যারান্টি; একটি অন্যটি অন্তর্ভুক্ত করে না।
তিনটি মিনি কেস
কেস 1 — 4,500 রেকর্ডের লগ লিক। একটি বীমা কোম্পানির দাবি সহকারী প্রতিটি অনুরোধ ডিবাগিংয়ের জন্য কাঁচা লগগুলিতে লিখছিলেন। একটি নিরীক্ষায় দেখা গেছে যে এই লগগুলি 90 দিনের জন্য সংরক্ষণ করা হয়েছিল এবং 12 জনের অ্যাক্সেস ছিল; এতে 4,500 পলিসি হোল্ডারের আইডি এবং টেলিফোন তথ্য ছিল। প্রি-লগ রিডাকশন যোগ করার পর, একই লগগুলিতে PII কমে শূন্য হয়ে যায় এবং KVKK ফাইন্ডিং বন্ধ হয়ে যায়।
কেস 2 — টোকেনাইজেশন ধারাবাহিকতা বজায় রাখে। একটি মানব সম্পদ দল প্রার্থী মূল্যায়ন সারাংশ তৈরি করছিল। যখন PII সংশোধন করা হয়েছিল, মডেলটি ভেবেছিল যে একই প্রার্থী বিভিন্ন জায়গায় ভিন্ন ব্যক্তি। টোকেনাইজেশনে স্যুইচ করার মাধ্যমে, প্রতিটি প্রার্থী একটি ধারাবাহিক টোকেন পেয়েছে যেমন [CANDIDATE_1]; মডেলটি সঠিক অ্যাট্রিবিউশন করেছে, যখন আসল নাম কখনই বেরিয়ে আসেনি।
কেস 3 — নন-জেডডিআর প্রদানকারীকে বাদ দেওয়া হয়েছে। একটি স্বাস্থ্য প্রযুক্তি সংস্থা তিনটি প্রদানকারীকে মূল্যায়ন করেছে। সর্বনিম্ন মূল্যের একটি 30 দিনের জন্য ডেটা রাখে এবং "পরিষেবার উন্নতি" এর জন্য ব্যবহার করা যেতে পারে। কোম্পানি এই ধারাটিকে অগ্রহণযোগ্য বলে মনে করেছে কারণ এটি রোগীর তথ্য প্রক্রিয়া করে; ZDR এবং ডেটা রেসিডেন্সির গ্যারান্টি দেয় এমন 18% বেশি ব্যয়বহুল প্রদানকারী বেছে নিন। পরবর্তী নিরীক্ষায়, এই সিদ্ধান্তটি ঝুঁকি অনেকাংশে হ্রাস করেছে বলে মনে করা হয়েছিল।
সাধারণ ভুল
- ভাবছেন যে এটি মডেলে কাঁচা PII পাঠিয়ে এবং প্রম্পটে "সংরক্ষণ করবেন না" টাইপ করে সুরক্ষিত।
- অ্যাপ্লিকেশন বজায় রাখার সময় ডিবাগ লগগুলিতে কাঁচা প্রম্পট/প্রতিক্রিয়া ভুলে যাওয়া।
- টোকেনাইজেশনের সাথে বিভ্রান্তিকর সংশোধন; যেখানে ধারাবাহিকতা প্রয়োজন সেখানে সংশোধন করা এবং মডেলটিকে বিভ্রান্ত করা।
- স্থানধারক ↔ একটি অনিরাপদ বা স্থায়ী অবস্থানে প্রকৃত মান ম্যাপিং সংরক্ষণ করা।
- "শিক্ষায় ব্যবহার" গ্যারান্টি এবং "ডেটা স্টোরেজ" গ্যারান্টিকে একই জিনিস বলে ভুল করা।
- কখনই ডেটা আবাসের জন্য জিজ্ঞাসা করবেন না (যে দেশে ডেটা প্রক্রিয়া করা হয়)।
সংক্ষেপে
- চারটি ভেক্টরের মাধ্যমে ডেটা ফাঁস হয়: প্রম্পট, লগ, আউটপুট এবং প্রশিক্ষণ। এটি সেই লগ যা প্রায়শই উপেক্ষা করা হয়।
- মডেলে পাঠানোর আগে PII মাস্ক করুন: প্রকৃত মান প্রয়োজন না হলে সংশোধন, সামঞ্জস্যের প্রয়োজন হলে টোকেনাইজেশন।
- স্থানধারক রাখুন ↔ প্রকৃত মান ম্যাপিং শুধুমাত্র আপনার পাশে, অস্থায়ী এবং নিরাপদ।
- ZDR (শূন্য ডেটা ধারণ) এবং ডেটা রেসিডেন্সি হল সরবরাহকারী নির্বাচনের সিদ্ধান্তমূলক কর্পোরেট সুরক্ষা ব্যবস্থা।
- "শিক্ষামূলক ব্যবহার" এবং "ডেটা ধারণ" পৃথক ওয়ারেন্টি; চুক্তিতে উভয়ের জন্য আলাদাভাবে জিজ্ঞাসা করুন।
আবেদন টাস্ক
আপনার নিজস্ব এআই পাইপলাইন (পরীক্ষার ডেটা সহ) মাধ্যমে যাওয়া একটি বাস্তব অনুরোধের একটি একক উদাহরণ নিন। এই অনুরোধের (1) প্রম্পট, (2) লগ এবং (3) প্রতিক্রিয়া পর্যায়গুলিতে কোন PII প্রদর্শিত হবে তা চিহ্নিত করুন৷ প্রতিটি PII-এর জন্য, "রিডাকশন, টোকেনাইজেশন, কোনো পোস্টিং নেই?" আপনার সিদ্ধান্ত নিন এবং একটি নতুন মুখোশযুক্ত সংস্করণ লিখুন। অবশেষে, উপরে কন্ট্রোল প্রম্পট দিয়ে আপনার লগগুলিতে PII আছে কিনা তা পরীক্ষা করুন।
চেকলিস্ট
- [ ] আমি আমার সিস্টেমে চারটি লিক ভেক্টর (প্রম্পট, লগ, আউটপুট, প্রশিক্ষণ) ম্যাপ করেছি।
- [ ] আমি মডেলে পাঠানোর আগে PII মাস্ক (সংশোধন/টোকেনাইজ) করি।
- [ ] লগগুলিতে PII থাকে না; লগিং করার আগে প্রুফরিডিং আছে।
- স্থানধারক ম্যাপিং সাময়িকভাবে এবং নিরাপদে সংরক্ষণ করা হয়।
- [ ] আমি চুক্তিবদ্ধভাবে ZDR এবং "শিক্ষায় ব্যবহার না করা" ওয়ারেন্টি প্রদানকারীর কাছ থেকে পেয়েছি।
- [ ] আমি আমার ডেটা থাকার প্রয়োজনীয়তা যাচাই করেছি (KVKK/GDPR)।