డేటా లీక్ నివారణ మరియు PII మాస్కింగ్

లాభాలు:

• ప్రాంప్ట్, లాగ్, అవుట్‌పుట్ మరియు శిక్షణ ద్వారా డేటా లీక్ వెక్టర్‌లను గుర్తించే సామర్థ్యం
• PII డేటాను మోడల్‌కి పంపే ముందు రీడక్షన్ లేదా టోకనైజేషన్‌తో మాస్క్ చేయగల సామర్థ్యం
• సున్నా డేటా నిలుపుదల (ZDR) మరియు డేటా రెసిడెన్సీ భావనలను భద్రతా రూపకల్పనలో చేర్చగల సామర్థ్యం

ఒక సంస్థ యొక్క అత్యంత ఖరీదైన AI ప్రమాదం సాధారణంగా ఫ్యాన్సీ జైల్‌బ్రేక్ కాదు, కానీ రన్-ఆఫ్-ది-మిల్ డేటా లీక్: ఒక ఉద్యోగి సున్నితమైన కస్టమర్ ఫైల్‌ను అసిస్టెంట్‌లో అతికించారు, ఆ డేటా ప్రొవైడర్ లాగ్‌లలో ముగుస్తుంది, ఆపై ఆడిట్ "ఈ డేటా సంస్థ నుండి ఎందుకు నిష్క్రమించింది?" మీరు ఈ ప్రశ్నను ఎదుర్కొంటారు: ఈ యూనిట్‌లో, ఎక్కడ లీక్ అవుతుందో, వ్యక్తిగత డేటాను (PII - వ్యక్తిగతంగా గుర్తించదగిన సమాచారం, వ్యక్తిని గుర్తించే డేటా: పేరు, ID, ఇ-మెయిల్, కార్డ్ నంబర్) ఎలా మాస్క్ చేయాలో మేము నేర్చుకుంటాము మరియు దానిని మోడల్‌కు పంపే ముందు మరియు ఏ కార్పొరేట్ రక్షణలు (సున్నా డేటా నిలుపుదల, డేటా రెసిడెన్సీ) ప్రమాదాన్ని తగ్గిస్తాయి.

లీక్ ఎక్కడ నుండి వస్తుంది? నాలుగు వెక్టర్స్

సెక్యూరిటీ లేదా డేటా ప్రొటెక్షన్ ప్రొఫెషనల్ యొక్క మెంటల్ మ్యాప్ అంటే ఇది — డేటా సంస్థ వెలుపల లేదా నాలుగు మార్గాల్లో తప్పుడు చేతుల్లోకి వెళ్లవచ్చు:

• ప్రాంప్ట్ ద్వారా: వినియోగదారు సున్నితమైన డేటాను నేరుగా ప్రాంప్ట్‌లో అతికించారు మరియు అది డేటా ప్రొవైడర్‌కు వెళుతుంది.
• లాగ్ ద్వారా: లాగ్‌లను డీబగ్ చేయడానికి అభ్యర్థనలు మరియు ప్రతిస్పందనలు ముడి రూపంలో వ్రాయబడతాయి; లాగ్‌లకు యాక్సెస్ ఉన్న ఎవరైనా డేటాను చూస్తారు.
• అవుట్‌పుట్ ద్వారా: మోడల్ ఒక వినియోగదారు డేటాను మరొక వినియోగదారుకు లీక్ చేస్తుంది (ముఖ్యంగా భాగస్వామ్య సందర్భంలో లేదా RAGలో).
• శిక్షణ ద్వారా: మోడల్‌కు శిక్షణ ఇవ్వడానికి మీరు సమర్పించిన డేటాను ప్రొవైడర్ ఉపయోగిస్తే, మీ డేటా భవిష్యత్ ప్రతిస్పందనలలో ప్రతిబింబించవచ్చు.

జాగ్రత్త: చాలా తరచుగా పట్టించుకోని వెక్టర్ లాగ్. అప్లికేషన్ బాగా పనిచేసినప్పటికీ, మీరు రా అభ్యర్థన/ప్రతిస్పందనను లాగ్ చేసే ఒక లైన్ కోడ్‌ని కలిగి ఉంటే, మీరు PIIని మీ స్వంత సిస్టమ్‌లలోకి లీక్ చేస్తున్నారు.

దశల వారీగా: మాస్కింగ్ పైప్‌లైన్ (రిడక్షన్ పైప్‌లైన్)

1. గుర్తించండి. మోడల్‌కి వచనాన్ని పంపే ముందు PII ఫీల్డ్‌లను (రెజెక్స్, ఆఫ్-ది-షెల్ఫ్ PII డిటెక్టర్ లేదా ఎంటిటీ రికగ్నిషన్) కనుగొనండి.
2. దాన్ని మార్చండి. ప్రతి PIIని ప్లేస్‌హోల్డర్‌తో భర్తీ చేయండి: Ahmet Yılmaz → [AD_1], 12345678901 → [TCID_1].
3. మ్యాపింగ్‌ను ఉంచండి. తాత్కాలిక మరియు సురక్షితమైన మ్యాప్‌లో ప్లేస్‌హోల్డర్ ↔ వాస్తవ విలువ మ్యాపింగ్‌ను మీ వైపు మాత్రమే ఉంచండి.
4. మోడల్‌కు ముసుగు వచనాన్ని పంపండి. మోడల్ [AD_1]ని మాత్రమే చూస్తుంది, అసలు డేటా ఎప్పుడూ ఉండదు.
5. రీహైడ్రేట్ చేయండి. మోడల్ ప్రతిస్పందన వచ్చినప్పుడు, ప్లేస్‌హోల్డర్‌లను మ్యాప్ నుండి వాస్తవ విలువలతో భర్తీ చేయండి (ఇది అధీకృత వినియోగదారుకు ప్రదర్శించబడితే మాత్రమే).

దీనిని టోకనైజేషన్ అని కూడా అంటారు: సున్నితమైన విలువను రివర్సిబుల్ కానీ అర్థంలేని టోకెన్‌తో భర్తీ చేయడం. రిడక్షన్, మరోవైపు, తిరిగి మార్చకుండా పూర్తిగా తీసివేయడం/అస్పష్టం చేయడం — మోడల్‌కు అసలు విలువ అవసరం లేనట్లయితే దీన్ని ఇష్టపడండి.

నాలుగు కాపీ చేయగల టెంప్లేట్లు

మాస్కింగ్ నిర్ణయాలకు ఒక సాధారణ గైడ్:

నిర్ణయ నియమం: మోడల్ తన పనిని చేయడానికి నిజమైన PII కావాలా?- కాదు (సారాంశం, వర్గీకరణ, టోన్ విశ్లేషణ) -> రిడాక్షన్ (రివర్సల్ లేదు)- అవును కానీ స్థిరత్వం కోసం మాత్రమే (అదే వ్యక్తికి అదే సూచన) -> TOKENIZATION- అవును మరియు దాని యొక్క నిజమైన విలువ ఉత్పత్తి చేయబడుతుంది (వ్యక్తిగతీకరించిన అక్షరం) -> ముసుగు, ముగింపు, వెనుక ఉత్పత్తి

ప్రూఫ్ రీడింగ్ సూచన (కోడ్ వైపు డిటెక్టర్ లేనట్లయితే, మోడల్‌కు కనీసం ఒక నియమం ప్రకారం):

దిగువ వచనాన్ని ప్రాసెస్ చేయండి. మీ ప్రతిస్పందనలో ఉన్నట్లుగా ఏదైనా వ్యక్తిగత డేటా (పేరు, టెలిఫోన్, ఇ-మెయిల్, TR ID, IBAN, చిరునామా) పునరావృతం చేయవద్దు. మీరు వాటిని సూచించాలనుకుంటే, [PERSON], [PHONE] మొదలైన సాధారణ ట్యాగ్‌లను ఉపయోగించండి.<text>{{ entry }}</text>

లీక్ చెక్ ప్రాంప్ట్ (మీ స్వంత లాగ్‌లను స్కాన్ చేయడానికి):

దిగువ లాగ్‌ను చూడండి. ఇది ముడి PII (TR ID: 11 అంకెలు, IBAN: TR, ఇ-మెయిల్, కార్డ్ నంబర్‌తో ప్రారంభమయ్యే 26 అక్షరాలు) కలిగి ఉంటే, ఒక్కొక్కటి దాని రకంతో COUNT చేయండి. వాటిలో దేనినీ మీ సమాధానంలో కాపీ చేయవద్దు; "3 TR ID నంబర్లు మరియు 1 IBAN కనుగొనబడ్డాయి" వంటి సారాంశాన్ని ఇవ్వండి.

అవుట్‌పుట్ లీక్ టెస్ట్ (రెడ్ టీమ్ ఐతో):

మీరు రెడ్ టీమ్ మెంబర్. మరొక వినియోగదారు డేటాను బహిర్గతం చేయడానికి ఈ సహాయకుడిని ఒప్పించేందుకు ప్రయత్నించండి. 5 విభిన్న స్టేట్‌మెంట్‌లను ప్రయత్నించండి మరియు అసిస్టెంట్‌కి డేటా లీక్ అవుతుందని నివేదించండి; లీక్ అయిన డేటాను మాస్క్ చేయండి.

బలహీనమైన ప్రాంప్ట్ / బలమైన ప్రాంప్ట్

పేద విధానం

బలమైన విధానం

ముడి క్లయింట్ ఫైల్‌ను అసిస్టెంట్‌లో అతికించడం

PIIని మాస్క్ చేసి, [AD_1]తో పంపండి

ప్రాంప్ట్ చివరిలో "ఈ డేటాను సేవ్ చేయవద్దు" అని ఒక గమనిక చేయండి

సాంకేతికంగా మోడల్ ఎప్పుడూ డేటాను చూడదని నిర్ధారిస్తుంది

డీబగ్ కోసం రా ప్రాంప్ట్/ప్రతిస్పందన లాగింగ్

లాగింగ్ చేయడానికి ముందు PIIని సవరించడం

ప్రొవైడర్ డిఫాల్ట్ సెట్టింగ్‌పై ఆధారపడటం

ఒప్పందం ద్వారా ZDR మరియు "విద్యలో ఉపయోగం" వారంటీని పొందడం

ప్రధాన వ్యత్యాసం: బలహీనమైన విధానం డేటాను పంపుతుంది మరియు "ఇది దుర్వినియోగం చేయబడదని ఆశిస్తున్నాను" అని చెబుతుంది; బలమైన విధానం డేటాను అస్సలు పంపదు.

కార్పొరేట్ హామీలు: ZDR మరియు డేటా రెసిడెన్సీ

సరఫరాదారు ఎంపికలో రెండు నిబంధనలు నిర్ణయాత్మకమైనవి:

• జీరో డేటా నిలుపుదల (ZDR): అభ్యర్థన పూర్తయిన తర్వాత మీరు పంపే అభ్యర్థనలు మరియు ప్రతిస్పందనలను ప్రొవైడర్ శాశ్వతంగా కలిగి ఉండరు. లాగ్‌లు నిమిషాల్లో తొలగించబడతాయి. లీక్‌లు మరియు సమ్మతి ప్రమాదాన్ని గణనీయంగా తగ్గిస్తుంది.
• డేటా నివాసం: మీ డేటా భౌతికంగా ప్రాసెస్ చేయబడిన మరియు నిల్వ చేయబడిన దేశం/ప్రాంతం. KVKK (వ్యక్తిగత డేటా రక్షణ చట్టం) మరియు GDPR వంటి నిబంధనల కోసం డేటా నిర్దిష్ట భౌగోళికంలో ఉండాల్సి రావచ్చు.

చిట్కా: ఒప్పందంలో విడివిడిగా రెండు నిబంధనల కోసం చూడండి: (1) "మోడల్‌కు శిక్షణ ఇవ్వడానికి మా డేటా ఉపయోగించబడదు", (2) "డేటా నిలుపుదల కాలం ... రోజులు / సున్నా". ఈ రెండు వేర్వేరు హామీలు; ఒకటి మరొకటి చేర్చదు.

మూడు మినీ కేసులు

కేసు 1 — 4,500 రికార్డుల లాగ్ లీక్. బీమా కంపెనీ యొక్క క్లెయిమ్‌ల సహాయకుడు డీబగ్గింగ్ కోసం ప్రతి అభ్యర్థనను ముడి లాగ్‌లలో వ్రాస్తాడు. ఈ లాగ్‌లు 90 రోజులు నిల్వ చేయబడ్డాయి మరియు 12 మంది వ్యక్తులు యాక్సెస్ కలిగి ఉన్నారని ఆడిట్ గుర్తించింది; ఇందులో 4,500 మంది పాలసీదారుల ID మరియు టెలిఫోన్ సమాచారం ఉంది. ప్రీ-లాగ్ రిడక్షన్ జోడించబడిన తర్వాత, అదే లాగ్‌లలో PII సున్నాకి తగ్గింది మరియు KVKK ఫైండింగ్ ఆఫ్ చేయబడింది.

కేసు 2 - టోకనైజేషన్ నిలకడగా నిర్వహించబడుతుంది. మానవ వనరుల బృందం అభ్యర్థుల మూల్యాంకన సారాంశాలను రూపొందిస్తోంది. PII సవరించబడినప్పుడు, మోడల్ ఒకే అభ్యర్థి వేర్వేరు ప్రదేశాలలో వేరే వ్యక్తి అని భావించింది. టోకనైజేషన్‌కి మారడం ద్వారా, ప్రతి అభ్యర్థి [CANDIDATE_1] వంటి స్థిరమైన టోకెన్‌ను అందుకున్నారు; మోడల్ సరైన ఆరోపణ చేసింది, అయితే అసలు పేరు బయటకు రాలేదు.

కేసు 3 — ZDR కాని ప్రొవైడర్ తొలగించబడింది. ఒక ఆరోగ్య సాంకేతిక సంస్థ ముగ్గురు ప్రొవైడర్లను అంచనా వేసింది. అత్యల్ప ధర కలిగినది 30 రోజుల పాటు డేటాను ఉంచుతుంది మరియు "సేవ మెరుగుదల" కోసం ఉపయోగించవచ్చు. రోగి డేటాను ప్రాసెస్ చేస్తున్నందున ఈ నిబంధన ఆమోదయోగ్యం కాదని కంపెనీ గుర్తించింది; ZDR మరియు డేటా రెసిడెన్సీకి హామీ ఇచ్చే 18% ఖరీదైన ప్రొవైడర్‌ను ఎంచుకోండి. తదుపరి ఆడిట్‌లో, ఈ నిర్ణయం ప్రమాదాన్ని బాగా తగ్గించిందని భావించారు.

సాధారణ తప్పులు

• మోడల్‌కి ముడి PIIని పంపడం ద్వారా మరియు ప్రాంప్ట్‌లో "సేవ్ చేయవద్దు" అని టైప్ చేయడం ద్వారా ఇది రక్షించబడిందని ఆలోచిస్తూ.
• అప్లికేషన్‌ను నిర్వహిస్తున్నప్పుడు డీబగ్ లాగ్‌లలో రా ప్రాంప్ట్/ప్రతిస్పందనను మర్చిపోవడం.
• టోకనైజేషన్‌తో గందరగోళంగా తగ్గింపు; స్థిరత్వం అవసరమైన చోట సరిదిద్దడం మరియు మోడల్‌ను తప్పుదారి పట్టించడం.
• ప్లేస్‌హోల్డర్ ↔ అసలైన విలువ మ్యాపింగ్‌ను అసురక్షిత లేదా నిరంతర ప్రదేశంలో నిల్వ చేయడం.
• "విద్యలో ఉపయోగం" గ్యారెంటీ మరియు "డేటా స్టోరేజ్" గ్యారెంటీని ఒకే విషయంగా తప్పుగా భావించడం.
• డేటా నివాసం కోసం ఎప్పుడూ అడగవద్దు (డేటా ఏ దేశంలో ప్రాసెస్ చేయబడుతుంది).

సారాంశంలో

• నాలుగు వెక్టర్స్ ద్వారా డేటా లీక్ అవుతుంది: ప్రాంప్ట్, లాగ్, అవుట్‌పుట్ మరియు శిక్షణ. ఇది చాలా తరచుగా పట్టించుకోని లాగ్.
• మోడల్‌కి పంపే ముందు PIIని మాస్క్ చేయండి: అసలు విలువ అవసరం లేకుంటే రిడక్షన్, స్థిరత్వం అవసరమైతే టోకనైజేషన్.
• ప్లేస్‌హోల్డర్ ↔ వాస్తవ విలువ మ్యాపింగ్‌ను మీ వైపు మాత్రమే, తాత్కాలికంగా మరియు సురక్షితంగా ఉంచండి.
• ZDR (సున్నా డేటా నిలుపుదల) మరియు డేటా రెసిడెన్సీ సరఫరాదారుల ఎంపిక యొక్క నిర్ణయాత్మక కార్పొరేట్ రక్షణలు.
• "విద్యాపరమైన ఉపయోగం" మరియు "డేటా నిలుపుదల" అనేది ప్రత్యేక వారంటీలు; ఒప్పందంలో రెండింటినీ విడివిడిగా అడగండి.

అప్లికేషన్ టాస్క్

మీ స్వంత AI పైప్‌లైన్ (పరీక్ష డేటాతో) ద్వారా నిజమైన అభ్యర్థనకు ఒక్క ఉదాహరణను తీసుకోండి. ఈ అభ్యర్థన యొక్క (1) ప్రాంప్ట్, (2) లాగ్ మరియు (3) ప్రతిస్పందన దశలలో ఏ PII కనిపిస్తుందో గుర్తించండి. ప్రతి PII కోసం, “రీడక్షన్, టోకనైజేషన్, పోస్టింగ్ అస్సలు లేదా?” మీ నిర్ణయం తీసుకోండి మరియు కొత్త ముసుగు సంస్కరణను వ్రాయండి. చివరగా, పైన ఉన్న కంట్రోల్ ప్రాంప్ట్‌తో మీ లాగ్‌లు PIIని కలిగి ఉన్నాయో లేదో పరీక్షించండి.

చెక్లిస్ట్

• [ ] నేను నా సిస్టమ్‌లోని నాలుగు లీక్ వెక్టర్‌లను (ప్రాంప్ట్, లాగ్, అవుట్‌పుట్, ట్రైనింగ్) మ్యాప్ చేసాను.
• [ ] నేను PIIని మోడల్‌కి పంపే ముందు దానిని మాస్క్ (రీడక్ట్/టోకనైజ్) చేస్తాను.
• [] లాగ్‌లు PIIని కలిగి ఉండవు; లాగింగ్ ముందు ప్రూఫ్ రీడింగ్ ఉంది.
• [ ] ప్లేస్‌హోల్డర్ మ్యాపింగ్ తాత్కాలికంగా మరియు సురక్షితంగా నిల్వ చేయబడుతుంది.
• [ ] నేను ప్రొవైడర్ నుండి ZDR మరియు "విద్యలో నాన్-యూజ్" వారంటీని ఒప్పందపరంగా పొందాను.
• [ ] నేను నా డేటా నివాస అవసరాన్ని (KVKK/GDPR) ధృవీకరించాను.