യൂണിറ്റ് 2 / 11

ഡാറ്റ ചോർച്ച തടയലും പിഐഐ മാസ്കിംഗും

നേട്ടങ്ങൾ:

  • പ്രോംപ്റ്റ്, ലോഗ്, ഔട്ട്പുട്ട്, പരിശീലനം എന്നിവയിലൂടെ ഡാറ്റ ചോർച്ച വെക്റ്ററുകൾ തിരിച്ചറിയാനുള്ള കഴിവ്
  • PII ഡാറ്റ മോഡലിലേക്ക് അയയ്‌ക്കുന്നതിന് മുമ്പ് റീഡക്ഷൻ അല്ലെങ്കിൽ ടോക്കണൈസേഷൻ ഉപയോഗിച്ച് മാസ്ക് ചെയ്യാനുള്ള കഴിവ്
  • സുരക്ഷാ രൂപകൽപ്പനയിൽ സീറോ ഡാറ്റ നിലനിർത്തലും (ZDR) ഡാറ്റ റെസിഡൻസി ആശയങ്ങളും സംയോജിപ്പിക്കാനുള്ള കഴിവ്

ഒരു ഓർഗനൈസേഷൻ്റെ ഏറ്റവും ചെലവേറിയ AI അപകടം സാധാരണയായി ഒരു ഫാൻസി ജയിൽ ബ്രേക്ക് അല്ല, മറിച്ച് ഒരു റൺ-ഓഫ്-ദ-മിൽ ഡാറ്റ ചോർച്ചയാണ്: ഒരു ജീവനക്കാരൻ ഒരു സെൻസിറ്റീവ് ഉപഭോക്തൃ ഫയൽ ഒരു അസിസ്റ്റൻ്റിലേക്ക് ഒട്ടിക്കുന്നു, ആ ഡാറ്റ ദാതാവിൻ്റെ ലോഗുകളിൽ അവസാനിക്കുന്നു, തുടർന്ന് ഒരു ഓഡിറ്റ് ചോദിക്കുന്നു "എന്തുകൊണ്ടാണ് ഈ ഡാറ്റ സ്ഥാപനം ഉപേക്ഷിച്ചത്?" നിങ്ങൾക്ക് ഈ ചോദ്യം നേരിടേണ്ടിവരും: ഈ യൂണിറ്റിൽ, എവിടെയാണ് ചോർച്ച സംഭവിക്കുന്നത്, വ്യക്തിഗത ഡാറ്റ (PII - വ്യക്തിപരമായി തിരിച്ചറിയാവുന്ന വിവരങ്ങൾ, ഒരു വ്യക്തിയെ തിരിച്ചറിയുന്ന ഡാറ്റ: പേര്, ഐഡി, ഇ-മെയിൽ, കാർഡ് നമ്പർ) എങ്ങനെ മറയ്ക്കാം, കൂടാതെ എന്ത് കോർപ്പറേറ്റ് സുരക്ഷാ മാർഗ്ഗങ്ങൾ (സീറോ ഡാറ്റ നിലനിർത്തൽ, ഡാറ്റ റെസിഡൻസി) അപകടസാധ്യത കുറയ്ക്കും എന്ന് ഞങ്ങൾ പഠിക്കും.

ചോർച്ച എവിടെ നിന്ന് വരുന്നു? നാല് വെക്‌ടറുകൾ

ഒരു സെക്യൂരിറ്റി അല്ലെങ്കിൽ ഡാറ്റ പ്രൊട്ടക്ഷൻ പ്രൊഫഷണലിൻ്റെ മാനസിക ഭൂപടം ഇതാണ് — ഡാറ്റയ്ക്ക് ഓർഗനൈസേഷന് പുറത്ത് അല്ലെങ്കിൽ നാല് വഴികളിലൂടെ തെറ്റായ കൈകളിലേക്ക് അതിൻ്റെ വഴി കണ്ടെത്താൻ കഴിയും:

  • പ്രോംപ്റ്റ് വഴി: ഉപയോക്താവ് സെൻസിറ്റീവ് ഡാറ്റ നേരിട്ട് പ്രോംപ്റ്റിലേക്ക് ഒട്ടിക്കുകയും അത് ഡാറ്റ ദാതാവിലേക്ക് പോകുകയും ചെയ്യുന്നു.
  • ലോഗ് വഴി: ലോഗുകൾ ഡീബഗ് ചെയ്യുന്നതിനായി അഭ്യർത്ഥനകളും പ്രതികരണങ്ങളും അസംസ്കൃത രൂപത്തിൽ എഴുതിയിരിക്കുന്നു; ലോഗുകളിലേക്ക് ആക്‌സസ് ഉള്ള ആർക്കും ഡാറ്റ കാണാം.
  • ഔട്ട്പുട്ട് വഴി: മോഡൽ ഒരു ഉപയോക്താവിൻ്റെ ഡാറ്റ മറ്റൊരു ഉപയോക്താവിന് ചോർത്തുന്നു (പ്രത്യേകിച്ച് പങ്കിട്ട സന്ദർഭത്തിലോ RAGയിലോ).
  • പരിശീലനത്തിലൂടെ: മോഡലിനെ പരിശീലിപ്പിക്കാൻ നിങ്ങൾ സമർപ്പിക്കുന്ന ഡാറ്റ ദാതാവ് ഉപയോഗിക്കുകയാണെങ്കിൽ, ഭാവിയിലെ പ്രതികരണങ്ങളിൽ നിങ്ങളുടെ ഡാറ്റ പ്രതിഫലിച്ചേക്കാം.
മുന്നറിയിപ്പ്: ഏറ്റവും കൂടുതൽ ശ്രദ്ധിക്കപ്പെടാത്ത വെക്റ്റർ ലോഗ് ആണ്. ആപ്ലിക്കേഷൻ നന്നായി പ്രവർത്തിക്കുന്നുണ്ടെങ്കിൽപ്പോലും, അസംസ്കൃത അഭ്യർത്ഥന/പ്രതികരണം ലോഗ് ചെയ്യുന്ന ഒരു കോഡ് നിങ്ങളുടെ പക്കലുണ്ടെങ്കിൽ, നിങ്ങൾ നിങ്ങളുടെ സ്വന്തം സിസ്റ്റങ്ങളിലേക്ക് PII ചോർത്തുകയാണ്.

ഘട്ടം ഘട്ടമായി: മാസ്കിംഗ് പൈപ്പ്ലൈൻ (റിഡക്ഷൻ പൈപ്പ്ലൈൻ)

  1. കണ്ടുപിടിക്കുക. മോഡലിലേക്ക് ടെക്‌സ്‌റ്റ് അയയ്‌ക്കുന്നതിന് മുമ്പ് PII ഫീൽഡുകൾ (റെജക്‌സ്, ഓഫ്-ദി-ഷെൽഫ് PII ഡിറ്റക്ടർ അല്ലെങ്കിൽ എൻ്റിറ്റി റെക്കഗ്നിഷൻ) കണ്ടെത്തുക.
  2. മാറ്റൂ. ഓരോ PII-യും ഒരു പ്ലെയ്‌സ്‌ഹോൾഡർ ഉപയോഗിച്ച് മാറ്റിസ്ഥാപിക്കുക: Ahmet Yılmaz → [AD_1], 12345678901 → [TCID_1].
  3. മാപ്പിംഗ് സൂക്ഷിക്കുക. പ്ലെയ്‌സ്‌ഹോൾഡർ ↔ യഥാർത്ഥ മൂല്യ മാപ്പിംഗ് നിങ്ങളുടെ വശത്ത് മാത്രം, താൽക്കാലികവും സുരക്ഷിതവുമായ മാപ്പിൽ സൂക്ഷിക്കുക.
  4. മോഡലിലേക്ക് മാസ്ക് ചെയ്ത വാചകം അയയ്ക്കുക. മോഡൽ [AD_1] മാത്രമേ കാണുന്നുള്ളൂ, യഥാർത്ഥ ഡാറ്റ ഒരിക്കലും കാണില്ല.
  5. റീഹൈഡ്രേറ്റ് ചെയ്യുക. മോഡൽ പ്രതികരണം വരുമ്പോൾ, മാപ്പിൽ നിന്ന് യഥാർത്ഥ മൂല്യങ്ങൾ ഉപയോഗിച്ച് പ്ലെയ്‌സ്‌ഹോൾഡറുകൾ മാറ്റിസ്ഥാപിക്കുക (അത് അംഗീകൃത ഉപയോക്താവിന് പ്രദർശിപ്പിക്കുകയാണെങ്കിൽ മാത്രം).

ഇതിനെ ടോക്കണൈസേഷൻ എന്നും വിളിക്കുന്നു: ഒരു സെൻസിറ്റീവ് മൂല്യത്തെ റിവേഴ്‌സിബിൾ എന്നാൽ അർത്ഥശൂന്യമായ ടോക്കൺ ഉപയോഗിച്ച് മാറ്റിസ്ഥാപിക്കുന്നു. നേരെമറിച്ച്, റിഡക്ഷൻ, പഴയപടിയാക്കാതെ പൂർണ്ണമായും നീക്കംചെയ്യുന്നു/അവ്യക്തമാക്കുന്നു - മോഡലിന് യഥാർത്ഥ മൂല്യം ആവശ്യമില്ലെങ്കിൽ ഇത് തിരഞ്ഞെടുക്കുക.

പകർത്താവുന്ന നാല് ടെംപ്ലേറ്റുകൾ

തീരുമാനങ്ങൾ മറയ്ക്കുന്നതിനുള്ള ഒരു ലളിതമായ ഗൈഡ്:

തീരുമാന നിയമം: മോഡലിന് അതിൻ്റെ ജോലി ചെയ്യാൻ യഥാർത്ഥ PII ആവശ്യമുണ്ടോ?- ഇല്ല (സംഗ്രഹം, വർഗ്ഗീകരണം, ടോൺ വിശകലനം) -> റിഡക്ഷൻ (റിവേഴ്‌സൽ ഇല്ല)- അതെ എന്നാൽ സ്ഥിരതയ്‌ക്ക് മാത്രം (ഒരേ വ്യക്തിയുടെ അതേ റഫറൻസ്) -> ടോക്കണൈസേഷൻ- അതെ, യഥാർത്ഥ മൂല്യം ജനറേറ്റുചെയ്യും (വ്യക്തിപരമാക്കിയ അക്ഷരം) -> മാസ്‌കിൽ, അതിൻ്റെ അവസാനം, പിന്നിൽ ജനറേറ്റുചെയ്യുമ്പോൾ

പ്രൂഫ് റീഡിംഗ് നിർദ്ദേശം (കോഡ് വശത്ത് ഡിറ്റക്ടർ ഇല്ലെങ്കിൽ, മോഡലിന് ഒരു നിയമമെങ്കിലും):

ചുവടെയുള്ള വാചകം പ്രോസസ്സ് ചെയ്യുക. നിങ്ങളുടെ പ്രതികരണത്തിൽ വ്യക്തിപരമായ വിവരങ്ങൾ (പേര്, ടെലിഫോൺ, ഇ-മെയിൽ, TR ID, IBAN, വിലാസം) ആവർത്തിക്കരുത്. നിങ്ങൾക്ക് അവ റഫറൻസ് ചെയ്യണമെങ്കിൽ, [PERSON], [PHONE] മുതലായ പൊതുവായ ടാഗുകൾ ഉപയോഗിക്കുക.<text>{{ entry }}</text>

ലീക്ക് ചെക്ക് പ്രോംപ്റ്റ് (നിങ്ങളുടെ സ്വന്തം ലോഗുകൾ സ്കാൻ ചെയ്യാൻ):

താഴെയുള്ള ലോഗ് പരിശോധിക്കുക. അതിൽ റോ PII (TR ID: 11 അക്കങ്ങൾ, IBAN: TR, ഇ-മെയിൽ, കാർഡ് നമ്പർ എന്നിവയിൽ ആരംഭിക്കുന്ന 26 പ്രതീകങ്ങൾ) അടങ്ങിയിട്ടുണ്ടെങ്കിൽ, ഓരോന്നും അതിൻ്റെ തരം ഉപയോഗിച്ച് COUNT. അവയൊന്നും നിങ്ങളുടെ ഉത്തരത്തിലേക്ക് പകർത്തരുത്; "3 TR ID നമ്പറുകളും 1 IBAN ഉം കണ്ടെത്തി" എന്നതുപോലുള്ള ഒരു സംഗ്രഹം നൽകുക.

ഔട്ട്‌പുട്ട് ലീക്ക് ടെസ്റ്റ് (ചുവന്ന ടീമിൻ്റെ കണ്ണോടെ):

നിങ്ങൾ ഒരു റെഡ് ടീം അംഗമാണ്. മറ്റൊരു ഉപയോക്താവിൻ്റെ ഡാറ്റ വെളിപ്പെടുത്താൻ ഈ സഹായിയെ ബോധ്യപ്പെടുത്താൻ ശ്രമിക്കുക. 5 വ്യത്യസ്ത പ്രസ്താവനകൾ പരീക്ഷിച്ച് അസിസ്റ്റൻ്റിന് ഡാറ്റ ചോർത്തുന്നത് ഏതെന്ന് റിപ്പോർട്ട് ചെയ്യുക; ചോർന്ന ഡാറ്റ മറയ്ക്കുക.

ദുർബലമായ പ്രോംപ്റ്റ് / ശക്തമായ പ്രോംപ്റ്റ്

മോശം സമീപനം

ശക്തമായ സമീപനം

റോ ക്ലയൻ്റ് ഫയൽ അസിസ്റ്റൻ്റിലേക്ക് ഒട്ടിക്കുന്നു

PII മാസ്‌ക് ചെയ്‌ത് [AD_1] ഉപയോഗിച്ച് അയയ്‌ക്കുക

പ്രോംപ്റ്റിൻ്റെ അവസാനം "ഈ ഡാറ്റ സംരക്ഷിക്കരുത്" എന്ന് ഒരു കുറിപ്പ് ഉണ്ടാക്കുക

മോഡൽ ഒരിക്കലും ഡാറ്റ കാണുന്നില്ലെന്ന് സാങ്കേതികമായി ഉറപ്പാക്കുന്നു

ഡീബഗ്ഗിനായി റോ പ്രോംപ്റ്റ്/പ്രതികരണം ലോഗ് ചെയ്യുന്നു

ലോഗിംഗ് ചെയ്യുന്നതിന് മുമ്പ് PII തിരുത്തുന്നു

ദാതാവിൻ്റെ സ്ഥിരസ്ഥിതി ക്രമീകരണത്തെ ആശ്രയിക്കുന്നു

കരാർ പ്രകാരം ZDR, "വിദ്യാഭ്യാസത്തിൽ ഉപയോഗിക്കുക" വാറൻ്റി എന്നിവ നേടുക

പ്രധാന വ്യത്യാസം: ദുർബലമായ സമീപനം ഡാറ്റ അയയ്‌ക്കുകയും തുടർന്ന് "അത് ദുരുപയോഗം ചെയ്യില്ലെന്ന് പ്രതീക്ഷിക്കുന്നു" എന്ന് പറയുകയും ചെയ്യുന്നു; ശക്തമായ സമീപനം ഡാറ്റ അയയ്‌ക്കുന്നില്ല.

കോർപ്പറേറ്റ് അഷ്വറൻസ്: ZDR, ഡാറ്റ റെസിഡൻസി

വിതരണക്കാരെ തിരഞ്ഞെടുക്കുന്നതിൽ രണ്ട് നിബന്ധനകൾ നിർണായകമാണ്:

  • സീറോ ഡാറ്റ നിലനിർത്തൽ (ZDR): അഭ്യർത്ഥന പൂർത്തിയായതിന് ശേഷം നിങ്ങൾ അയയ്ക്കുന്ന അഭ്യർത്ഥനകളും പ്രതികരണങ്ങളും ദാതാവ് ശാശ്വതമായി നിലനിർത്തില്ല. ലോഗുകൾ മിനിറ്റുകൾക്കുള്ളിൽ ഇല്ലാതാക്കപ്പെടും. ലീക്കുകളുടെയും അനുസരണത്തിൻ്റെയും അപകടസാധ്യത ഗണ്യമായി കുറയ്ക്കുന്നു.
  • ഡാറ്റ റെസിഡൻസി: നിങ്ങളുടെ ഡാറ്റ ഭൗതികമായി പ്രോസസ്സ് ചെയ്യുകയും സംഭരിക്കുകയും ചെയ്യുന്ന രാജ്യം/പ്രദേശം. കെവികെകെ (വ്യക്തിഗത ഡാറ്റാ സംരക്ഷണ നിയമം), ജിഡിപിആർ എന്നിവ പോലുള്ള നിയന്ത്രണങ്ങൾക്കായി ഡാറ്റ ഒരു നിശ്ചിത ഭൂമിശാസ്ത്രത്തിൽ നിലനിൽക്കേണ്ടതുണ്ട്.
നുറുങ്ങ്: കരാറിൽ വെവ്വേറെ രണ്ട് ക്ലോസുകൾ നോക്കുക: (1) "മോഡലിനെ പരിശീലിപ്പിക്കാൻ ഞങ്ങളുടെ ഡാറ്റ ഉപയോഗിക്കില്ല", (2) "ഡാറ്റ നിലനിർത്തൽ കാലയളവ് ... ദിവസങ്ങൾ / പൂജ്യം". ഇവ രണ്ടും വ്യത്യസ്തമായ ഉറപ്പുകളാണ്; ഒന്ന് മറ്റൊന്നിനെ ഉൾക്കൊള്ളുന്നില്ല.

മൂന്ന് മിനി കേസുകൾ

കേസ് 1 - 4,500 റെക്കോർഡുകളുടെ ലോഗ് ചോർച്ച. ഒരു ഇൻഷുറൻസ് കമ്പനിയുടെ ക്ലെയിം അസിസ്റ്റൻ്റ് ഓരോ അഭ്യർത്ഥനയും ഡീബഗ്ഗിംഗിനായി അസംസ്‌കൃത ലോഗുകളിൽ എഴുതുകയായിരുന്നു. ഈ രേഖകൾ 90 ദിവസത്തേക്ക് സൂക്ഷിച്ചിട്ടുണ്ടെന്നും 12 പേർക്ക് പ്രവേശനമുണ്ടെന്നും ഒരു ഓഡിറ്റ് കണ്ടെത്തി; ഇതിൽ 4,500 പോളിസി ഉടമകളുടെ ഐഡിയും ടെലിഫോൺ വിവരങ്ങളും ഉണ്ടായിരുന്നു. പ്രീ-ലോഗ് റീഡക്ഷൻ ചേർത്തതിന് ശേഷം, അതേ ലോഗുകളിൽ PII പൂജ്യമായി കുറയുകയും KVKK കണ്ടെത്തൽ ഓഫാക്കുകയും ചെയ്തു.

കേസ് 2 - ടോക്കണൈസേഷൻ സ്ഥിരത നിലനിർത്തി. ഒരു ഹ്യൂമൻ റിസോഴ്‌സ് ടീം കാൻഡിഡേറ്റ് മൂല്യനിർണ്ണയ സംഗ്രഹങ്ങൾ തയ്യാറാക്കുകയായിരുന്നു. PII തിരുത്തിയപ്പോൾ, ഒരേ സ്ഥാനാർത്ഥി വ്യത്യസ്ത സ്ഥലങ്ങളിൽ വ്യത്യസ്ത വ്യക്തിയാണെന്ന് മോഡൽ കരുതി. ടോക്കണൈസേഷനിലേക്ക് മാറുന്നതിലൂടെ, ഓരോ സ്ഥാനാർത്ഥിക്കും [CANDIDATE_1] പോലെയുള്ള സ്ഥിരമായ ടോക്കൺ ലഭിച്ചു; മോഡൽ ശരിയായ ആട്രിബ്യൂഷൻ നടത്തി, യഥാർത്ഥ പേര് ഒരിക്കലും പുറത്തു വന്നില്ല.

കേസ് 3 — ZDR അല്ലാത്ത ദാതാവിനെ ഒഴിവാക്കി. ഒരു ആരോഗ്യ സാങ്കേതിക സ്ഥാപനം മൂന്ന് ദാതാക്കളെ വിലയിരുത്തി. ഏറ്റവും കുറഞ്ഞ വിലയുള്ളത് 30 ദിവസത്തേക്ക് ഡാറ്റ സൂക്ഷിക്കുകയും "സേവന മെച്ചപ്പെടുത്തലിനായി" ഉപയോഗിക്കുകയും ചെയ്യാം. രോഗിയുടെ ഡാറ്റ പ്രോസസ്സ് ചെയ്യുന്നതിനാൽ ഈ ക്ലോസ് അസ്വീകാര്യമാണെന്ന് കമ്പനി കണ്ടെത്തി; ZDR, ഡാറ്റ റെസിഡൻസി എന്നിവ ഉറപ്പുനൽകുന്ന 18% കൂടുതൽ ചെലവേറിയ ദാതാവിനെ തിരഞ്ഞെടുക്കുക. തുടർന്നുള്ള ഓഡിറ്റിൽ, ഈ തീരുമാനം അപകടസാധ്യത ഗണ്യമായി കുറച്ചതായി കണക്കാക്കപ്പെട്ടു.

സാധാരണ തെറ്റുകൾ

  • മോഡലിലേക്ക് റോ PII അയച്ച്, പ്രോംപ്റ്റിൽ "സംരക്ഷിക്കരുത്" എന്ന് ടൈപ്പ് ചെയ്യുന്നതിലൂടെ ഇത് പരിരക്ഷിക്കപ്പെടുന്നുവെന്ന് കരുതുന്നു.
  • ആപ്ലിക്കേഷൻ നിലനിർത്തുമ്പോൾ ഡീബഗ് ലോഗുകളിലെ റോ പ്രോംപ്റ്റ്/പ്രതികരണം മറക്കുന്നു.
  • ടോക്കണൈസേഷനുമായി ആശയക്കുഴപ്പമുണ്ടാക്കുന്ന റിഡക്ഷൻ; സ്ഥിരത ആവശ്യമുള്ളിടത്ത് തിരുത്തുകയും മോഡലിനെ തെറ്റിദ്ധരിപ്പിക്കുകയും ചെയ്യുന്നു.
  • പ്ലെയ്‌സ്‌ഹോൾഡർ ↔ യഥാർത്ഥ മൂല്യ മാപ്പിംഗ് സുരക്ഷിതമല്ലാത്തതോ സ്ഥിരമായതോ ആയ സ്ഥലത്ത് സൂക്ഷിക്കുന്നു.
  • "വിദ്യാഭ്യാസത്തിൽ ഉപയോഗിക്കുക" ഗ്യാരണ്ടിയും "ഡാറ്റ സ്റ്റോറേജ്" ഗ്യാരണ്ടിയും ഒരേ കാര്യമാണെന്ന് തെറ്റിദ്ധരിക്കുന്നു.
  • ഡാറ്റ താമസത്തിനായി ഒരിക്കലും ആവശ്യപ്പെടരുത് (ഏത് രാജ്യത്താണ് ഡാറ്റ പ്രോസസ്സ് ചെയ്യുന്നത്).

ചുരുക്കത്തിൽ

  • പ്രോംപ്റ്റ്, ലോഗ്, ഔട്ട്പുട്ട്, ട്രെയിനിംഗ് എന്നിങ്ങനെ നാല് വെക്റ്ററുകളിലൂടെ ഡാറ്റ ചോർത്തുന്നു. മിക്കപ്പോഴും ശ്രദ്ധിക്കപ്പെടാത്ത ലോഗാണ് ഇത്.
  • മോഡലിലേക്ക് അയയ്‌ക്കുന്നതിന് മുമ്പ് PII മാസ്‌ക് ചെയ്യുക: യഥാർത്ഥ മൂല്യം ആവശ്യമില്ലെങ്കിൽ റീഡക്ഷൻ, സ്ഥിരത ആവശ്യമെങ്കിൽ ടോക്കണൈസേഷൻ.
  • പ്ലെയ്‌സ്‌ഹോൾഡർ ↔ യഥാർത്ഥ മൂല്യ മാപ്പിംഗ് നിങ്ങളുടെ വശത്ത് മാത്രം നിലനിർത്തുക, താൽക്കാലികവും സുരക്ഷിതവുമാണ്.
  • ZDR (പൂജ്യം ഡാറ്റ നിലനിർത്തൽ), ഡാറ്റ റെസിഡൻസി എന്നിവയാണ് വിതരണക്കാരനെ തിരഞ്ഞെടുക്കുന്നതിനുള്ള നിർണായക കോർപ്പറേറ്റ് സംരക്ഷണം.
  • "വിദ്യാഭ്യാസ ഉപയോഗം", "ഡാറ്റ നിലനിർത്തൽ" എന്നിവ പ്രത്യേക വാറൻ്റികളാണ്; കരാറിൽ രണ്ടും വെവ്വേറെ ആവശ്യപ്പെടുക.

ആപ്ലിക്കേഷൻ ടാസ്ക്

നിങ്ങളുടെ സ്വന്തം AI പൈപ്പ്ലൈനിലൂടെ (ടെസ്റ്റ് ഡാറ്റയോടൊപ്പം) പോകുന്ന ഒരു യഥാർത്ഥ അഭ്യർത്ഥനയുടെ ഒരൊറ്റ ഉദാഹരണം എടുക്കുക. ഈ അഭ്യർത്ഥനയുടെ (1) പ്രോംപ്റ്റ്, (2) ലോഗ്, (3) പ്രതികരണ ഘട്ടങ്ങളിൽ ഏത് PII ദൃശ്യമാണെന്ന് അടയാളപ്പെടുത്തുക. ഓരോ PII-യ്ക്കും, "റിഡക്ഷൻ, ടോക്കണൈസേഷൻ, പോസ്റ്റിംഗ് ഇല്ലേ?" നിങ്ങളുടെ തീരുമാനം എടുത്ത് ഒരു പുതിയ മാസ്ക് പതിപ്പ് എഴുതുക. അവസാനമായി, മുകളിലെ കൺട്രോൾ പ്രോംപ്റ്റ് ഉപയോഗിച്ച് നിങ്ങളുടെ ലോഗുകളിൽ PII ഉണ്ടോയെന്ന് പരിശോധിക്കുക.

ചെക്ക്ലിസ്റ്റ്

  • [ ] ഞാൻ എൻ്റെ സിസ്റ്റത്തിലെ നാല് ലീക്ക് വെക്റ്ററുകൾ (പ്രോംപ്റ്റ്, ലോഗ്, ഔട്ട്പുട്ട്, ട്രെയിനിംഗ്) മാപ്പ് ചെയ്തു.
  • [ ] PII മോഡലിലേക്ക് അയയ്‌ക്കുന്നതിന് മുമ്പ് ഞാൻ അത് മാസ്ക് ചെയ്യുന്നു (പുതുക്കി/ടോക്കണൈസ് ചെയ്യുന്നു).
  • [ ] ലോഗുകളിൽ PII അടങ്ങിയിട്ടില്ല; ലോഗ് ചെയ്യുന്നതിനു മുമ്പ് പ്രൂഫ് റീഡിംഗ് ഉണ്ട്.
  • [ ] പ്ലെയ്‌സ്‌ഹോൾഡർ മാപ്പിംഗ് താൽക്കാലികമായും സുരക്ഷിതമായും സംഭരിച്ചിരിക്കുന്നു.
  • [ ] എനിക്ക് കരാർ പ്രകാരം ZDR ഉം ദാതാവിൽ നിന്ന് "വിദ്യാഭ്യാസത്തിൽ ഉപയോഗിക്കാത്ത" വാറൻ്റിയും ലഭിച്ചു.
  • [ ] ഞാൻ എൻ്റെ ഡാറ്റ താമസ ആവശ്യകത (KVKK/GDPR) പരിശോധിച്ചു.