Girdeji:
- Çalt, gündelik, çykyş we okuw arkaly maglumatlaryň syzýan wektorlaryny kesgitlemek ukyby
- PII maglumatlary modele ibermezden ozal redaksiýa ýa-da tokenizasiýa bilen maskalamak ukyby
- Nol maglumatlary saklamak (ZDR) we maglumat rezidensiýasy düşünjelerini howpsuzlyk dizaýnyna goşmak ukyby
Guramanyň iň gymmat AI näsazlygy, adatça, türmeden gaçmak däl-de, eýsem maglumatlaryň ýaýramagydyr: bir işgär duýgur müşderi faýlyny kömekçä geçirýär, bu maglumat üpjün edijiniň gündeliginde gutarýar, soň barlag "bu maglumatlar näme üçin guramany terk etdi?" Sorag bilen ýüzbe-ýüz bolarsyňyz: Bu bölümde syzmagyň nirede ýüze çykýandygyny, şahsy maglumatlary (PII - Şahsy kesgitlenýän maglumatlar, adamy kesgitleýän maglumatlar: ady, şahsyýetnamasy, e-poçta, kartoçka belgisi) modele ibermezden ozal we haýsy korporatiw kepillikler (nol maglumatlary saklamak, maglumat rezidensiýasy) töwekgelçiligi azaldýandygyny öwreneris.
Syzmak nireden gelýär? Dört wektor
Howpsuzlyk ýa-da maglumatlary goramak hünärmeniniň akyl kartasy şu - maglumatlar guramanyň daşyndan ýa-da nädogry usullar bilen dört tarapdan tapylyp bilner:
- Sorag arkaly: Ulanyjy duýgur maglumatlary gönüden-göni haýyşa goýýar we maglumat üpjün edijisine gidýär.
- Gündeligiň üsti bilen: Talaplar we jogaplar ýazgylary düzetmek üçin çig görnüşde ýazylýar; Surnallara girip bilýänler maglumatlary görýärler.
- Çykyş arkaly: Model bir ulanyjynyň maglumatlaryny başga bir ulanyja syzdyrýar (esasanam umumy kontekstde ýa-da RAG-da).
- Okuw arkaly: Eger üpjün ediji modeli öwretmek üçin tabşyran maglumatlaryňyzy ulanýan bolsa, maglumatlaryňyz geljekdäki jogaplarda öz beýanyny tapyp biler.
Üns beriň: Iň köp üns berilmeýän wektor gündelikdir. Programma gowy işlese-de, çig haýyşy / jogaby ýazýan bir setir koduňyz bar bolsa, PII-i öz ulgamlaryňyza syzdyrýarsyňyz.
Stepdimme-ädim: Maska turbasy (Redaksiýa turbasy)
- Gözläň. Teksti modele ibermezden ozal PII meýdanlaryny tapyň (regex, tekjäniň daşynda PII detektory ýa-da şahsyýeti tanamak).
- Ony üýtgediň. Her PII-ni ýer eýesi bilen çalyşyň: Ahmet ılmaz → [AD_1], 12345678901 → [TCID_1].
- Kartalaşdyrmagy dowam etdiriň. Wagtlaýyn we ygtybarly kartada ýer eýesini ↔ hakyky baha kartasyny diňe öz tarapyňyzda saklaň.
- Maskaly teksti modele iberiň. Model diňe [AD_1] görýär, hiç haçan hakyky maglumatlary görmeýär.
- Rehidrat. Modeliň jogaby gelende, ýer eýelerini kartadaky hakyky bahalar bilen çalyşyň (diňe ygtyýarly ulanyja görkezilse).
Muňa tokenizasiýa hem diýilýär: duýgur bahany tersine, ýöne manysyz belgi bilen çalyşmak. Beýleki bir tarapdan peseltmek, yzyna gaýtarmazdan düýbünden aýyrýar / gizleýär - modeliň asyl bahasyna zerurlyk ýok bolsa, muny makul biliň.
Göçürip boljak dört şablon
Kararlary maskalamak üçin ýönekeý gollanma:
Karar düzgüni: Model öz işini ýerine ýetirmek üçin hakyky PII GEREKMI? - Nook (jemlemek, klassifikasiýa, ses derňewi) -> TERJIME EDIP BOLANOK
Proofreading görkezmesi (kod tarapynda detektor ýok bolsa, iň bolmanda modeliň düzgüni boýunça):
Aşakdaky teksti işlediň. Jogapyňyzda bolşy ýaly şahsy maglumatlary (ady, telefon, e-poçta, TR ID, IBAN, salgy) gaýtalamaň. Olara salgylanmak zerur bolsa, [PERSON], [PHONE] we ş.m. ýaly umumy bellikleri ulanyň <text> {{giriş}} </text>
Syzdyryş barlagy (öz gündeligiňizi skanirlemek üçin):
Aşakdaky gündeligi gözden geçiriň. Eger çig PII (TR ID: 11 san, IBAN: TR-den başlap 26 simwol, e-poçta, kart belgisi) bar bolsa, hersini öz görnüşi bilen hasaplaň. Olaryň haýsydyr birini jogabyňyza göçürmäň; Diňe "3 TR ID belgisi we 1 IBAN tapyldy" ýaly gysgaça maglumat beriň.
Çykyş syzdyryş synagy (gyzyl toparyň gözi bilen):
Siz gyzyl toparyň agzasy. Bu kömekçini başga bir ulanyjynyň maglumatlaryny açmaga ynandyrjak boluň. 5 dürli jümläni synap görüň we haýsysynyň kömekçä maglumat syzýandygyny habar beriň; syzdyrylan maglumatlary maskalaň.
Gowşak gyssagly / güýçli teklip
çemeleşme
Güýçli çemeleşme
Çig müşderi faýlyny kömekçä goýmak
Maslahat PII we [AD_1] bilen iberiň
Sorag gutarandan soň "Bu maglumatlary saklamaň" diýip bellik ediň.
Modeliň hiç haçan maglumatlary görmeýändigini tehniki taýdan üpjün etmek
Çözüw ýazmak / düzediş üçin jogap
Hasaba girmezden ozal PII-ni azaltmak
Üpjün edijiniň deslapky sazlamasyna bil baglamak
Şertnama boýunça ZDR we "bilimde ulanmak" kepilligini almak
Esasy tapawut: gowşak çemeleşme maglumat iberýär we soňra "ulanylmaz diýip umyt edýärin"; Güýçli çemeleşme maglumatlary asla ibermeýär.
Korporatiw kepillikler: ZDR we Maglumatlaryň ýaşaýyş jaýy
Üpjün edijini saýlamakda iki şert aýgytly:
- Nol maglumatlary saklamak (ZDR): Talap gutarandan soň iberýän haýyşlaryňyzy we jogaplaryňyzy üpjün ediji hemişelik saklamaýar. Surnallar birnäçe minutyň içinde pozulýar. Syzmak we berjaý edilmek howpuny ep-esli azaldar.
- Maglumatlaryň ýaşaýan ýeri: Maglumatlaryňyz fiziki taýdan işlenýän we saklanýan ýurt / sebit. KVKK (Şahsy maglumatlary goramak kanuny) we GDPR ýaly düzgünler üçin maglumatlar belli bir geografiýada galmaly bolup biler.
Maslahat: Şertnamada iki maddany aýratyn gözläň: (1) "Maglumatlarymyz modeli öwretmek üçin ulanylmaz", (2) "Maglumatlary saklamagyň möhleti ... günler / nol". Bu ikisi dürli kepillikler; biri beýlekisini öz içine almaýar.
Üç kiçi waka
1-nji waka - 4500 ýazgydan syzmak. Insurancetiýaçlandyryş kompaniýasynyň talaplary boýunça kömekçi her haýyşy düzetmek üçin çig mallara ýazýardy. Gözegçilik, bu ýazgylaryň 90 günüň dowamynda saklanandygyny we 12 adamyň elýeterlidigini anyklady; Onda 4500 syýasatçynyň şahsyýetnamasy we telefon maglumatlary bar. Logurnaldan öňki redaksiýa goşulandan soň, PII şol ýazgylarda nola çenli azaldy we KVKK tapyndy öçürildi.
2-nji hadysa - Tokenizasiýa yzygiderliligi saklady. Adam resurslary topary dalaşgärlere baha bermegiň gysgaça mazmunyny taýýarlaýardy. PII redaktirlenende, model şol bir dalaşgäri dürli ýerlerde başga adam hasaplaýar. Tokenizasiýa geçmek bilen, her bir dalaşgär [CANDIDATE_1] ýaly yzygiderli belgi aldy; Model dogry atributiýa berdi, hakyky ady hiç haçan çykmady.
3-nji waka - ZDR däl üpjün ediji ýok edildi. Saglyk tehnologiýasy firmasy üç üpjün edijä baha berdi. Iň arzan bahasy 30 günläp maglumatlary saklady we “hyzmaty gowulandyrmak” üçin ulanylyp bilner. Kompaniýa bu maddany kabul ederliksiz hasaplady, sebäbi hassalaryň maglumatlary işleýär; ZDR we maglumatlaryň ýaşamagyny kepillendirýän 18% has gymmat üpjün edijini saýlaň. Soňky auditde bu karar töwekgelçiligi ep-esli derejede azaltdy diýlip hasaplanyldy.
Adaty ýalňyşlyklar
- Çig PII-i modele ibermek we haýal etmän "tygşytlama" ýazmak bilen goralýar diýip pikir etmek.
- Programmany dowam etdirýän wagtyňyz düzediş surnallarynda çig haýyş / jogaby ýatdan çykarmak.
- Redaksiýany tokenizasiýa bilen bulaşdyrmak; yzygiderliligiň zerur ýerini üýtgetmek we modeli ýalňyşdyrmak.
- Placeer eýesi actual hakyky baha kartasyny howpsuz däl ýa-da dowamly ýerde saklamak.
- "Bilimde ulanmak" kepilligi we "maglumatlary saklamak" kepilligi ýalňyş.
- Hiç haçan maglumat ýaşaýan ýerini soramaň (maglumatlar haýsy ýurtda işlenýär).
Gysgaça
- Maglumat dört wektordan geçýär: gyssagly, gündelik, çykyş we okuw. Köplenç ünsden düşürilýän gündelik.
- Massa PII modele ibermezden ozal: hakyky bahasy zerur bolmasa redaksiýa, yzygiderlilik zerur bolsa bellik.
- Placeer eýesi ↔ hakyky baha kartasyny diňe wagtlaýyn we ygtybarly saklaň.
- ZDR (maglumatlary nol saklamak) we maglumat rezidensiýasy üpjün edijini saýlamagyň aýgytly korporatiw kepilligi.
- "Bilim ulanylyşy" we "maglumatlary saklamak" aýratyn kepillikler; Şertnamada ikisini hem aýratyn soraň.
Programma meselesi
Öz AI turbageçirijiňizden (synag maglumatlary bilen) hakyky haýyşyň ýekeje mysalyny alyň. Haýsy haýyşyň (1), (2) gündeliginde we (3) jogap tapgyrlarynda haýsy PII peýda bolýandygyny belläň. Her PII üçin “redaksiýa, tokenizasiýa, asla habar ýokmy?” Kararyňyzy alyň we täze maskaly wersiýa ýazyň. Ahyrynda, surnallaryňyzda ýokardaky dolandyryş buýrugy bilen PII bardygyny ýa-da ýokdugyny barlaň.
gözegçilik sanawy
- [] Men ulgamymdaky dört syzdyryjy wektory (gyssagly, gündelik, çykyş, okuw) kartalaşdyrdym.
- [] Modeliň içine ibermezden ozal PII-ni maskalaýaryn (redaktirledim / bellik edýärin).
- [] Surnallarda PII ýok; Hasaba girmezden ozal barlag bar.
- [] Placeer eýesiniň kartasy wagtlaýyn we ygtybarly saklanýar.
- [] Şertnama bilen üpjün edijiden ZDR we "bilimde ulanylmazlyk" kepilligini aldym.
- [] Maglumatlarymyň ýaşaýyş talaplaryny barladym (KVKK / GDPR).