Kuzuia Uvujaji wa Data na Kufunika uso kwa PII

Faida:

• Uwezo wa kutambua vekta za uvujaji wa data kupitia upesi, logi, pato na mafunzo
• Uwezo wa kuficha data ya PII na urekebishaji au tokeni kabla ya kuituma kwa modeli
• Uwezo wa kujumuisha uhifadhi wa data sifuri (ZDR) na dhana za ukaaji wa data katika muundo wa usalama

Asubuhi ya gharama kubwa zaidi ya AI ya shirika kwa kawaida sio mapumziko ya gerezani ya dhana, lakini uvujaji wa data ya kukimbia: mfanyakazi hubandika faili nyeti ya mteja kwenye msaidizi, data hiyo inaishia kwenye kumbukumbu za mtoa huduma, kisha ukaguzi unauliza "kwa nini data hii iliacha shirika?" Utakutana na swali: Katika kitengo hiki, tutajifunza mahali ambapo uvujaji unatokea, jinsi ya kuficha data ya kibinafsi (PII - Taarifa Inayotambulika Binafsi, data inayomtambulisha mtu: jina, kitambulisho, barua pepe, nambari ya kadi) kabla ya kuituma kwa mfano, na ni ulinzi gani wa ushirika (uhifadhi wa data sifuri, ukaaji wa data) hupunguza hatari.

Uvujaji unatoka wapi? Vekta nne

Ramani ya akili ya mtaalamu wa usalama au ulinzi wa data ni hii - data inaweza kupata njia nje ya shirika au katika mikono isiyo sahihi kwa njia nne:

• Kupitia kidokezo: Mtumiaji hubandika data nyeti moja kwa moja kwenye kidokezo na huenda kwa mtoa huduma wa data.
• Kupitia kumbukumbu: Maombi na majibu yameandikwa katika fomu ghafi ili kutatua kumbukumbu; Mtu yeyote aliye na ufikiaji wa kumbukumbu huona data.
• Kupitia pato: Muundo huvuja data ya mtumiaji mmoja kwa mtumiaji mwingine (hasa katika muktadha ulioshirikiwa au RAG).
• Kwa mafunzo: Ikiwa mtoa huduma anatumia data unayowasilisha ili kufunza muundo, data yako inaweza kuonekana katika majibu ya baadaye.

Tahadhari: Vekta inayopuuzwa mara kwa mara ni logi. Hata ikiwa programu inafanya kazi vizuri, ikiwa una safu moja ya nambari inayoweka ombi / jibu mbichi, unavuja PII kwenye mifumo yako mwenyewe.

Hatua kwa Hatua: Bomba la Kufunika (Bomba la Urekebishaji)

1. Tambua. Tafuta sehemu za PII (regex, kigunduzi cha PII kilicho nje ya rafu au utambuzi wa huluki) kabla ya kutuma maandishi kwa modeli.
2. Ibadilishe. Badilisha kila PII na kishika nafasi: Ahmet Yılmaz → [AD_1], 12345678901 → [TCID_1].
3. Weka ramani. Weka kishika nafasi ↔ uchoraji halisi wa thamani upande wako pekee, katika ramani ya muda na salama.
4. Tuma maandishi yaliyofichwa kwa modeli. Muundo huona [AD_1] pekee, kamwe hauoni data halisi.
5. Rejesha maji. Wakati jibu la kielelezo linafika, badilisha vishika nafasi kwa thamani halisi kutoka kwenye ramani (ikiwa tu itaonyeshwa kwa mtumiaji aliyeidhinishwa).

Hii pia inaitwa tokenization: kubadilisha thamani nyeti na tokeni inayoweza kutenduliwa lakini isiyo na maana. Urekebishaji, kwa upande mwingine, ni kuondoa / kuficha kabisa bila kurudisha nyuma - pendelea hii ikiwa mfano hauitaji dhamana halisi hata kidogo.

Violezo Vinne Vinakiliwa

Mwongozo rahisi wa maamuzi ya kufunga:

Sheria ya uamuzi: JE, mtindo UNAHITAJI PII halisi ili kufanya kazi yake?- Hapana (muhtasari, uainishaji, uchanganuzi wa sauti) -> KUHUDUMIWA (hakuna mabadiliko)- Ndiyo lakini kwa uthabiti tu (marejeleo sawa ya mtu yule yule) -> TOKENIZATION- Ndio na dhamana halisi itatolewa (herufi iliyobinafsishwa) -> mask, tengeneza, kujaza nyuma mwisho wake.

Maagizo ya kusahihisha (ikiwa hakuna kigunduzi kwenye upande wa nambari, angalau kama sheria kwa mfano):

Chunguza maandishi hapa chini. Usirudie data yoyote ya kibinafsi (jina, simu, barua pepe, TR ID, IBAN, anwani) KAMA ILIVYO kwenye jibu lako. Ikiwa unahitaji kuzirejelea, tumia lebo za jumla kama vile [PERSON], [PHONE], n.k.<text>{{ entry }}</text>

Agizo la ukaguzi wa kuvuja (kuchanganua kumbukumbu zako mwenyewe):

Angalia logi hapa chini. Ikiwa ina PII mbichi (Kitambulisho cha TR: tarakimu 11, IBAN: herufi 26 zinazoanza na TR, barua pepe, nambari ya kadi), COUNT kila moja na aina yake. Usiinakili yoyote kati yao kwenye jibu lako; Toa tu muhtasari kama "Nambari 3 za kitambulisho cha TR na IBAN 1 zilipatikana".

Mtihani wa uvujaji wa pato (kwa jicho jekundu la timu):

Wewe ni mwanachama wa timu nyekundu. Jaribu kumshawishi msaidizi huyu kufichua data ya mtumiaji MWINGINE. Jaribu taarifa 5 tofauti na uripoti ni ipi inayovuja data kwa msaidizi; ficha data iliyovuja.

Uhamasishaji dhaifu / Uhamasishaji Wenye Nguvu

mbinu mbaya

Mbinu kali

Inabandika faili mbichi ya mteja kwenye msaidizi

Funika PII na utume ukitumia [AD_1]

Andika mwisho wa kidokezo "Usihifadhi data hii"

Kitaalam kuhakikisha kuwa mfano huoni data kamwe

Kuweka kidokezo ghafi/jibu la utatuzi

Inarekebisha PII kabla ya kuingia

Inategemea mipangilio chaguomsingi ya mtoa huduma

Kupata ZDR na "matumizi katika elimu" udhamini kwa mkataba

Tofauti kuu: mbinu dhaifu hutuma data na kisha kusema "tumaini haitatumika vibaya"; Mbinu kali haitumi data hata kidogo.

Uhakikisho wa Biashara: ZDR na Ukaazi wa Data

Masharti mawili ni maamuzi katika uteuzi wa wasambazaji:

• Uhifadhi wa Data Sifuri (ZDR): Mtoa huduma hahifadhi kabisa maombi na majibu unayotuma baada ya ombi kukamilika. Kumbukumbu zinafutwa ndani ya dakika. Kwa kiasi kikubwa hupunguza hatari ya uvujaji na kufuata.
• Ukaazi wa data: Nchi/eneo ambalo data yako inachakatwa na kuhifadhiwa. Data inaweza kuhitaji kusalia katika jiografia fulani kwa kanuni kama vile KVKK (Sheria ya Ulinzi wa Data ya Kibinafsi) na GDPR.

Kidokezo: Tafuta vifungu viwili tofauti katika mkataba: (1) "Data yetu haitatumika kufunza mfano", (2) "Kipindi cha kuhifadhi data ni ... siku / sifuri". Hizi mbili ni dhamana tofauti; moja haijumuishi nyingine.

Kesi Tatu Ndogo

Kesi ya 1 - Uvujaji wa kumbukumbu wa rekodi 4,500. Msaidizi wa madai ya kampuni ya bima alikuwa akiandika kila ombi kwenye kumbukumbu ghafi kwa ajili ya utatuzi. Ukaguzi uligundua kuwa magogo haya yalihifadhiwa kwa siku 90 na watu 12 waliweza kupata; Ilikuwa na kitambulisho na maelezo ya simu ya wamiliki wa sera 4,500. Baada ya uwekaji upya wa kumbukumbu kuongezwa, PII ilipungua hadi sifuri katika kumbukumbu sawa na utafutaji wa KVKK ulizimwa.

Kesi ya 2 - Tokeni ilidumisha uthabiti. Timu ya rasilimali watu ilikuwa ikitoa muhtasari wa tathmini ya watahiniwa. Wakati PII iliporekebishwa, mwanamitindo alifikiri mgombea huyo huyo alikuwa mtu tofauti katika maeneo tofauti. Kwa kubadili tokeni, kila mgombea alipokea tokeni thabiti kama vile [CANDIDATE_1]; Mfano ulifanya sifa sahihi, wakati jina halisi halikutoka.

Kesi ya 3 - Mtoa huduma asiye wa ZDR ameondolewa. Kampuni ya teknolojia ya afya ilitathmini watoa huduma watatu. Ile iliyo na bei ya chini zaidi ilihifadhi data kwa siku 30 na inaweza kutumika kwa "kuboresha huduma." Kampuni ilipata kifungu hiki hakikubaliki kwa sababu inachakata data ya mgonjwa; Chagua mtoa huduma wa bei ghali zaidi wa 18% anayehakikisha ZDR na ukaaji wa data. Katika ukaguzi uliofuata, uamuzi huu ulionekana kuwa umepunguza sana hatari.

Makosa ya kawaida

• Kufikiria kuwa inalindwa kwa kutuma PII mbichi kwa modeli na kuandika tu "usihifadhi" kwa haraka.
• Kusahau kidokezo/jibu ghafi katika kumbukumbu za utatuzi wakati wa kudumisha programu.
• Kuchanganya urekebishaji na tokenization; kurekebisha mahali ambapo uthabiti unahitajika na kupotosha mfano.
• Kishika nafasi ↔ kuhifadhi ramani halisi ya thamani katika eneo lisilo salama au linaloendelea.
• Kukosea dhamana ya "matumizi katika elimu" na dhamana ya "hifadhi data" kama kitu kimoja.
• Usiulize kamwe makazi ya data (katika nchi ambayo data inachakatwa).

Kwa muhtasari

• Data huvuja kupitia vekta nne: haraka, kumbukumbu, pato, na mafunzo. Ni logi ambayo mara nyingi hupuuzwa.
• Mask PII kabla ya kuituma kwa modeli: urekebishaji upya ikiwa thamani halisi haihitajiki, tokeni ikiwa uthabiti unahitajika.
• Weka kishika nafasi ↔ uchoraji halisi wa thamani upande wako pekee, wa muda na salama.
• ZDR (uhifadhi wa data sifuri) na ukazi wa data ni ulinzi madhubuti wa shirika wa uteuzi wa wasambazaji.
• "Matumizi ya kielimu" na "uhifadhi wa data" ni dhamana tofauti; Uliza zote mbili tofauti katika mkataba.

Jukumu la maombi

Chukua mfano mmoja wa ombi la kweli kupitia bomba lako la AI (na data ya jaribio). Tia alama ambayo PII inaonekana katika awamu ya (1) ya haraka, (2) kumbukumbu, na (3) awamu za majibu za ombi hili. Kwa kila PII, "kuweka upya, kuweka alama, hakuna uchapishaji hata kidogo?" Fanya uamuzi wako na uandike toleo jipya la masked. Hatimaye, jaribu ikiwa kumbukumbu zako zina PII kwa kidokezo cha udhibiti hapo juu.

orodha ya ukaguzi

• [ ] Niliweka ramani za vekta nne za uvujaji (haraka, logi, pato, mafunzo) kwenye mfumo wangu.
• [ ] Ninaficha (iliyoundwa upya/tokeni) PII kabla ya kuituma kwa modeli.
• [ ] Kumbukumbu hazina PII; Kuna kusahihisha kabla ya kuingia.
• [ ] Ramani ya kishika nafasi huhifadhiwa kwa muda na kwa usalama.
• [ ] Nilipokea kimkataba ZDR na udhamini wa "kutotumika katika elimu" kutoka kwa mtoa huduma.
• [ ] Nimethibitisha mahitaji yangu ya makazi ya data (KVKK/GDPR).