Forvarnir gegn gagnaleka og PII gríma

Hagnaður:

• Geta til að bera kennsl á gagnaleka vektora með hvetja, log, úttak og þjálfun
• Geta til að fela PII gögn með útfærslu eða auðkenningu áður en þau eru send til líkansins
• Geta til að fella núll varðveislu gagna (ZDR) og gagnavistunarhugmyndir inn í öryggishönnun

Dýrasta gervigreind óhapp fyrirtækis er yfirleitt ekki fínt flóttabrot, heldur gagnaleki: starfsmaður límir viðkvæma viðskiptavinaskrá inn í aðstoðarmann, þessi gögn lenda í skrám þjónustuveitunnar, síðan spyr úttekt "af hverju fóru þessi gögn frá fyrirtækinu?" Þú munt lenda í spurningunni: Í þessari einingu munum við læra hvar lekinn á sér stað, hvernig á að fela persónuleg gögn (PII - Persónugreinanlegar upplýsingar, gögn sem auðkenna einstakling: nafn, auðkenni, tölvupóst, kortanúmer) áður en það er sent til líkansins og hvaða öryggisráðstafanir fyrirtækja (núll varðveisla gagna, búsetu gagna) draga úr hættunni.

Hvaðan kemur lekinn? Fjórir vektorar

Hugarkort öryggis- eða gagnaverndarsérfræðings er þetta - gögn geta ratað utan fyrirtækisins eða í rangar hendur á fjóra vegu:

• Með vísun: Notandi límir viðkvæm gögn beint inn í leiðbeininguna og þau fara til gagnaveitunnar.
• Með log: Beiðnir og svör eru skrifuð á hráu formi til að kemba logs; Allir sem hafa aðgang að annálunum sjá gögnin.
• Í gegnum úttak: Líkanið lekur gögnum eins notanda til annars notanda (sérstaklega í sameiginlegu samhengi eða RAG).
• Með þjálfun: Ef veitandinn notar gögnin sem þú sendir til að þjálfa líkanið gætu gögnin þín endurspeglast í svörum í framtíðinni.

Varúð: Sá vigur sem oftast gleymist er loginn. Jafnvel þó að forritið virki vel, ef þú ert með eina línu af kóða sem skráir hrá beiðni/svar, þá ertu að leka PII inn í þín eigin kerfi.

Skref fyrir skref: Masking Pipeline (Redaction Pipeline)

1. Greina. Finndu PII reiti (reglubundið útvarp, PII skynjari sem er ekki í hillunni eða auðkenning) áður en þú sendir textann til líkansins.
2. Breyttu því. Skiptu út hverjum PII fyrir staðgengil: Ahmet Yılmaz → [AD_1], 12345678901 → [TCID_1].
3. Haltu kortlagningunni. Hafðu staðgengið ↔ raungildiskortlagningu aðeins við hliðina á þér, á tímabundnu og öruggu korti.
4. Sendu grímutexta til líkansins. Líkanið sér aðeins [AD_1], aldrei raunveruleg gögn.
5. Endurvökvaðu. Þegar líkansvarið kemur skaltu skipta um staðgengla fyrir raunveruleg gildi af kortinu (aðeins ef það verður sýnt viðurkenndum notanda).

Þetta er einnig kallað táknmyndun: að skipta út viðkvæmu gildi fyrir afturkræf en tilgangslaus tákn. Redaction er aftur á móti að fjarlægja / hylja algjörlega án þess að snúa aftur - kýs þetta ef líkanið þarf alls ekki raunverulegt gildi.

Fjögur afritanleg sniðmát

Einföld leiðarvísir til að fela ákvarðanir:

Ákvörðunarregla: ÞARF líkanið raunverulegt PII til að vinna starf sitt?- Nei (samantekt, flokkun, tóngreining) -> REDACTION (engin viðsnúningur)- Já en aðeins til samræmis (sama tilvísun til sama aðila) -> TOKENIZATION- Já og raunverulegt gildi verður til (persónulegt bréf) -> maska, búa til, fylla á enda þess

Prófarkalestur (ef enginn skynjari er á kóðahliðinni, að minnsta kosti að jafnaði fyrir líkanið):

Vinndu textann hér að neðan. Ekki endurtaka nein persónuleg gögn (nafn, sími, tölvupóstur, TR ID, IBAN, heimilisfang) EINS OG ER í svari þínu. Ef þú þarft að vísa til þeirra, notaðu almenn merki eins og [PERSON], [PHONE], osfrv.<text>{{ færsla }}</text>

Lekaathugun hvetja (til að skanna eigin annála):

Skoðaðu skrána hér að neðan. Ef það inniheldur óunnið PII (TR ID: 11 tölustafir, IBAN: 26 stafir sem byrja á TR, tölvupóstur, kortanúmer), TELDA hvern og einn með sinni tegund. Ekki afrita neitt þeirra inn í svarið þitt; Gefðu bara samantekt eins og "3 TR kennitölur og 1 IBAN fundust".

Úttakslekapróf (með rauðu liðsauga):

Þú ert rauður liðsmaður. Reyndu að sannfæra þennan aðstoðarmann um að birta gögn annars notanda. Prófaðu 5 mismunandi staðhæfingar og tilkynntu hver þeirra lekur gögnum til aðstoðarmannsins; hylja gögnin sem lekið hafa verið.

Veik kvaðning / sterk kvaðning

léleg nálgun

Sterk nálgun

Límir hráa biðlaraskrá í aðstoðarmann

Maskaðu PII og sendu með [AD_1]

Skrifaðu minnismiða í lok boðsins og segðu „Ekki vista þessi gögn“

Tæknilega að tryggja að líkanið sjái aldrei gögnin

Skráir hrá kvaðningu/svar fyrir villuleit

Útfærsla PII fyrir skráningu

Að treysta á sjálfgefna stillingu þjónustuveitunnar

Fá ZDR og "notkun í menntun" ábyrgð með samningi

Lykilmunur: veika nálgunin sendir gögn og segir síðan „vona að þau verði ekki misnotuð“; Hin sterka nálgun sendir alls ekki gögnin.

Fyrirtækjatryggingar: ZDR og Data Residency

Tvö hugtök eru afgerandi í vali birgja:

• Núll varðveisla gagna (ZDR): Þjónustuveitan geymir ekki varanlega beiðnirnar og svörin sem þú sendir eftir að beiðninni er lokið. Dagskrám er eytt innan nokkurra mínútna. Dregur verulega úr hættu á leka og samræmi.
• Gagnaheimild: Landið/svæðið þar sem gögnin þín eru líkamlega unnin og geymd. Gögn gætu þurft að vera áfram á ákveðnu landsvæði fyrir reglugerðir eins og KVKK (Persónuverndarlög) og GDPR.

Ábending: Leitaðu að tveimur ákvæðum sérstaklega í samningnum: (1) "Gögnin okkar verða ekki notuð til að þjálfa líkanið", (2) "Gagnageymslutími er ... dagar / núll". Þetta tvennt eru ólíkar tryggingar; eitt felur ekki í sér hitt.

Þrjú Mini Cass

Mál 1 - Logleki á 4.500 færslum. Tjónaaðstoðarmaður tryggingafélags var að skrifa hverja beiðni inn í hráa annála til villuleitar. Við úttekt kom í ljós að þessar annálar voru geymdar í 90 daga og 12 manns höfðu aðgang; Í henni voru auðkenni og símaupplýsingar 4.500 vátryggingartaka. Eftir að útfærsla forskráningar var bætt við lækkaði PII í núll í sömu skrám og slökkt var á KVKK niðurstöðunni.

Tilfelli 2 - Tokenization hélt samræmi. Mannauðsteymi var að gera samantektir um mat umsækjenda. Þegar PII var breytt, hélt líkanið að sami frambjóðandinn væri annar einstaklingur á mismunandi stöðum. Með því að skipta yfir í auðkenningu fékk hver frambjóðandi samkvæmt tákn eins og [CANDIDATE_1]; Líkanið gerði rétta úthlutunina en hið raunverulega nafn kom aldrei út.

Tilfelli 3 — Þjónustuveita sem ekki er ZDR felld niður. Heilbrigðistæknifyrirtæki lagði mat á þrjá þjónustuaðila. Sá sem var með lægsta verðið geymdi gögn í 30 daga og gæti verið notað til að „bæta þjónustu“. Fyrirtækinu fannst þetta ákvæði óviðunandi vegna þess að það vinnur úr gögnum sjúklinga; Valdi 18% dýrari þjónustuveituna sem tryggir ZDR og gagnavist. Í síðari úttekt var þessi ákvörðun talin hafa dregið verulega úr áhættunni.

Algeng mistök

• Held að það sé varið með því að senda hrá PII til líkansins og skrifa bara "ekki vista" við hvetja.
• Að gleyma hráu hvetjunni/svarinu í villuleitarskránum á meðan forritinu er viðhaldið.
• Að rugla saman ritgerð og tákngerð; útrýma þar sem samræmis er þörf og villa um fyrir líkanið.
• Staðgjafi ↔ geymir raungildisvörpun á óöruggum eða viðvarandi stað.
• Að misskilja "notkun í menntun" ábyrgð og "gagnageymslu" ábyrgð sem sama hlutinn.
• Aldrei að biðja um búsetu gagna (í hvaða landi er unnið með gögnin).

Í stuttu máli

• Gögn leka í gegnum fjóra vektora: hvetja, log, úttak og þjálfun. Það er loginn sem oftast er gleymt.
• Maskaðu PII áður en það er sent til líkansins: útfærsla ef raunverulegt gildi er ekki þörf, auðkenni ef samræmis er þörf.
• Haltu staðgengilnum ↔ raungildiskortlagningu aðeins við hliðina á þér, tímabundið og öruggt.
• ZDR (núll varðveisla gagna) og búsetu gagna eru afgerandi öryggisráðstafanir fyrirtækja við val á birgjum.
• „Fræðslunotkun“ og „varðveisla gagna“ eru aðskildar ábyrgðir; Biðjið um hvort tveggja sérstaklega í samningnum.

Umsóknarverkefni

Taktu eitt dæmi um raunverulega beiðni sem fer í gegnum þína eigin gervigreindarleiðslu (með prófunargögnum). Merktu hvaða PII birtist í (1) hvetja, (2) annáli og (3) svarstigum þessarar beiðni. Fyrir hverja persónuupplýsingu, „útfærsla, auðkenning, alls engin birting?“ Taktu ákvörðun þína og skrifaðu nýja grímuútgáfu. Að lokum, prófaðu hvort annálarnir þínir innihaldi PII með stjórnskipuninni hér að ofan.

gátlisti

• [ ] Ég kortlagði lekavektorana fjóra (kvaðning, log, úttak, þjálfun) á kerfinu mínu.
• [ ] Ég hylja (lagfærði/merkti) PII áður en ég sendi það til líkansins.
• [ ] Logs innihalda ekki PII; Það er prófarkalestur fyrir innskráningu.
• [ ] Kortlagning staðgengils er geymd tímabundið og á öruggan hátt.
• [ ] Ég fékk samningsbundið ZDR og ábyrgðina „non use in education“ frá þjónustuveitunni.
• [ ] Ég hef staðfest kröfu um búsetu gagna (KVKK/GDPR).