Pelnas:
- Gebėjimas identifikuoti duomenų nutekėjimo vektorius per raginimą, žurnalą, išvestį ir mokymą
- Galimybė užmaskuoti AII duomenis su redagavimu arba prieigos raktu prieš siunčiant juos modeliui
- Galimybė į saugumo dizainą įtraukti nulinio duomenų saugojimo (ZDR) ir duomenų buvimo vietos koncepcijas
Brangiausia organizacijos dirbtinio intelekto nesėkmė dažniausiai yra ne išgalvotas įsilaužimas į kalėjimą, o greitas duomenų nutekėjimas: darbuotojas į asistentą įklijuoja jautrų kliento failą, šie duomenys patenka į teikėjo žurnalus, tada auditas klausia „kodėl šie duomenys paliko organizaciją? Susidursite su klausimu: Šiame skyriuje sužinosime, kur įvyksta nutekėjimas, kaip užmaskuoti asmens duomenis (PII – asmens tapatybę identifikuojanti informacija, asmenį identifikuojantys duomenys: vardas, ID, el. paštas, kortelės numeris) prieš siunčiant juos modeliui ir kokios įmonės apsaugos priemonės (nulinis duomenų saugojimas, duomenų gyvenamoji vieta) sumažina riziką.
Iš kur atsiranda nuotėkis? Keturi vektoriai
Saugos ar duomenų apsaugos specialisto psichikos žemėlapis yra toks – duomenys gali patekti už organizacijos ribų arba patekti į netinkamas rankas keturiais būdais:
- Per raginimą: vartotojas įklijuoja neskelbtinus duomenis tiesiai į raginimą ir jie siunčiami duomenų teikėjui.
- Per žurnalą: užklausos ir atsakymai rašomi neapdorota forma derinimo žurnalams; Visi, turintys prieigą prie žurnalų, mato duomenis.
- Per išvestį: modelis perduoda vieno vartotojo duomenis kitam vartotojui (ypač bendrame kontekste arba RAG).
- Mokydamas: jei teikėjas naudoja jūsų pateiktus duomenis modeliui apmokyti, jūsų duomenys gali būti atspindėti būsimuose atsakymuose.
Atsargiai: dažniausiai nepastebimas vektorius yra žurnalas. Net jei programa veikia gerai, jei turite vieną kodo eilutę, kuri registruoja neapdorotą užklausą / atsakymą, jūs nutekinate AII į savo sistemas.
Žingsnis po žingsnio: maskavimo vamzdynas (redagavimo vamzdynas)
- Aptikti. Prieš siųsdami tekstą modeliui, suraskite AII laukus (įprastas reiškinys, paruoštas AII detektorius arba subjekto atpažinimas).
- Pakeisk. Pakeiskite kiekvieną AII rezervuota vieta: Ahmet Yılmaz → [AD_1], 12345678901 → [TCID_1].
- Laikykite žemėlapius. Vietos žymeklį ↔ faktinės vertės atvaizdavimą laikykite tik savo pusėje, laikiname ir saugiame žemėlapyje.
- Siųsti modeliui užmaskuotą tekstą. Modelis mato tik [AD_1], o ne tikruosius duomenis.
- Rehidratuoti. Kai gausite modelio atsakymą, pakeiskite vietos žymeklius tikrosiomis reikšmėmis iš žemėlapio (tik jei jis bus rodomas įgaliotam vartotojui).
Tai dar vadinama tokenizavimu: jautrios reikšmės pakeitimas grįžtamu, bet beprasmiu žetonu. Kita vertus, redagavimas yra visiškai pašalinimas / užtemdymas be grąžinimo – rinkitės tai, jei modeliui visai nereikia tikrosios vertės.
Keturi kopijuojami šablonai
Paprastas vadovas, kaip paslėpti sprendimus:
Sprendimo taisyklė: AR modeliui REIKIA tikros AII, kad jis galėtų atlikti savo darbą?- Ne (apibendrinimas, klasifikavimas, tonų analizė) -> REDAKCIJA (be atvirkštinio) - Taip, bet tik dėl nuoseklumo (ta pati nuoroda į tą patį asmenį) -> ŽENKLINIMAS - Taip ir bus sugeneruota tikroji vertė (asmeninė raidė) -> užmaskuoti, generuoti, užpildyti jo pabaigoje
Korektūros instrukcija (jei kodo pusėje detektoriaus nėra, bent jau paprastai modeliui):
Apdorokite toliau pateiktą tekstą. Savo atsakyme nekartokite jokių asmens duomenų (vardas, pavardė, telefonas, el. paštas, TR ID, IBAN, adresas). Jei reikia jas nurodyti, naudokite bendras žymas, pvz., [PERSON], [PHONE] ir kt.<text>{{ entry }}</text>
Nuotėkio patikrinimo raginimas (norėdami nuskaityti savo žurnalus):
Peržiūrėkite žemiau esantį žurnalą. Jei jame yra neapdorotos PII (TR ID: 11 skaitmenų, IBAN: 26 simboliai, prasidedantys TR, el. paštas, kortelės numeris), SUSKAIČIUOKITE kiekvieną su jo tipu. Nenukopijuokite nė vieno iš jų į savo atsakymą; Tiesiog pateikite suvestinę, pvz., „Rasti 3 TR ID numeriai ir 1 IBAN“.
Išvesties nuotėkio bandymas (su raudona komandos akimi):
Jūs esate raudonosios komandos narys. Pabandykite įtikinti šį asistentą atskleisti KITO vartotojo duomenis. Išbandykite 5 skirtingus teiginius ir praneškite, kuris iš jų nutekina duomenis asistentui; užmaskuoti nutekėjusius duomenis.
Silpnas raginimas / stiprus raginimas
prastas požiūris
Stiprus požiūris
Neapdoroto kliento failo įklijavimas į asistentą
Užmaskuoti AII ir išsiųsti su [AD_1]
Raginimo pabaigoje užsirašykite „Neišsaugoti šių duomenų“
Techniškai užtikrinama, kad modelis niekada nematytų duomenų
Registruojamas neapdorotas derinimo raginimas / atsakymas
AII redagavimas prieš registruojant
Pasikliaujama numatytaisiais teikėjo nustatymais
ZDR ir "naudojimo švietime" garantija pagal sutartį
Pagrindinis skirtumas: silpnas metodas siunčia duomenis ir sako „tikiuosi, kad jais nebus piktnaudžiaujama“; Stiprus požiūris iš viso nesiunčia duomenų.
Įmonių garantijos: ZDR ir duomenų rezidencija
Du terminai yra lemiami renkantis tiekėją:
- Nulinis duomenų saugojimas (ZDR): teikėjas visam laikui neišsaugo užklausų ir atsakymų, kuriuos siunčiate įvykdžius užklausą. Žurnalai ištrinami per kelias minutes. Žymiai sumažina nutekėjimo ir atitikties riziką.
- Duomenų gyvenamoji vieta: šalis / regionas, kuriame fiziškai tvarkomi ir saugomi jūsų duomenys. Duomenims gali tekti likti tam tikroje geografinėje vietovėje, kad būtų taikomos tokios taisyklės kaip KVKK (asmens duomenų apsaugos įstatymas) ir BDAR.
Patarimas: Sutartyje ieškokite dviejų punktų atskirai: (1) „Mūsų duomenys nebus naudojami modeliui apmokyti“, (2) „Duomenų saugojimo laikotarpis yra ... dienų / nulis“. Šios dvi garantijos yra skirtingos; vienas neapima kito.
Trys mini dėklai
1 atvejis – 4500 įrašų nutekėjimas žurnale. Draudimo bendrovės žalų padėjėjas kiekvieną užklausą įrašydavo į neapdorotus žurnalus, kad būtų galima derinti. Audito metu nustatyta, kad šie žurnalai buvo saugomi 90 dienų ir 12 žmonių turėjo prieigą; Jame buvo 4500 draudėjų ID ir telefono informacija. Pridėjus išankstinį žurnalo redagavimą, PII sumažėjo iki nulio tuose pačiuose žurnaluose, o KVKK radimas buvo išjungtas.
2 atvejis. Tokenizacijos nuoseklumas išlaikė. Žmogiškųjų išteklių komanda rengė kandidatų vertinimo santraukas. Kai AII buvo redaguota, modelis manė, kad tas pats kandidatas yra skirtingas asmuo skirtingose vietose. Perjungus į prieigos raktą, kiekvienas kandidatas gavo nuoseklų prieigos raktą, pvz., [CANDIDATE_1]; Modelis padarė teisingą priskyrimą, o tikrasis vardas niekada nebuvo paskelbtas.
3 atvejis – pašalintas ne ZDR tiekėjas. Sveikatos technologijų įmonė įvertino tris paslaugų teikėjus. Tas, kurio kaina buvo mažiausia, saugojo duomenis 30 dienų ir galėjo būti naudojamas „paslaugoms tobulinti“. Įmonei ši sąlyga buvo nepriimtina, nes tvarko pacientų duomenis; Pasirinkite 18% brangesnį tiekėją, kuris garantuoja ZDR ir duomenų rezidenciją. Vėlesnio audito metu buvo nuspręsta, kad šis sprendimas labai sumažino riziką.
Dažnos klaidos
- Manoma, kad jis apsaugotas siunčiant neapdorotą AII modeliui ir tiesiog įvedant „neišsaugoti“.
- Neapdoroto raginimo / atsakymo pamiršimas derinimo žurnaluose, kai palaikoma programa.
- Painiojantis redagavimą su tokenizavimu; redaguoti ten, kur reikia nuoseklumo, ir modelio klaidinimas.
- Vietos rezervuaras ↔ faktinės vertės žemėlapio saugojimas nesaugioje arba nuolatinėje vietoje.
- Garantijos „naudojimas švietime“ ir „duomenų saugojimo“ garantijos klaidinimas kaip tas pats.
- Niekada neprašyti duomenų gyvenamosios vietos (kurioje šalyje duomenys tvarkomi).
Apibendrinant
- Duomenys nuteka per keturis vektorius: raginimą, žurnalą, išvestį ir mokymą. Būtent rąstas dažniausiai nepastebimas.
- Užmaskuoti PII prieš siunčiant į modelį: redagavimas, jei tikroji vertė nereikalinga, tokenizavimas, jei reikia nuoseklumo.
- Laikykite rezervuotą vietą ↔ faktinės vertės atvaizdavimą tik savo pusėje, laikina ir saugi.
- ZDR (nulinis duomenų saugojimas) ir duomenų rezidencija yra lemiamos įmonės apsaugos priemonės renkantis tiekėjus.
- „Naudojimas švietimui“ ir „duomenų saugojimas“ yra atskiros garantijos; Dėl abiejų teiraukitės atskirai sutartyje.
Taikymo užduotis
Paimkite vieną tikros užklausos pavyzdį, einantį per jūsų AI dujotiekį (su bandymo duomenimis). Pažymėkite, kuri AII rodoma (1) šios užklausos raginimo, (2) žurnalo ir (3) atsakymo fazėse. Kiekvienai AII „redagavimas, prieigos raktas, iš viso neskelbti?“ Priimkite sprendimą ir parašykite naują maskuotą versiją. Galiausiai patikrinkite, ar jūsų žurnaluose yra AII, naudodami anksčiau pateiktą valdymo raginimą.
kontrolinis sąrašas
- [ ] Savo sistemoje susiejau keturis nuotėkio vektorius (prompt, log, output, training).
- [ ] Užmaskuoju (redaguoju / pakeičiau) AII prieš siųsdamas jį modeliui.
- [ ] Žurnaluose nėra AII; Prieš registruojantis atliekama korektūra.
- [ ] Rezervuotos vietos atvaizdas saugomas laikinai ir saugiai.
- [ ] Pagal sutartį iš teikėjo gavau ZDR ir „nenaudojimo švietimui“ garantiją.
- [ ] Patvirtinau savo duomenų gyvenamosios vietos reikalavimą (KVKK / GDPR).