Pelnas:
- Galimybė klasifikuoti duomenis, kuriuose yra paslapčių, asmens duomenų ir konfidencialaus verslo turto, ir atpažinti raudonas linijas
- Maskavimas, anonimiškumas ir apsauga sintetiniais duomenimis prieš įvedant duomenis
- Patvirtintas įrankių pasirinkimas, konteksto sumažinimas ir galimybė taikyti rakto sukimosi refleksą nutekėjimo atveju
Viskas, ką įklijuojate į kodavimo asistentą, gali būti jūsų nekontroliuojama. API raktas, klientų duomenų bazės sąvartynas, dar nepaskelbtas patentuotas šaltinio kodas arba paciento įrašas – jie gali tapti negrįžtamu nutekėjimu, kai patenka į nepatvirtintą įrankį. Didžiausia AI rizika programinės įrangos komandoms kyla ne dėl eilutės klaidos, o dėl neatsargaus kopijavimo ir įklijavimo. Šis įrenginys skirtas užtikrinti, kad kopijavimas ir įklijavimas būtų saugūs.
Čia išskiriame tris dalykus: kokių duomenų niekada negalima įvesti, kokius įrankius galima naudoti su kokiomis apsaugos priemonėmis ir kaip apsaugoti duomenis prieš juos įvedant (maskavimas, sintetiniai duomenys, darbas lokaliai). Tai nėra neprivaloma „būtų puiku“; Daugumoje institucijų tai yra sutartinė ir teisinė prievolė.
Kodėl tai taip kritiška?
Duomenys, kuriuos siunčiate į AI įrankį; apdorojami tiekėjo serveriuose, kartais saugomi tam tikrą laiką, gali būti naudojami modeliui tobulinti kai kuriuose gaminio nustatymuose. Dažnai neužtenka pasakyti „ištryniau pokalbį“; Kai duomenys išeina iš tinklo, kyla rizika. Be to, nutekėjimo kaina yra didelė: nutekėjęs debesies raktas gali būti netinkamai panaudotas per kelias minutes, nutekėję klientų duomenys gali būti informuoti ir skirti baudas pagal tokius reglamentus kaip KVKK/GDPR, o nutekėjęs privatus šaltinio kodas gali sunaikinti konkurencinį pranašumą.
Taigi nykščio taisyklė paprasta: į nepatvirtintą transporto priemonę neįveskite nieko, ko negalite sau leisti prarasti. Jei abejojate, neįeikite.
Atsargiai: „tik vieną kartą, greitai“ mentalitetas yra dažniausia nutekėjimo priežastis. Gamybos žurnalo arba konfigūracijos failo įklijavimas, kaip tai daroma sprendžiant skubią klaidą, yra būtent tai, kas atsitinka, kai tokie sprendimai priimami esant spaudimui. Skuba nesustabdo konfidencialumo taisyklės.
Ko niekada nereikėtų įvesti (raudona linija)
- Paslaptys: API raktai, slaptažodžiai, prieigos prie debesies raktai, privatūs sertifikatai, prieigos raktai, ryšio eilutės.
- Asmens duomenys (PII): Vardas-pavardė, TR ID numeris, el. paštas, telefonas, adresas, sveikatos/finansiniai įrašai, kliento duomenys.
- Konfidencialus verslo turtas: neatskleistas šaltinio kodas, patentuoti algoritmai, vidinės architektūros paslaptys, sutarties detalės.
- Reguliuojami duomenys: specialios saugomos kategorijos, tokios kaip sveikatos priežiūra, mokėjimo kortelė (PCI), asmeniniai finansai.
Žingsnis po žingsnio: saugus naudojimo srautas
- Klasifikuokite duomenis. Kokią kategoriją turite – vieša, vidinė, konfidenciali, reguliuojama?
- Pasirinkite transporto priemonę pagal klasę. Konfidencialūs/reglamentuojami duomenys tvarkomi tik institucijų patvirtintose priemonėse, kurios suteikia duomenų garantiją (nenaudojimas švietime, saugojimo limitas, regioninis tvarkymas).
- Apsaugokite prieš įeinant. Pašalinkite paslaptis, užmaskuokite / anoniminkite AII, naudokite sintetinius (sukurtus, bet tikroviškus) duomenis, o ne tikrus, jei įmanoma.
- Sumažinti kontekstą. Sumažinkite problemą iki mažiausio atkuriamo pavyzdžio, kuriame nėra jautrių dalių.
- Taip pat patikrinkite išvestį. Patikrinkite, ar dirbtinio intelekto sugeneruotame kode nėra užkoduotos paslapties arba jūsų duomenų likučių.
Trys mini dėklai
1 atvejis – įklijuotas raktas buvo atšauktas. Kūrėjas įklijavo visą konfigūracijos failą į AI, kai taiso klaidą; Faile buvo gyvas trečiosios šalies API raktas. Kai komanda pastebėjo, jie iškart atšaukė (pasuko) raktą ir pagamino naują; Piktnaudžiavimo nebuvo, bet tai buvo „pigus“ incidentas. Pamoka: prieš klijuodami pašalinkite glazūrą ir nedelsdami pasukite raktą, jei jis nutekėjo.
2 atvejis – sintetiniai duomenys išsaugojo verslą. Komanda susidūrė su faktinių klientų įrašų analizavimo klaida. Užuot įvedę tikrus duomenis, jie sukūrė 20 eilučių sintetinių duomenų su tokia pačia struktūra, bet visiškai netikrais, atkūrė klaidą su ja ir išsprendė AI. Nei AII nutekėjo, nei diagnozė nesulėtėjo; sintetiniai duomenys buvo saugūs ir pakankami.
3 atvejis. Paslėpta paslaptis spaudinyje. Generuodamas konfigūracijos pavyzdį, dirbtinis intelektas į jį įdėjo tikroviškai atrodantį „pavyzdinį“ raktą ir kūrėjui nepastebėdamas įtraukė jį į kodą; Kodo bazės nuskaitymas (slaptas skaitytuvas) tai užfiksavo ir perspėjo. Nekintama paslaptis niekada neturėjo patekti į kodą; Teisingas būdas buvo naudoti aplinkos kintamąjį arba paslapčių tvarkyklę. Pamoka: taip pat nuskaitykite išvestį ir ieškokite paslapčių.
Keturi kopijuojami šablonai
Maskavimo kontrolinis sąrašas prieš įvedant (savarankiškai):
Prieš pateikdamas šį tekstą dirbtiniam intelektui, įsitikinkite, kad pašalinau šiuos dalykus ir pakeisiu tai, ką radote, į [MASKED]: API raktas, slaptažodis, prieigos raktas, ryšio eilutė, vardas-pavardė, el. pašto adresas, telefonas, ID numeris, kliento duomenys. Tekstas:{{text}}
Sintetinių bandymų duomenų generavimas:
Sugeneruokite VISIŠKAI pagamintus (nesusijusius su realiu asmeniu / institucija) {{N}}eilutės bandymo duomenis pagal toliau pateiktą schemą. Atrodykite tikroviškai, bet nenaudokite tikros AII. Schema: {{laukai ir tipai}}Apima kraštinius atvejus (tuščia, riba, netinkamas formatas).
Ištaisyta slapta medžioklė (kode):
Šiame kode / konfigūracijoje ieškokite užkoduotos paslapties: raktas, slaptažodis, prieigos raktas, tinkintas URL. Jei radote, nurodykite jo vietą ir pasiūlykite tinkamą metodą (aplinkos kintamasis / slaptasis tvarkytuvas). Kodas:{{code}}
Transporto priemonės atitikties įvertinimas (pagal duomenų klasę):
Turiu tokio tipo duomenis: {{klasė: vieša / vidinė / konfidenciali / reguliuojama}}. Įrankis, kurį ketinu naudoti, yra: {{tool}}. Kokias apsaugos priemones (saugojimo, nenaudojimo švietime, regione, prieiga) turėčiau patvirtinti prieš apdorojant šiuos duomenis šiame įrankyje? Pateikite kontrolinį sąrašą. Sprendimas yra mano; Jūs paaiškinate kriterijus.
Silpnas raginimas / Stiprus raginimas
Silpnas: (įklijuojama 200 realių naudotojų eilučių, paimtų iš gamybos duomenų bazės) "Kodėl šiuose duomenyse yra analizės klaida?"
Stiprus: "Žemiau yra 15 eilučių, kurių struktūra tokia pati kaip ir tikri duomenys, bet visiškai sintetinės (be AII). 3, 8 ir 12 iš šių eilučių parse_user() išmeta ValueError. Koks gali būti įprastas modelis, kaip jį ištaisyti?"
Stiprioje versijoje nėra tikrų asmens duomenų, tačiau išsaugoma struktūra, reikalinga klaidai atkurti. Diagnozė išlieka ta pati, rizika iš naujo nustatoma.
Duomenų klasė
Ar jį galima apdoroti AI?
Būtina sąlyga
viešas
Taip
—
Vidinis naudojimas (ne tikslumas)
Apskritai
Laikykitės įmonės politikos
Konfidencialu (šaltinio kodas, verslo paslaptis)
Tik patvirtinta transporto priemonė
Įmonės užtikrinimas + minimizavimas
AII / reguliuojama
Kaip taisyklė Nr
Užmaskuoti/anonimizuoti arba naudoti sintetinį
Politikos laikymasis ir sekimas
Saugus naudojimas yra daugiau nei tik asmeninis įprotis, tai korporatyvinė sistema: kokie įrankiai yra patvirtinti, kuri duomenų klasė kur gali nukeliauti ir ką daryti pažeidimo atveju, turėtų būti apibrėžta rašytinėje politikoje. Jei paslaptis nutekėjo, svarbiausias pirmas žingsnis yra nepanikuoti, o nedelsiant grąžinti (atšaukti ir sugeneruoti naują) nutekintą kredencialą ir pranešti apie incidentą. Jei nežinote savo organizacijos patvirtintų įrankių sąrašo ir duomenų klasifikavimo taisyklių, pirmiausia turite juos išmokti.
Patarimas: Redagavimo priemonėje / CLI įrankyje apibrėžkite konkretaus projekto „ignoravimo“ sąrašą (pvz., .env, paslėptus aplankus, tapatybės failus), kad šie failai netyčia nebūtų įtraukti į asistento kontekstą. Prevencija visada pigesnė nei valymas.
Dažnos klaidos
- Skelbtini duomenys „tik vieną kartą“. Skuba nesustabdo raudonos linijos; Čia įvyksta dažniausiai nuotėkis.
- Galvoju „ištrinsiu pokalbį“. Kai duomenys išeina iš tinklo, atsiranda rizika; Ištrynus tai neatšaukiama.
- Renkantis transporto priemonę nežiūrint į jos klasę. Konfidencialių įmonės duomenų tvarkymas naudojant asmeninę paskyrą yra rimtas pažeidimas.
- Nenuskaitoma išvesties. AI gali į kodą įterpti nekintamą paslaptį; Taip pat patikrinkite produkciją slaptu skaitytuvu.
- Nepasukti, kai paslaptys nuteka. Neatšaukus nutekėjusio rakto, nutekėjimas paverčiamas tiesioginiu išnaudojimu.
Apibendrinant
Didžiausia AI rizika programinėje įrangoje yra privatumo nutekėjimas, o didžioji jos dalis kyla dėl kopijavimo ir įklijavimo sprendimo, priimto per prievartą. Taisyklė aiški: paslaptys, asmens duomenys, konfidencialus verslo turtas ir reguliuojami duomenys neįvedami į nepatvirtintus įrankius. Klasifikuokite duomenis prieš įvesdami, pasirinkite agentą pagal klasę, išskleiskite paslaptis, užmaskuokite AII arba naudokite sintetinius duomenis, sumažinkite kontekstą ir taip pat nuskaitykite paslapčių išvestį. Jei yra nuotėkis, pirmas dalykas: grąžinkite kredencialą ir praneškite apie tai.
Taikymo užduotis
Paimkite kodo / žurnalo / duomenų fragmentą, kurį neseniai suteikėte (arba ketinate suteikti) AI. Pirmiausia nustatykite slaptus ir AII kandidatus naudodami „maskavimo kontrolinio sąrašo“ šabloną. Tada, jei jame yra tikrų duomenų, sukurkite versiją, identišką „sintetinių bandymų duomenų generavimo“ šablonui, bet visiškai sukurtą, ir padarykite, kad problema būtų atkurta naudojant ją. Galiausiai susiraskite ir perskaitykite savo įstaigos patvirtintą įrankių sąrašą ir duomenų klasifikavimo politiką; Kitu atveju atkreipkite dėmesį į šį praleidimą.
kontrolinis sąrašas
- [ ] Prieš įvesdamas duomenis klasifikuoju (atviras/vidinis/konfidencialu/reglamentuojamas).
- [ ] Niekada neįvedu paslapčių, AII ir konfidencialaus verslo turto į nepatvirtintus įrankius.
- [ ] Kai įmanoma, vietoj tikrų duomenų naudoju maskuojančius arba sintetinius duomenis.
- [ ] Sumažinu kontekstą iki mažiausio pavyzdžio, kuriame nėra jautrių dalių.
- [ ] Aš nuskaitau dirbtinio intelekto išvestį, ieškant sunkiai palaidotos paslapties.
- [ ] Žinau, kad paslapčiai nutekėjus, nedelsiant grąžinsiu identifikavimo informaciją ir pranešiu apie įvykį.