Hagnaður:
- Geta til að flokka gögn sem innihalda leyndarmál, persónuleg gögn og trúnaðarupplýsingar um viðskipti og þekkja rauðar línur
- Gríma, nafnleysa og tryggja með tilbúnum gögnum áður en gögn eru færð inn
- Samþykkt verkfæraval, lágmörkun samhengis og getu til að beita snúningsviðbragði lykla ef leki er
Allt sem þú límir inn í kóðunaraðstoðarmann er hugsanlega óviðráðanlegt. API lykill, gagnagrunnur viðskiptavina, séreignarkóði sem enn á eftir að tilkynna eða sjúklingaskrá - þetta getur orðið að óafturkræfum leka þegar þeir komast inn í ósamþykkt verkfæri. Stærsta áhættan af gervigreind fyrir hugbúnaðarteymi stafar ekki af línuvillu, heldur kærulausu copy-paste. Þessi eining snýst um að gera þetta copy-paste öruggt.
Hér greinum við á þrennt: hvaða gögn ætti aldrei að slá inn, hvaða verkfæri er hægt að nota með hvaða verndarráðstöfunum og hvernig á að tryggja gögnin áður en þau eru færð inn (gríma, tilbúið gögn, vinna á staðnum). Þetta er ekki valfrjálst "það væri gaman"; Það er samningsbundin og lagaleg skylda í flestum stofnunum.
Af hverju er það svo gagnrýnivert?
Gögn sem þú sendir til gervigreindartækis; unnið á netþjónum þjónustuveitunnar, stundum geymt í nokkurn tíma, er hægt að nota til að bæta líkanið í sumum vörustillingum. Það er oft ekki nóg að segja „ég eyddi spjallinu“; Um leið og gögn yfirgefa netið myndast áhætta. Þar að auki er kostnaður við leka hár: Lekinn skýjalykill getur verið misnotaður innan nokkurra mínútna, leki viðskiptavinagagna getur leitt til tilkynningar og viðurlaga samkvæmt reglugerðum eins og KVKK/GDPR, og lekinn einkakóði getur eyðilagt samkeppnisforskot.
Þumalputtareglan er því einföld: Ekki setja neitt inn í ósamþykkt farartæki sem þú hefur ekki efni á að missa. Ef þú ert í vafa skaltu ekki fara inn.
Varúð: Hugarfarið „bara einu sinni, fljótt“ er algengasta orsök leka. Það að líma framleiðsluskrá eða stillingarskrá eins og hún er þegar brýn galla er leyst er nákvæmlega það sem gerist við slíkar ákvarðanir sem teknar eru undir þrýstingi. Brýnt frestar ekki reglunni um þagnarskyldu.
Hvað ætti aldrei að slá inn (rauð lína)
- Leyndarmál: API lyklar, lykilorð, skýaðgangslyklar, einkavottorð, tákn, tengistrengir.
- Persónuupplýsingar (PII): Nafn-eftirnafn, TR kennitala, tölvupóstur, sími, heimilisfang, heilsu-/fjárhagsskrár, gögn viðskiptavina.
- Trúnaðarmál viðskiptaeignir: Ótilgreindur frumkóði, séralgrím, leyndarmál innri arkitektúr, upplýsingar um samning.
- Skipulögð gögn: Sérstakir verndaðir flokkar eins og heilsugæsla, greiðslukort (PCI), persónuleg fjármál.
Skref fyrir skref: Öruggt notkunarflæði
- Flokkaðu gögnin. Hvaða flokk er það sem þú hefur - opinbert, innra, trúnaðarmál, eftirlit?
- Veldu ökutæki eftir flokkum. Trúnaðarmál/eftirlitsskyld gögn eru aðeins unnin í stofnanaviðurkenndum verkfærum sem veita gagnatryggingu (ekki notuð í menntun, varðveislutakmarkanir, svæðisbundin vinnsla).
- Tryggið áður en farið er inn. Fjarlægðu leyndarmál, grímu/nafngreindu PII, notaðu tilbúið (tilbúið en raunhæft) gögn í stað raunverulegs ef mögulegt er.
- Lágmarka samhengi. Minnkaðu vandamálið þitt í minnsta endurskapanlega dæmið sem inniheldur ekki viðkvæma hluta.
- Athugaðu einnig úttakið. Gakktu úr skugga um að það sé ekkert harðkóða leyndarmál eða leifar af gögnum þínum í kóðanum sem AI býr til.
Þrjú Mini Cass
Tilfelli 1 — Hætt var við límda lykilinn. Hönnuður límdi alla stillingarskrána inn í gervigreindina á meðan hann lagaði villu; Skráin innihélt lifandi API lykil frá þriðja aðila. Þegar liðið tók eftir því, hætti það strax (snúið) lyklinum og framleiddi nýjan; Það var engin misnotkun, en þetta var „ódýrt“ atvik. Lærdómur: Fjarlægðu glerunginn áður en þú límir — og snúðu lyklinum strax ef hann hefur lekið.
Tilfelli 2 - Tilbúin gögn björguðu fyrirtækinu. Teymi var að upplifa þáttunarvillu með raunverulegum viðskiptamannafærslum. Í stað þess að slá inn raunveruleg gögn framleiddu þeir 20 línur af gervigögnum með sömu uppbyggingu en algjörlega fölsuð, endurgerðu villuna með þeim og leystu hana með gervigreind. Hvorki PII leki né greiningin hægði á; tilbúin gögn voru bæði örugg og nægjanleg.
Mál 3 — Falið leyndarmál á útprentun. Þegar sýnishorn var búið til, setti gervigreindin raunhæfan „sýnishorn“ lykil inn í hana og kom honum inn í kóðann án þess að verktaki tæki eftir því; Kóðagrunnskönnunin (leyniskanni) náði þessu og varaði við. Hið óbreytanlega leyndarmál hefði aldrei átt að komast inn í kóðann; Rétta leiðin var að nota umhverfisbreytu eða leyndarmálastjóra. Lexía: skannaðu úttakið fyrir leyndarmál líka.
Fjögur afritanleg sniðmát
Gátlisti fyrir grímu áður en farið er inn (sjálfur):
Áður en þú gefur þennan texta til gervigreindar, vertu viss um að ég fjarlægi eftirfarandi og skipti út því sem þú finnur fyrir [MASKED]: API lykil, lykilorð, tákn, tengistreng, nafn-eftirnafn, netfang, síma, kennitölu, gögn viðskiptavina. Texti:{{text}}
Framleiðsla á tilbúnum prófunargögnum:
Búðu til ALVEG tilbúið (ótengt raunverulegum einstaklingi/stofnun) {{N}}röð prófunargögn í samræmi við kerfið hér að neðan. Láttu það líta raunhæft út, en notaðu ekki raunverulegan PII. Skema: {{reitir og gerðir}}Innheldur kantfall (tómt, mörk, slæmt snið).
Fast leynileit (í kóða):
Leitaðu að harðkóðaðu leyndarmáli í þessum kóða/stillingar: lykill, lykilorð, tákn, sérsniðin vefslóð. Ef þú finnur það, tilgreindu staðsetningu þess og stingdu upp á réttri aðferð (umhverfisbreyta / leynistjóri). Kóði:{{kóði}}
Samræmismat ökutækis (eftir gagnaflokkum):
Ég er með eftirfarandi tegund gagna: {{class: public / internal / confidential / controlled}}. Tólið sem ég ætla að nota er: {{tool}}. Hvaða öryggisráðstafanir (geymsla, ekki notkun í menntun, svæði, aðgangur) ætti ég að staðfesta áður en ég vinn úr þessum gögnum í þessu tóli? Gefðu gátlista. Ákvörðunin er mín; Þú skýrir viðmiðin.
Veik kvaðning / Sterk kvaðning
Veik: (Límir 200 raunverulegar notendalínur sem dregnar eru úr framleiðslugagnagrunninum) "Af hverju er þáttunarvilla í þessum gögnum?"
Sterkt: "Hér að neðan eru 15 línur með sömu uppbyggingu og raunveruleg gögn en algjörlega tilbúið (engin PII). parse_user() kastar ValueError á 3, 8 og 12 af þessum línum. Hvað gæti verið algengt mynstur, hvernig laga ég það?"
Sterka útgáfan inniheldur engin raunveruleg persónuleg gögn á meðan hún varðveitir uppbygginguna sem þarf til að endurskapa villuna. Greiningin er sú sama, áhættan er endurstillt.
Gagnaflokkur
Er hægt að vinna úr því í gervigreind?
Forsenda
almennings
Já
—
Innri notkun (ekki nákvæm)
Almennt
Farið eftir stefnu fyrirtækja
Trúnaðarmál (frumkóði, viðskiptaleyndarmál)
Aðeins samþykkt ökutæki
Fyrirtækjatrygging + lágmörkun
PII / stjórnað
Að jafnaði nr
Gríma/nafnleysa eða nota gerviefni
Fylgni stefnu og rekja
Örugg notkun er meira en bara persónuleg venja, það er fyrirtækiskerfi: hvaða verkfæri eru samþykkt, hvaða gagnaflokkur getur farið hvert og hvað á að gera ef um brot er að ræða ætti að vera skilgreint í skriflegri stefnu. Ef leyndarmál er lekið er mikilvægasta fyrsta skrefið ekki að örvænta, heldur að afturkalla strax (hætta við og búa til nýtt) skilríkjunum sem lekið var og tilkynna um atvikið. Ef þú þekkir ekki lista fyrirtækisins þíns yfir samþykkt verkfæri og gagnaflokkunarreglur er fyrsta verkefni þitt að læra þau.
Ábending: Skilgreindu verkefnissértækan „hunsa“ lista (t.d. .env, faldar möppur, auðkennisskrár) í Editor/CLI tólinu þínu svo að þessar skrár séu ekki óvart teknar með í samhengi aðstoðarmannsins. Forvarnir eru alltaf ódýrari en hreinsun.
Algeng mistök
- Límdu viðkvæm gögn „bara einu sinni“. Brýnt frestar ekki rauðu línunni; Algengasti lekinn á sér stað hér.
- Hugsa "ég mun eyða samtalinu". Um leið og gögn yfirgefa netið myndast áhætta; Eyðing gerir það ekki afturkallað.
- Að velja bílinn án þess að skoða flokkinn. Að vinna trúnaðarupplýsingar fyrirtækja með persónulegum reikningi er alvarlegt brot.
- Ekki skanna úttakið. AI getur fellt óbreytanlegt leyndarmál inn í kóða; Skoðaðu líka framleiðsluna með leyniskannanum.
- Ekki snúa því þegar leyndarmálið lekur. Að afturkalla ekki lykilinn sem leki breytir lekanum í lifandi hetjudáð.
Í stuttu máli
Stærsta áhættan af gervigreind í hugbúnaði er leki á persónuvernd og mest af honum stafar af afrita-líma ákvörðun sem tekin er með nauðung. Reglan er skýr: leyndarmál, persónuupplýsingar, trúnaðarmál fyrirtækja og eftirlitsskyld gögn eru ekki færð inn í ósamþykkt verkfæri. Flokkaðu gögn fyrir inntak, veldu umboðsmann eftir flokki, dragðu út leyndarmál, hyldu PII eða notaðu tilbúin gögn, lágmarkaðu samhengi og skannaðu líka úttak fyrir leyndarmál. Ef það er leki, fyrst: skilaðu skilríkjunum og tilkynntu það.
Umsóknarverkefni
Taktu kóða/logga/gögn sem þú hefur nýlega gefið (eða ert að íhuga að gefa) til gervigreindar. Í fyrsta lagi skaltu auðkenna leynilega og PII umsækjendur innan með „masking gátlista“ sniðmátinu. Síðan, ef það inniheldur raunveruleg gögn, skaltu búa til útgáfu sem er eins og sniðmátið fyrir „gerviprófunargagnagerð“ en algjörlega tilbúið og gera vandamálið þitt endurgeranlegt með því. Að lokum skaltu finna og lesa samþykktan verkfæralista og gagnaflokkunarstefnu stofnunarinnar þinnar; Annars skaltu athuga þessa aðgerðaleysi.
gátlisti
- [ ] Ég flokka gögn áður en ég fer inn í þau (opin/innri/trúnaðarmál/háð reglugerð).
- [ ] Ég set aldrei leyndarmál, persónuupplýsingar og trúnaðarupplýsingar um viðskipti í ósamþykkt verkfæri.
- [ ] Ég nota grímu eða tilbúið gögn þegar mögulegt er í stað raunverulegra gagna.
- [ ] Ég minnka samhengið í minnsta dæmið sem inniheldur ekki viðkvæma hluta.
- [ ] Ég skanna gervigreindarúttakið fyrir harðgrafið leyndarmál.
- [ ] Ég veit að ef leyndarmálinu er lekið mun ég strax skila auðkennisupplýsingunum og tilkynna atvikið.