Dobički:
- Sposobnost ovrednotenja informacij glede na razred občutljivosti (javno / interno / zaupno / strogo zaupno) in uporaba refleksa "vprašaj razred, ujemaj z orodjem"
- Razumevanje tveganj umetne inteligence glede shranjevanja podatkov, usposabljanja modelov, zbiranja in kršitev ter ohranjanje ločenega odprtega in tajnega sveta
- Sposobnost sprejemanja načela minimalnih podatkov, varstva osebnih podatkov in discipline varovanja negotovih informacij, kot da bi šlo za višji razred.
Diplomacija temelji na zaupanju, zaupanje pa na tajnosti. Pogajalsko stališče, obveščevalna ocena, vsebina pogovora s sogovornikom ali še nesporočena odločitev v napačnih rokah lahko ogrozi interese države, izid pogajanj ali celo varnost ljudi. Umetna inteligenca prinaša izjemno hitrost na tem področju, vendar prinaša tudi nova in resna tveganja za zasebnost. V tej enoti se boste naučili, kako varovati tajne in občutljive podatke v dobi umetne inteligence, kateri podatki lahko vstopajo v katero vozilo in disciplino varne uporabe.
Ta enota je najbolj kritična lekcija o varnosti modula. Ena napaka tukaj – lepljenje zaupnega dokumenta v napačno orodje – je nepopravljiva. Zato bo tu vzpostavljen refleks, ki si ga je treba zapomniti: preden daste kakršne koli podatke orodju AI, vedno vprašajte: v katerem razredu so ti podatki in ali je to orodje odobreno za ta razred?
Klasifikacija podatkov: osnovno razlikovanje
Diplomatske informacije so pogosto razvrščene glede na njihovo občutljivost. Čeprav se od institucije do institucije razlikuje, je osnovna logika naslednja:
- Netajni/javni: Podatki, ki so že objavljeni in so javno dostopni. Primer: uradna sporočila za javnost, javne novice.
- Omejeno/notranje: Interni podatki, ki niso javno dostopni, vendar so nizko občutljivi.
- Zaupno: Podatki, katerih razkritje bi lahko resno škodilo interesom države. Primer: pogajalsko izhodišče, notranja ocena.
- Strogo zaupno: Informacije, katerih razkritje bi povzročilo najhujšo škodo. Primer: občutljiva inteligenca, kritične varnostne informacije.
Osnovno pravilo je preprosto: Nobeni tajni podatki, ki niso javno dostopni, ne bodo vneseni v orodje AI, ki ga vaša ustanova ni odobrila za ta razred. Javna storitev AI po definiciji ni certificirana za ta razred informacij.
Nasvet: če niste prepričani, obravnavajte informacije kot starejši. Rek "to je verjetno že znano" je nevarno ugibanje. Dokler niste 100-odstotno prepričani, da so informacije javne, jih varujte, kot da bi bile zaupne. Nepotrebna previdnost ni strošek, je zagotovilo.
Tveganja zasebnosti AI
Orodja AI predstavljajo drugačna tveganja za zasebnost kot tradicionalna programska oprema:
1. Obdelava in shranjevanje podatkov: Besedilo, ki ga napišete javni storitvi AI, se lahko obdela in shrani na strežnikih te storitve. Ne morete nadzorovati, kdo dostopa do njega, kako dolgo se hrani in kako se uporablja.
2. Uporaba pri usposabljanju modela: Nekatere storitve lahko uporabijo podatke, ki jih vnesete, za izboljšanje modela. To ustvarja tveganje, da bodo vaši zaupni podatki posredno vstopili v "spomin" modela in ušli drugim.
3. Tveganje združevanja: deli informacij, ki se posamično zdijo neškodljivi, lahko v kombinaciji tvorijo občutljivo sliko. Majhni delci informacij, vneseni ob različnih časih, lahko skupaj razkrijejo skrivni položaj.
4. Tveganje dostopa in kršitve: Kot vsak zunanji sistem so lahko tudi storitve umetne inteligence predmet kršitve podatkov. Podatki, ki jih posredujete, so lahko izpostavljeni pri tej kršitvi.
Rešitev za ta tveganja je vzpostavitev dveh ločenih svetov: splošna orodja za odprtokodno delo; Samo interni, varni, odobreni sistemi, ki ne izvažajo podatkov za tajno delo. Nikoli ne mešajte obojega.
Pozor: reči "Naredil sem anonimno" pogosto ni dovolj. Tudi če izbrišete imena, lahko kontekst (datum, lokacija, dogodek, število zabav) zadostuje, da strokovnjak popravi identiteto in položaj. Prave občutljive informacije niso zaščitene z maskiranjem, temveč z ustrezno izbiro orodij in medijev.
Disciplina varne uporabe
Nastavite praktičen nadzorni tok:
- Določite razred. Ali so ti podatki javni, interni, zaupni ali strogo zaupni?
- Seznanite vozilo. Ali je mogoče ta razred obdelati v tem orodju? Če ne, prenehajte.
- Politika minimalnih podatkov. Tudi na delovnem mestu ne izdajajte več informacij, kot jih delo zahteva.
- Varujte osebne podatke. Osebni podatki (ime, kontakt, lokacija) se obdelujejo samo po potrebi in na zakoniti podlagi; Če je nepotrebno, se prikrije ali pa se sploh ne da.
- Vodite evidenco. Dokumentirajte, katero orodje ste uporabili za katero delo, s katerimi podatki; Če obstaja težava, jo je mogoče izslediti.
Nasvet: Vzpostavite kulturo »zasebnost na prvem mestu« v svoji ekipi: novi uradnik ali pripravnik bi se moral že od prvega dne naučiti refleksa »noben zaupni dokument ne pride v javno domeno«. Večina kršitev ne izhaja iz zlobe, temveč iz nevednosti, kako odprto je vozilo.
trije mini kovčki
Primer 1 — Refleksno preprečena kršitev. Strokovnjak je želel povzeti zapisek intervjuja, ko se je ustavil in vprašal za njegovo klasifikacijo: zapisek je bil zaupen pogovor s sogovornikom. Namesto javnega orodja prešli na interni varen sistem. Preprost refleks "najprej vprašaj razred" je preprečil kršitev.
Primer 2 – Prepoznano tveganje izterjave. Skupina bi vnašala majhne, na videz "neškodljive" informacije v zunanje orodje ob različnih dneh. Varnostni pregled je pokazal, da so ti deli, ko so združeni, razkrili dnevni red prihajajočih pogajanj. Aplikacija je bila ustavljena; Delo je bilo prestavljeno v varno okolje.
Primer 3 – Lažna anonimnost. Uradnik je imel dokument za "anonimnega", ker je izbrisal imena in ga predal zunanjemu agentu. Iz datuma, kraja in opisa dogodka v dokumentu pa je bilo jasno, na koga je mišljen. Brisanje imena ni bilo dovolj; Dokument bi moral biti vseeno obdelan v varnem okolju.
Štiri predloge za kopiranje
1) Predhodni pregled razreda in vozila:
Spodaj bom opisal delo. Povejte mi (ne opravljajte dela): (1) kakšen razred občutljivosti bi lahko imeli ti podatki (javno/interno/zaupno/strogo zaupno), (2) ali naj se ta razred obdeluje v javnem orodju AI, (3) če ne, kakšno okolje je potrebno. Opis delovnega mesta/podatkov: [tukaj]
2) Skeniranje in maskiranje osebnih podatkov:
V spodnjem besedilu navedite osebne/občutljive podatke (ime, naziv, kontakt, lokacija, zdravstveno stanje, ID številka), ki morajo biti zakriti pred obdelavo. OBDELAVA BESEDILA; Samo povejte mi, katera področja je treba odstraniti. Naredil bom masko in ponovno poslal. Besedilo: [tukaj]
3) Ocena tveganja zbiranja:
Razmišljam o tem, da bi naslednje informacije izvozil ločeno v zunanje orodje: [kosi]. Čeprav se ti posamezno morda zdijo neškodljivi, ali lahko v ZDRUŽENJU ustvarijo občutljivo sliko (npr. položaj, agenda, identiteta)? Ocenite tveganje zbiranja in povejte, katerih predmetov ne smete dati skupaj.
4) Potrditev javne dostopnosti:
Nisem prepričan, ali so naslednji podatki javni: [informacije]. Navedite, katero preverjanje moram opraviti, preden se šteje za javno (ali obstaja uradna objava, kdo jo je objavil, datum). Če nisem prepričan, me spomnite na načelo »obravnavaj kot zaupno«.
Šibek poziv/močan poziv
Šibek poziv:
Povzemite ta zapis intervjuja. (skrita vsebina se prilepi neposredno v opombo)
To je najnevarnejša napaka: zaupen dokument je prišel v javni medij, ne da bi bil vprašljiv njegov razred. Prišlo je do nevarnosti puščanja in je ni mogoče odpraviti.
Zmogljiv poziv (najprej preverite):
Želim obdelati zapisek s sestanka. Toda najprej: ta zapis je verjetno v tajnem razredu. Povejte mi, ali je to vrsto dokumentov mogoče obdelati v javnem orodju in kakšen je pravilen način? VSEBINE DOKUMENTA VAM NE IZDAM; Samo sprašujem za pravilen postopek.
Razlika je jasna: zaupna vsebina sploh ni podana, najprej se vpraša pravilen proces in delo se usmeri v ustrezno okolje.
Tabela preslikave razreda do vozila
informacijski razred
primer
Javni AI
pravo okolje
javnosti
sporočilo za javnost
primeren
splošno orodje
Interno/specifično za storitev
notranja nota
Običajno št
Interno odobreno
skrivnost
pogajalsko pozicijo
nikoli
Varen institucionalni sistem
strogo skrivnost
občutljiva inteligenca
nikoli
najvišja varnost
osebnih podatkov
poverilnice
Samo potrebno + zakonito
Zamaskiran/zavarovan
Pogoste napake
- Vnos podatkov brez povpraševanja po razredu. Pred vsako službo se pojavi refleks "v katerem razredu je to?" je nujno.
- Ob predpostavki, da je "verjetno očitno". Negotovi podatki so varovani kot zaupni.
- Izbris imena zamenjujte kot anonimizacijo. Kontekst lahko izda identiteto.
- Ignoriranje tveganja zbiranja. Majhni deli so lahko pri sestavljanju občutljivi.
- Mešanje dveh svetov. Odprta in razvrščena opravila se izvajajo v ločenih orodjih/okoljih.
Če povzamem
Tajnost je najbolj kritična meja diplomatske uporabe umetne inteligence. Vzemite klasifikacijo podatkov (javno/interno/zaupno/strogo zaupno), refleks "vprašaj razred, ujemaj vozilo", načelo minimalnih podatkov, varstvo osebnih podatkov in tveganje zbiranja kot hrbtenico te enote. Splošna orodja za odprtokodno delo; Za tajno delo uporabljajte samo interne varne, odobrene sisteme. Nikoli ne zamenjajte obeh; Ko ste v dvomih, varujte podatke kot starejši.
Aplikacijska naloga
Naštejte 8 različnih podatkov s svoje (ali namišljene) mize (nekatere javne, nekatere občutljive). Vsakega postavite v razred in se odločite, "v katerem orodju se lahko obdeluje". Dvoumne ocenite s predlogo "Preverjanje razreda in vozila". Izberite tri dele in preverite, ali tvorijo občutljivo sliko v kombinaciji z »oceno tveganja zbiranja«.
kontrolni seznam
- [ ] Za vsak podatek sem najprej določil razred občutljivosti.
- Nikoli nisem vnesel podatkov, katerih razred [ ] ni primeren za javno vozilo.
- [ ] Informacije, o katerih nisem bil prepričan, sem varoval kot nadrejeni.
- [ ] Osebne podatke obdelujem le, kadar je to potrebno in zakonito, prikrito.
- [ ] Tvegal sem zbiranje in ločevanje dveh svetov.