Dobici:
- Sposobnost procjene informacija prema klasi osjetljivosti (javno / interno / povjerljivo / strogo povjerljivo) i primjene refleksa 'pitaj klasu, odgovaraj alatu'
- Razumijevanje skladištenja podataka, obučavanja modela, prikupljanja i rizika od AI-a i odvajanje otvorenog i povjerljivog svijeta
- Sposobnost usvajanja principa minimuma podataka, zaštite ličnih podataka i discipline zaštite nesigurnih informacija kao da se radi o višoj klasi.
Diplomatija se zasniva na povjerenju, a povjerenje na tajnosti. Pregovaračka pozicija, obavještajna procjena, sadržaj razgovora sa sagovornikom ili odluka koja se tek treba objaviti u pogrešnim rukama mogu ugroziti interese države, ishod pregovora, pa čak i sigurnost ljudi. Umjetna inteligencija donosi ogromnu brzinu ovom polju, ali nosi i nove i ozbiljne rizike privatnosti. U ovoj cjelini naučit ćete kako zaštititi povjerljive i osjetljive informacije u doba umjetne inteligencije, koje podatke možete unijeti u koje vozilo i disciplinu bezbedne upotrebe.
Ova jedinica je najkritičnija sigurnosna lekcija modula. Jedna greška ovdje — lijepljenje povjerljivog dokumenta u pogrešan alat — je nepovratna. Stoga će se ovdje uspostaviti refleks koji treba zapamtiti: Prije davanja bilo kakvih podataka AI alatu, uvijek pitajte: u kojoj klasi su ti podaci i da li je ovaj alat odobren za ovu klasu?
Klasifikacija informacija: osnovna razlika
Diplomatske informacije se često klasifikuju prema njihovoj osjetljivosti. Iako se razlikuje od institucije do institucije, osnovna logika je sljedeća:
- Nepovjerljivo/javno: Informacije koje su već objavljene i javno dostupne. Primjer: službena saopštenja za javnost, javne vijesti.
- Ograničeno/interno: Interne informacije koje nisu javno dostupne, ali imaju nisku osjetljivost.
- Povjerljivo: Informacije čije bi otkrivanje moglo ozbiljno štetiti interesima države. Primjer: pregovaračka pozicija, interna evaluacija.
- Strogo povjerljivo: Informacije čije bi otkrivanje izazvalo najtežu štetu. Primjer: osjetljive obavještajne podatke, kritične sigurnosne informacije.
Osnovno pravilo je jednostavno: nikakva povjerljiva informacija koja nije javno dostupna neće biti unesena u AI alat koji vaša institucija nije odobrila za tu klasu. Javni AI servis, po definiciji, nije certificiran za ovu klasu informacija.
Savjet: Ako niste sigurni, tretirajte informacije kao stariji. Reći "ovo je vjerovatno već poznato" opasna je pretpostavka. Dok niste 100 posto sigurni da su informacije javne, zaštitite ih kao da su povjerljive. Nepotreban oprez nije trošak, to je garancija.
Rizici privatnosti AI
AI alati predstavljaju različite rizike privatnosti od tradicionalnog softvera:
1. Obrada i skladištenje podataka: Tekst koji napišete javnoj AI usluzi može se obraditi i pohraniti na serverima te usluge. Ne možete kontrolisati ko mu pristupa, koliko dugo se čuva i kako se koristi.
2. Upotreba u obuci modela: Neke usluge mogu koristiti podatke koje unesete za poboljšanje modela. Ovo stvara rizik da će vaše povjerljive informacije indirektno ući u "pamćenje" modela i procuriti drugima.
3. Rizik agregacije: Komadi informacija koji se pojedinačno čine bezopasnim mogu formirati osjetljivu sliku kada se kombinuju. Male informacije unesene u različito vrijeme mogu zajedno odati tajnu poziciju.
4. Rizik pristupa i kršenja: Kao i svaki eksterni sistem, usluge veštačke inteligencije mogu biti predmet povrede podataka. Podaci koje date mogu biti izloženi tom kršenju.
Rešenje za ove rizike je uspostavljanje dva odvojena sveta: opšti alati za rad otvorenog koda; Samo interni, sigurni, odobreni sistemi koji ne izvoze podatke za povjerljivi rad. Nikada nemojte miješati to dvoje.
Pažnja: Reći "Ja sam to učinio anonimnim" često nije dovoljno. Čak i ako izbrišete imena, kontekst (datum, lokacija, događaj, broj stranaka) može biti dovoljan da stručnjak rediguje identitete i poziciju. Prave osjetljive informacije nisu zaštićene maskiranjem, već odgovarajućim odabirom alata i medija.
Disciplina bezbedne upotrebe
Postavite praktični tok kontrole:
- Odredite klasu. Jesu li ovi podaci javni, interni, povjerljivi ili strogo povjerljivi?
- Uparite vozilo. Može li se ova klasa obraditi u ovom alatu? Ako ne, prestani.
- Politika minimalnih podataka. Čak i na poslu koji radi, nemojte davati više informacija nego što posao zahtijeva.
- Zaštitite lične podatke. Lični podaci (ime, kontakt, lokacija) obrađuju se samo po potrebi i na zakonskoj osnovi; Ako nije potrebno, maskira se ili se uopće ne daje.
- Čuvajte zapisnik. Dokumentirajte koji ste alat koristili za koji posao, s kojim podacima; Ako postoji problem, može se ući u trag.
Savjet: Uspostavite kulturu "privatnost na prvom mjestu" u svom timu: novi službenik ili pripravnik bi trebao naučiti refleks "povjerljivi dokumenti ne ulaze u javno vlasništvo" od prvog dana. Većina kršenja ne proizlazi iz zlonamjernosti, već iz neznanja koliko je vozilo otvoreno.
tri mini kofera
Slučaj 1 — Refleks sprečio kršenje. Vještak je htio rezimirati bilješku intervjua kada je stao i upitao njenu klasifikaciju: bilješka je bila povjerljivi razgovor sa sagovornikom. Prebačen na interni siguran sistem umjesto javnog alata. Jednostavan refleks "prvo pitaj razred" spriječio je kršenje.
Slučaj 2 — Priznat rizik naplate. Tim bi unosio male, naizgled "bezazlene" informacije u eksterni alat u različite dane. Sigurnosni pregled je pokazao da, kada se spoje, ovi dijelovi odaju dnevni red predstojećih pregovora. Aplikacija je zaustavljena; Rad je premješten u sigurno okruženje.
Slučaj 3 — Lažna anonimnost. Službenik je dokument smatrao "anonimnim" jer je izbrisao imena i predao ga vanjskom agentu. Međutim, datum, mjesto i opis događaja u dokumentu jasno su pokazali na koga se misli. Brisanje imena nije bilo dovoljno; Dokument je ionako trebao biti obrađen u sigurnom okruženju.
Četiri šablona za kopiranje
1) Prethodna provjera klase i vozila:
U nastavku ću opisati rad. Recite mi (nemojte raditi posao): (1) koju klasu osjetljivosti mogu imati ovi podaci (javni / interni / tajni / strogo povjerljivi), (2) treba li ova klasa biti obrađena u javnom AI alatu, (3) ako ne, koja vrsta okruženja je potrebna. Opis posla/podataka: [ovdje]
2) Skeniranje i maskiranje ličnih podataka:
Navedite lične/osjetljive podatke (ime, titula, kontakt, lokacija, zdravlje, matični broj) koji moraju biti maskirani prije obrade u tekstu ispod. OBRADA TEKSTA; Samo mi reci koja područja treba ukloniti. Uradiću maskiranje i ponovo poslati. Tekst: [ovdje]
3) Procjena rizika naplate:
Razmišljam o izvozu sljedećih informacija zasebno u vanjski alat: [komadi]. Iako se to može činiti bezopasnim pojedinačno, kada se KOMBINIRAJU, mogu li stvoriti osjetljivu sliku (npr. pozicija, dnevni red, identitet)? Procijenite rizik prikupljanja i recite koje artikle ne treba davati zajedno.
4) Potvrda o dostupnosti javnosti:
Nisam siguran da li su sljedeće informacije javne: [informacije]. Navedite koju provjeru moram učiniti prije nego što se smatra javnim (da li postoji službeno saopštenje, ko ga je objavio, datum). Ako nisam siguran, podsjeti me na princip "tretirati kao povjerljivo".
Slaba prompt / Jaka prompt
Slab upit:
Sažmite ovu bilješku intervjua. (skriveni sadržaj je zalijepljen direktno u bilješku)
Ovo je najopasnija greška: povjerljivi dokument je ušao u javni medij, a da njegova klasa nije dovedena u pitanje. Rizik od curenja se dogodio i ne može se poništiti.
Snažan upit (prvo provjeri):
Želim obraditi bilješku sa sastanka. Ali prvo: ova poruka je vjerovatno u tajnoj klasi. Recite mi da li se ova vrsta dokumenta može obraditi u javnom alatu i koji je ispravan način? NE DAJEM VAM SADRŽAJ DOKUMENTA; Samo tražim ispravan proces.
Razlika je jasna: povjerljivi sadržaj se uopće ne daje, prvo se traži ispravan proces i rad se usmjerava u odgovarajuće okruženje.
Tablica mapiranja klasa-vozila
informatička klasa
primjer
Public AI
pravo okruženje
javnosti
saopštenje za javnost
pogodan
opšti alat
Interno/specifično za uslugu
unutrašnja nota
Obično ne
Odobreno u kući
tajna
pregovaračka pozicija
nikad
Siguran sistem institucija
stroga tajna
osetljiva inteligencija
nikad
najveća sigurnost
lične podatke
vjerodajnice
Neophodno+samo legalno
Maskiran/obezbeđen
Uobičajene greške
- Unošenje podataka bez traženja klase. Prije svakog posla refleks "u kojoj je ovo klasi?" je obavezno.
- Pod pretpostavkom da je "vjerovatno očigledno". Nesigurne informacije su zaštićene kao povjerljive.
- Pogreška brisanje imena kao anonimizacija. Kontekst može odavati identitete.
- Zanemarivanje rizika naplate. Mali dijelovi mogu biti osjetljivi kada se sklope.
- Mešanje dva sveta. Otvoreni i klasificirani poslovi rade u odvojenim alatima/okruženjima.
Ukratko
Tajnost je najkritičnija granica diplomatske upotrebe umjetne inteligencije. Uzmite klasifikaciju informacija (javno/interno/povjerljivo/strogo povjerljivo), refleks „pitajte klasu, uskladite vozilo“, princip minimalnih podataka, zaštitu ličnih podataka i rizik prikupljanja kao okosnicu ove jedinice. Opći alati za rad otvorenog koda; Koristite samo bezbedne, odobrene sisteme u kući za poverljiv rad. Nikada nemojte miješati to dvoje; Kada ste u nedoumici, čuvajte informacije kao stariji.
Zadatak aplikacije
Navedite 8 različitih podataka sa vašeg vlastitog (ili imaginarnog) stola (neki javni, neki osjetljivi). Stavite svaki u klasu i odlučite "u kojem alatu se može obraditi". Ocijenite dvosmislene pomoću šablona "Prethodna provjera klase i vozila". Odaberite tri komada i ispitajte da li stvaraju osjetljivu sliku u kombinaciji s „procjenom rizika naplate“.
kontrolna lista
- [ ] Prvo sam odredio klasu osjetljivosti za svaki podatak.
- Nikada nisam unosio podatke čija klasa [ ] nije prikladna za javno vozilo.
- [ ] Čuvao sam informacije u koje nisam bio siguran kao nadređeni.
- [ ] Lične podatke obrađujem samo kada je potrebno i zakonito, maskiran.
- [ ] Preuzeo sam rizik sakupljanja i razdvajanja dva svijeta.