Dobici:
- Sposobnost evaluacije informacija prema klasi osjetljivosti (javno / interno / povjerljivo / strogo povjerljivo) i primijeniti refleks "pitaj klasu, spoji alat"
- Razumijevanje pohranjivanja podataka, obučavanje modela, prikupljanje i rizike kršenja AI i držanje otvorenog i povjerljivog svijeta odvojenim
- Sposobnost usvajanja načela minimuma podataka, zaštite osobnih podataka i discipline zaštite nesigurnih informacija kao da su više klase.
Diplomacija se temelji na povjerenju, a povjerenje na tajnosti. Pregovaračka pozicija, obavještajna procjena, sadržaj razgovora sa sugovornikom ili još neobjavljena odluka, u pogrešnim rukama, može ugroziti interese države, ishod pregovora, pa čak i sigurnost ljudi. Umjetna inteligencija donosi ogromnu brzinu u ovo područje, ali također nosi nove i ozbiljne rizike privatnosti. U ovoj cjelini naučit ćete kako zaštititi klasificirane i osjetljive podatke u doba umjetne inteligencije, koji podaci mogu ući u koje vozilo te disciplinu sigurne uporabe.
Ova jedinica je najkritičnija lekcija o sigurnosti u modulu. Jedna pogreška ovdje - lijepljenje povjerljivog dokumenta u krivi alat - je nepovratna. Stoga će se ovdje uspostaviti refleks koji treba zapamtiti: Prije davanja bilo kakvih podataka AI alatu, uvijek pitajte: u kojoj su klasi ti podaci i je li ovaj alat odobren za tu klasu?
Klasifikacija informacija: osnovna razlika
Diplomatske informacije često se klasificiraju prema njihovoj osjetljivosti. Iako se razlikuje od institucije do institucije, osnovna logika je sljedeća:
- Neklasificirano/javno: Podaci koji su već objavljeni i javno dostupni. Primjer: službena priopćenja za javnost, javne vijesti.
- Ograničeno/interno: Interni podaci koji nisu javno dostupni, ali su niske osjetljivosti.
- Povjerljivo: Informacije čije bi otkrivanje moglo ozbiljno naštetiti interesima države. Primjer: pregovaračka pozicija, interna evaluacija.
- Strogo povjerljivi: Podaci čije bi otkrivanje uzrokovalo najtežu štetu. Primjer: osjetljiva inteligencija, kritične sigurnosne informacije.
Pravilo je jednostavno: Nikakvi klasificirani podaci koji nisu javno dostupni neće biti uneseni u AI alat koji vaša institucija nije odobrila za tu klasu. Javna usluga umjetne inteligencije po definiciji nije certificirana za ovu vrstu informacija.
Savjet: ako niste sigurni, tretirajte informacije kao starije osobe. Reći "ovo je vjerojatno već poznato" opasna je pretpostavka. Dok ne budete 100 posto sigurni da su informacije javne, zaštitite ih kao da su povjerljive. Nepotreban oprez nije trošak, to je osiguranje.
Rizici privatnosti AI-ja
AI alati predstavljaju različite rizike za privatnost od tradicionalnog softvera:
1. Obrada i pohrana podataka: Tekst koji napišete javnoj AI usluzi može se obraditi i pohraniti na poslužiteljima te usluge. Ne možete kontrolirati tko mu pristupa, koliko se dugo čuva i kako se koristi.
2. Upotreba u obuci modela: Neke usluge mogu koristiti podatke koje unesete za poboljšanje modela. To stvara rizik da će vaši povjerljivi podaci neizravno ući u "memoriju" modela i procuriti drugima.
3. Rizik agregacije: Dijelovi informacija koji se pojedinačno čine bezopasnima mogu stvoriti osjetljivu sliku kada se kombiniraju. Mali dijelovi informacija uneseni u različito vrijeme mogu zajednički odati tajnu poziciju.
4. Rizik pristupa i povrede: Kao i svaki vanjski sustav, AI usluge mogu biti podložne povredi podataka. Podaci koje navedete mogu biti izloženi tom povredom.
Rješenje za ove rizike je uspostaviti dva odvojena svijeta: opći alati za rad s otvorenim kodom; Samo interni, sigurni, odobreni sustavi koji ne izvoze podatke za klasificirani rad. Nikada nemojte miješati to dvoje.
Pažnja: reći "Učinio sam to anonimnim" često nije dovoljno. Čak i ako izbrišete imena, kontekst (datum, mjesto, događaj, broj zabava) može biti dovoljan da stručnjak redigira identitete i položaj. Prave osjetljive informacije nisu zaštićene maskiranjem, već odgovarajućim odabirom alata i medija.
Disciplina sigurnog korištenja
Postavite praktični tijek upravljanja:
- Odredite klasu. Jesu li ti podaci javni, interni, povjerljivi ili strogo povjerljivi?
- Uparite vozilo. Može li se ova klasa obraditi u ovom alatu? Ako ne, prestanite.
- Politika minimalnih podataka. Čak i na radnom poslu, nemojte davati više informacija nego što posao zahtijeva.
- Zaštitite osobne podatke. Osobni podaci (ime, kontakt, lokacija) obrađuju se samo ako je potrebno i na zakonskoj osnovi; Ako je nepotrebno, maskira se ili se uopće ne daje.
- Vodite evidenciju. Dokumentirajte koji ste alat koristili za koji posao, s kojim podacima; Ako postoji problem, može mu se ući u trag.
Savjet: Uspostavite kulturu "privatnost na prvom mjestu" u svom timu: novi službenik ili pripravnik trebao bi naučiti refleks "nikakvi povjerljivi dokumenti ne ulaze u javnu domenu" od prvog dana. Većina prekršaja ne proizlazi iz zlobe, već zato što ne znaju koliko je vozilo otvoreno.
tri mini kućišta
Slučaj 1 — Kršenje spriječeno refleksom. Stručnjak je upravo htio sažeti zabilješku s intervjua kad je zastao i upitao za njegovu klasifikaciju: bilješka je bila povjerljiv razgovor sa sugovornikom. Prešao na interni sigurni sustav umjesto javnog alata. Jednostavan refleks "najprije pitaj razred" spriječio je proboj.
Slučaj 2 — Prepoznat rizik naplate. Tim bi unosio male, naizgled "bezazlene" informacije u vanjski alat različitim danima. Sigurnosna provjera pokazala je da kada se spoje, ovi dijelovi odaju dnevni red nadolazećih pregovora. Aplikacija je zaustavljena; Rad je premješten u sigurno okruženje.
Slučaj 3 — lažna anonimnost. Službenik je dokument smatrao "anonimnim" jer je izbrisao imena i predao ga vanjskom agentu. No, iz datuma, mjesta i opisa događaja u dokumentu bilo je jasno na koga se misli. Brisanje imena nije bilo dovoljno; Dokument je ionako trebao biti obrađen u sigurnom okruženju.
Četiri predloška za kopiranje
1) Prethodna provjera klase i vozila:
U nastavku ću opisati rad. Recite mi (ne radite posao): (1) koju klasu osjetljivosti mogu imati ovi podaci (javno / interno / tajno / strogo povjerljivo), (2) treba li se ova klasa obrađivati u javnom AI alatu, (3) ako ne, koja je vrsta okruženja potrebna. Opis posla/podaci: [ovdje]
2) Skeniranje i maskiranje osobnih podataka:
U nastavku teksta navedite osobne/osjetljive podatke (ime, titula, kontakt, lokacija, zdravstveno stanje, ID broj) koji se moraju maskirati prije obrade. OBRADA TEKSTA; Samo mi reci koja područja treba ukloniti. Ja ću maskirati i poslati ponovo. Tekst: [ovdje]
3) Procjena rizika prikupljanja:
Razmišljam o odvojenom izvozu sljedećih informacija u vanjski alat: [komada]. Iako se pojedinačno mogu činiti bezopasnima, mogu li u KOMBINIRANJU stvoriti osjetljivu sliku (npr. položaj, program, identitet)? Procijenite rizik skupljanja i recite koji se predmeti ne smiju davati zajedno.
4) Potvrda javne dostupnosti:
Nisam siguran jesu li sljedeće informacije javne: [informacije]. Navedite koju provjeru trebam učiniti prije nego što se to smatra javnim (postoji li službeno izdanje, tko ga je objavio, datum). Ako nisam siguran, podsjetite me na načelo "tretirajte povjerljivo".
Slab upit / Jak upit
Slab upit:
Sažmite ovaj intervju. (skriveni sadržaj zalijepljen je izravno u bilješku)
Ovo je najopasnija pogreška: povjerljivi dokument ušao je u javni medij, a da njegova klasa nije dovedena u pitanje. Dogodio se rizik od curenja i ne može se poništiti.
Snažan upit (prvo provjerite):
Želim obraditi bilješku sa sastanka. Ali prvo: ova bilješka je vjerojatno u tajnom razredu. Recite mi može li se ova vrsta dokumenta obraditi u javnom alatu i koji je ispravan način? SADRŽAJ DOKUMENTA VAM NE DAJEM; Samo tražim ispravan postupak.
Razlika je jasna: povjerljivi sadržaj se uopće ne daje, prvo se traži točan proces i rad se usmjerava u odgovarajuće okruženje.
Tablica za mapiranje klase i vozila
razred informacija
primjer
Javni AI
pravo okruženje
javni
priopćenje za javnost
prikladan
opći alat
Interno/specifično za uslugu
unutarnja nota
Obično ne
Interno odobreno
tajna
pregovaračka pozicija
nikada
Sustav sigurnih institucija
vrhunska tajna
osjetljiva inteligencija
nikada
najveća sigurnost
osobni podaci
vjerodajnice
Samo neophodno + legalno
Maskiran/osiguran
Uobičajene greške
- Unos podataka bez traženja klase. Prije svakog posla refleks "u kojem je ovo razredu?" je obavezna.
- Pod pretpostavkom da je "vjerojatno očito". Nesigurni podaci zaštićeni su kao povjerljivi.
- Zamjena brisanja imena kao anonimizacije. Kontekst može odati identitete.
- Ignoriranje rizika naplate. Mali dijelovi mogu biti osjetljivi kada se sastave.
- Miješanje dva svijeta. Otvoreni i klasificirani poslovi izvode se u zasebnim alatima/okruženjima.
Ukratko
Tajnovitost je najkritičnija granica diplomatske upotrebe umjetne inteligencije. Uzmite klasifikaciju informacija (javno/interno/povjerljivo/strogo povjerljivo), refleks "pitaj klasu, uskladi vozilo", načelo minimalnih podataka, zaštitu osobnih podataka i rizik prikupljanja kao okosnicu ove jedinice. Opći alati za rad s otvorenim kodom; Koristite samo interne sigurne, odobrene sustave za povjerljive poslove. Nikada ne brkajte to dvoje; Kada ste u nedoumici, čuvajte informacije kao stariji.
Zadatak aplikacije
Navedite 8 različitih podataka s vlastitog (ili imaginarnog) stola (neki javni, neki osjetljivi). Svaku stavite u klasu i odlučite "u kojem se alatu može obraditi". Ocijenite dvosmislene s predloškom "Prethodna provjera klase i vozila". Odaberite tri dijela i provjerite čine li osjetljivu sliku u kombinaciji s "procjenom rizika prikupljanja".
popis za provjeru
- [ ] Prvo sam odredio klasu osjetljivosti za svaki podatak.
- Nikada nisam unosio podatke čija [ ] klasa nije prikladna za javno vozilo.
- [ ] Informacije u koje nisam bio siguran čuvao sam poput nadređenog.
- [ ] Osobne podatke obrađujem samo kada je to nužno i zakonito, maskirano.
- [ ] Preuzeo sam rizik sakupljanja i razdvajanja dva svijeta.