Câștiguri:
- Abilitatea de a evalua informațiile în funcție de clasa de sensibilitate (public / intern / confidențial / secret) și de a aplica reflexul „ask class, match the tool”
- Înțelegerea stocării datelor, formarea modelului, colectarea și riscurile de încălcare ale AI și menținerea separată a lumii deschise și clasificate
- Capacitatea de a adopta principiul minim al datelor, protecția datelor cu caracter personal și disciplina de a proteja informațiile incerte ca și cum ar fi o clasă superioară.
Diplomația se bazează pe încredere, iar încrederea se bazează pe secret. O poziție de negociere, o evaluare a informațiilor, conținutul unei conversații cu un interlocutor sau o decizie care nu a fost încă anunțată, în mâini greșite, pot pune în pericol interesele unui stat, rezultatul unei negocieri sau chiar securitatea oamenilor. Inteligența artificială aduce o viteză extraordinară în acest domeniu, dar implică și riscuri noi și serioase pentru confidențialitate. În această unitate, veți învăța cum să protejați informațiile clasificate și sensibile în era inteligenței artificiale, ce date pot intra în ce vehicul și disciplina de utilizare în siguranță.
Această unitate este cea mai critică lecție de securitate a modulului. O greșeală aici - lipirea unui document confidențial într-un instrument greșit - este ireversibilă. Prin urmare, aici se va stabili un reflex care trebuie memorat: Înainte de a da orice date unui instrument AI, întrebați întotdeauna: în ce clasă se află aceste date și este acest instrument aprobat pentru această clasă?
Clasificarea informațiilor: distincție de bază
Informațiile diplomatice sunt adesea clasificate în funcție de sensibilitatea lor. Deși variază de la instituție la instituție, logica de bază este următoarea:
- Neclasificat/public: informații care au fost deja publicate și sunt accesibile publicului. Exemplu: comunicate de presă oficiale, știri publice.
- Restricționat/intern: informații interne care nu sunt disponibile publicului, dar au o sensibilitate scăzută.
- Confidențial: informații a căror dezvăluire ar putea dăuna grav intereselor statului. Exemplu: poziție de negociere, evaluare internă.
- Top secret: informații a căror dezvăluire ar cauza cel mai grav prejudiciu. Exemplu: informații sensibile, informații critice de securitate.
Regula generală este simplă: nicio informație clasificată care nu este disponibilă public nu va fi introdusă într-un instrument AI pe care instituția dvs. nu l-a aprobat pentru acea clasă. Un serviciu public AI nu este, prin definiție, certificat pentru această clasă de informații.
Sfat: dacă nu sunteți sigur, tratați informațiile ca pe un senior. A spune „probabil că se știe deja” este o presupunere periculoasă. Până când sunteți 100% sigur că informațiile sunt publice, protejați-o ca și cum ar fi confidențiale. Atenția inutilă nu este un cost, este o asigurare.
Riscurile de confidențialitate ale AI
Instrumentele AI prezintă riscuri diferite de confidențialitate față de software-ul tradițional:
1. Prelucrarea și stocarea datelor: textul pe care îl scrieți unui serviciu public AI poate fi procesat și stocat pe serverele serviciului respectiv. Nu poți controla cine îl accesează, cât timp este păstrat și cum este utilizat.
2. Utilizare în formarea modelului: unele servicii pot folosi datele pe care le introduceți pentru a îmbunătăți modelul. Acest lucru creează riscul ca informațiile dvs. confidențiale să intre indirect în „memoria” modelului și să se scurgă altora.
3. Riscul de agregare: informațiile care par inofensive individual pot forma o imagine sensibilă atunci când sunt combinate. Micile informații introduse în momente diferite pot oferi colectiv o poziție secretă.
4. Risc de acces și de încălcare: la fel ca orice sistem extern, serviciile AI pot face obiectul unei încălcări a datelor. Datele pe care le furnizați pot fi expuse în acea încălcare.
Soluția la aceste riscuri este de a stabili două lumi separate: instrumente generale pentru lucru cu sursă deschisă; Doar sisteme interne, sigure, aprobate, care nu exportă date pentru lucrări clasificate. Nu amestecați niciodată cele două.
Atenție: a spune „Am făcut-o anonim” adesea nu este suficient. Chiar dacă ștergeți numele, contextul (data, locația, evenimentul, numărul de părți) poate fi suficient pentru ca un expert să redacteze identitățile și poziția. Informațiile reale sensibile sunt protejate nu prin mascare, ci prin selecția adecvată a instrumentelor și a suporturilor.
Disciplina de utilizare în siguranță
Configurați un flux de control practic:
- Determinați clasa. Aceste date sunt publice, interne, confidențiale sau secrete?
- Asociați vehiculul. Această clasă poate fi procesată în acest instrument? Dacă nu, oprește-te.
- Politica de date minime. Chiar și la un loc de muncă viabil, nu dați mai multe informații decât necesită jobul.
- Protejați datele personale. Datele personale (nume, contact, locație) sunt prelucrate numai dacă este necesar și pe bază legală; Dacă nu este necesar, este mascat sau nu este dat deloc.
- Păstrați evidența. Documentați ce instrument ați folosit pentru ce job, cu ce date; Dacă există o problemă, aceasta poate fi urmărită.
Sfat: Stabiliți o cultură „în primul rând confidențialitatea” în echipa dvs.: un nou funcționar sau stagiar ar trebui să învețe reflexul „niciun document confidențial nu intră în domeniul public” din prima zi. Cele mai multe încălcări nu provin din răutate, ci din faptul că nu știe cât de deschis este un vehicul.
trei mini cutii
Cazul 1 – Reflex a prevenit încălcarea. Un expert era pe punctul de a rezuma o notă de interviu când s-a oprit și a întrebat clasificarea acesteia: nota era o conversație confidențială cu un interlocutor. Trecut la un sistem securizat intern în loc de un instrument public. Un simplu reflex „întreabă clasa întâi” a prevenit o încălcare.
Cazul 2 – Riscul de colectare recunoscut. O echipă ar introduce informații mici, aparent „inofensive”, într-un instrument extern în zile diferite. O analiză de securitate a arătat că, atunci când sunt combinate, aceste piese au dat jos agenda unei viitoare negocieri. Aplicația a fost oprită; Lucrarea a fost mutată într-un mediu securizat.
Cazul 3 – Fals anonimat. Un funcționar a considerat un document „anonim”, deoarece a șters nume și l-a predat agentului extern. Cu toate acestea, data, locul și descrierea evenimentului din document au indicat clar cine se referea. Ștergerea numelui nu a fost suficientă; Documentul ar fi trebuit oricum procesat într-un mediu securizat.
Patru șabloane copiabile
1) Verificare prealabilă a clasei și a vehiculului:
Voi descrie lucrarea mai jos. Spune-mi (nu face treaba): (1) ce clasă de sensibilitate ar putea avea aceste date (public/intern/secret/secret), (2) dacă această clasă ar fi procesată într-un instrument public AI, (3) dacă nu, ce tip de mediu este necesar. Descrierea postului/datelor: [aici]
2) Scanarea și mascarea datelor cu caracter personal:
Enumerați datele personale/sensibile (nume, titlu, contact, locație, sănătate, număr ID) care trebuie mascate înainte de procesare în textul de mai jos. PRELUCRAREA TEXTULUI; Spune-mi doar ce zone trebuie eliminate. Voi face mascarea și voi retrimite. Text: [aici]
3) Evaluarea riscului de colectare:
Mă gândesc să export următoarele informații separat într-un instrument extern: [bucăți]. Chiar dacă acestea pot părea inofensive individual, atunci când COMBINATE pot crea o imagine sensibilă (de exemplu, o poziție, o agendă, o identitate)? Evaluați riscul de colectare și spuneți ce articole nu ar trebui să fie date împreună.
4) Confirmarea disponibilității publice:
Nu sunt sigur dacă următoarele informații sunt publice: [informații]. Enumerați ce verificare trebuie să fac înainte de a o considera public (există o lansare oficială, cine a publicat-o, data). Dacă nu sunt sigur, amintește-mi de principiul „tratează ca confidențial”.
Prompt slab / Prompt puternic
Prompt slab:
Rezumați această notă de interviu. (conținutul ascuns este lipit direct în notă)
Aceasta este cea mai periculoasă greșeală: un document confidențial a intrat pe un mediu public fără ca clasa sa să fie pusă la îndoială. Riscul de scurgere a apărut și nu poate fi inversat.
Solicitare puternică (verificați mai întâi):
Vreau să procesez o notă de întâlnire. Dar mai întâi: acest bilet este probabil în clasa secretă. Spuneți-mi dacă acest tip de document poate fi procesat într-un instrument public și care este modalitatea corectă? NU ȚI DAU CONȚINUTUL DOCUMENTULUI; Cer doar procesul corect.
Diferența este clară: conținutul confidențial nu este dat deloc, se cere mai întâi procesul corect și munca este direcționată către mediul adecvat.
Tabel de cartografiere de la clasă la vehicul
clasa de informare
exemplu
AI public
mediu potrivit
public
comunicat de presă
potrivită
instrument general
Intern/specific de serviciu
nota interioara
De obicei nu
Aprobat intern
secret
pozitia de negociere
niciodată
Sistem instituțional securizat
top secret
inteligența sensibilă
niciodată
cea mai înaltă securitate
datele personale
acreditările
Numai necesar+legal
Mascat/securizat
Greșeli comune
- Introducerea datelor fără a cere cursul. Înainte de fiecare job, reflexul „în ce clasă este aceasta?” este o necesitate.
- Presupunând că „probabil este evident”. Informațiile incerte sunt protejate ca fiind confidențiale.
- Ștergerea numelui este greșită ca anonimizare. Contextul poate da identități.
- Ignorarea riscului de colectare. Piesele mici pot fi delicate atunci când sunt asamblate.
- Amestecând două lumi. Joburile deschise și clasificate rulează în instrumente/medii separate.
Pe scurt
Secretul este limita cea mai critică a utilizării diplomatice a IA. Luați ca coloana vertebrală a acestei unități clasificarea informațiilor (publice/interne/confidențiale/secrete), reflexul „întreabați clasa, potriviți vehiculul”, principiul datelor minime, protecția datelor cu caracter personal și riscul de colectare. Instrumente generale pentru munca open source; Utilizați numai sisteme securizate și aprobate pentru lucrări clasificate. Nu le confunda niciodată pe cele două; Când aveți îndoieli, păziți informațiile ca un senior.
Sarcina de aplicare
Enumerați 8 date diferite de la propriul birou (sau imaginar) (unele publice, altele sensibile). Plasați fiecare într-o clasă și decideți „în ce instrument poate fi procesat”. Evaluați-le ambigue cu șablonul „Verificare prealabilă a clasei și a vehiculului”. Selectați trei piese și examinați dacă formează o imagine sensibilă atunci când sunt combinate cu „evaluarea riscului de colectare”.
lista de verificare
- [ ] Am determinat mai întâi clasa de sensibilitate pentru fiecare dată.
- Nu am introdus niciodată date a căror clasă [ ] nu este potrivită pentru un vehicul public.
- [ ] Am păzit informațiile de care nu eram sigur ca un superior.
- [ ] Prelucrez datele personale numai atunci când este necesar și legal, mascat.
- [ ] Mi-am asumat riscul de a aduna și de a separa două lumi.