Guadagni:
- Capacità di valutare le informazioni in base alla classe di sensibilità (pubblica/interna/confidenziale/top secret) e di applicare il riflesso "chiedi classe, abbina lo strumento"
- Comprendere l'archiviazione dei dati, l'addestramento dei modelli, la raccolta e i rischi di violazione dell'intelligenza artificiale e mantenere separato il mondo aperto e quello classificato
- Capacità di adottare il principio del dato minimo, la protezione dei dati personali e la disciplina di protezione delle informazioni incerte come se fossero di classe superiore.
La diplomazia si basa sulla fiducia e la fiducia si basa sulla segretezza. Una posizione negoziale, una valutazione dell'intelligence, il contenuto di una conversazione con un interlocutore o una decisione ancora da annunciare, nelle mani sbagliate, possono mettere a repentaglio gli interessi di uno Stato, l'esito di un negoziato o persino la sicurezza delle persone. L’intelligenza artificiale porta un’enorme velocità in questo campo, ma comporta anche nuovi e gravi rischi per la privacy. In questa unità imparerai come proteggere le informazioni riservate e sensibili nell'era dell'intelligenza artificiale, quali dati possono entrare in quale veicolo e la disciplina dell'uso sicuro.
Questa unità è la lezione di sicurezza più critica del modulo. Un errore in questo caso, ovvero incollare un documento riservato nello strumento sbagliato, è irreversibile. Pertanto, qui verrà stabilito un riflesso che deve essere memorizzato: prima di fornire qualsiasi dato a uno strumento di intelligenza artificiale, chiedersi sempre: in quale classe si trovano questi dati e questo strumento è approvato per questa classe?
Classificazione delle informazioni: distinzione fondamentale
Le informazioni diplomatiche sono spesso classificate in base alla loro sensibilità. Anche se varia da istituzione a istituzione, la logica di base è questa:
- Non classificate/pubbliche: informazioni che sono già state pubblicate e sono accessibili al pubblico. Esempio: comunicati stampa ufficiali, notizie pubbliche.
- Limitato/interno: informazioni interne che non sono disponibili al pubblico ma hanno una bassa sensibilità.
- Confidenziale: informazioni la cui divulgazione potrebbe ledere gravemente gli interessi dello Stato. Esempio: posizione negoziale, valutazione interna.
- Top secret: informazioni la cui divulgazione causerebbe il danno più grave. Esempio: intelligence sensibile, informazioni critiche sulla sicurezza.
La regola pratica è semplice: nessuna informazione classificata che non sia disponibile al pubblico verrà inserita in uno strumento di intelligenza artificiale che il tuo istituto non ha approvato per quella classe. Un servizio pubblico di IA non è, per definizione, certificato per questa classe di informazioni.
Suggerimento: se non sei sicuro, tratta le informazioni come un senior. Dire "probabilmente questo è già noto" è un'ipotesi pericolosa. Finché non sei sicuro al 100% che le informazioni siano pubbliche, proteggile come se fossero riservate. La prudenza inutile non è un costo, è una garanzia.
Rischi per la privacy dell’intelligenza artificiale
Gli strumenti di intelligenza artificiale comportano rischi per la privacy diversi rispetto ai software tradizionali:
1. Elaborazione e archiviazione dei dati: il testo che scrivi a un servizio pubblico di intelligenza artificiale può essere elaborato e archiviato sui server di tale servizio. Non puoi controllare chi vi accede, per quanto tempo viene conservato e come viene utilizzato.
2. Utilizzo nell'addestramento del modello: alcuni servizi potrebbero utilizzare i dati immessi per migliorare il modello. Ciò crea il rischio che le tue informazioni riservate entrino indirettamente nella "memoria" del modello e vengano divulgate ad altri.
3. Rischio di aggregazione: informazioni che singolarmente sembrano innocue possono formare un quadro sensibile se combinate. Piccole informazioni inserite in momenti diversi possono rivelare collettivamente una posizione segreta.
4. Rischio di accesso e violazione: come qualsiasi sistema esterno, i servizi di intelligenza artificiale possono essere soggetti a una violazione dei dati. I dati forniti potrebbero essere esposti a tale violazione.
La soluzione a questi rischi è stabilire due mondi separati: strumenti generali per il lavoro open source; Solo sistemi interni, sicuri e approvati che non esportano dati per lavori classificati. Non mescolare mai le due cose.
Attenzione: Dire "l'ho reso anonimo" spesso non basta. Anche se elimini i nomi, il contesto (data, luogo, evento, numero di parti) potrebbe essere sufficiente affinché un esperto possa oscurare identità e posizione. Le informazioni realmente sensibili non vengono protette mediante il mascheramento ma mediante un'adeguata selezione di strumenti e media.
Disciplina di utilizzo sicuro
Imposta un flusso di controllo pratico:
- Determina la classe. Questi dati sono pubblici, interni, riservati o top secret?
- Accoppiare il veicolo. Questa classe può essere elaborata in questo strumento? In caso contrario, fermati.
- Politica minima sui dati. Anche in un lavoro fattibile, non fornire più informazioni di quelle richieste dal lavoro.
- Proteggi i dati personali. I dati personali (nome, contatto, ubicazione) sono trattati solo se necessario e su base legale; Se non necessario, viene mascherato o non fornito affatto.
- Conserva il registro. Documenta quale strumento hai utilizzato per quale lavoro, con quali dati; Se c'è un problema, può essere rintracciato.
Suggerimento: stabilisci una cultura della "privacy first" nel tuo team: un nuovo impiegato o stagista dovrebbe imparare il riflesso "nessun documento riservato diventa di pubblico dominio" fin dal primo giorno. La maggior parte delle violazioni non derivano da dolo ma dal non sapere quanto sia aperto un veicolo.
tre mini custodie
Caso 1 – Il riflesso ha impedito la violazione. Un esperto stava per riassumere un appunto di intervista quando si fermò e ne chiese la classificazione: l'appunto era una conversazione confidenziale con un interlocutore. Passato a un sistema sicuro interno invece che a uno strumento pubblico. Un semplice riflesso "chiedi prima alla classe" ha impedito una violazione.
Caso 2 — Rischio di riscossione riconosciuto. Un team inserisce piccole informazioni apparentemente “innocue” in uno strumento esterno in giorni diversi. Un’analisi della sicurezza ha dimostrato che, una volta combinati, questi elementi rivelavano l’agenda di un imminente negoziato. L'applicazione è stata interrotta; Il lavoro è stato spostato in un ambiente sicuro.
Caso 3 – Falso anonimato. Un impiegato ha ritenuto un documento "anonimo" perché aveva cancellato i nomi e lo aveva consegnato all'agente esterno. Tuttavia, la data, il luogo e la descrizione dell'evento nel documento chiarivano a chi si riferiva. Cancellare il nome non era sufficiente; Il documento avrebbe comunque dovuto essere elaborato in un ambiente sicuro.
Quattro modelli copiabili
1) Pre-controllo classe e veicolo:
Descriverò il lavoro di seguito. Dimmi (non fare il lavoro): (1) quale classe di sensibilità potrebbero avere questi dati (pubblica/interna/segreta/top secret), (2) questa classe dovrebbe essere elaborata in uno strumento di intelligenza artificiale pubblico, (3) in caso contrario, che tipo di ambiente è richiesto. Descrizione lavoro/dati: [qui]
2) Scansione e mascheramento dei dati personali:
Elenca i dati personali/sensibili (nome, titolo, contatto, ubicazione, salute, numero identificativo) che devono essere mascherati prima dell'elaborazione nel testo seguente. ELABORAZIONE DEL TESTO; Dimmi solo quali aree devono essere rimosse. Farò il mascheramento e lo invierò nuovamente. Testo: [qui]
3) Valutazione del rischio di raccolta:
Sto valutando la possibilità di esportare le seguenti informazioni separatamente in uno strumento esterno: [pezzi]. Anche se presi singolarmente possono sembrare innocui, quando COMBINATI possono creare un’immagine sensibile (ad esempio una posizione, un programma, un’identità)? Valutare il rischio di raccolta e indicare quali articoli non dovrebbero essere consegnati insieme.
4) Conferma disponibilità pubblica:
Non sono sicuro che le seguenti informazioni siano pubbliche: [informazioni]. Elenca quale verifica devo fare prima di ritenerlo pubblico (esiste un comunicato ufficiale, chi lo ha pubblicato, data). Se non sono sicuro, ricordami il principio del "trattamento confidenziale".
Prompt debole / Prompt forte
Suggerimento debole:
Riassumi questa nota dell'intervista. (il contenuto nascosto viene incollato direttamente nella nota)
Questo è l'errore più pericoloso: un documento riservato è entrato in un mezzo pubblico senza che la sua classe fosse messa in discussione. Il rischio di perdite si è verificato e non può essere annullato.
Prompt potente (controlla prima):
Desidero elaborare una nota di riunione. Ma prima: probabilmente questo biglietto si trova nella classe segreta. Dimmi se questo tipo di documento può essere elaborato in uno strumento pubblico e qual è il modo corretto? NON VI DANNO IL CONTENUTO DEL DOCUMENTO; Sto solo chiedendo la procedura corretta.
La differenza è chiara: il contenuto riservato non viene fornito affatto, viene chiesto prima il processo corretto e il lavoro viene indirizzato all'ambiente appropriato.
Tabella di mappatura classe-veicolo
classe di informazioni
esempio
IA pubblica
ambiente giusto
pubblico
comunicato stampa
adatto
strumento generale
Specifico interno/servizio
nota interiore
Di solito no
Approvato internamente
segreto
posizione negoziale
mai
Sistema istituzionale sicuro
top secret
intelligenza sensibile
mai
massima sicurezza
dati personali
credenziali
Solo necessario+legale
Mascherato/protetto
Errori comuni
- Inserimento dei dati senza chiedere la lezione. Prima di ogni lavoro, il riflesso "in che classe è questo?" è un must.
- Supponendo che "probabilmente è ovvio". Le informazioni incerte sono protette come riservate.
- Confondere la cancellazione del nome con l'anonimizzazione. Il contesto può rivelare identità.
- Ignorando il rischio di raccolta. Le parti piccole possono essere delicate una volta assemblate.
- Mescolare due mondi. I lavori aperti e classificati vengono eseguiti in strumenti/ambienti separati.
In sintesi
La segretezza è il limite più critico dell’uso diplomatico dell’intelligenza artificiale. Prendiamo come spina dorsale di questa unità la classificazione delle informazioni (pubblica/interna/confidenziale/top secret), il riflesso "chiedi alla classe, abbina il veicolo", il principio minimo dei dati, la protezione dei dati personali e il rischio di raccolta. Strumenti generali per il lavoro open source; Utilizzare solo sistemi interni sicuri e approvati per il lavoro classificato. Non confondere mai i due; In caso di dubbi, custodisci le informazioni come un anziano.
Compito dell'applicazione
Elenca 8 diversi dati dalla tua scrivania (o immaginaria) (alcuni pubblici, altri sensibili). Metti ciascuno in una classe e decidi "in quale strumento può essere elaborato". Valuta quelli ambigui con il modello "Pre-controllo classe e veicolo". Selezionare tre pezzi ed esaminare se formano un quadro sensibile se combinati con la "valutazione del rischio della collezione".
lista di controllo
- [ ] Per prima cosa ho determinato la classe di sensibilità per ciascun dato.
- Non ho mai inserito dati la cui classe [ ] non è idonea ad un veicolo pubblico.
- [] Ho custodito le informazioni di cui non ero sicuro come un superiore.
- [ ] Tratto i dati personali solo quando necessario e lecito, mascherato.
- [ ] Ho corso il rischio del collezionismo e della separazione di due mondi.