Guadagni:
- Valutare se un utilizzo dell’IA richiede una DPIA
- Applicazione del processo DPIA in sette fasi a un progetto di intelligenza artificiale
- Dare priorità ai rischi con una matrice di probabilità-impatto e progettare misure di mitigazione
Alcuni usi dell’intelligenza artificiale comportano seri rischi per gli individui: monitoraggio su larga scala, trattamento di dati sensibili, decisioni automatizzate. In tali progetti, sia il KVKK/GDPR che la legge dell’UE sull’IA prevedono una valutazione strutturata del rischio prima dell’inizio dei lavori. Il nome di questa valutazione è Data Protection Impact Assessment (DPIA). In questa unità impareremo come capire se un uso richiede una DPIA, come applicare il processo DPIA in sette fasi a un progetto di intelligenza artificiale e come dare priorità ai rischi con una matrice di impatto-probabilità.
Cos’è la DPIA e quando è necessaria?
La Valutazione d’Impatto sulla Protezione dei Dati (DPIA) è un’analisi strutturata che valuta in anticipo i rischi di un’attività di trattamento sui diritti e le libertà delle persone e determina misure attenuanti. Il punto critico: la DPIA viene eseguita in fase di progettazione, prima che inizi l’elaborazione, non dopo che si verifica il problema.
La DPIA è solitamente richiesta quando:
- Utilizzo di nuove tecnologie (l'intelligenza artificiale è spesso inclusa).
- Trattamento su larga scala di dati personali.
- Monitoraggio sistematico o profilazione.
- Elaborazione dati particolari.
- Decisioni automatizzate che hanno un impatto significativo sulle persone.
Suggerimento: se non sei sicuro, esegui uno "screening": se sono presenti due o più dei cinque sopra indicati, esegui per impostazione predefinita la DPIA. Il costo per eseguire la DPIA è basso; Il costo di non farlo è molto alto in una violazione.
Processo DPIA in sette fasi
Applichi la DPIA a un progetto di intelligenza artificiale in questi sette passaggi:
passo
Cosa fai?
1. Descrizione
Descrivere il trattamento: quali dati, finalità, ambito, flusso
2. Necessità e proporzionalità
L’intelligenza artificiale è davvero necessaria? Esiste un modo meno invadente?
3. Opinione delle parti interessate
Ottenere il parere delle persone/rappresentanti rilevanti
4. Identificazione del rischio
Elencare i possibili danni alle persone
5. Valutazione del rischio
Assegna un punteggio a ciascun rischio in base alla probabilità e all'impatto
6. Misure di mitigazione
Precauzioni di progettazione per ciascun rischio, identificare il rischio residuo
7. Approvazione e revisione
Documentare il risultato, sottoporlo all'approvazione, aggiornarlo periodicamente
Dare priorità al rischio: matrice probabilità-impatto
Valuti ciascun rischio in due dimensioni: la probabilità che si verifichi e l'impatto se si verifica. La combinazione dei due dà priorità.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Basso impatto
effetto medio
impatto elevato
alta probabilità
medio
alto
critico
media probabilità
basso
medio
alto
bassa probabilità
basso
basso
medio
I rischi critici ed elevati sono rischi per i quali il progetto non dovrebbe essere portato avanti senza prendere precauzioni. Lo scopo non è eliminare ogni rischio; è ridurre ogni rischio a un livello accettabile e accettare consapevolmente il rischio rimanente (residuo).
tre mini custodie
Caso 1 – DPIA omessa. Una catena di vendita al dettaglio implementa un sistema che monitora il comportamento dei clienti in negozio con l'intelligenza artificiale, senza DPIA. Mesi dopo, una denuncia rivela che il sistema ha fatto deduzioni specifiche (salute, previsione della gravidanza). Nell'audit non c'è risposta alla domanda "perché non avete effettuato la DPIA". Una DPIA fin dall’inizio avrebbe individuato questo rischio in fase di progettazione e avrebbe reso il progetto sicuro.
Caso 2 — Progetto salvato dalla DPIA. La DPIA viene eseguita per supportare l'assunzione di personale AI in una banca. Durante la fase di identificazione del rischio, il rischio di pregiudizi di genere dovuti ai dati storici risulta essere “alto”. Come mitigazione, il team rimuove le informazioni di genere dal modello, attribuisce il risultato a regolari test di bias e richiede la convalida umana. Adesso il rischio scende a “moderato” e il progetto diventa accettabile. La DPIA rende il progetto sicuro invece di ucciderlo.
Caso 3 — Test di proporzionalità. Un'azienda desidera scansionare le e-mail dei dipendenti per "analisi della fedeltà" con l'intelligenza artificiale. Nella fase di necessità/proporzionalità della DPIA ciò risulta essere eccessivamente invasivo rispetto allo scopo; Esistono alternative meno invadenti. Il progetto non è approvato nella sua forma attuale. Il test di proporzionalità distingue tra “noi possiamo” e “dobbiamo”.
Attenzione: la DPIA non è un modulo che viene compilato una volta e messo da parte. In caso di modifiche del trattamento (nuovi dati, nuova finalità, nuovo strumento) la DPIA deve essere aggiornata. Una DPIA morta è più fuorviante dell’assenza totale di DPIA perché dà falsa fiducia.
Chi effettua la DPIA e registra il rapporto dei rischi con la DPIA
Una sola persona non può compilare la DPIA alla propria scrivania; La corretta DPIA è un lavoro di squadra. In genere, il responsabile della protezione dei dati esegue il processo (Doer), il responsabile della conformità è il responsabile ultimo (Accountable), l'unità aziendale pertinente descrive il trattamento, valuta le misure tecniche IT/di sicurezza e conferma la base giuridica. La raccolta delle opinioni delle persone rilevanti (terza fase) non dovrebbe essere trascurata; Tuttavia, questo è il passaggio più saltato nella pratica.
I risultati della DPIA non restano nel vuoto: i rischi identificati vengono registrati nel registro dei rischi dell'organizzazione. Il registro dei rischi è un grafico in tempo reale che cattura tutti i rischi aperti, le loro priorità, le mitigazioni, i colpevoli e le date dell'ultima revisione. In questo modo, i rischi di un progetto AI parlano la stessa lingua della gestione complessiva dei rischi dell’organizzazione e vengono monitorati regolarmente.
Area registro rischi
esempio
Definizione del rischio
Pregiudizi di genere nell’intelligenza artificiale per il reclutamento
priorità
alto
Misura di mitigazione
Estrazione di variabili surrogate + test di bias
Responsabile
Responsabile della protezione dei dati
revisione
ogni 3 mesi
Suggerimento: trattare la DPIA con una mentalità di “registrazione e tracciamento del rischio”, non con un approccio “fatto e dimenticato”. È stata implementata una mitigazione del rischio, il rischio residuo è a un livello accettabile? Senza una registrazione di questi, la DPIA diventa un documento finestra.
Modelli copiabili
MODELLO 1 - Pre-screening della DPIA: "La DPIA è necessaria per questo utilizzo dell'IA? [descrivere l'uso]. Valutare rispetto a cinque fattori scatenanti: nuova tecnologia, elaborazione su larga scala, monitoraggio sistematico, dati sensibili, processo decisionale automatizzato significativo. Quanti fattori scatenanti ci sono, consigliate la DPIA, con giustificazione."
MODELLO 2 — Brainstorming sull'identificazione del rischio: "Elencare i possibili danni alle persone in questo progetto di intelligenza artificiale [descrivere il progetto]: fuga di dati, discriminazione, errore di valutazione, violazione della privacy, mancanza di trasparenza, deviazione dello scopo. Scrivere uno scenario di una frase per ciascun danno. Individuare e basta, ma non contrastare."
MODELLO 3 - Punteggio probabilità-impatto: "Valutare i seguenti rischi [elenco dei rischi] come probabilità (basso/medio/alto) e impatto (basso/medio/alto); la priorità (bassa/media/alta/critica) appare su ogni riga. Elencare critico e alto in alto. Presente in formato tabella."
MODELLO 4 — Progettazione della mitigazione: "Per il rischio seguente [scrivere il rischio], proporre almeno 3 misure di mitigazione (tecniche, di processo, organizzative). Stimare il livello di 'rischio residuo' dopo ciascuna misura. Se il rischio è ancora elevato dopo la misura, indicare che il progetto dovrebbe essere riprogettato."
Prompt debole / Prompt forte
DEBOLE: “Questo progetto di intelligenza artificiale è rischioso?”-> Il modello dà una vaga risposta “forse”; non classifica i rischi, non dà priorità ai rischi, non produce misure.STRONG: "Condurre una mini DPIA per il seguente progetto di intelligenza artificiale: (1) descrivere il trattamento, (2) valutare la necessità di una DPIA con 5 trigger, (3) elencare 6 possibili danni alle persone, (4) assegnare un punteggio a ciascuno in base alla probabilità di impatto, (5) raccomandare la mitigazione per rischi critici/alti. Prendere decisioni legali definitive; produrre una bozza che andrà all'approvazione legale."-> Il modello produce una bozza di un DPIA strutturata e attuabile.
Errori comuni
- Effettuare la DPIA dopo che la transazione è iniziata (o anche dopo che si è verificato il problema).
- Saltare l’elaborazione ad alto rischio che richiede la DPIA non è un grosso problema.
- Non elencare i rischi e dare loro la priorità in base alla probabilità e all’impatto.
- Considerare la DPIA “completa” senza produrre misure per ogni rischio.
- Saltare il passaggio necessità/proporzionalità e dire "possiamo farcela, quindi facciamolo".
- Compilare la DPIA una volta e non aggiornarla quando il processo cambia.
- Approvare il progetto senza documentare chiaramente il rischio residuo (rimanente).
In sintesi
- La DPIA è un'analisi strutturata che valuta l'impatto di un trattamento ad alto rischio sugli individui prima che venga avviato.
- La DPIA è necessaria in presenza di nuove tecnologie, trattamenti su larga scala, monitoraggio sistematico, dati sensibili o processi decisionali automatizzati significativi.
- Il processo si compone di sette fasi: identificazione, necessità/proporzionalità, opinione delle parti interessate, identificazione del rischio, valutazione, azione, approvazione/revisione.
- Ai rischi viene assegnata la priorità con una matrice di probabilità-impatto; I rischi critici/alti non sono accettati senza precauzioni.
- La DPIA non uccide il progetto, lo rende sicuro; È un documento vivo che deve essere aggiornato man mano che l'elaborazione cambia.
Compito dell'applicazione
Scegli un utilizzo dell'intelligenza artificiale che la tua organizzazione potrebbe utilizzare che potrebbe essere ad alto rischio (ad esempio, supporto per il reclutamento, monitoraggio comportamentale o punteggio del credito). Innanzitutto considerare se la DPIA è necessaria con cinque trigger. Quindi condurre una mini DPIA per questo utilizzo: descrivere il trattamento, elencare almeno sei possibili danni agli individui, assegnare a ciascuno un punteggio sulla matrice probabilità-impatto e assegnare la priorità. Progettare tre misure di mitigazione per due rischi critici ed elevati e stimare il livello di rischio residuo dopo la misura. Infine, annota quando questa DPIA dovrà essere aggiornata.
lista di controllo
- [ ] Ho valutato il requisito DPIA con cinque trigger.
- [ ] Ho definito il trattamento (dati, finalità, ambito, flusso).
- [ ] Ho messo in dubbio la necessità e la proporzionalità.
- [ ] Ho elencato i possibili danni alle persone.
- [ ] Ho dato la priorità ai rischi nella matrice probabilità-impatto.
- [ ] Ho progettato misure di mitigazione per rischi critici/alti.
- [ ] Ora ho documentato il rischio e stabilito le condizioni di revisione.