KVKK, Privacy e governance pubblica responsabile dell'intelligenza artificiale

Guadagni:

• Applica i principi KVKK e la minimizzazione dei dati durante il trattamento dei dati personali dei cittadini negli strumenti di intelligenza artificiale.
• Stabilisce un quadro di governance per un'organizzazione che include una politica di utilizzo dell'intelligenza artificiale, una traccia di controllo e una catena di responsabilità.
• Sostiene olisticamente che l’IA pubblica responsabile si basa sulla supervisione, sulla trasparenza e sulla responsabilità umana.

In questo modulo, abbiamo visto come l'intelligenza artificiale sia un potente acceleratore nel pubblico: risposta alle domande dei cittadini, petizioni e corrispondenza, ricerca legislativa, analisi delle politiche, reporting, processo decisionale basato sui dati, e-government e trasparenza. Veniamo ora al quadro che tiene insieme il tutto: protezione dei dati personali e governance responsabile. Il pubblico, per sua natura, tratta i dati più sensibili del cittadino: identità, indirizzo, reddito, salute, precedenti penali, situazione familiare. Il trattamento di questi dati con strumenti di intelligenza artificiale deve rispettare pienamente il quadro della KVKK (legge sulla protezione dei dati personali n. 6698; la legge che regola il trattamento lecito, limitato e sicuro dei dati personali). In questa unità finale, stabiliremo la struttura portante della privacy e della governance dell’uso pubblico dell’IA: quali dati possono essere forniti a quale strumento, quali politiche applicare, chi è responsabile, come un’organizzazione gestisce l’IA in modo sicuro. Questa unità è il tetto posto sopra le dieci unità precedenti.

Principi di base del KVKK che toccano l'IA pubblica

KVKK stabilisce diversi principi di base, ognuno dei quali limita direttamente l’uso dell’intelligenza artificiale:

• Rispetto della legge e aderenza allo scopo: i dati personali vengono trattati solo per uno scopo specifico e legittimo. I dati raccolti per uno scopo (ad esempio, richiedere aiuto) non possono essere utilizzati per un altro scopo (ad esempio, formare una modella) senza autorizzazione.
• Minimizzazione dei dati: non vengono trattati più dati di quelli necessari allo scopo. Se non è richiesto un nome per un'analisi di categoria, non viene fornito alcun nome.
• Sicurezza: i dati sono protetti contro l'accesso non autorizzato. Incollare i dati dei cittadini in uno strumento pubblico di intelligenza artificiale significa portare tali dati all’esterno dell’organizzazione: è una violazione della politica di sicurezza.
• Periodo di conservazione: i dati vengono cancellati al termine della finalità; Non viene conservato a tempo indeterminato.
• Informazioni e diritti: i cittadini hanno il diritto di sapere come vengono trattati i loro dati, rettificarli, cancellarli e opporsi alle decisioni automatizzate.

Attenzione: caricare i dati di un cittadino su uno strumento pubblico di intelligenza artificiale non approvato dall'istituzione, dove sono archiviati i dati e chi ha accesso ad essi non è chiaro, nella maggior parte dei casi costituisce una violazione della KVKK e espone l'istituzione a sanzioni. Le regole non vengono mai stravolte “per facilitare il lavoro”.

Quali dati, a quale veicolo? Modello a tre zone

Come regola generale, dividere i dati in tre regioni:

1. Rosso (non entrare mai nei veicoli pubblici): numero di carta d'identità, stato di salute, criminalità, religione, etnia, dati biometrici, indirizzo completo, qualsiasi cosa che identifichi la persona. Questi vengono elaborati solo in un ambiente contrattato/interno e conforme a KVKK approvato dall'istituto.
2. Giallo (con attenzione, mascherando): dati che possono essere collegati indirettamente alla persona. Prima anonimizzare/aggregare, quindi elaborare.
3. Verde (gratuito): informazioni impersonali, pubbliche, generali (testo legislativo, statistiche pubbliche, procedura generale). Puoi elaborarli facilmente con l'intelligenza artificiale.

Suggerimento: prima di inviare un messaggio all'IA, esegui il test di 5 secondi: "C'è qualcosa in questo contenuto che potrebbe identificare una persona?" Se la risposta è "sì/forse", mascherati o guida un veicolo omologato. In caso di dubbio, considera il rosso.

La governance aziendale: dalla persona al sistema

L’IA pubblica responsabile non può essere lasciata alla buona volontà dei singoli dipendenti pubblici; È necessario un quadro istituzionale:

• Politica: l’istituzione deve avere una politica di utilizzo dell’IA: quali strumenti sono approvati, quali dati possono essere inseriti, chi è responsabile.
• Elenco degli strumenti approvati: il personale dovrebbe utilizzare gli strumenti che l'istituzione ha valutato e approvato, non in modo casuale.
• Formazione: il personale deve conoscere la disciplina di verifica e le regioni dati (come questo modulo).
• Registrazione e audit: dovrebbe essere conservata una traccia di controllo delle decisioni prodotte con l'intelligenza artificiale.
• Responsabilità: ogni risultato basato sull'intelligenza artificiale deve avere un proprietario e un'approvazione umani. La responsabilità spetta all'istituzione e all'ufficiale, non al veicolo.
• Principio centrato sull’uomo: nessuna decisione finale sulla creazione/limitazione dei diritti viene presa senza il consenso umano.

tre mini custodie

Caso 1: prevenzione della perdita di dati in rosso. Un membro dello staff stava per caricare su uno strumento pubblico il riepilogo di un elenco di benefici sanitari per 1.200 persone. Grazie alla politica sui veicoli approvata dall'agenzia e alla formazione sui "dati rossi", si è fermato; I dati sono stati elaborati in un ambiente interno approvato e con campi di identità mascherati. È stata evitata una possibile violazione della KVKK e la perdita di fiducia di decine di migliaia di persone.

Caso 2 — Abuso. Un'unità desiderava utilizzare i dati raccolti per la sensibilizzazione per un piano di comunicazione pre-elettorale. Il responsabile della protezione dei dati ha ricordato il principio del rispetto dello scopo: si tratta di un utilizzo dei dati al di fuori dello scopo per il quale sono stati raccolti ed è illegale. La richiesta è stata respinta.

Caso 3: gap di governance chiuso. In un comune, diverse unità utilizzavano diversi strumenti di intelligenza artificiale senza controllo; Nessuno sapeva quali dati andassero dove. L'agenzia ha introdotto una politica di utilizzo dell'intelligenza artificiale, un elenco di veicoli approvati e una traccia di controllo; Nel giro di 3 mesi, l'utilizzo di veicoli non immatricolati è diminuito del 90% ed è stato creato un inventario dei dati.

Quattro modelli copiabili

1) Classificazione della regione dati (prima dell'esportazione nel veicolo):

Il tuo ruolo: consulente per la protezione dei dati. Classificare il seguente contenuto prima di consegnarlo ad un agente AI: ROSSO (identifica la persona, non entrare mai nel veicolo pubblico), GIALLO (collegabile indirettamente, maschera), VERDE (non personale, gratuito). Segna le aree rosse/gialle una per una e spiega loro come mascherare. Contare il sospetto come rosso. CONTENUTO: [testo]

2) Mascheramento/anonimizzazione:

Anonimizzare tutti i dati personali prima di elaborare il seguente testo: nome -> [PERSONA-1], numero ID -> [IDENTITÀ], indirizzo ->[INDIRIZZO], salute/sanzione -> [SENSITIVE]. Tagga la stessa persona. Esporta il testo anonimo separatamente. Non scrivere mai dati effettivi sull'output. TESTO: [testo]

3) Lista di controllo di conformità KVKK (per l'uso di un'intelligenza artificiale):

Il tuo ruolo: specialista della conformità KVKK. Produrre una lista di controllo di conformità per il seguente utilizzo dell'IA: (1) lo scopo del trattamento è legittimo e specifico, (2) è collegato allo scopo (sta passando a un altro scopo), (3) è ottimizzato, (4) lo strumento è sicuro/approvato, (5) il periodo di conservazione è certo, (6) i diritti dei cittadini (obiezione, cancellazione) sono protetti. Contrassegna gli elementi mancanti con una bandierina rossa. UTILIZZO: [ricetta]

4) Quadro politico aziendale sull’IA:

Il tuo ruolo: esperto di governance dell'IT pubblico. Produrre un quadro di policy sull'utilizzo dell'intelligenza artificiale per la nostra organizzazione: ambito, strumenti approvati, zone dati (rossa/gialla/verde), usi vietati, punti di approvazione umana, traccia di controllo, responsabilità, formazione e notifica di violazione. Completa ogni titolo con 1-2 frasi. ISTITUZIONE: [unità e lavori tipici]

Prompt debole / Prompt forte

Debole: "Riassumi questo elenco di riferimenti".

Forte: "Il tuo ruolo è quello di consulente per la protezione dei dati. Innanzitutto, classifica questo elenco per regione dati (rosso/giallo/verde) e contrassegna tutti i campi che identificano la persona. Maschera i campi rosso/giallo con [PERSONA]/[IDENTITÀ]/[SENSIBILE], mantieni la stessa persona con la stessa etichetta. Produci solo un riepilogo della categoria con dati anonimi e aggregati; non scrivere dati personali reali nell'output. Alla fine, nota dove questo processo richiede attenzione in termini di KVKK (scopo, conservazione, sicurezza del veicolo) aggiungi."

La differenza: il potente prompt classifica, maschera, minimizza e integra i principi KVKK prima di elaborare i dati.

Aree dati e regola

Regione

esempio

regola

rosso

Numero ID TR, salute, sanzione, indirizzo completo

Non entrare mai in un veicolo pubblico; ambiente approvato

giallo

Età+quartiere+occupazione, identificatore indiretto

Maschera/aggrega, quindi elabora

verde

Legislazione, statistica pubblica, procedura generale

lavoro freelance

Errori comuni

• Esportazione dei dati rossi nello strumento pubblico. La violazione più grave; I dati relativi a identità/salute/sanzioni non escono dall'ambiente approvato.
• Uso improprio. È contro la legge utilizzare i dati raccolti per uno scopo per un altro scopo (formazione di modelli, comunicazione) senza autorizzazione.
• Elaborazione di troppi dati. Non spostare campi non necessari (nome, indirizzo) allo scopo; Minimizzare.
• Guida senza approvazione. Non è chiaro dove finiscano i dati nei veicoli che l’istituzione non ha valutato.
• Non determinare il periodo di conservazione. I dati dovrebbero essere cancellati una volta completata la finalità; non dovrebbe essere conservato a tempo indeterminato.
• Mettere la responsabilità sul veicolo. L'output è posseduto e approvato dall'essere umano; “L’ha fatto l’IA” non è una difesa.

In sintesi

Il quadro di riferimento per un’IA pubblica responsabile è la protezione dei dati personali e la governance aziendale. I principi KVKK – intenzionalità, minimizzazione, sicurezza, limite di conservazione, diritti dei cittadini – limitano qualsiasi utilizzo dell’IA. Separare i dati in zone rosse/gialle/verdi, non dare mai il rosso a uno strumento pubblico, mascherare i dati personali, utilizzare solo strumenti approvati e collegare un proprietario umano a ogni decisione. Politica a livello istituzionale, elenco dei veicoli approvati, registro di formazione e ispezione; La disciplina della verifica a livello di persona. Pertanto, l’intelligenza artificiale è al servizio del pubblico proteggendo i diritti dei cittadini.

Compito dell'applicazione

Scegli un uso effettivo dell'IA che hai fatto (o stai pensando di fare) nella tua unità. Separa il contenuto che elaborerai in rosso/giallo/verde con il modello "Classificazione area dati". Applica il modello "Lista di controllo della conformità KVKK" e trova almeno un punto mancante/rischioso. Infine, elabora una breve politica adatta alla tua unità con lo "scheletro della politica aziendale AI".

lista di controllo

• [ ] Ho diviso il contenuto in zona rossa/gialla/verde; Ho considerato il sospettato rosso.
• [ ] Non ho fornito i dati rossi allo strumento pubblico; Ho utilizzato supporti approvati.
• [ ] Ho mascherato i dati personali e rimosso i campi non necessari (minimizzazione).
• [ ] Ho controllato lo scopo del trattamento, il periodo di conservazione e la sicurezza del veicolo.
• [ ] Ho rispettato i diritti di opposizione/cancellazione dei cittadini.
• [ ] Ho allegato un proprietario umano e l'approvazione a ciascun output; Ho tenuto una traccia di controllo.

Esame del modulo

1. In qualità di funzionario pubblico, qual è la migliore domanda prioritaria che dovresti porre prima di affidare un lavoro ad AI?

• A) Cosa perde il cittadino se questo output è sbagliato? ✔
• B) Quanto velocemente l'intelligenza artificiale può svolgere questo lavoro?
• C) Questo strumento di intelligenza artificiale è gratuito?
• D) Anche un'altra unità utilizzerà questa uscita?

Spiegazione: La decisione di trasferire viene presa in base al danno che il cittadino subirà se l'output non è corretto. Il danno viene facilmente trasferito se si tratta solo di pochi minuti di riscrittura; Se si tratta di un rifiuto ingiusto, di una sanzione sbagliata o di una perdita di diritti, l'AI produce solo un progetto, la decisione e la verifica spetta al funzionario.

2. Come si dice quando l'IA presenta come reale una legge inesistente o una decisione giudiziaria inventata?

• A) Memorizzazione nella cache
• B) Triage
• C) Anonimizzazione
• D) Allucinazioni ✔

Spiegazione: L'allucinazione si verifica quando l'intelligenza artificiale produce con sicurezza informazioni che in realtà non esistono (sostanza fabbricata, regolamento abrogato, numero sbagliato). In ambito legislativo questo è uno dei rischi più pericolosi, poiché può portare alla perdita dei diritti e all’annullamento dell’azione amministrativa.

3. Un funzionario sta per respingere la domanda sulla base di un articolo regolamentare segnalato da YZ. Qual è il comportamento più corretto?

• R) L'AI scrive direttamente il rifiuto perché sembra fiduciosa
• B) Fai la stessa domanda a un altro veicolo AI e ottieni conferma
• C) Conferma l'articolo dell'attuale testo consolidato su Çözüm.gov.tr ✔
• D) Chiede verbalmente la decisione ad un superiore

Descrizione: i dati di addestramento dell'IA vengono congelati a una determinata data; L'articolo riportato potrebbe essere stato abrogato o modificato. Confermare che l'articolo è in vigore e la sua versione finale dall'attuale testo consolidato su Çözüm.gov.tr ​​​​prima della decisione impedisce un rifiuto ingiusto e una possibile causa di annullamento.

4. Perché è una garanzia di qualità per un chatbot cittadino poter dire "Non lo so, ti trasferisco a un funzionario"?

• A) Migliora le statistiche aumentando il tasso di turnover
• B) Previene la disinformazione delegando le informazioni agli esseri umani in caso di incertezza ✔
• C) Allunga il tempo della chiamata distraendo i cittadini
• D) Consente al chatbot di ricevere meno domande

Spiegazione: in pubblico, una risposta sbagliata sicura è molto più costosa di una risposta onesta; Porta alla perdita dei diritti e alla sfiducia nei confronti delle istituzioni. La capacità del chatbot di passare il testimone all'essere umano in caso di incertezza è un meccanismo di sicurezza che impedisce la disinformazione allucinatoria.

5. Qual è il rischio più importante da considerare quando si "semplifica" la corrispondenza ufficiale con AI?

• A) Il testo è troppo breve
• B) Modifica del carattere
• C) Eliminazione di una condizione o eccezione ✔
• D) Ortografia errata del nome del destinatario

Spiegazione: L'adattamento stilistico non dovrebbe modificare il contenuto. Durante la semplificazione, l'intelligenza artificiale a volte elimina un'eccezione, una condizione o una durata. Pertanto, il testo semplificato dovrebbe sempre essere confrontato con la decisione o la legislazione originaria.

6. Nome e T.R. in un set di dati. Come si dice quando la combinazione 'quartiere + anno di nascita + tipo di disabilità' può rivelare una persona anche se il numero della carta d'identità è stato cancellato?

• A) Ridefinizione ✔
• B) Minimizzazione dei dati
• C) Tasso di copertura
• D) Consolidamento

Spiegazione: la reidentificazione consiste nel trovare una persona attraverso una combinazione di identificatori indiretti provenienti da dati ritenuti anonimi. Se in una sola persona viene ritrovata una categoria rara, non basterà cancellarne il nome; Sono necessarie misure aggiuntive, come la conversione dell’età in intervallo e la combinazione di categorie rare.

7. Come si dice quando un modello di ispezione contrassegna un quartiere che è stato pesantemente ispezionato in passato come "a rischio" e invia lì più ispezioni, il che spinge il modello a considerare quel quartiere come più rischioso?

• A) Minimizzazione dei dati
• B) Allucinazione
• C) Anonimizzazione
• D) Ciclo di feedback ✔

Spiegazione: il ciclo di feedback si verifica quando l'output del modello influenza i successivi dati di training, rafforzando i bias esistenti. La differenza non aumenta nel rischio reale, ma nel punto in cui si guarda. Il modo per proteggersi è monitorare l’impatto, non il risultato, e controllare la distribuzione delle decisioni a livello di gruppo.

8. Dopo che una richiesta di benefit è stata spostata interamente online, il numero di richieste è diminuito del 30% nel primo mese. Qual è la spiegazione più probabile per questo?

• A) I bisogni reali dei cittadini sono diminuiti
• B) I cittadini senza internet e senza alfabetizzazione digitale sono stati esclusi ✔
• C) Gli interessi sono diminuiti perché l'importo dell'aiuto è diminuito
• D) Il sistema ha approvato automaticamente tutte le domande

Descrizione: Il divario digitale è l'incapacità dei cittadini senza accesso a Internet o alfabetizzazione digitale di accedere ai servizi. Il numero diminuisce perché la fascia più bisognosa, gli anziani e i cittadini senza internet, non possono presentare domanda. La soluzione è lasciare canali alternativi, come punti di riferimento assistiti.

9. Mentre il tasso di successo effettivo in un rapporto annuale è del 63%, il riepilogo esecutivo prodotto da YZ afferma che "la stragrande maggioranza delle domande erano positive". Qual è il comportamento corretto?

• R) L'espressione viene lasciata così com'è perché è positiva.
• B) Il rapporto viene cancellato e viene utilizzata solo l'espressione qualitativa
• C) L'espressione viene sostituita con il numero reale 63 per cento ✔
• D) Il riepilogo viene completamente rimosso dal rapporto

Spiegazione: una percezione positiva esagerata nella relazione pubblica mette l'istituzione in una situazione difficile negli audit successivi. Ogni affermazione nella sintesi dovrebbe essere confrontata con i dati grezzi e dovrebbe essere scritto il numero effettivo (63%); I riepiloghi AI non sono inclusi nel rapporto senza essere sottoposti a verifica.

10. Quando si prendono decisioni basate sui dati nel settore pubblico, se il "numero di pratiche chiuse mensilmente" aumenta mentre il "tasso di risoluzione al primo contatto" diminuisce, cosa ci insegna innanzitutto questo?

• A) Scegliere l'indicatore giusto è più importante che moltiplicare il numero ✔
• B) Il numero del personale dovrebbe essere aumentato
• C) I grafici dovrebbero essere colorati
• D) Il chatbot dovrebbe rispondere a più domande

Spiegazione: l'indicatore sbagliato porta alla decisione sbagliata anche con dati corretti. I file possono essere chiusi e riaperti rapidamente. Scegliere l’indicatore giusto e leggere insieme gli indicatori impedisce di vantarsi basandosi solo su un numero fuorviante.

11. In un grafico, l'asse verticale inizia da 40 invece che da zero e un aumento del 2% sembra un salto drammatico. Quale problema è un esempio?

• A) Allucinazione
• B) Minimizzazione dei dati
• C) Divario digitale
• D) Visualizzazione ingannevole ✔

Spiegazione: la visualizzazione fuorviante sta distorcendo la percezione attraverso tecniche come l'asse che non inizia da zero, una scala sproporzionata o un periodo di tempo selezionato. Fa parte di un'onesta governance visiva dei dati pubblici; La tabella reale dovrebbe essere mostrata portando l'asse a zero.

12. Perché è inaccettabile dire "L'ha scritto AI" come giustificazione di un atto amministrativo?

• R) Perché gli strumenti di intelligenza artificiale sono troppo costosi
• B) L'azione amministrativa deve essere motivata e la responsabilità spetta al funzionario ✔
• C) Perché AI non conosce il turco
• D) Perché ai cittadini non piace l’IA

Spiegazione: l'azione amministrativa deve essere motivata e verificabile; La responsabilità non è dell’IA, ma del funzionario pubblico e dell’istituzione che utilizza l’output senza verificarlo. Il "lo ha detto l'AI" non costituisce una giustificazione e non sorregge l'azione amministrativa.

13. Quali sono i quattro principi che distinguono l’uso dell’IA nel settore pubblico da quello privato e che dovrebbero essere inoltre rispettati?

• A) Velocità, economicità, redditività, concorrenza
• B) Automazione, scala, marketing, marchio
• C) Uguaglianza, trasparenza, responsabilità, protezione dei dati personali ✔
• D) Privacy, riservatezza, privacy e riservatezza

Spiegazione: nelle opere in cui viene utilizzato il potere pubblico, l'intelligenza artificiale è inquadrata dai principi di uguaglianza (trattamento simile di una situazione simile), trasparenza (spiegabilità della giustificazione della decisione), responsabilità (responsabile di ogni transazione e traccia di controllo) e protezione dei dati personali (KVKK).

14. Cosa dovrebbe fare un sistema di preflight automatizzato quando non è sicuro di un tipo di documento raro?

• A) Rifiutare silenziosamente la domanda
• B) Inoltro della domanda al controllo umano ✔
• C) Approva automaticamente la domanda
• D) Eliminare l'applicazione

Spiegazione: una buona automazione indirizza il modello all'ufficiale quando non è sicuro invece di rifiutarlo silenziosamente. Altrimenti, le richieste legittime cadranno in un punto cieco e si verificherà la vittimizzazione. Mantenere le persone al punto decisionale è la base della gestione delle eccezioni.