KVKK, Confidentialité et gouvernance responsable de l’intelligence artificielle publique

Gains :

• Il applique les principes du KVKK et la minimisation des données lors du traitement des données personnelles des citoyens dans les outils d'IA.
• Il établit un cadre de gouvernance pour une organisation qui comprend une politique d'utilisation de l'IA, une piste d'audit et une chaîne de responsabilité.
• Il soutient de manière globale que l’IA publique responsable repose sur la surveillance humaine, la transparence et la responsabilité.

Tout au long de ce module, nous avons vu à quel point l'IA est un puissant accélérateur dans le public : réponse aux questions des citoyens, pétitions et correspondance, recherche législative, analyse politique, reporting, prise de décision basée sur les données, e-gouvernement et transparence. Venons-en maintenant au cadre qui maintient tout cela ensemble : la protection des données personnelles et une gouvernance responsable. Public, de par sa nature, traite les données les plus sensibles du citoyen : identité, adresse, revenus, santé, casier judiciaire, situation familiale. Le traitement de ces données avec des outils d'IA doit être pleinement conforme au cadre du KVKK (loi sur la protection des données personnelles n° 6698 ; la loi réglementant le traitement licite, limité et sécurisé des données personnelles). Dans cette dernière unité, nous établirons l’épine dorsale de la confidentialité et de la gouvernance de l’utilisation publique de l’IA : quelles données peuvent être transmises à quel outil, quelles politiques s’appliquent, qui est responsable, comment une organisation gère l’IA en toute sécurité. Cette unité est le toit posé sur les dix unités précédentes.

Principes de base du KVKK touchant l'IA publique

Le KVKK énonce plusieurs principes de base, dont chacun limite directement l’utilisation de l’IA :

• Respect de la loi et respect de la finalité : Les données personnelles sont traitées uniquement pour une finalité déterminée et légitime. Les données collectées dans un but (par exemple, demander de l'aide) ne peuvent pas être utilisées à d'autres fins (par exemple, former un modèle) sans autorisation.
• Minimisation des données : seules les données nécessaires à la finalité sont traitées. Si un nom n’est pas requis pour une analyse de catégorie, aucun nom n’est donné.
• Sécurité : Les données sont protégées contre tout accès non autorisé. Coller les données des citoyens dans un outil public d’IA revient à transférer ces données hors de l’organisation – c’est une violation de la politique de sécurité.
• Durée de conservation : Les données sont supprimées à la fin de la finalité ; Il ne se conserve pas indéfiniment.
• Informations et droits : Les citoyens ont le droit de savoir comment leurs données sont traitées, de les corriger, de les supprimer et de s'opposer aux décisions automatisées.

Attention : le téléchargement des données d'un citoyen vers un outil public d'IA que l'institution n'a pas approuvé, où les données sont stockées et qui y a accès n'est pas clair, constitue dans la plupart des cas une violation du KVKK et expose l'institution à des sanctions. Les règles ne sont jamais contournées « pour faciliter la tâche ».

Quelles données, vers quel véhicule ? Modèle à trois zones

En règle générale, divisez les données en trois régions :

1. Rouge (n'entre jamais dans un véhicule public) : numéro d'identification, numéro de santé, criminel, religion, origine ethnique, biométrie, adresse complète, tout ce qui identifie la personne. Ceux-ci sont traités uniquement dans un environnement contractuel/interne et conforme au KVKK approuvé par l'institution.
2. Jaune (avec précaution, en masquant) : Données pouvant être indirectement liées à la personne. Anonymisez/regroupez d’abord, puis traitez.
3. Vert (gratuit) : Information impersonnelle, publique, générale (texte législatif, statistiques publiques, procédure générale). Vous pouvez facilement les traiter avec l’IA.

Astuce : Avant de donner un texte à l’IA, faites le test de 5 secondes : « Y a-t-il quelque chose dans ce contenu qui pourrait identifier une personne ? Si la réponse est « oui/peut-être », portez un masque ou conduisez un véhicule homologué. En cas de doute, pensez au rouge.

Gouvernance d’entreprise : de la personne au système

Une IA publique responsable ne peut pas être laissée au bon vouloir des fonctionnaires individuels ; Un cadre institutionnel est nécessaire :

• Politique : L'institution doit avoir une politique d'utilisation de l'IA : quels outils sont approuvés, quelles données peuvent être saisies, qui est responsable.
• Liste d'outils approuvés : le personnel doit utiliser les outils que l'établissement a évalués et approuvés, et non au hasard.
• Formation : Le personnel doit connaître la discipline de vérification et les régions de données (comme ce module).
• Enregistrement et audit : une piste d'audit des décisions produites avec l'IA doit être conservée.
• Responsabilité : chaque résultat alimenté par l'IA doit avoir un propriétaire et une approbation humains. La responsabilité incombe à l'établissement et à l'agent, et non au véhicule.
• Principe centré sur l’humain : Aucune décision finale créatrice/restreignant des droits n’est prise sans le consentement humain.

trois mini-cases

Cas 1 — Fuite de données rouge évitée. Un membre du personnel était sur le point de télécharger un résumé d’une liste de bienfaits pour la santé de 1 200 personnes sur un outil public. Grâce à la politique automobile approuvée par l'agence et à la formation « données rouges », il s'est arrêté ; Les données ont été traitées dans un environnement interne approuvé et avec des champs d'identité masqués. Une éventuelle violation du KVKK et une perte de confiance de dizaines de milliers de personnes ont été évitées.

Cas 2 — Utilisation abusive. Une unité souhaitait utiliser les données collectées à des fins de sensibilisation pour un plan de communication préélectoral. Le délégué à la protection des données a rappelé le principe du respect de la finalité : il s'agit d'une utilisation des données en dehors de la finalité pour laquelle elles ont été collectées et qui est illicite. La demande a été refusée.

Cas 3 — Écart de gouvernance comblé. Dans une municipalité, différentes unités utilisaient différents outils d’IA sans contrôle ; Personne ne savait quelles données allaient où. L'agence a introduit une politique d'utilisation de l'IA, une liste de véhicules approuvés et une piste d'audit ; En 3 mois, l'utilisation de véhicules non immatriculés a diminué de 90 % et un inventaire de données a été créé.

Quatre modèles copiables

1) Classification des régions de données (avant exportation vers le véhicule) :

Votre rôle : conseiller en protection des données. Classez le contenu suivant avant de le confier à un agent IA : ROUGE (identifie la personne, ne monte jamais dans un véhicule public), JAUNE (indirectement connectable, masque), VERT (non personnel, gratuit). Marquez les zones rouges/jaunes une par une et dites-leur comment masquer. Comptez le suspect comme rouge. CONTENU : [texte]

2) Masquage/anonymisation :

Anonymisez toutes les données personnelles avant de traiter le texte suivant : nom -> [PERSON-1], numéro d'identification -> [IDENTITÉ], adresse -> [ADRESSE], état de santé/sanction -> [SENSIBLE]. Identifiez la même personne. Exportez le texte anonymisé séparément. N'écrivez jamais de données réelles sur la sortie. TEXTE : [texte]

3) Liste de contrôle de conformité KVKK (pour l'utilisation d'une IA) :

Votre rôle : spécialiste de la conformité KVKK. Produire une liste de contrôle de conformité pour l'utilisation suivante de l'IA : (1) la finalité du traitement est-elle légitime et spécifique, (2) est-elle liée à la finalité (est-elle déplacée vers une autre finalité), (3) est-elle optimisée, (4) l'outil est-il sécurisé/approuvé, (5) la durée de conservation est-elle certaine, (6) les droits des citoyens (opposition, suppression) sont-ils protégés. Marquez les éléments manquants avec un drapeau rouge. UTILISATION : [recette]

4) Cadre politique d’entreprise en matière d’IA :

Votre rôle : expert en gouvernance informatique publique. Produire un cadre politique d'utilisation de l'IA pour notre organisation : portée, outils approuvés, zones de données (rouge/jaune/vert), utilisations interdites, points d'approbation humaine, piste d'audit, responsabilités, formation et notification de violation. Remplissez chaque titre avec 1 à 2 phrases. INSTITUTION : [unité et emplois types]

Invite faible/Invite forte

Faible : « Résumez cette liste de références. »

Fort : "Votre rôle est celui de consultant en protection des données. Tout d'abord, classez cette liste par région de données (rouge/jaune/vert) et marquez tous les champs qui identifient la personne. Masquez les champs rouge/jaune avec [PERSON]/[IDENTITY]/[SENSITIVE], conservez la même personne avec la même étiquette. Produisez uniquement un résumé de catégorie avec des données anonymisées et agrégées ; n'écrivez pas de données personnelles réelles dans la sortie. À la fin, notez où ce processus nécessite une attention en termes de KVKK (objectif, stockage, sécurité du véhicule). ajouter."

La différence : l'invite puissante classe, masque, minimise et intègre les principes KVKK avant de traiter les données.

Régions de données et règle

Région

exemple

règle

rouge

Numéro d'identification TR, état de santé, pénalité, adresse complète

Ne montez jamais dans un véhicule public ; environnement agréé

jaune

Âge+quartier+profession, identifiant indirect

Masquer/agréger, puis traiter

vert

Législation, statistiques publiques, procédure générale

travail indépendant

Erreurs courantes

• Exportation des données rouges vers un outil public. La violation la plus grave ; Les données d’identification/santé/pénalité ne quittent pas l’environnement approuvé.
• Abuser. Il est illégal d'utiliser les données collectées dans un but dans un autre but (formation de modèles, communication) sans autorisation.
• Traiter trop de données. Ne déplacez pas les champs inutiles (nom, adresse) à cet effet ; Minimiser.
• Conduite sans autorisation. On ne sait pas exactement où vont les données dans les véhicules que l’institution n’a pas évalués.
• Ne pas déterminer la durée de conservation. Les données doivent être supprimées une fois la finalité atteinte ; ne doit pas être conservé indéfiniment.
• Mettre la responsabilité sur le véhicule. Le résultat appartient et est approuvé par l’humain ; « L’IA l’a fait » n’est pas un moyen de défense.

En résumé

Le cadre d’une IA publique responsable est la protection des données personnelles et la gouvernance d’entreprise. Les principes du KVKK – détermination, minimisation, sécurité, limite de conservation, droits des citoyens – limitent toute utilisation de l'IA. Séparez les données en zones rouge/jaune/vert, ne donnez jamais de rouge à un outil public, masquez les données personnelles, utilisez uniquement des outils approuvés et connectez un propriétaire humain à chaque décision. Politique au niveau institutionnel, liste des véhicules approuvés, dossier de formation et d'inspection ; La discipline de la vérification au niveau de la personne. Ainsi, l’IA sert le public en protégeant les droits des citoyens.

Tâche de candidature

Choisissez une utilisation réelle de l’IA que vous avez faite (ou envisagez de faire) dans votre unité. Séparez le contenu que vous allez traiter en rouge/jaune/vert avec le modèle « Classification des régions de données ». Appliquez le modèle « Liste de contrôle de conformité KVKK » et trouvez au moins un point manquant/à risque. Enfin, rédigez une courte politique adaptée à votre unité avec le « Squelette de politique d'entreprise en matière d'IA ».

liste de contrôle

• [ ] J'ai divisé le contenu en zone rouge/jaune/verte ; J'ai compté le suspect comme étant rouge.
• [ ] Je n'ai pas fourni les données rouges à l'outil public ; J'ai utilisé des supports approuvés.
• [ ] J'ai masqué les données personnelles et supprimé les champs inutiles (minimisation).
• [ ] J'ai vérifié la finalité du traitement, la durée de stockage et la sécurité du véhicule.
• [ ] J'ai respecté les droits d'opposition/suppression des citoyens.
• [ ] J'ai attaché un propriétaire humain et une approbation à chaque sortie ; J'ai gardé une piste d'audit.

Examen de module

1. En tant qu’agent public, quelle est la question prioritaire que vous devriez poser avant de confier un poste à AI ?

• A) Que perd le citoyen si ce résultat est erroné ? ✔
• B) À quelle vitesse l’IA peut-elle faire ce travail ?
• C) Cet outil d'IA est-il gratuit ?
• D) Une autre unité utilisera-t-elle également cette sortie ?

Explication : La décision de transfert est prise en fonction du préjudice que subira le citoyen si le résultat est incorrect. Les dégâts sont facilement transférés s'il ne s'agit que de quelques minutes de réécriture ; S'il s'agit d'un rejet injuste, d'une sanction erronée ou d'une perte de droits, AI ne produit qu'un projet, la décision et la vérification appartiennent au fonctionnaire.

2. Comment s’appelle-t-on lorsqu’IA présente une loi inexistante ou une décision de justice fabriquée comme réelle ?

• A) Mise en cache
• B) Triage
• C) Anonymisation
• D) Hallucinations ✔

Explication : L'hallucination se produit lorsque l'IA produit en toute confiance des informations qui n'existent pas réellement (substance fabriquée, réglementation abrogée, numéro erroné). Dans le domaine législatif, c'est l'un des risques les plus dangereux, car il peut conduire à la perte des droits et à l'annulation de l'action administrative.

3. Un agent est sur le point de rejeter la demande sur la base d'un article du règlement signalé par YZ. Quel est le comportement le plus correct ?

• A) L'IA écrit directement le rejet car elle semble confiante
• B) Posez la même question à un autre véhicule IA et obtenez une confirmation
• C) Confirme l'article du texte consolidé actuel sur Çözüm.gov.tr ✔
• D) Demande verbalement la décision à un supérieur

Description : Les données d'entraînement de l'IA sont gelées à une certaine date ; L'article qu'il montre peut avoir été abrogé ou modifié. Confirmer que l'article est en vigueur et sa version finale à partir du texte consolidé actuel sur Çözüm.gov.tr ​​​​avant la décision évite un rejet injuste et une éventuelle action en annulation.

4. Pourquoi un chatbot citoyen peut-il dire « Je ne sais pas, je vous transfère à un fonctionnaire » ?

• A) Améliore les statistiques en augmentant le taux de rotation
• B) Empêche la désinformation en déléguant des informations à des humains en cas de doute ✔
• C) Prolonge le temps d'appel en distrayant les citoyens
• D) Permet au chatbot de recevoir moins de questions

Explication : En public, une mauvaise réponse confiante coûte beaucoup plus cher qu’une réponse honnête ; Cela entraîne une perte de droits et une méfiance à l’égard de l’institution. La capacité du chatbot à passer le relais à l’humain en cas de doute est un mécanisme de sécurité qui empêche la désinformation hallucinatoire.

5. Quel est le risque le plus important à prendre en compte lors de la « simplification » de la correspondance officielle avec AI ?

• A) Le texte est trop court
• B) Changer la police
• C) Supprimer une condition ou une exception ✔
• D) Mauvaise orthographe du nom du destinataire

Explication : L'adaptation stylistique ne doit pas modifier le contenu. En simplifiant, l’IA supprime parfois une exception, une condition ou une durée. Par conséquent, le texte simplifié doit toujours être comparé à la décision ou à la législation originale.

6. Nom et T.R. dans un ensemble de données. Comment appelle-t-on lorsque la combinaison « quartier + année de naissance + type de handicap » peut révéler une personne même si le numéro d'identification a été supprimé ?

• A) Redéfinition ✔
• B) Minimisation des données
• C) Taux de couverture
• D) Consolidation

Explication : La réidentification consiste à retrouver une personne grâce à une combinaison d'identifiants indirects issus de données considérées comme anonymes. Si une catégorie rare est trouvée chez une seule personne, la suppression du nom ne suffira pas ; Des mesures supplémentaires sont nécessaires, telles que la conversion de l’âge en tranche et la combinaison de catégories rares.

7. Comment s'appelle-t-on lorsqu'un modèle d'inspection marque un quartier qui a été fortement inspecté dans le passé comme « à risque » et y envoie davantage d'inspections, ce qui pousse le modèle à considérer ce quartier comme plus à risque ?

• A) Minimisation des données
• B) Hallucinations
• C) Anonymisation
• D) Boucle de rétroaction ✔

Explication : la boucle de rétroaction se produit lorsque la sortie du modèle affecte les données d'entraînement ultérieures, renforçant les biais existants. La différence n’augmente pas dans le risque réel, mais dans l’endroit où l’on regarde. La manière de se protéger est de surveiller l’impact, et non le résultat, et de contrôler la répartition des décisions au sein du groupe.

8. Après qu'une demande de prestations ait été entièrement mise en ligne, le nombre de demandes a chuté de 30 % au cours du premier mois. Quelle est l’explication la plus probable à cela ?

• A) Les besoins réels des citoyens ont diminué
• B) Les citoyens sans Internet et sans culture numérique ont été exclus ✔
• C) Les intérêts ont diminué parce que le montant de l'aide a diminué
• D) Le système a automatiquement approuvé toutes les candidatures

Description : La fracture numérique est l'incapacité des citoyens sans accès à Internet ni connaissances numériques d'accéder aux services. Ce nombre diminue parce que le groupe le plus nécessiteux, les personnes âgées et les citoyens sans Internet, ne peuvent pas postuler. La solution est d’abandonner les canaux alternatifs, tels que les points de référence assistés.

9. Alors que le taux de réussite réel dans un rapport annuel est de 63 pour cent, le résumé produit par YZ indique que « la grande majorité des candidatures étaient positives ». Quel est le comportement correct ?

• A) L’expression est laissée telle quelle car elle est positive.
• B) Le ratio est supprimé et seule l'expression qualitative est utilisée
• C) L'expression est remplacée par le nombre réel 63 pour cent ✔
• D) Le résumé est complètement supprimé du rapport

Explication : Une perception positive exagérée dans le rapport public place l'institution dans une situation difficile lors des audits ultérieurs. Chaque affirmation du résumé doit être comparée aux données brutes et le nombre réel (63 %) doit être écrit ; Les résumés d’IA ne sont pas inclus dans le rapport sans avoir été audités.

10. Lorsque l'on prend des décisions basées sur des données dans le secteur public, si le « nombre de dossiers clôturés mensuellement » augmente alors que le « taux de résolution au premier contact » diminue, qu'est-ce que cela nous apprend en premier ?

• A) Choisir le bon indicateur est plus important que multiplier le nombre ✔
• B) Le nombre de personnels devrait être augmenté
• C) Les graphiques doivent être colorés
• D) Le chatbot devrait répondre à plus de questions

Explication : Un mauvais indicateur conduit à une mauvaise décision même avec des données correctes. Les fichiers peuvent être rapidement fermés et rouverts. Choisir le bon indicateur et lire les indicateurs ensemble évite de se vanter uniquement sur la base d’un chiffre trompeur.

11. Dans un graphique, l'axe vertical commence à 40 au lieu de zéro et une augmentation de 2 % ressemble à un saut spectaculaire. Quel est le problème ?

• A) Hallucinations
• B) Minimisation des données
• C) Fracture numérique
• D) Visualisation trompeuse ✔

Explication : Une visualisation trompeuse déforme la perception grâce à des techniques telles qu'un axe ne partant pas de zéro, une échelle disproportionnée ou une période de temps sélectionnée. Cela fait partie d’une gouvernance visuelle honnête des données publiques ; Le vrai tableau doit être affiché en tirant l'axe vers zéro.

12. Pourquoi est-il inacceptable de dire « AI a écrit cela » pour justifier une mesure administrative ?

• A) Parce que les outils d’IA sont trop chers
• B) L'action administrative doit être justifiée et la responsabilité incombe au fonctionnaire ✔
• C) Parce qu'IA ne connaît pas le turc
• D) Parce que les citoyens n’aiment pas l’IA

Explication : L’action administrative doit être motivée et vérifiable ; La responsabilité n’incombe pas à l’IA, mais à l’agent public et à l’institution qui utilise le résultat sans le vérifier. « L'IA l'a dit » n'est pas une justification et ne soutient pas l'action administrative.

13. Quels sont les quatre principes qui distinguent l’utilisation de l’IA dans le secteur public du secteur privé et qui devraient en outre être respectés ?

• A) Rapidité, bon marché, rentabilité, concurrence
• B) Automatisation, échelle, marketing, marque
• C) Égalité, transparence, responsabilité, protection des données personnelles ✔
• D) Vie privée, confidentialité, vie privée et confidentialité

Explication : Dans les travaux où la puissance publique est utilisée, l'IA est encadrée par les principes d'égalité (traitement similaire d'une situation similaire), de transparence (explicabilité de la justification de la décision), de responsabilité (responsable de chaque transaction et piste d'audit) et de protection des données personnelles (KVKK).

14. Que doit faire un système de contrôle en amont automatisé lorsqu'il n'est pas sûr d'un type de document rare ?

• A) Pour rejeter la demande en silence
• B) Transmission de la demande à un examen humain ✔
• C) Approuver automatiquement la candidature
• D) Supprimer l'application

Explication : Une bonne automatisation dirige le modèle vers l'agent en cas de doute plutôt que de le rejeter silencieusement. Autrement, les applications légitimes tomberont dans un angle mort et des victimisations se produiront. Garder les gens au point de décision est la base de la gestion des exceptions.