Confidentialité, KVKK, éthique et principes professionnels

Gains :

• Capacité à classer et à anonymiser les données des étudiants dans le cadre du KVKK et des concepts spéciaux de données personnelles et à appliquer une sélection sûre des véhicules
• Capacité à adapter les principes de déontologie professionnelle du PDR (confidentialité, bienfaisance, non-malfaisance, autonomie) à l'usage de l'intelligence artificielle
• Capacité à reconnaître les préjugés, l'insensibilité culturelle et les hallucinations dans les résultats de l'intelligence artificielle et à créer une politique d'utilisation éthique

La confiance est au cœur du métier de PDR. Si un étudiant peut confier ses sentiments les plus intimes, ses proches et ses craintes à un spécialiste, c'est uniquement parce qu'il estime que ces informations seront protégées. Les outils d’intelligence artificielle posent un nouveau test sérieux à cette confiance : les données les plus sensibles peuvent devenir incontrôlables en une seule phrase. Dans cette unité, nous discutons systématiquement de la vie privée, de l'éthique professionnelle du KVKK, du PDR et de la manière dont elles s'appliquent à l'utilisation de l'intelligence artificielle. Nous avons appliqué ces principes pièce par pièce dans les unités précédentes ; Ici, nous allons le combiner dans son ensemble et en faire une politique permanente.

KVKK et types de données : quoi de plus protégé

KVKK (Loi sur la protection des données personnelles) est la loi qui réglemente le traitement licite des données personnelles. Deux concepts sont particulièrement importants. Les données personnelles sont toute information permettant d'identifier ou d'identifier une personne : nom, prénom, numéro d'école, classe, adresse, photographie. Les données personnelles spéciales sont un type de données sensibles qui nécessitent une protection plus élevée : santé, état mental, diagnostic, vie sexuelle, religion, origine ethnique, situation pénale. La majorité des enregistrements PDR entrent dans cette deuxième catégorie sensible ; parce que l’état mental, les problèmes familiaux et les antécédents de soutien sont des données directement privées. Cela signifie que les données PDR ne doivent jamais être saisies sous leur forme brute dans des outils publics.

En pratique, cela se traduit par trois règles : (1) Minimisation des données : travailler avec le moins de données nécessaire pour effectuer un travail. (2) Anonymisation : rendre les données impossibles à relier à l'individu en supprimant les informations personnellement identifiables. (3) Moyens sécurisés et limite de finalité : utilisez des outils d'entreprise sécurisés lorsque cela est possible et traitez les données uniquement aux fins pour lesquelles elles ont été collectées.

Attention : il ne suffit pas de dire « je l'ai anonymisé d'une manière ou d'une autre ». Même si un nom est omis dans un texte, une description unique de la situation (une situation très spécifique chez un seul élève dans une petite école) peut permettre d'identifier la personne. Dans l'anonymisation, généralisez non seulement le nom mais aussi les détails qui, ensemble, indiquent la personne.

Pratique d’anonymisation : une procédure de contrôle

Avant d'exporter un texte vers l'outil, suivez cette procédure : (a) Supprimez les identifiants directs tels que le nom, le prénom, le numéro, la branche de classe, le nom du parent, l'adresse, le téléphone, le nom de l'école. (b) Généraliser les descripteurs indirects : « un collégien » au lieu de « le seul élève malvoyant de 12-B ». (c) Flou la date et les détails de l'événement si nécessaire. (d) Post-lecture : « Quiconque lit ce texte peut-il savoir qui est mentionné ? » Si la réponse est vague, généralisez davantage. Le dossier authentifié est écrit uniquement dans le système fermé et sécurisé de l'institution ; L'outil d'IA est en dehors de ce système.

Éthique professionnelle PDR et IA

L’éthique professionnelle de PDR repose sur quatre principes fondamentaux dont chacun s’applique directement à l’usage de l’IA :

• Confidentialité (garder les secrets) : Les informations sur les étudiants sont protégées. Ne pas saisir de données brutes dans l’IA, les anonymiser et choisir un outil sécurisé est une exigence de ce principe.
• Bienfaisance : tout ce qui est fait doit servir au bien-être de l'étudiant. L’IA est utilisée pour des raisons de commodité, et non d’une manière qui pourrait compromettre les avantages pour l’étudiant.
• Non-malfaisance : La priorité est de ne pas nuire. Les résultats non vérifiés, les statistiques inexactes, l’étiquetage et l’utilisation de l’IA en cas de crise constituent des risques de préjudice ; par conséquent, la vérification et la limite de crise sont un impératif éthique.
• Autonomie : Le droit de l'étudiant de prendre sa propre décision est protégé. L’IA ne doit pas réduire l’élève à une étiquette ni prendre de décisions en son nom.

À cela s'ajoute la responsabilité : la responsabilité de chaque résultat utilisé incombe à l'expert ; « L’IA l’a produit » n’est pas un moyen de défense.

Biais, sensibilité culturelle et transparence

L'IA peut refléter les modèles sociaux dans les données de formation. En RDP, c’est une question d’équité : les résultats qui stéréotypent un étudiant en fonction de son sexe, de sa culture ou de son statut socio-économique compromettent l’égalité des chances. L’expert vérifie le contenu produit quant à sa sensibilité culturelle et ses préjugés. Transparence également : le cas échéant, il convient d'indiquer clairement en interne que l'IA a été utilisée dans la préparation d'un document ou d'un projet ; Il ne doit pas être utilisé comme une « magie » secrète. La confidentialité est essentielle dans la relation avec l'étudiant ; Ce que l’élève explique ne s’applique pas à un véhicule.

Pas à pas : établir une politique d’usage de l’IA

1. Classer les données. Séparez toutes les informations dont vous disposez comme « personnelles / privées / publiques ».
2. Sélectionnez le véhicule. Le seul outil d'entreprise sécurisé pour les données sensibles ; Travaillez de manière anonyme pour le plan général.
3. Suivez la procédure d'anonymisation. Exécutez la routine de vérification avant chaque entrée.
4. Validation et vérification des biais. Examinez chaque résultat pour en vérifier les faits et l’équité.
5. Maintenir la limite de crise. Gardez la relation de crise et de consultation hors du véhicule.
6. Assumez vos responsabilités et soyez transparent. L'approbation finale appartient à l'expert ; L'utilisation est ouverte au sein de l'organisation.

Modèles copiables

1) Contrôle d’anonymisation :

Votre rôle : assistant d'audit de confidentialité. Énumérez chaque énoncé dans le texte ci-dessous qui pourrait identifier DIRECTEMENT ou INDIRECTEMENT la personne (nom, numéro, classe, école, description unique de la situation) et suggérez une alternative plus générale pour chacun. Commenter le contenu.Texte : [coller le texte]

2) Audit de biais et de sensibilité culturelle :

Vérifiez le matériel PDR suivant pour détecter les préjugés et la sensibilité culturelle : contient-il des stéréotypes sur le genre, la culture, le statut socio-économique ou la structure familiale ? Qui peut exclure ? Signalez les déclarations à risque et suggérez des alternatives inclusives. Matériel : [coller le matériel]

3) Projet de politique d'utilisation de l'IA d'entreprise :

Votre rôle : Assistant de rédaction PDR. Pour le service d’orientation, rédiger une courte politique interne sur l’utilisation des outils d’intelligence artificielle. Rubriques : dans quels métiers elle est utilisée, dans quels métiers elle n'est pas utilisée (crise, diagnostic, consultation), règle d'anonymisation des données, obligation de vérification, responsabilité incombe à l'expert. Court et pertinent.

Invite faible/Invite forte

Faible :

Pour résumer la situation d'Ahmet Yılmaz 8-C, il était victime de violences à son domicile.

Il introduit les données les plus sensibles (nom, classe, statut spécial) dans le véhicule sous leur forme brute — une grave violation du KVKK et de l'éthique ; De plus, il peut s'agir d'une situation de notification (unité 9).

Fort :

Votre rôle : assistant de contrôle de la confidentialité. Remarque : j'ai anonymisé le texte ci-dessous avant de le soumettre à l'outil. Cependant, vérifiez à nouveau : reste-t-il des détails permettant d’identifier la personne ? Texte : "Un collégien a laissé entendre qu'il éprouvait des tensions à la maison."

trois mini-cases

Cas 1 — Divulgation indirecte. Un expert s'apprêtait à saisir dans l'outil un texte dont il avait omis le nom ; mais il s'est rendu compte que l'expression « le seul élève de l'école qui utilise un fauteuil roulant » faisait directement référence à cette personne. Il a généralisé cela à « un étudiant ». La création d’un nom ne suffisait pas à elle seule ; La description de la situation unique était également identificatoire.

Cas 2 — Correction du biais. Un expert qui a audité un document de carrière a découvert que l'IA utilisait toujours des noms masculins dans les exemples d'ingénierie et des noms féminins dans les professions de soins. Cela a équilibré les échantillons et brisé le moule. Cette correction en apparence mineure a préservé l’équité du message envoyé aux étudiants.

Cas 3 — Établir une politique. Un service d'orientation a créé un texte de politique interne commun pour éliminer la confusion résultant du fait que chacun utilise l'IA différemment : dans quelles tâches elle est utilisée, pas en cas de crise et de diagnostic, les données sont anonymisées, les résultats sont vérifiés, la responsabilité incombe à l'expert. AI a donné une ébauche ; L'équipe a finalisé le contenu avec ses propres valeurs. L’incertitude a cédé la place à un cadre clair.

Erreurs courantes

• Saisie de données brutes. Écrire au véhicule avec son nom/statut. Solution : procédure d'anonymisation, outil sécurisé.
• Je supprime simplement le nom. Oublier les identifiants indirects. Solution : généralisez également les détails uniques.
• Ignorer les préjugés. Adopter une sortie stéréotypée. Solution : audit des préjugés et de la culture.
• Mettre la responsabilité sur le véhicule. Cela signifie "l'IA l'a produit". Solution : la responsabilité incombe à l'expert.
• Abuser. Traitement des données collectées dans un but pour un autre but. Solution : respecter la limite de finalité.

Tableau : Type de données et règle IA

Type de données

exemple

Règle d'IA

publique

Présentation générale du métier

disponible gratuitement

données personnelles

Nom, numéro, classe

Ne peut être saisi sans anonymisation

Données de qualité spéciale

État mental, famille, diagnostic

Il ne peut jamais être saisi sous sa forme brute.

données de crise

Risque, abus, suicide

Ne jamais entrer dans le véhicule (unité 9)

En résumé

En PDR, la confidentialité est le fondement de la confiance dans la profession et le principe le plus éprouvé à l’ère de l’IA. KVKK sépare les données en données personnelles et privées ; La plupart des données PDR sont sensibles et ne sont pas saisies dans l'outil sous leur forme brute. La minimisation des données, l'anonymisation (avec identifiants directs et indirects) et la sélection sécurisée des outils sont les règles de base. Les quatre principes de l’éthique professionnelle – confidentialité, bienfaisance, non-malfaisance, autonomie – sont contraignants pour l’utilisation de l’IA ; Les biais sont contrôlés, la responsabilité incombe à l'expert et l'utilisation est transparente au sein de l'organisation.

Tâche de candidature

Rédigez une brève « Politique d'utilisation de l'IA » pour votre propre service d'orientation. Prenez une longueur d'avance avec le modèle « Projet de politique d'utilisation de l'IA d'entreprise » ; Ajustez-le ensuite en fonction de la réalité de votre propre institution. Faites également passer un texte (fictif) via le modèle « contrôle d'anonymisation » et capturez et généralisez au moins un identifiant indirect.

liste de contrôle

• [ ] J'ai classé les données dont je dispose comme personnelles / privées / publiques.
• [ ] J'ai généralisé les identifiants directs et indirects dans l'anonymisation.
• [ ] J'ai utilisé un outil sécurisé/d'entreprise pour les données sensibles.
• [ ] J'ai vérifié le résultat pour détecter les biais et la sensibilité culturelle.
• [ ] J'ai accepté la responsabilité et j'ai gardé l'utilisation transparente.