Intégration de bout en bout : politique d'utilisation éthique de l'IA

Gains :

• Capacité à créer une politique écrite et applicable d'utilisation de l'intelligence artificielle et un flux de décision pour un cabinet ou une institution de psychologie
• Capacité à combiner les disciplines relatives aux limites, à la vérification, à la confidentialité et aux préjugés apprises tout au long du module en un seul système de contrôle
• Capacité à expliquer de manière transparente l’utilisation de l’intelligence artificielle au client et à maintenir l’éthique professionnelle et la responsabilité

Tout au long de ce module, vous avez appris à utiliser l'intelligence artificielle (IA) dans différentes parties du travail en psychologie : revue de la littérature, aide à l'interprétation des échelles, notation des séances, psychoéducation, analyse de la recherche, vérification des biais, front de crise, outils numériques et développement professionnel. Il y avait trois principes récurrents dans chaque unité : délimitation, vérification, confidentialité. Dans cette dernière unité, nous distillerons ces principes en un seul système : une politique d’utilisation de l’IA écrite et applicable. Une politique n’est pas une intention vague du type « J’essaie d’utiliser l’IA pour de bon » ; Il s’agit d’un ensemble de règles concrètes que chacun suit, qui peuvent être auditées et dont vous pouvez rendre compte au client. Que vous travailliez seul ou en institution, cette politique est un cadre qui vous protège ainsi que votre client.

Pourquoi une politique écrite est essentielle

Les règles non écrites sont appliquées de manière incohérente. Un jour, les données sont anonymisées, un jour chargé, vous pouvez les oublier ; Même si un expert peut utiliser l’IA correctement, un collègue peut l’utiliser de manière incorrecte. La politique écrite garantit trois choses : la cohérence (tout le monde suit les mêmes règles), la responsabilité (si quelque chose ne va pas, ce qui a été fait et comment est clair) et la transparence (vous pouvez expliquer clairement au client comment vous utilisez l'IA). En termes d'éthique professionnelle et du KVKK, "Nous avons utilisé l'IA mais n'avons pas écrit comment nous la contrôlions" est une position intenable.

Attention : une politique en matière d'IA est là pour maintenir les limites, pas pour les assouplir. Des clauses telles que « Détendez la confidentialité pour plus de rapidité », « Redirection vers un bot en cas d'urgence » décrivent une source de risque, pas une politique. Une bonne politique institutionnalise la bonne voie, et non la facilité.

Six éléments de base d'une politique

composant

Ce qui définit

Base sur le module

Domaines d'utilisation

Dans quelles tâches l'IA est-elle utilisée (zone verte/jaune)

Unité 1

zones réglementées

Là où l’IA ne sera jamais utilisée (diagnostic, décision de crise)

Unité 1, 4, 9

Règle de données

Anonymisation et sélection d'outils

Unité 2

règle de validation

Comment confirmer chaque sortie

Unité 3, 5, 7

Préjugés et langage

Justice et contrôle de la stigmatisation

Unité 8

transparence

Comment informer le client

Unité 2, 12

Étape par étape : établir votre propre politique

1. Créez un inventaire des tâches. Répertoriez toutes les tâches pour lesquelles l’IA peut être utilisée dans la pratique ; placez chacun dans la zone verte/jaune/rouge.
2. Clarifiez la liste des interdictions. Écrivez clairement la zone rouge (diagnostic, décision de risque, intervention de crise, décision de traitement/médicament) comme étant interdite.
3. Écrivez la règle de données. Quelles données sont anonymisées, quels outils sont approuvés, quels paramètres sont obligatoires.
4. Définir les étapes de vérification. Rédigez les étapes de confirmation obligatoires pour chaque type de sortie (source, notes, analyse).
5. Préparez le texte transparent. Incluez l'utilisation de l'IA dans le texte d'information de votre client.
6. Établissez un calendrier de révision. Mettre à jour la politique périodiquement (par exemple tous les 6 mois) ; Changement de technologie et de législation.

Conseil : La meilleure façon de tester votre stratégie consiste à exécuter les tâches d'une journée réelle via la stratégie, une par une. Pour chaque tâche, « ai-je suivi cette règle ? » Si vous pouvez répondre clairement à la question, la politique fonctionne ; Si vous dites « en fonction de la situation », cette clause devrait être rédigée plus clairement.

Transparence envers le client

Le client a le droit de savoir quel rôle l’IA joue dans son processus. Mais cela doit être expliqué honnêtement, sans effrayer le client : « J'utilise des outils d'intelligence artificielle dans certains travaux administratifs et de rédaction (comme l'édition de notes, la préparation de matériel) ; j'anonymise vos données et je prends toujours des décisions de diagnostic, d'évaluation et de traitement. Cette déclaration est à la fois une obligation éthique et une honnêteté qui renforce la confiance. Si le client s'y oppose, son choix est respecté.

trois mini-cases

Cas 1 — Protection du contrat. Un nouveau stagiaire dans une clinique est sur le point de coller une note client dans un outil d'IA sans la rendre anonyme. Étant donné que la politique écrite de la clinique stipule que « les données brutes des clients ne sont saisies dans aucun outil d'IA ; elles sont d'abord anonymisées » et que cette politique est signée au début du travail, le stagiaire s'arrête et fait le bon pas. Sans cette politique, il y aurait une atteinte à la vie privée. La règle écrite est le filet de sécurité qui entre en jeu lorsque les bonnes intentions sont oubliées.

Cas 2 — La transparence renforce la confiance. Lors du premier rendez-vous, un expert explique honnêtement son utilisation de l’IA à son client : ce qu’il utilise, comment les données sont protégées, les décisions lui appartiennent. Le client est nerveux au début, mais lorsqu’il entend l’explication, il se détend et sa confiance augmente. La transparence fonctionne comme une honnêteté qui renforce la confiance, et non comme une faiblesse qui doit être cachée.

Cas 3 — Activation de la liste interdite. À la fin d'une journée fatigante, un spécialiste souhaite que l'IA « interroge » sur le risque d'un client. L'article de la politique de l'institution, "Les décisions en matière de crise et de risque ne peuvent pas être demandées à l'IA ; l'expert les évalue directement et si nécessaire, la ligne de supervision/d'urgence est consultée" me vient à l'esprit. L'expert s'arrête et fait ce qu'il faut. La liste des interdictions de la politique est un point d'ancrage qui vous rappelle la bonne décision même au moment le plus fatigué.

Invites et modèles copiables

Rédiger une POLITIQUE D’UTILISATION DE L’INTELLIGENCE ARTIFICIELLE pour un cabinet de psychologie. Disons les six sections suivantes : 1) domaines d'utilisation autorisés, 2) domaines interdits (diagnostic, décision de crise, décision de traitement), 3) règle de données/anonymisation, 4) étapes de vérification, 5) biais et contrôle de la langue, 6) transparence envers le client. Rédigez les règles de manière claire et exécutoire ; ajouter de la substance qui assouplit les frontières.

Divisez la liste de tâches suivante en zones à risque vert/jaune/rouge et rédigez une règle politique en une phrase pour chacune (qui le fait, comment est-elle vérifiée). Quêtes : [liste des tâches]

Rédigez un paragraphe à ajouter au texte d'information du client, expliquant honnêtement et sans intimidation l'utilisation de l'intelligence artificielle : dans quels emplois elle est utilisée, si les données sont anonymisées, que les décisions de diagnostic/traitement appartiennent au spécialiste et le droit du client de s'y opposer.

Consultez ce projet de politique d'utilisation de l'IA : protège-t-il correctement les limites, les zones interdites sont-elles claires, les étapes de confidentialité et d'authentification sont-elles terminées, y a-t-il une transparence pour le client ? Signalez les éléments faibles ou à risque. Politique : [projet]

Invite faible/Invite forte

Invite faible : "Écrivez-nous une politique qui facilite l'utilisation de l'IA."

L’accent mis sur « l’habilitation » pousse AI à proposer des clauses qui assouplissent les frontières ; alors que le but de la politique n’est pas la commodité mais la protection et la responsabilité.

Invite forte : "Rédigez une politique d'utilisation de l'IA qui maintient les limites, délimite clairement les zones interdites (diagnostic, crise, décision de traitement), exige des étapes de confidentialité et de vérification et inclut la transparence envers le client. L'objectif n'est pas d'assouplir l'utilisation, mais de la rendre sûre et responsable."

Cette invite oriente la politique vers le bon objectif (protection) ; La sortie devient une image contrôlable.

Erreurs courantes

• Je n’écris pas du tout de politique. Garder les règles à l’esprit et les appliquer de manière incohérente ; C'est l'erreur la plus courante.
• Mettre en place une clause qui assouplit les frontières. Introduire des règles telles que « Détendez la confidentialité pour plus de rapidité » dans la politique.
• Laisser la liste des interdictions vague. Ne pas écrire clairement que les décisions de diagnostic/crise/traitement sont interdites.
• Sauter la transparence. Ne pas informer du tout le client sur l’utilisation de l’IA.
• Ne pas mettre à jour la politique. Continuer avec les anciennes règles à mesure que la technologie et la législation évoluent.

En résumé

Les trois principes de ce module (limite, authentification, confidentialité) se combinent dans une politique d'utilisation de l'IA écrite et exécutoire. Une bonne politique comprend six éléments : zones d'utilisation autorisées, zones interdites (diagnostic, crise, décision de traitement), règle d'anonymisation des données, étapes de vérification, contrôle des biais et du langage, transparence envers le client. La politique existe pour maintenir les frontières, pas pour les assouplir ; Assure la cohérence, la responsabilité et la transparence. Expliquez honnêtement l'utilisation de l'IA au client et mettez régulièrement à jour la politique. L’IA s’accélère ; La responsabilité, la décision et l’éthique vous appartiennent toujours.

Tâche de candidature

Rédigez une politique d'utilisation de l'IA d'une page pour votre propre cabinet ou institution. Remplissez les six composants (champs autorisés, champs interdits, règle de données, vérification, biais/langage, transparence). Ensuite, exécutez 5 tâches de votre journée de travail réelle via cette politique une par une et demandez « ai-je suivi la règle ? pour chacun. Vérifiez si vous pouvez répondre clairement à la question. Écrivez plus clairement les éléments auxquels vous ne pouvez pas répondre clairement.

liste de contrôle

• [ ] J'ai défini par écrit les domaines d'utilisation autorisés et interdits.
• [ ] J'ai clairement écrit que les diagnostics, les crises et les décisions de traitement sont interdits.
• [ ] J'ai défini la règle des données/anonymisation et du véhicule approuvé.
• [ ] J'ai écrit les étapes de vérification pour chaque type de sortie.
• [ ] J'ai ajouté une vérification des préjugés et de la langue à la politique.
• [ ] J'ai préparé le texte de transparence pour le client et fixé un calendrier de révision.

Examen de module

1. Un psychologue écrit les symptômes décrits par son client sur l'intelligence artificielle et demande : « Quel diagnostic ce client a-t-il ? demande-t-il. Quelle est l’approche la plus correcte ?

• A) Utiliser l’IA uniquement pour suggérer des concepts possibles ; Établir le diagnostic au moyen d'un entretien clinique, de l'histoire et de son propre jugement ✔
• B) Rédiger le diagnostic posé par l'intelligence artificielle directement dans le rapport
• C) Si l’intelligence artificielle donne plusieurs fois le même diagnostic, celui-ci est considéré comme définitif.
• D) Raccourcir l’entretien et s’appuyer sur l’intelligence artificielle pour accélérer le diagnostic

La description: L'établissement d'un diagnostic est une décision clinique critique pour la sécurité et nécessite plusieurs données, entretiens cliniques, antécédents et jugement. L'intelligence artificielle peut être utile pour suggérer des concepts possibles, mais le diagnostic repose sur le jugement clinique du spécialiste compétent (psychologue/psychiatre). La sortie de l’IA ne remplace pas cette décision.

2. Vous souhaitez résumer l'enregistrement de la session du client dans un outil d'intelligence artificielle basé sur le cloud. Quelle est la première chose à faire en matière de KVKK et de secret professionnel ?

• A) Coller l'enregistrement tel quel, avec son vrai nom et ses détails
• B) Anonymiser le contenu, surveiller la politique de confidentialité/données de l'outil et respecter le cadre de consentement ✔
• C) Raccourcissez uniquement le nom de famille du client et laissez le reste tel quel.
• D) Bien que la confidentialité soit importante, le partage de toutes les données pour plus de rapidité

Explication : Les données client sont des données personnelles particulières. Avant d'être transmises à l'outil cloud, les informations d'identification telles que le nom, le lieu, la date et le lieu de travail doivent être anonymisées ; Si possible, un contenu anonymisé doit être utilisé et il convient de garantir que l'outil n'utilise pas les données à des fins de formation. De plus, le consentement éclairé du client doit être respecté.

3. L'intelligence artificielle indique dans un résumé d'article que « la taille de l'effet dans cette étude datée de 2019 s'est avérée être d = 0,82 », mais vous ne trouvez pas cet article. Que devez-vous faire ?

• A) Utiliser l’attribution telle quelle car l’intelligence artificielle est fiable
• B) Écrire le numéro sans chercher la source car cela semble raisonnable
• C) Ignorez l'affirmation jusqu'à ce que nous confirmions la source et la taille de l'effet à partir du texte principal ✔
• D) Demandez à une autre intelligence artificielle et acceptez-la si elle aboutit au même numéro

Explication : L'intelligence artificielle peut inventer des références, des auteurs ou des chiffres qui semblent réels mais qui n'existent pas (hallucination). Une source introuvable ou une taille d’effet qui ne peut être vérifiée n’est pas utilisée. La réclamation est considérée comme invalide jusqu'à ce qu'elle soit confirmée par la source principale.

4. Un client déclare avoir eu des pensées suicidaires lors d'une séance. Quel devrait être le rôle de l’intelligence artificielle dans cette situation ?

• A) L'intelligence artificielle doit évaluer le risque et transmettre le plan de sécurité au client
• B) Le client doit être dirigé vers le chatbot à intelligence artificielle
• C) L'intelligence artificielle doit être configurée pour appeler automatiquement les services d'urgence
• D) La décision et l'intervention appartiennent à l'expert ; L'IA ne peut pas évaluer les risques, la crise est une responsabilité humaine ✔

Description : Le risque de suicide et de crise est une situation critique pour la sécurité qui nécessite une évaluation clinique, un engagement et une responsabilité en temps réel. L’intelligence artificielle ne peut pas prendre de décisions, évaluer les risques et intervenir. L'expert intervient directement ; Si nécessaire, les hotlines et la chaîne d’accompagnement humaine sont activées. Au mieux, l’IA peut servir de rappel à l’expert en dehors de la séance.

5. Quel risque est le plus critique dans une brochure psychoéducative réalisée avec l'intelligence artificielle ?

• A) Informations incorrectes/stigmatisantes conduisant le client à l'autodiagnostic et au traitement ✔
• B) Mauvaise conception visuelle de la brochure
• C) La brochure est trop longue
• D) La police est petite

Explication : Lorsque le matériel psychoéducatif est entre les mains du client, il peut se transformer en un outil d'autodiagnostic et de traitement, et des informations incorrectes ou stigmatisantes peuvent lui causer du tort. Par conséquent, le matériel doit être vérifié par des experts pour en assurer la preuve, la sécurité et le cadrage correct ; L'avertissement « ces informations ne remplacent pas le jugement professionnel » devrait être ajouté.

6. Vous bénéficiez d'un support de codage thématique de l'intelligence artificielle dans vos données de recherche qualitative (transcriptions d'entretiens). Quelle est l’approche la plus saine ?

• A) Reporting des codes produits par l'intelligence artificielle en analyse finale
• B) Vérifier, corriger et assurer la fiabilité en considérant les codes comme des ébauches initiales et en lisant les données ✔
• C) Laisser entièrement l’analyse à l’intelligence artificielle et ne pas lire du tout les données
• D) Ne pas faire sa propre lecture car cela donne des thèmes d'intelligence artificielle

Description : L'IA permet de produire rapidement des suggestions de code initiales et des aperçus de thèmes, mais l'analyse qualitative nécessite un jugement interprétatif de la part du chercheur. Les codes d’intelligence artificielle sont un début ; Le chercheur lit toutes les données, vérifie et corrige les codes et observe la fiabilité inter-codeurs. De plus, la transcription doit être anonymisée.

7. Pourquoi les biais constituent-ils un risque important en termes de psychologie dans les modèles d’intelligence artificielle ?

• A) Le biais est simplement un problème technique, non pertinent sur le plan clinique
• B) Le biais a été complètement résolu dans les modèles modernes
• C) Les résultats du modèle peuvent être faussés par la culture/le sexe/le diagnostic et peuvent induire en erreur et nuire à l'évaluation ✔
• D) Le biais ne se produit que dans les modèles qui produisent des images

Description : Étant donné que les modèles sont souvent formés à partir de données provenant de cultures et de langues spécifiques, ils peuvent comporter des préjugés diagnostiques, culturels et sexistes ; peut interpréter un symptôme comme étant « normal » dans un groupe et « pathologique » dans un autre groupe, ou produire un langage stigmatisant. Cela peut fausser et endommager l’évaluation ; Les résultats doivent être audités pour différents groupes et cultures.

8. Vous envisagez de recommander un chatbot thérapeutique à votre client. Que devez-vous faire en premier ?

• A) Je le recommande directement car il est populaire
• B) Dire que le bot peut remplacer la thérapie et réduire les séances
• C) Suggérer au client de faire confiance au bot en cas de crise.
• D) Auditer les preuves, la sécurité, la confidentialité et l’adéquation clinique et positionner le bot comme un complément limité ✔

Explication : Avant de recommander un outil numérique de santé mentale, sa base de données probantes, sa sécurité (gestion de crise), sa politique de confidentialité/données et son adéquation à la situation clinique du client doivent être examinées. Le bot ne doit pas être positionné comme un substitut à la thérapie humaine, mais comme un complément limité, et il doit être clairement expliqué au client qu'il est inadapté dans les situations de crise.

9. AI a produit un projet de notes de séance. Quelle est l’étape la plus importante à franchir avant d’utiliser ce plan ?

• A) Vérifiez le brouillon en le comparant avec ce qui s'est réellement passé au cours de la session, corrigez le contenu fabriqué/manquant et assumez la responsabilité ✔
• B) Enregistrer le brouillon dans le fichier tel quel
• C) En supposant que le brouillon est correct car il est rédigé couramment
• D) Demandez au client d'approuver le projet et de l'utiliser sans modification.

Explication : le brouillon de l'IA peut ajouter des informations importantes qui ont été omises, inventer des déclarations qui n'ont pas été réellement dites (hallucination) ou fournir un cadrage cliniquement incorrect. L'expert compare le brouillon avec ce qui s'est réellement passé lors de la séance, le vérifie, le corrige et est responsable du contenu final. La note est un document juridique et clinique.

10. Lequel des éléments suivants constitue une tâche de « zone verte » (à faible risque) dans l'utilisation de l'intelligence artificielle en psychologie ?

• A) Décider si le client présente un risque de suicide
• B) Préparer une ébauche pour simplifier le langage d'un texte psychoéducatif anonyme ✔
• C) Faire un diagnostic définitif à partir du score de l'échelle
• D) Créer des recommandations de médicaments

Explication : Des tâches telles que simplifier le langage d'un texte psychoéducatif anonymisé ou rédiger un courriel de rappel de rendez-vous présentent un faible risque car elles n'impliquent pas de diagnostic/décision et peuvent être utilisées en toute sécurité avec une révision rapide. Le diagnostic, l’évaluation des risques et la décision de traitement se situent dans la zone rouge (critique pour la sécurité).

11. Quelle est la limite la plus importante lors de l’utilisation de l’intelligence artificielle dans l’interprétation d’un test psychométrique ?

• A) Puisque l’intelligence artificielle interprète la partition, aucun commentaire d’expert n’est nécessaire.
• B) Il suffit de dire le nom du test à l'intelligence artificielle
• C) L'interprétation ne découle pas d'un score unique, mais d'un jugement clinique et de données multiples ; Respect du droit d'auteur et du contexte normatif ✔
• D) Le score seuil est le même dans chaque culture

Explication : la note de l'échelle/du test est une donnée ; Le diagnostic et l'interprétation clinique ne découlent pas d'un score unique. De plus, de nombreux tests sont protégés par le droit d’auteur et sensibles au contexte normatif. L'intelligence artificielle peut fournir une description de sous-échelle et un support linguistique, mais l'interprétation est faite par un expert dans le cadre du jugement clinique, de données multiples et de la validité culturelle.

12. Pourquoi l’IA ne peut-elle pas remplacer une véritable supervision ?

• A) L'intelligence artificielle remplace la supervision car elle répond plus rapidement
• B) La surveillance n’est de toute façon pas nécessaire
• C) L'intelligence artificielle est considérée comme un superviseur car elle est agréée.
• D) L'intelligence artificielle n'assume aucune responsabilité, ne connaît pas le contexte réel et ne peut pas assurer un contrôle éthique ; La supervision nécessite un expert humain ✔

Description : Supervision ; C'est l'encadrement d'un professionnel compétent, responsable, relationnel, qui connaît le contexte réel du client et l'évolution du thérapeute. L’IA peut aider à la répétition des cas et à la rédaction de la formulation, mais elle n’assume pas la responsabilité clinique, ne connaît pas le contexte réel et ne peut pas assurer une surveillance éthique/juridique. La supervision nécessite des experts humains.

13. Vous préparez une politique d'utilisation de l'intelligence artificielle pour un établissement de psychologie. Lequel des éléments suivants doit être inclus ?

• A) Règle d'anonymisation, domaines d'utilisation interdits, vérification obligatoire et transparence envers le client ✔
• B) Autorisation de partager les données des clients sans les anonymiser pour plus de rapidité
• C) Transférer les décisions de diagnostic à l'intelligence artificielle
• D) Diriger les situations de crise vers le chat bot

Description : Bonne politique ; Elle définit quelles données peuvent être fournies à l'outil (règle d'anonymisation), les domaines d'utilisation interdits comme le diagnostic/crise, les étapes de vérification obligatoires et la transparence envers le client. Des clauses telles que « Express Privacy for Speed » constituent des risques éthiques et juridiques ; La politique existe pour maintenir les frontières, pas pour les assouplir.

14. Lequel des éléments suivants constitue une justification valable pour valider les résultats de l’IA ?

• A) C’est exact car l’intelligence artificielle donne plusieurs fois la même réponse
• B) L'allégation est confirmée par des preuves primaires, des mesures valides et le jugement d'un expert compétent ✔
• C) La réponse est correcte car elle est écrite de manière fluide et convaincante.
• D) L'IA est un modèle puissant, ses résultats sont donc précis

Description : Justification d'une allégation clinique ou de recherche ; preuves primaires, mesures valides, normes éthiques/professionnelles applicables et jugement professionnel compétent. « AI a dit », « écrit couramment » ou « a donné la même chose plusieurs fois » ne sont pas des justifications valables ; Ce ne sont pas des signes de vérité, mais au mieux de cohérence.