Gains :
- Être capable de distinguer les domaines dans lesquels l'intelligence artificielle permet de gagner du temps réel dans le travail en santé mentale et les domaines dans lesquels la responsabilité clinique et l'autorité de diagnostic/décision devraient rester entre les mains de l'expert humain, en fonction du niveau de risque.
- Capacité à appliquer une discipline de validation à plusieurs niveaux qui teste chaque résultat de l'IA par rapport aux preuves, aux sources et au jugement clinique
- L’intelligence artificielle n’est pas un thérapeute, un diagnosticien ou un superviseur ; Être capable d'intérioriser un cadre clair selon lequel les personnes et les interventions d'urgence sont essentielles en cas de crise/risque.
La psychologie essaie de comprendre la douleur, l'histoire et le monde intérieur d'une personne ; C'est un métier fondé sur la confiance, le relationnel et la responsabilité. Certaines parties de ce travail (rédaction de texte, numérisation de sources, édition de tableaux, préparation de documents) peuvent rapidement devenir automatisées. Certaines pièces ne peuvent jamais être transférées sur une machine car elles touchent la vie d'une personne. L'intelligence artificielle (IA en abrégé ; logiciel qui apprend des modèles à partir de grandes quantités de texte et génère de nouveaux textes, résumés ou codes) est une aide puissante dans ce métier : réduire les heures de revue de littérature, rédiger un rapport, simplifier une brochure psychoéducative. Mais l’IA n’est pas un thérapeute ; Il ne connaît pas le client, n’assume pas ses responsabilités, ne se tient pas à ses côtés en temps de crise et ne le tient pas responsable éthiquement et légalement.
Notre objectif tout au long de ce module est de faire de vous un professionnel de la santé mentale supervisant l’IA, et non un praticien dépendant de l’IA. Dans cette première unité, vous apprendrez où utiliser l'IA dans le secteur de la psychologie, où vous devez absolument vous arrêter et comment valider chaque résultat.
Ce que l'IA peut et ne peut pas faire en psychologie
Le véritable pouvoir de l’IA est de générer un langage, des modèles et des contours. Le squelette d'une note de séance, la carte d'une synthèse de littérature, une version allégée d'un texte psychoéducatif, le plan d'items d'un questionnaire de recherche, le langage poli d'un courriel de rendez-vous ; Tout cela sort en quelques secondes. Dans ces tâches, l’IA vous fait gagner du temps et réduit la charge mentale.
Ce que l’IA ne peut pas faire, c’est prendre des décisions qui nécessitent un jugement clinique. Poser un diagnostic, évaluer un risque, choisir un plan de traitement, déterminer si l'état d'un client « s'améliore ou s'aggrave » ; Rien de tout cela ne peut être fait avec la logique du « c’est comme ça que ça se passe habituellement ». L’IA hallucine parce qu’elle apprend à partir de textes sur Internet : ainsi, une source qui semble réelle mais qui n’existe pas peut produire une fausse statistique ou un élément d’échelle inventé. En psychologie, ce type d’erreur n’est pas qu’une simple faute de frappe ; Cela signifie un client mal orienté, une intervention nuisible ou une violation de l'éthique.
Attention : le résultat de l'IA est une ébauche et non un avis clinique. Les questions critiques pour la sécurité, telles que le diagnostic, l'évaluation des risques et les décisions de traitement, sont prises sous le jugement et la responsabilité d'un expert compétent (psychologue, psychiatre). L’IA ne remplace pas ce raisonnement.
Trois régions selon le niveau de risque
Le moyen le plus pratique d’utiliser l’IA en toute sécurité consiste à diviser chaque tâche en trois zones en fonction du niveau de risque. Cette distinction se résume à « l’IA devrait-elle faire cela ? Répond aux questions rapidement et avec précision.
Région
Exemples de tâches
Le rôle de l'IA
Niveau de vérification
Vert (faible risque)
Simplification de textes psychoéducatifs anonymes, courriel de rendez-vous, recherche de titres de littérature, plan de présentation
production gratuite
Examen rapide
Jaune (risque moyen)
Projet de note de séance, explication linguistique pour l'interprétation des échelles, plan d'analyse de recherche, suggestion de code thématique
Projet + proposition
Contrôle expert + confirmation source/données
Rouge (critique pour la sécurité)
Diagnostic, évaluation du risque de suicide/crise, décision de traitement/médicament, avis médico-légal
Rappel/liste de contrôle uniquement
Le jugement et la responsabilité d’un expert compétent sont obligatoires
Soyez rapide dans la zone verte. Utilisez l'IA dans la zone jaune, mais vérifiez chaque information, numéro et source. Dans la zone rouge, l’IA n’a jamais le dernier mot ; Tout au plus, il s'agit d'un rappel qui rappelle à l'expert un élément de contrôle.
trois mini-cases
Cas 1 — Utilisation permettant de gagner du temps. Un psychologue scolaire préparera une brochure d'information intitulée « L'anxiété liée aux tests chez les adolescents » à l'intention d'un groupe de 40 parents. S’il était écrit à la main, cela prendrait environ 3 heures. En demandant à l'IA de rédiger un brouillon anonyme, de vérifier automatiquement le contenu fondé sur des preuves et de vérifier les sources, il termine la brochure en 45 minutes. Environ 75% de gain de temps, et il est responsable du contenu final.
Cas 2 — Où cela devrait s’arrêter. Un spécialiste remet à AI les notes des trois séances d'un client et lui demande : « Cette personne souffre-t-elle d'un trouble de la personnalité limite ? » demande-t-il. "Les symptômes sont cohérents", affirme l'IA avec assurance. Cependant, l’IA n’a pas vu le client, ne connaît pas l’historique et ne peut pas évaluer les diagnostics différentiels. Si le spécialiste utilise ce résultat comme diagnostic, il commettra une grave erreur ; Tout au plus, le résultat peut être un rappel sous la forme d'une « évaluation plus approfondie de ces domaines au cours de l'entretien ».
Cas 3 — Le coût de l'hallucination. Un chercheur demande 10 sources à AI pour l’introduction de sa thèse. L'IA produit 10 citations ; Ils ont tous l’air formellement parfaits. Lorsque le chercheur vérifie, il constate que 4 d’entre eux n’existent pas réellement et que 2 d’entre eux attribuent la mauvaise année/auteur au véritable article. Cela signifie que 60 % des citations sont incorrectes. S'il n'avait pas vérifié, il aurait inclus de fausses sources dans sa thèse.
Discipline de vérification multicouche
La vérification n'est pas quelque chose que l'on peut reporter en pensant "je l'examinerai plus tard", elle fait partie du workflow. Une vérification solide se compose de cinq couches :
- Revenons aux preuves. Si l'IA a donné un résultat, un taux ou une recommandation, vérifiez-le auprès de la source principale (article évalué par des pairs, guide officiel, manuel de la balance).
- Test avec jugement clinique. Le résultat est-il vraiment significatif pour ce client, ce contexte et cette culture ? Pesez-le avec votre propre œil expert.
- Comparez avec plusieurs données. Ne vous fiez pas à une seule phrase, à un seul score ou à un seul symptôme ; Laissez l’histoire, l’observation et la mesure parler ensemble.
- Filtre d’éthique et de confidentialité. Cette sortie nuit-elle au client, le stigmatise, viole-t-elle la confidentialité ?
- Laissez votre marque. Enregistrez quelle sortie a été validée et comment ; Laissez-le être vérifié plus tard.
Indice : « AI a dit » n'est pas une justification. La justification d’une décision clinique ou de recherche repose toujours sur des preuves, des mesures, des normes professionnelles ou le jugement d’un expert compétent. L’IA vous aide à préparer ces justifications, elle ne les remplace pas.
Invites et modèles copiables
Les modèles suivants maintiennent l’IA dans un rôle sûr. Remplissez les crochets avec votre propre contexte (anonymisé).
Rôle : Vous êtes assistant de rédaction assistant une majeure en psychologie. Vous ne posez pas de diagnostic, ne faites pas d’évaluation des risques ou ne prenez pas de décision de traitement. Votre tâche consiste uniquement à rédiger le texte et à partager vos réflexions. En cas de doute, écrivez « vérification par un expert ». Tâche : [tâche]. Restrictions : Données anonymes ; pas de langage stigmatisant ; S'il y a une revendication de source, cochez « confirmation requise ».
Vérifiez le projet ci-dessous sous trois aspects et donnez votre avis élément par élément pour chacun : 1) Phrases contenant des affirmations cliniquement incorrectes ou excessives, 2) Allégations sans source même si elles nécessitent une source, 3) Langage stigmatisant ou portant un jugement. Si vous n'êtes pas sûr de votre propre exactitude, écrivez « non vérifié ». Texte : [texte]
Placez la tâche suivante dans la zone à risque (vert/jaune/rouge) et écrivez la justification en une phrase. Répertoriez ensuite les étapes de vérification appropriées à cette zone. Tâche : [description du poste]
Quelles affirmations dans ce texte contiennent une affirmation factuelle/statistique ? Énumérez chacun sur une ligne distincte comme « réclamation à vérifier » ; Je vérifierai à partir de la source principale. Texte : [texte]
Invite faible/Invite forte
Question faible : « Quel est le diagnostic de ce client en fonction de ses symptômes ? »
Cette invite appelle l'IA à effectuer un travail qu'elle ne peut pas faire (diagnostiquer), ne protège pas les données des clients et invite à une sortie confiante mais inexacte.
Invite puissante : "Vous trouverez ci-dessous un résumé anonyme de l'entretien. NE posez PAS de diagnostic. Suggérez plutôt, sous forme de liste de contrôle, les domaines que je devrais évaluer plus en détail lors de l'entretien clinique et les questions que je devrais penser à poser. Marquez les points où vous n'êtes pas sûr."
Cette invite place l'IA dans le bon rôle (rappel), protège les données et laisse la responsabilité à l'expert.
Erreurs courantes
- Confondre le plan avec l’opinion clinique. Le langage fluide et confiant de l’IA ne constitue pas une preuve d’exactitude ; La phrase la plus convaincante peut être la phrase la plus erronée.
- Remettre la zone rouge à l’IA. Demander à l’IA de poser le diagnostic, les risques et les décisions de traitement, c’est tenter de transférer la responsabilité vers un logiciel ; C’est une erreur à la fois éthique et juridique.
- Ignorer la vérification. Dire « Je vais vérifier quand même » ou non est la principale façon dont l’hallucination s’insinue dans le rapport.
- Coller les données client sans les protéger. Donner de vrais noms et détails à AI constitue une violation de la vie privée (voir unité 2).
- Mettre l'IA comme superviseur. L’IA effectue des répétitions de cas, mais le contrôle réel, la responsabilité et la surveillance éthique relèvent du travail du superviseur humain.
En résumé
En psychologie, l’IA est une aide puissante qui génère du langage et des contours, mais ce n’est pas un thérapeute, un diagnosticien ou un superviseur. Divisez chaque tâche en une zone à risque verte/jaune/rouge ; Dans la zone rouge (diagnostic, crise, traitement), le jugement clinique et la responsabilité restent toujours du ressort de l'expert humain. Passez chaque résultat au crible à travers des couches de preuves, un jugement clinique, des données multiples, des filtres éthiques et une traçabilité. "AI a dit" n'est jamais une justification.
Tâche de candidature
Écrivez 6 tâches typiques de votre propre pratique (ou d'une pratique imaginaire) : par ex. courriel de rendez-vous, ébauche de note de séance, question diagnostique, évaluation de crise, revue de la littérature, document psychoéducatif. Placez chacun dans la zone verte/jaune/rouge et écrivez une règle de validation d’une phrase pour chacun. Le résultat final est votre propre « carte des risques de l’IA ».
liste de contrôle
- [ ] J'ai placé la tâche dans la zone verte/jaune/rouge.
- [ ] Je n'ai laissé aucune décision dans la zone rouge à l'IA.
- [ ] J'ai anonymisé les données du client.
- [ ] J'ai clairement écrit la limite « diagnostic/évaluation des risques » à l'IA.
- [ ] J'ai fait passer le résultat à travers cinq couches de validation.
- [ ] J'ai accepté d'être responsable du contenu final et j'ai laissé ma marque.