Gains :
- Évaluez de manière critique les promesses, les preuves et les risques des chatbots thérapeutiques et des applications numériques de santé mentale.
- Capacité à examiner un outil pour en vérifier la sécurité, les preuves, la confidentialité et l'adéquation clinique avant de le recommander à un client.
- Capacité à expliquer avec précision au client comment les robots doivent être positionnés comme un complément limité à la thérapie humaine, plutôt que comme un substitut à celle-ci.
Des centaines d’applications ont vu le jour ces dernières années et prétendent être des « thérapeutes dans votre poche » : des chatbots d’intelligence artificielle (IA), des applications de suivi de l’humeur, des programmes numériques de thérapie cognitivo-comportementale, des outils de méditation et de respiration. Un client vous demande : « Puis-je utiliser cette application ? » il demandera; Une institution demande : « Faut-il donner un bateau aux personnes sur liste d'attente ? il réfléchira. Ces outils ne sont pas tous mauvais ; certains peuvent apporter de réels avantages. Mais il existe un écart considérable entre les promesses marketing et les preuves scientifiques, et certains de ces outils présentent de sérieux risques en matière de sécurité, de confidentialité et d’adéquation clinique. Dans cette unité, vous apprendrez à évaluer de manière critique les outils numériques de santé mentale, à les examiner avant de les recommander à un client et à les positionner comme un complément limité, plutôt que comme un remplacement, de la thérapie humaine.
L’écart entre promesse et preuve
Dans une boutique d'applications, vous verrez des phrases telles que « réduit votre anxiété de 70 % », « votre thérapeute en intelligence artificielle est toujours avec vous ». La plupart de ces allégations sont du marketing et non des preuves. La vraie question est la suivante : l’efficacité de cet outil a-t-elle été testée dans des études indépendantes évaluées par des pairs ? Certains programmes numériques (en particulier ceux qui suivent des protocoles structurés et fondés sur des preuves) peuvent fonctionner pour les symptômes légers à modérés ; mais il n’existe aucune preuve solide de l’existence de la plupart des robots de chat gratuits à usage général. « Les gens l'adorent » ou « des millions de téléchargements » ne sont pas une preuve d'efficacité.
Attention : Un chatbot IA n'est pas un thérapeute. Incapable d'établir une relation thérapeutique, d'assumer des responsabilités, de gérer de manière fiable les risques en temps réel et d'exercer un jugement clinique. Remplacer un robot pour une thérapie, c'est laisser le client sans protection.
Quatre grands risques des robots
- Vulnérabilité aux crises. Les robots peuvent mal comprendre, ignorer ou réagir de manière nuisible aux messages suggérant un suicide ou une crise (Unité 9). Il n’y a jamais de sécurité en cas de crise.
- Sécurité. De nombreuses applications collectent les données émotionnelles les plus intimes de l'utilisateur et peuvent les traiter à des fins commerciales. Dans une application « gratuite », le produit est souvent la donnée de l’utilisateur.
- Contenu faux/préjudiciable. Le robot peut halluciner, donner des conseils contraires à l’évidence, devenir un « auditeur toujours approuvant » addictif et empêcher une véritable confrontation.
- Inadéquation clinique. Pour une personne atteinte d’une maladie grave (psychose, dépression majeure, traumatisme), un bot peut s’avérer inadéquat voire procrastinant ; retarde une aide réelle.
Étape par étape : inspection avant de recommander un agent
- Demandez des preuves. Existe-t-il des études indépendantes évaluées par des pairs démontrant l’efficacité de cet outil ? A quel niveau de symptômes ?
- Testez la sécurité. Que fait le véhicule en cas de crise ? Comment réagit-il à la suggestion du suicide ? Est-ce que cela mène à une vraie ligne ?
- Vérifiez la confidentialité. Où vont les données, sont-elles vendues, peuvent-elles être supprimées ? La politique de confidentialité est-elle claire ?
- Évaluer l’adéquation clinique. Est-ce approprié pour le dossier du client ? Il n'est pas recommandé dans les cas graves/à risque.
- Clarifiez le rôle. Positionnez l'outil comme un complément (par exemple, pratique entre les séances, suivi de l'humeur), et non comme un substitut à la thérapie.
- Dites-le honnêtement au client. Indiquez clairement ce que le véhicule peut et ne peut pas faire et qu'il est inadéquat en cas de crise.
Astuce : Lorsque vous décidez de faire confiance à un outil, demandez-vous : « Que fait cet outil dans le pire des cas (si l'utilisateur entre en crise) ? Si vous ne connaissez pas la réponse ou si la réponse est inadéquate, ne recommandez jamais cet outil à un graphique risqué.
Où le bateau peut et peut ne pas convenir
Statut
Un bot/outil numérique est-il adapté ?
remarque
Stress léger, suivi des habitudes, psychoéducation
Limité oui (complémentaire)
Si un véhicule éprouvé et sûr est choisi
Rappel de devoirs/exercices entre les séances
limité oui
En prolongement de la thérapie
Dépression modérée à sévère, tableau d'anxiété
Attention, non seul
Avec thérapie humaine, supervisée
Crise, risque de suicide, psychose, traumatisme grave
non
Une intervention humaine et urgente est nécessaire
Données intimes des enfants/adolescents
très prudent
La confidentialité et le consentement sont essentiels
trois mini-cases
Cas 1 – Promesse contre preuve. Un client souhaite utiliser un robot IA qui prétend « résoudre 90 % de mon anxiété ». L'expert examine le véhicule ; Il n’existe pas d’étude indépendante sur l’efficacité, la politique de confidentialité indique que les données peuvent être partagées avec des tiers et le robot répond de manière clichée au message de crise. Le professionnel explique cela au client et recommande une alternative plus sûre et fondée sur des preuves. L'écart entre l'affirmation et la vérité est ainsi comblé sans nuire au client.
Cas 2 — Complément approprié. Un client suit une thérapie hebdomadaire et a des difficultés à garder une trace de ses pensées entre les séances. L'expert recommande une application d'enregistrement des pensées fondée sur des preuves et contrôlée de manière confidentielle comme outil de pratique entre les sessions. Le bot ne remplace pas la thérapie ; cela le renforce. Le client travaille plus régulièrement entre deux séances et les progrès s'accélèrent.
Cas 3 — Danger de procrastination. Une personne présentant des symptômes de dépression majeure tente de gérer la situation en « parlant » à un robot IA pendant des mois plutôt qu'en s'adressant à un professionnel. Boots le console à chaque fois, mais le tableau devient plus lourd ; la véritable aide est retardée. Ce cas montre le risque que le bot RETARDE le traitement effectif dans les cas graves. La tâche de l'expert est d'expliquer honnêtement au client les limites du bot et de l'orienter rapidement vers une assistance humaine.
Invites et modèles copiables
J'envisage de recommander un outil numérique de santé mentale à mon client. Donnez-moi une LISTE DE CONTRÔLE D'INSPECTION pour évaluer cet outil : état des preuves, sécurité en cas de crise, politique de confidentialité/données, niveau de symptômes cible, adéquation clinique, coût. La décision m’appartient.
Rédigez un bref brouillon d'une conversation pour dire à un client que le chatbot IA qu'il souhaite utiliser n'est pas un thérapeute, qu'il est inadéquat en cas de crise et ce qu'il peut et ne peut pas faire de manière polie, non stigmatisante et honnête. En protégeant le client sans lui en vouloir.
Énumérez les questions critiques que je dois poser pour évaluer la politique de confidentialité de cet outil : où vont les données, sont-elles vendues, peuvent-elles être supprimées, comment les données de crise sont-elles traitées, y a-t-il un partage avec des tiers, existe-t-il des protections supplémentaires pour les données des enfants/adolescents ?
Voici le dossier d'un client (anonyme) : [graphique]. Discutez dans ce tableau s’il est approprié de recommander un outil numérique en complément et auquel cas je dois impérativement me référer à la thérapie humaine. Prise de décision finale ; conforte mon évaluation.
Invite faible/Invite forte
Invite faible : "Suggérez une bonne pratique thérapeutique, je la donnerai à mon client."
Cette invite ne demande jamais de preuves, de sécurité, de confidentialité et de conformité au dossier du client ; L’IA peut suggérer un outil populaire mais non audité.
Invite forte : "Avant de recommander un outil numérique de santé mentale, je l'évaluerai en termes de preuves, de sécurité en cas de crise, de confidentialité et de pertinence clinique. Énumérez les questions critiques et les signaux d'alarme que je devrais poser sous ces quatre rubriques. Je prendrai la décision finale en fonction du dossier du client."
Cette invite demande à l'IA d'établir un cadre de contrôle ; La décision appartient au spécialiste et au client.
Erreurs courantes
- Prendre une promesse marketing pour une preuve. Confondre « 90 % de guérisons » ou « des millions de téléchargements » avec des preuves d'efficacité.
- Ne pas tester la sécurité en cas de crise. Suggérer sans savoir comment le médium réagit à la suggestion du suicide.
- Contourner la vie privée. Recommander des outils sans se demander où vont les données émotionnelles les plus intimes.
- Mettre le bateau à la place de la thérapie. Présenter l’outil comme un substitut à la thérapie plutôt que comme un complément ; laissant le client sans protection.
- Faire confiance au bot dans le graphique lourd. Mettre un terme à une situation grave et retarder une véritable aide.
En résumé
Les outils numériques de santé mentale et les chatbots IA ne sont pas tous mauvais, mais les promesses marketing sont bien en avance sur les preuves. Vérifiez les preuves, la sécurité en cas de crise, la confidentialité et l’adéquation clinique avant de recommander un agent. Les robots ne sont jamais à l’abri des crises et ne peuvent pas remplacer un thérapeute ; Tout au plus, dans des contextes appropriés, ils peuvent constituer un complément limité à l’amélioration de la thérapie humaine. Expliquez honnêtement les limites du véhicule au client et orientez-le rapidement vers une assistance humaine en cas de situations graves.
Tâche de candidature
Choisissez une application numérique de santé mentale (réelle ou imaginaire). Évaluez-le sur quatre piliers : preuves, sécurité en cas de crise, confidentialité, pertinence clinique. Notez tous les signaux d’alarme que vous trouvez dans chaque titre. Préparez ensuite un discours honnête de 4 à 5 phrases à un client expliquant les limites de cet outil.
liste de contrôle
- [ ] J'ai remis en question le statut de preuve indépendante du véhicule.
- [ ] J'ai testé la sécurité en cas de crise (réponse à une suggestion suicidaire).
- [ ] J'ai consulté la politique de confidentialité/données.
- [ ] J'ai évalué la pertinence clinique par rapport au dossier du client.
- [ ] J'ai positionné l'outil comme un complément limité plutôt que comme un substitut à la thérapie.
- [ ] J'ai expliqué honnêtement les limites du véhicule au client.