Gains :
- Comprendre pourquoi l'intelligence artificielle ne peut pas prendre de décisions en cas de risque de crise, de suicide et de préjudice envers soi-même ou autrui et pourquoi l'intervention humaine est obligatoire.
- Capacité à positionner l'IA dans l'évaluation des risques uniquement au niveau des rappels/listes de contrôle, en dessous du jugement des experts
- Capacité à définir le rôle limité et contrôlé de l'intelligence artificielle dans le protocole d'urgence, les lignes de routage et le plan de sécurité
Cette unité dessine la limite la plus importante de l'ensemble du module. Il y a des moments dans le domaine de la santé mentale où ce n’est pas une question de rapidité, de facilité ou d’efficacité ; seules la vie d’un homme et la responsabilité d’un expert parlent. Des situations telles que le risque de suicide, l'injure à soi-même ou à autrui, la psychose aiguë, la menace de violence, le signalement d'un enfant ou d'un abus sont des crises. Dans ces moments-là, l’intelligence artificielle (IA) ne peut pas prendre de décisions, mesurer les risques, intervenir et assumer ses responsabilités. Il ne s’agit pas de « l’IA n’est pas encore assez performante » ; La crise nécessite intrinsèquement une connexion humaine en temps réel, un jugement clinique et une responsabilité. Dans cette unité, vous apprendrez pourquoi l’IA s’arrêtera en cas de crise, pourquoi les humains sont essentiels et quel rôle limité l’IA peut jouer le plus.
Pourquoi l'IA ne peut pas prendre de décisions en cas de crise
L’évaluation de crise nécessite quatre choses, et aucune n’est suffisante en IA :
- Relation en temps réel. Les véritables signes de risque ne se trouvent souvent pas dans les mots prononcés ; Elle se cache dans le ton de la voix, la pause, le regard, le langage corporel, le « non-dit ». L'IA voit un texte ; ne voit pas les gens.
- Raisonnement clinique holistique. Risque; C'est une pesée en direct de dizaines de facteurs tels que l'histoire, les facteurs de protection, l'impulsivité, l'accès (accès à la méthode), le système d'accompagnement. L’IA peut donner un « score de risque » mécanique, mais ce score ne sauvera pas un humain.
- Responsabilité et imputabilité. Il doit y avoir une personne qui signe derrière une décision de crise, qui est tenue pour responsable si nécessaire et qui prend en charge la vie du client. L’IA ne peut pas assumer la responsabilité.
- Capacité de réponse. Ce qu'il faut en cas de crise (élaborer un plan de sécurité, impliquer la famille, orienter vers les urgences, référer à l'hôpital), ce sont des actions concrètes et humaines.
Attention : Lorsqu'un client montre des signes de risque, demandez à l'IA « y a-t-il un risque ? Demander ", c'est reporter la décision et se soustraire à la responsabilité. En cas de crise, l'expert intervient DIRECTEMENT. L'IA n'a aucun rôle décisionnel pour le moment. Les lignes d'assistance téléphonique et les chaînes de soutien humaines sont activées si nécessaire.
Le danger de l’IA dans les chatbots de crise
Ces dernières années, les chatbots IA qui disent « laissez-moi vous soutenir » se sont répandus. Leur danger en cas de crise est sérieux : un robot peut mal comprendre un message suicidaire, éluder le sujet, donner une réponse clichée ou (comme dans des cas documentés) réagir de manière nuisible. Une personne sent que l’autre est en danger réel et agit ; un bot ne peut pas le faire de manière fiable. Ne référez donc jamais un client en crise vers un chatbot.
Rôle limité et acceptable de l’IA
L’IA ne peut pas prendre de décisions en cas de crise ; mais EN DEHORS de la séance, le professionnel peut avoir un rôle très limité dans l'accompagnement de son propre travail :
- Rappel/liste de contrôle. Préparer sous forme de liste de contrôle les domaines sur lesquels l'expert ne doit pas oublier de poser des questions dans l'évaluation des risques (c'est l'expert qui l'utilise, pas le client).
- Projet de protocole. Préparer un projet de protocole de crise de l'institution, une liste de lignes de référence, un modèle de plan de sécurité (puis l'expert/l'institution l'approuve).
- Entraînement/répétition. Répétition de scénarios imaginaires (pas de client réel) pour améliorer les compétences du spécialiste en entretien de crise.
Ce que ces rôles ont en commun : L'IA n'est jamais en position de décision dans une crise réelle, avec un client réel.
Situation
Le rôle de l'IA
Qui décide
Crise en direct (client à risque)
AUCUN rôle de décision
Expert, directement et immédiatement
Hors session : préparer une liste de contrôle
brouillon de rappel
L'expert approuve/utilise
Rédaction de protocole/modèle de crise
brouillon de texte
L'expert/l'institution approuve
Accompagner le client en cas de crise
Interdit (ne jamais discuter avec un robot)
chaîne de soutien humaine
trois mini-cases
Cas 1 — Protection des frontières. Un client dit lors d'une séance : « Je n'en peux plus, je veux y mettre fin. » L'expert pense : « Je vais écrire ceci à l'IA et lui demander de s'enquérir de sa gravité », mais s'arrête. Au lieu de cela, il passe directement, calmement et directement à l'évaluation des risques : fréquence de pensée, plan, méthode, portée, parle des facteurs de protection ; élabore un plan de sécurité ; active les supports nécessaires. La décision et la responsabilité appartiennent à l’humain du début à la fin ; Il ne serait pas du tout juste que l’IA entre dans ce moment.
Cas 2 — Insuffisance du bateau. Une organisation envisage de déployer un chatbot IA pour une assistance en dehors des heures normales. Lors des tests pilotes, le robot répond par une réponse générique « prends soin de toi » à un message suggérant le suicide ; Il ne reconnaît ni ne dirige le risque. L'agence décide que le robot n'est pas à l'abri d'une crise ; Au lieu de cela, il établit un système clair qui oriente les gens vers une véritable ligne de crise et un spécialiste de garde pour les situations en dehors des heures d'ouverture.
Cas 3 — Corriger une utilisation limitée. Pour renforcer sa propre pratique d’évaluation des risques, un expert demande à l’IA « une liste de contrôle des domaines sur lesquels je devrais penser à poser des questions lors d’un entretien complet d’évaluation des risques de suicide ». L'IA produit une bonne liste de rappel ; L'expert le garde dans son sac comme filet de sécurité. Ici, l’IA ne touche pas du tout le client ; Il ne prend en charge que la préparation du spécialiste. C'est la limite acceptable.
Invites et modèles copiables
Remarque : Aucun de ces modèles ne doit être utilisé dans une crise en direct avec un client réel. Le tout en dehors de la séance, pour la propre préparation du spécialiste.
Préparez une CHECKLIST générale pour qu'un professionnel n'oublie pas de poser des questions lors d'une évaluation des risques (fréquence/intensité de la pensée, plan, accès à la méthode, facteurs de protection, antécédents, système de soutien). Cette liste n'est qu'un rappel de l'expert ; La DÉCISION de risque n’est pas donnée, elle n’est pas donnée au client.
Rédiger un modèle de PROTOCOLE DE RÉFÉRENCE DE CRISE pour notre organisation : étapes des heures d'ouverture et de fermeture, qui appeler, référence aux lignes d'urgence, documentation. Nos experts et notre direction l'examineront et l'approuveront en fonction de la réalité et de la législation locales.
Préparez une ébauche vierge d'un modèle de plan de sécurité : panneaux d'avertissement, stratégies d'adaptation, personnes de soutien, communication professionnelle, sécurisation de l'environnement. Le spécialiste remplira le contenu en face à face avec le client ; Vous donnez simplement le modèle vierge.
Mettre en place un scénario de répétition IMAGINAIRE (pas de vrai client) pour améliorer mes compétences en entretien de crise. Laissez-moi répondre en mon rôle d'expert, puis donnez-moi un retour constructif sur ma démarche. Il s'agit d'une répétition de formation, pas d'un cas réel.
Invite faible/Invite forte
Invite faible : « Ce client a dit : [phrases]. Y a-t-il un risque élevé de suicide, que dois-je faire ?
Cette invite délègue la décision de crise à l'IA ; L’IA ne peut pas mesurer les risques, ne peut pas assumer la responsabilité, et ce moment nécessite une intervention humaine en temps réel. Cet usage est dangereux.
Invite forte : "Je suis hors séance, il n'y a pas de vrai client. Pour parfaire mes compétences en matière d'évaluation des risques, dressez une liste pour rappeler les domaines que je ne devrais pas aborder lors d'un entretien sur le risque de suicide. La décision et l'intervention relèveront de ma responsabilité dans la situation réelle."
Cette invite utilise l'IA uniquement comme outil de préparation hors session ; La crise laisse la décision à la personne.
Erreurs courantes
- Demander à l’IA une décision de crise. "Y a-t-il un risque ?" conseil en IA ; c'est rater la décision et la responsabilité.
- Diriger le client en crise vers le bot. Oublier que le chatbot ne peut pas gérer les risques de manière fiable.
- Confondre le score de risque avec la réalité. Substitution d’un résultat mécanique de « niveau de risque » de l’IA à l’évaluation clinique.
- Déplacement de l'outil de préparation vers une utilisation en direct. Utilisation de la liste de contrôle hors session lors d'une crise réelle en consultation avec AI.
- Ne pas établir la chaîne de soutien humain. S'appuyer sur l'IA au lieu d'un véritable système d'experts/de ligne de crise après les heures normales de l'organisation.
En résumé
Le risque de crise, de suicide et de préjudice est la limite la plus claire du module : dans ces moments-là, l'IA ne peut pas prendre de décisions, mesurer le risque, intervenir et assumer ses responsabilités. Parce qu’une crise nécessite un engagement en temps réel, un jugement clinique holistique, une responsabilité et une intervention humaine. Le seul rôle acceptable pour l'IA est celui de liste de contrôle, de projet de protocole/modèle et de répétition de formation, EN DEHORS de la session, soutenant la propre préparation du professionnel. Ne dirigez jamais un client en crise vers un chatbot ; La chaîne de soutien humain et les hotlines sont activées.
Tâche de candidature
Dessinez un flux de routage de crise pour votre propre cabinet ou organisation : que se passe-t-il étape par étape lorsqu'un client démontre un risque, qui est appelé, à quelles lignes est-il référé ? Vérifiez que l’IA n’est le décideur à aucune étape de ce flux. Sortez également une liste de contrôle d'évaluation des risques hors session de l'IA et écrivez en une phrase pourquoi il ne s'agit que de votre rappel et ne peut pas être remis au client.
liste de contrôle
- [ ] Je n'ai donné aucun rôle décisionnel à l'IA en cas de crise réelle.
- [ ] J'ai directement entrepris moi-même l'évaluation et la réponse à la crise.
- [ ] Je n'ai pas dirigé le client en crise vers le chatbot.
- [ ] J'ai utilisé l'IA uniquement pour la préparation hors session (checklist/protocole/répétition).
- [ ] J'ai défini la chaîne d'assistance humaine et les hotlines de l'entreprise.
- [ ] J'ai intériorisé que la décision et la responsabilité de la crise incombent à la personne.