Прибыль:
- Понимание того, почему искусственный интеллект не может принимать решения в условиях риска кризиса, самоубийства и причинения вреда себе/другим и почему вмешательство человека является обязательным.
- Возможность позиционировать ИИ при оценке рисков только на уровне напоминаний/контрольных списков, ниже экспертного заключения.
- Возможность определить ограниченную и контролируемую роль искусственного интеллекта в аварийном протоколе, линиях маршрутизации и плане безопасности.
Этот блок рисует самую важную границу всего модуля. В сфере психического здоровья бывают моменты, когда дело не в скорости, легкости или эффективности; говорят только жизнь одного человека и ответственность одного эксперта. Такие ситуации, как риск самоубийства, причинение вреда себе или другим, острый психоз, угроза насилия, сообщение о жестоком обращении с ребенком или о жестоком обращении, являются кризисами. В такие моменты искусственный интеллект (ИИ) не может принимать решения, оценивать риски, вмешиваться и брать на себя ответственность. Речь идет не о том, что «ИИ еще недостаточно хорош»; Кризис по своей сути требует человеческого общения в реальном времени, клинического суждения и ответственности. В этом модуле вы узнаете, почему ИИ остановится в кризисе, почему люди важны и какую ограниченную роль ИИ может играть больше всего.
Почему ИИ не может принимать решения в условиях кризиса
Для оценки кризиса необходимы четыре вещи, и ни одна из них не является достаточной для ИИ:
- Отношения в реальном времени. Реальные признаки риска часто не заключаются в произнесенных словах; Оно скрыто в тоне голоса, паузе, взгляде, языке тела, «невысказанном». ИИ видит текст; не видит людей.
- Холистическое клиническое обоснование. Риск; Это живое взвешивание десятков факторов, таких как анамнез, защитные факторы, импульсивность, доступ (доступ к методу), система поддержки. ИИ может дать механическую «оценку риска», но эта оценка не спасет человека.
- Ответственность и подотчетность. Должен быть человек, который подписывает кризисное решение, который в случае необходимости привлекается к ответственности и который берет на себя жизнь клиента. ИИ не может нести ответственность.
- Способность реагирования. В условиях кризиса (составление плана безопасности, вовлечение семьи, направление в отделение неотложной помощи, обращение в больницу) необходимы конкретные действия, предпринятые человеком.
Внимание: когда у клиента проявляются признаки риска, спросите ИИ «есть ли риск?» Спрашивать - значит откладывать решение и уклоняться от ответственности. В кризисе эксперт вмешивается НАПРЯМУЮ. ИИ в данный момент не играет роли принятия решения. Горячие линии и цепочки человеческой поддержки активируются при необходимости.
Опасность ИИ в кризисных чат-ботах
В последние годы широкое распространение получили чат-боты с искусственным интеллектом, которые говорят: «Позволь мне поддержать тебя». Их опасность в кризисе серьезна: бот может неправильно понять суицидальное сообщение, уйти от темы, дать клише-ответ или (как задокументировано) отреагировать вредным образом. Человек чувствует, что другому человеку грозит реальная опасность, и принимает меры; бот не может сделать это надежно. Поэтому никогда не направляйте клиента, находящегося в кризисе, к чат-боту.
Приемлемая ограниченная роль ИИ
ИИ не может принимать решения в условиях кризиса; но ВНЕ сеанса роль профессионала в поддержке своей работы может быть весьма ограниченной:
- Напоминание/контрольный список. Подготовка в виде контрольного списка областей, о которых эксперту не следует забыть спросить при оценке рисков (его использует эксперт, а не клиент).
- Проект протокола. Подготовка проекта антикризисного протокола учреждения, списка линий направления, шаблона плана обеспечения безопасности (затем его утверждает эксперт/учреждение).
- Тренировка/репетиция. Репетиция воображаемого сценария (без реального клиента) для совершенствования навыков специалиста по проведению кризисных интервью.
Что общего у этих ролей: ИИ никогда не занимает позицию принятия решений в условиях реального кризиса с реальным клиентом.
Ситуация
Роль ИИ
Кто решает
Живой кризис (клиент в группе риска)
НЕТ роли принятия решения
Эксперт, прямо и сразу
Вне сессии: подготовка контрольного списка
черновик напоминания
Эксперт одобряет/использует
Написание кризисного протокола/шаблона
черновик текста
Эксперт/организация одобряет
Сопровождение клиента в кризисе
Запрещено (никогда в чат-бот)
цепочка поддержки человека
три мини-кейса
Случай 1 — Охрана границы. Клиент говорит на сеансе: «Я больше не могу этого терпеть, я хочу положить этому конец». Эксперт думает: «Я напишу это ИИ, и он спросит о серьезности», но останавливается. Вместо этого он прямо, спокойно и прямо переходит к оценке риска: частота мыслей, план, метод, охват, говорит о защитных факторах; составляет план безопасности; активирует необходимые поддержки. Решение и ответственность от начала до конца принадлежат человеку; Было бы неправильно, если бы ИИ вообще вошел в этот момент.
Случай 2 — Недостаточность лодки. Организация рассматривает возможность развертывания чат-бота с искусственным интеллектом для поддержки в нерабочее время. В ходе пилотного тестирования бот отвечает общим ответом «будь осторожен» на сообщение, предлагающее самоубийство; Он не распознает и не направляет риск. Агентство решает, что бот не является кризисоустойчивым; Вместо этого он устанавливает четкую систему, которая направляет людей к настоящей кризисной линии и к специалисту по вызову в нерабочее время.
Случай 3 — Правильное ограниченное использование. Чтобы укрепить свою собственную практику оценки рисков, один эксперт просит у ИИ «контрольный список областей, о которых мне следует не забыть спросить во время комплексного интервью по оценке риска самоубийства». ИИ создает хороший список напоминаний; Эксперт держит его в сумке в качестве подстраховки. Здесь ИИ вообще не трогает клиента; Оно лишь поддерживает подготовку специалиста. Это допустимый предел.
Копируемые подсказки и шаблоны
Примечание. Ни один из этих шаблонов не следует использовать в случае кризиса с реальным клиентом. Все вне сеанса, для собственной подготовки специалиста.
Подготовьте общий КОНТРОЛЬНЫЙ СПИСОК, чтобы специалист не забыл задать вопрос об оценке риска (частота/интенсивность размышлений, план, доступ к методу, защитные факторы, анамнез, система поддержки). Этот список является просто напоминанием эксперта; РЕШЕНИЕ о риске не выдается, оно не выдается клиенту.
Разработайте шаблон КРИЗИСНОГО ПРОТОКОЛА для нашей организации: порядок работы в часы работы и выходной, кому звонить, направление на линии экстренной помощи, документация. Наши эксперты и руководство рассмотрят это и одобрит в соответствии с местными реалиями и законодательством.
Подготовьте ЧИСТЫЙ проект шаблона плана обеспечения безопасности: предупреждающие знаки, стратегии преодоления трудностей, люди для поддержки, профессиональное общение, обеспечение безопасности окружающей среды. Специалист заполнит контент лично с клиентом; Вы просто даете пустой шаблон.
Подготовьте ВООБРАЖАЕМЫЙ сценарий репетиции (без реального клиента), чтобы улучшить мои навыки проведения кризисных собеседований. Позвольте мне ответить в роли эксперта, а затем дать мне конструктивный отзыв о моем подходе. Это учебная репетиция, а не реальный случай.
Слабая подсказка / Сильная подсказка
Слабая подсказка: «Этот клиент сказал: [фразы]. Есть ли высокий риск самоубийства, что мне делать?»
Это приглашение делегирует принятие решения о кризисе ИИ; ИИ не может измерить риск, не может взять на себя ответственность, и этот момент требует вмешательства человека в реальном времени. Такое использование опасно.
Сильная подсказка: «Я закончил сессию, настоящего клиента нет. Чтобы освежить свои навыки оценки рисков, составьте список в качестве напоминания о тех областях, которые мне не следует освещать в интервью о риске самоубийства. Решение и вмешательство будут моей ответственностью в реальной ситуации».
В этом приглашении ИИ используется только как инструмент подготовки вне сеанса; Кризис оставляет решение за человеком.
Распространенные ошибки
- Просить ИИ принять решение в кризисной ситуации. «Есть ли риск?» консалтинг ИИ; значит упустить решение и ответственность.
- Направление клиента в кризисе к боту. Забывая, что чат-бот не может надежно управлять рисками.
- Ошибочная оценка риска за реальную. Замена механического «уровня риска» вывода ИИ для клинической оценки.
- Перенос промежуточного инструмента в живое использование. Использование внесессионного контрольного списка в условиях реального кризиса по согласованию с ИИ.
- Не создание цепочки поддержки людей. Полагаться на ИИ вместо настоящей системы экспертов/кризисных линий в нерабочее время в организации.
В итоге
Риск кризиса, самоубийства и вреда — это самый явный предел модуля: в эти моменты ИИ не может принимать решения, измерять риск, вмешиваться и брать на себя ответственность. Потому что кризис требует участия в режиме реального времени, целостного клинического суждения, подотчетности и вмешательства человека. Единственная приемлемая роль ИИ — это контрольный список, проект протокола/шаблона и тренировочная репетиция ВНЕ сеанса, поддерживающая собственную подготовку профессионала. Никогда не направляйте клиента в кризисной ситуации к чат-боту; Активизирована цепочка поддержки людей и горячие линии.
Задача приложения
Нарисуйте поток кризисной маршрутизации для вашей практики или организации: что происходит шаг за шагом, когда клиент демонстрирует риск, кому звонят, по каким линиям обращаются? Убедитесь, что ИИ не является лицом, принимающим решения на любом этапе этого потока. Также вытащите из ИИ чек-лист внесессионной оценки рисков и напишите в одном предложении, почему это всего лишь ваше напоминание и его нельзя передать клиенту.
контрольный список
- [ ] Я не придавал ИИ решающей роли в реальном кризисе.
- [ ] Я сам лично взял на себя оценку кризиса и реагирование на него.
- [ ] Я не направлял клиента в кризисе к чат-боту.
- [ ] Я использовал ИИ только для внесессионной подготовки (контрольный список/протокол/репетиция).
- [ ] Я определил корпоративную цепочку поддержки и горячие линии.
- [ ] Я усвоил, что решение и ответственность за кризис лежит на человеке.