Печалби:
- Разбиране защо изкуственият интелект не може да взема решения при риск от криза, самоубийство и нараняване на себе си/другите и защо човешката намеса е задължителна.
- Възможност за позициониране на AI в оценката на риска само на ниво напомняне/контролен списък, под експертна преценка
- Възможност за дефиниране на ограничената и контролирана роля на изкуствения интелект в аварийния протокол, линиите за маршрутизиране и плана за сигурност
Този модул очертава най-важната граница на целия модул. Има моменти в бизнеса с психично здраве, когато не става въпрос за бързина, лекота или ефективност; само животът на един човек и отговорността на един експерт говорят. Ситуации като риск от самоубийство, нараняване на себе си или на другите, остра психоза, заплаха от насилие, докладване на дете/злоупотреба са кризи. В тези моменти изкуственият интелект (AI) не може да взема решения, да измерва риска, да се намесва и да поема отговорност. Това не е въпрос на „ИИ все още не е достатъчно добър“; Кризата по своята същност изисква човешка връзка в реално време, клинична преценка и отчетност. В тази част ще научите защо AI ще спре при криза, защо хората са от съществено значение и каква ограничена роля може да играе най-много AI.
Защо AI не може да взема решения в криза
Оценката на кризата изисква четири неща и нито едно от тях не е достатъчно в AI:
- Връзка в реално време. Истинските признаци на риск често не са в изречените думи; То се крие в тона на гласа, паузата, погледа, езика на тялото, „неизказаното“. AI вижда текст; не вижда хора.
- Холистично клинично разсъждение. риск; Това е претегляне на живо на десетки фактори като история, защитни фактори, импулсивност, достъп (достъп до метода), система за поддръжка. AI може да даде механична „оценка на риска“, но тази оценка няма да спаси човек.
- Отговорност и отчетност. Трябва да има човек, който се подписва зад кризисно решение, който носи отговорност, ако трябва и който поема живота на клиента. AI не може да носи отговорност.
- Капацитет за реакция. Това, което е необходимо при криза (съставяне на план за безопасност, включване на семейството, насочване към спешното отделение, насочване към болницата) са конкретни действия, създадени от човека.
Внимание: Когато клиент покаже признаци на риск, попитайте AI "има ли риск?" Искането " означава да отложите решението и да избегнете отговорност. В криза експертът се намесва ДИРЕКТНО. AI няма роля за вземане на решения в този момент. Горещите линии и вериги за поддръжка от хора се активират, когато е необходимо.
Опасността от AI в кризисните чатботове
През последните години широко разпространени са AI chatbots, които казват „позволи ми да те подкрепя“. Тяхната опасност в криза е сериозна: бот може да разбере погрешно самоубийствено съобщение, да избегне темата, да даде отговор като клише или (както са документирани случаи) да отговори по вреден начин. Човек усеща, че другият е в реална опасност и предприема действия; един бот не може да направи това надеждно. Така че никога не насочвайте клиент в криза към чатбот.
Приемлива ограничена роля на AI
AI не може да взема решения в криза; но ИЗВЪН сесията професионалистът може да има много ограничена роля в подпомагането на собствената си работа:
- Напомняне/контролен списък. Изготвяне като контролен списък на областите, за които експертът не трябва да забравя да попита при оценката на риска (експертът го използва, а не клиентът).
- Проект на протокол. Изготвяне на проект на кризисен протокол на институцията, списък с линии за насочване, шаблон на план за сигурност (след което експертът/институцията го одобрява).
- Обучение/репетиция. Репетиция на въображаем сценарий (без реален клиент) за подобряване на уменията на специалиста за интервюиране при кризисни ситуации.
Какво е общото между тези роли: AI никога не е в позиция за вземане на решения в криза на живо, с реален клиент.
Ситуация
Ролята на AI
Кой решава
Криза на живо (клиент в риск)
БЕЗ роля за вземане на решения
Експерт, директно и веднага
Извънсесия: изготвяне на контролен лист
чернова напомняне
Експерт одобрява/използва
Писане на кризисен протокол/шаблон
чернова на текст
Експерт/институция одобрява
Насочване на клиента в криза
Забранено (никога не чат бот)
човешка поддържаща верига
три мини калъфа
Случай 1 — Защита на границата. Клиент казва по време на сесия: „Не издържам повече, искам да сложа край“. Експертът си мисли: „Ще напиша това на AI и той ще попита дали е сериозно“, но спира. Вместо това той преминава директно, спокойно и директно в оценката на риска: честота на мисълта, план, метод, обхват, говори за защитни фактори; изработва план за охрана; активира необходимите опори. Решението и отговорността принадлежат на човека от началото до края; Не би било правилно AI да навлезе в този момент изобщо.
Случай 2 — Недостатъчност на лодката. Една организация обмисля внедряването на AI чатбот за поддръжка след работно време. При пилотно тестване ботът отговаря с общ отговор „внимавай“ на съобщение, предполагащо самоубийство; Нито признава, нито насочва риска. Агенцията решава, че ботът не е безопасен при кризи; Вместо това той установява ясна система, която насочва хората към истинска кризисна линия и специалист на повикване за ситуации извън работното време.
Случай 3 — Правилна ограничена употреба. За да засили собствената си практика за оценка на риска, един експерт иска от ИИ „списък с области, за които трябва да забравя да попитам в цялостно интервю за оценка на риска от самоубийство“. AI създава добър списък с напомняния; Експертът го държи в чантата си като предпазна мрежа. Тук AI изобщо не засяга клиента; Подпомага само подготовката на специалиста. Това е допустимата граница.
Подкани и шаблони с възможност за копиране
Забележка: Нито един от тези шаблони не трябва да се използва в криза на живо с действителен клиент. Всичко извън сесията, за собствена подготовка на специалиста.
Подгответе общ СПИСЪК ЗА ПРОВЕРКА, така че професионалистът да не забрави да попита при оценка на риска (честота/интензивност на мисълта, план, достъп до метода, защитни фактори, история, система за поддръжка). Този списък е просто лично напомняне на експерта; Риск РЕШЕНИЕ не се дава, не се дава на клиента.
Изготвяне на шаблон на КРИЗИСЕН РЕФЕРЕНТЕН ПРОТОКОЛ за нашата организация: стъпки за включване/изключване, на кого да се обадите, насочване към спешни линии, документация. Нашите експерти и ръководство ще прегледат това и ще го одобрят в съответствие с местната действителност и законодателство.
Подгответе ПРАЗЕН проект на шаблон за план за безопасност: предупредителни знаци, стратегии за справяне, хора за подкрепа, професионална комуникация, създаване на безопасна среда. Специалистът ще попълни съдържанието лице в лице с клиента; Просто давате празния шаблон.
Създайте ВЪОБРАЗЕН сценарий за репетиция (без реален клиент), за да подобря уменията си за интервюиране при кризисни ситуации. Позволете ми да отговоря в ролята си на експерт, след което ми дайте конструктивна обратна връзка за подхода ми. Това е тренировъчна репетиция, а не реален случай.
Слаба подкана / Силна подкана
Слаба подкана: „Този клиент каза: [фрази]. Има ли висок риск от самоубийство, какво трябва да направя?“
Тази подкана делегира решението за криза на AI; AI не може да измери риска, не може да поеме отговорност и този момент изисква човешка намеса в реално време. Тази употреба е опасна.
Силна подкана: „Излязох от сесията, няма истински клиент. За да освежа уменията си за оценка на риска, направете списък като напомняне на областите, които не трябва да покривам в интервю за риск от самоубийство. Решението и намесата ще бъдат моя отговорност в реалната ситуация.“
Тази подкана използва AI само като инструмент за подготовка извън сесията; Кризата оставя решението на човека.
Често срещани грешки
- Искане на AI за решение при криза. — Има ли риск? консултантски AI; е да пропуснете решението и отговорността.
- Насочване на клиента в криза към бота. Забравяйки, че чатботът не може надеждно да управлява риска.
- Объркайте оценката на риска за реална. Замяна на механично „ниво на риск“ изход от AI за клинична оценка.
- Преместване на инструмента за поставяне за използване на живо. Използване на контролния списък извън сесията в криза на живо в консултация с AI.
- Без установяване на човешка поддържаща верига. Разчитане на AI вместо на истинска експертна/кризисна система за извънработно време в организацията.
В обобщение
Рискът от криза, самоубийство и вреда е най-ясната граница на модула: в тези моменти AI не може да взема решения, да измерва риска, да се намесва и да поема отговорност. Защото кризата изисква ангажираност в реално време, холистична клинична преценка, отчетност и човешка намеса. Единствената приемлива роля за AI е като контролен списък, чернова на протокол/шаблон и репетиция на обучение, ИЗВЪН сесията, подпомагайки собствената подготовка на професионалиста. Никога не насочвайте клиент в криза към чатбот; Веригата за човешка поддръжка и горещите линии са активирани.
Задача за приложение
Начертайте поток за маршрутизиране на кризи за вашата собствена практика или организация: какво се случва стъпка по стъпка, когато клиентът демонстрира риск, кой е извикан, към кои линии е насочен? Уверете се, че изкуственият интелект не е човекът, който взема решения на нито една стъпка от този поток. Също така извадете контролен списък за оценка на риска извън сесията от AI и напишете с едно изречение защо това е само ваше напомняне и не може да бъде дадено на клиента.
контролен списък
- [ ] Не дадох никаква роля за вземане на решения на AI в криза на живо.
- [ ] Аз директно поех оценката на кризата и отговора сам.
- [ ] Не насочих клиента в криза към чатбота.
- [ ] Използвах AI само за подготовка извън сесията (контролен списък/протокол/репетиция).
- [ ] Дефинирах веригата за корпоративна човешка поддръжка и горещите линии.
- [ ] Разбрах, че решението и отговорността за кризата са на човека.