Добици:
- Разумевање зашто вештачка интелигенција не може да доноси одлуке у ризику од кризе, самоубиства и повреде себе/других и зашто је људска интервенција обавезна.
- Способност позиционирања АИ у процени ризика само на нивоу подсетника/контролне листе, испод стручне процене
- Способност дефинисања ограничене и контролисане улоге вештачке интелигенције у протоколу за хитне случајеве, линијама рутирања и безбедносном плану
Ова јединица црта најважнију границу читавог модула. Постоје тренуци у послу менталног здравља у којима се не ради о брзини, лакоћи или ефикасности; говоре само живот једног човека и одговорност једног стручњака. Ситуације као што су ризик од самоубиства, повреде себе или других, акутне психозе, претње насиљем, пријављивање деце/злостављања су кризе. У овим тренуцима, вештачка интелигенција (АИ) не може да доноси одлуке, мери ризик, интервенише и преузима одговорност. Ово није питање „АИ још није довољно добар“; Криза сама по себи захтева људску везу у реалном времену, клиничку процену и одговорност. У овој јединици ћете научити зашто ће АИ стати у кризи, зашто су људи од суштинског значаја и у којој ограниченој улози АИ највише може да остане.
Зашто АИ не може да доноси одлуке у кризи
Процена кризе захтева четири ствари, а ниједна није довољна у вештачкој интелигенцији:
- Однос у реалном времену. Прави знаци ризика често нису у изговореним речима; Крије се у тону гласа, паузи, погледу, говору тела, „неизреченом“. АИ види текст; не види људе.
- Холистичко клиничко резоновање. Риск; То је живо вагање десетина фактора као што су историја, заштитни фактори, импулсивност, приступ (приступ методи), систем подршке. АИ може дати механички „оцену ризика“, али тај резултат неће спасити човека.
- Одговорност и одговорност. Мора постојати особа која потписује кризну одлуку, која одговара ако је потребно и која преузима живот клијента. АИ не може сносити одговорност.
- Капацитет одговора. Оно што је потребно у кризи (израда сигурносног плана, укључивање породице, упућивање у хитну помоћ, упућивање у болницу) су конкретне акције које је направио човек.
Опрез: Када клијент покаже знаке ризика, питајте АИ „да ли постоји ризик?“ Тражити "је одлагање одлуке и избегавање одговорности. У кризи, експерт ступа ДИРЕКТНО. АИ нема улогу у одлучивању у овом тренутку. Вруће линије и ланци људске подршке се активирају када је то потребно.
Опасност од АИ у кризним цхатботовима
Последњих година, АИ цхат ботови који кажу „дај да те подржим“ постали су широко распрострањени. Њихова опасност у кризи је озбиљна: бот може погрешно разумети самоубилачку поруку, избећи тему, дати клише одговор или (као документовани случајеви) одговорити на штетан начин. Особа осећа да је друга особа у стварној опасности и предузима акцију; бот то не може поуздано да уради. Зато никада не упућујте клијента у кризи на цхат бота.
Прихватљива ограничена улога АИ
АИ не може да доноси одлуке у кризи; али ВАН сесије, професионалац може имати веома ограничену улогу у подршци сопственом раду:
- Подсетник/контролна листа. Припрема као контролну листу области о којима стручњак не треба да заборави да пита у процени ризика (експерт користи, а не клијент).
- Нацрт протокола. Припрема нацрта кризног протокола институције, листе упућивача, шаблона безбедносног плана (онда га стручњак/институција одобрава).
- Обука/проба. Проба имагинарног сценарија (без правог клијента) како би се побољшале вештине специјалистичког интервјуисања у кризним ситуацијама.
Шта ове улоге имају заједничко: АИ никада није у позицији одлучивања у кризи уживо, са правим клијентом.
Ситуација
Улога АИ
Ко одлучује
Жива криза (клијент у опасности)
НЕМА улога одлучивања
Експерт, директно и одмах
Ван сесије: припрема контролне листе
нацрт подсетника
Стручњак одобрава/користи
Писање кризног протокола/шаблона
нацрт текста
Стручно лице/институција одобрава
Вођење клијента у кризи
Забрањено (никад за цхат бот)
ланац људске подршке
три мини кофера
Случај 1 — Заштита границе. Клијент каже на сесији: "Не могу више, желим да завршим." Експерт мисли: „Написаћу ово АИ и питати га о озбиљности“, али стаје. Уместо тога, прелази директно, мирно и директно у процену ризика: учесталост размишљања, план, метод, домет, говори о заштитним факторима; прави безбедносни план; активира потребне ослонце. Одлука и одговорност припадају човеку од почетка до краја; Не би било у реду да АИ уопште уђе у овај тренутак.
Случај 2 — Недостатак чамца. Организација разматра увођење АИ цхат бота за подршку након радног времена. У пилот тестирању, бот одговара генеричким „чувај се“ одговором на поруку која сугерише самоубиство; Не препознаје нити усмерава ризик. Агенција одлучује да бот није безбедан од кризе; Уместо тога, успоставља јасан систем који упућује људе на праву кризну линију и дежурног специјалисте за ситуације ван радног времена.
Случај 3 — Исправна ограничена употреба. Да би ојачао сопствену праксу процене ризика, један стручњак тражи од АИ „контролну листу области о којима треба да запамтим да питам у свеобухватном интервјуу за процену ризика од самоубиства“. АИ производи добру листу подсетника; Стручњак га држи у торби као заштитну мрежу. Овде вештачка интелигенција уопште не додирује клијента; То само подржава припрему специјалисте. Ово је прихватљиво ограничење.
Упутства и шаблони који се могу копирати
Напомена: Ниједан од ових шаблона не би требало да се користи у кризи уживо са стварним клијентом. Све ван сесије, за припрему специјалисте.
Припремите општу КОНТРОЛНУ ЛИСТУ како професионалац не би заборавио да пита у процени ризика (учесталост/интензитет размишљања, план, приступ методи, заштитни фактори, историјат, систем подршке). Ова листа је само подсетник стручњака; Ризик ОДЛУКА се не даје, не даје се клијенту.
Нацртајте шаблон ПРОТОКОЛА ЗА РЕФЕРЕНЦЕ КРИЗЕ за нашу организацију: кораци укључено/искључено, кога позвати, упућивање на хитне службе, документација. Наши стручњаци и менаџмент ће ово размотрити и одобрити у складу са локалном реалношћу и законодавством.
Припремите ПРАЗНИ нацрт шаблона плана безбедности: знакови упозорења, стратегије суочавања, подршка људима, професионална комуникација, безбедно окружење. Специјалиста ће испунити садржај лицем у лице са клијентом; Само дајте празан шаблон.
Поставите ИМАГИНАРНИ сценарио за пробу (без правог клијента) да побољшам своје вештине интервјуисања у кризним ситуацијама. Дозволите ми да одговорим у својој експертској улози, а затим ми дајте конструктивну повратну информацију о мом приступу. Ово је проба тренинга, а не прави случај.
Слаби промпт / Јаки промпт
Слабо обавештење: "Овај клијент је рекао: [фразе]. Постоји ли висок ризик од самоубиства, шта да радим?"
Овај позив делегира кризну одлуку АИ; АИ не може да мери ризик, не може да преузме одговорност, а овај тренутак захтева људску интервенцију у реалном времену. Ова употреба је опасна.
Снажан позив: "Ван седнице сам, нема правог клијента. Да бисте побољшали своје вештине процене ризика, направите листу као подсетник на области које не бих требало да покривам у интервјуу за ризик од самоубиства. Одлука и интервенција ће бити моја одговорност у стварној ситуацији."
Овај упит користи АИ само као алат за припрему ван сесије; Криза препушта одлуку особи.
Уобичајене грешке
- Тражење од АИ за кризну одлуку. "Постоји ли ризик?" консалтинг АИ; је пропустити одлуку и одговорност.
- Усмеравање клијента у кризи на бот. Заборављајући да цхатбот не може поуздано да управља ризиком.
- Погрешити резултат ризика за стварну. Замена механичког „нивоа ризика” од АИ за клиничку процену.
- Пребацивање алатке за сценографију за употребу уживо. Коришћење контролне листе ван сесије у кризи уживо у консултацији са АИ.
- Не успостављање ланца људске подршке. Ослањање на вештачку интелигенцију уместо на прави систем стручњака/кризних линија за после радног времена у организацији.
Укратко
Ризик од кризе, самоубиства и штете је најјаснија граница модула: у овим тренуцима АИ не може да доноси одлуке, мери ризик, интервенише и преузима одговорност. Зато што криза захтева ангажовање у реалном времену, холистичко клиничко расуђивање, одговорност и људску интервенцију. Једина прихватљива улога за АИ је контролна листа, нацрт протокола/шаблона и проба обуке, ВАН сесије, подржавајући сопствену припрему професионалца. Никада не усмеравајте клијента у кризи на цхат бота; Активирани су ланац људске подршке и телефонске линије.
Задатак апликације
Нацртајте ток кризног рутирања за своју праксу или организацију: шта се дешава корак по корак када клијент покаже ризик, ко се зове, на које линије се односи? Уверите се да АИ није доносилац одлука ни у једном кораку овог тока. Такође извуците контролну листу за процену ризика ван сесије из АИ и напишите у једној реченици зашто је то само ваш подсетник и не може се дати клијенту.
контролна листа
- [ ] Нисам дао никакву улогу у одлучивању АИ у кризи уживо.
- [ ] Ја сам директно предузео процену кризе и реаговање.
- [ ] Нисам упутио клијента у кризи на цхатбот.
- [ ] Користио сам АИ само за припрему ван сесије (контролна листа/протокол/проба).
- [ ] Дефинисао сам корпоративни ланац људске подршке и телефонске линије.
- [ ] Унутарњио сам да је одлука и одговорност за кризу на лицу.