Kriza, rizik i samoubistvo: definitivna granica vještačke inteligencije

Dobici:

• Razumijevanje zašto umjetna inteligencija ne može donositi odluke u riziku od krize, samoubistva i povrede sebe/drugih i zašto je ljudska intervencija obavezna.
• Sposobnost pozicioniranja AI u procjeni rizika samo na nivou podsjetnika/kontrolne liste, ispod stručne procjene
• Sposobnost definiranja ograničene i kontrolirane uloge umjetne inteligencije u protokolu za hitne slučajeve, linijama rutiranja i sigurnosnom planu

Ova jedinica iscrtava najvažniju granicu cijelog modula. Postoje trenuci u poslu mentalnog zdravlja u kojima se ne radi o brzini, lakoći ili efikasnosti; govori samo život jednog čovjeka i odgovornost jednog stručnjaka. Situacije kao što su rizik od samoubistva, povređivanje sebe ili drugih, akutna psihoza, prijetnja nasiljem, prijava djeteta/zlostavljanja su krize. U ovim trenucima umjetna inteligencija (AI) ne može donositi odluke, mjeriti rizik, intervenirati i preuzimati odgovornost. Ovo nije pitanje "AI još nije dovoljno dobar"; Kriza sama po sebi zahtijeva ljudsku vezu u realnom vremenu, kliničko prosuđivanje i odgovornost. U ovoj ćete jedinici naučiti zašto će AI stati u krizi, zašto su ljudi od suštinskog značaja i u kojoj ograničenoj ulozi AI najviše može ostati.

Zašto AI ne može donositi odluke u krizi

Procjena krize zahtijeva četiri stvari, a nijedna nije dovoljna u AI:

1. Odnos u realnom vremenu. Pravi znaci rizika često nisu u izgovorenim rečima; To se krije u tonu glasa, pauzi, pogledu, govoru tela, „nerečenom“. AI vidi tekst; ne vidi ljude.
2. Holističko kliničko rezonovanje. Rizik; To je živo vaganje desetina faktora kao što su istorija, zaštitni faktori, impulsivnost, pristup (pristup metodi), sistem podrške. AI može dati mehanički "skor rizika", ali taj rezultat neće spasiti čovjeka.
3. Odgovornost i odgovornost. Mora postojati osoba koja potpisuje kriznu odluku, koja se smatra odgovornom ako je potrebno i koja preuzima život klijenta. AI ne može snositi odgovornost.
4. Kapacitet odgovora. Ono što je potrebno u krizi (izrada sigurnosnog plana, uključivanje porodice, upućivanje u hitnu pomoć, upućivanje u bolnicu) su konkretne akcije koje je napravio čovjek.

Oprez: Kada klijent pokaže znakove rizika, pitajte AI "da li postoji rizik?" Tražiti "je odgoditi odluku i izbjeći odgovornost. U krizi, stručnjaci stupaju DIREKTNO. AI u ovom trenutku nema ulogu odlučivanja. Dežurne linije i lanci ljudske podrške aktiviraju se kada je potrebno.

Opasnost od AI u kriznim chatbotovima

Posljednjih godina, AI chat botovi koji kažu "dopustite mi da vas podržim" postali su široko rasprostranjeni. Njihova opasnost u krizi je ozbiljna: bot može pogrešno shvatiti samoubilačku poruku, izbjeći temu, dati kliše odgovor ili (kao dokumentirani slučajevi) odgovoriti na štetan način. Osoba osjeti da je druga osoba u stvarnoj opasnosti i poduzima akciju; bot to ne može pouzdano da uradi. Zato nikada ne upućujte klijenta u krizi chatbotu.

Prihvatljiva ograničena uloga AI

AI ne može donositi odluke u krizi; ali VAN sesije, profesionalac može imati vrlo ograničenu ulogu u podršci svom radu:

• Podsjetnik/kontrolna lista. Priprema kao kontrolnu listu oblasti o kojima stručnjak ne treba da zaboravi da pita u proceni rizika (ekspert koristi, a ne klijent).
• Nacrt protokola. Priprema nacrta kriznog protokola institucije, liste upućivača, šablona sigurnosnog plana (onda ga stručnjak/institucija odobrava).
• Obuka/proba. Proba imaginarnog scenarija (bez pravog klijenta) za poboljšanje vještina specijalističkog intervjuiranja u kriznim situacijama.

Šta ove uloge imaju zajedničko: AI nikada nije u poziciji odlučivanja u krizi uživo, sa pravim klijentom.

Situacija

Uloga AI

Ko odlučuje

Živa kriza (klijent u opasnosti)

NEMA uloga odlučivanja

Ekspert, direktno i odmah

Van sesije: priprema kontrolne liste

nacrt podsjetnika

Stručnjak odobrava/koristi

Pisanje kriznog protokola/šablona

nacrt teksta

Stručnjak/institucija odobrava

Vođenje klijenta u krizi

Zabranjeno (nikad za chat bot)

lanac ljudske podrške

tri mini kofera

Slučaj 1 — Zaštita granice. Klijent kaže na sesiji: "Ne mogu više, želim da završim." Stručnjak pomisli: "Napisaću ovo AI-u i pitati ga o ozbiljnosti", ali staje. Umjesto toga prelazi direktno, mirno i direktno u procjenu rizika: učestalost razmišljanja, plan, metod, doseg, govori o zaštitnim faktorima; pravi sigurnosni plan; aktivira potrebne potpore. Odluka i odgovornost pripadaju čovjeku od početka do kraja; Ne bi bilo u redu da AI uopšte uđe u ovaj trenutak.

Slučaj 2 — Nedostatak čamca. Organizacija razmatra uvođenje AI chat bota za podršku nakon radnog vremena. U pilot testiranju, bot odgovara generičkim odgovorom "čuvaj se" na poruku koja sugerira samoubistvo; Ne prepoznaje niti usmjerava rizik. Agencija odlučuje da bot nije siguran u kriznim situacijama; Umjesto toga, uspostavlja jasan sistem koji usmjerava ljude na pravu kriznu liniju i dežurnog specijaliste za situacije van radnog vremena.

Slučaj 3 — Ispravna ograničena upotreba. Kako bi ojačao vlastitu praksu procjene rizika, jedan stručnjak traži od AI „kontrolnu listu područja o kojima bih trebao zapamtiti da pitam u sveobuhvatnom intervjuu za procjenu rizika od samoubistva“. AI proizvodi dobru listu podsjetnika; Stručnjak ga drži u torbi kao zaštitnu mrežu. Ovde veštačka inteligencija uopšte ne dodiruje klijenta; Podržava samo pripremu specijaliste. Ovo je prihvatljivo ograničenje.

Kopirani upiti i predlošci

Napomena: Nijedan od ovih šablona ne bi trebalo da se koristi u krizi uživo sa stvarnim klijentom. Sve van sesije, za pripremu specijaliste.

Pripremite opštu KONTROLNU LISTU kako profesionalac ne bi zaboravio da pita u proceni rizika (učestalost/intenzitet razmišljanja, plan, pristup metodi, zaštitni faktori, istorijat, sistem podrške). Ova lista je samo podsjetnik stručnjaka; Rizik ODLUKA se ne daje, ne daje se klijentu.

Nacrtajte obrazac PROTOKOLA ZA REFERENCE KRIZE za našu organizaciju: koraci uključeno/isključeno, koga pozvati, upućivanje na hitne službe, dokumentacija. Naši stručnjaci i menadžment će ovo razmotriti i odobriti u skladu sa lokalnom realnošću i zakonodavstvom.

Pripremite PRAZNI nacrt predloška sigurnosnog plana: znakovi upozorenja, strategije suočavanja, podrška ljudima, profesionalna komunikacija, bezbedno okruženje. Specijalista će ispuniti sadržaj licem u lice sa klijentom; Samo dajte prazan šablon.

Postavite IMAGINARNI scenario za probu (bez pravog klijenta) da poboljšam svoje vještine intervjuiranja u kriznim situacijama. Dozvolite mi da odgovorim u svojoj stručnoj ulozi, a zatim mi dajte konstruktivnu povratnu informaciju o mom pristupu. Ovo je proba treninga, a ne pravi slučaj.

Slaba prompt / Jaka prompt

Slab upit: "Ovaj klijent je rekao: [fraze]. Postoji li visok rizik od samoubistva, šta da radim?"

Ovaj poziv delegira odluku o krizi na AI; AI ne može mjeriti rizik, ne može preuzeti odgovornost, a ovaj trenutak zahtijeva ljudsku intervenciju u realnom vremenu. Ova upotreba je opasna.

Snažan poziv: "Izašao sam sa sesije, nema pravog klijenta. Da biste poboljšali svoje vještine procjene rizika, napravite listu kao podsjetnik na oblasti koje ne bih trebao pokrivati ​​u intervjuu za rizik od samoubistva. Odluka i intervencija će biti moja odgovornost u stvarnoj situaciji."

Ovaj prompt koristi AI samo kao alat za pripremu van sesije; Kriza prepušta odluku osobi.

Uobičajene greške

• Traženje AI za kriznu odluku. "Postoji li rizik?" konsalting AI; je propustiti odluku i odgovornost.
• Usmjeravanje klijenta u krizi na bot. Zaboravljajući da chatbot ne može pouzdano upravljati rizikom.
• Pogrešio ocjenu rizika za stvarnu. Zamjena mehaničkog “nivoa rizika” od AI za kliničku procjenu.
• Premještanje alata za stažiranje za živu upotrebu. Korištenje kontrolne liste van sesije u krizi uživo uz konsultacije s AI.
• Ne uspostavljanje lanca ljudske podrške. Oslanjanje na veštačku inteligenciju umesto na pravi sistem stručnjaka/kriznih linija tokom radnog vremena u organizaciji.

Ukratko

Rizik od krize, samoubistva i štete je najjasnija granica modula: u ovim trenucima AI ne može donositi odluke, mjeriti rizik, intervenirati i preuzeti odgovornost. Jer kriza zahtijeva angažman u realnom vremenu, holističko kliničko prosuđivanje, odgovornost i ljudsku intervenciju. Jedina prihvatljiva uloga za AI je kontrolna lista, nacrt protokola/šablona i probe obuke, VAN sesije, podržavajući vlastitu pripremu profesionalca. Nikada ne usmjeravajte klijenta u krizi na chatbot; Aktivirani su lanac ljudske podrške i telefonske linije.

Zadatak aplikacije

Nacrtajte tok kriznog usmjeravanja za svoju praksu ili organizaciju: šta se dešava korak po korak kada klijent pokaže rizik, koga se zove, na koje linije se odnosi? Provjerite da AI nije donosilac odluka ni u jednom koraku ovog toka. Također izvucite kontrolnu listu za procjenu rizika izvan sesije iz AI i napišite u jednoj rečenici zašto je to samo vaš podsjetnik i ne može se dati klijentu.

kontrolna lista

• [ ] Nisam dao nikakvu ulogu u odlučivanju AI u krizi uživo.
• [ ] Lično sam direktno preuzeo procjenu krize i odgovor.
• [ ] Nisam uputio klijenta u krizi na chatbot.
• [ ] Koristio sam AI samo za pripremu van sesije (kontrolna lista/protokol/proba).
• [ ] Definisao sam korporativni lanac ljudske podrške i telefonske linije.
• [ ] Internacionalizirao sam da je odluka i odgovornost za krizu na licu.