Dobici:
- Razumijevanje zašto umjetna inteligencija ne može donositi odluke u riziku od krize, samoubojstva i ozljeđivanja sebe/drugih i zašto je ljudska intervencija obvezna.
- Sposobnost pozicioniranja umjetne inteligencije u procjeni rizika samo na razini podsjetnika/kontrolne liste, ispod stručne procjene
- Sposobnost definiranja ograničene i kontrolirane uloge umjetne inteligencije u protokolu za hitne slučajeve, linijama usmjeravanja i sigurnosnom planu
Ova jedinica crta najvažniju granicu cijelog modula. Postoje trenuci u poslovanju s mentalnim zdravljem u kojima se ne radi o brzini, lakoći ili učinkovitosti; govori samo život jednog čovjeka i odgovornost jednog stručnjaka. Situacije kao što su rizik od samoubojstva, ozljeđivanje sebe ili drugih, akutna psihoza, prijetnja nasiljem, prijava djeteta/zlostavljanja su krize. U ovim trenucima umjetna inteligencija (AI) ne može donositi odluke, mjeriti rizik, intervenirati i preuzimati odgovornost. Ovo nije pitanje "AI još nije dovoljno dobar"; Kriza sama po sebi zahtijeva ljudsku vezu u stvarnom vremenu, kliničku prosudbu i odgovornost. U ovoj ćete jedinici naučiti zašto će umjetna inteligencija stati u krizi, zašto su ljudi bitni i koju ograničenu ulogu umjetna inteligencija najviše može zadržati.
Zašto AI ne može donositi odluke u krizi
Procjena krize zahtijeva četiri stvari, a nijedna nije dovoljna u AI:
- Odnos u stvarnom vremenu. Pravi znakovi rizika često nisu u izgovorenim riječima; Skriva se u tonu glasa, pauzi, pogledu, govoru tijela, onom „neizrečenom“. AI vidi tekst; ne vidi ljude.
- Holističko kliničko razmišljanje. Rizik; To je živo vaganje desetaka čimbenika kao što su povijest, zaštitni čimbenici, impulzivnost, pristup (pristup metodi), sustav podrške. AI može dati mehaničku "ocjenu rizika", ali ta ocjena neće spasiti čovjeka.
- Odgovornost i odgovornost. Mora postojati osoba koja stoji iza krizne odluke, koja odgovara ako treba i koja preuzima život klijenta. AI ne može snositi odgovornost.
- Kapacitet odziva. Ono što je potrebno u krizi (izrada sigurnosnog plana, uključivanje obitelji, upućivanje na hitnu pomoć, upućivanje u bolnicu) su konkretne, ljudske akcije.
Oprez: kada klijent pokaže znakove rizika, pitajte AI "postoji li rizik?" Tražiti " znači odgoditi odluku i izbjeći odgovornost. U krizi, stručnjak ulazi IZRAVNO. AI u ovom trenutku nema ulogu odlučivanja. Telefonske linije i lanci ljudske podrške aktiviraju se kada je potrebno.
Opasnost od umjetne inteligencije u kriznim chatbotovima
Posljednjih godina AI chatbotovi koji govore "dopusti da te podržim" postali su široko rasprostranjeni. Njihova opasnost u krizi je ozbiljna: bot može krivo shvatiti suicidalnu poruku, izbjeći temu, dati klišejski odgovor ili (kao što su dokumentirani slučajevi) odgovoriti na štetan način. Osoba osjeti da je druga osoba u stvarnoj opasnosti i poduzima akciju; bot to ne može učiniti pouzdano. Stoga nikad ne upućujte kupca u krizi na chatbot.
Prihvatljiva ograničena uloga umjetne inteligencije
AI ne može donositi odluke u krizi; ali IZVAN sesije, stručnjak može imati vrlo ograničenu ulogu u podržavanju vlastitog rada:
- Podsjetnik/kontrolni popis. Priprema popisa za provjeru područja o kojima stručnjak ne smije zaboraviti pitati u procjeni rizika (koristi ga stručnjak, a ne klijent).
- Nacrt protokola. Izrada nacrta kriznog protokola ustanove, liste referalnih linija, predloška sigurnosnog plana (potom stručnjak/ustanova to odobrava).
- Trening/proba. Proba zamišljenog scenarija (bez stvarnog klijenta) za poboljšanje stručnjakovih vještina vođenja kriznih razgovora.
Što je zajedničko ovim ulogama: AI nikada nije u poziciji donošenja odluka u kriznim situacijama uživo, sa stvarnim klijentom.
Situacija
Uloga AI
Tko odlučuje
Živa kriza (klijent u opasnosti)
NEMA uloge odlučivanja
Stručno, izravno i odmah
Izvan sjednice: priprema kontrolne liste
nacrt podsjetnika
Stručnjak odobrava/koristi
Pisanje protokola/predloška za krizne situacije
nacrt teksta
Stručnjak/institucija odobrava
Vođenje klijenta u krizi
Zabranjeno (nikada za chat bot)
ljudski potporni lanac
tri mini kućišta
Slučaj 1 — Zaštita granice. Klijent u sesiji kaže: "Ne mogu više, želim prekinuti." Stručnjak misli: "Napisat ću ovo AI-u i neka ga pita o ozbiljnosti", ali se zaustavlja. Umjesto toga prelazi izravno, smireno i izravno u procjenu rizika: učestalost razmišljanja, plan, metoda, doseg, govori o zaštitnim čimbenicima; izrađuje plan osiguranja; aktivira potrebne potpore. Odluka i odgovornost pripadaju čovjeku od početka do kraja; Ne bi bilo u redu da AI uopće uđe u ovaj trenutak.
Slučaj 2 — Nedovoljnost čamca. Jedna organizacija razmatra implementaciju AI chatbota za podršku izvan radnog vremena. U pilot testiranju, bot odgovara generičkim odgovorom "čuvaj se" na poruku koja sugerira samoubojstvo; Ne prepoznaje niti usmjerava rizik. Agencija odlučuje da bot nije siguran u kriznim situacijama; Umjesto toga, uspostavlja jasan sustav koji ljude usmjerava na pravu liniju za krizne situacije i dežurnog stručnjaka za situacije izvan radnog vremena.
Slučaj 3 — Ispravna ograničena uporaba. Kako bi ojačao vlastitu praksu procjene rizika, jedan stručnjak traži od umjetne inteligencije "popis područja o kojima bih se trebao sjetiti pitati u opsežnom intervjuu za procjenu rizika od samoubojstva." AI proizvodi dobar popis podsjetnika; Stručnjak ga drži u torbi kao sigurnosnu mrežu. Ovdje AI uopće ne dotiče klijenta; Pomaže samo u pripremi stručnjaka. Ovo je prihvatljiva granica.
Upute i predlošci koji se mogu kopirati
Napomena: nijedan od ovih predložaka ne bi se trebao koristiti u kriznim situacijama uživo sa stvarnim klijentom. Sve izvan sesije, za vlastitu pripremu specijalista.
Pripremite opći KONTROLNI POPIS kako profesionalac ne bi zaboravio pitati u procjeni rizika (učestalost/intenzitet razmišljanja, plan, pristup metodi, zaštitni faktori, povijest, sustav podrške). Ovaj je popis samo stručnjakov osobni podsjetnik; Rizik ODLUKA se ne daje, ne daje se klijentu.
Nacrtajte predložak KRIZNOG REFERENTNOG PROTOKOLA za našu organizaciju: koraci uključivanja/isključivanja, koga nazvati, upućivanje na linije za hitne slučajeve, dokumentacija. Naši stručnjaci i uprava će ovo pregledati i odobriti u skladu s lokalnom realnošću i zakonodavstvom.
Pripremite PRAZAN nacrt predloška sigurnosnog plana: znakovi upozorenja, strategije suočavanja, ljudi za podršku, profesionalna komunikacija, stvaranje sigurnog okoliša. Stručnjak će ispuniti sadržaj licem u lice s klijentom; Vi samo dajte prazan predložak.
Postavite ZAMIŠLJENI scenarij probe (bez pravog klijenta) kako bih poboljšao svoje vještine vođenja razgovora u kriznim situacijama. Dopustite mi da odgovorim u svojoj ulozi stručnjaka, a zatim mi dajte konstruktivne povratne informacije o svom pristupu. Ovo je proba treninga, a ne pravi slučaj.
Slab upit / Jak upit
Slab upit: "Ovaj klijent je rekao: [fraze]. Postoji li visok rizik od samoubojstva, što da radim?"
Ovaj upit delegira odluku o kriznoj situaciji AI-u; AI ne može mjeriti rizik, ne može preuzeti odgovornost, a ovaj trenutak zahtijeva ljudsku intervenciju u stvarnom vremenu. Ova uporaba je opasna.
Jaka pobuda: "Izvan sam seanse, nema pravog klijenta. Kako bih osvježio svoje vještine procjene rizika, napravi popis kao podsjetnik područja koja ne bih trebao pokrivati u intervjuu za rizik od samoubojstva. Odluka i intervencija bit će moja odgovornost u stvarnoj situaciji."
Ovaj upit koristi AI samo kao alat za pripremu izvan sesije; Kriza prepušta odluku osobi.
Uobičajene greške
- Traženje AI za kriznu odluku. "Postoji li rizik?" savjetovanje AI; je propustiti odluku i odgovornost.
- Usmjeravanje klijenta u krizi na bot. Zaboravljajući da chatbot ne može pouzdano upravljati rizikom.
- Miješajući rezultat rizika sa stvarnim. Zamjena izlaza mehaničke "razine rizika" iz umjetne inteligencije za kliničku procjenu.
- Premještanje alata za postavljanje na upotrebu uživo. Korištenje popisa za provjeru izvan sesije u kriznim situacijama uživo u dogovoru s AI.
- Ne uspostavljanje ljudskog lanca podrške. Oslanjanje na umjetnu inteligenciju umjesto pravog stručnog/kriznog sustava za rad izvan radnog vremena u organizaciji.
Ukratko
Rizik od krize, samoubojstva i ozljede najjasnija je granica modula: u tim trenucima AI ne može donositi odluke, mjeriti rizik, intervenirati i preuzeti odgovornost. Jer kriza zahtijeva angažman u stvarnom vremenu, holističku kliničku prosudbu, odgovornost i ljudsku intervenciju. Jedina prihvatljiva uloga umjetne inteligencije je popis za provjeru, nacrt protokola/predloška i proba treninga, IZVAN sesije, podržavanje profesionalne vlastite pripreme. Nikad ne usmjeravajte klijenta u krizi na chatbot; Aktivirani su ljudski lanac podrške i telefonske linije.
Zadatak aplikacije
Nacrtajte tijek kriznog usmjeravanja za svoju praksu ili organizaciju: što se događa korak po korak kada klijent pokaže rizik, tko je pozvan, na koje linije se upućuje? Provjerite nije li AI donositelj odluka ni u jednom koraku ovog toka. Također izvadite popis za procjenu rizika izvan sesije iz AI i napišite u jednoj rečenici zašto je to samo vaš podsjetnik i ne može se dati klijentu.
popis za provjeru
- [ ] Nisam dao nikakvu ulogu u odlučivanju umjetnoj inteligenciji u kriznim situacijama uživo.
- [ ] Sam sam izravno preuzeo procjenu krize i odgovor.
- [ ] Nisam usmjerio klijenta u krizi na chatbot.
- [] Koristio sam AI samo za pripremu izvan sesije (kontrolni popis/protokol/proba).
- [ ] Definirao sam korporativni lanac ljudske podrške i telefonske linije.
- [ ] Internalizirao sam da odluka i odgovornost za krizu leži na osobi.