Dobički:
- Razumevanje, zakaj umetna inteligenca ne more sprejemati odločitev v nevarnosti krize, samomora in poškodovanja sebe/drugih in zakaj je človeško posredovanje obvezno.
- Sposobnost pozicioniranja umetne inteligence v oceni tveganja samo na ravni opomnika/kontrolnega seznama, pod strokovno presojo
- Sposobnost definiranja omejene in nadzorovane vloge umetne inteligence v protokolu za nujne primere, usmerjevalnih linijah in varnostnem načrtu
Ta enota nariše najpomembnejšo mejo celotnega modula. V poslu duševnega zdravja obstajajo trenutki, ko ne gre za hitrost, enostavnost ali učinkovitost; samo življenje enega človeka in odgovornost enega strokovnjaka govorita. Situacije, kot so tveganje samomora, poškodovanje sebe ali drugih, akutna psihoza, grožnja z nasiljem, prijava otroka/zlorabe, so krize. V teh trenutkih umetna inteligenca (AI) ne more sprejemati odločitev, meriti tveganja, posredovati in prevzemati odgovornosti. To ni vprašanje "AI še ni dovolj dober"; Kriza sama po sebi zahteva človeško povezavo v realnem času, klinično presojo in odgovornost. V tej enoti boste izvedeli, zakaj se umetna inteligenca v krizi ustavi, zakaj so ljudje bistveni in kakšno omejeno vlogo lahko umetna inteligenca najbolj ohrani.
Zakaj AI ne more sprejemati odločitev v krizi
Ocena krize zahteva štiri stvari, pri AI pa nobena ne zadostuje:
- Odnos v realnem času. Pravi znaki tveganja pogosto niso v izrečenih besedah; Skriva se v tonu glasu, premoru, pogledu, govorici telesa, »neizrečenem«. AI vidi besedilo; ne vidi ljudi.
- Holistično klinično razmišljanje. tveganje; Gre za živo tehtanje desetin dejavnikov, kot so anamneza, zaščitni dejavniki, impulzivnost, dostop (dostop do metode), podporni sistem. AI lahko poda mehansko "oceno tveganja", vendar ta ocena ne bo rešila človeka.
- Odgovornost in odgovornost. Mora biti oseba, ki se podpiše za krizno odločitev, ki odgovarja, če je treba, in ki prevzame življenje stranke. AI ne more prevzeti odgovornosti.
- Odzivna zmogljivost. Kar je v krizi potrebno (izdelava varnostnega načrta, vključitev družine, napotitev na urgenco, napotitev v bolnišnico) so konkretna, človeška dejanja.
Pozor: Ko stranka pokaže znake tveganja, vprašajte AI "ali obstaja tveganje?" Zahtevati " je odložiti odločitev in se izogniti odgovornosti. V krizi strokovnjak vskoči NEPOSREDNO. Umetna inteligenca trenutno nima vloge pri odločanju. Po potrebi se aktivirajo vroče linije in človeške podporne verige.
Nevarnost AI v kriznih chatbotih
V zadnjih letih so klepetalni roboti z umetno inteligenco, ki pravijo "naj te podprem", postali zelo razširjeni. Njihova nevarnost v krizi je resna: bot lahko napačno razume samomorilno sporočilo, se izogne temi, poda klišejski odgovor ali (kot so dokumentirani primeri) se odzove na škodljiv način. Oseba začuti, da je druga oseba v resnični nevarnosti in ukrepa; bot tega ne more narediti zanesljivo. Zato nikoli ne napotite stranke v krizi na chatbota.
Sprejemljiva omejena vloga AI
AI ne more sprejemati odločitev v krizi; vendar ima lahko strokovnjak zelo omejeno vlogo pri podpori svojega dela:
- Opomnik/kontrolni seznam. Pripraviti kot kontrolni seznam področij, o katerih strokovnjak ne sme pozabiti vprašati v oceni tveganja (uporablja ga strokovnjak, ne naročnik).
- Osnutek protokola. Priprava osnutka kriznega protokola zavoda, seznama referenčnih linij, predloge varnostnega načrta (nato potrdi strokovnjak/institucija).
- Usposabljanje/vaje. Vaja namišljenega scenarija (brez prave stranke) za izboljšanje strokovnjakovih veščin kriznega razgovora.
Kaj imajo te vloge skupnega: umetna inteligenca nikoli ni v položaju odločanja v krizi v živo, z resnično stranko.
Stanje
Vloga AI
Kdo odloča
Živa kriza (ogrožena stranka)
NI odločitvene vloge
Strokovno, neposredno in takoj
Izven seje: priprava kontrolne liste
osnutek opomnika
Strokovnjak odobri/uporabi
Pisanje kriznega protokola/predloge
osnutek besedila
Strokovnjak/institucija odobri
Vodenje stranke v krizi
Prepovedano (nikoli za chat bot)
človeška podporna veriga
trije mini kovčki
Primer 1 – Varovanje meje. Stranka med sejo reče: "Ne morem več, želim končati." Strokovnjak pomisli: "To bom napisal AI in naj vpraša, ali je resno," vendar se ustavi. Namesto tega neposredno, mirno in neposredno preide v oceno tveganja: pogostost razmišljanja, načrt, metoda, doseg, govori o varovalnih dejavnikih; izdela varnostni načrt; aktivira potrebne podpore. Odločitev in odgovornost pripadata človeku od začetka do konca; Ne bi bilo prav, da bi AI sploh vstopil v ta trenutek.
Primer 2 – Nezadostnost čolna. Organizacija razmišlja o uvedbi klepetalnega robota z umetno inteligenco za podporo izven delovnega časa. Pri pilotnem testiranju se bot na sporočilo, ki nakazuje samomor, odzove z generičnim odgovorom »pazi nase«; Tveganja niti ne prepozna niti ne usmerja. Agencija se odloči, da bot ni krizno varen; Namesto tega vzpostavlja jasen sistem, ki ljudi usmerja na pravo krizno linijo in dežurnega strokovnjaka za situacije izven delovnega časa.
Primer 3 – Pravilna omejena uporaba. Da bi okrepil svojo lastno prakso ocenjevanja tveganja, en strokovnjak od umetne inteligence zahteva "kontrolni seznam področij, o katerih bi se moral vprašati v celovitem intervjuju za oceno tveganja samomora." AI ustvari dober seznam opomnikov; Strokovnjak ga hrani v svoji torbi kot varnostno mrežo. Tukaj se AI sploh ne dotakne odjemalca; Podpira le pripravo specialista. To je sprejemljiva meja.
Pozivi in predloge, ki jih je mogoče kopirati
Opomba: nobena od teh predlog se ne sme uporabljati v krizi v živo z dejansko stranko. Vse izven seje, za pripravo specialista.
Pripravite splošen KONTROLNI SEZNAM, da strokovnjak ne pozabi vprašati pri oceni tveganja (pogostost/intenzivnost razmišljanja, načrt, dostop do metode, zaščitni dejavniki, anamneza, podporni sistem). Ta seznam je zgolj opomnik strokovnjaka; Tveganje ODLOČITEV ni dana, ni dana stranki.
Osnutek predloge KRIZNEGA REFERENČNEGA PROTOKOLA za našo organizacijo: koraki za vklop/izklop, koga poklicati, napotitev na linije za nujne primere, dokumentacija. Naši strokovnjaki in vodstvo bodo to pregledali in odobrili glede na lokalno realnost in zakonodajo.
Pripravite PRAZEN osnutek predloge varnostnega načrta: opozorilni znaki, strategije obvladovanja, podporni ljudje, strokovna komunikacija, varno okolje. Strokovnjak bo izpolnil vsebino iz oči v oči s stranko; Daš samo prazno predlogo.
Pripravite NAMIŠLJENI scenarij vaje (brez prave stranke), da izboljšam svoje veščine kriznega razgovora. Dovolite mi, da odgovorim v svoji vlogi strokovnjaka, nato pa mi dajte konstruktivne povratne informacije o svojem pristopu. To je vadbena vaja, ne resničen primer.
Šibek poziv/močan poziv
Šibek poziv: "Ta stranka je rekla: [fraze]. Ali obstaja veliko tveganje za samomor, kaj naj storim?"
Ta poziv prenese krizno odločitev na AI; AI ne more izmeriti tveganja, ne more prevzeti odgovornosti in ta trenutek zahteva človeško posredovanje v realnem času. Ta uporaba je nevarna.
Močan poziv: "Zapustil sem sejo, ni prave stranke. Da osvežim svoje sposobnosti ocenjevanja tveganja, naredi seznam kot opomnik področij, ki jih ne bi smel obravnavati v intervjuju za tveganje samomora. Odločitev in posredovanje bosta moja odgovornost v dejanski situaciji."
Ta poziv uporablja AI samo kot orodje za pripravo izven seje; Kriza prepušča odločitev človeku.
Pogoste napake
- Prosim AI za krizno odločitev. "Ali obstaja tveganje?" svetovanje AI; je zamuditi odločitev in odgovornost.
- Usmerjanje klienta v krizi k botu. Pozabljamo, da chatbot ne more zanesljivo obvladovati tveganja.
- Zamenjajte oceno tveganja za resnično. Zamenjava mehanskega izhoda "stopnje tveganja" iz AI za klinično oceno.
- Premikanje orodja za uprizarjanje v uporabo v živo. Uporaba kontrolnega seznama izven seje v krizi v živo ob posvetovanju z AI.
- Ni vzpostavljanje človeške podporne verige. Zanašanje na AI namesto pravega sistema strokovnjakov/kriznih linij za popoldansko delo v organizaciji.
Če povzamem
Tveganje krize, samomora in škode je najbolj jasna meja modula: v teh trenutkih AI ne more sprejemati odločitev, meriti tveganja, posredovati in prevzeti odgovornosti. Ker kriza zahteva sodelovanje v realnem času, celovito klinično presojo, odgovornost in človeško posredovanje. Edina sprejemljiva vloga umetne inteligence je kontrolni seznam, osnutek protokola/predloge in vaja usposabljanja, ZUNAJ seje, ki podpira strokovnjakovo lastno pripravo. Nikoli ne usmerjajte stranke v krizi na chatbota; Človeška podporna veriga in vroče linije so aktivirane.
Aplikacijska naloga
Narišite tok kriznega usmerjanja za svojo prakso ali organizacijo: kaj se zgodi korak za korakom, ko stranka dokaže tveganje, koga pokličejo, na katere linije so napoteni? Preverite, ali umetna inteligenca ni tisti, ki sprejema odločitve v nobenem koraku tega toka. Iz AI izvlecite tudi kontrolni seznam za oceno tveganja zunaj seje in v enem stavku napišite, zakaj je to le vaš opomnik in ga ni mogoče dati stranki.
kontrolni seznam
- [ ] Umetni inteligenci v krizi v živo nisem dal nobene vloge odločanja.
- [ ] Sam sem neposredno prevzel krizno oceno in odziv.
- [ ] Stranke v krizi nisem usmeril na chatbot.
- [ ] Umetno inteligenco sem uporabljal samo za priprave izven seje (kontrolni seznam/protokol/vaje).
- [ ] Definiral sem korporativno človeško podporno verigo in odprte linije.
- [ ] Ponotranjil sem, da je odločitev in odgovornost za krizo na osebi.