Pelnas:
- Supratimas, kodėl dirbtinis intelektas negali priimti sprendimų rizikuojant krizei, savižudybei ir pakenkti sau/kitiems ir kodėl žmogaus įsikišimas yra privalomas.
- Galimybė AI nustatyti rizikos vertinime tik priminimo / kontrolinio sąrašo lygiu, žemiau eksperto nuomonės
- Gebėjimas apibrėžti ribotą ir kontroliuojamą dirbtinio intelekto vaidmenį avarijos protokole, maršruto linijose ir saugumo plane
Šis blokas nubrėžia svarbiausią viso modulio ribą. Psichikos sveikatos versle būna momentų, kai kalbama ne apie greitį, lengvumą ar efektyvumą; kalba tik vieno žmogaus gyvybė ir vieno eksperto atsakomybė. Tokios situacijos kaip savižudybės rizika, žala sau ar aplinkiniams, ūmi psichozė, smurto grėsmė, pranešimas apie vaiko/prievartą yra krizės. Šiomis akimirkomis dirbtinis intelektas (AI) negali priimti sprendimų, įvertinti rizikos, įsikišti ir prisiimti atsakomybės. Tai nėra „DI dar nėra pakankamai geras“ klausimas; Krizei iš prigimties reikalingas žmonių ryšys realiuoju laiku, klinikinis sprendimas ir atskaitomybė. Šiame skyriuje sužinosite, kodėl AI sustos ištikus krizei, kodėl žmonės yra būtini ir kokį ribotą vaidmenį AI gali atlikti daugiausia.
Kodėl AI negali priimti sprendimų krizės metu
Krizės įvertinimui reikalingi keturi dalykai, o dirbtinio intelekto atveju nė vieno nepakanka:
- Santykiai realiu laiku. Tikrieji rizikos ženklai dažnai nėra ištartuose žodžiuose; Tai slypi balso tone, pauzėje, žvilgsnyje, kūno kalboje, „nepasakytame“. AI mato tekstą; žmonių nemato.
- Holistinis klinikinis samprotavimas. Rizika; Tai gyvas dešimčių faktorių, tokių kaip istorija, apsauginiai faktoriai, impulsyvumas, prieiga (prieiga prie metodo), paramos sistema, svėrimas. AI gali suteikti mechaninį „rizikos balą“, tačiau tas balas žmogaus neišgelbės.
- Atsakomybė ir atsakingumas. Turi būti asmuo, kuris pasirašo už krizinį sprendimą, kuris prireikus yra atsakingas ir prisiima kliento gyvybę. AI negali prisiimti atsakomybės.
- Reagavimo pajėgumas. Ko reikia krizės metu (saugos plano sudarymas, šeimos įtraukimas, nukreipimas į greitosios pagalbos skyrių, kreipimasis į ligoninę) yra konkretūs, žmogaus sukurti veiksmai.
Atsargiai: kai klientas rodo rizikos požymius, paklauskite AI „ar yra rizika? Klausimas “ – tai atidėti sprendimą ir išvengti atsakomybės. Krizės atveju ekspertas žengia TIESIOGIAI. DI šiuo metu neturi jokio sprendimo vaidmens. Prireikus įjungiamos karštosios linijos ir žmonių palaikymo grandinės.
AI pavojus krizių pokalbių robotuose
Pastaraisiais metais plačiai paplito AI pokalbių robotai, kurie sako „leisk man tave palaikyti“. Jų pavojus krizės metu yra rimtas: robotas gali neteisingai suprasti savižudišką žinią, išsisukti nuo temos, duoti klišinį atsakymą arba (kaip pagrįsti dokumentais) reaguoti žalingai. Žmogus jaučia, kad kitam žmogui gresia realus pavojus, ir imasi veiksmų; botas negali to padaryti patikimai. Taigi niekada nenukreipkite į krizę patekusio kliento į pokalbių robotą.
Priimtinas ribotas AI vaidmuo
DI negali priimti sprendimų krizės metu; bet NE sesijoje specialistas gali turėti labai ribotą vaidmenį remdamas savo darbą:
- Priminimas / kontrolinis sąrašas. Kaip kontrolinį sąrašą parengti sritis, kurių ekspertas neturėtų pamiršti paklausti rizikos vertinime (juo naudojasi ekspertas, o ne klientas).
- Protokolo projektas. Įstaigos krizių protokolo, siuntimo linijų sąrašo, saugos plano šablono projekto rengimas (tada ekspertas/institucija jį tvirtina).
- Treniruotė / repeticija. Įsivaizduojama scenarijaus repeticija (nėra tikro kliento), siekiant pagerinti specialisto krizių apklausos įgūdžius.
Ką bendro turi šie vaidmenys: AI niekada nepriima sprendimų ištikus krizei su tikru klientu.
Situacija
AI vaidmuo
Kas nusprendžia
Tiesioginė krizė (klientui gresia pavojus)
NĖRA sprendžiamojo vaidmens
Ekspertas, tiesiogiai ir nedelsiant
Po sesijos: kontrolinio sąrašo paruošimas
priminimo juodraštis
Ekspertas patvirtina / naudoja
Krizės protokolo/šablono rašymas
teksto juodraštis
Ekspertas/institucija tvirtina
Vadovauti klientui krizės metu
Draudžiama (niekada nekalbėti robotui)
žmogaus paramos grandinė
trys mini dėklai
1 atvejis – sienų apsauga. Klientas per seansą sako: „Nebegaliu, noriu tai užbaigti“. Ekspertas galvoja: „Aš parašysiu tai AI ir paprašysiu paklausti apie jo rimtumą“, bet sustoja. Vietoj to jis tiesiogiai, ramiai ir tiesiogiai pereina prie rizikos vertinimo: mąstymo dažnumas, planas, metodas, pasiekiamumas, kalba apie apsauginius veiksnius; sudaro saugumo planą; suaktyvina reikiamas atramas. Sprendimas ir atsakomybė priklauso žmogui nuo pradžios iki galo; AI iš viso nebūtų teisinga įeiti į šią akimirką.
2 atvejis – valties nepakankamumas. Organizacija svarsto galimybę įdiegti AI pokalbių robotą, skirtą pagalbai po darbo valandų. Atliekant bandomąjį testavimą, robotas atsako bendru atsakymu „rūpinkis“ į pranešimą, kuriame siūloma nusižudyti; Ji nepripažįsta ir nenurodo rizikos. Agentūra nusprendžia, kad robotas nėra saugus krizei; Vietoj to, sukuriama aiški sistema, nukreipianti žmones į tikrą krizių liniją ir budintį specialistą ne darbo valandoms.
3 atvejis. Tinkamas ribotas naudojimas. Siekdamas sustiprinti savo rizikos vertinimo praktiką, vienas ekspertas prašo dirbtinio intelekto „sąrašo sričių, apie kurias turėčiau nepamiršti paklausti išsamiame savižudybės rizikos vertinimo pokalbyje“. AI sukuria gerą priminimų sąrašą; Ekspertas laiko jį savo krepšyje kaip apsauginį tinklelį. Čia AI visiškai neliečia kliento; Tai tik palaiko specialisto pasirengimą. Tai yra priimtina riba.
Kopijuojami raginimai ir šablonai
Pastaba: Nė vienas iš šių šablonų neturėtų būti naudojamas ištikus krizei su tikru klientu. Viskas ne seanso metu, paties specialisto pasiruošimui.
Paruoškite bendrą KONTROLINĮ SĄRAŠĄ, kad profesionalas nepamirštų paklausti atlikdamas rizikos vertinimą (mąstymo dažnumas/intensyvumas, planas, prieiga prie metodo, apsauginiai veiksniai, istorija, paramos sistema). Šis sąrašas yra tik paties eksperto priminimas; Rizikos SPRENDIMAS neduodamas, jis neduodamas klientui.
Sukurkite mūsų organizacijos KRIZĖS NUORODOS PROTOKOLO šabloną: įjungimo / išjungimo valandų žingsniai, kam skambinti, nukreipimas į pagalbos linijas, dokumentacija. Mūsų ekspertai ir vadovybė tai peržiūrės ir patvirtins pagal vietos realybę ir įstatymus.
Paruoškite TUŠČIĄ saugos plano šablono juodraštį: įspėjamieji ženklai, įveikos strategijos, pagalba žmonėms, profesionalus bendravimas, saugios aplinkos kūrimas. Specialistas užpildys turinį akis į akį su klientu; Jūs tiesiog pateikiate tuščią šabloną.
Sukurkite ĮSIVAIZDOMĄ repeticijų scenarijų (nėra tikro kliento), kad pagerintumėte mano pokalbio krizės metu įgūdžius. Leiskite man atsakyti kaip eksperto pareigose, tada pateikite konstruktyvių atsiliepimų apie mano požiūrį. Tai treniruočių repeticija, o ne tikras atvejis.
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas: "Šis klientas pasakė: [frazės]. Ar yra didelė savižudybės rizika, ką turėčiau daryti?"
Šis raginimas paveda sprendimą dėl krizės AI; AI negali išmatuoti rizikos, negali prisiimti atsakomybės, todėl šiuo momentu reikia žmogaus įsikišimo realiuoju laiku. Toks naudojimas yra pavojingas.
Stiprus raginimas: "Aš išėjau iš sesijos, nėra tikro kliento. Kad patobulintumėte savo rizikos vertinimo įgūdžius, sudarykite sąrašą sričių, kurių neturėčiau aptarti savižudybės rizikos pokalbyje. Sprendimas ir įsikišimas bus mano atsakomybė realioje situacijoje."
Šis raginimas AI naudoja tik kaip pasiruošimo ne seansui įrankį; Krizė palieka sprendimą pačiam žmogui.
Dažnos klaidos
- Prašymas AI priimti sprendimą dėl krizės. – Ar yra rizika? konsultavimas AI; yra praleisti sprendimą ir atsakomybę.
- Krizės ištikto kliento nukreipimas į robotą. Pamirškite, kad pokalbių robotas negali patikimai valdyti rizikos.
- Rizikos balas klaidingas. Klinikiniam vertinimui pakeičiant mechaninį „rizikos lygio“ išvestį iš AI.
- Sukūrimo įrankio perkėlimas į tiesioginį naudojimą. Ne seanso kontrolinio sąrašo naudojimas tiesioginės krizės metu, konsultuojantis su AI.
- Nesukuria žmogaus paramos grandinės. Pasikliauti dirbtiniu intelektu, o ne tikra ekspertų / krizių linijos sistema po darbo valandų organizacijoje.
Apibendrinant
Krizės, savižudybės ir žalos rizika yra aiškiausia modulio riba: šiais momentais AI negali priimti sprendimų, įvertinti rizikos, įsikišti ir prisiimti atsakomybės. Kadangi krizei reikalingas įsitraukimas realiuoju laiku, holistinis klinikinis sprendimas, atskaitomybė ir žmogaus įsikišimas. Vienintelis priimtinas AI vaidmuo yra kaip kontrolinis sąrašas, protokolo/šablono juodraštis ir treniruočių repeticija NE sesijoje, padedanti paties specialisto pasiruošimui. Niekada nenukreipkite į krizę patekusio kliento į pokalbių robotą; Suaktyvinta žmonių pagalbos grandinė ir karštosios linijos.
Taikymo užduotis
Nubraižykite krizių nukreipimo srautą savo praktikai ar organizacijai: kas vyksta žingsnis po žingsnio, kai klientas parodo riziką, kam skambinama, į kokias linijas jis nukreipiamas? Patikrinkite, ar AI nėra sprendimų priėmėjas bet kuriame šio srauto etape. Taip pat iš AI ištraukite ne seanso rizikos vertinimo kontrolinį sąrašą ir vienu sakiniu parašykite, kodėl tai tik jūsų priminimas ir jo negalima duoti klientui.
kontrolinis sąrašas
- [ ] Esant tiesioginei krizei, dirbtiniu intelektu nesuteikiau jokio sprendimo vaidmens.
- [ ] Aš pats tiesiogiai ėmiausi krizės įvertinimo ir reagavimo.
- [ ] Į pokalbių robotą nenukreipiau į krizę patekusio kliento.
- [ ] Dirbtinį intelektą naudojau tik pasiruošimui ne seansui (kontrolinis sąrašas / protokolas / repeticija).
- [ ] Apibrėžiau įmonės žmogiškosios pagalbos grandinę ir karštąsias linijas.
- [ ] Įsivaizdavau, kad sprendimas ir atsakomybė už krizę tenka žmogui.