Ieguvumi:
- Izpratne par to, kāpēc mākslīgais intelekts nevar pieņemt lēmumus krīzes, pašnāvības un kaitējuma sev/citiem riskam un kāpēc cilvēka iejaukšanās ir obligāta.
- Iespēja pozicionēt AI riska novērtējumā tikai atgādinājuma/kontrolsaraksta līmenī, zem eksperta vērtējuma
- Spēja definēt ierobežoto un kontrolēto mākslīgā intelekta lomu avārijas protokolā, maršrutēšanas līnijās un drošības plānā
Šī vienība novelk visa moduļa vissvarīgāko robežu. Garīgās veselības biznesā ir brīži, kad runa nav par ātrumu, vieglumu vai efektivitāti; runā tikai viena cilvēka dzīvība un viena eksperta atbildība. Tādas situācijas kā pašnāvības risks, kaitējums sev vai citiem, akūta psihoze, vardarbības draudi, ziņošana par bērnu/vardarbību ir krīzes. Šajos brīžos mākslīgais intelekts (AI) nevar pieņemt lēmumus, novērtēt risku, iejaukties un uzņemties atbildību. Tas nav jautājums par "AI vēl nav pietiekami labs"; Krīzei pēc būtības ir nepieciešama reāllaika cilvēku saikne, klīniskais vērtējums un atbildība. Šajā nodaļā jūs uzzināsit, kāpēc AI apstāsies krīzes gadījumā, kāpēc cilvēki ir būtiski un kādu ierobežoto lomu AI var palikt visvairāk.
Kāpēc AI nevar pieņemt lēmumus krīzes apstākļos
Krīzes novērtēšanai ir vajadzīgas četras lietas, un mākslīgā intelekta gadījumā ar to vien nepietiek:
- Reāllaika attiecības. Patiesās riska pazīmes bieži vien nav izrunātajos vārdos; Tas slēpjas balss tonī, pauzē, skatienā, ķermeņa valodā, "nepateiktajā". AI redz tekstu; cilvēkus neredz.
- Holistiskā klīniskā argumentācija. Risks; Tā ir desmitiem faktoru dzīvsvēršana, piemēram, vēsture, aizsargfaktori, impulsivitāte, pieeja (piekļuve metodei), atbalsta sistēma. AI var sniegt mehānisku “riska rādītāju”, taču šis rādītājs neglābs cilvēku.
- Atbildība un atbildība. Ir jābūt personai, kas parakstās aiz krīzes lēmuma, kura vajadzības gadījumā tiek saukta pie atbildības un uzņemas klienta dzīvi. AI nevar uzņemties atbildību.
- Reaģēšanas spēja. Tas, kas krīzes situācijā ir vajadzīgs (drošības plāna sastādīšana, ģimenes iesaistīšana, nokļūšana neatliekamās palīdzības nodaļā, norāde uz slimnīcu) ir konkrētas, cilvēka radītas darbības.
Uzmanību: ja klientam ir riska pazīmes, jautājiet AI “vai pastāv risks?” Jautāšana ir lēmuma pieņemšanas atlikšana un izvairīšanās no atbildības. Krīzes gadījumā eksperts iesaistās TIEŠI. AI pašlaik nav lēmējvaras. Uzticības tālruņi un cilvēku atbalsta ķēdes tiek aktivizētas, kad nepieciešams.
AI briesmas krīzes tērzēšanas robotos
Pēdējos gados plaši izplatīti ir AI tērzēšanas roboti, kas saka "ļaujiet man jūs atbalstīt". Viņu briesmas krīzē ir nopietnas: robots var pārprast pašnāvniecisku ziņojumu, izvairīties no tēmas, sniegt klišejisku atbildi vai (kā dokumentēti gadījumi) reaģēt kaitīgā veidā. Cilvēks jūt, ka otram cilvēkam draud reālas briesmas, un rīkojas; robots to nevar izdarīt uzticami. Tāpēc nekad nenosūtiet klientu krīzes situācijā uz tērzēšanas robotu.
Pieņemama ierobežota AI loma
AI nevar pieņemt lēmumus krīzes apstākļos; bet ĀRPUS sesijas profesionālim var būt ļoti ierobežota loma sava darba atbalstīšanā:
- Atgādinājums/kontrolsaraksts. Sagatavojot kā kontrolsarakstu jomas, par kurām ekspertam nevajadzētu aizmirst uzdot jautājumu riska novērtējumā (to izmanto eksperts, nevis klients).
- Protokola projekts. Iestādes krīzes protokola projekta, nosūtīšanas līniju saraksta, drošības plāna veidnes sagatavošana (pēc tam eksperts/iestāde to apstiprina).
- Treniņš/mēģinājums. Iedomātā scenārija mēģinājums (nav reāla klienta), lai uzlabotu speciālista krīzes intervēšanas prasmes.
Kas kopīgs šīm lomām: AI nekad nav lēmumu pieņemšanas pozīcijā dzīvās krīzes apstākļos ar īstu klientu.
Situācija
AI loma
Kas izlemj
Aktuāla krīze (klients apdraudēts)
NAV lēmēja lomas
Eksperts, tieši un nekavējoties
Ārpus sesijas: kontrolsaraksta sagatavošana
atgādinājuma melnraksts
Eksperts apstiprina/izmanto
Krīzes protokola/veidņu rakstīšana
teksta melnraksts
Eksperts/institūcija apstiprina
Klienta vadīšana krīzes situācijā
Aizliegts (nekad tērzēt robotam)
cilvēku atbalsta ķēde
trīs mini futrāļi
1. gadījums — robežaizsardzība. Klients sesijā saka: "Es vairs nevaru izturēt, es gribu to izbeigt." Eksperts domā: "Es to uzrakstīšu AI un pajautāšu par tā nopietnību", bet apstājas. Tā vietā viņš tieši, mierīgi un tieši pievēršas riska novērtēšanai: domāšanas biežums, plāns, metode, sasniedzamība, runā par aizsargfaktoriem; sastāda drošības plānu; aktivizē nepieciešamos atbalstus. Lēmums un atbildība pieder cilvēkam no sākuma līdz beigām; AI vispār nebūtu pareizi ievadīt šo brīdi.
2. gadījums — laivas nepietiekamība. Organizācija apsver iespēju izvietot AI tērzēšanas robotu atbalstam pēc darba laika. Pilottestēšanā robots reaģē ar vispārīgu "rūpējies" atbildi uz ziņojumu, kas liecina par pašnāvību; Tas nedz atpazīst, nedz nevirza risku. Aģentūra nolemj, ka robotprogrammatūra nav droša krīzēm; Tā vietā tiek izveidota skaidra sistēma, kas novirza cilvēkus uz reālu krīzes līniju un dežūras speciālistu ārpus darba laika situācijām.
3. gadījums — Pareiza ierobežota izmantošana. Lai stiprinātu savu riska novērtēšanas praksi, viens eksperts lūdz AI “kontrolsarakstu ar jomām, par kurām man jāatceras jautāt visaptverošā pašnāvības riska novērtējuma intervijā”. AI izveido labu atgādinājumu sarakstu; Eksperts to glabā savā somā kā drošības tīklu. Šeit AI nepieskaras klientam vispār; Tas tikai atbalsta speciālista sagatavošanu. Šī ir pieļaujamā robeža.
Kopējamas uzvednes un veidnes
Piezīme. Nevienu no šīm veidnēm nevajadzētu izmantot reāllaika krīzes gadījumā ar faktisku klientu. Viss ārpus seansa, paša speciālista sagatavošanai.
Sagatavojiet vispārīgu PĀRBAUDES SARAKSTU, lai profesionālis neaizmirstu pajautāt riska novērtējumā (domāšanas biežums/intensitāte, plāns, pieeja metodei, aizsardzības faktori, vēsture, atbalsta sistēma). Šis saraksts ir tikai paša eksperta atgādinājums; Riska LĒMUMS netiek dots, tas netiek dots klientam.
Sagatavojiet mūsu organizācijai KRĪZES ATSAUCES PROTOKOLA veidni: ieslēgšanas/izslēgšanas stundu soļi, kam zvanīt, nosūtīšana uz neatliekamās palīdzības tālruņiem, dokumentācija. Mūsu eksperti un vadība to izskatīs un apstiprinās saskaņā ar vietējo realitāti un tiesību aktiem.
Sagatavojiet TUKŠU drošības plāna veidnes melnrakstu: brīdinājuma zīmes, pārvarēšanas stratēģijas, atbalsts cilvēkiem, profesionāla komunikācija, vides padarīšana par drošu. Speciālists aizpildīs saturu aci pret aci ar klientu; Jūs vienkārši sniedzat tukšu veidni.
Iestatiet IEDOMĀTU mēģinājuma scenāriju (nav īsta klienta), lai uzlabotu manas krīzes intervēšanas prasmes. Ļaujiet man atbildēt savā eksperta lomā un pēc tam sniegt konstruktīvas atsauksmes par manu pieeju. Šis ir treniņu mēģinājums, nevis reāls gadījums.
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne: "Šis klients teica: [frāzes]. Vai pastāv augsts pašnāvības risks, kas man jādara?"
Šī uzvedne deleģē krīzes lēmumu AI; AI nevar izmērīt risku, nevar uzņemties atbildību, un šajā brīdī ir nepieciešama reāllaika cilvēka iejaukšanās. Šāda lietošana ir bīstama.
Spēcīgs aicinājums: "Es esmu ārpus sesijas, nav neviena īsta klienta. Lai uzlabotu savas riska novērtēšanas prasmes, izveidojiet sarakstu, atgādinot par jomām, kuras man nevajadzētu aptvert pašnāvības riska intervijā. Lēmums un iejaukšanās būs mana atbildība reālajā situācijā."
Šajā uzvednē mākslīgais intelekts tiek izmantots tikai kā ārpussesijas sagatavošanas rīks; Krīze atstāj lēmumu cilvēka ziņā.
Biežas kļūdas
- Lūdzam AI pieņemt lēmumu par krīzi. — Vai pastāv risks? konsultācijas AI; ir palaist garām lēmumu un atbildību.
- Krīzes klienta virzīšana uz robotprogrammatūru. Aizmirstot, ka tērzēšanas robots nevar droši pārvaldīt risku.
- Riska rādītāju maldināšana pret reālu. Klīniskā novērtējuma aizstāšana ar mākslīgā intelekta mehānisko “riska līmeņa” izvadi.
- Iestudēšanas rīka pārvietošana reāllaikā. Ārpussesijas kontrolsaraksta izmantošana tiešās krīzes gadījumā, konsultējoties ar AI.
- Neveidojot cilvēku atbalsta ķēdi. Paļaušanās uz mākslīgo intelektu, nevis īstu ekspertu/krīzes līniju sistēmu pēc darba stundām organizācijā.
Rezumējot
Krīzes, pašnāvības un kaitējuma risks ir skaidrākā moduļa robeža: šajos brīžos AI nevar pieņemt lēmumus, izmērīt risku, iejaukties un uzņemties atbildību. Tā kā krīzei ir nepieciešama reāllaika iesaistīšanās, holistisks klīniskais vērtējums, atbildība un cilvēka iejaukšanās. Vienīgā pieņemamā AI loma ir kontrolsaraksts, protokola/veidnes melnraksts un apmācības mēģinājums ĀRPUS sesijas, atbalstot profesionāļa sagatavošanos. Nekad nenovirziet klientu krīzes situācijā uz tērzēšanas robotu; Ir aktivizēta cilvēku atbalsta ķēde un palīdzības tālruņi.
Lietojumprogrammas uzdevums
Uzzīmējiet krīzes maršrutēšanas plūsmu savai praksei vai organizācijai: kas notiek soli pa solim, kad klients pierāda risku, kam tiek zvanīts, uz kādām līnijām viņš atsaucas? Pārbaudiet, vai AI nav lēmumu pieņēmējs nevienā šīs plūsmas posmā. Izvelciet arī ārpussesijas riska novērtējuma kontrolsarakstu no AI un vienā teikumā uzrakstiet, kāpēc tas ir tikai jūsu atgādinājums un to nevar nodot klientam.
kontrolsaraksts
- [ ] Es nepiešķīru AI lēmumu pieņemšanas lomu tiešraidē krīzē.
- [ ] Es pats tieši uzņēmos krīzes izvērtēšanu un reaģēšanu.
- [ ] Es nenorādīju krīzē nonākušo klientu uz tērzēšanas robotu.
- [ ] Es izmantoju AI tikai ārpussesijas sagatavošanai (kontrolsaraksts/protokols/mēģinājums).
- [ ] Es definēju korporatīvo cilvēku atbalsta ķēdi un uzticības tālruņus.
- [ ] Esmu internalizējis, ka lēmums un atbildība par krīzi ir pašam cilvēkam.