Kasu:
- Arusaam, miks tehisintellekt ei saa teha otsuseid kriisi, enesetapu ja enese/teiste kahjustamise ohus ning miks on inimese sekkumine kohustuslik.
- Võimalus positsioneerida tehisintellekti riskihinnangus ainult meeldetuletuse/kontrollnimekirja tasemel, alla eksperdi hinnangu
- Võimalus määratleda tehisintellekti piiratud ja kontrollitud roll hädaolukorra protokollis, marsruutimisliinides ja turvaplaanis
See üksus tõmbab kogu mooduli kõige olulisema piiri. Vaimse tervise äris on hetki, kus asi pole kiiruses, lihtsuses ega tõhususes; räägivad vaid ühe mehe elu ja ühe asjatundja vastutus. Kriisid on sellised olukorrad nagu enesetapuoht, enda või teiste kahjustamine, äge psühhoos, vägivallaoht, lapsest/kuritarvitamisest teatamine. Nendel hetkedel ei saa tehisintellekt (AI) teha otsuseid, mõõta riske, sekkuda ega võtta vastutust. See ei ole küsimus "AI pole veel piisavalt hea"; Kriis nõuab reaalajas inimestevahelist sidet, kliinilist hinnangut ja vastutust. Selles üksuses saate teada, miks tehisintellekt kriisi korral peatub, miks on inimesed hädavajalikud ja millisesse piiratud rolli AI kõige enam jääb.
Miks AI ei saa kriisiolukorras otsuseid teha?
Kriisi hindamine nõuab nelja asja ja AI puhul ei piisa ühestki:
- Reaalajas suhe. Tõelised riskimärgid ei peitu sageli öeldud sõnades; See on peidus hääletoonis, pausis, pilgus, kehakeeles, "ütlemata". AI näeb teksti; ei näe inimesi.
- Terviklik kliiniline arutluskäik. Risk; See on kümnete tegurite, nagu ajalugu, kaitsetegurid, impulsiivsus, juurdepääs (juurdepääs meetodile), tugisüsteem, elavkaalumine. AI võib anda mehaanilise "riskiskoori", kuid see skoor ei päästa inimest.
- Vastutus ja vastutus. Kriisiotsuse taga peab olema allkirja andja, vajadusel vastutav inimene, kes võtab enda peale kliendi elu. AI ei saa vastutada.
- Reageerimisvõime. Kriisiolukorras (ohutusplaani koostamine, pere kaasamine, kiirabisse suunamine, haiglasse suunamine) on vaja konkreetseid, inimese tehtud tegusid.
Ettevaatust: kui kliendil ilmnevad riskimärgid, küsige tehisintellektilt: "Kas on oht?" Küsimine on otsuse edasilükkamine ja vastutusest kõrvalehoidmine. Kriisiolukorras astub ekspert OTSE. Tehisintellektil pole hetkel otsustavat rolli. Vajadusel aktiveeritakse vihjeliinid ja inimeste tugiahelad.
AI oht kriisivestlusbotites
Viimastel aastatel on laialt levinud tehisintellekti vestlusrobotid, mis ütlevad, et las ma toetan sind. Nende oht kriisiolukorras on tõsine: robot võib enesetapusõnumit valesti mõista, teemast kõrvale hiilida, klišeeliku vastuse anda või (dokumenteeritud juhtudel) reageerida kahjulikul viisil. Inimene tunnetab, et teine inimene on reaalses ohus, ja tegutseb; bot ei saa seda usaldusväärselt teha. Nii et ärge kunagi suunake kriisis olevat klienti vestlusroti juurde.
AI vastuvõetav piiratud roll
AI ei saa kriisiolukorras otsuseid vastu võtta; kuid VÄLJASPOOL seanssi võib professionaalil olla väga piiratud roll oma töö toetamisel:
- Meeldetuletus/kontrollnimekiri. Koostades kontrollnimekirjaks valdkonnad, mille kohta ekspert ei tohiks unustada riskianalüüsis küsida (seda kasutab ekspert, mitte klient).
- Protokolli eelnõu. Asutuse kriisiprotokolli, saateliinide nimekirja, turvaplaani malli mustandi koostamine (siis ekspert/asutus selle kinnitab).
- Treening/proov. Väljamõeldud stsenaariumi proov (reaalset klienti pole), et parandada spetsialisti kriisivestluse oskusi.
Mis neil rollidel on ühist: tehisintellekt ei ole kunagi reaalajas kriisis, tõelise kliendiga, otsustavas positsioonis.
Olukord
AI roll
Kes otsustab
Elav kriis (klient on ohus)
EI OLE otsustavat rolli
Asjatundja, otse ja kohe
Väljaspool seanssi: kontrollnimekirja koostamine
meeldetuletuse mustand
Ekspert kiidab/kasutab
Kriisiprotokolli/malli kirjutamine
teksti mustand
Ekspert/asutus kiidab heaks
Kliendi juhendamine kriisiolukorras
Keelatud (mitte kunagi vestelda robotiga)
inimeste tugiahel
kolm minikarpi
Juhtum 1 – piirikaitse. Klient ütleb seansil: "Ma ei jaksa enam, ma tahan selle lõpetada." Ekspert arvab: "Ma kirjutan selle AI-le ja lasen tal küsida selle tõsiduse kohta", kuid peatub. Selle asemel liigub ta otse, rahulikult ja otse riskianalüüsi: mõtlemissagedus, plaan, meetod, haare, räägib kaitsefaktoritest; koostab turvaplaani; aktiveerib vajalikud toed. Otsus ja vastutus kuuluvad algusest lõpuni inimesele; Tehisintellektil poleks õige sellesse hetke üldse siseneda.
Juhtum 2 – paadi puudulikkus. Organisatsioon kaalub AI-vestlusroti juurutamist tööpäevajärgseks toeks. Piloottestimisel vastab bot enesetapule viitavale sõnumile üldise "hoolsalt" vastusega; See ei tunnista ega juhi riski. Agentuur otsustab, et robot ei ole kriisiohutu; Selle asemel luuakse selge süsteem, mis suunab inimesed tõelise kriisitelefoni ja valvespetsialisti juurde tööajaväliste olukordade jaoks.
Juhtum 3 – õige piiratud kasutus. Oma riskihindamise praktika tugevdamiseks küsib üks ekspert tehisintellektilt "kontrollnimekirja valdkondadest, mida pean meeles pidama kõikehõlmava enesetapuriski hindamise intervjuu käigus." AI koostab hea meeldetuletuste loendi; Ekspert hoiab seda oma kotis turvavõrguna. Siin ei puuduta AI klienti üldse; See toetab ainult spetsialisti ettevalmistust. See on vastuvõetav piir.
Kopeeritavad viibad ja mallid
Märkus. Ühtegi neist mallidest ei tohiks kasutada tegeliku kliendiga kriisiolukorras. Kõik väljaspool seanssi, spetsialisti enda ettevalmistuseks.
Valmistage ette üldine KONTROLLLOEND, et professionaal ei unustaks riskianalüüsis küsida (mõtlemise sagedus/intensiivsus, plaan, juurdepääs meetodile, kaitsefaktorid, ajalugu, tugisüsteem). See nimekiri on vaid eksperdi enda meeldetuletus; Riski OTSUST ei anta, seda ei anta kliendile.
Koostage meie organisatsiooni jaoks KRIISI VIITEPROTOKOLL mall: sisse- ja väljalülitusaegade sammud, kellele helistada, hädaabiliinidele suunamine, dokumentatsioon. Meie eksperdid ja juhtkond vaatavad selle üle ja kiidavad selle heaks vastavalt kohalikule tegelikkusele ja seadusandlusele.
Koosta ohutusplaani malli TÜHI mustand: hoiatusmärgid, toimetulekustrateegiad, tugiisikud, professionaalne suhtlus, keskkonna turvaliseks muutmine. Spetsialist täidab sisu kliendiga silmast silma; Annate lihtsalt tühja malli.
Seadistage IMAGINAARNE proovistsenaarium (päris klient puudub), et parandada minu kriisivestluse oskusi. Lubage mul vastata oma eksperdi rollis, seejärel andke mulle oma lähenemisviisi kohta konstruktiivset tagasisidet. See on treeningu peaproov, mitte reaalne juhtum.
Nõrk viip / Tugev viip
Nõrk viip: "See klient ütles: [fraasid]. Kas on suur enesetapurisk, mida ma peaksin tegema?"
See viip delegeerib kriisiotsuse tehisintellektile; AI ei saa mõõta riske, ei saa võtta vastutust ja see hetk nõuab inimese reaalajas sekkumist. Selline kasutamine on ohtlik.
Tugev üleskutse: "Ma olen istungist väljas, tõelist klienti pole. Oma riskihindamise oskuste värskendamiseks koostage nimekiri valdkondadest, mida ma ei tohiks enesetapuriski intervjuul käsitleda. Otsuse ja sekkumise eest vastutan tegelikus olukorras."
See viip kasutab AI-d ainult seansivälise ettevalmistustööriistana; Kriis jätab otsustamise inimese enda teha.
Levinud vead
- AI küsimine kriisiotsuse tegemiseks. "Kas on oht?" AI nõustamine; on igatseda otsust ja vastutust.
- Kriisiolukorras kliendi juhtimine robotisse. Unustades, et vestlusbot ei suuda riske usaldusväärselt juhtida.
- Riskiskoori eksimine tegelikuks. Tehisintellekti mehaanilise "riskitaseme" väljundi asendamine kliinilise hindamise jaoks.
- Lavastustööriista viimine reaalajas kasutamiseks. Seansivälise kontrollnimekirja kasutamine reaalajas kriisiolukorras tehisintellektiga konsulteerides.
- Inimtoetusahelat ei rajata. Toetumine AI-le, mitte tõelisele eksperdi-/kriisiliinisüsteemile organisatsiooni tööjärgsetel tundidel.
Kokkuvõttes
Kriisi-, enesetapu- ja kahjurisk on mooduli selgeim piir: nendel hetkedel ei saa tehisintellekt teha otsuseid, mõõta riske, sekkuda ega võtta vastutust. Kuna kriis nõuab reaalajas kaasamist, terviklikku kliinilist hinnangut, vastutust ja inimeste sekkumist. Tehisintellekti ainsaks vastuvõetavaks rolliks on kontrollnimekiri, protokolli/malli mustand ja treeningproov, VÄLJASPOOL seanssi, toetades professionaali enda ettevalmistust. Ärge kunagi suunake kriisis olevat klienti vestlusrobotisse; Inimeste tugiahel ja vihjeliinid on aktiveeritud.
Rakenduse ülesanne
Joonistage oma praktika või organisatsiooni jaoks kriisi suunamise voog: mis juhtub samm-sammult, kui klient näitab riski, kellele helistatakse, millistele liinidele viidatakse? Veenduge, et tehisintellekt ei ole selle voo üheski etapis otsustaja. Tõmmake tehisintellektist välja ka seansivälise riskihindamise kontrollnimekiri ja kirjutage ühe lausega, miks see on lihtsalt teie meeldetuletus ja seda ei saa kliendile anda.
kontrollnimekiri
- [ ] Ma ei andnud AI-le reaalajas kriisis otsustavat rolli.
- [ ] Kriisi hindamise ja reageerimise võtsin ise vahetult ette.
- [ ] Ma ei suunanud kriisis olevat klienti juturobotisse.
- [ ] Kasutasin tehisintellekti ainult seansiväliseks ettevalmistuseks (kontrollloend/protokoll/proov).
- [ ] Määratlesin ettevõtte inimeste tugiahela ja vihjeliinid.
- [ ] Olen sisendanud, et kriisi otsus ja vastutus lasub inimesel.