Fitimet:
- Të kuptuarit pse inteligjenca artificiale nuk mund të marrë vendime në rrezik krize, vetëvrasjeje dhe dëmtimi ndaj vetes/të tjerëve dhe pse ndërhyrja njerëzore është e detyrueshme.
- Aftësia për të pozicionuar IA në vlerësimin e rrezikut vetëm në nivelin e kujtesës/listës së kontrollit, nën gjykimin e ekspertëve
- Aftësia për të përcaktuar rolin e kufizuar dhe të kontrolluar të inteligjencës artificiale në protokollin e urgjencës, linjat e rrugëtimit dhe planin e sigurisë
Kjo njësi tërheq kufirin më të rëndësishëm të të gjithë modulit. Ka momente në biznesin e shëndetit mendor ku nuk ka të bëjë me shpejtësinë, lehtësinë apo efikasitetin; vetëm jeta e një njeriu dhe përgjegjësia e një eksperti flasin. Situata të tilla si rreziku i vetëvrasjes, dëmtimi i vetes ose i të tjerëve, psikoza akute, kërcënimi me dhunë, raportimi i fëmijës/abuzimit janë kriza. Në këto momente, inteligjenca artificiale (AI) nuk mund të marrë vendime, të masë rrezikun, të ndërhyjë dhe të marrë përgjegjësi. Kjo nuk është një çështje e "AI nuk është ende mjaft e mirë"; Kriza në thelb kërkon lidhje njerëzore në kohë reale, gjykim klinik dhe llogaridhënie. Në këtë njësi, do të mësoni pse AI do të ndalet në një krizë, pse njerëzit janë thelbësorë dhe në cilin rol të kufizuar mund të qëndrojë më shumë AI.
Pse AI nuk mund të marrë vendime në një krizë
Vlerësimi i krizës kërkon katër gjëra dhe asnjëra nuk është e mjaftueshme në AI:
- Marrëdhënie në kohë reale. Shenjat e vërteta të rrezikut shpesh nuk janë në fjalët e folura; Ajo fshihet në tonin e zërit, në pauzë, në shikim, në gjuhën e trupit, në “të pathënat”. AI sheh një tekst; nuk i sheh njerëzit.
- Arsyetimi klinik holistik. Rreziku; Është një peshim i drejtpërdrejtë i dhjetëra faktorëve si historia, faktorët mbrojtës, impulsiviteti, aksesi (qasja në metodë), sistemi mbështetës. Inteligjenca artificiale mund të japë një "rezultat të rrezikut" mekanik, por ai rezultat nuk do të shpëtojë një njeri.
- Përgjegjësia dhe llogaridhënia. Duhet të ketë një person që firmos pas një vendimi krize, i cili mbahet përgjegjës nëse është e nevojshme dhe që merr jetën e klientit. AI nuk mund të mbajë përgjegjësi.
- Kapaciteti i reagimit. Ajo që nevojitet në një krizë (bërja e një plani sigurie, përfshirja e familjes, drejtimi në urgjencë, referimi në spital) janë veprime konkrete, të bëra nga njeriu.
Kujdes: Kur një klient tregon shenja rreziku, pyesni AI "a ka rrezik?" Të kërkosh " do të thotë të shtysh vendimin dhe të shmangësh përgjegjësinë. Në një krizë, eksperti hyn DIREKT. AI nuk ka asnjë rol vendimmarrës në këtë moment. Linjat telefonike dhe zinxhirët e mbështetjes njerëzore aktivizohen kur është e nevojshme.
Rreziku i AI në chat-botët e krizës
Vitet e fundit, chatbot-et e AI që thonë "më lër të të mbështes" janë përhapur gjerësisht. Rreziku i tyre në një krizë është serioz: një bot mund të keqkuptojë një mesazh vetëvrasës, t'i shmanget temës, të japë një përgjigje klishe ose (si rastet e dokumentuara) të përgjigjet në mënyrë të dëmshme. Një person ndjen se personi tjetër është në rrezik real dhe merr masa; një bot nuk mund ta bëjë këtë në mënyrë të besueshme. Pra, mos referoni kurrë një klient në krizë te një chatbot.
Roli i pranueshëm i kufizuar i AI
AI nuk mund të marrë vendime në një krizë; por JASHTË seancës, profesionisti mund të ketë një rol shumë të kufizuar në mbështetjen e punës së tij/saj:
- Përkujtues/listë kontrolluese. Përgatitja si një listë kontrolli e fushave që eksperti nuk duhet të harrojë të pyesë në vlerësimin e rrezikut (eksperti e përdor atë, jo klienti).
- Drafti i protokollit. Përgatitja e një drafti të protokollit të krizës së institucionit, listës së linjave të referimit, modelit të planit të sigurisë (më pas eksperti/institucioni e miraton atë).
- Stërvitje/provë. Prova e skenarit imagjinar (pa klient të vërtetë) për të përmirësuar aftësitë e specialistit për intervistimin e krizës.
Çfarë kanë të përbashkët këto role: AI nuk është kurrë në një pozicion vendimmarrës në një krizë të drejtpërdrejtë, me një klient të vërtetë.
Situata
Roli i AI
Kush vendos
Kriza e drejtpërdrejtë (klienti në rrezik)
JO rol vendimtar
Ekspert, drejtpërdrejt dhe menjëherë
Jashtë sesionit: përgatitja e një liste kontrolli
draft rikujtues
Eksperti miraton/përdor
Shkrimi i protokollit/shabllonit të krizës
draft teksti
Eksperti/institucioni miraton
Drejtimi i klientit në krizë
E ndaluar (mos për të biseduar kurrë bot)
zinxhiri i mbështetjes njerëzore
tre mini kuti
Rasti 1 — Mbrojtja e kufirit. Një klient thotë në një seancë, "Nuk mund të duroj më, dua ta përfundoj". Eksperti mendon: "Do t'ia shkruaj këtë AI dhe do ta pyes për seriozitetin e saj", por ndalon. Në vend të kësaj ai kalon drejtpërdrejt, me qetësi dhe drejtpërdrejt në vlerësimin e rrezikut: shpeshtësia e mendimit, plani, metoda, shtrirja, flet për faktorët mbrojtës; bën një plan sigurie; aktivizon suportet e nevojshme. Vendimi dhe përgjegjësia i takojnë njeriut nga fillimi në fund; Nuk do të ishte e drejtë që AI të hynte fare në këtë moment.
Rasti 2 - Pamjaftueshmëria e varkës. Një organizatë po shqyrton vendosjen e një chatbot të AI për mbështetje pas orarit të punës. Në testimin pilot, roboti përgjigjet me një përgjigje të përgjithshme "kujdes" ndaj një mesazhi që sugjeron vetëvrasje; Ai as nuk njeh dhe as nuk drejton rrezikun. Agjencia vendos se roboti nuk është i sigurt në krizë; Në vend të kësaj, ai vendos një sistem të qartë që i drejton njerëzit drejt një linje reale krizash dhe specialistë në gatishmëri për situatat jashtë orarit.
Rasti 3 - Përdorimi korrekt i kufizuar. Për të forcuar praktikën e tij të vlerësimit të rrezikut, një ekspert i kërkon AI "një listë kontrolli të fushave që duhet të kujtoj të pyes në një intervistë gjithëpërfshirëse të vlerësimit të rrezikut të vetëvrasjes". AI prodhon një listë të mirë kujtese; Eksperti e mban në çantën e tij si rrjetë sigurie. Këtu, AI nuk e prek fare klientin; Mbështet vetëm përgatitjen e specialistit. Ky është kufiri i pranueshëm.
Kërkesat dhe shabllonet e kopjueshme
Shënim: Asnjë nga këto shabllone nuk duhet të përdoret në një krizë të drejtpërdrejtë me një klient aktual. Të gjitha jashtë seancës, për përgatitjen e vetë specialistit.
Përgatitni një listë kontrolli të përgjithshme në mënyrë që një profesionist të mos harrojë të pyesë në një vlerësim të rrezikut (frekuenca/intensiteti i mendimit, plani, aksesi në metodë, faktorët mbrojtës, historia, sistemi mbështetës). Kjo listë është thjesht një kujtesë e vetë ekspertit; VENDIM RREZIK nuk i jepet, nuk i jepet klientit.
Hartoni një shabllon të PROTOKOLLIT TË REFERIMIT TË KRIZËS për organizatën tonë: hapat e orarit të ndezjes/fikjes, kë të telefononi, referimi në linjat e urgjencës, dokumentacioni. Ekspertët dhe menaxhmenti ynë do ta shqyrtojnë këtë dhe do ta miratojnë atë sipas realitetit dhe legjislacionit vendor.
Përgatitni një draft të zbrazët të një modeli plani sigurie: shenja paralajmëruese, strategji përballimi, mbështetje për njerëzit, komunikim profesional, sigurim i mjedisit. Specialisti do të plotësojë përmbajtjen ballë për ballë me klientin; Ju thjesht jepni shabllonin bosh.
Krijoni një skenar provash IMAGJINAR (pa klient të vërtetë) për të përmirësuar aftësitë e mia për intervistimin e krizës. Më lejoni të përgjigjem në rolin tim të ekspertit, më pas më jepni komente konstruktive për qasjen time. Kjo është një provë stërvitore, jo një rast real.
Prompt i dobët / Prompt i fortë
Prompt i dobët: "Ky klient tha: [fraza]. A ka rrezik të lartë për vetëvrasje, çfarë duhet të bëj?"
Ky nxitje delegon vendimin e krizës tek UA; AI nuk mund të masë rrezikun, nuk mund të marrë përgjegjësi dhe ky moment kërkon ndërhyrje njerëzore në kohë reale. Ky përdorim është i rrezikshëm.
Njoftim i fortë: "Unë jam jashtë seancës, nuk ka klient të vërtetë. Për të përmirësuar aftësitë e mia për vlerësimin e rrezikut, bëni një listë si kujtesë për fushat që nuk duhet të mbuloj në një intervistë për rrezikun e vetëvrasjes. Vendimi dhe ndërhyrja do të jenë përgjegjësia ime në situatën reale."
Kjo kërkesë përdor AI vetëm si një mjet përgatitjeje jashtë sesionit; Kriza ia lë vendimin personit.
Gabimet e zakonshme
- Duke kërkuar nga AI për vendimin e krizës. "A ka rrezik?" konsultimi i AI; është të humbasësh vendimin dhe përgjegjësinë.
- Drejtimi i klientit në krizë te boti. Duke harruar që chatbot nuk mund të menaxhojë me besueshmëri rrezikun.
- Gabimi i rezultatit të rrezikut me të vërtetë. Zëvendësimi i një rezultati mekanik të "nivelit të rrezikut" nga AI për vlerësimin klinik.
- Lëvizja e mjetit të skenimit në përdorim të drejtpërdrejtë. Përdorimi i listës së kontrollit jashtë sesionit në një krizë të drejtpërdrejtë në konsultim me AI.
- Mos krijimi i zinxhirit të mbështetjes njerëzore. Mbështetja në AI në vend të një sistemi të vërtetë eksperti/linjë krize për punë pas orarit në organizatë.
Në përmbledhje
Rreziku i krizës, vetëvrasjes dhe dëmtimit është kufiri më i qartë i modulit: në këto momente AI nuk mund të marrë vendime, të masë rrezikun, të ndërhyjë dhe të marrë përgjegjësi. Sepse një krizë kërkon angazhim në kohë reale, gjykim klinik holistik, përgjegjshmëri dhe ndërhyrje njerëzore. I vetmi rol i pranueshëm për AI është si lista kontrolluese, draft protokolli/shaboni dhe prova e trajnimit, JASHTË seancës, duke mbështetur përgatitjen e vetë profesionistit. Asnjëherë mos drejto një klient në krizë te një chatbot; Zinxhiri i mbështetjes njerëzore dhe linjat telefonike janë aktivizuar.
Detyra e aplikimit
Vizatoni një rrjedhë të kursit të krizës për praktikën ose organizatën tuaj: çfarë ndodh hap pas hapi kur një klient demonstron rrezikun, kush thirret, çfarë linjash i referohen? Verifikoni që AI nuk është vendimmarrësi në asnjë hap të kësaj rrjedhe. Nxirrni gjithashtu një listë kontrolli të vlerësimit të rrezikut jashtë sesionit nga AI dhe shkruani me një fjali pse është vetëm rikujtuesja juaj dhe nuk mund t'i jepet klientit.
listë kontrolli
- [ ] Nuk i dhashë asnjë rol vendimi AI në krizë të drejtpërdrejtë.
- [ ] Unë e kam ndërmarrë drejtpërdrejt vlerësimin dhe reagimin ndaj krizës vetë.
- [ ] Unë nuk e drejtova klientin në krizë te chatbot.
- [ ] Kam përdorur AI vetëm për përgatitjen jashtë sesionit (listë kontrolli/protokolli/provë).
- [ ] Përcaktova zinxhirin e mbështetjes njerëzore të korporatës dhe linjat telefonike.
- [ ] Kam brendësuar se vendimi dhe përgjegjësia për krizën i takon personit.