Nyereség:
- Annak megértése, hogy a mesterséges intelligencia miért nem tud döntéseket hozni a válság, az öngyilkosság és az ön-/mások károsodásának veszélye esetén, és miért kötelező az emberi beavatkozás.
- A kockázatértékelésben a mesterséges intelligencia csak az emlékeztető/ellenőrző lista szintjén pozicionálható, a szakértői vélemény alatt
- Képes meghatározni a mesterséges intelligencia korlátozott és ellenőrzött szerepét a vészhelyzeti protokollban, az útválasztási vonalakban és a biztonsági tervben
Ez az egység húzza meg az egész modul legfontosabb határát. Vannak pillanatok a mentálhigiénés üzletágban, amikor nem a sebességről, a könnyűségről vagy a hatékonyságról van szó; csak egy ember élete és egy szakértő felelőssége beszél. Az olyan helyzetek, mint az öngyilkosság veszélye, önmagunk vagy mások károsodása, akut pszichózis, erőszakkal való fenyegetés, gyermek/bántalmazás bejelentése krízisnek minősülnek. Ezekben a pillanatokban a mesterséges intelligencia (AI) nem tud döntéseket hozni, mérni a kockázatot, beavatkozni és felelősséget vállalni. Ez nem arról szól, hogy "az AI még nem elég jó"; A válság eleve megköveteli a valós idejű emberi kapcsolatot, a klinikai megítélést és az elszámoltathatóságot. Ebből a részből megtudhatja, miért áll meg a mesterséges intelligencia egy válsághelyzetben, miért nélkülözhetetlen az ember, és milyen korlátozott szerepben maradhat meg leginkább az AI.
Miért nem tud az AI döntéseket hozni válsághelyzetben?
A válságértékeléshez négy dologra van szükség, és egyik sem elegendő az AI-ban:
- Valós idejű kapcsolat. A kockázat valódi jelei gyakran nem a kimondott szavakban rejlenek; A hangszínben, a szünetben, a tekintetben, a testbeszédben, a „kimondatlanban” van elrejtve. Az AI szöveget lát; nem lát embereket.
- Holisztikus klinikai érvelés. Kockázat; Több tucat tényező élő mérlege, mint például a történelem, a védőfaktorok, az impulzivitás, a hozzáférés (a módszerhez való hozzáférés), a támogatási rendszer. A mesterséges intelligencia megadhat egy mechanikus „kockázati pontszámot”, de ez a pontszám nem menti meg az embert.
- Felelősség és elszámoltathatóság. Kell lennie egy krízisdöntés mögött aláíró, szükség esetén felelősségre vonható személynek, aki magára vállalja az ügyfél életét. Az AI nem vállalhat felelősséget.
- Válaszképesség. Egy krízishelyzetben (biztonsági terv készítése, család bevonása, ügyeletre irányítás, kórházba utalás) konkrét, emberi cselekvésre van szükség.
Vigyázat: Ha az ügyfél a kockázat jeleit mutatja, kérdezze meg az AI-t, hogy „van-e kockázat?” A "kérdezés a döntés elhalasztása és a felelősség kibújása. Válsághelyzetben a szakértő KÖZVETLENÜL lép. Az AI jelenleg nincs döntési szerepe. A forródrótokat és az emberi támogatási láncokat szükség esetén aktiválják.
Az AI veszélye a krízis chatbotokban
Az elmúlt években széles körben elterjedtek az AI chatbotok, amelyek azt mondják, hogy "támogassam". Veszélyük válsághelyzetben komoly: egy bot félreértheti az öngyilkos üzenetet, kibújhat a téma elől, klisés választ adhat, vagy (dokumentált esetek szerint) károsan reagálhat. A személy érzékeli, hogy a másik személy valódi veszélyben van, és cselekszik; ezt egy bot nem tudja megbízhatóan megtenni. Ezért soha ne utalja a krízishelyzetben lévő ügyfelet chatbothoz.
Az AI elfogadható korlátozott szerepe
A mesterséges intelligencia nem hozhat döntéseket válsághelyzetben; de a foglalkozáson KÍVÜL a szakembernek nagyon korlátozott szerepe lehet saját munkájának támogatásában:
- Emlékeztető/ellenőrző lista. Ellenőrző listaként elkészíteni azokat a területeket, amelyekre a szakértőnek nem szabad elfelejtenie rákérdezni a kockázatértékelés során (a szakértő használja, nem az ügyfél).
- Jegyzőkönyv-tervezet. Az intézmény krízisprotokolljának, beutalási vonaljegyzékének, biztonsági tervsablonjának tervezetének elkészítése (majd a szakértő/intézmény jóváhagyja).
- Edzés/próba. Képzeletbeli forgatókönyv-próba (nincs valódi ügyfél), hogy javítsa a szakember krízisinterjús készségeit.
Mi a közös ezekben a szerepekben: Az AI soha nincs döntéshozatali helyzetben élő válsághelyzetben, valódi ügyféllel.
Helyzet
Az AI szerepe
Ki dönti el
Élő válság (az ügyfél veszélyben van)
NINCS döntési szerep
Szakértő, közvetlenül és azonnal
Munkameneten kívül: ellenőrzőlista készítése
emlékeztető vázlat
Szakértő jóváhagyja/használja
Válságprotokoll/sablon írás
szövegtervezet
Szakértő/intézmény jóváhagyja
Válsághelyzetben lévő ügyfél irányítása
Tilos (soha ne csevegjen bottal)
emberi támogatási lánc
három mini tok
1. eset – Határvédelem. Egy ügyfél azt mondja egy ülésen: "Nem bírom tovább, be akarom fejezni." A szakértő azt gondolja: "Megírom ezt az MI-nek, és megkérdezem a súlyosságáról", de abbahagyja. Ehelyett közvetlenül, nyugodtan és közvetlenül áttér a kockázatértékelésre: gondolkodás gyakorisága, terv, módszer, elérés, védőfaktorokról beszél; biztonsági tervet készít; aktiválja a szükséges támogatásokat. A döntés és a felelősség az elejétől a végéig az emberé; Egyáltalán nem lenne helyes, ha a mesterséges intelligencia belépne ebbe a pillanatba.
2. eset – A csónak elégtelensége. Egy szervezet AI chatbot telepítését fontolgatja a munkaidőn túli támogatás érdekében. A kísérleti tesztelés során a bot általános "vigyázz magadra" választ ad az öngyilkosságot sugalmazó üzenetre; Nem ismeri fel és nem irányítja a kockázatot. Az ügynökség úgy dönt, hogy a bot nem válságbiztos; Ehelyett egy világos rendszert hoz létre, amely valódi krízisvonalhoz és ügyeleti szakemberhez irányítja az embereket a munkaidőn kívüli helyzetekben.
3. eset – Megfelelő korlátozott használat. Saját kockázatértékelési gyakorlatának megerősítése érdekében az egyik szakértő felkéri a mesterséges intelligenciát, hogy készítsen „ellenőrző listát azokról a területekről, amelyekre emlékeznem kell egy átfogó öngyilkossági kockázatértékelési interjú során”. Az AI jó emlékeztető listát állít elő; A szakértő a táskájában tartja védőhálóként. Itt az AI egyáltalán nem érinti a klienst; Csak a szakember felkészülését támogatja. Ez az elfogadható határ.
Másolható promptok és sablonok
Megjegyzés: Ezen sablonok egyike sem használható élő krízishelyzetben egy tényleges ügyféllel. Mindezt a foglalkozáson kívül, a szakember saját felkészítésére.
Készítsen egy általános ELLENŐRZŐ LISTÁT, hogy a szakember ne felejtse el megkérdezni a kockázatértékelés során (gondolkodás gyakorisága/intenzitása, terv, módszerhez való hozzáférés, védőfaktorok, előzmények, támogatási rendszer). Ez a lista csupán a szakértő saját emlékeztetője; Kockázati DÖNTÉS nem adják meg, nem kapja meg az ügyfél.
Készítsen VÁLSÁGREFERENCIA JEGYZŐKÖNYV sablont szervezetünk számára: be-/kikapcsolás lépései, kit kell hívni, segélyvonalra utalás, dokumentáció. Szakértőink és vezetőségünk ezt felülvizsgálja és a helyi valóságnak és jogszabályoknak megfelelően jóváhagyja.
Készítsen ÜRES vázlatot a biztonsági terv sablonjáról: figyelmeztető táblák, megküzdési stratégiák, emberek támogatása, szakmai kommunikáció, környezet biztonságossá tétele. A szakember négyszemközt tölti ki a tartalmat az ügyféllel; Csak adja meg az üres sablont.
Állíts fel egy KÉPZELETES próbaforgatókönyvet (nincs igazi kliens), hogy javítsd a krízisinterjús készségemet. Hadd válaszoljak szakértői szerepemben, majd adjatok konstruktív visszajelzést a megközelítésemről. Ez egy edzési próba, nem valós eset.
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás: "Ez az ügyfél azt mondta: [kifejezések]. Magas az öngyilkosság kockázata, mit tegyek?"
Ez a felszólítás a válságdöntés meghozatalát az MI-re ruházza; A mesterséges intelligencia nem tudja mérni a kockázatot, nem vállalhat felelősséget, és ez a pillanat valós idejű emberi beavatkozást igényel. Ez a használat veszélyes.
Erős felszólítás: "Kiléptem az ülésről, nincs valódi ügyfél. A kockázatértékelési készségeim felfrissítése érdekében készíts egy listát azokról a területekről, amelyekre nem szabad kitérnem egy öngyilkossági kockázati interjú során. A döntés és a beavatkozás az én felelősségem lesz a valós helyzetben."
Ez a prompt az AI-t csak munkameneten kívüli előkészítő eszközként használja; A válság az emberre bízza a döntést.
Gyakori hibák
- AI krízisdöntés kérése. – Van kockázat? tanácsadó AI; hiányzik a döntés és a felelősség.
- A krízishelyzetben lévő kliens irányítása a bothoz. Elfelejti, hogy a chatbot nem tudja megbízhatóan kezelni a kockázatokat.
- A kockázati pontszám valós összetévesztése. A mesterséges intelligencia mechanikus „kockázati szintje” kimenetének helyettesítése a klinikai értékelésben.
- A rögzítő eszköz áthelyezése élő használatra. A munkameneten kívüli ellenőrzőlista használata élő krízishelyzetben az MI-vel egyeztetve.
- Nem hozza létre az emberi támogatási láncot. A mesterséges intelligenciára hagyatkozva egy valódi szakértői/válságszolgálati rendszer helyett a szervezet munkaidejének lejártakor.
Összefoglalva
A krízis, az öngyilkosság és a károkozás kockázata a modul legvilágosabb határa: ezekben a pillanatokban az MI nem tud döntéseket hozni, mérni a kockázatot, beavatkozni és felelősséget vállalni. Mert a válság valós idejű elkötelezettséget, holisztikus klinikai ítéletet, elszámoltathatóságot és emberi beavatkozást igényel. A mesterséges intelligencia egyetlen elfogadható szerepe az ellenőrző lista, a protokoll/sablon vázlat és a tréning próba, a foglalkozáson KÍVÜL, a szakember saját felkészülését segítve. Soha ne irányítsa a krízishelyzetben lévő ügyfelet chatbothoz; Az emberi támogatási lánc és a forródrótok aktiválva vannak.
Pályázati feladat
Rajzoljon egy krízisútvonal-folyamatot saját praxisa vagy szervezete számára: mi történik lépésről lépésre, amikor egy ügyfél kockázatot mutat be, kit hívnak, milyen vonalakra hivatkoznak? Ellenőrizze, hogy a folyamat egyetlen lépésében sem a mesterséges intelligencia a döntéshozó. Szintén húzzon ki egy munkameneten kívüli kockázatértékelési ellenőrzőlistát az AI-ból, és írja le egy mondatban, hogy ez miért csak az Ön emlékeztetője, és miért nem adható át az ügyfélnek.
ellenőrző lista
- [ ] Élő válságban nem adtam döntési szerepet az MI-nek.
- [ ] A válságfelmérést és a reagálást közvetlenül magam vállaltam.
- [ ] A krízishelyzetben lévő ügyfelet nem a chatbotra irányítottam.
- [ ] Az AI-t csak az ülésen kívüli felkészüléshez használtam (ellenőrző lista/protokoll/próba).
- [ ] Meghatároztam a vállalati humán támogatási láncot és forródrótokat.
- [ ] Beláttam, hogy a krízis döntése és felelőssége az emberé.