Hagnaður:
- Að skilja hvers vegna gervigreind getur ekki tekið ákvarðanir í hættu á kreppu, sjálfsvígum og skaða á sjálfum sér/öðrum og hvers vegna mannleg afskipti eru nauðsynleg.
- Geta til að staðsetja gervigreind í áhættumati eingöngu á áminningar-/gátlistastigi, fyrir neðan mat sérfræðinga
- Geta til að skilgreina takmarkað og stýrt hlutverk gervigreindar í neyðarreglum, leiðarlínum og öryggisáætlun
Þessi eining dregur mikilvægustu mörk allrar einingarinnar. Það eru augnablik í geðheilbrigðisbransanum þar sem það snýst ekki um hraða, vellíðan eða skilvirkni; aðeins eins manns líf og eins sérfræðings ábyrgð tala. Aðstæður eins og sjálfsvígshætta, skaða á sjálfum sér eða öðrum, bráð geðrof, hótun um ofbeldi, tilkynning um barn/misnotkun eru kreppur. Á þessum augnablikum getur gervigreind (AI) ekki tekið ákvarðanir, mælt áhættu, gripið inn í og tekið ábyrgð. Þetta er ekki spurning um "AI er ekki nógu gott ennþá"; Kreppa krefst í eðli sínu mannleg tengsl í rauntíma, klínískri dómgreind og ábyrgð. Í þessari einingu muntu læra hvers vegna gervigreind hættir í kreppu, hvers vegna menn eru nauðsynlegir og hvaða takmarkaða hlutverki gervigreind getur verið mest í.
Hvers vegna gervigreind getur ekki tekið ákvarðanir í kreppu
Kreppumat krefst fjögurra hluta og hvorugt er nóg í gervigreind:
- Rauntíma samband. Raunveruleg merki um áhættu eru oft ekki í orðunum sem töluð eru; Það er falið í raddblæ, hléinu, svipnum, líkamstjáningunni, hinu "ósagða". AI sér texta; sér ekki fólk.
- Heildræn klínísk rökhugsun. Áhætta; Það er lifandi vigtun á tugum þátta eins og sögu, verndarþáttum, hvatvísi, aðgangi (aðgangur að aðferðinni), stuðningskerfi. Gervigreind getur gefið vélrænt „áhættustig“ en það stig mun ekki bjarga manni.
- Ábyrgð og ábyrgð. Það þarf að vera einstaklingur sem skrifar undir á bak við kreppuákvörðun, sem er dreginn til ábyrgðar ef þörf krefur og tekur að sér líf skjólstæðings. AI getur ekki borið ábyrgð.
- Viðbragðsgeta. Það sem þarf í kreppu (gera öryggisáætlun, taka þátt í fjölskyldunni, vísa á bráðamóttöku, vísa á sjúkrahúsið) eru áþreifanlegar manngerðar aðgerðir.
Varúð: Þegar viðskiptavinur sýnir merki um áhættu, spyrðu gervigreindina „er það áhætta? Að spyrja " er að fresta ákvörðuninni og forðast ábyrgð. Í kreppu stígur sérfræðingurinn beint inn. Gervigreind hefur ekkert ákvörðunarhlutverk í augnablikinu. Neyðarlínur og mannlegar stuðningskeðjur eru virkjaðar þegar þörf krefur.
Hættan á gervigreind í kreppuspjallbötum
Undanfarin ár hafa gervigreind spjalltölvur sem segja „leyfðu mér að styðja þig“ orðið útbreidd. Hættan þeirra í kreppu er alvarleg: vélmenni getur misskilið sjálfsvígsskilaboð, forðast umræðuefnið, svarað klisju eða (eins og skjalfest tilfelli) brugðist við á skaðlegan hátt. Maður skynjar að hinn aðilinn er í raunverulegri hættu og grípur til aðgerða; vélmenni getur ekki gert þetta á áreiðanlegan hátt. Svo vísaðu aldrei viðskiptavinum í kreppu til spjallbotna.
Ásættanlegt takmarkað hlutverk gervigreindar
AI getur ekki tekið ákvarðanir í kreppu; en UTAN þingsins getur fagmaðurinn haft mjög takmarkað hlutverk í að styðja við sitt eigið starf:
- Áminning/gátlisti. Að útbúa sem gátlista þau svæði sem sérfræðingurinn ætti ekki að gleyma að spyrja um í áhættumatinu (sérfræðingurinn notar það, ekki viðskiptavinurinn).
- Drög að bókun. Undirbúningur drög að kreppubókun stofnunarinnar, tilvísunarlínulista, öryggisáætlunarsniðmát (þá samþykkir sérfræðingurinn/stofnunin það).
- Æfing/æfing. Ímynduð atburðarásaræfing (enginn raunverulegur viðskiptavinur) til að bæta færni sérfræðingsins í kreppuviðtölum.
Það sem þessi hlutverk eiga sameiginlegt: gervigreindin er aldrei í ákvarðanatökustöðu í beinni kreppu, með raunverulegum viðskiptavini.
Staðan
Hlutverk gervigreindar
Hver ræður
Lifandi kreppa (viðskiptavinur í hættu)
EKKERT ákvörðunarhlutverk
Sérfræðingur, beint og strax
Utan setu: útbúa gátlista
drög að áminningu
Sérfræðingur samþykkir/notar
Kreppubókun/sniðmátsskrif
textadrög
Sérfræðingur/stofnun samþykkir
Að leiðbeina viðskiptavinum í kreppu
Bannað (aldrei að spjalla láni)
mannleg stuðningskeðja
þrjú smámál
Mál 1 — Landamæravernd. Viðskiptavinur segir á fundi: "Ég get ekki meir, ég vil enda það." Sérfræðingurinn hugsar: "Ég mun skrifa þetta til gervigreindar og láta það spyrja um alvarleika þess," en hættir. Þess í stað fer hann beint, rólega og beint inn í áhættumat: tíðni hugsana, áætlunar, aðferðar, ná, talar um verndandi þætti; gerir öryggisáætlun; virkjar nauðsynlegar stoðir. Ákvörðun og ábyrgð tilheyrir manneskjunni frá upphafi til enda; Það væri alls ekki rétt fyrir gervigreind að koma inn á þessa stundu.
Mál 2 - Ófullnægjandi báts. Stofnun er að íhuga að nota gervigreind spjallbot til að aðstoða eftir vinnutíma. Í tilraunaprófi bregst vélmenni með almennu "gæta varúðar" við skilaboðum sem benda til sjálfsvígs; Það viðurkennir hvorki né stýrir áhættu. Stofnunin ákveður að láni sé ekki hættulaus; Þess í stað er komið á skýru kerfi sem beinir fólki til alvöru neyðarlínu og vakthafandi sérfræðings við aðstæður utan vinnutíma.
Mál 3 — Rétt takmörkuð notkun. Til að styrkja eigin áhættumatsaðferðir biður einn sérfræðingur gervigreindina um „gátlista yfir svæði sem ég ætti að muna að spyrja um í yfirgripsmiklu sjálfsvígsáhættumatsviðtali. AI framleiðir góðan áminningarlista; Sérfræðingurinn geymir það í töskunni sinni sem öryggisnet. Hér snertir gervigreind alls ekki viðskiptavininn; Það styður aðeins undirbúning sérfræðingsins. Þetta eru ásættanleg mörk.
Afritanleg boð og sniðmát
Athugið: Ekkert af þessum sniðmátum ætti að nota í beinni kreppu með raunverulegum viðskiptavini. Allt utan lotunnar, til eigin undirbúnings sérfræðingsins.
Útbúið almennan GÉTLISTA svo fagmaður gleymi ekki að spyrja í áhættumati (tíðni/áhersla hugsunar, áætlun, aðgangur að aðferð, verndarþættir, saga, stuðningskerfi). Þessi listi er aðeins áminning sérfræðingsins sjálfs; ÁKVÖRÐUN um áhættu er ekki gefin, hún er ekki gefin til viðskiptavinarins.
Gerðu drög að sniðmáti fyrir CRISIS TILVÍÐUNARBÓKUN fyrir samtökin okkar: kveikt/slökkt tímaskref, hvern á að hringja í, tilvísun í neyðarlínur, skjöl. Sérfræðingar okkar og stjórnendur munu fara yfir þetta og samþykkja það samkvæmt staðbundnum veruleika og lögum.
Útbúið AUT drög að öryggisáætlunarsniðmáti: viðvörunarskilti, viðbragðsáætlanir, stuðningur við fólk, fagleg samskipti, að gera umhverfið öruggt. Sérfræðingur mun fylla út efni augliti til auglitis við viðskiptavininn; Þú gefur bara auða sniðmátið.
Settu upp ímyndaða æfingaatburðarás (enginn raunverulegur viðskiptavinur) til að bæta færni mína í kreppuviðtölum. Leyfðu mér að svara í sérfræðingahlutverki mínu, gefðu mér síðan uppbyggilega endurgjöf um nálgun mína. Þetta er æfing, ekki raunverulegt mál.
Veik kvaðning / Sterk kvaðning
Veik kvaðning: "Þessi viðskiptavinur sagði: [setningar]. Er mikil hætta á sjálfsvígum, hvað ætti ég að gera?"
Þessi hvetja framselur kreppuákvörðunina til gervigreindar; Gervigreind getur ekki mælt áhættu, getur ekki tekið ábyrgð og þetta augnablik krefst mannlegrar íhlutunar í rauntíma. Þessi notkun er hættuleg.
Sterk tilvitnun: "Ég er ekki á fundi, það er enginn raunverulegur skjólstæðingur. Til að hressa upp á áhættumatshæfileika mína skaltu búa til lista sem áminningu um þau svæði sem ég ætti ekki að fjalla um í sjálfsvígshættuviðtali. Ákvörðunin og afskiptin verða á mína ábyrgð í raunverulegum aðstæðum."
Þessi hvetja notar gervigreind eingöngu sem undirbúningsverkfæri utan lotu; Kreppan lætur ákvörðunina eftir einstaklingnum.
Algeng mistök
- Að biðja gervigreind um kreppuákvörðun. "Er hætta á?" ráðgjöf um gervigreind; er að missa af ákvörðuninni og ábyrgðinni.
- Að beina viðskiptavininum í kreppu að botninum. Að gleyma því að spjallbotninn getur ekki stjórnað áhættu á áreiðanlegan hátt.
- Að misskilja áhættustigið í alvöru. Að skipta út vélrænni „áhættustigi“ úttak frá gervigreind fyrir klínískt mat.
- Að færa sviðsetningartólið í lifandi notkun. Notkun gátlistans utan lotu í beinni kreppu í samráði við gervigreind.
- Ekki stofna mannlega stuðningskeðjuna. Að treysta á gervigreind í stað sanns sérfræðinga/kreppulínukerfis fyrir eftirvinnutíma í stofnuninni.
Í stuttu máli
Hættan á kreppu, sjálfsvígum og skaða eru skýrustu mörk einingarinnar: á þessum augnablikum getur gervigreind ekki tekið ákvarðanir, mælt áhættuna, gripið inn í og tekið ábyrgð. Vegna þess að kreppa krefst rauntíma þátttöku, heildrænnar klínískrar dómgreindar, ábyrgðar og mannlegrar íhlutunar. Eina ásættanlega hlutverk gervigreindar er sem gátlisti, uppkast að siðareglum/sniðmáti og þjálfunaræfingu, UTAN lotunnar, til að styðja við undirbúning fagmannsins sjálfs. Beindu aldrei viðskiptavini í kreppu að spjallbotni; Mannleg stoðkeðja og neyðarlínur eru virkjaðar.
Umsóknarverkefni
Teiknaðu kreppuleiðarflæði fyrir þína eigin starfshætti eða stofnun: hvað gerist skref fyrir skref þegar viðskiptavinur sýnir áhættu, hver er kallaður, hvaða línur er vísað til? Staðfestu að gervigreind sé ekki ákvörðunaraðili í neinu skrefi þessa flæðis. Dragðu líka út áhættumatsgátlista utan lotu úr gervigreindinni og skrifaðu í einni setningu hvers vegna það er bara áminning þín og ekki er hægt að gefa viðskiptavininum.
gátlisti
- [ ] Ég gaf gervigreindinni ekkert ákvörðunarhlutverk í beinni kreppu.
- [ ] Ég tók sjálfur að mér kreppumatið og viðbrögðin.
- [ ] Ég beindi ekki viðskiptavininum í kreppu til spjallbotnsins.
- [ ] Ég notaði gervigreind eingöngu til undirbúnings utan lotu (gátlisti/samskiptareglur/æfing).
- [ ] Ég skilgreindi mannlega stuðningskeðju fyrirtækja og neyðarlínur.
- [ ] Ég hef innbyrðis að ákvörðun og ábyrgð á kreppunni sé hjá viðkomandi.