Qligħ:
- Nifhmu għaliex l-intelliġenza artifiċjali ma tistax tieħu deċiżjonijiet fir-riskju ta’ kriżi, suwiċidju u ħsara lil nnifsi/oħrajn u għaliex l-intervent uman huwa obbligatorju.
- Kapaċità li tpoġġi l-AI fil-valutazzjoni tar-riskju biss fil-livell ta' tfakkira/lista ta' kontroll, taħt il-ġudizzju espert
- Kapaċità li tiddefinixxi r-rwol limitat u kkontrollat ta 'intelliġenza artifiċjali fil-protokoll ta' emerġenza, linji ta 'rotot u pjan ta' sigurtà
Din l-unità tfassal il-konfini l-aktar importanti tal-modulu kollu. Hemm mumenti fin-negozju tas-saħħa mentali fejn mhux dwar il-ħeffa, il-faċilità jew l-effiċjenza; ħajja ta’ bniedem wieħed biss u responsabbiltà ta’ espert wieħed jitkellmu. Sitwazzjonijiet bħar-riskju ta’ suwiċidju, ħsara lill-innifsi jew lill-oħrajn, psikożi akuta, theddida ta’ vjolenza, rappurtar ta’ tfal/abbuż huma kriżijiet. F'dawn il-mumenti, l-intelliġenza artifiċjali (AI) ma tistax tieħu deċiżjonijiet, tkejjel ir-riskju, tintervjeni u tieħu r-responsabbiltà. Din mhix kwistjoni ta '"AI għadha mhix tajba biżżejjed"; Il-kriżi b'mod inerenti teħtieġ konnessjoni umana f'ħin reali, ġudizzju kliniku, u responsabbiltà. F'din l-unità, titgħallem għaliex l-AI se tieqaf fi kriżi, għaliex il-bnedmin huma essenzjali, u f'liema rwol limitat l-AI tista' tibqa' l-aktar.
Għaliex l-AI ma tistax tieħu deċiżjonijiet fi kriżi
Il-valutazzjoni tal-kriżi teħtieġ erba' affarijiet, u l-ebda waħda hija biżżejjed fl-IA:
- Relazzjoni f'ħin reali. Is-sinjali reali ta' riskju ħafna drabi mhumiex fil-kliem mitkellem; Hija moħbija fit-ton tal-vuċi, il-pawsa, il-ħarsa, il-lingwaġġ tal-ġisem, il-"unsaid". AI tara test; ma jarax in-nies.
- Raġunar kliniku ħolistiku. Riskju; Huwa użin ħaj ta 'għexieren ta' fatturi bħall-istorja, fatturi protettivi, impulsività, aċċess (aċċess għall-metodu), sistema ta 'appoġġ. L-AI tista 'tagħti "punteġġ ta' riskju" mekkaniku, iżda dak il-punteġġ mhux se jsalva bniedem.
- Responsabbiltà u kontabbiltà. Għandu jkun hemm persuna li tiffirma wara deċiżjoni ta’ kriżi, li tinżamm responsabbli jekk ikun meħtieġ, u li tieħu l-ħajja tal-klijent. L-AI ma tistax terfa' r-responsabbiltà.
- Kapaċità ta' rispons. Dak li huwa meħtieġ fi kriżi (tagħmel pjan ta 'sigurtà, tinvolvi l-familja, direzzjoni lejn il-kamra ta' l-emerġenza, tirreferi għall-isptar) huma azzjonijiet konkreti, magħmula mill-bniedem.
Attenzjoni: Meta klijent juri sinjali ta 'riskju, staqsi lill-AI "hemm riskju?" Tistaqsi "hija li tipposponi d-deċiżjoni u tevadi r-responsabbiltà. Fi kriżi, l-espert jimxi DIRETTAMENT. L-AI m'għandha l-ebda rwol ta 'deċiżjoni f'dan il-mument. Il-hotlines u l-ktajjen ta' appoġġ uman huma attivati meta meħtieġ.
Il-periklu tal-AI fi chatbots ta' kriżi
F'dawn l-aħħar snin, il-chatbots tal-AI li jgħidu "ħalluni nappoġġjak" saru mifruxa. Il-periklu tagħhom fi kriżi huwa serju: bot jista' jifhem ħażin messaġġ suwiċidali, jevadi s-suġġett, jagħti tweġiba cliché, jew (bħala każijiet dokumentati) jirrispondi b'mod dannuż. Persuna tħoss li l-persuna l-oħra tinsab fil-periklu reali u tieħu azzjoni; bot ma jistax jagħmel dan b'mod affidabbli. Allura qatt ma tirreferi klijent fi kriżi lil chatbot.
Rwol limitat aċċettabbli tal-AI
L-IA ma tistax tieħu deċiżjonijiet fi kriżi; iżda BARRA mis-sessjoni, il-professjonist jista’ jkollu rwol limitat ħafna fl-appoġġ tax-xogħol tiegħu/tagħha stess:
- Tfakkira/lista ta' kontroll. Tħejjija bħala lista ta 'kontroll l-oqsma li l-espert m'għandux jinsa li jistaqsi dwarhom fil-valutazzjoni tar-riskju (l-espert jużaha, mhux il-klijent).
- Abbozz ta' Protokoll. Tħejjija ta' abbozz tal-protokoll ta' kriżi tal-istituzzjoni, lista ta' linji ta' riferiment, mudell ta' pjan ta' sigurtà (imbagħad l-espert/istituzzjoni japprovah).
- Taħriġ/prova. Rehearsal ta' xenarju immaġinarju (l-ebda klijent reali) biex ittejjeb il-ħiliet tal-ispeċjalista għall-intervisti ta' kriżi.
X'għandhom komuni dawn ir-rwoli: L-AI qatt ma tinsab f'pożizzjoni ta 'teħid ta' deċiżjonijiet fi kriżi ħajjin, ma 'klijent reali.
Sitwazzjoni
Ir-rwol tal-AI
Min jiddeċiedi
Kriżi ħajjin (klijent f'riskju)
L-EBDA rwol ta 'deċiżjoni
Espert, direttament u immedjatament
Barra mis-sessjoni: tħejjija ta' lista ta' kontroll
abbozz ta' tfakkira
Espert japprova/użi
Kitba ta' protokoll ta' kriżi/mudell
abbozz tat-test
Espert/istituzzjoni japprova
Tiggwida lill-klijent fi kriżi
Ipprojbit (qatt biex chat bot)
katina ta' appoġġ uman
tliet każijiet żgħar
Każ 1 — Protezzjoni tal-fruntieri. Klijent jgħid f'sessjoni, "Ma nistax nieħu aktar, irrid intemm." L-espert jaħseb, "Jien se nikteb dan lill-AI u jaraha tistaqsi dwar is-serjetà tagħha," iżda jieqaf. Minflok jimxi direttament, bil-kalma u direttament fil-valutazzjoni tar-riskju: frekwenza tal-ħsieb, pjan, metodu, jintlaħaq, taħdidiet dwar fatturi protettivi; jagħmel pjan ta’ sigurtà; jattiva l-appoġġi meħtieġa. Id-deċiżjoni u r-responsabbiltà jappartjenu lill-bniedem mill-bidu sat-tmiem; Ma jkun tajjeb li l-AI tidħol f'dan il-mument xejn.
Każ 2 — Insuffiċjenza tad-dgħajsa. Organizzazzjoni qed tikkunsidra li tuża chatbot AI għal appoġġ wara l-ħinijiet. Fl-ittestjar pilota, il-bot jirrispondi b'rispons ġeneriku ta '"oqgħod attent" għal messaġġ li jissuġġerixxi suwiċidju; La jirrikonoxxi u lanqas jidderieġi r-riskju. L-aġenzija tiddeċiedi li l-bot mhux sikur għall-kriżi; Minflok, jistabbilixxi sistema ċara li tidderieġi lin-nies lejn linja ta’ kriżi reali u speċjalista fuq sejħa għal sitwazzjonijiet barra l-ħinijiet.
Każ 3 — Użu limitat korrett. Biex isaħħaħ il-prattika tal-valutazzjoni tar-riskju tiegħu stess, espert wieħed jistaqsi lill-AI għal "lista ta 'kontroll ta' oqsma li għandi niftakar li nistaqsi dwarhom f'intervista komprensiva tal-valutazzjoni tar-riskju ta 'suwiċidju." AI tipproduċi lista tajba ta' tfakkira; L-espert iżommha fil-borża tiegħu bħala xibka tas-sigurtà. Hawnhekk, l-AI ma tmissx lill-klijent xejn; Jappoġġja biss il-preparazzjoni tal-ispeċjalista. Dan huwa l-limitu aċċettabbli.
Promps u mudelli kopjabbli
Nota: L-ebda wieħed minn dawn il-mudelli m'għandu jintuża fi kriżi ħaj ma' klijent attwali. Kollha barra s-sessjoni, għall-preparazzjoni tal-ispeċjalista stess.
Ipprepara LISTA TA' KONTROLL ġenerali sabiex professjonist ma jinsax jistaqsi f'valutazzjoni tar-riskju (frekwenza/intensità tal-ħsieb, pjan, aċċess għall-metodu, fatturi protettivi, storja, sistema ta' appoġġ). Din il-lista hija sempliċement t-tfakkira tal-espert stess; Riskju DEĊIŻJONI ma tingħatax, ma tingħatax lill-klijent.
Abbozz ta' mudell ta' PROTOKOLL TA' REFERENZA TA' KRIŻI għall-organizzazzjoni tagħna: passi tas-sigħat mixgħul/mitfi, lil min sejjer, riferiment għal-linji ta' emerġenza, dokumentazzjoni. L-esperti u l-maniġment tagħna se jirrevedu dan u japprovawh skont ir-realtà u l-leġiżlazzjoni lokali.
Ipprepara abbozz BLANK ta' mudell ta' pjan ta' sikurezza: sinjali ta' twissija, strateġiji ta' soluzzjoni, appoġġ lin-nies, komunikazzjoni professjonali, li tagħmel l-ambjent sikur. L-ispeċjalista se jimla l-kontenut wiċċ imb wiċċ mal-klijent; Int biss tagħti l-mudell vojt.
Stabbilixxi xenarju ta’ prova IMMAĠINARJU (l-ebda klijent reali) biex ittejjeb il-ħiliet tiegħi ta’ intervisti ta’ kriżi. Ħa nwieġeb fir-rwol ta' espert tiegħi, imbagħad agħtini feedback kostruttiv dwar l-approċċ tiegħi. Din hija prova ta’ taħriġ, mhux każ reali.
Pront dgħajjef / Pront qawwi
Pront dgħajjef: "Dan il-klijent qal: [frażijiet]. Hemm riskju għoli ta 'suwiċidju, x'għandi nagħmel?"
Dan il-pront jiddelega d-deċiżjoni tal-kriżi lill-AI; L-AI ma tistax tkejjel ir-riskju, ma tistax tieħu r-responsabbiltà, u dan il-mument jeħtieġ intervent uman f'ħin reali. Dan l-użu huwa perikoluż.
Prompt qawwi: "Jien barra mis-sessjoni, m'hemm l-ebda klijent reali. Biex tħaffef il-ħiliet tiegħi ta 'valutazzjoni tar-riskju, agħmel lista bħala tfakkira tal-oqsma li m'għandix inkopri f'intervista dwar ir-riskju ta' suwiċidju. Id-deċiżjoni u l-intervent se jkunu r-responsabbiltà tiegħi fis-sitwazzjoni reali."
Dan il-pront juża l-AI biss bħala għodda ta’ preparazzjoni barra mis-sessjoni; Il-kriżi tħalli d-deċiżjoni f’idejn il-persuna.
Żbalji komuni
- Titlob lill-AI għal deċiżjoni ta' kriżi. "Hemm riskju?" il-konsultazzjoni tal-AI; huwa li titlef id-deċiżjoni u r-responsabbiltà.
- Tidderieġi l-klijent fi kriżi lejn il-bot. Jinsa li ċ-chatbot ma jistax jimmaniġġja r-riskju b'mod affidabbli.
- Jiżbalja l-punteġġ tar-riskju għal reali. Is-sostituzzjoni ta' output mekkaniku ta' "livell ta' riskju" mill-AI għall-valutazzjoni klinika.
- Ċaqliq tal-għodda tal-waqfien għall-użu ħajjin. L-użu tal-lista ta' kontroll barra mis-sessjoni fi kriżi ħajja b'konsultazzjoni mal-AI.
- Mhux jistabbilixxi l-katina ta 'appoġġ uman. Jiddependu fuq AI minflok sistema ta 'linja ta' kriżi esperta/kriżi għal wara l-ħinijiet fl-organizzazzjoni.
Fil-qosor
Ir-riskju ta’ kriżi, suwiċidju u ħsara huwa l-aktar limitu ċar tal-modulu: f’dawn il-mumenti l-AI ma tistax tieħu deċiżjonijiet, tkejjel ir-riskju, tintervjeni u tieħu r-responsabbiltà. Minħabba li kriżi teħtieġ impenn f'ħin reali, ġudizzju kliniku olistiku, responsabbiltà u intervent uman. L-uniku rwol aċċettabbli għall-AI huwa bħala lista ta 'kontroll, abbozz ta' protokoll/mudell, u prova ta 'taħriġ, BARRA mis-sessjoni, li tappoġġja l-preparazzjoni tal-professjonist stess. Qatt ma tidderieġi klijent fi kriżi lejn chatbot; Il-katina ta' appoġġ uman u l-hotlines huma attivati.
Kompitu ta' applikazzjoni
Iġbed fluss ta' rotta ta' kriżi għall-prattika jew l-organizzazzjoni tiegħek stess: x'jiġri pass pass meta klijent juri riskju, min jissejjaħ, għal liema linji huma riferuti? Ivverifika li l-AI mhijiex dik li tieħu d-deċiżjonijiet fi kwalunkwe pass ta’ dan il-fluss. Oħroġ ukoll lista ta 'kontroll tal-valutazzjoni tar-riskju barra mis-sessjoni mill-AI u ikteb f'sentenza waħda għaliex hija biss it-tfakkira tiegħek u ma tistax tingħata lill-klijent.
lista ta' kontroll
- [ ] Ma tajt l-ebda rwol ta' deċiżjoni lill-AI fi kriżi diretta.
- [ ] Jiena wettaqt direttament il-valutazzjoni u r-rispons tal-kriżi jien stess.
- [ ] Ma dderieġix lill-klijent fi kriżi lejn iċ-chatbot.
- [ ] Użajt l-AI biss għall-preparazzjoni barra mis-sessjoni (lista ta' kontroll/protokoll/prova).
- [ ] Iddefinijt il-katina korporattiva ta' appoġġ uman u l-hotlines.
- [ ] Internalizzajt li d-deċiżjoni u r-responsabbiltà għall-kriżi huma tal-persuna.