Dobički:
- Sposobnost razločevanja, kje umetna inteligenca prihrani realni čas pri delu na področju duševnega zdravja in kje naj klinična odgovornost in pooblastilo za diagnostiko/odločanje ostane v rokah človeškega strokovnjaka, glede na stopnjo tveganja
- Sposobnost uporabe večplastne validacijske discipline, ki testira vsak rezultat umetne inteligence glede na dokaze, vire in klinično presojo
- Umetna inteligenca ni terapevt, diagnostik ali nadzornik; Biti sposoben ponotranjiti jasen okvir, da so ljudje in nujna intervencija bistveni v primeru krize/tveganja.
Psihologija poskuša razumeti človekovo bolečino, zgodbo in notranji svet; To je poklic, ki temelji na zaupanju, odnosu in odgovornosti. Nekateri deli tega dela (pisanje besedila, skeniranje virov, urejanje tabel, priprava gradiva) lahko hitro postanejo avtomatizirani. Nekaterih delov ni mogoče nikoli prenesti na stroj, ker se dotikajo človekovega življenja. Umetna inteligenca (na kratko AI; programska oprema, ki se nauči vzorcev iz velikih količin besedila in generira novo besedilo, izvlečke ali kodo) je močan pripomoček v tem poklicu: zožitev ur pregleda literature, priprava poročila, poenostavitev psihoizobraževalne brošure. Toda AI ni terapevt; Stranko ne pozna, ne prevzema odgovornosti, v kriznih časih ji ne stoji ob strani, etično in pravno ne odgovarja.
Naš cilj v tem modulu je, da postanete strokovnjak za duševno zdravje, ki nadzira umetno inteligenco, in ne zdravnik, odvisen od umetne inteligence. V tej prvi enoti se boste naučili, kje uporabiti umetno inteligenco v psihološkem poslu, kje se morate vsekakor ustaviti in kako potrditi vsak rezultat.
Kaj AI lahko in česa ne more narediti v psihologiji
Resnična moč umetne inteligence je ustvarjanje jezika, vzorcev in obrisov. Okostje beležke seje, zemljevid povzetka literature, skrajšana različica psihoedukativnega besedila, oris postavke raziskovalnega vprašalnika, vljuden jezik elektronskega sporočila o terminu; Vse to pride ven v nekaj sekundah. Pri teh nalogah vam AI prihrani čas in zmanjša psihično obremenitev.
Česar AI ne zmore, je sprejemanje odločitev, ki zahtevajo klinično presojo. Postavitev diagnoze, ocena tveganja, izbira načrta zdravljenja, branje, ali je klientu »bolje ali slabše«; Ničesar od tega ni mogoče narediti z logiko »tako ponavadi gre«. AI halucinira, ker se uči iz besedil na internetu: tako lahko vir, ki se zdi resničen, a ne obstaja, ustvari lažno statistiko ali izmišljeno postavko na lestvici. V psihologiji ta vrsta napake ni le tipkarska napaka; Pomeni napačno usmerjeno stranko, škodljiv poseg ali etično kršitev.
Pozor: rezultat AI je osnutek, ne klinično mnenje. Varnostno kritična vprašanja, kot so diagnoza, ocena tveganja in odločitve o zdravljenju, se sprejemajo s presojo in odgovornostjo kompetentnega strokovnjaka (psihologa, psihiatra). AI ne nadomesti tega razmišljanja.
Tri regije glede na stopnjo tveganja
Najbolj praktičen način za varno uporabo umetne inteligence je, da vsako nalogo razdelite na tri območja glede na stopnjo tveganja. To razlikovanje se zmanjša na "ali naj to stori AI?" Na vprašanja odgovarja hitro in natančno.
Regija
Vzorčne naloge
Vloga AI
Raven preverjanja
Zelena (nizko tveganje)
Poenostavitev anonimnega psihoedukativnega besedila, e-pošta za termin, iskanje po naslovu literature, oris predstavitve
brezplačna proizvodnja
Hiter pregled
Rumena (srednje tveganje)
Osnutek zapisnika seje, jezikovna razlaga za interpretacijo lestvice, načrt analize raziskave, predlog tematske kode
Osnutek + predlog
Strokovno preverjanje + potrditev vira/podatkov
Rdeča (varnostno kritična)
Diagnoza, ocena tveganja za samomor/krizo, odločitev o zdravljenju/zdravljenju, forenzično mnenje
Samo opomnik/kontrolni seznam
Obvezni sta kompetentna strokovna presoja in odgovornost
Bodite hitri v zeleni coni. Uporabite AI v rumenem območju, vendar preverite vsako informacijo, številko in vir. V rdečem območju AI nikoli nima zadnje besede; To je kvečjemu opomnik, ki strokovnjaku prikliče kontrolno postavko.
trije mini kovčki
1. primer – uporaba, ki prihrani čas. Šolska psihologinja bo za skupino 40 staršev pripravila informativno brošuro z naslovom Izpitna anksioznost pri mladostnikih. Če bi ga napisali ročno, bi trajalo približno 3 ure. Z umetno inteligenco, ki napiše anonimni osnutek, samopreverjanje vsebine, ki temelji na dokazih, in preverjanje virov, dokonča brošuro v 45 minutah. Približno 75 % prihranka časa, on pa je odgovoren za končno vsebino.
Primer 2 – Kje naj se ustavi. Specialist da AI strankine zapiske o treh sejah in vpraša: "Ali ima ta oseba mejno osebnostno motnjo?" vpraša. "Simptomi so dosledni," samozavestno pravi AI. Vendar AI ni videl klienta, ne pozna zgodovine in ne more pretehtati diferencialnih diagnoz. Če specialist uporabi ta rezultat kot diagnozo, bo naredil resno napako; Rezultat je lahko kvečjemu opomnik v obliki "ocenite ta področja naprej v intervjuju."
Primer 3 – Cena halucinacije. Raziskovalec od umetne inteligence zahteva 10 virov za uvod svoje diplomske naloge. AI ustvari 10 citatov; Vsi izgledajo formalno popolni. Ko raziskovalec preveri, ugotovi, da 4 od njih dejansko ne obstajajo, 2 pa pripišeta napačno letnico/avtorja pravemu članku. To pomeni, da je 60 % citatov napačnih. Če ne bi preverjal, bi v diplomsko nalogo vključil lažne vire.
Disciplina večplastnega preverjanja
Preverjanje ni nekaj, kar bi odložili z mislijo "bom pogledal pozneje", je del poteka dela. Trdno preverjanje je sestavljeno iz petih plasti:
- Nazaj k dokazom. Če je AI dal ugotovitev, stopnjo ali priporočilo, to preverite s primarnim virom (strokovno pregledan članek, uradni vodnik, priročnik za lestvico).
- Test s klinično presojo. Ali je rezultat resnično pomemben za to stranko, ta kontekst in to kulturo? Pretehtajte z lastnim strokovnim očesom.
- Primerjaj z več podatki. Ne zanašajte se na en stavek, en sam rezultat ali en sam simptom; Naj zgodba, opazovanje in merjenje spregovorijo skupaj.
- Filter etike in zasebnosti. Ali ta izhod stranki škodi, jo stigmatizira, krši zaupnost?
- Pusti svoj pečat. Zapišite, kateri izhod je bil potrjen in kako; Naj se preveri kasneje.
Namig: "AI je rekel" ni utemeljitev. Utemeljitev za klinično ali raziskovalno odločitev je vedno dokaz, meritev, strokovni standard ali kompetentna strokovna presoja. AI vam pomaga pripraviti te utemeljitve, ne nadomešča jih.
Pozivi in predloge, ki jih je mogoče kopirati
Naslednje predloge ohranjajo AI v varni vlogi. Izpolnite oglate oklepaje z lastnim (anonimnim) kontekstom.
Vloga: Ste pomočnik pri risanju, ki pomagate pri študiju psihologije. Ne postavite diagnoze, ne ocenite tveganja ali se odločite za zdravljenje. Vaša naloga je le, da pripravite besedilo in delite svoje misli. Kjer ste v dvomih, napišite "strokovno preverjanje". Naloga: [naloga]. Omejitve: Anonimni podatki; brez stigmatizirajočega jezika; Če obstaja izvorna trditev, označite "potrebna je potrditev".
Preverite spodnji osnutek s treh vidikov in podajte povratne informacije posamezno postavko za vsako: 1) Stavki, ki vsebujejo klinično nepravilne ali pretirane trditve, 2) Trditve brez vira, čeprav zahtevajo vir, 3) Stigmatizirajoč ali obsojajoč jezik. Če niste prepričani o lastni točnosti, napišite "nepreverjeno". Besedilo: [besedilo]
Naslednjo nalogo postavite v območje tveganja (zelena/rumena/rdeča) in napišite utemeljitev v enem stavku. Nato navedite korake preverjanja, ki ustrezajo temu območju. Naloga: [opis delovnega mesta]
Katere trditve v tem besedilu vsebujejo dejstvo/statistično trditev? Vsako navedite v ločeni vrstici kot "zahtevek, ki ga je treba preveriti"; Bom preveril iz primarnega vira. Besedilo: [besedilo]
Šibek poziv/močan poziv
Šibek poziv: "Kakšna je diagnoza te stranke na podlagi njegovih simptomov?"
Ta poziv pokliče AI, da opravi delo, ki ga ne more (diagnosticirati), ne zaščiti podatkov odjemalca in povabi k samozavestnemu, a netočnemu rezultatu.
Zmogljiv poziv: "Spodaj je anonimiziran povzetek intervjuja. NE postavljajte diagnoze. Namesto tega kot kontrolni seznam predlagajte področja, ki jih moram dodatno oceniti v kliničnem intervjuju, in vprašanja, ki jih moram zapomniti. Označite, če niste prepričani."
Ta poziv postavi AI v pravilno vlogo (opomnik), zaščiti podatke in prepusti odgovornost strokovnjaku.
Pogoste napake
- Zamenjali oris za klinično mnenje. Tekoči in samozavestni jezik umetne inteligence ni dokaz točnosti; Najbolj prepričljiv stavek je lahko najbolj napačen stavek.
- Predaja rdeče cone AI. Če AI sprašuje o diagnozi, tveganju in odločitvah o zdravljenju, poskušamo odgovornost preložiti na programsko opremo; To je hkrati etična in pravna napaka.
- Preskok preverjanja. Reči "Vseeno bom preveril" ali ne, je halucinacija številka ena, ki se prikrade v poročilo.
- Lepljenje podatkov odjemalca brez zaščite. Posredovanje resničnih imen in podrobnosti AI je kršitev zasebnosti (glejte 2. enoto).
- Postavitev AI za nadzornika. Umetna inteligenca izvaja vajo primerov, vendar so dejanski nadzor, odgovornost in etični nadzor naloga človeškega nadzornika.
Če povzamem
V psihologiji je umetna inteligenca močan pripomoček, ki ustvarja jezik in orise, vendar ni terapevt, diagnostik ali nadzornik. Vsako nalogo razdelite na zeleno/rumeno/rdečo cono tveganja; V rdečem območju (diagnoza, kriza, zdravljenje) klinična presoja in odgovornost vedno ostaneta na strokovnjaku. Vsak izid presejte skozi plasti dokazov, klinično presojo, več podatkov, etične filtre in sledljivost. "AI je rekel" nikoli ni opravičilo.
Aplikacijska naloga
Napišite 6 tipičnih nalog iz lastne prakse (ali namišljene prakse): npr. e-pošta za sestanek, osnutek zapiska o seji, diagnostično vprašanje, ocena krize, pregled literature, psihoedukativni izroček. Vsako postavite v zeleno/rumeno/rdečo cono in za vsako napišite pravilo veljavnosti v enem stavku. Končni rezultat je vaš lasten "zemljevid tveganja AI".
kontrolni seznam
- [ ] Nalogo sem postavil v zeleno/rumeno/rdečo cono.
- [ ] Nobene odločitve v rdečem območju nisem prepustil AI.
- [ ] Anonimiziral sem podatke strank.
- [ ] Jasno sem napisal omejitev "diagnostične/ocene tveganja" za AI.
- [ ] Izhod sem podal skozi pet plasti preverjanja.
- [ ] Sprejel sem, da sem odgovoren za končno vsebino in pustil svoj pečat.