Dobički:
- Sposobnost ustvarjanja pisne, izvršljive politike uporabe umetne inteligence in poteka odločanja za psihološko prakso ali institucijo
- Sposobnost združevanja disciplin o mejah, preverjanju, zasebnosti in pristranskosti, ki so se jih naučili skozi celoten modul, v en sam nadzorni sistem
- Sposobnost pregledne razlage uporabe umetne inteligence naročniku ter ohranjanja profesionalne etike in odgovornosti
V tem modulu ste se naučili uporabljati umetno inteligenco (AI) v različnih delih psihološkega dela: pregled literature, podpora pri interpretaciji lestvice, označevanje sej, psihoizobraževanje, analiza raziskav, preverjanje pristranskosti, trdi rob krize, digitalna orodja in strokovni razvoj. V vsaki enoti so bila tri ponavljajoča se načela: meja, preverjanje, zaupnost. V tej zadnji enoti bomo ta načela strnili v enoten sistem: pisno in izvršljivo politiko uporabe umetne inteligence. Politika ni nejasen namen, kot je "poskušam uporabljati AI za dobro"; Je skupek konkretnih pravil, ki jih vsi upoštevajo, ki jih je mogoče revidirati in za katera ste lahko odgovorni stranki. Ne glede na to, ali delate sami ali v ustanovi, je ta politika okvir, ki ščiti vas in vašo stranko.
Zakaj je pisna politika bistvena
Nenapisana pravila se uporabljajo nedosledno. Nekega dne anonimizira podatke, en naporen dan lahko pozabite nanj; Medtem ko lahko strokovnjak pravilno uporablja AI, ga lahko kolega uporablja nepravilno. Napisana politika zagotavlja tri stvari: doslednost (vsi sledijo istim pravilom), odgovornost (če gre kaj narobe, je jasno, kaj je bilo narejeno in kako) in transparentnost (naročniku lahko jasno razložite, kako uporabljate AI). Z vidika poklicne etike in KVKK je »uporabljali smo AI, nismo pa zapisali, kako smo ga nadzorovali« nevzdržno stališče.
Pozor: Politika umetne inteligence je namenjena ohranjanju meja, ne pa opuščanju. Klavzule, kot je »Oprostite zasebnost zaradi hitrosti«, »Preusmeri na bota v nujnih primerih« opisujejo vir tveganja, ne politike. Dobra politika institucionalizira pravo pot, ne lahke poti.
Šest osnovnih sestavin politike
komponento
Kaj definira
Osnova na modulu
Področja uporabe
Pri katerih nalogah se uporablja AI (zeleno/rumeno območje)
Enota 1
omejena območja
Kjer AI ne bo nikoli uporabljen (diagnoza, krizna odločitev)
Enota 1, 4, 9
Podatkovno pravilo
Anonimizacija in izbira orodja
Enota 2
validacijsko pravilo
Kako potrditi vsak izhod
Enota 3, 5, 7
Predsodki in jezik
Pravica in nadzor stigme
Enota 8
preglednost
Kako obvestiti stranko
Enota 2, 12
Korak za korakom: vzpostavitev lastne politike
- Ustvarite seznam nalog. Navedite vse naloge, za katere je mogoče uporabiti AI v praksi; vsakega postavite v zeleno/rumeno/rdečo cono.
- Pojasnite seznam prepovedi. Rdeče območje (diagnoza, odločitev o tveganju, krizna intervencija, odločitev o zdravljenju/zdravljenju) jasno napišite kot prepovedano.
- Napiši podatkovno pravilo. Kateri podatki so anonimizirani, katera orodja so odobrena, katere nastavitve so obvezne.
- Določite korake preverjanja. Napišite obvezne potrditvene korake za vsako vrsto izhoda (vir, opombe, analiza).
- Pripravite prosojno besedilo. Vključite uporabo umetne inteligence v besedilo za razsvetljevanje strank.
- Nastavite urnik pregleda. Politiko redno posodabljajte (npr. vsakih 6 mesecev); Sprememba tehnologije in zakonodaje.
Namig: najboljši način, da preizkusite svoj pravilnik, je, da eno za drugim poženete opravila resničnega dne skozi pravilnik. Za vsako nalogo, "ali sem upošteval to pravilo?" Če lahko jasno odgovorite na vprašanje, politika deluje; Če rečete "odvisno od situacije", je treba to klavzulo zapisati bolj jasno.
Transparentnost do stranke
Stranka ima pravico vedeti, kakšno vlogo ima AI v njenem procesu. A to je treba razložiti iskreno, brez strašenja naročnika: "Orodja umetne inteligence uporabljam pri nekaterih administrativnih in osnutkih (kot je urejanje zapiskov, priprava materialov); anonimiziram vaše podatke in vedno sprejemam diagnoze, ocene in odločitve o zdravljenju." Ta izjava je hkrati etična obveznost in poštenost, ki gradi zaupanje. Če naročnik nasprotuje, se njegova izbira spoštuje.
trije mini kovčki
Primer 1 – Zaščita police. Nov pripravnik na kliniki bo prilepil opombo stranke v orodje AI, ne da bi jo anonimiziral. Ker pisni pravilnik klinike navaja, da "neobdelani podatki o strankah niso vneseni v nobeno orodje AI; najprej so anonimizirani" in je ta pravilnik podpisan na začetku dela, se pripravnik ustavi in naredi pravi korak. Brez pravilnika bi prišlo do kršitve zasebnosti. Zapisano pravilo je varnostna mreža, ki pride v poštev, ko se pozabi na dobre namene.
Primer 2 – Preglednost gradi zaupanje. Na prvem srečanju strokovnjak svoji stranki iskreno razloži svojo uporabo AI: kaj uporablja, kako so podatki zaščiteni, odločitve so njegove. Klient je sprva živčen, ko pa sliši razlago, se sprosti in njegovo zaupanje se poveča. Transparentnost deluje kot poštenost, ki gradi zaupanje, ne kot slabost, ki jo je treba skriti.
Primer 3 – Aktivacija seznama prepovedanih. Ob koncu napornega dneva želi strokovnjak AI "vprašati" o tveganju stranke. Na misel pride člen v pravilniku institucije, da "odločitev v kriznih razmerah in tveganjih ni mogoče zahtevati od AI; strokovnjak to oceni neposredno in po potrebi se posvetuje z nadzorom/linijo za nujne primere". Strokovnjak se ustavi in naredi pravo stvar. Seznam prepovedi politike je sidro, ki vas opomni na pravo odločitev tudi v najbolj utrujenem trenutku.
Pozivi in predloge, ki jih je mogoče kopirati
Pripravite POLITIKO UPORABE UMETNE INTELIGENCE za psihološko prakso. Imejmo naslednjih šest razdelkov: 1) dovoljena področja uporabe, 2) prepovedana področja (diagnoza, krizna odločitev, odločitev o zdravljenju), 3) pravilo podatkov/anonimizacije, 4) koraki preverjanja, 5) pristranskost in nadzor jezika, 6) preglednost za stranko. Pravila napišite jasno in izvršljivo; dodajanje snovi, ki rahlja meje.
Naslednji seznam nalog razdelite na zeleno/rumeno/rdečo cono tveganja in za vsako napišite pravilo politike v enem stavku (kdo to izvaja, kako se preverja). Naloge: [seznam opravil]
Napišite odstavek, ki ga želite dodati v informacijsko besedilo za stranko, v kateri iskreno in brez ustrahovanja razložite uporabo umetne inteligence: pri katerih delovnih mestih se uporablja, ali so podatki anonimizirani, da odločitve o diagnozi/zdravljenju pripadajo specialistu in pravico stranke do ugovora.
Preverite ta osnutek pravilnika o uporabi umetne inteligence: ali ustrezno ščiti meje, ali so prepovedana območja jasna, ali so koraki glede zasebnosti in preverjanja pristnosti končani, ali je stranka pregledna? Označite šibke ali tvegane predmete. Politika: [osnutek]
Šibek poziv/močan poziv
Šibek poziv: "Napišite nam politiko, ki bo olajšala uporabo AI."
Poudarek na »omogočanju« potiska AI, da predlaga klavzule, ki sproščajo meje; ker namen politike ni udobje, temveč zaščita in odgovornost.
Močan poziv: "Pripravite politiko uporabe umetne inteligence, ki ohranja meje, jasno razmejuje prepovedana področja (diagnoza, kriza, odločitev o zdravljenju), zahteva zaupnost in korake preverjanja ter vključuje preglednost za stranko. Cilj ni razrahljati uporabe, ampak narediti varno in odgovorno."
Ta poziv usmeri politiko k pravilnemu cilju (zaščita); Izhod postane okvir, ki ga je mogoče nadzorovati.
Pogoste napake
- Sploh ne pišem politike. Upoštevanje pravil in njihova nedosledna uporaba; To je najpogostejša napaka.
- Uvedba klavzule, ki rahlja meje. Uvedba pravil, kot je "Oprostite zasebnost za hitrost", v politiko.
- Nejasen seznam prepovedanih snovi. Ni jasno napisano, da so odločitve o diagnozi/krizi/zdravljenju prepovedane.
- Preskok prosojnosti. Stranke sploh ne obvesti o uporabi AI.
- Politike ne posodabljam. Nadaljevanje s starimi pravili, ko se tehnologija in zakonodaja spreminjata.
Če povzamem
Tri načela tega modula (omejitev, avtentikacija, zasebnost) so združena v pisno, izvršljivo politiko uporabe umetne inteligence. Dobra politika vključuje šest komponent: dovoljena področja uporabe, prepovedana področja (diagnoza, kriza, odločitev o zdravljenju), pravilo podatkov/anonimizacije, korake preverjanja, nadzor pristranskosti in jezika, preglednost za stranko. Politika obstaja zato, da ohranja meje, ne pa da jih sprošča; Zagotavlja doslednost, odgovornost in preglednost. Stranki iskreno razložite uporabo umetne inteligence in redno posodabljajte pravilnik. AI pospešuje; Odgovornost, odločitev in etika so vedno vaše.
Aplikacijska naloga
Napišite enostransko politiko uporabe umetne inteligence za svojo prakso ali ustanovo. Izpolnite vseh šest komponent (dovoljena polja, prepovedana polja, podatkovno pravilo, preverjanje, pristranskost/jezik, preglednost). Nato eno za drugo zaženite 5 nalog iz svojega dejanskega delovnega dne skozi to politiko in vprašajte "ali sem upošteval pravilo?" za vsakega posebej. Preverite, ali znate jasno odgovoriti na vprašanje. Jasneje napišite točke, na katere ne morete jasno odgovoriti.
kontrolni seznam
- [ ] Pisno sem opredelil dovoljena in prepovedana področja uporabe.
- [ ] Jasno sem napisal, da so diagnoze, krize in odločitve o zdravljenju prepovedane.
- [ ] Nastavil sem pravilo za podatke/anonimizacijo in odobreno vozilo.
- [ ] Napisal sem korake preverjanja za vsako vrsto izpisa.
- [ ] Pravilniku sem dodal preverjanje pristranskosti in jezika.
- [ ] Za naročnika sem pripravil transparentno besedilo in določil urnik pregleda.
Modulni izpit
1. Psiholog umetni inteligenci napiše simptome, ki jih opisuje njegova stranka, in vpraša: "Kakšno diagnozo ima ta stranka?" vpraša. Kateri je najbolj pravilen pristop?
- A) Uporaba AI samo za predlaganje možnih konceptov; Postavitev diagnoze s pomočjo kliničnega razgovora, anamneze in lastne presoje ✔
- B) Vpis diagnoze, ki jo poda umetna inteligenca neposredno v poročilo
- C) Če umetna inteligenca večkrat poda isto diagnozo, se šteje za dokončno.
- D) Skrajšanje intervjuja in zanašanje na umetno inteligenco za pospešitev diagnoze
Opis: Postavitev diagnoze je klinična odločitev, ki je ključnega pomena za varnost in zahteva številne podatke, klinični intervju, zgodovino in presojo. Umetna inteligenca je lahko v pomoč pri predlaganju možnih konceptov, vendar se diagnoza postavi na podlagi klinične presoje pristojnega specialista (psihologa/psihiatra). Izhod AI ne nadomesti te odločitve.
2. Snemanje odjemalčeve seje želite povzeti v orodje umetne inteligence v oblaku. Kaj je treba najprej storiti glede KVKK in poklicne zaupnosti?
- A) Lepljenje zapisa, kot je, s pravim imenom in podrobnostmi
- B) Anonimiziranje vsebine, spremljanje politike zasebnosti/podatkov orodja in upoštevanje okvira privolitve ✔
- C) Skrajšajte samo priimek stranke, ostalo pa pustite tako, kot je.
- D) Čeprav je zasebnost pomembna, delite vse podatke za hitrost
Pojasnilo: Podatki o naročniku so posebni osebni podatki. Preden se dajo orodju v oblaku, morajo biti identifikacijski podatki, kot so ime, lokacija, datum in delovno mesto, anonimizirani; Če je mogoče, je treba uporabiti deidentificirano vsebino in zagotoviti, da orodje ne uporablja podatkov za usposabljanje. Poleg tega je treba upoštevati informirano soglasje stranke.
3. Umetna inteligenca pravi v povzetku članka, da je "velikost učinka v tej študiji iz leta 2019 bila d = 0,82", vendar tega članka ne najdete. Kaj naj narediš?
- A) Uporaba pripisovanja takšnega, kot je, ker je umetna inteligenca zanesljiva
- B) Pisanje številke brez iskanja vira, ker se zdi smiselno
- C) Ne upoštevajte zahtevka, dokler ne potrdimo vira in velikosti učinka iz primarnega besedila ✔
- D) Vprašajte drugo umetno inteligenco in jo sprejmite, če pride do iste številke
Pojasnilo: Umetna inteligenca si lahko izmisli reference, avtorje ali številke, ki se zdijo resnične, a ne obstajajo (halucinacija). Vir, ki ga ni mogoče najti, ali velikost učinka, ki je ni mogoče preveriti, nista uporabljena. Trditev velja za neveljavno, dokler je ne potrdi primarni vir.
4. Klient poroča, da ima med sejo samomorilne misli. Kakšna bi morala biti vloga umetne inteligence v tej situaciji?
- A) Umetna inteligenca mora oceniti tveganje in odjemalcu posredovati varnostni načrt
- B) Stranko je treba usmeriti na klepetalnico z umetno inteligenco
- C) Umetna inteligenca bi morala biti nastavljena tako, da samodejno pokliče nujno službo
- D) Odločitev in poseg pripadata strokovnjaku; AI ne more oceniti tveganja, kriza je človeška odgovornost ✔
Opis: Tveganje samomora in krize je varnostno kritična situacija, ki zahteva klinično oceno v realnem času, sodelovanje in odgovornost. Umetna inteligenca ne more sprejemati odločitev, ocenjevati tveganja in posredovati. Strokovnjak vstopi neposredno; Po potrebi se aktivirajo dežurne linije in veriga človeške podpore. V najboljšem primeru lahko AI strokovnjaku služi kot opomnik zunaj seje.
5. Katero tveganje je najbolj kritično v psihoizobraževalni brošuri, izdelani z umetno inteligenco?
- A) Napačne/stigmatizirajoče informacije, ki stranko vodijo k samodiagnozi in zdravljenju ✔
- B) Slabo vizualno oblikovanje brošure
- C) Brošura je predolga
- D) Pisava je majhna
Pojasnilo: Ko je psihoedukativno gradivo v rokah klienta, se lahko spremeni v orodje za samodiagnozo in zdravljenje, napačne ali stigmatizirajoče informacije pa lahko povzročijo škodo. Zato mora biti gradivo dokazno, varnostno in pravilno uokvirjeno strokovno preverjeno; Dodati je treba opozorilo »te informacije niso nadomestilo za strokovno presojo«.
6. Prejmete podporo za tematsko kodiranje s strani umetne inteligence v svojih kvalitativnih raziskovalnih podatkih (prepisi intervjujev). Kateri je najbolj zdrav pristop?
- A) Poročanje o kodah, ki jih je ustvarila umetna inteligenca, kot končni analizi
- B) Preverite, popravite in zagotovite zanesljivost tako, da upoštevate kode kot začetne osnutke in preberete podatke ✔
- C) Prepuščanje analize v celoti umetni inteligenci in sploh ne branje podatkov
- D) Ne berete sami, ker daje teme umetne inteligence
Opis: umetna inteligenca zagotavlja hitrost pri izdelavi začetnih predlogov kode in orisov tem, vendar kvalitativna analiza zahteva interpretativno presojo raziskovalca. Kode umetne inteligence so začetek; Raziskovalec prebere vse podatke, preveri in popravi kode ter opazuje medkodersko zanesljivost. Poleg tega mora biti prepis anonimiziran.
7. Zakaj je pristranskost pomembno tveganje v smislu psihologije v modelih umetne inteligence?
- A) Pristranskost je zgolj tehnična težava, ki ni klinično pomembna
- B) Pristranskost je v sodobnih modelih popolnoma odpravljena
- C) Rezultati modela so lahko izkrivljeni glede na kulturo/spol/diagnozo in so lahko zavajajoči ter ocena škode ✔
- D) Pristranskost se pojavi le pri modelih, ki ustvarjajo slike
Opis: ker se modeli pogosto usposabljajo na podlagi podatkov iz določenih kultur in jezikov, lahko vsebujejo diagnostične, kulturne in spolne pristranskosti; lahko berejo simptom kot "normalnega" v eni skupini in "patološkega" v drugi skupini ali proizvajajo stigmatizirajoč jezik. To lahko izkrivi in poškoduje oceno; Rezultate je treba pregledati za različne skupine in kulture.
8. Razmišljate o tem, da bi svoji stranki priporočili terapevtskega klepetalnega robota. Kaj morate storiti najprej?
- A) Neposredno priporočam, ker je priljubljeno
- B) Reči, da lahko bot nadomesti terapijo in zmanjša število sej
- C) Predlaganje, da stranka zaupa botu v krizi.
- D) Revizijski dokazi, varnost, zasebnost in klinična primernost ter položaj bota kot omejenega dopolnila ✔
Pojasnilo: Preden priporočite digitalno orodje za duševno zdravje, je treba pregledati njegovo bazo dokazov, varnost (krizno upravljanje), politiko zasebnosti/podatkov in primernost za klinično situacijo stranke. Bota ne bi smeli pozicionirati kot nadomestek za humano terapijo, temveč kot omejeno dopolnilo in klientu jasno razložiti, da je v kriznih situacijah neustrezen.
9. AI je izdelal osnutek zapiskov seje. Kateri je najpomembnejši korak, ki ga morate storiti pred uporabo tega orisa?
- A) Preverite osnutek tako, da ga primerjate s tem, kar se je dejansko zgodilo med sejo, popravite izmišljeno/manjkajočo vsebino in prevzamete odgovornost ✔
- B) Shranjevanje osnutka v datoteko, kot je
- C) Ob predpostavki, da je osnutek pravilen, ker je napisan tekoče
- D) Stranka naj odobri osnutek in ga uporabi brez sprememb.
Pojasnilo: osnutek umetne inteligence lahko doda pomembne informacije, ki so bile izpuščene, izmisli izjave, ki dejansko niso bile izrečene (halucinacija), ali zagotovi klinično nepravilno uokvirjanje. Strokovnjak primerja osnutek z dejanskim dogajanjem na seji, ga preveri, popravi in je odgovoren za končno vsebino. Opomba je pravni in klinični dokument.
10. Kaj od naslednjega je naloga 'zelene cone' (z nizkim tveganjem) pri uporabi umetne inteligence v psihologiji?
- A) Odločanje, ali je stranka v nevarnosti samomora
- B) Priprava osnutka za poenostavitev jezika anonimnega psihoedukativnega besedila ✔
- C) Postavitev dokončne diagnoze na podlagi ocene lestvice
- D) Oblikovanje priporočil za zdravila
Pojasnilo: Naloge, kot je poenostavitev jezika anonimiziranega psihoedukativnega besedila ali priprava e-poštnega opomnika za sestanek, so nizkega tveganja, ker ne vključujejo diagnoze/odločitve in so varne za uporabo s hitrim pregledom. Diagnoza, ocena tveganja in odločitev o zdravljenju so v rdečem (varnostno kritičnem) območju.
11. Katera je najpomembnejša omejitev pri uporabi umetne inteligence pri interpretaciji psihometričnega testa?
- A) Ker rezultat interpretira umetna inteligenca, strokovni komentar ni potreben.
- B) Dovolj je, da umetni inteligenci poveste ime testa
- C) Interpretacija ne izhaja iz ene same ocene, temveč iz klinične presoje in številnih podatkov; Upoštevanje avtorskih pravic in normativnega konteksta ✔
- D) Mejni rezultat je enak v vseh kulturah
Pojasnilo: rezultat lestvice/testa je podatek; Diagnoza in klinična interpretacija ne izhajata iz ene same ocene. Poleg tega je veliko testov avtorsko zaščitenih in občutljivih na kontekst norm. Umetna inteligenca lahko zagotovi opis podlestvice in jezikovno podporo, vendar interpretacijo opravi strokovnjak v okviru klinične presoje, več podatkov in kulturne veljavnosti.
12. Zakaj AI ne more nadomestiti pravega nadzora?
- A) Umetna inteligenca nadomešča nadzor, ker se hitreje odziva
- B) Nadzor je tako ali tako nepotreben
- C) Umetna inteligenca velja za nadzornika, ker ima licenco.
- D) Umetna inteligenca ne prevzema odgovornosti, ne pozna pravega konteksta in ne more zagotoviti etičnega nadzora; Za nadzor je potreben strokovnjak ✔
Opis: Nadzor; Je supervizija kompetentnega strokovnjaka, ki je odgovoren, odnosen in pozna resnični kontekst klienta in razvoj terapevta. Umetna inteligenca lahko pomaga pri vajah primerov in pripravi formulacij, vendar ne prevzema klinične odgovornosti, ne pozna pravega konteksta in ne more zagotoviti etičnega/pravnega nadzora. Nadzor zahteva človeške strokovnjake.
13. Za psihološko institucijo pripravljate pravilnik o uporabi umetne inteligence. Kaj od naslednjega mora biti vključeno?
- A) Pravilo anonimizacije, prepovedana področja uporabe, obvezno preverjanje in preglednost do stranke ✔
- B) Dovoljenje za skupno rabo podatkov o strankah, ne da bi jih anonimizirali zaradi hitrosti
- C) Prenos diagnostičnih odločitev na umetno inteligenco
- D) Usmerjanje kriznih situacij v chat bot
Opis: Dobra politika; Določa, kateri podatki se lahko posredujejo orodju (pravilo anonimizacije), prepovedana področja uporabe, kot so diagnoza/kriza, obvezni koraki preverjanja in preglednost za stranko. Klavzule, kot je "Izrazita zasebnost za hitrost", so etična in pravna tveganja; Politika obstaja zato, da ohranja meje, ne pa da jih rahlja.
14. Kaj od naslednjega je veljavna utemeljitev za potrjevanje rezultatov umetne inteligence?
- A) Pravilno je, ker umetna inteligenca večkrat poda isti odgovor
- B) Trditev je potrjena s primarnimi dokazi, veljavno meritvijo in strokovno strokovno presojo ✔
- C) Odgovor je pravilen, ker je napisan tekoče in prepričljivo.
- D) AI je zmogljiv model, zato je njegov rezultat točen
Opis: Utemeljitev klinične ali raziskovalne trditve; primarni dokazi, veljavna meritev, veljavni etični/poklicni standard in kompetentna strokovna presoja. "AI je rekel", "tekoče napisano" ali "večkrat dal isto" niso veljavne utemeljitve; To niso znaki resnice, ampak kvečjemu doslednosti.