Integracija od kraja do kraja: etička politika korištenja umjetne inteligencije

Dobici:

• Sposobnost kreiranja pisane, provedive politike upotrebe umjetne inteligencije i toka odluka za psihološku praksu ili instituciju
• Sposobnost kombiniranja disciplina granica, verifikacije, privatnosti i pristranosti naučenih kroz cijeli modul u jedan kontrolni sistem
• Sposobnost transparentnog objašnjavanja korištenja umjetne inteligencije klijentu i održavanja profesionalne etike i odgovornosti

Kroz ovaj modul naučili ste kako koristiti umjetnu inteligenciju (AI) u različitim dijelovima psihološkog rada: pregled literature, podrška interpretaciji skale, označavanje sesije, psihoedukacija, analiza istraživanja, provjera predrasuda, tvrda ivica krize, digitalni alati i profesionalni razvoj. U svakoj jedinici postojala su tri principa koji se ponavljaju: granica, verifikacija, poverljivost. U ovoj završnoj cjelini, mi ćemo ove principe destilirati u jedan sistem: pisanu i provedivu politiku korištenja umjetne inteligencije. Politika nije nejasna namjera poput „Pokušavam koristiti AI za dobro“; To je skup konkretnih pravila koja se svi pridržavaju, koja se mogu revidirati i za koja možete biti odgovorni klijentu. Bilo da radite sami ili u instituciji, ova politika je okvir koji štiti i vas i vašeg klijenta.

Zašto je pisana politika neophodna

Nepisana pravila se primjenjuju nedosljedno. Jednog dana anonimizira podatke, jednog napornog dana možete zaboraviti na to; Dok stručnjak može ispravno koristiti AI, kolega ga može koristiti pogrešno. Pisana politika osigurava tri stvari: dosljednost (svi slijede ista pravila), odgovornost (ako nešto krene po zlu, jasno je šta je urađeno i kako) i transparentnost (možete jasno objasniti klijentu kako koristite AI). Što se tiče profesionalne etike i KVKK-a, „Koristili smo AI, ali nismo zapisali kako ga kontrolišemo“ je neodrživ stav.

Oprez: AI politika je tu da održava granice, a ne da ih opušta. Klauzule kao što su „Opustite privatnost radi brzine“, „Preusmjerite na bot u hitnim slučajevima“ opisuju izvor rizika, a ne politiku. Dobra politika institucionalizuje pravi, a ne lak način.

Šest osnovnih komponenti politike

komponenta

Šta definiše

Baza na modulu

Područja upotrebe

U kojim se zadacima koristi AI (zelena/žuta zona)

Jedinica 1

zabranjena područja

Gdje se AI nikada neće koristiti (dijagnoza, odluka o krizi)

Jedinica 1, 4, 9

Pravilo podataka

Anonimizacija i odabir alata

Jedinica 2

pravilo validacije

Kako potvrditi svaki izlaz

Jedinica 3, 5, 7

Predrasude i jezik

Pravda i kontrola stigme

Jedinica 8

transparentnost

Kako informisati klijenta

Jedinica 2, 12

Korak po korak: postavljanje vlastite politike

1. Kreirajte inventar zadataka. Navedite sve zadatke za koje se AI može koristiti u praksi; stavite svaki u zelenu/žutu/crvenu zonu.
2. Pojasnite listu zabrana. Jasno napišite crvenu zonu (dijagnoza, odluka o riziku, krizna intervencija, odluka o liječenju/lijeku) kao zabranjeno.
3. Napišite pravilo podataka. Koji su podaci anonimizirani, koji alati su odobreni, koja su podešavanja obavezna.
4. Definirajte korake verifikacije. Napišite obavezne korake potvrde za svaki tip izlaza (izvor, bilješke, analiza).
5. Pripremite prozirni tekst. Uključite upotrebu umjetne inteligencije u tekst za prosvjetljenje vašeg klijenta.
6. Postavite raspored pregleda. Povremeno ažurirajte politiku (npr. svakih 6 mjeseci); Promjena tehnologije i zakonodavstva.

Savjet: Najbolji način da testirate svoju politiku je da pokrenete svakodnevne zadatke kroz politiku jedan po jedan. Za svaki zadatak, "jesam li slijedio ovo pravilo?" Ako možete jasno odgovoriti na pitanje, politika funkcionira; Ako kažete "u zavisnosti od situacije", tu klauzulu treba jasnije napisati.

Transparentnost prema klijentu

Klijent ima pravo da zna kakvu ulogu AI igra u njihovom procesu. Ali ovo treba objasniti iskreno, bez straha od klijenta: "Koristim alate umjetne inteligencije u nekim administrativnim poslovima i nacrtima (kao što je uređivanje bilješki, priprema materijala); anonimiziram vaše podatke i uvijek donosim dijagnozu, evaluaciju i odluke o liječenju." Ova izjava je i etička obaveza i iskrenost koja gradi povjerenje. Ukoliko se klijent protivi, njegov/njen izbor se poštuje.

tri mini kofera

Slučaj 1 — Zaštita polise. Novi pripravnik na klinici sprema se zalijepiti bilješku klijenta u AI alat bez da je anonimizira. Budući da u pisanoj politici klinike stoji da se "neobrađeni podaci o klijentima ne unose ni u jedan AI alat; prvo se anonimiziraju" i ova politika se potpisuje na početku posla, pripravnik staje i poduzima pravi korak. Bez politike, došlo bi do povrede privatnosti. Pisano pravilo je sigurnosna mreža koja dolazi u obzir kada se zaborave dobre namjere.

Slučaj 2 — Transparentnost gradi povjerenje. Na prvom sastanku, stručnjak iskreno objašnjava svom klijentu svoju upotrebu AI: šta on koristi, kako su podaci zaštićeni, odluke su njegove. Klijent je u početku nervozan, ali kada čuje objašnjenje, opušta se i povećava samopouzdanje. Transparentnost djeluje kao iskrenost koja gradi povjerenje, a ne kao slabost koju treba sakriti.

Slučaj 3 — Aktivacija zabranjene liste. Na kraju napornog dana, specijalista želi da AI "pita" o riziku klijenta. Pada mi na pamet članak u politici institucije „odluke o kriznim i rizičnim situacijama ne mogu se tražiti od AI; stručnjak to direktno procjenjuje i ako je potrebno, konsultuje se linija za nadzor/hitna pomoć“. Stručnjak staje i čini pravu stvar. Lista zabrana politike je sidro koje vas podsjeća na pravu odluku čak i u najumornijem trenutku.

Kopirani upiti i predlošci

Nacrtajte POLITIKU UPOTREBE VJEŠTAČKE INTELIGENCIJE za psihološku praksu. Neka imamo sljedećih šest odjeljaka: 1) dozvoljena područja upotrebe, 2) zabranjena područja (dijagnoza, krizna odluka, odluka o liječenju), 3) pravilo o podacima/anonimizaciji, 4) koraci verifikacije, 5) kontrola pristrasnosti i jezika, 6) transparentnost prema klijentu. Napišite pravila jasno i sprovodljivo; dodavanje supstance koja popušta granice.

Podijelite sljedeću listu zadataka u zelenu/žutu/crvenu zonu rizika i napišite pravilo politike od jedne rečenice za svaki (ko to radi, kako se provjerava). Zadaci: [lista zadataka]

Napišite odlomak koji će se dodati tekstu informacija o klijentu, iskreno i bez zastrašivanja objašnjavajući korištenje umjetne inteligencije: u kojim poslovima se koristi, da li su podaci anonimizirani, da odluke o dijagnozi/liječenju pripadaju specijalistu i klijentovo pravo na prigovor.

Provjerite ovaj nacrt politike upotrebe umjetne inteligencije: da li adekvatno štiti granice, da li su zabranjena područja čista, da li su završeni koraci privatnosti i autentifikacije, postoji li transparentnost klijenta? Označite slabe ili rizične stavke. Politika: [nacrt]

Slaba prompt / Jaka prompt

Slab upit: "Napišite nam politiku koja olakšava korištenje AI."

Naglasak na „omogućavanju“ gura AI da predloži klauzule koje popuštaju granice; dok svrha politike nije pogodnost, već zaštita i odgovornost.

Snažan savjet: "Napraviti politiku upotrebe AI koja održava granice, jasno razgraničava zabranjena područja (dijagnoza, kriza, odluka o liječenju), zahtijeva povjerljivost i korake verifikacije, i uključuje transparentnost prema klijentu. Cilj nije da se olabavi upotreba, već da bude sigurna i odgovorna."

Ovaj prompt usmjerava politiku ka ispravnom cilju (zaštita); Izlaz postaje okvir kojim se može kontrolirati.

Uobičajene greške

• Ne pišem politiku uopšte. Imati pravila na umu i primjenjivati ​​ih nedosljedno; Ovo je najčešća greška.
• Postavljanje klauzule koja labavi granice. Uvođenje pravila poput „Opustite privatnost radi brzine“ u politiku.
• Ostavljanje liste zabranjenih nejasnoća. Ne piše jasno da su odluke o dijagnozi/krizi/liječenju zabranjene.
• Preskakanje transparentnosti. Uopšte ne obavještava klijenta o korištenju AI.
• Ne ažuriranje politike. Nastavljamo sa starim pravilima kako se tehnologija i zakonodavstvo mijenjaju.

Ukratko

Tri principa ovog modula (ograničenje, autentifikacija, privatnost) kombinuju se u pisanu, sprovodljivu politiku upotrebe veštačke inteligencije. Dobra politika uključuje šest komponenti: područja dozvoljene upotrebe, zabranjena područja (dijagnoza, kriza, odluka o liječenju), pravilo o podacima/anonimizaciji, koraci verifikacije, pristrasnost i kontrola jezika, transparentnost prema klijentu. Politika postoji da održava granice, a ne da ih popušta; Pruža dosljednost, odgovornost i transparentnost. Iskreno objasnite klijentu upotrebu AI i redovno ažurirajte politiku. AI ubrzava; Odgovornost, odluka i etika su uvijek na vama.

Zadatak aplikacije

Napišite politiku korištenja umjetne inteligencije na jednoj stranici za svoju praksu ili instituciju. Popunite svih šest komponenti (dozvoljena polja, zabranjena polja, pravilo podataka, verifikacija, pristranost/jezik, transparentnost). Zatim prođite 5 zadataka iz stvarnog radnog dana kroz ovu politiku jedan po jedan i pitajte "jesam li slijedio pravilo?" za svaku. Provjerite možete li jasno odgovoriti na pitanje. Napišite jasnije stavke na koje ne možete jasno odgovoriti.

kontrolna lista

• [ ] Pisano sam definisao dozvoljena i zabranjena područja upotrebe.
• [ ] Jasno sam napisao da su dijagnoze, krize i odluke o liječenju zabranjene.
• [ ] Postavio sam podatke/anonimizaciju i odobreno pravilo vozila.
• [ ] Napisao sam korake provjere za svaki tip izlaza.
• [ ] Dodao sam pristrasnost i provjeru jezika u politiku.
• [ ] Pripremio sam transparentni tekst za klijenta i postavio raspored pregleda.

Modul Exam

1. Psiholog upisuje simptome koje opisuje njegov klijent umjetnoj inteligenciji i pita: "Koju dijagnozu ima ovaj klijent?" pita on. Koji je najispravniji pristup?

• A) Korišćenje veštačke inteligencije samo za sugerisanje mogućih koncepata; Postavljanje dijagnoze putem kliničkog intervjua, anamneze i vlastitog prosuđivanja ✔
• B) Upisivanje dijagnoze koju je dala umjetna inteligencija direktno u izvještaj
• C) Ako umjetna inteligencija postavi istu dijagnozu nekoliko puta, smatra se konačnom.
• D) Skraćivanje intervjua i oslanjanje na umjetnu inteligenciju radi ubrzanja dijagnoze

Opis: Postavljanje dijagnoze je klinička odluka kritična za sigurnost i zahtijeva više podataka, klinički intervju, povijest i prosudbu. Umjetna inteligencija može biti od pomoći u predlaganju mogućih koncepata, ali dijagnoza se postavlja na osnovu kliničke procjene kompetentnog specijaliste (psihologa/psihijatra). AI izlaz ne zamjenjuje ovu odluku.

2. Želite sažeti klijentov snimak sesije u alat za umjetnu inteligenciju baziran na oblaku. Šta je prvo učiniti u pogledu KVKK-a i profesionalne povjerljivosti?

• A) Lepljenje zapisa kakav jeste, sa pravim imenom i detaljima
• B) Anonimiziranje sadržaja, praćenje politike privatnosti/podataka alata i pridržavanje okvira saglasnosti ✔
• C) Skratiti samo prezime klijenta, a ostalo ostaviti kako jeste.
• D) Iako je privatnost važna, dijeljenje svih podataka radi brzine

Objašnjenje: Podaci o klijentu su posebni lični podaci. Prije nego što se daju alatu u oblaku, identifikacijske informacije kao što su ime, lokacija, datum i radno mjesto trebaju biti anonimizirane; Ako je moguće, treba koristiti neidentificirani sadržaj i osigurati da alat ne koristi podatke za obuku. Osim toga, mora se poštovati informirani pristanak klijenta.

3. Umjetna inteligencija kaže u sažetku članka da je "veličina efekta u ovoj studiji iz 2019. godine bila d = 0,82", ali ne možete pronaći taj članak. Šta treba da uradite?

• A) Upotreba atribucije kakva jeste jer je umjetna inteligencija pouzdana
• B) Pisanje broja bez traženja izvora jer se čini razumnim
• C) Zanemarite tvrdnju dok ne potvrdimo izvor i veličinu efekta iz primarnog teksta ✔
• D) Pitajte drugu umjetnu inteligenciju i prihvatite je ako dobije isti broj

Objašnjenje: Umjetna inteligencija može napraviti reference, autore ili brojeve koji izgledaju kao stvarni, ali ne postoje (halucinacija). Ne koristi se izvor koji se ne može pronaći ili veličina efekta koja se ne može provjeriti. Zahtjev se smatra nevažećim dok se ne potvrdi iz primarnog izvora.

4. Klijent prijavljuje da ima samoubilačke misli tokom sesije. Kakva bi trebala biti uloga umjetne inteligencije u ovoj situaciji?

• A) Vještačka inteligencija treba da proceni rizik i da prenese bezbednosni plan klijentu
• B) Klijenta treba uputiti na chat bot sa umjetnom inteligencijom
• C) Vještačku inteligenciju treba podesiti da automatski poziva hitnu službu
• D) Odluka i intervencija pripada vještaku; AI ne može procijeniti rizik, kriza je ljudska odgovornost ✔

Opis: Rizik od samoubistva i krize je kritična situacija za sigurnost koja zahtijeva kliničku procjenu u realnom vremenu, angažman i odgovornost. Umjetna inteligencija ne može donositi odluke, procjenjivati ​​rizik i intervenirati. Stručnjak ulazi direktno; Ako je potrebno, dežurne linije i lanac ljudske podrške se aktiviraju. U najboljem slučaju, AI može poslužiti kao podsjetnik stručnjaku izvan sesije.

5. Koji je rizik najkritičniji u psihoedukativnoj brošuri proizvedenoj s umjetnom inteligencijom?

• A) Netačne/stigmatizirajuće informacije dovode klijenta do samodijagnoze i liječenja ✔
• B) Loš vizuelni dizajn brošure
• C) Brošura je predugačka
• D) Font je mali

Objašnjenje: Kada je psihoedukativni materijal u rukama klijenta, može se pretvoriti u alat za samodijagnozu i liječenje, a netačne ili stigmatizirajuće informacije mogu uzrokovati štetu. Dakle, materijal mora biti stručno ovjeren za dokaze, sigurnost i ispravno uokvirivanje; Treba dodati upozorenje "ova informacija nije zamjena za profesionalnu procjenu".

6. Dobijate podršku za tematsko kodiranje od umjetne inteligencije u vašim kvalitativnim podacima istraživanja (transkripti intervjua). Koji je najzdraviji pristup?

• A) Izvještavanje o kodovima proizvedenim od strane umjetne inteligencije kao konačne analize
• B) Provjeriti, ispraviti i osigurati pouzdanost uzimajući u obzir kodove kao početne nacrte i čitajući podatke ✔
• C) Prepustiti analizu u potpunosti umjetnoj inteligenciji i uopće ne čitati podatke
• D) Ne čitati vlastito čitanje jer daje teme umjetne inteligencije

Opis: AI pruža brzinu u stvaranju početnih prijedloga koda i obrisa tema, ali kvalitativna analiza zahtijeva interpretativnu prosudbu istraživača. Kodovi umjetne inteligencije su početak; Istraživač čita sve podatke, provjerava i ispravlja kodove i promatra međukodersku pouzdanost. Osim toga, transkript mora biti anonimiziran.

7. Zašto je pristrasnost važan rizik u smislu psihologije u modelima umjetne inteligencije?

• A) Pristrasnost je samo tehničko pitanje, a ne klinički relevantno
• B) Pristrasnost je potpuno riješena u modernim modelima
• C) Rezultati modela mogu biti iskrivljeni zbog kulture/pola/dijagnoze i mogu dovesti u zabludu i procjenu štete ✔
• D) Pristrasnost se javlja samo kod modela koji proizvode slike

Opis: Budući da su modeli često obučeni na podacima iz specifičnih kultura i jezika, oni mogu imati dijagnostičke, kulturološke i rodne predrasude; može čitati simptom kao 'normalan' u jednoj grupi i 'patološki' u drugoj grupi, ili proizvoditi stigmatizirajući jezik. Ovo može iskriviti i oštetiti procjenu; Treba revidirati rezultate za različite grupe i kulture.

8. Razmišljate o tome da svom klijentu preporučite terapeutskog chat bota. Šta prvo treba da uradite?

• A) Direktno preporučujem jer je popularan
• B) Reći da bot može zamijeniti terapiju i smanjiti sesije
• C) Sugeriranje da klijent vjeruje botu u krizi.
• D) Revizorski dokazi, sigurnost, privatnost i klinička podobnost i pozicionirajte bot kao ograničenu dopunu ✔

Objašnjenje: Prije nego što preporučite digitalni alat za mentalno zdravlje, treba razmotriti njegovu bazu dokaza, sigurnost (upravljanje krizom), politiku privatnosti/podataka i prikladnost kliničkoj situaciji klijenta. Bot ne treba pozicionirati kao zamenu za humanu terapiju, već kao ograničenu dopunu, a klijentu treba jasno objasniti da je neadekvatan u kriznim situacijama.

9. AI je izradio nacrt beleški sa sednice. Koji je najvažniji korak koji treba poduzeti prije korištenja ovog pregleda?

• A) Verificirajte nacrt upoređujući ga sa onim što se stvarno dogodilo na sjednici, ispravite izmišljeni/nedostajući sadržaj i preuzmite odgovornost ✔
• B) Pohranjivanje nacrta u fajl kakav jeste
• C) Pod pretpostavkom da je nacrt ispravan jer je napisan tečno
• D) Neka klijent odobri nacrt i koristi ga bez izmjena.

Objašnjenje: AI nacrt može dodati važne informacije koje su izostavljene, sastaviti izjave koje zapravo nisu izgovorene (halucinacije) ili pružiti klinički netačan okvir. Ekspert upoređuje nacrt sa onim što se stvarno dogodilo na sednici, verifikuje ga, ispravlja i odgovara za konačni sadržaj. Bilješka je pravni i klinički dokument.

10. Šta od sljedećeg predstavlja zadatak 'zelene zone' (niskog rizika) u korištenju umjetne inteligencije u psihologiji?

• A) Odluku da li je klijent u opasnosti od samoubistva
• B) Priprema nacrta kako bi se pojednostavio jezik anonimnog psihoedukativnog teksta ✔
• C) Postavljanje konačne dijagnoze na osnovu rezultata skale
• D) Kreiranje preporuka za lijekove

Objašnjenje: Zadaci kao što su pojednostavljivanje jezika anonimiziranog psihoedukativnog teksta ili sastavljanje e-pošte s podsjetnikom za termin su niskog rizika jer ne uključuju dijagnozu/odluku i sigurni su za korištenje uz brzu reviziju. Dijagnoza, procjena rizika i odluka o liječenju su u crvenoj (sigurnosno kritičnoj) zoni.

11. Koja je najvažnija granica pri korištenju umjetne inteligencije u interpretaciji psihometrijskog testa?

• A) Budući da umjetna inteligencija tumači rezultat, nema potrebe za komentarom stručnjaka.
• B) Dovoljno je reći naziv testa umjetnoj inteligenciji
• C) Tumačenje ne proizlazi iz jednog rezultata, već iz kliničke procjene i više podataka; Poštivanje konteksta autorskih prava i normi ✔
• D) Granični rezultat je isti u svakoj kulturi

Objašnjenje: Skala/test rezultat je dio podataka; Dijagnoza i klinička interpretacija ne proizlaze iz jednog rezultata. Osim toga, mnogi testovi su zaštićeni autorskim pravima i osjetljivi su na kontekst norme. Umjetna inteligencija može pružiti opis na podskali i jezičku podršku, ali tumačenje vrši stručnjak u okviru kliničkog prosuđivanja, višestrukih podataka i kulturne valjanosti.

12. Zašto AI ne može zamijeniti pravi nadzor?

• A) Umjetna inteligencija zamjenjuje nadzor jer brže reagira
• B) Nadzor je ionako nepotreban
• C) Vještačka inteligencija se smatra supervizorom jer je licencirana.
• D) Vještačka inteligencija ne preuzima odgovornost, ne poznaje stvarni kontekst i ne može da obezbedi etičku kontrolu; Za nadzor je potreban ljudski stručnjak ✔

Opis: Nadzor; To je supervizija kompetentnog profesionalca koji je odgovoran, odnosan i poznaje stvarni kontekst klijenta i razvoj terapeuta. AI može pomoći u probi slučaja i izradi formulacije, ali ne preuzima kliničku odgovornost, ne poznaje stvarni kontekst i ne može pružiti etički/pravni nadzor. Za nadzor su potrebni ljudski stručnjaci.

13. Pripremate politiku korištenja umjetne inteligencije za psihološku instituciju. Šta od sljedećeg mora biti uključeno?

• A) Pravilo anonimizacije, zabranjena područja upotrebe, obavezna verifikacija i transparentnost za klijenta ✔
• B) Dozvola za dijeljenje podataka klijenta bez njihove anonimizacije radi brzine
• C) Prenošenje dijagnostičkih odluka na umjetnu inteligenciju
• D) Usmjeravanje kriznih situacija na chat bot

Opis: Dobra politika; Definira koji podaci se mogu dati alatu (pravilo anonimizacije), zabranjena područja upotrebe kao što su dijagnoza/kriza, obavezni koraci verifikacije i transparentnost za klijenta. Klauzule kao što su 'Izrazite privatnost za brzinu' su etički i pravni rizici; Politika postoji da održava granice, a ne da ih popušta.

14. Što je od sljedećeg valjano opravdanje za validaciju AI izlaza?

• A) Tačno je jer umjetna inteligencija daje isti odgovor više puta
• B) Tvrdnja je potvrđena primarnim dokazima, valjanim mjerenjem i kompetentnom stručnom prosudbom ✔
• C) Odgovor je tačan jer je napisan tečno i uvjerljivo.
• D) AI je moćan model, tako da je njegov izlaz tačan

Opis: Opravdanje za kliničku ili istraživačku tvrdnju; primarni dokaz, valjana mjerenja, primjenjivi etički/profesionalni standardi i kompetentna profesionalna prosudba. 'AI je rekao', 'tečno napisano' ili 'dao isto više puta' nisu valjana opravdanja; Ovo nisu znaci istine, već u najboljem slučaju dosljednosti.