Integracija od kraja do kraja: Etička politika korištenja umjetne inteligencije

Dobici:

• Sposobnost stvaranja pisane, provedive politike korištenja umjetne inteligencije i tijeka odlučivanja za psihološku praksu ili instituciju
• Sposobnost kombiniranja disciplina ograničenja, verifikacije, privatnosti i pristranosti naučenih tijekom cijelog modula u jedan sustav kontrole
• Sposobnost transparentnog objašnjenja korištenja umjetne inteligencije klijentu i održavanja profesionalne etike i odgovornosti

Tijekom ovog modula naučili ste kako koristiti umjetnu inteligenciju (AI) u različitim dijelovima psihološkog rada: pregled literature, podrška interpretacije ljestvice, ocjenjivanje sesija, psihoedukacija, analiza istraživanja, provjera pristranosti, oštra oštrica krize, digitalni alati i profesionalni razvoj. Postojala su tri ponavljajuća načela u svakoj jedinici: granica, provjera, povjerljivost. U ovoj završnoj jedinici destilirati ćemo ta načela u jedan sustav: pisanu i provedivu politiku korištenja umjetne inteligencije. Politika nije nejasna namjera poput "nastojim koristiti AI za dobro"; To je skup konkretnih pravila kojih se svi pridržavaju, koja se mogu revidirati i za koja možete biti odgovorni klijentu. Bilo da radite sami ili u instituciji, ova politika je okvir koji štiti i vas i vašeg klijenta.

Zašto je pismena politika neophodna

Nepisana pravila primjenjuju se nedosljedno. Jednog dana anonimizira podatke, jednog zauzetog dana možete zaboraviti na to; Dok stručnjak može koristiti AI ispravno, kolega je može koristiti pogrešno. Pisana politika osigurava tri stvari: dosljednost (svi slijede ista pravila), odgovornost (ako nešto pođe po zlu, jasno je što je učinjeno i kako) i transparentnost (možete jasno objasniti klijentu kako koristite AI). U smislu profesionalne etike i KVKK-a, "Koristili smo AI, ali nismo napisali kako ga kontroliramo" je neodrživ stav.

Oprez: Politika umjetne inteligencije postoji da održi granice, a ne da ih ublaži. Klauzule kao što su "Olakšaj privatnost radi brzine", "Preusmjeri na bot u slučaju nužde" opisuju izvor rizika, a ne politiku. Dobra politika institucionalizira pravi, a ne laki način.

Šest osnovnih komponenti politike

komponenta

Ono što definira

Baza na modulu

Područja upotrebe

U kojim se zadacima koristi AI (zelena/žuta zona)

Jedinica 1

zabranjena područja

Gdje se AI nikada neće koristiti (dijagnoza, krizna odluka)

Jedinica 1, 4, 9

Pravilo podataka

Anonimizacija i odabir alata

Jedinica 2

pravilo provjere valjanosti

Kako potvrditi svaki izlaz

Jedinica 3, 5, 7

Predrasude i jezik

Pravda i kontrola stigme

Jedinica 8

prozirnost

Kako informirati klijenta

Jedinica 2, 12

Korak po korak: postavljanje vlastite politike

1. Napravite inventar zadataka. Navesti sve zadatke za koje se AI može koristiti u praksi; svaki postavite u zelenu/žutu/crvenu zonu.
2. Pojasnite listu zabrana. Jasno napišite crvenu zonu (dijagnoza, odluka o riziku, krizna intervencija, odluka o liječenju/liječenju) kao zabranjenu.
3. Napišite pravilo podataka. Koji su podaci anonimizirani, koji su alati odobreni, koje su postavke obavezne.
4. Definirajte korake provjere. Napišite obvezne korake potvrde za svaku vrstu izlaza (izvor, bilješke, analiza).
5. Pripremite prozirni tekst. Uključite korištenje umjetne inteligencije u svoj tekst za prosvjećivanje klijenata.
6. Postavite raspored pregleda. Povremeno ažurirajte politiku (npr. svakih 6 mjeseci); Promjena tehnologije i zakonodavstva.

Savjet: Najbolji način da testirate svoju politiku je da prođete stvarne dnevne zadatke kroz politiku jednu po jednu. Za svaki zadatak, "jesam li slijedio ovo pravilo?" Ako možete jasno odgovoriti na pitanje, politika funkcionira; Ako kažete "ovisno o situaciji", tu bi klauzulu trebalo jasnije napisati.

Transparentnost prema klijentu

Klijent ima pravo znati kakvu ulogu AI igra u njihovom procesu. Ali to treba objasniti iskreno, bez prestrašivanja klijenta: "Koristim alate umjetne inteligencije u nekim administrativnim i nacrtnim poslovima (kao što su uređivanje bilježaka, priprema materijala); anonimiziram vaše podatke i uvijek donosim dijagnoze, procjene i odluke o liječenju." Ova izjava je i etička obveza i poštenje koje gradi povjerenje. Ako se klijent protivi, njegov/njezin izbor se poštuje.

tri mini kućišta

Slučaj 1 — Zaštita police. Novi pripravnik na klinici sprema se zalijepiti bilješku klijenta u AI alat bez da je anonimizira. Budući da pisana politika klinike kaže da se "neobrađeni podaci o klijentima ne unose ni u kakve alate umjetne inteligencije; prvo se anonimiziraju", a ta se politika potpisuje na početku posla, pripravnik staje i poduzima pravi korak. Bez politike, došlo bi do povrede privatnosti. Pisano pravilo je sigurnosna mreža koja stupa na snagu kada se zaborave dobre namjere.

Slučaj 2 — Transparentnost gradi povjerenje. Na prvom sastanku stručnjak svom klijentu iskreno objašnjava svoju upotrebu umjetne inteligencije: što koristi, kako su podaci zaštićeni, odluke su njegove. Klijent je u početku nervozan, ali kada čuje objašnjenje, opusti se i njegovo samopouzdanje raste. Transparentnost djeluje kao iskrenost koja gradi povjerenje, a ne kao slabost koju treba sakriti.

Slučaj 3 — Aktivacija liste zabranjenih. Na kraju napornog dana, stručnjak želi da AI "pita" o riziku klijenta. Pada mi na pamet članak u politici ustanove, "odluke o krizi i riziku ne mogu se tražiti od umjetne inteligencije; stručnjak to izravno procjenjuje i ako je potrebno, savjetuje se s nadzorom/linijom za hitne slučajeve". Stručnjak stane i učini pravu stvar. Zabranjena lista politike je sidro koje vas podsjeća na ispravnu odluku čak iu najumornijem trenutku.

Upute i predlošci koji se mogu kopirati

Napravite nacrt POLITIKE KORIŠTENJA UMJETNE INTELIGENCIJE za psihološku praksu. Imajmo sljedećih šest odjeljaka: 1) dopuštena područja uporabe, 2) zabranjena područja (dijagnoza, odluka o kriznoj situaciji, odluka o liječenju), 3) pravilo o podacima/anonimizaciji, 4) koraci provjere, 5) kontrola pristranosti i jezika, 6) transparentnost za klijenta. Napišite pravila jasno i provedivo; dodavanje tvari koja olabavljuje granice.

Podijelite sljedeći popis zadataka u zelenu/žutu/crvenu rizičnu zonu i napišite pravilo politike u jednoj rečenici za svaki (tko to radi, kako se provjerava). Zadaci: [popis zadataka]

Napišite odlomak koji će se dodati u informativni tekst za klijenta, objašnjavajući korištenje umjetne inteligencije iskreno i bez zastrašivanja: u kojim poslovima se koristi, jesu li podaci anonimizirani, da odluke o dijagnozi/liječenju pripadaju specijalistu i pravo klijenta na prigovor.

Provjerite ovaj nacrt pravila korištenja umjetne inteligencije: štiti li odgovarajuće granice, jesu li zabranjena područja jasna, jesu li dovršeni koraci privatnosti i provjere autentičnosti, postoji li klijentova transparentnost? Označite slabe ili rizične stavke. Politika: [nacrt]

Slab upit / Jak upit

Slab upit: "Napišite nam politiku koja olakšava korištenje umjetne inteligencije."

Naglasak na "omogućavanju" tjera umjetnu inteligenciju da predlaže klauzule koje ublažavaju granice; dok svrha politike nije pogodnost nego zaštita i odgovornost.

Snažan zahtjev: "Nacrtajte politiku korištenja umjetne inteligencije koja održava granice, jasno ocrtava zabranjena područja (dijagnoza, kriza, odluka o liječenju), zahtijeva povjerljivost i korake provjere te uključuje transparentnost za klijenta. Cilj nije olabaviti upotrebu, već je učiniti sigurnom i odgovornom."

Ovaj upit usmjerava politiku prema ispravnom cilju (zaštita); Izlaz postaje okvir kojim se može upravljati.

Uobičajene greške

• Uopće ne pišem politiku. Imati pravila na umu i nedosljedno ih primjenjivati; Ovo je najčešća greška.
• Postavljanje klauzule koja labavi granice. Uvođenje pravila poput "Olakšajte privatnost radi brzine" u politiku.
• Ostavljanje popisa zabranjenih nedorečenih. Nije jasno napisano da su odluke o dijagnozi/krizi/liječenju zabranjene.
• Preskakanje prozirnosti. Uopće ne informirati klijenta o korištenju AI.
• Ne ažuriranje pravila. Nastavak sa starim pravilima kako se tehnologija i zakonodavstvo mijenjaju.

Ukratko

Tri načela ovog modula (ograničenje, autentifikacija, privatnost) kombiniraju se u pisanu, provedivu politiku korištenja umjetne inteligencije. Dobra politika uključuje šest komponenti: dopuštena područja uporabe, zabranjena područja (dijagnoza, kriza, odluka o liječenju), pravilo podataka/anonimizacije, korake provjere, kontrolu pristranosti i jezika, transparentnost za klijenta. Politika postoji da održava granice, a ne da ih popušta; Pruža dosljednost, odgovornost i transparentnost. Iskreno objasnite klijentu korištenje umjetne inteligencije i redovito ažurirajte pravila. AI ubrzava; Odgovornost, odluka i etika uvijek su vaši.

Zadatak aplikacije

Napišite politiku korištenja umjetne inteligencije na jednoj stranici za svoju praksu ili instituciju. Ispunite svih šest komponenti (dopuštena polja, zabranjena polja, pravilo podataka, provjera, pristranost/jezik, transparentnost). Zatim pokrenite 5 zadataka iz vašeg stvarnog radnog dana kroz ovo pravilo jedan po jedan i pitajte "jesam li slijedio pravilo?" za svakoga. Provjerite možete li jasno odgovoriti na pitanje. Napišite jasnije stavke na koje ne možete jasno odgovoriti.

popis za provjeru

• [ ] Pisano sam definirao dopuštena i zabranjena područja uporabe.
• [ ] Jasno sam napisao da su dijagnoze, krize i odluke o liječenju zabranjene.
• [ ] Postavio sam pravilo za podatke/anonimizaciju i odobreno vozilo.
• [ ] Napisao sam korake provjere za svaku vrstu izlaza.
• [ ] Pravilima sam dodao pristranost i provjeru jezika.
• [ ] Pripremio sam transparentni tekst za klijenta i postavio raspored pregleda.

Modul ispit

1. Psiholog piše umjetnoj inteligenciji simptome koje je opisao njegov klijent i pita: "Koju dijagnozu ima ovaj klijent?" pita on. Koji je najispravniji pristup?

• A) Korištenje umjetne inteligencije samo za sugeriranje mogućih koncepata; Postavljanje dijagnoze kroz klinički razgovor, anamnezu i vlastitu prosudbu ✔
• B) Upisivanje dijagnoze koju daje umjetna inteligencija izravno u izvješće
• C) Ako umjetna inteligencija više puta da istu dijagnozu, ona se smatra konačnom.
• D) Skraćivanje intervjua i oslanjanje na umjetnu inteligenciju kako bi se ubrzala dijagnoza

Opis: Postavljanje dijagnoze klinička je odluka kritična za sigurnost i zahtijeva više podataka, klinički intervju, povijest i prosudbu. Umjetna inteligencija može biti od pomoći u sugeriranju mogućih koncepata, ali dijagnoza se postavlja kliničkom prosudbom nadležnog specijalista (psihologa/psihijatra). AI izlaz ne zamjenjuje ovu odluku.

2. Želite sažeti snimanje sesije klijenta u alat umjetne inteligencije temeljen na oblaku. Što je prvo što treba učiniti po pitanju KVKK i poslovne tajne?

• A) Zalijepiti zapis kakav jest, s pravim imenom i detaljima
• B) Anonimiziranje sadržaja, praćenje politike privatnosti/podataka alata i poštivanje okvira za pristanak ✔
• C) Skratite samo prezime klijenta, a ostalo ostavite kako jest.
• D) Iako je privatnost važna, dijeljenje svih podataka radi brzine

Pojašnjenje: Podaci o klijentima su posebni osobni podaci. Prije davanja alatu u oblaku, identifikacijske informacije kao što su ime, lokacija, datum i radno mjesto trebaju biti anonimizirane; Ako je moguće, treba koristiti deidentificirani sadržaj i treba osigurati da alat ne koristi podatke za obuku. Osim toga, potrebno je poštivati ​​informirani pristanak klijenta.

3. Umjetna inteligencija kaže u sažetku članka da je "veličina učinka u ovoj studiji iz 2019. utvrđena kao d = 0,82", ali ne možete pronaći taj članak. Što bi trebao učiniti?

• A) Korištenje atribucije kakva jest jer je umjetna inteligencija pouzdana
• B) Pisanje broja bez traženja izvora jer se čini razumnim
• C) Zanemarite zahtjev dok ne potvrdimo izvor i veličinu učinka iz primarnog teksta ✔
• D) Pitajte drugu umjetnu inteligenciju i prihvatite je ako dođe do istog broja

Objašnjenje: Umjetna inteligencija može izmisliti reference, autore ili brojeve koji izgledaju kao stvarni, ali ne postoje (halucinacija). Ne koristi se izvor koji se ne može pronaći ili veličina učinka koja se ne može provjeriti. Tvrdnja se smatra nevažećom dok se ne potvrdi iz primarnog izvora.

4. Klijent prijavljuje da ima suicidalne misli tijekom seanse. Koja bi trebala biti uloga umjetne inteligencije u ovoj situaciji?

• A) Umjetna inteligencija treba procijeniti rizik i prenijeti sigurnosni plan klijentu
• B) Klijenta treba usmjeriti na chat bot umjetne inteligencije
• C) Treba postaviti umjetnu inteligenciju da automatski poziva hitnu službu
• D) Odluka i intervencija pripada stručnjaku; AI ne može procijeniti rizik, kriza je ljudska odgovornost ✔

Opis: Rizik od samoubojstva i krize situacija je kritična za sigurnost koja zahtijeva kliničku procjenu, angažman i odgovornost u stvarnom vremenu. Umjetna inteligencija ne može donositi odluke, procjenjivati ​​rizik i intervenirati. Stručnjak ulazi izravno; Po potrebi se aktiviraju dežurne linije i lanac ljudske podrške. U najboljem slučaju, AI može poslužiti kao podsjetnik stručnjaku izvan sesije.

5. Koji je rizik najkritičniji u psihoedukativnoj brošuri proizvedenoj pomoću umjetne inteligencije?

• A) Netočne/stigmatizirajuće informacije koje vode klijenta na samodijagnosticiranje i liječenje ✔
• B) Loš vizualni dizajn brošure
• C) Brošura je preduga
• D) Font je mali

Objašnjenje: Kada je psihoedukativni materijal u rukama klijenta, može se pretvoriti u alat za samodijagnosticiranje i liječenje, a netočne ili stigmatizirajuće informacije mogu uzrokovati štetu. Dakle, gradivo mora biti stručno provjereno radi dokaznosti, sigurnosti i pravilnog kadriranja; Treba dodati upozorenje "ova informacija nije zamjena za profesionalnu prosudbu".

6. Dobivate podršku za tematsko kodiranje od umjetne inteligencije u vašim podacima o kvalitativnom istraživanju (transkripti intervjua). Koji je najzdraviji pristup?

• A) Izvještavanje o kodovima koje je proizvela umjetna inteligencija kao konačnoj analizi
• B) Provjerite, ispravite i osigurajte pouzdanost uzimajući u obzir kodove kao početne nacrte i čitajući podatke ✔
• C) U potpunosti prepustiti analizu umjetnoj inteligenciji i uopće ne čitati podatke
• D) Ne čitate sami jer to daje teme umjetne inteligencije

Opis: AI pruža brzinu u izradi početnih prijedloga koda i obrisa teme, ali kvalitativna analiza zahtijeva tumačenje prosudbe istraživača. Kodovi umjetne inteligencije početak su; Istraživač čita sve podatke, provjerava i ispravlja kodove i promatra međukodersku pouzdanost. Osim toga, prijepis mora biti anonimiziran.

7. Zašto je pristranost važan rizik u smislu psihologije u modelima umjetne inteligencije?

• A) Pristranost je samo tehnički problem, nije klinički relevantan
• B) Pristranost je potpuno riješena u modernim modelima
• C) Rezultati modela mogu biti iskrivljeni kulturom/spolom/dijagnozom i mogu dovesti u zabludu i procijeniti štetu ✔
• D) Pristranost se javlja samo u modelima koji proizvode slike

Opis: budući da se modeli često obučavaju na podacima iz specifičnih kultura i jezika, mogu sadržavati dijagnostičke, kulturološke i rodne predrasude; može pročitati simptom kao 'normalan' u jednoj skupini i 'patološki' u drugoj skupini, ili proizvoditi stigmatizirajući jezik. To može iskriviti i oštetiti procjenu; Izlazne rezultate treba revidirati za različite skupine i kulture.

8. Razmišljate o tome da svom klijentu preporučite terapeutskog chat bota. Što trebate učiniti prvo?

• A) Izravno preporučujem jer je popularan
• B) Reći da bot može zamijeniti terapiju i smanjiti sesije
• C) Sugeriranje klijentu da vjeruje botu u krizi.
• D) Revizija dokaza, sigurnosti, privatnosti i kliničke prikladnosti i pozicioniranje bota kao ograničene dopune ✔

Objašnjenje: Prije nego što se preporuči digitalni alat za mentalno zdravlje, potrebno je pregledati njegovu bazu dokaza, sigurnost (upravljanje krizama), politiku privatnosti/podataka i prikladnost kliničkoj situaciji klijenta. Bot ne treba pozicionirati kao zamjenu za humanu terapiju, već kao ograničenu nadopunu, a klijentu treba jasno objasniti da je neadekvatan u kriznim situacijama.

9. AI je izradio nacrt bilješki sa sjednice. Koji je najvažniji korak poduzeti prije korištenja ovog nacrta?

• A) Provjerite nacrt uspoređujući ga s onim što se stvarno dogodilo u sesiji, ispravite izmišljeni sadržaj/sadržaj koji nedostaje i preuzmite odgovornost ✔
• B) Spremanje nacrta u datoteku kakva jest
• C) Pod pretpostavkom da je nacrt ispravan jer je napisan tečno
• D) Neka klijent odobri nacrt i koristi ga bez izmjena.

Objašnjenje: Nacrt umjetne inteligencije može dodati važne informacije koje su izostavljene, izmisliti izjave koje zapravo nisu izrečene (halucinacija) ili dati klinički netočan okvir. Stručnjak uspoređuje nacrt s onim što se stvarno dogodilo na sjednici, ovjerava ga, ispravlja i odgovoran je za konačni sadržaj. Bilješka je pravni i klinički dokument.

10. Što je od sljedećeg zadatak 'zelene zone' (niskog rizika) u korištenju umjetne inteligencije u psihologiji?

• A) Odlučivanje je li klijent u opasnosti od samoubojstva
• B) Priprema nacrta za pojednostavljenje jezika anonimnog psihoedukativnog teksta ✔
• C) Postavljanje konačne dijagnoze na temelju ocjene na skali
• D) Izrada preporuka za lijekove

Objašnjenje: Zadaci kao što je pojednostavljivanje jezika anonimiziranog psihoedukativnog teksta ili sastavljanje e-poruke s podsjetnikom za termin niskog su rizika jer ne uključuju dijagnozu/odluku i sigurni su za upotrebu s brzim pregledom. Dijagnoza, procjena rizika i odluka o liječenju su u crvenoj (sigurnosno kritičnoj) zoni.

11. Koje je najvažnije ograničenje pri korištenju umjetne inteligencije u interpretaciji psihometrijskog testa?

• A) Budući da umjetna inteligencija tumači rezultat, nema potrebe za stručnim komentarom.
• B) Umjetnoj inteligenciji dovoljno je reći naziv testa
• C) Tumačenje ne proizlazi iz jednog rezultata, već iz kliničke prosudbe i više podataka; Poštivanje autorskog prava i konteksta normi ✔
• D) Granični rezultat je isti u svakoj kulturi

Objašnjenje: rezultat na ljestvici/testu je podatak; Dijagnoza i klinička interpretacija ne proizlaze iz jednog rezultata. Osim toga, mnogi su testovi zaštićeni autorskim pravima i osjetljivi su na kontekst norme. Umjetna inteligencija može pružiti opis podskale i jezičnu podršku, ali tumačenje donosi stručnjak u okviru kliničke prosudbe, višestrukih podataka i kulturološke valjanosti.

12. Zašto AI ne može zamijeniti pravi nadzor?

• A) Umjetna inteligencija zamjenjuje nadzor jer brže reagira
• B) Nadzor je ionako nepotreban
• C) Umjetna inteligencija se smatra nadzornikom jer ima licencu.
• D) Umjetna inteligencija ne preuzima odgovornost, ne poznaje stvarni kontekst i ne može osigurati etičku kontrolu; Za nadzor je potreban ljudski stručnjak ✔

Opis: Nadzor; To je supervizija kompetentnog stručnjaka koji je odgovoran, relacijski i poznaje stvarni kontekst klijenta i razvoj terapeuta. AI može pomoći u probi slučaja i izradi formulacije, ali ne preuzima kliničku odgovornost, ne poznaje pravi kontekst i ne može pružiti etički/pravni nadzor. Nadzor zahtijeva ljudske stručnjake.

13. Pripremate politiku korištenja umjetne inteligencije za instituciju za psihologiju. Što od sljedećeg mora biti uključeno?

• A) Pravilo anonimizacije, zabranjena područja korištenja, obvezna provjera i transparentnost klijentu ✔
• B) Dopuštenje za dijeljenje podataka klijenta bez anonimiziranja radi brzine
• C) Prijenos dijagnostičkih odluka na umjetnu inteligenciju
• D) Usmjeravanje kriznih situacija na chat bot

Opis: Dobra politika; Definira koji se podaci mogu dati alatu (pravilo anonimizacije), zabranjena područja korištenja kao što su dijagnoza/kriza, obvezni koraci provjere i transparentnost za klijenta. Klauzule poput 'Izrazite privatnost za brzinu' predstavljaju etički i pravni rizik; Politika postoji da održava granice, a ne da ih popušta.

14. Što je od sljedećeg valjano opravdanje za provjeru valjanosti AI izlaza?

• A) Točno je jer umjetna inteligencija daje isti odgovor više puta
• B) Tvrdnja je potvrđena primarnim dokazima, valjanim mjerenjem i kompetentnom stručnom procjenom ✔
• C) Odgovor je točan jer je napisan tečno i uvjerljivo.
• D) AI je moćan model, pa je njegov rezultat točan

Opis: Obrazloženje kliničke ili istraživačke tvrdnje; primarni dokaz, valjano mjerenje, primjenjivi etički/profesionalni standard i kompetentna profesionalna prosudba. 'AI je rekao', 'tečno napisano' ili 'dao isto više puta' nisu važeća opravdanja; To nisu znakovi istine, već u najboljem slučaju dosljednosti.