End-to-End integrácia: Etické zásady používania AI

zisky:

• Schopnosť vytvoriť písomnú, vynútiteľnú politiku používania umelej inteligencie a tok rozhodnutí pre psychologickú prax alebo inštitúciu
• Schopnosť kombinovať hraničné, overovacie, súkromie a predpojaté disciplíny naučené v celom module do jedného riadiaceho systému
• Schopnosť transparentne vysvetliť klientovi využitie umelej inteligencie a zachovať profesionálnu etiku a zodpovednosť

Počas tohto modulu ste sa naučili, ako používať umelú inteligenciu (AI) v rôznych častiach práce v psychológii: prehľad literatúry, podpora interpretácie stupnice, označovanie relácií, psychoedukácia, analýza výskumu, kontrola zaujatosti, tvrdá hrana krízy, digitálne nástroje a profesionálny rozvoj. V každej jednotke boli tri opakujúce sa princípy: ohraničenie, overenie, dôvernosť. V tejto záverečnej časti rozdelíme tieto princípy do jedného systému: písomné a vynútiteľné zásady používania AI. Politika nie je vágnym zámerom ako „Snažím sa používať AI na dobro“; Je to súbor konkrétnych pravidiel, ktoré každý dodržiava, ktoré možno kontrolovať a za ktoré sa môžete zodpovedať klientovi. Či už pracujete sami alebo v inštitúcii, táto politika predstavuje rámec, ktorý chráni vás aj vášho klienta.

Prečo je písomná politika nevyhnutná

Nepísané pravidlá sa uplatňujú nedôsledne. Jedného dňa dáta anonymizuje, jedného rušného dňa na to môžete zabudnúť; Zatiaľ čo odborník môže používať AI správne, kolega ju môže používať nesprávne. Písomná politika zabezpečuje tri veci: konzistentnosť (každý dodržiava rovnaké pravidlá), zodpovednosť (ak sa niečo pokazí, je jasné, čo sa urobilo a ako) a transparentnosť (klientovi môžete jasne vysvetliť, ako používate AI). Z hľadiska profesionálnej etiky a KVKK je „používali sme AI, ale nenapísali sme, ako sme ju ovládali“ neudržateľný postoj.

Pozor: Zásady AI slúžia na to, aby sa hranice udržiavali, nie na ich uvoľnenie. Klauzuly ako „Uvoľnite súkromie pre rýchlosť“, „Presmerujte na robota v prípade núdze“ popisujú zdroj rizika, nie politiku. Dobrá politika inštitucionalizuje správnu cestu, nie jednoduchú.

Šesť základných zložiek politiky

komponent

Čo definuje

Base on the module

Oblasti použitia

V ktorých úlohách sa používa AI (zelená/žltá zóna)

Unit 1

restricted areas

Kde sa AI nikdy nepoužije (diagnostika, krízové rozhodnutie)

Unit 1, 4, 9

Data rule

Anonymizácia a výber nástrojov

Jednotka 2

validačné pravidlo

Ako potvrdiť každý výstup

Unit 3, 5, 7

Predsudky a jazyk

Kontrola spravodlivosti a stigmy

Jednotka 8

transparentnosť

Ako informovať klienta

Jednotka 2, 12

Krok za krokom: nastavenie vlastnej politiky

1. Vytvorte inventár úloh. Uveďte všetky úlohy, na ktoré sa dá AI v praxi použiť; umiestnite každý do zelenej/žltej/červenej zóny.
2. Objasnite zoznam zákazov. Jasne napíšte červenú zónu (diagnóza, rozhodnutie o riziku, krízová intervencia, rozhodnutie o liečbe/lieku) ako zakázanú.
3. Napíšte dátové pravidlo. Ktoré údaje sú anonymizované, ktoré nástroje sú schválené, ktoré nastavenia sú povinné.
4. Definujte kroky overenia. Napíšte povinné potvrdzovacie kroky pre každý typ výstupu (zdroj, poznámky, analýza).
5. Pripravte transparentný text. Zahrňte použitie AI do svojho osvetového textu pre klientov.
6. Nastavte plán kontroly. Pravidelne aktualizujte pravidlá (napr. každých 6 mesiacov); Menia sa technológie a legislatíva.

Tip: Najlepší spôsob, ako otestovať svoju politiku, je spustiť úlohy skutočného dňa cez politiku jednu po druhej. Pri každej úlohe „dodržal som toto pravidlo?“ Ak viete odpovedať na otázku jasne, politika funguje; Ak poviete „v závislosti od situácie“, táto klauzula by mala byť napísaná jasnejšie.

Transparentnosť pre klienta

Klient má právo vedieť, akú úlohu hrá AI v jeho procese. Toto by však malo byť vysvetlené úprimne, bez toho, aby ste klienta strašili: „Používam nástroje umelej inteligencie pri niektorých administratívnych a návrhových prácach (ako je úprava poznámok, príprava materiálov); anonymizujem vaše údaje a vždy robím rozhodnutia o diagnóze, hodnotení a liečbe.“ Toto vyhlásenie je etickým záväzkom a zároveň čestným budovaním dôvery. Ak klient namieta, jeho voľba je rešpektovaná.

tri mini prípady

Prípad 1 – Ochrana politiky. Nový stážista na klinike sa chystá vložiť poznámku klienta do nástroja AI bez toho, aby ju anonymizoval. Keďže v písomnej politike kliniky sa uvádza, že „nespracované údaje o klientoch sa nezadávajú do žiadnych nástrojov AI, najskôr sa anonymizujú“ a táto politika sa podpisuje na začiatku práce, stážista sa zastaví a urobí správny krok. Bez týchto zásad by došlo k porušeniu súkromia. Písomné pravidlo je záchranná sieť, ktorá prichádza do hry, keď sa zabudne na dobré úmysly.

Prípad 2 – Transparentnosť buduje dôveru. Na prvom stretnutí odborník svojmu klientovi úprimne vysvetlí, ako používa AI: čo používa, ako sú dáta chránené, rozhodnutia sú jeho. Klient je spočiatku nervózny, ale keď počuje vysvetlenie, uvoľní sa a zvýši sa jeho sebadôvera. Transparentnosť funguje ako čestnosť, ktorá buduje dôveru, nie ako slabosť, ktorú treba skrývať.

Prípad 3 – Aktivácia zakázaného zoznamu. Na konci únavného dňa chce špecialista, aby sa AI „spýtala“ na riziko klienta. Napadá ma článok v politike inštitúcie „rozhodnutia o kríze a riziku nemožno žiadať od AI, vyhodnotí to priamo odborník a v prípade potreby konzultuje dohľad/tiesňovú linku“. Odborník sa zastaví a urobí správnu vec. Zoznam zákazov politiky je kotvou, ktorá vám pripomína správne rozhodnutie aj v tej najunavenejšej chvíli.

Kopírovateľné výzvy a šablóny

Navrhnite POLITIKU POUŽÍVANIA UMELEJ INTELIGencie pre psychologickú prax. Majme nasledujúcich šesť sekcií: 1) povolené oblasti použitia, 2) zakázané oblasti (diagnóza, krízové ​​rozhodnutie, rozhodnutie o liečbe), 3) pravidlo o údajoch/anonymizácii, 4) overovacie kroky, 5) zaujatosť a kontrola jazyka, 6) transparentnosť voči klientovi. Napíšte pravidlá jasne a vynútiteľne; pridanie látky, ktorá uvoľňuje hranice.

Rozdeľte nasledujúci zoznam úloh na zelenú/žltú/červenú rizikovú zónu a pre každú napíšte jednovetové pravidlo politiky (kto to robí, ako sa to overuje). Úlohy: [zoznam úloh]

Napíšte odsek, ktorý sa pridá do textu s informáciami o klientovi, čestne a bez zastrašovania vysvetlí používanie umelej inteligencie: v akých zamestnaniach sa používa, či sú údaje anonymizované, že rozhodnutia o diagnóze/liečbe patria špecialistovi, a právo klienta namietať.

Skontrolujte tento návrh pravidiel používania AI: chráni primerane hranice, sú zakázané oblasti jasné, sú kroky ochrany osobných údajov a autentifikácie dokončené, existuje transparentnosť klienta? Označte slabé alebo rizikové položky. Pravidlá: [návrh]

Slabá výzva / Silná výzva

Slabá výzva: „Napíšte nám politiku, ktorá uľahčí používanie AI.“

Dôraz na „umožnenie“ núti AI navrhovať klauzuly, ktoré uvoľňujú hranice; keďže účelom politiky nie je pohodlie, ale ochrana a zodpovednosť.

Silná výzva: "Navrhnite politiku používania AI, ktorá zachováva hranice, jasne vymedzuje zakázané oblasti (diagnóza, kríza, rozhodnutie o liečbe), vyžaduje dôvernosť a overovacie kroky a zahŕňa transparentnosť pre klienta. Cieľom nie je uvoľniť používanie, ale zabezpečiť, aby bolo bezpečné a zodpovedné."

Táto výzva nasmeruje politiku na správny cieľ (ochranu); Výstup sa stáva ovládateľným rámom.

Časté chyby

• Vôbec nepísať politiku. Udržiavanie pravidiel v pamäti a ich nedôsledné uplatňovanie; Toto je najčastejšia chyba.
• Zavedenie klauzuly, ktorá uvoľňuje hranice. Zavedenie pravidiel ako „Uvoľnite súkromie pre rýchlosť“ do pravidiel.
• Ponechanie zoznamu zakázaných vágny. Nepíše jasne, že rozhodnutia o diagnóze/kríze/liečbe sú zakázané.
• Preskakovanie priehľadnosti. Vôbec neinformovanie klienta o používaní AI.
• Neaktualizuje sa politika. Pokračovanie v starých pravidlách, keď sa menia technológie a legislatíva.

V súhrne

Tri princípy tohto modulu (limit, autentifikácia, súkromie) sa spájajú do písomnej, vynútiteľnej zásady používania AI. Dobrá politika zahŕňa šesť komponentov: povolené oblasti použitia, zakázané oblasti (diagnóza, kríza, rozhodnutie o liečbe), pravidlo pre údaje/anonymizáciu, overovacie kroky, zaujatosť a kontrola jazyka, transparentnosť pre klienta. Politika existuje na to, aby udržiavala hranice, nie na ich uvoľňovanie; Poskytuje konzistentnosť, zodpovednosť a transparentnosť. Úprimne vysvetlite klientovi používanie AI a pravidelne aktualizujte pravidlá. AI zrýchľuje; Zodpovednosť, rozhodnutie a etika sú vždy na vás.

Aplikačná úloha

Napíšte jednostránkovú politiku používania AI pre svoju vlastnú prax alebo inštitúciu. Vyplňte všetkých šesť komponentov (povolené polia, zakázané polia, dátové pravidlo, overenie, zaujatosť/jazyk, transparentnosť). Potom spustite 5 úloh z vášho skutočného pracovného dňa cez túto politiku jednu po druhej a opýtajte sa: „Postupoval som podľa pravidla? pre každého. Skontrolujte, či viete odpovedať na otázku jasne. Napíšte jasnejšie položky, na ktoré nemôžete jasne odpovedať.

kontrolný zoznam

• [ ] Povolené a zakázané oblasti použitia som definoval písomne.
• [ ] Jasne som napísal, že rozhodnutia o diagnóze, kríze a liečbe sú zakázané.
• [ ] Nastavil som pravidlo údajov/anonymizácie a schváleného vozidla.
• [ ] Napísal som overovacie kroky pre každý typ výstupu.
• [ ] Do pravidiel som pridal zaujatosť a kontrolu jazyka.
• [ ] Pripravil som pre klienta text transparentnosti a stanovil som plán kontroly.

Modulová skúška

1. Psychológ napíše umelej inteligencii symptómy, ktoré popísal jeho klient, a spýta sa: "Akú diagnózu má tento klient?" pýta sa. Ktorý prístup je najsprávnejší?

• A) Používanie AI len na navrhovanie možných konceptov; Stanovenie diagnózy prostredníctvom klinického rozhovoru, anamnézy a vlastného úsudku ✔
• B) Zápis diagnózy umelej inteligencie priamo do správy
• C) Ak umelá inteligencia poskytne rovnakú diagnózu niekoľkokrát, považuje sa za konečnú.
• D) Skrátenie rozhovoru a spoliehanie sa na umelú inteligenciu na urýchlenie diagnostiky

Popis: Stanovenie diagnózy je klinickým rozhodnutím kritickým z hľadiska bezpečnosti a vyžaduje si viaceré údaje, klinický rozhovor, históriu a úsudok. Umelá inteligencia môže byť nápomocná pri navrhovaní možných konceptov, ale diagnóza sa robí na základe klinického posúdenia kompetentného odborníka (psychológa/psychiatra). Výstup AI nenahrádza toto rozhodnutie.

2. Chcete zhrnúť záznam relácie klienta do cloudového nástroja umelej inteligencie. Čo treba urobiť ako prvé z hľadiska KVKK a služobného tajomstva?

• A) Vloženie záznamu tak, ako je, so skutočným menom a podrobnosťami
• B) Anonymizácia obsahu, sledovanie zásad ochrany súkromia/údajov nástroja a dodržiavanie rámca súhlasu ✔
• C) Skráťte len priezvisko klienta a ostatné nechajte tak.
• D) Hoci je súkromie dôležité, zdieľanie všetkých údajov pre rýchlosť

Vysvetlenie: Údaje klienta sú osobitné osobné údaje. Pred odovzdaním do cloudového nástroja by mali byť identifikačné informácie, ako je meno, miesto, dátum a pracovisko, anonymizované; Ak je to možné, mal by sa použiť neidentifikovaný obsah a malo by sa zabezpečiť, aby nástroj nepoužíval údaje na školenie. Okrem toho musí byť dodržaný informovaný súhlas klienta.

3. Umelá inteligencia v abstrakte článku uvádza, že „Veľkosť účinku v tejto štúdii z roku 2019 bola zistená d = 0,82“, ale tento článok nemôžete nájsť. Čo by ste mali urobiť?

• A) Použitie atribúcie tak, ako je, pretože umelá inteligencia je spoľahlivá
• B) Napísať číslo bez hľadania zdroja, pretože sa to zdá rozumné
• C) Ignorujte nárok, kým nepotvrdíme zdroj a veľkosť účinku z primárneho textu ✔
• D) Opýtajte sa inej umelej inteligencie a akceptujte ju, ak príde s rovnakým číslom

Vysvetlenie: Umelá inteligencia môže vytvárať odkazy, autorov alebo čísla, ktoré sa zdajú byť skutočné, ale neexistujú (halucinácie). Nepoužije sa zdroj, ktorý sa nedá nájsť, alebo veľkosť efektu, ktorú nemožno overiť. Nárok sa považuje za neplatný, kým nebude potvrdený z primárneho zdroja.

4. Klient hlási, že má počas sedenia samovražedné myšlienky. Aká by mala byť úloha umelej inteligencie v tejto situácii?

• A) Umelá inteligencia by mala vyhodnotiť riziko a poskytnúť klientovi bezpečnostný plán
• B) Klient by mal byť nasmerovaný na chat bota s umelou inteligenciou
• C) Umelá inteligencia by mala byť nastavená tak, aby automaticky volala záchrannú službu
• D) Rozhodnutie a zásah patrí odborníkovi; Umelá inteligencia nedokáže posúdiť riziko, za krízu zodpovedá ľudská zodpovednosť ✔

Popis: Riziko samovraždy a krízy je bezpečnostne kritická situácia, ktorá si vyžaduje klinické hodnotenie v reálnom čase, angažovanosť a zodpovednosť. Umelá inteligencia nemôže robiť rozhodnutia, posudzovať riziko a zasahovať. Odborník zasiahne priamo; V prípade potreby sa aktivujú horúce linky a reťaz ľudskej podpory. V najlepšom prípade môže AI slúžiť ako pripomienka pre odborníka mimo relácie.

5. Ktoré riziko je najkritickejšie v psychoedukačnej brožúre vytvorenej pomocou umelej inteligencie?

• A) Nesprávne/stigmatizujúce informácie vedúce klienta k autodiagnostike a liečbe ✔
• B) Zlý vizuálny dizajn brožúry
• C) Brožúra je príliš dlhá
• D) Písmo je malé

Vysvetlenie: Keď je psychoedukačný materiál v rukách klienta, môže sa zmeniť na samodiagnostický a liečebný nástroj a nesprávne alebo stigmatizujúce informácie môžu spôsobiť ujmu. Materiál preto musí byť odborne overený z hľadiska dôkaznosti, bezpečnosti a správneho zarámovania; Malo by sa pridať upozornenie „tieto informácie nenahrádzajú odborný posudok“.

6. Dostanete podporu tematického kódovania od umelej inteligencie vo svojich kvalitatívnych výskumných dátach (prepisy rozhovorov). Aký je najzdravší prístup?

• A) Nahlásenie kódov vytvorených umelou inteligenciou ako konečná analýza
• B) Overte, opravte a zaistite spoľahlivosť tým, že budete považovať kódy za počiatočné návrhy a prečítate si údaje ✔
• C) Ponechať analýzu úplne na umelú inteligenciu a nečítať dáta vôbec
• D) Nerobiť si vlastné čítanie, pretože dáva témy umelej inteligencie

Popis: AI poskytuje rýchlosť pri vytváraní počiatočných návrhov kódu a náčrtov tém, ale kvalitatívna analýza vyžaduje interpretačný úsudok od výskumníka. Kódy umelej inteligencie sú začiatok; Výskumník číta všetky údaje, overuje a opravuje kódy a sleduje spoľahlivosť medzi kódovačmi. Okrem toho musí byť prepis anonymizovaný.

7. Prečo je zaujatosť dôležitým rizikom z hľadiska psychológie v modeloch umelej inteligencie?

• A) Zaujatosť je len technický problém, ktorý nie je klinicky relevantný
• B) Zaujatosť je v moderných modeloch úplne vyriešená
• C) Výstupy modelu môžu byť skreslené kultúrou/rodom/diagnózou a môžu zavádzať a poškodiť hodnotenie ✔
• D) Skreslenie sa vyskytuje iba v modeloch, ktoré vytvárajú obrázky

Popis: Keďže modely sú často trénované na údajoch zo špecifických kultúr a jazykov, môžu niesť diagnostické, kultúrne a rodové predsudky; môže čítať symptóm ako „normálny“ v jednej skupine a „patologický“ v inej skupine alebo vytvárať stigmatizujúci jazyk. To môže skresliť a poškodiť hodnotenie; Výstupy by sa mali kontrolovať pre rôzne skupiny a kultúry.

8. Uvažujete o tom, že svojmu klientovi odporučíte terapeutického chat bota. Čo by ste mali urobiť ako prvé?

• A) Priamo odporúčam, pretože je obľúbený
• B) Povedať, že robot môže nahradiť terapiu a znížiť počet sedení
• C) Navrhnutie, aby klient v kríze robotovi dôveroval.
• D) Kontrolujte dôkazy, bezpečnosť, súkromie a klinickú vhodnosť a umiestnite robota ako obmedzený doplnok ✔

Vysvetlenie: Pred odporúčaním digitálneho nástroja duševného zdravia by sa mala preskúmať jeho základňa dôkazov, bezpečnosť (krízový manažment), zásady ochrany súkromia/údajov a vhodnosť pre klinickú situáciu klienta. Bot by nemal byť umiestnený ako náhrada ľudskej terapie, ale ako obmedzený doplnok a klientovi by malo byť jasne vysvetlené, že je v krízových situáciách neadekvátny.

9. AI vypracovala návrh poznámok zo zasadnutia. Aký je najdôležitejší krok pred použitím tohto prehľadu?

• A) Overte návrh porovnaním s tým, čo sa skutočne stalo v relácii, opravte vymyslený/chýbajúci obsah a prevezmite zodpovednosť ✔
• B) Uloženie konceptu do súboru tak, ako je
• C) Za predpokladu, že návrh je správny, pretože je napísaný plynule
• D) Nechajte klienta schváliť návrh a použiť ho bez zmien.

Vysvetlenie: Návrh AI môže pridať dôležité informácie, ktoré boli vynechané, môže vymýšľať vyhlásenia, ktoré v skutočnosti neboli povedané (halucinácie) alebo poskytnúť klinicky nesprávne rámcovanie. Odborník porovná návrh s tým, čo sa v relácii skutočne stalo, overí ho, opraví a zodpovedá za konečný obsah. Poznámka je právnym a klinickým dokumentom.

10. Ktorá z nasledujúcich úloh je „zelená zóna“ (nízke riziko) pri využívaní umelej inteligencie v psychológii?

• A) Rozhodovanie, či klientovi hrozí samovražda
• B) Príprava návrhu na zjednodušenie jazyka anonymného psychoedukačného textu ✔
• C) Stanovenie definitívnej diagnózy zo skóre škály
• D) Vytváranie odporúčaní na lieky

Vysvetlenie: Úlohy, ako je zjednodušenie jazyka anonymizovaného psychoedukačného textu alebo vypracovanie e-mailu s pripomenutím stretnutia, predstavujú nízke riziko, pretože nezahŕňajú diagnózu/rozhodnutie a ich použitie je bezpečné s rýchlym prehľadom. Diagnóza, posúdenie rizika a rozhodnutie o liečbe sú v červenej (kritickej bezpečnostnej) zóne.

11. Aký je najdôležitejší limit pri použití umelej inteligencie pri interpretácii psychometrického testu?

• A) Keďže umelá inteligencia interpretuje skóre, nie je potrebný odborný komentár.
• B) Umelé inteligencii stačí povedať názov testu
• C) Interpretácia nevyplýva z jedného skóre, ale z klinického úsudku a viacerých údajov; Dodržiavanie autorských práv a kontextu noriem ✔
• D) Hraničné skóre je rovnaké v každej kultúre

Vysvetlenie: Stupnica/skóre testu je údaj; Diagnóza a klinická interpretácia nevznikajú z jedného skóre. Mnohé testy sú navyše chránené autorskými právami a sú citlivé na kontext normy. Umelá inteligencia môže poskytnúť popis subškály a lingvistickú podporu, ale interpretáciu robí odborník v rámci klinického úsudku, viacerých údajov a kultúrnej platnosti.

12. Prečo AI nemôže nahradiť skutočný dohľad?

• A) Umelá inteligencia nahrádza dohľad, pretože reaguje rýchlejšie
• B) Dohľad je aj tak zbytočný
• C) Umelá inteligencia sa považuje za supervízora, pretože má licenciu.
• D) Umelá inteligencia nepreberá zodpovednosť, nepozná skutočný kontext a nemôže zabezpečiť etickú kontrolu; Dohľad si vyžaduje ľudského odborníka ✔

Popis: Dohľad; Ide o supervíziu kompetentného odborníka, ktorý je zodpovedný, vzťahovačný a pozná skutočný kontext klienta a vývoj terapeuta. Umelá inteligencia môže pomôcť s nácvikom prípadu a navrhovaním formulácií, ale nepreberá klinickú zodpovednosť, nepozná skutočný kontext a nemôže poskytnúť etický/právny dohľad. Dohľad si vyžaduje ľudských odborníkov.

13. Pripravujete politiku používania umelej inteligencie pre inštitúciu psychológie. Ktoré z nasledujúcich musí byť zahrnuté?

• A) Pravidlo anonymizácie, zakázané oblasti použitia, povinné overovanie a transparentnosť voči klientovi ✔
• B) Povolenie na zdieľanie klientskych údajov bez ich anonymizácie z dôvodu rýchlosti
• C) Prenos diagnostických rozhodnutí na umelú inteligenciu
• D) Nasmerovanie krízových situácií na chat bota

Popis: Dobrá politika; Definuje, aké údaje možno nástroju poskytnúť (pravidlo anonymizácie), zakázané oblasti použitia, ako je diagnóza/kríza, povinné kroky overenia a transparentnosť pre klienta. Klauzuly ako „expresné súkromie pre rýchlosť“ predstavujú etické a právne riziká; Politika existuje na to, aby udržiavala hranice, nie aby ich uvoľňovala.

14. Ktorá z nasledujúcich možností je platným odôvodnením pre overenie výstupu AI?

• A) Je to správne, pretože umelá inteligencia dáva rovnakú odpoveď viackrát
• B) Tvrdenie je potvrdené primárnym dôkazom, platným meraním a kompetentným odborným posudkom ✔
• C) Odpoveď je správna, pretože je napísaná plynule a presvedčivo.
• D) AI je výkonný model, takže jeho výstup je presný

Popis: Odôvodnenie klinického alebo výskumného tvrdenia; primárny dôkaz, platné meranie, príslušný etický/profesionálny štandard a kompetentný odborný úsudok. „AI povedal“, „plynule napísané“ alebo „dal to isté viackrát“ nie sú platnými odôvodneniami; Nie sú to znaky pravdy, ale prinajlepšom dôslednosti.