End-to-End integrace: Etické zásady používání AI

zisky:

• Schopnost vytvořit písemnou, vynutitelnou politiku používání umělé inteligence a tok rozhodování pro psychologickou praxi nebo instituci
• Schopnost kombinovat hraniční, ověřovací, soukromí a zkreslení disciplíny naučené v celém modulu do jediného řídicího systému
• Schopnost transparentně vysvětlit použití umělé inteligence klientovi a zachovat profesionální etiku a odpovědnost

V tomto modulu jste se naučili, jak používat umělou inteligenci (AI) v různých částech psychologické práce: přehled literatury, podpora interpretace stupnice, známkování relací, psychoedukace, analýza výzkumu, kontrola zkreslení, tvrdá hrana krize, digitální nástroje a profesní rozvoj. V každé jednotce byly tři opakující se principy: hranice, ověřování, důvěrnost. V této závěrečné části tyto principy destilujeme do jediného systému: písemné a vymahatelné zásady používání AI. Zásada není vágní záměr jako „Snažím se používat AI pro dobro“; Je to soubor konkrétních pravidel, kterými se každý řídí, která mohou být auditována a za která se můžete zodpovídat klientovi. Ať už pracujete sami nebo v instituci, tato politika je rámcem, který chrání vás i vašeho klienta.

Proč je písemná politika nezbytná

Nepsaná pravidla se uplatňují nedůsledně. Jednoho dne data anonymizuje, jednoho rušného dne na to můžete zapomenout; Zatímco odborník může umělou inteligenci používat správně, kolega ji může používat nesprávně. Písemná politika zajišťuje tři věci: konzistentnost (všichni dodržují stejná pravidla), odpovědnost (pokud se něco pokazí, je jasné, co a jak bylo uděláno) a transparentnost (můžete klientovi jasně vysvětlit, jak používáte AI). Z hlediska profesionální etiky a KVKK je „použili jsme AI, ale nenapsali jsme, jak jsme ji ovládali“ neudržitelný postoj.

Upozornění: Zásady umělé inteligence slouží k udržení hranic, nikoli k jejich uvolnění. Klauzule jako „Uvolněte soukromí pro rychlost“, „Přesměrování na robota v případě nouze“ popisují zdroj rizika, nikoli zásady. Dobrá politika institucionalizuje správnou cestu, nikoli cestu snadnou.

Šest základních složek politiky

komponenta

Co definuje

Základna na modulu

Oblasti použití

Ve kterých úlohách se používá AI (zelená/žlutá zóna)

Jednotka 1

omezené oblasti

Kde se AI nikdy nepoužije (diagnostika, krizové rozhodnutí)

Jednotka 1, 4, 9

Datové pravidlo

Anonymizace a výběr nástrojů

Jednotka 2

ověřovací pravidlo

Jak potvrdit každý výstup

Jednotka 3, 5, 7

Předsudek a jazyk

Spravedlnost a kontrola stigmatu

Jednotka 8

transparentnost

Jak informovat klienta

Jednotka 2, 12

Krok za krokem: nastavení vlastních zásad

1. Vytvořte inventář úkolů. Vyjmenujte všechny úkoly, pro které lze AI v praxi použít; každý umístěte do zelené/žluté/červené zóny.
2. Vyjasněte seznam zákazů. Jasně napište červenou zónu (diagnóza, rozhodnutí o riziku, krizová intervence, rozhodnutí o léčbě/léčbě) jako zakázaná.
3. Napište datové pravidlo. Která data jsou anonymizována, které nástroje jsou schváleny, která nastavení jsou povinná.
4. Definujte kroky ověření. Napište povinné potvrzovací kroky pro každý typ výstupu (zdroj, poznámky, analýza).
5. Připravte průhledný text. Zahrňte použití AI do osvětového textu pro klienty.
6. Nastavte plán kontrol. Pravidelně aktualizujte zásady (např. každých 6 měsíců); Technologie a legislativa se mění.

Tip: Nejlepší způsob, jak otestovat své zásady, je spouštět úkoly skutečného dne prostřednictvím zásad jeden po druhém. U každého úkolu „postupoval jsem podle tohoto pravidla?“ Pokud dokážete odpovědět na otázku jasně, politika funguje; Pokud řeknete „v závislosti na situaci“, měla by být tato věta napsána jasněji.

Transparentnost vůči klientovi

Klient má právo vědět, jakou roli hraje AI v jeho procesu. To by však mělo být vysvětleno upřímně, aniž byste klienta děsili: "Používám nástroje umělé inteligence při některých administrativních a návrhových pracích (jako je úprava poznámek, příprava materiálů); anonymizuji vaše data a vždy dělám rozhodnutí o diagnóze, hodnocení a léčbě." Toto prohlášení je jak etickou povinností, tak poctivostí budující důvěru. Pokud klient protestuje, jeho volba je respektována.

tři mini pouzdra

Případ 1 – Ochrana pojistky. Nový stážista na klinice se chystá vložit poznámku klienta do nástroje AI, aniž by ji anonymizoval. Vzhledem k tomu, že písemná politika kliniky uvádí, že „nezpracovaná klientská data nejsou zadávána do žádných nástrojů AI, jsou nejprve anonymizována“ a tato politika je podepsána na začátku práce, stážista se zastaví a udělá správný krok. Bez těchto zásad by došlo k porušení soukromí. Psané pravidlo je záchranná síť, která přichází na řadu, když se zapomene na dobré úmysly.

Případ 2 – Transparentnost buduje důvěru. Na první schůzce odborník svému klientovi upřímně vysvětlí, jak používá AI: co používá, jak jsou data chráněna, rozhodnutí jsou jeho. Klient je zpočátku nervózní, ale když slyší vysvětlení, uvolní se a zvýší se jeho sebevědomí. Transparentnost funguje jako upřímnost, která buduje důvěru, nikoli jako slabost, kterou je třeba skrývat.

Případ 3 – Aktivace zakázaného seznamu. Na konci únavného dne chce specialista, aby se AI „zeptala“ na riziko klienta. Napadá mě článek v politice instituce „rozhodnutí o krizi a riziku nelze žádat po AI, vyhodnotí je přímo expert a v případě potřeby je konzultován dohled / tísňová linka“. Expert se zastaví a udělá správnou věc. Seznam zákazů zásad je kotvou, která vám připomene správné rozhodnutí i v nejunavovanějším okamžiku.

Kopírovatelné výzvy a šablony

Navrhněte ZÁSADY VYUŽÍVÁNÍ UMĚLÉ INTELIGENCE pro psychologickou praxi. Mějme následujících šest sekcí: 1) povolené oblasti použití, 2) zakázané oblasti (diagnóza, krizové rozhodnutí, rozhodnutí o léčbě), 3) pravidlo o datech/anonymizaci, 4) ověřovací kroky, 5) zkreslení a jazyková kontrola, 6) transparentnost vůči klientovi. Napište pravidla jasně a vymahatelně; přidávání látky, která uvolňuje hranice.

Rozdělte následující seznam úkolů do zelené/žluté/červené rizikové zóny a pro každý napište jednovětové pravidlo politiky (kdo to dělá, jak se to ověřuje). Úkoly: [seznam úkolů]

Napište odstavec, který má být přidán do textu s informacemi o klientovi, čestně a bez zastrašování vysvětlující použití umělé inteligence: v jakých zaměstnáních se používá, zda jsou data anonymizována, že rozhodnutí o diagnóze/léčbě náleží specialistovi, a právo klienta vznést námitku.

Zkontrolujte tento návrh zásad používání AI: chrání dostatečně hranice, jsou zakázané oblasti jasné, jsou kroky ochrany soukromí a ověřování dokončeny, existuje transparentnost klienta? Označte slabé nebo rizikové položky. Zásady: [návrh]

Slabá výzva / Silná výzva

Slabá výzva: "Napište nám zásady, které usnadní používání AI."

Důraz na „umožňování“ tlačí umělou inteligenci k navrhování klauzulí, které uvolňují hranice; vzhledem k tomu, že účelem politiky není pohodlí, ale ochrana a odpovědnost.

Důrazná výzva: "Navrhněte zásady používání AI, které udržují hranice, jasně vymezují zakázané oblasti (diagnóza, krize, rozhodnutí o léčbě), vyžadují důvěrnost a ověřovací kroky a zahrnují transparentnost vůči klientovi. Cílem není uvolnit používání, ale zajistit, aby bylo bezpečné a odpovědné."

Tato výzva nasměruje politiku ke správnému cíli (ochraně); Výstupem se stává ovladatelný rámec.

Časté chyby

• Vůbec nepíšu politiku. Mít na paměti pravidla a uplatňovat je nedůsledně; Toto je nejčastější chyba.
• Zavedení doložky, která uvolní hranice. Zavedení pravidel jako „Uvolněte soukromí pro rychlost“ do zásad.
• Seznam zakázaných látek zůstává vágní. Nepíše jasně, že rozhodnutí o diagnóze/krizi/léčbě jsou zakázána.
• Přeskakování průhlednosti. Neinformování klienta o používání AI vůbec.
• Zásady se neaktualizují. Pokračování se starými pravidly, jak se technologie a legislativa mění.

V souhrnu

Tři principy tohoto modulu (limit, autentizace, soukromí) se spojují do písemné, vynutitelné zásady používání AI. Dobrá politika zahrnuje šest složek: povolené oblasti použití, zakázané oblasti (diagnóza, krize, rozhodnutí o léčbě), pravidlo pro data/anonymizaci, kroky ověření, zkreslení a jazyková kontrola, transparentnost vůči klientovi. Politika existuje proto, aby udržovala hranice, ne aby je uvolňovala; Poskytuje konzistentnost, odpovědnost a transparentnost. Poctivě vysvětlujte klientovi používání AI a pravidelně aktualizujte zásady. AI zrychluje; Zodpovědnost, rozhodnutí a etika jsou vždy na vás.

Aplikační úkol

Napište jednostránkovou zásadu používání AI pro svou vlastní praxi nebo instituci. Vyplňte všech šest složek (povolená pole, zakázaná pole, datové pravidlo, ověření, zkreslení/jazyk, transparentnost). Poté spusťte 5 úkolů z vašeho skutečného pracovního dne prostřednictvím této zásady jeden po druhém a zeptejte se: „Postupoval jsem podle pravidla? pro každého. Zkontrolujte, zda dokážete odpovědět na otázku jasně. Pište jasněji položky, na které nemůžete jasně odpovědět.

kontrolní seznam

• [ ] Povolené a zakázané oblasti použití jsem definoval písemně.
• [ ] Jasně jsem napsal, že rozhodnutí o diagnóze, krizi a léčbě jsou zakázána.
• [ ] Nastavil jsem pravidlo dat/anonymizace a schváleného vozidla.
• [ ] Napsal jsem ověřovací kroky pro každý typ výstupu.
• [ ] Do zásad jsem přidal zkreslení a kontrolu jazyka.
• [ ] Připravil jsem pro klienta text průhlednosti a nastavil plán kontroly.

Modulová zkouška

1. Psycholog napíše příznaky popsané jeho klientem umělé inteligenci a zeptá se: "Jakou diagnózu má tento klient?" ptá se. Jaký je nejsprávnější přístup?

• A) Používání umělé inteligence pouze k navrhování možných konceptů; Stanovení diagnózy prostřednictvím klinického rozhovoru, anamnézy a vlastního úsudku ✔
• B) Zápis diagnózy dané umělou inteligencí přímo do zprávy
• C) Pokud umělá inteligence stanoví stejnou diagnózu několikrát, je považována za konečnou.
• D) Zkrácení rozhovoru a spolehnutí se na umělou inteligenci pro urychlení diagnostiky

Popis: Stanovení diagnózy je klinickým rozhodnutím kritickým z hlediska bezpečnosti a vyžaduje mnoho údajů, klinický rozhovor, anamnézu a úsudek. Umělá inteligence může být nápomocná při navrhování možných konceptů, ale diagnóza se provádí na základě klinického posouzení kompetentního specialisty (psychologa/psychiatra). Výstup AI toto rozhodnutí nenahrazuje.

2. Chcete shrnout záznam relace klienta do cloudového nástroje umělé inteligence. Co je třeba udělat jako první z hlediska KVKK a profesního tajemství?

• A) Vložení záznamu tak, jak je, se skutečným jménem a podrobnostmi
• B) Anonymizace obsahu, sledování zásad ochrany osobních údajů/údajů nástroje a dodržování rámce souhlasu ✔
• C) Zkraťte pouze příjmení klienta a zbytek nechte tak, jak je.
• D) I když je soukromí důležité, sdílení všech dat pro rychlost

Vysvětlení: Údaje klienta jsou zvláštní osobní údaje. Před předáním cloudovému nástroji by měly být identifikační informace, jako je jméno, místo, datum a pracoviště, anonymizovány; Pokud je to možné, měl by být použit neidentifikovaný obsah a mělo by být zajištěno, že nástroj nepoužívá data pro školení. Dále je třeba dodržet informovaný souhlas klienta.

3. Umělá inteligence v abstraktu článku říká, že „velikost efektu v této studii z roku 2019 byla zjištěna d = 0,82“, ale tento článek nemůžete najít. co byste měli udělat?

• A) Použití atribuce tak, jak je, protože umělá inteligence je spolehlivá
• B) Psaní čísla bez hledání zdroje, protože se to zdá rozumné
• C) Nevšímejte si nároku, dokud nepotvrdíme zdroj a velikost účinku z primárního textu ✔
• D) Zeptejte se jiné umělé inteligence a přijměte ji, pokud přijde se stejným číslem

Vysvětlení: Umělá inteligence může vytvářet odkazy, autory nebo čísla, která se zdají být skutečná, ale neexistují (halucinace). Není použit zdroj, který nelze najít, nebo velikost efektu, kterou nelze ověřit. Nárok je považován za neplatný, dokud nebude potvrzen z primárního zdroje.

4. Klient hlásí, že má během sezení sebevražedné myšlenky. Jaká by měla být role umělé inteligence v této situaci?

• A) Umělá inteligence by měla vyhodnotit riziko a sdělit klientovi bezpečnostní plán
• B) Klient by měl být přesměrován na chatovacího robota umělé inteligence
• C) Umělá inteligence by měla být nastavena tak, aby automaticky volala záchrannou službu
• D) Rozhodnutí a zásah náleží odborníkovi; Umělá inteligence nemůže vyhodnotit riziko, krize je lidská odpovědnost ✔

Popis: Riziko sebevraždy a krize je bezpečnostně kritická situace, která vyžaduje klinické hodnocení v reálném čase, zapojení a odpovědnost. Umělá inteligence neumí rozhodovat, posuzovat rizika a zasahovat. Expert zasáhne přímo; V případě potřeby jsou aktivovány horké linky a řetězec lidské podpory. V nejlepším případě může umělá inteligence sloužit jako připomínka pro odborníka mimo relaci.

5. Které riziko je v psychoedukační brožuře vytvořené pomocí umělé inteligence nejkritičtější?

• A) Nesprávné/stigmatizující informace vedoucí klienta k autodiagnóze a léčbě ✔
• B) Špatný vizuální design brožury
• C) Brožura je příliš dlouhá
• D) Písmo je malé

Vysvětlení: Když je psychoedukační materiál v rukou klienta, může se proměnit v nástroj sebediagnostiky a léčby a nesprávné nebo stigmatizující informace mohou způsobit škodu. Materiál proto musí být odborně ověřen z hlediska průkaznosti, bezpečnosti a správného zarámování; Mělo by být přidáno varování „tyto informace nenahrazují odborný úsudek“.

6. Získáváte podporu tematického kódování od umělé inteligence ve vašich kvalitativních výzkumných datech (přepisy rozhovorů). Jaký je nejzdravější přístup?

• A) Vykazování kódů vytvořených umělou inteligencí jako konečná analýza
• B) Ověřte, opravte a zajistěte spolehlivost tím, že budete kódy považovat za počáteční návrhy a přečtete si data ✔
• C) Ponechání analýzy zcela na umělé inteligenci a nečtení dat vůbec
• D) Nedělám si vlastní čtení, protože to dává témata umělé inteligence

Popis: AI poskytuje rychlost při vytváření počátečních návrhů kódu a náčrtů témat, ale kvalitativní analýza vyžaduje interpretační úsudek od výzkumníka. Kódy umělé inteligence jsou začátek; Výzkumník čte všechna data, ověřuje a opravuje kódy a sleduje spolehlivost mezi kodéry. Kromě toho musí být přepis anonymizován.

7. Proč je zkreslení důležitým rizikem z hlediska psychologie v modelech umělé inteligence?

• A) Zkreslení je pouze technický problém, který není klinicky relevantní
• B) V moderních modelech je zkreslení zcela vyřešeno
• C) Výstupy modelu mohou být zkresleny kulturou/genderem/diagnózou a mohou být zavádějící a poškodit hodnocení ✔
• D) Zkreslení se vyskytuje pouze u modelů, které vytvářejí obrázky

Popis: Protože jsou modely často trénovány na datech ze specifických kultur a jazyků, mohou nést diagnostické, kulturní a genderové předsudky; může číst symptom jako „normální“ v jedné skupině a „patologický“ v jiné skupině nebo vytvářet stigmatizující jazyk. To může zkreslit a poškodit hodnocení; Výstupy by měly být auditovány pro různé skupiny a kultury.

8. Zvažujete, že svému klientovi doporučíte terapeutického chatovacího bota. Co byste měli udělat jako první?

• A) Přímo doporučuji, protože je oblíbený
• B) Říct, že bot může nahradit terapii a snížit počet sezení
• C) Navrhování, aby klient v krizi důvěřoval robotovi.
• D) Auditovat důkazy, bezpečnost, soukromí a klinickou vhodnost a umístit robota jako omezený doplněk ✔

Vysvětlení: Před doporučením digitálního nástroje duševního zdraví by měla být přezkoumána jeho důkazní základna, zabezpečení (krizový management), zásady ochrany soukromí/dat a vhodnost pro klinickou situaci klienta. Bot by neměl být umístěn jako náhrada lidské terapie, ale jako omezený doplněk a klientovi by mělo být jasně vysvětleno, že je v krizových situacích nedostatečný.

9. AI vytvořila návrh poznámek ze zasedání. Jaký je nejdůležitější krok před použitím tohoto přehledu?

• A) Ověřte koncept jeho porovnáním s tím, co se skutečně stalo v relaci, opravte vymyšlený/chybějící obsah a převezměte odpovědnost ✔
• B) Uložení konceptu do souboru tak, jak je
• C) Za předpokladu, že je návrh správný, protože je napsán plynule
• D) Nechte klienta schválit návrh a používat jej beze změn.

Vysvětlení: Návrh umělé inteligence může přidat důležité informace, které byly vynechány, vymýšlet prohlášení, která ve skutečnosti nebyla vyslovena (halucinace), nebo poskytovat klinicky nesprávné orámování. Odborník porovná předlohu s tím, co se v relaci skutečně stalo, ověří, opraví a zodpovídá za konečný obsah. Poznámka je právní a klinický dokument.

10. Který z následujících úkolů je „zelená zóna“ (nízkorizikový) při využití umělé inteligence v psychologii?

• A) Rozhodnutí, zda je klient ohrožen sebevraždou
• B) Příprava návrhu na zjednodušení jazyka anonymního psychoedukačního textu ✔
• C) Stanovení definitivní diagnózy ze skóre škály
• D) Vytváření doporučení ohledně léků

Vysvětlení: Úkoly, jako je zjednodušení jazyka anonymizovaného psychoedukačního textu nebo vypracování e-mailu s upomínkou na schůzku, jsou nízkorizikové, protože nezahrnují diagnózu/rozhodnutí a lze je bezpečně používat s rychlou kontrolou. Diagnóza, hodnocení rizik a rozhodnutí o léčbě jsou v červené zóně (kritické pro bezpečnost).

11. Jaká je nejdůležitější hranice při použití umělé inteligence při interpretaci psychometrického testu?

• A) Vzhledem k tomu, že umělá inteligence interpretuje skóre, není potřeba komentář odborníků.
• B) Umělé inteligenci stačí sdělit název testu
• C) Interpretace nevychází z jednoho skóre, ale z klinického úsudku a více dat; Dodržování kontextu autorských práv a norem ✔
• D) Hraniční skóre je stejné v každé kultuře

Vysvětlení: Stupnice/skóre testu je část dat; Diagnóza a klinická interpretace nevznikají z jediného skóre. Mnoho testů je navíc chráněno autorským právem a norma je citlivá na kontext. Umělá inteligence může poskytnout popis subškály a jazykovou podporu, ale interpretaci provádí odborník v rámci klinického úsudku, více dat a kulturní validity.

12. Proč AI nemůže nahradit skutečný dohled?

• A) Umělá inteligence nahrazuje dohled, protože reaguje rychleji
• B) Dohled je stejně zbytečný
• C) Umělá inteligence je považována za supervizora, protože má licenci.
• D) Umělá inteligence nepřebírá odpovědnost, nezná skutečný kontext a nemůže zajistit etickou kontrolu; Dohled vyžaduje odborníka na člověka ✔

Popis: Dohled; Je to supervize kompetentního profesionála, který je zodpovědný, vztahový a zná skutečný kontext klienta a vývoj terapeuta. Umělá inteligence může pomoci s nácvikem případu a navrhováním formulací, ale nepřebírá klinickou odpovědnost, nezná skutečný kontext a nemůže zajistit etický/právní dohled. Dohled vyžaduje lidské odborníky.

13. Připravujete zásady používání umělé inteligence pro psychologickou instituci. Které z následujících musí být zahrnuty?

• A) Pravidlo anonymizace, zakázané oblasti použití, povinné ověřování a transparentnost vůči klientovi ✔
• B) Povolení sdílet klientská data bez jejich anonymizace z důvodu rychlosti
• C) Přenesení diagnostických rozhodnutí na umělou inteligenci
• D) Nasměrování krizových situací na chat bota

Popis: Dobrá politika; Definuje, jaká data lze nástroji poskytnout (pravidlo anonymizace), zakázané oblasti použití, jako je diagnóza/krize, povinné kroky ověření a transparentnost pro klienta. Klauzule jako „expresní soukromí pro rychlost“ představují etické a právní riziko; Politika existuje proto, aby udržovala hranice, ne aby je uvolňovala.

14. Která z následujících možností je platným odůvodněním pro validaci výstupu umělé inteligence?

• A) Je to správné, protože umělá inteligence dává stejnou odpověď více než jednou
• B) Tvrzení je potvrzeno primárními důkazy, platným měřením a kompetentním odborným posudkem ✔
• C) Odpověď je správná, protože je napsána plynule a přesvědčivě.
• D) AI je výkonný model, takže jeho výstup je přesný

Popis: Odůvodnění klinického nebo výzkumného tvrzení; primární důkazy, platné měření, použitelné etické/profesní standardy a kompetentní odborný úsudek. „AI řekla“, „plynule napsáno“ nebo „dal totéž několikrát“ nejsou platná zdůvodnění; To nejsou známky pravdy, ale přinejlepším důslednosti.