Интеграция от край до край: Политика за етично използване на AI

Печалби:

• Възможност за създаване на писмена, приложима политика за използване на изкуствен интелект и поток от решения за психологическа практика или институция
• Възможност за комбиниране на дисциплини за граници, проверка, поверителност и пристрастия, научени в целия модул, в единна система за контрол
• Способност за прозрачно обяснение на използването на изкуствен интелект на клиента и поддържане на професионална етика и отчетност

По време на този модул научихте как да използвате изкуствения интелект (AI) в различни части на психологическата работа: преглед на литературата, подкрепа за интерпретация на скали, маркиране на сесии, психообразование, анализ на изследвания, проверка на пристрастия, твърд ръб на кризата, дигитални инструменти и професионално развитие. Във всяка единица имаше три повтарящи се принципа: граница, проверка, поверителност. В тази последна част ще дестилираме тези принципи в една система: писмена и приложима политика за използване на AI. Политиката не е неясно намерение като „Опитвам се да използвам AI за добро“; Това е набор от конкретни правила, които всеки следва, които могат да бъдат одитирани и за които можете да носите отговорност пред клиента. Независимо дали работите сами или в институция, тази политика е рамка, която защитава както вас, така и вашия клиент.

Защо писмената политика е от съществено значение

Неписаните правила се прилагат непоследователно. Един ден анонимизира данните, един натоварен ден можете да забравите за него; Докато един експерт може да използва AI правилно, колега може да го използва неправилно. Писмената политика гарантира три неща: последователност (всички следват едни и същи правила), отчетност (ако нещо се обърка, ясно е какво е направено и как) и прозрачност (можете ясно да обясните на клиента как използвате AI). По отношение на професионалната етика и KVKK „Използвахме AI, но не записахме как го контролираме“ е несъстоятелна позиция.

Внимание: Политиката за изкуствен интелект е там, за да поддържа границите, а не да ги отпуска. Клаузи като „Отслабване на поверителността за скорост“, „Пренасочване към бот в случай на спешност“ описват източник на риск, а не политика. Добрата политика институционализира правилния, а не лесния начин.

Шест основни компонента на политиката

компонент

Какво определя

База на модула

Области на използване

В кои задачи се използва AI (зелена/жълта зона)

единица 1

зони с ограничен достъп

Къде никога няма да се използва AI (диагноза, кризисно решение)

Единица 1, 4, 9

Правило за данни

Анонимизиране и избор на инструменти

единица 2

правило за валидиране

Как да потвърдите всеки изход

Единица 3, 5, 7

Предразсъдъци и език

Правосъдие и контрол на стигмата

Единица 8

прозрачност

Как да информираме клиента

Единица 2, 12

Стъпка по стъпка: създаване на собствена политика

1. Създайте инвентаризация на задачите. Избройте всички задачи, за които AI може да се използва на практика; поставете всеки в зелената/жълтата/червената зона.
2. Изяснете списъка с забрани. Напишете ясно червената зона (диагноза, решение за риск, кризисна интервенция, решение за лечение/медикамент) като забранена.
3. Напишете правилото за данни. Кои данни са анонимизирани, кои инструменти са одобрени, кои настройки са задължителни.
4. Определете стъпките за проверка. Напишете задължителни стъпки за потвърждение за всеки тип изход (източник, бележки, анализ).
5. Подгответе прозрачен текст. Включете използването на AI в текста за просветление на клиента.
6. Настройте график за преглед. Актуализирайте политиката периодично (напр. на всеки 6 месеца); Промяна в технологиите и законодателството.

Съвет: Най-добрият начин да тествате вашата политика е да изпълните задачите за реалния ден през политиката една по една. За всяка задача "спазих ли това правило?" Ако можете да отговорите ясно на въпроса, политиката работи; Ако кажете „в зависимост от ситуацията“, тази клауза трябва да бъде написана по-ясно.

Прозрачност към клиента

Клиентът има право да знае каква роля играе AI в техния процес. Но това трябва да се обясни честно, без да се плаши клиента: „Използвам инструменти за изкуствен интелект в някои административни и чернови работи (като редактиране на бележки, подготовка на материали); анонимизирам вашите данни и винаги правя диагноза, оценка и решения за лечение.“ Това изявление е както етично задължение, така и честност за изграждане на доверие. Ако клиентът възрази, изборът му се зачита.

три мини калъфа

Случай 1 — Защита на полицата. Нов стажант в клиника е на път да постави клиентска бележка в AI инструмент, без да я анонимизира. Тъй като писмената политика на клиниката гласи, че „необработените клиентски данни не се въвеждат в никакви AI инструменти; първо се анонимизират“ и тази политика е подписана в началото на работата, стажантът спира и предприема правилната стъпка. Без политиката би имало нарушение на поверителността. Писаното правило е предпазната мрежа, която влиза в действие, когато добрите намерения са забравени.

Случай 2 — Прозрачността изгражда доверие. На първата среща експертът обяснява честно използването на AI на своя клиент: какво използва, как са защитени данните, решенията са негови. В началото клиентът е нервен, но когато чуе обяснението, се отпуска и увереността му нараства. Прозрачността действа като честност, която изгражда доверие, а не като слабост, която трябва да бъде скрита.

Случай 3 — Активиране на забранен списък. В края на уморителен ден специалистът иска да накара AI да „попита“ за риска на клиента. Статията в политиката на институцията, „решенията за криза и риск не могат да се изискват от AI; експертът го оценява директно и ако е необходимо, се консултира с надзор / спешна линия“ идва на ум. Експертът спира и прави правилното нещо. Бан листът на политиката е котва, която ви напомня за правилното решение дори в най-уморения момент.

Подкани и шаблони с възможност за копиране

Изготвяне на ПОЛИТИКА ЗА ИЗПОЛЗВАНЕ НА ИЗКУСТВЕН ИНТЕЛЕКТ за психологическа практика. Нека имаме следните шест раздела: 1) разрешени области на използване, 2) забранени области (диагноза, решение за криза, решение за лечение), 3) правило за данни/анонимизиране, 4) стъпки за проверка, 5) пристрастия и езиков контрол, 6) прозрачност за клиента. Напишете правилата ясно и приложимо; добавяне на вещество, което разхлабва границите.

Разделете следния списък със задачи в зелена/жълта/червена рискова зона и напишете едно изречение правило за политика за всяка (кой го прави, как се проверява). Мисии: [списък със задачи]

Напишете параграф, който да бъде добавен към текста с информация за клиента, обяснявайки използването на изкуствен интелект честно и без сплашване: в кои работни места се използва, дали данните са анонимни, че решенията за диагностика/лечение принадлежат на специалиста и правото на клиента да възрази.

Проверете този проект на правила за използване на AI: защитава ли адекватно границите, ясни ли са забранените зони, завършени ли са стъпките за поверителност и удостоверяване, има ли прозрачност за клиента? Маркирайте слаби или рискови елементи. Политика: [чернова]

Слаба подкана / Силна подкана

Слаба подкана: „Напишете ни политика, която улеснява използването на AI.“

Акцентът върху „разрешаването“ тласка AI да предлага клаузи, които облекчават границите; като има предвид, че целта на политиката не е удобство, а защита и отчетност.

Силна подкана: „Изгответе политика за използване на AI, която поддържа граници, ясно очертава забранените зони (диагноза, криза, решение за лечение), изисква поверителност и стъпки за проверка и включва прозрачност за клиента. Целта не е да разхлабите употребата, а да я направите безопасна и отговорна.“

Тази подкана насочва политиката към правилната цел (защита); Резултатът става контролируема рамка.

Често срещани грешки

• Изобщо не пише политика. Запазване на правилата и прилагането им непоследователно; Това е най-честата грешка.
• Въвеждане на клауза, която разхлабва границите. Въвеждане на правила като „Отслабване на поверителността за скорост“ в правилата.
• Оставянето на забранения списък неясен. Не се пише ясно, че решенията за диагноза/криза/лечение са забранени.
• Пропускане на прозрачност. Изобщо не информира клиента за използването на AI.
• Политиката не се актуализира. Продължаване със старите правила, тъй като технологията и законодателството се променят.

В обобщение

Трите принципа на този модул (лимит, удостоверяване, поверителност) се комбинират в писмена, изпълнима политика за използване на AI. Добрата политика включва шест компонента: разрешени зони за използване, забранени зони (диагноза, криза, решение за лечение), правило за данни/анонимизиране, стъпки за проверка, пристрастие и езиков контрол, прозрачност за клиента. Политиката съществува, за да поддържа границите, а не да ги разхлабва; Осигурява последователност, отчетност и прозрачност. Обяснете честно използването на AI на клиента и актуализирайте правилата редовно. AI ускорява; Отговорността, решението и етиката са винаги ваши.

Задача за приложение

Напишете политика за използване на AI от една страница за вашата собствена практика или институция. Попълнете всичките шест компонента (разрешени полета, забранени полета, правило за данни, проверка, пристрастия/език, прозрачност). След това изпълнете 5 задачи от действителния си работен ден през тази политика една по една и попитайте „Спазих ли правилото?“ за всеки един. Проверете дали можете да отговорите ясно на въпроса. Напишете по-ясно въпросите, на които не можете да отговорите ясно.

контролен списък

• [ ] Писмено съм дефинирал разрешените и забранените области на използване.
• [ ] Ясно написах, че решенията за диагноза, криза и лечение са забранени.
• [ ] Зададох правилото за данни/анонимизиране и одобрено превозно средство.
• [ ] Написах стъпките за проверка за всеки тип изход.
• [ ] Добавих пристрастие и проверка на езика към правилата.
• [ ] Подготвих текста за прозрачност за клиента и зададох график за преглед.

Изпит по модул

1. Психолог пише симптомите, описани от клиента си на изкуствения интелект и пита: "Каква диагноза има този клиент?" пита той. Кой е най-правилният подход?

• A) Използване на AI само за предлагане на възможни концепции; Поставяне на диагнозата чрез клинично интервю, история и собствена преценка ✔
• B) Записване на диагнозата, поставена от изкуствения интелект директно в доклада
• В) Ако изкуственият интелект даде една и съща диагноза няколко пъти, тя се счита за окончателна.
• Г) Съкращаване на интервюто и разчитане на изкуствен интелект за ускоряване на диагностиката

Описание: Поставянето на диагноза е критично за безопасността клинично решение и изисква множество данни, клинично интервю, история и преценка. Изкуственият интелект може да бъде полезен при предлагането на възможни концепции, но диагнозата се поставя чрез клиничната преценка на компетентния специалист (психолог/психиатър). AI продукцията не замества това решение.

2. Искате да обобщите записа на сесията на клиента в базиран на облак инструмент за изкуствен интелект. Какво е първото нещо, което трябва да направите по отношение на KVKK и професионалната поверителност?

• A) Поставяне на записа такъв, какъвто е, с истинско име и подробности
• B) Анонимизиране на съдържание, наблюдение на политиката за поверителност/данни на инструмента и спазване на рамката за съгласие ✔
• В) Съкратете само фамилията на клиента и оставете останалото както е.
• D) Въпреки че поверителността е важна, споделянето на всички данни за скорост

Пояснение: Клиентските данни са специални лични данни. Преди да бъде предоставена на облачния инструмент, идентифициращата информация като име, местоположение, дата и работно място трябва да бъде анонимизирана; Ако е възможно, трябва да се използва деидентифицирано съдържание и трябва да се гарантира, че инструментът не използва данните за обучение. Освен това трябва да се спазва информираното съгласие на клиента.

3. Изкуственият интелект казва в резюме на статия, че „размерът на ефекта в това проучване от 2019 г. е установено, че е d = 0,82“, но не можете да намерите тази статия. Какво трябва да направите?

• A) Използване на приписването такова, каквото е, защото изкуственият интелект е надежден
• Б) Написване на номера без търсене на източника, защото изглежда разумно
• C) Пренебрегвайте твърдението, докато не потвърдим източника и размера на ефекта от основния текст ✔
• Г) Попитайте друг изкуствен интелект и го приемете, ако излезе със същото число

Обяснение: Изкуственият интелект може да измисля препратки, автори или числа, които изглеждат реални, но не съществуват (халюцинация). Не се използва източник, който не може да бъде намерен, или размер на ефекта, който не може да бъде проверен. Искът се счита за невалиден, докато не бъде потвърден от първичния източник.

4. Клиент съобщава, че има суицидни мисли по време на сесия. Каква трябва да е ролята на изкуствения интелект в тази ситуация?

• A) Изкуственият интелект трябва да оцени риска и да предаде плана за сигурност на клиента
• B) Клиентът трябва да бъде насочен към чат бота с изкуствен интелект
• В) Изкуственият интелект трябва да бъде настроен да се обажда автоматично на службата за спешна помощ
• Г) Решението и намесата принадлежат на експерта; AI не може да оцени риска, кризата е човешка отговорност ✔

Описание: Рискът от самоубийство и криза е критична за безопасността ситуация, която изисква клинична оценка в реално време, ангажираност и отчетност. Изкуственият интелект не може да взема решения, да оценява риска и да се намесва. Експертът се намесва директно; При необходимост се активират горещите линии и веригата за човешка поддръжка. В най-добрия случай AI може да служи като напомняне на експерта извън сесията.

5. Кой риск е най-критичен в психообразователна брошура, създадена с изкуствен интелект?

• A) Неправилна/стигматизираща информация, водеща клиента до самодиагностика и лечение ✔
• Б) Лош визуален дизайн на брошурата
• В) Брошурата е твърде дълга
• Г) Шрифтът е малък

Обяснение: Когато психообразователният материал е в ръцете на клиента, той може да се превърне в инструмент за самодиагностика и лечение, а невярната или стигматизираща информация може да причини вреда. Следователно материалът трябва да бъде експертно проверен за доказателственост, сигурност и правилно рамкиране; Трябва да се добави предупреждението „тази информация не е заместител на професионалната преценка“.

6. Получавате поддръжка за тематично кодиране от изкуствен интелект във вашите качествени изследователски данни (преписи от интервюта). Кой е най-здравословният подход?

• A) Докладване на кодовете, произведени от изкуствения интелект като окончателен анализ
• B) Проверете, коригирайте и осигурете надеждност, като разглеждате кодовете като първоначални чернови и четете данните ✔
• В) Оставяне на анализа изцяло на изкуствения интелект и изобщо неразчитане на данните
• Г) Не четете сами, защото дава теми за изкуствен интелект

Описание: AI осигурява скорост при изготвянето на първоначални предложения за код и очертания на теми, но качественият анализ изисква интерпретативна преценка от изследователя. Кодовете за изкуствен интелект са начало; Изследователят чете всички данни, проверява и коригира кодовете и наблюдава надеждността на междукодерите. Освен това преписът трябва да бъде анонимен.

7. Защо пристрастията са важен риск от гледна точка на психологията в моделите с изкуствен интелект?

• A) Пристрастността е просто технически проблем, който не е клинично значим
• B) Пристрастността е напълно разрешена в съвременните модели
• C) Резултатите от модела може да са изкривени от култура/пол/диагноза и могат да подведат и оценка на вредата ✔
• Г) Пристрастие възниква само при модели, които създават изображения

Описание: Тъй като моделите често се обучават върху данни от специфични култури и езици, те могат да носят диагностични, културни и полови пристрастия; може да прочете даден симптом като „нормален“ в една група и „патологичен“ в друга група или да създаде стигматизиращ език. Това може да изкриви и повреди оценката; Резултатите трябва да бъдат одитирани за различни групи и култури.

8. Обмисляте да препоръчате терапевтичен чат бот на вашия клиент. Какво трябва да направите първо?

• A) Директно препоръчвам, защото е популярно
• Б) Казване, че ботът може да замести терапията и намаляване на сесиите
• В) Предлагане на клиента да се довери на бота в криза.
• D) Одитни доказателства, сигурност, поверителност и клинична пригодност и позициониране на бота като ограничено допълнение ✔

Обяснение: Преди да се препоръча дигитален инструмент за психично здраве, трябва да се прегледат неговата база от доказателства, сигурност (управление на кризи), политика за поверителност/данни и пригодност за клиничната ситуация на клиента. Ботът не трябва да се позиционира като заместител на човешката терапия, а като ограничено допълнение и ясно да се обясни на клиента, че е неадекватен в кризисни ситуации.

9. AI изготви чернова на бележки от сесията. Коя е най-важната стъпка, която трябва да предприемете, преди да използвате този план?

• A) Проверете черновата, като я сравните с това, което действително се е случило в сесията, коригирайте измислено/липсващо съдържание и поемете отговорност ✔
• B) Запазване на черновата във файла, както е
• В) Ако приемем, че черновата е правилна, защото е написана гладко
• Г) Накарайте клиента да одобри черновата и да я използва без промени.

Обяснение: Черновата на AI може да добави важна информация, която е била пропусната, да измисли изявления, които всъщност не са казани (халюцинация), или да предостави клинично неправилно рамкиране. Експертът сравнява черновата с реално случилото се по време на сесията, проверява я, коригира я и отговаря за крайното съдържание. Бележката е правен и клиничен документ.

10. Кое от следните е задача в „зелена зона“ (с нисък риск) при използването на изкуствен интелект в психологията?

• А) Решение дали клиентът е изложен на риск от самоубийство
• B) Подготовка на чернова за опростяване на езика на анонимен психообразователен текст ✔
• В) Поставяне на окончателна диагноза от резултата по скалата
• Г) Създаване на препоръки за лекарства

Обяснение: Задачи като опростяване на езика на анонимизиран психообразователен текст или изготвяне на имейл за напомняне за среща са с нисък риск, защото не включват диагноза/решение и са безопасни за използване с бърз преглед. Диагнозата, оценката на риска и решението за лечение са в червената (критична за безопасността) зона.

11. Кое е най-важното ограничение при използване на изкуствен интелект при интерпретацията на психометричен тест?

• A) Тъй като изкуственият интелект интерпретира резултата, няма нужда от експертен коментар.
• Б) Достатъчно е да кажете името на теста на изкуствения интелект
• В) Тълкуването произтича не от един резултат, а от клинична преценка и множество данни; Спазване на авторското право и нормалния контекст ✔
• Г) Граничният резултат е еднакъв във всяка култура

Обяснение: Резултатът от скалата/теста е част от данните; Диагнозата и клиничната интерпретация не произтичат от един резултат. Освен това много тестове са защитени с авторски права и са чувствителни към контекста на нормите. Изкуственият интелект може да предостави описание на подскала и езикова подкрепа, но интерпретацията се прави от експерт в рамките на клинична преценка, множество данни и културна валидност.

12. Защо AI не може да замени истинския надзор?

• A) Изкуственият интелект замества надзора, защото реагира по-бързо
• Б) Надзорът така или иначе е ненужен
• В) Изкуственият интелект се счита за надзорник, защото е лицензиран.
• Г) Изкуственият интелект не поема отговорност, не познава реалния контекст и не може да осигури етичен контрол; Надзорът изисква човешки експерт ✔

Описание: Надзор; Това е супервизия от компетентен професионалист, който е отговорен, релационен и познава реалния контекст на клиента и развитието на терапевта. AI може да помогне при репетиция на случай и изготвяне на формулировки, но не поема клинична отговорност, не познава реалния контекст и не може да осигури етичен/правен надзор. Надзорът изисква човешки експерти.

13. Подготвяте политика за използване на изкуствен интелект за институция по психология. Кое от следните трябва да бъде включено?

• A) Правило за анонимизиране, забранени области на използване, задължителна проверка и прозрачност за клиента ✔
• B) Разрешение за споделяне на клиентски данни, без да ги анонимизира за скорост
• В) Прехвърляне на диагностични решения към изкуствен интелект
• Г) Насочване на кризисни ситуации към чат бота

Описание: Добра политика; Той определя какви данни могат да бъдат предоставени на инструмента (правило за анонимизиране), забранени области на използване като диагноза/криза, задължителни стъпки за проверка и прозрачност за клиента. Клаузи като „Изрична поверителност за бързина“ са етични и правни рискове; Политиката съществува, за да поддържа границите, а не да ги разхлабва.

14. Кое от следните е валидна обосновка за валидиране на AI изхода?

• А) Правилно е, защото изкуственият интелект дава един и същ отговор повече от веднъж
• B) Твърдението е потвърдено от първични доказателства, валидно измерване и компетентна експертна оценка ✔
• В) Отговорът е верен, защото е написан гладко и убедително.
• D) AI е мощен модел, така че изходът му е точен

Описание: Обосновка за клинична или изследователска претенция; първични доказателства, валидно измерване, приложим етичен/професионален стандарт и компетентна професионална преценка. „AI каза“, „плавно написано“ или „даде същото няколко пъти“ не са валидни обосновки; Това не са признаци на истина, а в най-добрия случай на последователност.