Наскрізна інтеграція: Етична політика використання ШІ

Прибуток:

• Здатність створити письмову, обов’язкову політику використання штучного інтелекту та процес прийняття рішень для психологічної практики чи установи
• Можливість об’єднати дисципліни обмежень, перевірки, конфіденційності та упередженості, вивчені протягом усього модуля, в єдину систему контролю
• Здатність прозоро пояснити клієнту використання штучного інтелекту та підтримувати професійну етику та відповідальність

Протягом цього модуля ви дізналися, як використовувати штучний інтелект (ШІ) у різних частинах психологічної роботи: огляд літератури, підтримка інтерпретації шкали, оцінювання сеансів, психоосвіта, аналіз досліджень, перевірка упередженості, жорсткий край кризи, цифрові інструменти та професійний розвиток. У кожному підрозділі було три повторювані принципи: кордон, перевірка, конфіденційність. У цьому останньому розділі ми об’єднаємо ці принципи в єдину систему: письмову та обов’язкову політику використання ШІ. Політика — це не розпливчастий намір на кшталт «Я намагаюся використовувати штучний інтелект на благо»; Це набір конкретних правил, яких дотримуються всі, які можна перевірити та за які ви можете нести відповідальність перед клієнтом. Незалежно від того, працюєте ви самі чи в установі, ця політика є основою, яка захищає як вас, так і вашого клієнта.

Чому письмова політика є важливою

Неписані правила застосовуються непослідовно. Одного дня він анонімізує дані, одного напруженого дня ви можете про це забути; У той час як експерт може використовувати ШІ правильно, колега може використовувати його неправильно. Письмова політика забезпечує три речі: послідовність (усі дотримуються однакових правил), підзвітність (якщо щось піде не так, ясно, що було зроблено і як) і прозорість (ви можете чітко пояснити клієнту, як ви використовуєте AI). З точки зору професійної етики та КВКК, «Ми використовували ШІ, але не записали, як ми ним керували» — це неспроможна позиція.

Застереження: політика штучного інтелекту призначена для підтримки меж, а не для їх послаблення. Такі пункти, як «Послаблення конфіденційності заради швидкості», «Переадресація до бота в екстрених випадках» описують джерело ризику, а не політику. Хороша політика інституціоналізує правильний, а не легкий шлях.

Шість основних компонентів політики

компонент

Що визначає

База на модулі

Сфери використання

У яких завданнях використовується ШІ (зелена/жовта зона)

Блок 1

зони обмеженого доступу

Де штучний інтелект ніколи не використовуватиметься (діагностика, кризове рішення)

Блок 1, 4, 9

Правило даних

Анонімізація та вибір інструментів

Блок 2

правило перевірки

Як підтвердити кожен вихід

Блок 3, 5, 7

Упередження і мова

Правосуддя та контроль стигми

Блок 8

прозорість

Як повідомити клієнта

Блок 2, 12

Крок за кроком: створення власної політики

1. Створіть перелік завдань. Перерахувати всі завдання, для яких ШІ можна використовувати на практиці; помістіть кожну в зелену/жовту/червону зону.
2. Уточнити бан-лист. Чітко напишіть червону зону (діагноз, рішення про ризик, кризове втручання, лікування/лікування) як заборонене.
3. Напишіть правило даних. Які дані знеособлені, які інструменти затверджені, які налаштування є обов’язковими.
4. Визначте етапи перевірки. Напишіть обов’язкові кроки підтвердження для кожного типу вихідних даних (джерело, примітки, аналіз).
5. Підготуйте прозорий текст. Включіть використання штучного інтелекту в текст для просвіти клієнта.
6. Налаштуйте графік огляду. Періодично оновлювати політику (наприклад, кожні 6 місяців); Зміна технологій і законодавства.

Порада: найкращий спосіб перевірити свою політику — виконати завдання реального дня через політику одне за іншим. Для кожного завдання «чи дотримувався я цього правила?» Якщо ви можете чітко відповісти на запитання, політика працює; Якщо ви говорите «залежно від ситуації», це положення має бути написано чіткіше.

Прозорість для клієнта

Клієнт має право знати, яку роль ШІ відіграє в його процесі. Але це треба пояснити чесно, не лякаючи клієнта: «Я використовую інструменти штучного інтелекту в деяких адміністративних і чорнових роботах (таких як редагування заміток, підготовка матеріалів); ​​я анонімізую ваші дані і завжди приймаю рішення про діагностику, оцінку та лікування». Ця заява є водночас етичним зобов’язанням і чесністю для зміцнення довіри. Якщо клієнт заперечує, його/її вибір поважають.

три міні-чохла

Кейс 1 — Захист поліса. Новий інтерн у клініці збирається вставити записку клієнта в інструмент ШІ, не анонімізуючи її. Оскільки письмова політика клініки стверджує, що «необроблені дані клієнта не вводяться в жодні інструменти штучного інтелекту; вони спочатку анонімізуються», і ця політика підписується на початку роботи, інтерн зупиняється та робить правильний крок. Без політики було б порушення конфіденційності. Писане правило — це сітка безпеки, яка спрацьовує, коли забуваються добрі наміри.

Випадок 2. Прозорість створює довіру. На першій зустрічі експерт чесно пояснює своєму клієнту, як він використовує ШІ: що він використовує, як захищені дані, рішення приймаються ним. Клієнт спочатку нервує, але коли він чує пояснення, він розслабляється і його впевненість зростає. Прозорість діє як чесність, яка створює довіру, а не слабкість, яку потрібно приховувати.

Випадок 3 — Активація списку заборонених. В кінці виснажливого дня фахівець хоче, щоб ШІ «запитав» про ризики клієнта. На думку спадає стаття в політиці закладу «рішення щодо кризових ситуацій і ризиків не можна вимагати від штучного інтелекту; експерт оцінює це безпосередньо та, якщо необхідно, звертається до нагляду/лінії екстреної допомоги». Експерт зупиняється і робить правильні речі. Бан-лист політики – це якір, який нагадує про правильне рішення навіть у найвтомніший момент.

Копіювані підказки та шаблони

Розробити ПОЛІТИКУ ВИКОРИСТАННЯ ШТУЧНОГО ІНТЕЛЕКТУ для практики психолога. Давайте маємо такі шість розділів: 1) дозволені сфери використання, 2) заборонені області (діагностика, рішення про кризу, рішення про лікування), 3) правило даних/анонімізації, 4) етапи перевірки, 5) упередженість і контроль мови, 6) прозорість для клієнта. Напишіть правила чітко та обов’язково; додавання речовини, яка послаблює межі.

Розділіть наведений нижче список завдань на зелену/жовту/червону зони ризику та напишіть правило політики одним реченням для кожного (хто це виконує, як це перевіряється). Квести: [список завдань]

Напишіть абзац, який потрібно додати до інформаційного тексту клієнта, пояснюючи використання штучного інтелекту чесно та без залякування: у яких роботах він використовується, чи дані анонімні, що рішення про діагностику/лікування належать спеціалісту та право клієнта на заперечення.

Перевірте цей проект політики використання штучного інтелекту: чи належним чином він захищає кордони, чи заборонені зони вільні, чи виконано кроки конфіденційності та автентифікації, чи є прозорість клієнта? Позначайте слабкі або ризиковані елементи. Політика: [проект]

Слабка підказка / Сильна підказка

Слабка підказка: «Напишіть нам політику, яка полегшить використання ШІ».

Акцент на «дозволенні» спонукає ШІ пропонувати положення, які послаблюють межі; тоді як метою політики є не зручність, а захист і підзвітність.

Наполеглива підказка: «Створіть політику використання штучного інтелекту, яка зберігає межі, чітко окреслює заборонені зони (діагностика, криза, рішення про лікування), вимагає конфіденційності та етапів перевірки, а також передбачає прозорість для клієнта. Мета полягає не в тому, щоб послабити використання, а в тому, щоб зробити його безпечним і підзвітним».

Ця підказка спрямовує політику на правильну мету (захист); Вихід стає керованим кадром.

Поширені помилки

• Зовсім не пишучи політику. Пам’ятати про правила та застосовувати їх непослідовно; Це найпоширеніша помилка.
• Введення положення, яке послаблює межі. Введення в політику таких правил, як «Послабте конфіденційність заради швидкості».
• Залишення списку заборонених нечітким. Не чітко написано, що рішення щодо діагностики/кризи/лікування заборонені.
• Пропуск прозорості. Взагалі не інформувати клієнта про використання ШІ.
• Не оновлюється політика. Продовження старих правил у міру зміни технологій і законодавства.

Підсумовуючи

Три принципи цього модуля (обмеження, автентифікація, конфіденційність) поєднуються в письмову політику використання штучного інтелекту. Хороша політика включає шість компонентів: дозволені зони використання, заборонені області (діагностика, криза, рішення про лікування), правило даних/анонімізації, етапи перевірки, упередженість і контроль мови, прозорість для клієнта. Політика існує, щоб підтримувати кордони, а не послаблювати їх; Забезпечує послідовність, підзвітність і прозорість. Чесно поясніть клієнту використання ШІ та регулярно оновлюйте політику. ШІ прискорює; Відповідальність, рішення та етика завжди за вами.

Аплікаційне завдання

Напишіть одну сторінку політики використання штучного інтелекту для вашої власної практики чи закладу. Заповніть усі шість компонентів (дозволені поля, заборонені поля, правило даних, перевірка, упередженість/мова, прозорість). Потім запустіть 5 завдань із вашого фактичного робочого дня через цю політику одне за одним і запитайте «чи дотримувався я правила?» для кожного. Перевір, чи можеш ти чітко відповісти на запитання. Пишіть чіткіше питання, на які не можете чітко відповісти.

контрольний список

• [ ] Я письмово визначив дозволені та заборонені сфери використання.
• [ ] Я чітко написав, що діагностика, криза та рішення щодо лікування заборонені.
• [ ] Я встановлюю правило даних/анонімізації та затвердженого транспортного засобу.
• [ ] Я написав кроки перевірки для кожного типу виводу.
• [ ] Я додав до політики упередженість і перевірку мови.
• [ ] Я підготував прозорий текст для клієнта та встановив графік перегляду.

Модульний екзамен

1. Психолог пише штучному інтелекту симптоми, описані клієнтом, і запитує: «Який діагноз у цього клієнта?» — запитує він. Який підхід найбільш правильний?

• A) Використання ШІ лише для того, щоб запропонувати можливі концепції; Встановлення діагнозу шляхом клінічного опитування, анамнезу та власного судження ✔
• B) Записування діагнозу, поставленого штучним інтелектом, безпосередньо у звіті
• В) Якщо штучний інтелект дає один і той же діагноз кілька разів, він вважається остаточним.
• D) Скорочення інтерв’ю та використання штучного інтелекту для прискорення діагностики

Опис. Встановлення діагнозу є клінічним рішенням, яке має важливе значення для безпеки, і вимагає багатьох даних, клінічного інтерв’ю, анамнезу та судження. Штучний інтелект може бути корисним у пропонуванні можливих концепцій, але діагноз ставиться на основі клінічного судження компетентного спеціаліста (психолога/психіатра). Вихід AI не замінює це рішення.

2. Ви хочете підсумувати запис сеансу клієнта в хмарному інструменті штучного інтелекту. Що в першу чергу потрібно зробити з точки зору КВКК та професійної таємниці?

• A) Вставити запис як є, із справжнім іменем і деталями
• B) Знеособлення вмісту, моніторинг політики конфіденційності/даних інструменту та дотримання механізму отримання згоди ✔
• В) Скоротіть лише прізвище клієнта, а решту залиште як є.
• D) Хоча конфіденційність важлива, обмін усіма даними для швидкості

Пояснення: Клієнтські дані є спеціальними персональними даними. Перед наданням хмарному інструменту ідентифікаційна інформація, така як ім’я, місцезнаходження, дата та місце роботи, повинна бути анонімною; Якщо можливо, слід використовувати деідентифікований вміст і переконатися, що інструмент не використовує дані для навчання. Крім того, необхідно дотримуватись інформованої згоди клієнта.

3. Штучний інтелект каже в анотації до статті, що «Розмір ефекту в цьому дослідженні, датованому 2019 роком, був встановлений як d = 0,82», але ви не можете знайти цю статтю. Що робити?

• A) Використання атрибуції як вона є, тому що штучний інтелект є надійним
• B) Написання числа без пошуку джерела, оскільки це здається розумним
• C) Не звертайте уваги на претензію, доки ми не підтвердимо джерело та розмір ефекту з основного тексту ✔
• Г) Запитайте іншого штучного інтелекту та прийміть його, якщо він придумає таке ж число

Пояснення: Штучний інтелект може створювати посилання, авторів або цифри, які здаються реальними, але не існують (галюцинація). Джерело, яке неможливо знайти, або розмір ефекту, який неможливо перевірити, не використовуються. Претензія вважається недійсною, поки не буде підтверджено з першоджерела.

4. Клієнт повідомляє про суїцидальні думки під час сеансу. Якою має бути роль штучного інтелекту в цій ситуації?

• A) Штучний інтелект повинен оцінити ризик і передати план безпеки клієнту
• B) Клієнт повинен бути направлений до чат-бота зі штучним інтелектом
• В) Штучний інтелект повинен бути налаштований на автоматичний виклик екстреної служби
• D) Рішення та втручання належить експерту; ШІ не може оцінити ризик, криза – це відповідальність людини ✔

Опис. Ризик суїциду та кризи – це критична ситуація з точки зору безпеки, яка вимагає клінічної оцінки в реальному часі, участі та відповідальності. Штучний інтелект не може приймати рішення, оцінювати ризики та втручатися. Експерт вступає безпосередньо; За потреби підключаються телефони довіри та ланцюг людського супроводу. У кращому випадку ШІ може служити нагадуванням для експерта поза сеансом.

5. Який ризик є найбільш критичним у психоосвітній брошурі, створеній за допомогою штучного інтелекту?

• A) Неправильна/стигматизуюча інформація, яка спонукає клієнта до самодіагностики та лікування ✔
• B) Погане візуальне оформлення брошури
• C) Брошура занадто довга
• Г) Шрифт дрібний

Пояснення: коли психоосвітній матеріал знаходиться в руках клієнта, він може перетворитися на засіб самодіагностики та лікування, а неправильна або стигматизуюча інформація може завдати шкоди. Отже, матеріал має бути експертно перевірений на доказовість, безпеку та правильне оформлення; Слід додати попередження «ця інформація не замінює професійного судження».

6. Ви отримуєте підтримку тематичного кодування від штучного інтелекту у своїх якісних дослідницьких даних (стенограми інтерв’ю). Який підхід є найздоровішим?

• A) Повідомлення про коди, створені штучним інтелектом, як остаточний аналіз
• B) Перевірте, виправте та забезпечте надійність, вважаючи коди початковими чернетками та читаючи дані ✔
• C) Залишити аналіз повністю штучному інтелекту та взагалі не читати дані
• D) Не читайте самостійно, оскільки це дає теми штучного інтелекту

Опис: штучний інтелект забезпечує швидкість у створенні початкових пропозицій коду та планів тем, але якісний аналіз вимагає інтерпретаційного судження від дослідника. Коди штучного інтелекту - це початок; Дослідник зчитує всі дані, перевіряє та виправляє коди та спостерігає за надійністю між кодерами. Крім того, стенограма має бути анонімною.

7. Чому упередження є важливим ризиком з точки зору психології в моделях штучного інтелекту?

• A) Упередження є лише технічною проблемою, яка не має клінічного значення
• B) У сучасних моделях зміщення повністю усунено
• C) Результати моделі можуть бути спотворені культурою/статтю/діагнозом і можуть вводити в оману та оцінювати шкоду ✔
• D) Зсув виникає лише в моделях, які створюють зображення

Опис: оскільки моделі часто навчаються на даних з певних культур і мов, вони можуть мати діагностичні, культурні та гендерні упередження; може прочитати симптом як «нормальний» в одній групі та «патологічний» в іншій групі або висловити стигматизацію. Це може спотворити та зашкодити оцінці; Результати слід перевіряти для різних груп і культур.

8. Ви розглядаєте можливість порекомендувати своєму клієнту терапевтичного чат-бота. Що потрібно зробити в першу чергу?

• A) Прямо рекомендую, тому що це популярно
• Б) Сказати, що бот може замінити терапію та скоротити сеанси
• C) Запропонувати клієнту довіряти боту під час кризи.
• D) Аудиторські докази, безпека, конфіденційність і клінічна придатність і позиціонування бота як обмеженого доповнення ✔

Пояснення: перш ніж рекомендувати цифровий інструмент психічного здоров’я, слід переглянути його доказову базу, безпеку (управління кризою), політику конфіденційності/даних і відповідність клінічній ситуації клієнта. Бот потрібно позиціонувати не як замінник людської терапії, а як обмежене доповнення, і чітко пояснити клієнту, що він неадекватний у кризових ситуаціях.

9. AI підготував проект записок сесії. Який найважливіший крок потрібно зробити перед використанням цього плану?

• A) Перевірте чернетку, порівнявши її з тим, що насправді відбулося під час сеансу, виправте сфабрикований/відсутній вміст і візьміть на себе відповідальність ✔
• B) Збереження чернетки у файл як є
• C) Припустити, що чернетка правильна, оскільки вона написана вільно
• D) Попросіть клієнта схвалити проект і використовувати його без змін.

Пояснення: чернетка штучного інтелекту може додавати важливу інформацію, яку було пропущено, вигадувати твердження, які насправді не були сказані (галюцинації), або забезпечувати клінічно неправильне обрамлення. Експерт порівнює чернетку з тим, що насправді відбулося на сесії, перевіряє її, коригує та несе відповідальність за остаточний зміст. Записка є юридичним і клінічним документом.

10. Що з наведеного нижче є завданням «зеленої зони» (з низьким рівнем ризику) у використанні штучного інтелекту в психології?

• А) Вирішити, чи ризикує клієнт суїциду
• Б) Підготовка чернетки для спрощення мови анонімного психоосвітнього тексту ✔
• C) Встановлення остаточного діагнозу на основі балів за шкалою
• Г) Створення рекомендацій щодо лікування

Пояснення: такі завдання, як спрощення мови анонімного психоосвітнього тексту або написання електронного листа з нагадуванням про зустріч, є низьким ризиком, оскільки вони не передбачають встановлення діагнозу/рішення та безпечні для використання за умови швидкого перегляду. Діагностика, оцінка ризику та рішення про лікування знаходяться в червоній (критичній для безпеки) зоні.

11. Яке найважливіше обмеження при використанні штучного інтелекту в інтерпретації психометричного тесту?

• А) Оскільки оцінку інтерпретує штучний інтелект, немає потреби в коментарях експертів.
• Б) Штучному інтелекту достатньо повідомити назву тесту
• C) Інтерпретація виникає не на основі єдиної оцінки, а на основі клінічного судження та багатьох даних; Дотримання авторського права та нормативного контексту ✔
• D) Граничний бал однаковий у кожній культурі

Пояснення: шкала/тестовий бал – це частина даних; Діагноз і клінічна інтерпретація не випливають з однієї оцінки. Крім того, багато тестів захищені авторським правом і залежать від контексту. Штучний інтелект може надати опис субшкали та лінгвістичну підтримку, але інтерпретація здійснюється експертом у рамках клінічного судження, багатьох даних і культурної достовірності.

12. Чому ШІ не може замінити справжній нагляд?

• A) Штучний інтелект замінює нагляд, оскільки він реагує швидше
• Б) Нагляд все одно непотрібний
• В) Штучний інтелект вважається супервайзером, оскільки він має ліцензію.
• D) Штучний інтелект не бере на себе відповідальності, не знає реального контексту та не може забезпечити етичний контроль; Для контролю потрібен фахівець ✔

Опис: Супервізія; Це супервізія компетентного професіонала, який є відповідальним, комунікабельним і знає реальний контекст клієнта та розвитку терапевта. ШІ може допомогти з репетицією випадку та складанням формулювання, але він не бере на себе клінічної відповідальності, не знає реального контексту та не може забезпечити етичний/юридичний нагляд. Нагляд потребує людей-експертів.

13. Ви готуєте політику використання штучного інтелекту для психологічного закладу. Що з наступного має бути включено?

• A) Правило анонімізації, заборонені сфери використання, обов’язкова перевірка та прозорість для клієнта ✔
• B) Дозвіл ділитися клієнтськими даними без анонімізації для швидкості
• В) Передача діагностичних рішень штучному інтелекту
• Г) Направлення кризових ситуацій на чат-бот

Опис: Хороша політика; Він визначає, які дані можна надавати інструменту (правило анонімізації), заборонені сфери використання, такі як діагностика/криза, обов’язкові кроки перевірки та прозорість для клієнта. Такі пункти, як «Виразна конфіденційність заради швидкості», є етичними та правовими ризиками; Політика існує, щоб підтримувати кордони, а не послаблювати їх.

14. Що з наведеного нижче є дійсним обґрунтуванням для перевірки результатів ШІ?

• А) Це правильно, тому що штучний інтелект дає ту саму відповідь більше одного разу
• B) Претензія підтверджена первинними доказами, дійсними вимірюваннями та компетентним експертним висновком ✔
• В) Відповідь правильна, бо написана вільно й переконливо.
• D) AI є потужною моделлю, тому її результати точні

Опис: Обґрунтування клінічної або дослідницької заяви; первинні докази, дійсне вимірювання, застосовні етичні/професійні стандарти та компетентне професійне судження. «ШІ сказав», «плавно написано» або «дав те саме кілька разів» не є дійсними обґрунтуваннями; Це не ознаки правди, а в кращому випадку послідовність.