Прибуток:
- Можливість визначити, де штучний інтелект економить реальний час у роботі з психічним здоров’ям, а де клінічна відповідальність і повноваження щодо діагностики/рішення повинні залишатися за експертом-людиною, виходячи з рівня ризику
- Здатність застосовувати багаторівневу дисципліну перевірки, яка перевіряє кожен результат штучного інтелекту на докази, джерела та клінічне судження
- Штучний інтелект не є терапевтом, діагностом чи наглядачем; Здатність засвоїти чітку структуру того, що люди та екстрене втручання є важливими у випадку кризи/ризику.
Психологія намагається зрозуміти біль, історію та внутрішній світ людини; Це професія, побудована на довірі, стосунках і відповідальності. Деякі частини цієї роботи (написання тексту, сканування джерел, редагування таблиць, підготовка матеріалів) можуть швидко стати автоматизованими. Деякі частини ніколи не можна перенести на машину, тому що вони стосуються життя людини. Штучний інтелект (скорочено ШІ; програмне забезпечення, яке вивчає шаблони з великої кількості тексту та генерує новий текст, анотації чи код) є потужним помічником у цій професії: скорочення годин перегляду літератури, складання звіту, спрощення психоосвітньої брошури. Але ШІ не є терапевтом; Він не знає клієнта, не бере на себе відповідальності, не підтримує його під час кризи та не вимагає від нього етичної та юридичної відповідальності.
Наша мета протягом цього модуля – зробити вас професіоналом у сфері психічного здоров’я, який контролює ШІ, а не практиком, залежним від ШІ. У цьому першому розділі ви дізнаєтеся, де використовувати штучний інтелект у психологічному бізнесі, на чому вам точно слід зупинитися та як перевірити кожен результат.
Що ШІ може, а що не може робити в психології
Справжня сила штучного інтелекту полягає у створенні мови, шаблонів і контурів. Скелет записки до сеансу, карта резюме літератури, скорочена версія психоосвітнього тексту, схема пункту опитувальника дослідження, ввічлива мова електронного листа про запис на прийом; Все це виходить за секунди. У цих завданнях ШІ економить ваш час і зменшує розумове навантаження.
ШІ не може приймати рішення, які потребують клінічного судження. Постановка діагнозу, оцінка ризику, вибір плану лікування, зчитування стану клієнта «поправляється чи погіршується»; Нічого з цього не можна робити з логікою «так зазвичай буває». ШІ галюцинує, тому що він навчається з текстів в Інтернеті: тому джерело, яке здається справжнім, але не існує, може створити хибну статистику або вигаданий елемент шкали. У психології цей тип помилки є не просто друкарською помилкою; Це означає неправильно спрямованого клієнта, шкідливе втручання або етичне порушення.
Застереження: результати AI є чернеткою, а не клінічним висновком. Питання, які мають важливе значення для безпеки, такі як діагностика, оцінка ризику та рішення щодо лікування, приймаються на основі оцінки та відповідальності компетентного експерта (психолога, психіатра). ШІ не замінює це міркування.
Три області за рівнем ризику
Найпрактичніший спосіб безпечного використання ШІ — розділити кожне завдання на три зони залежно від рівня ризику. Ця відмінність зводиться до того, чи повинен це робити ШІ? Відповідає на питання швидко і точно.
Регіон
Зразки завдань
Роль ШІ
Рівень перевірки
Зелений (низький ризик)
Спрощення анонімного психоосвітнього тексту, запис електронної пошти, пошук за назвою літератури, схема презентації
безкоштовне виробництво
Швидкий огляд
Жовтий (середній ризик)
Проект записки до сесії, лінгвістичне пояснення для інтерпретації шкали, план аналізу дослідження, пропозиція тематичного коду
Проект + пропозиція
Експертна перевірка + підтвердження джерела/даних
Червоний (важливий для безпеки)
Діагностика, оцінка ризику суїциду/кризи, рішення щодо лікування/ліків, судово-медичний висновок
Лише нагадування/контрольний список
Грамотна експертна оцінка та відповідальність обов'язкові
Будьте швидкими в зеленій зоні. Використовуйте ШІ в жовтій зоні, але перевіряйте кожну інформацію, число та джерело. У червоній зоні ШІ ніколи не має останнього слова; Щонайбільше, це нагадування, яке приносить контрольний елемент на думку експерта.
три міні-чохла
Випадок 1 — Економія часу. Шкільний психолог підготує інформаційну брошуру «Екзаменаційна тривожність у підлітків» для групи з 40 батьків. Якщо писати від руки, це займе близько 3 годин. Завдяки штучному інтелекту він пише анонімну чернетку, самостійно перевіряє вміст, заснований на доказах, і перевіряє джерела, і він закінчує брошуру за 45 хвилин. Приблизно 75% економії часу, а він відповідає за кінцевий контент.
Випадок 2 — де слід зупинитися. Спеціаліст передає ШІ нотатки про 3 сеанси клієнта та запитує: «Чи є у цієї людини прикордонний розлад особистості?» — запитує він. «Симптоми постійні», — впевнено каже AI. Однак ШІ не бачив клієнта, не знає історії та не може зважити диференціальний діагноз. Якщо фахівець використовує цей висновок як діагноз, він чи вона зробить серйозну помилку; Максимально на виході може бути нагадування у формі «оцініть ці сфери далі на співбесіді».
Випадок 3 — Ціна галюцинації. Дослідник запитує 10 джерел у ШІ для вступу до своєї дисертації. AI створює 10 цитат; Формально всі вони виглядають ідеально. Коли дослідник перевіряє, він бачить, що 4 з них насправді не існують, а 2 з них призначають неправильний рік/автора справжньої статті. Це означає, що 60% цитат невірні. Якби не перевіряв, то включив би у дипломну роботу фейкові джерела.
Дисципліна багаторівневої перевірки
Перевірка – це не те, що можна відкладати, думаючи: «Я подивлюся на це пізніше», це частина робочого процесу. Надійна перевірка складається з п’яти рівнів:
- Повернемося до доказів. Якщо штучний інтелект надав висновок, оцінку чи рекомендацію, перевірте це за допомогою первинного джерела (рецензована стаття, офіційний посібник, інструкція щодо масштабування).
- Тест з клінічним судженням. Чи справді результат має значення для цього клієнта, цього контексту та цієї культури? Зважте це своїм експертним оком.
- Порівняйте з кількома даними. Не покладайтеся на одне речення, один бал або один симптом; Нехай історія, спостереження та вимірювання говорять разом.
- Фільтр етики та конфіденційності. Чи шкодить такий вихід клієнту, стигматизує його, порушує конфіденційність?
- Залиште свій слід. Запишіть, який результат перевірено та як; Нехай потім перевірять.
Підказка: «AI сказав» не є виправданням. Обґрунтуванням клінічного або дослідницького рішення завжди є докази, вимірювання, професійні стандарти або компетентне експертне судження. AI допомагає вам підготувати ці обґрунтування, він не замінює їх.
Копіювані підказки та шаблони
Наступні шаблони забезпечують безпечну роль ШІ. Заповніть квадратні дужки вашим власним (анонімним) контекстом.
Посада: Ви помічник креслення, який допомагає студенту психології. Ви не ставите діагноз, не оцінюєте ризик і не приймаєте рішення про лікування. Ваше завдання лише написати текст і поділитися своїми думками. Якщо сумніваєтеся, пишіть «експертна перевірка». Завдання: [завдання]. Обмеження: Анонімні дані; відсутність стигматизаційної мови; Якщо є вихідна претензія, позначте «потрібне підтвердження».
Перевірте наведену нижче чернетку з трьох аспектів і надайте відгук по пунктах для кожного: 1) речення, що містять клінічно неправильні або надмірні твердження, 2) твердження без джерела, навіть якщо вони вимагають джерела, 3) стигматизація або засудження. Якщо ви не впевнені у власній правильності, пишіть «неперевірено». Текст: [текст]
Розмістіть наступне завдання в зоні ризику (зелений/жовтий/червоний) і запишіть обґрунтування одним реченням. Потім перелічіть кроки перевірки, які відповідають цій зоні. Завдання: [опис роботи]
Які твердження в цьому тексті містять факт/статистичне твердження? Вкажіть кожну в окремому рядку як «претензія, яку потрібно перевірити»; Перевірю з першоджерела. Текст: [текст]
Слабка підказка / Сильна підказка
Слабка підказка: «Який діагноз у цього клієнта на основі його симптомів?»
Ця підказка закликає штучний інтелект виконувати роботу, яку він не може зробити (діагностика), не захищає клієнтські дані та пропонує впевнений, але неточний вихід.
Потужна підказка: «Нижче наведено анонімний підсумок інтерв’ю. НЕ ставте діагноз. Замість цього запропонуйте як контрольний список ті сфери, які я маю додатково оцінити під час клінічної бесіди, і запитання, які я повинен не забути поставити. Позначте, де ви не впевнені».
Ця підказка призначає штучному інтелекту правильну роль (нагадування), захищає дані та покладає відповідальність на експерта.
Поширені помилки
- Помилково сприймаючи схему за клінічний висновок. Вільна та впевнена мова ШІ не є доказом точності; Найпереконливіше речення може виявитися найбільш неправильним реченням.
- Передача червоної зони АІ. Коли штучний інтелект запитує діагноз, ризик і рішення щодо лікування, це намагається перекласти відповідальність на програмне забезпечення; Це і етична, і юридична помилка.
- Пропуск перевірки. Сказати "я все одно перевірю" чи ні - це галюцинація номер один із способів проникнення в звіт.
- Вставлення даних клієнта без захисту. Надання справжніх імен і деталей ШІ є порушенням конфіденційності (див. Розділ 2).
- Призначення ШІ як супервайзера. ШІ займається репетицією випадків, але фактичний контроль, підзвітність і етичний нагляд — це робота людини-наглядача.
Підсумовуючи
У психології ШІ є потужним допоміжним засобом, який генерує мову та контури, але він не є терапевтом, діагностом чи супервізором. Розділіть кожне завдання на зелену/жовту/червону зони ризику; У червоній зоні (діагностика, криза, лікування) клінічне судження та відповідальність завжди залишаються за людиною-експертом. Просійте кожен результат через рівні доказів, клінічне судження, численні дані, етичні фільтри та можливість відстеження. «ШІ сказав» ніколи не є виправданням.
Аплікаційне завдання
Напишіть 6 типових завдань із вашої власної практики (або уявної практики): напр. Електронна пошта для запису на прийом, чернетка сеансу, діагностичне запитання, оцінка кризи, огляд літератури, психоосвітній роздатковий матеріал. Помістіть кожен у зелену/жовту/червону зону та напишіть для кожного правило перевірки одним реченням. Кінцевим результатом є ваша власна «карта ризиків ШІ».
контрольний список
- [ ] Я поставив завдання в зелену/жовту/червону зону.
- [ ] Я не залишав ШІ жодних рішень у червоній зоні.
- [ ] Я анонімізував дані клієнта.
- [ ] Я чітко написав обмеження «діагностика/оцінка ризику» для ШІ.
- [ ] Я пройшов вихід через п’ять рівнів перевірки.
- [ ] Я визнав, що відповідаю за остаточний вміст, і залишив свій слід.