Прибыль:
- Способность различать, где искусственный интеллект экономит реальное время в работе в области психического здоровья, а где клиническая ответственность и полномочия по диагностике/принятию решений должны оставаться за экспертом-человеком, исходя из уровня риска.
- Способность применять многоуровневую дисциплину проверки, которая проверяет каждый результат ИИ на соответствие доказательствам, источникам и клиническим заключениям.
- Искусственный интеллект — это не терапевт, диагност или супервизор; Способность усвоить четкую концепцию, согласно которой люди и экстренное вмешательство необходимы в случае кризиса/риска.
Психология пытается понять боль, историю и внутренний мир человека; Это профессия, построенная на доверии, отношениях и ответственности. Некоторые части этой работы (написание текста, сканирование исходников, редактирование таблиц, подготовка материалов) можно быстро автоматизировать. Некоторые детали никогда нельзя перенести в машину, потому что они затрагивают жизнь человека. Искусственный интеллект (сокращенно ИИ; программное обеспечение, которое изучает закономерности на основе больших объемов текста и генерирует новый текст, рефераты или код) является мощным помощником в этой профессии: сокращает время просмотра литературы, составления отчета, упрощает психообразовательную брошюру. Но ИИ — не терапевт; Он не знает клиента, не берет на себя ответственность, не поддерживает его во время кризиса и не требует от него этической и юридической ответственности.
Наша цель в этом модуле — сделать из вас специалиста в области психического здоровья, наблюдающего за ИИ, а не практикующего врача, зависящего от ИИ. В этом первом модуле вы узнаете, где использовать ИИ в психологическом бизнесе, где обязательно следует остановиться и как проверять каждый результат.
Что ИИ может и чего не может делать в психологии
Настоящая сила ИИ заключается в создании языка, шаблонов и контуров. Скелет конспекта сессии, схема обзора литературы, урезанная версия психообразовательного текста, план вопросов исследовательской анкеты, вежливый язык электронного письма о встрече; Все это происходит за секунды. В этих задачах ИИ экономит ваше время и снижает умственную нагрузку.
Чего ИИ не может сделать, так это принятия решений, требующих клинического суждения. Постановка диагноза, оценка риска, выбор плана лечения, чтение «становится ли клиент лучше или хуже»; Ничего из этого невозможно сделать, руководствуясь логикой «обычно так бывает». ИИ галлюцинирует, потому что он учится на текстах в Интернете: поэтому источник, который кажется реальным, но не существует, может выдать ложную статистику или выдуманную оценку. В психологии ошибки такого типа — это не просто опечатка; Это означает неправильно направленный клиент, вредное вмешательство или этическое нарушение.
Внимание: данные ИИ представляют собой проект, а не клиническое заключение. Вопросы безопасности, такие как диагностика, оценка риска и решения о лечении, принимаются по решению и под ответственность компетентного эксперта (психолога, психиатра). ИИ не заменяет это рассуждение.
Три региона по уровню риска
Самый практичный способ безопасного использования ИИ — разделить каждую задачу на три зоны в зависимости от уровня риска. Это различие сводится к следующему: «Должен ли ИИ делать это?» На вопросы отвечает быстро и точно.
Регион
Примеры задач
Роль ИИ
Уровень проверки
Зеленый (низкий риск)
Упрощение анонимного психообразовательного текста, электронная почта о встрече, поиск по названию литературы, план презентации
бесплатное производство
Быстрый обзор
Желтый (средний риск)
Черновой вариант протокола сессии, лингвистическое объяснение интерпретации шкалы, план анализа исследования, предложение тематического кода.
Проект + предложение
Экспертная проверка + подтверждение источника/данных
Красный (критичный для безопасности)
Диагностика, оценка риска самоубийства/кризиса, решение о лечении/препаратах, судебно-медицинское заключение
Только напоминание/контрольный список
Компетентное экспертное заключение и ответственность обязательны.
Будьте быстрыми в зеленой зоне. Используйте ИИ в желтой зоне, но проверяйте каждую информацию, количество и источник. В красной зоне последнее слово никогда не остается за ИИ; В лучшем случае, это напоминание, которое напоминает эксперту о контрольном пункте.
три мини-кейса
Случай 1. Экономия времени. Школьный психолог подготовит информационную брошюру «Тестовая тревога у подростков» для группы из 40 родителей. Если писать от руки, это займет около 3 часов. Поручив ИИ написать анонимный черновик, самостоятельно проверив доказательный контент и проверив источники, он заканчивает брошюру за 45 минут. Примерно 75% экономии времени, а за конечный контент отвечает он.
Случай 2 — Где следует остановиться. Специалист передает ИИ записи клиента за три сеанса и спрашивает: «Есть ли у этого человека пограничное расстройство личности?» — спрашивает он. «Симптомы совпадают», — уверенно говорит ИИ. Однако ИИ не видел клиента, не знает анамнеза и не может взвесить дифференциальные диагнозы. Если специалист использует этот вывод в качестве диагноза, он совершит серьезную ошибку; В лучшем случае результатом может быть напоминание в форме «подробнее оцените эти области в ходе интервью».
Случай 3 — Цена галлюцинаций. Исследователь запрашивает у ИИ 10 источников для представления своей диссертации. ИИ производит 10 цитат; Все они выглядят формально идеально. Когда исследователь проверяет, он видит, что 4 из них на самом деле не существуют, а 2 из них присваивают настоящей статье неправильный год/автора. Это означает, что 60% цитат неверны. Если бы он не проверил, то включил бы в свою диссертацию фейковые источники.
Дисциплина многоуровневой проверки
Верификацию — это не то, что следует откладывать с мыслью «Я посмотрю на это позже», это часть рабочего процесса. Надежная проверка состоит из пяти уровней:
- Вернемся к доказательствам. Если ИИ предоставил вывод, оценку или рекомендацию, сверьте его с первоисточником (рецензируемая статья, официальное руководство, руководство по масштабированию).
- Тест с клинической оценкой. Является ли результат действительно значимым для этого клиента, этого контекста и этой культуры? Взвесьте это собственным экспертным взглядом.
- Сравните с несколькими данными. Не полагайтесь на одно предложение, одну оценку или один симптом; Пусть история, наблюдение и измерение говорят вместе.
- Фильтр этики и конфиденциальности. Наносит ли этот вывод вред клиенту, стигматизирует его, нарушает конфиденциальность?
- Оставьте свой след. Запишите, какие выходные данные были проверены и как; Пусть это проверят позже.
Подсказка: фраза «ИИ сказал» не является оправданием. Обоснованием клинического или исследовательского решения всегда являются доказательства, измерения, профессиональные стандарты или компетентное экспертное заключение. ИИ помогает вам подготовить эти обоснования, а не заменяет их.
Копируемые подсказки и шаблоны
Следующие шаблоны обеспечивают безопасность ИИ. Заполните квадратные скобки своим собственным (анонимным) контекстом.
Роль: Вы ассистент по составлению чертежей, помогающий студенту-психологу. Вы не ставите диагноз, не оцениваете риск и не принимаете решение о лечении. Ваша задача — лишь набросать текст и поделиться своими мыслями. Если есть сомнения, пишите «экспертная проверка». Задача: [задача]. Ограничения: Анонимные данные; никаких стигматизирующих высказываний; Если есть претензия к источнику, отметьте «Требуется подтверждение».
Проверьте приведенный ниже проект с трех аспектов и дайте отзыв по каждому пункту: 1) Предложения, содержащие клинически неверные или чрезмерные утверждения, 2) Заявления без источника, даже если для них требуется источник, 3) Стигматизирующие или осуждающие формулировки. Если вы не уверены в собственной точности, пишите «непроверено». Текст: [текст]
Поместите следующую задачу в зону риска (зеленую/желтую/красную) и напишите ее обоснование в одном предложении. Затем перечислите шаги проверки, соответствующие этой зоне. Задача: [описание вакансии]
Какие утверждения в этом тексте содержат фактическое/статистическое утверждение? Укажите каждое в отдельной строке как «заявление, требующее проверки»; Проверю из первоисточника. Текст: [текст]
Слабая подсказка / Сильная подсказка
Слабая подсказка: «Какой диагноз у этого клиента на основании его симптомов?»
Этот запрос призывает ИИ выполнить работу, которую он не может выполнить (диагностировать), не защищает данные клиента и предлагает уверенный, но неточный вывод.
Мощная подсказка: «Ниже приведено краткое содержание анонимного интервью. НЕ ставьте диагноз. Вместо этого предложите в качестве контрольного списка области, которые мне следует дополнительно оценить в клиническом интервью, и вопросы, которые мне следует не забыть задать. Отметьте, где вы не уверены».
Эта подсказка назначает ИИ правильную роль (напоминание), защищает данные и оставляет ответственность за экспертом.
Распространенные ошибки
- Принятие плана за клиническое мнение. Свободный и уверенный язык ИИ не является доказательством точности; Самое убедительное предложение может оказаться самым неправильным предложением.
- Передача красной зоны ИИ. Когда ИИ задает диагноз, принимает решения о риске и лечении, это попытка переложить ответственность на программное обеспечение; Это одновременно этическая и юридическая ошибка.
- Пропуск проверки. Сказать «Я все равно проверю» или нет — это основной способ, которым в отчет проникает галлюцинация.
- Вставка данных клиента без их защиты. Предоставление ИИ настоящих имен и подробностей является нарушением конфиденциальности (см. Модуль 2).
- Ставим ИИ в качестве супервизора. ИИ репетирует дела, но фактический контроль, подотчетность и этический надзор — это работа человека-руководителя.
В заключение
В психологии ИИ — мощный помощник, генерирующий язык и контуры, но он не является терапевтом, диагностом или супервизором. Разделите каждую задачу на зеленую/желтую/красную зону риска; В красной зоне (диагноз, кризис, лечение) клиническое суждение и ответственность всегда остаются за человеком-экспертом. Просеивайте каждый результат через уровни фактических данных, клинические заключения, многочисленные данные, этические фильтры и отслеживаемость. «ИИ сказал» никогда не является оправданием.
Задача приложения
Напишите 6 типичных задач из вашей собственной практики (или воображаемой практики): например. электронная почта о встрече, черновик протокола сеанса, диагностический вопрос, оценка кризиса, обзор литературы, психообразовательный раздаточный материал. Поместите каждый из них в зеленую/желтую/красную зону и напишите для каждого правило проверки из одного предложения. Конечным результатом станет ваша собственная «карта рисков ИИ».
контрольный список
- [ ] Я поместил задачу в зеленую/желтую/красную зону.
- [ ] Я не оставлял никаких решений в красной зоне на усмотрение ИИ.
- [ ] Я анонимизировал данные клиента.
- [ ] Я четко написал ограничение «диагностики/оценки риска» для ИИ.
- [ ] Я пропустил выходные данные через пять уровней проверки.
- [ ] Я признал, что несу ответственность за финальное содержание, и оставил свой след.