Сквозная интеграция: политика этического использования ИИ

Прибыль:

• Способность создать письменную, осуществимую политику использования искусственного интеллекта и порядок принятия решений для психологической практики или учреждения.
• Способность объединить дисциплины по границам, проверке, конфиденциальности и предвзятости, изученные на протяжении всего модуля, в единую систему контроля.
• Способность прозрачно объяснять клиенту использование искусственного интеллекта и соблюдать профессиональную этику и ответственность.

В ходе этого модуля вы узнали, как использовать искусственный интеллект (ИИ) в различных частях психологической работы: обзор литературы, поддержка интерпретации шкалы, маркировка сессий, психообразование, анализ исследований, проверка предвзятости, острый кризис, цифровые инструменты и профессиональное развитие. В каждом блоке существовало три повторяющихся принципа: граница, проверка, конфиденциальность. В этом заключительном разделе мы объединим эти принципы в единую систему: письменную и осуществимую политику использования ИИ. Политика — это не расплывчатое намерение вроде «Я стараюсь использовать ИИ во благо»; Это набор конкретных правил, которым все следуют, которые можно проверять и за которые вы можете нести ответственность перед клиентом. Независимо от того, работаете ли вы один или в учреждении, эта политика представляет собой основу, которая защищает как вас, так и вашего клиента.

Почему письменная политика так важна

Неписаные правила применяются непоследовательно. В один прекрасный день он анонимизирует данные, в один загруженный день вы можете о них забыть; Хотя эксперт может использовать ИИ правильно, коллега может использовать его неправильно. Письменная политика гарантирует три вещи: последовательность (все следуют одним и тем же правилам), подотчетность (если что-то пойдет не так, будет ясно, что и как было сделано) и прозрачность (вы можете четко объяснить клиенту, как вы используете ИИ). С точки зрения профессиональной этики и КВКК «Мы использовали ИИ, но не записывали, как мы им управляли» — несостоятельная позиция.

Внимание: политика ИИ предназначена для поддержания границ, а не для их ослабления. Такие положения, как «Расслабляйте конфиденциальность ради скорости», «Перенаправление на бота в случае чрезвычайной ситуации» описывают источник риска, а не политику. Хорошая политика институционализирует правильный, а не легкий путь.

Шесть основных компонентов политики

компонент

Что определяет

База на модуле

Области использования

В каких задачах используется ИИ (зеленая/желтая зона)

Блок 1

зоны ограниченного доступа

Где ИИ никогда не будет использоваться (диагностика, решение кризисных ситуаций)

Блок 1, 4, 9

Правило данных

Анонимизация и выбор инструментов

Блок 2

правило проверки

Как подтвердить каждый вывод

Блок 3, 5, 7

Предрассудки и язык

Справедливость и контроль стигмы

Блок 8

прозрачность

Как сообщить клиенту

Блок 2, 12

Шаг за шагом: настройка собственной политики

1. Создайте инвентарь задач. Перечислите все задачи, для решения которых ИИ может быть использован на практике; поместите каждого в зеленую/желтую/красную зону.
2. Уточнить запретный список. Четко запишите красную зону (диагноз, решение о риске, кризисное вмешательство, решение о лечении/лекарстве) как запрещенную.
3. Напишите правило данных. Какие данные анонимизируются, какие инструменты одобрены, какие настройки обязательны.
4. Определите этапы проверки. Напишите обязательные шаги подтверждения для каждого типа выходных данных (источник, примечания, анализ).
5. Подготовьте текст прозрачности. Включите использование ИИ в свой текст для просвещения клиентов.
6. Настройте график проверки. Периодически обновлять политику (например, каждые 6 месяцев); Технологии и законодательство меняются.

Совет: Лучший способ протестировать вашу политику — это последовательно выполнять задачи реального дня. По каждому заданию «следовал ли я этому правилу?» Если вы можете четко ответить на вопрос, политика работает; Если вы говорите «в зависимости от ситуации», то этот пункт следует написать более четко.

Прозрачность для клиента

Клиент имеет право знать, какую роль ИИ играет в его процессе. Но объяснять это следует честно, не пугая клиента: «Я использую инструменты искусственного интеллекта в некоторой административной и черновой работе (например, редактирование заметок, подготовка материалов); я анонимизирую ваши данные и всегда принимаю решения о диагностике, оценке и лечении». Это заявление является одновременно этическим обязательством и честностью, способствующей укреплению доверия. Если клиент возражает, его выбор уважается.

три мини-кейса

Случай 1 — Защита полиса. Новый стажер в клинике собирается вставить заметку клиента в инструмент искусственного интеллекта, не анонимизируя ее. Поскольку в письменной политике клиники указано, что «необработанные данные клиента не вводятся ни в какие инструменты искусственного интеллекта; сначала они анонимизируются», и эта политика подписывается в начале работы, стажер останавливается и делает правильный шаг. Без этой политики произошло бы нарушение конфиденциальности. Письменное правило — это страховочная сеть, которая вступает в действие, когда добрые намерения забываются.

Случай 2. Прозрачность укрепляет доверие. На первой встрече эксперт честно объясняет клиенту свое использование ИИ: что он использует, как защищаются данные, решения за ним. Клиент сначала нервничает, но услышав объяснение, он расслабляется и его уверенность возрастает. Прозрачность действует как честность, которая укрепляет доверие, а не как слабость, которую нужно скрывать.

Случай 3 — Активация запрещенного списка. В конце утомительного дня специалист хочет, чтобы ИИ «спросил» о риске клиента. На ум приходит статья в политике учреждения: «Решения о кризисах и рисках нельзя запрашивать у ИИ; эксперт оценивает их напрямую, и при необходимости консультируются с надзором / службой экстренной помощи». Эксперт останавливается и поступает правильно. Банлист политики – это якорь, который напоминает о правильном решении даже в самый утомительный момент.

Копируемые подсказки и шаблоны

Разработать ПОЛИТИКУ ИСПОЛЬЗОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА для психологической практики. Давайте иметь следующие шесть разделов: 1) разрешенные области использования, 2) запрещенные области (диагноз, решение о кризисе, решение о лечении), 3) правила анонимизации данных, 4) этапы проверки, 5) предвзятость и языковой контроль, 6) прозрачность для клиента. Пишите правила четко и убедительно; добавление вещества, которое ослабляет границы.

Разделите следующий список задач на зеленую/желтую/красную зону риска и напишите для каждой правило политики из одного предложения (кто это делает, как это проверяется). Квесты: [список задач]

Напишите абзац, который нужно добавить в текст информации о клиенте, честно и без запугивания объясняя использование искусственного интеллекта: в каких работах он используется, анонимизируются ли данные, что решения о диагностике/лечении принадлежат специалисту, а также право клиента на возражение.

Проверьте этот проект политики использования ИИ: надежно ли он защищает границы, свободны ли запрещенные зоны, выполнены ли шаги по обеспечению конфиденциальности и аутентификации, обеспечена ли прозрачность для клиента? Отмечайте слабые или рискованные предметы. Политика: [проект]

Слабая подсказка / Сильная подсказка

Слабая подсказка: «Напишите нам политику, которая облегчит использование ИИ».

Акцент на «предоставлении возможностей» подталкивает ИИ предлагать положения, ослабляющие границы; тогда как целью политики является не удобство, а защита и подотчетность.

Сильная подсказка: «Разработайте политику использования ИИ, которая соблюдает границы, четко разграничивает запрещенные области (диагноз, кризис, решение о лечении), требует соблюдения конфиденциальности и проверки и включает прозрачность для клиента. Цель состоит не в том, чтобы ослабить использование, а в том, чтобы сделать его безопасным и подотчетным».

Эта подсказка направляет политику к правильной цели (защите); Выходные данные становятся управляемым кадром.

Распространенные ошибки

• Политику вообще не пишу. Помнить о правилах и применять их непоследовательно; Это самая распространенная ошибка.
• Введение пункта, ослабляющего границы. Введение в политику таких правил, как «Ослабление конфиденциальности ради скорости».
• Оставляя запрещенный список расплывчатым. Неясно написано, что решения о диагнозе/кризисе/лечении запрещены.
• Пропуск прозрачности. Совершенно не информируя клиента об использовании ИИ.
• Не обновлять политику. Продолжаем действовать по старым правилам, поскольку технологии и законодательство меняются.

В итоге

Три принципа этого модуля (ограничение, аутентификация, конфиденциальность) объединены в письменную и осуществимую политику использования ИИ. Хорошая политика включает в себя шесть компонентов: разрешенные области использования, запрещенные области (диагноз, кризис, решение о лечении), правила анонимизации данных, этапы проверки, предвзятость и языковой контроль, прозрачность для клиента. Политика существует для того, чтобы поддерживать границы, а не для того, чтобы их ослаблять; Обеспечивает последовательность, подотчетность и прозрачность. Честно объясните клиенту использование ИИ и регулярно обновляйте политику. ИИ ускоряется; Ответственность, решения и этика всегда за вами.

Задача приложения

Напишите одностраничную политику использования ИИ для своей практики или учреждения. Заполните все шесть компонентов (разрешенные поля, запрещенные поля, правило данных, проверка, предвзятость/язык, прозрачность). Затем выполните одну за другой 5 задач из вашего фактического рабочего дня с помощью этой политики и спросите: «Следовал ли я правилу?» для каждого. Проверьте, можете ли вы четко ответить на вопрос. Напишите более четко те вопросы, на которые вы не можете четко ответить.

контрольный список

• [ ] Я письменно определил разрешенные и запрещенные области использования.
• [ ] Я ясно написал, что диагнозы, кризисы и решения о лечении запрещены.
• [ ] Я установил данные/анонимизацию и утвердил правила для транспортных средств.
• [ ] Я написал шаги проверки для каждого типа вывода.
• [ ] Я добавил в политику предвзятость и языковую проверку.
• [ ] Я подготовил текст прозрачности для клиента и установил график проверки.

Модульный экзамен

1. Психолог записывает в искусственный интеллект симптомы, описанные клиентом, и спрашивает: «Какой диагноз у этого клиента?» — спрашивает он. Какой подход наиболее правильный?

• А) Использование ИИ только для предложения возможных концепций; Постановка диагноза на основе клинического интервью, анамнеза и собственного суждения ✔
• Б) Запись диагноза, поставленного искусственным интеллектом, прямо в отчет
• В) Если искусственный интеллект несколько раз ставит один и тот же диагноз, он считается окончательным.
• D) Сокращение интервью и использование искусственного интеллекта для ускорения диагностики.

Описание: Постановка диагноза является критическим с точки зрения безопасности клиническим решением и требует множества данных, клинического интервью, анамнеза и суждения. Искусственный интеллект может помочь предложить возможные концепции, но диагноз ставится на основе клинического заключения компетентного специалиста (психолога/психиатра). Вывод AI не заменяет это решение.

2. Вы хотите объединить запись сеанса клиента в облачный инструмент искусственного интеллекта. Что нужно сделать в первую очередь с точки зрения КВКК и профессиональной тайны?

• А) Вставка записи как есть, с настоящим именем и реквизитами
• Б) Анонимизация контента, мониторинг политики конфиденциальности/данных инструмента и соблюдение системы согласия ✔
• В) Сократите только фамилию клиента, а остальное оставьте как есть.
• D) Хотя конфиденциальность важна, обмен всеми данными для скорости

Пояснение: Данные клиента – это особые персональные данные. Перед передачей в облачный инструмент идентификационная информация, такая как имя, местоположение, дата и рабочее место, должна быть анонимизирована; Если возможно, следует использовать обезличенный контент и гарантировать, что инструмент не использует данные для обучения. Кроме того, необходимо соблюдать информированное согласие клиента.

3. В аннотации к статье, посвященной искусственному интеллекту, говорится, что «размер эффекта в этом исследовании, датированном 2019 годом, составил d = 0,82», но вы не можете найти эту статью. Что вам следует делать?

• А) Использование атрибуции такой, какая она есть, поскольку искусственный интеллект надежен.
• Б) Пишем число, не ища источника, потому что оно кажется разумным
• В) Не принимайте во внимание претензию, пока мы не подтвердим источник и размер эффекта из основного текста ✔
• Г) Спросите другой искусственный интеллект и примите его, если он назовет то же число.

Пояснение: Искусственный интеллект может придумывать ссылки, авторов или цифры, которые кажутся реальными, но не существуют (галлюцинация). Источник, который невозможно найти, или размер эффекта, который невозможно проверить, не используется. Претензия считается недействительной до тех пор, пока не будет подтверждена из первоисточника.

4. Клиент сообщает о суицидальных мыслях во время сеанса. Какова должна быть роль искусственного интеллекта в этой ситуации?

• А) Искусственный интеллект должен оценить риск и передать клиенту план обеспечения безопасности.
• Б) Клиент должен быть перенаправлен в чат-бот с искусственным интеллектом.
• В) Искусственный интеллект должен быть настроен на автоматический вызов службы экстренной помощи.
• Г) Решение и вмешательство принадлежат эксперту; ИИ не может оценить риск, кризис – это ответственность человека ✔

Описание: Риск самоубийства и кризиса — это критическая ситуация с точки зрения безопасности, которая требует клинической оценки в режиме реального времени, участия и ответственности. Искусственный интеллект не может принимать решения, оценивать риски и вмешиваться. Эксперт вмешивается напрямую; При необходимости активируются горячие линии и цепочка человеческой поддержки. В лучшем случае ИИ может служить напоминанием эксперту вне сессии.

5. Какой риск является наиболее критичным в психообразовательной брошюре, созданной с использованием искусственного интеллекта?

• А) Неверная/стигматизирующая информация, побуждающая клиента к самостоятельной диагностике и лечению ✔
• Б) Плохой визуальный дизайн брошюры
• В) Брошюра слишком длинная
• Г) Шрифт мелкий.

Пояснение: Когда психообразовательный материал оказывается в руках клиента, он может превратиться в инструмент самодиагностики и лечения, а неверная или стигматизирующая информация может нанести вред. Поэтому материал должен быть экспертно проверен на предмет доказательности, защищенности и правильности оформления; Следует добавить предупреждение: «Эта информация не заменяет профессиональное суждение».

6. Вы получаете поддержку тематического кодирования от искусственного интеллекта в данных ваших качественных исследований (расшифровках интервью). Какой подход самый здоровый?

• А) Представление кодов, созданных искусственным интеллектом, в качестве окончательного анализа.
• Б) Проверьте, исправьте и обеспечьте надежность, рассматривая коды как первоначальные проекты и считывая данные ✔
• В) Полностью предоставить анализ искусственному интеллекту и вообще не читать данные
• D) Не читать самостоятельно, потому что оно затрагивает темы искусственного интеллекта.

Описание: ИИ обеспечивает скорость создания первоначальных предложений по коду и набросков тем, но качественный анализ требует от исследователя интерпретирующего суждения. Коды искусственного интеллекта — это только начало; Исследователь считывает все данные, проверяет и исправляет коды, а также наблюдает за надежностью между кодировщиками. Кроме того, стенограмма должна быть анонимной.

7. Почему предвзятость представляет собой важный риск с точки зрения психологии в моделях искусственного интеллекта?

• А) Систематическая ошибка – это всего лишь техническая проблема, не имеющая клинического значения.
• Б) В современных моделях смещение полностью устранено.
• C) Результаты модели могут быть искажены культурой/полом/диагнозом и могут ввести в заблуждение и нанести ущерб оценке ✔
• Г) Предвзятость возникает только в моделях, создающих изображения.

Описание. Поскольку модели часто обучаются на данных конкретных культур и языков, они могут нести диагностические, культурные и гендерные предубеждения; может воспринимать симптом как «нормальный» в одной группе и как «патологический» в другой группе или использовать стигматизирующие высказывания. Это может исказить и повредить оценку; Результаты должны быть проверены для различных групп и культур.

8. Вы рассматриваете возможность порекомендовать своему клиенту терапевтического чат-бота. Что вам следует сделать в первую очередь?

• А) Напрямую рекомендую, потому что он популярен
• Б) Заявление о том, что бот может заменить терапию и сокращение сеансов
• В) Предложение клиенту довериться боту в кризисной ситуации.
• D) Проведите аудит доказательств, безопасности, конфиденциальности и клинической пригодности и позиционируйте бота как ограниченное дополнение ✔

Объяснение: Прежде чем рекомендовать цифровой инструмент для психического здоровья, необходимо проанализировать его доказательную базу, безопасность (кризисное управление), политику конфиденциальности/данных и соответствие клинической ситуации клиента. Бота следует позиционировать не как замену человеческой терапии, а как ограниченное дополнение, и клиенту следует четко объяснить, что он неадекватен в кризисных ситуациях.

9. МА подготовила проект протокола заседания. Какой самый важный шаг следует предпринять перед использованием этого плана?

• А) Проверьте черновик, сравнив его с тем, что на самом деле произошло на сеансе, исправьте сфабрикованный/отсутствующий контент и возьмите на себя ответственность ✔
• Б) Сохранение черновика в файл как есть
• В) Предполагая, что черновик правильный, потому что он написан бегло.
• Г) Попросите клиента одобрить черновик и использовать его без изменений.

Пояснение: В проект ИИ может быть добавлена ​​важная информация, которая была опущена, составлены утверждения, которые на самом деле не были сказаны (галлюцинации), или предоставлены клинически неверные формулировки. Эксперт сравнивает проект с тем, что реально произошло на заседании, проверяет его, корректирует и несет ответственность за итоговое содержание. Записка является юридическим и клиническим документом.

10. Что из перечисленного является задачей «зеленой зоны» (низкого риска) при использовании искусственного интеллекта в психологии?

• А) Решение о том, подвержен ли клиент риску самоубийства
• Б) Подготовка черновика упрощенного языка анонимного психообразовательного текста ✔
• В) Постановка окончательного диагноза по шкале
• D) Создание рекомендаций по лекарствам

Пояснение: Такие задачи, как упрощение языка анонимного психообразовательного текста или составление электронного письма с напоминанием о встрече, несут низкий риск, поскольку они не требуют диагностики/решения и безопасны для использования при быстром просмотре. Диагностика, оценка риска и решение о лечении находятся в красной (критической для безопасности) зоне.

11. Каков наиболее важный предел при использовании искусственного интеллекта при интерпретации психометрического теста?

• А) Поскольку искусственный интеллект интерпретирует оценку, нет необходимости в комментариях экспертов.
• Б) Достаточно сказать искусственному интеллекту название теста
• В) Интерпретация вытекает не из одной оценки, а из клинической оценки и множества данных; Соблюдение авторских прав и контекста норм ✔
• D) Пороговый балл одинаков в каждой культуре.

Пояснение: Оценка по шкале/тесту представляет собой фрагмент данных; Диагноз и клиническая интерпретация не основываются на одном балле. Кроме того, многие тесты защищены авторским правом и являются контекстно-зависимыми. Искусственный интеллект может обеспечить описание подшкалы и лингвистическую поддержку, но интерпретация осуществляется экспертом в рамках клинического суждения, множества данных и культурной достоверности.

12. Почему ИИ не может заменить реальный надзор?

• А) Искусственный интеллект заменяет надзор, поскольку он реагирует быстрее
• Б) Надзор в любом случае не нужен
• В) Искусственный интеллект считается руководителем, поскольку он лицензирован.
• Г) Искусственный интеллект не берет на себя ответственность, не знает реального контекста и не может обеспечить этический контроль; Для надзора требуется эксперт-человек ✔

Описание: Надзор; Это супервизия компетентного профессионала, который несет ответственность, поддерживает отношения и знает реальный контекст клиента и развитие терапевта. ИИ может помочь с репетицией случая и составлением формулировок, но он не берет на себя клиническую ответственность, не знает реального контекста и не может обеспечить этический/юридический надзор. Для надзора требуются эксперты-люди.

13. Вы готовите политику использования искусственного интеллекта для психологического учреждения. Что из перечисленного должно быть включено?

• А) Правило анонимности, запрещенные области использования, обязательная проверка и прозрачность для клиента ✔
• Б) Разрешение передавать данные клиента без их анонимизации для повышения скорости.
• В) Передача диагностических решений искусственному интеллекту
• Г) Перенаправление кризисных ситуаций в чат-бот

Описание: Хорошая политика; Он определяет, какие данные могут быть переданы инструменту (правило анонимизации), запрещенные области использования, такие как диагностика/кризис, обязательные этапы проверки и прозрачность для клиента. Такие положения, как «Экспресс-конфиденциальность ради скорости», представляют собой этический и юридический риск; Политика существует для того, чтобы поддерживать границы, а не для того, чтобы их ослаблять.

14. Что из следующего является веским обоснованием проверки результатов ИИ?

• А) Это правильно, потому что искусственный интеллект дает один и тот же ответ более одного раза.
• Б) Заявление подтверждено первичными доказательствами, действительными измерениями и компетентным экспертным заключением ✔
• В) Ответ правильный, потому что он написан бегло и убедительно.
• Г) ИИ — мощная модель, поэтому ее результаты точны.

Описание: Обоснование заявления о клиническом или исследовательском исследовании; первичные доказательства, действительные измерения, применимые этические/профессиональные стандарты и компетентное профессиональное суждение. «ИИ сказал», «бегло написал» или «дал одно и то же несколько раз» не являются действительными оправданиями; Это не признаки истины, а в лучшем случае последовательности.