Комплексный рабочий процесс, управление и ответственное использование — Искусственный интеллект в социальной работе

Прибыль:

Возможность последовательного внедрения ИИ на каждом этапе от подачи заявки до закрытия с помощью шести шлюзов проверки человеком.
Способность создать структуру корпоративного управления с утвержденным списком инструментов, политикой данных, ролями, регистрацией, обучением и постоянным контролем.
Способность внедрять в рабочий процесс принципы человеческой ответственности, проверки, конфиденциальности/KVKK, соблюдения доказательств, контроля предвзятости и клиентоориентированности.

В этом модуле мы рассмотрели, как использовать искусственный интеллект и где его остановить в различных задачах социальной работы — документировании, оценке, поддержке рисков, направлении, планировании, отчете, коммуникации, разработке программ. В этом заключительном блоке мы собираем детали воедино: где ИИ будет выполнять все этапы работы от подачи заявки до закрытия дела, какая дверь проверки человеком останавливается на каждом этапе, и мы создадим структуру управления, необходимую для обеспечения устойчивости в организации. Цель состоит в том, чтобы превратить разрозненные советы в последовательную и повторяемую рабочую дисциплину.

Интегративный принцип с самого начала: ИИ является ускорителем на каждом этапе рабочего процесса, а не лицом, принимающим решения на любом этапе. На каждом этапе есть человеческая дверь, и вы не сможете перейти к следующему, не пройдя через одну дверь. Эта многоуровневая структура предотвращает проникновение одной галлюцинации, предвзятости или ошибки конфиденциальности в решение, которое влияет на жизнь клиента.

Сквозной поток и шесть человеческих ворот

Давайте рассмотрим кейс по его типичным стадиям и разместим ворота проверки на каждом этапе:

1. Заявка/первый контакт — Дверь: Конфиденциальность. При поступлении первой информации для подготовки к собеседованию используется ИИ (руководство, рамка вопросов). Дверь: Никакие фактические данные клиента не попадают в открытый инструмент; Спросите класс, подберите автомобиль.

2. Оценка — Ворота: Клиническое заключение. ИИ систематизирует записи по биопсихосоциальным измерениям и напоминает о недостатках и сильных сторонах. Дверь: Диагностика и оценка принадлежат специалисту; ИИ не оценивает.

3. Риск — Дверь: Авторитет и команда. ИИ напоминает о факторах риска/защиты и создает скелет плана безопасности. Дверь: Решение о риске принимается только экспертом, командой, надзором и судебным процессом; ИИ не производит оценки/решения.

4. Планирование и руководство — Дверь: проверка и клиент. ИИ помещает цели в SMART, генерирует идеи ресурсов и черновики писем. Дверь: Клиент ставит цели; Услуга/адрес/условие проверено из официального источника.

5. Отчет и общение — Дверь: доказательства и ответственность. ИИ структурирует отчет, упрощает и переводит текст. Дверь: Каждый случай зависит от доказательств, мнение принадлежит эксперту, критические потери информации и предвзятость проверяются, подпись стоит у человека.

6. Закрытие и передача — Ворота: Точность. YZ резюмирует файл в хронологическом порядке. Дверь: Краткое описание основано только на записях; Результаты и выводы проверяются экспертом.

Совет: используйте один вопрос, чтобы запомнить двери: «На этом этапе ИИ принимает решение или создает эскиз?» Если ответ — «решение», остановитесь — этот шаг принадлежит человеку. Если ответ «черновик», продолжайте, но не переходите к следующему шагу без проверки вывода.

Корпоративное управление: индивидуальной дисциплины недостаточно

Хорошие привычки эксперта ценны, но хрупки; Безопасное и последовательное использование ИИ в организации требует структуры управления. Ключевыми компонентами этой структуры являются:

Утвержденный список транспортных средств. Написано и понятно, какой инструмент будет использоваться для какой работы и какие данные в какой инструмент можно вводить. «Каждый должен использовать тот инструмент, который хочет» — это уязвимость безопасности.
Политика классификации данных. Определяется, какие данные будут обрабатываться в открытом инструменте, а какие — только в защищенной системе.
Роль и авторитет. Понятно, кто и что может делать и от какого органа зависит какое решение (особенно решения о риске).
Журнал и контрольный журнал. Где и как используется ИИ, можно контролировать; Если есть проблема, ее можно оглянуться назад.
Образование и осведомленность. Каждый сотрудник знает принципы этого модуля; Новичок обучен.
Постоянный обзор. Инструменты, риски и изменение законодательства; Структура регулярно обновляется. Политика, однажды написанная и забытая, становится устаревшей.

три мини-кейса

Случай 1 — В дверях обнаружена ошибка в начале цепочки. В одном случае ИИ добавил наблюдение, о котором клиент не упомянул на этапе оценки. На пороге «клинического заключения» эксперт уловил это и удалил. Если бы его не поймали, это сфабрикованное наблюдение могло бы просочиться в план, оттуда в отчет, а оттуда в решение суда. Многоуровневая аутентификация остановила ошибку на самом раннем этапе.

Случай 2 — Руководство предотвратило нарушение. Одна организация работала без утвержденного списка инструментов и политики в отношении данных; Каждый пользовался своим транспортным средством. Проверка показала, что несколько сотрудников вводили реальные данные клиентов в открытые инструменты. В организации создана структура управления: утвержденные инструменты, классификация данных, обучение и регистрация. В последующий период количество нарушений сократилось до нуля. Урок: индивидуальной доброй воли недостаточно без институциональной структуры.

Случай 3 — Постоянное обновление информации. Политика организации в области ИИ, написанная год назад, устарела из-за появления нового типа инструментов и обновленного законодательства. Это отражено в ежегодном обзоре; Политика была обновлена, обучение возобновлено. Рамка осталась живым документом, а не украшением полки.

Четыре копируемых шаблона

1) Контрольный список для проверки потока дел:

Ваша роль: супервайзер. Я получаю контрольный список проверки для следующего шага дела: что может разработать ИИ на этом этапе, какое решение обязательно принимается человеком, какие проверки конфиденциальности и предвзятости следует выполнить, что я должен проверить, прежде чем перейти к следующему шагу? Шаг: [заявка/оценка/риск/план/отчет/закрытие]

2) Подтвержденное соответствие автомобиля:

Для каждого из списков задач ниже укажите тип инструмента ИИ, который можно использовать (открытый инструмент / только безопасная корпоративная система / ИИ недоступен) и обоснование. Отметьте каждую задачу, содержащую данные клиента, как «только безопасная система». Задачи: [перечислить задачи]

3) Проект корпоративной политики в области ИИ:

Ваша роль: редактор корпоративной политики. Разработать политику ответственного использования ИИ для агентства социальных услуг; Охватите следующие темы: цель, утвержденные инструменты, классификация данных, роли и полномочия, конфиденциальность/KVKK, предел принятия решения о риске, запись и аудит, обучение, график проверки. Установить общую структуру; Учреждение само заполнит данные.

4) Саморегуляция (личный обзор использования):

Создайте для меня контрольный список из 10 вопросов, чтобы оценить, как я использую ИИ в качестве социального работника: конфиденциальность, проверка, предвзятость, достоверность доказательств, пределы принятия решений и клиентоориентированность. Пусть на каждый вопрос ответ будет «да/нет».

Слабая подсказка / Сильная подсказка

Слабая подсказка:

Я рассказываю вам все это дело; Вы берете на себя все, от заявления до отчета, я просто подпишу его в конце.

Это передача всего процесса, включая конфиденциальность, клиническое суждение, оценку рисков, соблюдение доказательств, программному обеспечению. Единственная подпись в конце скрывает от нас все ошибки, выдумки и предубеждения между ними.

Мощная подсказка:

Ваша роль: редактор, который помогает мне на каждом этапе пути. Я буду рассматривать дело шаг за шагом (оценка, план, отчет...). На каждом этапе: работайте только с анонимными/защищенными данными, создайте черновик, позвольте мне решить, не добавляйте то, чего нет в примечании, и напомните мне, что мне нужно проверить, прежде чем перейти к следующему шагу. Начнем с этого шага: [шаг]

Разница: охрана двери на каждом шагу и позиционирование ИИ в качестве пошагового помощника обеспечивает безопасность и ответственность человека, сохраняя при этом скорость.

Краткое изложение ответственности перед выходом на сцену

Этап

Вклад ИИ

человеческие ворота

критический контроль

Приложение

Подготовка к собеседованию

конфиденциальность

Класс данных

Оценка

Редактирование размера

клиническое суждение

Ни диагноза, ни изготовления

Риск

Напоминание о факторе

Авторитет + команда

Нет оценки/решения

План/руководство

черновик + идея

Валидация + клиент

Подтверждение источника, приоритет клиента

Сообщить/контакт

Структура + упрощение

Доказательства + ответственность

Мнение эксперта, контроль предвзятости

Закрытие

Хронологическое резюме

точность

основанный на записях

Распространенные ошибки

Передача всего процесса ИИ и подписание единственной подписи в конце. Ошибки между ними не видны; На каждом шагу должны быть двери.
Пройти через дверь, не проверив ее. Изготовление одного этапа наследуется следующим; Каждый вывод проверяется.
Оставляя управление индивидуальной дисциплине. Без институциональной структуры хорошие привычки хрупки.
Напишите политику один раз и забудьте о ней. Меняются инструменты и законодательство; Необходим постоянный обзор.
Не ведение записей. Без аудиторского следа проблему нельзя будет рассмотреть и привлечь к ответственности.

В итоге

В социальной работе ИИ является катализатором на каждом этапе и лицом, принимающим решения ни на одном этапе, от подачи заявления до закрытия дела. Поместите шесть человеческих ворот (конфиденциальность, клиническое суждение, авторитет/команда, валидация/клиент, доказательства/подотчетность, честность) в сквозной поток; Не переходите от одной двери к другой, не пройдя. Для обеспечения устойчивости необходимо корпоративное управление: утвержденный список инструментов, политика данных, роли, регистрация, обучение и постоянный анализ. Шесть основных принципов модуля — ответственность человека, проверка, конфиденциальность/PDPA, приверженность доказательствам, контроль предвзятости и клиентоориентированность — должны быть включены в каждый рабочий процесс.

Задача приложения

Мысленно нарисуйте вымышленное дело от подачи заявления до закрытия; Составьте контрольный список для каждого этапа с помощью шаблона «ворота проверки потока дел». Затем классифицируйте задачи в этом случае как открытый автомобиль/безопасная система/без искусственного интеллекта с помощью шаблона «подтвержденное соответствие транспортного средства». Наконец, оцените себя, создав список из 10 вопросов для собственного использования ИИ с помощью шаблона «самопроверки».

контрольный список

[ ] Я обнаружил шесть человеческих врат в сквозном потоке.
[ ] На каждом этапе «решение или проект?» Я применил вопрос.
[ ] Я сопоставил задачи с правильным типом транспортного средства (открытый/безопасный/нет).
[ ] Я знаю компоненты корпоративного управления (инструмент, данные, роль, регистрация, обучение, обзор).
[ ] Я внедрил шесть принципов модуля в свой рабочий процесс.

Модульный экзамен

1. Что из перечисленного является наиболее точным позиционированием искусственного интеллекта в социальной работе?

А) Искусственный интеллект может определять уровень риска клиента и принимать решение о вмешательстве без одобрения человека.
Б) ИИ — инструмент обобщения, организации, упрощения и составления чертежей; Ответственность за клиническую оценку, риск и окончательное решение лежит на эксперте ✔
В) Искусственный интеллект полезен только для перевода текста и не имеет ничего общего с другими задачами социальной работы.
Г) Поскольку искусственный интеллект всегда более беспристрастен, чем человек, оценку следует оставить ему.

Описание: Искусственный интеллект; Это помощник, который систематизирует заметки, обобщает файл, упрощает текст и создает черновики. Ответственность за клиническое заключение, оценку риска, профессиональное мнение и окончательное решение лежит на компетентном специалисте; Непроверенные данные могут привести к неправильной оценке клиента, уклонению от риска или утечке конфиденциальных данных.

2. Какова наиболее правильная инструкция при преобразовании необработанных записей интервью в историю болезни с помощью искусственного интеллекта?

А) Попросить искусственный интеллект заполнить недостающие части разумным образом, чтобы это выглядело профессионально.
Б) Разрешение ИИ добавлять дополнительные наблюдения для обогащения записи.
В) Попросить учащегося использовать только ту информацию, которая действительно включена в примечание, отметить недостающие элементы как «требует уточнения» и ничего не добавлять ✔
D) Помещать его непосредственно в файл, не сравнивая с заметкой, при условии, что вывод будет плавным.

Пояснение: Самая опасная тенденция ИИ — фальсифицировать наблюдения, цифры или цитаты, которых нет в примечании, чтобы запись выглядела «полной». Правильный подход — сказать «просто используйте то, что в примечании, отмечайте недостающие и ничего не добавляйте». Пробелы не заполнены, они отмечены для уточнения.

3. Почему в материалах дела важно различать «факт» и «интерпретацию»?

А) Факт – это конкретное наблюдение/утверждение, а интерпретация – профессиональный вывод, требующий обоснования; Их следует разделить, а комментарий пометить тегом ✔.
Б) В этом различии нет необходимости; факт и комментарий можно записать одинаково в записи
В) Имеет значение только интерпретация; Это возможно, даже если факты не зафиксированы.
Г) Поскольку искусственный интеллект прекрасно проводит это различие, нет необходимости в человеческом контроле.

Пояснение: «Он трижды плакал во время интервью» — это факт; «Он был в депрессии» — комментарий, который нельзя написать без клинической основы. В протоколе этот факт выдвигается на первый план, а интерпретация включается только с четким обозначением и обоснованием. ИИ может свободно смешивать эти два понятия; Долг человека — проводить различие и избегать стигматизации языка.

4. Какую роль должен играть ИИ в принятии решения о том, в безопасности ли ребенок дома или об уровне риска случая?

А) Искусственный интеллект может прочитать дело, определить уровень риска и принять решение по безопасности.
Б) Ярлык «низкий риск», присвоенный искусственным интеллектом, может перевесить мнение эксперта об обратном.
В) Искусственный интеллект лишь напоминает факторы и систематизирует записи; Решение об уровне риска и безопасности принадлежит эксперту, команде, надзору и судебному процессу ✔
Г) Искусственный интеллект более надежен, чем люди, при принятии решений о риске, поскольку он беспристрастен.

Описание: Уровень риска и решение по безопасности; Это требует профессионального авторитета, клинического суждения, мнения многопрофильной команды, надзора и юридической ответственности. Здесь ИИ может только запоминать факторы риска/защиты и редактировать заметки; не может производить оценки или решения. Он также может приписывать систематический высокий риск группам, находящимся в неблагоприятном положении, из-за систематической ошибки в данных обучения, поэтому его результаты не могут использоваться в качестве решения.

5. Что делать, если искусственный интеллект выдает клиенту справочную информацию, говоря «этот центр, тот телефон»?

А) Подтверждение адреса и номера телефона из официального и действующего источника заведения перед передачей его клиенту ✔
Б) Передача информации непосредственно клиенту, поскольку она представлена уверенно.
В) Предполагая, что информация абсолютно верна, если искусственный интеллект дает текущую дату.
Г) Считая, что нет необходимости проверять достоверность информации, поскольку она где-то упоминается.

Описание. Искусственный интеллект может создавать услуги, требования к приложениям, адреса и номера телефонов или предоставлять устаревшую информацию; Институты сливаются, перемещаются, закрываются. Отправка клиента на непроверенный адрес приведет к напрасному путешествию и потере доверия. Поэтому контактная информация, предоставленная искусственным интеллектом, должна быть подтверждена через собственный официальный канал учреждения перед передачей клиенту.

6. Кто должен устанавливать цели в плане реагирования и какова роль ИИ?

А) Искусственный интеллект должен не только определять цели, но и писать весь план, не спрашивая клиента.
Б) Клиент (совместно со специалистом) определяет цели; ИИ переводит их в формат SMART и структурирует, не добавляя новых целей ✔
В) Цели неважны; Чем больше целей включает в себя план, тем лучше.
Г) Искусственный интеллект может игнорировать приоритеты клиента, потому что это выглядит профессионально.

Описание: Основной ценностью социальной работы является «самоопределение»: клиент устанавливает цели и приоритеты, формируя их с помощью экспертных профессиональных знаний. Искусственный интеллект преобразует эти цели в формат SMART и предлагает шаги и индикаторы; но он не может добавить новые цели, о которых клиент не говорит. Чужой, навязанный извне план не может быть применен к клиенту.

7. В каком отчете социального расследования, представляемом в суд, искусственный интеллект наиболее опасен?

А) Возможность придумывать несуществующие даты, наблюдения или цитаты, чтобы отчет выглядел «полным» ✔
Б) Сделать язык текста слишком формальным
В) Написание отчета короче, чем требуется
Г) Алфавитный порядок названий

Пояснение: Самая опасная тенденция ИИ — добавлять несуществующую дату, наблюдение или цитату, чтобы отчет выглядел «полным». Сфабрикованное предложение в судебном протоколе может как ввести в заблуждение решение, так и подорвать доверие к эксперту. Поэтому каждый случай должен быть связан с реальным интервью/наблюдением/документом, а профессиональное мнение должно формироваться экспертом.

8. Кто должен составлять раздел профессионального мнения и мнений (предложений) отчета о социальном расследовании?

А) Искусственный интеллект; потому что это дает более объективную рекомендацию
Б) Раздел «Мнение» при написании отчета никогда не заполняется.
В) Заключение пишет искусственный интеллект, эксперт подписывает только в конце
Г) Эксперт; профессиональное мнение и мнение являются его авторитетом и ответственностью, искусственный интеллект только уточняет язык ✔

Заявление: Профессиональное мнение и мнение — «это отвечает наилучшим интересам этого ребенка», «это соглашение является уместным» — являются юридическими полномочиями и ответственностью эксперта. «Что я рекомендую искусственному интеллекту?» Этого не спрашивают; Высказанное им «предложение» может быть как сфабрикованным, так и передачей ответственности. В лучшем случае искусственный интеллект проясняет язык заключения эксперта.

9. Что является наиболее важным контролем при упрощении объемного официального письма-подсказки для клиента с искусственным интеллектом?

А) Делайте текст максимально коротким, не вдавайтесь в подробности
Б) Результат выглядит плавно и эстетично
C) Проверка того, что никакие права, условия, суммы, даты или уведомления не были упущены путем сравнения с оригиналом ✔
Г) Упрощение обеспечивает комфорт клиенту, предоставляя ему или ей меньше информации.

Пояснение: Упрощение не означает искажение; «Сократив» или «упростив», ИИ может проглотить право, условие, сумму, дату или уведомление. Клиент может потерять свое право с «простой», но неполной информацией. Поэтому упрощенный текст следует сравнить с оригиналом и убедиться, что никакая важная информация не была потеряна, и даже предоставить искусственному интеллекту список критически важных элементов, которые он защищает.

10. Как правильно относиться к статистике, полученной с помощью искусственного интеллекта, при составлении заявки на финансирование?

А) Непосредственное использование статистики, предоставленной искусственным интеллектом, чтобы она выглядела впечатляюще.
Б) Не заставлять искусственный интеллект составлять статистику, распечатывая [НЕОБХОДИМЫЕ ДАННЫЕ] там, где это необходимо, и помещая каждое число из реального источника ✔
В) Учитывая, что источник неважен, пока номер включен в заявку.
Г) Предполагая, что нет необходимости проверять статистику, потому что ИИ пишет уверенно

Описание: Искусственный интеллект может собирать поразительную, но необоснованную статистику; Цифра без источника почти всегда ненадежна. Сфабрикованная статистика в заявке не только отклонит заявку, но и подорвет доверие к учреждению. Правильный подход — не заставлять ИИ выдумывать цифры («Напишите [ТРЕБУЮТСЯ ДАННЫЕ]»), а помещать каждое число из реального, проверенного источника.

11. Почему вредно спрашивать у искусственного интеллекта «объясните, почему эта семья неспособна воспитывать детей»?

А) Потому что вопрос слишком длинный
Б) Поскольку искусственный интеллект не может предоставить никакой информации по семейным делам
В) Поскольку искусственный интеллект изначально предполагает результат, он (льстиво) выдает голословное и предвзятое подтверждение; Вопрос должен быть нейтральным и взвешенным ✔
Г) Потому что искусственный интеллект всегда будет писать в пользу семьи

Пояснение: Этот вопрос предполагает результат («недостаточный»). ИИ выдает бездоказательный и предвзятый текст, подтверждающий это предположение со своей склонностью к льстивости (подтвердите свою инсинуацию). Предвзятый вопрос порождает предвзятый ответ. Действительно, это нейтральный вопрос, который не предполагает результата, уравновешивает как сильные стороны, так и опасения и требует только доказательств.

12. Как применить «тестирование под углом» для проверки смещения выходных сигналов AI?

А) Подумайте о той же ситуации для другой группы и спросите: «Было бы это написано на том же языке?» ✔ Тестирование двойных стандартов с помощью вопросов
Б) Принять первый ответ искусственного интеллекта как нейтральный и не искать другую точку зрения
В) Задавать только те вопросы, которые поддерживают группу клиента.
Г) Предполагая, что в дополнительном контроле нет необходимости, поскольку в искусственном интеллекте вообще не существует предвзятости.

Пояснение: ИИ может описать одно и то же поведение разным тоном для разных групп (например, «риск пренебрежения» для семьи с низким доходом, «принудительный родитель» для семьи с высоким доходом). Инверсионный тест: «Если бы клиент был из другой социально-экономической/этнической группы, было бы это написано на том же языке?» это спросить; Это делает видимыми двойные стандарты, основанные на стереотипах, а не на доказательствах.

13. Каков правильный подход к обобщению фактического дела клиента (включая имя, адрес, медицинскую информацию)?

А) Для ускорения вставьте его в ближайший общедоступный инструмент искусственного интеллекта и обобщите его.
Б) Обработка файла без соблюдения конфиденциальности, поскольку он короткий
В) Введите все, включая информацию о здоровье, и сохраните только результат.
D) Обработка только в безопасной системе, одобренной учреждением, или с обезличенным текстом, с минимальным количеством данных ✔

Раскрытие информации: персональные данные, идентифицирующие клиента, особенно конфиденциальные данные, такие как здоровье, никогда не вводятся в общедоступный инструмент, не одобренный учреждением; текст может быть обработан, сохранен на внешних серверах или использован при обучении модели, и его утечка необратима. Это тоже нарушение КВКК. Этот тип работы выполняется только в собственных, безопасных, утвержденных системах, которые не допускают утечки данных или обезличенного текста.

14. Почему удаления имен из документа не всегда достаточно, чтобы передать его в общедоступный инструмент?

А) Удаление имен всегда обеспечивает полную анонимность и делает каждый документ безопасным.
Б) Пока документ короткий, невозможно определить идентичность по контексту.
В) Документ, имя которого удалено, полностью выходит за рамки КВКК.
Г) Контекст (район, возраст, событие, структура семьи) может подтвердить идентичность; Защита обеспечивается выбором инструмента и среды ✔

Пояснение: Даже если имена удалены, контекст (редкое сочетание района проживания, возраста, события, даты, семейной структуры и т. д.) может позволить идентифицировать человека; Возможно, он единственный человек в округе, который подходит под это описание. Настоящая защита обеспечивается не маскировкой, а выбором правильного инструмента и среды; Контекст также представляет собой персональные данные, а неопределенная информация должна быть защищена как более высокий класс.

15. От подачи заявления до закрытия дела, каков наиболее эффективный способ предотвратить попадание ни одной ошибки ИИ в окончательное решение?

А) Делегирование всего процесса одному инструменту ИИ и подписание только один раз в конце
Б) Установка шлюза проверки человеком и условия прохождения на каждом этапе (многоуровневая проверка) ✔
В) Удаление промежуточных валидаций на скорость и проверка только на выходном этапе
D) Разрешение каждому эксперту свободно использовать свой инструмент без ведения записей.

Описание: На каждом этапе размещаются шлюзы человеческой проверки (заявка/конфиденциальность, оценка/клиническое заключение, риск/разрешение, план/проверка, отчет/доказательства, закрытие/точность); Вы не можете пройти через одну дверь, не пройдя через другую. Эта многоуровневая структура предотвращает проникновение галлюцинаций, предвзятости или ошибки конфиденциальности на одном этапе в решение, влияющее на клиента.