Прибыль:
- Способность различать, где искусственный интеллект экономит время в рабочем процессе социальной работы (сводка, редактирование, упрощение, черновик), а где клиническое суждение, риск и решения о представлении оставляются на усмотрение человека, в зависимости от уровня риска.
- Способность применять дисциплину, которая проверяет каждый результат посредством привязки его к реальным доказательствам, подтверждения внешней информации текущими официальными источниками и ее фильтрации через предвзятость.
- Чтобы понять, почему конфиденциальность клиентов, различие между анонимным миром и миром клиентских данных, а также ответственность KVKK должны приниматься во внимание с самого начала в социальной работе.
Вы утром в центре социального обслуживания. Вчера поступило три новых заявления: женщина, ставшая жертвой насилия, и двое ее детей, пожилой человек, нуждающийся в уходе, и подросток, рискующий бросить школу. На вашем столе лежат четыре отчета социального расследования, запрошенное судом заключение, материалы дела, которые необходимо заполнить, и подготовка к посещению семьи сегодня днем. Социальная работа (профессия и дисциплина, осуществляемые с целью улучшения социальной функциональности отдельных лиц, семей и сообществ, обеспечения их доступа к правам и благосостоянию, а также защиты уязвимых групп) является областью, которая по своей сути требует большого количества документов, ограничена во времени, затрагивает человеческую жизнь и несет высокую ответственность. Искусственный интеллект (ИИ — программное обеспечение, которое может извлекать закономерности из исторических данных и создавать или классифицировать текст, резюме, переводы и черновики) дает вам передышку при нагрузке на этот документ и ограничении времени. Но самое начало этого модуля понятно: ИИ — помощник, обобщатель и генератор контуров; Вы компетентный эксперт, который производит оценку, риски и окончательное решение по клиенту.
В этом первом разделе мы сосредоточимся на дисциплине, а не на инструменте. Вы узнаете, где ИИ позволяет в режиме реального времени экономить время в рабочем процессе социальной работы, где он опасен, как проверять каждый результат, как защитить конфиденциальность и личные данные клиентов и как оставаться внимательными к предвзятости. Без закладки этого фундамента последующие единицы остаются в воздухе — ведь в социальной работе непроверенный вывод — это не просто ложное предложение; Это ошибка, которая может привести к неправильному суждению о ребенке, к тому, что риск будет упущен из виду, к несправедливой стигматизации семьи или к утечке конфиденциальной информации.
Где ИИ может пригодиться в процессе социальной работы?
Давайте разделим рабочие места в сфере социальной работы на два больших кластера. Первый кластер: документоемкие, повторяющиеся, извлекаемые по шаблону задачи, основанные на языке. Перевод разрозненных заметок после интервью в организованную историю болезни, хронологическое изложение длинного дела, первый фрагмент отчета о социальном расследовании, упрощение списка помощи/услуг в соответствии с языком клиента, черновик рекомендательного письма, перевод простого информационного текста для многоязычного клиента, первая структура анализа потребностей программы. На этих работах ИИ сокращает часы до минут и не устает.
Второй кластер: задачи, требующие рассудительности, клинической оценки, оценки риска и ответственности. В безопасности ли ребенок дома, уровень индивидуального риска членовредительства, нужны ли семье защитные меры, мнение, с которым будет представлен отчет в суд, действительно ли услуга подходит клиенту. Эти решения требуют профессиональной компетентности, клинического суждения, знания контекста, этической ответственности и часто мнения междисциплинарной команды. Здесь ИИ умножает варианты, генерирует черновики, напоминает о том, что было упущено — но окончательная оценка и подпись за вами.
Давайте проясним разницу в одном предложении: ИИ силен в вопросах «что находится в этом файле и как выглядит первый черновик»; Решение за вами, когда дело доходит до таких вопросов, как «Какова реальная ситуация для этого человека и могу ли я защитить ее от имени своей профессии?»
Совет: прежде чем поручить работу ИИ, спросите: «Кто пострадает, если этот результат окажется неправильным?» Если ответ — «несколько минут рефакторинга», делегируйте с комфортом. Если ответ «неправильная оценка клиента, уклонение от риска или утечка информации», позвольте ИИ подготовить проект, а вы примете решение и проверку.
Конфиденциальность: нерушимый принцип
Сердцем социальной работы является доверие, а доверие основано на конфиденциальности. Клиент рассказывает вам свою самую личную и самую хрупкую информацию — насилие, бедность, состояние здоровья, семейные тайны — полагаясь на профессиональную конфиденциальность. Когда эта информация попадает в чужие руки, она ставит под угрозу жизнь, безопасность и достоинство человека. Основное правило здесь: никакие персональные данные, идентифицирующие клиента (имя, адрес, TR ID, состояние здоровья, семейная информация и т. д.), не будут введены в общедоступный инструмент искусственного интеллекта, который не одобрен вашим учреждением. Текст, который вы вводите в общедоступную службу ИИ, обрабатывается на серверах этой службы; Вы не можете контролировать, кто его видит, где он хранится и используется ли при обучении модели. В Турции это также является юридической ответственностью в соответствии с KVKK (Закон о защите персональных данных – закон, регулирующий обработку персональных данных).
Таким образом, использование ИИ в социальной работе происходит в двух отдельных мирах: общие инструменты могут использоваться для деидентифицированного/общего мира (анонимные или вымышленные примеры, которые не идентифицируют клиента, вопросы общего характера); Для обработки клиентских данных используются только собственные, безопасные и одобренные системы, которые не допускают утечки данных. Спутать эти два понятия — самая опасная ошибка этого модуля.
Внимание: «Так сказал ИИ» не является оправданием и не имеет силы в материалах дела. В случае ошибочной оценки, сфабрикованной информации или утечки данных ответственность лежит не на ИИ, а на эксперте, который использует эти выходные данные без их проверки или вводит эти данные в инструмент.
Дисциплина проверки: три шага
ИИ производит плавно и уверенно; Это не значит, что это правда. ИИ время от времени порождает галлюцинации — то есть выдает за реальный несуществующий законодательный акт, несуществующую услугу, выдуманную статистику или утверждение, которого клиент никогда не говорил. В отчете о социальном расследовании или меморандуме о рисках это является катастрофой. Примените трехшаговый рефлекс к каждому выходу:
- Ссылка на источник/доказательства. Каждое заявление ИИ о клиенте должно быть основано на реальной заметке или разговоре, который вы дали. «В каком разговоре, из чьих уст, с каким наблюдением была дана эта информация?» просить. ИИ не должен добавлять ничего, чего не сказал клиент.
- Подтвердите с помощью независимого источника. Проверьте внешнюю информацию, такую как закон, права, услуги, адрес пересылки и т. д., из текущего официального источника. Требование к заявке или номер телефона, предоставленный AI, могут быть устаревшими или поддельными.
- Пропустите это через фильтр интерпретации и предвзятости. Предвзяты ли результаты в отношении группы? Существуют ли формулировки, стигматизирующие и обвиняющие клиента? Игнорирует ли он сильные стороны? Ваше профессиональное суждение является последним фильтром.
три мини-кейса
Случай 1. Документирование сэкономило время. Социальный работник провел 14 интервью за неделю и вел записи каждого из них. Редактирование с помощью искусственного интеллекта сократило общее время перевода этих заметок в структурированные истории болезни примерно с 4 часов до 1 часа. Но каждая запись была прочитана экспертом и проверена путем сравнения с реальным интервью; Два предложения, которые «интерпретировал» ИИ, были удалены.
Случай 2 — Проверка поймала галлюцинацию. Эксперт задал ИИ вопрос о правах; YZ сказал: «Для получения этой помощи требуется минимальный срок проживания в 24 месяца». Когда эксперт ознакомился с официальным законодательством, такого требования не было; ИИ смешал два одинаковых средства и создал состояние, которого не существовало. Этап атрибуции предотвратил несправедливый отказ клиенту.
Случай 3 — Возврат от нарушения конфиденциальности. Чтобы побыстрее, новый специалист хотел вставить всю информацию о деле о защите детей (включая имя ребенка, адрес, школу) в общедоступный инструмент искусственного интеллекта и распечатать отчет. Старший эксперт понял: это конфиденциальные персональные данные в рамках КВКК, и они были скрыты. Инцидент был расценен как утечка данных; задание было переделано с удалением учетных данных и использованием только собственного безопасного метода.
Четыре копируемых шаблона
1) Оценка пригодности к работе:
Ваша роль: старший социальный работник и руководитель. О работе я опишу ниже. Скажите мне (1) является ли эта работа по подведению итогов/редактированию/обрисовыванию, которую можно делегировать ИИ, или она требует клинической оценки и оценки рисков, (2) цена для клиента неправильных результатов, (3) проверка, которую мне нужно сделать до и после делегирования. Работа: [вставьте сюда работу]
2) Обязанность опираться на доказательства:
Я передам вам записи встречи. При редактировании записи используйте ТОЛЬКО информацию из примечания. Не добавляйте ничего того, что не сказал клиент, не ставьте диагнозы, не комментируйте. Обозначьте наблюдение и выражение лица клиента отдельно. Отметьте недостающие или неясные области как «требует уточнения».
3) Предварительная проверка конфиденциальности:
Оцените следующий текст ПЕРЕД обработкой: может ли этот текст содержать персональные данные, идентифицирующие клиента (имя, адрес, TR ID, состояние здоровья, семейные данные)? Если да, то в каких разделах? Таким образом, если его не следует обрабатывать в общедоступном инструменте, предупредите меня и перечислите поля, которые мне нужно деидентифицировать. Текст: [напишите текст здесь]
4) Предвзятость/проверка языка:
Рассмотрим следующую историю болезни: Существуют ли выражения, которые стигматизируют, обвиняют или предвзято относятся к клиенту по отношению к группе? Игнорирует ли он сильные стороны и ресурсы? Предлагайте более уважительный, ориентированный на факты и учитывающий сильные стороны язык. Не меняйте запись, просто отмечайте языковые проблемы.
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Напишите отчет об этой семье и решите, в безопасности ли ребенок дома.
Эта подсказка бесконтекстна и опасна: непонятно, какая информация, какое наблюдение и ИИ просят принять решение о безопасности ребенка. ИИ предсказывает, может предвзято, может придумывать — и это касается человеческой жизни.
Мощная подсказка:
Ваша роль: помощник редактора социального работника. Источник: записи интервью и наблюдений с удаленной идентифицирующей информацией, которую я вставлю ниже. Задача: создать черновой вариант акта социального расследования, основываясь только на информации, ДЕЙСТВИТЕЛЬНО содержащейся в этих заметках; Отметьте наблюдение, заявление клиента и недостающую информацию отдельно. ПРИНЯТИЕ решения о риске или безопасности; Я сделаю оценку. Отметьте область, в которой вы не уверены, как «нужно уточнить».
Разница очевидна: деидентификация, ограничение «true-passing», маркировка и ограничение «решения» делают выходные данные безопасными и полезными.
Сравнительная таблица ролей и задач
бизнес
Роль ИИ
роль мужчины
проверка
Редактировать запись дела
Настройка заметки
подтверждение, точность
Сравнение с примечанием
Сводка файла
хронологический план
Важность, комментарий
Ссылка на источник
Информация о правах/услугах
первый черновик
Текущее подтверждение
официальное законодательство
оценка риска
Напоминание о вопросе/кадре
Клиническая оценка, решение
Команда + контроль
Отчет
эскиз скелета
Содержание, мнение, подпись
Соответствие доказательств и заявлений
Дизайн программы
Генерация идеи/структуры
право на участие, решение
Поле + подтверждение данных
Распространенные ошибки
- Принятие вывода ИИ за оценку. Выходные данные всегда представляют собой черновик, подлежащий проверке; Он не попадает в дело без привязки к доказательствам.
- Вставка данных клиента в открытый инструмент. В случае его утечки его невозможно отменить и является нарушением КВКК; Это самая опасная ошибка.
- Просить ИИ принять решение о риске/безопасности. Эти решения требуют профессионального авторитета и ответственности; ИИ не может принимать решения.
- Запрос, не требующий доказательств. Если вы не скажете: «Просто используйте то, что в примечании», ИИ может добавить то, что клиент не сказал.
- Не замечая стигматизирующего языка. Язык ИИ может иметь предвзятость; Уважительный язык, учитывающий сильные стороны, находится под вашим контролем.
В итоге
ИИ — мощный помощник в социальной работе: систематизирует беспорядочную заметку, обобщает файл, создает черновики, упрощает, переводит. Но клиническое суждение, оценка риска, представление и окончательное решение принадлежат человеку. В качестве основы этого модуля сделайте разделение на два набора (интенсивная работа с документами и принятие решений о риске), трехэтапную проверку (связь с доказательствами, независимое подтверждение, фильтр предвзятости), осведомленность о конфиденциальности (анонимность и мир данных клиента) и предупреждение предвзятости.
Задача приложения
Перечислите 6 задач со своего (или воображаемого) стола. Классифицируйте каждое из них как «резюме/редактирование/проект, делегируемое ИИ» или «клиническое заключение/решение о риске». Для одного из передаваемых (с вымышленным примером, не идентифицирующим клиента) используйте приведенный выше шаблон «Оценка пригодности к работе» и получите ответ от ИИ; затем примените трехэтапную аутентификацию и попробуйте также предварительную проверку конфиденциальности.
контрольный список
- [ ] Я разделил работу на два блока (интенсивный документооборот/оценка риска).
- [ ] Я применил трехэтапную проверку (доказательства, независимое подтверждение, предвзятость).
- [ ] Я убедился, что не предоставил в открытый инструмент личные данные, идентифицирующие клиента.
- [ ] Я связал каждое заявление ИИ о клиенте с реальной заметкой.
- [ ] Я проверил вывод на наличие стигматизирующих/предвзятых высказываний.