Прибуток:
- Можливість розрізнити, де штучний інтелект економить час у робочому процесі соціальної роботи (резюме, редагування, спрощення, чернетки), а де клінічне судження, ризики та репрезентативні рішення залишаються за людиною, залежно від рівня ризику.
- Здатність застосовувати дисципліну, яка перевіряє кожен результат шляхом етапів пов’язування його з реальними доказами, підтвердження зовнішньої інформації поточними офіційними джерелами та фільтрування її через упередженість.
- Щоб зрозуміти, чому конфіденційність клієнта, відмінність між анонімними та клієнтськими світами даних і відповідальність KVKK слід брати до уваги з самого початку соціальної роботи.
Ви вранці центру соціального обслуговування. Вчора надійшло три нових звернення: від жінки, яка постраждала від насильства, та двох її дітей, літньої людини, яка потребує догляду, та підлітка, якому загрожує кинути школу. На вашому столі лежать чотири звіти про соціальне розслідування, висновок, який вимагає суд, протоколи справи, які потрібно заповнити, і підготовка до домашнього візиту з родиною сьогодні вдень. Соціальна робота (професія та дисципліна, що здійснюються для покращення соціальної функціональності окремих осіб, сімей та спільнот, забезпечення їхнього доступу до прав і добробуту, а також для захисту вразливих груп) — це сфера, яка за своєю суттю потребує документообігу, потребує часу, торкається людського життя та має високу відповідальність. Штучний інтелект (штучний інтелект — програмне забезпечення, яке може витягувати шаблони з історичних даних і створювати або класифікувати текст, резюме, переклади та чернетки) дає вам передишку в цьому навантаженні на документи та тиску часу. Але сам початок цього модуля зрозумілий: ШІ є помічником, узагальнювачем і генератором контурів; Ви компетентний експерт, який приймає оцінку, ризик і остаточне рішення щодо клієнта.
У цьому першому розділі ми зосередимося на дисципліні, а не на інструменті. Ви дізнаєтесь, де штучний інтелект заощаджує час у робочому процесі соціальної роботи, де він небезпечний, як перевірити кожен результат, як захистити конфіденційність і особисті дані клієнта та як бути уважним до упередженості. Без закладення цього фундаменту наступні одиниці залишаються в повітрі, тому що в соціальній роботі неперевірений результат є не просто фальшивим вироком; Це помилка, яка може призвести до того, що дитина буде неправильно оцінена, ризик не помічений, сім’я буде несправедливо стигматизована або витік конфіденційної інформації.
Де штучний інтелект стане в нагоді в робочому процесі соціальної роботи?
Давайте розділимо соціальні роботи на два великі кластери. Перший кластер: документоємні, повторювані, витягувані шаблонами та мовні завдання. Переклад розрізнених нотаток після співбесіди в організований запис справи, хронологічний підсумок довгого файлу, перший скелет звіту про соціальне розслідування, спрощення списку допомоги/послуг відповідно до мови клієнта, чернетка рекомендаційного листа, переклад простого інформаційного тексту для багатомовного клієнта, перша структура аналізу потреб програми. У цих роботах ШІ скорочує години до хвилин і не втомлюється.
Другий кластер: завдання, що вимагають судження, клінічної оцінки, оцінки ризику та відповідальності. Чи в безпеці дитина вдома, індивідуальний рівень ризику самоушкодження, чи потребує сім'я заходів захисту, висновок, з яким звіт буде поданий до суду, чи справді послуга підходить для клієнта. Ці рішення вимагають професійної компетентності, клінічного судження, знання контексту, етичної відповідальності та часто думки міждисциплінарної команди. Тут штучний інтелект розмножує варіанти, генерує чернетки, нагадує про те, що було пропущено, але остаточна оцінка та підпис залишаються за вами.
Давайте з’ясуємо різницю одним реченням: штучний інтелект сильний у питаннях «що в цьому файлі та як виглядає перша чернетка»; Рішення залишається за вами, коли мова йде про такі питання, як «Яка реальна ситуація для цієї людини і чи можу я захистити це від імені своєї професії?»
Порада: перш ніж передати роботу штучному інтелекту, запитайте: «Хто постраждає, якщо результат буде неправильним?» Якщо відповідь «кілька хвилин рефакторингу», делегуйте комфортно. Якщо відповідь: «неправильна оцінка клієнта, ухилення від ризику або витік інформації», дозвольте штучному інтелекту підготувати чернетку, а ви прийміть рішення та перевірку.
Конфіденційність: непорушний принцип
Серцем соціальної роботи є довіра, а довіра базується на конфіденційності. Клієнт повідомляє вам свою найприватнішу, найбільш крихку інформацію — про насильство, бідність, стан здоров’я, сімейні таємниці — покладаючись на професійну конфіденційність. Коли ця інформація потрапляє в чужі руки, це загрожує життю, безпеці та гідності людини. Основне правило тут: жодні особисті дані, які ідентифікують клієнта (ім’я, адреса, TR ID, стан здоров’я, інформація про сім’ю тощо), не будуть введені в загальнодоступний інструмент ШІ, який не схвалено вашою установою. Текст, який ви вводите в загальнодоступну службу ШІ, обробляється на серверах цієї служби; Ви не можете контролювати, хто її бачить, де вона зберігається та чи використовується для навчання моделі. У Туреччині це також юридична відповідальність згідно з KVKK (Закон про захист персональних даних – закон, який регулює обробку персональних даних).
Таким чином, використання штучного інтелекту в соціальній роботі діє у двох окремих світах: загальні інструменти можуть використовуватися для деідентифікованого/загального світу (анонімні чи вигадані приклади, які не ідентифікують клієнта, запитання про загальні знання); У світі клієнтських даних використовуються лише власні безпечні та схвалені системи, які не призводять до витоку даних. Плутання цих двох є найнебезпечнішою помилкою цього модуля.
Застереження: «ШІ так сказав» не є виправданням і не має сили в матеріалах справи. Якщо є неправильне судження, сфабрикована інформація або витік даних, відповідальність належить не штучному інтелекту, а експерту, який використовує ці результати, не перевіряючи їх, або вводить ці дані в інструмент.
Перевірочна дисципліна: три кроки
ШІ створює плавно та впевнено; Це не означає, що це правда. Штучний інтелект час від часу створює галюцинації, тобто представляє як реальний законодавчий акт, якого не існує, послугу, якої не існує, вигадану статистику або заяву, яку клієнт ніколи не говорив. У звіті про соціальні розслідування чи меморандумі про ризик це катастрофічно. Застосуйте триетапний рефлекс до кожного виходу:
- Посилання на джерело/докази. Кожна заява, яку ШІ робить про клієнта, має ґрунтуватися на фактичній записці чи розмові, яку ви дали. «У якій розмові, з чиїх вуст, з яким спостереженням була дана ця інформація?» запитати. ШІ не повинен додавати нічого, чого не сказав клієнт.
- Підтвердьте з незалежного джерела. Перевірте зовнішню інформацію, таку як законодавство, права, послуги, адресу пересилання тощо, з поточного офіційного джерела. Вимоги до заявки або номер телефону, надані ШІ, можуть бути застарілими або фальшивими.
- Пропустіть це через фільтр інтерпретації та упередженості. Чи результати упереджені щодо групи? Чи існує мова, яка стигматизує та звинувачує клієнта? Чи ігнорує сильні сторони? Ваше професійне судження є останнім фільтром.
три міні-чохла
Випадок 1 — Економія часу на документації. Соціальний працівник провів 14 інтерв’ю протягом одного тижня і записав кожне з них. Редагування за допомогою штучного інтелекту скоротило загальний час перекладу цих нотаток у структуровані записи випадків приблизно з 4 годин до 1 години. Але кожен запис був прочитаний експертом і перевірений шляхом порівняння з реальним інтерв'ю; Два речення, які «інтерпретував» ШІ, були видалені.
Випадок 2 — Перевірка спіймала галюцинацію. Експерт поставив ШІ питання про права; YZ сказав: «Для отримання цієї допомоги існує мінімальна вимога щодо проживання 24 місяці». Коли експерт подивився на офіційне законодавство, такої вимоги не було; ШІ змішав два подібних допоміжні засоби та склав умову, якої не існувало. Крок атрибуції запобіг несправедливому відхиленню клієнта.
Випадок 3 — Повернення після порушення конфіденційності. Щоб бути швидким, новий фахівець хотів вставити всю інформацію про справу про захист дітей (включаючи ім’я дитини, адресу, школу) у загальнодоступний інструмент ШІ та надрукувати звіт. Старший експерт зрозумів: це конфіденційні персональні дані в межах КВКК і вийшли. Інцидент розглядався як порушення даних; завдання було перероблено з видаленням облікових даних і використанням лише внутрішнього безпечного методу.
Чотири шаблони, які можна копіювати
1) Оцінка відповідності посаді:
Ваша роль: старший соціальний працівник і супервайзер. Я опишу роботу нижче. Скажіть мені (1) чи є це завдання зведення/редагування/окреслення, яке можна делегувати штучному інтелекту, чи вимагає клінічного судження та оцінки ризику, (2) вартість для клієнта неправильного результату, (3) перевірка, яку мені потрібно зробити до та після делегування. Робота: [вставте тут роботу]
2) Зобов'язання покладатися на докази:
Я вам передам нотатки зустрічі. Під час редагування запису використовуйте ТІЛЬКИ інформацію в примітці. Не додавайте нічого, чого не сказав клієнт, не ставте діагнози, не коментуйте. Позначте спостереження та вираз клієнта окремо. Позначте відсутні або незрозумілі області як «потребує уточнення».
3) Попередня перевірка конфіденційності:
Оцініть наступний текст ДО обробки: чи може цей текст містити персональні дані, що ідентифікують клієнта (ім’я, адреса, TR ID, інформація про здоров’я, сім’ю)? Якщо так, то які розділи? Таким чином, якщо він не повинен оброблятися в загальнодоступному інструменті, попередьте мене та перелічіть поля, які мені потрібно деідентифікувати. Текст: [напишіть текст тут]
4) Перевірка упередженості/мови:
Розглянемо такий випадок: чи існує мова, яка стигматизує, звинувачує або упереджує клієнта щодо групи? Чи ігнорує він сильні сторони та ресурси? Запропонуйте мову, яка є більш шанобливою, орієнтованою на факти та визнає сильні сторони. Не змінюйте запис, просто позначте проблеми з мовою.
Слабка підказка / Сильна підказка
Слабка підказка:
Напишіть звіт про цю сім'ю та вирішіть, чи безпечно дитина вдома.
Ця підказка є безконтекстною та небезпечною: незрозуміло, яку інформацію, яке спостереження, і ШІ запитують, щоб прийняти рішення щодо безпеки дитини. ШІ передбачає, може упереджувати, може компенсувати — і це стосується людського життя.
Потужна підказка:
Ваша роль: помічник редактора соціального працівника. Джерело: записи інтерв’ю та спостереження з вилученою ідентифікаційною інформацією, яку я вставлю нижче. Завдання: створити чорновий скелет звіту про соціальне розслідування, базуючись лише на інформації, що РЕАЛЬНО міститься в цих примітках; Позначте спостереження, заяву клієнта та відсутню інформацію окремо. ПРИЙНЯТТЯ рішення про ризик або безпеку; Я зроблю оцінку. Позначте область, у якій ви не впевнені, як «потребує уточнення».
Різниця очевидна: деідентифікація, обмеження «дійсного проходження», маркування та обмеження «рішення» роблять вихід безпечним і корисним.
Таблиця порівняння ролі/завдання
бізнес
Роль ШІ
чоловіча роль
перевірка
Редагувати запис справи
Налаштуйте нотатку
підтвердження, точність
Порівняння з приміткою
Резюме файлу
хронологічний нарис
Важливість, коментар
Посилання на джерело
Інформація про права/послуги
перший проект
Актуальне підтвердження
офіційне законодавство
оцінка ризику
Запитання/кадр-нагадування
Клінічне судження, рішення
Команда + супервізія
звіт
ескіз скелета
Зміст, думка, підпис
Зіставлення доказів і тверджень
Дизайн програми
Генерація ідеї/рамки
правомочність, рішення
Поле + підтвердження даних
Поширені помилки
- Помилково приймаючи результат штучного інтелекту за оцінку. Результатом завжди є чернетка, яку потрібно перевірити; Він не потрапляє до файлу без зв’язку з доказами.
- Вставлення даних клієнта у відкритий інструмент. Якщо він витік, то це не можна відмінити і є порушенням КВКК; Це найнебезпечніша помилка.
- Попросити штучний інтелект прийняти рішення про ризик/безпеку. Ці рішення вимагають професійних повноважень і відповідальності; ШІ не може приймати рішення.
- Запит, який не потребує доказів. Якщо ви не скажете «Просто використовуйте те, що є в примітці», штучний інтелект може додати те, чого клієнт не сказав.
- Не помічаючи стигматизаційної мови. Мова ШІ може мати упередженість; Мова, яка є шанобливою та враховує сильні сторони, знаходиться під вашим контролем.
Підсумовуючи
ШІ є потужним помічником у соціальній роботі: організовує заплутані нотатки, підсумовує файл, створює чернетки, спрощує, перекладає. Але клінічне судження, оцінка ризику, уявлення та остаточне рішення належать людині. Основою цього модуля є поділ на два етапи (робота з інтенсивним документообігом і рішення щодо суджень/ризику), триетапна перевірка (посилання на докази, незалежне підтвердження, фільтр упереджень), обізнаність про конфіденційність (анонімний світ даних проти світу даних клієнта) і уважність до упередженості.
Аплікаційне завдання
Перелічіть 6 завдань зі свого (або уявного) столу. Класифікуйте кожну з них як «делегований штучним інтелектом резюме/редагування/чернетка» або «клінічне судження/рішення щодо ризику». Для одного з переказних (з вигаданим прикладом, який не ідентифікує клієнта), скористайтеся шаблоном «Оцінка придатності до роботи» вище та отримайте відповідь від ШІ; потім застосуйте триетапну перевірку, а також спробуйте попередню перевірку конфіденційності.
контрольний список
- [ ] Я розділив роботу на два кластери (документальний інтенсивний / судження-ризик).
- [ ] Я застосував триетапну перевірку (докази, незалежне підтвердження, упередженість).
- [ ] Я переконався, що я не надав особисті дані клієнта відкритому інструменту.
- [] Я пов’язав кожну заяву ШІ про клієнта з фактичною запискою.
- [ ] Я перевірив, чи немає у результатах стигматизації/упередженості.