Печалби:
- Да можеш да разграничиш къде изкуственият интелект спестява време в работния процес на социалната работа (обобщение, редактиране, опростяване, чернова) и къде клиничната преценка, рисковете и решенията за представяне са оставени на човека, в зависимост от нивото на риск.
- Способност за прилагане на дисциплина, която проверява всеки изход чрез стъпките на свързването му с реални доказателства, потвърждаване на външна информация с текущи официални източници и филтрирането й чрез пристрастия.
- За да разберем защо поверителността на клиента, разграничението между анонимни и клиентски светове на данни и отговорността на KVKK трябва да се вземат под внимание от самото начало в социалната работа.
Вие сте сутринта в център за социални услуги. Вчера са постъпили три нови молби: жена, жертва на насилие, и двете й деца, възрастен човек, нуждаещ се от грижи, и тийнейджър в риск от отпадане от училище. На бюрото ви има четири доклада за социално разследване, поискано от съда становище, протоколи от дела, които трябва да бъдат попълнени, и подготовка за домашно посещение със семейството този следобед. Социалната работа (професия и дисциплина, извършвана за подобряване на социалната функционалност на индивиди, семейства и общности, за осигуряване на техния достъп до права и благосъстояние и за защита на уязвими групи) е област, която по своята същност е интензивна на документи, натискана от време, засяга човешкия живот и носи висока отговорност. Изкуственият интелект (AI - софтуер, който може да извлича модели от исторически данни и да произвежда или класифицира текст, резюмета, преводи и чернови) ви дава глътка въздух в това натоварване на документи и времеви натиск. Но самото начало на този модул е ясно: AI е асистент, обобщител и генератор на контури; Вие сте компетентният експерт, който прави оценката, риска и крайното решение за клиента.
В тази първа част ще се фокусираме върху дисциплината, а не върху инструмента. Ще научите къде AI спестява реално време в работния процес на социалната работа, къде е опасно, как да проверявате всеки изход, как да защитавате поверителността и личните данни на клиента и как да бъдете нащрек за пристрастия. Без да се постави тази основа, следващите единици остават във въздуха - защото в социалната работа непровереният резултат не е просто невярно изречение; Това е грешка, която може да доведе до погрешна преценка на дете, пренебрегване на риск, несправедливо стигматизиране на семейство или изтичане на чувствителна информация.
Къде AI е полезен в работния процес на социалната работа?
Нека разделим работните места за социална работа на два големи клъстера. Първият клъстер: задачи, изискващи много документи, повтарящи се, извличащи се чрез шаблони и базирани на езика. Превод на разпръснати бележки след интервю в организиран запис на случай, хронологично резюме на дълъг файл, първи скелет на доклад за социално разследване, опростяване на списък с помощ/услуги, за да отговаря на езика на клиента, чернова на писмо за препоръка, превод на прост информационен текст за многоезичен клиент, първа рамка на анализ на нуждите на програмата. В тези работни места AI намалява часовете до минути и не се уморява.
Втори клъстер: задачи, изискващи преценка, клинична оценка, преценка на риска и отговорност. Дали детето е в безопасност у дома, индивидуалното ниво на риск от самонараняване, дали семейството се нуждае от защитни мерки, мнението, с което докладът ще бъде представен на съда, дали дадена услуга е наистина подходяща за клиента. Тези решения изискват професионална компетентност, клинична преценка, познаване на контекста, етична отговорност и често мнение на мултидисциплинарен екип. Тук AI умножава опциите, генерира чернови, напомня ви за това, което е било пренебрегнато - но крайната оценка и подпис са ваши.
Нека изясним разграничението с едно изречение: AI е силен по въпросите „какво има в този файл и как изглежда първата чернова“; Решението е ваше, когато става въпрос за въпроси като „Каква е реалната ситуация за този човек и мога ли да го защитя от името на моята професия?“
Съвет: Преди да възложите работа на AI, попитайте: „Кой ще бъде наранен, ако този резултат е грешен?“ Ако отговорът е „няколко минути рефакторинг“, делегирайте удобно. Ако отговорът е „грешна оценка на клиент, избягване на риск или изтекла информация“, оставете AI да създаде черновата и вие вземете решението и проверката.
Поверителност: неприкосновен принцип
Сърцето на социалната работа е доверието, а доверието се основава на поверителността. Клиентът ви съобщава най-личната си, най-крехката информация - насилие, бедност, здравословно състояние, семейни тайни - разчитайки на професионална поверителност. Когато тази информация попадне в неподходящи ръце, тя застрашава живота, сигурността и достойнството на човек. Основното правило тук: Никакви лични данни, които идентифицират клиента (име, адрес, TR ID, здравословно състояние, информация за семейството и т.н.), няма да бъдат въведени в публичен AI инструмент, който вашата институция не е одобрила. Текстът, който въвеждате в публична AI услуга, се обработва на сървърите на тази услуга; Не можете да контролирате кой го вижда, къде се съхранява и дали се използва при обучението на модела. В Türkiye това също е правна отговорност съгласно KVKK (Закон за защита на личните данни - законът, който регулира обработката на лични данни).
Следователно използването на AI в социалната работа работи в два отделни свята: общите инструменти могат да се използват за деидентифицирания/генеричния свят (анонимни или измислени примери, които не идентифицират клиента, въпроси с общо знание); За света на клиентските данни се използват само вътрешни, защитени, одобрени системи, които не изпускат данни. Объркването на двете е най-опасната грешка на този модул.
Внимание: „ИИ каза така“ не е оправдание и няма сила в досие. Ако има погрешна преценка, изфабрикувана информация или изтекли данни, отговорността не принадлежи на AI, а на експерта, който използва този резултат, без да го проверява или въвежда тези данни в инструмента.
Дисциплина за проверка: три стъпки
AI произвежда плавно и уверено; Това не означава, че е истина. AI от време на време създава халюцинации - тоест представя като реален законодателен акт, който не съществува, услуга, която не съществува, измислена статистика или изявление, което клиентът никога не е казвал. В доклад за социално разследване или меморандум за риска това е катастрофално. Приложете рефлекс в три стъпки към всеки изход:
- Връзка към източник/доказателство. Всяко изявление, което AI прави за клиента, трябва да се основава на действителната бележка или разговор, който сте дали. „В кой разговор, от чия уста, с какво наблюдение е дадена тази информация? попитайте. AI не трябва да добавя нищо, което клиентът не е казал.
- Потвърдете с независим източник. Проверете външна информация като закон, права, услуга, адрес за препращане и т.н. от текущия официален източник. Изискване за кандидатстване или телефонен номер, предоставени от AI, може да са остарели или фалшиви.
- Прекарайте го през филтъра на интерпретацията и пристрастията. Резултатът предубеден ли е спрямо група? Има ли език, който стигматизира и обвинява клиента? Пренебрегва ли силните страни? Вашата професионална преценка е последният филтър.
три мини калъфа
Случай 1 — Спестено време за документация. Социален работник проведе 14 интервюта за една седмица и си водеше бележки за всяко от тях. Редактирането с помощта на AI намали общото време за превод на тези бележки в структурирани записи на случаи от приблизително 4 часа на 1 час. Но всеки запис беше прочетен от експерта и проверен чрез сравняването му с действителното интервю; Две изречения, които AI "интерпретира", бяха изтрити.
Случай 2 — Проверката е уловила халюцинация. Експерт зададе на AI въпрос за правата; YZ каза: „Има изискване за минимално пребиваване от 24 месеца за тази помощ.“ Когато експертът погледна официалното законодателство, нямаше такова изискване; AI беше смесил две подобни помощи и измисли условие, което не съществуваше. Стъпката на приписване предотврати несправедливото отхвърляне на клиента.
Случай 3 — Връщане след нарушение на поверителността. За да бъде бърз, нов професионалист искаше да постави цялата информация за случай на закрила на детето (включително името на детето, адреса, училището) в публичен AI инструмент и да отпечата отчет. Старши експертът разбра: това са чувствителни лични данни в обхвата на КВКК и са излезли. Инцидентът беше третиран като нарушение на данните; работата беше преработена с премахнати идентификационни данни и само вътрешен защитен метод.
Четири копируеми шаблона
1) Оценка на работното място:
Вашата роля: старши социален работник и супервайзер. Ще опиша работата по-долу. Кажете ми (1) дали това е задача за резюме/редактиране/очертаване, която може да бъде делегирана на AI, или такава, която изисква клинична преценка и преценка на риска, (2) цената за клиента на неправилен изход, (3) проверката, която трябва да направя преди и след делегирането. Работа: [вмъкнете работа тук]
2) Задължение за позоваване на доказателства:
Ще ви дам бележките от една среща. Когато редактирате записа, използвайте САМО информацията в бележката. Не добавяйте нищо, което клиентът не е казал, не поставяйте диагнози, не коментирайте. Отбележете отделно наблюдението и изражението на клиента. Маркирайте липсващи или неясни области като „нуждае се от пояснение“.
3) Предварителна проверка за поверителност:
Оценете следния текст ПРЕДИ обработката: може ли този текст да съдържа лични данни, идентифициращи клиента (име, адрес, TR ID, здраве, семейна информация)? Ако да, кои раздели? Като такъв, ако не трябва да се обработва в публичен инструмент, предупредете ме и избройте полетата, които трябва да деидентифицирам. Текст: [напишете текст тук]
4) Проверка на пристрастия/език:
Помислете за следния случай: Има ли език, който стигматизира, обвинява или предубеждава клиента спрямо група? Пренебрегва ли силата и ресурсите? Предложете език, който е по-уважителен, фокусиран върху фактите и признаващ силните страни. Не променяйте записа, просто маркирайте езиковите проблеми.
Слаба подкана / Силна подкана
Слаба подкана:
Напишете доклад за това семейство и решете дали детето е в безопасност у дома.
Тази подкана е без контекст и е опасна: не е ясно каква информация, какво наблюдение и AI се иска да вземе решение относно безопасността на детето. AI прогнозира, може да прави предубеждения, може да компенсира - и това включва човешки живот.
Мощна подкана:
Вашата роля: помощник редактор на социален работник. Източник: Бележки за интервю и наблюдение с премахната идентифицираща информация, която ще поставя по-долу. Задача: създайте чернова на скелет на доклад за социално разследване въз основа само на информацията, ДЕЙСТВИТЕЛНО съдържаща се в тези бележки; Отделно наблюдение на етикета, изявление на клиента и липсваща информация. ВЗЕМАНЕ на решение за риск или безопасност; Аз ще направя оценката. Маркирайте зоната, в която не сте сигурни, като „необходимо е изясняване“.
Разликата е ясна: деидентификацията, ограничението за "истинско преминаване", етикетирането и ограничението за "решение" правят изхода безопасен и полезен.
Таблица за сравнение на роля/задача
бизнес
Роля на AI
мъжка роля
проверка
Редактиране на запис на случай
Конфигурирайте бележката
потвърждение, точност
Сравнение с бележка
Резюме на файла
хронологично очертание
Важност, коментар
Връзка към източника
Информация за права/услуга
първа чернова
Актуално потвърждение
официално законодателство
оценка на риска
Напомняне за въпрос/кадър
Клинична преценка, решение
Екип + надзор
Докладвай
скица на скелет
Съдържание, мнение, подпис
Съпоставяне на доказателства-изявления
Дизайн на програмата
Генериране на идея/рамка
допустимост, решение
Поле + потвърждение на данните
Често срещани грешки
- Погрешно извеждане на AI резултат за оценка. Резултатът винаги е чернова, която трябва да бъде проверена; Той не влиза в досието, без да е свързан с доказателства.
- Поставяне на клиентски данни в отворения инструмент. Ако е изтекла, не може да бъде отменена и е нарушение на КВКК; Това е най-опасната грешка.
- Искане на AI да вземе решение за риск/безопасност. Тези решения изискват професионален авторитет и отговорност; AI не може да взема решения.
- Искане, което не изисква доказателства. Ако не кажете „Просто използвайте това, което е в бележката“, AI може да добави това, което клиентът не е казал.
- Не забелязвайки стигматизиращ език. Езикът на AI може да носи пристрастия; Езикът, който е уважителен и отчита силните страни, е под ваш контрол.
В обобщение
AI е мощен помощник в социалната работа: организира обърканата бележка, обобщава файла, създава чернови, опростява, превежда. Но клиничната преценка, оценката на риска, представянето и окончателното решение принадлежат на човека. Носете разделяне на два комплекта (работа с интензивна работа с документи срещу решения за преценка/риск), проверка в три стъпки (връзка към доказателства, независимо потвърждение, филтър за пристрастия), осведоменост за поверителността (свят на анонимни спрямо клиентски данни) и бдителност към пристрастия като гръбнак на този модул.
Задача за приложение
Избройте 6 задачи от вашето собствено (или въображаемо) бюро. Класифицирайте всеки като „делегируемо от AI резюме/редактиране/чернова“ или „клинична преценка/решение за риск“. За един от прехвърляемите (с измислен пример, който не идентифицира клиента), използвайте шаблона „Оценка на годността за работа“ по-горе и получете отговор от AI; след това приложете проверката в три стъпки и опитайте и предварителната проверка за поверителност.
контролен списък
- [ ] Разделих работата на два клъстера (с интензивни документи / преценка с преценка на риска).
- [ ] Приложих проверка в три стъпки (доказателство, независимо потвърждение, пристрастие).
- [ ] Уверих се, че не предоставям лични данни, идентифициращи клиента, на отворения инструмент.
- [ ] Свързах всяко изявление, направено от AI за клиента, с действителната бележка.
- [ ] Проверих за стигматизиращ/предубеден език в изхода.