Печалби:
- Възможност за изготвяне на списък с рискови и защитни фактори и скелет на план за сигурност с изкуствен интелект и работа без пропускане на области
- Разберете, че решенията за ниво на риск/резултат и сигурност се вземат само от експерти, екипи, надзор и правни процеси и че изкуственият интелект не може да произвежда решения.
- Виждайки, че изкуственият интелект може да приписва системни пристрастия на групите в неравностойно положение и прилагайки дисциплината никога да не използва изхода си като решение и да обработва най-чувствителните данни само в защитена система
Най-сериозната отговорност на социалната работа е оценката на риска - преценки, които пряко засягат безопасността на живота, като например дали едно дете е пренебрегнато или малтретирано, дали дадено лице има вероятност да нарани себе си или някой друг, дали възрастен човек е в безопасност или колко застрашена е жертва на насилие. Първото и най-смело правило на тази част е следното: Вземането на рискови решения не принадлежи, не може и не трябва да принадлежи на ИИ. Решение за безопасността на дадено лице; Изисква професионален авторитет, клинична преценка, мнение на мултидисциплинарен екип, надзор и правна отговорност. AI е само инструмент за подготовка и напомняне тук: той ви напомня кои рискови и защитни фактори да прегледате, организира вашите бележки, очертава план за безопасност. Не дава оценка, не казва "рискът е нисък/висок", не взема решение.
Защо подчертаваме това толкова грубо? Тъй като в арената на риска цената на грешка на AI е необратима. Оценката на AI на риска като „нисък“ оставя детето незащитено; Ако рискът изглежда ненужно „висок“, това може да доведе до несправедливо разделяне на семейството. Освен това AI носи отклонения в данните за обучение: алгоритми, които систематично приписват по-висок риск на определени социално-икономически групи, етноси или квартали, са документирани по целия свят. Така че дори изходът на AI да е вход, той никога не може да отмени вашата независима преценка.
Легитимната роля на ИИ: напомняне и регулиране
Има три места, където можете безопасно да използвате AI в риск:
1. Факторно напомняне. Рисковите фактори (напр. минала история на насилие, употреба на вещества, социална изолация, предишни приемания) и защитните фактори (напр. подкрепящ възрастен, редовно посещаване на училище, силна социална мрежа), които трябва да се вземат предвид при оценката на риска, са дълги; AI ви помага да избегнете пропускане на области, като извиква контролен списък, който отговаря на рамката, използвана от вашата организация.
2. Редактиране на бележки. Той превежда вашите наблюдения и клиентски изявления в организиран, фактически текст — така че можете да базирате преценката си на ясни данни.
3. Проект на план за охрана. Планът за сигурност (конкретен план, който определя какво ще направи жертвата в случай на опасност, с кого ще се свърже, къде ще отиде) има определена структура. AI може да създаде чернова на скелет, която да бъде попълнена с клиента; Но вие и клиентът попълвате съдържанието на плана според реалността.
Внимание: Никога не питайте AI "какво е нивото на риск в този случай?" или „безопасно ли е детето у дома?“ не питай НЕ използвайте резултата като решение, дори и да поискате. На тези въпроси отговаря само оторизиран експерт, екип и надзор чрез официалния инструмент за риск на институцията.
Стъпка по стъпка: правилно позициониране на AI в рисковия процес
- Безопасността на първо място. Ако има непосредствена и сериозна опасност (безопасност на живота), е необходимо да се приложи спешна процедура на институцията, а не да се работи с AI. AI не трябва да забавя всяка спешност.
- Дезидентифицирай. Рейтингите на риска са най-чувствителните данни; Информацията, идентифицираща клиента, не се въвежда в отворения инструмент, използва се само инструментът за защитена институция.
- Напомни ми за списъка с фактори. Поискайте контролен списък с рискови и защитни фактори, съответстващ на институционалната рамка.
- Направете своя собствена преценка. Вие претегляте факторите, оценявате с екипа и се консултирате с ръководителя. Вие не искате AI да "оценява".
- Попълнете плана за безопасност с клиента. Черновият скелет може да идва от AI; Съдържанието се попълва с действителната мрежа, ресурси и предпочитания на клиента.
три мини калъфа
Случай 1 — Пропуснат защитен фактор. Експерт се фокусира върху рисковите фактори в случай на домашно насилие. Списъкът с фактори, който той поиска от AI, го накара да попита за защитената мрежа за поддръжка на клиента по време на работа в раздела „защитни фактори“ – област, която експертът беше пропуснал. Тази мрежа стана най-реалистичната част от плана за сигурност. Решението отново беше на експерта; AI просто напомни въпроса.
Случай 2 — Неправилният резултат не се довери. One agency saw a trial AI tool label a case as “low risk.” However, the expert's observation and the client's statement pointed to a serious danger. The team rejected the AI label and initiated protective action based on its own assessment. По-късно се потвърди, че опасността е реална. Урок: Резултатът от AI не е решение; човешката преценка има предимство.
Случай 3 — Уловено пристрастие. In one trial, the same case was given to the AI twice; The only difference was the neighborhood where the client lived. The AI systematically produced higher “risk language” for the neighborhood known to be disadvantaged. This demonstrated bias in the AI's training data and reinforced the agency's policy of not using AI in risk decision-making.
Четири копируеми шаблона
1) Напомняне за рисков/защитен фактор:
Your role: assistant to the social work supervisor. Подгответе контролен списък с рискови фактори и защитни фактори, които се препоръчва да бъдат прегледани при оценка на риска в случаи на [домашно насилие]. Представете това като списък с НАПОМНЯНИЯ; do NOT produce any scores, decisions, or "risk levels". Оценката и решението са на експерта.
2) Скелет на проект на план за сигурност:
Вашата роля: редактор. Подгответе ПРАЗЕН контур на план за безопасност, който да бъде попълнен с жертва на домашно насилие: предупредителни знаци, безопасни места, хора и институции, с които да се свържете, важни документи, план за деца, цифрова безопасност. Попълване на съдържанието; Оставете празни полета под всяко заглавие, които да бъдат попълнени с клиента.
3) Редактиране на бележка за риска (без вземане на решение):
Преведете следните бележки за наблюдения и твърдения във фактически организиран текст. Отделно наблюдение на етикета и изявление на клиента. ОБЯВЯВАНЕ на степента на риск, ВЗЕМАНЕ НА РЕШЕНИЕ, ДОБАВЯНЕ НА коментар. Редактирайте само това, което е в бележката и маркирайте липсващи/неясни области. Забележка: [поставете деидентифицирана бележка]
4) Самоконтрол пристрастия:
В черновата на бележката за риска по-долу има ли изявление, което изразява недоказана пристрастност поради социално-икономическия статус, етническата принадлежност, квартала или подобни характеристики на клиента? Отбележете всяко изречение, което се основава на стереотипи, а не на доказателства. Не променяйте текста, само предупредете. Забележка: [поставете бележка]
Слаба подкана / Силна подкана
Слаба подкана:
Прочетете този случай и преценете дали е безопасно за детето да остане вкъщи и какво е нивото на риска.
Това е възлагане на най-тежкото решение за човешкия живот на софтуер. Това е неетично, противоречи на професионалната отговорност и пренася пристрастията на AI директно към съдбата на детето.
Мощна подкана:
Вашата роля: асистент за напомняне. Преди да прочетете деидентифицираната бележка по-долу, изгответе контролен списък с рискови и защитни фактори, които да прегледате при оценката на случаите на [неглижиране на деца]. ПРОИЗВЕДЕНЕ на решение, резултат или ниво на риск. Аз ще направя оценката с моя екип; Просто ми напомняш кои области не трябва да пропускам.
Разликата: казвайки „кои въпроси не трябва да забравям“, вместо да питам за решения, поддържа AI на безопасна и етична граница.
Ролеви граници в областта на риска
Мисия
Може ли AI да го направи?
Кой го прави?
Фактор напомняне за контролен списък
да
AI (напомняне)
Редактиране на бележки фактически
да
AI + експертно одобрение
Празен скелет на план за сигурност
да
AI; клиент за съдържание+експерт
Определяне на ниво на риск/резултат
не
Експерт + екип + надзор
— Безопасно ли е? решение
не
Компетентен експерт, съдебен процес
Започване на защитни мерки
не
Институция, компетентен орган
Често срещани грешки
- Искане на AI за оценка на риска/решение. Най-опасната грешка; The decision requires professional authority and legal responsibility.
- Доверете се на етикета AI. A "low risk" conclusion will never invalidate your observation to the contrary.
- Игнориране на предразсъдъците. AI may attribute systematic high risk to disadvantaged groups; самоконтролът е важен.
- Отлагане на спешност. If there is life safety, emergency procedure first; Работата с AI не може да чака.
- Предоставяне на най-чувствителните данни на отворения инструмент. Risk notes are processed only in the secure institution tool.
В обобщение
Оценката на риска е най-сериозната отговорност на социалната работа и решението зависи изцяло от човека - професионалистът, екипът, супервизията, законният авторитет. Here, AI is just a tool for reminding (risk/protective factor list), organizing (factual note) and drafting (safety plan skeleton); Не вкарва, не взема решения. Remember that AI carries bias, never use its output as a decision and process the most sensitive data only in the secure system.
Задача за приложение
Изберете измислен тип случай. Вземете контролен списък с шаблон за „напомняне за рисков/защитен фактор“ и се уверете, че AI не създава никакви „нива на риск“. След това вземете празен скелет на план с шаблона „скелет на план за сигурност“. Съзнателното питане на AI "какво е нивото на риск?" и напишете с едно изречение защо НЕ трябва да използвате резултата като решение.
контролен списък
- [ ] Поисках от AI само напомняне за фактор, а не решение/резултат.
- [ ] Обработих най-чувствителните данни само в защитения корпоративни инструмент.
- [ ] Планирах да попълня съдържанието на плана за сигурност заедно с клиента.
- [ ] Проверих изхода на AI за отклонения.
- [ ] Потвърдих, че окончателното решение за риска зависи от екипа, надзора и надлежния процес.