Добици:
- Способност припреме контролне листе ризика и заштитних фактора и скелета безбедносног плана са вештачком интелигенцијом и рад без прескакања било које области
- Схватите да ниво ризика/оцену и безбедносне одлуке доносе само стручњаци, тимови, надзор и правни процеси, и да вештачка интелигенција не може да доноси одлуке.
- Видећи да вештачка интелигенција може да припише систематску пристрасност групама у неповољном положају и примени дисциплину да никада не користи њен резултат као одлуку и обрађује најосетљивије податке само у безбедном систему
Најозбиљнија одговорност социјалног рада је процена ризика – пресуде које се директно тичу животне безбедности, као што је да ли је дете занемарено или злостављано, да ли је вероватно да ће појединац повредити себе или неког другог, да ли је старија особа безбедна или колико је жртва насиља угрожена. Прво и најхрабрије правило ове јединице је следеће: доношење одлука о ризику не припада, не може и не треба да припада АИ. Одлука о безбедности лица; То захтева професионални ауторитет, клиничко расуђивање, мишљење мултидисциплинарног тима, надзор и правну одговорност. АИ је овде само алатка за припрему и подсетник: подсећа вас које факторе ризика и заштите треба да прегледате, организује ваше белешке, оцртава безбедносни план. Не даје оцену, не каже „ризик је низак/висок“, не доноси одлуку.
Зашто то тако оштро наглашавамо? Јер у арени ризика, цена грешке вештачке интелигенције је неповратна. АИ оцена ризика као „низак“ оставља дете незаштићеним; Чинити да се ризик чини непотребно „висок“ може довести до неправедног раздвајања породице. Поред тога, АИ носи пристрасност у подацима о обуци: алгоритми који систематски приписују већи ризик одређеним социоекономским групама, етничким групама или суседствима документовани су широм света. Дакле, чак и ако је излаз АИ улаз, он никада не може надјачати вашу независну процену.
Легитимна улога АИ: подсетник и регулација
Постоје три места где можете безбедно да користите АИ у опасности:
1. Подсетник фактора. Фактори ризика (нпр. претходна историја насиља, употреба супстанци, социјална изолација, претходни пријем) и заштитни фактори (нпр. одрасла особа која пружа подршку, редовно похађање школе, јака друштвена мрежа) које треба узети у обзир у процени ризика су дуги; АИ вам помаже да избегнете пропуштање било које области тако што ћете призвати контролну листу која одговара оквиру који ваша организација користи.
2. Уређивање белешки. Преводи ваше запажање и изјаве клијената у организован, чињенични текст — тако да можете да заснујете свој суд на јасним подацима.
3. Нацрт плана безбедности. Безбедносни план (конкретан план који одређује шта ће жртва урадити у случају опасности, коме ће се обратити, где ће ићи) има одређену структуру. АИ може да направи нацрт скелета који ће се попунити са клијентом; Али ви и клијент испуњавате садржај плана према стварности.
Опрез: Никада не питајте АИ "који је ниво ризика у овом случају?" или „да ли је дете безбедно код куће?“ Не питај. НЕМОЈТЕ користити излаз као одлуку, чак и ако тражите. На ова питања одговара само овлашћени стручњак, тим и надзор преко званичног инструмента ризика институције.
Корак по корак: правилно позиционирање АИ у процесу ризика
- Безбедност на првом месту. Ако постоји непосредна и озбиљна опасност (безбедност живота), неопходно је да се води хитна процедура установе, а не да се бави АИ. АИ не би требало да одлаже било какву хитност.
- Дисидентификовати. Оцене ризика су најосетљивији подаци; Информације које идентификују клијента се не уносе у отворени алат, већ се користи само безбедни институцијски алат.
- Подсети ме на листу фактора. Затражите контролну листу ризика и заштитних фактора која одговара институционалном оквиру.
- Просудите сами. Одмеравате факторе, процењујете са тимом и консултујете се са супервизором. Не желите да АИ „процењује“.
- Завршите безбедносни план са клијентом. Нацрт скелета може доћи од АИ; Садржај је попуњен стварном мрежом, ресурсима и преференцама клијента.
три мини кофера
Случај 1 — Пропуштен заштитни фактор. Експерт се фокусирао на факторе ризика у случају насиља у породици. Контролна листа фактора коју је тражио од АИ натерала га је да пита о клијентовој безбедној мрежи подршке на послу у одељку „заштитни фактори“ – области коју је стручњак пропустио. Ова мрежа је постала најреалнији део плана безбедности. Одлука је опет била на вештаку; АИ је само подсетио на питање.
Случај 2 — Нетачна оцена није верована. Једна агенција је видела да је пробни алат АИ означио случај као „низак ризик“. Међутим, запажање вештака и изјава клијента указивали су на озбиљну опасност. Тим је одбацио АИ ознаку и покренуо заштитну акцију на основу сопствене процене. Касније је потврђено да је опасност била реална. Лекција: АИ резултат није одлука; људски суд има предност.
Случај 3 — Пристрасност ухваћена. У једном суђењу, исти случај је двапут дат АИ; Једина разлика је била у комшилуку у коме је клијент живео. АИ је систематски производио виши „језик ризика“ за комшилук за који се зна да је у неповољном положају. Ово је показало пристрасност у подацима о обуци АИ и ојачало политику агенције да не користи АИ у доношењу одлука о ризику.
Четири шаблона за копирање
1) Подсетник на ризик/заштитни фактор:
Ваша улога: помоћник надзорника социјалног рада. Припремите контролну листу фактора ризика и заштитних фактора које се препоручује да се прегледају у процени ризика у случајевима [насиља у породици]. Представите ово као листу ПОДСЕТНИКА; НЕ производе никакве резултате, одлуке или „нивое ризика“. Процена и одлука припадају експерту.
2) скелет нацрта плана безбедности:
Ваша улога: уредник. Припремите ПРАЗНУ скицу сигурносног плана који треба попунити са жртвом насиља у породици: знакови упозорења, безбедна места, људи и институције које треба контактирати, важна документа, план за децу, дигитална безбедност. Попуњавање садржаја; Оставите празна места испод сваког наслова која ће се попунити са клијентом.
3) Уређивање напомене о ризику (без доношења одлуке):
Преведите следећа запажања и белешке о изјавама у чињенични, организовани текст. Означите посматрање и изјаву клијента одвојено. НАВЕДАЊЕ нивоа ризика, ДОНОШЕЊЕ ОДЛУКЕ, ДОДАВАЊЕ коментара. Уредите само оно што је у белешци и означите недостајућа/нејасна подручја. Напомена: [налепите де-идентификовану белешку]
4) Самоконтрола пристрасности:
У нацрту напомене о ризику у наставку, постоји ли изјава која преноси недоказану пристрасност због социоекономског статуса, етничке припадности, сусједства или сличних карактеристика клијента? Означите сваку реченицу која је заснована на стереотипима, а не на доказима. Не мењајте текст, само упозорите. Напомена: [налепи белешку]
Слаби промпт / Јаки промпт
Слабо обавештење:
Прочитајте овај случај и одлучите да ли је безбедно да дете остане код куће и колики је ниво ризика.
Ово је препуштање најважнијој одлуци о људском животу софтверу. То је неетично, супротно професионалној одговорности и носи пристрасност АИ директно у судбину детета.
Снажан упит:
Ваша улога: помоћник за подсетнике. Пре него што прочитате де-идентификовану белешку у наставку, припремите контролну листу ризика и заштитних фактора које ћете размотрити у процени случајева [занемаривања деце]. ПРОИЗВОДЊА одлуке, резултата или нивоа ризика. Ја ћу проценити са својим тимом; Само ме подсетите које области не би требало да прескачем.
Разлика: изговарање „која питања не треба да заборавим“ уместо тражења одлука држи АИ на сигурној и етичкој граници.
Границе улога у области ризика
Куест
Може ли АИ то учинити?
ко зна?
Подсетник за контролну листу фактора
Да
АИ (подсетник)
Чињенично уређивање белешки
Да
АИ + стручно одобрење
Празан скелет плана безбедности
Да
АИ; садржај клијент+стручњак
Одређивање нивоа ризика/скора
бр
Експерт + тим + надзор
"Да ли је безбедно?" одлука
бр
Компетентан стручњак, правни процес
Покретање заштитних мера
бр
Установа, надлежни орган
Уобичајене грешке
- Тражење АИ за резултат/одлуку о ризику. Најопаснија грешка; Одлука захтева професионални ауторитет и правну одговорност.
- Верујте АИ етикети. Закључак „ниског ризика“ никада неће поништити ваше запажање супротно.
- Игнорисање предрасуда. АИ може приписати систематски висок ризик групама у неповољном положају; самоконтрола је неопходна.
- Одлагање хитности. Ако постоји сигурност живота, прво хитни поступак; Суочавање са АИ не може да чека.
- Давање најосетљивијих података отвореном алату. Напомене о ризику се обрађују само у безбедном институцијском алату.
Укратко
Процена ризика је највећа одговорност социјалног рада, а одлука зависи искључиво од особе — стручњака, тима, надзора, правног ауторитета. Овде је вештачка интелигенција само алат за подсећање (листа фактора ризика/заштитних фактора), организовање (чињенична белешка) и израду нацрта (костур плана безбедности); Не даје голове, не доноси одлуке. Запамтите да АИ носи пристрасност, никада не користите његов излаз као одлуку и обрађује најосетљивије податке само у безбедном систему.
Задатак апликације
Изаберите измишљени тип случаја. Набавите контролну листу са шаблоном „подсетник на ризик/заштитни фактор“ и проверите да АИ не производи никакве „нивое ризика“. Затим зграбите празан скелет плана са шаблоном „костур плана безбедности“. Свесно питајући АИ „који је ниво ризика?“ и напиши у једној реченици зашто НЕ треба користити излаз као одлуку.
контролна листа
- [ ] Тражио сам од АИ само подсетник фактора, а не одлуку/оцену.
- [ ] Обрадио сам најосетљивије податке само у безбедном алату за предузећа.
- [ ] Планирао сам да попуним садржај безбедносног плана заједно са клијентом.
- [ ] Проверио сам АИ излаз за пристрасност.
- [ ] Потврдио сам да коначна одлука о ризику зависи од тима, надзора и дужног поступка.