Добивки:
- Способност да се подготви список за проверка на ризик и заштитни фактори и скелет на безбедносен план со вештачка интелигенција и работа без прескокнување на ниту една област
- Разберете дека нивото на ризик/оценката и безбедносните одлуки ги носат само експерти, тимови, надзор и правни процеси и дека вештачката интелигенција не може да произведува одлуки.
- Гледајќи дека вештачката интелигенција може да припише систематска пристрасност на обесправените групи и примена на дисциплината никогаш да не се користи нејзиниот излез како одлука и да се обработуваат најчувствителните податоци само во безбеден систем
Најсериозната одговорност на социјалната работа е проценката на ризикот - пресудите кои директно се однесуваат на безбедноста на животот, како на пример дали детето е запоставено или злоупотребено, дали поединецот веројатно ќе си наштети себеси или на некој друг, дали постарото лице е безбедно или колку е загрозена жртвата на насилство. Првото и најхраброто правило на оваа единица е ова: одлучувањето за ризик не, не може и не треба да припаѓа на вештачката интелигенција. Одлука за безбедноста на една личност; Потребен е професионален авторитет, клиничко расудување, мислење од мултидисциплинарен тим, надзор и правна одговорност. Вештачката интелигенција овде е само алатка за подготовка и потсетување: ве потсетува кои ризик и заштитни фактори да ги прегледате, ги организира вашите белешки, опишува безбедносен план. Не дава оценка, не пишува „ризикот е низок/висок“, не донесува одлука.
Зошто го нагласуваме ова толку грубо? Бидејќи во арената на ризик, цената на грешката со вештачка интелигенција е неповратна. Оцената на ВИ за ризик како „низок“ го остава детето незаштитено; Да се направи ризикот да изгледа непотребно „висок“ може да доведе до неправедно раздвојување на семејството. Дополнително, вештачката интелигенција носи предрасуди во податоците за обуката: алгоритми кои систематски припишуваат поголем ризик на одредени социоекономски групи, етникуми или населби се документирани низ целиот свет. Така, дури и ако излезот на вештачката интелигенција е влезен, тој никогаш не може да го надмине вашето независно расудување.
Легитимната улога на вештачката интелигенција: потсетување и регулирање
Постојат три места каде што можете безбедно да користите вештачка интелигенција во ризик:
1. Потсетник за фактори. Факторите на ризик (на пр., историја на насилство во минатото, употреба на супстанции, социјална изолација, претходни приеми) и заштитните фактори (на пример, возрасно лице за поддршка, редовно посетување училиште, силна социјална мрежа) кои треба да се земат предвид при проценката на ризикот се долги; Вештачката интелигенција ви помага да избегнете пропуштање на која било област со потсетување на список за проверка што одговара на рамката што ја користи вашата организација.
2. Уредување на белешки. Тоа ги преведува вашите набудувања и изјавите на клиентот во организиран, фактички текст - за да можете да го засновате вашиот суд на јасни податоци.
3. Нацрт план за безбедност. Безбедносен план (конкретен план кој одредува што ќе прави жртвата во случај на опасност, со кого ќе контактира, каде ќе оди) има одредена структура. Вештачката интелигенција може да произведе нацрт скелет што треба да се пополни со клиентот; Но, вие и клиентот ја пополнувате содржината на планот според реалноста.
Внимание: Никогаш не прашувајте ја вештачката интелигенција „кое е нивото на ризик во овој случај? или „Дали детето е безбедно дома?“ Не прашувај. НЕ користете го излезот како одлука, дури и ако барате. На овие прашања одговара само овластениот експерт, тим и надзор преку официјалната алатка за ризик на институцијата.
Чекор по чекор: правилно позиционирање на вештачката интелигенција во процесот на ризик
- Безбедноста на прво место. Доколку постои непосредна и сериозна опасност (безбедност на животот), неопходно е да се спроведе итна процедура на институцијата, а не да се работи со вештачка интелигенција. ВИ не треба да одложува никаква итност.
- Деидентификувајте. Оценките за ризик се најчувствителните податоци; Информациите што го идентификуваат клиентот не се внесуваат во отворената алатка, туку се користи само алатката за безбедна институција.
- Потсети ме на листата на фактори. Побарајте листа за проверка на ризик и заштитни фактори соодветна на институционалната рамка.
- Донесете своја пресуда. Ги мерите факторите, оценувате со тимот и се консултирате со претпоставениот. Не сакате вештачката интелигенција да „проценува“.
- Завршете го безбедносниот план со клиентот. Скелетот на нацртот може да дојде од вештачката интелигенција; Содржината е пополнета со вистинската мрежа, ресурси и преференци на клиентот.
три мини футроли
Случај 1 - Пропуштен заштитен фактор. Експерт се фокусираше на факторите на ризик во случај на семејно насилство. Списокот за проверка на факторите што тој го побара за вештачка интелигенција го натерал да праша за безбедната мрежа за поддршка на клиентот при работа во делот „заштитни фактори“ - област што експертот ја пропуштил. Оваа мрежа стана најреалниот дел од безбедносниот план. Одлуката повторно беше на вештакот; ВИ само потсети на прашањето.
Случај 2 - Не му се веруваше на неточен резултат. Една агенција видела пробна алатка за вештачка интелигенција означува случај како „низок ризик“. Сепак, набљудувањето на вештакот и изјавата на клиентот укажуваат на сериозна опасност. Тимот ја отфрли ознаката за вештачка интелигенција и започна заштитна акција врз основа на сопствената проценка. Подоцна беше потврдено дека опасноста е реална. Лекција: Резултатот за вештачка интелигенција не е одлука; човечкото расудување има приоритет.
Случај 3 - Уловена пристрасност. Во едно судење, истиот случај двапати и бил даден на АИ; Единствената разлика беше населбата во која живееше клиентот. Вештачката интелигенција систематски создаде „јазик на поголем ризик“ за соседството за кое се знае дека е обесправена. Ова покажа пристрасност во податоците за обуката на вештачката интелигенција и ја засили политиката на агенцијата да не користи вештачка интелигенција при одлучувањето за ризик.
Четири шаблони за копирање
1) Потсетник за ризик/заштитен фактор:
Вашата улога: помошник на супервизорот за социјална работа. Подгответе листа за проверка на фактори на ризик и заштитни фактори кои се препорачуваат да се разгледаат во проценката на ризикот во случаите на [семејно насилство]. Претставете го ова како листа на ПОТСЕТНИЦИ; НЕ произведувајте никакви резултати, одлуки или „нивоа на ризик“. Оценувањето и одлуката му припаѓаат на експертот.
2) Нацрт скелет на безбедносниот план:
Вашата улога: уредник. Подгответе ПРАЗЕН преглед на безбедносен план што треба да се пополни со жртвата на семејно насилство: предупредувачки знаци, безбедни места, луѓе и институции за контакт, важни документи, план за деца, дигитална безбедност. Пополнување на содржината; Оставете празни места под секој наслов што треба да се пополни со клиентот.
3) Уредување на белешка за ризик (без донесување одлука):
Преведете ги следните белешки за набљудување и изјави во фактички, организиран текст. Набљудувањето на етикетата и изјавата на клиентот одделно. ИЗВЕСТУВАЊЕ на нивото на ризик, ДОНЕСУВАЊЕ на одлука, ДОДАВАЊЕ на коментар. Уредете го само она што е во белешката и означете ги областите што недостасуваат/нејасните. Забелешка: [залепи де-идентификувана белешка]
4) Пристрасна самоконтрола:
Во нацрт-белешката за ризик подолу, дали постои изјава што пренесува недокажана пристрасност поради социоекономскиот статус, етничката припадност, соседството или слични карактеристики на клиентот? Обележете ја секоја реченица што се заснова на стереотипи наместо на докази. Не го менувајте текстот, само предупредувајте. Забелешка: [залепи белешка]
Слаб промпт / Силен промпт
Слаба навестување:
Прочитајте го овој случај и одлучете дали е безбедно детето да остане дома и кое е нивото на ризик.
Ова е аутсорсирање на најтешката одлука за човечки живот на софтвер. Тоа е неетички, спротивно на професионалната одговорност и ја носи пристрасноста на вештачката интелигенција директно во судбината на детето.
Моќен потсетник:
Вашата улога: помошник за потсетување. Пред да ја прочитате де-идентификуваната белешка подолу, подгответе листа за проверка на ризик и заштитни фактори што ќе ги прегледате при евалуацијата на случаите на [детско занемарување]. ПРОИЗВОДУВАЊЕ на одлука, резултат или ниво на ризик. Јас ќе ја направам евалуацијата со мојот тим; Само ме потсети кои области не треба да ги прескокнам.
Разликата: кажувањето „кои прашања не треба да ги заборавам“, наместо да барам одлуки, ја одржува вештачката интелигенција на безбедна и етичка граница.
Границите на улогите на полето на ризик
Потрага
Дали вештачката интелигенција може да го направи тоа?
Кој прави?
Потсетник за контролната листа на фактори
Да
ВИ (потсетник)
Уредување белешки фактички
Да
AI + експертско одобрение
Безбедносен план празен скелет
Да
ВИ; содржина клиент + експерт
Ниво на ризик/определување бод
бр
Експерт + тим + надзор
„Дали е безбедно? одлука
бр
Надлежен експерт, правен процес
Покренување заштитни мерки
бр
Институција, надлежен орган
Вообичаени грешки
- Барање ВИ за резултат/одлука за ризик. Најопасната грешка; Одлуката бара стручно овластување и законска одговорност.
- Верување на ознаката за вештачка интелигенција. Заклучокот со „низок ризик“ никогаш нема да ја поништи вашата опсервација за спротивното.
- Игнорирање на предрасудите. ВИ може да припише систематски висок ризик на обесправените групи; самоконтролата е од суштинско значење.
- Одложување на итноста. Ако постои безбедност на животот, прво итна постапка; Справувањето со вештачката интелигенција не може да чека.
- Давање на најчувствителните податоци на отворената алатка. Белешките за ризик се обработуваат само во алатката за безбедна институција.
Сумирано
Проценката на ризикот е најголемата одговорност на социјалната работа, а одлуката е директно на лицето - професионалецот, тимот, надзорот, законската власт. Овде, вештачката интелигенција е само алатка за потсетување (листа на ризик/заштитни фактори), организирање (фактичка белешка) и изготвување (скелет на безбедносен план); Не дава гол, не носи одлуки. Запомнете дека вештачката интелигенција носи пристрасност, никогаш не користете го нејзиниот излез како одлука и обработувајте ги најчувствителните податоци само во безбедниот систем.
Задача за апликација
Изберете измислен тип на случај. Добијте листа за проверка со шаблон „потсетник за ризик/заштитен фактор“ и потврдете дека вештачката интелигенција не произведува никакви „нивоа на ризик“. Потоа земете празен скелет на план со шаблонот „скелет за преглед на безбедносниот план“. Свесно прашувајќи ја вештачката интелигенција „кое е нивото на ризик? и напишете во една реченица зошто НЕ треба да го користите излезот како одлука.
листа за проверка
- [ ] Побарав од вештачката интелигенција само потсетник за фактор, а не одлука/оценка.
- [ ] Ги обработив најчувствителните податоци само во алатката за безбедно претпријатие.
- [ ] Планирав да ја пополнам содржината на безбедносниот план заедно со клиентот.
- [ ] Го проверив излезот на вештачката интелигенција за пристрасност.
- [ ] Потврдив дека конечната одлука за ризик е на тимот, надзорот и правилната постапка.