Печалби:
- Разпознаване кога AI произвежда пристрастия чрез данни за обучение, рамкиране, двойни стандарти и ласкателство
- Способност за установяване на контрол срещу пристрастия с неутрални въпроси, дискриминация на доказателства и стереотип и тест за обратен ъгъл
- Способност да се преведе стигматизиращият език в описателен и уважителен език, като се използва културното познание като точка на внимание, а не като окончателно правило
Raison d'être на социалната работа е справедливостта и човешкото достойнство; В основата на професията е ангажиментът, че всеки индивид е с еднаква стойност, дискриминацията е противопоставена и уязвимите групи са защитени. Изкуственият интелект носи риск, който може тихо да навреди точно на тези ценности: пристрастия. AI се учи от исторически данни; Ако тези данни включват неравенства, стереотипи и дискриминация в обществото, AI ги научава и ги възпроизвежда на плавен, „обективно“ изглеждащ език. В ръцете на социалния работник това може да доведе до систематично по-негативна оценка на група, стереотипизиране на семейството или неразбиране на култура. В този урок ще се научите да разпознавате пристрастия на AI, да го контролирате и да използвате AI с честност и културна чувствителност.
A fact from the beginning: AI is not neutral, it appears neutral. Най-опасното пристрастие е това, представено на уверен и професионален език; защото се приема без съмнение. Your job as a social worker is to make this invisible bias visible and monitor whether the output conflicts with your professional values.
Where does AI bias come from and what does it look like?
- Пристрастност на данните за обучението. AI learns from texts that reflect inequalities in society. Stereotypes about certain ethnic groups, the poor, the disabled, certain neighborhoods, or genders may leak into the output.
- Езикови и рамкиращи пристрастия. AI can frame a group as passive, “problematic,” or an “object in need of help”; друга група като субекти. The same behavior may be interpreted as "cultural" by one group and "problematic" by another group.
- Липса на представителство. AI may inaccurately or superficially understand groups that are underrepresented in the data (small populations, rare cases).
- Ласкателство (подлизурство). Изкуственият интелект има тенденция да потвърди вашето подразбиращо се виждане; Пристрастният въпрос носи предубедено потвърждение.
Тези пристрастия са особено опасни в социалната работа, тъй като резултатите пряко засягат живота на реални хора - оценка, доклад, препоръка.
Внимание: „ИИ го оцени по този начин“ е предупредителен знак, а не оправдание. Когато видите изход, който изобразява група или индивид негативно, първият въпрос е „базиран ли е на доказателства или на стереотипи?“ трябва да бъде.
Стъпка по стъпка: одит срещу пристрастия
- Попитайте неутрално. Задавайте въпроси, които не предполагат или навеждат; Не „обяснете защо това семейство е пренебрежително“, а „какво могат да означават тези наблюдения, какви са алтернативните обяснения?“ попитайте.
- Правете разлика между доказателства и стереотипи. За всяко отрицателно твърдение попитайте: базирано ли е на конкретните доказателства пред мен или се основава на общо предположение за група?
- Тествайте от обратния ъгъл. Помислете за същата ситуация за различна група: „Ако клиентът беше от различен социално-икономически/етнически произход, щеше ли AI да го напише на същия език?“
- Търсете културна чувствителност. Попитайте за културния контекст на поведението; но приемайте културното познание като възможност и предпазливост, а не като абсолютно правило (избягвайте стереотипите).
- Почистете отпечатващия език. Преведете го на език, който описва ситуацията, а не човека, и също така вижда силните страни.
три мини калъфа
Случай 1 — Отклонение при обратен ъгъл. Един експерт накара AI да обобщи два подобни случая; единствената разлика беше социално-икономическият статус на семействата. YZ пише с тона на „висок риск от пренебрегване“ за семейството с ниски доходи и с тона на „родител, принуден да се държи“ за семейството с високи доходи. Експертът разпозна този двоен стандарт и дестилира и двете оценки в основан на доказателства, еднакъв език.
Случай 2 — Коригирано погрешно тълкуване на културата. YZ формулира ситуацията на дете, живеещо с разширено семейство, като „гранични проблеми и смесена домашна среда“. Експертът знаеше, че в културния контекст на семейството разширеното семейство е мощен източник на подкрепа и защита. AI беше превърнал културна сила в проблем. Прегледът е коригиран, за да разпознае тази поддръжка като ресурс.
Случай 3 — Водещият въпрос предизвика пристрастност. „Напишете защо този баща не заслужава доверие“, помоли стажант AI. AI произведе текст, който изобразява бащата негативно (ласкателство) без никакви доказателства. Ръководителят модифицира въпроса: „Какви са наблюденията за бащата, какви може да са неговите силни и слаби страни?“ Резултатът стана балансиран и основан на доказателства. Урок: пристрастният въпрос води до пристрастен отговор.
Четири копируеми шаблона
1) Поискайте неутрална, балансирана оценка:
Като обобщавате следните наблюдения, вие представяте както възможните силни страни, така и възможните опасения по БАЛАНСИРАН начин и базирани САМО на доказателства. Не правете изводи въз основа на стереотипи. Ако даден коментар не разчита на наблюдение, напишете „недостатъчни доказателства“. Наблюдения: [поставете наблюдения]
2) Проверка на отклонение (тест срещу противоположен ъгъл):
Вижте текста на рецензията по-долу. Има ли твърдения, които предават необоснован стереотип поради социално-икономическия статус, етническата принадлежност, религията, пола, увреждането или квартала на клиента? За всеки попитайте: „Това щеше ли да бъде написано на същия език, ако клиентът беше от различна група?“ Маркирайте проблемни изречения. Текст: [поставете текст]
3) Културен контекст (нестереотип):
Осигурете ВЪЗМОЖНОСТИ за това какво може да означава следното поведение/ситуация в различни културни контексти. Дайте ги като точки, които трябва да се вземат предвид, а не като абсолютни правила; Подчертайте, че има индивидуални различия във всяка общност. Не обобщавайте за една група. Ситуация: [напишете ситуация]
4) Отпечатване на почистване на езика:
В текста по-долу намерете прилагателни, които съдят или стигматизират човека (напр. „пренебрежителен“, „некооперативен“, „проблематичен“). За всеки заменете същия факт с алтернатива, която е описателна, уважителна и признава силните страни. Добавяне на нова информация. Текст: [поставяне на текст]
Слаба подкана / Силна подкана
Слаба подкана:
Обяснете защо това семейство е неадекватно в отглеждането на деца.
Този въпрос предполага резултата от началото („недостатъчен“). AI, със своята склонност към ласкателство, ще създаде лишен от доказателства и предубеден текст, който потвърждава това предположение. Ако въпросът е предубеден, отговорът също ще бъде пристрастен.
Мощна подкана:
Въз основа на следните наблюдения, избройте както силните страни на това семейство при отглеждането на деца, така и проблемните области по БАЛАНСИРАН начин, основан само на доказателства. Не предполагайте резултата от самото начало; Ако доказателствата са недостатъчни, посочете го. Избягвайте стереотипите. Наблюдения: [поставете наблюдения]
Разликата: балансиран въпрос, който не предполага резултата и изисква доказателства, предотвратява пристрастията на първо място.
Видове отклонения и контрамерки
Тип пристрастие
Как изглежда
контрамярка
данни за обучение
групов стереотип
Разграничение между доказателства и модели
рамкиране
Пасивен/отрицателен език
Балансиран, тематично ориентиран език
двоен стандарт
Същото поведение, различен тон
тест за обратен ъгъл
културна слепота
Превръщането на културната власт в проблем
Въпрос на културен контекст
ласкателство
потвърдете внушението
Не задавайте неутрални въпроси
липса на представителство
Повърхностно/неразбиране
Местно/експертно потвърждение
Често срещани грешки
- Задаване на предубедени въпроси. Въпрос, който предполага заключение, произвежда пристрастен отговор; неутрален проблем.
- Разчитайки на уверен език. Професионалният тон не прави пристрастията правилни; вижте доказателствата.
- Разглеждане на културното познание като окончателно правило. Приемете го като точка на възможност и внимание; Избягвайте стереотипите.
- Не забелязвайки двойните стандарти. Тествайте как едно и също поведение е написано в различни групи.
- Сбъркал печата като доказателство. Това е „небрежно“ решение; Опишете явлението, не съдете човека.
В обобщение
AI не е неутрален, той изглежда неутрален; Той възпроизвежда неравенства и стереотипи в образователните данни на свободен език. В социалната работа това може да доведе до несправедливи оценки на реални хора. Разпознайте пристрастия (данни за обучение, рамкиране, двойни стандарти, културна слепота, ласкателство), проверете срещу него (неутрален въпрос, разделяне на доказателства и модели, ъглово тестване, културна чувствителност, изчистване на стигмата) и филтрирайте всеки резултат чрез ценностите на професията за справедливост и чест. Последният етичен филтър винаги сте вие.
Задача за приложение
Накарайте AI да обобщи един и същ набор от измислени наблюдения с два различни групови профила (напр. различен социално-икономически статус) и да сравни с „теста с обратен ъгъл“ дали тоновете/езиците се различават. След това опитайте с неутрален въпрос със съзнателно предубеден въпрос („обяснете защо е неадекватно“) и проучете разликата в резултатите. Накрая приложете шаблона „почистване на езика на воден знак“ към текст.
контролен списък
- [ ] Оформих въпросите си неутрално, без да предполагам резултата.
- [ ] Проверих всяко отрицателно твърдение, използвайки разграничението между доказателства и стереотипи.
- [ ] Проверих двойния стандарт с теста за обратен ъгъл.
- [ ] Използвах културните познания като предпазливост, а не като абсолютно правило.
- [ ] Замених стигматизиращия език с описателен, уважителен език.