Печалби:
- Разпознайте с примери как културните, половите и диагностичните пристрастия в моделите на изкуствен интелект причиняват вреда в контекста на психологията
- Възможност за прилагане на проверка на отклонение, която тества изхода за различни групи, езици и култури
- Способност за разработване на техники за бърза и проверка, които коригират ориентираната към Запада норма и стигматизиращия език
Изкуственият интелект (AI) не е неутрален. AI модел се учи от огромна купчина текст в интернет и „светогледът“ на модела е изкривен от това чий глас съдържа повече и чий глас съдържа по-малко. Това изкривяване се нарича отклонение. Пристрастията в психологията не са обикновен технически дефект; То може пряко да повлияе на оценката, диагнозата и лечението на дадено лице. Един симптом може да се чете като "нормален" в една култура и "патологичен" в друга; дадено поведение може да бъде оформено като „асертивност“ в единия пол и „агресия“ в другия. AI може да научи и възпроизведе тези исторически пристрастия. В този модул ще се научите да разпознавате пристрастия в AI в контекста на психологията и да проверявате резултатите за различни групи, езици и култури.
Откъде идват предразсъдъците и как вредят?
Има три основни източника на отклонение от AI:
- Дисбаланс на данните за обучението. Моделите се обучават предимно с текстове от определен език, култура и период. По-голямата част от литературата по психология идва от западните, образовани, индустриализирани общества; следователно предположението на ИИ за „нормален човек“ отразява тази тясна извадка.
- Включване на исторически пристрастия. В данните са включени и текстове, които са патологизирали и стигматизирали определени групи в миналото; моделът научава тези модели.
- Липса на представителство. Моделът има или недостатъчна, или стереотипна информация за слабо представените групи (различен етнос, език, сексуална ориентация, увреждане).
Вредата е осезаема: AI може да оцени даден симптом като по-тежък в една група и по-лек, отколкото в друга; може погрешно да разглежда културно изразяване (траурен ритуал, религиозно преживяване) като симптом; Може да произведе стигматизиращ, клиширан език.
Внимание: Дори ако изход от AI изглежда като „обективна наука“, той може да носи пристрастията, които е научил. Особено когато става дума за различни култури, полове, сексуални ориентации и социално-икономически групи, ние разглеждаме всеки резултат като „това справедливо ли е за всички групи?“ Филтрирайте с въпроса.
Видове пристрастия, специфични за психологията
Тип пристрастие
Изглед в психологията
риск
културни пристрастия
Разглеждане на западните норми като универсални
Не бъркайте културното изразяване с патология
полово пристрастие
Тълкуване на едно и също поведение по различен начин в зависимост от пола
диагностично несъответствие
диагностично отклонение
Представяне на определени групи като "склонни" към определени диагнози
Над/под диагноза
езикови пристрастия
По-„владеещ“ доминиращия език, повърхностен в другия
Нееднакво оценяване
Щамповане
Език, който идентифицира човека с неговата диагноза
унизително рамкиране
Стъпка по стъпка: контрол на пристрастията
- Можете да промените изхода на "за кого е написано?" въпрос. Кой е субектът по подразбиране? Като цяло той е образован, западен, "среден" човек.
- Тествайте с различни групи. Повторете една и съща подкана в различни културни, полови и възрастови контексти; Променят ли се коментарите?
- Сканирайте стигматичния език. Правилна формулировка, която идентифицира лицето с неговата диагноза („човек, страдащ от шизофрения“ вместо „шизофреник“).
- Добавете културен контекст. Кажете на AI културния/езиков контекст на клиента и „не считайте изразите, които може да са нормални в този контекст, като патология“.
- Експертни и обществени очи. Ако не сте сигурни относно културен въпрос, консултирайте се с колега, който познава тази култура.
- Нека хората решат. Дори проверката на пристрастия не е оставена на AI; Окончателната присъда на справедливостта е ваша.
Съвет: Практичен начин да проверите дали резултатът е предубеден: променете един атрибут (пол, култура, възраст) в подканата и задайте отново същия въпрос. Ако тълкуването се промени "несправедливо" с тази промяна, има пристрастие.
три мини калъфа
Случай 1 — Патологизиране на културното изразяване. Професионалист казва на AI, че клиент от различна култура „говори с починалия“ по време на процеса на скръб. AI определя това като „може да е психотичен симптом“. Това обаче е обичаен и нормален израз на скръб в културата на този клиент. Експертът отхвърля резултатите от AI, защото познава културния контекст. Някой, който не познава контекста, може да направи сериозна погрешна преценка.
Случай 2 — Тест за пристрастия по пола. Следовател дава едно и също резюме на случая на AI два пъти; просто променя пола на човека. В „женската“ версия AI набляга на „емоционалната нестабилност“, докато в „мъжката“ версия рамкира същото поведение като „реакция на стрес“. Това ясно показва половата пристрастност на модела. Изследователят документира тази разлика и използва резултатите с това съзнание.
Случай 3 — Коригиране на стигматизиращия език. AI е „болна граница“, гласи един проект на доклад. Специалистът вижда това като стигматизиращ език, който идентифицира човека с неговата диагноза и го превежда на език, който се фокусира върху човека, като например „индивид с дефиниран граничен модел на личността“. Една малка промяна в езика прави голяма разлика в защитата на достойнството на клиента.
Подкани и шаблони с възможност за копиране
Проверете следния текст за пристрастия: изявления за флаг, които показват културни, полови, сексуални, възрастови или социално-икономически пристрастия. Покажете също допусканията, които считат западните норми за универсални. Предложете по-справедлива алтернатива за всеки. Текст: [текст]
Помогнете ми да оценя следната ситуация, но културният контекст на клиента е [култура/език]. В този контекст представяне на изрази, които могат да бъдат НОРМАЛНИ като патология; Ако не сте сигурни относно културна точка, кажете „това може да варира в зависимост от културата, консултирайте се с експерт“. Статус: [анонимен статус]
Преведете стигматизиращите изрази в този текст, които идентифицират човека с неговата диагноза (напр. „шизофреник“, „граничен“) на език, който центрира човека и запазва неговото достойнство. Не променяйте съдържанието, просто хуманизирайте езика. Текст: [текст]
Ще оценя два пъти следното обобщение на случая: веднъж субекта [характеристика A], другия [характеристика B]. Има ли несправедлива разлика между двете оценки и ако да, дължи ли се на пристрастност? Compare.Abstract: [анонимно резюме]
Слаба подкана / Силна подкана
Слаба подкана: „Нормално или необичайно поведението на този клиент ли е?“
Тази подкана не пита за кого е "нормален"; AI приема ориентирано към Запада, некултурно „нормално“ и може да патологизира културното изразяване.
Силна подкана: „Този клиент е в [културен/езиков контекст]. Обяснете дали това поведение може да е нормален израз в този културен контекст или знак, който изисква внимание, обсъждайки и двете поотделно. Не правете окончателна преценка; напомнете ми да се консултирам с експерт, който познава културния контекст.“
Тази подкана поставя контекста в центъра, предотвратява културно погрешно четене и оставя решението на експерта.
Често срещани грешки
- Грешно извеждане на AI изхода за „обективно“. Забравяйки, че моделът носи пристрастия и приемайки резултата като научен факт.
- Разглеждане на западната норма като универсална. Определяне на „нормално“ според една култура и патологизиране на различни изрази.
- Не забелязвайки стигматизиращ език. Погрешно приемане на езика, който идентифицира лицето с неговата диагноза, като „технически език“.
- Без тестване за пристрастия. Не се опитва една и съща подкана с различни групи и се проверява последователност.
- Да вземаш решения сам в култура, която не познаваш. Правене на преценка без консултация с колега, който познава тази култура.
В обобщение
AI е предубеден, защото се учи от текстовете на предубеден свят; В психологията това пристрастие се превръща в осезаема вреда под формата на културни, полови, диагностични, езикови и стигма. Сравнете всеки резултат с въпроса „честно ли е това за всички групи?“ прецедете го; тествайте една и съща подкана с различни групи; добавете културен контекст към вашата подкана; промяна на стигматизиращия език на език, ориентиран към личността; Потърсете експертни/общностни погледи върху култура, с която не сте запознати. Преценката на справедливостта, включително контролът върху пристрастията, произлиза от човешкото същество.
Задача за приложение
Подгответе резюме на случая (анонимно). Дайте го на AI два пъти; промени само една характеристика (пол, култура или възраст). Поставете двете разпечатки една до друга и проверете за несправедливи разлики. Също така накарайте изкуствения интелект да преведе стигматизиращи фрази в абзац на доклада на ориентиран към човека език и забележете разликата.
контролен списък
- [ ] Промяна на изхода на "честно ли е това за всички групи?" Зададох въпроса.
- [ ] Тествах същата подкана с различни групи/култури.
- [ ] Добавих културния контекст към подканата; Не съм патологизирал културното изразяване.
- [ ] Промених стигматизиращия език в език, ориентиран към личността.
- [ ] Потърсих съвет от експерт/колега по културен въпрос, с който не бях запознат.
- [ ] Оставих окончателното решение за справедливост на собствената си преценка, а не на AI.