Пристрасност, заступљеност и културна осетљивост

Добици:

• Препознајте на примерима како културна, родна и дијагностичка пристрасност у моделима вештачке интелигенције наносе штету у контексту психологије
• Способност имплементације провере пристрасности која тестира резултате за различите групе, језике и културе
• Способност да се развију брзе и верификационе технике које исправљају западњачку норму и стигматизирајући језик

Вештачка интелигенција (АИ) није неутрална. Модел вештачке интелигенције учи из огромне гомиле текста на интернету, а „поглед на свет“ модела је искривљен од тога чији глас садржи више, а чији глас мање. Ово изобличење се назива пристрасност. Пристрасност у психологији није обична техничка мана; Може директно утицати на процену, дијагнозу и лечење особе. Симптом се може читати као "нормалан" у једној култури и "патолошки" у другој; понашање може бити уоквирено као „асертивност” у једном полу и „агресивност” у другом. АИ може научити и реплицирати ове историјске предрасуде. У овој јединици научићете да препознате пристрасност у вештачкој интелигенцији у контексту психологије и ревидирате резултате за различите групе, језике и културе.

Одакле предрасуде и како штете?

Постоје три основна извора пристрасности АИ:

1. Неравнотежа података о обуци. Модели се обучавају претежно са текстовима одређеног језика, културе и периода. Највећи део литературе о психологији долази из западних, образованих, индустријализованих друштава; стога претпоставка АИ „нормалног човека“ одражава овај уски узорак.
2. Укључивање историјске пристрасности. У податке су укључени и текстови који су патологизирали и стигматизовали одређене групе у прошлости; модел учи ове обрасце.
3. Недостатак репрезентације. Модел има или недовољне или стереотипне информације о недовољно заступљеним групама (различите етничке припадности, језика, сексуалне оријентације, инвалидитета).

Штета је опипљива: АИ може проценити симптом као тежи у једној групи и блажи него у другој; може погрешно сматрати културни израз (ритуал жалости, религиозно искуство) као симптом; Може произвести стигматизирајући, клишејски језик.

Опрез: Чак и ако се резултат вештачке интелигенције чини „објективном науком“, може да носи пристрасности које је научио. Нарочито када су у питању различите културе, пол, сексуалне оријентације и социоекономске групе, сваки исход сматрамо „да ли је ово поштено за све групе?“ Филтрирајте са питањем.

Врсте пристрасности специфичне за психологију

Врста пристрасности

Поглед у психологији

ризик

културна пристрасност

Сматрајући западне норме универзалним

Немојте заменити културни израз за патологију

родна пристрасност

Тумачење истог понашања различито у зависности од пола

дијагностички диспаритет

дијагностичка пристрасност

Приказујући одређене групе као „склоне“ одређеним дијагнозама

Прекомерна/мања дијагноза

језичка пристрасност

Више „стручнији” у доминантном језику, површни у другом

Неједнако вредновање

Штанцање

Језик који идентификује особу са њеном дијагнозом

понижавајуће кадрирање

Корак по корак: контрола пристрасности

1. Можете променити излаз у "за кога је написано?" питање. Ко је подразумевани субјект? Он је генерално образован, западни, "просечан" момак.
2. Тестирајте са различитим групама. Поновите исти упит у различитим културним, полним и старосним контекстима; Да ли се коментари мењају?
3. Скенирајте стигматични језик. Тачна формулација која идентификује особу са њеном дијагнозом („особа која болује од шизофреније“ уместо „шизофреничар“).
4. Додајте културни контекст. Реците АИ о културном/језичком контексту клијента и „не сматрајте изразе који би могли бити нормални у овом контексту као патологију“.
5. Очи стручњака и заједнице. Ако нисте сигурни око неког културног питања, консултујте се са колегом који познаје ту културу.
6. Нека људи одлучују. Чак и провера пристрасности није препуштена АИ; Коначна пресуда правде је ваша.

Савет: Практичан начин да проверите да ли је резултат пристрасан: промените један атрибут (пол, културу, старост) у упиту и поново поставите исто питање. Ако се тумачење промени „неправедно” са овом променом, постоји пристрасност.

три мини кофера

Случај 1 — Патологизирање културног изражавања. Професионалац каже АИ да клијент из друге културе „разговара са покојником“ током процеса туговања. АИ ово описује као „можда психотични симптом“. Међутим, ово је уобичајен и нормалан израз туге у култури тог клијента. Експерт одбацује резултате вештачке интелигенције јер познаје културни контекст. Неко ко није познавао контекст могао би да направи озбиљну погрешну процену.

Случај 2 — Тестирање родних предрасуда. Истражитељ даје исти резиме случаја АИ двапут; само мења пол особе. У „женској“ верзији, АИ наглашава „емоционалну нестабилност“, док у „мушкој“ верзији уоквирује исто понашање као „реакција на стрес“. Ово јасно показује родну пристрасност модела. Истраживач документује ову разлику и користи резултате са овом свешћу.

Случај 3 — Исправљање стигматизирајућег језика. АИ је „болесна граница“, наводи се у једном нацрту извештаја. Специјалиста ово види као стигматизирајући језик који идентификује особу са његовом дијагнозом и преводи је на језик који се фокусира на особу, као што је „појединац са дефинисаним граничним обрасцем личности“. Мала промена језика чини велику разлику у заштити достојанства клијента.

Упутства и шаблони који се могу копирати

Проверите следећи текст за пристрасност: означите изјаве које указују на културну, пол, сексуалну оријентацију, године или социоекономску пристрасност. Такође покажите претпоставке које сматрају да су западне норме универзалне. Предложите праведнију алтернативу за сваку. Текст: [текст]

Помозите ми да проценим следећу ситуацију, али клијентов културни контекст је [култура/језик]. У овом контексту, представљање израза који могу бити НОРМАЛНИ као патологија; Ако нисте сигурни у вези са културолошким аспектом, реците „ово може варирати у зависности од културе, консултујте се са стручњаком“. Статус: [анонимни статус]

Преведите стигматизирајуће изразе у овом тексту који идентификују особу са њеном дијагнозом (нпр. "шизофреничар", "гранична линија") на језик који центрира особу и чува њено достојанство. Не мењајте садржај, само хуманизујте језик. Текст: [текст]

Двапут ћу проценити следећи резиме случаја: једном субјект [особина А], други [обележје Б]. Да ли постоји неправедна разлика између ове две оцене, и ако јесте, да ли је то последица пристрасности? Цомпаре.Абстрацт: [анонимни сажетак]

Слаби промпт / Јаки промпт

Слабо обавештење: „Да ли је понашање овог клијента нормално или абнормално?“

Овај упит не пита за кога је „нормалан“; АИ претпоставља западно-центрично, некултурно „нормално“ и може да патологизира културни израз.

Снажан позив: „Овај клијент је у [културном/језичком контексту]. Објасните да ли ово понашање може бити нормалан израз у том културном контексту или знак који захтева пажњу, разговарајући о оба одвојено. Немојте доносити коначан суд; подсетите ме да се консултујем са стручњаком који познаје културни контекст.“

Ова порука ставља контекст у центар, спречава културно погрешно читање и препушта одлуку стручњаку.

Уобичајене грешке

• Погрешка АИ излаз за „објектив“. Заборављање да модел носи пристрасност и прихватање резултата као научне чињенице.
• Сматрајући западну норму универзалном. Дефинисање „нормалног” према једној култури и патологизација различитих израза.
• Не примећујући стигматизујући језик. Погрешити језик који идентификује особу са његовом дијагнозом као „технички језик“.
• Не тестира се на пристрасност. Не покушавајући исти упит са различитим групама и проверавати доследност.
• Сами доносите одлуке у култури коју не познајете. Доношење пресуде без консултације са колегом који познаје ту културу.

Укратко

АИ је пристрасна јер учи из текстова пристрасног света; У психологији, ова пристрасност се преводи у опипљиву штету у облику културе, рода, дијагностике, језика и стигме. Упоредите сваки резултат са питањем „да ли је ово фер према свим групама?“ процедите га; тестирајте исти упит са различитим групама; додајте културни контекст вашем упиту; променити језик стигматизације у језик усмерен на особу; Потражите погледе стручњака/заједнице на културу која вам није позната. Пресуда правде, укључујући контролу пристрасности, произилази из људског бића.

Задатак апликације

Припремите резиме случаја (анонимно). Дајте га АИ двапут; промените само једну карактеристику (пол, културу или старост). Поставите два отиска један поред другог и проверите да ли постоје неправедне разлике. Такође нека АИ преведе стигматизирајуће фразе у параграфу извештаја на језик усмерен на особу и примети разлику.

контролна листа

• [ ] Промените излаз у „да ли је ово поштено за све групе?“ поставио сам питање.
• [ ] Тестирао сам исти упит са различитим групама/културама.
• [ ] Додао сам културни контекст упиту; Нисам патологизовао културни израз.
• [ ] Променио сам језик стигматизације у језик усмерен на особу.
• [ ] Тражио сам савет од стручњака/колеге о културном питању са којим нисам био упознат.
• [ ] Препустио сам коначну одлуку о правичности сопственој процени, а не АИ.