Eelarvamus, esindatus ja kultuuriline tundlikkus

Kasu:

• Tunnistage näidetega, kuidas tehisintellekti mudelite kultuurilised, soolised ja diagnostilised eelarvamused põhjustavad psühholoogia kontekstis kahju
• Võimalus rakendada eelarvamuste kontrolli, mis testib väljundit erinevate rühmade, keelte ja kultuuride jaoks
• Oskus välja töötada kiireid ja kontrollimisvõtteid, mis parandavad läänekeskset normi ja häbimärgistavat keelt

Tehisintellekt (AI) ei ole neutraalne. AI-mudel õpib tohutult Internetis leiduvast tekstihunnikust ja mudeli "maailmavaadet" moonutab see, kelle hääl sisaldab rohkem ja kelle hääl vähem. Seda moonutust nimetatakse kallutatuseks. Eelarvamus psühholoogias ei ole tavaline tehniline viga; See võib otseselt mõjutada inimese hindamist, diagnoosimist ja ravi. Sümptomit võib ühes kultuuris lugeda "normaalseks" ja teises "patoloogiliseks"; käitumist võib ühe soo puhul sõnastada kui "kehtestamist" ja teisest soost "agressiivsust". AI saab neid ajaloolisi eelarvamusi õppida ja korrata. Selles üksuses õpite tundma AI eelarvamusi psühholoogia kontekstis ja auditeerima erinevate rühmade, keelte ja kultuuride väljundeid.

Kust tulevad eelarvamused ja kuidas need kahjustavad?

AI eelarvamusel on kolm peamist allikat:

1. Treeninguandmete tasakaalustamatus. Mudeleid koolitatakse valdavalt konkreetse keele, kultuuri ja perioodi tekstidega. Suurem osa psühholoogiaalast kirjandust pärineb lääne haritud tööstusühiskondadest; seega peegeldab tehisintellekti "tavalise inimese" oletus seda kitsast valimit.
2. Ajaloolise eelarvamuse kaasamine. Andmetesse on kaasatud ka tekstid, mis minevikus teatud gruppe patologiseerisid ja stigmatiseerisid; mudel õpib need mustrid selgeks.
3. Esinduse puudumine. Mudelil on kas ebapiisav või stereotüüpne teave alaesindatud rühmade kohta (erinev rahvus, keel, seksuaalne sättumus, puue).

Kahju on käegakatsutav: AI võib hinnata sümptomit ühes rühmas raskemaks ja leebemaks kui teises; võib ekslikult pidada sümptomiks kultuurilist väljendust (leinarituaal, religioosne kogemus); See võib tekitada häbimärgistavat ja klišeelikku keelt.

Ettevaatust: isegi kui AI väljund näib olevat "objektiivne teadus", võib see sisaldada õpitud eelarvamusi. Eelkõige erinevate kultuuride, soo, seksuaalse sättumuse ja sotsiaalmajanduslike rühmade puhul arvestame iga tulemusega "kas see on õiglane kõigi rühmade jaoks?" Filtreerige küsimusega.

Psühholoogiale omased eelarvamuste tüübid

Eelarvamuse tüüp

Vaade psühholoogias

risk

kultuuriline eelarvamus

Lääne normide universaalseks pidamine

Ärge ajage kultuurilist väljendust patoloogiaga ekslikult

sooline eelarvamus

Sama käitumise tõlgendamine olenevalt soost erinevalt

diagnostiline ebavõrdsus

diagnostiline eelarvamus

Teatud rühmade kujutamine teatud diagnoosidele "alduvatena".

Üle/aladiagnoos

keele kallutatus

Domineerivas keeles "valdavam", teises pealiskaudsem

Ebavõrdne hindamine

Tembeldamine

Keel, mis tuvastab isiku tema diagnoosiga

alandav raamimine

Samm-sammult: kallutatuse juhtimine

1. Saate muuta väljundiks "kelle jaoks see oli kirjutatud?" küsimus. Kes on vaiketeema? Ta on üldiselt haritud, läänelik, "keskmine" mees.
2. Testige erinevate gruppidega. Korrake sama viipa erinevates kultuuri-, soo- ja vanusekontekstides; Kas kommentaarid muutuvad?
3. Skaneerige stigmaatilist keelt. Õige sõnastus, mis identifitseerib isiku tema diagnoosiga ("skisofreeniahaige" asemel "skisofreeniahaige").
4. Lisage kultuuriline kontekst. Rääkige tehisintellektile kliendi kultuurilisest/keelelisest kontekstist ja "ärge pidage väljendeid, mis võivad selles kontekstis olla normaalsed, patoloogiana".
5. Eksperdi ja kogukonna silmad. Kui te pole kultuuriprobleemis kindel, konsulteerige seda kultuuri tundva kolleegiga.
6. Las inimesed otsustavad. Isegi eelarvamuste kontrollimine ei ole AI hooleks jäänud; Õigluse lõplik otsus on teie.

Näpunäide. Praktiline viis testida, kas väljund on kallutatud: muutke viibas ühte atribuuti (sugu, kultuur, vanus) ja esitage sama küsimus uuesti. Kui tõlgendus muutub selle muudatusega "ebaõiglaselt", on tegemist eelarvamusega.

kolm minikarpi

1. juhtum – patologiseeriv kultuuriline väljendus. Professionaal ütleb tehisintellektile, et erinevast kultuurist pärit klient "vestleb surnuga" leinaprotsessi ajal. AI kirjeldab seda kui "võib olla psühhootiline sümptom". See on aga selle kliendi kultuuris tavaline ja normaalne leina väljendus. Ekspert lükkab tehisintellekti väljundi tagasi, kuna tunneb kultuurikonteksti. Keegi, kes konteksti ei teadnud, võib teha tõsise valeotsuse.

2. juhtum – soolise eelarvamuse testimine. Uurija annab AI-le kaks korda sama juhtumi kokkuvõtte; see lihtsalt muudab inimese sugu. "Naise" versioonis rõhutab AI "emotsionaalset ebastabiilsust", samas kui "meessoost" versioonis raamib see sama käitumist kui "stressireaktsioon". See näitab selgelt mudeli soolist eelarvamust. Uurija dokumenteerib selle erinevuse ja kasutab selle teadlikkusega väljundeid.

3. juhtum – häbimärgistava keele parandamine. Ühes raporti projektis öeldakse, et tehisintellekt on "haige piiriala". Spetsialist näeb selles stigmatiseerivat keelt, mis identifitseerib isiku tema diagnoosiga ja tõlgib selle inimesele keskenduvasse keelde, näiteks "määratletud piiripealse isiksusemustriga indiviid". Väike keelemuutus muudab kliendi väärikuse kaitsmise suureks.

Kopeeritavad viibad ja mallid

Kontrollige, kas järgmine tekst on eelarvamuste suhtes: lipulaused, mis viitavad kultuurilisele, soolisele, seksuaalsele orientatsioonile, vanusele või sotsiaalmajanduslikule eelarvamusele. Näidake ka eeldusi, mis peavad lääne norme universaalseks. Soovitage igaühe jaoks õiglasemat alternatiivi.Tekst: [tekst]

Aidake mul hinnata järgmist olukorda, kuid kliendi kultuuriline kontekst on [kultuur/keel]. Selles kontekstis väljendite esitamine, mis võivad olla patoloogiana NORMAALSED; Kui te pole kultuurilises punktis kindel, öelge "see võib kultuuriliselt erineda, konsulteerige eksperdiga". Olek: [anonüümne olek]

Tõlkige selles tekstis olevad häbimärgistavad väljendid, mis identifitseerivad isikut tema diagnoosiga (nt "skisofreenik", "piirijoon") keelde, mis koondab inimese ja säilitab tema väärikuse. Ärge muutke sisu, vaid muutke keelt inimlikuks. Tekst: [tekst]

Hindan järgmist juhtumi kokkuvõtet kaks korda: üks kord teema [tunnus A], teine [tunnus B]. Kas kahe hinnangu vahel on ebaõiglane erinevus ja kui jah, siis kas see on tingitud erapoolikusest? Võrdle. Abstract: [anonüümne kokkuvõte]

Nõrk viip / Tugev viip

Nõrk viip: "Kas selle kliendi käitumine on normaalne või ebanormaalne?"

See viip ei küsi, kelle jaoks on "normaalne"; AI eeldab läänekeskset, ebakultuurset "normaalsust" ja võib patologeerida kultuurilist väljendust.

Tugev viip: "See klient on [kultuurilises/keelelises kontekstis]. Selgitage, kas see käitumine võib olla normaalne väljend selles kultuurikontekstis või märk, mis nõuab tähelepanu, arutades mõlemat eraldi. Ärge tehke lõplikku otsust; tuletage mulle meelde, et pean konsulteerima eksperdiga, kes tunneb kultuurikonteksti."

See viipa seab keskmesse konteksti, hoiab ära kultuurilise väärlugemise ja jätab otsustamise eksperdi hooleks.

Levinud vead

• AI väljundi segi ajamine eesmärgiga. Unustades, et mudel sisaldab kallutatust, ja aktsepteerides väljundit teadusliku faktina.
• Pidades lääne normi universaalseks. "Normaalse" defineerimine ühe kultuuri järgi ja erinevate väljenduste patologiseerimine.
• Ei märka häbimärgistavat keelt. Keele, mis identifitseerib diagnoosiga isiku, eksitamine "tehniliseks keeleks".
• Ei testi eelarvamusi. Ei proovita sama viipa erinevate rühmadega ja kontrollida järjepidevust.
• Tehes otsuseid üksi kultuuris, mida sa ei tunne. Otsuse tegemine ilma seda kultuuri tundva kolleegiga nõu pidamata.

Kokkuvõttes

AI on kallutatud, sest ta õpib kallutatud maailma tekstidest; Psühholoogias tähendab see erapoolikust käegakatsutavat kahju kultuurilise, soolise, diagnostilise, keele ja häbimärgistamise näol. Võrrelge iga väljundit küsimusega "kas see on õiglane kõigi rühmade suhtes?" kurna seda; testige sama viipa erinevate rühmadega; lisage oma viitele kultuuriline kontekst; muuta stigmatiseeriv keel isikukeskseks keeleks; Otsige asjatundjate/kogukonna pilku kultuurile, mida te ei tunne. Õiglusmõistmine, sealhulgas kallutatuse kontroll, lähtub inimesest.

Rakenduse ülesanne

Koostage juhtumi kokkuvõte (anonüümne). Andke see AI-le kaks korda; muuta ainult ühte tunnust (sugu, kultuur või vanus). Asetage kaks väljatrükki kõrvuti ja uurige ebaõiglaste erinevuste suhtes. Samuti laske tehisintellektil tõlkida aruande lõigu häbimärgistavad fraasid isikukesksesse keelde ja märkige erinevus.

kontrollnimekiri

• [ ] Muutke väljundiks "Kas see on kõigi rühmade suhtes õiglane?" esitasin küsimuse.
• [ ] Testisin sama viipa erinevate rühmade/kultuuridega.
• [ ] Lisasin viipale kultuurikonteksti; Ma ei patologiseerinud kultuurilist väljendust.
• [ ] Muutsin stigmatiseeriva keele isikukeskseks keeleks.
• [ ] Küsisin nõu eksperdilt/kolleegilt mulle võõras kultuuriküsimuses.
• [ ] Jätsin lõpliku õigluse otsustamise enda, mitte tehisintellekti otsustada.