Hagnaður:
- Viðurkenna með dæmum hvernig menningar-, kyn- og greiningarskekkjur í gervigreindarlíkönum valda skaða í tengslum við sálfræði
- Geta til að innleiða hlutdrægni athuga sem prófar framleiðsla fyrir mismunandi hópa, tungumál og menningu
- Hæfni til að þróa skjóta og sannprófunaraðferðir sem leiðrétta vestrænt miðja viðmið og stigmatískt tungumál
Gervigreind (AI) er ekki hlutlaus. Gervigreind líkan lærir af risastórum bunka af texta á netinu og „heimssýn“ líkansins er skekkt af því hvers rödd það inniheldur meira og hvers rödd inniheldur minna. Þessi brenglun er kölluð hlutdrægni. Hlutdrægni í sálfræði er ekki venjulegur tæknilegur galli; Það getur haft bein áhrif á mat, greiningu og meðferð einstaklings. Einkenni má lesa sem "eðlilegt" í einni menningu og "sjúklegt" í annarri; hegðun getur verið sett í ramma sem „árásargirni“ hjá öðru kyninu og „árásargirni“ hjá hinu. AI getur lært og endurtekið þessar sögulegu hlutdrægni. Í þessari einingu munt þú læra að þekkja hlutdrægni í gervigreind í samhengi sálfræði og endurskoða úttak fyrir mismunandi hópa, tungumál og menningu.
Hvaðan koma fordómar og hvernig skaða þeir?
Það eru þrjár aðaluppsprettur gervigreindar hlutdrægni:
- Ójafnvægi í þjálfunargögnum. Fyrirmyndir eru aðallega þjálfaðar með texta af ákveðnu tungumáli, menningu og tímabili. Megnið af sálfræðibókmenntum kemur frá vestrænum, menntaðum, iðnvæddum samfélögum; þess vegna endurspeglar forsendur gervigreindar „venjulegt mannlegt“ þetta þrönga úrtak.
- Innifalið sögulega hlutdrægni. Textar sem sýknuðu og stimpluðu ákveðna hópa í fortíðinni eru einnig með í gögnunum; líkanið lærir þessi mynstur.
- Skortur á fulltrúa. Líkanið hefur ýmist ófullnægjandi eða staðalímyndar upplýsingar um undirfulltrúa hópa (mismunandi þjóðerni, tungumál, kynhneigð, fötlun).
Skaðinn er áþreifanlegur: gervigreind getur metið einkenni sem alvarlegri í einum hópi og vægari en í öðrum; getur ranglega litið á menningarlega tjáningu (sorgarathöfn, trúarupplifun) sem einkenni; Það getur framkallað stigmatískt, klisjukennt tungumál.
Varúð: Jafnvel þó að úttak frá gervigreind virðist vera „hlutlæg vísindi“ getur það borið á sér þá hlutdrægni sem það hefur lært. Sérstaklega þegar kemur að mismunandi menningu, kyni, kynhneigð og félagshagfræðilegum hópum, lítum við á hverja niðurstöðu sem "er þetta sanngjarnt fyrir alla hópa?" Sía með spurningunni.
Tegundir hlutdrægni sem eru sértækar fyrir sálfræði
Tegund hlutdrægni
Skoða í sálfræði
áhættu
menningarlega hlutdrægni
Að líta á vestræn viðmið sem algild
Ekki misskilja menningartjáningu og meinafræði
kynjahlutdrægni
Að túlka sömu hegðun á mismunandi hátt eftir kyni
greiningarmunur
greiningarskekkju
Að sýna ákveðna hópa sem „hættulega“ fyrir ákveðnum sjúkdómsgreiningum
Yfir/undir greining
tungumálahlutdrægni
Meira "færni" í ríkjandi tungumáli, yfirborðskennt í hinu
Ójafnt mat
Stimplun
Tungumál sem auðkennir einstaklinginn með greiningu hans
niðrandi umgjörð
Skref fyrir skref: hlutdrægni stjórna
- Þú getur breytt úttakinu í "fyrir hverja var það skrifað?" spurningu. Hver er sjálfgefið viðfangsefni? Hann er almennt menntaður, vestrænn, „meðal“ gaur.
- Prófaðu með mismunandi hópum. Endurtaktu sömu boð í mismunandi menningar-, kyn- og aldurssamhengi; Eru athugasemdirnar að breytast?
- Skannaðu stimpiltunguna. Rétt orðalag sem auðkennir einstaklinginn með greiningu sína ("persóna sem upplifir geðklofa" í stað "geðklofa").
- Bættu við menningarlegu samhengi. Segðu gervigreindinni menningarlegt / tungumálalegt samhengi viðskiptavinarins og "líttu ekki tjáningu sem gæti verið eðlileg í þessu samhengi sem meinafræði."
- Augu sérfræðinga og samfélagsins. Ef þú ert ekki viss um menningarmál skaltu ráðfæra þig við samstarfsmann sem þekkir þá menningu.
- Leyfðu fólki að ákveða. Jafnvel hlutdrægni athugun er ekki eftir AI; Endanlegur dómur réttlætisins er þinn.
Ábending: Hagnýt leið til að prófa hvort úttak sé hlutdrægt: breyttu einum eiginleika (kyni, menningu, aldri) í hvetjunni og spyrðu sömu spurningarinnar aftur. Ef túlkunin breytist "ósanngjarnt" við þessa breytingu er hlutdrægni.
þrjú smámál
Mál 1 — Sjúkleg menningartjáning. Fagmaður segir gervigreindinni að viðskiptavinur frá annarri menningu sé að „tala við hinn látna“ meðan á sorgarferlinu stendur. AI rammar þetta fram sem „gæti verið geðrofseinkenni“. Hins vegar er þetta algeng og eðlileg tjáning sorgar í menningu þess skjólstæðings. Sérfræðingurinn hafnar framleiðslu gervigreindar vegna þess að hann þekkir menningarlegt samhengi. Sá sem þekkti ekki samhengið gæti farið með alvarlega rangstöðu.
Tilfelli 2 - Kynjaskekkjupróf. Rannsakandi gefur gervigreindinni sama samantekt tvisvar; það breytir bara kyni viðkomandi. Í „kvenkyns“ útgáfunni leggur gervigreind áherslu á „tilfinningalegan óstöðugleika“ en í „karlkyns“ útgáfunni rammar það fram sömu hegðun og „streituviðbrögð“. Þetta sýnir greinilega kynjahlutdrægni líkansins. Rannsakandi skráir þennan mun og notar úttakið með þessari vitund.
Mál 3 — Leiðrétting á stimplun. Gervigreind er „sjúk landamæri,“ segir í skýrsludrögum. Sérfræðingur lítur á þetta sem stigmatískt tungumál sem auðkennir einstaklinginn með greiningu sína og þýðir það yfir á tungumál sem beinist að viðkomandi, svo sem „einstaklingur með skilgreint persónuleikamynstur á mörkum“. Lítil breyting á tungumáli skiptir miklu máli við að vernda reisn viðskiptavinarins.
Afritanleg boð og sniðmát
Athugaðu eftirfarandi texta fyrir hlutdrægni: fánayfirlýsingar sem gefa til kynna menningarlega, kyn, kynhneigð, aldur eða félagshagfræðilega hlutdrægni. Sýndu einnig þær forsendur sem telja vestræn viðmið vera algild. Leggðu til sanngjarnari valkost fyrir hvern.Texti: [texti]
Hjálpaðu mér að meta eftirfarandi aðstæður, en menningarlegt samhengi viðskiptavinarins er [menning/tungumál]. Í þessu samhengi, að setja fram tjáningu sem gæti verið EÐLILEG sem meinafræði; Ef þú ert ekki viss um menningaratriði skaltu segja "þetta getur verið mismunandi menningarlega séð, ráðfærðu þig við sérfræðing." Staða: [nafnlaus staða]
Þýddu fordómaorðin í þessum texta sem auðkenna manneskjuna með greiningu sína (t.d. „geðklofa,“, „landamæri“) yfir á tungumál sem miðar manneskjuna og varðveitir reisn hennar. Ekki breyta innihaldinu, manngerðu bara tungumálið. Texti: [texti]
Ég mun meta eftirfarandi samantekt tvisvar: einu sinni viðfangsefnið [eiginleiki A], hitt [eiginleika B]. Er ósanngjarn munur á þessum tveimur matum og ef svo er, er það vegna hlutdrægni? Compare.Abstract: [nafnlaust ágrip]
Veik kvaðning / Sterk kvaðning
Veik kvaðning: "Er hegðun þessa viðskiptavinar eðlileg eða óeðlileg?"
Þessi hvetja spyr ekki fyrir hvern "venjulegur" sé; Gerð gervigreind gerir ráð fyrir vestrænni miðlægu, ómenningu „eðlilegu“ og getur valdið sjúklegri menningartjáningu.
Sterk tilvitnun: "Þessi skjólstæðingur er í [menningarlegu/tungumálasamhengi]. Útskýrðu hvort þessi hegðun gæti verið eðlileg tjáning í því menningarlega samhengi eða tákn sem krefst athygli, ræddu hvort tveggja í sitthvoru lagi. Ekki fella endanlegan dóm; minntu mig á að hafa samráð við sérfræðing sem þekkir menningarlegt samhengi."
Þessi tilvitnun setur samhengið í miðju, kemur í veg fyrir menningarlegan mislestur og lætur sérfræðingnum ákvörðunina eftir.
Algeng mistök
- Misskilja AI framleiðsla fyrir „hlutlægt“. Að gleyma því að líkanið ber hlutdrægni og samþykkja framleiðslan sem vísindalega staðreynd.
- Að líta á vestræna norm sem alhliða. Skilgreina „eðlilegt“ út frá einni menningu og meinafræðilega mismunandi tjáningu.
- Tek ekki eftir stimplandi orðalagi. Að misskilja tungumálið sem auðkennir manneskjuna með greiningu hans sem "tæknimál".
- Ekki prófa fyrir hlutdrægni. Ekki reyna sömu vísunina með mismunandi hópum og athuga samræmi.
- Að taka ákvarðanir einn í menningu sem þú þekkir ekki. Að dæma án samráðs við samstarfsmann sem þekkir þá menningu.
Í stuttu máli
AI er hlutdrægt vegna þess að það lærir af textum hlutdrægs heims; Í sálfræði þýðir þessi hlutdrægni sér í áþreifanlegum skaða í formi menningar, kyns, greiningar, tungumáls og fordóma. Berðu saman hverja útkomu með spurningunni „er þetta sanngjarnt fyrir alla hópa? þenja það; prófaðu sömu vísunina með mismunandi hópum; bættu menningarlegu samhengi við hvetja þína; breyta stimplandi tungumáli í einstaklingsmiðað tungumál; Leitaðu að augum sérfræðinga/samfélags á menningu sem þú þekkir ekki. Dómur réttlætis, þar með talið eftirlit með hlutdrægni, stafar frá manneskjunni.
Umsóknarverkefni
Útbúa samantekt mála (nafnlaus). Gefðu gervigreindinni það tvisvar; breyta aðeins einum eiginleika (kyni, menningu eða aldri). Settu tvær útprentanir hlið við hlið og athugaðu hvort ósanngjarn munur sé á þeim. Látið gervigreindina líka þýða stigmatískar setningar í skýrslugrein yfir á einstaklingsmiðað tungumál og athugaðu muninn.
gátlisti
- [ ] Breyttu úttakinu í "er þetta sanngjarnt fyrir alla hópa?" Ég spurði spurningarinnar.
- [ ] Ég prófaði sömu skilaboðin með mismunandi hópum/menningum.
- [ ] Ég bætti menningarlegu samhengi við fyrirskipunina; Ég meinaði ekki menningartjáningu.
- [ ] Ég breytti stimplunarmálinu í persónumiðað tungumál.
- [ ] Ég leitaði ráða hjá sérfræðingi/kollega um menningarmál sem ég þekkti ekki til.
- [ ] Ég lét lokaákvörðun um sanngirni eftir eigin dómi, ekki gervigreindinni.