Mga nadagdag:
- Kilalanin gamit ang mga halimbawa kung paano nagdudulot ng pinsala ang kultura, kasarian, at diagnostic na bias sa mga modelo ng artificial intelligence sa konteksto ng sikolohiya
- Kakayahang magpatupad ng bias check na sumusubok sa output para sa iba't ibang grupo, wika at kultura
- Kakayahang bumuo ng maagap at mga diskarte sa pag-verify na nagwawasto sa pamantayang nakasentro sa Kanluran at naninira sa wika
Ang artificial intelligence (AI) ay hindi neutral. Natututo ang isang modelo ng AI mula sa isang malaking tumpok ng text sa internet, at ang "pananaw sa mundo" ng modelo ay nababaluktot sa kung kaninong boses ang naglalaman ng higit at kung kaninong boses ang naglalaman ng mas kaunti. Ang pagbaluktot na ito ay tinatawag na bias. Ang bias sa sikolohiya ay hindi isang ordinaryong teknikal na depekto; Maaari itong direktang makaapekto sa pagtatasa, pagsusuri at paggamot ng isang tao. Ang isang sintomas ay maaaring basahin bilang "normal" sa isang kultura at "pathological" sa isa pa; ang isang pag-uugali ay maaaring i-frame bilang "pagigiit" sa isang kasarian at "pagsalakay" sa isa pa. Maaaring matutunan at gayahin ng AI ang mga makasaysayang bias na ito. Sa yunit na ito matututunan mong kilalanin ang bias sa AI sa konteksto ng sikolohiya at i-audit ang mga output para sa iba't ibang grupo, wika at kultura.
Saan nanggagaling ang pagtatangi at paano ito nakakasama?
Mayroong tatlong pangunahing pinagmumulan ng bias ng AI:
- Imbalance ng data ng pagsasanay. Ang mga modelo ay kadalasang sinasanay sa mga teksto ng isang partikular na wika, kultura, at panahon. Ang karamihan ng panitikan sa sikolohiya ay nagmumula sa Kanluranin, edukado, industriyalisadong lipunan; kaya't ang "normal na tao" na palagay ng AI ay sumasalamin sa makitid na sample na ito.
- Pagsasama ng makasaysayang bias. Ang mga tekstong nag-pathologize at nag-stigmatize sa ilang grupo noong nakaraan ay kasama rin sa data; natutunan ng modelo ang mga pattern na ito.
- Kakulangan ng representasyon. Ang modelo ay may alinman sa hindi sapat o stereotypical na impormasyon tungkol sa mga grupong kulang sa representasyon (iba't ibang etnisidad, wika, oryentasyong sekswal, kapansanan).
Ang pinsala ay nasasalat: Maaaring suriin ng AI ang isang sintomas bilang mas malala sa isang grupo at mas banayad kaysa sa isa pa; maaaring maling ituring ang isang kultural na pagpapahayag (ritwal ng pagluluksa, karanasan sa relihiyon) bilang sintomas; Maaari itong gumawa ng stigmatizing, clichéd na wika.
Babala: Kahit na ang isang output mula sa AI ay lumilitaw na "layunin na agham," maaari itong magdala ng mga bias na natutunan nito. Lalo na pagdating sa iba't ibang kultura, kasarian, oryentasyong sekswal, at socioeconomic na grupo, isinasaalang-alang namin ang bawat resulta bilang "patas ba ito para sa lahat ng grupo?" Salain gamit ang tanong.
Mga uri ng bias na tiyak sa sikolohiya
Uri ng bias
Tingnan sa sikolohiya
panganib
pagkiling sa kultura
Isinasaalang-alang ang mga pamantayang Kanluranin bilang unibersal
Huwag ipagkamali ang pagpapahayag ng kultura bilang patolohiya
bias ng kasarian
Iba-iba ang pagbibigay-kahulugan sa parehong gawi depende sa kasarian
diagnostic disparity
diagnostic bias
Pagpapakita ng ilang grupo bilang "prone" sa ilang partikular na diagnosis
Over/under diagnosis
pagkiling sa wika
Higit na "bihasa" sa dominanteng wika, mababaw sa iba
Hindi pantay na pagsusuri
Pagtatatak
Wika na nagpapakilala sa tao sa kanilang diagnosis
nakakasira ng framing
Hakbang sa hakbang: kontrol ng bias
- Maaari mong baguhin ang output sa "para kanino ito isinulat?" tanong. Sino ang default na paksa? Siya ay karaniwang isang edukado, Kanluranin, "karaniwang" tao.
- Subukan sa iba't ibang grupo. Ulitin ang parehong prompt sa iba't ibang konteksto ng kultura, kasarian at edad; Nagbabago ba ang mga komento?
- I-scan ang stigmatic na dila. Tamang salita na nagpapakilala sa taong may kanilang diagnosis ("taong nakakaranas ng schizophrenia" sa halip na "schizophrenic").
- Magdagdag ng kultural na konteksto. Sabihin sa AI ang kultural/linggwistika na konteksto ng kliyente at "huwag ituring ang mga expression na maaaring normal sa kontekstong ito bilang patolohiya."
- Mga mata ng eksperto at komunidad. Kung hindi ka sigurado tungkol sa isang isyu sa kultura, kumunsulta sa isang kasamahan na nakakaalam ng kulturang iyon.
- Hayaan ang mga tao na magpasya. Kahit na ang pagsuri ng bias ay hindi natitira sa AI; Ang huling paghatol ng hustisya ay sa iyo.
Tip: Isang praktikal na paraan upang subukan kung ang isang output ay bias: baguhin ang isang katangian (kasarian, kultura, edad) sa prompt at itanong muli ang parehong tanong. Kung ang interpretasyon ay nagbabago "hindi patas" sa pagbabagong ito, mayroong bias.
tatlong mini case
Kaso 1 — Pathologizing cultural expression. Sinabi ng isang propesyonal sa AI na ang isang kliyente mula sa ibang kultura ay "nakikipag-usap sa namatay" sa panahon ng proseso ng kalungkutan. Binabalangkas ito ng AI bilang "maaaring isang psychotic na sintomas." Gayunpaman, ito ay karaniwan at normal na pagpapahayag ng kalungkutan sa kultura ng kliyenteng iyon. Tinatanggihan ng eksperto ang output ng AI dahil alam niya ang konteksto ng kultura. Ang isang taong hindi alam ang konteksto ay maaaring gumawa ng malubhang maling paghatol.
Kaso 2 — Pagsubok sa bias ng kasarian. Ang isang imbestigador ay nagbibigay ng parehong buod ng kaso sa AI ng dalawang beses; binabago lang nito ang kasarian ng tao. Sa "babae" na bersyon, binibigyang-diin ng AI ang "emosyonal na kawalang-tatag," habang sa "lalaki" na bersyon, binabalangkas nito ang parehong pag-uugali bilang isang "tugon sa stress." Malinaw na ipinapakita nito ang bias ng kasarian ng modelo. Itinatala ng mananaliksik ang pagkakaibang ito at ginagamit ang mga output na may ganitong kamalayan.
Kaso 3 — Pagwawasto ng pananakit na pananalita. Ang AI ay isang "may sakit na hangganan," sabi ng isang draft ng ulat. Itinuturing ito ng espesyalista bilang isang stigmatizing na wika na nagpapakilala sa tao sa kanyang diagnosis at isinasalin ito sa wikang nakatutok sa tao, gaya ng "isang indibidwal na may tinukoy na pattern ng personalidad ng borderline". Ang isang maliit na pagbabago sa wika ay gumagawa ng isang malaking pagkakaiba sa pagprotekta sa dignidad ng kliyente.
Nakokopya na mga prompt at template
Suriin ang sumusunod na text para sa bias: mga flag statement na nagsasaad ng kultura, kasarian, oryentasyong sekswal, edad, o socioeconomic bias. Ipakita din ang mga pagpapalagay na isinasaalang-alang ang mga pamantayang Kanluranin bilang pangkalahatan. Magmungkahi ng mas patas na alternatibo para sa bawat isa.Text: [text]
Tulungan akong suriin ang sumusunod na sitwasyon, ngunit ang kultural na konteksto ng kliyente ay [kultura/wika]. Sa kontekstong ito, nagpapakita ng mga expression na maaaring NORMAL bilang patolohiya; Kung hindi ka sigurado tungkol sa isang kultural na punto, sabihin ang "ito ay maaaring mag-iba ayon sa kultura, kumunsulta sa isang eksperto." Katayuan: [anonymous status]
I-translate ang mga pananakit na expression sa text na ito na nagpapakilala sa taong may kanilang diagnosis (hal., "schizophrenic,","isang borderline") sa wikang nakasentro sa tao at nagpapanatili ng kanilang dignidad. Huwag baguhin ang nilalaman, gawing tao lamang ang wika. Teksto: [teksto]
Susuriin ko ang sumusunod na buod ng kaso nang dalawang beses: sa sandaling ang paksa [tampok A], ang isa pa [tampok B]. Mayroon bang hindi patas na pagkakaiba sa pagitan ng dalawang pagsusuri, at kung gayon, ito ba ay dahil sa bias? Compare.Abstract: [anonymous abstract]
Mahinang prompt / Malakas na prompt
Mahinang prompt: "Normal o abnormal ba ang pag-uugali ng kliyenteng ito?"
Ang prompt na ito ay hindi nagtatanong kung para kanino ang "normal"; Ipinapalagay ng AI ang isang Western-centric, uncultured na "normal" at maaaring mag-pathologize ng kultural na expression.
Malakas na prompt: "Ang kliyenteng ito ay nasa [kultural/linggwistiko na konteksto]. Ipaliwanag kung ang pag-uugaling ito ay maaaring isang normal na pagpapahayag sa kultural na konteksto o isang senyales na nangangailangan ng pansin, pagtalakay sa parehong hiwalay. Huwag gumawa ng tiyak na paghatol; ipaalala sa akin na kumunsulta sa isang dalubhasa na nakakaalam ng kultural na konteksto."
Inilalagay ng prompt na ito ang konteksto sa gitna, pinipigilan ang maling pagbabasa ng kultura, at ipinauubaya ang desisyon sa eksperto.
Mga karaniwang pagkakamali
- Napagkakamalang "layunin" ang output ng AI. Nakakalimutan na ang modelo ay nagdadala ng bias at tinatanggap ang output bilang siyentipikong katotohanan.
- Isinasaalang-alang ang pamantayang Kanluranin bilang unibersal. Ang pagtukoy sa "normal" ayon sa isang solong kultura at nagpapatolohiya ng iba't ibang mga expression.
- Hindi napapansin ang stigmatizing language. Napagkakamalan ang wikang nagpapakilala sa taong may diagnosis bilang "teknikal na wika".
- Hindi pagsubok para sa bias. Hindi sinusubukan ang parehong prompt sa iba't ibang grupo at sinusuri ang pagkakapare-pareho.
- Paggawa ng mga desisyon nang mag-isa sa isang kulturang hindi mo alam. Gumagawa ng paghatol nang hindi kumukunsulta sa isang kasamahan na nakakaalam ng kulturang iyon.
Sa buod
Ang AI ay may kinikilingan dahil natututo ito mula sa mga teksto ng isang may kinikilingan na mundo; Sa sikolohiya, ang bias na ito ay isinasalin sa nasasalat na pinsala sa anyo ng kultura, kasarian, diagnostic, wika, at stigma. Ihambing ang bawat output sa tanong na "patas ba ito sa lahat ng grupo?" pilitin ito; subukan ang parehong prompt sa iba't ibang mga grupo; magdagdag ng kultural na konteksto sa iyong prompt; baguhin ang stigmatizing language sa person-centered language; Humanap ng mga mata ng eksperto/komunidad sa isang kulturang hindi ka pamilyar. Ang paghatol ng katarungan, kabilang ang kontrol ng bias, ay nagmumula sa tao.
Gawain ng aplikasyon
Maghanda ng buod ng kaso (anonymous). Ibigay ito sa AI ng dalawang beses; baguhin ang isang katangian lamang (kasarian, kultura o edad). Ilagay ang dalawang printout nang magkatabi at suriin para sa mga hindi patas na pagkakaiba. Ipasalin din sa AI ang mga stigmatizing na parirala sa isang talata ng ulat sa wikang nakasentro sa tao at tandaan ang pagkakaiba.
checklist
- [ ] Baguhin ang output sa "patas ba ito sa lahat ng grupo?" tanong ko.
- [ ] Sinubukan ko ang parehong prompt sa iba't ibang grupo/kultura.
- [ ] Idinagdag ko ang kontekstong kultural sa prompt; Hindi ako nag-pathologize sa pagpapahayag ng kultura.
- [ ] Pinalitan ko ang wikang naninira sa wikang nakasentro sa tao.
- [ ] Humingi ako ng payo sa isang eksperto/kasama sa isang isyung pangkultura na hindi ko pamilyar.
- [ ] Iniwan ko ang panghuling desisyon ng pagiging patas sa sarili kong paghatol, hindi ang AI.