Qligħ:
- Agħraf b'eżempji kif il-preġudizzju kulturali, tal-ġeneru u dijanjostiku f'mudelli ta' intelliġenza artifiċjali jikkawżaw ħsara fil-kuntest tal-psikoloġija
- Kapaċità li timplimenta verifika tal-preġudizzju li tittestja l-output għal gruppi, lingwi u kulturi differenti
- Kapaċità li tiżviluppa tekniki fil-pront u ta 'verifika li jikkoreġu n-norma ċċentrata fil-Punent u l-lingwa stigmatizzanti
L-intelliġenza artifiċjali (AI) mhix newtrali. Mudell AI jitgħallem minn munzell kbir ta 'test fuq l-internet, u l-"ħarsa tad-dinja" tal-mudell hija mxekkla bil-vuċi ta' min fih aktar u li l-vuċi tiegħu fiha inqas. Din id-distorsjoni tissejjaħ bias. Il-preġudizzju fil-psikoloġija mhuwiex difett tekniku ordinarju; Jista 'jaffettwa direttament il-valutazzjoni, id-dijanjosi u t-trattament ta' persuna. Sintomu jista 'jinqara bħala "normali" f'kultura waħda u "patoloġiku" f'oħra; imġieba tista 'tiġi inkwadrata bħala "assertività" f'sess wieħed u "aggressjoni" fl-ieħor. L-AI tista' titgħallem u tirreplika dawn il-preġudizzji storiċi. F'din l-unità titgħallem tagħraf il-preġudizzju fl-AI fil-kuntest tal-psikoloġija u tivverifika l-outputs għal gruppi, lingwi u kulturi differenti.
Minn fejn ġej il-preġudizzju u kif jagħmel ħsara?
Hemm tliet sorsi primarji ta' preġudizzju AI:
- Żbilanċ tad-dejta tat-taħriġ. Mudelli huma mħarrġa b'mod predominanti b'testi ta' lingwa, kultura u perjodu speċifiku. Il-biċċa l-kbira tal-letteratura tal-psikoloġija ġejja minn soċjetajiet tal-Punent, edukati u industrijalizzati; għalhekk is-suppożizzjoni ta' "bniedem normali" ta' AI tirrifletti dan il-kampjun dejjaq.
- Inklużjoni ta' preġudizzju storiku. Testi li patoloġizzaw u stigmatizzaw ċerti gruppi fil-passat huma inklużi wkoll fid-dejta; il-mudell jitgħallem dawn ix-xejriet.
- Nuqqas ta' rappreżentazzjoni. Il-mudell għandu jew informazzjoni insuffiċjenti jew sterjotipika dwar gruppi sottorappreżentati (etniċità, lingwa, orjentazzjoni sesswali differenti, diżabilità).
Il-ħsara hija tanġibbli: AI tista' tevalwa sintomu bħala aktar sever fi grupp wieħed u aktar ħafif minn fi ieħor; jista’ jqis bi żball espressjoni kulturali (ritwali ta’ luttu, esperjenza reliġjuża) bħala sintomu; Jista' jipproduċi lingwaġġ stigmatizzanti u clichéd.
Attenzjoni: Anke jekk output mill-AI jidher li huwa "xjenza oġġettiva," jista 'jġorr il-preġudizzji li tgħallem. Partikolarment fejn jidħlu kulturi, sessi, orjentazzjonijiet sesswali u gruppi soċjoekonomiċi differenti, aħna nqisu kull riżultat bħala "dan huwa ġust għall-gruppi kollha?" Iffiltra bil-mistoqsija.
Tipi ta' bias speċifiċi għall-psikoloġija
Tip ta' preġudizzju
Ara fil-psikoloġija
riskju
preġudizzju kulturali
Inqisu n-normi tal-Punent bħala universali
Tiżbaljax espressjoni kulturali ma' patoloġija
preġudizzju tal-ġeneru
Interpretazzjoni tal-istess imġieba b'mod differenti skont is-sess
disparità dijanjostika
preġudizzju dijanjostiku
Li jpinġu ċerti gruppi bħala "suxxettibbli" għal ċerti dijanjosi
Dijanjosi żejda/taħt
preġudizzju tal-lingwa
Aktar "profiċjenti" fil-lingwa dominanti, superfiċjali fl-oħra
Evalwazzjoni mhux ugwali
Ittimbrar
Lingwa li tidentifika l-persuna bid-dijanjosi tagħha
qafas degradanti
Pass pass: kontroll tal-preġudizzju
- Tista 'tbiddel l-output għal "min kien miktub għal?" mistoqsija. Min hu s-suġġett default? Huwa ġeneralment raġel edukat, tal-Punent, "medja".
- Test ma 'gruppi differenti. Irrepeti l-istess pront f’kuntesti kulturali, ta’ sess u ta’ età differenti; Qed jinbidlu l-kummenti?
- Skennja l-ilsien stigmatiku. Il-kliem korrett li jidentifika l-persuna bid-dijanjosi tagħha ("persuna li tesperjenza skizofrenija" minflok "skizofrenika").
- Żid il-kuntest kulturali. Għid lill-AI il-kuntest kulturali/lingwistiku tal-klijent u "tikkunsidrax espressjonijiet li jistgħu jkunu normali f'dan il-kuntest bħala patoloġija."
- Għajnejn esperti u komunitarji. Jekk m'intix ċert dwar kwistjoni kulturali, ikkonsulta kollega li jaf dik il-kultura.
- Ħalli n-nies jiddeċiedu. Anke l-iċċekkjar tal-preġudizzju ma jitħalla f'idejn l-AI; Il-ġudizzju finali tal-ġustizzja huwa tiegħek.
Tip: Mod prattiku biex jiġi ttestjat jekk output huwiex preġudikat: ibdel attribut wieħed (sess, kultura, età) fil-pront u erġa' staqsi l-istess mistoqsija. Jekk l-interpretazzjoni tinbidel "inġust" b'din il-bidla, hemm preġudizzju.
tliet każijiet żgħar
Każ 1 — Patoloġizzar tal-espressjoni kulturali. Professjonist jgħid lill-AI li klijent minn kultura differenti qed "jitkellem mal-mejjet" waqt il-proċess ta 'niket. L-AI tfassal dan bħala "jista 'jkun sintomu psikotiku." Madankollu, din hija espressjoni komuni u normali ta 'niket fil-kultura ta' dak il-klijent. L-espert jirrifjuta l-output tal-AI għax jaf il-kuntest kulturali. Xi ħadd li ma kienx jaf il-kuntest jista’ jagħmel ġudizzju ħażin serju.
Każ 2 — Ittestjar tal-preġudizzju tal-ġeneru. Investigatur jagħti l-istess sommarju tal-każ lill-AI darbtejn; jibdel biss is-sess tal-persuna. Fil-verżjoni "femminili", l-AI tenfasizza "instabbiltà emozzjonali", filwaqt li fil-verżjoni "maskili", hija tifforma l-istess imġieba bħal "rispons għall-istress". Dan juri biċ-ċar il-preġudizzju bejn is-sessi tal-mudell. Ir-riċerkatur jiddokumenta din id-differenza u juża l-outputs b'din l-għarfien.
Każ 3 — Il-korrezzjoni tal-lingwaġġ stigmatizzanti. L-AI hija "konfini tal-morda", jgħid abbozz ta' rapport wieħed. L-ispeċjalista jara dan bħala lingwaġġ stigmatizzanti li jidentifika lill-persuna bid-dijanjosi tiegħu u jittraduċiha f'lingwa li tiffoka fuq il-persuna, bħal "individwu b'mudell definit ta' personalità borderline". Bidla żgħira fil-lingwa tagħmel differenza kbira billi tipproteġi d-dinjità tal-klijent.
Promps u mudelli kopjabbli
Iċċekkja t-test li ġej għal preġudizzju: dikjarazzjonijiet tal-bandiera li jindikaw preġudizzju kulturali, sess, orjentazzjoni sesswali, età jew preġudizzju soċjoekonomiku. Uri wkoll is-suppożizzjonijiet li jqisu n-normi tal-Punent bħala universali. Issuġġerixxi alternattiva aktar ġusta għal kull wieħed.Test: [test]
Għinni nevalwa s-sitwazzjoni li ġejja, iżda l-kuntest kulturali tal-klijent huwa [kultura/lingwa]. F'dan il-kuntest, tippreżenta espressjonijiet li jistgħu jkunu NORMALI bħala patoloġija; Jekk m'intix ċert dwar punt kulturali, għid "dan jista' jvarja kulturalment, ikkonsulta espert." Status: [status anonimu]
Ittraduċi l-espressjonijiet stigmatizzanti f'dan it-test li jidentifikaw il-persuna bid-dijanjosi tagħha (eż., "skizophrenic,","a borderline") f'lingwa li tiċċentra l-persuna u tippreserva d-dinjità tagħha. Tibdilx il-kontenut, umanizza biss il-lingwa. Test: [test]
Se nevalwa s-sommarju tal-każ li ġej darbtejn: darba s-suġġett [karatteristika A], l-oħra [karatteristika B]. Hemm differenza inġusta bejn iż-żewġ evalwazzjonijiet, u jekk iva, hija minħabba preġudizzju? Qabbel.Astratt: [astratt anonimu]
Pront dgħajjef / Pront qawwi
Pront dgħajjef: "L-imġieba ta 'dan il-klijent hija normali jew anormali?"
Dan il-pront ma jistaqsix għal min hu “normali”; L-AI tassumi "normali" iċċentrata fil-Punent, mhux kultura u tista 'patoloġizza l-espressjoni kulturali.
Prompt qawwi: "Dan il-klijent jinsab f'[kuntest kulturali/lingwistiku]. Spjega jekk din l-imġieba tistax tkun espressjoni normali f'dak il-kuntest kulturali jew sinjal li jeħtieġ attenzjoni, tiddiskuti t-tnejn separatament. Tagħmilx ġudizzju definittiv; fakkarni biex nikkonsulta ma' espert li jaf il-kuntest kulturali."
Dan il-pront ipoġġi l-kuntest fiċ-ċentru, jipprevjeni qari ħażin kulturali, u jħalli d-deċiżjoni f'idejn l-espert.
Żbalji komuni
- L-output ta' l-AI jiġi żbaljat ma' "għan". Tinsa li l-mudell iġorr preġudizzju u taċċetta l-output bħala fatt xjentifiku.
- Meta wieħed iqis in-norma tal-Punent bħala universali. Tiddefinixxi "normali" skond kultura waħda u patologizza espressjonijiet differenti.
- Ma jindunax lingwaġġ stigmatizzanti. Tiżbalja l-lingwa li tidentifika lill-persuna bid-dijanjosi tagħha bħala "lingwaġġ tekniku".
- Mhux qed tittestja għal preġudizzju. Mhux tipprova l-istess pront ma 'gruppi differenti u tiċċekkja l-konsistenza.
- Jieħdu deċiżjonijiet waħdu f'kultura li ma tafx. Tagħmel ġudizzju mingħajr ma tikkonsulta kollega li jaf dik il-kultura.
Fil-qosor
L-AI hija preġudikata għaliex titgħallem mit-testi ta 'dinja preġudikata; Fil-psikoloġija, dan il-preġudizzju jissarraf fi ħsara tanġibbli fil-forma ta 'kultura, sess, dijanjostiċi, lingwa, u stigma. Qabbel kull output mal-mistoqsija "dan huwa ġust għall-gruppi kollha?" għafasha; ittestja l-istess pront ma 'gruppi differenti; żid il-kuntest kulturali mal-pront tiegħek; jibdlu lingwaġġ stigmatizzanti għal lingwa ċċentrata fuq il-persuna; Fittex għajnejn espert/komunità fuq kultura li m'intix familjari magħha. Il-ġudizzju tal-ġustizzja, inkluż il-kontroll tal-preġudizzju, joħroġ mill-bniedem.
Kompitu ta' applikazzjoni
Ipprepara sommarju tal-każ (anonimu). Agħtiha lill-AI darbtejn; tibdel karatteristika waħda biss (sess, kultura jew età). Poġġi ż-żewġ stampi ħdejn xulxin u eżamina għal differenzi inġusti. Ħalli wkoll l-AI tittraduċi frażijiet stigmatizzanti f'paragrafu ta 'rapport f'lingwa ċċentrata fuq il-persuna u nnota d-differenza.
lista ta' kontroll
- [ ] Ibdel l-output għal "dan huwa ġust għall-gruppi kollha?" Staqsejt il-mistoqsija.
- [ ] Ittestjajt l-istess pront ma' gruppi/kulturi differenti.
- [ ] Żidt il-kuntest kulturali mal-pront; Jien ma patoloġizzajt l-espressjoni kulturali.
- [ ] Bdilt il-lingwaġġ stigmatizzanti f'lingwa ċċentrata fuq il-persuna.
- [ ] Fittixt il-parir ta' espert/kollega dwar kwistjoni kulturali li ma kontx familjari magħha.
- [ ] Ħallejt id-deċiżjoni finali tal-ġustizzja għall-ġudizzju tiegħi stess, mhux l-AI.