Fitimet:
- Njohni me shembuj sesi paragjykimet kulturore, gjinore dhe diagnostike në modelet e inteligjencës artificiale shkaktojnë dëm në kontekstin e psikologjisë
- Aftësia për të zbatuar një kontroll paragjykim që teston rezultatet për grupe, gjuhë dhe kultura të ndryshme
- Aftësia për të zhvilluar teknika të shpejta dhe verifikuese që korrigjojnë normën me qendër perëndimore dhe gjuhën stigmatizuese
Inteligjenca artificiale (AI) nuk është neutrale. Një model i AI mëson nga një grumbull i madh tekstesh në internet dhe "pamja e botës" e modeles anon nga zëri i kujt përmban më shumë dhe zëri i kujt përmban më pak. Ky shtrembërim quhet paragjykim. Paragjykimi në psikologji nuk është një e metë e zakonshme teknike; Mund të ndikojë drejtpërdrejt në vlerësimin, diagnozën dhe trajtimin e një personi. Një simptomë mund të lexohet si "normale" në një kulturë dhe "patologjike" në një tjetër; një sjellje mund të përkufizohet si "pohim" në njërën gjini dhe "agresion" në tjetrën. AI mund të mësojë dhe të përsërisë këto paragjykime historike. Në këtë njësi do të mësoni të njihni paragjykimet në AI në kontekstin e psikologjisë dhe të auditoni rezultatet për grupe, gjuhë dhe kultura të ndryshme.
Nga vjen paragjykimi dhe si dëmton ai?
Ekzistojnë tre burime kryesore të paragjykimit të AI:
- Mosbalancimi i të dhënave të trajnimit. Modelet trajnohen kryesisht me tekste të një gjuhe, kulture dhe periudhe specifike. Pjesa më e madhe e literaturës psikologjike vjen nga shoqëritë perëndimore, të arsimuara, të industrializuara; prandaj supozimi "njerëzor normal" i AI pasqyron këtë mostër të ngushtë.
- Përfshirja e paragjykimeve historike. Në të dhëna përfshihen edhe tekste që në të kaluarën patologjizuan dhe stigmatizuan grupe të caktuara; modeli i mëson këto modele.
- Mungesa e përfaqësimit. Modeli ka informacion të pamjaftueshëm ose stereotip për grupet e nënpërfaqësuara (etni të ndryshme, gjuhë, orientim seksual, aftësi të kufizuara).
Dëmi është i prekshëm: AI mund të vlerësojë një simptomë si më të rëndë në një grup dhe më të butë se në një tjetër; mund të konsiderojë gabimisht një shprehje kulturore (ritual zie, përvojë fetare) si simptomë; Mund të prodhojë gjuhë stigmatizuese, klishe.
Kujdes: Edhe nëse një rezultat nga AI duket se është "shkencë objektive", ai mund të ketë paragjykimet që ka mësuar. Veçanërisht kur bëhet fjalë për kultura, gjini, orientime seksuale dhe grupe socio-ekonomike të ndryshme, ne e konsiderojmë secilin rezultat si "a është kjo e drejtë për të gjitha grupet?" Filtro me pyetjen.
Llojet e paragjykimeve specifike për psikologjinë
Lloji i paragjykimit
Shikimi në psikologji
rreziku
paragjykimet kulturore
Duke i konsideruar normat perëndimore si universale
Mos e ngatërroni shprehjen kulturore me patologji
paragjykim gjinor
Interpretimi i të njëjtës sjellje ndryshe në varësi të gjinisë
pabarazia diagnostike
paragjykim diagnostik
Paraqitja e grupeve të caktuara si "të prirur" për diagnoza të caktuara
Mbi/nën diagnozë
paragjykim gjuhësor
Më “zotërues” në gjuhën dominuese, sipërfaqësor në tjetrin
Vlerësim i pabarabartë
Stampimi
Gjuha që identifikon personin me diagnozën e tij
inkuadrim degradues
Hap pas hapi: kontrolli i paragjykimit
- Mund ta ndryshoni daljen në "për kë është shkruar?" pyetje. Kush është subjekti i paracaktuar? Ai është përgjithësisht një djalë i arsimuar, perëndimor, "mesatar".
- Test me grupe të ndryshme. Përsëritni të njëjtën kërkesë në kontekste të ndryshme kulturore, gjinore dhe moshore; A po ndryshojnë komentet?
- Skanoni gjuhën stigmatike. Formulimi i saktë që identifikon personin me diagnozën e tij ("personi që përjeton skizofreni" në vend të "skizofrenisë").
- Shtoni kontekstin kulturor. Tregojini AI kontekstin kulturor/gjuhësor të klientit dhe “mos i konsideroni si patologji shprehjet që mund të jenë normale në këtë kontekst”.
- Sytë e ekspertëve dhe të komunitetit. Nëse nuk jeni të sigurt për një çështje kulturore, konsultohuni me një koleg që e njeh atë kulturë.
- Lërini njerëzit të vendosin. Edhe kontrolli i paragjykimeve nuk i është lënë AI; Gjykimi përfundimtar i drejtësisë është i juaji.
Këshillë: Një mënyrë praktike për të testuar nëse një rezultat është i njëanshëm: ndryshoni një atribut të vetëm (gjini, kulturë, moshë) në kërkesë dhe bëni përsëri të njëjtën pyetje. Nëse interpretimi ndryshon "në mënyrë të padrejtë" me këtë ndryshim, ka paragjykim.
tre mini kuti
Rasti 1 — Patologjizimi i shprehjes kulturore. Një profesionist i thotë AI-së se një klient nga një kulturë tjetër "po flet me të ndjerin" gjatë procesit të pikëllimit. AI e kornizon këtë si "mund të jetë një simptomë psikotike". Megjithatë, kjo është një shprehje e zakonshme dhe normale e pikëllimit në kulturën e atij klienti. Eksperti refuzon rezultatet e UA sepse e njeh kontekstin kulturor. Dikush që nuk e dinte kontekstin mund të bënte një gjykim të gabuar serioz.
Rasti 2 — Testimi i paragjykimit gjinor. Një hetues i jep të njëjtën përmbledhje të rastit UA-së dy herë; thjesht ndryshon gjininë e personit. Në versionin "femër", inteligjenca artificiale thekson "paqëndrueshmërinë emocionale", ndërsa në versionin "mashkull", ajo inkuadron të njëjtën sjellje si "përgjigje ndaj stresit". Kjo tregon qartë paragjykimin gjinor të modelit. Studiuesi e dokumenton këtë ndryshim dhe i përdor rezultatet me këtë vetëdije.
Rasti 3 - Korrigjimi i gjuhës stigmatizuese. Inteligjenca artificiale është një "vijë kufitare e sëmurë", thuhet në një draft raport. Specialisti e sheh këtë si një gjuhë stigmatizuese që identifikon personin me diagnozën e tij dhe e përkthen në një gjuhë që fokusohet te personi, si p.sh. "një individ me një model personaliteti të përcaktuar kufitar". Një ndryshim i vogël në gjuhë bën një ndryshim të madh duke mbrojtur dinjitetin e klientit.
Kërkesat dhe shabllonet e kopjueshme
Kontrolloni tekstin e mëposhtëm për paragjykime: deklarata flamuri që tregojnë paragjykim kulturor, gjinor, seksual, moshë ose paragjykim socio-ekonomik. Tregoni gjithashtu supozimet që i konsiderojnë normat perëndimore si universale. Sugjeroni një alternativë më të drejtë për secilin. Teksti: [tekst]
Më ndihmo të vlerësoj situatën e mëposhtme, por konteksti kulturor i klientit është [kultura/gjuha]. Në këtë kontekst, duke paraqitur shprehje që mund të jenë NORMAL si patologji; Nëse nuk jeni të sigurt për një pikë kulturore, thoni "kjo mund të ndryshojë nga ana kulturore, konsultohuni me një ekspert". Statusi: [status anonim]
Përktheni shprehjet stigmatizuese në këtë tekst që e identifikojnë personin me diagnozën e tyre (p.sh., "skizofren", "një kufi") në një gjuhë që përqendron personin dhe ruan dinjitetin e tij. Mos e ndryshoni përmbajtjen, thjesht humanizoni gjuhën. Teksti: [tekst]
Do të vlerësoj dy herë përmbledhjen e rastit të mëposhtëm: një herë lëndën [tipari A], tjetra [tipari B]. A ka ndonjë ndryshim të padrejtë midis dy vlerësimeve dhe nëse po, a është ai për shkak të njëanshmërisë? Krahaso. Abstrakt: [abstrakt anonim]
Prompt i dobët / Prompt i fortë
Prompt i dobët: "A është sjellja e këtij klienti normale apo jonormale?"
Ky prompt nuk pyet se për kë është "normale"; AI supozon një "normale" të pakulturuar me qendër perëndimore dhe mund të patologjizojë shprehjen kulturore.
Prompt i fortë: "Ky klient është në [kontekstin kulturor/gjuhësor]. Shpjegoni nëse kjo sjellje mund të jetë një shprehje normale në atë kontekst kulturor apo një shenjë që kërkon vëmendje, duke i diskutuar të dyja veçmas. Mos bëni një gjykim përfundimtar; më kujtoni të konsultohem me një ekspert që njeh kontekstin kulturor."
Ky nxitje e vendos kontekstin në qendër, parandalon keqleximin kulturor dhe ia lë vendimin ekspertit.
Gabimet e zakonshme
- Gabimi i prodhimit të AI për "objektiv". Duke harruar se modeli mbart njëanshmëri dhe duke pranuar rezultatin si fakt shkencor.
- Duke e konsideruar normën perëndimore si universale. Përcaktimi i "normales" sipas një kulture të vetme dhe patologjizimi i shprehjeve të ndryshme.
- Duke mos vënë re gjuhën stigmatizuese. Gabimi i gjuhës që identifikon personin me diagnozën e tij si "gjuhë teknike".
- Nuk testohet për paragjykim. Mos provoni të njëjtën kërkesë me grupe të ndryshme dhe kontrolloni konsistencën.
- Marrja e vendimeve vetëm në një kulturë që nuk e njeh. Bërja e një gjykimi pa u konsultuar me një koleg që e njeh atë kulturë.
Në përmbledhje
AI është e njëanshme sepse mëson nga tekstet e një bote të njëanshme; Në psikologji, ky paragjykim përkthehet në dëm të prekshëm në formën e kulturës, gjinisë, diagnostikimit, gjuhës dhe stigmës. Krahasoni çdo produkt me pyetjen "a është kjo e drejtë për të gjitha grupet?" tendosni atë; testoni të njëjtën kërkesë me grupe të ndryshme; shtoni kontekstin kulturor në kërkesën tuaj; ndryshimi i gjuhës stigmatizuese në gjuhë me në qendër personin; Kërkoni sytë e ekspertëve/komunitetit në një kulturë me të cilën nuk jeni të njohur. Gjykimi i drejtësisë, duke përfshirë kontrollin e paragjykimeve, buron nga qenia njerëzore.
Detyra e aplikimit
Përgatitni një përmbledhje të rastit (anonime). Jepini AI-së dy herë; ndryshoni vetëm një karakteristikë (gjininë, kulturën ose moshën). Vendosni dy printimet krah për krah dhe shqyrtoni për dallime të padrejta. Gjithashtu bëni që AI të përkthejë frazat stigmatizuese në një paragraf raporti në gjuhë të përqendruar te personi dhe vini re ndryshimin.
listë kontrolli
- [ ] Ndrysho rezultatin në "a është kjo e drejtë për të gjitha grupet?" E bëra pyetjen.
- [ ] Kam testuar të njëjtën kërkesë me grupe/kultura të ndryshme.
- [ ] Unë shtova kontekstin kulturor në kërkesë; Nuk e kam patologjizuar shprehjen kulturore.
- [ ] E ndryshova gjuhën stigmatizuese në gjuhë me në qendër personin.
- [ ] Kërkova këshillën e një eksperti/kolegu për një çështje kulturore që nuk e njihja.
- [ ] Vendimin përfundimtar të drejtësisë ia lashë gjykimit tim, jo UA.