Câștiguri:
- Recunoașteți cu exemple modul în care prejudecățile culturale, de gen și de diagnostic în modelele de inteligență artificială provoacă prejudicii în contextul psihologiei
- Abilitatea de a implementa o verificare a părtinirii care testează rezultatele pentru diferite grupuri, limbi și culturi
- Abilitatea de a dezvolta tehnici prompte și de verificare care corectează normele centrate pe Occident și limbajul stigmatizator
Inteligența artificială (IA) nu este neutră. Un model AI învață dintr-o grămadă uriașă de text de pe internet, iar „viziunea asupra lumii” a modelului este denaturată de a cui voce conține mai mult și a cărui voce conține mai puțin. Această distorsiune se numește părtinire. Prejudecata în psihologie nu este un defect tehnic obișnuit; Poate afecta direct evaluarea, diagnosticul și tratamentul unei persoane. Un simptom poate fi citit ca „normal” într-o cultură și „patologic” în alta; un comportament poate fi încadrat ca „asertivitate” într-un gen și „agresivitate” în celălalt. AI poate învăța și reproduce aceste părtiniri istorice. În această unitate veți învăța să recunoașteți părtinirea IA în contextul psihologiei și să verificați rezultatele pentru diferite grupuri, limbi și culturi.
De unde vine prejudecata și cum dăunează?
Există trei surse principale de părtinire a IA:
- Dezechilibrul datelor de antrenament. Modelele sunt antrenate în principal cu texte dintr-o limbă, cultură și perioadă specifice. Cea mai mare parte a literaturii de psihologie provine din societățile occidentale, educate, industrializate; prin urmare, ipoteza „om normal” a AI reflectă acest eșantion restrâns.
- Includerea părtinirii istorice. În date sunt incluse și texte care au patologizat și stigmatizat anumite grupuri în trecut; modelul învață aceste modele.
- Lipsa de reprezentare. Modelul are informații insuficiente sau stereotipe despre grupurile subreprezentate (etnie diferită, limbă, orientare sexuală, dizabilități).
Prejudiciul este tangibil: IA poate evalua un simptom ca fiind mai sever într-un grup și mai ușor decât în altul; poate considera în mod eronat o expresie culturală (ritual de doliu, experiență religioasă) ca un simptom; Poate produce un limbaj stigmatizant, clișeu.
Atenție: chiar dacă o ieșire din AI pare a fi „știință obiectivă”, aceasta poate prezenta părtinirile pe care le-a învățat. În special când vine vorba de diferite culturi, genuri, orientări sexuale și grupuri socioeconomice, considerăm fiecare rezultat ca „este corect pentru toate grupurile?” Filtrați cu întrebarea.
Tipuri de părtinire specifice psihologiei
Tip de părtinire
Vedere în psihologie
risc
părtinire culturală
Considerând normele occidentale ca fiind universale
Nu confunda expresia culturală cu patologie
prejudecată de gen
Interpretarea aceluiași comportament diferit în funcție de sex
disparitate de diagnostic
prejudecată de diagnostic
Prezentarea anumitor grupuri ca fiind „predispuse” la anumite diagnostice
Supra/subdiagnostic
prejudecăți lingvistice
Mai „competent” în limba dominantă, superficial în cealaltă
Evaluare inegală
Ștampilare
Limbajul care identifică persoana cu diagnosticul său
încadrare degradantă
Pas cu pas: controlul părtinirii
- Puteți schimba rezultatul la „pentru cine a fost scris?” întrebare. Cine este subiectul implicit? În general, este un tip educat, occidental, „mediu”.
- Testați cu diferite grupuri. Repetați același prompt în diferite contexte culturale, de gen și de vârstă; Se schimbă comentariile?
- Scanați limba stigmatică. Formulare corectă care identifică persoana cu diagnosticul („persoană care se confruntă cu schizofrenie” în loc de „schizofrenic”).
- Adăugați context cultural. Spuneți AI contextul cultural/lingvistic al clientului și „nu considerați expresiile care pot fi normale în acest context drept patologie”.
- Ochi experți și comunități. Dacă nu sunteți sigur de o problemă culturală, consultați un coleg care cunoaște cultura respectivă.
- Lasă oamenii să decidă. Chiar și verificarea părtinirii nu este lăsată în seama AI; Judecata finală a justiției este a ta.
Sfat: o modalitate practică de a testa dacă o ieșire este părtinitoare: modificați un singur atribut (sex, cultură, vârstă) în prompt și adresați din nou aceeași întrebare. Dacă interpretarea se schimbă „nedrept” odată cu această modificare, există părtinire.
trei mini cutii
Cazul 1 — Patologizarea expresiei culturale. Un profesionist spune AI că un client dintr-o altă cultură „vorbește cu decedatul” în timpul procesului de durere. AI încadrează acest lucru ca „poate fi un simptom psihotic”. Cu toate acestea, aceasta este o expresie comună și normală a durerii în cultura clientului respectiv. Expertul respinge rezultatul AI deoarece cunoaște contextul cultural. Cineva care nu cunoștea contextul ar putea face o apreciere greșită gravă.
Cazul 2 – Testarea părtinirii de gen. Un anchetator dă același rezumat al cazului AI de două ori; doar schimbă sexul persoanei. În versiunea „feminină”, AI subliniază „instabilitatea emoțională”, în timp ce în versiunea „masculin”, încadrează același comportament ca un „răspuns la stres”. Acest lucru arată clar părtinirea de gen a modelului. Cercetătorul documentează această diferență și folosește rezultatele cu această conștientizare.
Cazul 3 — Corectarea limbajului stigmatizator. AI este o „limită bolnavă”, se arată într-un proiect de raport. Specialistul vede acest lucru ca pe un limbaj stigmatizator care identifică persoana cu diagnosticul său și îl traduce într-un limbaj care se concentrează asupra persoanei, cum ar fi „un individ cu un model de personalitate limită definit”. O mică schimbare în limbaj face o mare diferență protejând demnitatea clientului.
Solicitări și șabloane copiabile
Verificați următorul text pentru părtinire: declarații de semnalizare care indică părtinire culturală, de gen, orientare sexuală, vârstă sau prejudecată socioeconomică. Arată, de asemenea, ipotezele care consideră normele occidentale ca fiind universale. Sugerați o alternativă mai echitabilă pentru fiecare.Text: [text]
Ajutați-mă să evaluez următoarea situație, dar contextul cultural al clientului este [cultură/limbă]. În acest context, prezentând expresii care pot fi NORMALE ca patologie; Dacă nu sunteți sigur despre un punct cultural, spuneți „acest lucru poate varia cultural, consultați un expert”. Stare: [stare anonimă]
Traduceți expresiile stigmatizante din acest text care identifică persoana cu diagnosticul (de exemplu, „schizofrenic,”, „o limită”) într-un limbaj care centrează persoana și îi păstrează demnitatea. Nu schimbați conținutul, doar umanizați limbajul. Text: [text]
Voi evalua de două ori următorul rezumat al cazului: o dată subiectul [caracteristică A], cealaltă [caracteristică B]. Există o diferență nedreaptă între cele două evaluări și, dacă da, se datorează părtinirii? Comparați.Rezumat: [rezumat anonim]
Prompt slab / Prompt puternic
Prompt slab: „Este comportamentul acestui client normal sau anormal?”
Acest prompt nu întreabă pentru cine este „normal”; Inteligența artificială presupune un „normal” centrat pe Occident, necultă și poate patologiza expresia culturală.
Solicitare puternică: „Acest client se află în [context cultural/lingvistic]. Explicați dacă acest comportament poate fi o expresie normală în acel context cultural sau un semn care necesită atenție, discutând pe ambele separat. Nu faceți o judecată definitivă; amintiți-mi să mă consult cu un expert care cunoaște contextul cultural."
Acest prompt pune contextul în centru, previne interpretarea greșită culturală și lasă decizia în seama expertului.
Greșeli comune
- Ieșirea AI greșită cu „obiectiv”. Uitând că modelul are părtinire și acceptând rezultatul ca fapt științific.
- Considerând norma occidentală ca fiind universală. Definirea „normalului” după o singură cultură și patologizarea diferitelor expresii.
- Neobservând limbajul stigmatizant. Greșirea limbajului care identifică persoana cu diagnosticul său drept „limbaj tehnic”.
- Nu testează pentru părtinire. Nu încercați același prompt cu grupuri diferite și verificați consistența.
- Luând decizii singur într-o cultură pe care nu o cunoști. A face o judecată fără a consulta un coleg care cunoaște acea cultură.
Pe scurt
AI este părtinitoare pentru că învață din textele unei lumi părtinitoare; În psihologie, această părtinire se traduce în vătămări tangibile sub formă de cultură, gen, diagnostic, limbaj și stigmatizare. Comparați fiecare rezultat cu întrebarea „Este corect pentru toate grupurile?” se strecoară; testați același prompt cu grupuri diferite; adăugați context cultural promptului dvs.; schimbarea limbajului stigmatizator într-un limbaj centrat pe persoană; Căutați ochi experți/comunității asupra unei culturi cu care nu sunteți familiarizat. Judecata justiției, inclusiv controlul părtinirii, emană de la ființa umană.
Sarcina de aplicare
Pregătiți un rezumat al cazului (anonim). Dă-l AI de două ori; schimba doar o caracteristică (sex, cultură sau vârstă). Așezați cele două imprimări unul lângă altul și verificați dacă există diferențe incorecte. De asemenea, cereți ca AI să traducă fraze stigmatizante dintr-un paragraf de raport într-un limbaj centrat pe persoană și să notați diferența.
lista de verificare
- [ ] Schimbați rezultatul la „Este corect pentru toate grupurile?” am pus intrebarea.
- [ ] Am testat același prompt cu diferite grupuri/culturi.
- [ ] Am adăugat contextul cultural la prompt; Nu am patologizat expresia culturală.
- [ ] Am schimbat limbajul stigmatizator într-un limbaj centrat pe persoană.
- [ ] Am căutat sfatul unui expert/coleg cu privire la o problemă culturală cu care nu eram familiarizat.
- [ ] Am lăsat decizia finală de corectitudine la propria mea judecată, nu la AI.