Bias, repræsentation og kulturel følsomhed

Gevinster:

• Genkend med eksempler, hvordan kulturel, køn og diagnostisk skævhed i kunstig intelligens-modeller forårsager skade i forbindelse med psykologi
• Evne til at implementere et bias-tjek, der tester output for forskellige grupper, sprog og kulturer
• Evne til at udvikle hurtige og verifikationsteknikker, der korrigerer vestligt centreret norm og stigmatiserende sprog

Kunstig intelligens (AI) er ikke neutral. En AI-model lærer af en kæmpe bunke tekst på internettet, og modellens "verdensbillede" er skævt af, hvis stemme den indeholder mere, og hvis stemme indeholder mindre. Denne forvrængning kaldes bias. Bias i psykologi er ikke en almindelig teknisk fejl; Det kan direkte påvirke en persons vurdering, diagnose og behandling. Et symptom kan læses som "normalt" i én kultur og "patologisk" i en anden; en adfærd kan indrammes som "selvhævdelse" i det ene køn og "aggression" i det andet. AI kan lære og replikere disse historiske skævheder. I denne enhed lærer du at genkende bias i AI i psykologi-sammenhæng og auditere output for forskellige grupper, sprog og kulturer.

Hvor kommer fordomme fra, og hvordan skader det?

Der er tre primære kilder til AI-bias:

1. Træningsdata ubalance. Modeller trænes overvejende med tekster af et specifikt sprog, kultur og periode. Hovedparten af ​​psykologilitteraturen kommer fra vestlige, uddannede, industrialiserede samfund; derfor afspejler AI's "normale menneskelige" antagelse denne snævre prøve.
2. Inkludering af historisk skævhed. Tekster, der tidligere har patologiseret og stigmatiseret bestemte grupper, er også inkluderet i dataene; modellen lærer disse mønstre.
3. Manglende repræsentation. Modellen har enten utilstrækkelig eller stereotyp information om underrepræsenterede grupper (forskellig etnicitet, sprog, seksuel orientering, handicap).

Skaden er håndgribelig: AI kan vurdere et symptom som mere alvorligt i én gruppe og mildere end i en anden; kan fejlagtigt betragte et kulturelt udtryk (sorgritual, religiøs oplevelse) som et symptom; Det kan producere stigmatiserende, klichéfyldt sprog.

Forsigtig: Selvom et output fra AI ser ud til at være "objektiv videnskab", kan det bære de skævheder, det har lært. Især når det kommer til forskellige kulturer, køn, seksuelle orienteringer og socioøkonomiske grupper, betragter vi hvert resultat som "er dette rimeligt for alle grupper?" Filtrer med spørgsmålet.

Typer af bias, der er specifikke for psykologi

Type bias

Udsigt i psykologi

risiko

kulturel skævhed

At betragte vestlige normer som universelle

Forveksle ikke kulturelle udtryk med patologi

kønsbias

At tolke den samme adfærd forskelligt afhængigt af køn

diagnostisk ulighed

diagnostisk bias

At fremstille bestemte grupper som "tilbøjelige" til bestemte diagnoser

Over/under diagnose

sproglig skævhed

Mere "dygtig" i det dominerende sprog, overfladisk i det andet

Ulige vurdering

Stempling

Sprog, der identificerer personen med deres diagnose

nedværdigende indramning

Trin for trin: bias kontrol

1. Du kan ændre outputtet til "hvem er det skrevet til?" spørgsmål. Hvem er standardfaget? Han er generelt en uddannet, vestlig, "gennemsnitlig" fyr.
2. Test med forskellige grupper. Gentag den samme prompt i forskellige kulturelle, køns- og alderssammenhænge; Ændrer kommentarerne sig?
3. Scan den stigmatiske tunge. Korrekt formulering, der identificerer personen med sin diagnose ("person, der oplever skizofreni" i stedet for "skizofren").
4. Tilføj kulturel kontekst. Fortæl AI'en klientens kulturelle/sproglige kontekst og "betragt ikke udtryk, der kan være normale i denne sammenhæng, som patologi."
5. Ekspert- og samfundsøjne. Hvis du er usikker på et kulturelt problem, så rådfør dig med en kollega, der kender den kultur.
6. Lad folk bestemme. Selv bias checking er ikke overladt til AI; Retfærdighedens endelige dom er din.

Tip: En praktisk måde at teste, om et output er forudindtaget: skift en enkelt egenskab (køn, kultur, alder) i prompten og stil det samme spørgsmål igen. Hvis fortolkningen ændres "uretfærdigt" med denne ændring, er der bias.

tre minisager

Case 1 — Patologisering af kulturelle udtryk. En professionel fortæller AI, at en klient fra en anden kultur "taler med den afdøde" under sorgprocessen. AI rammer dette som "kan være et psykotisk symptom." Dette er dog et almindeligt og normalt udtryk for sorg i klientens kultur. Eksperten afviser AI's output, fordi han kender den kulturelle kontekst. En person, der ikke kendte sammenhængen, kunne lave en alvorlig fejlvurdering.

Case 2 — Kønsbiastest. En efterforsker giver den samme sagsoversigt til AI to gange; det ændrer bare personens køn. I den "kvindelige" version understreger AI "følelsesmæssig ustabilitet", mens den i den "mandlige" version indrammer den samme adfærd som en "stressrespons." Dette viser tydeligt modellens kønsbias. Forskeren dokumenterer denne forskel og bruger outputtet med denne bevidsthed.

Case 3 — Korrigering af stigmatiserende sprogbrug. AI er en "syg grænse", hedder det i et rapportudkast. Speciallægen ser dette som et stigmatiserende sprog, der identificerer personen med sin diagnose og oversætter det til et sprog, der fokuserer på personen, som fx "et individ med et defineret borderline personlighedsmønster". En lille ændring i sproget gør en stor forskel for at beskytte klientens værdighed.

Kopiérbare prompter og skabeloner

Tjek følgende tekst for bias: flag erklæringer, der angiver kulturel, køn, seksuel orientering, alder eller socioøkonomisk skævhed. Vis også de antagelser, der anser vestlige normer for at være universelle. Foreslå et mere retfærdigt alternativ for hver.Tekst: [tekst]

Hjælp mig med at vurdere følgende situation, men klientens kulturelle kontekst er [kultur/sprog]. I denne sammenhæng præsentere udtryk, der kan være NORMALE som patologi; Hvis du er usikker på et kulturelt punkt, så sig "dette kan variere kulturelt, kontakt en ekspert." Status: [anonym status]

Oversæt de stigmatiserende udtryk i denne tekst, der identificerer personen med sin diagnose (f.eks. "skizofren", "en grænseoverskridende") til et sprog, der centrerer personen og bevarer dennes værdighed. Ændre ikke indholdet, bare menneskeliggør sproget. Tekst: [tekst]

Jeg vil evaluere følgende caseresumé to gange: én gang emnet [funktion A], den anden [funktion B]. Er der en uretfærdig forskel mellem de to evalueringer, og i så fald skyldes det bias? Sammenlign.Abstrakt: [anonym abstrakt]

Svag prompt / Stærk prompt

Svag prompt: "Er denne klients adfærd normal eller unormal?"

Denne prompt spørger ikke, hvem "normal" er for; AI antager en vestligt centreret, ukulturel "normal" og kan patologisere kulturelle udtryk.

Stærk prompt: "Denne klient er i [kulturel/sproglig kontekst]. Forklar, om denne adfærd kan være et normalt udtryk i den kulturelle kontekst eller et tegn, der kræver opmærksomhed, og diskutere begge dele separat. Foretag ikke en endelig bedømmelse; mind mig om at rådføre mig med en ekspert, der kender den kulturelle kontekst."

Denne prompt sætter konteksten i centrum, forhindrer kulturel fejllæsning og overlader beslutningen til eksperten.

Almindelige fejl

• Forveksler AI-output for "objektiv". At glemme, at modellen bærer bias og acceptere output som videnskabeligt faktum.
• At betragte den vestlige norm som universel. At definere "normalt" ud fra en enkelt kultur og patologisere forskellige udtryk.
• Ikke mærke til stigmatiserende sprog. At tage fejl af det sprog, der identificerer personen med sin diagnose som "teknisk sprog".
• Tester ikke for bias. Ikke at prøve den samme prompt med forskellige grupper og kontrollere konsistens.
• At træffe beslutninger alene i en kultur, du ikke kender. At dømme uden at konsultere en kollega, der kender den kultur.

Sammenfattende

AI er forudindtaget, fordi den lærer af teksterne i en forudindtaget verden; I psykologi udmønter denne skævhed sig til håndgribelig skade i form af kulturel, køn, diagnostisk, sproglig og stigmatisering. Sammenlign hvert output med spørgsmålet "er dette rimeligt for alle grupper?" anstreng det; test den samme prompt med forskellige grupper; tilføje kulturel kontekst til din prompt; ændre stigmatiserende sprog til personcentreret sprog; Søg ekspert-/samfundsøjne på en kultur, du ikke er bekendt med. Dom af retfærdighed, herunder kontrol med bias, udgår fra mennesket.

Ansøgningsopgave

Udarbejd et sagsresumé (anonym). Giv det til AI to gange; ændre kun én egenskab (køn, kultur eller alder). Placer de to udskrifter side om side og undersøg for unfair forskelle. Få også AI til at oversætte stigmatiserende sætninger i et rapportafsnit til personcentreret sprog og bemærke forskellen.

tjekliste

• [ ] Skift output til "er dette fair for alle grupper?" Jeg stillede spørgsmålet.
• [ ] Jeg testede den samme prompt med forskellige grupper/kulturer.
• [ ] Jeg tilføjede den kulturelle kontekst til prompten; Jeg patologiserede ikke kulturelle udtryk.
• [ ] Jeg ændrede det stigmatiserende sprog til personcentreret sprog.
• [ ] Jeg søgte råd hos en ekspert/kollega om et kulturelt spørgsmål, jeg ikke var bekendt med.
• [ ] Jeg overlod den endelige beslutning om retfærdighed til min egen vurdering, ikke AI.