Winst:
- Met voorbeelden herkennen hoe culturele, gender- en diagnostische vooroordelen in kunstmatige-intelligentiemodellen schade veroorzaken in de context van de psychologie
- Mogelijkheid om een bias-check te implementeren die de output voor verschillende groepen, talen en culturen test
- Vermogen om prompt- en verificatietechnieken te ontwikkelen die de op het Westen gerichte norm en stigmatiserende taal corrigeren
Kunstmatige intelligentie (AI) is niet neutraal. Een AI-model leert van een enorme stapel tekst op internet, en het ‘wereldbeeld’ van het model wordt vertekend door wiens stem er meer in zit en wiens stem minder bevat. Deze vervorming wordt bias genoemd. Vooringenomenheid in de psychologie is geen gewone technische fout; Het kan rechtstreeks van invloed zijn op de beoordeling, diagnose en behandeling van een persoon. Een symptoom kan in de ene cultuur als ‘normaal’ en in een andere als ‘pathologisch’ worden gelezen; gedrag kan worden omschreven als “assertiviteit” bij het ene geslacht en “agressie” bij het andere. AI kan deze historische vooroordelen leren en repliceren. In deze unit leer je vooroordelen in AI herkennen in de context van de psychologie en controleer je de resultaten voor verschillende groepen, talen en culturen.
Waar komen vooroordelen vandaan en hoe schadelijk zijn ze?
Er zijn drie primaire bronnen van AI-vooroordelen:
- Onbalans in trainingsgegevens. Modellen worden voornamelijk getraind met teksten uit een specifieke taal, cultuur en periode. Het grootste deel van de psychologieliteratuur komt uit westerse, goed opgeleide, geïndustrialiseerde samenlevingen; vandaar dat de ‘normale menselijke’ veronderstelling van AI deze beperkte steekproef weerspiegelt.
- Opname van historische vooringenomenheid. Ook teksten die in het verleden bepaalde groepen pathologiseerden en stigmatiseerden, zijn in de data opgenomen; het model leert deze patronen.
- Gebrek aan vertegenwoordiging. Het model bevat onvoldoende of stereotiepe informatie over ondervertegenwoordigde groepen (verschillende etniciteit, taal, seksuele geaardheid, handicap).
De schade is tastbaar: AI kan een symptoom bij de ene groep als ernstiger en bij de andere als milder beoordelen; kan een culturele uiting (rouwritueel, religieuze ervaring) ten onrechte als een symptoom beschouwen; Het kan stigmatiserende, clichématige taal produceren.
Let op: Zelfs als een resultaat van AI ‘objectieve wetenschap’ lijkt, kan het de vooroordelen met zich meedragen die het heeft geleerd. Vooral als het gaat om verschillende culturen, geslachten, seksuele geaardheden en sociaal-economische groepen, beschouwen we elke uitkomst als “is dit eerlijk voor alle groepen?” Filter met de vraag.
Soorten vooroordelen die specifiek zijn voor de psychologie
Soort vooroordeel
Kijk in de psychologie
risico
culturele vooringenomenheid
Het beschouwen van westerse normen als universeel
Verwar culturele expressie niet met pathologie
geslachtsvooroordelen
Hetzelfde gedrag anders interpreteren, afhankelijk van geslacht
diagnostische ongelijkheid
diagnostische bias
Bepaalde groepen afbeelden als ‘gevoelig’ voor bepaalde diagnoses
Over/onder diagnose
taalvooroordeel
Meer ‘bedreven’ in de dominante taal, oppervlakkig in de andere
Ongelijke evaluatie
Stempelen
Taal die de persoon identificeert met zijn diagnose
vernederende omlijsting
Stap voor stap: biascontrole
- U kunt de uitvoer wijzigen in "Voor wie is het geschreven?" vraag. Wie is het standaardonderwerp? Hij is over het algemeen een goed opgeleide, westerse, ‘gemiddelde’ man.
- Test met verschillende groepen. Herhaal dezelfde opdracht in verschillende culturele, gender- en leeftijdscontexten; Veranderen de opmerkingen?
- Scan de stigmatische tong. Correcte bewoording die de persoon met zijn diagnose identificeert ("persoon die schizofrenie ervaart" in plaats van "schizofreen").
- Voeg culturele context toe. Vertel de AI de culturele/linguïstische context van de cliënt en “beschouw uitingen die in deze context mogelijk normaal zijn niet als pathologie.”
- Deskundige en gemeenschapsogen. Als je twijfelt over een cultureel vraagstuk, raadpleeg dan een collega die die cultuur kent.
- Laat mensen beslissen. Zelfs het controleren van bias wordt niet aan AI overgelaten; Het uiteindelijke oordeel van gerechtigheid is aan jou.
Tip: Een praktische manier om te testen of een uitvoer vertekend is: verander een enkel attribuut (geslacht, cultuur, leeftijd) in de prompt en stel dezelfde vraag opnieuw. Als de interpretatie door deze verandering ‘oneerlijk’ verandert, is er sprake van bias.
drie minikoffers
Casus 1 — Het pathologiseren van culturele expressie. Een professional vertelt de AI dat een cliënt uit een andere cultuur tijdens het rouwproces ‘met de overledene praat’. AI omschrijft dit als “kan een psychotisch symptoom zijn.” Dit is echter een veel voorkomende en normale uiting van verdriet in de cultuur van de cliënt. De expert wijst de output van de AI af omdat hij de culturele context kent. Iemand die de context niet kent, kan een ernstige inschattingsfout maken.
Geval 2 — Testen van gendervooroordelen. Een onderzoeker geeft tweemaal dezelfde casussamenvatting aan de AI; het verandert alleen het geslacht van de persoon. In de ‘vrouwelijke’ versie legt de AI de nadruk op ‘emotionele instabiliteit’, terwijl het in de ‘mannelijke’ versie hetzelfde gedrag framet als een ‘stressreactie’. Dit laat duidelijk de gendervooroordelen van het model zien. De onderzoeker documenteert dit verschil en gebruikt de uitkomsten met dit besef.
Geval 3 — Het corrigeren van stigmatiserend taalgebruik. AI is een ‘zieke grens’, stelt een rapportconcept. De specialist ziet dit als een stigmatiserende taal die de persoon identificeert met zijn diagnose en deze vertaalt in taal die op de persoon gericht is, zoals ‘een individu met een gedefinieerd borderline-persoonlijkheidspatroon’. Een kleine taalverandering maakt een groot verschil in het beschermen van de waardigheid van de cliënt.
Kopieerbare aanwijzingen en sjablonen
Controleer de volgende tekst op vooroordelen: markeer uitspraken die culturele, geslachts-, seksuele geaardheid, leeftijd of sociaal-economische vooroordelen aangeven. Laat ook de aannames zien die westerse normen als universeel beschouwen. Stel voor elk een eerlijker alternatief voor.Tekst: [text]
Help mij de volgende situatie te beoordelen, maar de culturele context van de cliënt is [cultuur/taal]. In deze context het presenteren van uitdrukkingen die NORMAAL kunnen zijn als pathologie; Als u niet zeker bent over een cultureel punt, zeg dan: "Dit kan cultureel variëren, raadpleeg een deskundige." Status: [anonieme status]
Vertaal de stigmatiserende uitdrukkingen in deze tekst die de persoon met zijn diagnose identificeren (bijvoorbeeld 'schizofreen', 'een borderline') in taal die de persoon centraal stelt en zijn waardigheid bewaart. Verander de inhoud niet, maar maak de taal menselijk. Tekst: [tekst]
Ik zal de volgende casussamenvatting twee keer beoordelen: de ene keer het onderwerp [kenmerk A], de andere [kenmerk B]. Is er sprake van een oneerlijk verschil tussen de twee evaluaties, en zo ja, is dit te wijten aan vooringenomenheid? Vergelijk.Abstract: [anonieme samenvatting]
Zwakke prompt/sterke prompt
Zwakke vraag: 'Is het gedrag van deze cliënt normaal of abnormaal?'
Deze prompt vraagt niet voor wie "normaal" bedoeld is; AI gaat uit van een op het Westen gericht, niet-gecultiveerd ‘normaal’ en kan culturele expressie pathologiseren.
Sterke aanwijzing: "Deze cliënt bevindt zich in een [culturele/taalkundige context]. Leg uit of dit gedrag een normale uiting kan zijn in die culturele context of een teken dat aandacht vereist, en bespreek beide afzonderlijk. Vorm geen definitief oordeel; herinner mij eraan om een deskundige te raadplegen die de culturele context kent."
Deze prompt stelt de context centraal, voorkomt culturele misverstanden en laat de beslissing over aan de expert.
Veel voorkomende fouten
- AI-uitvoer verwarren met ‘objectief’. Vergeten dat het model vooroordelen met zich meebrengt en de resultaten als wetenschappelijk feit accepteren.
- De westerse norm als universeel beschouwen. Het definiëren van ‘normaal’ volgens één enkele cultuur en het pathologiseren van verschillende uitingen.
- Niet opmerken van stigmatiserend taalgebruik. De taal die de persoon met zijn diagnose identificeert, wordt aangezien voor ‘technische taal’.
- Niet testen op bias. Niet dezelfde prompt proberen met verschillende groepen en de consistentie controleren.
- Alleen beslissingen nemen in een cultuur die je niet kent. Een oordeel vellen zonder een collega te raadplegen die die cultuur kent.
Samengevat
AI is bevooroordeeld omdat het leert van de teksten van een bevooroordeelde wereld; In de psychologie vertaalt deze vooringenomenheid zich in tastbare schade in de vorm van culturele, gender-, diagnostische, taal- en stigmatisering. Vergelijk elke output met de vraag “is dit eerlijk voor alle groepen?” span het; test dezelfde prompt met verschillende groepen; voeg culturele context toe aan uw prompt; verander stigmatiserende taal in persoonsgerichte taal; Zoek deskundige/gemeenschapsogen op een cultuur waarmee u onbekend bent. Het oordeel over rechtvaardigheid, inclusief de beheersing van vooringenomenheid, komt voort uit de mens.
Applicatie taak
Maak een casussamenvatting (anoniem). Geef het twee keer aan de AI; verander slechts één kenmerk (geslacht, cultuur of leeftijd). Plaats de twee afdrukken naast elkaar en onderzoek of er oneerlijke verschillen zijn. Laat de AI ook stigmatiserende zinsneden in een rapportparagraaf vertalen naar persoonsgerichte taal en noteer het verschil.
controlelijst
- [ ] Verander de uitvoer naar "is dit eerlijk voor alle groepen?" Ik stelde de vraag.
- [ ] Ik heb dezelfde prompt getest met verschillende groepen/culturen.
- [ ] Ik heb de culturele context aan de prompt toegevoegd; Ik heb de culturele expressie niet gepathologiseerd.
- [ ] Ik veranderde de stigmatiserende taal in persoonsgerichte taal.
- [ ] Ik heb advies ingewonnen bij een deskundige/collega over een cultureel vraagstuk waarmee ik niet vertrouwd was.
- [ ] Ik liet de uiteindelijke beslissing over eerlijkheid aan mijn eigen oordeel over, niet aan de AI.