Winst:
- Herkennen wanneer AI vooringenomenheid veroorzaakt door trainingsgegevens, framing, dubbele standaarden en vleierij
- Vermogen om controle te krijgen tegen vooringenomenheid met neutrale vragen, discriminatie op basis van bewijs-stereotypen en een omgekeerde hoektest
- Vermogen om stigmatiserende taal te vertalen naar beschrijvende en respectvolle taal door culturele kennis als een aandachtspunt te gebruiken in plaats van als een definitieve regel
De bestaansreden van sociaal werk is rechtvaardigheid en menselijke waardigheid; De kern van het beroep is het engagement dat ieder individu van gelijke waarde is, discriminatie tegengaat en kwetsbare groepen worden beschermd. Kunstmatige intelligentie brengt een risico met zich mee dat juist deze waarden stilletjes kan schaden: vooringenomenheid. AI leert van historische gegevens; Als die gegevens ongelijkheden, stereotypen en discriminatie in de samenleving omvatten, leert de AI deze en reproduceert ze in een vloeiende, ‘objectief’ ogende taal. In de handen van een maatschappelijk werker kan dit zich vertalen in een systematisch negatievere evaluatie van een groep, een stereotypering van een gezin of een misverstand over een cultuur. In deze unit leer je AI-vooroordelen te herkennen, hiertegen te controleren en AI op een eerlijke en culturele gevoeligheid te gebruiken.
Een feit vanaf het begin: AI is niet neutraal, het lijkt neutraal. De gevaarlijkste vooringenomenheid is die welke wordt gepresenteerd in zelfverzekerde en professionele taal; omdat het zonder twijfel wordt aanvaard. Jouw taak als maatschappelijk werker is om deze onzichtbare vooroordelen zichtbaar te maken en te monitoren of de output in strijd is met jouw professionele waarden.
Waar komt AI-vooroordeel vandaan en hoe ziet het eruit?
- Vertekening van trainingsgegevens. AI leert van teksten die ongelijkheden in de samenleving weerspiegelen. Stereotypen over bepaalde etnische groepen, armen, gehandicapten, bepaalde buurten of geslachten kunnen in de output terechtkomen.
- Taal- en framingbias. AI kan een groep afbeelden als passief, ‘problematisch’ of als een ‘object dat hulp nodig heeft’; een andere groep als onderwerp. Hetzelfde gedrag kan door de ene groep als ‘cultureel’ worden geïnterpreteerd en door een andere groep als ‘problematisch’.
- Gebrek aan vertegenwoordiging. AI kan groepen die ondervertegenwoordigd zijn in de gegevens (kleine populaties, zeldzame gevallen) onnauwkeurig of oppervlakkig begrijpen.
- Vleierij (sycofantie). De AI heeft de neiging uw impliciete mening te bevestigen; Een bevooroordeelde vraag brengt een bevooroordeelde bevestiging met zich mee.
Deze vooroordelen zijn vooral gevaarlijk in het sociaal werk, omdat de resultaten direct betrekking hebben op de levens van echte mensen: een beoordeling, een rapport, een verwijzing.
Let op: "De AI heeft het op die manier geëvalueerd" is een waarschuwingssignaal, geen rechtvaardiging. Wanneer je output ziet die een groep of individu negatief afbeeldt, is de eerste vraag: “is deze gebaseerd op bewijsmateriaal of gebaseerd op stereotypen?” zou moeten zijn.
Stap voor stap: auditeren tegen vooroordelen
- Vraag het neutraal. Stel vragen die niet impliceren of leiden; Niet ‘verklaar waarom dit gezin nalatig is’, maar ‘wat kunnen deze observaties betekenen, wat zijn de alternatieve verklaringen?’ vragen.
- Maak onderscheid tussen bewijs en stereotype. Vraag bij elke negatieve uitspraak: is deze gebaseerd op het concrete bewijsmateriaal dat voor mij ligt, of is deze gebaseerd op een algemene aanname over een groep?
- Test vanuit de tegenovergestelde hoek. Beschouw dezelfde situatie voor een andere groep: “Als de cliënt een andere sociaal-economische/etnische achtergrond zou hebben, zou de AI het dan in dezelfde taal schrijven?”
- Zoek culturele gevoeligheid. Vraag naar de culturele context van gedrag; maar beschouw culturele kennis als een mogelijkheid en een punt van voorzichtigheid, en niet als een absolute regel (vermijd stereotype).
- Maak de afdruktong schoon. Vertaal het in een taal die de situatie beschrijft, niet de persoon, en die ook de sterke punten ziet.
drie minikoffers
Geval 1 – De omgekeerde hoek bracht vertekening aan het licht. Een expert liet AI twee vergelijkbare gevallen samenvatten; het enige verschil was de sociaal-economische status van de gezinnen. YZ schreef op de toon van ‘hoog risico op verwaarlozing’ voor gezinnen met lage inkomens, en op de toon van ‘ouders die zich moeten gedragen’ voor gezinnen met hoge inkomens. De deskundige erkende deze dubbele standaard en distilleerde beide beoordelingen in op bewijs gebaseerde, gelijkwaardige taal.
Geval 2 – Culturele misinterpretatie gecorrigeerd. YZ omschreef de situatie van een kind dat bij een uitgebreide familie woont als ‘grensproblemen en een gemengde thuisomgeving’. De deskundige wist dat binnen de culturele context van het gezin de uitgebreide familie een krachtige bron van steun en bescherming was. AI had van een culturele kracht een probleem gemaakt. De beoordeling is gecorrigeerd om deze ondersteuning als hulpbron te erkennen.
Geval 3 – De leidende vraag veroorzaakte vooringenomenheid. “Schrijf op waarom deze vader onbetrouwbaar is”, vroeg een stagiair aan de AI. De AI produceerde zonder enig bewijs een tekst die de vader negatief (vleierij) afbeeldt. De supervisor paste de vraag aan: “Wat zijn de observaties over de vader, wat kunnen zijn sterke en zwakke punten zijn?” De output is evenwichtig en op feiten gebaseerd geworden. Les: een bevooroordeelde vraag levert een bevooroordeeld antwoord op.
Vier kopieerbare sjablonen
1) Vraag een neutrale, evenwichtige evaluatie aan:
Bij het samenvatten van de volgende observaties presenteert u zowel mogelijke sterke punten als mogelijke problemen op een EVENWICHTIGE manier en ALLEEN gebaseerd op bewijsmateriaal. Trek geen conclusies op basis van stereotypen. Als een opmerking niet op observatie berust, schrijf dan 'onvoldoende bewijs'. Waarnemingen: [waarnemingen plakken]
2) Controle van de bias (tegenovergestelde hoektest):
Bekijk hieronder de recensietekst. Zijn er uitspraken die een ongefundeerd stereotype overbrengen vanwege de sociaal-economische status, etniciteit, religie, geslacht, handicap of buurt van de cliënt? Vraag voor elk van hen: 'Zou dit in dezelfde taal geschreven zijn als de cliënt uit een andere groep kwam?' Markeer probleemzinnen.Tekst: [tekst plakken]
3) Culturele context (niet-stereotype):
Geef MOGELIJKHEDEN voor wat het volgende gedrag/de volgende situatie zou kunnen betekenen in verschillende culturele contexten. Geef deze als punten waarmee rekening moet worden gehouden, niet als absolute regels; Benadruk dat er in elke gemeenschap individuele verschillen bestaan. Generaliseer niet over één enkele groep. Situatie: [schrijf situatie]
4) Inprenting tongreiniging:
Zoek in de onderstaande tekst bijvoeglijke naamwoorden die de persoon beoordelen of stigmatiseren (bijvoorbeeld 'nalatig', 'niet meewerkend', 'problematisch'). Vervang voor elk hetzelfde feit door een alternatief dat beschrijvend en respectvol is en de sterke punten erkent. Nieuwe informatie toevoegen.Tekst: [tekst plakken]
Zwakke prompt/sterke prompt
Zwakke prompt:
Leg uit waarom dit gezin niet in staat is kinderen groot te brengen.
Deze vraag gaat uit van het resultaat vanaf het begin ("onvoldoende"). AI, met zijn neiging tot vleierij, zal een bewijsvrije en bevooroordeelde tekst opleveren die deze veronderstelling bevestigt. Als de vraag bevooroordeeld is, zal het antwoord ook bevooroordeeld zijn.
Krachtige prompt:
Op basis van de volgende observaties kunt u zowel de sterke punten als de aandachtspunten van dit gezin op een EVENWICHTIGE en op bewijs gebaseerde manier opsommen. Ga niet vanaf het begin uit van de uitkomst; Indien het bewijs onvoldoende is, vermeld dit dan. Vermijd stereotypen.Observaties: [observaties plakken]
Het verschil: een evenwichtige vraag die niet uitgaat van de uitkomst en om bewijsmateriaal vraagt, voorkomt in de eerste plaats vooringenomenheid.
Soorten vooroordelen en tegenmaatregelen
Soort vooroordeel
Hoe ziet het eruit
tegenmaatregel
trainingsgegevens
groepsstereotype
Onderscheid tussen bewijspatronen
inlijsten
Passieve/negatieve taal
Evenwichtige, onderwerpgerichte taal
dubbele standaard
Hetzelfde gedrag, andere toon
omgekeerde hoektest
culturele blindheid
Culturele macht tot een probleem maken
Vraag over culturele context
vleierij
bevestig de implicatie
Stel geen neutrale vragen
gebrek aan vertegenwoordiging
Oppervlakkig/onbegrip
Lokale/expertbevestiging
Veel voorkomende fouten
- Bevooroordeelde vragen stellen. Een vraag die uitgaat van een conclusie levert een bevooroordeeld antwoord op; neutraal probleem.
- Vertrouwen op zelfverzekerde taal. Een professionele toon zorgt er niet voor dat vooringenomenheid correct is; kijk naar het bewijs.
- Culturele kennis beschouwen als een definitieve regel. Beschouw het als een punt van mogelijkheid en aandacht; Vermijd stereotypen.
- Zonder de dubbele standaarden op te merken. Test hoe hetzelfde gedrag in verschillende groepen wordt geschreven.
- De stempel als bewijs aanzien. Het is een “onzorgvuldig” oordeel; Beschrijf het fenomeen, oordeel niet over de persoon.
Samengevat
AI is niet neutraal, het lijkt neutraal; Het reproduceert ongelijkheden en stereotypen in onderwijsgegevens in een vloeiende taal. In het sociaal werk kan dit leiden tot oneerlijke beoordelingen van echte mensen. Herken vooringenomenheid (trainingsgegevens, framing, dubbele standaarden, culturele blindheid, vleierij), controleer deze (neutrale vraag, scheiding van bewijsmateriaal, hoektesten, culturele gevoeligheid, stigma-opheldering) en filter elke output op basis van de waarden van eerlijkheid en eer van het beroep. Het laatste ethische filter ben jij altijd.
Applicatie taak
Laat de AI dezelfde reeks fictieve observaties samenvatten met twee verschillende groepsprofielen (bijvoorbeeld verschillende sociaal-economische status) en vergelijk met de ‘omgekeerde hoektest’ of tonen/taal verschillen. Probeer vervolgens een neutrale vraag met een bewust bevooroordeelde vraag ('leg uit waarom deze ontoereikend is') en onderzoek het verschil in uitkomsten. Pas ten slotte het sjabloon ‘watermarkertaalopschonen’ toe op een tekst.
controlelijst
- [ ] Ik stelde mijn vragen neutraal, zonder uit te gaan van de uitkomst.
- [ ] Ik controleerde elke negatieve uitspraak met behulp van het onderscheid tussen bewijs en stereotype.
- [ ] De dubbele standaard heb ik gecontroleerd met de omgekeerde hoektest.
- [ ] Ik gebruikte culturele kennis als een waarschuwing, niet als een absolute regel.
- [ ] Ik heb stigmatiserende taal vervangen door beschrijvende, respectvolle taal.