Gevinster:
- At genkende, når AI producerer bias gennem træningsdata, framing, dobbeltmoral og smiger
- Evne til at etablere en kontrol mod bias med neutrale spørgsmål, evidens-stereotype diskrimination og omvendt vinkeltest
- Evne til at oversætte stigmatiserende sprog til beskrivende og respektfuldt sprog ved at bruge kulturel viden som et opmærksomhedspunkt snarere end en endegyldig regel
Det sociale arbejdes eksistensberettigelse er retfærdighed og menneskelig værdighed; Kernen i professionen er en forpligtelse om, at hvert individ har samme værdi, diskrimination er imod, og udsatte grupper beskyttes. Kunstig intelligens indebærer en risiko, der i det stille kan skade netop disse værdier: bias. AI lærer af historiske data; Hvis disse data inkluderer uligheder, stereotyper og diskrimination i samfundet, lærer AI dem og gengiver dem i et flydende, "objektivt" udseende sprog. I hænderne på en socialrådgiver kan dette udmønte sig i en systematisk mere negativ vurdering af en gruppe, en stereotypisering af en familie eller en misforståelse af en kultur. I denne enhed lærer du at genkende AI-bias, kontrollere imod det og bruge AI med retfærdighed og kulturel følsomhed.
Et faktum fra begyndelsen: AI er ikke neutral, den fremstår neutral. Den farligste skævhed er den, der præsenteres i et sikkert og professionelt sprog; fordi det accepteres uden spørgsmål. Din opgave som socialrådgiver er at synliggøre denne usynlige skævhed og overvåge, om outputtet er i konflikt med dine faglige værdier.
Hvor kommer AI bias fra, og hvordan ser det ud?
- Træningsdatabias. AI lærer af tekster, der afspejler uligheder i samfundet. Stereotyper om visse etniske grupper, fattige, handicappede, bestemte kvarterer eller køn kan lække ind i outputtet.
- Sprog og indramning bias. AI kan indramme en gruppe som passiv, "problematisk" eller et "objekt med behov for hjælp"; en anden gruppe som subjekter. Den samme adfærd kan fortolkes som "kulturel" af en gruppe og "problematisk" af en anden gruppe.
- Manglende repræsentation. AI kan unøjagtigt eller overfladisk forstå grupper, der er underrepræsenteret i dataene (små populationer, sjældne tilfælde).
- Smiger (sycophancy). AI har en tendens til at bekræfte din underforståede opfattelse; Et forudindtaget spørgsmål giver en forudindtaget bekræftelse.
Disse skævheder er især farlige i socialt arbejde, fordi output direkte berører virkelige menneskers liv - en vurdering, en rapport, en henvisning.
Forsigtig: "AI'en vurderede det på den måde" er et advarselstegn, ikke en begrundelse. Når du ser output, der portrætterer en gruppe eller et individ negativt, er det første spørgsmål "er det baseret på beviser eller baseret på stereotyper?" burde være.
Trin for trin: revision mod bias
- Spørg neutralt. Stil spørgsmål, der ikke antyder eller fører til; Ikke "forklar hvorfor denne familie er forsømmelig", men "hvad kan disse observationer betyde, hvad er de alternative forklaringer?" spørge.
- Skelne mellem bevis og stereotype. Spørg for hvert negativt udsagn: er det baseret på de konkrete beviser foran mig, eller er det baseret på en generel antagelse om en gruppe?
- Test fra den modsatte vinkel. Overvej den samme situation for en anden gruppe: "Hvis klienten var fra en anden socioøkonomisk/etnisk baggrund, ville AI'en så skrive det på samme sprog?"
- Søg kulturel følsomhed. Spørg om den kulturelle kontekst af en adfærd; men tag kulturel viden som en mulighed og et punkt til forsigtighed, ikke en absolut regel (undgå stereotype).
- Rengør tryktungen. Oversæt det til et sprog, der beskriver situationen, ikke personen, og også ser styrkerne.
tre minisager
Tilfælde 1 — Den omvendte vinkel afslørede bias. En ekspert fik AI til at opsummere to lignende sager; den eneste forskel var familiernes socioøkonomiske status. YZ skrev i tonen med "høj risiko for omsorgssvigt" for lavindkomstfamilien og i tonen "forælder tvunget til at opføre sig" for højindkomstfamilien. Eksperten anerkendte denne dobbelte standard og destillerede begge vurderinger til et evidensbaseret, lige sprog.
Sag 2 — Kulturel fejlfortolkning rettet. YZ indrammede situationen for et barn, der bor hos en udvidet familie, som "grænseproblemer og et blandet hjemmemiljø." Eksperten vidste, at den udvidede familie inden for familiens kulturelle kontekst var en stærk kilde til støtte og beskyttelse. AI havde forvandlet en kulturel kraft til et problem. Anmeldelsen er blevet rettet til at anerkende denne støtte som en ressource.
Case 3 — Førende spørgsmål skabte bias. "Skriv ned, hvorfor denne far er utroværdig," spurgte en praktikant til AI. AI producerede en tekst, der portrætterer faderen negativt (smiger) uden nogen beviser. Vejlederen ændrede spørgsmålet: "Hvad er observationerne om faderen, hvad kan være hans styrker og svagheder?" Outputtet er blevet afbalanceret og evidensbaseret. Lektion: forudindtaget spørgsmål producerer forudindtaget svar.
Fire kopierbare skabeloner
1) Anmod om en neutral, afbalanceret evaluering:
Ved at opsummere de følgende observationer præsenterer du både mulige styrker og mulige bekymringer på en BALANCERET måde og KUN baseret på evidens. Lav ingen slutninger baseret på stereotyper. Hvis en kommentar ikke er afhængig af observation, skriv "utilstrækkeligt bevis". Observationer: [indsæt observationer]
2) Bias check (modsat vinkel test):
Tjek anmeldelsesteksten herunder. Er der udsagn, der formidler en uunderbygget stereotype på grund af klientens socioøkonomiske status, etnicitet, religion, køn, handicap eller naboskab? Spørg for hver enkelt: "Ville dette være skrevet på samme sprog, hvis klienten var fra en anden gruppe?" Markér problemsætninger. Tekst: [indsæt tekst]
3) Kulturel kontekst (ikke-stereotyp):
Giv MULIGHEDER for, hvad følgende adfærd/situation kan betyde i forskellige kulturelle sammenhænge. Angiv disse som punkter, der skal overvejes, ikke som absolutte regler; Understreg, at der er individuelle forskelle i ethvert samfund. Generaliser ikke om en enkelt gruppe. Situation: [skrivesituation]
4) Prægning af tungerens:
I teksten nedenfor skal du finde adjektiver, der dømmer eller stigmatiserer personen (f.eks. "forsømmelig", "usamarbejdsvillig", "problematisk"). For hver af dem skal du erstatte det samme faktum med et alternativ, der er beskrivende, respektfuldt og anerkender styrkerne. Tilføjer nye oplysninger. Tekst: [indsæt tekst]
Svag prompt / Stærk prompt
Svag prompt:
Forklar, hvorfor denne familie er utilstrækkelig til at opdrage børn.
Dette spørgsmål antager resultatet fra begyndelsen ("utilstrækkeligt"). AI vil med sin tendens til smiger producere en evidensfri og forudindtaget tekst, der bekræfter denne antagelse. Hvis spørgsmålet er biased, vil svaret også være biased.
Kraftig prompt:
Baseret på følgende observationer, skriv både denne families styrker til børneopdragelse og bekymringsområder på en BALANCERET og kun bevismateriale. Antag ikke resultatet fra begyndelsen; Hvis beviserne er utilstrækkelige, angiv det. Undgå stereotyper. Observationer: [indsæt observationer]
Forskellen: et afbalanceret spørgsmål, der ikke antager resultatet og beder om beviser, forhindrer bias i første omgang.
Typer af bias og modforanstaltninger
Type bias
Hvordan ser det ud
modforanstaltning
træningsdata
gruppe stereotype
Evidens-mønster skelnen
indramning
Passivt/negativt sprog
Balanceret, emnecentreret sprog
dobbeltmoralsk
Samme adfærd, anden tone
omvendt vinkeltest
kulturel blindhed
At gøre kulturel magt til et problem
Spørgsmål om kulturel kontekst
smiger
bekræfte implikationen
Stil ikke neutrale spørgsmål
manglende repræsentation
Overfladisk/misforståelse
Lokal/ekspert bekræftelse
Almindelige fejl
- At stille fordomsfulde spørgsmål. Et spørgsmål, der forudsætter en konklusion, producerer et forudindtaget svar; neutralt problem.
- Stoler på selvsikkert sprog. Professionel tone gør ikke bias korrekt; se på beviserne.
- At betragte kulturel viden som en endelig regel. Tag det som et punkt for mulighed og opmærksomhed; Undgå stereotyper.
- Læg ikke mærke til dobbeltmoralen. Test, hvordan den samme adfærd er skrevet i forskellige grupper.
- Forveksler stemplet som bevis. Det er en "uagtsom" dom; Beskriv fænomenet, dømme ikke personen.
Sammenfattende
AI er ikke neutral, den virker neutral; Det gengiver uligheder og stereotyper i uddannelsesdata på et flydende sprog. I socialt arbejde kan dette føre til uretfærdige vurderinger af rigtige mennesker. Genkend bias (træningsdata, framing, dobbeltstandarder, kulturel blindhed, smiger), tjek imod det (neutralt spørgsmål, evidens-mønsteradskillelse, vinkeltest, kulturel følsomhed, stigmatisering), og filtrer hvert output gennem professionens værdier om retfærdighed og ære. Det sidste etiske filter er altid dig.
Ansøgningsopgave
Få AI'en til at opsummere det samme sæt fiktive observationer med to forskellige gruppeprofiler (f.eks. forskellig socioøkonomisk status) og sammenlign med "omvendt vinkeltest", om toner/sprog er forskellige. Prøv derefter et neutralt spørgsmål med et bevidst forudindtaget spørgsmål ("forklar, hvorfor det er utilstrækkeligt") og undersøg forskellen i resultater. Til sidst skal du anvende skabelonen "vandmærkesprogrensning" på en tekst.
tjekliste
- [ ] Jeg formulerede mine spørgsmål neutralt uden at antage resultatet.
- [ ] Jeg kontrollerede hvert negativt udsagn ved hjælp af evidens-stereotype skelnen.
- [ ] Jeg tjekkede dobbeltstandarden med omvendt vinkeltest.
- [ ] Jeg brugte kulturel viden som et punkt til forsigtighed, ikke en absolut regel.
- [ ] Jeg erstattede stigmatiserende sprog med beskrivende, respektfuldt sprog.