Gevinster:
- Gjenkjenne når AI produserer skjevhet gjennom treningsdata, innramming, dobbeltmoral og smiger
- Evne til å etablere en kontroll mot skjevhet med nøytrale spørsmål, bevis-stereotype diskriminering og omvendt vinkeltest
- Evne til å oversette stigmatiserende språk til beskrivende og respektfullt språk ved å bruke kulturell kunnskap som et oppmerksomhetspunkt snarere enn en definitiv regel
Det sosiale arbeidets eksistensgrunnlag er rettferdighet og menneskeverd; Kjernen i yrket er en forpliktelse om at hvert individ er likeverdig, diskriminering motarbeides og sårbare grupper beskyttes. Kunstig intelligens innebærer en risiko som i det stille kan skade nettopp disse verdiene: skjevhet. AI lærer av historiske data; Hvis disse dataene inkluderer ulikheter, stereotypier og diskriminering i samfunnet, lærer AI dem og reproduserer dem i et flytende, "objektivt" språk. I hendene på en sosialarbeider kan dette føre til en systematisk mer negativ vurdering av en gruppe, en stereotypisering av en familie eller en misforståelse av en kultur. I denne enheten vil du lære å gjenkjenne AI-bias, kontrollere mot det og bruke AI med rettferdighet og kulturell følsomhet.
Et faktum fra begynnelsen: AI er ikke nøytral, den fremstår som nøytral. Den farligste skjevheten er den som presenteres i et selvsikkert og profesjonelt språk; fordi det er akseptert uten spørsmål. Din jobb som sosialarbeider er å synliggjøre denne usynlige skjevheten og overvåke om resultatet er i konflikt med dine faglige verdier.
Hvor kommer AI-bias fra og hvordan ser det ut?
- Treningsdatabias. AI lærer av tekster som gjenspeiler ulikheter i samfunnet. Stereotyper om visse etniske grupper, fattige, funksjonshemmede, visse nabolag eller kjønn kan lekke inn i produksjonen.
- Språk og innrammingsskjevhet. AI kan ramme en gruppe som passiv, "problematisk" eller et "objekt som trenger hjelp"; en annen gruppe som fag. Den samme atferden kan tolkes som "kulturell" av en gruppe og "problematisk" av en annen gruppe.
- Mangel på representasjon. AI kan unøyaktig eller overfladisk forstå grupper som er underrepresentert i dataene (små populasjoner, sjeldne tilfeller).
- Smiger (sycophancy). AI har en tendens til å bekrefte ditt underforståtte syn; Et partisk spørsmål gir en partisk bekreftelse.
Disse skjevhetene er spesielt farlige i sosialt arbeid fordi resultatet direkte berører virkelige menneskers liv - en vurdering, en rapport, en henvisning.
Advarsel: "AI-en evaluerte det på den måten" er et advarselsskilt, ikke en begrunnelse. Når du ser utdata som skildrer en gruppe eller et individ negativt, er det første spørsmålet "er det basert på bevis eller basert på stereotypier?" bør være.
Trinn for trinn: revisjon mot skjevhet
- Spør nøytralt. Still spørsmål som ikke antyder eller leder; Ikke "forklar hvorfor denne familien er forsømmelig", men "hva kan disse observasjonene bety, hva er de alternative forklaringene?" spørre.
- Skille mellom bevis og stereotypi. Spør for hvert negativt utsagn: er det basert på de konkrete bevisene foran meg, eller er det basert på en generell antagelse om en gruppe?
- Test fra motsatt vinkel. Tenk på den samme situasjonen for en annen gruppe: "Hvis klienten var fra en annen sosioøkonomisk/etnisk bakgrunn, ville AI skrevet det på samme språk?"
- Søk kulturell sensitivitet. Spør om den kulturelle konteksten til en atferd; men ta kulturell kunnskap som en mulighet og et punkt til forsiktighet, ikke en absolutt regel (unngå stereotypi).
- Rengjør trykktungen. Oversett det til et språk som beskriver situasjonen, ikke personen, og ser også styrkene.
tre minisaker
Tilfelle 1 - Den omvendte vinkelen avslørte skjevhet. En ekspert fikk AI til å oppsummere to lignende tilfeller; den eneste forskjellen var den sosioøkonomiske statusen til familiene. YZ skrev i tonen «høy risiko for omsorgssvikt» for lavinntektsfamilien, og i tonen «foreldre tvunget til å oppføre seg» for høyinntektsfamilien. Eksperten anerkjente denne dobbeltmoralen og destillerte begge vurderingene til evidensbasert, likeverdig språk.
Sak 2 – Kulturell feiltolkning korrigert. YZ rammet inn situasjonen til et barn som bor med utvidet familie som "grensespørsmål og et blandet hjemmemiljø." Eksperten visste at innenfor familiens kulturelle kontekst var storfamilien en kraftig kilde til støtte og beskyttelse. AI hadde gjort en kulturell kraft til et problem. Anmeldelsen er korrigert for å anerkjenne denne støtten som en ressurs.
Case 3 – Ledende spørsmål produserte skjevhet. "Skriv ned hvorfor denne faren er upålitelig," spurte en praktikant AI. AI produserte en tekst som fremstiller faren negativt (smiger) uten bevis. Veilederen endret spørsmålet: "Hva er observasjonene om faren, hva kan være hans styrker og svakheter?" Utgangen har blitt balansert og evidensbasert. Leksjon: partisk spørsmål produserer partisk svar.
Fire kopierbare maler
1) Be om en nøytral, balansert evaluering:
Når du oppsummerer de følgende observasjonene, presenterer du både mulige styrker og mulige bekymringer på en BALANSERT måte og KUN basert på bevis. Ikke gjør noen slutninger basert på stereotypier. Hvis en kommentar ikke er avhengig av observasjon, skriv "utilstrekkelig bevis." Observasjoner: [lim inn observasjoner]
2) Bias check (test av motsatt vinkel):
Sjekk ut anmeldelsesteksten nedenfor. Er det utsagn som formidler en ubegrunnet stereotypi på grunn av klientens sosioøkonomiske status, etnisitet, religion, kjønn, funksjonshemming eller nabolag? For hver, spør: "Ville dette skrevet på samme språk hvis klienten var fra en annen gruppe?" Flagg problemsetninger.Tekst: [lim inn tekst]
3) Kulturell kontekst (ikke-stereotyp):
Gi MULIGHETER for hva følgende atferd/situasjon kan bety i ulike kulturelle kontekster. Gi disse som punkter som skal vurderes, ikke som absolutte regler; Understrek at det er individuelle forskjeller i alle samfunn. Ikke generaliser om en enkelt gruppe. Situasjon: [skrivesituasjon]
4) Avtrykk av tungerensing:
I teksten nedenfor finner du adjektiver som dømmer eller stigmatiserer personen (f.eks. "forsømmelig", "ikke samarbeidsvillig", "problematisk"). For hver, bytt ut det samme faktum med et alternativ som er beskrivende, respektfullt og anerkjenner styrkene. Legger til ny informasjon.Tekst: [lim inn tekst]
Svak forespørsel / Sterk forespørsel
Svak melding:
Forklar hvorfor denne familien er utilstrekkelig til å oppdra barn.
Dette spørsmålet forutsetter resultatet fra begynnelsen ("utilstrekkelig"). AI, med sin tendens til smiger, vil produsere en bevisfri og partisk tekst som bekrefter denne antagelsen. Hvis spørsmålet er partisk, vil svaret også være partisk.
Kraftig ledetekst:
Basert på følgende observasjoner, liste opp både denne familiens styrke ved barneoppdragelse og bekymringsområder på en BALANSERT og kun bevis. Ikke anta utfallet fra begynnelsen; Hvis bevisene er utilstrekkelige, oppgi det. Unngå stereotypier.Observasjoner: [lim inn observasjoner]
Forskjellen: et balansert spørsmål som ikke antar utfallet og ber om bevis forhindrer skjevhet i utgangspunktet.
Typer skjevhet og mottiltak
Type skjevhet
Hvordan ser det ut
mottiltak
treningsdata
gruppe stereotypi
Skille mellom bevis og mønster
innramming
Passivt/negativt språk
Balansert, emnesentrert språk
dobbel standard
Samme oppførsel, annen tone
omvendt vinkeltest
kulturell blindhet
Gjøre kulturell makt til et problem
Spørsmål om kulturkontekst
smiger
bekrefte implikasjonen
Ikke still nøytrale spørsmål
mangel på representasjon
Overfladisk/misforståelse
Lokal/ekspert bekreftelse
Vanlige feil
- Stiller fordomsfulle spørsmål. Et spørsmål som forutsetter en konklusjon gir et partisk svar; nøytralt problem.
- Stoler på selvsikkert språk. Profesjonell tone gjør ikke skjevhet korrekt; se på bevisene.
- Vurderer kulturell kunnskap som en definitiv regel. Ta det som et poeng av mulighet og oppmerksomhet; Unngå stereotypier.
- Merker ikke dobbeltmoralen. Test hvordan samme oppførsel er skrevet i forskjellige grupper.
- Tar feil av stempelet som bevis. Det er en "uaktsom" dom; Beskriv fenomenet, ikke døm personen.
Oppsummert
AI er ikke nøytral, den virker nøytral; Den gjengir ulikheter og stereotypier i pedagogiske data på et flytende språk. I sosialt arbeid kan dette føre til urettferdige evalueringer av virkelige mennesker. Gjenkjenne skjevhet (treningsdata, innramming, dobbeltmoral, kulturell blindhet, smiger), sjekk mot det (nøytralt spørsmål, separasjon av bevis-mønster, vinkeltesting, kulturell sensitivitet, stigmatisering), og filtrer hver utgang gjennom profesjonens verdier om rettferdighet og ære. Det endelige etiske filteret er alltid deg.
Søknadsoppgave
La AI oppsummere det samme settet med fiktive observasjoner med to forskjellige gruppeprofiler (f.eks. ulik sosioøkonomisk status) og sammenlign med "omvendt vinkeltest" om toner/språk er forskjellige. Prøv deretter et nøytralt spørsmål med et bevisst partisk spørsmål («forklar hvorfor det er utilstrekkelig») og undersøk forskjellen i utfall. Til slutt bruker du malen "rengjøring av vannmerkerspråk" på en tekst.
sjekkliste
- [ ] Jeg stilte spørsmålene mine nøytralt, uten å anta utfallet.
- [ ] Jeg sjekket hvert negativt utsagn ved å bruke evidens-stereotype-skillet.
- [ ] Jeg sjekket dobbeltstandarden med omvendt vinkeltest.
- [ ] Jeg brukte kulturell kunnskap som et punkt til forsiktighet, ikke en absolutt regel.
- [ ] Jeg erstattet stigmatiserende språk med beskrivende, respektfullt språk.