Gevinster:
- Forstår, at data er den primære kilde til AI-bias
- Anerkender de risici, som bias kan skabe på arbejdspladsen
- Implementerer tiltag, der kan træffes for at mindske fordomme
AI fremstår som en neutral, objektiv maskine; men sandheden er meget mere kompleks. AI-systemer lærer menneskelige skævheder i de data, de trænes på, og nogle gange forstørrer og reproducerer dem. Fordomme er et systems tendens til systematisk at favorisere eller udelukke bestemte personer eller grupper. I denne enhed vil vi overveje, hvor fordomme kommer fra, hvilke konkrete risici det udgør på arbejdspladsen, og hvad der kan gøres imod det. Dette er ikke kun et spørgsmål om "etik"; Det er et praktisk forretningsanliggende, der indebærer juridiske, kommercielle og omdømmemæssige risici, når det forvaltes forkert.
Hvor kommer fordomme fra?
Informationen om en sprogmodel kommer fra de enorme tekster, som mennesker producerer. Disse tekster indeholder al viden om det menneskelige samfund, såvel som alle dets stereotyper, ubalancer og historiske uligheder. Modellen skelner ikke mellem "gode" og "dårlige" mønstre; Den lærer, hvad der er i dataene.
Eksempel: Hvis visse erhverv overvejende var forbundet med et køn i tidligere tekster (f.eks. "sygeplejerske" med kvinde, "ingeniør" med mand), lærer modellen denne sammenhæng. Hun kan have tendens til at vælge et mandligt pronomen, når hun afslutter sætningen: "En ingeniør gik ind på kontoret, han..." Modellen er ikke ondsindet; det afspejler blot ubalancen i dataene.
Så bias skyldes for det meste, at det er et spejl af dataene, ikke en bevidst programmeringsfejl. At forklare problemet som "nogen skrev dårlig kode" er vildledende; Problemet er, at ubalancen i verden føres ind i dataene og derfra ind i modellen.
Håndgribelige risici på arbejdspladsen
område
Risiko for bias
mulig skade
rekruttering
Lær trenden i historiske data og eliminer bestemte grupper
Retssag, tab af evner
Kundekommunikation
Stereotypisk eller ekskluderende sprogbrug
Tab af omdømme, kundeflugt
kredit/risiko
Fastholder tidligere uligheder
Forskelsbehandling, sanktioner
Præstationsevaluering
At føre bias i data ind i beslutningen
Unfair forfremmelse/bonus
Indhold/markedsføring
Gør en bestemt gruppe usynlig
Mærkeskade
Tre mini etuier
Case 1 — Annoncen indsnævrede sproget. En virksomhed begyndte at udskrive jobopslag med kunstig intelligens. Efter et stykke tid blev det bemærket, at annoncerne appellerede til en bestemt profil med udtryk som "ung og dynamisk", "aggressivt mål" og dermed reducerede mangfoldigheden af ansøgningerne. Holdet tilføjede et trin, der kontrollerer hvert opslag for "inkluderende sprog"; Mangfoldigheden af ansøgere er steget markant i løbet af få måneder.
Case 2 — Skjult skævhed i resuméet. En leder fik AI til at opsummere 30 medarbejderes feedback. Resuméet syntes at koncentrere de negative kommentarer om et bestemt hold; der henviser til, at situationen i de rå data var afbalanceret. Modellen overdrev flere stærke udsagn. Da lederen gik tilbage og tjekkede de rå data, undgik han at lave en misforståelse.
Tilfælde 3 — Inklusivitetsmandatet virkede. Et marketingteam standardiserede instruktionen i kampagneteksten til "brug inkluderende, ikke-specifikt køn/alder/gruppesprog og angiv dine antagelser til sidst." Formeludtryk i de producerede tekster er mærkbart faldet; holdet behøvede ikke manuelt at korrigere hvert output igen og igen.
Hvorfor er bias svært at genkende?
Det mest lumske ved fordomme er, at de ofte er usynlige. Outputtet ser glat, professionelt og rimeligt ud; Tendensen inden for den bliver kun tydelig, når man ser nøje efter eller måler dens indvirkning på forskellige grupper. Det er misvisende at sige "der er ingen bias her" ved at se på et enkelt eksempel; Bias viser sig ofte ikke i individuelle eksempler, men i systemets generelle tendens.
Forsigtig: Antagelsen om, at "jeg er neutral, derfor er det værktøj, jeg bruger, også neutralt" er farlig. Værktøjets neutralitet afhænger af træningsdataene og hvordan det inspiceres, ikke af din hensigt.
Svag prompt / stærk prompt
Svag prompt: Beskriv den ideelle kandidat til denne stilling.
Resultat: Modellen kan stole på stereotyper og præsentere en bestemt profil som "ideal".
Stærk prompt: Angiv kun målbare kompetencer til denne stilling, som virkelig er relevante for jobbet. Brug ikke nogen egenskaber, der ikke er relateret til jobbet, såsom køn, alder, civilstand, hjemby. Skriv endelig, hvad du har udeladt under overskriften "antagelser, jeg undgår."
Resultat: Evaluering er begrænset til jobrelaterede kriterier, irrelevante funktioner er udelukket.
Skabeloner til at reducere bias
Se teksten nedenfor for inkluderende sprog. Flag udsagn, der antyder køn, alder, etnicitet, handicap eller en specifik gruppe og foreslå et neutralt alternativ for hver.Tekst: [indsæt her]
Foretag kun denne evaluering baseret på disse objektive kriterier: [kriterier]. Tag ikke hensyn til andre oplysninger end disse kriterier (navn, køn, alder).
Angiv under en separat overskrift til sidst, hvilke antagelser du gjorde i den tekst, du lavede. Så jeg kan se skjulte skævheder.
Evaluer dette indhold gennem øjnene af tre forskellige grupper af læsere og marker eventuelle udsagn, der kan støde/støde nogen af dem. Indhold: [indsæt her]
Almindelige fejl
Almindelige fejl
- Forudsat "neutral" AI-output. Selvom outputtet ser neutralt ud, kan det have bias i dataene; Aktiv supervision er påkrævet.
- Ser på et eksempel og siger "der er ingen bias". Fordomme er skjult i systemets generelle tendens.
- Overlader storslået beslutningstagning til uovervåget AI. Menneskelig autoritet er afgørende i beslutninger som rekruttering, forfremmelse og kredit.
- Glemmer at kræve inklusivitet. Hvis du ikke eksplicit anmoder om det i prompten, vender modellen tilbage til standardmønstrene.
- Det betyder "maskinen sagde det." Den, der bruger afgørelsen, er også ansvarlig for konsekvenserne.
Retfærdighed er alles ansvar
At bekæmpe fordomme er ikke kun det tekniske teams opgave. Enhver medarbejder, der bruger AI-output, har ansvaret for at stille spørgsmålstegn ved, om det output er retfærdigt. "Maskinen fortalte mig" er ikke en undskyldning; Den, der træffer beslutningen, er også ansvarlig for konsekvenserne.
Sammenfattende
- Den primære kilde til AI-bias er ikke ondskab, men eksisterende ubalancer og stereotyper i træningsdataene.
- Fordom; Det skaber reelle juridiske og omdømmemæssige risici inden for områder som rekruttering, kundekommunikation, økonomi og evaluering.
- Bias er ofte usynlig og indlejret i systemets overordnede disposition; At se på et enkelt eksempel er misvisende.
- For at reducere: Vær opmærksom, begræns beslutninger til jobrelaterede kriterier, bed eksplicit om inklusivitet, sæt menneskelig kontrol over beslutninger med stor indflydelse.
- "Maskinen fortalte mig" er ikke en undskyldning; Retfærdighed er ansvaret for alle, der bruger outputtet.
Ansøgningsopgave
Fortæl AI'en "beskriv en ideel [enhver beskæftigelse] arbejder" og marker hvilke (måske unødvendige) antagelser, der blev gjort i outputtet. Gentag derefter med skabelonen "jobrelaterede kriterier" ovenfor og sammenlign de to output for retfærdighed.
Tjekliste
- [ ] Jeg forstår, at den primære kilde til bias er træningsdata.
- [ ] Jeg kan nævne de konkrete risici, som skævhed på arbejdspladsen kan udgøre.
- [ ] Jeg ved, at bias ofte er usynlig, og at det er misvisende at se på et enkelt eksempel.
- [ ] Jeg kan klart bede om rummelighed og jobrelaterede kriterier i prompten.
- [ ] Jeg kræver menneskelig tilsyn med beslutninger med stor indflydelse.