Winst:
- Begrijpt dat data de voornaamste bron van AI-vooroordelen zijn
- Onderkent de risico's die vooroordelen op de werkplek kunnen veroorzaken
- Implementeert maatregelen die kunnen worden genomen om vooroordelen te verminderen
AI verschijnt als een neutrale, objectieve machine; maar de waarheid is veel complexer. AI-systemen leren menselijke vooroordelen kennen in de gegevens waarop ze zijn getraind en vergroten en reproduceren deze soms. Vooroordelen zijn de neiging van een systeem om systematisch bepaalde mensen of groepen te bevoordelen of uit te sluiten. In deze unit zullen we bekijken waar vooroordelen vandaan komen, welke concrete risico's deze met zich meebrengen op de werkplek en wat er tegen kan worden gedaan. Dit is niet alleen een kwestie van ‘ethiek’; Het is een praktische zakelijke aangelegenheid die bij slecht beheer juridische, commerciële en reputatierisico's met zich meebrengt.
Waar komen vooroordelen vandaan?
De informatie van een taalmodel komt uit de enorme teksten die mensen produceren. Deze teksten bevatten alle kennis van de menselijke samenleving, evenals al haar stereotypen, onevenwichtigheden en historische ongelijkheden. Het model maakt geen onderscheid tussen ‘goede’ en ‘slechte’ patronen; Het leert wat er in de gegevens staat.
Voorbeeld: Als bepaalde beroepen in eerdere teksten voornamelijk met een geslacht werden geassocieerd (bijvoorbeeld 'verpleegkundige' met vrouw, 'ingenieur' met man), leert het model deze associatie. Ze heeft de neiging om een mannelijk voornaamwoord te kiezen bij het afmaken van de zin: 'Een ingenieur kwam het kantoor binnen, hij...' Het model is niet kwaadaardig; het weerspiegelt slechts de onevenwichtigheid in de gegevens.
De vertekening is dus vooral te wijten aan het feit dat het een spiegel van de gegevens is, en niet een bewuste programmeerfout. Het probleem uitleggen als "iemand heeft slechte code geschreven" is misleidend; Het probleem is dat de onevenwichtigheid in de wereld wordt doorgevoerd in de data en van daaruit in het model.
Tastbare risico's op de werkplek
gebied
Risico van partijdigheid
mogelijke schade
rekrutering
Leer de trend in historische gegevens en elimineer bepaalde groepen
Juridische zaak, verlies van bekwaamheid
Communicatie met klanten
Stereotiep of uitsluitend taalgebruik
Verlies van reputatie, klantenvlucht
krediet/risico
Het in stand houden van ongelijkheden uit het verleden
Discriminatie, sancties
Prestatie-evaluatie
Vooroordelen in gegevens meenemen in beslissingen
Oneerlijke promotie/bonus
Inhoud/marketing
Maak een specifieke groep onzichtbaar
Merk schade
Drie mini-hoesjes
Geval 1 — De advertentie beperkte de taal. Een bedrijf begon vacatures af te drukken met AI. Na een tijdje viel het op dat de advertenties een bepaald profiel aanspraken met uitdrukkingen als "jong en dynamisch", "agressief doelwit" en daarmee de diversiteit van de sollicitaties verminderden. Het team heeft een stap toegevoegd die elke post controleert op ‘inclusief taalgebruik’; De diversiteit aan aanvragers is binnen enkele maanden aanzienlijk toegenomen.
Geval 2 – Verborgen vooringenomenheid in de samenvatting. Eén manager liet de AI 30 feedback van medewerkers samenvatten. De samenvatting leek de negatieve opmerkingen op één bepaald team te concentreren; terwijl op basis van de ruwe gegevens de situatie evenwichtig was. Het model overdreef verschillende sterke uitspraken. Toen de manager terugging en de ruwe gegevens controleerde, vermeed hij een misvatting.
Geval 3 – Het inclusiviteitsmandaat werkte. Eén marketingteam standaardiseerde de instructie in de campagnekopie om ‘inclusieve, niet-specifieke geslachts-/leeftijds-/groepstaal te gebruiken en uw aannames aan het einde op te sommen’. Formule-uitdrukkingen in de geproduceerde teksten zijn merkbaar afgenomen; het team hoefde niet elke output steeds opnieuw handmatig te corrigeren.
Waarom is vooringenomenheid moeilijk te herkennen?
Het meest verraderlijke aan vooroordelen is dat ze vaak onzichtbaar zijn. De uitvoer ziet er soepel, professioneel en redelijk uit; De tendens daarin wordt pas duidelijk als je goed kijkt of de impact ervan op verschillende groepen meet. Het is misleidend om te zeggen “er is hier geen sprake van vooringenomenheid” door naar één enkel voorbeeld te kijken; Vooringenomenheid manifesteert zich vaak niet in individuele voorbeelden, maar in de algemene tendens van het systeem.
Let op: de veronderstelling dat "ik neutraal ben, dus het instrument dat ik gebruik ook neutraal is" is gevaarlijk. De neutraliteit van de tool hangt af van de trainingsgegevens en hoe deze worden geïnspecteerd, niet van uw bedoelingen.
Zwakke prompt/sterke prompt
Zwakke vraag: Beschrijf de ideale kandidaat voor deze functie.
Resultaat: Het model kan zich baseren op stereotypen en een bepaald profiel als ‘ideaal’ presenteren.
Sterke prompt: vermeld alleen meetbare competenties voor deze functie die echt relevant zijn voor de functie. Gebruik geen kenmerken die geen verband houden met de functie, zoals geslacht, leeftijd, burgerlijke staat, woonplaats. Schrijf ten slotte op wat je hebt weggelaten onder het kopje 'aannames die ik vermijd'.
Resultaat: Evaluatie beperkt zich tot functiegerelateerde criteria, irrelevante kenmerken worden uitgesloten.
Sjablonen om vooringenomenheid te verminderen
Controleer de onderstaande tekst voor inclusief taalgebruik. Markeer uitspraken die geslacht, leeftijd, etniciteit, handicap of een specifieke groep impliceren en stel voor elk een neutraal alternatief voor.Tekst: [plak hier]
Maak deze evaluatie alleen op basis van deze objectieve criteria: [criteria]. Houd geen rekening met andere informatie dan deze criteria (naam, geslacht, leeftijd).
Noteer onder een apart kopje aan het eind welke aannames je hebt gemaakt in de door jou gemaakte tekst. Ik kan dus verborgen vooroordelen zien.
Evalueer deze inhoud door de ogen van drie verschillende groepen lezers en markeer alle uitspraken die een van hen kunnen beledigen/beledigen. Inhoud: [plak hier]
Veelvoorkomende fouten
Veel voorkomende fouten
- Uitgaande van een "neutrale" AI-uitvoer. Ook al lijkt de output neutraal, toch kan er sprake zijn van een bias in de data; Actief toezicht is vereist.
- Als je naar één voorbeeld kijkt en zegt: "er is geen sprake van vooringenomenheid". Vooroordelen liggen verborgen in de algemene tendens van het systeem.
- Het overlaten van besluitvorming met grote impact aan AI zonder toezicht. Menselijk gezag is essentieel bij beslissingen zoals rekrutering, promotie en kredietverlening.
- Vergeten om inclusiviteit te eisen. Als u hier niet expliciet om vraagt in de prompt, keert het model terug naar de standaardpatronen.
- Het betekent: 'De machine zei het'. Degene die van het besluit gebruik maakt, is ook verantwoordelijk voor de gevolgen.
Gerechtigheid is de verantwoordelijkheid van iedereen
Het bestrijden van vooroordelen is niet alleen de taak van het technische team. Elke medewerker die AI-output gebruikt, heeft de verantwoordelijkheid om zich af te vragen of die output wel eerlijk is. “De machine vertelde het mij” is geen excuus; De persoon die de beslissing neemt, is ook verantwoordelijk voor de gevolgen.
Samengevat
- De primaire bron van AI-vooroordelen is niet kwaadwilligheid, maar bestaande onevenwichtigheden en stereotypen in de trainingsgegevens.
- Vooroordeel; Het creëert reële juridische en reputatierisico's op gebieden als werving, klantcommunicatie, financiën en evaluatie.
- Vooringenomenheid is vaak onzichtbaar en ingebed in de algemene aard van het systeem; Het is misleidend om naar één enkel voorbeeld te kijken.
- Om te verminderen: wees bewust, beperk de besluitvorming tot werkgerelateerde criteria, vraag expliciet om inclusiviteit, plaats menselijke controle op beslissingen met een grote impact.
- “De machine vertelde het mij” is geen excuus; Eerlijkheid is de verantwoordelijkheid van iedereen die de output gebruikt.
Applicatie taak
Vertel de AI “beschrijf een ideale werknemer in welk beroep dan ook” en markeer welke (misschien onnodige) aannames er in de output zijn gemaakt. Herhaal dit vervolgens met het bovenstaande sjabloon voor ‘functiegerelateerde criteria’ en vergelijk de twee uitkomsten op eerlijkheid.
Controlelijst
- [ ] Ik begrijp dat de voornaamste bron van vooringenomenheid trainingsgegevens zijn.
- [ ] Ik kan de concrete risico's noemen die vooroordelen op de werkvloer met zich mee kunnen brengen.
- [ ] Ik weet dat vooringenomenheid vaak onzichtbaar is en dat het misleidend is om naar één enkel voorbeeld te kijken.
- [ ] Ik kan in de prompt duidelijk om inclusiviteit en functiegerelateerde criteria vragen.
- [ ] Ik heb menselijk toezicht nodig op beslissingen met een grote impact.