Hagnaður:
- Skilur að gögn eru aðal uppspretta gervigreindar hlutdrægni
- Gerir sér grein fyrir áhættunni sem hlutdrægni getur skapað á vinnustaðnum
- Framkvæmir ráðstafanir sem hægt er að grípa til til að draga úr fordómum
AI birtist sem hlutlaus, hlutlæg vél; en sannleikurinn er miklu flóknari. Gervigreind kerfi læra mannlega hlutdrægni í gögnunum sem þau eru þjálfuð í og stækka þau stundum og endurskapa þau. Fordómar eru tilhneiging kerfis til að hygla eða útiloka ákveðið fólk eða hópa kerfisbundið. Í þessari einingu munum við íhuga hvaðan fordómar koma, hvaða áþreifanlegar hættur af þeim stafar á vinnustaðnum og hvað er hægt að gera gegn þeim. Þetta er ekki bara spurning um "siðfræði"; Það er hagnýtt viðskiptamál sem hefur lagalega, viðskiptalega og orðsporsáhættu í för með sér þegar illa er stjórnað.
Hvaðan koma fordómar?
Upplýsingar um mállíkan koma frá risastórum textum sem menn framleiða. Þessir textar innihalda alla þekkingu á mannlegu samfélagi, sem og allar staðalmyndir þess, ójafnvægi og sögulegt misrétti. Líkanið gerir ekki greinarmun á „góðu“ og „slæmu“ mynstri; Það lærir hvað sem er í gögnunum.
Dæmi: Ef tilteknar starfsstéttir voru aðallega tengdar kyni í fyrri textum (t.d. „hjúkrunarfræðingur“ með konu, „verkfræðingur“ við karl), lærir fyrirsætan þetta samband. Hún gæti haft tilhneigingu til að velja karlkyns fornafn þegar hún klárar setninguna: "Verkfræðingur gekk inn á skrifstofuna, hann..." Fyrirmyndin er ekki illgjarn; það endurspeglar aðeins ójafnvægið í gögnunum.
Þannig að hlutdrægnin er aðallega vegna þess að hún er spegill gagna, ekki meðvituð forritunarvilla. Að útskýra vandamálið sem "einhver skrifaði slæman kóða" er villandi; Vandamálið er að ójafnvægið í heiminum berst inn í gögnin og þaðan inn í líkanið.
Áþreifanleg áhætta á vinnustað
svæði
Hætta á hlutdrægni
hugsanlega skaða
ráðningar
Lærðu þróunina í sögulegum gögnum og útrýmdu ákveðnum hópum
Dómsmál, getumissir
Samskipti við viðskiptavini
Staðalímynd eða útilokandi tungumál
Orðsporsmissir, viðskiptavinaflótta
lánsfé/áhætta
Að viðhalda fortíðarmisrétti
Mismunun, viðurlög
Frammistöðumat
Að bera hlutdrægni í gögnum inn í ákvörðun
Ósanngjörn kynning/bónus
Efni/markaðssetning
Gerðu ákveðinn hóp ósýnilegan
Vörumerkjaskemmdir
Þrjú Mini Cass
Tilfelli 1 - Auglýsingin var að þrengja tungumálið. Fyrirtæki byrjaði að prenta starfstilkynningar með gervigreind. Eftir nokkurn tíma vakti athygli að auglýsingarnar höfðuðu til ákveðins sniðs með orðatiltækjum eins og „ungur og kraftmikill“, „árásargjarn skotmark“ og minnkaði þannig fjölbreytileika umsóknanna. Teymið bætti við skrefi sem athugar hverja færslu fyrir „innifalið tungumál“; Fjölbreytileiki umsækjenda hefur aukist mikið á nokkrum mánuðum.
Mál 2 - Falin hlutdrægni í samantektinni. Einn stjórnandi lét gervigreindina draga saman 30 starfsmenn endurgjöf. Samantektin virtist einbeita neikvæðum athugasemdum við eitt ákveðið lið; en í hráum gögnum var ástandið í jafnvægi. Líkanið ýkti nokkrar sterkar fullyrðingar. Þegar framkvæmdastjórinn fór til baka og athugaði hrá gögnin forðaðist hann að gera rangan skilning.
Mál 3 — Umboðið um aðild að innifalið virkaði. Eitt markaðsteymi staðlaði leiðbeiningarnar í herferðarafriti til að „nota innifalið, ósérstakt tungumál kyns/aldurs/hópa og skrá forsendur þínar í lokin. Formúlutjáning í framleiddum textum hefur verulega minnkað; liðið þurfti ekki að leiðrétta hvert úttak handvirkt aftur og aftur.
Af hverju er erfitt að þekkja hlutdrægni?
Það lævíslegasta við fordóma er að þeir eru oft ósýnilegir. Framleiðslan lítur vel út, fagmannleg og sanngjörn; Tilhneigingin innan hennar kemur aðeins í ljós þegar maður skoðar vandlega eða mælir áhrif hennar á mismunandi hópa. Það er villandi að segja „hér er engin hlutdrægni“ með því að skoða eitt dæmi; Hlutdrægni birtist oft ekki í einstökum dæmum heldur almennri tilhneigingu kerfisins.
Varúð: Forsenda þess að „ég er hlutlaus, þess vegna er tólið sem ég nota líka hlutlaust“ er hættuleg. Hlutleysi tækisins fer eftir þjálfunargögnum og hvernig það er skoðað, ekki ásetningi þínum.
Veik kvaðning / sterk kvaðning
Veik kvaðning: Lýstu kjörnum umsækjanda fyrir þessa stöðu.
Niðurstaða: Líkanið getur reitt sig á staðalmyndir og sett fram tiltekinn prófíl sem „tilvalið“.
Sterk tilvitnun: Skráðu aðeins mælanlega hæfni fyrir þessa stöðu sem er sannarlega viðeigandi fyrir starfið. Ekki nota neina eiginleika sem tengjast ekki starfinu, svo sem kyni, aldri, hjúskaparstöðu, heimabæ. Að lokum skaltu skrifa það sem þú slepptir undir fyrirsögninni "Forsendur sem ég forðast."
Niðurstaða: Mat takmarkast við starfstengd viðmið, óviðkomandi eiginleikar eru útilokaðir.
Sniðmát til að draga úr hlutdrægni
Athugaðu textann hér að neðan fyrir innifalið tungumál. Fána yfirlýsingar sem gefa til kynna kyn, aldur, þjóðerni, fötlun eða ákveðinn hóp og benda á hlutlausan valkost fyrir hvern.Texti: [líma hér]
Gerðu þetta mat eingöngu út frá þessum hlutlægu forsendum: [viðmið]. Ekki taka tillit til annarra upplýsinga en þessara viðmiða (nafn, kyn, aldur).
Skráðu undir sérstakri fyrirsögn í lokin hvaða forsendur þú gerðir í textanum sem þú bjóst til. Svo ég get séð falinn hlutdrægni.
Metið þetta efni með augum þriggja mismunandi hópa lesenda og merkið við allar fullyrðingar sem kunna að móðga/móðga einhvern þeirra. Efni: [líma hér]
Algeng mistök
Algeng mistök
- Miðað við "hlutlausa" gervigreind úttak. Jafnvel þó úttakið virðist hlutlaust getur það borið hlutdrægni í gögnunum; Virkt eftirlit er krafist.
- Skoða eitt dæmi og segja "það er engin hlutdrægni". Fordómar leynast í almennri tilhneigingu kerfisins.
- Skilur áhrifamikilli ákvarðanatöku eftir gervigreind án eftirlits. Mannlegt vald er nauðsynlegt við ákvarðanir eins og ráðningar, stöðuhækkun og lánstraust.
- Að gleyma að krefjast innifalið. Ef þú biður ekki beinlínis um það í hvetjunni, fer líkanið aftur í sjálfgefna mynstur.
- Það þýðir "Vélin sagði það." Sá sem notar ákvörðunina ber einnig ábyrgð á afleiðingunum.
Réttlæti er á ábyrgð allra
Að berjast gegn fordómum er ekki bara starf tækniteymis. Sérhver starfsmaður sem notar gervigreindarframleiðslu ber ábyrgð á því að efast um hvort þessi framleiðsla sé sanngjörn. „Vélin sagði mér“ er ekki afsökun; Sá sem tekur ákvörðun ber einnig ábyrgð á afleiðingunum.
Í stuttu máli
- Aðal uppspretta gervigreindar hlutdrægni er ekki illmennska, heldur ójafnvægi og staðalmyndir í þjálfunargögnunum.
- Fordómar; Það skapar raunverulega laga- og orðsporsáhættu á sviðum eins og ráðningum, samskiptum við viðskiptavini, fjármálum og mati.
- Hlutdrægni er oft ósýnileg og felld inn í heildarskipulag kerfisins; Það er villandi að skoða eitt dæmi.
- Til að draga úr: vera meðvitaður, takmarka ákvörðun við starfstengd viðmið, biðja beinlínis um innifalið, setja mannlega stjórn á ákvarðanir sem hafa mikil áhrif.
- „Vélin sagði mér“ er ekki afsökun; Sanngirni er á ábyrgð allra sem nota framleiðsluna.
Umsóknarverkefni
Segðu gervigreindinni „lýstu hugsjónum starfsmanni [hvers starfs sem er]“ og merktu við hvaða (kannski óþarfa) forsendur voru gerðar í framleiðslunni. Endurtaktu síðan með „starfstengdum viðmiðunum“ sniðmátinu hér að ofan og berðu saman þessar tvær niðurstöður fyrir sanngirni.
Gátlisti
- [ ] Mér skilst að aðal uppspretta hlutdrægni sé þjálfunargögn.
- [ ] Ég get nefnt þær áþreifanlegu áhættur sem hlutdrægni á vinnustað getur haft í för með sér.
- [ ] Ég veit að hlutdrægni er oft ósýnileg og að skoða eitt dæmi er villandi.
- [ ] Ég get klárlega beðið um að vera án aðgreiningar og starfstengd viðmið í leiðbeiningunum.
- [ ] Ég krefst mannlegrar eftirlits með áhrifamiklum ákvörðunum.