Kasu:
- Mõistab, et andmed on tehisintellekti kallutatuse peamine allikas
- Mõistab riske, mida eelarvamus võib töökohal tekitada
- Rakendab meetmeid, mida saab võtta eelarvamuste vähendamiseks
AI näib neutraalse objektiivse masinana; aga tõde on palju keerulisem. Tehisintellektisüsteemid õpivad inimeste eelarvamusi nendes andmetes, mille kohta neid koolitatakse, ning mõnikord suurendavad ja taastoodavad neid. Eelarvamus on süsteemi kalduvus teatud inimesi või rühmi süstemaatiliselt eelistada või välistada. Selles üksuses vaatleme, kust eelarvamused tulevad, milliseid konkreetseid riske see töökohal endaga kaasa toob ja mida selle vastu ette võtta. See ei ole ainult "eetika" küsimus; Tegemist on praktilise äritegevusega, millega kaasnevad õigus-, äri- ja maineriskid, kui seda valesti juhitakse.
Kust tulevad eelarvamused?
Keelemudeli teave pärineb tohututest tekstidest, mida inimesed toodavad. Need tekstid sisaldavad kõiki teadmisi inimühiskonnast, samuti kõiki selle stereotüüpe, tasakaalustamatust ja ajaloolist ebavõrdsust. Mudel ei tee vahet "headel" ja "halbadel" mustritel; See õpib ära kõik, mis andmetes on.
Näide: kui teatud elukutseid seostati varasemates tekstides valdavalt sooga (nt "õde" naisega, "insener" mehega), õpib mudel selle seose selgeks. Ta võib kalduda valima lause lõpetamisel meessoost asesõna: "Insener astus kontorisse, ta..." Modell pole pahatahtlik; see peegeldab lihtsalt andmete tasakaalustamatust.
Nii et kallutatus on enamasti tingitud sellest, et see on andmete peegel, mitte teadlik programmeerimisviga. Probleemi selgitamine sõnadega "keegi kirjutas halva koodi" on eksitav; Probleem on selles, et tasakaalutus maailmas kandub andmetesse ja sealt edasi mudelisse.
Käegakatsutavad riskid töökohal
ala
Eelarvamuste oht
võimalik kahju
värbamine
Uurige ajalooliste andmete suundumusi ja eemaldage teatud rühmad
Kohtuasi, töövõimekaotus
Kliendisuhtlus
Stereotüüpne või välistav keel
Maine kaotus, kliendi lend
krediit/risk
Mineviku ebavõrdsuse põlistamine
Diskrimineerimine, sanktsioonid
Tulemuslikkuse hindamine
Andmete erapoolikuse kaasamine otsuse tegemisel
Ebaõiglane edutamine/boonus
Sisu/turundus
Muutke konkreetne rühm nähtamatuks
Brändi kahjustused
Kolm miniümbrist
Juhtum 1 – reklaam kitsendab keelt. Ettevõte alustas tehisintellektiga töökuulutuste trükkimist. Mõne aja pärast märgati, et reklaamid pöördusid teatud profiili poole selliste väljenditega nagu "noor ja dünaamiline", "agressiivne sihtmärk" ja vähendasid seeläbi rakenduste mitmekesisust. Meeskond lisas sammu, mis kontrollib iga postituse „kaasavat keelt”; Taotlejate mitmekesisus on mõne kuuga oluliselt suurenenud.
Juhtum 2 – varjatud eelarvamus kokkuvõttes. Üks juht lasi tehisintellektil kokku võtta 30 töötaja tagasisidet. Kokkuvõte näis koondavat negatiivsed kommentaarid ühele konkreetsele meeskonnale; kusjuures algandmetes oli olukord tasakaalus. Mudel liialdas mitme tugeva väitega. Kui juht tagasi läks ja algandmeid kontrollis, vältis ta eksiarvamuse tegemist.
Juhtum 3 – kaasamise mandaat toimis. Üks turundusmeeskond standardis kampaania koopias oleva juhise "kasutage kaasavat, mittespetsiifilist soo/vanuse/rühma keelt ja loetlege oma eeldused lõpus". Vormelavaldised on toodetud tekstides märgatavalt vähenenud; meeskond ei pidanud iga väljundit ikka ja jälle käsitsi parandama.
Miks on eelarvamust raske ära tunda?
Eelarvamuste juures on kõige salakavalam see, et need on sageli nähtamatud. Väljund näeb välja sujuv, professionaalne ja mõistlik; Selle sees olev tendents ilmneb alles siis, kui hoolikalt vaadata või mõõta selle mõju erinevatele rühmadele. On eksitav öelda, et "siin pole erapoolikust", vaadates ühte näidet; Eelarvamus ei avaldu sageli mitte üksikutes näidetes, vaid süsteemi üldises tendentsis.
Ettevaatust: eeldus, et "olen neutraalne, järelikult on neutraalne ka minu kasutatav tööriist" on ohtlik. Tööriista neutraalsus sõltub treeninguandmetest ja selle kontrollimise viisist, mitte teie kavatsusest.
Nõrk viip / Tugev viip
Nõrk viip: kirjeldage ideaalset kandidaati sellele ametikohale.
Tulemus: mudel võib tugineda stereotüüpidele ja esitada teatud profiili "ideaalseks".
Tugev üleskutse: loetlege selle ametikoha jaoks ainult mõõdetavad pädevused, mis on töö jaoks tõeliselt olulised. Ärge kasutage mingeid tunnuseid, mis ei ole tööga seotud, nagu sugu, vanus, perekonnaseis, kodulinn. Lõpuks kirjutage pealkirja "eeldused, mida ma väldin" alla, mida sa välja jätsid.
Tulemus: Hindamine piirdub tööga seotud kriteeriumidega, ebaolulised tunnused on välja jäetud.
Mallid eelarvamuste vähendamiseks
Kontrollige allolevast tekstist kõikehõlmavat keelt. Märgistage avaldused, mis viitavad soole, vanusele, rahvusele, puudele või konkreetsele rühmale, ja soovitavad igaühe jaoks neutraalset alternatiivi. Tekst: [kleebi siia]
Tehke see hindamine ainult järgmiste objektiivsete kriteeriumide alusel: [kriteeriumid]. Ärge võtke arvesse muud teavet peale nende kriteeriumide (nimi, sugu, vanus).
Loetlege lõpus eraldi pealkirja all, millised eeldused olete koostatud tekstis teinud. Nii et ma näen varjatud eelarvamusi.
Hinnake seda sisu kolme erineva lugejarühma pilgu läbi ja märkige kõik väited, mis võivad mõnda neist solvata/solvada. Sisu: [kleebi siia]
Levinud vead
Levinud vead
- Eeldusel "neutraalne" AI väljund. Isegi kui väljund näib olevat neutraalne, võib see anda andmetes nihke; Vajalik on aktiivne järelevalve.
- Vaadates ühte näidet ja öeldes "ei ole erapoolikust". Süsteemi üldises tendentsis on peidus eelarvamus.
- Suure mõjuga otsuste tegemise jätmine järelevalveta tehisintellektile. Inimvõim on oluline selliste otsuste puhul nagu värbamine, edutamine ja krediteerimine.
- Unustades nõuda kaasatust. Kui te seda viipas selgesõnaliselt ei taotle, naaseb mudel vaikemustritele.
- See tähendab "Masin ütles seda." Isik, kes otsust kasutab, vastutab ka tagajärgede eest.
Õiglus on igaühe vastutus
Eelarvamustega võitlemine ei ole ainult tehnilise meeskonna töö. Iga töötaja, kes kasutab tehisintellekti väljundit, peab küsima, kas see väljund on õiglane. "Masin ütles mulle" ei ole vabandus; Otsuse tegija vastutab ka tagajärgede eest.
Kokkuvõttes
- AI eelarvamuste esmane allikas ei ole pahatahtlikkus, vaid koolitusandmetes esinev tasakaalustamatus ja stereotüübid.
- Eelarvamus; See loob reaalse juriidilise ja maineriski sellistes valdkondades nagu värbamine, kliendisuhtlus, rahandus ja hindamine.
- Eelarvamus on sageli nähtamatu ja sisaldub süsteemi üldises paigutuses; Üksiku näite vaatamine on eksitav.
- Vähendamiseks: olge teadlik, piirake otsuste tegemisel tööga seotud kriteeriume, taotlege selgesõnaliselt kaasatust, asetage suure mõjuga otsuste üle inimkontroll.
- "Masin ütles mulle" ei ole vabandus; Õigluse eest vastutavad kõik, kes väljundit kasutavad.
Rakendusülesanne
Öelge tehisintellektile "kirjeldage ideaalset [ükskõik millise ametiga] töötajat" ja märkige, millised (võib-olla mittevajalikud) eeldused väljundis tehti. Seejärel korrake ülaltoodud "tööga seotud kriteeriumide" malliga ja võrrelge õigluse huvides kahte väljundit.
Kontrollnimekiri
- [ ] Ma saan aru, et eelarvamuste esmane allikas on koolitusandmed.
- [ ] Oskan nimetada konkreetseid riske, mida erapoolik töökohal endaga kaasa tuua võib.
- [ ] Ma tean, et eelarvamus on sageli nähtamatu ja et üksiku näite vaatamine on eksitav.
- [ ] Oskan selgelt küsida kaasamis- ja töökohaga seotud kriteeriume.
- [ ] Nõuan inimlikku järelevalvet suure mõjuga otsuste üle.