Dobički:
- Razume, da so podatki glavni vir pristranskosti umetne inteligence
- Prepoznava tveganja, ki jih lahko povzroči pristranskost na delovnem mestu
- Izvaja ukrepe, ki jih je mogoče sprejeti za zmanjšanje predsodkov
AI se zdi kot nevtralen, objektiven stroj; ampak resnica je veliko bolj zapletena. Sistemi umetne inteligence se naučijo človeških pristranskosti v podatkih, na katerih se usposabljajo, in jih včasih povečajo in reproducirajo. Predsodki so težnja sistema, da sistematično daje prednost ali izključuje določene ljudi ali skupine. V tej enoti bomo razmišljali, od kod izvirajo predsodki, kakšna konkretna tveganja predstavljajo na delovnem mestu in kaj lahko storimo proti njim. To ni samo vprašanje "etike"; To je praktična poslovna zadeva, ki ob napačnem upravljanju nosi pravno, komercialno tveganje in tveganje za ugled.
Od kod prihajajo predsodki?
Informacije o jezikovnem modelu izvirajo iz ogromnih besedil, ki jih ustvarjajo ljudje. Ta besedila vsebujejo vse znanje o človeški družbi, pa tudi vse njene stereotipe, neravnovesja in zgodovinske neenakosti. Model ne razlikuje med "dobrimi" in "slabimi" vzorci; Nauči vse, kar je v podatkih.
Primer: Če so bili določeni poklici v preteklih besedilih pretežno povezani s spolom (npr. »medicinska sestra« z žensko, »inženir« z moškim), se model nauči te povezave. Morda se nagiba k izbiri moškega zaimka, ko dokonča stavek: "Inženir je vstopil v pisarno, on ..." Model ni zlonameren; le odraža neravnovesje v podatkih.
Torej je pristranskost večinoma posledica tega, da so zrcalo podatkov, ne pa zavestna programska napaka. Razlaga težave kot "nekdo je napisal slabo kodo" je zavajajoča; Težava je v tem, da se neravnovesje v svetu prenaša v podatke in od tam v model.
Oprijemljiva tveganja na delovnem mestu
območje
Tveganje pristranskosti
morebitno škodo
zaposlovanje
Spoznajte trend v zgodovinskih podatkih in odstranite določene skupine
Pravni primer, izguba sposobnosti
Komunikacija s strankami
Stereotipen ali izključujoč jezik
Izguba ugleda, beg strank
kredit/tveganje
Ohranjanje preteklih neenakosti
Diskriminacija, sankcije
Ocena uspešnosti
Prenos pristranskosti podatkov v odločitev
Nepoštena promocija/bonus
Vsebina/trženje
Naredi določeno skupino nevidno
Škoda znamke
Trije mini kovčki
1. primer – Oglas je zožil jezik. Podjetje je začelo tiskati oglase za delovna mesta z AI. Čez nekaj časa je bilo opaziti, da oglasi nagovarjajo določen profil z izrazi, kot so »mlad in dinamičen«, »agresivna tarča«, in tako zmanjšujejo raznolikost prijav. Ekipa je dodala korak, ki preverja vsako objavo glede »vključujočega jezika«; Raznolikost prosilcev se je v nekaj mesecih močno povečala.
2. primer – Skrita pristranskost v povzetku. En vodja je dal AI povzeti povratne informacije 30 zaposlenih. Zdelo se je, da je povzetek osredotočil negativne komentarje na eno posebno ekipo; medtem ko je bilo stanje v neobdelanih podatkih uravnoteženo. Manekenka je pretiravala z več močnimi izjavami. Ko se je upravitelj vrnil in preveril neobdelane podatke, se je izognil napačnemu prepričanju.
Primer 3 – Pooblastilo za vključevanje je delovalo. Ena skupina za trženje je standardizirala navodila v besedilu oglaševalske akcije, da "uporablja vključujoč, nespecifičen jezik glede spola/starosti/skupine in na koncu navede svoje predpostavke." Formulizem v produkcijskih besedilih se je opazno zmanjšal; ekipi ni bilo treba znova in znova ročno popravljati vsakega rezultata.
Zakaj je pristranskost težko prepoznati?
Najbolj zahrbtna stvar pri predsodkih je, da so pogosto nevidni. Rezultat je gladek, profesionalen in razumen; Težnja v njem postane očitna šele, ko natančno pogledamo ali izmerimo njegov vpliv na različne skupine. Zavajajoče je reči, da "tu ni pristranskosti", če pogledamo en sam primer; Pristranskost se pogosto ne kaže v posameznih primerih, ampak v splošni tendenci sistema.
Pozor: Predpostavka, da "sem nevtralen, zato je nevtralno tudi orodje, ki ga uporabljam", je nevarna. Nevtralnost orodja je odvisna od podatkov o usposabljanju in načina pregleda, ne pa od vašega namena.
Šibek poziv / močan poziv
Šibek poziv: Opišite idealnega kandidata za ta položaj.
Rezultat: Model se lahko zanaša na stereotipe in predstavi določen profil kot "idealen".
Močan poziv: Navedite samo merljive kompetence za to delovno mesto, ki so resnično pomembne za delovno mesto. Ne uporabljajte nobenih lastnosti, ki niso povezane s službo, kot so spol, starost, zakonski stan, domači kraj. Na koncu napišite, kaj ste izpustili pod naslovom "predpostavke, ki se jim izogibam."
Rezultat: Ocenjevanje je omejeno na kriterije, povezane z delom, nepomembne lastnosti so izključene.
Predloge za zmanjšanje pristranskosti
Preverite spodnje besedilo za vključujoč jezik. Označite izjave, ki nakazujejo spol, starost, etnično pripadnost, invalidnost ali določeno skupino, in za vsako predlagajo nevtralno alternativo. Besedilo: [prilepite sem]
Naredite to oceno samo na podlagi teh objektivnih meril: [merila]. Ne upoštevajte nobenih drugih podatkov razen teh meril (ime, spol, starost).
Pod ločenim naslovom na koncu navedite, katere predpostavke ste podali v besedilu, ki ste ga napisali. Tako lahko vidim skrite pristranskosti.
Ocenite to vsebino skozi oči treh različnih skupin bralcev in označite trditve, ki bi lahko koga od njih žalile/žalile. Vsebina: [prilepite sem]
Pogoste napake
Pogoste napake
- Ob predpostavki "nevtralnega" izhoda AI. Čeprav je rezultat videti nevtralen, lahko vsebuje pristranskost v podatkih; Potreben je aktivni nadzor.
- Če pogledamo en primer in rečemo, da "ni pristranskosti". Predsodki so skriti v splošni tendenci sistema.
- Prepuščanje odločanja z velikim vplivom nenadzorovani AI. Človeška avtoriteta je bistvena pri odločitvah, kot so zaposlovanje, napredovanje in krediti.
- Pozabljamo zahtevati inkluzivnost. Če tega izrecno ne zahtevate v pozivu, se model povrne na privzete vzorce.
- Pomeni "stroj je rekel." Za posledice je odgovoren tudi tisti, ki odločbo uporabi.
Pravičnost je odgovornost vseh
Boj proti predsodkom ni le naloga tehnične ekipe. Vsak zaposleni, ki uporablja umetno inteligenco, se mora vprašati, ali je ta rezultat pošten. "Stroj mi je rekel" ni izgovor; Tisti, ki se odloči, je tudi odgovoren za posledice.
Če povzamem
- Primarni vir pristranskosti umetne inteligence ni zlobnost, temveč obstoječa neravnovesja in stereotipi v podatkih o usposabljanju.
- predsodki; Ustvarja resnično pravno tveganje in tveganje za ugled na področjih, kot so zaposlovanje, komunikacija s strankami, finance in ocenjevanje.
- Pristranskost je pogosto nevidna in vgrajena v celotno razporeditev sistema; Pogled na en sam primer je zavajajoč.
- Za zmanjšanje: bodite pozorni, omejite odločitve na merila, povezana z delom, izrecno zahtevajte vključenost, dajte človeški nadzor odločitvam z velikim vplivom.
- "Stroj mi je rekel" ni izgovor; Pravičnost je odgovornost vseh, ki uporabljajo izhod.
Naloga aplikacije
Povejte AI »opišite idealnega [katerega koli poklica] delavca« in označite, katere (morda nepotrebne) predpostavke so bile podane v rezultatu. Nato ponovite z zgornjo predlogo »merila, povezana z delom« in primerjajte oba rezultata glede pravičnosti.
Kontrolni seznam
- [ ] Razumem, da so primarni vir pristranskosti podatki o usposabljanju.
- [ ] Lahko navedem konkretna tveganja, ki jih lahko povzroči pristranskost na delovnem mestu.
- [ ] Vem, da je pristranskost pogosto nevidna in da je ogled enega samega primera zavajajoč.
- [ ] V pozivu lahko jasno zahtevam vključenost in merila, povezana z delom.
- [ ] Potrebujem človeški nadzor nad odločitvami z velikim vplivom.