Dobici:
- Razumije da su podaci primarni izvor pristranosti umjetne inteligencije
- Prepoznaje rizike koje pristranost može stvoriti na radnom mjestu
- Provodi mjere koje se mogu poduzeti za smanjenje predrasuda
AI se pojavljuje kao neutralan, objektivan stroj; no istina je mnogo složenija. Sustavi umjetne inteligencije uče ljudske pristranosti u podacima na kojima se obučavaju i ponekad ih povećavaju i reproduciraju. Predrasude su tendencija sustava da sustavno favorizira ili isključuje određene ljude ili skupine. U ovoj cjelini razmotrit ćemo odakle dolaze predrasude, koje konkretne rizike predstavljaju na radnom mjestu i što se protiv njih može učiniti. Ovo nije samo pitanje "etike"; To je praktično poslovno pitanje koje nosi pravni, komercijalni i reputacijski rizik kada se njime loše upravlja.
Odakle dolaze predrasude?
Informacije o jezičnom modelu dolaze iz ogromnih tekstova koje ljudi proizvode. Ovi tekstovi sadrže sva znanja o ljudskom društvu, kao i sve njegove stereotipe, neravnoteže i povijesne nejednakosti. Model ne razlikuje "dobre" i "loše" obrasce; Uči sve što je u podacima.
Primjer: ako su određene profesije bile pretežno povezane sa spolom u prošlim tekstovima (npr. "medicinska sestra" sa ženskom, "inženjer" s muškim), model uči tu povezanost. Možda je sklona odabrati mušku zamjenicu kada dovršava rečenicu: "Inženjer je ušao u ured, on..." Model nije zlonamjeran; to samo odražava neravnotežu u podacima.
Dakle, pristranost je uglavnom zbog toga što je zrcalo podataka, a ne svjesna programska pogreška. Objašnjavanje problema kao "netko je napisao loš kod" je pogrešno; Problem je što se neravnoteža u svijetu prenosi u podatke, a odatle u model.
Opipljivi rizici na radnom mjestu
područje
Rizik od pristranosti
moguće štete
novačenje
Saznajte trend u povijesnim podacima i eliminirajte određene grupe
Pravni slučaj, gubitak sposobnosti
Komunikacija s kupcima
Stereotipni ili isključivi jezik
Gubitak ugleda, bijeg kupaca
kredit/rizik
Ovjekovječenje prošlih nejednakosti
Diskriminacija, sankcije
Evaluacija učinka
Prenošenje pristranosti podataka u odluku
Nepoštena promocija/bonus
Sadržaj/marketing
Učini određenu grupu nevidljivom
Šteta marke
Tri mini kućišta
Slučaj 1 — Oglas je sužavao jezik. Tvrtka je počela ispisivati oglase za posao s umjetnom inteligencijom. Nakon nekog vremena primijećeno je da su reklame apelirale na određeni profil izrazima kao što su "mlad i dinamičan", "agresivna meta" i time smanjile raznolikost prijava. Tim je dodao korak koji provjerava svaku objavu za "inkluzivan jezik"; Raznolikost podnositelja zahtjeva značajno se povećala u roku od nekoliko mjeseci.
Slučaj 2 — Skrivena pristranost u sažetku. Jedan menadžer je dao AI da sažme povratne informacije 30 zaposlenika. Rekapitulacija kao da je koncentrirala negativne komentare na jednu određenu momčad; dok je u neobrađenim podacima situacija bila uravnotežena. Manekenka je pretjerala u nekoliko jakih izjava. Kad se upravitelj vratio i provjerio neobrađene podatke, izbjegao je pogrešno mišljenje.
Slučaj 3 — Mandat inkluzivnosti je uspio. Jedan marketinški tim standardizirao je upute u tekstu kampanje kako bi "koristio inkluzivan, nespecifičan jezik za spol/dob/skupinu i naveo svoje pretpostavke na kraju." Zamjetno su smanjeni formulaični izrazi u proizvedenim tekstovima; tim nije morao ručno ispravljati svaki izlaz uvijek iznova.
Zašto je pristranost teško prepoznati?
Najpodmuklija stvar kod predrasuda je to što su često nevidljive. Ispis izgleda glatko, profesionalno i razumno; Tendencija unutar njega postaje očita tek kada se pažljivo pogleda ili izmjeri njegov utjecaj na različite skupine. Pogrešno je reći "ovdje nema pristranosti" gledajući jedan jedini primjer; Pristranost se često ne očituje u pojedinačnim primjerima, već u općoj tendenciji sustava.
Oprez: Pretpostavka da sam "neutralan, stoga je i alat koji koristim također neutralan" je opasna. Neutralnost alata ovisi o podacima o obuci i načinu na koji su pregledani, a ne o vašoj namjeri.
Slab upit / Jak upit
Slab upit: Opišite idealnog kandidata za ovu poziciju.
Rezultat: Model se može oslanjati na stereotipe i predstaviti određeni profil kao "idealan".
Snažan poticaj: Navedite samo mjerljive kompetencije za ovu poziciju koje su doista relevantne za posao. Nemojte koristiti nikakve karakteristike koje nisu povezane s poslom, poput spola, dobi, bračnog statusa, rodnog grada. Na kraju napišite što ste izostavili pod naslovom "pretpostavke koje izbjegavam".
Rezultat: Evaluacija je ograničena na kriterije vezane uz posao, nebitne karakteristike su isključene.
Predlošci za smanjenje pristranosti
Provjerite tekst u nastavku za uključiv jezik. Označite izjave koje impliciraju spol, dob, etničku pripadnost, invaliditet ili određenu skupinu i predlažu neutralnu alternativu za svaku. Tekst: [zalijepite ovdje]
Napravite ovu procjenu samo na temelju ovih objektivnih kriterija: [kriteriji]. Ne uzimajte u obzir nikakve podatke osim ovih kriterija (ime, spol, dob).
Pod zasebnim naslovom na kraju navedite koje ste pretpostavke iznijeli u tekstu koji ste napisali. Tako da mogu vidjeti skrivene predrasude.
Ocijenite ovaj sadržaj kroz oči tri različite skupine čitatelja i označite sve izjave koje bi mogle uvrijediti/uvrijediti bilo koju od njih. Sadržaj: [zalijepite ovdje]
Uobičajene greške
Uobičajene greške
- Pretpostavljajući "neutralan" AI izlaz. Iako se izlaz čini neutralnim, može sadržavati pristranost u podacima; Potreban je aktivni nadzor.
- Gledajući jedan primjer i govoreći "nema pristranosti". Predrasude su skrivene u općoj tendenciji sustava.
- Prepuštajući donošenje odluka s velikim utjecajem nenadziranoj umjetnoj inteligenciji. Ljudski autoritet je bitan u odlukama kao što su zapošljavanje, napredovanje i krediti.
- Zaboravljajući zahtijevati inkluzivnost. Ako to izričito ne zatražite u upitu, model se vraća na zadane uzorke.
- To znači "Mašina je to rekla." Osoba koja koristi rješenje također je odgovorna za posljedice.
Pravda je svačija odgovornost
Borba protiv predrasuda nije samo posao tehničkog tima. Svaki zaposlenik koji koristi rezultate umjetne inteligencije ima odgovornost ispitati je li taj rezultat pošten. “Mašina mi je rekla” nije isprika; Osoba koja donosi odluku također je odgovorna za posljedice.
Ukratko
- Primarni izvor pristranosti umjetne inteligencije nije zlonamjernost, već postojeće neravnoteže i stereotipi u podacima o obuci.
- Predrasuda; Stvara pravi pravni i reputacijski rizik u područjima kao što su zapošljavanje, komunikacija s klijentima, financije i procjena.
- Pristranost je često nevidljiva i ugrađena u cjelokupnu dispoziciju sustava; Gledanje jednog jedinog primjera dovodi u zabludu.
- Za smanjenje: budite svjesni, ograničite odluku na kriterije vezane uz posao, izričito tražite inkluzivnost, stavite ljudsku kontrolu na odluke s velikim utjecajem.
- “Mašina mi je rekla” nije isprika; Pravednost je odgovornost svakoga tko koristi izlaz.
Zadatak primjene
Recite umjetnoj inteligenciji "opišite idealnog [bilo kojeg zanimanja] radnika" i označite koje su (možda nepotrebne) pretpostavke napravljene u rezultatu. Zatim ponovite s gornjim predloškom "kriteriji koji se odnose na posao" i usporedite dva rezultata radi pravednosti.
Kontrolni popis
- [ ] Razumijem da su primarni izvor pristranosti podaci o obuci.
- [ ] Mogu navesti konkretne rizike koje može predstavljati pristranost na radnom mjestu.
- [ ] Znam da je pristranost često nevidljiva i da je gledanje jednog primjera pogrešno.
- [ ] Jasno mogu tražiti inkluzivnost i kriterije vezane uz posao u upitu.
- [ ] Potreban mi je ljudski nadzor nad odlukama s velikim utjecajem.