Faida:
- Inaelewa kuwa data ndio chanzo kikuu cha upendeleo wa AI
- Inatambua hatari ambazo upendeleo unaweza kuunda mahali pa kazi
- Hutekeleza hatua zinazoweza kuchukuliwa ili kupunguza chuki
AI inaonekana kama mashine isiyo na upande, yenye lengo; lakini ukweli ni ngumu zaidi. Mifumo ya AI hujifunza upendeleo wa kibinadamu katika data waliyofunzwa na wakati mwingine kuzikuza na kuzizalisha tena. Upendeleo ni tabia ya mfumo wa kupendelea au kuwatenga watu au vikundi fulani. Katika kitengo hiki, tutazingatia mahali ambapo chuki inatoka, ni hatari gani madhubuti inazoleta mahali pa kazi, na nini kinaweza kufanywa dhidi yake. Hili si suala la "maadili" tu; Ni suala la biashara la vitendo ambalo hubeba hatari ya kisheria, kibiashara na sifa inaposimamiwa vibaya.
Ubaguzi Hutoka Wapi?
Habari ya modeli ya lugha inatokana na maandishi makubwa ambayo wanadamu hutoa. Maandiko haya yana maarifa yote ya jamii ya wanadamu, pamoja na maoni yake yote, usawa na ukosefu wa usawa wa kihistoria. Mfano hautofautishi kati ya mifumo "nzuri" na "mbaya"; Inajifunza chochote kilicho kwenye data.
Mfano: Ikiwa taaluma fulani zilihusishwa zaidi na jinsia katika maandishi ya awali (k.m. "nesi" na mwanamke, "mhandisi" na mwanamume), mwanamitindo hujifunza uhusiano huu. Anaweza kuwa na mwelekeo wa kuchagua kiwakilishi cha kiume wakati wa kukamilisha sentensi, "Mhandisi aliingia ofisini, yeye..." Mfano sio mbaya; inaonyesha tu usawa katika data.
Kwa hivyo upendeleo ni kwa sababu ya kuwa kioo cha data, sio kosa la programu ya fahamu. Kueleza tatizo kuwa "mtu aliandika kanuni mbaya" ni kupotosha; Shida ni kwamba usawa katika ulimwengu unabebwa ndani ya data na kutoka hapo hadi kwenye mfano.
Hatari Zinazoonekana Mahali pa Kazi
eneo
Hatari ya upendeleo
madhara iwezekanavyo
kuajiri
Jifunze mwenendo wa data ya kihistoria na uondoe vikundi fulani
Kesi ya kisheria, kupoteza uwezo
Mawasiliano ya wateja
Lugha potofu au isiyojumuisha
Kupoteza sifa, kukimbia kwa wateja
mikopo/hatari
Kuendeleza ukosefu wa usawa wa zamani
Ubaguzi, vikwazo
Tathmini ya utendaji
Kubeba upendeleo katika data katika uamuzi
Utangazaji usio wa haki/ bonasi
Maudhui/masoko
Fanya kikundi maalum kisionekane
Uharibifu wa chapa
Kesi Tatu Ndogo
Kesi ya 1 - Tangazo lilikuwa likipunguza lugha. Kampuni ilianza kuchapisha machapisho ya kazi na AI. Baada ya muda, iligunduliwa kuwa matangazo yalivutia wasifu fulani na maneno kama "mchanga na mwenye nguvu", "lengo la fujo" na hivyo kupunguza utofauti wa programu. Timu iliongeza hatua ambayo hukagua kila chapisho kwa "lugha mjumuisho"; Tofauti ya waombaji imeongezeka kwa kiasi kikubwa ndani ya miezi michache.
Kesi ya 2 - Upendeleo uliofichwa katika muhtasari. Meneja mmoja alikuwa na AI muhtasari wa maoni ya wafanyikazi 30. Muhtasari huo ulionekana kuzingatia maoni hasi kwa timu fulani; ambapo katika data ghafi hali ilikuwa sawia. Mfano huo ulizidisha kauli kadhaa kali. Meneja aliporudi na kuangalia data mbichi, aliepuka kufanya dhana potofu.
Kesi ya 3 - Mamlaka ya ujumuishi yalifanya kazi. Timu moja ya masoko ilisanifisha maagizo katika nakala ya kampeni ya "kutumia lugha jumuishi, isiyo maalum ya jinsia/umri/kikundi na kuorodhesha mawazo yako mwishoni." Semi za kimfumo katika matini zinazotolewa zimepungua kwa kiasi kikubwa; timu haikulazimika kusahihisha kila pato kwa mikono tena na tena.
Kwa Nini Upendeleo Ni Ngumu Kutambua?
Jambo la siri zaidi kuhusu ubaguzi ni kwamba mara nyingi hauonekani. Pato inaonekana laini, kitaaluma na busara; Mwelekeo ndani yake unadhihirika pale tu mtu anapotazama kwa makini au kupima athari zake kwa makundi mbalimbali. Ni upotoshaji kusema "hakuna upendeleo hapa" kwa kuangalia mfano mmoja; Upendeleo mara nyingi hujidhihirisha sio kwa mifano ya mtu binafsi lakini katika mwelekeo wa jumla wa mfumo.
Tahadhari: Dhana ya kwamba "Sina upande wowote, kwa hivyo zana ninayotumia pia haina upande" ni hatari. Kutoegemea upande wowote kwa zana kunategemea data ya mafunzo na jinsi inavyokaguliwa, si kwa nia yako.
Uhamasishaji dhaifu / Uhamasishaji Wenye Nguvu
Kidokezo dhaifu: Eleza mgombea anayefaa kwa nafasi hii.
Matokeo: Muundo unaweza kutegemea mila potofu na kuwasilisha wasifu fulani kama "bora".
Kidokezo chenye nguvu: Orodhesha uwezo unaopimika pekee wa nafasi hii ambao ni muhimu sana kwa kazi. Usitumie sifa zozote ambazo hazihusiani na kazi, kama vile jinsia, umri, hali ya ndoa, mji wa nyumbani. Hatimaye, andika ulichoacha chini ya kichwa "mawazo ninayoepuka."
Matokeo: Tathmini imezuiwa kwa vigezo vinavyohusiana na kazi, vipengele visivyofaa vimetengwa.
Violezo vya Kupunguza Upendeleo
Angalia maandishi hapa chini kwa lugha-jumuishi. Ripoti taarifa zinazoashiria jinsia, umri, kabila, ulemavu au kikundi mahususi na kupendekeza njia mbadala isiyoegemea upande wowote kwa kila moja. Maandishi: [bandika hapa]
Fanya tathmini hii kulingana na vigezo hivi vya lengo pekee: [vigezo]. Usizingatie habari yoyote isipokuwa vigezo hivi (jina, jinsia, umri).
Orodhesha chini ya kichwa tofauti mwishoni ni mawazo gani uliyofanya katika maandishi uliyotoa. Kwa hivyo naweza kuona upendeleo uliofichwa.
Tathmini maudhui haya kupitia macho ya makundi matatu tofauti ya wasomaji na uweke alama kwenye taarifa zozote zinazoweza kumuudhi/kumuudhi yeyote kati yao. Maudhui: [bandika hapa]
Makosa ya Kawaida
Makosa ya kawaida
- Kwa kudhani pato la "upande wowote" la AI. Ingawa matokeo yanaonekana kuwa ya upande wowote, yanaweza kubeba upendeleo katika data; Uangalizi unaoendelea unahitajika.
- Ukiangalia mfano mmoja na kusema "hakuna upendeleo". Ubaguzi umefichwa katika mwelekeo wa jumla wa mfumo.
- Kuacha kufanya maamuzi yenye athari kubwa kwa AI isiyosimamiwa. Mamlaka ya binadamu ni muhimu katika maamuzi kama vile kuajiri, kupandishwa cheo na mikopo.
- Kusahau kudai ujumuishi. Usipoiomba kwa uwazi katika dodoso, kielelezo kitarejesha kwenye ruwaza chaguomsingi.
- Ina maana "Mashine ilisema." Mtu anayetumia uamuzi pia anawajibika kwa matokeo.
Haki ni Wajibu wa kila mtu
Kupambana na ubaguzi sio tu kazi ya timu ya ufundi. Kila mfanyakazi anayetumia pato la AI ana jukumu la kuhoji ikiwa pato hilo ni sawa. "Mashine iliniambia" sio kisingizio; Mtu anayefanya uamuzi pia anawajibika kwa matokeo.
Kwa muhtasari
- Chanzo kikuu cha upendeleo wa AI sio unyanyasaji, lakini usawa uliopo na mila potofu katika data ya mafunzo.
- Ubaguzi; Inaleta hatari halisi ya kisheria na sifa katika maeneo kama vile kuajiri, mawasiliano ya wateja, fedha na tathmini.
- Upendeleo mara nyingi hauonekani na kuingizwa katika mtazamo wa jumla wa mfumo; Kuangalia mfano mmoja ni kupotosha.
- Ili kupunguza: fahamu, punguza uamuzi kwa vigezo vinavyohusiana na kazi, uliza kwa uwazi ushirikishwaji, weka udhibiti wa kibinadamu kwenye maamuzi yenye athari kubwa.
- "Mashine iliniambia" sio kisingizio; Haki ni jukumu la kila mtu anayetumia pato.
Kazi ya Maombi
Iambie AI "eleza mfanyakazi bora [kazi yoyote]" na uweke alama yale (labda yasiyo ya lazima) mawazo yalifanywa katika matokeo. Kisha rudia na kiolezo cha "vigezo vinavyohusiana na kazi" hapo juu na ulinganishe matokeo hayo mawili kwa usawa.
Orodha ya ukaguzi
- [ ] Ninaelewa kuwa chanzo kikuu cha upendeleo ni data ya mafunzo.
- [ ] Ninaweza kutaja hatari kubwa ambazo upendeleo mahali pa kazi unaweza kusababisha.
- [ ] Ninajua kwamba upendeleo mara nyingi hauonekani na kwamba kuangalia mfano mmoja ni kupotosha.
- [ ] Ninaweza kuuliza kwa uwazi ujumuishaji na vigezo vinavyohusiana na kazi katika dodoso.
- [ ] Ninahitaji uangalizi wa kibinadamu wa maamuzi yenye athari kubwa.