Son zuciya da Adalci

Riba:

• Fahimtar cewa bayanai shine tushen farko na son zuciya na AI
• Ya gane haɗarin da son zuciya zai iya haifarwa a wurin aiki
• Aiwatar da matakan da za a iya ɗauka don rage son zuciya

AI yana bayyana azaman tsaka tsaki, na'ura mai ma'ana; amma gaskiyar ta fi rikitarwa. Tsarin AI suna koyon son zuciya a cikin bayanan da aka horar da su kuma a wasu lokuta suna girma da sake sake su. Son zuciya dabi'a ce ta tsari don ba da fifiko ga tsari ko keɓe wasu mutane ko ƙungiyoyi. A cikin wannan rukunin, za mu yi la’akari da inda son rai ya fito, menene ainihin haɗarin da ke tattare da shi a wurin aiki, da abin da za a iya yi a kansa. Wannan ba kawai batun "da'a" ba ne; Al'amari ne na kasuwanci mai amfani wanda ke ɗauke da haƙƙin doka, kasuwanci da kuma mutunci idan ba a sarrafa shi ba.

A ina Ne Son Zuciya Ta Fito?

Bayanan samfurin harshe ya fito ne daga manyan rubutun da mutane ke samarwa. Waɗannan nassosi sun ƙunshi dukkan ilimin al'ummar ɗan adam, da kuma dukkan ra'ayoyinta, rashin daidaituwa da rashin daidaito na tarihi. Samfurin ba ya bambanta tsakanin tsarin "mai kyau" da "mara kyau"; Yana koyon duk abin da ke cikin bayanan.

Misali: Idan wasu sana'o'i galibi suna da alaƙa da jinsi a cikin rubutun da suka gabata (misali "ma'aikacin jinya" tare da mace, "injiniya" tare da namiji), ƙirar ta koyi wannan ƙungiyar. Tana iya zabar sunan namiji a lokacin da ta kammala jimla, “Injiniya ya shiga ofis, shi...” Samfurin ba mai mugunta ba ne; kawai yana nuna rashin daidaituwa a cikin bayanan.

Don haka son zuciya galibi saboda kasancewarsa madubin bayanai ne, ba kuskuren shirye-shiryen da aka sani ba. Bayyana matsalar kamar yadda "wani ya rubuta bad code" yaudara ne; Matsalar ita ce rashin daidaituwa a cikin duniya ana ɗaukar shi a cikin bayanai kuma daga can zuwa samfurin.

Hatsari na Hatsari a Wurin Aiki

yanki

Hadarin son zuciya

mai yiwuwa cutarwa

daukar ma'aikata

Koyi yanayin a cikin bayanan tarihi kuma ka kawar da wasu ƙungiyoyi

Shari'ar shari'a, asarar iyawa

Sadarwar abokin ciniki

Harshen stereotypical ko keɓancewa

Asarar suna, jirgin abokin ciniki

bashi/hadari

Ci gaba da rashin daidaito a baya

Wariya, takunkumi

Ƙimar aiki

Dauke son zuciya a cikin bayanai cikin yanke shawara

Haɓaka mara adalci / kari

Abun ciki / tallace-tallace

Sanya takamaiman rukuni mara ganuwa

Lalacewar alama

Mini Cases guda uku

Hali na 1 - Tallan yana rage harshe. Wani kamfani ya fara buga ayyukan aiki tare da AI. Bayan ɗan lokaci, an lura cewa tallace-tallacen sun yi sha'awar wani bayanin martaba tare da maganganu kamar "matasa da ƙarfi", "maƙasudin zalunci" don haka ya rage bambancin aikace-aikacen. Ƙungiyar ta ƙara matakin da ke bincika kowane rubutu don "harshen haɗaka"; Bambance-bambancen masu neman ya karu sosai a cikin 'yan watanni.

Harka 2 - Boyewar son zuciya a cikin taƙaice. Manajan ɗaya yana da AI ta taƙaita ra'ayoyin ma'aikata 30. Maimaitawa ya yi kama da mayar da martani mara kyau akan wata ƙungiya ta musamman; alhali a cikin danyen bayanan lamarin ya daidaita. Samfurin ya wuce gona da iri masu karfi kalamai. Lokacin da manajan ya koma ya duba danyen bayanan, ya guji yin kuskure.

Case na 3 - Umurnin haɗawa ya yi aiki. Wata ƙungiyar tallace-tallace ta daidaita umarnin a cikin kwafin yaƙin neman zaɓe don "amfani da haɗaɗɗiyar, harshe na jinsi/shekaru/ ƙungiya da kuma jera abubuwan da kuke zato a ƙarshe." Kalmomin tsari a cikin rubutun da aka samar sun ragu sosai; ƙungiyar ba lallai ne ta gyara kowane fitarwa da hannu akai-akai ba.

Me yasa son zuciya ke da wuya a gane?

Abu mafi ban tsoro game da son zuciya shi ne cewa sau da yawa ba a ganuwa. Abubuwan da aka fitar ya dubi santsi, ƙwararru da ma'ana; Halin da ke cikinsa yana bayyana ne kawai idan mutum ya duba a hankali ko auna tasirinsa a kan kungiyoyi daban-daban. Yana da bata a ce “babu son zuciya a nan” ta hanyar kallon misali guda; Bias sau da yawa yana bayyana kansa ba a cikin misalan mutum ɗaya ba amma a cikin tsarin tsarin gaba ɗaya.

Tsanaki: Zaton cewa "Ni tsaka tsaki ne, don haka kayan aikin da nake amfani da shi shima tsaka tsaki ne" yana da haɗari. Rashin tsaka tsaki na kayan aiki ya dogara da bayanan horo da kuma yadda ake bincikar shi, ba akan niyyar ku ba.

Rauni Mai Sauƙi / Ƙarfi Mai ƙarfi

Rauni mai ƙarfi: Bayyana ainihin ɗan takarar wannan matsayi.

Sakamako: Samfurin na iya dogara da ra'ayi kuma ya gabatar da takamaiman bayanin martaba a matsayin "madaidaici".

Ƙarfi mai ƙarfi: Yi lissafin iyawar da za a iya aunawa kawai don wannan matsayi wanda ya dace da aikin. Kada ku yi amfani da wasu halaye waɗanda basu da alaƙa da aikin, kamar jinsi, shekaru, matsayin aure, garin mahaifa. A ƙarshe, rubuta abin da kuka bari a ƙarƙashin taken "zato na guje wa."

Sakamako: Ƙimar ƙima ta iyakance ga ƙa'idodin da ke da alaƙa da aiki, an cire abubuwan da ba su da mahimmanci.

Samfura don Rage Bias

Duba rubutun da ke ƙasa don yaren haɗaka. Tuta bayanan da ke nuna jinsi, shekaru, ƙabila, nakasa, ko wata ƙungiya ta musamman kuma suna ba da shawarar madadin tsaka-tsaki ga kowane.Text: [manna a nan]

Yi wannan kimantawa kawai bisa waɗannan ma'auni na haƙiƙa: [ma'auni]. Kar a yi la'akari da kowane bayani ban da waɗannan sharuɗɗan (suna, jinsi, shekaru).

Jera a ƙarƙashin wani keɓaɓɓen jigo a ƙarshen wane zato da kuka yi a cikin rubutun da kuka yi. Don haka ina iya ganin ɓoyayyiyar son zuciya.

Ƙimar wannan abun ciki ta idon ƙungiyoyin masu karatu daban-daban guda uku kuma yi alama ga duk wata magana da za ta iya bata wa kowane ɗayansu rai. Abun ciki: [manna nan]

Kuskuren gama gari

Kuskuren gama gari

• Tsammanin fitowar AI "tsaka-tsaki". Ko da yake fitowar ta bayyana tsaka tsaki, tana iya ɗaukar son zuciya a cikin bayanan; Ana buƙatar kulawa mai aiki.
• Kallon misali daya yana cewa "babu son zuciya". Ana ɓoye son zuciya a cikin tsarin gaba ɗaya.
• Barin yanke shawara mai tasiri ga AI mara kulawa. Ikon ɗan adam yana da mahimmanci a cikin yanke shawara kamar ɗaukar aiki, haɓakawa, da ƙima.
• Mantawa da buƙatar haɗa kai. Idan ba ku buƙace shi a fili a cikin faɗakarwa, ƙirar zata koma ga tsoffin alamu.
• Yana nufin "Mashin ya ce." Mutumin da ya yi amfani da shawarar shi ma yana da alhakin sakamakon.

Adalci alhakin kowa ne

Yaki da son zuciya ba kawai aikin ƙungiyar fasaha ba ne. Kowane ma'aikacin da ke amfani da fitowar AI yana da alhakin tambayar ko wannan fitowar ta yi adalci. "Mashin ya gaya mani" ba uzuri ba ne; Shi ma wanda ya yanke shawara shi ne ke da alhakin sakamakon.

A taqaice

• Tushen farko na son zuciya na AI ba mugunta ba ne, amma rashin daidaituwa da rashin daidaituwa a cikin bayanan horo.
• Son zuciya; Yana haifar da haƙiƙanin doka da haɗari a cikin yankuna kamar ɗaukar ma'aikata, sadarwar abokin ciniki, kuɗi da ƙima.
• Bias sau da yawa ba a ganuwa kuma an saka shi cikin tsarin tsarin gaba ɗaya; Duban misali guda yana da ruɗi.
• Don ragewa: sani, iyakance yanke shawara zuwa sharuɗɗan da suka danganci aiki, a bayyane a nemi haɗin kai, sanya ikon ɗan adam akan yanke shawara mai tasiri.
• "Mashin ya gaya mani" ba uzuri ba ne; Adalci alhaki ne na duk wanda ya yi amfani da abin da aka fitar.

Aiki Aiki

Faɗa wa AI "bayyana kyakkyawar ma'aikaci [kowane sana'a]" kuma yi alama abin (watakila ba dole ba) zato da aka yi a cikin fitarwa. Sa'an nan kuma maimaita tare da samfurin "ma'auni masu alaka da aiki" a sama kuma kwatanta abubuwan guda biyu don daidaito.

Jerin abubuwan dubawa

• [ ] Na fahimci cewa tushen tushen son zuciya shine bayanan horo.
• [ ] Zan iya faɗi ƙaƙƙarfan haɗarin da son zuciya a wurin aiki zai iya haifarwa.
• [ ] Na san cewa son zuciya sau da yawa ba a ganuwa kuma kallon misali guda yana yaudara.
• [ ] Zan iya a fili neman haɗawa da sharuɗɗan da suka danganci aiki a cikin hanzari.
• [ ] Ina buƙatar kulawar ɗan adam game da yanke shawara mai tasiri.