Daromadlar:
- Ma'lumotlar AI tarafkashligining asosiy manbai ekanligini tushunadi
- Ish joyida tarafkashlik yuzaga kelishi mumkin bo'lgan xavflarni tan oladi
- Noto'g'ri qarashlarni kamaytirish uchun qabul qilinishi mumkin bo'lgan chora-tadbirlarni amalga oshiradi
AI neytral, ob'ektiv mashina sifatida namoyon bo'ladi; lekin haqiqat ancha murakkab. AI tizimlari o'qitilgan ma'lumotlarda insonning noto'g'riligini o'rganadi va ba'zan ularni kattalashtiradi va ko'paytiradi. Xurofot - bu tizimning ma'lum odamlar yoki guruhlarni muntazam ravishda qo'llab-quvvatlash yoki istisno qilish tendentsiyasi. Ushbu bo'limda biz noto'g'ri fikrning qayerdan kelib chiqishi, ish joyida qanday aniq xavf tug'dirishi va unga qarshi nima qilish mumkinligini ko'rib chiqamiz. Bu shunchaki “axloq” masalasi emas; Bu noto'g'ri boshqarilsa, yuridik, tijorat va obro'ga xavf tug'diradigan amaliy biznes masalasidir.
Xurofot qayerdan keladi?
Til modeli haqidagi ma'lumotlar odamlar tomonidan ishlab chiqarilgan ulkan matnlardan kelib chiqadi. Bu matnlarda insoniyat jamiyatining barcha bilimlari, shuningdek, uning barcha qoliplari, nomutanosibliklari va tarixiy tengsizliklari mavjud. Model "yaxshi" va "yomon" naqshlarni ajratmaydi; U ma'lumotlarda nima borligini o'rganadi.
Misol: Agar o'tmishdagi matnlarda ma'lum kasblar asosan jins bilan bog'langan bo'lsa (masalan, "hamshira" ayol bilan, "muhandis" erkak bilan), model bu assotsiatsiyani o'rganadi. U jumlani tugatayotganda erkak olmoshini tanlashga moyil bo'lishi mumkin, "Injener ofisga kirdi, u ..." Model yomon niyatli emas; u faqat ma'lumotlardagi nomutanosiblikni aks ettiradi.
Shunday qilib, tarafkashlik, asosan, ongli dasturlash xatosi emas, balki ma'lumotlarning ko'zgusi ekanligi bilan bog'liq. Muammoni "kimdir yomon kod yozgan" deb tushuntirish noto'g'ri; Muammo shundaki, dunyodagi nomutanosiblik ma'lumotlarga va u erdan modelga o'tadi.
Ish joyidagi moddiy xavflar
hudud
Tartibsizlik xavfi
mumkin bo'lgan zarar
ishga qabul qilish
Tarixiy ma'lumotlardagi tendentsiyani bilib oling va ayrim guruhlarni yo'q qiling
Yuridik ish, qobiliyatni yo'qotish
Mijoz bilan muloqot
Stereotipik yoki istisno til
Obro'sini yo'qotish, mijozning parvozi
kredit / xavf
O'tmishdagi tengsizliklarni davom ettirish
Diskriminatsiya, sanktsiyalar
Ish faoliyatini baholash
Qaror qabul qilishda ma'lumotlarning tarafkashligini ta'minlash
Adolatsiz reklama/bonus
Kontent/marketing
Muayyan guruhni ko'rinmas holga keltiring
Brendning shikastlanishi
Uchta mini korpus
1-holati - Reklama tilni toraytirdi. Kompaniya AI yordamida ish e'lonlarini chop etishni boshladi. Bir muncha vaqt o'tgach, e'lonlar "yosh va dinamik", "agressiv nishon" kabi iboralar bilan ma'lum bir profilga murojaat qilgani va shu tariqa ilovalar xilma-xilligini kamaytirgani e'tiborga olindi. Jamoa har bir xabarni "inklyuziv til" uchun tekshiradigan qadam qo'shdi; Ariza beruvchilarning xilma-xilligi bir necha oy ichida sezilarli darajada oshdi.
2-holat - Xulosadagi yashirin tarafkashlik. Bitta menejer AIda 30 nafar xodimning fikr-mulohazalarini umumlashtirgan. Xulosa salbiy sharhlarni muayyan jamoaga qaratgandek tuyuldi; Holbuki, dastlabki ma'lumotlarda vaziyat muvozanatli edi. Model bir nechta kuchli bayonotlarni bo'rttirib yubordi. Menejer orqaga qaytib, dastlabki ma'lumotlarni tekshirganda, u noto'g'ri fikr yuritishdan qochdi.
3-holati - Inklyuzivlik mandati ishladi. Bitta marketing guruhi kampaniya nusxasidagi ko'rsatmalarni "inklyuziv, o'ziga xos bo'lmagan jins/yosh/guruh tilidan foydalaning va oxirida taxminlaringizni sanab o'ting." Ishlab chiqarilgan matnlardagi formulali iboralar sezilarli darajada kamaydi; jamoa har bir chiqishni qayta-qayta qo'lda tuzatishi shart emas edi.
Nega tarafkashlikni tanib olish qiyin?
Xurofotning eng hiylasi shundaki, u ko'pincha ko'rinmaydi. Chiqish silliq, professional va oqilona ko'rinadi; Undagi tendentsiya faqat diqqat bilan qaralganda yoki uning turli guruhlarga ta'sirini o'lchaganda namoyon bo'ladi. Bitta misolga qarab, “bu yerda hech qanday tarafkashlik yo‘q” deyish noto‘g‘ri; Tarafsizlik ko'pincha alohida misollarda emas, balki tizimning umumiy tendentsiyasida namoyon bo'ladi.
Diqqat: "Men neytralman, shuning uchun men foydalanadigan vosita ham neytraldir" degan taxmin xavfli. Asbobning betarafligi sizning niyatingizga emas, balki ta'lim ma'lumotlariga va qanday tekshirilganiga bog'liq.
Zaif taklif / Kuchli taklif
Zaif taklif: bu lavozim uchun ideal nomzodni tavsiflang.
Natija: Model stereotiplarga tayanishi va ma'lum bir profilni "ideal" sifatida ko'rsatishi mumkin.
Kuchli taklif: Ushbu lavozim uchun faqat o'lchanadigan va ish bilan bog'liq bo'lgan vakolatlarni sanab o'ting. Jins, yosh, oilaviy ahvol, tug'ilgan shahar kabi ish bilan bog'liq bo'lmagan xususiyatlardan foydalanmang. Nihoyat, "men qochadigan taxminlar" sarlavhasi ostida nima qoldirganingizni yozing.
Natija: Baholash ish bilan bog'liq mezonlar bilan cheklangan, ahamiyatsiz xususiyatlar bundan mustasno.
Tarafsizlikni kamaytirish uchun shablonlar
Inklyuziv til uchun quyidagi matnni tekshiring. Jins, yosh, etnik kelib chiqish, nogironlik yoki muayyan guruhni nazarda tutuvchi va har biri uchun neytral muqobil taklif qiluvchi bayroq bayonotlari. Matn: [bu yerga qo‘ying]
Ushbu baholashni faqat ushbu ob'ektiv mezonlar asosida amalga oshiring: [kriteriyalar]. Ushbu mezonlardan (ism, jins, yosh) boshqa ma'lumotlarni hisobga olmang.
Oxirida alohida sarlavha ostida siz yaratgan matnda qilgan taxminlaringizni yozing. Shunday qilib, men yashirin tarafkashliklarni ko'ra olaman.
Ushbu tarkibni uch xil o'quvchilar guruhining ko'zlari bilan baholang va ulardan birortasini xafa qilishi mumkin bo'lgan har qanday bayonotni belgilang. Tarkib: [bu yerga qo'ying]
Umumiy xatolar
Umumiy xatolar
- “Neytral” AI chiqishini nazarda tutsak. Chiqish neytral ko'rinishga ega bo'lsa ham, u ma'lumotlarning noto'g'riligini ko'rsatishi mumkin; Faol nazorat talab qilinadi.
- Bitta misolga qarab, "hech qanday tarafkashlik yo'q" deyish. Tizimning umumiy tendentsiyasida xurofot yashiringan.
- Yuqori ta'sirli qarorlar qabul qilishni nazoratsiz AIga topshirish. Ishga qabul qilish, lavozimga ko'tarilish va kredit berish kabi qarorlar qabul qilishda inson hokimiyati muhim ahamiyatga ega.
- Inklyuzivlikni talab qilishni unutish. Agar siz buni so'rovda aniq so'ramasangiz, model standart naqshlarga qaytadi.
- Bu "mashina aytdi" degan ma'noni anglatadi. Qarorni qo'llagan shaxs ham oqibatlari uchun javobgardir.
Adolat har kimning burchidir
Xurofotga qarshi kurashish faqat texnik guruhning ishi emas. AI chiqishidan foydalanadigan har bir xodim ushbu natija adolatli yoki yo'qligini so'rashga mas'uldir. "Mashina menga aytdi" - bu bahona emas; Qaror qabul qilgan shaxs oqibatlari uchun ham javobgardir.
Xulosa
- AI tarafkashligining asosiy manbai yomon niyat emas, balki ta'lim ma'lumotlaridagi mavjud nomutanosiblik va stereotiplardir.
- noto'g'ri fikr; Bu ishga yollash, mijozlar bilan aloqalar, moliya va baholash kabi sohalarda haqiqiy huquqiy va obro‘ga xavf tug‘diradi.
- Tarafsizlik ko'pincha ko'rinmas va tizimning umumiy dispozitsiyasiga kiritilgan; Bitta misolga qarash noto'g'ri.
- Kamaytirish uchun: xabardor bo'ling, qarorni ish bilan bog'liq mezonlar bilan cheklang, inklyuzivlikni aniq so'rang, yuqori ta'sirli qarorlar ustidan inson nazoratini o'rnating.
- "Mashina menga aytdi" - bu bahona emas; Adolat - bu mahsulotdan foydalanadigan har bir kishining javobgarligi.
Ilova vazifasi
AIga "ideal (har qanday kasb) ishchini tasvirlab bering" deb ayting va chiqishda qanday (ehtimol keraksiz) taxminlar qilinganligini belgilang. Keyin yuqoridagi "ish bilan bog'liq mezonlar" shablonini takrorlang va adolat uchun ikkita natijani solishtiring.
Tekshirish roʻyxati
- [ ] Men noto'g'rilikning asosiy manbai mashg'ulot ma'lumotlari ekanligini tushunaman.
- [ ] Ish joyidagi tarafkashlik keltirib chiqaradigan aniq xavflarni nomlashim mumkin.
- [ ] Men tarafkashlik ko'pincha ko'rinmas va bitta misolga qarash noto'g'ri ekanligini bilaman.
- [ ] Men taklifda inklyuzivlik va ish bilan bog'liq mezonlarni aniq so'rashim mumkin.
- [ ] Men yuqori ta'sirli qarorlar ustidan inson nazoratini talab qilaman.