Mga nadagdag:
- Nauunawaan na ang data ang pangunahing pinagmumulan ng bias ng AI
- Kinikilala ang mga panganib na maaaring malikha ng bias sa lugar ng trabaho
- Nagpapatupad ng mga hakbang na maaaring gawin upang mabawasan ang pagkiling
Lumilitaw ang AI bilang isang neutral, layunin na makina; ngunit ang katotohanan ay mas kumplikado. Natututo ang mga AI system ng mga bias ng tao sa data kung saan sila sinanay at kung minsan ay pinalalaki at pinaparami ang mga ito. Ang pagtatangi ay ang ugali ng isang sistema na sistematikong pabor o ibukod ang ilang mga tao o grupo. Sa yunit na ito, isasaalang-alang natin kung saan nagmumula ang pagtatangi, kung ano ang mga konkretong panganib na dulot nito sa lugar ng trabaho, at kung ano ang maaaring gawin laban dito. Ito ay hindi lamang isang usapin ng "etika"; Ito ay isang praktikal na bagay sa negosyo na nagdadala ng legal, komersyal at reputasyon na panganib kapag hindi pinamamahalaan.
Saan Nagmumula ang Pagkiling?
Ang impormasyon ng isang modelo ng wika ay nagmumula sa malalaking teksto na ginawa ng mga tao. Ang mga tekstong ito ay naglalaman ng lahat ng kaalaman ng lipunan ng tao, gayundin ang lahat ng mga stereotype nito, kawalan ng timbang at hindi pagkakapantay-pantay sa kasaysayan. Ang modelo ay hindi nakikilala sa pagitan ng "mabuti" at "masamang" pattern; Natututo ito kung ano ang nasa data.
Halimbawa: Kung ang ilang propesyon ay pangunahing nauugnay sa isang kasarian sa mga nakaraang teksto (hal. "nurse" sa babae, "engineer" sa lalaki), natutunan ng modelo ang kaugnayang ito. Maaaring may posibilidad siyang pumili ng panghalip na lalaki kapag kinukumpleto ang pangungusap na, "Ang isang inhinyero ay pumasok sa opisina, siya..." Ang modelo ay hindi malisyoso; ito ay sumasalamin lamang sa kawalan ng timbang sa data.
Kaya ang bias ay kadalasang dahil sa pagiging salamin ng data, hindi isang nakakamalay na error sa programming. Ang pagpapaliwanag sa problema bilang "may sumulat ng masamang code" ay nakaliligaw; Ang problema ay ang kawalan ng timbang sa mundo ay dinadala sa data at mula doon sa modelo.
Mga Nakikitang Panganib sa Lugar ng Trabaho
lugar
Panganib ng bias
posibleng pinsala
pangangalap
Alamin ang trend sa makasaysayang data at alisin ang ilang partikular na grupo
Legal na kaso, pagkawala ng kakayahan
Komunikasyon ng customer
Stereotypical o hindi kasamang wika
Pagkawala ng reputasyon, paglipad ng customer
kredito/panganib
Pagpapanatili ng mga nakaraang hindi pagkakapantay-pantay
Diskriminasyon, mga parusa
Pagsusuri sa pagganap
Ang pagdadala ng bias sa data sa desisyon
Hindi patas na promosyon/bonus
Nilalaman/marketing
Gawing invisible ang partikular na grupo
Pagkasira ng tatak
Tatlong Mini Case
Case 1 — Ang ad ay pinaliit ang wika. Isang kumpanya ang nagsimulang mag-print ng mga pag-post ng trabaho gamit ang AI. Pagkaraan ng ilang sandali, napansin na ang mga advertisement ay umapela sa isang partikular na profile na may mga expression tulad ng "bata at pabago-bago", "agresibong target" at sa gayon ay nabawasan ang pagkakaiba-iba ng mga aplikasyon. Nagdagdag ang koponan ng isang hakbang na sumusuri sa bawat pag-post para sa "kabilang na wika"; Ang pagkakaiba-iba ng mga aplikante ay tumaas nang malaki sa loob ng ilang buwan.
Case 2 — Nakatagong bias sa buod. Isang manager ang may AI na buod ng 30 feedback ng empleyado. Ang recap ay tila tumutok sa mga negatibong komento sa isang partikular na koponan; samantalang sa raw data ay balanse ang sitwasyon. Pinalaki ng modelo ang ilang matitinding pahayag. Nang bumalik ang manager at suriin ang hilaw na data, iniwasan niyang gumawa ng maling kuru-kuro.
Case 3 — Ang inclusivity mandate ay gumana. Isang marketing team ang nag-standardize ng pagtuturo sa kopya ng campaign na "gumamit ng inclusive, non-specific na kasarian/edad/grupong wika at ilista ang iyong mga pagpapalagay sa dulo." Ang mga formulaic expression sa mga ginawang teksto ay kapansin-pansing nabawasan; hindi na kailangang manu-manong itama ng koponan ang bawat output nang paulit-ulit.
Bakit Mahirap Makilala ang Bias?
Ang pinaka mapanlinlang na bagay tungkol sa pagtatangi ay madalas itong hindi nakikita. Ang output ay mukhang makinis, propesyonal at makatwiran; Ang ugali sa loob nito ay makikita lamang kapag ang isang tao ay tumingin nang mabuti o sinusukat ang epekto nito sa iba't ibang grupo. Ito ay nakaliligaw na sabihing "walang bias dito" sa pamamagitan ng pagtingin sa isang halimbawa; Ang bias ay madalas na nagpapakita ng sarili hindi sa mga indibidwal na halimbawa ngunit sa pangkalahatang ugali ng sistema.
Babala: Ang pagpapalagay na "neutral ako, samakatuwid ang tool na ginagamit ko ay neutral din" ay mapanganib. Ang neutralidad ng tool ay nakasalalay sa data ng pagsasanay at kung paano ito sinusuri, hindi sa iyong layunin.
Mahina Prompt / Malakas na Prompt
Mahinang prompt: Ilarawan ang perpektong kandidato para sa posisyong ito.
Resulta: Maaaring umasa ang modelo sa mga stereotype at ipakita ang isang partikular na profile bilang "ideal".
Malakas na prompt: Ilista lamang ang mga masusukat na kakayahan para sa posisyong ito na tunay na nauugnay sa trabaho. Huwag gumamit ng anumang mga katangian na hindi nauugnay sa trabaho, tulad ng kasarian, edad, katayuan sa pag-aasawa, bayan. Panghuli, isulat kung ano ang iyong iniwan sa ilalim ng pamagat na "mga pagpapalagay na iniiwasan ko."
Resulta: Ang pagsusuri ay limitado sa mga pamantayang may kaugnayan sa trabaho, hindi kasama ang mga hindi nauugnay na feature.
Mga Template para Bawasan ang Pagkiling
Suriin ang teksto sa ibaba para sa inklusibong wika. I-flag ang mga pahayag na nagpapahiwatig ng kasarian, edad, etnisidad, kapansanan, o isang partikular na grupo at nagmumungkahi ng neutral na alternatibo para sa bawat isa. Teksto: [i-paste dito]
Gawin ang pagsusuring ito batay lamang sa layuning pamantayang ito: [pamantayan]. Huwag isaalang-alang ang anumang impormasyon maliban sa mga pamantayang ito (pangalan, kasarian, edad).
Ilista sa ilalim ng hiwalay na pamagat sa dulo kung aling mga pagpapalagay ang ginawa mo sa tekstong iyong ginawa. Kaya nakikita ko ang mga nakatagong bias.
Suriin ang nilalamang ito sa pamamagitan ng mga mata ng tatlong magkakaibang grupo ng mga mambabasa at markahan ang anumang mga pahayag na maaaring makasakit/makasakit sa alinman sa kanila. Nilalaman: [idikit dito]
Mga Karaniwang Pagkakamali
Mga karaniwang pagkakamali
- Ipagpalagay na "neutral" na output ng AI. Kahit na ang output ay mukhang neutral, maaari itong magdala ng bias sa data; Kinakailangan ang aktibong pangangasiwa.
- Pagtingin sa isang halimbawa at pagsasabing "walang bias". Ang pagtatangi ay nakatago sa pangkalahatang ugali ng sistema.
- Iniiwan ang mataas na epekto sa paggawa ng desisyon sa hindi pinangangasiwaang AI. Ang awtoridad ng tao ay mahalaga sa mga desisyon tulad ng recruitment, promosyon, at kredito.
- Nakakalimutang humingi ng inclusivity. Kung hindi mo ito tahasang hihilingin sa prompt, babalik ang modelo sa mga default na pattern.
- Ang ibig sabihin nito ay "Sinabi ito ng makina." Ang taong gumagamit ng desisyon ay may pananagutan din sa mga kahihinatnan.
Ang Katarungan ay Pananagutan ng Lahat
Ang paglaban sa pagtatangi ay hindi lamang trabaho ng technical team. Ang bawat empleyado na gumagamit ng AI output ay may responsibilidad na tanungin kung ang output ay patas. "Sinabi sa akin ng makina" ay hindi isang dahilan; Ang taong gumagawa ng desisyon ay may pananagutan din sa mga kahihinatnan.
Sa buod
- Ang pangunahing pinagmumulan ng AI bias ay hindi malevolence, ngunit umiiral na mga imbalances at stereotypes sa data ng pagsasanay.
- Pagkiling; Lumilikha ito ng tunay na legal at reputasyon na panganib sa mga lugar tulad ng recruitment, komunikasyon sa customer, pananalapi at pagsusuri.
- Ang bias ay madalas na hindi nakikita at naka-embed sa pangkalahatang disposisyon ng system; Ang pagtingin sa isang halimbawa ay nakaliligaw.
- Para bawasan: magkaroon ng kamalayan, limitahan ang desisyon sa mga pamantayang may kaugnayan sa trabaho, tahasang humingi ng inclusivity, ilagay ang kontrol ng tao sa mga desisyon na may mataas na epekto.
- "Sinabi sa akin ng makina" ay hindi isang dahilan; Ang pagiging patas ay responsibilidad ng lahat ng gumagamit ng output.
Aplikasyon na Gawain
Sabihin sa AI na "ilarawan ang isang perpektong [anumang trabaho] na manggagawa" at markahan kung ano ang (marahil hindi kailangan) mga pagpapalagay na ginawa sa output. Pagkatapos ay ulitin gamit ang template na "pamantayan na may kaugnayan sa trabaho" sa itaas at ihambing ang dalawang output para sa pagiging patas.
Checklist
- [ ] Naiintindihan ko na ang pangunahing pinagmumulan ng bias ay ang data ng pagsasanay.
- [ ] Maaari kong pangalanan ang mga konkretong panganib na maaaring idulot ng bias sa lugar ng trabaho.
- [ ] Alam ko na kadalasang hindi nakikita ang pagkiling at ang pagtingin sa isang halimbawa ay nakaliligaw.
- [ ] Malinaw kong mahihiling ang pagiging inklusibo at mga pamantayang nauugnay sa trabaho sa prompt.
- [ ] Hinihiling ko ang pangangasiwa ng tao sa mga desisyong may mataas na epekto.