Mga nadagdag:
- Pagkilala kapag ang AI ay gumagawa ng bias sa pamamagitan ng data ng pagsasanay, pag-frame, dobleng pamantayan, at pambobola
- Kakayahang magtatag ng kontrol laban sa pagkiling sa mga neutral na tanong, ebidensya-stereotype na diskriminasyon at reverse angle test
- Kakayahang isalin ang stigmatizing na wika sa deskriptibo at magalang na wika sa pamamagitan ng paggamit ng kaalaman sa kultura bilang punto ng atensyon sa halip na isang tiyak na tuntunin
Ang raison d'être ng gawaing panlipunan ay katarungan at dignidad ng tao; Sa kaibuturan ng propesyon ay isang pangako na ang bawat indibidwal ay may pantay na halaga, ang diskriminasyon ay sinasalungat, at ang mga mahihinang grupo ay protektado. Ang artificial intelligence ay nagdadala ng panganib na maaaring tahimik na makapinsala sa mga halagang ito: bias. Natututo ang AI mula sa makasaysayang data; Kung ang data na iyon ay may kasamang mga hindi pagkakapantay-pantay, stereotype, at diskriminasyon sa lipunan, ang AI ay natututo sa mga ito at muling ginawa ang mga ito sa isang matatas, mukhang "layunin" na wika. Sa mga kamay ng isang social worker, ito ay maaaring isalin sa isang sistematikong mas negatibong pagsusuri ng isang grupo, isang stereotyping ng isang pamilya, o isang hindi pagkakaunawaan ng isang kultura. Sa unit na ito, matututunan mong kilalanin ang bias ng AI, kontrolin ito, at gamitin ang AI nang may patas at sensitivity sa kultura.
Isang katotohanan mula sa simula: AI ay hindi neutral, ito ay lumilitaw na neutral. Ang pinaka-mapanganib na bias ay ang ipinakita sa tiwala at propesyonal na wika; dahil tinatanggap ito ng walang tanong. Ang iyong trabaho bilang isang social worker ay gawing nakikita ang hindi nakikitang bias na ito at subaybayan kung ang output ay sumasalungat sa iyong mga propesyonal na halaga.
Saan nagmula ang AI bias at ano ang hitsura nito?
- Bias ng data ng pagsasanay. Natututo ang AI mula sa mga tekstong nagpapakita ng hindi pagkakapantay-pantay sa lipunan. Ang mga stereotype tungkol sa ilang partikular na grupong etniko, mahihirap, may kapansanan, ilang partikular na kapitbahayan, o kasarian ay maaaring tumagas sa output.
- Pagkiling sa wika at framing. Maaaring i-frame ng AI ang isang grupo bilang passive, "problematic," o isang "object na nangangailangan ng tulong"; ibang grupo bilang mga paksa. Ang parehong pag-uugali ay maaaring bigyang-kahulugan bilang "kultural" ng isang grupo at "problema" ng isa pang grupo.
- Kakulangan ng representasyon. Maaaring hindi tumpak o mababaw na maunawaan ng AI ang mga pangkat na kulang sa representasyon sa data (maliit na populasyon, mga bihirang kaso).
- Pambobola (sycophancy). Ang AI ay may posibilidad na kumpirmahin ang iyong ipinahiwatig na pagtingin; Ang isang bias na tanong ay nagdudulot ng isang bias na kumpirmasyon.
Ang mga bias na ito ay lalong mapanganib sa gawaing panlipunan dahil ang output ay direktang nakakaapekto sa buhay ng mga totoong tao—isang pagtatasa, isang ulat, isang referral.
Babala: "Ang AI ay nasuri ito sa ganoong paraan" ay isang tanda ng babala, hindi isang katwiran. Kapag nakakita ka ng output na naglalarawan nang negatibo sa isang grupo o indibidwal, ang unang tanong ay "batay ba ito sa ebidensya o batay sa mga stereotype?" dapat ay.
Hakbang-hakbang: pag-audit laban sa bias
- Magtanong ng neutral. Magtanong ng mga tanong na hindi nagpapahiwatig o humantong; Hindi "ipaliwanag kung bakit napapabayaan ang pamilyang ito," ngunit "ano ang maaaring ibig sabihin ng mga obserbasyon na ito, ano ang mga alternatibong paliwanag?" magtanong.
- Matukoy ang pagkakaiba sa pagitan ng ebidensya at stereotype. Para sa bawat negatibong pahayag, itanong: ito ba ay batay sa konkretong ebidensya sa harap ko, o ito ba ay batay sa isang pangkalahatang palagay tungkol sa isang grupo?
- Subukan mula sa kabilang anggulo. Isaalang-alang ang parehong sitwasyon para sa ibang grupo: "Kung ang kliyente ay mula sa ibang socioeconomic/ethnic background, isusulat ba ito ng AI sa parehong wika?"
- Maghanap ng pagiging sensitibo sa kultura. Magtanong tungkol sa konteksto ng kultura ng isang pag-uugali; ngunit kunin ang kaalaman sa kultura bilang isang posibilidad at isang punto ng pag-iingat, hindi isang ganap na tuntunin (iwasan ang stereotype).
- Linisin ang imprinting dila. Isalin ito sa isang wika na naglalarawan sa sitwasyon, hindi sa tao, at nakikita rin ang mga lakas.
tatlong mini case
Case 1 — Ang reverse angle ay nagpakita ng bias. Isang dalubhasa ang may AI na buod ng dalawang magkatulad na kaso; ang tanging pagkakaiba ay ang socioeconomic status ng mga pamilya. Sumulat si YZ sa tono ng "mataas na panganib ng kapabayaan" para sa pamilyang may mababang kita, at sa tono ng "magulang na sapilitang kumilos" para sa pamilyang may mataas na kita. Kinilala ng eksperto ang dobleng pamantayang ito at ginawa ang parehong mga pagtatasa sa batay sa ebidensya, pantay na wika.
Kaso 2 — Itinama ang maling interpretasyon sa kultura. Binabalangkas ng YZ ang sitwasyon ng isang bata na nakatira kasama ang pinalawak na pamilya bilang "mga isyu sa hangganan at isang magkahalong kapaligiran sa tahanan." Alam ng eksperto na sa loob ng kultural na konteksto ng pamilya, ang pinalawak na pamilya ay isang malakas na mapagkukunan ng suporta at proteksyon. Ginawang problema ng AI ang puwersang pangkultura. Ang pagsusuri ay naitama upang makilala ang suportang ito bilang isang mapagkukunan.
Case 3 — Ang nangungunang tanong ay nagdulot ng bias. "Isulat kung bakit hindi mapagkakatiwalaan ang ama na ito," tanong ng isang intern sa AI. Ang AI ay gumawa ng isang teksto na naglalarawan sa ama nang negatibo (mapuri) nang walang anumang ebidensya. Binago ng superbisor ang tanong: "Ano ang mga obserbasyon tungkol sa ama, ano kaya ang kanyang mga kalakasan at kahinaan?" Ang output ay naging balanse at nakabatay sa ebidensya. Lesson: biased question produces biased answer.
Apat na maaaring kopyahin na mga template
1) Humiling ng neutral, balanseng pagsusuri:
Sa pagbubuod ng mga sumusunod na obserbasyon, ipinakita mo ang parehong posibleng lakas at posibleng alalahanin sa isang BALANCED na paraan at batay LAMANG sa ebidensya. Huwag gumawa ng anumang mga hinuha batay sa mga stereotype. Kung ang isang komento ay hindi umaasa sa pagmamasid, isulat ang "hindi sapat na ebidensya." Mga Obserbasyon: [idikit ang mga obserbasyon]
2) Pagsusuri ng bias (kabaligtaran na pagsubok):
Tingnan ang teksto ng pagsusuri sa ibaba. Mayroon bang mga pahayag na naghahatid ng hindi napatunayang stereotype dahil sa socioeconomic status, etnisidad, relihiyon, kasarian, kapansanan, o kapitbahayan ng kliyente? Para sa bawat isa, itanong: "Isusulat ba ito sa parehong wika kung ang kliyente ay mula sa ibang grupo?" I-flag ang mga problemang pangungusap.Text: [paste text]
3) Konteksto ng kultura (non-stereotype):
Magbigay ng mga POSIBILIDAD para sa kung ano ang maaaring ibig sabihin ng sumusunod na pag-uugali/sitwasyon sa iba't ibang konteksto ng kultura. Ibigay ang mga ito bilang mga puntong dapat isaalang-alang, hindi bilang ganap na mga tuntunin; Bigyang-diin na may mga indibidwal na pagkakaiba sa bawat komunidad. Huwag i-generalize ang tungkol sa isang grupo. Sitwasyon: [isulat ang sitwasyon]
4) Paglilinis ng dila sa pag-print:
Sa text sa ibaba, maghanap ng mga adjectives na humahatol o naninira sa tao (hal., "nagpapabaya," "hindi kooperatiba," "problematic"). Para sa bawat isa, palitan ang parehong katotohanan ng isang alternatibong naglalarawan, magalang, at kumikilala sa mga kalakasan. Pagdaragdag ng bagong impormasyon.Text: [paste text]
Mahinang prompt / Malakas na prompt
Mahinang prompt:
Ipaliwanag kung bakit hindi sapat ang pamilyang ito sa pagpapalaki ng mga anak.
Ipinapalagay ng tanong na ito ang resulta mula sa simula ("hindi sapat"). Ang AI, na may hilig nitong mambobola, ay gagawa ng walang ebidensya at may pinapanigan na teksto na nagpapatunay sa pagpapalagay na ito. Kung bias ang tanong, magiging bias din ang sagot.
Napakahusay na prompt:
Batay sa mga sumusunod na obserbasyon, ilista ang parehong mga lakas sa pagpapalaki ng anak ng pamilyang ito at mga lugar na pinagkakaabalahan sa isang BALANSE at ebidensya lamang na paraan. Huwag ipagpalagay ang kinalabasan mula sa simula; Kung ang ebidensya ay hindi sapat, sabihin ito. Iwasan ang mga stereotype. Mga Obserbasyon: [idikit ang mga obserbasyon]
Ang pagkakaiba: isang balanseng tanong na hindi inaakala ang kinalabasan at humihingi ng ebidensya ay pumipigil sa pagkiling sa unang lugar.
Mga uri ng bias at countermeasures
Uri ng bias
Ano ang hitsura nito
pagsugpo
data ng pagsasanay
stereotype ng grupo
Ebidensya-pattern na pagkakaiba
pag-frame
Passive/negatibong wika
Balanseng, wikang nakasentro sa paksa
dobleng pamantayan
Parehong ugali, iba ang tono
reverse angle test
pagkabulag sa kultura
Ginagawang problema ang kapangyarihang pangkultura
Tanong sa konteksto ng kultura
pambobola
kumpirmahin ang implikasyon
Huwag magtanong ng mga neutral na tanong
kakulangan ng representasyon
Mababaw/hindi pagkakaunawaan
Lokal/ekspertong kumpirmasyon
Mga karaniwang pagkakamali
- Nagtatanong ng mga tanong na may pagkiling. Ang isang tanong na nagpapalagay ng isang konklusyon ay nagbubunga ng isang bias na sagot; neutral na problema.
- Umaasa sa tiwala na wika. Hindi ginagawang tama ng propesyonal na tono ang pagkiling; tingnan mo ang ebidensya.
- Isinasaalang-alang ang kaalaman sa kultura bilang isang tiyak na tuntunin. Kunin ito bilang isang punto ng posibilidad at atensyon; Iwasan ang mga stereotype.
- Hindi napapansin ang dobleng pamantayan. Subukan kung paano isinulat ang parehong gawi sa iba't ibang grupo.
- Napagkakamalang ebidensya ang selyo. Ito ay isang "pabaya" paghatol; Ilarawan ang kababalaghan, huwag husgahan ang tao.
Sa buod
Ang AI ay hindi neutral, lumilitaw itong neutral; Gumagawa ito ng mga hindi pagkakapantay-pantay at stereotype sa data ng edukasyon sa isang matatas na wika. Sa gawaing panlipunan, ito ay maaaring humantong sa hindi patas na pagsusuri ng mga totoong tao. Kilalanin ang pagkiling (data ng pagsasanay, pag-frame, dobleng pamantayan, pagkabulag sa kultura, pambobola), suriin ito (neutral na tanong, paghihiwalay ng pattern ng ebidensya, pagsubok sa anggulo, sensitivity ng kultura, paglilinis ng stigma), at i-filter ang bawat output sa pamamagitan ng mga halaga ng pagiging patas at karangalan ng propesyon. Ang huling etikal na filter ay palaging ikaw.
Gawain ng aplikasyon
Ipabuod sa AI ang parehong hanay ng mga kathang-isip na obserbasyon na may dalawang magkaibang profile ng grupo (hal. magkaibang katayuan sa sosyo-ekonomiko) at ihambing sa "reverse angle test" kung magkaiba ang mga tono/wika. Pagkatapos ay subukan ang isang neutral na tanong na may sinasadyang pagkiling na tanong ("ipaliwanag kung bakit ito ay hindi sapat") at suriin ang pagkakaiba sa mga resulta. Panghuli, ilapat ang template na "paglilinis ng wika ng watermarker" sa isang text.
checklist
- [ ] Binabalangkas ko ang aking mga tanong nang neutral, nang hindi inaakala ang kinalabasan.
- [ ] Sinuri ko ang bawat negatibong pahayag gamit ang pagkakaiba-iba ng ebidensya-stereotype.
- [ ] Sinuri ko ang double standard gamit ang reverse angle test.
- [ ] Ginamit ko ang kaalaman sa kultura bilang isang punto ng pag-iingat, hindi isang ganap na tuntunin.
- [ ] Pinalitan ko ang stigmatizing language ng descriptive, respectful language.