Ubaguzi, Ubaguzi na Maadili: Matumizi ya Haki na Mitikio wa Kiutamaduni

Faida:

• Kutambua wakati AI inazalisha upendeleo kupitia data ya mafunzo, kutunga, viwango maradufu, na kubembeleza.
• Uwezo wa kuweka udhibiti dhidi ya upendeleo na maswali ya upande wowote, ubaguzi wa aina ya ushahidi na mtihani wa pembe ya nyuma
• Uwezo wa kutafsiri lugha ya unyanyapaa katika lugha ya maelezo na ya heshima kwa kutumia ujuzi wa kitamaduni kama hatua ya tahadhari badala ya kanuni ya uhakika.

Msingi wa kazi ya kijamii ni haki na utu wa binadamu; Msingi wa taaluma ni kujitolea kwamba kila mtu ana thamani sawa, ubaguzi unapingwa, na makundi yaliyo hatarini yanalindwa. Upelelezi wa Bandia hubeba hatari ambayo inaweza kudhuru kimya kimya maadili haya: upendeleo. AI hujifunza kutoka kwa data ya kihistoria; Ikiwa data hiyo inajumuisha ukosefu wa usawa, mila potofu, na ubaguzi katika jamii, AI huzijifunza na kuzitoa kwa lugha fasaha, inayoonekana kama "lengo". Katika mikono ya mfanyakazi wa kijamii, hii inaweza kutafsiri katika tathmini mbaya zaidi ya utaratibu wa kikundi, mtazamo potofu wa familia, au kutoelewa utamaduni. Katika kitengo hiki, utajifunza kutambua upendeleo wa AI, kudhibiti dhidi yake, na kutumia AI kwa usawa na usikivu wa kitamaduni.

Ukweli tangu mwanzo: AI haiegemei upande wowote, inaonekana haina upande wowote. Upendeleo hatari zaidi ni ule unaowasilishwa kwa lugha ya kujiamini na kitaaluma; kwa sababu inakubalika bila swali. Kazi yako kama mfanyakazi wa kijamii ni kufanya upendeleo huu usioonekana uonekane na kufuatilia kama matokeo yanakinzana na maadili yako ya kitaaluma.

Upendeleo wa AI unatoka wapi na unaonekanaje?

• Upendeleo wa data ya mafunzo. AI hujifunza kutoka kwa maandishi yanayoonyesha ukosefu wa usawa katika jamii. Fikra potofu kuhusu makabila fulani, maskini, walemavu, vitongoji fulani, au jinsia zinaweza kuvuja katika matokeo.
• Upendeleo wa lugha na utunzi. AI inaweza kuunda kikundi kama tu, "tatizo," au "kitu kinachohitaji usaidizi"; kundi lingine kama masomo. Tabia hiyo hiyo inaweza kufasiriwa kama "kitamaduni" na kikundi kimoja na "tatizo" na kikundi kingine.
• Ukosefu wa uwakilishi. AI inaweza kuelewa kwa njia isiyo sahihi au juu juu vikundi ambavyo vinawakilishwa kidogo katika data (idadi ndogo, matukio nadra).
• Flattery (sycophancy). AI huelekea kuthibitisha mtazamo wako uliodokezwa; Swali la upendeleo huleta uthibitisho wa upendeleo.

Upendeleo huu ni hatari sana katika kazi ya kijamii kwa sababu matokeo yanagusa moja kwa moja maisha ya watu halisi—tathmini, ripoti, rufaa.

Tahadhari: "AI iliitathmini kwa njia hiyo" ni ishara ya onyo, sio uhalali. Unapoona matokeo ambayo yanaonyesha kikundi au mtu binafsi vibaya, swali la kwanza ni "je, linatokana na ushahidi au kulingana na dhana potofu?" inapaswa kuwa.

Hatua kwa hatua: ukaguzi dhidi ya upendeleo

1. Uliza upande wowote. Uliza maswali ambayo hayamaanishi au kuongoza; Sio "kueleza kwa nini familia hii imezembea," lakini "uchunguzi huu unaweza kumaanisha nini, ni maelezo gani mbadala?" uliza.
2. Tofautisha kati ya ushahidi na stereotype. Kwa kila kauli hasi, uliza: je, inatokana na ushahidi thabiti ulio mbele yangu, au ni msingi wa dhana ya jumla kuhusu kikundi?
3. Mtihani kutoka pembe kinyume. Fikiria hali sawa kwa kundi tofauti: "Ikiwa mteja angekuwa kutoka asili tofauti ya kijamii na kiuchumi/kabila, Je, AI ingeiandika kwa lugha moja?"
4. Tafuta hisia za kitamaduni. Uliza kuhusu muktadha wa kitamaduni wa tabia; lakini chukua ujuzi wa kitamaduni kama jambo linalowezekana na hatua ya tahadhari, sio sheria kamili (epuka stereotype).
5. Safisha ulimi wa kuchapisha. Tafsiri kwa lugha inayoelezea hali hiyo, sio mtu, na pia unaona nguvu.

kesi tatu ndogo

Kesi ya 1 - Pembe ya nyuma ilifunua upendeleo. Mtaalam alikuwa na AI muhtasari wa kesi mbili zinazofanana; tofauti pekee ilikuwa hali ya kijamii na kiuchumi ya familia. YZ aliandika kwa sauti ya "hatari kubwa ya kupuuza" kwa familia ya kipato cha chini, na kwa sauti ya "mzazi kulazimishwa kuishi" kwa familia ya kipato cha juu. Mtaalamu huyo alitambua kiwango hiki maradufu na akabadilisha tathmini zote mbili kuwa lugha inayotegemea ushahidi na sawa.

Kesi ya 2 - Tafsiri potofu ya kitamaduni imerekebishwa. YZ aliweka hali ya mtoto anayeishi na familia kubwa kama "maswala ya mipaka na mazingira mchanganyiko ya nyumbani." Mtaalamu huyo alijua kwamba katika muktadha wa kitamaduni wa familia, familia kubwa ilikuwa chanzo chenye nguvu cha msaada na ulinzi. AI ilikuwa imegeuza nguvu ya kitamaduni kuwa tatizo. Ukaguzi umesahihishwa ili kutambua usaidizi huu kama nyenzo.

Kesi ya 3 - Swali kuu lilitoa upendeleo. "Andika kwa nini baba huyu haaminiki," mwanafunzi wa ndani aliuliza AI. AI ilitoa maandishi ambayo yanaonyesha baba vibaya (kubembeleza) bila ushahidi wowote. Msimamizi alirekebisha swali hili: “Ni mambo gani anayoona kuhusu baba, ni nini kinachoweza kuwa uwezo na udhaifu wake?” Matokeo yamekuwa ya usawa na msingi wa ushahidi. Somo: swali la upendeleo hutoa jibu la upendeleo.

Violezo vinne vinavyoweza kunakiliwa

1) Omba tathmini isiyoegemea upande wowote, yenye usawa:

Katika muhtasari wa uchunguzi ufuatao, unawasilisha nguvu zinazowezekana na masuala yanayowezekana kwa njia ILIYO SAWASA na kwa kuzingatia ushahidi TU. Usifanye makisio yoyote kulingana na mila potofu. Ikiwa maoni hayategemei uchunguzi, andika "ushahidi wa kutosha." Uchunguzi: [Bandika uchunguzi]

2) Angalia upendeleo (mtihani wa pembe kinyume):

Angalia maandishi ya ukaguzi hapa chini. Je, kuna taarifa zinazowasilisha dhana potofu isiyothibitishwa kwa sababu ya hali ya mteja kijamii na kiuchumi, kabila, dini, jinsia, ulemavu, au ujirani? Kwa kila mmoja, uliza: "Je, hii ingeandikwa kwa lugha moja ikiwa mteja angekuwa kutoka kundi tofauti?" Alamisha sentensi zenye tatizo. Maandishi: [bandika maandishi]

3) Muktadha wa kitamaduni (isiyo ya kawaida):

Toa UWEZEKANO wa nini tabia/hali ifuatayo inaweza kumaanisha katika miktadha tofauti ya kitamaduni. Yape haya kama mambo ya kuzingatiwa, si kama sheria kamilifu; Sisitiza kwamba kuna tofauti za watu binafsi katika kila jamii. Usijumlishe kuhusu kikundi kimoja. Hali: [andika hali]

4) Kusafisha ulimi wa kuchapisha:

Katika maandishi yaliyo hapa chini, tafuta vivumishi vinavyomhukumu au kumnyanyapaa mtu (k.m., "kupuuza," "kutoshirikiana," "matatizo"). Kwa kila moja, badilisha ukweli ule ule na mbadala unaofafanua, wenye heshima, na unaotambua uwezo. Kuongeza taarifa mpya.Nakala: [bandika maandishi]

Mwongozo dhaifu / Mwongozo thabiti

Agizo dhaifu:

Eleza kwa nini familia hii haitoshi kulea watoto.

Swali hili linachukua matokeo tangu mwanzo ("haitoshi"). AI, pamoja na tabia yake ya kubembeleza, itatoa maandishi yasiyo na ushahidi na upendeleo ambayo yanathibitisha dhana hii. Ikiwa swali ni la upendeleo, jibu pia litakuwa la upendeleo.

Agizo lenye nguvu:

Kulingana na uchunguzi ufuatao, orodhesha uwezo wa familia hii wa kulea watoto na maeneo yanayohusika kwa USAWAZIKO na kwa njia ya ushahidi pekee. Usidhani matokeo tangu mwanzo; Ikiwa ushahidi hautoshi, sema hivyo. Epuka dhana potofu.Uchunguzi: [bandika uchunguzi]

Tofauti: swali la usawa ambalo halifikirii matokeo na linauliza ushahidi huzuia upendeleo katika nafasi ya kwanza.

Aina za upendeleo na hatua za kupinga

Aina ya upendeleo

Inaonekanaje

kukabiliana na hatua

data ya mafunzo

stereotype ya kikundi

Tofauti ya muundo wa ushahidi

kutunga

Lugha ya kupita kiasi/hasi

Lugha iliyosawazishwa, inayozingatia somo

kiwango maradufu

Tabia sawa, sauti tofauti

mtihani wa pembe ya nyuma

upofu wa kitamaduni

Kugeuza nguvu za kitamaduni kuwa shida

Swali la muktadha wa kitamaduni

kubembeleza

kuthibitisha maana

Usiulize maswali ya upande wowote

ukosefu wa uwakilishi

Juu juu/kutokuelewana

Uthibitisho wa ndani/mtaalamu

Makosa ya kawaida

• Kuuliza maswali ya ubaguzi. Swali linalochukua hitimisho hutoa jibu la upendeleo; tatizo la upande wowote.
• Kutegemea lugha ya kujiamini. Toni ya kitaaluma haifanyi upendeleo kuwa sahihi; angalia ushahidi.
• Kuzingatia maarifa ya kitamaduni kama kanuni ya uhakika. Ichukue kama hatua ya uwezekano na umakini; Epuka dhana potofu.
• Bila kugundua viwango viwili. Jaribu jinsi tabia hiyo hiyo inavyoandikwa katika vikundi tofauti.
• Kukosea muhuri kama ushahidi. Ni hukumu ya “kuzembea”; Eleza jambo hilo, usimhukumu mtu huyo.

Kwa muhtasari

AI sio neutral, inaonekana neutral; Hutoa tena ukosefu wa usawa na mila potofu katika data ya elimu katika lugha fasaha. Katika kazi ya kijamii, hii inaweza kusababisha tathmini zisizo za haki za watu halisi. Tambua upendeleo (data ya mafunzo, utungaji, viwango viwili, upofu wa kitamaduni, kubembeleza), angalia dhidi yake (swali lisiloegemea upande wowote, utengano wa muundo wa ushahidi, upimaji wa pembe, unyeti wa kitamaduni, uondoaji wa unyanyapaa), na chuja kila matokeo kupitia maadili ya taaluma ya haki na heshima. Kichujio cha mwisho cha maadili ni wewe kila wakati.

Jukumu la maombi

Fanya AI ifanye muhtasari wa seti sawa ya uchunguzi wa kubuni na wasifu mbili tofauti za kikundi (k.m. hali tofauti ya kijamii na kiuchumi) na ulinganishe na "jaribio la pembe ya kinyume" ikiwa toni/lugha zinatofautiana. Kisha jaribu swali lisiloegemea upande wowote na swali la upendeleo (“eleza kwa nini haitoshi”) na uchunguze tofauti ya matokeo. Hatimaye, tumia kiolezo cha "watermarker kusafisha lugha" kwenye maandishi.

orodha ya ukaguzi

• [ ] Nilipanga maswali yangu bila upande wowote, bila kuchukulia matokeo.
• [ ] Nilikagua kila kauli hasi kwa kutumia tofauti ya ushuhuda-mila potofu.
• [ ] Niliangalia kiwango maradufu na jaribio la pembe ya nyuma.
• [ ] Nilitumia ujuzi wa kitamaduni kama hatua ya tahadhari, sio sheria kamili.
• [ ] Nilibadilisha lugha ya unyanyapaa na lugha ya maelezo na ya heshima.