Ubaguzi, Haki na Ubaguzi: Madoa Mapofu ya Mwanamitindo huyo

Faida:

• Kuelewa jinsi upendeleo katika miundo ya kijasusi hutokana na data na muundo na kwa nini husababisha hatari za kisheria na kimaadili katika benki.
• Uwezo wa kutambua vipengele vinavyolindwa, vigeu vya seva mbadala na ubaguzi usio wa moja kwa moja na kuhoji maamuzi ya modeli kulingana na haki
• Uwezo wa kuelewa jinsi metriki za haki, vikundi vilivyotengwa na haki ya kupinga zinavyounganishwa katika utawala wa mfano na kudumisha mstari mwekundu wa ubaguzi.

Mfano wa AI sio upande wowote; Ni kioo cha data iliyojifunza. Ikiwa data hubeba usawa wa zamani, mtindo hujifunza na kubeba katika siku zijazo. Katika benki, huu si mjadala wa kimaadili wa kufikirika: ikiwa mtindo wa mikopo unatatiza kundi fulani, hii yote ni kinyume cha sheria (marufuku ya ubaguzi) na ukiukaji wa maadili, na kuleta hatari za sifa na vikwazo kwa benki. Madhumuni ya kitengo hiki ni kuonyesha jinsi modeli inakuwa ya upendeleo, aina za moja kwa moja na zisizo za moja kwa moja za ubaguzi, mtego wa kutofautisha wa wakala, na njia za kuunganisha usawa katika utawala wa kielelezo. Mstari mmoja nyekundu lazima usemwe tangu mwanzo: ubaguzi, bila kujali jinsi "takwimu" inaweza kuonekana, haikubaliki.

Ubaguzi unatoka wapi?

• Upendeleo wa data: Ikiwa maamuzi ya hapo awali hayakuwa ya haki (k.m. kikundi fulani kilipewa mkopo mdogo hapo awali), mtindo unachukulia hii ni "kawaida" na inaendelea. Hii inaitwa upendeleo wa kihistoria.
• Upendeleo wa sampuli: Iwapo baadhi ya makundi hayawakilishwi katika data, modeli hujifunza vibaya na kwa usahihi kuyahusu.
• Upendeleo wa lebo: Ikiwa ufafanuzi wa "mteja mzuri" yenyewe ni wa upendeleo, mtindo huo unaboresha upendeleo.
• Upendeleo wa muundo: Chaguo za kibinadamu kuhusu ni vigeu gani vya kutumia pia vinaweza kubeba upendeleo.

Kidokezo: "Mtindo unategemea data, kwa hivyo ni lengo" ni maoni potofu. Data ni picha ya zamani; Ikiwa siku za nyuma hazikuwa za haki, mtindo wa "lengo" unahalalisha udhalimu na hisabati. Lengo sio hakikisho la kutopendelea.

Ubaguzi wa moja kwa moja na usio wa moja kwa moja

• Ubaguzi wa moja kwa moja: Mfano wa matumizi ya moja kwa moja ya sifa inayolindwa (jinsia, kabila, dini, umri). Hii ni marufuku kabisa.
• Ubaguzi usio wa moja kwa moja (ubaguzi mbadala / proksi): Hata kama muundo hautumii kipengele kilicholindwa moja kwa moja, hutoa matokeo sawa kwa kutumia kigezo kingine ambacho kinahusiana nacho sana (msimbo wa posta, jina, kitengo cha ununuzi, wilaya ya kazi). Msimbo wa eneo mara nyingi ni wakala wa kabila au kiwango cha mapato. Mfano unasema "jirani" lakini matokeo yake ni "asili" ya ubaguzi.

Inaweza kubadilika

inaonekana

inaweza kuwa wakala

Msimbo wa posta / wilaya

jiografia

Ukabila, kiwango cha mapato

Jina

ID

asili, jinsia

Kategoria ya ununuzi

tabia

mtindo wa maisha, imani

shule iliyohitimu

Elimu

Asili ya kijamii na kiuchumi

Ndiyo maana kengele inapaswa kulia unapoona taarifa kama "jirani ni hatari" katika uhalalishaji: inaweza kuonekana kuwa kigezo halali lakini ina ubaguzi usio wa moja kwa moja.

Tahadhari: Kuondoa kipengele kilicholindwa kutoka kwa data hakumalizi ubaguzi. Vigezo vya ziada vinaweza kuirejesha. Haki haipatikani kwa "nilifuta safu nyeti"; Hii inafanikiwa kwa kupima matokeo ya maamuzi ya mfano kati ya vikundi.

Kuweka haki katika utawala

1. Vipimo vya haki. Linganisha viwango vya kuidhinishwa/kukataliwa vya modeli na viwango vya makosa kati ya vikundi. Je, kikundi kimoja hupata kukataliwa zaidi kwa utaratibu?
2. Udhibiti wa wakala. Chunguza uhusiano wa vigeu vinavyotumiwa na sifa zinazolindwa.
3. Ufafanuzi. Uhalali lazima utolewe kwa kila uamuzi; Ukanushaji wa "sanduku nyeusi" haukubaliki.
4. Haki ya kupinga. Mteja anapaswa kupewa haki ya kujifunza sababu za uamuzi huo na kuomba ukaguzi wa kibinadamu.
5. Vikundi vilivyotengwa. Inapaswa pia kuangaliwa kuwa vikundi ambavyo vinawakilishwa kidogo katika data havidhulumiwi.

Violezo vinne vinavyoweza kunakiliwa

1) Uchunguzi wa ubaguzi katika kuhalalisha:

Angalia mantiki ifuatayo ya uamuzi wa mkopo: je, kuna marejeleo ya moja kwa moja/isiyo ya moja kwa moja kwa sifa inayolindwa (umri, jinsia, asili, dini) au kigezo cha seva mbadala (msimbo wa posta, mtaa, jina, aina ya ununuzi)? Ripoti taarifa hatari na ueleze ni kwa nini zina hatari ya kubaguliwa. Sababu: [maandishi]

2) Udhibiti wa seva mbadala wa orodha:

Chunguza orodha hii ya vigeu vinavyotumika katika muundo wa mkopo. Ni zipi zinaweza kuwa wakala wa sifa zinazolindwa na kusababisha hatari ya ubaguzi usio wa moja kwa moja? Andika uhalalishaji wako kwa kila lahaja hatari. Orodha: [vigezo]

3) Muhtasari wa uamuzi katika suala la haki (upande wowote, unaoelezewa):

Jukumu lako: msaidizi anayetayarisha mantiki ya uamuzi unaoeleweka. Tegemea tu vigezo halali, visivyo na ubaguzi (uwiano wa deni kwa mapato, historia ya malipo, dhamana). USIREJEE mali iliyolindwa na utofauti wa mbadala. Andika mantiki kwa lugha rahisi ambayo mteja ataelewa. Nitatoa kibali.

4) Rasimu ya majibu ya pingamizi:

Mteja alikata rufaa ya kunyimwa mkopo na anataka kuhesabiwa haki. Rasimu ya jibu la heshima na la maelezo kwa kuzingatia vigezo halali; Mkumbushe mteja haki yake ya kukaguliwa na kusahihishwa na binadamu. Usitumie athari zozote za kibaguzi. Sababu iliyothibitishwa ya kukataliwa: [sababu]

Mwongozo dhaifu / Mwongozo thabiti

Agizo dhaifu:

Maombi katika mkoa huu ni hatari sana, tutumie habari za wilaya kwa uzito zaidi katika mfano ili usahihi uweze kuongezeka.

Mbinu hii inaimarisha ubaguzi usio wa moja kwa moja unaozingatia wilaya; Inahalalisha matokeo haramu kwa jina la "kupiga".

Agizo lenye nguvu:

Jukumu lako: msaidizi wa ukaguzi wa haki. Alamisha vigeu vilivyotumika ambavyo vinaleta hatari ya vigeu vingine mbadala. Pendekeza ni vipimo vipi ninapaswa kufuata ili kulinganisha maamuzi kati ya vikundi kulingana na kiwango cha idhini/kukataliwa. Kamwe usiimarishe kigezo cha ubaguzi; kuelekeza kwa vigezo halali na vinavyoelezeka.

Nia thabiti inatafuta hatari ya wakala, inaleta vipimo vya usawa na inakataa ubaguzi.

kesi tatu ndogo

Kesi ya 1 - Upendeleo wa kihistoria. Muundo mmoja hupatia kikundi fulani cha taaluma alama ya chini kimfumo kwa sababu kilipewa mkopo mdogo hapo awali. Ukaguzi wa haki unaonyesha kuwa kiwango cha kukataliwa kwa kundi hili ni 30% zaidi kuliko wengine katika viwango sawa vya mapato. Mfano huo umewekwa upya na vigezo halali vya mapato na malipo.

Kesi ya 2 - Tofauti ya ziada. Msimbo wa eneo ni kigezo chenye nguvu katika modeli. Ukaguzi unaonyesha kuwa msimbo wa eneo unapishana na baadhi ya vitongoji vilivyo na watu wa kabila, na hivyo kusababisha ubaguzi wa asili usio wa moja kwa moja. Tofauti huondolewa na kubadilishwa na vigezo halali vya kifedha; utendaji unabaki katika kiwango kinachokubalika, ubaguzi unaondolewa.

Kesi ya 3 - Haki ya kupinga. Mteja aliyekataliwa anauliza kuhesabiwa haki. Benki hutoa uhalali unaoweza kuelezeka (uwiano mkubwa wa deni kwa mapato) na inakubali ombi la ukaguzi wa kibinadamu. Uhakiki unaonyesha kutosoma kwa hati; Uamuzi huo umesahihishwa. Ufafanuzi na haki ya kupinga hufidia kosa kwa haki.

Vipimo vya haki: tunapima nini na jinsi gani

"Je, mfano huo ni wa haki?" Hakuna jibu moja kwa swali; Kuna fasili nyingi za haki, na wakati mwingine zinapingana. Hapa kuna njia chache ambazo hufuatwa kivitendo katika benki:

• Ulinganisho wa kiwango cha idhini/kukataliwa: Je, kiwango cha uidhinishaji ni tofauti kimfumo kati ya vikundi tofauti vilivyo na wasifu sawa wa kifedha (k.m. vikundi vya jinsia)? Tofauti kubwa na isiyoelezeka ni ishara ya upendeleo.
• Usawa wa kiwango cha makosa: Je, kiwango cha kukataa kwa modeli (kukataa maombi halali) kimesawazishwa katika vikundi vyote? Ikiwa kundi moja limekataliwa isivyo haki mara nyingi zaidi kuliko lingine, kuna tatizo.
• Urekebishaji: Je, wateja ambao modeli huwaita "hatari kubwa" kweli hubadilika kwa viwango sawa katika kila kikundi? Maana ya alama haipaswi kuhama kutoka kundi hadi kundi.

Vipimo hivi wakati mwingine haviwezi kutolewa kwa wakati mmoja; Ambayo tafsiri ya haki ya kutanguliza mbele si uamuzi wa kiufundi bali wa kimaadili na wa kisheria na unaohitaji utawala wa kibinadamu.

Kidokezo: Pima kipimo cha usawa kwa vipindi vya kawaida, sio tu unapounda muundo. Mtindo anaweza kuishi kwa haki na kuwa na upendeleo baada ya muda kwa sababu ya upotovu wa data. Haki si suala la "kuanzishwa" bali ni "kufuatilia".

Makosa ya kawaida

• Uongo wa "data ya lengo". Kwa kudhani kuwa mfano hauna upande wowote; data hubeba upendeleo wa kihistoria.
• Futa tu safu nyeti. Kuondoa mali iliyolindwa na vigeu vya seva mbadala vinavyopuuza.
• Si kufuatilia vipimo vya haki. Bila kulinganisha kiwango cha kukataliwa/kosa kati ya vikundi hata kidogo.
• Kutetea uamuzi wa sanduku nyeusi. Kuzingatia uamuzi ambao hauwezi kuhesabiwa kuwa halali.
• Kuondoa haki ya kupinga. Inalemaza ukaguzi wa kibinadamu kwa sababu "hupunguza kasi ya mchakato."

Tahadhari: Ubaguzi mara nyingi hautokei kwa uovu bali kutokana na kutojali. Tofauti iliyoongezwa kwa sababu "inaongeza usahihi" inaweza kutenga kikundi bila kujua. Kwa hiyo haki haitegemei kwa nia njema bali katika kupima mara kwa mara.

Kwa muhtasari

Miundo ya AI hubeba mapendeleo ya data wanayojifunza, na ubaguzi katika benki ni hatari ya kisheria, ya kimaadili na sifa. Ubaguzi wa moja kwa moja ni kutumia kipengele kinacholindwa; Ubaguzi usio wa moja kwa moja, kwa upande mwingine, unazalisha matokeo sawa na vigeu vya proksi (msimbo wa zip, jina). Haki si kufuta safu nyeti; Imehakikishwa na vipimo vya haki, udhibiti wa proksi, kuelezeka na haki ya kupinga. Katika sentensi moja: Mchoro unarudia yaliyopita; Ni wajibu wa mwanadamu kusimamia haki na kukataa ubaguzi.

Jukumu la maombi

Andika orodha ya vigeu 8-10 vya muundo wa mkopo (baadhi yenye hatari ya kukusudia ya seva mbadala: msimbo wa posta, jina, kitengo cha ununuzi). 2. Fanya ukaguzi wa wakala kwa kiolezo na uweke alama kwenye zile hatari kwa sababu zao. Kisha andika maandishi ya uhalalishaji wa kibaguzi na uchanganue kwa kiolezo cha 1. Hatimaye, panga katika aya ni vipimo vipi vya usawa utakavyofuatilia ili kulinganisha kiwango cha kukataliwa kwa modeli kati ya vikundi.

orodha ya ukaguzi

• [ ] Nimeangalia kuwa modeli/sababu haitumii mali zinazolindwa.
• [ ] Pia nilikagua hatari ya vigeu vya seva mbadala.
• [ ] Nilipanga kulinganisha kiwango cha idhini/kukataliwa na makosa kati ya vikundi.
• [ ] Nilihakikisha kwamba kila uamuzi ulikuwa na sababu zinazoeleweka.
• [ ] Nilimpa mteja haki ya kupinga na kukagua kibinadamu.
• [ ] Sikuvuka hata mstari mwekundu wa ubaguzi kwa misingi ya "kupiga".