Faida:
- Inatambua data, muundo na vyanzo vya matumizi ya upendeleo wa algoriti na hujaribu matokeo kwa msingi wa kikundi.
- Inafafanua jinsi kitanzi cha maoni na hitilafu ya uwakilishi hukuza ukosefu wa usawa na kuanzisha udhibiti wa athari.
- Inahakikisha uwajibikaji kwa kuhakikisha kueleweka na kukata rufaa katika kila uamuzi wa kiotomatiki.
Umma lazima utumie uwezo wake kwa usawa kwa wote: kutendewa sawa kwa raia wawili katika hali zinazofanana, tofauti za uwiano kwa hali tofauti. Kanuni hii ya usawa ni wajibu wa kikatiba. Ujuzi wa Bandia unaweza kuboresha na kuvuruga uwanja huu kimya kimya. Inaweza kuboreka kwa sababu sheria inayotumika mara kwa mara inaweza kupunguza uholela na upendeleo wa kibinadamu. Inaweza kuharibika kwa sababu miundo ya AI hujifunza kutoka kwa data ya zamani, na data ya zamani hubeba ubaguzi wa zamani. Iwapo mfumo umefunzwa kuhusu data ambayo imekuwa ikidhoofisha kikundi fulani kihistoria, hubeba hasara hiyo katika siku zijazo—na kwa njia ambayo ni ngumu zaidi kugundua, kwa kisingizio cha "algorithm ya lengo." Katika kitengo hiki, utajifunza jinsi ya kutambua upendeleo wa algorithmic (upendeleo wa kimfumo wa pato la mfano dhidi ya vikundi fulani) unapotumia AI katika sekta ya umma, jinsi ya kuipunguza na, muhimu zaidi, jinsi ya kuhakikisha uwajibikaji wa algoriti (sababu ya uamuzi wa kiotomatiki kuelezeka, kukaguliwa na kupingwa).
Upendeleo unatoka wapi?
Kuna vyanzo kadhaa vya upendeleo wa algorithmic, na zote ni hatari kwa umma:
- Upendeleo wa kihistoria: Data ya mafunzo ina ukosefu wa usawa wa zamani. Kwa mfano, ikiwa eneo limekuwa na huduma kidogo hapo awali, "data ya mahitaji" inaweza kuonyesha eneo hilo kuwa na mahitaji ya chini - wakati mahitaji yalikuwa ya chini kwa sababu hapakuwa na huduma.
- Upendeleo wa uwakilishi: Baadhi ya makundi hayawakilishwi katika data (yale ambayo hayana ufikiaji wa kidijitali, vikundi vya lugha za walio wachache) na muundo huo haufanyi kazi vizuri kwao.
- Upendeleo wa wakala: Hata kama muundo hauangalii moja kwa moja kigezo kilichopigwa marufuku (kabila, dini), unaweza kutoa ubaguzi sawa kwa kuangalia proksi inayohusishwa nao (jirani, jina, msimbo wa posta).
- Upendeleo wa kipimo: Tunachopima sio kile tunachotaka kupima. "Idadi ya malalamiko" hupima uwezo wa kulalamika badala ya hitaji.
Tahadhari: Inapotosha kusema "Niliondoa data nyeti (jinsia, kabila) kutoka kwa mfano, sasa ni sawa". Ubaguzi kupitia vigeu vya wakala unaweza kuendelea. Haki haipatikani kwa kufuta pembejeo, lakini kwa kupima matokeo kati ya vikundi.
Kujaribu usawa: tazama matokeo
Ikiwa mfumo ni wa haki au la inaweza kueleweka kwa kuangalia matokeo yake, sio nia yake. Njia ya msingi: kugawanya uamuzi katika vikundi na kulinganisha. Je, matokeo kama vile kiwango cha kukubalika/kukataliwa, kiwango cha makosa, muda wa kusubiri hutofautiana pakubwa kati ya makundi mbalimbali (jinsia, umri, eneo, mapato)? Ikiwa kuna tofauti, je, tofauti hii inatokana na sababu halali au ni ubaguzi? Kwa kuwa uchambuzi huu unaweza kuhitaji data ya kibinafsi, lazima ijumuishwe na ifanyike kwa mujibu wa KVKK.
Kidokezo: Kabla ya kuzindua mfumo mpya wa maamuzi unaoendeshwa na AI, gawanya maamuzi yake na vikundi vya watu na utoe "ripoti ya haki." Ikiwa utapata tofauti, "tofauti hii inaweza kuelezewa?" Peleka swali kwenye kamati ya watu.
Ufafanuzi na rufaa: moyo wa uwajibikaji
Katika sekta ya umma, hakuna raia anayeweza kunyimwa haki zake kwa jibu "mfumo uliamua hivyo." Kwa kila uamuzi wa kiotomatiki au unaosaidiwa na AI, mambo matatu lazima yahakikishwe:
- Ufafanuzi: Uamuzi ulitegemea nini, ni mambo gani yalikuwa na ufanisi, yanapaswa kuelezewa kwa lugha rahisi.
- Njia ya kukata rufaa: Wananchi wanapaswa kuwa na uwezo wa kupinga uamuzi huo na kumwomba mwanadamu kuupitia.
- Njia ya ukaguzi: Inapaswa kurekodi ni data ipi, modeli/toleo gani na uamuzi ulifanywa na mtu gani aliyewajibika.
kesi tatu ndogo
Kesi ya 1 - Kibadala cha mbadala kimenaswa. Muundo mmoja wa kipaumbele wa usaidizi haukutumia data nyeti bali uliangalia "msimbo wa posta." Katika jaribio la haki, baadhi ya vitongoji vilipatikana kupokea kipaumbele cha chini kwa utaratibu - kinachohusiana na msimbo wa posta, mapato na msongamano wa kikabila. Tofauti iliondolewa na kipaumbele kilihusishwa moja kwa moja na viashiria vya mahitaji.
Kesi ya 2 - pengo la uwakilishi. Chatbot ilikuwa na uwezekano wa 41% kupotosha maswali kutoka kwa raia kwa lugha asilia isiyo ya Kituruki; Data ya mafunzo ilikuwa na sehemu ndogo ya kikundi hiki. Wakati usaidizi wa lugha nyingi na kizingiti cha makabidhiano ya binadamu kiliongezwa, pengo lilizimika.
Kesi ya 3 - kukataliwa bila sababu. Taasisi moja kwa moja ilikataa ombi; mwananchi "kwanini?" Alipoulizwa, ofisa huyo hakuweza kueleza kwa sababu sababu ya mwanamitindo huyo haikueleweka. Tukio hilo lilionyesha kuwa wanamitindo wenye uwezo duni wa kuelezeka hawawezi kutumika kufanya maamuzi yanayozingatia haki; Mfumo huo umegeuzwa kuwa kielelezo ambacho hutoa uhalalishaji na kuhitaji idhini ya mwanadamu.
Violezo vinne vinavyoweza kunakiliwa
1) Chanzo cha skanning ya upendeleo:
Jukumu lako: mtaalam wa usawa wa algoriti. Angalia mchakato wa uamuzi unaoendeshwa na AI hapa chini. Orodhesha vyanzo vinavyowezekana vya upendeleo: (1) upendeleo wa kihistoria, (2) upendeleo wa uwakilishi (kundi lililowakilishwa chini), (3) vigeu vya seva mbadala (safu inayohusishwa na kigezo kilichokatazwa), (4) upendeleo wa kipimo. Toa mfano halisi kwa kila mmoja na uniambie jinsi ya kuijaribu. PROCESS: [mchakato wa uamuzi na data kutumika]
2) Mpango wa mtihani wa haki:
Tengeneza mpango wa upimaji wa haki kwa matokeo ya uamuzi ufuatao: ni vikundi gani (umri, jinsia, eneo, mapato) ninapaswa kuchanganua, vipimo vipi (kiwango cha kukubalika, kiwango cha makosa, muda wa kusubiri) ninapaswa kulinganisha, nitaamua vipi ikiwa tofauti hiyo ni halali au ya kibaguzi? Ongeza onyo la KVKK. UAMUZI: [uamuzi gani]
3) Taarifa ya uamuzi (kwa raia):
Andika maelezo ya rasimu ya kueleweka kwa raia kwa uamuzi ufuatao: ni mambo gani yalikuwa na ushawishi, kwa lugha nyepesi. Ongeza haki ya kukata rufaa mwishoni na uwezekano wa kuwa na mapitio ya kibinadamu [na muda wa kuthibitishwa]. Kwa kutumia maneno yasiyoeleweka kama vile "Mfumo uliamua hivyo." UAMUZI: [muhtasari na mambo ya ushawishi]
4) Angalia uwajibikaji kabla ya usambazaji:
Tengeneza orodha ya uwajibikaji kabla ya kuzindua mfumo wa uamuzi unaoendeshwa na AI: inaweza kuelezewa, kuna njia ya kukata rufaa, ni njia ya ukaguzi (toleo la data/modeli/inayowajibika) iliyodumishwa, majaribio ya haki yamefanywa, wapi kibali cha kibinadamu kiko. Ripoti vipengee vilivyokosekana kama alama nyekundu.SYSTEM: [mapishi]
Mwongozo dhaifu / Mwongozo thabiti
Dhaifu: "Je, mtindo huu wa uamuzi ni wa haki?"
Imara: "Jukumu lako ni mtaalamu wa uadilifu wa algorithmic. Kwa muundo huu wa kipaumbele cha usaidizi, kwanza tafuta vyanzo vya upendeleo (kihistoria, uwakilishi, utofautishaji mbadala, kipimo) na utoe mifano thabiti kwa kila moja. Kisha uje na mpango wa kupima usawa: uchanganuzi wa makundi, vipimo vipi, jinsi ya kuamua uhalali wa tofauti; ongeza KVKK, kabla ya kutoa orodha ya ukaguzi ya ukaguzi, eleza mfumo wa ukaguzi, kabla ya kutoa onyo la ukaguzi. njia, na kuashiria mapungufu."
Tofauti: kidokezo dhabiti hutafuta upendeleo kwenye chanzo chake, hutoa matokeo yaliyojaribiwa na vikundi, na hufanya uwajibikaji kuenea.
Vipimo na udhibiti wa haki
Ukubwa
Hatari
kudhibiti
data ya kihistoria
Zamani hubeba ukosefu wa usawa
Jaribio la matokeo kwa vikundi
uwakilishi
Inafanya kazi vibaya kwa kikundi fulani
Kiwango cha makosa kulingana na kikundi
kutofautiana kwa mbadala
ubaguzi wa siri
Uhusiano wa kigezo kinachoweza kubadilika-badilika
Ufafanuzi
uamuzi usio na msingi
Toa maelezo rahisi
pingamizi
kunyang'anywa
Njia ya ukaguzi wa kibinadamu
Hitilafu ya kitanzi cha maoni na uwakilishi
Aina ya hila zaidi ya ubaguzi wa kialgorithmic haifanyiki katika uamuzi mmoja mbaya lakini katika kitanzi cha maoni ambacho hujiimarisha baada ya muda (toleo la modeli huathiri data ya mafunzo inayofuata, ikiimarisha upendeleo uliopo). Kwa mfano, ikiwa muundo wa ukaguzi utaashiria eneo fulani kama "hatari," kadiri ukaguzi unavyoendelea, rekodi nyingi zinaundwa, mtindo huona eneo hilo kuwa hatari zaidi - ingawa tofauti imeongezeka katika eneo linalotazamwa, sio katika hatari halisi. Kinachofungua njia kwa hili mara nyingi ni kosa la uwakilishi (data ya mafunzo inayoonyesha vikundi vingine bila kukamilika au kwa kupotoshwa). Katika sekta ya umma, mizunguko hii inaweza kuweka vikundi visivyo na uwezo chini ya uangalizi mkali na vikwazo. Njia ya kujilinda ni kufuatilia athari za mfano, sio tu matokeo yake: kufuatilia mara kwa mara usambazaji wa maamuzi ya kikundi na sio kutekeleza kwa upofu mapendekezo ya mfano.
Kesi ndogo - shaka ya kujikuza. Muundo wa kutambua ulaghai wa ustawi uliashiria eneo ambalo lilikuwa limekaguliwa zaidi hapo awali kama hatari kubwa. Timu ilipotoa nguvu ya utekelezaji kutoka kwa data na kupima "kiwango cha kweli cha ugunduzi kulingana na idadi ya watu," iligundua kuwa tofauti kati ya maeneo zilitoweka kwa kiasi kikubwa; Mfano huo ulikosea usawa kwa hatari halisi.
Kiolezo cha udhibiti wa athari kulingana na kikundi:
Kazi: Chunguza data ya uamuzi ifuatayo kwa vikundi (hakuna data ya kibinafsi, muhtasari wa kitengo).Data: [kundi | uamuzi kamili | kiwango cha uamuzi hasi | kiwango cha ukaguzi]Pato: 1) Je, kiwango cha uamuzi hasi kinaonyesha tofauti kubwa kati ya vikundi? 2) Je, tofauti inaweza kuwa kutokana na hatari halisi au udhibiti/uwakilishi mkubwa? 3) Je, kuna ishara yoyote ya kitanzi cha maoni? 4) Mapendekezo ya udhibiti wa binadamu.Kanuni: Kuanzisha dai la sababu; Orodhesha maelezo na njia zinazowezekana za kujaribu.
Tahadhari: Hoja kwamba "mfano hauegemei upande wowote kwa sababu inatumika kwa sheria sawa kwa kila mtu" ni ya kupotosha. Sheria hiyo hiyo, inapotumika kwa data iliyopotoka, huhifadhi na kukuza ukosefu wa usawa. Haki inapimwa kwa usawa wa matokeo, sio kanuni.
Makosa ya kawaida
- Kufuta data nyeti na kufikiria "ni sawa". Vigezo vya urithi vinaendeleza ubaguzi; jaribu matokeo.
- Kupima haki kwa nia. Haki inaonekana mwishoni; Panga maamuzi katika vikundi na ulinganishe.
- Kusahau kikundi kisicho na uwakilishi. Mfano unaweza kufanya kazi kimya kimya kwa kikundi cha wachache; Angalia makosa ya kikundi.
- Kutumia mtindo usioelezewa katika maamuzi ya kutoa haki. Mfumo ambao hauwezi kutoa uhalalishaji hauwezi kufanya maamuzi ya umma.
- Kutotoa njia yoyote ya kupinga. Kila uamuzi wa kiotomatiki unapaswa kukaguliwa na mwanadamu.
- Kutoweka njia ya ukaguzi. Inapaswa kurekodi ni data/mfano/mtu gani anayehusika uamuzi ulifanywa naye.
Kwa muhtasari
Katika sekta ya umma, AI inaweza kuongeza uthabiti lakini pia kubeba kimya kimya ubaguzi wa zamani. Upendeleo hutoka kwa data ya kihistoria, pengo la uwakilishi, vigeu vya wakala, na kipimo kisicho sahihi; Kufuta data nyeti hakutatatua. Haki hupatikana kwa kupima matokeo katika makundi yote. Na hakuna mwananchi anayeweza kunyimwa haki na "mfumo ulisema hivyo": kila uamuzi lazima uelezewe, uweze kupingwa na kukaguliwa. Ni taasisi inayowajibishwa, sio kanuni.
Jukumu la maombi
Chagua mchakato wa uamuzi unaoendeshwa na AI au otomatiki katika kitengo chako. Orodhesha upendeleo unaowezekana na utafute angalau hatari moja inayobadilika kwa kutumia kiolezo cha "Chanzo cha upendeleo". Amua ni michanganuo ya vikundi gani ya kuangalia na "mpango wa mtihani wa haki". Kwa sampuli ya uamuzi, toa maelezo yanayowakabili raia kwa kiolezo cha "Maelezo ya Uamuzi".
orodha ya ukaguzi
- [ ] Nilichanganua vyanzo vya upendeleo (kihistoria, uwakilishi, wakala, kipimo).
- [ ] Sikufuta tu data nyeti; Nilijaribu matokeo kwa vikundi.
- [ ] Nilidhibiti kiwango cha makosa kwa vikundi vyenye uwakilishi mdogo.
- [ ] Nimetoa uhalalishaji rahisi, unaoelezeka kwa kila uamuzi.
- [ ] Nimefafanua pingamizi na njia ya mapitio ya binadamu.
- [ ] Njia ya ukaguzi (toleo la data/modeli/inayowajibika) inadumishwa.