Haki, Ubaguzi na Sheria: SEDDK, KVKK na Kanuni za Ujasusi Bandia

Faida:

• Uwezo wa kutambua hatari za ubaguzi, upendeleo na ubaguzi usio wa moja kwa moja katika bei na uandishi wa chini na kuzijaribu katika matokeo ya akili ya bandia.
• Uwezo wa kuzingatia haki ya kuelezewa na kupinga ndani ya mfumo wa kanuni za SEDDK, KVKK na kanuni za kufanya maamuzi moja kwa moja.
• Uwezo wa kutumia udhibiti wa kibinadamu na kuhalalisha majukumu katika maamuzi ya hatari ya kiotomatiki

Bima ni biashara ambayo vikundi na bei huhatarisha; lakini kikundi hiki kinapaswa kuwa sawa. Kutoa malipo ya juu zaidi au kumnyima mtu huduma kwa sababu ya sifa zinazolindwa kama vile jinsia yake, kabila, imani, eneo anakoishi ni ubaguzi usio wa haki na umepigwa marufuku. Akili Bandia (programu inayojifunza kutokana na data ya kihistoria na kutoa mapendekezo ya bei na uamuzi) huleta hatari fulani katika eneo hili: inaweza kujifunza mifumo isiyo ya haki katika data ya kihistoria na kuendeleza au hata kuficha ubaguzi bila kukusudia. Kwa kuongezea, inaweza kufanya hivi sio moja kwa moja lakini isiyo ya moja kwa moja (kupitia utofauti wa wakala). Katika kitengo hiki, utajifunza jinsi ya kutambua hatari za upendeleo na ubaguzi katika kupanga bei na uandishi wa chini, jinsi ya kupima matokeo ya kijasusi bandia kwa ajili ya haki, na jinsi ya kuchunguza haki ya kuelezewa na pingamizi ndani ya mfumo wa SEDDK (Wakala wa Udhibiti na Usimamizi wa Pensheni ya Bima), KVKK na kanuni za kufanya maamuzi kiotomatiki. Kitengo hiki si ushauri wa kisheria; Inafafanua kanuni za jumla, katika hali yoyote ile halisi, hakikisha kuwa umewasiliana na kitengo cha sheria/uzingatiaji.

Ubaguzi na ubaguzi vinatoka wapi?

Upendeleo wa AI unatoka kwa vyanzo vitatu kuu:

• Upendeleo wa data: Muundo hujifunza kuhusu ukosefu wa haki katika data ya kihistoria. Kwa mfano, ikiwa kikundi fulani kimepewa malipo ya juu kwa utaratibu hapo awali, mtindo unaendelea kuzingatia hili kama "kawaida".
• Tofauti mbadala (proksi): Hata kama kielelezo hakitumii kipengele kinacholindwa moja kwa moja (jinsia, asili), kinabagua kwa njia isiyo ya moja kwa moja kwa kutumia kigezo ambacho kinahusiana nacho sana (kitongoji, jina, muundo wa ununuzi).
• Upendeleo wa sampuli: Kwa sababu baadhi ya makundi hayawakilishwi katika data, modeli hutoa hukumu zisizotegemewa na zisizo za haki kuwahusu.

Kuna aina mbili za ubaguzi. Ubaguzi wa moja kwa moja: matumizi ya wazi ya sifa inayolindwa. Ubaguzi usio wa moja kwa moja: wakati kigezo kinachoonekana kuwa kisichoegemea upande wowote kinaathiri vibaya kikundi fulani. Ya pili ni ya siri zaidi kwa sababu hutokea bila nia na ni vigumu kutambua.

Tahadhari: Utetezi kwamba "mfano unatokana na takwimu, kwa hivyo ni lengo" sio sahihi. Takwimu pia ni pamoja na udhalimu uliopita; Mfano hauhalalishi, unaiendeleza. Uadilifu ni jambo linalohitaji kujaribiwa kikamilifu.

Kupima matokeo kwa haki

Jaribu matokeo ya AI (pendekezo la bei, sababu ya kukataliwa, alama ya hatari) na maswali matatu kwa haki:

1. Je, sababu ni halali? Je, uamuzi huo unatokana na vigezo ambavyo vina uhusiano halisi na unaokubalika na hatari, au juu ya mali inayolindwa au wakala wake?
2. Je, kuna wakala? Je, mojawapo ya vigeu vilivyotumika (jirani, jina, kazi, hali ya ndoa) vinaweza kuhusishwa sana na sifa inayolindwa?
3. Je, inaweza kuelezwa? Je, unaweza kueleza uamuzi huo kwa mteja na mkaguzi kwa njia iliyo wazi na yenye kujitetea? "Mfano alisema hivyo" sio taarifa.

Ikiwa uhalali hautapita majaribio haya matatu, inakataliwa na uamuzi unategemea vigezo halali.

Kidokezo: Jaribu mantiki ya kukataliwa au malipo ya juu kwa sentensi hii: "Je, nitaaibika nikieleza hili kwa mteja na mkaguzi?" Haki ya aibu au isiyoweza kutetewa (jirani, jina, asili) haipaswi kutumiwa.

Mfumo wa kisheria: SEDDK, KVKK, uamuzi wa moja kwa moja

Matumizi ya akili ya bandia katika bima ni chini ya kanuni mbalimbali. Kanuni kuu:

• Kanuni za SEDDK: Shughuli za bima zinapaswa kutekelezwa kwa njia ya haki, ya uwazi na inayolinda walaji; Bei lazima ikubalike na kusiwe na ubaguzi usio wa haki.
• KVKK: Data ya kibinafsi lazima ishughulikiwe kwa mujibu wa sheria, pekee kwa madhumuni na kwa usalama. Data maalum, kama vile afya, ziko chini ya ulinzi wa juu zaidi.
• Kanuni za kufanya maamuzi kiotomatiki: Katika maamuzi ambayo yanategemea uchakataji kiotomatiki na kuathiri sana mtu (kwa mfano, kukataliwa kunakofanywa na akili bandia pekee), mtu; Haki za kupinga uamuzi huo, kuomba uingiliaji kati wa binadamu na kujifunza mantiki ya uamuzi huo zinakuja mbele.

Kwa hivyo, kuelezeka, udhibiti wa kibinadamu, na kuhesabiwa haki ni muhimu katika maamuzi yenye athari kubwa. Uamuzi usio na msingi wa mfano wa "sanduku nyeusi" hauwezi kudhibitiwa na unapingana na haki hizi.

Hatua kwa hatua: Uamuzi wa haki na usawa

1. Tambua mali zinazolindwa. Jinsia, asili, imani, afya, eneo la makazi, nk.
2. Fanya uchanganuzi wa seva mbadala. Swali uhusiano wa vigeu vinavyotumiwa na mali zinazolindwa.
3. Weka uhalali kwa mtihani wa uhalali. Je, kuna uhusiano wa kweli na hatari? Je, inaweza kuelezwa?
4. Ongeza udhibiti wa kibinadamu. Ruhusu mwanadamu akague matokeo ya kiotomatiki katika uamuzi wenye athari kubwa.
5. Andika mantiki. Rekodi ni vigezo gani halali uamuzi uliegemezwa.
6. Jua njia ya kukata rufaa. Mpe mteja haki ya kupinga, ukaguzi wa kibinadamu na uhalalishaji.

kesi tatu ndogo

Kesi 1 - Kukataa proksi. Muundo wa bei ya nyumba ulipendekeza malipo ya juu kwa utaratibu kwa msimbo fulani wa eneo. Mtaalam alichunguza: msimbo wa posta uliingiliana na eneo lenye mkusanyiko fulani wa kikabila; hii ilikuwa ni kigezo cha wakala. Wakati hatari halisi (umri wa jengo, aina ya muundo, historia ya uharibifu) imevunjwa, ongezeko kubwa la ongezeko halina haki tena. Bei imeanzishwa upya kulingana na vigezo halali vya hatari.

Kesi ya 2 - Kikundi kisicho na uwakilishi. Kwa bidhaa ya huduma ya afya, modeli ilitoa malipo ya juu kupita kiasi kwa kikundi kidogo cha umri. Sababu: kikundi hiki hakikuwakilishwa sana katika data hivi kwamba uharibifu mdogo ulifanya kundi zima kuonekana "hatarini". Mtaalam alifanya marekebisho ya uaminifu (kuegemea kwa takwimu) na kumbukumbu kwamba mapendekezo hayakuwa ya kuaminika; Ongezeko lisilo la haki halikutumika.

Kesi ya 3 - Haki ya kupinga. Programu ilikataliwa kiotomatiki kwa alama inayoendeshwa na AI. Mteja alipinga. Kama sehemu ya mchakato wa kukabiliana na hali hiyo, uamuzi huo ulichunguzwa tena na mtaalam; Alama ilionekana kulingana na data iliyokosekana (uharibifu usiolingana wa zamani). Uamuzi huo umesahihishwa. Bila udhibiti wa kibinadamu na haki ya kupinga, kukataliwa bila haki kungekuwa kwa kudumu.

Vidokezo vinne vinavyoweza kunakiliwa

1) Uchanganuzi wa wakala na ubaguzi:

Angalia uhalali wa bei/uamuzi ufuatao kwa haki: [kuhalalisha] Tafuta: je sifa inayolindwa (jinsia, asili, imani, afya, eneo la makazi) inatumika moja kwa moja au isivyo moja kwa moja (proksi: kitongoji, jina, taaluma, n.k.)? Kwa kila kigezo kinachotia shaka, eleza kwa nini kinaweza kuwa proksi na upendekeze mbadala halali.

2) Jaribio la uhalali wa kuhalalisha:

Jaribu mantiki ifuatayo ya kunyimwa/ bonasi ya juu kwa maswali matatu: [kuhalalisha]1. Je, kuna uhusiano wa kweli na unaokubalika kwa hatari?2. Je, inategemea mali iliyolindwa au wakala wake?3. Je, inaweza kuelezewa kwa mteja na mkaguzi? Jibu kila swali kwa uwazi; Weka alama kwa sababu ambayo haifaulu mtihani kama "KATAA".

3) Rasimu ya uhalali inayoelezewa:

Rasimu ya mantiki iliyobainishwa kwa mteja kwa uamuzi kulingana na vigezo vya hatari vilivyothibitishwa, vilivyothibitishwa: [vigezo halali]Toni: heshima, wazi. Kwa kutumia mali iliyolindwa/wakala. Taja haki ya mteja ya kupinga na kuomba ukaguzi wa kibinadamu. Hii ni rasimu; mtaalam anathibitisha.

4) Orodha ya ukaguzi wa binadamu:

Unda orodha ya ukaguzi wa kibinadamu kwa uamuzi wa kiotomatiki wenye athari kubwa: Aina ya uamuzi: [kukataliwa/kizuizi cha juu cha malipo/dhamana]Orodha: ukaguzi wa wataalamu waliohitimu, data iliyoangaliwa, haki/udhibiti wa wakala, hati ya uhalalishaji, notisi ya rufaa ya mteja, rekodi ya kufuatilia.

Mwongozo dhaifu / Mwongozo thabiti

Dhaifu: "Amua bei ya faida zaidi na data hii, na uandike haki."

Tatizo: Haki, wakala na ufafanuzi haviheshimiwi; mfano huo unaweza kuendeleza na kuhalalisha ubaguzi uliopita.

Imara: "Angalia uhalali huu wa wakala na ubaguzi; alama za alama zinazotegemea kipengele kinacholindwa au seva mbadala yake na ubadilishe na kigezo halali cha hatari. Eleza uhalalishaji unaoelezeka."

Kwa nini ni nzuri: Ubaguzi unajaribiwa kikamilifu, uamuzi unategemea vigezo halali na vinavyoelezewa.

chati ya kulinganisha

Somo

mbinu hatari

njia sahihi

Pato la mfano

"Takwimu ni lengo"

Jaribu haki kikamilifu

Uchaguzi unaobadilika

Tumia kila data

Dondoo wakala

kuhesabiwa haki

"Ndivyo alivyosema yule mwanamitindo"

Kigezo halali, kinachoelezeka

Uamuzi wa athari kubwa

kiotomatiki kikamilifu

Uangalizi wa kibinadamu ni wa lazima

Haki ya mteja

Haijaripotiwa

Pingamizi + mapitio ya binadamu + kuhalalisha

Makosa ya kawaida

• Utetezi wa "takwimu ni lengo". Kuhalalisha udhalimu uliopita.
• Kupuuza proksi. Ubaguzi usio wa moja kwa moja kulingana na ujirani/jina/taaluma.
• Uamuzi usioaminika kwa kikundi kisicho na uwakilishi. Kwa kudhani kuwa kiwango kilichopatikana kutoka kwa sampuli ndogo ni sahihi.
• Uamuzi wa sanduku nyeusi. Utekelezaji wa uamuzi wa moja kwa moja ambao sababu haiwezi kuelezewa.
• Bila kutambua haki ya kupinga. Kutompa mteja haki ya kukaguliwa na kuhesabiwa haki na binadamu.

Kwa muhtasari

Upelelezi wa Bandia unaweza kujifunza ubaguzi katika data ya kihistoria na kuuendeleza kwa njia isiyo ya moja kwa moja (kupitia seva mbadala) katika uwekaji bei na uandishi wa chini. Jaribu haki kikamilifu: tambua mali na washirika waliolindwa, uhalalishaji wa majaribio kwa uhalali na kuelezeka. SEDDK, KVKK na kanuni za kufanya maamuzi moja kwa moja; Bei ya haki inahitaji kuelezeka, ukaguzi wa kibinadamu na haki ya kupinga. Udhibiti wa kibinadamu ni muhimu katika maamuzi yenye athari kubwa. Katika kesi maalum, wasiliana na idara ya sheria / kufuata; Ubaguzi ni mstari mwekundu.

Jukumu la maombi

Andika orodha ya vigeu 10 ambavyo mtindo wa bei hutumia (halisi au mfano). Kwa kila moja, jibu swali "hii inaweza kuwa wakala wa mali inayolindwa"; Bendera wale wanaotiliwa shaka. Kisha weka sampuli ya kuhesabiwa haki kupitia mtihani wa uhalali #2: je, inapita mtihani, na ikiwa sivyo, unaibadilishaje kwa kigezo halali?

orodha ya ukaguzi

• [ ] Nimebainisha mali zinazolindwa.
• [ ] Nilichanganua viambajengo vya seva mbadala.
• [ ] Niliweka uhalali katika mtihani wa uhalali na kuelezeka.
• [ ] Nilifanya ukaguzi wa kutegemewa kwa vikundi visivyo na uwakilishi mdogo.
• [ ] Niliongeza udhibiti wa kibinadamu katika uamuzi wa athari ya juu.
• [ ] Niliandika mantiki na nikampa mteja haki ya kupinga/kukagua kibinadamu.
• [ ] Nikiwa na shaka, nilishauriana na idara ya sheria/uzingatiaji.