Qligħ:
- Kapaċità li tirrikonoxxi r-riskji ta' diskriminazzjoni, preġudizzju u diskriminazzjoni indiretta fl-ipprezzar u s-sottoskrizzjoni u tittestjahom fil-produzzjoni tal-intelliġenza artifiċjali
- Kapaċità li tosserva d-dritt għal spjegazzjoni u oġġezzjoni fi ħdan il-qafas tar-regolamenti SEDDK, KVKK u prinċipji awtomatiċi tat-teħid tad-deċiżjonijiet
- Kapaċità li tapplika kontroll uman u obbligi ta' ġustifikazzjoni f'deċiżjonijiet awtomatizzati ta' riskju għoli
L-assigurazzjoni hija negozju li l-gruppi u l-prezzijiet jirriskjaw; iżda dan il-grupp irid ikun ġust. L-għoti ta' primjum ogħla jew iċ-ċaħda ta' kopertura lil persuna minħabba karatteristiċi protetti bħalma huma s-sess, l-etniċità, it-twemmin, ir-reġjun ta' residenza tagħha hija diskriminazzjoni inġusta u hija pprojbita. L-intelliġenza artifiċjali (software li jitgħallem mid-dejta storika u li jiġġenera rakkomandazzjonijiet dwar il-prezz u d-deċiżjonijiet) toħloq periklu partikolari f’dan il-qasam: tista’ titgħallem xejriet inġusti fid-dejta storika u bla ma trid tipperpetwa jew saħansitra jaħbi d-diskriminazzjoni. Barra minn hekk, tista' tagħmel dan mhux direttament iżda indirettament (permezz ta' varjabbli prokura). F'din l-unità, inti titgħallem kif tirrikonoxxi r-riskji ta 'preġudizzju u diskriminazzjoni fl-ipprezzar u s-sottoskrizzjoni, kif tittestja l-output tal-intelliġenza artifiċjali għall-ġustizzja, u kif tosserva d-dritt għall-ispjegabbiltà u l-oġġezzjoni fi ħdan il-qafas tas-SEDDK (l-Aġenzija tar-Regolamentazzjoni u Superviżjoni tal-Pensjonijiet tal-Assigurazzjoni u Privati), KVKK u prinċipji awtomatiċi tat-teħid tad-deċiżjonijiet. Din l-unità mhix konsulenza legali; Jispjega l-prinċipji ġenerali, fi kwalunkwe każ konkret, kun żgur li tikkonsulta l-unità legali/tal-konformità.
Minn fejn ġejjin il-preġudizzji u d-diskriminazzjoni?
Il-preġudizzju tal-IA ġej minn tliet sorsi ewlenin:
- Preġudizzju tad-dejta: Il-mudell jitgħallem dwar l-inġustizzja fid-dejta storika. Pereżempju, jekk ċertu grupp ikun ingħata sistematikament primjums għoljin fil-passat, il-mudell ikompli jqis dan bħala "normali".
- Varjabbli surrogat (proxy): Anke jekk il-mudell ma jużax direttament il-karatteristika protetta (sess, oriġini), jiddiskrimina indirettament billi juża varjabbli li hija relatata ħafna magħha (viċinat, isem, mudell tax-xiri).
- Preġudizzju tat-teħid tal-kampjuni: Minħabba li xi gruppi huma sottorappreżentati fid-dejta, il-mudell jipproduċi ġudizzji mhux affidabbli u inġusti dwarhom.
Hemm żewġ tipi ta’ diskriminazzjoni. Diskriminazzjoni diretta: użu sfaċċat ta' karatteristika protetta. Diskriminazzjoni indiretta: meta kriterju apparentement newtrali jaffettwa grupp partikolari b'mod sproporzjonat. It-tieni huwa aktar insidjuż għaliex iseħħ mingħajr intenzjoni u huwa diffiċli biex jinstab.
Attenzjoni: Id-difiża li "il-mudell huwa bbażat fuq l-istatistika, għalhekk huwa oġġettiv" hija żbaljata. L-istatistika tinkludi wkoll inġustizzja fil-passat; Il-mudell ma jilleġittimihx, jipperpetwah. Il-ġustizzja hija xi ħaġa li trid tiġi ttestjata b'mod attiv.
Output tal-ittestjar għall-ġustizzja
Ittestja l-output tal-AI (rakkomandazzjoni tal-prezz, raġuni ta’ rifjut, punteġġ tar-riskju) bi tliet mistoqsijiet għall-ġustizzja:
- Ir-raġuni hija leġittima? Id-deċiżjoni hija bbażata fuq kriterji li għandhom relazzjoni reali u ġustifikabbli mar-riskju, jew fuq il-proprjetà protetta jew il-prokura tagħha?
- Hemm prokura? Waħda mill-varjabbli użati (il-viċinat, l-isem, ix-xogħol, l-istat ċivili) tista’ tkun assoċjata b’mod qawwi ma’ karatteristika protetta?
- Jista’ jiġi spjegat? Tista' tispjega d-deċiżjoni lill-klijent u lill-awditur b'mod ċar u difiżibbli? "Il-mudell qal hekk" mhix dikjarazzjoni.
Jekk ġustifikazzjoni ma tgħaddix minn dawn it-tliet testijiet, tiġi miċħuda u d-deċiżjoni hija bbażata fuq kriterji leġittimi.
Tip: Ittestja r-raġuni għal rifjut jew primjum għoli b'din is-sentenza: "Se nkun imbarazzat jekk nispjega dan lill-klijent u lill-awditur?" Ġustifikazzjoni tal-mistħija jew indifendibbli (viċinat, isem, oriġini) m'għandhiex tintuża.
Qafas leġiżlattiv: SEDDK, KVKK, deċiżjoni awtomatika
L-użu ta 'intelliġenza artifiċjali fl-assigurazzjoni huwa suġġett għal diversi regolamenti. Prinċipji ewlenin:
- Prinċipji tas-SEDDK: L-attivitajiet tal-assigurazzjoni għandhom jitwettqu b'mod ġust, trasparenti u li jipproteġi l-konsumatur; L-ipprezzar għandu jkun ġustifikabbli u m'għandux ikun hemm diskriminazzjoni inġusta.
- KVKK: Id-dejta personali trid tiġi pproċessata skont il-liġi, limitata għall-iskop u b'mod sigur. Data speċjali, bħas-saħħa, hija soġġetta għall-ogħla protezzjoni.
- Prinċipji ta’ teħid ta’ deċiżjonijiet awtomatizzati: F’deċiżjonijiet li huma bbażati biss fuq ipproċessar awtomatiku u jaffettwaw b’mod sinifikanti lill-persuna (pereżempju, rifjut magħmul minn intelliġenza artifiċjali biss), il-persuna; Id-drittijiet li toġġezzjona għad-deċiżjoni, li titlob intervent uman u li titgħallem ir-raġuni tad-deċiżjoni jiġu fuq quddiem.
Għalhekk, l-ispjegazzjoni, il-kontroll uman, u l-ġustifikazzjoni huma essenzjali f'deċiżjonijiet b'impatt għoli. Id-deċiżjoni mhux ġustifikata ta’ mudell ta’ “kaxxa sewda” hija kemm inkontrollabbli kif ukoll f’kunflitt ma’ dawn id-drittijiet.
Pass pass: Deċiżjoni ġusta u armonjuża
- Identifika proprjetajiet protetti. Sess, oriġini, twemmin, saħħa, reġjun ta’ residenza, eċċ.
- Agħmel proxy scan. Mistoqsija dwar ir-relazzjoni tal-varjabbli użati ma 'proprjetajiet protetti.
- Poġġi l-ġustifikazzjoni għall-prova tal-leġittimità. Hemm relazzjoni reali mar-riskju? Jista’ jiġi spjegat?
- Żid il-kontroll uman. Ħalli bniedem jirrevedi r-riżultat awtomatiku f'deċiżjoni b'impatt għoli.
- Iddokumenta r-raġuni. Irreġistra fuq liema kriterji leġittimi kienet ibbażata d-deċiżjoni.
- Kun af il-mod kif tappella. Ipprovdi lill-klijent id-dritt li joġġezzjona, reviżjoni umana u ġustifikazzjoni.
tliet każijiet żgħar
Każ 1 — Tiċħad il-prokura. Mudell tal-ipprezzar tad-djar issuġġerixxa premium sistematikament għoli għal kodiċi zip partikolari. L-espert eżamina: il-kodiċi postali jikkoinċidu ma 'żona b'ċerta konċentrazzjoni etnika; din kienet varjabbli prokura. Meta r-riskju attwali (età tal-bini, tip ta 'struttura, storja ta' ħsara) jitqassam, il-biċċa l-kbira taż-żieda ma tibqax iġġustifikata. Il-prezz ġie stabbilit mill-ġdid abbażi ta' kriterji ta' riskju leġittimi.
Każ 2 — Grupp sottorappreżentat. Għal prodott tal-kura tas-saħħa, il-mudell offra primjum eċċessivament għoli għal grupp ta 'età żgħir. Raġuni: dan il-grupp tant kien sottorappreżentat fid-dejta li ftit danni kbar għamlu lill-grupp kollu jidher "f'riskju". L-espert wettaq korrezzjoni ta' kredibbiltà (affidabbiltà statistika) u ddokumenta li r-rakkomandazzjoni ma kinitx affidabbli; Żieda inġust ma ġietx applikata.
Każ 3 — Dritt ta' oġġezzjoni. Applikazzjoni ġiet awtomatikament miċħuda b'punteġġ imħaddem mill-AI. Il-klijent oġġezzjona. Bħala parti mill-proċess ta' adattament, id-deċiżjoni ġiet eżaminata mill-ġdid minn espert; Il-punteġġ deher li kien ibbażat fuq data nieqsa (ħsara fil-passat mhux imqabbla). Id-deċiżjoni ġiet ikkoreġuta. Mingħajr il-kontroll tal-bniedem u d-dritt tal-oġġezzjoni, ir-rifjut inġust ikun permanenti.
Erba' prompts ikkupjabbli
1) Skennjar ta' prokura u diskriminazzjoni:
Iċċekkja l-ġustifikazzjoni tal-ipprezzar/deċiżjoni li ġejja għall-ġustizzja: [ġustifikazzjoni]Fittex: il-karatteristika protetta (sess, oriġini, twemmin, saħħa, reġjun ta’ residenza) tintuża direttament jew indirettament (prokura: lokal, isem, professjoni, eċċ.)? Għal kull varjabbli dubjuż, spjega għaliex jista' jkun prokura u ssuġġerixxi alternattiva leġittima.
2) Test tal-leġittimità tal-ġustifikazzjoni:
Ittestja r-raġuni li ġejja ta' ċaħda/bonus għoli bi tliet mistoqsijiet: [ġustifikazzjoni]1. Hemm relazzjoni reali u ġustifikabbli mar-riskju?2. Hija bbażata fuq proprjetà protetta jew il-prokura tagħha?3. Jista' jiġi spjegat lill-klijent u lill-awditur? Wieġeb kull mistoqsija b'mod ċar; Immarka r-raġuni li ma tgħaddix mit-test bħala "RIFETT".
3) Abbozz ta' ġustifikazzjoni spjegabbli:
Abbozz ta' raġuni artikolata lill-klijent għad-deċiżjoni bbażata fuq il-kriterji ta' riskju VERIFIKATI u leġittimi li ġejjin: [kriterji leġittimi]Ton: rispettuż, ċar. L-użu ta' proprjetà/prokura protetta. Iddikjara d-dritt tal-klijent li joġġezzjona u jitlob reviżjoni umana. Dan huwa abbozz; jikkonferma espert.
4) Lista ta 'kontroll ta' spezzjoni umana:
Oħloq lista ta' kontroll tal-verifika umana għal deċiżjoni awtomatizzata b'impatt għoli:Tip ta' deċiżjoni: [ċaħda/premium għoli/restrizzjoni kollaterali]Lista: reviżjoni esperta kwalifikata, dejta kkontrollata, ġustizzja/kontroll tal-proxy, dokument ta' ġustifikazzjoni, avviż tal-appell tal-klijent, rekord tat-traċċa.
Pront dgħajjef / Pront qawwi
Dgħajjef: "Iddetermina l-aktar prezz profitabbli b'din id-dejta, u ikteb il-ġustifikazzjoni."
Problema: Ekwità, prokura u spjegabilità mhumiex rispettati; il-mudell jista' jipperpetwa u jiġġustifika d-diskriminazzjoni tal-passat.
Qawwija: "Iċċekkja din il-ġustifikazzjoni għal prokura u diskriminazzjoni; sinjal ta' punti li jiddependu fuq il-karatteristika protetta jew il-prokura tiegħu u ibdel bi kriterju ta' riskju leġittimu. Iddeskrivi ġustifikazzjoni spjegabbli."
Għaliex huwa tajjeb: Id-diskriminazzjoni hija ttestjata b'mod attiv, id-deċiżjoni hija bbażata fuq kriterji leġittimi u spjegabbli.
tabella ta 'tqabbil
Suġġett
approċċ riskjuż
approċċ it-tajjeb
Produzzjoni tal-mudell
"L-istatistika hija oġġettiva"
Ittestja b'mod attiv il-ġustizzja
Għażla varjabbli
Uża kull data
Oħroġ prokuri
ġustifikazzjoni
"Dak qal il-mudell"
Kriterju leġittimu, spjegabbli
Deċiżjoni ta 'impatt għoli
kompletament awtomatika
Is-superviżjoni tal-bniedem hija obbligatorja
Dritt tal-klijent
Mhux irrappurtat
Oġġezzjoni + reviżjoni umana + ġustifikazzjoni
Żbalji komuni
- Id-difiża "l-istatistika hija oġġettiva". Tiġġustifika l-inġustizzja tal-passat.
- Injora l-prokura. Diskriminazzjoni indiretta bbażata fuq lokal/isem/professjoni.
- Deċiżjoni mhux affidabbli għal grupp sottorappreżentat. Jekk wieħed jassumi li r-rata miksuba minn kampjun żgħir hija preċiża.
- Deċiżjoni tal-kaxxa sewda. L-implimentazzjoni ta' deċiżjoni awtomatika li r-raġuni tagħha ma tistax tiġi spjegata.
- Li ma jagħrfux id-dritt ta' oġġezzjoni. Li ma tagħtix lill-klijent id-dritt għal reviżjoni umana u ġustifikazzjoni.
Fil-qosor
L-intelliġenza artifiċjali tista' titgħallem id-diskriminazzjoni fid-dejta storika u tkompli b'mod indirett (permezz ta' prokura) fl-ipprezzar u s-sottoskrizzjoni. Ittestja b'mod attiv il-ġustizzja: identifika proprjetajiet u prokuri protetti, ittestja l-ġustifikazzjoni għal-leġittimità u l-ispjegabbiltà. SEDDK, KVKK u prinċipji ta' teħid ta' deċiżjonijiet awtomatiċi; Ipprezzar ġust jeħtieġ spjegazzjoni, reviżjoni umana u d-dritt li toġġezzjona. Il-kontroll tal-bniedem huwa essenzjali f'deċiżjonijiet b'impatt għoli. Fil-każ speċifiku, ikkonsulta lid-dipartiment legali/ta' konformità; Id-diskriminazzjoni hija l-linja l-ħamra.
Kompitu ta' applikazzjoni
Ikteb lista ta' 10 varjabbli li juża mudell ta' prezzijiet (attwali jew eżempju). Għal kull wieħed, wieġeb il-mistoqsija "dan jista' jkun prokura għal proprjetà protetta"; Bandiera dawk suspettużi. Imbagħad poġġi kampjun ta 'ġustifikazzjoni ta' rifjut permezz tat-test ta 'leġittimità #2: tgħaddi mit-test, u jekk le, kif tissostitwiha bi kriterju leġittimu?
lista ta' kontroll
- [ ] Jien speċifikajt proprjetajiet protetti.
- [ ] Skennjt il-varjabbli għal prokura.
- [ ] Jiena nressaq il-ġustifikazzjoni għall-prova tal-leġittimità u l-ispjegabbiltà.
- [ ] Jien wettaqt kontrolli ta' affidabbiltà għal gruppi sottorappreżentati.
- [ ] Żidt il-kontroll uman fid-deċiżjoni ta 'impatt għoli.
- [ ] Iddokumentajt ir-raġuni u tajt lill-klijent id-dritt li joġġezzjona/reviżjoni umana.
- [ ] Meta kelli dubju, ikkonsultajt lid-dipartiment legali/tal-konformità.