Fitimet:
- Aftësia për të njohur rreziqet e diskriminimit, paragjykimeve dhe diskriminimit indirekt në çmimet dhe nënshkrimin dhe testimin e tyre në prodhimin e inteligjencës artificiale
- Aftësia për të respektuar të drejtën e shpjegueshmërisë dhe kundërshtimit brenda kornizës së rregulloreve të SEDDK, KVKK dhe parimeve të vendimmarrjes automatike
- Aftësia për të zbatuar detyrimet e kontrollit njerëzor dhe justifikimit në vendimet e automatizuara me rrezik të lartë
Sigurimi është një biznes që grupon dhe rrezikon çmimet; por ky grupim duhet të jetë i drejtë. Dhënia e një premie më të lartë ose refuzimi i mbulimit për një person për shkak të karakteristikave të mbrojtura si gjinia, përkatësia etnike, besimi, rajoni i banimit është diskriminim i padrejtë dhe është i ndaluar. Inteligjenca artificiale (softuer që mëson nga të dhënat historike dhe gjeneron rekomandime për çmimet dhe vendimet) paraqet një rrezik të veçantë në këtë fushë: mund të mësojë modele të padrejta në të dhënat historike dhe padashur të përjetësojë apo edhe të fshehë diskriminimin. Për më tepër, ai mund ta bëjë këtë jo drejtpërdrejt, por tërthorazi (përmes një variabli proxy). Në këtë njësi, do të mësoni se si të njihni rreziqet e paragjykimit dhe diskriminimit në çmimet dhe nënshkrimin, si të testoni prodhimin e inteligjencës artificiale për drejtësi dhe si të respektoni të drejtën e shpjegueshmërisë dhe kundërshtimit brenda kornizës së SEDDK (Agjencia e Rregullimit dhe Mbikëqyrjes së Pensioneve Private të Sigurimeve), KVKK dhe parimeve automatike të vendimmarrjes. Kjo njësi nuk është një konsulencë ligjore; Ai shpjegon parimet e përgjithshme, në çdo rast konkret, sigurohuni që të konsultoheni me njësinë ligjore/përputhshmërie.
Nga vijnë paragjykimet dhe diskriminimi?
Paragjykimi i AI lind nga tre burime kryesore:
- Paragjykimi i të dhënave: Modeli mëson për padrejtësinë në të dhënat historike. Për shembull, nëse një grupi të caktuar i është dhënë sistematikisht prime të larta në të kaluarën, modeli vazhdon ta konsiderojë këtë si "normale".
- Variabli zëvendësues (proxy): Edhe nëse modeli nuk përdor drejtpërdrejt tiparin e mbrojtur (gjinia, origjina), ai diskriminon në mënyrë indirekte duke përdorur një variabël që lidhet fort me të (lagje, emri, modeli i blerjes).
- Paragjykimi i kampionimit: Për shkak se disa grupe janë të nënpërfaqësuara në të dhëna, modeli prodhon gjykime jo të besueshme dhe të padrejta rreth tyre.
Ekzistojnë dy lloje të diskriminimit. Diskriminimi i drejtpërdrejtë: përdorimi i hapur i një karakteristike të mbrojtur. Diskriminimi indirekt: kur një kriter në dukje neutral prek në mënyrë disproporcionale një grup të caktuar. E dyta është më tinëzare sepse ndodh pa qëllim dhe është e vështirë të zbulohet.
Kujdes: Mbrojtja se “modeli bazohet në statistika, pra është objektiv” është i gabuar. Statistikat përfshijnë gjithashtu padrejtësinë e kaluar; Modeli nuk e legjitimon, e përjetëson. Drejtësia është diçka që duhet të testohet në mënyrë aktive.
Testimi i rezultatit për drejtësi
Testoni rezultatin e AI (rekomandimi i çmimit, arsyeja e refuzimit, rezultati i rrezikut) me tre pyetje për drejtësi:
- A është arsyeja e ligjshme? A bazohet vendimi në kritere që kanë një lidhje reale dhe të justifikueshme me rrezikun, apo mbi pronën e mbrojtur apo përfaqësuesin e saj?
- A ka një përfaqësues? A mund të lidhet fort një nga variablat e përdorur (lagjja, emri, profesioni, statusi martesor) me një karakteristikë të mbrojtur?
- A mund të shpjegohet? A mund t'ia shpjegoni vendimin klientit dhe auditorit në mënyrë të qartë dhe të mbrojtur? "Modeli tha kështu" nuk është një deklaratë.
Nëse një arsyetim nuk kalon këto tre teste, ai refuzohet dhe vendimi bazohet në kritere legjitime.
Këshillë: Provoni arsyetimin për një refuzim ose një çmim të lartë me këtë fjali: "A do të turpërohem nëse ia shpjegoj këtë klientit dhe auditorit?" Një justifikim i turpshëm ose i pambrojtur (lagje, emër, origjinë) nuk duhet të përdoret.
Kuadri legjislativ: SEDDK, KVKK, vendim automatik
Përdorimi i inteligjencës artificiale në sigurime i nënshtrohet rregulloreve të ndryshme. Parimet kryesore:
- Parimet e SEDDK: Aktivitetet e sigurimit duhet të kryhen në mënyrë të drejtë, transparente dhe në mbrojtje të konsumatorëve; Çmimi duhet të jetë i justifikueshëm dhe nuk duhet të ketë diskriminim të padrejtë.
- KVKK: Të dhënat personale duhet të përpunohen në përputhje me ligjin, të kufizuara për qëllimin dhe në mënyrë të sigurt. Të dhënat e veçanta, të tilla si shëndeti, i nënshtrohen mbrojtjes më të lartë.
- Parimet e automatizuara të vendimmarrjes: Në vendimet që bazohen vetëm në përpunimin automatik dhe ndikojnë ndjeshëm tek personi (për shembull, një refuzim i bërë vetëm nga inteligjenca artificiale), personi; E drejta për të kundërshtuar vendimin, për të kërkuar ndërhyrje njerëzore dhe për të mësuar arsyetimin e vendimit dalin në plan të parë.
Prandaj, shpjegueshmëria, kontrolli njerëzor dhe justifikimi janë thelbësore në vendimet me ndikim të lartë. Vendimi i pajustifikuar i modelit të “kutisë së zezë” është sa i pakontrollueshëm, ashtu edhe në konflikt me këto të drejta.
Hap pas hapi: Vendim i drejtë dhe harmonik
- Identifikoni pronat e mbrojtura. Gjinia, origjina, besimi, shëndeti, rajoni i banimit etj.
- Bëni një skanim proxy. Pyetni lidhjen e variablave të përdorur me vetitë e mbrojtura.
- Vëreni justifikimin në provë të legjitimitetit. A ka një lidhje reale me rrezikun? A mund të shpjegohet?
- Shtoni kontrollin njerëzor. Lëreni një njeri të shqyrtojë rezultatin automatik në një vendim me ndikim të lartë.
- Dokumentoni arsyetimin. Shënoni mbi cilat kritere legjitime është bazuar vendimi.
- Dije mënyrën e apelimit. Jepini klientit të drejtën e kundërshtimit, shqyrtimit njerëzor dhe justifikimit.
tre mini kuti
Rasti 1 - Refuzimi i përfaqësuesit. Një model i çmimit të banesave sugjeroi një prim sistematikisht të lartë për një kod postar të caktuar. Eksperti ekzaminoi: kodi postar mbivendoset me një zonë me një përqendrim të caktuar etnik; kjo ishte një variabël proxy. Kur rreziku aktual (mosha e ndërtimit, lloji i strukturës, historia e dëmtimit) zbërthehet, pjesa më e madhe e rritjes nuk justifikohet më. Çmimi është rivendosur në bazë të kritereve legjitime të rrezikut.
Rasti 2 - Grupi i nënpërfaqësuar. Për një produkt të kujdesit shëndetësor, modeli ofroi një çmim tepër të lartë për një grupmoshë të vogël. Arsyeja: ky grup ishte aq i nënpërfaqësuar në të dhëna saqë disa dëmtime të larta bënë që i gjithë grupi të shfaqej "në rrezik". Eksperti kreu një korrigjim të besueshmërisë (besueshmërisë statistikore) dhe dokumentoi se rekomandimi ishte jo i besueshëm; Rritja e padrejtë nuk u aplikua.
Rasti 3 — E drejta për kundërshtim. Një aplikacion u refuzua automatikisht me një rezultat të mundësuar nga AI. Klienti kundërshtoi. Si pjesë e procesit të përshtatjes, vendimi është rishqyrtuar nga eksperti; Rezultati dukej se bazohej në të dhënat e munguara (dëmtime të mospërputhshme në të kaluarën). Vendimi është korrigjuar. Pa kontrollin njerëzor dhe të drejtën për të kundërshtuar, refuzimi i padrejtë do të ishte i përhershëm.
Katër kërkesa të kopjueshme
1) Skanimi i përfaqësuesit dhe diskriminimi:
Kontrolloni arsyetimin e mëposhtëm të çmimit/vendimit për drejtësi: [justifikimi] Kërkoni: a përdoret në mënyrë të drejtpërdrejtë ose të tërthortë karakteristika e mbrojtur (gjinia, origjina, besimi, shëndeti, rajoni i banimit) (përfaqësimi: lagjja, emri, profesioni, etj.)? Për çdo variabël të diskutueshëm, shpjegoni pse mund të jetë një përfaqësues dhe sugjeroni një alternativë legjitime.
2) Testi i legjitimitetit të justifikimit:
Testoni arsyetimin e mëposhtëm të mohimit/bonusit të lartë me tre pyetje: [arsyetimi]1. A ka një marrëdhënie reale dhe të justifikueshme me rrezikun?2. A bazohet në pronën e mbrojtur apo përfaqësues të saj?3. A mund t'i shpjegohet klientit dhe auditorit? Përgjigjuni qartë çdo pyetjeje; Shënoni arsyen që nuk e kalon testin si "REFUZOJ".
3) Drafti i arsyetimit të shpjegueshëm:
Hartoni një arsyetim të artikuluar për klientin për vendimin bazuar në kriteret e mëposhtme të rrezikut të VERIFIKUARA, legjitime: [kriteret legjitime] Toni: respektues, i qartë. Përdorimi i pronës/prokurës së mbrojtur. Tregoni të drejtën e klientit për të kundërshtuar dhe për të kërkuar rishikim njerëzor. Ky është një draft; konfirmon eksperti.
4) Lista kontrolluese e inspektimit njerëzor:
Krijoni një listë kontrolli të auditimit njerëzor për një vendim të automatizuar me ndikim të lartë: Lloji i vendimit: [refuzim/premi e lartë/kufizim kolateral] Lista: rishikim i kualifikuar i ekspertëve, të dhëna të kontrolluara, drejtësi/kontroll përfaqësues, dokument justifikimi, njoftim apelimi ndaj klientit, regjistrim gjurmësh.
Prompt i dobët / Prompt i fortë
E dobët: "Përcaktoni çmimin më fitimprurës me këto të dhëna dhe shkruani justifikimin."
Problemi: Drejtësia, prokura dhe shpjegueshmëria nuk respektohen; modeli mund të përjetësojë dhe justifikojë diskriminimin e kaluar.
I fortë: "Kontrollo këtë justifikim për përfaqësuesin dhe diskriminimin; shëno pikat që mbështeten në veçorinë e mbrojtur ose përfaqësuesin e tij dhe zëvendëso me kriterin legjitim të rrezikut. Përvijoni një justifikim të shpjegueshëm."
Pse është mirë: Diskriminimi testohet në mënyrë aktive, vendimi bazohet në kritere legjitime dhe të shpjegueshme.
grafik krahasimi
Subjekti
qasje e rrezikshme
qasje e drejtë
Prodhimi i modelit
"Statistikat janë objektive"
Provoni në mënyrë aktive drejtësinë
Zgjedhja e ndryshueshme
Përdorni çdo të dhënë
Ekstrakt proxy
justifikimi
"Kështu tha modelja"
Kriter legjitim, i shpjegueshëm
Vendim me ndikim të lartë
plotësisht automatike
Mbikëqyrja njerëzore është e detyrueshme
E drejta e klientit
Nuk raportohet
Kundërshtim + shqyrtim njerëzor + justifikim
Gabimet e zakonshme
- Mbrojtja "statistika është objektive". Duke justifikuar padrejtësinë e kaluar.
- Injorimi i përfaqësuesit. Diskriminim indirekt në bazë të lagjes/emrit/profesionit.
- Vendim jo i besueshëm për grupin e nënpërfaqësuar. Duke supozuar se shkalla e marrë nga një mostër e vogël është e saktë.
- Vendimi i kutisë së zezë. Zbatimi i një vendimi automatik për të cilin arsyeja nuk mund të shpjegohet.
- Mosnjohja e të drejtës së kundërshtimit. Duke mos i dhënë klientit të drejtën për shqyrtim dhe justifikim njerëzor.
Në përmbledhje
Inteligjenca artificiale mund të mësojë diskriminimin në të dhënat historike dhe ta vazhdojë atë në mënyrë indirekte (nëpërmjet proxy) në çmimet dhe nënshkrimin. Testoni në mënyrë aktive drejtësinë: identifikoni pronat e mbrojtura dhe përfaqësuesit, provoni justifikimin për legjitimitetin dhe shpjegueshmërinë. SEDDK, KVKK dhe parimet e vendimmarrjes automatike; Çmimi i drejtë kërkon shpjegueshmëri, shqyrtim njerëzor dhe të drejtën për të kundërshtuar. Kontrolli njerëzor është thelbësor në vendimet me ndikim të lartë. Në rastin konkret, konsultohuni me departamentin ligjor/përputhshmëri; Diskriminimi është vija e kuqe.
Detyra e aplikimit
Shkruani një listë me 10 variabla që përdor një model çmimi (aktual ose shembull). Për secilin, përgjigjuni pyetjes "a mund të jetë kjo një prokurë për një pronë të mbrojtur"; Flamuroni ato të dyshimta. Pastaj vendosni një justifikim të refuzimit të mostrës përmes testit të legjitimitetit #2: a e kalon ai testin dhe nëse jo, si ta zëvendësoni atë me një kriter legjitim?
listë kontrolli
- [ ] Kam specifikuar vetitë e mbrojtura.
- [ ] I skanova variablat për proxy.
- [ ] Unë e vura justifikimin në provë të legjitimitetit dhe shpjegueshmërisë.
- [ ] Kam kryer kontrolle besueshmërie për grupet e nënpërfaqësuara.
- [ ] Unë shtova kontrollin njerëzor në vendimin me ndikim të lartë.
- [ ] Unë dokumentova arsyetimin dhe i dhashë klientit të drejtën për kundërshtim/shqyrtim njerëzor.
- [ ] Kur kisha dyshime, u konsultova me departamentin ligjor/përputhshmëri.