Dobički:
- Sposobnost prepoznavanja tveganj diskriminacije, pristranskosti in posredne diskriminacije pri oblikovanju cen in sklepanju pogodb ter njihovo testiranje v izhodu umetne inteligence
- Sposobnost spoštovanja pravice do razložljivosti in ugovora v okviru predpisov SEDDK, KVKK in načel avtomatskega odločanja.
- Sposobnost uporabe obveznosti človeškega nadzora in utemeljitve pri avtomatiziranih odločitvah z visokim tveganjem
Zavarovalništvo je posel, ki združuje in ceni tveganja; vendar mora biti ta skupina poštena. Dajanje višje premije ali zavrnitev kritja osebi zaradi zaščitenih značilnosti, kot so njen spol, etnična pripadnost, prepričanje, regija prebivališča, je nepoštena diskriminacija in je prepovedana. Posebno nevarnost na tem področju predstavlja umetna inteligenca (programska oprema, ki se uči iz zgodovinskih podatkov in ustvarja priporočila za cene in odločitve): lahko se nauči nepoštenih vzorcev v zgodovinskih podatkih in nehote ohranja ali celo prikriva diskriminacijo. Poleg tega lahko to stori ne neposredno, temveč posredno (prek spremenljivke proxy). V tej enoti se boste naučili, kako prepoznati tveganja pristranskosti in diskriminacije pri oblikovanju cen in sklepanju zavarovanj, kako preizkusiti poštenost rezultatov umetne inteligence ter kako spoštovati pravico do razložljivosti in ugovora v okviru SEDDK (Agencija za regulacijo in nadzor zavarovanj in zasebnih pokojnin), KVKK in načel avtomatskega odločanja. Ta enota ni pravno svetovanje; Pojasnjuje splošna načela, v vsakem konkretnem primeru se posvetujte s pravnim oddelkom/enoto za skladnost.
Od kod prihajajo predsodki in diskriminacija?
Pristranskost AI izhaja iz treh glavnih virov:
- Pristranskost podatkov: model spozna nepoštenost zgodovinskih podatkov. Na primer, če je določena skupina v preteklosti sistematično prejemala visoke premije, model to še naprej obravnava kot "normalno".
- Nadomestna spremenljivka (približek): tudi če model neposredno ne uporablja zaščitene lastnosti (spol, izvor), diskriminira posredno z uporabo spremenljivke, ki je močno povezana z njo (soseska, ime, vzorec nakupovanja).
- Pristranskost vzorčenja: Ker so nekatere skupine premalo zastopane v podatkih, model daje nezanesljive in nepravične sodbe o njih.
Obstajata dve vrsti diskriminacije. Neposredna diskriminacija: očitna uporaba zaščitene lastnosti. Posredna diskriminacija: ko navidezno nevtralno merilo nesorazmerno prizadene določeno skupino. Drugi je bolj zahrbten, ker se pojavi nenamerno in ga je težko odkriti.
Pozor: obramba, da "model temelji na statistiki, torej je objektiven", je napačna. Statistika vključuje tudi preteklo krivico; Model ga ne legitimira, temveč perpetuira. Pravičnost je nekaj, kar je treba aktivno testirati.
Testiranje rezultatov za pravičnost
Preizkusite rezultate umetne inteligence (priporočeno ceno, razlog za zavrnitev, oceno tveganja) s tremi vprašanji za poštenost:
- Je razlog legitimen? Ali odločitev temelji na merilih, ki so v resničnem in upravičenem razmerju do tveganja, ali na zaščitenem premoženju ali njegovem približku?
- Ali obstaja proxy? Ali je lahko ena od uporabljenih spremenljivk (soseska, ime, poklic, zakonski stan) močno povezana z zaščiteno lastnostjo?
- Je mogoče razložiti? Ali lahko naročniku in revizorju razložite odločitev na jasen in zagovorljiv način? "Manekenka je tako rekla" ni izjava.
Če utemeljitev ne prestane teh treh preizkusov, se zavrne, odločitev pa temelji na legitimnih merilih.
Nasvet: preizkusite utemeljitev za zavrnitev ali visoko premijo s tem stavkom: "Ali mi bo nerodno, če bom to razložil stranki in revizorju?" Sramotne ali neupravičljive utemeljitve (soseska, ime, izvor) se ne sme uporabljati.
Zakonodajni okvir: SEDDK, KVKK, avtomatska odločitev
Za uporabo umetne inteligence v zavarovalništvu veljajo različni predpisi. Glavna načela:
- Načela SEDDK: Zavarovalne dejavnosti je treba izvajati pošteno, pregledno in varovati potrošnike; Cene morajo biti upravičene in ne sme biti nepoštene diskriminacije.
- KVKK: Osebni podatki morajo biti obdelani v skladu z zakonodajo, namensko omejeno in varno. Posebni podatki, kot je zdravje, so predmet najvišje zaščite.
- Načela avtomatiziranega odločanja: Pri odločitvah, ki temeljijo izključno na avtomatski obdelavi in pomembno vplivajo na osebo (na primer zavrnitev, ki jo naredi samo umetna inteligenca), oseba; V ospredje pridejo pravice do ugovora zoper odločitev, do zahtevanja človeškega posredovanja in do spoznanja utemeljitve odločitve.
Zato so razložljivost, človeški nadzor in utemeljitev bistveni pri odločitvah z velikim vplivom. Neupravičena odločitev modela »črne skrinjice« je nenadzorovana in v nasprotju s temi pravicami.
Korak za korakom: Pravična in harmonična odločitev
- Prepoznajte zaščitene lastnosti. Spol, poreklo, prepričanje, zdravje, regija bivanja itd.
- Opravite proxy skeniranje. Podvomite o razmerju uporabljenih spremenljivk z zaščitenimi lastnostmi.
- Postavite utemeljitev na preizkus legitimnosti. Ali obstaja resnična povezava s tveganjem? Je mogoče razložiti?
- Dodajte človeški nadzor. Pustite, da človeški pregled samodejno povzroči odločitev z velikim vplivom.
- Dokumentirajte utemeljitev. Zapišite, na katerih legitimnih merilih je temeljila odločitev.
- Spoznajte način pritožbe. Stranki zagotovite pravico do ugovora, človeškega pregleda in utemeljitve.
trije mini kovčki
1. primer – Zavrnitev proxyja. Model oblikovanja cen stanovanj je predlagal sistematično visoko premijo za določeno poštno številko. Izvedenec je pregledal: poštna številka se je prekrivala z območjem z določeno etnično koncentracijo; to je bila proxy spremenljivka. Ko je dejansko tveganje (starost stavbe, tip konstrukcije, zgodovina poškodb) razčlenjeno, večina povečanja ni več upravičena. Cena je bila ponovno vzpostavljena na podlagi zakonitih meril tveganja.
Primer 2 – Premalo zastopana skupina. Za izdelek za zdravstveno nego je model ponujal pretirano visoko premijo majhni starostni skupini. Razlog: ta skupina je bila tako premalo zastopana v podatkih, da je zaradi nekaj visokih škod celotna skupina videti "ogrožena". Strokovnjak je izvedel popravek verodostojnosti (statistične zanesljivosti) in dokumentiral, da je priporočilo nezanesljivo; Nepošteno povišanje ni bilo uporabljeno.
Primer 3 – Pravica do ugovora. Vloga je bila samodejno zavrnjena z rezultatom, ki ga poganja AI. Stranka je nasprotovala. V okviru adaptacijskega postopka je odločitev ponovno pregledal izvedenec; Zdi se, da rezultat temelji na manjkajočih podatkih (neujemajoča se pretekla škoda). Odločba je bila popravljena. Brez človeškega nadzora in pravice do ugovora bi bila nepravična zavrnitev trajna.
Štirje pozivi za kopiranje
1) Proxy in diskriminacijsko skeniranje:
Preverite poštenost naslednje utemeljitve cen/odločitve: [utemeljitev]Iščite: ali se zaščitena lastnost (spol, izvor, prepričanje, zdravje, regija stalnega prebivališča) uporablja neposredno ali posredno (približek: soseska, ime, poklic itd.)? Za vsako sporno spremenljivko pojasnite, zakaj bi lahko bila približek, in predlagajte legitimno alternativo.
2) Test legitimnosti utemeljitve:
Preizkusite naslednjo utemeljitev zavrnitve/visokega bonusa s tremi vprašanji: [utemeljitev]1. Ali obstaja resničen in upravičen odnos do tveganja?2. Ali temelji na zaščiteni lastnini ali njenem posredniku?3. Ga je mogoče razložiti naročniku in revizorju? Jasno odgovorite na vsako vprašanje; Označite razlog, ki ne opravi testa kot "ZAVRNI".
3) Osnutek obrazložitve utemeljitve:
Za stranko sestavite osnutek artikulirane utemeljitve odločitve na podlagi naslednjih PREVERJENIH, legitimnih meril tveganja: [legitimna merila]Ton: spoštljiv, jasen. Uporaba zaščitene lastnine/proxyja. Navedite strankino pravico do ugovora in zahtevanja človeškega pregleda. To je osnutek; strokovnjak potrdi.
4) Kontrolni seznam za človeški pregled:
Ustvarite kontrolni seznam za človeško revizijo za avtomatizirano odločitev z velikim vplivom: Vrsta odločitve: [zavrnitev/visoka premija/omejitev zavarovanja]Seznam: pregled kvalificiranega strokovnjaka, preverjeni podatki, poštenost/proxycontrol, obrazložitveni dokument, obvestilo o pritožbi stranke, evidenca sledi.
Šibek poziv/močan poziv
Slaba: "S temi podatki določite najbolj donosno ceno in napišite utemeljitev."
Težava: Pravičnost, približek in razložljivost niso spoštovani; model lahko ohrani in opraviči preteklo diskriminacijo.
Močno: "Preverite to utemeljitev za proxy in diskriminacijo; označite točke, ki se zanašajo na zaščiteno funkcijo ali njen proxy, in jih nadomestite z legitimnim merilom tveganja. Navedite razložljivo utemeljitev."
Zakaj je dobro: diskriminacija se aktivno testira, odločitev temelji na legitimnih in razložljivih kriterijih.
primerjalna tabela
Predmet
tvegan pristop
pravi pristop
Izhod modela
"Statistika je objektivna"
Aktivno preizkušajte pravičnost
Izbira spremenljivk
Uporabite vse podatke
Ekstrahiraj posrednike
utemeljitev
"To je rekel model"
Legitimen, razložljiv kriterij
Odločitev z velikim vplivom
popolnoma samodejno
Človeški nadzor je obvezen
Pravica stranke
Ni prijavljeno
Ugovor + človeški pregled + utemeljitev
Pogoste napake
- Obramba "statistika je objektivna". Opravičevanje pretekle krivice.
- Ignoriranje proxyja. Posredna diskriminacija glede na sosesko/ime/poklic.
- Nezanesljiva odločitev za premalo zastopano skupino. Ob predpostavki, da je stopnja, pridobljena iz majhnega vzorca, točna.
- Odločitev o črni skrinjici. Izvajanje samodejne odločitve, za katero ni mogoče pojasniti razloga.
- Nepriznavanje pravice do ugovora. Stranki ne daje pravice do človeškega pregleda in utemeljitve.
Če povzamem
Umetna inteligenca se lahko nauči diskriminacije v preteklih podatkih in jo posredno nadaljuje (preko posrednika) pri določanju cen in sklepanju pogodb. Aktivno preizkusite poštenost: identificirajte zaščitene lastnosti in posrednike, preizkusite utemeljitev za legitimnost in razložljivost. SEDDK, KVKK in principi avtomatskega odločanja; Pošteno določanje cen zahteva razložljivost, človeški pregled in pravico do ugovora. Človeški nadzor je bistvenega pomena pri odločitvah z velikim vplivom. V konkretnem primeru se posvetujte s pravnim oddelkom/oddelkom za skladnost; Diskriminacija je rdeča črta.
Aplikacijska naloga
Napišite seznam 10 spremenljivk, ki jih uporablja cenovni model (dejanski ali primer). Za vsako odgovorite na vprašanje "ali je to lahko približek zaščitene lastnine"; Označite sumljive. Nato vzorčno utemeljitev zavrnitve opravite s testom legitimnosti št. 2: ali prestane test in če ne, kako jo nadomestite z legitimnim merilom?
kontrolni seznam
- [ ] Navedel sem zaščitene lastnosti.
- [ ] Pregledal sem spremenljivke za proxy.
- [ ] Utemeljitev sem postavil na preizkus legitimnosti in razložljivosti.
- [ ] Opravil sem preverjanje zanesljivosti za premalo zastopane skupine.
- [ ] Dodal sem človeški nadzor v odločitev z velikim vplivom.
- [ ] Dokumentiral sem utemeljitev in stranki dal pravico do ugovora/človeškega pregleda.
- [ ] V dvomih sem se posvetoval s pravnim oddelkom/oddelkom za skladnost.