Dobici:
- Sposobnost prepoznavanja rizika od diskriminacije, pristrasnosti i indirektne diskriminacije u određivanju cijena i osiguranja te ih testirati u proizvodnji umjetne inteligencije
- Sposobnost poštovanja prava na objašnjenje i prigovor u okviru SEDDK propisa, KVKK i principa automatskog odlučivanja
- Sposobnost primjene ljudskih kontrola i obaveza opravdanja u visokorizičnim automatiziranim odlukama
Osiguranje je posao koji grupiše i cijeni rizik; ali ovo grupisanje mora biti fer. Davanje veće premije ili uskraćivanje pokrića osobi zbog zaštićenih karakteristika kao što su njen spol, etnička pripadnost, uvjerenje, regija prebivališta je nepravedna diskriminacija i zabranjeno je. Umjetna inteligencija (softver koji uči iz historijskih podataka i generiše preporuke za cijene i odluke) predstavlja posebnu opasnost u ovoj oblasti: može naučiti nepoštene obrasce u povijesnim podacima i nesvjesno produžiti ili čak sakriti diskriminaciju. Štaviše, to može učiniti ne direktno već indirektno (preko proxy varijable). U ovoj cjelini naučit ćete kako prepoznati rizike pristrasnosti i diskriminacije u određivanju cijena i preuzimanja, kako testirati rezultate umjetne inteligencije na pravičnost i kako poštovati pravo na objašnjenje i prigovor u okviru SEDDK (Agencija za regulisanje i nadzor osiguranja i privatnih penzija), KVKK i principa automatskog donošenja odluka. Ova jedinica nije pravna konsultantska kuća; Objašnjava opšta načela, u svakom konkretnom slučaju, obavezno se konsultujte sa jedinicom za pravnu/usaglašenost.
Odakle dolaze predrasude i diskriminacija?
AI pristrasnost proizlazi iz tri glavna izvora:
- Pristrasnost podataka: Model uči o nepravednosti u istorijskim podacima. Na primjer, ako je nekoj grupi u prošlosti sistematski davane visoke premije, model to nastavlja smatrati "normalnim".
- Surogat varijabla (proxy): Čak i ako model direktno ne koristi zaštićeno obilježje (pol, porijeklo), on indirektno diskriminira korištenjem varijable koja je usko povezana s njom (susjedstvo, ime, obrazac kupovine).
- Pristrasnost uzorkovanja: Budući da su neke grupe nedovoljno zastupljene u podacima, model proizvodi nepouzdane i nepravedne sudove o njima.
Postoje dvije vrste diskriminacije. Direktna diskriminacija: očito korištenje zaštićene karakteristike. Indirektna diskriminacija: kada naizgled neutralan kriterijum nesrazmerno utiče na određenu grupu. Drugi je podmukliji jer se javlja bez namjere i teško ga je otkriti.
Oprez: Odbrana da je "model zasnovan na statistici, dakle objektivan" je pogrešna. Statistika takođe uključuje nepravdu iz prošlosti; Model ga ne legitimizira, on ga perpetuira. Pravednost je nešto što treba aktivno testirati.
Testiranje rezultata za pravednost
Testirajte AI izlaz (preporuku cijene, razlog odbijanja, rezultat rizika) s tri pitanja za pravednost:
- Da li je razlog legitiman? Da li je odluka zasnovana na kriterijumima koji imaju stvarnu i opravdanu vezu sa rizikom, ili na zaštićenom dobru ili njegovom punomoćniku?
- Postoji li proxy? Može li jedna od korištenih varijabli (susjedstvo, ime, zanimanje, bračni status) biti snažno povezana sa zaštićenom karakteristikom?
- Može li se to objasniti? Možete li klijentu i revizoru objasniti odluku na jasan i odbranjiv način? “Manekenka je tako rekla” nije izjava.
Ako opravdanje ne prođe ova tri testa, ono se odbija i odluka se zasniva na legitimnim kriterijumima.
Savjet: Testirajte obrazloženje za odbijanje ili visoku premiju ovom rečenicom: "Hoću li mi biti neugodno ako ovo objasnim klijentu i revizoru?" Ne treba koristiti sramotno ili neodbranjivo opravdanje (komšiluk, ime, porijeklo).
Zakonodavni okvir: SEDDK, KVKK, automatska odluka
Upotreba umjetne inteligencije u osiguranju podliježe različitim propisima. Glavni principi:
- Principi SEDDK: Aktivnosti osiguranja treba da se obavljaju na pošten, transparentan način i na način koji štiti potrošače; Cijene moraju biti opravdane i ne smije biti nepravedne diskriminacije.
- KVKK: Lični podaci moraju se obrađivati u skladu sa zakonom, ograničeno na svrhu i bezbedno. Posebni podaci, kao što je zdravlje, podliježu najvišoj zaštiti.
- Principi automatizovanog donošenja odluka: U odlukama koje se zasnivaju isključivo na automatskoj obradi i značajno utiču na osobu (na primer, odbijanje samo veštačke inteligencije), osobu; Pravo na prigovor na odluku, na traženje ljudske intervencije i saznavanje obrazloženja odluke dolazi do izražaja.
Stoga su objašnjivost, ljudska kontrola i opravdanje od suštinskog značaja za odluke visokog uticaja. Neopravdana odluka o modelu „crne kutije“ je nekontrolisana i u suprotnosti sa ovim pravima.
Korak po korak: Pravedna i harmonična odluka
- Identifikujte zaštićena svojstva. Pol, porijeklo, vjerovanje, zdravlje, regija stanovanja itd.
- Uradite proxy skeniranje. Dovedite u pitanje odnos varijabli koje se koriste sa zaštićenim svojstvima.
- Stavite opravdanje na test legitimnosti. Postoji li stvarna veza sa rizikom? Može li se to objasniti?
- Dodajte ljudsku kontrolu. Neka čovjek pregleda automatski rezultat u odluci s velikim utjecajem.
- Dokumentirajte obrazloženje. Zabilježite na kojim je legitimnim kriterijima odluka bila zasnovana.
- Znajte način žalbe. Omogućite kupcu pravo na prigovor, ljudski pregled i opravdanje.
tri mini kofera
Slučaj 1 — Odbijanje proxyja. Model cijena stanova sugerirao je sistematski visoku premiju za određeni poštanski broj. Vještak je ispitao: poštanski broj se preklapao sa područjem određene etničke koncentracije; ovo je bila proxy varijabla. Kada se stvarni rizik (starost zgrade, tip konstrukcije, istorijat oštećenja) raščlani, veći dio povećanja više nije opravdan. Cijena je ponovo uspostavljena na osnovu legitimnih kriterija rizika.
Slučaj 2 — Nedovoljno zastupljena grupa. Za zdravstveni proizvod, model je ponudio previsoku premiju za malu starosnu grupu. Razlog: ova grupa je bila toliko nedovoljno zastupljena u podacima da je nekoliko velikih šteta učinilo da se cijela grupa čini "rizičnom". Vještak je izvršio korekciju vjerodostojnosti (statističke pouzdanosti) i dokumentovao da je preporuka nepouzdana; Nepravedna povišica nije primijenjena.
Slučaj 3 — Pravo na prigovor. Aplikacija je automatski odbijena sa rezultatom AI. Kupac se usprotivio. U sklopu procesa adaptacije, rješenje je preispitano od strane vještaka; Činilo se da je rezultat zasnovan na podacima koji nedostaju (neusklađena prošla šteta). Odluka je ispravljena. Bez ljudske kontrole i prava na prigovor, nepravedno odbijanje bi bilo trajno.
Četiri upita za kopiranje
1) Proxy i skeniranje diskriminacije:
Provjerite sljedeće obrazloženje cijene/odluke radi pravednosti: [opravdanje]Potražite: da li se zaštićena karakteristika (pol, porijeklo, uvjerenje, zdravlje, regija stanovanja) koristi direktno ili indirektno (proxy: susjedstvo, ime, profesija, itd.)? Za svaku upitnu varijablu objasnite zašto bi ona mogla biti zamjenska i predložiti legitimnu alternativu.
2) Test legitimnosti opravdanja:
Testirajte sljedeće obrazloženje odbijanja/visokog bonusa sa tri pitanja: [opravdanje]1. Postoji li stvarna i opravdana veza sa rizikom?2. Da li se zasniva na zaštićenoj imovini ili njenom punomoćju?3. Može li se to objasniti klijentu i revizoru? Odgovorite jasno na svako pitanje; Označite razlog koji ne prolazi test kao "ODBACI".
3) Objašnjiv nacrt obrazloženja:
Nacrtajte artikulisano obrazloženje za klijenta za odluku na osnovu sledećih PROVERENIH, legitimnih kriterijuma rizika: [legitimni kriterijumi] Ton: pun poštovanja, jasan. Korištenje zaštićene imovine/proxyja. Navedite pravo kupca da prigovori i zatraži ljudski pregled. Ovo je nacrt; ekspert potvrđuje.
4) Kontrolna lista ljudske inspekcije:
Kreirajte kontrolnu listu ljudske revizije za automatizovanu odluku visokog uticaja: Vrsta odluke: [odbijanje/visoka premija/ograničenje kolaterala]Lista: kvalifikovani stručni pregled, provereni podaci, pravednost/proksi kontrola, dokument sa opravdanjem, obaveštenje o žalbi klijenta, evidencija.
Slaba prompt / Jaka prompt
Slabo: "Odredite najisplativiju cijenu sa ovim podacima i napišite opravdanje."
Problem: Ne poštuje se pravičnost, proxy i objašnjivost; model može produžiti i opravdati prošlu diskriminaciju.
Snažno: "Provjerite ovo opravdanje za zamjenu i diskriminaciju; označite tačke koje se oslanjaju na zaštićenu funkciju ili njen proxy i zamijenite ih legitimnim kriterijem rizika. Navedite objašnjenje opravdanja."
Zašto je to dobro: Diskriminacija se aktivno testira, odluka se zasniva na legitimnim i objašnjivim kriterijumima.
uporedni grafikon
Predmet
rizičan pristup
pravi pristup
Izlaz modela
"Statistika je objektivna"
Aktivno testirajte pravdu
Izbor varijable
Koristite sve podatke
Izvucite proksije
opravdanje
"To je ono što je manekenka rekla"
Legitiman, objašnjiv kriterijum
Odluka visokog uticaja
potpuno automatski
Ljudski nadzor je obavezan
Pravo kupca
Nije prijavljeno
Prigovor + ljudski pregled + opravdanje
Uobičajene greške
- Odbrana "Statistika je objektivna". Opravdavanje nepravde iz prošlosti.
- Ignorisanje proxyja. Indirektna diskriminacija na osnovu susjedstva/ime/profesije.
- Nepouzdana odluka za nedovoljno zastupljenu grupu. Pod pretpostavkom da je stopa dobivena iz malog uzorka tačna.
- Odluka o crnoj kutiji. Provođenje automatske odluke za koju se ne može objasniti razlog.
- Nepriznavanje prava na prigovor. Ne daje kupcu pravo na ljudski pregled i opravdanje.
Ukratko
Umjetna inteligencija može naučiti diskriminaciju u povijesnim podacima i nastaviti je indirektno (putem proxyja) u određivanju cijena i preuzimanju. Aktivno testirajte pravednost: identifikujte zaštićena svojstva i proksije, testirajte opravdanost legitimnosti i objašnjivosti. SEDDK, KVKK i principi automatskog donošenja odluka; Fer cijena zahtijeva objašnjenje, ljudski pregled i pravo na prigovor. Ljudska kontrola je od suštinskog značaja za odluke visokog uticaja. U konkretnom slučaju, konsultujte pravnu/usklađenu službu; Diskriminacija je crvena linija.
Zadatak aplikacije
Napišite listu od 10 varijabli koje model cijena koristi (stvarne ili primjer). Za svaki odgovorite na pitanje "da li ovo može biti proxy za zaštićeno dobro"; Označite sumnjive. Zatim stavite uzorak obrazloženja za odbijanje kroz test legitimnosti #2: da li prolazi test, i ako ne, kako ga zamijeniti legitimnim kriterijem?
kontrolna lista
- [ ] Naveo sam zaštićena svojstva.
- [ ] Skenirao sam varijable za proxy.
- [ ] Stavljam opravdanje na test legitimnosti i objašnjivosti.
- [ ] Proveo sam provjere pouzdanosti za nedovoljno zastupljene grupe.
- [ ] Dodao sam ljudsku kontrolu u odluci visokog uticaja.
- [ ] Dokumentovao sam obrazloženje i dao kupcu pravo na prigovor/ljudsku reviziju.
- [ ] Kada ste bili u nedoumici, konsultovao sam se sa odeljenjem za pravna pitanja/usaglašenost.