Gevinster:
- Evne til å gjenkjenne risikoer for diskriminering, skjevhet og indirekte diskriminering i prising og underwriting og teste dem i produksjon av kunstig intelligens
- Evne til å ivareta retten til forklaring og innsigelse innenfor rammen av SEDDK-regelverket, KVKK og automatiske beslutningsprinsipper
- Evne til å anvende menneskelig kontroll og begrunnelsesforpliktelser i høyrisiko automatiserte beslutninger
Forsikring er en virksomhet som grupperer og priser risikerer; men denne grupperingen må være rettferdig. Å gi en høyere premie eller nekte dekning til en person på grunn av beskyttede egenskaper som kjønn, etnisitet, tro, bostedsregion er urettferdig diskriminering og er forbudt. Kunstig intelligens (programvare som lærer av historiske data og genererer pris- og beslutningsanbefalinger) utgjør en spesiell fare på dette området: den kan lære urettferdige mønstre i historiske data og uforvarende opprettholde eller til og med skjule diskriminering. Dessuten kan den ikke gjøre dette direkte, men indirekte (gjennom en proxy-variabel). I denne enheten lærer du hvordan du gjenkjenner risikoen for skjevhet og diskriminering i prising og underwriting, hvordan du tester den kunstige intelligensen for rettferdighet, og hvordan du ivaretar retten til forklaring og innsigelse innenfor rammen av SEDDK (Forsikrings- og privatpensjonsregulering og tilsyn), KVKK og prinsipper for automatisk beslutningstaking. Denne enheten er ikke et juridisk konsulentselskap; Den forklarer de generelle prinsippene, i ethvert konkret tilfelle, sørg for å konsultere juridisk/overholdelsesenheten.
Hvor kommer fordommer og diskriminering fra?
AI-bias oppstår fra tre hovedkilder:
- Dataskjevhet: Modellen lærer om urettferdighet i historiske data. For eksempel, hvis en bestemt gruppe systematisk har fått høye premier tidligere, fortsetter modellen å vurdere dette som "normalt".
- Surrogatvariabel (proxy): Selv om modellen ikke direkte bruker den beskyttede egenskapen (kjønn, opprinnelse), diskriminerer den indirekte ved å bruke en variabel som er sterkt relatert til den (nabolag, navn, handlemønster).
- Sampling bias: Fordi noen grupper er underrepresentert i dataene, produserer modellen upålitelige og urettferdige vurderinger om dem.
Det er to typer diskriminering. Direkte diskriminering: åpenbar bruk av en beskyttet egenskap. Indirekte diskriminering: når et tilsynelatende nøytralt kriterium påvirker en bestemt gruppe uforholdsmessig. Den andre er mer lumsk fordi den skjer uten intensjon og er vanskelig å oppdage.
Advarsel: Forsvaret om at «modellen er basert på statistikk, så den er objektiv» er feil. Statistikk inkluderer også tidligere urettferdighet; Modellen legitimerer den ikke, den foreviger den. Rettferdighet er noe som må testes aktivt.
Testing av utgang for rettferdighet
Test AI-utdata (prisanbefaling, årsak til avvisning, risikoscore) med tre spørsmål for rettferdighet:
- Er årsaken legitim? Er avgjørelsen basert på kriterier som har et reelt og forsvarlig forhold til risikoen, eller på den vernede eiendommen eller dens fullmektig?
- Finnes det en proxy? Kan en av variablene som brukes (nabolag, navn, yrke, sivilstand) være sterkt assosiert med en beskyttet egenskap?
- Kan det forklares? Kan du forklare beslutningen for oppdragsgiver og revisor på en klar og forsvarlig måte? "Modellen sa det" er ikke en uttalelse.
Dersom en begrunnelse ikke består disse tre testene, avvises den og avgjørelsen er basert på legitime kriterier.
Tips: Test begrunnelsen for et avslag eller høy premie med denne setningen: "Vil jeg bli flau hvis jeg forklarer dette til klienten og en revisor?" En skammelig eller uforsvarlig begrunnelse (nabolag, navn, opprinnelse) skal ikke brukes.
Lovverk: SEDDK, KVKK, automatisk vedtak
Bruk av kunstig intelligens i forsikring er underlagt ulike regelverk. Hovedprinsipper:
- SEDDK-prinsipper: Forsikringsvirksomhet bør utføres på en rettferdig, transparent og forbrukerbeskyttende måte; Prissettingen må være forsvarlig og det må ikke forekomme urettferdig forskjellsbehandling.
- KVKK: Personopplysninger skal behandles i henhold til loven, begrenset til formålet og sikkert. Spesielle data, som helse, er underlagt høyeste beskyttelse.
- Automatiserte beslutningsprinsipper: I beslutninger som utelukkende er basert på automatisk behandling og som i betydelig grad påvirker personen (for eksempel et avslag gjort av kunstig intelligens alene), personen; Retten til å protestere mot vedtaket, til å be om menneskelig inngripen og til å lære begrunnelsen for avgjørelsen kommer i forgrunnen.
Derfor er forklarbarhet, menneskelig kontroll og begrunnelse avgjørende i beslutninger med stor effekt. Den uberettigede beslutningen om en "black box"-modell er både ukontrollerbar og i konflikt med disse rettighetene.
Trinn for trinn: Rettferdig og harmonisk beslutning
- Identifiser beskyttede egenskaper. Kjønn, opprinnelse, tro, helse, bostedsregion osv.
- Gjør en proxy-skanning. Still spørsmålstegn ved forholdet mellom variablene som brukes med beskyttede egenskaper.
- Sett begrunnelsen på prøve av legitimitet. Er det et reelt forhold til risiko? Kan det forklares?
- Legg til menneskelig kontroll. La et menneske vurdere det automatiske resultatet i en beslutning med stor innvirkning.
- Dokumenter begrunnelsen. Registrer hvilke legitime kriterier avgjørelsen var basert på.
- Kjenn måten å anke på. Gi kunden rett til innsigelse, menneskelig vurdering og begrunnelse.
tre minisaker
Sak 1 — Avvisning av fullmektig. En boligprismodell foreslo en systematisk høy premie for et bestemt postnummer. Eksperten undersøkte: postnummeret overlappet med et område med en viss etnisk konsentrasjon; dette var en proxy-variabel. Når den faktiske risikoen (byggalder, strukturtype, skadehistorikk) brytes ned, er det meste av økningen ikke lenger berettiget. Prisen er reetablert basert på legitime risikokriterier.
Sak 2 — Underrepresentert gruppe. For et helseprodukt tilbød modellen en altfor høy premie til en liten aldersgruppe. Årsak: denne gruppen var så underrepresentert i dataene at noen få høye skader gjorde at hele gruppen fremstod som "i risiko". Eksperten utførte en troverdighet (statistisk reliabilitet) korreksjon og dokumenterte at anbefalingen var upålitelig; Urettferdig høyning ble ikke brukt.
Sak 3 – Rett til å protestere. En søknad ble automatisk avvist med en AI-drevet poengsum. Kunden protesterte. Som en del av tilpasningsprosessen ble vedtaket behandlet på nytt av en sakkyndig; Poengsummen så ut til å være basert på manglende data (mismatchede tidligere skader). Vedtaket er rettet. Uten menneskelig kontroll og retten til å protestere ville urettferdig avvisning være permanent.
Fire kopierbare spørsmål
1) Proxy- og diskrimineringsskanning:
Sjekk følgende begrunnelse for prissetting/beslutning for rettferdighet: [begrunnelse]Se etter: brukes den beskyttede egenskapen (kjønn, opprinnelse, tro, helse, bostedsregion) direkte eller indirekte (fullmektig: nabolag, navn, yrke osv.)? For hver tvilsom variabel, forklar hvorfor den kan være en proxy og foreslå et legitimt alternativ.
2) Begrunnelse legitimitetstest:
Test følgende begrunnelse for fornektelse/høy bonus med tre spørsmål: [begrunnelse]1. Er det et reelt og forsvarlig forhold til risiko?2. Er det basert på beskyttet eiendom eller dens fullmektig?3. Kan det forklares for oppdragsgiver og revisor? Svar tydelig på hvert spørsmål; Merk årsaken som ikke består testen som "REJECT".
3) Forklarlig begrunnelsesutkast:
Utarbeid en artikulert begrunnelse til klienten for beslutningen basert på følgende VERIFISERT, legitime risikokriterier: [legitime kriterier] Tone: respektfull, tydelig. Bruk av beskyttet eiendom/fullmektig. Oppgi kundens rett til å protestere og be om menneskelig vurdering. Dette er et utkast; ekspert bekrefter.
4) Sjekkliste for menneskelig inspeksjon:
Opprett en menneskelig revisjonssjekkliste for en automatisk avgjørelse med stor innvirkning:Beslutningstype: [avvisning/høypremie/sikkerhetsbegrensning]Liste: kvalifisert ekspertgjennomgang, datakontrollert, rettferdighet/fullmektigkontroll, begrunnelsesdokument, kundeankevarsel, sporrecord.
Svak forespørsel / Sterk forespørsel
Svak: "Fastgjør den mest lønnsomme prisen med disse dataene, og skriv begrunnelsen."
Problem: Rettferdighet, proxy og forklarbarhet respekteres ikke; modellen kan opprettholde og rettferdiggjøre tidligere diskriminering.
Strong: "Sjekk denne begrunnelsen for fullmakt og diskriminering; flagg punkter som er avhengige av beskyttet funksjon eller dens proxy og erstatt med et legitimt risikokriterium. Skisser en forklarbar begrunnelse."
Hvorfor det er bra: Diskriminering testes aktivt, avgjørelsen er basert på legitime og forklarlige kriterier.
sammenligningsdiagram
Emne
risikofylt tilnærming
riktig tilnærming
Modellutgang
"Statistikk er objektiv"
Test rettferdighet aktivt
Variabelt utvalg
Bruk alle dataene
Trekk ut fullmakter
begrunnelse
"Det var det modellen sa"
Legitime, forklarlige kriterium
Beslutning med høy effekt
helautomatisk
Menneskelig tilsyn er obligatorisk
Kunderett
Ikke rapportert
Innvending + menneskelig vurdering + begrunnelse
Vanlige feil
- «Statistikken er objektiv»-forsvaret. Rettferdiggjør tidligere urettferdighet.
- Ignorerer proxyen. Indirekte diskriminering på grunn av nabolag/navn/yrke.
- Upålitelig beslutning for underrepresentert gruppe. Forutsatt at hastigheten oppnådd fra en liten prøve er nøyaktig.
- Black box-avgjørelse. Implementering av en automatisk beslutning som ikke kan forklares.
- Ikke anerkjenner retten til å protestere. Ikke gi kunden rett til menneskelig vurdering og begrunnelse.
Oppsummert
Kunstig intelligens kan lære diskriminering i historiske data og fortsette den indirekte (via proxy) i prissetting og underwriting. Test rettferdighet aktivt: identifiser beskyttede eiendommer og fullmakter, test begrunnelse for legitimitet og forklarbarhet. SEDDK, KVKK og automatiske beslutningsprinsipper; Rettferdig prissetting krever forklaring, menneskelig vurdering og rett til å protestere. Menneskelig kontroll er avgjørende i beslutninger med stor effekt. I det spesifikke tilfellet, ta kontakt med juridisk/overholdelsesavdelingen; Diskriminering er den røde linjen.
Søknadsoppgave
Skriv en liste over 10 variabler en prismodell bruker (faktisk eller eksempel). For hver, svar på spørsmålet "kan dette være en fullmakt for en beskyttet eiendom"; Flagg de mistenkelige. Sett deretter en prøvebegrunnelse for avvisning gjennom legitimitetstest #2: består den testen, og hvis ikke, hvordan erstatter du den med et legitimt kriterium?
sjekkliste
- [ ] Jeg har spesifisert beskyttede egenskaper.
- [ ] Jeg skannet variablene for proxy.
- [ ] Jeg satte begrunnelsen på prøve av legitimitet og forklarbarhet.
- [ ] Jeg gjennomførte pålitelighetssjekker for underrepresenterte grupper.
- [ ] Jeg la til menneskelig kontroll i beslutningen om høy effekt.
- [ ] Jeg dokumenterte begrunnelsen og ga kunden rett til innsigelse/menneskelig vurdering.
- [ ] Når jeg var i tvil, konsulterte jeg juridisk/compliance-avdelingen.