Gevinster:
- Evne til at genkende risici for diskrimination, bias og indirekte diskrimination i prisfastsættelse og underwriting og teste dem i kunstig intelligens output
- Evne til at iagttage retten til forklaring og indsigelse inden for rammerne af SEDDK-reglementet, KVKK og automatiske beslutningsprincipper
- Evne til at anvende menneskelig kontrol og begrundelsesforpligtelser i højrisiko automatiserede beslutninger
Forsikring er en virksomhed, der grupperer og priser risikerer; men denne gruppering skal være retfærdig. At give en højere præmie eller nægte dækning til en person på grund af beskyttede karakteristika såsom deres køn, etnicitet, tro, bopælsregion er uretfærdig forskelsbehandling og er forbudt. Kunstig intelligens (software, der lærer af historiske data og genererer pris- og beslutningsanbefalinger) udgør en særlig fare på dette område: den kan lære urimelige mønstre i historiske data og uforvarende fastholde eller endda skjule diskrimination. Desuden kan den ikke gøre dette direkte, men indirekte (gennem en proxy-variabel). I denne enhed lærer du, hvordan du genkender risici for bias og diskrimination i prisfastsættelse og tegning, hvordan du tester den kunstige intelligens-output for retfærdighed, og hvordan du iagttager retten til forklaring og indsigelse inden for rammerne af SEDDK (Forsikrings- og Privatpensionsstyrelsen), KVKK og principperne for automatisk beslutningstagning. Denne enhed er ikke en juridisk konsulentvirksomhed; Det forklarer de generelle principper, i ethvert konkret tilfælde, sørg for at konsultere den juridiske / overholdelse enhed.
Hvor kommer fordomme og diskrimination fra?
AI-bias opstår fra tre hovedkilder:
- Databias: Modellen lærer om uretfærdigheder i historiske data. For eksempel, hvis en bestemt gruppe tidligere systematisk har fået høje præmier, betragter modellen fortsat dette som "normalt".
- Surrogatvariabel (proxy): Selvom modellen ikke direkte bruger det beskyttede træk (køn, oprindelse), diskriminerer den indirekte ved at bruge en variabel, der er stærkt relateret til den (nabolag, navn, indkøbsmønster).
- Sampling bias: Fordi nogle grupper er underrepræsenteret i dataene, producerer modellen upålidelige og uretfærdige domme om dem.
Der er to former for diskrimination. Direkte forskelsbehandling: åbenlys brug af en beskyttet egenskab. Indirekte diskrimination: når et tilsyneladende neutralt kriterium påvirker en bestemt gruppe uforholdsmæssigt. Den anden er mere lumsk, fordi den sker uden hensigt og er svær at opdage.
Forsigtig: Forsvaret om, at "modellen er baseret på statistik, så den er objektiv" er forkert. Statistik omfatter også tidligere uretfærdighed; Modellen legitimerer den ikke, den fastholder den. Retfærdighed er noget, der skal testes aktivt.
Test af output for retfærdighed
Test AI-outputtet (prisanbefaling, årsag til afvisning, risikoscore) med tre spørgsmål for retfærdighed:
- Er årsagen legitim? Er beslutningen baseret på kriterier, der har et reelt og forsvarligt forhold til risikoen, eller på den beskyttede ejendom eller dens fuldmægtige?
- Er der en proxy? Kan en af de anvendte variabler (naboskab, navn, erhverv, civilstand) være stærkt forbundet med en beskyttet egenskab?
- Kan det forklares? Kan du forklare beslutningen over for klient og revisor på en klar og forsvarlig måde? "Modellen sagde det" er ikke et udsagn.
Hvis en begrundelse ikke består disse tre tests, afvises den, og afgørelsen er baseret på legitime kriterier.
Tip: Test begrundelsen for en afvisning eller høj præmie med denne sætning: "Vil jeg blive flov, hvis jeg forklarer dette til klienten og en revisor?" En skamfuld eller uforsvarlig begrundelse (naboskab, navn, oprindelse) bør ikke bruges.
Lovgrundlag: SEDDK, KVKK, automatisk afgørelse
Brugen af kunstig intelligens i forsikringer er underlagt forskellige regler. Hovedprincipper:
- SEDDK principper: Forsikringsaktiviteter bør udføres på en retfærdig, gennemsigtig og forbrugerbeskyttende måde; Prisfastsættelse skal være forsvarlig, og der må ikke være uretfærdig forskelsbehandling.
- KVKK: Personoplysninger skal behandles i overensstemmelse med lovgivningen, begrænset til formålet og sikkert. Særlige data, såsom sundhed, er underlagt den højeste beskyttelse.
- Automatiserede beslutningstagningsprincipper: I beslutninger, der udelukkende er baseret på automatisk behandling og væsentligt påvirker personen (f.eks. en afvisning foretaget af kunstig intelligens alene), personen; Retten til at gøre indsigelse mod beslutningen, til at anmode om menneskelig indgriben og til at lære begrundelsen for beslutningen at komme i forgrunden.
Derfor er forklarlighed, menneskelig kontrol og retfærdiggørelse afgørende i beslutninger med stor indflydelse. Den uberettigede beslutning om en "black box"-model er både ukontrollerbar og i strid med disse rettigheder.
Trin for trin: Fair og harmonisk beslutning
- Identificer beskyttede ejendomme. Køn, oprindelse, tro, sundhed, bopælsregion mv.
- Lav en proxy-scanning. Sæt spørgsmålstegn ved forholdet mellem de anvendte variable med beskyttede egenskaber.
- Sæt begrundelsen på en prøve af legitimitet. Er der et reelt forhold til risiko? Kan det forklares?
- Tilføj menneskelig kontrol. Lad et menneske gennemgå det automatiske resultat i en beslutning med stor effekt.
- Dokumentér begrundelsen. Registrer hvilke legitime kriterier beslutningen var baseret på.
- Kend vejen til at appellere. Giv kunden ret til indsigelse, menneskelig gennemgang og begrundelse.
tre minisager
Sag 1 — Afvisning af fuldmagt. En boligprismodel foreslog en systematisk høj præmie for et bestemt postnummer. Eksperten undersøgte: postnummeret overlappede med et område med en vis etnisk koncentration; dette var en proxyvariabel. Når den faktiske risiko (bygningsalder, strukturtype, skadeshistorie) er opdelt, er størstedelen af stigningen ikke længere berettiget. Prisen er genetableret baseret på legitime risikokriterier.
Sag 2 — Underrepræsenteret gruppe. For et sundhedsprodukt tilbød modellen en alt for høj præmie til en lille aldersgruppe. Årsag: denne gruppe var så underrepræsenteret i dataene, at nogle få høje skader fik hele gruppen til at se ud som "i risiko". Eksperten udførte en troværdighed (statistisk pålidelighed) korrektion og dokumenterede, at anbefalingen var upålidelig; Urimelig forhøjelse blev ikke anvendt.
Sag 3 — Ret til at gøre indsigelse. En ansøgning blev automatisk afvist med en AI-drevet score. Kunden gjorde indsigelse. Som led i tilpasningsprocessen blev beslutningen genbehandlet af en ekspert; Scoren så ud til at være baseret på manglende data (mismatchede tidligere skader). Beslutningen er blevet rettet. Uden menneskelig kontrol og retten til at gøre indsigelse ville uretfærdig afvisning være permanent.
Fire kopierbare prompter
1) Proxy- og diskriminationsscanning:
Tjek følgende begrundelse for prisfastsættelse/beslutning for rimelighed: [begrundelse]Se efter: bruges den beskyttede egenskab (køn, oprindelse, tro, sundhed, bopælsregion) direkte eller indirekte (fuldmagt: nabolag, navn, erhverv osv.)? For hver tvivlsom variabel skal du forklare, hvorfor den kunne være en proxy, og foreslå et legitimt alternativ.
2) Begrundelse legitimitetstest:
Test følgende begrundelse for benægtelse/høj bonus med tre spørgsmål: [begrundelse]1. Er der et reelt og forsvarligt forhold til risiko?2. Er det baseret på beskyttet ejendom eller dens fuldmagt?3. Kan det forklares for klienten og revisoren? Besvar hvert spørgsmål tydeligt; Markér årsagen, der ikke består testen som "REJECT".
3) Forklarligt udkast til begrundelse:
Udarbejd en formuleret begrundelse til kunden for beslutningen baseret på følgende VERIFICEREDE, legitime risikokriterier: [legitime kriterier] Tone: respektfuld, klar. Brug af beskyttet ejendom/fuldmagt. Angiv kundens ret til at gøre indsigelse og anmode om menneskelig gennemgang. Dette er et udkast; ekspert bekræfter.
4) Tjekliste til menneskelig inspektion:
Opret en menneskelig revisionstjekliste til en automatisk beslutning med stor indvirkning:Beslutningstype: [afvisning/high premium/collateral constraint]Liste: kvalificeret ekspertgennemgang, datakontrolleret, retfærdighed/fuldmagtskontrol, begrundelsesdokument, kundeklagemeddelelse, trail record.
Svag prompt / Stærk prompt
Svag: "Bestem den mest rentable pris med disse data, og skriv begrundelsen."
Problem: Retfærdighed, proxy og forklarlighed respekteres ikke; modellen kan fastholde og retfærdiggøre tidligere diskrimination.
Strong: "Tjek denne begrundelse for proxy og diskrimination; markér punkter, der er afhængige af beskyttet funktion eller dens proxy og erstat med legitime risikokriterium. Skitser en forklarelig begrundelse."
Hvorfor det er godt: Diskrimination testes aktivt, beslutningen er baseret på legitime og forklarlige kriterier.
sammenligningsdiagram
Emne
risikabel tilgang
rigtige tilgang
Model output
"Statistik er objektiv"
Test retfærdigheden aktivt
Variabelt udvalg
Brug alle data
Udtræk fuldmagter
begrundelse
"Det sagde modellen"
Legitime, forklarlige kriterium
Beslutning med stor effekt
fuldautomatisk
Menneskelig tilsyn er obligatorisk
Kundens ret
Ikke rapporteret
Indsigelse + menneskelig anmeldelse + begrundelse
Almindelige fejl
- "Statistik er objektiv" forsvar. Retfærdiggør tidligere uretfærdighed.
- Ignorerer proxyen. Indirekte forskelsbehandling på grund af nabolag/navn/erhverv.
- Upålidelig beslutning for underrepræsenteret gruppe. Det antages, at hastigheden opnået fra en lille prøve er nøjagtig.
- Black box beslutning. Implementering af en automatisk beslutning, hvor årsagen ikke kan forklares.
- Anerkender ikke retten til at gøre indsigelse. Ikke at give kunden ret til menneskelig gennemgang og begrundelse.
Sammenfattende
Kunstig intelligens kan lære forskelsbehandling i historiske data og fortsætte den indirekte (via proxy) i prisfastsættelse og underwriting. Aktivt test retfærdighed: Identificer beskyttede egenskaber og fuldmagter, test begrundelse for legitimitet og forklarlighed. SEDDK, KVKK og automatiske beslutningsprincipper; Fair prissætning kræver forklaring, menneskelig gennemgang og ret til at gøre indsigelse. Menneskelig kontrol er afgørende i beslutninger med stor effekt. I det konkrete tilfælde, konsulter den juridiske/compliance afdeling; Diskrimination er den røde linje.
Ansøgningsopgave
Skriv en liste med 10 variabler, som en prismodel bruger (faktisk eller eksempel). For hver, besvar spørgsmålet "kunne dette være en fuldmagt til en beskyttet ejendom"; Marker de mistænkelige. Indsæt derefter en prøveafvisningsbegrundelse gennem legitimitetstest #2: består den testen, og hvis ikke, hvordan erstatter du den med et legitimt kriterium?
tjekliste
- [ ] Jeg har specificeret beskyttede egenskaber.
- [ ] Jeg scannede variablerne for proxy.
- [ ] Jeg satte begrundelsen på en prøve af legitimitet og forklarlighed.
- [ ] Jeg udførte pålidelighedstjek for underrepræsenterede grupper.
- [ ] Jeg tilføjede menneskelig kontrol i beslutningen om høj effekt.
- [ ] Jeg dokumenterede begrundelsen og gav kunden ret til indsigelse/menneskelig gennemgang.
- [ ] Da jeg var i tvivl, konsulterede jeg juridisk/compliance-afdelingen.