Vinster:
- Förmåga att känna igen risker för diskriminering, partiskhet och indirekt diskriminering i prissättning och underwriting och testa dem i artificiell intelligens
- Förmåga att iaktta rätten till förklaring och invändning inom ramen för SEDDK-föreskrifter, KVKK och automatiska beslutsprinciper
- Förmåga att tillämpa mänsklig kontroll och motiveringsskyldighet i automatiserade högriskbeslut
Försäkring är en verksamhet som grupperar och priser riskerar; men denna gruppering måste vara rättvis. Att ge en högre premie eller neka täckning till en person på grund av skyddade egenskaper som deras kön, etnicitet, tro, bosättningsregion är orättvis diskriminering och är förbjudet. Artificiell intelligens (programvara som lär sig av historiska data och genererar pris- och beslutsrekommendationer) utgör en särskild fara på detta område: den kan lära sig orättvisa mönster i historiska data och omedvetet vidmakthålla eller till och med dölja diskriminering. Dessutom kan den göra detta inte direkt utan indirekt (genom en proxyvariabel). I den här enheten får du lära dig hur du känner igen riskerna för partiskhet och diskriminering i prissättning och emissionsgarantier, hur du testar produktionen av artificiell intelligens för rättvisa och hur du iakttar rätten till förklaring och invändning inom ramen för SEDDK (Försäkrings- och Privatpensionsförordningen och tillsynsmyndigheten), KVKK och principer för automatiskt beslutsfattande. Denna enhet är inte ett juridiskt konsultföretag; Den förklarar de allmänna principerna, i alla konkreta fall, se till att rådfråga juridiska/efterlevnadsenheten.
Var kommer fördomar och diskriminering ifrån?
AI-bias uppstår från tre huvudkällor:
- Databias: Modellen lär sig om orättvisa i historisk data. Till exempel, om en viss grupp systematiskt har fått höga premier tidigare, fortsätter modellen att betrakta detta som "normalt".
- Surrogatvariabel (proxy): Även om modellen inte direkt använder den skyddade egenskapen (kön, ursprung) diskriminerar den indirekt genom att använda en variabel som är starkt relaterad till den (grannskap, namn, shoppingmönster).
- Urvalsbias: Eftersom vissa grupper är underrepresenterade i data, producerar modellen opålitliga och orättvisa bedömningar om dem.
Det finns två typer av diskriminering. Direkt diskriminering: uppenbar användning av en skyddad egenskap. Indirekt diskriminering: när ett till synes neutralt kriterium oproportionerligt påverkar en viss grupp. Den andra är mer lömsk eftersom den sker utan avsikt och är svår att upptäcka.
Varning: Försvaret att "modellen bygger på statistik, så den är objektiv" är fel. Statistik inkluderar också tidigare orättvisor; Modellen legitimerar den inte, den vidmakthåller den. Rättvisa är något som aktivt måste testas.
Testa utdata för rättvisa
Testa AI-utgången (prisrekommendation, skäl för avslag, riskpoäng) med tre frågor för rättvisa:
- Är anledningen legitim? Baseras beslutet på kriterier som har ett reellt och försvarbart förhållande till risken, eller på den skyddade egendomen eller dess ombud?
- Finns det en proxy? Kan en av de använda variablerna (grannskap, namn, yrke, civilstånd) vara starkt associerad med en skyddad egenskap?
- Går det att förklara? Kan du förklara beslutet för uppdragsgivare och revisor på ett tydligt och försvarbart sätt? "Modellen sa det" är inget påstående.
Om en motivering inte klarar dessa tre tester avvisas den och beslutet baseras på legitima kriterier.
Tips: Testa skälen för ett avslag eller hög premie med den här meningen: "Kommer jag bli generad om jag förklarar detta för kunden och en revisor?" En skamlig eller oförsvarbar motivering (grannskap, namn, ursprung) bör inte användas.
Lagstiftning: SEDDK, KVKK, automatiskt beslut
Användningen av artificiell intelligens i försäkringar är föremål för olika regler. Huvudprinciper:
- SEDDK-principer: Försäkringsverksamhet bör utföras på ett rättvist, öppet och konsumentskyddande sätt; Prissättningen måste vara försvarbar och det får inte förekomma någon orättvis diskriminering.
- KVKK: Personuppgifter ska behandlas i enlighet med lagen, begränsat till ändamålet och säkert. Särskilda uppgifter, såsom hälsa, omfattas av högsta skydd.
- Principer för automatiserat beslutsfattande: I beslut som enbart baseras på automatisk behandling och väsentligt påverkar personen (till exempel ett avslag som gjorts av enbart artificiell intelligens), personen; Rätten att göra invändningar mot beslutet, att begära mänskligt ingripande och att lära sig grunderna för beslutet kommer i förgrunden.
Därför är förklaringsbarhet, mänsklig kontroll och motivering väsentliga i beslut med stor inverkan. Det omotiverade beslutet av en "black box"-modell är både okontrollerbart och i konflikt med dessa rättigheter.
Steg för steg: Rättvist och harmoniskt beslut
- Identifiera skyddade egenskaper. Kön, ursprung, övertygelse, hälsa, bostadsregion etc.
- Gör en proxyskanning. Ifrågasätt förhållandet mellan de variabler som används med skyddade egenskaper.
- Sätt motiveringen på prov på legitimitet. Finns det ett verkligt samband med risk? Går det att förklara?
- Lägg till mänsklig kontroll. Låt en människa granska det automatiska resultatet i ett beslut med stor inverkan.
- Dokumentera motiveringen. Anteckna vilka legitima kriterier beslutet baserades på.
- Vet sättet att överklaga. Ge kunden rätt till invändning, mänsklig granskning och motivering.
tre minifodral
Fall 1 — Avvisa fullmakten. En prismodell för bostäder föreslog en systematiskt hög premie för ett visst postnummer. Experten undersökte: postnumret överlappade ett område med en viss etnisk koncentration; detta var en proxyvariabel. När den faktiska risken (byggnadsålder, strukturtyp, skadehistorik) bryts ner är större delen av ökningen inte längre motiverad. Priset har återupprättats baserat på legitima riskkriterier.
Fall 2 — Underrepresenterad grupp. För en sjukvårdsprodukt erbjöd modellen en alltför hög premie till en liten åldersgrupp. Anledning: denna grupp var så underrepresenterad i uppgifterna att några höga skadestånd gjorde att hela gruppen framstod som "i riskzonen". Experten utförde en trovärdighetskorrigering (statistisk tillförlitlighet) och dokumenterade att rekommendationen var opålitlig; Orättvis höjning tillämpades inte.
Fall 3 – Rätt att invända. En ansökan avslogs automatiskt med en AI-driven poäng. Kunden protesterade. Som en del av anpassningsprocessen granskades beslutet på nytt av en expert; Poängen verkade vara baserad på saknade data (felmatchade tidigare skador). Beslutet har rättats. Utan mänsklig kontroll och rätten att göra invändningar skulle orättvist avslag vara permanent.
Fyra kopierbara uppmaningar
1) Proxy- och diskrimineringsskanning:
Kontrollera följande motivering för prissättning/beslut för rättvisa: [motivering] Leta efter: används den skyddade egenskapen (kön, ursprung, tro, hälsa, bostadsregion) direkt eller indirekt (fullmakt: grannskap, namn, yrke, etc.)? För varje tveksam variabel, förklara varför den kan vara en proxy och föreslå ett legitimt alternativ.
2) Berättigande legitimitetstest:
Testa följande skäl för förnekelse/hög bonus med tre frågor: [motivering]1. Finns det ett verkligt och försvarbart förhållande till risk?2. Är den baserad på skyddad egendom eller dess proxy?3. Kan det förklaras för uppdragsgivaren och revisorn? Svara tydligt på varje fråga; Markera anledningen som inte klarar provet som "REJECT".
3) Förklarligt motiveringsutkast:
Utarbeta en formulerad motivering till kunden för beslutet baserat på följande VERIFIERADE, legitima riskkriterier: [legitima kriterier] Ton: respektfullt, tydligt. Använder skyddad egendom/fullmakt. Ange kundens rätt att invända och begära mänsklig granskning. Detta är ett utkast; expert bekräftar.
4) Kontrolllista för mänsklig inspektion:
Skapa en checklista för mänsklig granskning för ett automatiskt beslut med stor genomslagskraft: Beslutstyp: [avslag/hög premie/säkerhetsbegränsning] Lista: granskade kvalificerade experter, kontrollerade data, rättvisa/fullmaktskontroll, motiveringsdokument, meddelande om överklagande från kunder, slutrapport.
Svag prompt / Stark prompt
Svag: "Bestämma det mest lönsamma priset med dessa uppgifter och skriv motiveringen."
Problem: Rättvisa, proxy och förklarabarhet respekteras inte; modellen kan vidmakthålla och motivera tidigare diskriminering.
Strong: "Kontrollera den här motiveringen för proxy och diskriminering; flagga punkter som förlitar sig på skyddad funktion eller dess proxy och ersätt med legitima riskkriterium. Beskriv en förklarande motivering."
Varför det är bra: Diskriminering prövas aktivt, beslutet baseras på legitima och förklarliga kriterier.
jämförelsediagram
Ämne
riskabelt tillvägagångssätt
rätt tillvägagångssätt
Modellutgång
"Statistik är objektiv"
Testa aktivt rättvisa
Variabelt urval
Använd alla data
Extrahera fullmakter
motivering
"Det är vad modellen sa"
Legitima, förklarliga kriterium
Beslut med hög effekt
helautomatisk
Mänsklig övervakning är obligatorisk
Kundrätt
Ej rapporterad
Invändning + mänsklig granskning + motivering
Vanliga misstag
- "Statistiken är objektiv" försvaret. Att rättfärdiga tidigare orättvisor.
- Ignorerar proxyn. Indirekt diskriminering på grund av grannskap/namn/yrke.
- Otillförlitligt beslut för underrepresenterad grupp. Förutsatt att hastigheten som erhålls från ett litet prov är korrekt.
- Black box-beslut. Genomförande av ett automatiskt beslut vars orsak inte kan förklaras.
- Erkänner inte rätten att invända. Att inte ge kunden rätt till mänsklig granskning och motivering.
Sammanfattningsvis
Artificiell intelligens kan lära sig diskriminering i historiska data och fortsätta den indirekt (via proxy) i prissättning och emissionsgarantier. Aktivt testa rättvisa: identifiera skyddade egenskaper och ombud, testa motivering för legitimitet och förklarabarhet. SEDDK, KVKK och principer för automatiskt beslutsfattande; Rättvis prissättning kräver förklaring, mänsklig granskning och rätt att invända. Mänsklig kontroll är avgörande i beslut med stor genomslagskraft. I det specifika fallet, rådfråga juridiska/efterlevnadsavdelningen; Diskriminering är den röda linjen.
Applikationsuppgift
Skriv en lista med 10 variabler som en prissättningsmodell använder (faktisk eller exempel). För varje, svara på frågan "kan detta vara en proxy för en skyddad egendom"; Flagga de misstänkta. Lägg sedan ett exempel på avslagsberättigande genom legitimitetstest #2: klarar det testet, och om inte, hur ersätter du det med ett legitimt kriterium?
checklista
- [ ] Jag har specificerat skyddade egenskaper.
- [ ] Jag skannade variablerna för proxy.
- [ ] Jag satte motiveringen på prov på legitimitet och förklaringsbarhet.
- [ ] Jag genomförde tillförlitlighetskontroller för underrepresenterade grupper.
- [ ] Jag lade till mänsklig kontroll i beslutet med hög effekt.
- [ ] Jag dokumenterade motiveringen och gav kunden rätt till invändning/mänsklig granskning.
- [ ] Vid tveksamhet rådfrågade jag avdelningen för juridisk/efterlevnad.