Winst:
- Vermogen om risico's van discriminatie, vooroordelen en indirecte discriminatie bij prijsstelling en acceptatie te herkennen en deze te testen in de output van kunstmatige intelligentie
- Vermogen om het recht op uitlegbaarheid en bezwaar in acht te nemen binnen het kader van SEDDK-regelgeving, KVKK en automatische besluitvormingsprincipes
- Vermogen om menselijke controle- en rechtvaardigingsverplichtingen toe te passen bij geautomatiseerde beslissingen met een hoog risico
Verzekeren is een bedrijf dat risico's groepeert en prijst; maar deze groepering moet eerlijk zijn. Het geven van een hogere premie of het weigeren van dekking aan een persoon vanwege beschermde kenmerken zoals geslacht, etniciteit, geloofsovertuiging of woonregio is oneerlijke discriminatie en is verboden. Kunstmatige intelligentie (software die leert van historische gegevens en prijs- en beslissingsaanbevelingen genereert) vormt op dit gebied een bijzonder gevaar: het kan oneerlijke patronen in historische gegevens leren en discriminatie ongewild in stand houden of zelfs verbergen. Bovendien kan het dit niet direct maar indirect (via een proxyvariabele) doen. In deze unit leert u hoe u de risico's van vooringenomenheid en discriminatie bij prijsstelling en acceptatie kunt herkennen, hoe u de output van kunstmatige intelligentie op eerlijkheid kunt testen en hoe u het recht op uitlegbaarheid en bezwaar kunt naleven binnen het raamwerk van SEDDK (Insurance and Private Pension Regulation and Supervision Agency), KVKK en automatische besluitvormingsprincipes. Deze unit is geen juridisch adviesbureau; Het legt de algemene principes uit. In elk concreet geval dient u de juridische/compliance-eenheid te raadplegen.
Waar komen vooroordelen en discriminatie vandaan?
AI-vooroordelen komen voort uit drie belangrijke bronnen:
- Gegevensbias: het model leert over oneerlijkheid in historische gegevens. Als een bepaalde groep in het verleden bijvoorbeeld stelselmatig hoge premies heeft gekregen, blijft het model dit als ‘normaal’ beschouwen.
- Surrogaatvariabele (proxy): Zelfs als het model niet direct gebruik maakt van het beschermde kenmerk (geslacht, herkomst), discrimineert het indirect door een variabele te gebruiken die er sterk aan gerelateerd is (buurt, naam, winkelpatroon).
- Sampling bias: Omdat sommige groepen ondervertegenwoordigd zijn in de gegevens, produceert het model onbetrouwbare en oneerlijke oordelen over hen.
Er zijn twee soorten discriminatie. Directe discriminatie: flagrant gebruik van een beschermd kenmerk. Indirecte discriminatie: wanneer een ogenschijnlijk neutraal criterium een bepaalde groep onevenredig zwaar treft. De tweede is verraderlijker omdat deze zonder opzet plaatsvindt en moeilijk te detecteren is.
Let op: de verdediging dat "het model gebaseerd is op statistieken en dus objectief is" klopt niet. Statistieken omvatten ook onrecht uit het verleden; Het model legitimeert het niet, het houdt het in stand. Eerlijkheid is iets dat actief moet worden getest.
Het testen van de output op eerlijkheid
Test de AI-output (prijsadvies, afwijzingsreden, risicoscore) met drie vragen voor eerlijkheid:
- Is de reden legitiem? Is de beslissing gebaseerd op criteria die een reële en gerechtvaardigde relatie hebben met het risico, of op het beschermde eigendom of de proxy ervan?
- Is er een proxy? Kan één van de gebruikte variabelen (buurt, naam, beroep, burgerlijke staat) sterk geassocieerd zijn met een beschermd kenmerk?
- Kan het worden verklaard? Kunt u het besluit op een heldere en verdedigbare wijze aan de opdrachtgever en accountant uitleggen? ‘Het model zei het’ is geen verklaring.
Als een rechtvaardiging deze drie tests niet doorstaat, wordt deze afgewezen en wordt de beslissing gebaseerd op legitieme criteria.
Tip: Test de reden voor een afwijzing of hoge premie met deze zin: "Ga ik me schamen als ik dit aan de opdrachtgever en een accountant uitleg?" Er mag geen beschamende of onverdedigbare rechtvaardiging (buurt, naam, herkomst) worden gebruikt.
Wetgevend kader: SEDDK, KVKK, automatische beslissing
Het gebruik van kunstmatige intelligentie in verzekeringen is onderworpen aan verschillende regelgeving. Belangrijkste principes:
- SEDDK-principes: Verzekeringsactiviteiten moeten op een eerlijke, transparante en consumentenbeschermende manier worden uitgevoerd; Prijzen moeten gerechtvaardigd zijn en er mag geen sprake zijn van oneerlijke discriminatie.
- KVKK: Persoonsgegevens moeten in overeenstemming met de wet worden verwerkt, beperkt tot het doel en veilig. Bijzondere gegevens, zoals gezondheid, genieten de hoogste bescherming.
- Geautomatiseerde besluitvormingsprincipes: Bij beslissingen die uitsluitend gebaseerd zijn op automatische verwerking en die de persoon aanzienlijk beïnvloeden (bijvoorbeeld een afwijzing die alleen door kunstmatige intelligentie wordt gedaan), kan de persoon; Het recht om bezwaar te maken tegen de beslissing, om menselijke tussenkomst te vragen en om de grondgedachte van de beslissing te leren kennen, komt naar voren.
Daarom zijn verklaarbaarheid, menselijke controle en rechtvaardiging essentieel bij beslissingen met een grote impact. De ongerechtvaardigde beslissing van een ‘black box’-model is zowel oncontroleerbaar als in strijd met deze rechten.
Stap voor stap: Eerlijke en harmonieuze beslissing
- Identificeer beschermde eigendommen. Geslacht, afkomst, geloof, gezondheid, woonregio, etc.
- Voer een proxyscan uit. Stel de relatie van de gebruikte variabelen met beschermde eigenschappen in vraag.
- Stel de rechtvaardiging aan de test van legitimiteit. Is er een reële relatie met risico? Kan het worden verklaard?
- Voeg menselijke controle toe. Laat een mens het automatische resultaat van een beslissing met grote impact beoordelen.
- Documenteer de reden. Leg vast op welke legitieme criteria de beslissing was gebaseerd.
- Weet hoe u in beroep kunt gaan. Geef de klant het recht op bezwaar, menselijke beoordeling en rechtvaardiging.
drie minikoffers
Geval 1 — De volmacht afwijzen. Een huizenprijsmodel suggereerde een systematisch hoge premie voor een bepaalde postcode. De deskundige onderzocht: de postcode overlapt met een gebied met een bepaalde etnische concentratie; dit was een proxyvariabele. Wanneer het werkelijke risico (leeftijd van het gebouw, type constructie, schadegeschiedenis) wordt uitgesplitst, is het grootste deel van de verhoging niet langer gerechtvaardigd. De prijs is opnieuw vastgesteld op basis van legitieme risicocriteria.
Geval 2 — Ondervertegenwoordigde groep. Voor een zorgproduct bood het model een te hoge premie aan een kleine leeftijdsgroep. Reden: deze groep was zo ondervertegenwoordigd in de gegevens dat een paar grote schadegevallen ervoor zorgden dat de hele groep "in gevaar" leek. De deskundige voerde een geloofwaardigheidscorrectie (statistische betrouwbaarheid) uit en documenteerde dat de aanbeveling onbetrouwbaar was; Er werd geen onterechte loonsverhoging toegepast.
Geval 3 — Recht om bezwaar te maken. Een aanvraag werd automatisch afgewezen met een AI-aangedreven score. De klant maakte bezwaar. Als onderdeel van het aanpassingsproces werd het besluit opnieuw onderzocht door een deskundige; De score leek gebaseerd te zijn op ontbrekende gegevens (niet-overeenkomende schade uit het verleden). Het besluit is gecorrigeerd. Zonder menselijke controle en het recht om bezwaar te maken zou oneerlijke afwijzing permanent zijn.
Vier kopieerbare aanwijzingen
1) Proxy- en discriminatiescannen:
Controleer de volgende rechtvaardiging van de prijs/beslissing op eerlijkheid: [rechtvaardiging]Let op: wordt het beschermde kenmerk (geslacht, afkomst, geloof, gezondheid, regio van verblijf) direct of indirect gebruikt (proxy: buurt, naam, beroep, etc.)? Leg voor elke twijfelachtige variabele uit waarom deze een proxy zou kunnen zijn en stel een legitiem alternatief voor.
2) Rechtvaardigingstoets:
Test de volgende redenering voor weigering/hoge bonus met drie vragen: [rechtvaardiging]1. Bestaat er een reële en gerechtvaardigde relatie met risico?2. Is het gebaseerd op beschermd eigendom of op de proxy ervan?3. Is het uit te leggen aan de opdrachtgever en de accountant? Beantwoord elke vraag duidelijk; Markeer de reden die de test niet doorstaat als "AFWIJZEN".
3) Verklaarbaar motiveringsontwerp:
Stel een gearticuleerde reden op voor de cliënt voor de beslissing, gebaseerd op de volgende GEVERIFIEERDE, legitieme risicocriteria: [legitieme criteria] Toon: respectvol, duidelijk. Met behulp van beschermde eigendom/proxy. Vermeld het recht van de klant om bezwaar te maken en om menselijke beoordeling te verzoeken. Dit is een concept; deskundige bevestigt.
4) Controlelijst voor menselijke inspectie:
Maak een menselijke auditchecklist voor een geautomatiseerde beslissing met grote impact: Beslissingstype: [afwijzing/hoge premie/onderpandbeperking] Lijst: beoordeling door gekwalificeerde deskundigen, gecontroleerde gegevens, eerlijkheid/proxycontrole, rechtvaardigingsdocument, kennisgeving van beroep van de klant, spoorrecord.
Zwakke prompt/sterke prompt
Zwak: "Bepaal met deze gegevens de meest winstgevende prijs en schrijf de rechtvaardiging."
Probleem: Eerlijkheid, proxy en uitlegbaarheid worden niet gerespecteerd; het model kan discriminatie uit het verleden bestendigen en rechtvaardigen.
Strong: "Controleer deze rechtvaardiging voor proxy en discriminatie; markeer punten die afhankelijk zijn van een beschermd kenmerk of de proxy ervan en vervang deze door een legitiem risicocriterium. Geef een verklaarbare rechtvaardiging."
Waarom het goed is: Discriminatie wordt actief getest, de beslissing is gebaseerd op legitieme en verklaarbare criteria.
vergelijkingstabel
Onderwerp
riskante aanpak
juiste aanpak
Modeluitvoer
"Statistieken zijn objectief"
Actief gerechtigheid testen
Variabele selectie
Gebruik elke gegevens
Proxy's extraheren
rechtvaardiging
"Dat zei het model"
Legitiem, verklaarbaar criterium
Beslissing met grote impact
volledig automatisch
Menselijk toezicht is verplicht
Klant gelijk
Niet gerapporteerd
Bezwaar + menselijke beoordeling + rechtvaardiging
Veel voorkomende fouten
- De verdediging ‘statistieken is objectief’. Het rechtvaardigen van onrecht uit het verleden.
- De proxy negeren. Indirecte discriminatie op basis van buurt/naam/beroep.
- Onbetrouwbare beslissing voor ondervertegenwoordigde groep. Ervan uitgaande dat de snelheid verkregen uit een kleine steekproef accuraat is.
- Blackbox-besluit. Het uitvoeren van een automatisch besluit waarvan de reden niet kan worden verklaard.
- Het niet erkennen van het recht van bezwaar. De klant geen recht geven op menselijke beoordeling en rechtvaardiging.
Samengevat
Kunstmatige intelligentie kan discriminatie in historische gegevens leren en deze indirect (via proxy) voortzetten in prijsstelling en acceptatie. Test actief de eerlijkheid: identificeer beschermde eigenschappen en proxy's, test de rechtvaardiging op legitimiteit en verklaarbaarheid. SEDDK, KVKK en automatische besluitvormingsprincipes; Eerlijke prijzen vereisen verklaarbaarheid, menselijke beoordeling en het recht om bezwaar te maken. Menselijke controle is essentieel bij beslissingen met een grote impact. Raadpleeg in het specifieke geval de juridische/complianceafdeling; Discriminatie is de rode lijn.
Applicatie taak
Schrijf een lijst met tien variabelen die een prijsmodel gebruikt (werkelijk of voorbeeld). Beantwoord voor elk de vraag "kan dit een proxy zijn voor een beschermd eigendom"; Markeer de verdachte. Voer vervolgens een voorbeeld van een rechtvaardiging voor afwijzing in via legitimiteitstest nr. 2: slaagt het voor de test, en zo niet, hoe vervang je het dan door een legitiem criterium?
controlelijst
- [ ] Ik heb beschermde eigenschappen opgegeven.
- [ ] Ik heb de variabelen gescand op proxy.
- [ ] Ik heb de rechtvaardiging op de proef gesteld op legitimiteit en verklaarbaarheid.
- [ ] Ik heb betrouwbaarheidscontroles uitgevoerd voor ondervertegenwoordigde groepen.
- [ ] Ik heb menselijke controle toegevoegd aan de beslissing met grote impact.
- [ ] Ik heb de grondgedachte gedocumenteerd en de klant het recht gegeven op bezwaar/menselijke beoordeling.
- [ ] Bij twijfel heb ik de juridische/complianceafdeling geraadpleegd.