Gewinne:
- Fähigkeit, Risiken von Diskriminierung, Voreingenommenheit und indirekter Diskriminierung bei der Preisgestaltung und dem Underwriting zu erkennen und sie in der Ausgabe künstlicher Intelligenz zu testen
- Fähigkeit zur Wahrung des Aufklärungs- und Widerspruchsrechts im Rahmen der SEDDK-Regelungen, der KVKK und der Grundsätze der automatischen Entscheidungsfindung
- Fähigkeit, menschliche Kontroll- und Rechtfertigungspflichten bei automatisierten Entscheidungen mit hohem Risiko anzuwenden
Versicherungen sind ein Geschäft, das Risiken gruppiert und bepreist; aber diese Gruppierung muss fair sein. Einer Person aufgrund geschützter Merkmale wie Geschlecht, ethnische Zugehörigkeit, Weltanschauung oder Wohnsitzregion eine höhere Prämie zu gewähren oder ihnen den Versicherungsschutz zu verweigern, stellt eine unfaire Diskriminierung dar und ist verboten. Künstliche Intelligenz (Software, die aus historischen Daten lernt und Preis- und Entscheidungsempfehlungen generiert) stellt in diesem Bereich eine besondere Gefahr dar: Sie kann unfaire Muster in historischen Daten lernen und unwissentlich Diskriminierung aufrechterhalten oder sogar verbergen. Darüber hinaus kann dies nicht direkt, sondern indirekt (über eine Proxy-Variable) erfolgen. In dieser Einheit erfahren Sie, wie Sie die Risiken von Voreingenommenheit und Diskriminierung bei Preisgestaltung und Underwriting erkennen, wie Sie die Ergebnisse der künstlichen Intelligenz auf Fairness prüfen und wie Sie das Recht auf Erklärbarkeit und Einspruch im Rahmen von SEDDK (Insurance and Private Pension Regulation and Supervision Agency), KVKK und den Grundsätzen der automatischen Entscheidungsfindung beachten. Bei dieser Einheit handelt es sich nicht um eine Rechtsberatung; Es werden die allgemeinen Grundsätze erläutert. Im konkreten Fall ist unbedingt Rücksprache mit der Rechts-/Compliance-Abteilung zu halten.
Woher kommen Vorurteile und Diskriminierung?
KI-Voreingenommenheit entsteht aus drei Hauptquellen:
- Datenverzerrung: Das Modell lernt über Ungerechtigkeit in historischen Daten. Wenn beispielsweise einer bestimmten Gruppe in der Vergangenheit systematisch hohe Prämien gewährt wurden, betrachtet das Modell dies weiterhin als „normal“.
- Ersatzvariable (Proxy): Auch wenn das Modell das geschützte Merkmal (Geschlecht, Herkunft) nicht direkt verwendet, diskriminiert es indirekt, indem es eine Variable verwendet, die stark damit zusammenhängt (Nachbarschaft, Name, Einkaufsmuster).
- Stichprobenverzerrung: Da einige Gruppen in den Daten unterrepräsentiert sind, liefert das Modell unzuverlässige und unfaire Urteile über sie.
Es gibt zwei Arten von Diskriminierung. Unmittelbare Diskriminierung: offensichtliche Verwendung eines geschützten Merkmals. Indirekte Diskriminierung: wenn ein scheinbar neutrales Kriterium eine bestimmte Gruppe unverhältnismäßig stark beeinträchtigt. Letzteres ist heimtückischer, weil es unbeabsichtigt geschieht und schwer zu erkennen ist.
Achtung: Die Einrede, dass „das Modell auf Statistiken basiert und daher objektiv ist“, ist falsch. Statistiken umfassen auch vergangenes Unrecht; Das Modell legitimiert es nicht, es verewigt es. Fairness muss aktiv erprobt werden.
Testen Sie die Ausgabe auf Fairness
Testen Sie die KI-Ausgabe (Preisempfehlung, Ablehnungsgrund, Risikobewertung) mit drei Fragen auf Fairness:
- Ist der Grund legitim? Basiert die Entscheidung auf Kriterien, die in einem realen und berechtigten Zusammenhang mit dem Risiko stehen, oder auf dem Schutzgut oder seinem Stellvertreter?
- Gibt es einen Proxy? Könnte eine der verwendeten Variablen (Nachbarschaft, Name, Beruf, Familienstand) stark mit einem geschützten Merkmal verknüpft sein?
- Lässt sich das erklären? Können Sie die Entscheidung gegenüber dem Kunden und dem Prüfer klar und nachvollziehbar erläutern? „Das Modell hat es gesagt“ ist keine Aussage.
Besteht eine Begründung diese drei Tests nicht, wird sie abgelehnt und die Entscheidung basiert auf legitimen Kriterien.
Tipp: Testen Sie die Gründe für eine Ablehnung oder eine hohe Prämie mit diesem Satz: „Werde es mir peinlich sein, wenn ich das dem Kunden und einem Wirtschaftsprüfer erkläre?“ Eine beschämende oder unhaltbare Begründung (Nachbarschaft, Name, Herkunft) sollte nicht verwendet werden.
Gesetzlicher Rahmen: SEDDK, KVKK, automatische Entscheidung
Der Einsatz künstlicher Intelligenz in der Versicherung unterliegt verschiedenen Vorschriften. Hauptprinzipien:
- SEDDK-Grundsätze: Versicherungsaktivitäten sollten fair, transparent und verbraucherschützend durchgeführt werden; Die Preisgestaltung muss gerechtfertigt sein und es darf keine ungerechtfertigte Diskriminierung vorliegen.
- KVKK: Personenbezogene Daten müssen gesetzeskonform, zweckgebunden und sicher verarbeitet werden. Besondere Daten, wie zum Beispiel die Gesundheit, unterliegen höchstem Schutz.
- Grundsätze der automatisierten Entscheidungsfindung: Bei Entscheidungen, die ausschließlich auf automatischer Verarbeitung beruhen und die Person erheblich beeinträchtigen (z. B. eine allein durch künstliche Intelligenz getroffene Ablehnung), wird die Person; Das Recht, Einspruch gegen die Entscheidung einzulegen, menschliches Eingreifen zu fordern und die Gründe für die Entscheidung zu erfahren, steht im Vordergrund.
Daher sind Erklärbarkeit, menschliche Kontrolle und Rechtfertigung bei Entscheidungen mit großer Auswirkung unerlässlich. Die ungerechtfertigte Entscheidung eines „Black-Box“-Modells ist sowohl unkontrollierbar als auch im Widerspruch zu diesen Rechten.
Schritt für Schritt: Faire und harmonische Entscheidung
- Identifizieren Sie geschützte Eigenschaften. Geschlecht, Herkunft, Glaube, Gesundheit, Wohnregion usw.
- Führen Sie einen Proxy-Scan durch. Hinterfragen Sie die Beziehung der verwendeten Variablen zu geschützten Eigenschaften.
- Stellen Sie die Rechtfertigung auf die Probe ihrer Legitimität. Gibt es einen echten Zusammenhang mit Risiko? Lässt sich das erklären?
- Fügen Sie menschliche Kontrolle hinzu. Lassen Sie einen Menschen das automatische Ergebnis überprüfen und eine weitreichende Entscheidung treffen.
- Dokumentieren Sie die Begründung. Notieren Sie, auf welchen legitimen Kriterien die Entscheidung beruhte.
- Kennen Sie den Weg, Berufung einzulegen. Bieten Sie dem Kunden das Recht auf Widerspruch, menschliche Überprüfung und Rechtfertigung.
drei Mini-Koffer
Fall 1 – Ablehnung des Proxys. Ein Immobilienpreismodell schlug eine systematisch hohe Prämie für eine bestimmte Postleitzahl vor. Der Experte untersuchte: Die Postleitzahl überschnitt sich mit einem Gebiet mit einer bestimmten ethnischen Konzentration; Dies war eine Proxy-Variable. Bei einer Aufschlüsselung des tatsächlichen Risikos (Gebäudealter, Bauwerkstyp, Schadenshistorie) ist der Großteil der Erhöhung nicht mehr gerechtfertigt. Der Preis wurde auf der Grundlage legitimer Risikokriterien neu festgelegt.
Fall 2 – Unterrepräsentierte Gruppe. Für ein Gesundheitsprodukt bot das Modell einer kleinen Altersgruppe eine zu hohe Prämie. Grund: Diese Gruppe war in den Daten so unterrepräsentiert, dass einige hohe Schäden die gesamte Gruppe als „gefährdet“ erscheinen ließen. Der Experte führte eine Glaubwürdigkeitskorrektur (statistische Zuverlässigkeit) durch und dokumentierte, dass die Empfehlung unzuverlässig war; Es wurde keine ungerechtfertigte Erhöhung vorgenommen.
Fall 3 – Widerspruchsrecht. Ein Antrag wurde automatisch mit einem KI-gestützten Score abgelehnt. Der Kunde widersprach. Im Rahmen des Anpassungsprozesses wurde die Entscheidung noch einmal von einem Experten überprüft; Die Bewertung basierte offenbar auf fehlenden Daten (nicht übereinstimmende frühere Schäden). Die Entscheidung wurde korrigiert. Ohne menschliche Kontrolle und das Recht auf Widerspruch wäre eine ungerechtfertigte Ablehnung dauerhaft.
Vier kopierbare Eingabeaufforderungen
1) Proxy- und Diskriminierungsscan:
Prüfen Sie die folgende Preis-/Entscheidungsbegründung auf Fairness: [Begründung]Suchen Sie nach: Wird das geschützte Merkmal (Geschlecht, Herkunft, Glaube, Gesundheit, Wohnort) direkt oder indirekt verwendet (Stellvertreter: Nachbarschaft, Name, Beruf usw.)? Erklären Sie für jede fragwürdige Variable, warum es sich um einen Proxy handeln könnte, und schlagen Sie eine legitime Alternative vor.
2) Rechtfertigungslegitimitätstest:
Testen Sie die folgende Verneinungs-/Hohe-Bonus-Begründung mit drei Fragen: [Begründung]1. Besteht ein realer und gerechtfertigter Zusammenhang zum Risiko?2. Basiert es auf geschütztem Eigentum oder dessen Stellvertreter?3. Kann es dem Kunden und dem Prüfer erklärt werden? Beantworten Sie jede Frage klar und deutlich. Markieren Sie den Grund, der den Test nicht besteht, als „ABLEHNEN“.
3) Erklärbarer Begründungsentwurf:
Entwerfen Sie dem Kunden eine klare Begründung für die Entscheidung auf der Grundlage der folgenden VERIFIZIERTEN, legitimen Risikokriterien: [legitime Kriterien] Ton: respektvoll, klar. Verwendung von geschütztem Eigentum/Proxy. Erklären Sie das Widerspruchsrecht des Kunden und fordern Sie eine menschliche Überprüfung an. Dies ist ein Entwurf; Experte bestätigt.
4) Checkliste für die menschliche Inspektion:
Erstellen Sie eine menschliche Audit-Checkliste für eine hochwirksame automatisierte Entscheidung: Entscheidungstyp: [Ablehnung/hohe Prämie/Sicherheitsbeschränkung] Liste: Prüfung durch qualifizierte Experten, überprüfte Daten, Fairness/Proxy-Kontrolle, Begründungsdokument, Kundeneinspruchsmitteilung, Protokollaufzeichnung.
Schwache Eingabeaufforderung / Starke Eingabeaufforderung
Schwach: „Ermitteln Sie anhand dieser Daten den profitabelsten Preis und schreiben Sie die Begründung.“
Problem: Fairness, Proxy und Erklärbarkeit werden nicht respektiert; Das Modell kann frühere Diskriminierung aufrechterhalten und rechtfertigen.
Stark: „Überprüfen Sie diese Begründung auf Proxy und Diskriminierung; kennzeichnen Sie Punkte, die auf einer geschützten Funktion oder deren Proxy basieren, und ersetzen Sie sie durch ein legitimes Risikokriterium. Skizzieren Sie eine erklärbare Begründung.“
Warum es gut ist: Diskriminierung wird aktiv geprüft, die Entscheidung basiert auf legitimen und nachvollziehbaren Kriterien.
Vergleichstabelle
Betreff
riskanter Ansatz
richtige Herangehensweise
Modellausgabe
„Statistik ist objektiv“
Gerechtigkeit aktiv testen
Variablenauswahl
Nutzen Sie alle Daten
Proxys extrahieren
Begründung
„Das hat das Model gesagt“
Legitimes, erklärbares Kriterium
Entscheidung mit großer Wirkung
vollautomatisch
Die Aufsicht durch Menschen ist obligatorisch
Kundenrecht
Nicht gemeldet
Einspruch + menschliche Überprüfung + Begründung
Häufige Fehler
- Die Verteidigung „Statistik ist objektiv“. Rechtfertigung vergangener Ungerechtigkeit.
- Den Proxy ignorieren. Indirekte Diskriminierung aufgrund der Nachbarschaft/Name/Beruf.
- Unzuverlässige Entscheidung für eine unterrepräsentierte Gruppe. Es wird davon ausgegangen, dass die aus einer kleinen Stichprobe erhaltene Rate genau ist.
- Black-Box-Entscheidung. Implementierung einer automatischen Entscheidung, deren Grund nicht erklärt werden kann.
- Das Widerspruchsrecht wird nicht anerkannt. Dem Kunden wird nicht das Recht auf menschliche Überprüfung und Rechtfertigung eingeräumt.
Zusammenfassend
Künstliche Intelligenz kann Diskriminierung in historischen Daten lernen und diese indirekt (über Proxy) in der Preisgestaltung und im Underwriting weiterführen. Fairness aktiv testen: geschützte Eigenschaften und Stellvertreter identifizieren, Begründung auf Legitimität und Erklärbarkeit prüfen. SEDDK, KVKK und automatische Entscheidungsprinzipien; Eine faire Preisgestaltung erfordert Erklärbarkeit, menschliche Überprüfung und das Recht auf Widerspruch. Bei Entscheidungen mit großer Tragweite ist die Kontrolle durch den Menschen unerlässlich. Im konkreten Fall wenden Sie sich bitte an die Rechts-/Compliance-Abteilung; Diskriminierung ist die rote Linie.
Anwendungsaufgabe
Schreiben Sie eine Liste mit 10 Variablen, die ein Preismodell verwendet (tatsächlich oder beispielhaft). Beantworten Sie jeweils die Frage „Könnte dies ein Stellvertreter für ein geschütztes Eigentum sein“; Markieren Sie die Verdächtigen. Unterziehen Sie dann eine beispielhafte Ablehnungsbegründung dem Legitimitätstest Nr. 2: Besteht sie den Test, und wenn nicht, wie ersetzen Sie sie durch ein legitimes Kriterium?
Checkliste
- [ ] Ich habe geschützte Eigenschaften angegeben.
- [ ] Ich habe die Variablen nach Proxy durchsucht.
- [ ] Ich stelle die Begründung auf die Probe auf Legitimität und Erklärbarkeit.
- [ ] Ich habe Zuverlässigkeitsprüfungen für unterrepräsentierte Gruppen durchgeführt.
- [ ] Ich habe bei der Entscheidung mit großer Auswirkung die menschliche Kontrolle hinzugefügt.
- [ ] Ich habe die Begründung dokumentiert und dem Kunden das Recht auf Einspruch/menschliche Überprüfung eingeräumt.
- [ ] Im Zweifelsfall habe ich die Rechts-/Compliance-Abteilung konsultiert.