Câștiguri:
- Capacitatea de a recunoaște riscurile de discriminare, părtinire și discriminare indirectă în stabilirea prețurilor și subscriere și a le testa în rezultatele inteligenței artificiale
- Abilitatea de a respecta dreptul la explicabilitate și obiecție în cadrul reglementărilor SEDDK, KVKK și principiilor de luare a deciziilor automate
- Capacitatea de a aplica controlul uman și obligațiile de justificare în deciziile automate cu risc ridicat
Asigurarea este o afacere care grupează și prețuiește riscul; dar această grupare trebuie să fie corectă. Acordarea unei prime mai mari sau refuzul acoperirii unei persoane din cauza caracteristicilor protejate, cum ar fi sexul, etnia, credința, regiunea de reședință, este o discriminare injustă și este interzisă. Inteligența artificială (software care învață din datele istorice și generează recomandări de preț și de decizie) reprezintă un pericol deosebit în acest domeniu: poate învăța modele inechitabile în datele istorice și poate perpetua sau chiar ascunde discriminarea fără să vrea. Mai mult, poate face acest lucru nu direct, ci indirect (prin intermediul unei variabile proxy). În această unitate, veți învăța cum să recunoașteți riscurile de părtinire și discriminare în stabilirea prețurilor și subscriere, cum să testați rezultatele inteligenței artificiale pentru corectitudine și cum să respectați dreptul la explicabilitate și obiecție în cadrul SEDDK (Agenția de reglementare și supraveghere a asigurărilor și pensiilor private), KVKK și principiilor de luare a deciziilor automate. Această unitate nu este o consultanță juridică; Acesta explică principiile generale, în orice caz concret, asigurați-vă că consultați unitatea juridică/conformitate.
De unde vin prejudecățile și discriminarea?
Prejudecățile AI provine din trei surse principale:
- Prejudecățile datelor: modelul învață despre inechitabilitatea datelor istorice. De exemplu, dacă un anumit grup a primit sistematic prime mari în trecut, modelul continuă să considere acest lucru ca fiind „normal”.
- Variabila surogat (proxy): Chiar dacă modelul nu folosește în mod direct caracteristica protejată (sex, origine), discriminează indirect prin utilizarea unei variabile care este strâns legată de aceasta (cartier, nume, model de cumpărături).
- Prejudecăți de eșantionare: Deoarece unele grupuri sunt subreprezentate în date, modelul produce judecăți nesigure și inechitabile cu privire la ele.
Există două tipuri de discriminare. Discriminare directă: utilizarea flagrantă a unei caracteristici protejate. Discriminare indirectă: atunci când un criteriu aparent neutru afectează în mod disproporționat un anumit grup. Al doilea este mai insidios deoarece apare fără intenție și este greu de detectat.
Atenție: Apărarea că „modelul se bazează pe statistici, deci este obiectiv” este greșită. Statisticile includ, de asemenea, nedreptatea trecută; Modelul nu îl legitimează, ci îl perpetuează. Corectitudinea este ceva care trebuie testat activ.
Testarea rezultatelor pentru corectitudine
Testați rezultatul AI (recomandare de preț, motiv de respingere, scor de risc) cu trei întrebări pentru corectitudine:
- Este motivul legitim? Decizia se bazează pe criterii care au o relație reală și justificată cu riscul, sau pe proprietatea protejată sau împuternicitul acesteia?
- Există un proxy? Ar putea una dintre variabilele utilizate (vecinat, nume, ocupație, stare civilă) să fie puternic asociată cu o caracteristică protejată?
- Se poate explica? Puteți explica decizia clientului și auditorului într-o manieră clară și defensabilă? „Modelul a spus așa” nu este o declarație.
Dacă o justificare nu trece aceste trei teste, este respinsă și decizia se bazează pe criterii legitime.
Sfat: Testați rațiunea unei respingeri sau a unei prime mari cu această propoziție: „Voi fi jenat dacă explic acest lucru clientului și unui auditor?” O justificare rușinoasă sau de neapărat (vecinațiune, nume, origine) nu trebuie folosită.
Cadrul legislativ: SEDDK, KVKK, hotărâre automată
Utilizarea inteligenței artificiale în asigurări este supusă diferitelor reglementări. Principii principale:
- Principii SEDDK: Activitățile de asigurare ar trebui să se desfășoare într-o manieră corectă, transparentă și de protecție a consumatorilor; Prețurile trebuie să fie justificate și nu trebuie să existe nicio discriminare neloială.
- KVKK: Datele cu caracter personal trebuie prelucrate în conformitate cu legea, limitate la scop și în siguranță. Datele speciale, cum ar fi sănătatea, sunt supuse celei mai înalte protecții.
- Principii automate de luare a deciziilor: În deciziile care se bazează exclusiv pe procesarea automată și afectează în mod semnificativ persoana (de exemplu, o respingere făcută numai de inteligența artificială), persoana; Drepturile de a obiecta la decizie, de a solicita intervenția umană și de a afla rațiunea deciziei ies în prim-plan.
Prin urmare, explicabilitatea, controlul uman și justificarea sunt esențiale în deciziile cu impact ridicat. Decizia nejustificată a unui model „cutie neagră” este atât incontrolabilă, cât și în conflict cu aceste drepturi.
Pas cu pas: Decizie corectă și armonioasă
- Identificați proprietățile protejate. Sex, origine, credință, sănătate, regiune de reședință etc.
- Faceți o scanare proxy. Întrebați relația dintre variabilele utilizate cu proprietățile protejate.
- Pune justificarea la testul legitimității. Există o relație reală cu riscul? Se poate explica?
- Adăugați control uman. Lăsați un om să revizuiască rezultatul automat într-o decizie de mare impact.
- Documentați rațiunea. Înregistrați pe ce criterii legitime s-a bazat decizia.
- Cunoașteți modalitatea de a face apel. Oferiți clientului dreptul de opoziție, revizuire umană și justificare.
trei mini cutii
Cazul 1 – Respingerea proxy-ului. Un model de preț pentru locuințe a sugerat o primă sistematic ridicată pentru un anumit cod poștal. Expertul a examinat: codul poștal se suprapunea cu o zonă cu o anumită concentrare etnică; aceasta a fost o variabilă proxy. Când riscul real (vechimea clădirii, tipul structurii, istoricul deteriorării) este defalcat, cea mai mare parte a creșterii nu mai este justificată. Prețul a fost restabilit pe baza unor criterii de risc legitime.
Cazul 2 – Grup subreprezentat. Pentru un produs de îngrijire a sănătății, modelul a oferit o primă excesiv de mare unui grup mic de vârstă. Motiv: acest grup a fost atât de subreprezentat în date încât câteva daune mari au făcut ca întregul grup să pară „în pericol”. Expertul a efectuat o corecție de credibilitate (fiabilitatea statistică) și a documentat că recomandarea nu este de încredere; Majorarea nedreptă nu a fost aplicată.
Cazul 3 – Dreptul la opoziție. O aplicație a fost respinsă automat cu un scor bazat pe inteligență artificială. Clientul a obiectat. În cadrul procesului de adaptare, decizia a fost reexaminată de un expert; Scorul părea să se bazeze pe date lipsă (daune trecute nepotrivite). Decizia a fost corectată. Fără control uman și dreptul de a obiecta, respingerea nedreaptă ar fi permanentă.
Patru solicitări copiabile
1) Scanare proxy și discriminare:
Verificați următoarea justificare a prețurilor/deciziei pentru corectitudine: [justificare]Căutați: caracteristica protejată (sex, origine, credință, sănătate, regiune de reședință) este utilizată direct sau indirect (proxy: cartier, nume, profesie etc.)? Pentru fiecare variabilă discutabilă, explicați de ce ar putea fi un proxy și sugerați o alternativă legitimă.
2) Testul de legitimitate al justificării:
Testați următorul motiv de refuz/bonus ridicat cu trei întrebări: [justificare]1. Există o relație reală și justificată cu riscul?2. Se bazează pe proprietatea protejată sau pe proxy-ul acesteia?3. Poate fi explicat clientului și auditorului? Răspundeți clar la fiecare întrebare; Marcați motivul pentru care nu trece testul ca „RESPING”.
3) Proiect de justificare explicabil:
Elaborați clientului o justificare articulată a deciziei pe baza următoarelor criterii de risc legitime VERIFICATE: [criterii legitime]Ton: respectuos, clar. Utilizarea proprietății protejate/proxy. Precizați dreptul clientului de a obiecta și de a solicita o revizuire umană. Aceasta este o schiță; confirmă expertul.
4) Lista de verificare a inspecției umane:
Creați o listă de verificare a auditului uman pentru o decizie automatizată cu impact ridicat:Tip de decizie: [respingere/primă ridicată/constrângere de garanție]Lista: revizuire de experți calificați, date verificate, corectitudine/control proxy, document justificativ, notificare de recurs client, înregistrare de urmărire.
Prompt slab / Prompt puternic
Slab: „Determinați cel mai profitabil preț cu aceste date și scrieți justificarea.”
Problemă: corectitudinea, proxy și explicabilitatea nu sunt respectate; modelul poate perpetua și justifica discriminarea trecută.
Puternic: „Verificați această justificare pentru proxy și discriminare; semnalați punctele care se bazează pe caracteristica protejată sau proxy-ul acesteia și înlocuiți cu un criteriu de risc legitim. Subliniați o justificare explicabilă.”
De ce este bine: Discriminarea este testată activ, decizia se bazează pe criterii legitime și explicabile.
diagrama de comparatie
Subiect
abordare riscantă
abordare corectă
Ieșire model
„statistica este obiectivă”
Testează în mod activ justiția
Selecția variabilă
Utilizați fiecare dată
Extrageți proxy
justificare
„Așa spunea modelul”
Criteriu legitim, explicabil
Decizie de mare impact
complet automată
Supravegherea umană este obligatorie
Dreptul clientului
Nu este raportat
Obiecție + revizuire umană + justificare
Greșeli comune
- Apărarea „statistica este obiectivă”. Justificarea nedreptății trecute.
- Ignorarea proxy-ului. Discriminare indirectă bazată pe cartier/nume/profesie.
- Decizie nesigură pentru grupul subreprezentat. Presupunând că rata obținută dintr-un eșantion mic este exactă.
- Decizie cutia neagră. Implementarea unei decizii automate pentru care motivul nu poate fi explicat.
- Nerecunoașterea dreptului de opoziție. Neacordarea dreptului clientului la revizuire și justificare umană.
Pe scurt
Inteligența artificială poate învăța discriminarea în datele istorice și o poate continua indirect (prin proxy) în stabilirea prețurilor și subscriere. Testați în mod activ corectitudinea: identificați proprietățile și proxy-urile protejate, testați justificarea pentru legitimitate și explicabilitate. SEDDK, KVKK și principiile automate de luare a deciziilor; Prețurile echitabile necesită explicabilitate, revizuire umană și dreptul de opoziție. Controlul uman este esențial în deciziile cu impact ridicat. În cazul specific, consultați departamentul juridic/conformitate; Discriminarea este linia roșie.
Sarcina de aplicare
Scrieți o listă cu 10 variabile pe care le utilizează un model de preț (real sau exemplu). Pentru fiecare, răspundeți la întrebarea „ar putea fi acesta un proxy pentru o proprietate protejată”; Semnalizează-le pe cele suspecte. Apoi puneți un exemplu de justificare de respingere prin testul de legitimitate nr. 2: trece testul și, dacă nu, cum îl înlocuiți cu un criteriu legitim?
lista de verificare
- [ ] Am specificat proprietăți protejate.
- [ ] Am scanat variabilele pentru proxy.
- [ ] Am pus justificarea la testul legitimității și al explicabilității.
- [ ] Am efectuat verificări de fiabilitate pentru grupuri subreprezentate.
- [ ] Am adăugat controlul uman în decizia de mare impact.
- [ ] Am documentat rațiunea și i-am acordat clientului dreptul de a obiecta/o recenzie umană.
- [ ] Când am dubii, am consultat departamentul juridic/de conformitate.