Nyereség:
- Képes felismerni a diszkrimináció, az elfogultság és a közvetett diszkrimináció kockázatait az árazásban és a biztosítási biztosításban, és tesztelni ezeket a mesterséges intelligencia kimenetén
- A SEDDK szabályzat, a KVKK és az automatikus döntéshozatali elvek keretein belül a magyarázhatóság és kifogásolás jogának betartásának képessége
- Képes emberi ellenőrzési és indoklási kötelezettségek alkalmazására a magas kockázatú automatizált döntésekben
A biztosítás olyan üzletág, amely csoportosítja és beárazza a kockázatot; de ennek a csoportosításnak igazságosnak kell lennie. Tisztességtelen diszkrimináció, és tilos, ha valakitől magasabb díjat nyújtanak vagy megtagadják a fedezetet olyan védett tulajdonságok miatt, mint a nem, az etnikai hovatartozás, a meggyőződés vagy a lakóhely szerinti régió. A mesterséges intelligencia (a történeti adatokból tanuló, ár- és döntési ajánlásokat generáló szoftver) ezen a területen különösen nagy veszélyt jelent: tisztességtelen mintákat tanulhat meg a történeti adatokból, és akaratlanul is állandósítja vagy elrejti a diszkriminációt. Ráadásul ezt nem közvetlenül, hanem közvetve (proxy változón keresztül) tudja megtenni. Ebben a részben megtudhatja, hogyan ismerheti fel az árképzésben és a biztosítási szerződésben felmerülő elfogultság és diszkrimináció kockázatait, hogyan tesztelheti a mesterséges intelligencia teljesítményét a méltányosság érdekében, és hogyan tarthatja be a megmagyarázhatósághoz és a kifogáshoz való jogot a SEDDK (Biztosítási és Magánnyugdíj-szabályozási és -felügyeleti Ügynökség), a KVKK és az automatikus döntéshozatali elvek keretein belül. Ez az egység nem jogi tanácsadás; Elmagyarázza az általános elveket, minden konkrét esetben konzultáljon a jogi/megfelelőségi egységgel.
Honnan erednek az előítéletek és a diszkrimináció?
Az AI torzítása három fő forrásból ered:
- Adatok torzítása: A modell megismeri a múltbeli adatok tisztességtelenségét. Például, ha egy bizonyos csoport a múltban szisztematikusan magas prémiumot kapott, a modell ezt továbbra is „normálisnak” tekinti.
- Helyettesítő változó (proxy): Ha a modell közvetlenül nem is használja a védett tulajdonságot (nem, származás), közvetetten diszkriminál egy vele erősen kapcsolódó változó használatával (környék, név, vásárlási minta).
- Mintavételi torzítás: Mivel egyes csoportok alulreprezentáltak az adatokban, a modell megbízhatatlan és tisztességtelen ítéleteket hoz róluk.
A diszkriminációnak két fajtája van. Közvetlen diszkrimináció: védett tulajdonság kirívó használata. Közvetett diszkrimináció: amikor egy látszólag semleges kritérium aránytalanul érint egy adott csoportot. A második alattomosabb, mert szándék nélkül történik, és nehezen észlelhető.
Vigyázat: Az a védekezés, hogy "a modell statisztikákon alapul, tehát objektív" téves. A statisztikák magukban foglalják a múltbeli igazságtalanságokat is; A modell nem legitimálja, hanem állandósítja. A méltányosság olyan dolog, amelyet aktívan tesztelni kell.
A kimenet tesztelése a méltányosság érdekében
Tesztelje a mesterséges intelligencia kimenetét (árajánlat, elutasítás oka, kockázati pontszám) három kérdéssel az igazságosság kedvéért:
- Jogos az ok? A döntés olyan kritériumokon alapul, amelyek valós és igazolható kapcsolatban állnak a kockázattal, vagy a védett ingatlanon vagy annak meghatalmazottján?
- Van proxy? Lehetséges, hogy az egyik használt változó (környék, név, foglalkozás, családi állapot) erősen kapcsolódhat védett tulajdonsághoz?
- Megmagyarázható? El tudja-e világosan és védhetően elmagyarázni a döntést az ügyfélnek és a könyvvizsgálónak? „A modell mondta” nem állítás.
Ha egy indoklás nem felel meg ezen a három teszten, akkor elutasításra kerül, és a döntés jogos kritériumokon alapul.
Tipp: Tesztelje az elutasítás vagy a magas prémium indoklását ezzel a mondattal: "Kínos leszek, ha ezt elmagyarázom az ügyfélnek és egy könyvvizsgálónak?" Szégyenletes vagy védhetetlen indoklást (környék, név, származás) nem szabad használni.
Jogszabályi keretek: SEDDK, KVKK, automatikus döntés
A mesterséges intelligencia biztosítási felhasználására különféle szabályozások vonatkoznak. Főbb alapelvek:
- SEDDK alapelvei: A biztosítási tevékenységet tisztességes, átlátható és fogyasztóvédő módon kell végezni; Az árképzésnek igazolhatónak kell lennie, és nem lehet tisztességtelen megkülönböztetés.
- KVKK: A személyes adatokat a jogszabályoknak megfelelően, a célnak megfelelően és biztonságosan kell kezelni. A különleges adatok, például az egészség, a legmagasabb szintű védelem alá esnek.
- Automatizált döntéshozatali alapelvek: A kizárólag automatikus feldolgozáson alapuló és az embert jelentősen érintő döntésekben (például a mesterséges intelligencia által egyedül meghozott elutasítás) a személyt; Előtérbe kerül a döntés elleni tiltakozás, az emberi beavatkozás kérésének és a döntés indoklásának megismeréséhez való jog.
Ezért a megmagyarázhatóság, az emberi kontroll és az indoklás elengedhetetlen a nagy hatású döntéseknél. A „fekete doboz” modell indokolatlan döntése egyszerre ellenőrizhetetlen és ezekkel a jogokkal ellentétes.
Lépésről lépésre: Tisztességes és harmonikus döntés
- A védett tulajdonságok azonosítása. Nem, származás, meggyőződés, egészség, lakóhely stb.
- Végezzen proxy vizsgálatot. Kérdezze meg a használt változók kapcsolatát a védett tulajdonságokkal!
- Tegye próbára az indoklást a legitimitás próbája elé. Van-e valódi kapcsolat a kockázattal? Megmagyarázható?
- Adjon hozzá emberi irányítást. Hagyja, hogy egy ember felülvizsgálja az automatikus eredményt egy nagy hatású döntés meghozatalakor.
- Dokumentálja az indoklást. Jegyezze fel, milyen jogos kritériumok alapján döntött a döntés.
- Ismerje meg a fellebbezés módját. Biztosítsa az ügyfélnek a kifogás, emberi felülvizsgálat és indoklás jogát.
három mini tok
1. eset – A meghatalmazott elutasítása. Egy lakhatási árképzési modell szisztematikusan magas felárat javasolt egy adott irányítószámért. A szakértő megvizsgálta: az irányítószám átfedésben volt egy bizonyos etnikai koncentrációjú területtel; ez egy proxy változó volt. A tényleges kockázat (épület kora, szerkezet típusa, kártörténet) lebontásával a növekedés nagy része már nem indokolt. Az árat törvényes kockázati kritériumok alapján állapították meg újra.
2. eset – Alulreprezentált csoport. Egy egészségügyi termék esetében a modell túlzottan magas felárat kínált egy kis korosztálynak. Indoklás: ez a csoport annyira alulreprezentált az adatokban, hogy néhány nagy kár miatt az egész csoport „veszélyeztetettnek” tűnt. A szakértő hitelességi (statisztikai megbízhatósági) korrekciót végzett, és dokumentálta, hogy az ajánlás megbízhatatlan; Nem alkalmaztak tisztességtelen emelést.
3. eset – Tiltakozáshoz való jog. Egy kérelmet a rendszer automatikusan elutasított mesterségesintelligencia-alapú pontszámmal. Az ügyfél tiltakozott. Az alkalmazkodási folyamat részeként a döntést szakértő újra megvizsgálta; Úgy tűnt, hogy a pontszám hiányzó adatokon alapul (nem egyező múltbeli kár). A határozatot helyesbítették. Emberi ellenőrzés és tiltakozási jog nélkül a tisztességtelen elutasítás tartós lenne.
Négy másolható felszólítás
1) Proxy és diszkriminációs szkennelés:
Ellenőrizze az alábbi árképzési/döntési indoklást a méltányosság érdekében: [indoklás]Keresse meg: a védett tulajdonságot (nem, származás, meggyőződés, egészség, lakóhely) közvetlenül vagy közvetve használják (meghatalmazott: környék, név, foglalkozás stb.)? Minden megkérdőjelezhető változó esetében magyarázza meg, miért lehet proxy, és javasoljon legitim alternatívát.
2) Indoklási legitimitási teszt:
Tesztelje a következő elutasítás/magas bónusz indoklását három kérdéssel: [indoklás]1. Van-e valós és igazolható kapcsolat a kockázattal?2. Védett ingatlanon vagy annak meghatalmazottján alapul?3. Elmagyarázható az ügyfélnek és a könyvvizsgálónak? Válaszoljon világosan minden kérdésre; Az ok, amiért nem felelt meg a teszten, jelölje "ELUTASÍTÁS"-ként.
3) Indoklási tervezet:
A következő ELLENŐRZETT, jogos kockázati kritériumok alapján készítsen megfogalmazott indoklást az ügyfélnek a döntéshez: [jogos kritériumok] Hangnem: tisztelettudó, világos. Védett tulajdon/proxy használata. Ismertesse az ügyfél tiltakozási jogát, és kérjen emberi felülvizsgálatot. Ez egy tervezet; szakértő megerősíti.
4) Humán ellenőrzési ellenőrző lista:
Hozzon létre egy emberi ellenőrzési ellenőrzőlistát egy nagy hatású automatizált döntéshez: Döntés típusa: [elutasítás/magas prémium/biztosítéki megkötés] Lista: minősített szakértői felülvizsgálat, adatok ellenőrzése, méltányosság/meghatalmazott ellenőrzés, indoklási dokumentum, ügyfél-fellebbezési értesítés, nyomvonal.
Gyenge felszólítás / Erős felszólítás
Gyenge: "Határozza meg ezekkel az adatokkal a legjövedelmezőbb árat, és írja meg az indoklást."
Probléma: A méltányosságot, a meghatalmazottságot és a megmagyarázhatóságot nem tartják tiszteletben; a modell állandósíthatja és igazolhatja a múltbeli diszkriminációt.
Erős: "Ellenőrizze ezt az indoklást a meghatalmazottság és a megkülönböztetés szempontjából; olyan jelzőpontok, amelyek védett jellemzőre vagy annak proxyjára támaszkodnak, és cserélje ki legitim kockázati kritériumra. Vázolja fel a megmagyarázható indoklást."
Miért jó: A diszkriminációt aktívan tesztelik, a döntés legitim és megmagyarázható kritériumokon alapul.
összehasonlító táblázat
Tárgy
kockázatos megközelítés
helyes megközelítés
Modell kimenet
"A statisztika objektív"
Aktívan tesztelje az igazságosságot
Változó választás
Használjon minden adatot
Proxy kibontása
indoklás
"Ezt mondta a modell"
Jogos, magyarázható kritérium
Nagy hatású döntés
teljesen automatikus
Az emberi felügyelet kötelező
Ügyfél joga
Nem jelentették
Kifogás + emberi felülvizsgálat + indoklás
Gyakori hibák
- A "statisztika objektív" védekezés. A múlt igazságtalanságának igazolása.
- A proxy figyelmen kívül hagyása. Közvetett diszkrimináció szomszédság/név/szakma alapján.
- Megbízhatatlan döntés az alulreprezentált csoport számára. Feltéve, hogy a kis mintából kapott arány pontos.
- Fekete doboz döntés. Automatikus döntés végrehajtása, amelynek oka nem magyarázható.
- Nem ismeri el a tiltakozás jogát. Nem biztosítják az ügyfélnek az emberi felülvizsgálathoz és indokláshoz való jogot.
Összefoglalva
A mesterséges intelligencia megtanulhatja a diszkriminációt a történelmi adatokban, és közvetetten (meghatalmazott útján) folytathatja azt az árazásban és a jegyzésben. Aktívan tesztelje a méltányosságot: azonosítsa a védett tulajdonságokat és proxykat, tesztelje a legitimitást és a magyarázhatóságot. SEDDK, KVKK és automatikus döntéshozatali elvek; A tisztességes ár megköveteli a megmagyarázhatóságot, az emberi felülvizsgálatot és a tiltakozás jogát. Az emberi kontroll elengedhetetlen a nagy hatású döntéseknél. Az adott esetben forduljon a jogi/megfelelőségi osztályhoz; A diszkrimináció a piros vonal.
Pályázati feladat
Írjon egy listát 10 változóból, amelyeket egy árképzési modell használ (tényleges vagy példa). Mindegyiknél válaszoljon a „lehet-e ez egy védett ingatlan meghatalmazottja” kérdésre; Jelölje meg a gyanúsakat. Ezután tegyen egy elutasítási indoklási mintát a 2. számú legitimitási teszten keresztül: átmegy-e a teszten, és ha nem, hogyan cserélheti ki egy legitim feltétellel?
ellenőrző lista
- [ ] Védett tulajdonságokat adtam meg.
- [ ] Megvizsgáltam a változókat proxyért.
- [ ] Az indoklást a legitimitás és a magyarázhatóság próbája elé állítottam.
- [ ] Megbízhatósági ellenőrzéseket végeztem alulreprezentált csoportoknál.
- [ ] Az emberi irányítást hozzáadtam a nagy hatású döntéshez.
- [ ] Dokumentáltam az indoklást, és megadtam a vevőnek a kifogás/emberi felülvizsgálat jogát.
- [ ] Kétség esetén a jogi/megfelelőségi osztályhoz fordultam.