Zyski:
- Umiejętność rozpoznawania ryzyka dyskryminacji, stronniczości i dyskryminacji pośredniej w zakresie ustalania cen i gwarantowania emisji oraz testowania ich w wynikach sztucznej inteligencji
- Możliwość przestrzegania prawa do wyjaśnień i sprzeciwu w ramach przepisów SEDDK, KVKK i zasad automatycznego podejmowania decyzji
- Umiejętność stosowania obowiązków w zakresie kontroli ludzkiej i uzasadniania w przypadku zautomatyzowanych decyzji wysokiego ryzyka
Ubezpieczenia to biznes, który grupuje i wycenia ryzyko; ale to grupowanie musi być sprawiedliwe. Przyznanie wyższej składki lub odmowa objęcia ubezpieczeniem danej osoby ze względu na chronione cechy, takie jak płeć, pochodzenie etniczne, przekonania, region zamieszkania, jest nieuczciwą dyskryminacją i jest zabronione. Szczególne zagrożenie w tym obszarze stwarza sztuczna inteligencja (oprogramowanie, które uczy się na danych historycznych i generuje rekomendacje cenowe i decyzyjne) – może uczyć się nieuczciwych wzorców z danych historycznych i nieświadomie utrwalać, a nawet ukrywać dyskryminację. Co więcej, może to zrobić nie bezpośrednio, ale pośrednio (poprzez zmienną proxy). W tej części dowiesz się, jak rozpoznać ryzyko stronniczości i dyskryminacji w ustalaniu cen i gwarantowaniu emisji, jak testować wyniki sztucznej inteligencji pod kątem uczciwości oraz jak przestrzegać prawa do wyjaśnialności i sprzeciwu w ramach SEDDK (Agencja Regulacji i Nadzoru Ubezpieczeń i Prywatnych Emerytur), KVKK i zasad automatycznego podejmowania decyzji. Jednostka ta nie jest firmą zajmującą się doradztwem prawnym; Wyjaśnia ogólne zasady. W każdym konkretnym przypadku należy skonsultować się z działem prawnym/zgodności.
Skąd biorą się uprzedzenia i dyskryminacja?
Stronniczość AI wynika z trzech głównych źródeł:
- Błąd danych: model uczy się o nieuczciwości w danych historycznych. Na przykład, jeśli w przeszłości dana grupa otrzymywała systematycznie wysokie składki, model w dalszym ciągu uznaje to za „normalne”.
- Zmienna zastępcza (proxy): Nawet jeśli model nie wykorzystuje bezpośrednio chronionej cechy (płeć, pochodzenie), dyskryminuje pośrednio, wykorzystując zmienną silnie z nią powiązaną (sąsiedztwo, imię, sposób robienia zakupów).
- Błąd próbkowania: Ponieważ niektóre grupy są niedostatecznie reprezentowane w danych, model generuje na ich temat niewiarygodne i niesprawiedliwe oceny.
Istnieją dwa rodzaje dyskryminacji. Dyskryminacja bezpośrednia: rażące wykorzystanie chronionej cechy. Dyskryminacja pośrednia: gdy pozornie neutralne kryterium nieproporcjonalnie wpływa na określoną grupę. Drugi jest bardziej podstępny, ponieważ pojawia się bez zamiaru i jest trudny do wykrycia.
Uwaga: obrona, że „model opiera się na statystyce, a więc jest obiektywny” jest błędna. Statystyki obejmują także niesprawiedliwość w przeszłości; Model go nie legitymizuje, on go utrwala. Uczciwość to coś, co należy aktywnie testować.
Testowanie wyników pod kątem uczciwości
Przetestuj wyniki sztucznej inteligencji (rekomendacja cenowa, powód odrzucenia, ocena ryzyka) za pomocą trzech pytań pod kątem uczciwości:
- Czy powód jest uzasadniony? Czy decyzja opiera się na kryteriach mających realny i uzasadniony związek z ryzykiem, czy też na chronionym mieniu lub jego zastępcy?
- Czy istnieje pełnomocnik? Czy któraś z zastosowanych zmiennych (sąsiedztwo, imię, zawód, stan cywilny) może być silnie powiązana z cechą chronioną?
- Czy można to wyjaśnić? Czy możesz wyjaśnić decyzję klientowi i audytorowi w jasny i możliwy do obrony sposób? „Modelka tak powiedziała” nie jest stwierdzeniem.
Jeżeli uzasadnienie nie przejdzie tych trzech testów, zostaje odrzucone, a decyzja opiera się na uzasadnionych kryteriach.
Wskazówka: Przetestuj uzasadnienie odrzucenia lub wysokiej składki za pomocą tego zdania: „Czy będę zawstydzony, jeśli wyjaśnię to klientowi i audytorowi?” Nie należy podawać wstydliwego lub nie dającego się obronić uzasadnienia (sąsiedztwo, imię, pochodzenie).
Ramy prawne: SEDDK, KVKK, decyzja automatyczna
Zastosowanie sztucznej inteligencji w ubezpieczeniach podlega różnym regulacjom. Główne zasady:
- Zasady SEDDK: Działalność ubezpieczeniowa powinna być prowadzona w sposób uczciwy, przejrzysty i chroniący konsumentów; Ceny muszą być uzasadnione i nie może dochodzić do nieuczciwej dyskryminacji.
- KVKK: Dane osobowe muszą być przetwarzane zgodnie z prawem, celowo i bezpiecznie. Dane szczególne, takie jak zdrowie, podlegają najwyższej ochronie.
- Zasady zautomatyzowanego podejmowania decyzji: w przypadku decyzji, które opierają się wyłącznie na automatycznym przetwarzaniu i znacząco wpływają na osobę (na przykład odrzucenie dokonane wyłącznie przez sztuczną inteligencję), osoba; Na pierwszy plan wysuwają się prawa do sprzeciwu wobec decyzji, żądania interwencji człowieka i poznania uzasadnienia decyzji.
Dlatego też wyjaśnialność, kontrola ze strony człowieka i uzasadnienie są niezbędne w przypadku decyzji o dużym wpływie. Nieuzasadniona decyzja modelu „czarnej skrzynki” jest zarówno niekontrolowana, jak i sprzeczna z tymi prawami.
Krok po kroku: sprawiedliwa i harmonijna decyzja
- Zidentyfikuj chronione nieruchomości. Płeć, pochodzenie, przekonania, stan zdrowia, region zamieszkania itp.
- Wykonaj skanowanie proxy. Kwestionuj związek używanych zmiennych z chronionymi właściwościami.
- Poddaj uzasadnienie testowi legalności. Czy istnieje realny związek z ryzykiem? Czy można to wyjaśnić?
- Dodaj kontrolę człowieka. Pozwól człowiekowi sprawdzić automatyczny wynik i podjąć decyzję o dużym wpływie.
- Udokumentuj uzasadnienie. Zapisz, na jakich uzasadnionych kryteriach podjęto decyzję.
- Poznaj sposób na odwołanie się. Zapewnij klientowi prawo do sprzeciwu, weryfikacji przez człowieka i uzasadnienia.
trzy mini etui
Przypadek 1 — Odrzucenie proxy. Model wyceny mieszkań sugerował systematycznie wysoką składkę za dany kod pocztowy. Biegły zbadał: kod pocztowy pokrywał się z obszarem o określonej koncentracji etnicznej; to była zmienna zastępcza. Po rozbiciu rzeczywistego ryzyka (wiek budynku, typ konstrukcji, historia uszkodzeń) większość wzrostu nie jest już uzasadniona. Cena została przywrócona w oparciu o uzasadnione kryteria ryzyka.
Przypadek 2 – Grupa niedostatecznie reprezentowana. Jak na produkt medyczny model oferował zbyt wysoką składkę dla małej grupy wiekowej. Powód: grupa ta była tak niedostatecznie reprezentowana w danych, że kilka wysokich szkód sprawiło, że cała grupa wyglądała na „zagrożoną”. Biegły dokonał korekty wiarygodności (rzetelności statystycznej) i udokumentował, że rekomendacja była nierzetelna; Nieuczciwa podwyżka nie została zastosowana.
Przypadek 3 – Prawo do sprzeciwu. Wniosek został automatycznie odrzucony z wynikiem opartym na sztucznej inteligencji. Klient sprzeciwił się. W ramach procesu adaptacyjnego decyzja została ponownie rozpatrzona przez biegłego; Wynik wydawał się opierać na brakujących danych (niedopasowane szkody z przeszłości). Decyzja została skorygowana. Bez kontroli ze strony człowieka i prawa do sprzeciwu niesłuszne odrzucenie byłoby trwałe.
Cztery kopiowalne podpowiedzi
1) Skanowanie proxy i dyskryminacja:
Sprawdź następujące uzasadnienie wyceny/decyzji pod kątem uczciwości: [uzasadnienie] Zwróć uwagę: czy chroniona cecha (płeć, pochodzenie, przekonania, stan zdrowia, region zamieszkania) jest wykorzystywana bezpośrednio lub pośrednio (zastępca: sąsiedztwo, imię i nazwisko, zawód itp.)? Dla każdej wątpliwej zmiennej wyjaśnij, dlaczego może to być wartość zastępcza i zaproponuj uzasadnioną alternatywę.
2) Test zasadności uzasadnienia:
Przetestuj następujące uzasadnienie odmowy/wysokiej premii za pomocą trzech pytań: [uzasadnienie]1. Czy istnieje realny i uzasadniony związek z ryzykiem?2. Czy opiera się na własności chronionej, czy na jej zastępstwie?3. Czy można to wyjaśnić klientowi i audytorowi? Odpowiedz jasno na każde pytanie; Oznacz przyczynę, która nie przechodzi testu jako „ODRZUT”.
3) Przejrzysty projekt uzasadnienia:
Przygotuj dla klienta szczegółowe uzasadnienie swojej decyzji w oparciu o następujące ZWERYFIKOWANE, uzasadnione kryteria ryzyka: [uzasadnione kryteria] Ton: pełen szacunku, jasny. Korzystanie z chronionej własności/proxy. Określ prawo klienta do sprzeciwu i żądania ręcznej weryfikacji. To jest projekt; ekspert potwierdza.
4) Lista kontrolna kontroli człowieka:
Utwórz listę kontrolną audytu ludzkiego dla zautomatyzowanej decyzji o dużym wpływie: Typ decyzji: [odrzucenie/wysoka składka/ograniczenie zabezpieczenia]Lista: przegląd wykwalifikowanego eksperta, sprawdzenie danych, rzetelność/kontrola przez pełnomocnika, dokument uzasadniający, odwołanie klienta, zapis historii.
Słaba zachęta/silna zachęta
Słabe: „Na podstawie tych danych określ najbardziej opłacalną cenę i napisz uzasadnienie”.
Problem: Nie przestrzega się sprawiedliwości, zastępstwa i wyjaśnialności; model może utrwalić i usprawiedliwić dyskryminację z przeszłości.
Mocne: „Sprawdź to uzasadnienie pod kątem zastępstwa i dyskryminacji; zaznacz punkty, które opierają się na chronionym obiekcie lub jego zastępstwie i zastąp je uzasadnionym kryterium ryzyka. Przedstaw możliwe do wytłumaczenia uzasadnienie”.
Dlaczego to dobrze: Dyskryminacja jest aktywnie testowana, a decyzja opiera się na uzasadnionych i możliwych do wyjaśnienia kryteriach.
tabela porównawcza
Temat
ryzykowne podejście
właściwe podejście
Dane wyjściowe modelu
„Statystyka jest obiektywna”
Aktywnie testuj sprawiedliwość
Zmienny wybór
Wykorzystaj każde dane
Wyodrębnij proxy
uzasadnienie
„To właśnie powiedziała modelka”
Uzasadnione i dające się wyjaśnić kryterium
Decyzja o dużym wpływie
w pełni automatyczny
Nadzór człowieka jest obowiązkowy
Klient ma rację
Nie zgłoszono
Sprzeciw + weryfikacja manualna + uzasadnienie
Typowe błędy
- Obrona „statystyka jest obiektywna”. Usprawiedliwianie niesprawiedliwości z przeszłości.
- Ignorowanie proxy. Pośrednia dyskryminacja ze względu na sąsiedztwo/nazwisko/zawód.
- Niewiarygodna decyzja dla niedostatecznie reprezentowanej grupy. Zakładając, że współczynnik uzyskany z małej próbki jest dokładny.
- Decyzja dotycząca czarnej skrzynki. Wykonanie automatycznej decyzji, której przyczyny nie można wyjaśnić.
- Nieuznawanie prawa do sprzeciwu. Niedanie klientowi prawa do ludzkiej weryfikacji i uzasadnienia.
Podsumowując
Sztuczna inteligencja może uczyć się dyskryminacji w danych historycznych i kontynuować ją pośrednio (przez proxy) w ustalaniu cen i gwarantowaniu emisji. Aktywnie testuj uczciwość: identyfikuj chronione właściwości i zastępcze wartości, testuj uzasadnienie pod kątem legalności i wyjaśnialności. SEDDK, KVKK i zasady automatycznego podejmowania decyzji; Uczciwe ceny wymagają wyjaśnienia, przeglądu przez człowieka i prawa do sprzeciwu. Kontrola człowieka jest niezbędna przy podejmowaniu decyzji o dużym wpływie. W konkretnym przypadku skonsultuj się z działem prawnym/zgodności; Dyskryminacja to czerwona linia.
Zadanie aplikacji
Zapisz listę 10 zmiennych wykorzystywanych w modelu wyceny (rzeczywistych lub przykładowych). Dla każdego z nich odpowiedz na pytanie „czy może to być zastępstwo dla chronionego dobra”; Oznacz podejrzane. Następnie poddaj przykładowe uzasadnienie odrzucenia testowi legalności nr 2: czy przechodzi on test, a jeśli nie, jak zastąpić je uzasadnionym kryterium?
lista kontrolna
- [ ] Określiłem chronione właściwości.
- [ ] Przeskanowałem zmienne w poszukiwaniu proxy.
- [ ] Poddaję uzasadnienie testowi zasadności i wyjaśnialności.
- [ ] Przeprowadziłem kontrole wiarygodności dla grup niedostatecznie reprezentowanych.
- [ ] Do decyzji o dużym wpływie dodałem kontrolę człowieka.
- [ ] Udokumentowałem uzasadnienie i dałem klientowi prawo do sprzeciwu/weryfikacji manualnej.
- [ ] W razie wątpliwości konsultowałem się z działem prawnym/compliance.