Прибуток:
- Здатність розпізнавати ризики дискримінації, упередженості та непрямої дискримінації в ціноутворенні та андеррайтингу та перевіряти їх у вихідних даних штучного інтелекту
- Здатність дотримуватися права на пояснення та заперечення в рамках регламенту SEDDK, КВКК та принципів автоматичного прийняття рішень
- Здатність застосовувати зобов’язання щодо людського контролю та обґрунтування в автоматизованих рішеннях із високим ризиком
Страхування — це бізнес, який групує та оцінює ризик; але це групування має бути справедливим. Надання вищої премії або відмова в страховому покритті особі через такі захищені характеристики, як стать, етнічна приналежність, переконання, регіон проживання, є несправедливою дискримінацією та заборонено. Штучний інтелект (програмне забезпечення, яке вивчає історичні дані та генерує рекомендації щодо цін і рішень) становить особливу небезпеку в цій сфері: він може вивчати несправедливі моделі в історичних даних і мимоволі підтримувати або навіть приховувати дискримінацію. Більш того, він може робити це не прямо, а опосередковано (через проксі-змінну). У цьому розділі ви дізнаєтеся, як розпізнавати ризики упередженості та дискримінації в ціноутворенні та андеррайтингу, як перевіряти результати штучного інтелекту на справедливість і як дотримуватися права на пояснення та заперечення в рамках SEDDK (Агентство з регулювання та нагляду за страхуванням і недержавним пенсійним забезпеченням), KVKK і принципів автоматичного прийняття рішень. Цей підрозділ не є юридичною консультацією; У ньому пояснюються загальні принципи, у кожному конкретному випадку обов’язково проконсультуйтеся з юридичним відділом/підрозділом відповідності.
Звідки беруться упередження та дискримінація?
Упередженість ШІ виникає з трьох основних джерел:
- Зміщення даних: модель дізнається про несправедливість історичних даних. Наприклад, якщо певна група систематично отримувала високі премії в минулому, модель продовжує вважати це «нормальним».
- Сурогатна змінна (проксі): Навіть якщо модель безпосередньо не використовує захищену ознаку (стать, походження), вона опосередковано розрізняє за допомогою змінної, яка з нею тісно пов’язана (район, ім’я, модель покупок).
- Упередженість вибірки: оскільки деякі групи недостатньо представлені в даних, модель створює ненадійні та несправедливі судження про них.
Існує два види дискримінації. Пряма дискримінація: відверте використання захищеної характеристики. Непряма дискримінація: коли явно нейтральний критерій непропорційно впливає на певну групу. Другий більш підступний, тому що відбувається ненавмисно і його важко виявити.
Застереження: твердження про те, що «модель базується на статистиці, тому вона об’єктивна», є помилковим. Статистика також включає минулу несправедливість; Модель не легітимізує, вона увічнює. Справедливість – це те, що потрібно активно перевіряти.
Перевірка результатів на справедливість
Перевірте результат штучного інтелекту (рекомендована ціна, причина відмови, оцінка ризику) за допомогою трьох запитань на справедливість:
- Причина законна? Чи ґрунтується рішення на критеріях, які мають реальний і виправданий зв’язок із ризиком, чи на захищеній власності чи її проксі?
- Чи є проксі? Чи може одна з використаних змінних (місце проживання, ім’я, професія, сімейний стан) бути тісно пов’язана із захищеною характеристикою?
- Чи можна це пояснити? Чи можете ви пояснити рішення клієнту та аудитору чітко та обґрунтовано? «Модель так сказала» — це не твердження.
Якщо обґрунтування не проходить ці три перевірки, воно відхиляється, а рішення ґрунтується на законних критеріях.
Порада: перевірте обґрунтування відмови або високої премії за допомогою цього речення: «Чи буде мені соромно, якщо я поясню це клієнту та аудитору?» Не слід використовувати ганебне або невиправдане виправдання (район, ім’я, походження).
Законодавча база: СЕДДК, КВКК, автомат
Використання штучного інтелекту в страхуванні регулюється різними правилами. Основні принципи:
- Принципи SEDDK: Страхова діяльність повинна здійснюватися чесно, прозоро та з метою захисту споживачів; Ціноутворення має бути виправданим і не має бути несправедливої дискримінації.
- KVKK: Персональні дані повинні оброблятися відповідно до закону, обмежено метою та безпечно. Особливі дані, такі як здоров'я, підлягають найвищому захисту.
- Принципи автоматизованого прийняття рішень: у рішеннях, які базуються виключно на автоматичній обробці та суттєво впливають на особу (наприклад, відмова, зроблена лише штучним інтелектом), людина; На перший план виходять права заперечувати проти рішення, вимагати втручання людини та дізнаватися обґрунтування рішення.
Тому можливість пояснення, людський контроль і обґрунтування є важливими для рішень, які мають значний вплив. Невиправдане рішення моделі «чорної скриньки» є і неконтрольованим, і суперечить цим правам.
Крок за кроком: Справедливе і гармонійне рішення
- Визначте захищені властивості. Стать, походження, переконання, стан здоров’я, регіон проживання тощо.
- Виконайте сканування проксі. Поставте під сумнів зв’язок змінних, які використовуються із захищеними властивостями.
- Перевірте обґрунтування на легітимність. Чи існує реальний зв'язок із ризиком? Чи можна це пояснити?
- Додайте контроль людини. Дозвольте людині перевірити автоматичний результат і прийняти серйозне рішення.
- Задокументуйте обґрунтування. Запишіть, на яких законних критеріях ґрунтувалося рішення.
- Знайте спосіб оскарження. Надайте клієнту право на заперечення, перевірку та обґрунтування.
три міні-чохла
Випадок 1 — Відхилення проксі. Модель ціноутворення на житло передбачала систематичну високу надбавку за певний поштовий індекс. Експерт перевірив: поштовий індекс перекривав територію з певною етнічною концентрацією; це була проксі-змінна. Коли фактичний ризик (вік будівлі, тип споруди, історія пошкоджень) розбивається, більша частина збільшення більше не є виправданою. Ціна була відновлена на основі законних критеріїв ризику.
Випадок 2 — Недопредставлена група. Для медичного продукту модель запропонувала занадто високу премію для невеликої вікової групи. Причина: ця група була настільки недостатньо представлена в даних, що кілька значних збитків зробили всю групу «під загрозою». Експерт виконав корекцію достовірності (статистичної достовірності) і задокументував, що рекомендація ненадійна; Несправедливе підвищення не застосовувалося.
Випадок 3 — Право на заперечення. Заявку було автоматично відхилено за допомогою оцінки за допомогою ШІ. Замовник заперечив. У рамках процесу адаптації рішення було повторно перевірено експертом; Схоже, оцінка базується на відсутніх даних (невідповідність минулих збитків). Рішення виправлено. Без людського контролю та права на заперечення несправедлива відмова була б постійною.
Чотири підказки, які можна копіювати
1) Проксі та дискримінаційне сканування:
Перевірте таке обґрунтування ціноутворення/рішення щодо справедливості: [обґрунтування] Шукайте: чи використовується захищена характеристика (стать, походження, переконання, здоров’я, регіон проживання) прямо чи опосередковано (проксі: околиці, ім’я, професія тощо)? Для кожної сумнівної змінної поясніть, чому вона може бути проксі, і запропонуйте законну альтернативу.
2) Перевірка легітимності обґрунтування:
Перевірте таке обґрунтування відмови/високого бонусу за допомогою трьох запитань: [обґрунтування]1. Чи існує реальний і виправданий зв'язок з ризиком?2. Чи базується він на власності, що охороняється, чи на її проксі?3. Чи можна це пояснити клієнту та аудитору? Чітко відповідайте на кожне запитання; Позначте причину, яка не проходить тест, як «ВІДХИЛИТИ».
3) Пояснювальний проект обґрунтування:
Напишіть для клієнта чітке обґрунтування рішення на основі таких ПЕРЕВІРЕНИХ, законних критеріїв ризику: [законні критерії]Тон: шанобливий, чіткий. Використання захищеної власності/проксі. Вкажіть право клієнта на заперечення та запит на перевірку персоналом. Це чернетка; підтверджує експерт.
4) Контрольний список перевірки людиною:
Створіть контрольний список людського аудиту для високоефективного автоматизованого рішення: Тип рішення: [відмова/висока премія/обмеження застави]Список: перевірка кваліфікованими експертами, перевірка даних, справедливість/проксі-контроль, документ обґрунтування, сповіщення про апеляцію клієнта, протокол слідства.
Слабка підказка / Сильна підказка
Слабкий: «Визначте за цими даними найвигіднішу ціну та напишіть обґрунтування».
Проблема: не дотримуються справедливості, проксі та можливості пояснення; модель може увічнити та виправдати дискримінацію в минулому.
Сильно: «Перевірте це обґрунтування на предмет проксі та дискримінації; позначте точки, які покладаються на захищену функцію або її проксі, і замініть критерієм законного ризику. Наведіть обґрунтування, яке можна пояснити».
Чому це добре: дискримінація активно перевіряється, рішення базується на законних і зрозумілих критеріях.
порівняльна таблиця
Тема
ризикований підхід
правильний підхід
Вихід моделі
«Статистика об’єктивна»
Активно випробовуйте справедливість
Вибір змінної
Використовуйте всі дані
Видобути проксі
виправдання
«Це те, що сказала модель»
Правомірний, зрозумілий критерій
Рішення з великим впливом
повністю автоматичний
Людський нагляд обов'язковий
Право клієнта
Не повідомляється
Заперечення + перевірка людьми + обґрунтування
Поширені помилки
- Захист "статистика об'єктивна". Виправдання минулої несправедливості.
- Ігнорування проксі. Непряма дискримінація за ознакою сусідства/імені/професії.
- Ненадійне рішення для недостатньо представленої групи. Припускаючи, що швидкість, отримана з невеликої вибірки, є точною.
- Рішення про чорну скриньку. Реалізація автоматичного рішення, причину якого неможливо пояснити.
- Не визнаючи права на заперечення. Ненадання замовнику права на людський розгляд і обґрунтування.
Підсумовуючи
Штучний інтелект може вивчати дискримінацію в історичних даних і продовжувати її опосередковано (через проксі) у ціноутворенні та андеррайтингу. Активно перевіряйте справедливість: визначте захищені властивості та проксі-сервери, перевіряйте обґрунтування легітимності та пояснюваності. SEDDK, KVKK та принципи автоматичного прийняття рішень; Справедливе ціноутворення вимагає зрозумілості, перевірки людьми та права на заперечення. Людський контроль має важливе значення для прийняття серйозних рішень. У конкретному випадку зверніться до юридичного відділу/відділу відповідності; Дискримінація - це червона лінія.
Аплікаційне завдання
Напишіть список із 10 змінних, які використовує модель ціноутворення (фактичний або приклад). Для кожного дайте відповідь на запитання «чи може це бути проксі для об’єкта, що охороняється»; Позначте підозрілих. Потім перевірте зразок обґрунтування відхилення через перевірку легітимності №2: чи проходить він тест, і якщо ні, як замінити його законним критерієм?
контрольний список
- [ ] Я вказав захищені властивості.
- [ ] Я просканував змінні на наявність проксі.
- [ ] Я перевіряю обґрунтування на легітимність і пояснюваність.
- [ ] Я провів перевірку надійності для недостатньо представлених груп.
- [ ] Я додав людський контроль у прийнятті рішень із сильним впливом.
- [ ] Я задокументував обґрунтування та надав клієнту право на заперечення/перевірку персоналом.
- [ ] Якщо виникали сумніви, я звертався до юридичного відділу/відділу відповідності.