Прибыль:
- Способность распознавать риски дискриминации, предвзятости и косвенной дискриминации в ценообразовании и андеррайтинге и проверять их с помощью искусственного интеллекта.
- Умение соблюдать право на объяснимость и возражение в рамках регламента СЭДДК, КВКК и принципов автоматического принятия решений.
- Способность применять обязательства по человеческому контролю и обоснованию при принятии автоматизированных решений с высоким риском.
Страхование — это бизнес, в котором риски группируются и оцениваются; но эта группировка должна быть справедливой. Предоставление более высокой страховой премии или отказ в страховании лицу из-за защищаемых характеристик, таких как его пол, этническая принадлежность, убеждения, регион проживания, является несправедливой дискриминацией и запрещено. Искусственный интеллект (программное обеспечение, которое учится на исторических данных и генерирует рекомендации по ценам и решениям) представляет особую опасность в этой области: он может изучать несправедливые закономерности в исторических данных и невольно увековечивать или даже скрывать дискриминацию. Причем делать это он может не напрямую, а косвенно (через прокси-переменную). В этом модуле вы узнаете, как распознавать риски предвзятости и дискриминации в ценообразовании и андеррайтинге, как проверять справедливость результатов искусственного интеллекта и как соблюдать право на объяснимость и возражение в рамках SEDDK (Агентство по регулированию и надзору страхования и частного пенсионного обеспечения), KVKK и принципов автоматического принятия решений. Это подразделение не является юридической консультацией; В нем объясняются общие принципы. В любом конкретном случае обязательно проконсультируйтесь с юридическим отделом/отделом соблюдения требований.
Откуда берутся предрассудки и дискриминация?
Предвзятость ИИ возникает из трех основных источников:
- Предвзятость данных: модель узнает о несправедливости исторических данных. Например, если в прошлом определенной группе систематически выплачивались высокие премии, модель продолжает считать это «нормальным».
- Суррогатная переменная (прокси): даже если модель напрямую не использует защищенный признак (пол, происхождение), она дискриминирует косвенно, используя переменную, которая тесно с ней связана (район, имя, модель покупок).
- Предвзятость выборки: поскольку некоторые группы недостаточно представлены в данных, модель выносит о них ненадежные и несправедливые суждения.
Есть два типа дискриминации. Прямая дискриминация: явное использование охраняемой характеристики. Косвенная дискриминация: когда явно нейтральный критерий непропорционально влияет на определенную группу. Второе более коварно, поскольку происходит непреднамеренно и его трудно обнаружить.
Внимание: утверждение, что «модель основана на статистике, поэтому она объективна», неверно. Статистика также включает прошлую несправедливость; Модель не узаконивает ее, она увековечивает ее. Справедливость – это то, что необходимо активно проверять.
Проверка вывода на справедливость
Проверьте выходные данные ИИ (ценовая рекомендация, причина отклонения, оценка риска), задав три вопроса на предмет справедливости:
- Причина законна? Основано ли решение на критериях, которые имеют реальную и оправданную связь с риском, или на охраняемой собственности или ее доверенном лице?
- Есть ли прокси? Может ли одна из используемых переменных (район, имя, род занятий, семейное положение) быть тесно связана с защищенной характеристикой?
- Можно ли это объяснить? Можете ли вы объяснить решение клиенту и аудитору в ясной и аргументированной форме? «Модель так сказала» — это не утверждение.
Если обоснование не проходит эти три теста, оно отклоняется, и решение принимается на основе законных критериев.
Совет: Проверьте обоснованность отказа или высокой премии с помощью такого предложения: «Буду ли я смущен, если объясню это клиенту и аудитору?» Не следует использовать постыдное или неоправданное оправдание (место жительства, имя, происхождение).
Законодательная база: СЭДДК, КВКК, автоматическое решение.
Использование искусственного интеллекта в страховании регулируется различными правилами. Основные принципы:
- Принципы SEDDK: Страховая деятельность должна осуществляться справедливым, прозрачным и защищающим потребителя образом; Цены должны быть оправданными и не должно быть несправедливой дискриминации.
- КВКК: Персональные данные должны обрабатываться в соответствии с законом, ограниченно по назначению и безопасно. Особые данные, такие как данные о здоровье, подлежат высочайшей защите.
- Принципы автоматизированного принятия решений: В решениях, основанных исключительно на автоматической обработке и существенно влияющих на человека (например, отказ, сделанный только искусственным интеллектом), человек; На первый план выходят права возражать против решения, требовать вмешательства человека и узнавать обоснование решения.
Поэтому объяснимость, человеческий контроль и обоснование необходимы для принятия высокоэффективных решений. Неоправданное решение модели «черного ящика» является неконтролируемым и противоречит этим правам.
Шаг за шагом: справедливое и гармоничное решение
- Определить защищенные свойства. Пол, происхождение, убеждения, здоровье, регион проживания и т.д.
- Сделайте сканирование прокси. Задайте вопрос о связи используемых переменных с защищенными свойствами.
- Проверьте обоснование на легитимность. Существует ли реальная связь с риском? Можно ли это объяснить?
- Добавьте человеческий контроль. Позвольте человеку просмотреть автоматический результат и принять важное решение.
- Задокументируйте обоснование. Запишите, на каких законных критериях было основано решение.
- Знайте, как подать апелляцию. Предоставьте заказчику право на возражение, человеческое рассмотрение и обоснование.
три мини-кейса
Случай 1 — Отказ от прокси. Модель ценообразования на жилье предполагала систематически высокую надбавку за определенный почтовый индекс. Эксперт проверил: почтовый индекс совпадает с территорией с определенной этнической концентрацией; это была прокси-переменная. Когда фактический риск (возраст здания, тип конструкции, история повреждений) разбит на детали, большая часть увеличения больше не оправдана. Цена была восстановлена на основе законных критериев риска.
Случай 2 — Недопредставленная группа. Для продукта здравоохранения эта модель предлагала слишком высокую премию небольшой возрастной группе. Причина: эта группа была настолько недостаточно представлена в данных, что из-за нескольких крупных повреждений вся группа оказалась «под угрозой». Эксперт выполнил коррекцию достоверности (статистической надежности) и документально подтвердил, что рекомендация ненадежна; Несправедливое повышение не применялось.
Случай 3 — Право на возражение. Заявка была автоматически отклонена с оценкой на основе искусственного интеллекта. Заказчик возражал. В рамках процесса адаптации решение было пересмотрено экспертом; Судя по всему, оценка была основана на отсутствующих данных (несоответствие прошлого ущерба). Решение исправлено. Без человеческого контроля и права на возражение несправедливое отвержение было бы постоянным.
Четыре копируемых подсказки
1) Прокси-сканирование и дискриминационное сканирование:
Проверьте следующее обоснование цены/решения на предмет справедливости: [обоснование]Определите: используется ли защищенная характеристика (пол, происхождение, убеждения, здоровье, регион проживания) прямо или косвенно (доверенное лицо: район, имя, профессия и т. д.)? Для каждой сомнительной переменной объясните, почему она может быть заменой, и предложите законную альтернативу.
2) Проверка легитимности обоснования:
Проверьте следующее обоснование отрицания/высокого бонуса, задав три вопроса: [обоснование]1. Существует ли реальная и оправданная связь с риском?2. Основано ли оно на охраняемой собственности или на ее доверенности?3. Можно ли это объяснить клиенту и аудитору? Четко отвечайте на каждый вопрос; Отметьте причину, по которой тест не прошел проверку, как «ОТКЛОНЕНИЕ».
3) Объяснимый проект обоснования:
Составьте для клиента четкое обоснование решения на основе следующих ПРОВЕРЕННЫХ, законных критериев риска: [законные критерии]Тон: уважительный, ясный. Использование защищенного имущества/прокси. Укажите право клиента возражать и требовать проверки человеком. Это черновик; эксперт подтверждает.
4) Контрольный список проверки человеком:
Создайте контрольный список человеческого аудита для принятия высокоэффективного автоматизированного решения: Тип решения: [отказ/высокая премия/ограничение залога]Список: проверка квалифицированными экспертами, проверка данных, справедливость/контроль по доверенности, обосновывающий документ, уведомление об апелляции клиента, протокол следствия.
Слабая подсказка / Сильная подсказка
Слабое: «Определите наиболее выгодную цену по этим данным и напишите обоснование».
Проблема: не соблюдаются справедливость, доверенность и объяснимость; эта модель может увековечить и оправдать прошлую дискриминацию.
Сильный: «Проверьте это обоснование на наличие прокси и дискриминации; отметьте точки, которые полагаются на защищенную функцию или ее прокси, и замените законным критерием риска. Опишите объяснимое обоснование».
Почему это хорошо: Дискриминация активно проверяется, решение принимается на основе законных и объяснимых критериев.
сравнительная таблица
Тема
рискованный подход
правильный подход
Выходные данные модели
«Статистика объективна»
Активно проверяйте справедливость
Выбор переменной
Используйте все данные
Извлечение прокси
оправдание
«Так сказала модель»
Законный, объяснимый критерий
Высокоэффективное решение
полностью автоматический
Контроль со стороны человека обязателен
Право клиента
Не сообщается
Возражение + человеческая проверка + обоснование
Распространенные ошибки
- Защита «статистика объективна». Оправдание прошлой несправедливости.
- Игнорирование прокси. Косвенная дискриминация по признаку места жительства/имени/профессии.
- Ненадежное решение для недостаточно представленной группы. Предполагая, что показатель, полученный на небольшой выборке, является точным.
- Решение «черного ящика». Реализация автоматического решения, причину которого невозможно объяснить.
- Не признавая права на возражение. Не предоставление клиенту права на человеческий анализ и обоснование.
В заключение
Искусственный интеллект может научиться различать исторические данные и продолжать это косвенно (через прокси) при ценообразовании и андеррайтинге. Активно проверяйте справедливость: выявляйте защищенные свойства и доверенные лица, проверяйте обоснованность легитимности и объяснимости. СЭДДК, КВКК и принципы автоматического принятия решений; Справедливое ценообразование требует объяснимости, человеческого контроля и права на возражение. Человеческий контроль необходим для принятия высокоэффективных решений. В конкретном случае проконсультируйтесь с юридическим отделом/отделом соблюдения требований; Дискриминация – это красная линия.
Задача приложения
Напишите список из 10 переменных, которые использует модель ценообразования (фактическая или примерная). Для каждого ответьте на вопрос «может ли это быть доверенным лицом охраняемой собственности»; Отмечайте подозрительных. Затем проведите образец обоснования отклонения с помощью теста легитимности № 2: проходит ли он тест, а если нет, то как заменить его законным критерием?
контрольный список
- [ ] Я указал защищенные свойства.
- [ ] Я просканировал переменные на наличие прокси.
- [ ] Я проверил обоснование на законность и объяснимость.
- [ ] Я провел проверку надежности недостаточно представленных групп.
- [ ] Я добавил человеческий контроль в высокоэффективное решение.
- [ ] Я задокументировал обоснование и предоставил клиенту право на возражение/проверку вручную.
- [ ] В случае сомнений я консультировался с юридическим отделом/отделом соблюдения требований.