Добици:
- Способност препознавања ризика од дискриминације, пристрасности и индиректне дискриминације у одређивању цена и осигурања и тестирања у производњи вештачке интелигенције
- Способност поштовања права на објашњење и приговор у оквиру СЕДДК прописа, КВКК и принципа аутоматског одлучивања
- Способност примене људских контрола и обавеза оправдања у високоризичним аутоматизованим одлукама
Осигурање је посао који групише и цени ризик; али ово груписање мора бити праведно. Давање веће премије или ускраћивање покрића особи због заштићених карактеристика као што су њен пол, етничка припадност, уверење, регион становања је неправедна дискриминација и забрањено је. Вештачка интелигенција (софтвер који учи из историјских података и генерише препоруке за цене и одлуке) представља посебну опасност у овој области: може научити неправедне обрасце у историјским подацима и несвесно продужити или чак сакрити дискриминацију. Штавише, то може учинити не директно, већ индиректно (преко проки променљиве). У овој јединици ћете научити како да препознате ризике пристрасности и дискриминације у одређивању цена и преузимању, како да тестирате резултате вештачке интелигенције на правичност и како да поштујете право на објашњење и приговор у оквиру СЕДДК (Агенција за регулисање и надзор осигурања и приватних пензија), КВКК и принципа аутоматског доношења одлука. Ова јединица није правна консултантска кућа; Објашњава опште принципе, у сваком конкретном случају, обавезно се консултујте са јединицом за правну/усаглашеност.
Одакле долазе предрасуде и дискриминација?
АИ пристрасност произилази из три главна извора:
- Пристрасност података: Модел учи о неправедности у историјским подацима. На пример, ако је некој групи у прошлости систематски даване високе премије, модел то наставља да сматра „нормалним“.
- Сурогатна променљива (прокси): Чак и ако модел директно не користи заштићено обележје (пол, порекло), он индиректно дискриминише коришћењем променљиве која је уско повезана са њом (суседство, име, образац куповине).
- Пристрасност узорковања: Пошто су неке групе недовољно заступљене у подацима, модел производи непоуздане и неправедне судове о њима.
Постоје две врсте дискриминације. Директна дискриминација: очигледна употреба заштићене карактеристике. Индиректна дискриминација: када наизглед неутралан критеријум несразмерно утиче на одређену групу. Други је подмуклији јер се јавља без намере и тешко га је открити.
Опрез: Одбрана да је „модел заснован на статистици, дакле објективан“ је погрешна. Статистика такође укључује неправду из прошлости; Модел то не легитимише, већ перпетуира. Праведност је нешто што треба активно тестирати.
Тестирање резултата за праведност
Тестирајте АИ излаз (препоруку за цену, разлог одбијања, резултат ризика) са три питања за праведност:
- Да ли је разлог легитиман? Да ли је одлука заснована на критеријумима који имају стварну и оправдану везу са ризиком, или на заштићеном добру или његовом пуномоћнику?
- Постоји ли проки? Да ли би једна од коришћених варијабли (суседство, име, занимање, брачни статус) могла бити снажно повезана са заштићеном карактеристиком?
- Може ли се то објаснити? Можете ли клијенту и ревизору да објасните одлуку на јасан и одбрањив начин? „Модел је тако рекао“ није изјава.
Ако оправдање не прође ова три теста, оно се одбацује и одлука се заснива на легитимним критеријумима.
Савет: Тестирајте образложење за одбијање или високу премију са овом реченицом: „Да ли ће ме бити срамота ако ово објасним клијенту и ревизору?“ Не треба користити срамно или неодбрањиво оправдање (комшилук, име, порекло).
Законодавни оквир: СЕДДК, КВКК, аутоматска одлука
Употреба вештачке интелигенције у осигурању подлеже различитим прописима. Главни принципи:
- Принципи СЕДДК: Активности осигурања треба да се обављају на фер, транспарентан начин и на начин који штити потрошаче; Цене морају бити оправдане и не сме бити неправедне дискриминације.
- КВКК: Лични подаци морају се обрађивати у складу са законом, ограничено на сврху и безбедно. Посебни подаци, као што је здравље, подлежу највишој заштити.
- Принципи аутоматизованог доношења одлука: У одлукама које се заснивају искључиво на аутоматској обради и значајно утичу на особу (на пример, одбијање само вештачке интелигенције), особу; Право на приговор на одлуку, тражење људске интервенције и сазнање образложења одлуке долази до изражаја.
Стога су објашњивост, људска контрола и оправдање од суштинског значаја за одлуке са великим утицајем. Неоправдана одлука о моделу „црне кутије” је неконтролисана и у супротности са овим правима.
Корак по корак: Праведна и хармонична одлука
- Идентификујте заштићена својства. Пол, порекло, веровање, здравље, регион становања итд.
- Урадите скенирање проксија. Доведите у питање однос варијабли које се користе са заштићеним својствима.
- Ставите оправдање на тест легитимности. Постоји ли стварна веза са ризиком? Може ли се то објаснити?
- Додајте људску контролу. Нека човек прегледа аутоматски резултат у одлуци са великим утицајем.
- Документујте образложење. Забележите на којим легитимним критеријумима је одлука заснована.
- Знајте начин жалбе. Омогућите купцу право на приговор, људски преглед и оправдање.
три мини кофера
Случај 1 — Одбијање проксија. Модел одређивања цена станова сугерисао је систематски високу премију за одређени поштански број. Вештак је испитао: поштански број се преклапао са подручјем са одређеном етничком концентрацијом; ово је била проки варијабла. Када се стварни ризик (старост зграде, тип конструкције, историјат оштећења) анализира, већи део повећања више није оправдан. Цена је поново успостављена на основу легитимних критеријума ризика.
Случај 2 — Недовољно заступљена група. За здравствени производ, модел је понудио превисоку премију за малу старосну групу. Разлог: ова група је била толико недовољно заступљена у подацима да је неколико великих штета учинило да се цела група чини „ризичном“. Вештак је извршио корекцију веродостојности (статистичке поузданости) и документовао да је препорука непоуздана; Неправедна повишица није примењена.
Случај 3 — Право на приговор. Апликација је аутоматски одбијена са резултатом АИ. Купац се успротивио. У оквиру процеса адаптације, решење је преиспитано од стране вештака; Чинило се да је резултат заснован на подацима који недостају (неусклађена прошла штета). Одлука је исправљена. Без људске контроле и права на приговор, неправедно одбијање би било трајно.
Четири упита за копирање
1) Скенирање проксија и дискриминације:
Проверите следеће образложење цене/одлуке за правичност: [оправдање]Потражите: да ли се заштићена карактеристика (пол, порекло, уверење, здравље, регион становања) користи директно или индиректно (заступник: комшилук, име, професија, итд.)? За сваку сумњиву променљиву објасните зашто би она могла да буде проки и предложите легитимну алтернативу.
2) Тест легитимности оправдања:
Тестирајте следеће образложење одбијања/високог бонуса са три питања: [оправдање]1. Да ли постоји стварна и оправдана веза са ризиком?2. Да ли се заснива на заштићеној имовини или њеном пуномоћју?3. Може ли се то објаснити клијенту и ревизору? Одговорите јасно на свако питање; Означите разлог који није прошао тест као „ОДБАЦИ“.
3) Објашњив нацрт образложења:
Нацртајте артикулисано образложење за клијента за одлуку на основу следећих ПРОВЕРЕНИХ, легитимних критеријума ризика: [легитимни критеријуми] Тон: пун поштовања, јасан. Коришћење заштићене имовине/проксија. Наведите право купца на приговор и захтев од стране људи. Ово је нацрт; стручњак потврђује.
4) Контролна листа људске инспекције:
Направите контролну листу људске ревизије за аутоматизовану одлуку са великим утицајем: Тип одлуке: [одбијање/висока премија/ограничење колатерала]Листа: квалификовани стручни преглед, проверени подаци, правичност/прокси контрола, документ са оправдањем, обавештење о жалби клијента, евиденција.
Слаби промпт / Јаки промпт
Слабо: „Одредите најисплативију цену са овим подацима и напишите оправдање.“
Проблем: Не поштује се правичност, проки и објашњивост; модел може овековечити и оправдати прошлу дискриминацију.
Снажно: „Проверите ово оправдање за прокси и дискриминацију; обележите тачке које се ослањају на заштићену функцију или њен прокси и замените их легитимним критеријумом ризика. Наведите објашњење оправдања.“
Зашто је то добро: Дискриминација се активно тестира, одлука се заснива на легитимним и објашњивим критеријумима.
упоредни графикон
Предмет
ризичан приступ
прави приступ
Излаз модела
„Статистика је објективна“
Активно тестирајте правду
Избор променљиве
Користите сваки податак
Извуците проксије
оправдање
"То је оно што је модел рекао"
Легитиман, објашњив критеријум
Одлука високог утицаја
потпуно аутоматски
Људски надзор је обавезан
Право купца
Није пријављено
Приговор + људски преглед + оправдање
Уобичајене грешке
- Одбрана "Статистика је објективна". Оправдавање неправде из прошлости.
- Игнорисање проксија. Индиректна дискриминација на основу комшилука/име/професије.
- Непоуздана одлука за недовољно заступљену групу. Под претпоставком да је стопа добијена из малог узорка тачна.
- Одлука о црној кутији. Спровођење аутоматске одлуке за коју се не може објаснити разлог.
- Непризнавање права на приговор. Не давање купцу права на људски преглед и оправдање.
Укратко
Вештачка интелигенција може да научи дискриминацију у историјским подацима и да је настави индиректно (преко проксија) у одређивању цена и преузимању гаранција. Активно тестирајте праведност: идентификујте заштићена својства и проксије, тестирајте оправданост легитимности и објашњења. СЕДДК, КВКК и принципи аутоматског доношења одлука; Поштено одређивање цена захтева објашњење, људски преглед и право на приговор. Људска контрола је од суштинског значаја за одлуке са великим утицајем. У конкретном случају, консултујте одељење за правна питања/усаглашеност; Дискриминација је црвена линија.
Задатак апликације
Напишите листу од 10 променљивих које модел цена користи (стварне или пример). За сваки одговорите на питање „да ли ово може бити пуномоћје за заштићено добро“; Означите сумњиве. Затим ставите узорак образложења одбијања кроз тест легитимности #2: да ли пролази тест, и ако не, како га заменити легитимним критеријумом?
контролна листа
- [ ] Навео сам заштићена својства.
- [ ] Скенирао сам варијабле за проки.
- [ ] Оправдање сам ставио на тест легитимности и објашњивости.
- [ ] Спровео сам провере поузданости за недовољно заступљене групе.
- [ ] Додао сам људску контролу у одлуци високог утицаја.
- [ ] Документовао сам образложење и дао купцу право на приговор/људски преглед.
- [ ] Када сте били у недоумици, консултовао сам одељење за правна питања/усаглашеност.