Пайдалар:
- Бааларды түзүүдө жана андеррайтингде дискриминация, бир жактуу жана кыйыр дискриминация тобокелдиктерин таануу жана аларды жасалма интеллекттин өндүрүшүндө сынап көрүү жөндөмдүүлүгү
- SEDDK ченемдеринин, KVKK жана автоматтык чечим кабыл алуу принциптеринин алкагында түшүндүрүү жана каршы чыгуу укугун сактоо мүмкүнчүлүгү
- жогорку тобокелдикти автоматташтырылган чечимдерди адам контролдоо жана негиздөө милдеттенмелерин колдонуу мүмкүнчүлүгү
Камсыздандыруу - бул топтордун жана баалардын тобокелдигинен турган бизнес; бирок бул группировка адилеттуу болууга тийиш. Жынысы, этникалык таандыгы, ишеними, жашаган аймагы сыяктуу корголгон өзгөчөлүктөргө байланыштуу адамга жогорку сыйлык берүү же камтуудан баш тартуу адилетсиз басмырлоо болуп саналат жана ага тыюу салынат. Жасалма интеллект (тарыхый маалыматтардан сабак алып, баа жана чечимдер боюнча сунуштарды түзүүчү программалык камсыздоо) бул чөйрөдө өзгөчө коркунуч туудурат: ал тарыхый маалыматтардагы адилетсиз схемаларды үйрөнүп, билбестен басмырлоону улантып, жада калса жашыра алат. Мындан тышкары, ал муну түз эмес, кыйыр түрдө (прокси өзгөрмө аркылуу) жасай алат. Бул бөлүмдө сиз баа түзүүдө жана андеррайтингде бир тараптуулуктун жана дискриминациянын тобокелдиктерин кантип таанууну, жасалма интеллекттин жыйынтыгын адилеттүүлүк үчүн кантип текшерүүнү жана SEDDK (Камсыздандыруу жана жеке пенсиялык жөнгө салуу жана көзөмөлдөө агенттиги), KVKK жана автоматтык чечимдерди кабыл алуу принциптеринин алкагында түшүндүрүү жана каршы чыгуу укугун кантип сактоону үйрөнөсүз. Бул бөлүм юридикалык консультация эмес; Ал жалпы принциптерди түшүндүрөт, кандай гана конкреттүү учурда болбосун, сөзсүз түрдө юридикалык/комплаенс бөлүмү менен кеңешиңиз.
Бейтараптык жана дискриминация кайдан келип чыгат?
AI бир тараптуулугу үч негизги булактан келип чыгат:
- Берилиштердин бир жактуулугу: модель тарыхый маалыматтардагы адилетсиздикти билет. Мисалы, белгилүү бир топко мурда системалуу түрдө жогорку сыйлыктар берилген болсо, модель муну "нормалдуу" деп эсептейт.
- Суррогат өзгөрмө (прокси): Модель корголгон өзгөчөлүктү (жынысы, келип чыгышы) түздөн-түз колдонбосо да, ага катуу байланыштуу болгон өзгөрмөнү (кошуна, аты, соода үлгүсү) колдонуу менен кыйыр түрдө басмырлайт.
- Тандоолордун бир жактуулугу: Кээ бир топтор маалыматтарда аз көрсөтүлгөндүктөн, модель алар жөнүндө ишенимсиз жана адилетсиз чечимдерди чыгарат.
Дискриминациянын эки түрү бар. Түздөн-түз басмырлоо: корголгон мүнөздөмөнү ачыктан-ачык колдонуу. Кыйыр басмырлоо: көрүнгөн нейтралдуу критерий белгилүү бир топко диспропорциялуу түрдө таасир эткенде. Экинчиси тымызын, анткени ал ниетсиз пайда болот жана аны аныктоо кыйын.
Абайлаңыз: “Модель статистикага негизделген, демек объективдүү” деген коргоо туура эмес. Статистика мурунку адилетсиздикти да камтыйт; Модель аны мыйзамдаштырбайт, аны түбөлүккө калтырат. Калыстык - бул жигердүү сыналышы керек нерсе.
Адилеттүүлүк үчүн текшерүү натыйжасы
Адилеттүүлүк үчүн үч суроо менен AI натыйжасын сынап көрүңүз (баа сунушу, четке кагуу себеби, тобокелдик упай):
- Себеби мыйзамдуубу? Чечим тобокелдикке реалдуу жана негиздүү катышы бар критерийлерге негизделгенби же корголгон мүлккө же анын ишенимдүү өкүлүнөбү?
- Прокси барбы? Колдонулган өзгөрмөлөрдүн бири (кошуна, аты-жөнү, кесиби, үй-бүлөлүк абалы) корголгон мүнөздөмө менен тыгыз байланышта болушу мүмкүнбү?
- Аны түшүндүрүүгө болобу? Сиз кардарга жана аудиторго чечимди так жана корголгон түрдө түшүндүрүп бере аласызбы? "Модель ушинтип айтты" деген билдирүү эмес.
Эгерде негиздеме ушул үч сыноодон өтпөй калса, ал четке кагылат жана мыйзамдуу критерийлердин негизинде чечим кабыл алынат.
Кеңеш: Четке кагуунун же жогорку сыйлыктын жүйөсүн бул сүйлөм менен сынап көрүңүз: "Мен муну кардарга жана аудиторго түшүндүрүп берсем, уялып каламбы?" Уяттуу же акталгыс негиздеме (коншу, аты, теги) колдонулбашы керек.
Мыйзамдык база: SEDDK, KVKK, автоматтык чечим
Камсыздандырууда жасалма интеллектти колдонуу ар кандай эрежелерге баш ийет. Негизги принциптер:
- SEDDK принциптери: Камсыздандыруу иш-чаралары адилеттүү, ачык-айкын жана керектөөчүлөрдүн укугун коргогон тартипте жүргүзүлүшү керек; Баалар негиздүү болушу керек жана эч кандай адилетсиз дискриминация болбошу керек.
- KVKK: Жеке маалыматтар мыйзамга ылайык, максаты менен чектелген жана коопсуз иштетилиши керек. Ден соолук сыяктуу атайын маалыматтар эң жогорку коргоого алынат.
- Чечимдерди кабыл алуунун автоматташтырылган принциптери: Автоматтык иштетүүгө гана негизделген жана адамга олуттуу таасир этүүчү чечимдерде (мисалы, жалгыз гана жасалма интеллект тарабынан кабыл алынган четке кагуу), адам; Чечимге каршы чыгуу, адамдын кийлигишүүсүн талап кылуу жана чечимдин жүйөсүн үйрөнүү укуктары алдыга чыгат.
Ошондуктан, жогорку таасирдүү чечимдерди кабыл алууда түшүндүрүү, адам көзөмөлү жана негиздөө маанилүү. "Кара куту" моделинин негизсиз чечими башкарылбайт жана бул укуктарга карама-каршы келет.
Кадам сайын: Адилет жана гармониялуу чечим
- корголгон касиеттерин аныктоо. Жынысы, теги, ишеними, ден соолугу, жашаган аймагы ж.б.
- Прокси сканерин жасаңыз. Колдонулган өзгөрмөлөрдүн корголгон касиеттери менен байланышын сураңыз.
- Негиздөөнүн мыйзамдуулугун сынап көрүңүз. Тобокелдик менен чыныгы байланыш барбы? Аны түшүндүрүүгө болобу?
- Адамдын башкаруусун кошуу. Адам жогорку таасирдүү чечимде автоматтык натыйжаны карап көрөлү.
- Негиздемени документтештириңиз. Чечим кандай мыйзамдуу критерийлерге негизделгенин жазыңыз.
- Кайрылуунун жолун бил. Кардарга каршы чыгуу укугун, адамдын кароосун жана негиздөөсүн камсыз кылуу.
үч мини учурлар
1-жагдай - Проксиден баш тартуу. Турак жайга баа модели белгилүү бир почта индекси үчүн системалуу түрдө жогорку сыйлыкты сунуш кылды. Эксперт карап чыкты: почта индекси кайсы бир этникалык топтолгон аймак менен кайталанган; бул прокси өзгөрмө болгон. Чыныгы тобокелдик (имараттын курагы, структуранын түрү, зыяндын тарыхы) бузулганда, өсүштүн көбү негизсиз болуп калат. Баа мыйзамдуу тобокелдик критерийлеринин негизинде кайра түзүлдү.
2-жагдай – Төмөнкү топ. Саламаттыкты сактоо продуктусу үчүн модель кичинекей курактагы топко өтө жогорку премиум сунуш кылды. Себеп: бул топ маалыматтарда ушунчалык аз көрсөтүлүп калгандыктан, бир нече чоң зыян бүтүндөй топту "тобокелге кабылган" көрүнүшкө айлантты. Эксперт ишенимдүүлүктү (статистикалык ишенимдүүлүк) оңдоону жүргүзгөн жана сунуштун ишенимсиздигин документтештирген; Адилетсиз жогорулатуу колдонулган эмес.
3-жагдай - Каршы чыгуу укугу. Өтүнмө автоматтык түрдө четке кагылды. кардар каршы чыкты. Адаптация процессинин алкагында чечим эксперт тарабынан кайрадан каралып чыкты; Упай жетишпеген маалыматтарга негизделген окшойт (мурдагы зыянга дал келбеген). Чечим оңдолду. Адамдын көзөмөлү жана каршы чыгуу укугу болбосо, адилетсиз четке кагуу туруктуу болмок.
Төрт көчүрүүгө болот
1) Прокси жана дискриминацияны сканерлөө:
Калыстык үчүн төмөнкү баанын/чечимдин негиздемесин текшериңиз: [актоо]Издөө: корголгон мүнөздөмө (жынысы, теги, ишеними, ден соолугу, жашаган аймагы) түздөн-түз же кыйыр түрдө (прокси: кошуна, аты-жөнү, кесип ж.б.) колдонулабы? Ар бир шектүү өзгөрмө үчүн эмне үчүн ал прокси болушу мүмкүн экенин түшүндүрүп, мыйзамдуу альтернатива сунуштаңыз.
2) Негиздөөнүн мыйзамдуулугун текшерүү:
Төмөнкү баш тартуу/жогорку бонустук жүйөөнү үч суроо менен текшериңиз: [негиздөө]1. Тобокелге реалдуу жана негиздүү мамиле барбы?2. Ал корголгон мүлккө негизделгенби же анын проксиби?3. Аны кардар менен аудиторго түшүндүрсө болобу? Ар бир суроого так жооп бериңиз; Тесттен өтпөгөн себебин "БЕТ АЛУУ" деп белгилеңиз.
3) түшүнүктүү негиздеме долбоору:
Төмөнкү ТЕКШЕРИЛГЕН, мыйзамдуу тобокелдик критерийлеринин негизинде кардарга чечим кабыл алуу үчүн түшүндүрүлгөн негиздеме иштеп чыгуу: [мыйзамдуу критерийлер]Обон: урматтуу, түшүнүктүү. Корголгон мүлктү/проксиди колдонуу. Кардардын каршылык көрсөтүү жана адам тарабынан текшерүүнү талап кылуу укугун айтыңыз. Бул долбоор; эксперт тастыктайт.
4) Адамдардын текшерүү баракчасы:
Эффективдүү автоматташтырылган чечим үчүн адам аудитинин текшерүү тизмесин түзүңүз: Чечим түрү: [баш тартуу/жогорку премиум/күрөө чектөө]Тизме: квалификациялуу эксперттин кароосу, маалыматтар текшерилген, калыстык/проксиконтрол, негиздөө документи, кардар даттануу билдирүүсү, изин жазуу.
Алсыз тездик / Күчтүү тездик
Алсыз: "Бул маалыматтар менен эң пайдалуу бааны аныктап, негиздеме жазыңыз."
Көйгөй: Адилеттүүлүк, ишенимдүүлүк жана түшүнүктүүлүк сакталбайт; модель мурунку басмырлоону улантып, актай алат.
Күчтүү: "Прокси жана дискриминация үчүн бул негизди текшериңиз; корголгон өзгөчөлүккө же анын проксисине таянган пункттарды белгилеңиз жана мыйзамдуу тобокелдик критерийи менен алмаштырыңыз. Түшүндүрүлгөн негиздемени баяндаңыз."
Эмне үчүн бул жакшы: Дискриминация жигердүү сыналат, чечим мыйзамдуу жана түшүнүктүү критерийлерге негизделет.
салыштыруу диаграммасы
Тема
тобокелдүү мамиле
туура мамиле
Модель чыгаруу
"Статистика объективдүү"
Адилеттүүлүктү активдүү сынагыла
Өзгөрмө тандоо
Ар бир маалыматты колдонуңуз
Проксилерди чыгарып алыңыз
актоо
"Модель ушинтип айтты"
Мыйзамдуу, түшүнүктүү критерий
Жогорку таасирдүү чечим
толугу менен автоматтык
Адамдын көзөмөлү милдеттүү болуп саналат
Кардардын укугу
Билдирилген эмес
Каршы + адамдык кароо + негиздөө
Жалпы каталар
- “Статистика – объективдүү” коргоо. Өткөн адилетсиздикти актоо.
- Проксиге көңүл бурбоо. Коңшу/аты/кесиби боюнча кыйыр басмырлоо.
- Жетишпеген топ үчүн ишенимсиз чечим. Кичинекей үлгүдөн алынган ылдамдык так деп эсептесек.
- Кара куту чечими. Себебин түшүндүрүүгө мүмкүн болбогон автоматтык чечимди ишке ашыруу.
- Каршы чыгуу укугун тааныбай. Кардарга адамдын кароосуна жана негиздөөсүнө укук бербейт.
Кыскача айтканда
Жасалма интеллект тарыхый маалыматтардагы дискриминацияны үйрөнүп, аны кыйыр түрдө (прокси аркылуу) баа жана андеррайтингде уланта алат. Адилеттүүлүктү жигердүү сынаңыз: корголгон касиеттерди жана проксилерди аныктоо, мыйзамдуулукту жана түшүндүрмөлүүлүк үчүн негиздөөлөрдү текшерүү. SEDDK, KVKK жана автоматтык чечимдерди кабыл алуу принциптери; Адилет баа түшүндүрүүнү, адамдын кароосун жана каршы чыгуу укугун талап кылат. Адамдын көзөмөлү жогорку таасирдүү чечимдерди кабыл алууда маанилүү. Конкреттүү учурда, укуктук/комплаенс бөлүмү менен кеңешиңиз; Дискриминация - бул кызыл сызык.
Колдонмо тапшырмасы
Баа модели колдонгон 10 өзгөрмөнүн тизмесин жазыңыз (иш жүзүндө же мисал). Ар бири үчүн "бул корголгон мүлктүн прокси болушу мүмкүнбү" деген суроого жооп бериңиз; Шектүүлөрдү белгилеңиз. Андан кийин №2 легитимдүүлүк тести аркылуу баш тартуунун негиздемесинин үлгүсүн коюңуз: ал тесттен өтөбү, эгер жок болсо, аны мыйзамдуу критерий менен кантип алмаштырууга болот?
текшерүү тизмеси
- [ ] Мен корголгон касиеттерди көрсөттүм.
- [ ] Мен прокси үчүн өзгөрмөлөрдү сканерден өткөрдүм.
- [ ] Мен негиздөөнүн мыйзамдуулугун жана түшүндүрмөлүүлүгүн сынайм.
- [ ] Мен аз көрсөтүлгөн топтор үчүн ишенимдүүлүк текшерүүлөрүн жүргүздүм.
- [ ] Мен жогорку таасирдүү чечимге адам көзөмөлүн коштум.
- [ ] Мен жүйөөнү документтештирип, кардарга каршы/адам кароосуна укук бердим.
- [ ] Күмөн санаганда, мен юридикалык/комплаенс бөлүмүнө кайрылдым.