Әділеттілік, кемсітушілік және заңнама: SEDDK, KVKK және жасанды интеллект ережелері

Табыстар:

• Баға мен андеррайтингтегі кемсітушілік, біржақтылық және жанама кемсітушілік тәуекелдерін тану және оларды жасанды интеллект нәтижелерінде сынау мүмкіндігі
• SEDDK ережелері, KVKK және автоматты шешім қабылдау қағидаттары шеңберінде түсіндіру және қарсылық құқығын сақтау мүмкіндігі
• Қауіптілігі жоғары автоматтандырылған шешімдерде адамның бақылауы мен негіздеу міндеттемелерін қолдану мүмкіндігі

Сақтандыру – бұл тәуекелді топтастырып, баға беретін бизнес; бірақ бұл топтастыру әділ болуы керек. Жынысы, этникалық, наным-сенімі, тұратын аймағы сияқты қорғалатын сипаттамаларына байланысты адамға жоғары сыйлық беру немесе қамтудан бас тарту әділетсіз кемсітушілік болып табылады және оған тыйым салынады. Жасанды интеллект (тарихи деректерден үйренетін және баға мен шешім бойынша ұсыныстар жасайтын бағдарламалық жасақтама) осы салада ерекше қауіп төндіреді: ол тарихи деректердегі әділетсіз үлгілерді біліп, кемсітушілікті байқаусызда жалғастыруы немесе тіпті жасыруы мүмкін. Оның үстіне, ол мұны тікелей емес, жанама түрде (прокси айнымалы арқылы) жасай алады. Бұл бөлімде сіз баға белгілеу мен андеррайтингтегі бейтараптық пен кемсітушілік тәуекелдерін қалай тануға болатынын, жасанды интеллект нәтижелерін әділдік үшін сынауды және SEDDK (Сақтандыру және жеке зейнетақымен қамсыздандыруды реттеу және қадағалау агенттігі), KVKK және автоматты шешімдер қабылдау қағидаттары аясында түсіндіру және қарсылық құқығын қалай сақтау керектігін үйренесіз. Бұл бөлім заң кеңесшісі емес; Ол жалпы принциптерді түсіндіреді, кез келген нақты жағдайда міндетті түрде заң/сәйкестік бөлімімен кеңесіңіз.

Алалаушылық пен кемсітушілік қайдан пайда болады?

AI бейімділігі үш негізгі көзден туындайды:

• Деректерге бейімділік: модель тарихи деректердегі әділетсіздік туралы біледі. Мысалы, егер белгілі бір топқа бұрын жүйелі түрде жоғары сыйлықақылар берілсе, модель мұны «қалыпты» деп санауды жалғастырады.
• Суррогат айнымалы (прокси): Модель қорғалған мүмкіндікті (жынысы, шығу тегі) тікелей қолданбаса да, оған қатты қатысы бар айнымалы мәнді (көршілік, атау, сауда үлгісі) пайдалану арқылы жанама түрде кемсітеді.
• Іріктеу бұрмалануы: Кейбір топтар деректерде аз ұсынылғандықтан, модель олар туралы сенімсіз және әділетсіз пайымдаулар жасайды.

Кемсітудің екі түрі бар. Тікелей кемсіту: қорғалған сипаттаманы ашық пайдалану. Жанама кемсітушілік: бейтарап болып көрінетін критерий белгілі бір топқа пропорционалды түрде әсер еткенде. Екіншісі әлдеқайда жасырын, өйткені ол ниетсіз пайда болады және оны анықтау қиын.

Абайлаңыз: «Модель статистикаға негізделген, сондықтан ол объективті» деп қорғау қате. Статистикаға өткен әділетсіздіктер де кіреді; Модель оны заңдастырмайды, оны мәңгілік етеді. Әділдік - бұл белсенді түрде сыналуды қажет ететін нәрсе.

Әділдік үшін сынақ нәтижесі

AI нәтижесін (баға ұсынысы, қабылдамау себебі, тәуекел ұпайы) әділдік үшін үш сұрақпен тексеріңіз:

1. Себебі заңды ма? Шешім тәуекелге нақты және дәлелді қатынасы бар критерийлерге негізделген бе, әлде қорғалатын мүлікке немесе оның сенімді өкіліне негізделген бе?
2. Прокси бар ма? Қолданылатын айнымалылардың бірі (көрші жер, аты-жөні, кәсібі, отбасылық жағдайы) қорғалған сипаттамамен тығыз байланысты болуы мүмкін бе?
3. Түсіндіруге бола ма? Сіз шешімді клиентке және аудиторға түсінікті және қорғалатын түрде түсіндіре аласыз ба? «Модель солай айтты» деген сөз емес.

Егер негіздеме осы үш сынақтан өтпесе, ол қабылданбайды және шешім заңды критерийлерге негізделеді.

Кеңес: «Клиент пен аудиторға мұны түсіндірсем, ұялмаймын ба?» деген сөйлеммен бас тартудың немесе жоғары сыйлықтың себебін тексеріңіз. Ұят немесе дәлелсіз негіздеме (көрші, аты, шығу тегі) пайдаланылмауы керек.

Заңнамалық база: SEDDK, KVKK, автоматты шешім

Сақтандыруда жасанды интеллектті пайдалану әртүрлі ережелерге бағынады. Негізгі принциптер:

• SEDDK принциптері: Сақтандыру қызметі әділ, ашық және тұтынушыларды қорғайтын түрде жүзеге асырылуы керек; Баға белгілеу негізделген болуы керек және әділетсіз кемсітушілік болмауы керек.
• KVKK: Жеке деректер заңға сәйкес, мақсатпен шектелген және қауіпсіз өңделуі керек. Денсаулық сияқты арнайы деректер ең жоғары қорғауға жатады.
• Шешім қабылдаудың автоматтандырылған принциптері: Тек автоматты өңдеуге негізделген және адамға айтарлықтай әсер ететін шешімдерде (мысалы, тек жасанды интеллектпен жасалған бас тарту), тұлға; Шешімге қарсылық білдіру, адамның араласуын сұрау және шешімнің негіздемесін білу құқықтары бірінші орынға шығады.

Сондықтан, жоғары әсерлі шешімдерде түсіндіру, адам бақылауы және негіздеу маңызды. «Қара жәшік» үлгісінің негізсіз шешімі бақылаусыз және осы құқықтарға қайшы келеді.

Қадамдық: әділ және үйлесімді шешім

1. Қорғалған қасиеттерді анықтау. Жынысы, шығу тегі, сенімі, денсаулығы, тұрғылықты жері және т.б.
2. Прокси сканерін орындаңыз. Қолданылатын айнымалылардың қорғалған қасиеттермен байланысына сұрақ қойыңыз.
3. Негіздемені заңдылықты сынау. Тәуекелмен нақты байланыс бар ма? Түсіндіруге бола ма?
4. Адам бақылауын қосыңыз. Адамға жоғары әсер ететін шешімде автоматты нәтижені қарауға мүмкіндік беріңіз.
5. Негіздемені құжаттаңыз. Шешім қандай заңды критерийлерге негізделгенін жазып алыңыз.
6. Шағымдану жолын біліңіз. Тұтынушыға қарсылық білдіру, адами тексеру және негіздеу құқығын беріңіз.

үш шағын іс

1-жағдай — проксиді қабылдамау. Тұрғын үй бағасының үлгісі белгілі бір пошта индексі үшін жүйелі түрде жоғары сыйлықты ұсынды. Сарапшы тексерді: пошта индексі белгілі бір этникалық шоғырланған аумақпен қабаттасады; бұл прокси айнымалы болды. Нақты тәуекелді (ғимараттың жасы, құрылым түрі, зақымдану тарихы) бөлгенде, өсудің көп бөлігі бұдан былай ақталмайды. Баға заңды тәуекел критерийлері негізінде қайта бекітілді.

2-жағдай – аз ұсынылған топ. Денсаулық сақтау өнімі үшін модель шағын жас тобына тым жоғары сыйлықты ұсынды. Себеп: бұл топтың деректерде аз қамтылғаны соншалық, бірнеше жоғары залал бүкіл топты «қауіпті» етіп көрсетті. Сарапшы сенімділікті (статистикалық сенімділікті) түзетуді жүргізді және ұсыныстың сенімсіз екенін құжаттады; Әділетсіз өсім қолданылмаған.

3-жағдай – Қарсылық білдіру құқығы. Өтінім AI-ге негізделген ұпаймен автоматты түрде қабылданбады. Тапсырыс беруші қарсылық білдірді. Бейімделу процесінің шеңберінде шешім сарапшымен қайта қаралды; Ұпай жетіспейтін деректерге негізделген сияқты (бұрынғы зақым сәйкес келмеді). Шешім түзетілді. Адамның бақылауы және қарсылық білдіру құқығы болмаса, әділетсіз бас тарту тұрақты болар еді.

Көшірілетін төрт шақыру

1) Прокси және дискриминацияны сканерлеу:

Әділ болу үшін келесі баға белгілеу/шешім негіздемесін тексеріңіз: [негіздеу]Іздеу: қорғалатын сипаттама (жынысы, шығу тегі, сенімі, денсаулығы, тұратын жері) тікелей немесе жанама түрде (сенімхат: көршілік, аты-жөні, мамандығы және т.б.) пайдаланылады ма? Әрбір күмәнді айнымалы үшін оның неге прокси болуы мүмкін екенін түсіндіріп, заңды балама ұсыныңыз.

2) Негіздеменің заңдылығын тексеру:

Келесі бас тарту/жоғары бонус негіздемесін үш сұрақпен тексеріңіз: [негіздеу]1. Тәуекелдің нақты және негізделген қатынасы бар ма?2. Ол қорғалатын мүлікке немесе оның проксиге негізделген бе?3. Оны клиент пен аудиторға түсіндіруге бола ма? Әр сұраққа нақты жауап беріңіз; Тесттен өтпеген себебін «БАСТАУ» деп белгілеңіз.

3) Түсіндірілетін негіздеме жобасы:

Келесі ТЕКСЕРІЛГЕН, заңды тәуекел критерийлеріне негізделген шешімнің клиентке нақты негіздеме жобасын жасаңыз: [заңды критерийлер]Дөңес: құрметті, түсінікті. Қорғалған сипатты/проксиді пайдалану. Тұтынушының наразылық білдіру және адамның тексеруін сұрау құқығын көрсетіңіз. Бұл жоба; сарапшы растайды.

4) Адамдарды тексеруді тексеру парағы:

Әсері жоғары автоматтандырылған шешім үшін адам аудитінің бақылау тізімін жасаңыз: Шешім түрі: [қабылдамау/жоғары сыйақы/кепіл шектеуі]Тізім: білікті сарапшы шолуы, деректер тексерілді, әділдік/прокси-бақылау, негіздеу құжаты, тұтынушыға шағымдану туралы хабарлама, бақылау жазбасы.

Әлсіз шақыру / Күшті шақыру

Әлсіз: «Осы деректермен ең тиімді бағаны анықтап, негіздемесін жаз».

Мәселе: Әділдік, сенімділік және түсініктілік сақталмайды; үлгі бұрынғы кемсітушілікті жалғастырып, негіздей алады.

Күшті: "Прокси мен кемсітушілік үшін осы негіздемелерді тексеріңіз; қорғалған мүмкіндікке немесе оның проксиіне сүйенетін нүктелерді белгілеңіз және заңды тәуекел критерийімен ауыстырыңыз. Түсіндірілетін негіздемені көрсетіңіз."

Неліктен бұл жақсы: кемсітушілік белсенді түрде тексеріледі, шешім заңды және түсінікті критерийлерге негізделген.

салыстыру диаграммасы

Тақырып

тәуекелді тәсіл

дұрыс көзқарас

Үлгі шығару

«Статистика объективті»

Әділдікті белсенді түрде сынау

Айнымалы таңдау

Әрбір деректерді пайдаланыңыз

Проксиді шығарып алыңыз

негіздеу

«Модель осылай деді»

Заңды, түсіндірілетін критерий

Жоғары әсерлі шешім

толық автоматты

Адамның бақылауы міндетті болып табылады

Тұтынушы құқығы

Хабарлама жоқ

Қарсылық + адамның қарауы + негіздеу

Жалпы қателер

• «Статистика – объективті» қорғау. Өткен әділетсіздікті ақтау.
• Проксиді елемеу. Тіршілікке/атауға/кәсіпке байланысты жанама кемсітушілік.
• Аз ұсынылған топ үшін сенімсіз шешім. Шағын іріктеуден алынған жылдамдық дәл деп есептей отырып.
• Қара жәшік шешімі. Себебін түсіндіруге болмайтын автоматты шешімді жүзеге асыру.
• Қарсылық білдіру құқығын мойындамау. Тұтынушыға адами тексеру мен негіздеу құқығын бермеу.

Қысқаша айтқанда

Жасанды интеллект тарихи деректердегі кемсітушілікті үйреніп, оны баға белгілеу мен андеррайтингте жанама түрде (прокси арқылы) жалғастыра алады. Әділдікті белсенді түрде сынау: қорғалған қасиеттер мен сенімді тұлғаларды анықтау, заңдылық пен түсініктіліктің негіздемесін сынау. SEDDK, KVKK және автоматты шешім қабылдау принциптері; Әділ баға түсініктілігін, адамның қарауын және қарсылық білдіру құқығын талап етеді. Әсері жоғары шешімдерде адамның бақылауы маңызды. Нақты жағдайда заң/сәйкестік бөлімімен кеңесіңіз; Дискриминация – қызыл сызық.

Қолданбалы тапсырма

Баға моделі пайдаланатын 10 айнымалының тізімін жазыңыз (нақты немесе мысал). Әрқайсысы үшін «бұл қорғалатын мүліктің прокси болуы мүмкін бе» деген сұраққа жауап беріңіз; Күдіктілерді белгілеңіз. Содан кейін №2 легитимділік сынағы арқылы бас тартуды негіздеу үлгісін қойыңыз: ол сынақтан өте ме, ал өтпесе, оны заңды критериймен қалай ауыстыруға болады?

бақылау парағы

• [ ] Мен қорғалған сипаттарды көрсеттім.
• [ ] Мен прокси үшін айнымалыларды сканерледім.
• [ ] Мен негіздеуді заңдылық пен түсінікті сынауға қойдым.
• [ ] Мен аз ұсынылған топтар үшін сенімділікті тексеруді жүргіздім.
• [ ] Мен жоғары әсерлі шешімге адам бақылауын қостым.
• [ ] Негіздемені құжаттадым және тұтынушыға қарсылық/адам қарауына құқық бердім.
• [ ] Күмәнданған кезде мен заң/сәйкестік бөлімінен кеңес алдым.