Qazanclar:
- Qiymət və anderraytinqdə ayrı-seçkilik, qərəzlilik və dolayı ayrı-seçkilik risklərini tanımaq və onları süni intellekt məhsullarında sınaqdan keçirmək bacarığı
- SEDDK tənzimləmələri, KVKK və avtomatik qərar vermə prinsipləri çərçivəsində izah oluna bilmə və etiraz hüququna riayət etmək bacarığı
- Yüksək riskli avtomatlaşdırılmış qərarlarda insan nəzarəti və əsaslandırma öhdəliklərini tətbiq etmək bacarığı
Sığorta qrupları və qiymətləri risk edən bir işdir; lakin bu qruplaşma ədalətli olmalıdır. Bir şəxsə cinsi, etnik mənsubiyyəti, inancı, yaşayış bölgəsi kimi qorunan xüsusiyyətlərinə görə daha yüksək mükafat vermək və ya əhatə dairəsini rədd etmək ədalətsiz ayrı-seçkilikdir və qadağandır. Süni intellekt (tarixi məlumatlardan öyrənən və qiymət və qərar tövsiyələri yaradan proqram təminatı) bu sahədə xüsusi təhlükə yaradır: o, tarixi məlumatlarda ədalətsiz nümunələri öyrənə və fərqində olmadan ayrı-seçkiliyi davam etdirə və ya hətta gizlədə bilər. Üstəlik, bunu birbaşa deyil, dolayı yolla (proxy dəyişəni vasitəsilə) edə bilər. Bu bölmədə siz qiymət və anderraytinqdə qərəz və ayrı-seçkilik risklərini necə tanıyacağınızı, süni intellektin nəticələrini ədalətlilik üçün necə sınaqdan keçirəcəyinizi, SEDDK (Sığorta və Fərdi Pensiya Tənzimləmə və Nəzarət Agentliyi), KVKK və avtomatik qərar qəbul etmə prinsipləri çərçivəsində izahat və etiraz hüququna necə riayət edəcəyinizi öyrənəcəksiniz. Bu bölmə hüquqi məsləhətçi deyil; O, ümumi prinsipləri izah edir, istənilən konkret halda qanun/uyğunluq bölməsinə müraciət etməyinizə əmin olun.
Qərəz və ayrı-seçkilik haradan qaynaqlanır?
AI qərəzliyi üç əsas mənbədən yaranır:
- Data qərəzi: Model tarixi məlumatlarda ədalətsizlik haqqında öyrənir. Məsələn, müəyyən bir qrupa keçmişdə sistematik olaraq yüksək mükafatlar verilibsə, model bunu "normal" hesab etməyə davam edir.
- Surroqat dəyişən (proksi): Model qorunan xüsusiyyətdən (cins, mənşə) birbaşa istifadə etməsə belə, onunla güclü əlaqəli dəyişəndən (qonşuluq, ad, alış-veriş nümunəsi) istifadə edərək dolayı ayrı-seçkilik edir.
- Seçmə qərəzliliyi: Bəzi qruplar məlumatlarda az təmsil olunduğundan, model onlar haqqında etibarsız və ədalətsiz mühakimələr yaradır.
Ayrı-seçkiliyin iki növü var. Birbaşa ayrı-seçkilik: qorunan xüsusiyyətin açıq şəkildə istifadəsi. Dolayı ayrı-seçkilik: zahirən neytral meyar müəyyən bir qrupa qeyri-mütənasib şəkildə təsir etdikdə. İkincisi daha məkrlidir, çünki qəsdən baş verir və onu aşkar etmək çətindir.
Diqqət: “Model statistikaya əsaslanır, ona görə də obyektivdir” müdafiəsi yanlışdır. Statistikaya keçmiş ədalətsizliklər də daxildir; Model bunu qanuniləşdirmir, onu əbədiləşdirir. Ədalətlilik aktiv şəkildə sınaqdan keçirilməli olan bir şeydir.
Ədalətlilik üçün test nəticələri
AI çıxışını (qiymət tövsiyəsi, imtina səbəbi, risk balı) ədalətli olmaq üçün üç sualla yoxlayın:
- Səbəb qanunidirmi? Qərar risklə real və əsaslandırıla bilən əlaqəyə malik meyarlara, yoxsa qorunan əmlaka və ya onun vəkilliyinə əsaslanır?
- Proksi varmı? İstifadə olunan dəyişənlərdən biri (qonşuluq, ad, məşğuliyyət, ailə vəziyyəti) qorunan xüsusiyyətlə güclü şəkildə əlaqələndirilə bilərmi?
- Bunu izah etmək olarmı? Qərarınızı müştəriyə və auditora aydın və müdafiə oluna bilən şəkildə izah edə bilərsinizmi? “Model belə dedi” ifadəsi deyil.
Əgər əsaslandırma bu üç sınaqdan keçmirsə, rədd edilir və qərar qanuni meyarlara əsaslanır.
İpucu: Rədd edilmənin və ya yüksək mükafatın səbəbini bu cümlə ilə yoxlayın: "Bunu müştəriyə və auditora izah etsəm, utancağammı?" Biabırçı və ya müdafiə olunmayan əsaslandırmadan (qonşuluq, ad, mənşə) istifadə edilməməlidir.
Qanunvericilik bazası: SEDDK, KVKK, avtomatik qərar
Sığortada süni intellektin istifadəsi müxtəlif qaydalara tabedir. Əsas prinsiplər:
- SEDDK prinsipləri: Sığorta fəaliyyəti ədalətli, şəffaf və istehlakçıları qoruyan şəkildə həyata keçirilməlidir; Qiymətlər əsaslandırılmalı və haqsız ayrı-seçkilik olmamalıdır.
- KVKK: Şəxsi məlumatlar qanuna uyğun olaraq, məqsədlə məhdud və təhlükəsiz şəkildə işlənməlidir. Sağlamlıq kimi xüsusi məlumatlar ən yüksək mühafizəyə məruz qalır.
- Avtomatlaşdırılmış qərarların qəbulu prinsipləri: Yalnız avtomatik emala əsaslanan və insana əhəmiyyətli dərəcədə təsir edən qərarlarda (məsələn, tək süni intellekt tərəfindən edilən rədd), şəxs; Qərara etiraz etmək, insan müdaxiləsini tələb etmək və qərarın səbəbini öyrənmək hüquqları ön plana çıxır.
Buna görə də, yüksək təsirli qərarlarda izahat, insan nəzarəti və əsaslandırma vacibdir. “Qara qutu” modelinin əsassız qərarı həm idarəolunmazdır, həm də bu hüquqlarla ziddiyyət təşkil edir.
Addım-addım: Ədalətli və ahəngdar qərar
- Qorunan xüsusiyyətləri müəyyənləşdirin. Cins, mənşə, inanc, sağlamlıq, yaşayış bölgəsi və s.
- Proksi skan edin. İstifadə olunan dəyişənlərin qorunan xassələrlə əlaqəsini sorğulayın.
- Əsaslandırmanı legitimlik sınağına qoyun. Risklə real əlaqə varmı? Bunu izah etmək olarmı?
- İnsan nəzarəti əlavə edin. Bir insanın yüksək təsirli bir qərarda avtomatik nəticəni nəzərdən keçirməsinə icazə verin.
- Əsaslandırmanı sənədləşdirin. Qərarın hansı qanuni meyarlara əsaslandığını qeyd edin.
- Müraciət etməyin yolunu bilin. Müştəriyə etiraz etmək, insan baxışı və əsaslandırma hüququ ilə təmin edin.
üç mini qutu
Hal 1 - Proksidən imtina. Mənzil qiymətləri modeli müəyyən bir poçt kodu üçün sistematik olaraq yüksək mükafat təklif etdi. Ekspert araşdırdı: poçt indeksi müəyyən etnik konsentrasiyaya malik ərazi ilə üst-üstə düşür; bu proxy dəyişən idi. Faktiki risk (tikinti yaşı, quruluş növü, zədələnmə tarixi) bölündükdə, artımın çoxu artıq özünü doğrultmur. Qiymət qanuni risk meyarları əsasında yenidən müəyyən edilib.
2-ci hal – Az təmsil olunan qrup. Sağlamlıq məhsulu üçün model kiçik yaş qrupu üçün həddindən artıq yüksək mükafat təklif etdi. Səbəb: bu qrup məlumatlarda o qədər az təmsil olunurdu ki, bir neçə yüksək ziyan bütün qrupu "risk altında" göstərdi. Ekspert etibarlılıq (statistik etibarlılıq) düzəlişi həyata keçirdi və tövsiyənin etibarsız olduğunu sənədləşdirdi; Haqsız artım tətbiq edilməyib.
3-cü hal – etiraz etmək hüququ. Ərizə süni intellektlə dəstəklənən xalla avtomatik olaraq rədd edildi. Müştəri etiraz etdi. Uyğunlaşma prosesinin bir hissəsi olaraq, qərar ekspert tərəfindən yenidən araşdırıldı; Hesabın çatışmayan məlumatlara (uyğunsuz keçmiş zərər) əsaslandığı görünür. Qərar düzəldilib. İnsan nəzarəti və etiraz etmək hüququ olmadan ədalətsiz imtina daimi olardı.
Dörd kopyalana bilən sorğu
1) Proksi və diskriminasiyanın skan edilməsi:
Ədalətlilik üçün aşağıdakı qiymət/qərar əsaslandırmasını yoxlayın: [əsaslandırma]Arayın: qorunan xüsusiyyət (cins, mənşə, inanc, sağlamlıq, yaşayış bölgəsi) birbaşa və ya dolayı yolla istifadə olunurmu (proksi: qonşuluq, ad, peşə və s.)? Hər bir şübhəli dəyişən üçün onun niyə proxy ola biləcəyini izah edin və qanuni alternativ təklif edin.
2) Əsaslandırmanın legitimliyi testi:
Aşağıdakı inkar/yüksək bonus əsaslandırmasını üç sualla yoxlayın: [əsaslandırma]1. Risk üçün real və əsaslandırılmış əlaqə varmı?2. O, qorunan əmlaka əsaslanır, yoxsa onun etibarnaməsi?3. Bunu müştəriyə və auditora izah etmək olarmı? Hər suala aydın cavab verin; Testdən keçməyən səbəbi “RƏDD ET” kimi qeyd edin.
3) izah edilə bilən əsaslandırma layihəsi:
Aşağıdakı TƏQDİM EDİLMİŞ, qanuni risk meyarlarına əsaslanan qərar üçün müştəriyə ifadəli əsaslandırma hazırlayın: [qanuni meyarlar] Ton: hörmətli, aydın. Qorunan mülkiyyətdən/proksidən istifadə. Müştərinin etiraz etmək və insan baxışını tələb etmək hüququnu bildirin. Bu qaralamadır; ekspert təsdiq edir.
4) İnsan yoxlama siyahısı:
Yüksək təsirli avtomatlaşdırılmış qərar üçün insan audit yoxlama siyahısı yaradın: Qərar növü: [rədd etmə/yüksək mükafat/girov məhdudiyyəti]Siyahı: ixtisaslı ekspert araşdırması, məlumat yoxlanılıb, ədalət/proksi nəzarət, əsaslandırma sənədi, müştəri müraciəti bildirişi, iz rekordu.
Zəif məlumat / Güclü göstəriş
Zəif: "Bu məlumatlarla ən sərfəli qiyməti müəyyənləşdirin və əsaslandırmanı yazın."
Problem: Ədalət, etibarnamə və izahlılığa hörmət edilmir; model keçmiş ayrı-seçkiliyi davam etdirə və əsaslandıra bilər.
Güclü: "Proksi və ayrı-seçkilik üçün bu əsaslandırmanı yoxlayın; qorunan xüsusiyyətə və ya onun proksisinə əsaslanan nöqtələri qeyd edin və qanuni risk meyarı ilə əvəz edin. İzah edilə bilən əsaslandırmanı təsvir edin."
Niyə yaxşıdır: Ayrı-seçkilik fəal şəkildə sınaqdan keçirilir, qərar qanuni və izah edilə bilən meyarlara əsaslanır.
müqayisə diaqramı
Mövzu
riskli yanaşma
düzgün yanaşma
Model çıxışı
“Statistika obyektivdir”
Ədaləti fəal şəkildə sınayın
Dəyişən seçim
Hər bir məlumatdan istifadə edin
Proksiləri çıxarın
əsaslandırma
"Model belə dedi"
Qanuni, izah edilə bilən meyar
Yüksək təsirli qərar
tam avtomatik
İnsan nəzarəti məcburidir
Müştəri hüququ
Məlumat verilməyib
Etiraz + insan baxışı + əsaslandırma
Ümumi səhvlər
- “Statistika obyektivdir” müdafiəsi. Keçmiş ədalətsizliyə haqq qazandırmaq.
- Proksiyə məhəl qoymamaq. Qonşuluq/ad/peşə əsasında dolayı ayrı-seçkilik.
- Az təmsil olunan qrup üçün etibarsız qərar. Kiçik bir nümunədən alınan nisbətin dəqiq olduğunu fərz etsək.
- Qara qutu qərarı. Səbəbi izah edilə bilməyən avtomatik qərarın həyata keçirilməsi.
- Etiraz etmək hüququnu tanımamaq. Müştəriyə insan baxışı və əsaslandırma hüququnun verilməməsi.
Xülasə
Süni intellekt tarixi məlumatlarda ayrı-seçkiliyi öyrənə və qiymət və anderraytinqdə dolayı yolla (proxy vasitəsilə) davam etdirə bilər. Ədalətliliyi aktiv şəkildə sınaqdan keçirin: qorunan xassələri və etibarnamələri müəyyən edin, legitimlik və izahat üçün əsaslandırmanı yoxlayın. SEDDK, KVKK və avtomatik qərar vermə prinsipləri; Ədalətli qiymət anlayışı, insan baxışı və etiraz etmək hüququ tələb edir. Yüksək təsirli qərarlarda insan nəzarəti vacibdir. Xüsusi halda, hüquq/uyğunluq şöbəsi ilə məsləhətləşin; Ayrı-seçkilik qırmızı xəttdir.
Tətbiq tapşırığı
Qiymət modelinin istifadə etdiyi 10 dəyişənin siyahısını yazın (faktiki və ya nümunə). Hər biri üçün "bu, qorunan əmlak üçün proxy ola bilərmi" sualına cavab verin; Şübhəli olanları qeyd edin. Sonra №2 legitimlik testi vasitəsilə imtinanın əsaslandırılması nümunəsi qoyun: testdən keçirmi və yoxsa, onu legitim meyarla necə əvəz etmək olar?
yoxlama siyahısı
- [ ] Mən qorunan xassələri qeyd etmişəm.
- [ ] Proksi üçün dəyişənləri skan etdim.
- [ ] Mən əsaslandırmanı legitimlik və izah edilə bilənlik sınağına qoyuram.
- [ ] Mən az təmsil olunan qruplar üçün etibarlılıq yoxlamaları apardım.
- [ ] Mən yüksək təsirli qərara insan nəzarətini əlavə etdim.
- [ ] Mən əsaslandırmanı sənədləşdirdim və müştəriyə etiraz/insan baxışı hüququ verdim.
- [ ] Şübhə yarananda mən hüquq/uyğunluq şöbəsi ilə məsləhətləşdim.