Daromadlar:
- Narx belgilash va anderraytingda kamsitish, noxolislik va bilvosita kamsitish xavfini tan olish va ularni sun'iy intellekt natijalarida sinab ko'rish qobiliyati
- SEDDK qoidalari, KVKK va avtomatik qaror qabul qilish tamoyillari doirasida tushuntirish va e'tiroz bildirish huquqiga rioya qilish qobiliyati
- Yuqori xavfli avtomatlashtirilgan qarorlarda inson nazorati va asoslash majburiyatlarini qo'llash qobiliyati
Sug'urta - bu guruh va narxlarni xavf ostiga qo'yadigan biznes; lekin bu guruhlash adolatli bo'lishi kerak. Jins, etnik kelib chiqishi, e'tiqodi, yashash hududi kabi himoyalangan xususiyatlari tufayli shaxsga yuqoriroq mukofot berish yoki qamrovni rad etish adolatsiz kamsitish hisoblanadi va taqiqlanadi. Sun'iy intellekt (tarixiy ma'lumotlardan o'rganadigan va narxlar va qarorlar bo'yicha tavsiyalarni ishlab chiqaruvchi dasturiy ta'minot) bu sohada alohida xavf tug'diradi: u tarixiy ma'lumotlardagi adolatsiz naqshlarni o'rganishi va beixtiyor kamsitishlarni davom ettirishi yoki hatto yashirishi mumkin. Bundan tashqari, u buni to'g'ridan-to'g'ri emas, balki bilvosita (proksi-server o'zgaruvchisi orqali) amalga oshirishi mumkin. Ushbu bo'limda siz narx va anderraytingda tarafkashlik va kamsitish xavfini qanday tan olishni, sun'iy intellekt natijalarini adolatlilik uchun qanday sinab ko'rishni va SEDDK (Sug'urta va shaxsiy pensiyalarni tartibga solish va nazorat qilish agentligi), KVKK va avtomatik qaror qabul qilish tamoyillari doirasida tushuntirish va e'tiroz bildirish huquqiga qanday rioya qilishni o'rganasiz. Bu bo'lim yuridik maslahatchi emas; U umumiy tamoyillarni tushuntiradi, har qanday aniq holatda, qonuniy/muvofiqlik bo'limi bilan maslahatlashishni unutmang.
Xurofot va kamsitish qayerdan kelib chiqadi?
AI tarafkashligi uchta asosiy manbadan kelib chiqadi:
- Ma'lumotlarga moyillik: Model tarixiy ma'lumotlardagi adolatsizlik haqida bilib oladi. Misol uchun, agar ma'lum bir guruhga o'tmishda muntazam ravishda yuqori mukofotlar berilgan bo'lsa, model buni "normal" deb hisoblashda davom etadi.
- Surrogat oʻzgaruvchi (proksi): Model toʻgʻridan-toʻgʻri himoyalangan xususiyatdan (jins, kelib chiqish) foydalanmasa ham, u oʻziga kuchli bogʻliq boʻlgan oʻzgaruvchidan (mahalla, ism, xarid shakli) yordamida bilvosita kamsitadi.
- Namuna tarafkashligi: Ba'zi guruhlar ma'lumotlarda kam ifodalanganligi sababli, model ular haqida ishonchsiz va adolatsiz hukmlarni ishlab chiqaradi.
Diskriminatsiyaning ikki turi mavjud. To'g'ridan-to'g'ri diskriminatsiya: himoyalangan xususiyatdan ochiq foydalanish. Bilvosita kamsitish: betaraf ko'rinadigan mezon ma'lum bir guruhga nomutanosib ravishda ta'sir qilganda. Ikkinchisi ko'proq makkor, chunki u niyatsiz sodir bo'ladi va uni aniqlash qiyin.
Diqqat: “Model statistik ma’lumotlarga asoslangan, shuning uchun u ob’ektiv” degan himoya noto‘g‘ri. Statistikaga o'tmishdagi adolatsizlik ham kiradi; Model uni qonuniylashtirmaydi, uni abadiylashtiradi. Adolat - bu faol sinovdan o'tishi kerak bo'lgan narsa.
Adolat uchun sinov natijalari
AI chiqishini (narx tavsiyasi, rad etish sababi, xavf balli) adolat uchun uchta savol bilan sinab ko'ring:
- Sababi qonuniymi? Qaror tavakkalchilik bilan real va asosli munosabatga ega bo'lgan mezonlar yoki himoyalangan mulk yoki uning ishonchli vakiliga asoslanganmi?
- Proksi bormi? Amaldagi o'zgaruvchilardan biri (mahalla, ism, kasb, oilaviy ahvol) himoyalangan xususiyat bilan kuchli bog'liq bo'lishi mumkinmi?
- Buni tushuntirish mumkinmi? Qarorni mijoz va auditorga aniq va himoyalangan tarzda tushuntira olasizmi? "Model shunday dedi" - bu bayonot emas.
Agar asoslash ushbu uchta sinovdan o'tmasa, u rad etiladi va qaror qonuniy mezonlarga asoslanadi.
Maslahat: Rad etish yoki yuqori mukofot sababini quyidagi jumla bilan sinab ko'ring: "Buni mijoz va auditorga tushuntirsam, xijolat bo'lamanmi?" Sharmandali yoki isbotlab bo'lmaydigan asoslash (mahalla, ism, kelib chiqishi) ishlatilmasligi kerak.
Qonunchilik bazasi: SEDDK, KVKK, avtomatik qaror
Sug'urtada sun'iy intellektdan foydalanish turli qoidalarga bo'ysunadi. Asosiy tamoyillar:
- SEDDK tamoyillari: Sug'urta faoliyati adolatli, shaffof va iste'molchilar huquqlarini himoya qiladigan tarzda amalga oshirilishi kerak; Narxlar asosli bo'lishi kerak va adolatsiz kamsitish bo'lmasligi kerak.
- KVKK: Shaxsiy ma'lumotlar qonunga muvofiq, maqsad bilan cheklangan va xavfsiz tarzda qayta ishlanishi kerak. Sog'lik kabi maxsus ma'lumotlar eng yuqori darajada himoyalangan.
- Avtomatlashtirilgan qaror qabul qilish tamoyillari: faqat avtomatik qayta ishlashga asoslangan va shaxsga sezilarli ta'sir ko'rsatadigan qarorlarda (masalan, faqat sun'iy intellekt tomonidan qilingan rad etish), shaxs; Qarorga e'tiroz bildirish, inson aralashuvini talab qilish va qarorning mantiqiy asoslarini o'rganish huquqlari birinchi o'ringa chiqadi.
Shuning uchun, yuqori ta'sirli qarorlar qabul qilishda tushuntirish, inson nazorati va asoslash muhim ahamiyatga ega. "Qora quti" modelining asossiz qarori ham nazorat qilib bo'lmaydigan, ham ushbu huquqlarga ziddir.
Bosqichma-bosqich: adolatli va uyg'un qaror
- Himoyalangan xususiyatlarni aniqlang. Jins, kelib chiqishi, e'tiqodi, salomatligi, yashash joyi va boshqalar.
- Proksi-serverni skanerlang. Qo'llaniladigan o'zgaruvchilarning himoyalangan xususiyatlar bilan bog'liqligini so'rang.
- Asosni qonuniylik sinovidan o'tkazing. Xavf bilan haqiqiy aloqa bormi? Buni tushuntirish mumkinmi?
- Inson nazoratini qo'shing. Insonga yuqori ta'sirli qarorda avtomatik natijani ko'rib chiqishga ruxsat bering.
- Mantiqiy asosni hujjatlashtiring. Qaror qanday qonuniy mezonlarga asoslanganligini yozib oling.
- Shikoyat qilish usulini biling. Xaridorga e'tiroz bildirish, inson tomonidan ko'rib chiqish va asoslash huquqini taqdim eting.
uchta mini holat
1-holat - proksi-serverni rad etish. Uy-joy narxlari modeli ma'lum bir pochta indeksi uchun muntazam ravishda yuqori mukofotni taklif qildi. Ekspert tekshirdi: pochta indeksi ma'lum bir etnik kontsentratsiyaga ega bo'lgan hudud bilan qoplangan; bu proksi o'zgaruvchi edi. Haqiqiy xavf (bino yoshi, tuzilish turi, zarar tarixi) buzilganda, o'sishning aksariyati endi oqlanmaydi. Narx qonuniy xavf mezonlari asosida qayta tiklandi.
2-holat - kam taqdim etilgan guruh. Sog'liqni saqlash mahsuloti uchun model kichik yosh guruhiga haddan tashqari yuqori mukofot taklif qildi. Sabab: bu guruh ma'lumotlarda shunchalik kam ifodalanganki, bir nechta katta zarar butun guruhni "xavf ostida" ko'rinishga olib keldi. Ekspert ishonchlilikni (statistik ishonchlilik) tuzatishni amalga oshirdi va tavsiyaning ishonchsizligini hujjatlashtirdi; Adolatsiz oshirish qo'llanilmadi.
3-holat - E'tiroz bildirish huquqi. Arizani AI asosidagi ball bilan avtomatik ravishda rad etdi. Mijoz e'tiroz bildirdi. Moslashish jarayonining bir qismi sifatida qaror ekspert tomonidan qayta ko'rib chiqildi; Hisob etishmayotgan ma'lumotlarga asoslangan ko'rinadi (o'tgan zararga mos kelmaydigan). Qarorga tuzatish kiritildi. Inson nazoratisiz va e'tiroz bildirish huquqisiz, adolatsiz rad etish doimiy bo'ladi.
To'rtta nusxa ko'chirish taklifi
1) Proksi va diskriminatsiyani skanerlash:
Adolatlilik uchun quyidagi narxlash/qaror asoslanishini tekshiring: [asoslash]Qdiring: himoyalangan xususiyat (jinsi, kelib chiqishi, eʼtiqodi, sogʻligʻi, yashash hududi) bevosita yoki bilvosita foydalaniladimi (proksi: mahalla, ism, kasb va h.k.)? Har bir shubhali o'zgaruvchi uchun nima uchun u proksi bo'lishi mumkinligini tushuntiring va qonuniy alternativni taklif qiling.
2) asoslashning qonuniyligi testi:
Quyidagi rad etish/yuqori bonus asosini uchta savol bilan sinab ko'ring: [asoslash]1. Tavakkalchilikning haqiqiy va asosli munosabati bormi?2. Himoyalangan mulkka asoslanganmi yoki uning proksimi?3. Buni mijoz va auditorga tushuntirish mumkinmi? Har bir savolga aniq javob bering; Testdan o‘tmagan sababni “RAD ET” deb belgilang.
3) tushuntirish mumkin bo'lgan asos loyihasi:
Quyidagi TASHQIRILANGAN, qonuniy xavf mezonlari asosida mijozga qaror qabul qilishning aniq asosini ishlab chiqing: [qonuniy mezon] Ohang: hurmatli, aniq. Himoyalangan xususiyat/proksi-serverdan foydalanish. Mijozning e'tiroz bildirish va inson tomonidan tekshirilishini talab qilish huquqini bildiring. Bu qoralama; ekspert tasdiqlaydi.
4) Inson nazorati ro'yxati:
Yuqori taʼsirli avtomatlashtirilgan qaror uchun inson auditi roʻyxatini yarating: Qaror turi: [rad etish/yuqori mukofot/garov cheklovi]Roʻyxat: malakali ekspert tekshiruvi, maʼlumotlar tekshirilgan, adolat/proksi-nazorat, asoslash hujjati, mijozning eʼtiroz bildirishnomasi, iz rekordi.
Zaif taklif / Kuchli taklif
Zaif: "Ushbu ma'lumotlar bilan eng foydali narxni aniqlang va asoslashni yozing."
Muammo: adolat, ishonchlilik va tushuntirishga rioya qilinmaydi; model o'tmishdagi kamsitishlarni davom ettirishi va oqlashi mumkin.
Kuchli: "Ushbu asoslanishni proksi va diskriminatsiya uchun tekshiring; himoyalangan xususiyat yoki uning proksi-serveriga tayanadigan nuqtalarni belgilang va qonuniy xavf mezoni bilan almashtiring. Tushuntirish mumkin bo'lgan asosni belgilang."
Nima uchun bu yaxshi: Diskriminatsiya faol sinovdan o'tkaziladi, qaror qonuniy va tushunarli mezonlarga asoslanadi.
taqqoslash jadvali
Mavzu
xavfli yondashuv
to'g'ri yondashuv
Model chiqishi
"Statistika ob'ektivdir"
Adolatni faol sinab ko'ring
O'zgaruvchan tanlov
Har bir ma'lumotdan foydalaning
Proksi-serverlarni chiqarib oling
asoslash
"Model shunday dedi"
Qonuniy, tushuntiriladigan mezon
Yuqori ta'sirli qaror
to'liq avtomatik
Inson nazorati majburiydir
Mijoz huquqi
Xabar berilmagan
E'tiroz + insoniy ko'rib chiqish + asoslash
Umumiy xatolar
- "Statistika ob'ektivdir" himoyasi. O'tgan adolatsizlikni oqlash.
- Proksi-serverga e'tibor bermaslik. Mahalla/nom/kasb asosida bilvosita kamsitish.
- Kam vakillik guruhi uchun ishonchsiz qaror. Kichkina namunadan olingan stavka to'g'ri deb hisoblasak.
- Qora quti qarori. Sababini tushuntirib bo'lmaydigan avtomatik qarorni amalga oshirish.
- E'tiroz bildirish huquqini tan olmaslik. Buyurtmachiga insoniy ko'rib chiqish va asoslash huquqini bermaslik.
Xulosa
Sun'iy intellekt tarixiy ma'lumotlarda diskriminatsiyani o'rganishi va narx va anderraytingda bilvosita (proksi orqali) davom ettirishi mumkin. Adolatni faol ravishda sinab ko'ring: himoyalangan mulklar va ishonchli shaxslarni aniqlang, qonuniylik va tushuntirish uchun asoslashni sinab ko'ring. SEDDK, KVKK va avtomatik qaror qabul qilish tamoyillari; Adolatli narxlash tushuntirishni, odamlar tomonidan ko'rib chiqishni va e'tiroz bildirish huquqini talab qiladi. Yuqori ta'sirli qarorlar qabul qilishda inson nazorati muhim ahamiyatga ega. Muayyan holatda, qonunchilik/muvofiqlik bo'limiga murojaat qiling; Diskriminatsiya - bu qizil chiziq.
Ilova vazifasi
Narxlar modelida qo'llaniladigan 10 ta o'zgaruvchi ro'yxatini yozing (haqiqiy yoki misol). Har biri uchun "bu himoyalangan mulk uchun proksi bo'lishi mumkinmi" degan savolga javob bering; Shubhalilarni belgilang. Keyin №2 qonuniylik testi orqali rad etishni asoslash namunasini qo'ying: u testdan o'tadimi va agar bo'lmasa, uni qanday qilib qonuniy mezon bilan almashtirasiz?
nazorat ro'yxati
- [ ] Men himoyalangan xususiyatlarni aniqladim.
- [ ] Men proksi-server uchun o'zgaruvchilarni skanerladim.
- [ ] Men oqlanishni qonuniylik va tushunarlilik sinoviga qo'yaman.
- [ ] Men kam vakillik guruhlari uchun ishonchlilik tekshiruvlarini o'tkazdim.
- [ ] Men yuqori ta'sirli qarorda inson nazoratini qo'shdim.
- [ ] Men mantiqiy dalillarni hujjatlashtirdim va mijozga e'tiroz bildirish/inson ko'rib chiqish huquqini berdim.
- [ ] Shubha tug‘ilganda men qonunchilik/muvofiqlik bo‘limiga murojaat qildim.