Pelnas:
- Gebėjimas atpažinti diskriminacijos, šališkumo ir netiesioginės diskriminacijos rizikas nustatant kainas ir garantavimą ir išbandyti jas dirbtinio intelekto išvestyje
- Gebėjimas laikytis teisės į paaiškinamumą ir prieštaravimą SEDDK reglamentų, KVKK ir automatinio sprendimų priėmimo principų ribose
- Gebėjimas taikyti žmogaus kontrolės ir pagrindimo įsipareigojimus didelės rizikos automatizuotuose sprendimuose
Draudimas – tai verslas, kuris grupuoja ir įkainoja riziką; tačiau ši grupė turi būti sąžininga. Didesnės draudimo įmokos suteikimas arba draudimas asmeniui dėl saugomų savybių, tokių kaip jo lytis, etninė kilmė, įsitikinimai, gyvenamoji vieta, yra nesąžininga diskriminacija ir yra draudžiama. Dirbtinis intelektas (programinė įranga, kuri mokosi iš istorinių duomenų ir generuoja kainų bei sprendimų rekomendacijas) šioje srityje kelia ypatingą pavojų: jis gali išmokti nesąžiningų istorinių duomenų modelių ir nesąmoningai išsaugoti ar net paslėpti diskriminaciją. Be to, tai gali padaryti ne tiesiogiai, o netiesiogiai (per tarpinį kintamąjį). Šiame skyriuje sužinosite, kaip atpažinti šališkumo ir diskriminacijos rizikas nustatant kainodarą ir pasirašant draudimo sutartį, kaip patikrinti dirbtinio intelekto produkcijos teisingumą ir kaip laikytis teisės į paaiškinamumą ir prieštaravimą pagal SEDDK (Draudimo ir privačių pensijų reguliavimo ir priežiūros agentūra), KVKK ir automatinio sprendimų priėmimo principus. Šis skyrius nėra teisinės konsultacijos; Jame paaiškinami bendrieji principai. Bet kokiu konkrečiu atveju būtinai pasikonsultuokite su teisės ir (arba) atitikties skyriumi.
Iš kur atsiranda išankstinis nusistatymas ir diskriminacija?
AI šališkumas kyla iš trijų pagrindinių šaltinių:
- Duomenų šališkumas: modelis sužino apie istorinių duomenų nesąžiningumą. Pavyzdžiui, jei tam tikrai grupei praeityje sistemingai buvo skiriamos didelės įmokos, modelis ir toliau tai laiko „normalu“.
- Pakaitinis kintamasis (proxy): net jei modelis tiesiogiai nenaudoja saugomos funkcijos (lyties, kilmės), jis netiesiogiai diskriminuoja, naudodamas su juo stipriai susijusį kintamąjį (kaimynystė, pavadinimas, apsipirkimo modelis).
- Atrankos šališkumas: kadangi kai kurios grupės yra nepakankamai atstovaujamos duomenyse, modelis pateikia nepatikimus ir neteisingus sprendimus apie jas.
Yra dviejų tipų diskriminacija. Tiesioginė diskriminacija: akivaizdus saugomos savybės naudojimas. Netiesioginė diskriminacija: kai akivaizdžiai neutralus kriterijus neproporcingai veikia tam tikrą grupę. Antrasis yra klastingesnis, nes atsiranda be ketinimo ir jį sunku aptikti.
Atsargiai: Gynimas, kad „modelis pagrįstas statistika, todėl yra objektyvus“, yra klaidingas. Statistika taip pat apima praeities neteisybę; Modelis jo neįteisina, o įamžina. Sąžiningumas yra kažkas, ką reikia aktyviai išbandyti.
Išvesties tikrinimas dėl teisingumo
Išbandykite AI išvestį (kainos rekomendaciją, atmetimo priežastį, rizikos balą) su trimis teisingumo klausimais:
- Ar priežastis teisėta? Ar sprendimas grindžiamas kriterijais, kurie turi realų ir pateisinamą ryšį su rizika, ar saugoma nuosavybe ar jos įgaliotiniu?
- Ar yra tarpinis serveris? Ar vienas iš naudojamų kintamųjų (kaimynystė, vardas, profesija, šeimyninė padėtis) gali būti stipriai susietas su saugoma savybe?
- Ar tai galima paaiškinti? Ar galite aiškiai ir pagrįstai paaiškinti sprendimą klientui ir auditoriui? „Modelis taip pasakė“ nėra pareiškimas.
Jei pateisinimas neatlaiko šių trijų testų, jis atmetamas ir sprendimas grindžiamas teisėtais kriterijais.
Patarimas: patikrinkite atmetimo ar didelės priemokos pagrindimą sakydami: „Ar man bus nepatogu, jei tai paaiškinsiu klientui ir auditoriui? Nereikėtų naudoti gėdingo ar nepateisinamo pagrindimo (kaimynystė, vardas, kilmė).
Teisės aktų bazė: SEDDK, KVKK, automatinis sprendimas
Dirbtinio intelekto naudojimui draudime galioja įvairūs reglamentai. Pagrindiniai principai:
- SEDDK principai: Draudimo veikla turi būti vykdoma sąžiningai, skaidriai ir saugant vartotojus; Kainos turi būti pateisinamos ir neturi būti nesąžiningos diskriminacijos.
- KVKK: Asmens duomenys turi būti tvarkomi laikantis teisės aktų, tik pagal paskirtį ir saugiai. Specialiems duomenims, pavyzdžiui, sveikatai, taikoma didžiausia apsauga.
- Automatizuotų sprendimų priėmimo principai: priimant sprendimus, kurie yra pagrįsti tik automatiniu apdorojimu ir reikšmingai veikia žmogų (pavyzdžiui, atmetimas vien dirbtinio intelekto dėka), asmuo; Iškyla teisė prieštarauti sprendimui, prašyti žmogaus įsikišimo ir sužinoti sprendimo pagrindimą.
Todėl aiškinamumas, žmogaus kontrolė ir pateisinimas yra būtini priimant didelio poveikio sprendimus. Nepagrįstas „juodosios dėžės“ modelio sprendimas yra ir nekontroliuojamas, ir prieštarauja šioms teisėms.
Žingsnis po žingsnio: teisingas ir harmoningas sprendimas
- Nustatykite saugomas savybes. Lytis, kilmė, įsitikinimai, sveikata, gyvenamasis regionas ir kt.
- Atlikite tarpinio serverio nuskaitymą. Apsvarstykite naudojamų kintamųjų ryšį su apsaugotomis savybėmis.
- Išbandykite pateisinimą, ar jis yra teisėtas. Ar yra tikras ryšys su rizika? Ar tai galima paaiškinti?
- Pridėkite žmogaus kontrolę. Leiskite žmogui peržiūrėti automatinį rezultatą, priimdamas didelį poveikį.
- Dokumentuokite pagrindimą. Įrašykite, kokiais teisėtais kriterijais buvo priimtas sprendimas.
- Žinokite, kaip pateikti apeliaciją. Suteikti klientui teisę prieštarauti, žmogaus peržiūrą ir pagrindimą.
trys mini dėklai
1 atvejis – įgaliotinio atmetimas. Būsto kainodaros modelis pasiūlė sistemingai didelę priemoką už tam tikrą pašto kodą. Ekspertas ištyrė: pašto indeksas sutapo su tam tikros etninės koncentracijos vietove; tai buvo tarpinis kintamasis. Išskaidžius tikrąją riziką (pastato amžius, konstrukcijos tipas, pažeidimų istorija), didžioji dalis padidinimo nebepateisinama. Kaina buvo atkurta remiantis teisėtais rizikos kriterijais.
2 atvejis – nepakankamai atstovaujama grupė. Už sveikatos priežiūros produktą modelis pasiūlė pernelyg didelę priemoką mažai amžiaus grupei. Priežastis: ši grupė buvo tiek nepakankamai atstovaujama duomenyse, kad dėl kelių didelių nuostolių visai grupei kilo pavojus. Ekspertas atliko patikimumo (statistinio patikimumo) korekciją ir dokumentais patvirtino, kad rekomendacija nepatikima; Nesąžiningas padidinimas nebuvo pritaikytas.
3 atvejis – teisė prieštarauti. Paraiška buvo automatiškai atmesta su AI varomu balu. Klientas prieštaravo. Adaptacijos proceso metu sprendimą iš naujo išnagrinėjo ekspertas; Atrodė, kad balas buvo pagrįstas trūkstamais duomenimis (neatitinkama praeities žala). Sprendimas pataisytas. Be žmogaus kontrolės ir teisės prieštarauti, nesąžiningas atmetimas būtų nuolatinis.
Keturi nukopijuoti raginimai
1) Tarpinio serverio ir diskriminacijos nuskaitymas:
Patikrinkite šį kainodaros / sprendimo pagrindimą dėl teisingumo: [pagrindimas]Ieškokite: ar saugoma savybė (lytis, kilmė, įsitikinimai, sveikata, gyvenamasis regionas) naudojama tiesiogiai ar netiesiogiai (pagalba: kaimynystė, vardas, profesija ir kt.)? Kiekvienam abejotinam kintamajam paaiškinkite, kodėl tai galėtų būti tarpinis serveris, ir pasiūlykite teisėtą alternatyvą.
2) Pateisinimo teisėtumo testas:
Išbandykite šį neigimo / didelės premijos pagrindimą su trimis klausimais: [pagrindimas]1. Ar egzistuoja tikras ir pateisinamas santykis su rizika?2. Ar jis pagrįstas saugoma nuosavybe ar jos įgaliotiniu?3. Ar tai galima paaiškinti klientui ir auditoriui? Aiškiai atsakykite į kiekvieną klausimą; Priežastį, dėl kurios neišlaikė testo, pažymėkite „ATMESTI“.
3) Paaiškinamas pagrindimo projektas:
Pateikite klientui suformuluotą sprendimo pagrindimą, pagrįstą šiais PATIKRINTAIS, teisėtais rizikos kriterijais: [teisėti kriterijai]Tonas: pagarbus, aiškus. Naudojant apsaugotą nuosavybę / įgaliotąjį serverį. Nurodykite kliento teisę prieštarauti ir reikalauti, kad peržiūra būtų atlikta. Tai juodraštis; ekspertas patvirtina.
4) Žmogaus patikrinimo kontrolinis sąrašas:
Sukurkite žmogaus audito kontrolinį sąrašą, kad priimtumėte didelio poveikio automatizuotą sprendimą: Sprendimo tipas: [atmetimas / didelė priemoka / užstato apribojimas] Sąrašas: kvalifikuoto eksperto peržiūra, tikrinami duomenys, teisingumo / įgaliotojo asmens kontrolė, pagrindimo dokumentas, kliento apeliacijos pranešimas, pėdsakų įrašas.
Silpnas raginimas / Stiprus raginimas
Silpnas: „Nustatykite pelningiausią kainą pagal šiuos duomenis ir parašykite pagrindimą“.
Problema: nesilaikoma sąžiningumo, įgaliojimų ir paaiškinamumo; modelis gali įamžinti ir pateisinti praeities diskriminaciją.
Stiprus: „Patikrinkite šį pagrindimą dėl įgaliotojo ir diskriminacijos; pažymėkite taškus, kurie remiasi saugoma funkcija arba jos įgaliotuoju serveriu, ir pakeiskite teisėtu rizikos kriterijumi. Pateikite paaiškinamą pagrindimą“.
Kodėl tai gerai: Diskriminacija aktyviai tikrinama, sprendimas grindžiamas teisėtais ir paaiškinamais kriterijais.
palyginimo diagrama
Tema
rizikingas požiūris
teisingas požiūris
Modelio išvestis
„Statistika objektyvi“
Aktyviai patikrinkite teisingumą
Kintamasis pasirinkimas
Naudokite visus duomenis
Ištraukite tarpinius serverius
pagrindimas
„Taip pasakė modelis“
Teisėtas, paaiškinamas kriterijus
Didelio poveikio sprendimas
visiškai automatinis
Žmogaus priežiūra yra privaloma
Kliento teisė
Nepranešta
Prieštaravimas + žmogaus peržiūra + pagrindimas
Dažnos klaidos
- „Statistika yra objektyvi“ gynyba. Pateisinti praeities neteisybę.
- Tarpinio serverio ignoravimas. Netiesioginė diskriminacija dėl kaimynystės/vardo/profesijos.
- Nepatikimas sprendimas nepakankamai atstovaujamai grupei. Darant prielaidą, kad iš mažos imties gautas rodiklis yra tikslus.
- Juodosios dėžės sprendimas. Automatinio sprendimo, kurio priežastis negali būti paaiškinta, įgyvendinimas.
- Nepripažinęs teisės prieštarauti. Nesuteikia klientui teisės į žmogaus peržiūrą ir pagrindimą.
Apibendrinant
Dirbtinis intelektas gali išmokti diskriminuoti istorinius duomenis ir tęsti jį netiesiogiai (per įgaliotąjį) nustatant kainodarą ir pasirašant draudimo sutartį. Aktyviai patikrinkite sąžiningumą: nustatykite saugomas savybes ir tarpinius serverius, patikrinkite teisėtumo ir paaiškinamumo pagrindimą. SEDDK, KVKK ir automatinio sprendimų priėmimo principai; Sąžiningai kainodarai reikia paaiškinimo, žmogaus peržiūros ir teisės prieštarauti. Žmogaus kontrolė yra būtina priimant didelio poveikio sprendimus. Konkrečiu atveju pasikonsultuokite su teisės/atitikties skyriumi; Diskriminacija yra raudona linija.
Taikymo užduotis
Parašykite 10 kintamųjų, kuriuos naudoja kainodaros modelis (faktinį arba pavyzdinį), sąrašą. Kiekvienam atsakykite į klausimą „ar tai gali būti saugomos nuosavybės įgaliotinis“; Pažymėkite įtartinus. Tada per 2 teisėtumo testą pateikite atmetimo pagrindimo pavyzdį: ar jis išlaiko testą, o jei ne, kaip jį pakeisti teisėtu kriterijumi?
kontrolinis sąrašas
- [ ] Nurodžiau saugomas savybes.
- [ ] Nuskaitau tarpinio serverio kintamuosius.
- [ ] Aš išbandžiau pagrindimą teisėtumo ir paaiškinamumo.
- [ ] Atlikau nepakankamai atstovaujamų grupių patikimumo patikras.
- [ ] Prie didelio poveikio sprendime pridėjau žmogaus kontrolę.
- [ ] Pateikiau pagrindimą dokumentais ir suteikiau klientui teisę prieštarauti/žmogaus peržiūrą.
- [ ] Kilus abejonėms, kreipiausi į teisės ir (arba) atitikties skyrių.