Õiglus, diskrimineerimine ja seadusandlus: SEDDK, KVKK ja tehisintellekti määrused

Kasu:

• Oskus ära tunda diskrimineerimise, kallutatuse ja kaudse diskrimineerimise riske hinnakujunduses ja kindlustuslepingutes ning testida neid tehisintellekti väljundis
• Oskus järgida õigust seletatavusele ja vastulausele SEDDK määrustiku, KVKK ja automaatse otsustamise põhimõtete raames
• Oskus rakendada inimliku kontrolli ja põhjendamise kohustusi kõrge riskiga automatiseeritud otsuste tegemisel

Kindlustus on äri, mis rühmitab ja hindab riski; kuid see rühmitus peab olema õiglane. Kõrgema kindlustusmakse andmine või kindlustusest keeldumine isiku kaitstud tunnuste tõttu, nagu tema sugu, etniline kuuluvus, veendumused, elukohapiirkond, on ebaõiglane diskrimineerimine ja on keelatud. Tehisintellekt (tarkvara, mis õpib ajaloolistest andmetest ning genereerib hinna- ja otsustussoovitusi) kujutab endast selles valdkonnas erilist ohtu: see võib õppida ajalooandmetes ebaõiglasi mustreid ja tahtmatult diskrimineerimist põlistada või isegi varjata. Lisaks saab ta seda teha mitte otseselt, vaid kaudselt (puhverserveri muutuja kaudu). Selles õppetükis õpitakse tundma hinnakujunduse ja kindlustuslepingute sõlmimise erapoolikuse ja diskrimineerimise riske, tehisintellekti väljundi õigluse kontrollimist ning SEDDK (Kindlustus- ja Erapensioni Regulatsiooni ja Järelevalve Agentuur), KVKK ja automaatsete otsuste tegemise põhimõtete raames järgima õigust seletatavusele ja vastuväidetele. See üksus ei ole juriidiline nõustamisteenus; Selles selgitatakse üldpõhimõtteid. Igal konkreetsel juhul konsulteerige kindlasti õigus-/vastavusüksusega.

Kust tulevad eelarvamused ja diskrimineerimine?

AI eelarvamus tuleneb kolmest peamisest allikast:

• Andmete kallutatus: mudel saab teada ajalooliste andmete ebaõiglusest. Näiteks kui teatud rühmale on varem süstemaatiliselt kõrgeid kindlustusmakseid makstud, peab mudel seda jätkuvalt "normaalseks".
• Asendusmuutuja (puhverserver): isegi kui mudel ei kasuta otseselt kaitstud tunnust (sugu, päritolu), diskrimineerib see kaudselt, kasutades muutujat, mis on sellega tugevalt seotud (naabruskond, nimi, ostumuster).
• Valimi eelarvamus: kuna mõned rühmad on andmetes alaesindatud, annab mudel nende kohta ebausaldusväärseid ja ebaõiglasi hinnanguid.

Diskrimineerimist on kahte tüüpi. Otsene diskrimineerimine: kaitstud tunnuse jultunud kasutamine. Kaudne diskrimineerimine: kui näiliselt neutraalne kriteerium mõjutab teatud rühma ebaproportsionaalselt. Teine on salakavalam, kuna see tekib tahtmatult ja seda on raske tuvastada.

Ettevaatust: kaitse, et "mudel põhineb statistikal, seega on see objektiivne", on vale. Statistika hõlmab ka mineviku ebaõiglust; Mudel ei legitimeeri seda, vaid põlistab seda. Õiglus on midagi, mida tuleb aktiivselt testida.

Väljundi testimine õigluse tagamiseks

Testige tehisintellekti väljundit (hinnasoovitus, tagasilükkamise põhjus, riskiskoor) õigluse huvides kolme küsimusega:

1. Kas põhjus on õigustatud? Kas otsus põhineb kriteeriumidel, millel on reaalne ja õigustatud seos riskiga, või kaitstaval varal või selle volikirjal?
2. Kas puhverserver on olemas? Kas üks kasutatavatest muutujatest (naabruskond, nimi, amet, perekonnaseis) võib olla tugevalt seotud kaitstud tunnusega?
3. Kas seda saab seletada? Kas saate oma otsust kliendile ja audiitorile selgelt ja kaitstavalt selgitada? "Modell ütles nii" ei ole väide.

Kui põhjendus neid kolme testi ei läbi, lükatakse see tagasi ja otsus tehakse legitiimsetel kriteeriumidel.

Näpunäide. Testige tagasilükkamise või kõrge lisatasu põhjendust selle lausega: "Kas mul on piinlik, kui ma seda kliendile ja audiitorile selgitan?" Ei tohiks kasutada häbiväärset või kaitsmatut põhjendust (naabruskond, nimi, päritolu).

Seadusandlik raamistik: SEDDK, KVKK, automaatne otsus

Tehisintellekti kasutamine kindlustuses allub erinevatele regulatsioonidele. Peamised põhimõtted:

• SEDDK põhimõtted: kindlustustegevus peaks toimuma õiglasel, läbipaistval ja tarbijat kaitsval viisil; Hinnakujundus peab olema põhjendatud ja seal ei tohi esineda ebaõiglast diskrimineerimist.
• KVKK: Isikuandmeid tuleb töödelda vastavalt seadusele, eesmärgiga piiratud ja turvaliselt. Eriandmed, nagu tervis, kuuluvad kõrgeima kaitse alla.
• Automatiseeritud otsustuspõhimõtted: Otsustes, mis põhinevad üksnes automaatsel töötlemisel ja mõjutavad oluliselt inimest (näiteks ainuüksi tehisintellekti poolt tehtud tagasilükkamine), isik; Esiplaanile tõusevad õigus otsusele vastu vaielda, taotleda inimese sekkumist ja saada teada otsuse põhjendus.

Seetõttu on suure mõjuga otsuste puhul oluline seletatavus, inimlik kontroll ja põhjendatus. „Musta kasti“ mudeli põhjendamatu otsus on nii kontrollimatu kui ka vastuolus nende õigustega.

Samm-sammult: õiglane ja harmooniline otsus

1. Tuvastage kaitstud omadused. Sugu, päritolu, veendumused, tervis, elukoht jne.
2. Tehke puhverserveri skaneerimine. Küsige kasutatavate muutujate seost kaitstud omadustega.
3. Pane põhjendamine legitiimsuse proovile. Kas riskiga on tõeline seos? Kas seda saab seletada?
4. Lisage inimkontroll. Laske inimesel mõjuva otsuse tegemisel automaatne tulemus üle vaadata.
5. Dokumenteerige põhjendus. Pange kirja, millistel õiguspärastel kriteeriumidel otsus põhines.
6. Tea, kuidas edasi kaevata. Anda kliendile vastuväidete esitamise õigus, inimlik ülevaade ja põhjendus.

kolm minikarpi

Juhtum 1 – puhverserveri tagasilükkamine. Eluaseme hinnamudel soovitas teatud sihtnumbri puhul süstemaatiliselt kõrget lisatasu. Ekspert uuris: sihtnumber kattus teatud etnilise kontsentratsiooniga piirkonnaga; see oli puhverserveri muutuja. Tegeliku riski (hoone vanus, ehitise tüüp, kahjustuste ajalugu) jaotamisel ei ole suurem osa suurenemisest enam põhjendatud. Hind on taastatud seaduslike riskikriteeriumide alusel.

Juhtum 2 – alaesindatud rühm. Tervishoiutoote puhul pakkus mudel väikesele vanuserühmale liiga kõrget lisatasu. Põhjus: see rühm oli andmetes nii alaesindatud, et mõned suured kahjud muutsid kogu rühma "riskis". Ekspert tegi usaldusväärsuse (statistilise usaldusväärsuse) paranduse ja dokumenteeris, et soovitus ei olnud usaldusväärne; Ebaõiglast tõstmist ei kohaldatud.

Juhtum 3 – õigus esitada vastuväiteid. Taotlus lükati automaatselt tagasi AI-toega skooriga. Klient vaidles vastu. Kohanemisprotsessi raames vaatas ekspert otsuse uuesti läbi; Näis, et skoor põhines puuduvatel andmetel (mittevastav minevikukahjustus). Otsus on parandatud. Ilma inimliku kontrolli ja vastuväiteõiguseta oleks ebaõiglane tagasilükkamine püsiv.

Neli kopeeritavat viipa

1) Puhverserveri ja diskrimineerimise skaneerimine:

Kontrollige õigluse huvides järgmist hinnakujunduse/otsuse põhjendust: [põhjendus]Otsige: kas kaitstud omadust (sugu, päritolu, veendumused, tervis, elukoht) kasutatakse otseselt või kaudselt (puhver: naabruskond, nimi, elukutse jne)? Iga küsitava muutuja puhul selgitage, miks see võiks olla puhverserver, ja pakkuge välja seaduslik alternatiiv.

2) Põhjenduse legitiimsuse test:

Testige järgmist keeldumise/suure boonuse põhjendust kolme küsimusega: [põhjendus]1. Kas riskiga on reaalne ja õigustatud seos?2. Kas see põhineb kaitstud varal või selle volikirjal?3. Kas seda saab kliendile ja audiitorile selgitada? Vastake igale küsimusele selgelt; Märkige põhjus, miks testi ei läbinud, märkega "REJECT".

3) Selgitav põhjendus:

Koostage kliendile sõnastatud põhjendus otsuse tegemiseks, mis põhineb järgmistel KONTROLLITUD, õigustatud riskikriteeriumidel: [õigustatud kriteeriumid]Toon: lugupidav, selge. Kaitstud vara/puhverserveri kasutamine. Märkige kliendi õigus esitada vastuväiteid ja taotleda inimesepoolset ülevaatamist. See on mustand; kinnitab ekspert.

4) Inimkontrolli kontrollnimekiri:

Looge suure mõjuga automatiseeritud otsuse jaoks inimeste auditi kontroll-loend: otsuse tüüp: [tagalükkamine / kõrge lisatasu / tagatispiirang] Loend: kvalifitseeritud eksperdi läbivaatamine, andmete kontrollimine, õiglus/puhverserveri kontroll, õigustusdokument, kliendi apellatsiooniteatis, jälg.

Nõrk viip / Tugev viip

Nõrk: "Määrake nende andmete põhjal kõige kasumlikum hind ja kirjutage põhjendus."

Probleem: ausust, volitust ja seletatavust ei austata; mudel võib põlistada ja õigustada varasemat diskrimineerimist.

Tugev: "Kontrollige seda volikirja ja diskrimineerimise põhjendust; kaitstud funktsioonile või selle puhverserverile tuginevad lipupunktid ja asendage seadusliku riskikriteeriumiga. Tooge välja selgitatav põhjendus."

Miks see on hea: diskrimineerimist testitakse aktiivselt, otsus tehakse legitiimsetel ja seletatavatel kriteeriumidel.

võrdlustabel

Teema

riskantne lähenemine

õige lähenemine

Mudeli väljund

"Statistika on objektiivne"

Testige aktiivselt õiglust

Muutuv valik

Kasutage kõiki andmeid

Väljavõte puhverserverid

põhjendus

"Nii ütles modell"

Õiguspärane, seletatav kriteerium

Suure mõjuga otsus

täisautomaatne

Inimese järelevalve on kohustuslik

Kliendi õigus

Ei teatatud

Vastuväide + inimlik ülevaade + põhjendus

Levinud vead

• "Statistika on objektiivne" kaitse. Mineviku ebaõigluse õigustamine.
• Puhverserveri ignoreerimine. Kaudne diskrimineerimine naabruskonna/nime/ameti alusel.
• Ebausaldusväärne otsus alaesindatud rühma jaoks. Eeldusel, et väikesest valimist saadud määr on täpne.
• Musta kasti otsus. Automaatse otsuse rakendamine, mille põhjust ei ole võimalik selgitada.
• Vastuväidete esitamise õigust mitte tunnustamine. Ei anna kliendile õigust inimlikule ülevaatamisele ja põhjendusele.

Kokkuvõttes

Tehisintellekt võib õppida diskrimineerimist ajaloolistes andmetes ja jätkata seda kaudselt (puhverserveri kaudu) hinnakujunduses ja kindlustuslepingutes. Testige aktiivselt õiglust: tuvastage kaitstud omadused ja puhverserverid, testige õiguspärasust ja seletatavust. SEDDK, KVKK ja automaatse otsustamise põhimõtted; Õiglane hinnakujundus nõuab selgitatavust, inimlikku ülevaatust ja õigust esitada vastuväiteid. Inimkontroll on suure mõjuga otsuste puhul hädavajalik. Konkreetsel juhul konsulteerige juriidilise/vastavusosakonnaga; Diskrimineerimine on punane joon.

Rakenduse ülesanne

Kirjutage loend 10 muutujast, mida hinnamudel kasutab (tegelik või näide). Igaühe puhul vastake küsimusele "kas see võib olla kaitstud vara proksiks"; Märgistage kahtlased. Seejärel sisestage tagasilükkamise põhjendus läbi legitiimsuse testi nr 2: kas see läbib testi ja kui ei, siis kuidas asendada see legitiimse kriteeriumiga?

kontrollnimekiri

• [ ] Olen määranud kaitstud omadused.
• [ ] Skaneerisin muutujaid puhverserveri jaoks.
• [ ] Panin põhjendamise legitiimsuse ja seletatavuse proovile.
• [ ] Viisin läbi alaesindatud rühmade usaldusväärsuse kontrolli.
• [ ] Lisasin suure mõjuga otsusesse inimliku kontrolli.
• [ ] Dokumenteerisin põhjenduse ja andsin kliendile õiguse esitada vastuväiteid/inimlikku hinnangut.
• [ ] Kahtluse korral konsulteerisin juriidilise/vastavusosakonnaga.