Oikeus, syrjintä ja lainsäädäntö: SEDDK, KVKK ja tekoälysäännöt

Voitot:

• Kyky tunnistaa syrjinnän, puolueellisuuden ja epäsuoran syrjinnän riskit hinnoittelussa ja vakuutussopimuksissa ja testata niitä tekoälyn tuotannossa
• Kyky noudattaa selitettävyyttä ja vastaväiteoikeutta SEDDK:n säännösten, KVKK:n ja automaattisen päätöksenteon periaatteiden puitteissa
• Kyky soveltaa ihmisen valvonta- ja perusteluvelvoitteita riskialttiissa automatisoiduissa päätöksissä

Vakuutus on liiketoimintaa, joka ryhmittelee ja hinnoittelee riskin; mutta tämän ryhmittelyn on oltava oikeudenmukainen. Korkeamman vakuutusmaksun myöntäminen tai vakuutusturvan epääminen henkilöltä suojeltujen ominaisuuksien, kuten sukupuolen, etnisen taustan, vakaumuksen tai asuinalueen, vuoksi on epäreilua syrjintää ja on kiellettyä. Tekoäly (ohjelmisto, joka oppii historiallisista tiedoista ja tuottaa hinta- ja päätössuosituksia) muodostaa erityisen vaaran tällä alueella: se voi oppia historiallisten tietojen epäreiluja malleja ja tahattomasti säilyttää tai jopa piilottaa syrjinnän. Lisäksi se ei voi tehdä tätä suoraan vaan epäsuorasti (välityspalvelinmuuttujan kautta). Tässä osiossa opit tunnistamaan harha- ja syrjintäriskit hinnoittelussa ja vakuutusliikkeessä, testaamaan tekoälyn tuotosta oikeudenmukaisuuden varalta sekä noudattamaan oikeutta selitettävyyteen ja vastalauseeseen SEDDK:n (Vakuutus- ja eläkevalvontavirasto), KVKK:n ja automaattisen päätöksenteon periaatteiden puitteissa. Tämä yksikkö ei ole oikeudellinen neuvonta; Siinä selitetään yleiset periaatteet, kaikissa konkreettisissa tapauksissa, muista ottaa yhteyttä laki-/vaatimustenmukaisuusyksikköön.

Mistä ennakkoluulot ja syrjintä tulevat?

AI-harha johtuu kolmesta päälähteestä:

• Tietojen harha: Malli oppii historiallisten tietojen epäoikeudenmukaisuudesta. Esimerkiksi jos tietylle ryhmälle on järjestelmällisesti maksettu korkeita vakuutusmaksuja aiemmin, malli pitää tätä edelleen "normaalina".
• Korvausmuuttuja (proxy): Vaikka malli ei suoraan käytä suojattua ominaisuutta (sukupuoli, alkuperä), se syrjii epäsuorasti käyttämällä muuttujaa, joka liittyy siihen vahvasti (naapurusto, nimi, ostosmalli).
• Otantaharha: Koska jotkin ryhmät ovat aliedustettuina tiedoissa, malli tuottaa niistä epäluotettavia ja epäoikeudenmukaisia ​​arvioita.

Syrjintää on kahdenlaisia. Suora syrjintä: suojatun ominaisuuden räikeä käyttö. Välillinen syrjintä: kun näennäisesti neutraali kriteeri vaikuttaa suhteettomasti tiettyyn ryhmään. Toinen on salakavalampi, koska se tapahtuu tahattomasti ja sitä on vaikea havaita.

Varoitus: Puolustus, jonka mukaan "malli perustuu tilastoihin, joten se on objektiivinen", on väärä. Tilastot sisältävät myös menneen epäoikeudenmukaisuuden; Malli ei legitimoi sitä, se jatkaa sitä. Oikeudenmukaisuus on asia, jota on testattava aktiivisesti.

Testataan tulosten oikeudenmukaisuutta

Testaa tekoälytulosta (hintasuositus, hylkäämisen syy, riskipisteet) kolmella kysymyksellä oikeudenmukaisuuden vuoksi:

1. Onko syy laillinen? Perustuuko päätös kriteereihin, joilla on todellinen ja perusteltu suhde riskiin, vai suojattavaan omaisuuteen tai sen valtakirjaan?
2. Onko välityspalvelinta? Voisiko jokin käytetyistä muuttujista (naapurusto, nimi, ammatti, siviilisääty) liittyä vahvasti suojattuun ominaisuuteen?
3. Voiko sen selittää? Voitko selittää päätöksen asiakkaalle ja tilintarkastajalle selkeästi ja puolustettavasti? "Malli sanoi niin" ei ole lausunto.

Jos perustelu ei läpäise näitä kolmea testiä, se hylätään ja päätös perustuu laillisiin kriteereihin.

Vinkki: Testaa hylkäämisen tai korkean palkkion perusteita tällä lauseella: "Nolotunko, jos selitän tämän asiakkaalle ja tilintarkastajalle?" Häpeällistä tai kestämätöntä perustetta (naapuruus, nimi, alkuperä) ei pidä käyttää.

Lainsäädäntökehys: SEDDK, KVKK, automaattinen päätös

Tekoälyn käyttöön vakuutuksissa on erilaisia säännöksiä. Pääperiaatteet:

• SEDDK:n periaatteet: Vakuutustoimintaa on harjoitettava oikeudenmukaisella, avoimella ja kuluttajaa suojelevalla tavalla. Hinnoittelun on oltava perusteltua, eikä siinä saa esiintyä epäreilua syrjintää.
• KVKK: Henkilötietoja tulee käsitellä lain mukaisesti, tarkoitukseen rajoitettuna ja turvallisesti. Erityistiedot, kuten terveys, ovat korkeimman suojan alaisia.
• Automaattisen päätöksenteon periaatteet: Pelkästään automaattiseen käsittelyyn perustuvissa ja henkilöön merkittävästi vaikuttavissa päätöksissä (esim. pelkän tekoälyn tekemä hylkäys) henkilö; Oikeus vastustaa päätöstä, pyytää ihmisen väliintuloa ja saada selville päätöksen perustelut tulevat etusijalle.

Siksi selitettävyys, inhimillinen hallinta ja perustelut ovat olennaisia ​​vaikuttavissa päätöksissä. "Mustan laatikon" mallin perusteeton päätös on sekä hallitsematon että ristiriidassa näiden oikeuksien kanssa.

Askel askeleelta: oikeudenmukainen ja harmoninen päätös

1. Tunnista suojatut ominaisuudet. Sukupuoli, alkuperä, vakaumus, terveys, asuinalue jne.
2. Tee välityspalvelinskannaus. Kyseenalaista käytettyjen muuttujien suhde suojattuihin ominaisuuksiin.
3. Laita perustelu legitiimiyden koetukselle. Onko olemassa todellinen suhde riskiin? Voiko sen selittää?
4. Lisää ihmisen hallinta. Anna ihmisen tarkistaa automaattinen tulos vaikuttavan päätöksen tekemiseksi.
5. Dokumentoi perustelut. Kirjaa ylös, mihin laillisiin kriteereihin päätös perustui.
6. Tiedä tapa valittaa. Tarjoa asiakkaalle oikeus vastustaa, ihmisen tarkastelu ja perustelut.

kolme minilaukkua

Tapaus 1 – Välityspalvelimen hylkääminen. Asuntojen hinnoittelumalli ehdotti järjestelmällisesti korkeaa palkkiota tietystä postinumerosta. Asiantuntija tutki: postinumero oli päällekkäin tietyn etnisen keskittymän alueen kanssa; tämä oli välityspalvelinmuuttuja. Kun todellinen riski (rakennuksen ikä, rakennetyyppi, vauriohistoria) puretaan, suurin osa lisäyksestä ei ole enää perusteltua. Hinta on palautettu laillisten riskikriteerien perusteella.

Tapaus 2 – Aliedustettu ryhmä. Terveydenhuollon tuotteelle malli tarjosi liian korkean palkkion pienelle ikäryhmälle. Syy: tämä ryhmä oli niin aliedustettu tiedoissa, että muutama suuri vahinko sai koko ryhmän näyttämään "riskiltä". Asiantuntija teki uskottavuuden (tilastollisen luotettavuuden) korjauksen ja dokumentoi, että suositus oli epäluotettava; Epäreilua korotusta ei sovellettu.

Tapaus 3 – Oikeus vastustaa. Hakemus hylättiin automaattisesti tekoälypohjaisella pisteellä. Asiakas vastusti. Osana sopeutumisprosessia asiantuntija käsitteli päätöksen uudelleen; Pisteet näyttivät perustuvan puuttuviin tietoihin (epävastaava aiempi vahinko). Päätös on korjattu. Ilman ihmisen valvontaa ja oikeutta vastustaa epäoikeudenmukainen hylkääminen olisi pysyvää.

Neljä kopioitavaa kehotetta

1) Välityspalvelimen ja syrjinnän skannaus:

Tarkista seuraavat hinnoittelun/päätöksen perustelut oikeudenmukaisuuden vuoksi: [perustelu]Etsi: käytetäänkö suojattua ominaisuutta (sukupuoli, alkuperä, vakaumus, terveys, asuinalue) suoraan vai epäsuorasti (valtuutettu: asuinalue, nimi, ammatti jne.)? Selitä jokaiselle kyseenalaiselle muuttujalle, miksi se voisi olla välityspalvelin, ja ehdota oikeutettua vaihtoehtoa.

2) Perustelujen legitimiteettitesti:

Testaa seuraavaa kieltämisen/korkean bonuksen perusteita kolmella kysymyksellä: [perustelu]1. Onko olemassa todellinen ja perusteltu suhde riskiin?2. Perustuuko se suojattuun omaisuuteen tai sen valtakirjaan?3. Voiko asia selittää asiakkaalle ja tilintarkastajalle? Vastaa jokaiseen kysymykseen selkeästi; Merkitse syy, joka ei läpäise koetta, "HYLKÄÄ".

3) Selitettävä perusteluluonnos:

Laadi asiakkaalle selkeä perustelu päätökselle, joka perustuu seuraaviin VAHVISTETTUihin, oikeutettuihin riskikriteereihin: [lailliset kriteerit]Sävy: kunnioittava, selkeä. Suojatun omaisuuden/välityspalvelimen käyttö. Ilmoita asiakkaan oikeus vastustaa ja pyytää ihmisen tarkastusta. Tämä on luonnos; asiantuntija vahvistaa.

4) Ihmisten tarkastuksen tarkistuslista:

Luo ihmisen tarkastuksen tarkistuslista vaikuttavaa automatisoitua päätöstä varten: Päätöksen tyyppi: [hylkääminen/korkea palkkio/vakuusrajoitus]Luettelo: pätevä asiantuntija-arviointi, tietojen tarkistus, oikeudenmukaisuus/välityspalvelin, perusteluasiakirja, asiakkaan valitusilmoitus, jälkitietue.

Heikko kehote / Vahva kehote

Heikko: "Määritä näiden tietojen avulla kannattavin hinta ja kirjoita perustelut."

Ongelma: Oikeudenmukaisuutta, valtakirjaa ja selitettävyyttä ei kunnioiteta; malli voi säilyttää ja oikeuttaa menneen syrjinnän.

Vahva: "Tarkista tämä perustelu välityspalvelimen ja syrjinnän varalta; lippupisteet, jotka perustuvat suojattuun ominaisuuteen tai sen välityspalvelimeen, ja korvaa ne laillisilla riskikriteereillä. Esitä selittävä perustelu."

Miksi se on hyvä: Syrjintää testataan aktiivisesti, päätös perustuu oikeutettuihin ja selitettäviin kriteereihin.

vertailukaavio

Aihe

riskialtista lähestymistapaa

oikea lähestymistapa

Mallin lähtö

"Tilastot ovat objektiivisia"

Testaa oikeudenmukaisuutta aktiivisesti

Vaihteleva valinta

Käytä kaikkia tietoja

Pura välityspalvelimet

perustelut

"Niin malli sanoi"

Laillinen, selitettävissä oleva kriteeri

Vaikuttava päätös

täysin automaattinen

Ihmisen valvonta on pakollista

Asiakkaan oikeus

Ei raportoitu

Vastalause + ihmisen arvostelu + perustelu

Yleisiä virheitä

• "Tilastot ovat objektiivisia" puolustus. Menneen epäoikeudenmukaisuuden oikeuttaminen.
• Välityspalvelimen huomioiminen. Epäsuora syrjintä asuinalueen/nimen/ammatin perusteella.
• Epäluotettava päätös aliedustetulle ryhmälle. Olettaen, että pienestä näytteestä saatu nopeus on tarkka.
• Mustan laatikon päätös. Automaattisen päätöksen täytäntöönpano, jonka syytä ei voida selittää.
• Ei tunnusta oikeutta vastustaa. Asiakkaalle ei anneta oikeutta inhimilliseen tarkasteluun ja perusteluihin.

Yhteenvetona

Tekoäly voi oppia syrjinnän historiallisissa tiedoissa ja jatkaa sitä epäsuorasti (välityspalvelimen kautta) hinnoittelussa ja merkintäsitoumuksissa. Testaa oikeudenmukaisuutta aktiivisesti: tunnista suojatut omaisuudet ja välityspalvelimet, testaa laillisuuden ja selitettävyyden perusteluja. SEDDK, KVKK ja automaattisen päätöksenteon periaatteet; Kohtuullinen hinnoittelu edellyttää selitettävyyttä, inhimillistä arviointia ja oikeutta vastustaa. Inhimillinen hallinta on olennaista suurivaikutteisissa päätöksissä. Ota erityistapauksessa yhteyttä laki-/säännöstenmukaisuusosastoon. Syrjintä on punainen viiva.

Sovellustehtävä

Kirjoita luettelo 10 muuttujasta, joita hinnoittelumalli käyttää (todellinen tai esimerkki). Vastaa jokaisen kohdalla kysymykseen "voisiko tämä olla suojatun omaisuuden välityspalvelin"; Ilmoita epäilyttävät. Laita sitten näyte hylkäämisen perusteluista legitiimiystestillä #2: läpäiseekö se testin, ja jos ei, kuinka korvaat sen oikeutetulla kriteerillä?

tarkistuslista

• [ ] Olen määrittänyt suojattuja ominaisuuksia.
• [ ] Tarkastin muuttujat välityspalvelimen varalta.
• [ ] Laitoin perustelun legitiimiyden ja selitettävyyden testiin.
• [ ] Tein luotettavuustarkistuksia aliedustetuille ryhmille.
• [ ] Lisäsin inhimillisen hallinnan suuren vaikutuksen päätökseen.
• [ ] Dokumentoin perustelut ja annoin asiakkaalle oikeuden vastustaa/inhimillinen arviointi.
• [ ] Epäselvissä tapauksissa otin yhteyttä laki-/säännöstenmukaisuusosastoon.