Ieguvumi:
- Spēja atpazīt diskriminācijas, neobjektivitātes un netiešas diskriminācijas riskus cenu noteikšanā un parakstīšanā un pārbaudīt tos mākslīgā intelekta izlaidē
- Spēja ievērot tiesības uz izskaidrojamību un iebildumiem SEDDK noteikumu, KVKK un automātiskās lēmumu pieņemšanas principu ietvaros
- Spēja piemērot cilvēka kontroles un pamatošanas pienākumus augsta riska automatizētos lēmumos
Apdrošināšana ir bizness, kas grupē un cenu risku; taču šai grupai ir jābūt godīgai. Lielākas prēmijas piešķiršana vai seguma liegšana personai tādu aizsargātu īpašību dēļ kā dzimums, etniskā piederība, pārliecība, dzīvesvietas reģions ir negodīga diskriminācija un ir aizliegta. Mākslīgais intelekts (programmatūra, kas mācās no vēsturiskiem datiem un ģenerē cenu un lēmumu ieteikumus) rada īpašus draudus šajā jomā: tas var apgūt negodīgus vēsturisko datu modeļus un neapzināti iemūžināt vai pat slēpt diskrimināciju. Turklāt tas to var izdarīt nevis tieši, bet netieši (izmantojot starpniekservera mainīgo). Šajā nodaļā jūs uzzināsiet, kā atpazīt neobjektivitātes un diskriminācijas riskus cenu noteikšanā un parakstīšanā, kā pārbaudīt mākslīgā intelekta produkcijas godīgumu, kā arī ievērot tiesības uz izskaidrojamību un iebildumiem SEDDK (Apdrošināšanas un privāto pensiju regulējuma un uzraudzības aģentūra), KVKK un automātiskās lēmumu pieņemšanas principu ietvaros. Šī vienība nav juridiska konsultācija; Tajā ir izskaidroti vispārīgie principi. Jebkurā konkrētā gadījumā noteikti konsultējieties ar juridisko/atbilstības nodaļu.
No kurienes rodas aizspriedumi un diskriminācija?
AI novirze rodas no trim galvenajiem avotiem:
- Datu novirze: modelis uzzina par vēsturisko datu negodīgumu. Piemēram, ja kādai grupai iepriekš sistemātiski tika piešķirtas lielas prēmijas, modelis turpina to uzskatīt par "normālu".
- Aizstājējs mainīgais (starpniekserveris): pat ja modelis tieši neizmanto aizsargāto līdzekli (dzimums, izcelsme), tas netieši diskriminē, izmantojot mainīgo, kas ir cieši saistīts ar to (apkaime, nosaukums, iepirkšanās modelis).
- Izlases neobjektivitāte: tā kā dažas grupas datos ir nepietiekami pārstāvētas, modelis par tām rada neuzticamus un negodīgus spriedumus.
Ir divu veidu diskriminācija. Tieša diskriminācija: aizsargātas pazīmes klaja izmantošana. Netiešā diskriminācija: kad šķietami neitrāls kritērijs nesamērīgi ietekmē noteiktu grupu. Otrais ir mānīgāks, jo tas notiek bez nodoma un ir grūti pamanāms.
Uzmanību: Aizstāvība, ka "modelis ir balstīts uz statistiku, tāpēc tas ir objektīvs", ir nepareizs. Statistika ietver arī pagātnes netaisnību; Modelis to nevis leģitimizē, bet gan iemūžina. Taisnīgums ir kaut kas tāds, kas ir aktīvi jāpārbauda.
Pārbauda rezultātu godīguma labad
Godīguma labad pārbaudiet AI izvadi (cenas ieteikums, noraidīšanas iemesls, riska rādītājs) ar trim jautājumiem:
- Vai iemesls ir likumīgs? Vai lēmums ir balstīts uz kritērijiem, kuriem ir reāla un attaisnojama saistība ar risku, vai uz aizsargājamo īpašumu vai tā pilnvaru?
- Vai ir starpniekserveris? Vai kāds no izmantotajiem mainīgajiem lielumiem (apkaime, vārds, nodarbošanās, ģimenes stāvoklis) varētu būt cieši saistīts ar aizsargājamu pazīmi?
- Vai to var izskaidrot? Vai varat skaidri un attaisnojami izskaidrot lēmumu klientam un auditoram? “Modele tā teica” nav paziņojums.
Ja pamatojums neiztur šos trīs testus, tas tiek noraidīts un lēmums tiek pieņemts, pamatojoties uz likumīgiem kritērijiem.
Padoms: pārbaudiet atteikuma vai augstas prēmijas pamatojumu ar šo teikumu: "Vai es samulsīšu, ja paskaidrošu to klientam un auditoram?" Nedrīkst izmantot apkaunojošu vai neattaisnojamu pamatojumu (apkaime, nosaukums, izcelsme).
Tiesiskais regulējums: SEDDK, KVKK, automātisks lēmums
Mākslīgā intelekta izmantošana apdrošināšanā ir pakļauta dažādiem noteikumiem. Galvenie principi:
- SEDDK principi: apdrošināšanas darbības jāveic godīgi, caurskatāmi un patērētājus aizsargājoši; Cenu noteikšanai ir jābūt pamatotai, un nedrīkst būt negodīgas diskriminācijas.
- KVKK: personas dati ir jāapstrādā saskaņā ar likumu, jāierobežo ar mērķi un ir jāapstrādā droši. Īpaši dati, piemēram, veselība, tiek pakļauti visaugstākajai aizsardzībai.
- Automatizēto lēmumu pieņemšanas principi: lēmumos, kas balstās tikai uz automātisku apstrādi un būtiski ietekmē personu (piemēram, noraidījums, ko veic tikai mākslīgais intelekts), personu; Priekšplānā izvirzās tiesības iebilst pret lēmumu, pieprasīt cilvēka iejaukšanos un uzzināt lēmuma pamatojumu.
Tāpēc izskaidrojamība, cilvēka kontrole un pamatojums ir būtiski svarīgi lēmumos ar lielu ietekmi. “Melnās kastes” modeļa nepamatotais lēmums ir gan nekontrolējams, gan pretrunā ar šīm tiesībām.
Soli pa solim: godīgs un harmonisks lēmums
- Identificējiet aizsargātos īpašumus. Dzimums, izcelsme, pārliecība, veselība, dzīvesvietas reģions utt.
- Veiciet starpniekservera skenēšanu. Apšaubiet izmantoto mainīgo saistību ar aizsargātajām īpašībām.
- Pārbaudi pamatojumu likumības pārbaudē. Vai pastāv reāla saistība ar risku? Vai to var izskaidrot?
- Pievienojiet cilvēka kontroli. Ļaujiet cilvēkam pārskatīt automātisko rezultātu, pieņemot spēcīgu lēmumu.
- Dokumentējiet pamatojumu. Pierakstiet, uz kādiem likumīgiem kritērijiem tika pieņemts lēmums.
- Ziniet veidu, kā iesniegt apelāciju. Nodrošināt klientam tiesības iebilst, cilvēka izskatīšanu un pamatojumu.
trīs mini futrāļi
1. gadījums — starpniekservera noraidīšana. Mājokļu cenu noteikšanas modelis ieteica sistemātiski augstu piemaksu par noteiktu pasta indeksu. Eksperts pārbaudīja: pasta indekss pārklājās ar apgabalu ar noteiktu etnisko koncentrāciju; tas bija starpniekservera mainīgais. Kad faktiskais risks (ēkas vecums, konstrukcijas veids, bojājumu vēsture) ir sadalīts, lielākā daļa pieauguma vairs nav pamatota. Cena ir atjaunota, pamatojoties uz likumīgiem riska kritērijiem.
2. gadījums — nepietiekami pārstāvēta grupa. Par veselības aprūpes produktu modelis piedāvāja pārmērīgi augstu piemaksu mazai vecuma grupai. Iemesls: šī grupa datos bija tik nepietiekami pārstāvēta, ka daži lieli bojājumi lika visai grupai šķist "apdraudēta". Eksperts veica ticamības (statistiskās ticamības) korekciju un dokumentēja, ka ieteikums nav ticams; Netaisnīgs paaugstinājums netika piemērots.
3. gadījums — tiesības iebilst. Pieteikums tika automātiski noraidīts ar AI darbinātu rezultātu. Klients iebilda. Adaptācijas procesa ietvaros lēmumu atkārtoti izskatīja eksperts; Šķiet, ka rezultāts bija balstīts uz trūkstošiem datiem (neatbilstoši pagātnes bojājumi). Lēmums ir labots. Bez cilvēka kontroles un tiesībām iebilst negodīga noraidīšana būtu pastāvīga.
Četras kopējamas uzvednes
1) Starpniekservera un diskriminācijas skenēšana:
Pārbaudiet šādu cenu noteikšanas/lēmuma pamatojumu, lai nodrošinātu taisnīgumu: [pamatojums]Meklējiet: vai aizsargātā īpašība (dzimums, izcelsme, pārliecība, veselība, dzīvesvietas reģions) tiek izmantota tieši vai netieši (pilnvarnieks: apkaime, vārds, profesija utt.)? Katram apšaubāmam mainīgajam izskaidrojiet, kāpēc tas varētu būt aizstājējs, un iesakiet likumīgu alternatīvu.
2) Pamatojuma leģitimitātes pārbaude:
Pārbaudiet šādu atteikuma/augstas piemaksas pamatojumu ar trim jautājumiem: [pamatojums]1. Vai pastāv reāla un attaisnojama saistība ar risku?2. Vai tas ir balstīts uz aizsargājamo īpašumu vai tā pilnvaru?3. Vai to var izskaidrot klientam un auditoram? Skaidri atbildiet uz katru jautājumu; Iemeslu, kas neiztur testu, atzīmējiet ar “ATSAIDĪT”.
3) Izskaidrojams attaisnojuma projekts:
Sagatavojiet klientam formulētu lēmuma pamatojumu, pamatojoties uz šādiem PĀRBAUDĪTIEM, likumīgiem riska kritērijiem: [likumīgi kritēriji]Tonis: cieņpilns, skaidrs. Izmantojot aizsargātu īpašumu/starpniekserveri. Norādiet klienta tiesības iebilst un pieprasīt cilvēka pārskatīšanu. Šis ir melnraksts; eksperts apstiprina.
4) Cilvēku pārbaudes kontrolsaraksts:
Izveidojiet cilvēka audita kontrolsarakstu, lai pieņemtu ļoti iedarbīgu automatizētu lēmumu: lēmuma veids: [noraidīšana/augsta prēmija/nodrošinājuma ierobežojums]Saraksts: kvalificēta eksperta pārbaude, datu pārbaude, godīguma/pilnvaras kontrole, attaisnojuma dokuments, klienta apelācijas paziņojums, pēdu ieraksts.
Vāja uzvedne / spēcīga uzvedne
Vāji: "Nosakiet visrentablāko cenu, izmantojot šos datus, un uzrakstiet pamatojumu."
Problēma: netiek ievērots godīgums, pilnvaras un izskaidrojamība; modelis var iemūžināt un attaisnot pagātnes diskrimināciju.
Strong: "Pārbaudiet šo pamatojumu attiecībā uz starpniecību un diskrimināciju; atzīmējiet punktus, kas paļaujas uz aizsargātu objektu vai tā starpniekserveri, un aizstājiet ar likumīgu riska kritēriju. Norādiet izskaidrojamu pamatojumu."
Kāpēc tas ir labi: diskriminācija tiek aktīvi pārbaudīta, lēmums ir balstīts uz leģitīmiem un izskaidrojamiem kritērijiem.
salīdzināšanas diagramma
Priekšmets
riskanta pieeja
pareizā pieeja
Modeļa izvade
"Statistika ir objektīva"
Aktīvi pārbaudiet taisnīgumu
Mainīga izvēle
Izmantojiet visus datus
Izvilkt starpniekserverus
pamatojumu
"Tā teica modele"
Likumīgs, izskaidrojams kritērijs
Augstas ietekmes lēmums
pilnībā automātiski
Cilvēka uzraudzība ir obligāta
Klienta tiesības
Nav ziņots
Iebildums + cilvēka pārskats + pamatojums
Biežas kļūdas
- "Statistika ir objektīva" aizstāvība. Pagātnes netaisnības attaisnošana.
- Starpniekservera ignorēšana. Netieša diskriminācija apkaimes/vārda/profesijas dēļ.
- Neuzticams lēmums nepietiekami pārstāvētai grupai. Pieņemot, ka no neliela parauga iegūtā likme ir precīza.
- Melnās kastes lēmums. Automātiska lēmuma izpilde, kura iemesls nav izskaidrojams.
- Neatzīstot tiesības iebilst. Nedod klientam tiesības uz cilvēka pārbaudi un pamatojumu.
Rezumējot
Mākslīgais intelekts var iemācīties diskrimināciju vēsturiskajos datos un turpināt to netieši (izmantojot starpniekserveri) cenu noteikšanā un parakstīšanā. Aktīvi pārbaudiet godīgumu: identificējiet aizsargātos īpašumus un starpniekserveri, pārbaudiet leģitimitātes un izskaidrojamības pamatojumu. SEDDK, KVKK un automātiskās lēmumu pieņemšanas principi; Taisnīga cenu noteikšana prasa izskaidrojamību, cilvēka pārraudzību un tiesības iebilst. Cilvēka kontrole ir būtiska lielas ietekmes lēmumos. Konkrētajā gadījumā konsultējieties ar juridisko/atbilstības nodaļu; Diskriminācija ir sarkanā līnija.
Lietojumprogrammas uzdevums
Uzrakstiet sarakstu ar 10 mainīgajiem, ko izmanto cenu noteikšanas modelis (faktiskais vai piemērs). Katram atbildiet uz jautājumu "vai tas varētu būt aizsargājama īpašuma pilnvarnieks"; Atzīmējiet aizdomīgos. Pēc tam ievietojiet noraidīšanas pamatojuma paraugu, izmantojot 2. leģitimitātes testu: vai tas iztur pārbaudi, un, ja nē, kā to aizstāt ar likumīgu kritēriju?
kontrolsaraksts
- [ ] Esmu norādījis aizsargājamos īpašumus.
- [ ] Es skenēju mainīgos starpniekserveri.
- [ ] Es lieku pamatojumu likumības un izskaidrojamības pārbaudei.
- [ ] Es veicu uzticamības pārbaudes nepietiekami pārstāvētām grupām.
- [ ] Lielas ietekmes lēmumā es pievienoju cilvēka kontroli.
- [ ] Es dokumentēju pamatojumu un piešķīru klientam tiesības iebilst/cilvēcisku vērtējumu.
- [ ] Ja radās šaubas, es konsultējos ar juridisko/atbilstības nodaļu.