Hagnaður:
- Hæfni til að viðurkenna hættu á mismunun, hlutdrægni og óbeinni mismunun í verðlagningu og sölutryggingum og prófa þær í framleiðslu á gervigreind
- Hæfni til að virða réttinn til skýringar og andmæla innan ramma SEDDK reglugerða, KVKK og sjálfvirkrar ákvarðanatöku
- Hæfni til að beita mannlegri stjórn og réttlætingarskyldum við sjálfvirkar ákvarðanir sem eru í mikilli áhættu
Tryggingar eru fyrirtæki sem hópar og verð áhættu; en þessi flokkun verður að vera sanngjörn. Að veita einstaklingi hærra iðgjald eða neita vernd vegna verndaðra eiginleika eins og kyns, þjóðernis, trúar, búsetusvæðis er ósanngjörn mismunun og er bönnuð. Gervigreind (hugbúnaður sem lærir af sögulegum gögnum og býr til ráðleggingar um verð og ákvarðanir) skapar sérstaka hættu á þessu sviði: hún getur lært ósanngjarnt mynstur í sögulegum gögnum og óafvitandi viðhaldið eða jafnvel falið mismunun. Þar að auki getur það gert þetta ekki beint heldur óbeint (með umboðsbreytu). Í þessari einingu munt þú læra hvernig á að viðurkenna hættuna á hlutdrægni og mismunun í verðlagningu og sölutryggingum, hvernig á að prófa gervigreindarframleiðslan með tilliti til sanngirni og hvernig á að virða réttinn til útskýringar og andmæla innan ramma SEDDK (trygginga- og séreignareftirlits og eftirlitsstofnunar), KVKK og sjálfvirkrar ákvarðanatöku. Þessi eining er ekki lögfræðiráðgjöf; Það útskýrir almennar meginreglur, í hvaða áþreifanlegu tilviki sem er, vertu viss um að hafa samráð við laga-/fylgnisviðið.
Hvaðan koma fordómar og mismunun?
AI hlutdrægni stafar af þremur meginheimildum:
- Gagnahlutdrægni: Líkanið lærir um ósanngirni í sögulegum gögnum. Til dæmis, ef ákveðinn hópur hefur kerfisbundið fengið há iðgjöld áður, heldur líkanið áfram að líta á þetta sem „eðlilegt“.
- Staðgengisbreyta (proxy): Jafnvel þótt líkanið noti ekki beint verndaða eiginleikann (kyn, uppruna) mismunar það óbeint með því að nota breytu sem er sterklega tengd því (hverfi, nafn, verslunarmynstur).
- Hlutdrægni í úrtak: Vegna þess að sumir hópar eru vanfulltrúar í gögnunum framleiðir líkanið óáreiðanlega og ósanngjarna dóma um þá.
Það eru tvenns konar mismunun. Bein mismunun: skýlaus notkun á vernduðum eiginleikum. Óbein mismunun: þegar að því er virðist hlutlaus viðmiðun hefur óhóflega áhrif á tiltekinn hóp. Annað er skaðlegra vegna þess að það gerist án ásetnings og erfitt er að greina það.
Varúð: Vörnin um að „líkanið sé byggt á tölfræði, svo það sé hlutlægt“ er röng. Tölfræði felur einnig í sér fyrri óréttlæti; Fyrirmyndin lögfestir það ekki, heldur viðheldur það. Sanngirni er eitthvað sem þarf að prófa með virkum hætti.
Prófa úttak fyrir sanngirni
Prófaðu gervigreindarframleiðsluna (verðráðleggingar, höfnunarástæða, áhættustig) með þremur spurningum til sanngirni:
- Er ástæðan lögmæt? Byggist ákvörðunin á forsendum sem hafa raunveruleg og réttlætanleg tengsl við áhættuna eða á hinni vernduðu eign eða umboði hennar?
- Er til proxy? Gæti ein af breytunum sem notuð eru (hverfi, nafn, starf, hjúskaparstaða) tengst vernduðum eiginleikum?
- Er hægt að útskýra það? Getur þú útskýrt ákvörðunina fyrir viðskiptavini og endurskoðanda á skýran og forsvaranlegan hátt? „Módelið sagði það“ er ekki fullyrðing.
Standist rökstuðningur ekki þessi þrjú próf er honum hafnað og ákvörðunin byggð á lögmætum forsendum.
Ábending: Prófaðu rökin fyrir höfnun eða háu iðgjaldi með þessari setningu: "Mun ég skammast mín ef ég útskýri þetta fyrir viðskiptavininum og endurskoðanda?" Ekki ætti að nota skammarlega eða óforsvaranlega réttlætingu (hverfi, nafn, uppruna).
Lagaramma: SEDDK, KVKK, sjálfvirk ákvörðun
Notkun gervigreindar í vátryggingum er háð ýmsum reglugerðum. Meginreglur:
- SEDDK meginreglur: Vátryggingastarfsemi ætti að fara fram á sanngjarnan, gagnsæjan og neytendaverndandi hátt; Verðlagning verður að vera réttlætanleg og það má ekki vera ósanngjarn mismunun.
- KVKK: Persónuupplýsingar skulu unnar í samræmi við lög, takmarkaðar við tilganginn og á öruggan hátt. Sérstök gögn, svo sem heilsufar, njóta æðstu verndar.
- Meginreglur sjálfvirkrar ákvarðanatöku: Í ákvörðunum sem byggjast eingöngu á sjálfvirkri vinnslu og hafa veruleg áhrif á einstaklinginn (til dæmis höfnun sem gerð er af gervigreind eingöngu), viðkomandi; Rétturinn til að andmæla ákvörðuninni, krefjast mannlegrar íhlutunar og kynna sér rökin fyrir ákvörðuninni koma til sögunnar.
Þess vegna eru skýringarhæfni, mannleg stjórn og réttlæting nauðsynleg í ákvörðunum sem hafa mikil áhrif. Óréttmæt ákvörðun um „svarta kassa“ líkanið er bæði óviðráðanleg og í andstöðu við þessi réttindi.
Skref fyrir skref: Sanngjörn og samræmd ákvörðun
- Þekkja verndaðar eignir. Kyn, uppruna, trú, heilsa, búsetusvæði o.s.frv.
- Gerðu proxy-skönnun. Settu spurningarmerki við tengsl breytanna sem notaðar eru við verndaða eiginleika.
- Reyndu réttlætinguna á lögmæti. Er raunverulegt samband við áhættu? Er hægt að útskýra það?
- Bættu við mannastjórn. Leyfðu manneskju að endurskoða sjálfvirka niðurstöðu í áhrifamikilli ákvörðun.
- Skráðu rökin. Skráðu hvaða lögmætu forsendur ákvörðunin var byggð á.
- Vita leiðina til að áfrýja. Veita viðskiptavininum andmælarétt, mannlega endurskoðun og rökstuðning.
þrjú smámál
Mál 1 — Synjun umboðs. Verðlíkan húsnæðis lagði til kerfisbundið hátt iðgjald fyrir tiltekið póstnúmer. Sérfræðingur skoðaði: Póstnúmerið skarast við svæði með ákveðinn þjóðernisstyrk; þetta var umboðsbreyta. Þegar raunveruleg áhætta (byggingaraldur, gerð mannvirkja, tjónasaga) er sundurliðuð er meirihluti hækkunarinnar ekki lengur réttlætanleg. Verðið hefur verið endursett á grundvelli lögmætra áhættuviðmiða.
Mál 2 — Hópur sem er vantæmdur. Fyrir heilsuvörur bauð líkanið of hátt iðgjald fyrir lítinn aldurshóp. Ástæða: þessi hópur var svo vantæmdur í gögnunum að nokkrar háar skaðabætur urðu til þess að allur hópurinn virtist "í hættu". Sérfræðingur framkvæmdi trúverðugleika (tölfræðilega áreiðanleika) leiðréttingu og skjalfesti að tilmælin væru óáreiðanleg; Ósanngjörn hækkun var ekki beitt.
Mál 3 — Andmælaréttur. Umsókn var sjálfkrafa hafnað með AI-knúnu skori. Viðskiptavinurinn mótmælti. Sem hluti af aðlögunarferlinu var ákvörðunin endurskoðuð af sérfræðingi; Stigið virtist vera byggt á gögnum sem vantaði (misræmi fyrri skemmdir). Ákvörðunin hefur verið leiðrétt. Án mannaforráða og andmælaréttar væri ósanngjörn höfnun varanleg.
Fjórar afritanlegar leiðbeiningar
1) Umboðs- og mismununarskönnun:
Athugaðu eftirfarandi rökstuðning fyrir verðlagningu/ákvörðun til að tryggja sanngirni: [réttlæting] Leitaðu að: er verndaður eiginleiki (kyn, uppruna, trú, heilsa, búsetusvæði) notaður beint eða óbeint (umboð: hverfi, nafn, starfsgrein o.s.frv.)? Fyrir hverja vafasama breytu, útskýrðu hvers vegna hún gæti verið umboð og leggðu til lögmætan valkost.
2) Réttmætispróf á rökstuðningi:
Prófaðu eftirfarandi afneitun/háan bónus rökstuðning með þremur spurningum: [réttlæting]1. Er raunverulegt og réttlætanlegt samband við áhættu?2. Er hún byggð á vernduðum eignum eða umboði hennar?3. Er hægt að útskýra það fyrir viðskiptavinum og endurskoðanda? Svaraðu hverri spurningu skýrt; Merktu ástæðuna sem stenst ekki prófið sem "HAFNA".
3) Skýranleg rökstuðningsdrög:
Gerðu drög að skýrum rökstuðningi fyrir viðskiptavininn fyrir ákvörðuninni sem byggir á eftirfarandi STÖRFÐUM, lögmætum áhættuviðmiðum: [lögmæt viðmið] Tónn: virðingarfullur, skýr. Nota verndaða eign/umboð. Tilgreina rétt viðskiptavinar til að andmæla og óska eftir mannlegri endurskoðun. Þetta eru drög; sérfræðingur staðfestir.
4) Gátlisti fyrir mannskoðun:
Búðu til gátlista fyrir mannlega endurskoðun fyrir sjálfvirka ákvörðun sem hefur mikil áhrif: Gerð ákvörðunar: [höfnun/hát iðgjald/þvingun trygginga] Listi: yfirferð með hæfum sérfræðingum, gögn yfirfarin, sanngirni/umboðseftirlit, rökstuðningsskjal, áfrýjunartilkynning viðskiptavina, slóðskrá.
Veik kvaðning / Sterk kvaðning
Veik: "Ákvarðu hagkvæmasta verðið með þessum gögnum og skrifaðu rökstuðninginn."
Vandamál: Sanngirni, umboð og skýring er ekki virt; líkanið getur viðhaldið og réttlætt fyrri mismunun.
Strong: "Athugaðu þessa rökstuðning fyrir umboð og mismunun; merktu punkta sem treysta á verndaðan eiginleika eða umboð hans og skiptu út fyrir lögmæta áhættuviðmiðun. Lýstu skýranlegum rökstuðningi."
Hvers vegna það er gott: Mismunun er virkt prófuð, ákvörðunin er byggð á lögmætum og skýranlegum forsendum.
samanburðartöflu
Efni
áhættusöm nálgun
rétt nálgun
Framleiðsla líkans
„Tölfræði er hlutlæg“
Reyndu með virkum hætti réttlæti
Breytilegt úrval
Notaðu öll gögn
Dragðu út umboð
rökstuðning
„Það er það sem fyrirsætan sagði“
Lögmætt, útskýranlegt viðmið
Mikil áhrif ákvörðun
fullsjálfvirkur
Mannlegt eftirlit er skylda
Réttur viðskiptavina
Ekki tilkynnt
Andmæli + mannleg endurskoðun + réttlæting
Algeng mistök
- „Tölfræðin er hlutlæg“ vörnin. Að réttlæta fortíðar óréttlæti.
- Hunsa umboðið. Óbein mismunun eftir hverfi/nafni/starfi.
- Óáreiðanleg ákvörðun fyrir undirfulltrúa hóps. Að því gefnu að hlutfallið sem fæst úr litlu úrtaki sé rétt.
- Ákvörðun um svarta kassann. Framkvæmd sjálfvirkrar ákvörðunar sem ekki er hægt að útskýra ástæðuna fyrir.
- Viðurkenna ekki andmælaréttinn. Að veita viðskiptavinum ekki rétt á mannlegri endurskoðun og rökstuðningi.
Í stuttu máli
Gervigreind getur lært mismunun í sögulegum gögnum og haldið því áfram óbeint (með umboði) í verðlagningu og sölutryggingu. Prófaðu sanngirni á virkan hátt: auðkenndu verndaðar eignir og umboð, prófaðu rökstuðning fyrir lögmæti og útskýranleika. SEDDK, KVKK og sjálfvirkar ákvarðanatökureglur; Sanngjörn verðlagning krefst skýringar, mannlegrar skoðunar og andmælaréttar. Mannlegt eftirlit er nauðsynlegt í ákvörðunum sem hafa mikil áhrif. Í sérstöku tilviki, hafðu samband við laga-/regluvarðadeildina; Mismunun er rauða línan.
Umsóknarverkefni
Skrifaðu lista yfir 10 breytur sem verðlíkan notar (raunverulegt eða dæmi). Svaraðu spurningunni „gæti þetta verið umboð fyrir verndaða eign“ fyrir hvern og einn; Flaggaðu hina grunsamlegu. Settu síðan sýnishorn af höfnun í gegnum lögmætispróf #2: stenst það prófið, og ef ekki, hvernig á að skipta því út fyrir lögmæta viðmiðun?
gátlisti
- [ ] Ég hef tilgreint verndaðar eignir.
- [ ] Ég skannaði breyturnar fyrir proxy.
- [ ] Ég setti réttlætinguna á réttmæti og skýringarhæfileika.
- [ ] Ég gerði áreiðanleikakannanir fyrir vanfulltrúa hópa.
- [ ] Ég bætti við mannastjórn í ákvörðuninni um mikil áhrif.
- [ ] Ég skjalfesti rökstuðninginn og gaf viðskiptavininum andmælarétt/mannskoðun.
- [ ] Þegar ég var í vafa leitaði ég til lögfræði-/regluvarðarins.