Girdeji:
- Bahalandyryşda we ýazuwda diskriminasiýa, ikitaraplaýyn we gytaklaýyn diskriminasiýa töwekgelçiligini tanamak we emeli intellektiň önümçiliginde synag etmek
- SEDDK düzgünleriniň, KVKK we awtomatiki karar bermek ýörelgeleriniň çäginde düşündiriş we garşy çykmak hukugyny berjaý etmek ukyby;
- Riskokary töwekgelçilikli awtomatlaşdyrylan kararlarda adam gözegçiligi we esaslandyryş borçnamalaryny ulanmak ukyby
Insurancetiýaçlandyryş, toparlara we bahalara töwekgelçilik edýän iş; emma bu toparlaşdyrmak adalatly bolmaly. Jynsy, milleti, ynanjy, ýaşaýan ýeri ýaly goralýan aýratynlyklar sebäpli adama has ýokary baýrak bermek ýa-da habar berilmegini inkär etmek adalatsyz diskriminasiýa we gadagan. Emeli intellekt (taryhy maglumatlardan öwrenýän we baha we karar tekliplerini döredýän programma üpjünçiligi) bu ugurda belli bir howp döredýär: taryhy maglumatlarda adalatsyz nagyşlary öwrenip biler we bilgeşleýin diskriminasiýany dowam etdirer ýa-da gizläp biler. Mundan başga-da, muny göni däl-de, gytaklaýyn (proksi üýtgeýjiniň üsti bilen) edip biler. Bu bölümde bahalarda we ýazuwda ikitaraplaýyn we diskriminasiýa töwekgelçiligini nädip tanamalydygyny, emeli intellektiň çykarylyşyny adalatlylyk üçin nädip barlamalydygyny we SEDDK (ätiýaçlandyryş we hususy pensiýa düzgünleşdiriş we gözegçilik gullugy), KVKK we awtomatiki karar bermek ýörelgeleriniň çäginde düşündiriş we garşy çykmak hukugyny nädip berjaý etmelidigini öwrenersiňiz. Bu bölüm kanuny maslahat däl; Umumy ýörelgeleri düşündirýär, islendik anyk ýagdaýda kanuny / laýyklyk bölümine ýüz tutuň.
Saýlaw we diskriminasiýa nireden gelýär?
AI ikitaraplaýynlygy üç esasy çeşmeden ýüze çykýar:
- Maglumatlaryň ikitaraplaýynlygy: Model taryhy maglumatlardaky adalatsyzlygy öwrenýär. Mysal üçin, öň belli bir topara yzygiderli ýokary baýraklar berlen bolsa, model muny "adaty" hasaplamagy dowam etdirýär.
- Surrogate üýtgeýjisi (proksi): Model goralýan aýratynlygy (jyns, gelip çykyş) gönüden-göni ulanmasa-da, özüne berk baglanyşykly üýtgeýjini (goňşy, ady, söwda görnüşi) ulanyp gytaklaýyn tapawutlandyrýar.
- Nusga almagyň tarapdary: Käbir toparlaryň maglumatlarda az görkezilýändigi sebäpli, model olar hakda ygtybarly we adalatsyz höküm çykarýar.
Diskriminasiýanyň iki görnüşi bar. Göni diskriminasiýa: goralýan häsiýeti aç-açan ulanmak. Gytaklaýyn diskriminasiýa: belli bir topara laýyk gelmeýän bitarap ölçeg. Ikinjisi has mekir, sebäbi niýetsiz ýüze çykýar we tapmak kyn.
Üns beriň: "Model statistika esaslanýar, şonuň üçin obýektiw" diýen gorag nädogry. Statistika geçmişdäki adalatsyzlygy hem öz içine alýar; Model muny kanunlaşdyrmaýar, dowam etdirýär. Adalatlylyk, işjeň synagdan geçirilmeli bir zat.
Adalat üçin synag synag
AI çykyşyny (bahany maslahat bermek, ret etmegiň sebäbi, töwekgelçilik baly) adalatlylyk üçin üç sorag bilen synap görüň:
- Munuň sebäbi kanunymy? Karar töwekgelçilik bilen hakyky we esasly gatnaşygy bolan kriteriýalara esaslanýarmy ýa-da goralýan emläk ýa-da onuň wekili?
- Proksi barmy? Ulanylýan üýtgeýänleriň biri (goňşy, ady, hünäri, maşgala ýagdaýy) goralýan häsiýet bilen berk baglanyşykly bolup bilermi?
- Düşündirip bolarmy? Karary müşderä we auditora aýdyň we goragly düşündirip bilersiňizmi? "Model şeýle diýdi" jümle däl.
Bir delil bu üç synagdan geçmese, ret edilýär we karar kanuny ölçeglere esaslanýar.
Maslahat: ret etmek ýa-da ýokary baha bermek üçin esaslary şu sözlem bilen synap görüň: "Muny müşderä we auditora düşündirsem utanarynmy?" Utandyryjy ýa-da üýtgewsiz delil (töwerek, ady, gelip çykyşy) ulanylmaly däldir.
Kanunçylyk binýady: SEDDK, KVKK, awtomatiki karar
Insurancetiýaçlandyryşda emeli intellektiň ulanylmagy dürli düzgünlere tabyn edilýär. Esasy ýörelgeler:
- SEDDK ýörelgeleri: Insurancetiýaçlandyryş çäreleri adalatly, aç-açan we sarp edijini goramak görnüşinde amala aşyrylmalydyr; Bahalar dogry bolmaly we adalatsyz diskriminasiýa bolmaly däldir.
- KVKK: Şahsy maglumatlar kanuna laýyklykda işlenmeli, maksat bilen çäklendirilen we ygtybarly. Saglyk ýaly ýörite maglumatlar iň ýokary gorag astyna alynýar.
- Awtomatiki karar bermek ýörelgeleri: Diňe awtomatiki gaýtadan işlemäge esaslanýan we adama ep-esli täsir edýän kararlarda (mysal üçin, diňe emeli intellektiň ret etmegi); Karara garşy çykmak, adam gatyşmagyny talap etmek we kararyň esaslaryny öwrenmek hukugy öňe sürülýär.
Şonuň üçin ýokary täsirli kararlarda düşündiriş, adam gözegçiligi we aklamak möhümdir. “Gara guty” modeliniň esassyz karary hem gözegçilik edip bolmaýar, hem-de bu hukuklara garşy gelýär.
Stepdimme-ädim: Adalatly we sazlaşykly karar
- Goralýan häsiýetleri kesgitläň. Jyns, gelip çykyşy, ynanjy, saglygy, ýaşaýan ýeri we ş.m.
- Proksi gözden geçiriň. Goralýan häsiýetler bilen ulanylýan üýtgeýänleriň baglanyşygyny sorag ediň.
- Aklanyşy kanunylyk synagyna geçiriň. Töwekgelçilik bilen hakyky gatnaşyk barmy? Düşündirip bolarmy?
- Adam gözegçiligini goşuň. Adam ýokary netijeli karara awtomatiki netijäni gözden geçirsin.
- Sebäpleri resminama edin. Kararyň haýsy kanuny ölçeglere esaslanandygyny ýazga alyň.
- Şikaýat etmegiň ýoluny biliň. Müşderä garşy çykmak, adam gözden geçirmek we esaslandyrmak hukugyny beriň.
üç sany kiçi halat
1-nji waka - Proksi ret etmek. Jaýyň bahasy modeli, belli bir poçta kody üçin yzygiderli ýokary baýrak teklip etdi. Hünärmen gözden geçirdi: poçta kody belli bir etnik konsentrasiýa bilen örtülen; bu proksi üýtgeýjidi. Hakyky töwekgelçilik (gurluşyk ýaşy, gurluşyň görnüşi, zeper taryhy) bozulanda, ösüşiň köpüsi indi aklanmaýar. Bahasy kanuny töwekgelçilik ölçeglerine esaslanyp gaýtadan dikeldildi.
2-nji waka - wekilçilikli topar. Saglygy goraýyş önümi üçin bu model kiçi ýaş toparyna aşa ýokary baýrak hödürledi. Sebäp: bu topar maglumatlarda şeýle bir az görkezilipdi welin, birnäçe ýokary zyýan tutuş topara "töwekgelçilikli" görünýärdi. Hünärmen ygtybarlylygy (statistiki ygtybarlylygy) düzedip, maslahatyň ygtybarly däldigini tassyklady; Adalatsyz ýokarlandyrmak ulanylmady.
3-nji hadysa - garşy çykmak hukugy. AI bilen işleýän bal bilen bir programma awtomatiki ýagdaýda ret edildi. Müşderi garşy çykdy. Uýgunlaşma prosesiniň bir bölegi hökmünde karar hünärmen tarapyndan gaýtadan gözden geçirildi; Bal ýitirilen maglumatlara (geçmişdäki gabat gelmedik zyýanlara) esaslanýar. Karar düzedildi. Adamyň gözegçiligi we garşy çykmak hukugy bolmasa, adalatsyz ret etmek hemişelik bolardy.
Göçürip boljak dört teklip
1) Proksi we diskriminasiýa skaneri:
Adalatlylyk üçin aşakdaky bahalary / karar esaslaryny barlaň: [esaslandyrma] Gözläň: goralýan häsiýet (jyns, gelip çykyş, ynanç, saglyk, ýaşaýan sebit) gönüden-göni ýa-da gytaklaýyn ulanylýarmy (proksi: goňşuçylyk, at, hünär we ş.m.)? Her şübheli üýtgeýji üçin näme üçin proksi bolup biljekdigini düşündiriň we kanuny alternatiwa teklip ediň.
2) Aklamagyň kanuny synagy:
Aşakdaky inkär / ýokary bonus esaslaryny üç sorag bilen synap görüň: [esaslandyrma] 1. Töwekgelçilik üçin hakyky we esasly gatnaşyk barmy? 2. Goragly emläge esaslanýarmy ýa-da onuň wekili? 3. Müşderä we auditora düşündirip bolarmy? Her soraga anyk jogap beriň; Synagdan geçmeýän sebäbini "REJECT" diýip belläň.
3) Düşündirip boljak esaslandyryş taslamasy:
Müşderä aşakdaky VERIFIED, kanuny töwekgelçilik kriteriýalaryna esaslanyp karar bermek üçin aýdyň esas dörediň: [kanuny ölçegler] Saz: hormat goýýan, düşnükli. Goralýan emläk / proksi ulanmak. Müşderiniň garşy çykmak we adam gözden geçirmegini talap etmek hukugyny görkeziň. Bu taslama; bilermen tassyklaýar.
4) Adam gözleg sanawy:
Impactokary täsirli awtomatlaşdyrylan karar üçin adam barlag sanawyny dörediň: Kararyň görnüşi: [ret etmek / ýokary premium / girew çäklendirmesi] Sanaw: hünärli hünärmen gözden geçirmek, maglumatlary barlamak, adalatlylyk / proksi gözegçilik, delillendiriş resminamasy, müşderiniň arzasy habarnamasy, ýazgy.
Gowşak haýyş / Güýçli haýyş
Gowşak: "Bu maglumatlar bilen iň girdejili bahany kesgitläň we delil ýazyň."
Mesele: Adalatlylyk, proksi we düşündiriş hormat goýulmaýar; model öňki diskriminasiýany dowam etdirip we aklap biler.
Güýçli: "Proksi we diskriminasiýa üçin bu delil barlaň; goralýan aýratynlyga ýa-da proksi bil baglaýan we kanuny töwekgelçilik kriteriýalary bilen çalşylýan baýdak nokatlary. Düşündirip boljak bir delil görkeziň."
Näme üçin gowy: Diskriminasiýa işjeň synagdan geçirilýär, karar kanuny we düşnükli kriteriýalara esaslanýar.
deňeşdirme diagrammasy
Mowzuk
töwekgelçilikli çemeleşme
dogry çemeleşme
Model çykyş
"Statistika obýektiw"
Adalaty işjeň synap görüň
Üýtgeýän saýlaw
Her maglumatlary ulanyň
Proksi çykarmak
delillendirmek
"Modeliň aýdyşy ýaly"
Kanuny, düşündirip boljak ölçeg
Impactokary täsir karary
doly awtomatiki
Adam gözegçiligi hökmanydyr
Müşderi hukugy
Habar berilmedi
Garşylyk + adam gözden geçirmek + esaslandyrmak
Adaty ýalňyşlyklar
- "Statistika obýektiw" goranmak. Geçen adalatsyzlygy aklamak.
- Proksi äsgermezlik etmek. Goňşy / ady / hünäri esasynda gytaklaýyn diskriminasiýa.
- Düşünmedik topar üçin ygtybarsyz karar. Kiçijik nusgadan alnan nyrhyň takykdygyny çaklasak.
- Gara guty karary. Sebäbini düşündirip bolmaýan awtomatiki karary ýerine ýetirmek.
- Garşy çykmak hukugyny ykrar etmezlik. Müşderä adam gözden geçirmek we aklamak hukugyny bermezlik.
Gysgaça
Emeli intellekt taryhy maglumatlarda diskriminasiýany öwrenip biler we bahalarda we ýazuwda gytaklaýyn (proksi arkaly) dowam etdirip biler. Adalatlylygy işjeň synap görüň: goralýan häsiýetleri we wekilleri kesgitläň, kanunylyk we düşündiriş üçin synag esaslandyrmasy. SEDDK, KVKK we awtomatiki karar bermek ýörelgeleri; Adalatly nyrhlar düşündirilmegini, adam gözden geçirmegini we garşy çykmak hukugyny talap edýär. Effectiveokary täsirli kararlarda adam gözegçiligi möhümdir. Aýratyn ýagdaýda hukuk / laýyklyk bölümine ýüz tutuň; Diskriminasiýa gyzyl çyzyk.
Programma meselesi
Bahalandyryş modeliniň ulanýan 10 üýtgeýjisiniň sanawyny ýazyň (hakyky ýa-da mysal). Her biri üçin "bu goralýan emläk üçin proksi bolup biler" diýen soraga jogap beriň; Şübheli adamlary belläň. Soňra 2-nji kanunylyk synagyndan ýüz öwürmek üçin bir mysal beriň: synagdan geçýärmi, ýok bolsa, ony kanuny ölçeg bilen nädip çalşyp bilersiňiz?
gözegçilik sanawy
- [] Goralýan häsiýetleri görkezdim.
- [] Proksi üçin üýtgeýjileri gözden geçirdim.
- [] Men esaslandyrmany kanunylyk we düşündiriş synagyna goýdum.
- [] Az görkezilen toparlar üçin ygtybarlylyk barlaglaryny geçirdim.
- [] Impactokary täsir etmek kararyna adam gözegçiligini goşdum.
- [] Sebäpleri dokumentleşdirdim we müşderä garşy / adam synyna garşy çykmak hukugyny berdim.
- [] Şübhesiz, kanuny / laýyklyk bölümine ýüz tutdum.