Girdeji:
- Emeli intellekt modellerinde ikitaraplaýyn maglumatlaryň we dizaýndan nädip ýüze çykýandygyna we näme üçin bank işinde kanuny we ahlak töwekgelçiligini döredýändigine düşünmek
- Goralýan aýratynlyklary, proksi üýtgeýjileri we gytaklaýyn diskriminasiýany we adalatlylyk nukdaýnazaryndan model kararlaryny tanamak ukyby
- Adalat ölçegleriniň, aýrylan toparlaryň we garşy çykmak hukugynyň nusga dolandyryşyna nähili degişlidigine düşünmek we diskriminasiýa gyzyl çyzygyny saklamak;
AI modeli bitarap däl; Öwrenilen maglumatlaryň aýnasydyr. Maglumatlar geçmişdäki deňsizlikleri öz içine alýan bolsa, model olary öwrenýär we geljege alyp barýar. Bank ulgamynda bu abstrakt etiki jedel däl: eger karz modeli belli bir topara yzygiderli zyýan ýetirýän bolsa, bu hem bikanun (diskriminasiýany gadagan etmek) we ahlak taýdan bozulmak, banka abraý we sanksiýa töwekgelçiligini getirýär. Bu bölümiň maksady, modeliň ikitaraplaýyn, göni we gytaklaýyn diskriminasiýa görnüşlerine, proksi üýtgeýän duzaga we model dolandyryşyna adalatlylygy öwrenmegiň usullaryna öwrülmegidir. Bir gyzyl çyzygy ilkibaşdan aýtmaly: diskriminasiýa, näçe "statistik" görünse-de kabul ederliksiz.
Düşünişmezlik nireden gelýär?
- Maglumatlaryň ikitaraplaýyn görnüşi: Öňki kararlar adalatsyz bolan bolsa (meselem, belli bir topara geçmişde az karz berilýärdi), model munuň "adaty" bolandygyny çaklaýar we dowam edýär. Muňa taryhy tarapgöýlik diýilýär.
- Nusga almagyň tarapdary: Käbir toparlarda maglumatlarda az görkezilse, model olar hakda erbet we nädogry öwrenýär.
- Bellik ikitaraplaýynlygy: “Gowy müşderi” kesgitlemesiniň özi ikitaraplaýyn bolsa, model ikitaraplaýynlygy optimizirleýär.
- Dizaýn ikitaraplaýynlyk: Haýsy üýtgeýjileri ulanmalydygy barada adam saýlamalary hem ikitaraplaýyn bolup biler.
Maslahat: "Model maglumatlara esaslanýar, şonuň üçin obýektiw" ýalňyş düşünje. Maglumat geçmişiň suraty; Geçmiş adalatsyz bolan bolsa, "obýektiw" model adalatsyzlygy matematika bilen aklaýar. Obýektiwlik bitaraplygyň kepili däl.
Göni we gytaklaýyn diskriminasiýa
- Göni diskriminasiýa: Goralýan häsiýeti (jyns, etnik degişlilik, din, ýaş) gönüden-göni ulanmak. Bu aç-açan gadagan.
- Gytaklaýyn diskriminasiýa (surogate üýtgeýän / proksi): Model goralýan aýratynlygy gönüden-göni ulanmasa-da, berk baglanyşykly başga bir üýtgeýjini (poçta indeksi, ady, söwda kategoriýasy, işleýän etrap) ulanyp, şol bir netijäni berýär. Poçta indeksi köplenç etnik ýa-da girdeji derejesi üçin proksi bolup durýar. Model "goňşulyk" diýýär, ýöne netijesi "gelip çykyşy" diskriminasiýa.
Üýtgeýji
görnüşi ýaly
wekili bolup biler
Poçta kody / etrap
geografiýasy
Milleti, girdeji derejesi
Ady
Şahsyýetnamasy
gelip çykyşy, jynsy
Söwda kategoriýasy
özüni alyp baryş
ýaşaýyş durmuşy, ynanç
mekdebi gutardy
Bilim
Durmuş-ykdysady gelip çykyşy
Şonuň üçin bir delilde "töwerek töwekgelçilikli" ýaly jümläni göreniňizde duýduryş ýaňlanmalydyr: kanuny ölçeg ýaly bolup görünse-de, gytaklaýyn diskriminasiýa bolup biler.
Üns beriň: Goralýan aýratynlygy maglumatlardan aýyrmak diskriminasiýany gutarmaýar. Surrogate üýtgeýjileri ony yzyna gaýtaryp biler. Adalat "Duýgur sütüni pozdum" bilen gazanylmaýar; Bu toparlaryň arasyndaky model kararlaryň netijelerini barlamak arkaly gazanylýar.
Adalaty dolandyryşa öwürmek
- Adalat ölçegleri. Toparyň arasynda modeliň makullanmagy / ret edilmegi we ýalňyşlyk derejelerini deňeşdiriň. Bir topar yzygiderli ýokary ret edilmeleri başdan geçirýärmi?
- Proksi dolandyryş. Goralýan häsiýetlere ulanylýan üýtgeýänleriň baglanyşygyny gözden geçiriň.
- Düşündiriş. Her bir karar üçin delil getirilmeli; "Gara guty" inkär edip bolmaýar.
- Garşy çykmak hukugy. Müşderä kararyň esaslaryny öwrenmek we adam gözden geçirmegi haýyş etmek hukugy berilmelidir.
- Aýyrylan toparlar. Şeýle hem maglumatlarda az görkezilen toparlara sütem edilmeýändigini barlamaly.
Göçürip boljak dört şablon
1) Aklamakda diskriminasiýa üçin barlag:
Karz kararlarynyň aşakdaky esaslaryny barlaň: goralýan häsiýete (ýaşyna, jynsyna, gelip çykyşyna, dinine) ýa-da proksi üýtgeýjisine (poçta kody, töwerek, ady, söwda görnüşi) göni / gytaklaýyn salgylanma barmy? Töwekgelçilikli sözleri belläň we näme üçin diskriminasiýa töwekgelçiligini döredýändigini düşündiriň. Sebäp: [tekst]
2) Üýtgeýän sanaw proksi dolandyryşy:
Karz modelinde ulanylýan üýtgeýänleriň sanawyny gözden geçiriň. Haýsylary goralýan häsiýet üçin wekil bolup, gytaklaýyn diskriminasiýa töwekgelçiligini döredip biler? Her töwekgelçilikli wariant üçin öz deliliňizi ýazyň. Sanaw: [üýtgeýjiler]
3) Adalatlylyk nukdaýnazaryndan kararyň gysgaça mazmuny (bitarap, düşnükli):
Siziň roluňyz: düşündirişli düşündiriş esaslaryny taýýarlaýan kömekçi. Diňe kanuny, diskriminasiýa däl kriteriýalara bil baglaň (karz-girdeji gatnaşygy, töleg taryhy, girew). Goralýan emlägi we emeli üýtgeýjini görkezmäň. Müşderiniň düşünjek düşnükli dilini ýazyň. Men tassyklaýaryn
4) Garşylyga jogap taslamasy:
Müşderi karzdan ýüz öwürdi we aklanmagyny isledi. Kanuny ölçeglere esaslanýan hormat we düşündirişli jogap taýýarlaň; Müşderä adam gözden geçirmek we düzetmek hukugyny ýada salyň. Hiç hili kemsidiji netijeleri ulanmaň. Barlanyşyň ret edilmeginiň sebäbi: [sebäp]
Gowşak haýyş / Güýçli haýyş
Gowşak haýyş:
Bu sebitdäki programmalar gaty töwekgelçilikli, takyklygy ýokarlandyrmak üçin etrap maglumatlaryny modelde has köp ulanalyň.
Bu çemeleşme, etrap esasynda gytaklaýyn diskriminasiýany güýçlendirýär; "Hit" ady bilen bikanun netijäni kanunlaşdyrýar.
Güýçli haýyş:
Siziň roluňyz: adalat derňewçisi. Surogate üýtgeýänleriň töwekgelçiligini döredýän üýtgeýänleri belläň. Toparlaryň arasyndaky kararlary tassyklamak / ret etmek derejesi boýunça deňeşdirmek üçin haýsy ölçeglere eýermelidigimi maslahat beriň. Hiç haçan diskriminasiýa ölçegini güýçlendirmäň; kanuny we düşündirip boljak ölçeglere gönükdiriň.
Güýçli proksi töwekgelçiligini gözlär, adalat ölçeglerini girizer we diskriminasiýany ret eder.
üç sany kiçi halat
1-nji waka - Taryhy tarapgöýlik. Bir model belli bir hünär toparyna yzygiderli pes bal berýär, sebäbi ozal az karz berilýärdi. Adalatlylyk barlagy, bu topar üçin ret etmegiň derejesiniň şuňa meňzeş girdeji derejesindäki beýlekilerden 30% ýokarydygyny görkezýär. Model kanuny girdeji we töleg ölçegleri bilen deňagramlaşdyrylýar.
2-nji hadysa - Surrogate üýtgeýjisi. Poçta kody modeldäki güýçli üýtgeýjidir. Gözegçilik, poçta indeksiniň etniki taýdan jemlenen sebitler bilen gabat gelýändigini we gytaklaýyn gelip çykyşy kemsidilmegini görkezýär. Üýtgeýji aýrylýar we kanuny maliýe görkezijileri bilen çalşylýar; öndürijilik kabul ederlikli derejede galýar, diskriminasiýa ýok edilýär.
3-nji hadysa - garşy çykmak hukugy. Ret edilen müşderi aklanmagyny soraýar. Bank düşündirip boljak delillendirýär (ýokary karz-girdeji gatnaşygy) we adam gözden geçirmek haýyşyny kabul edýär. Syn, resminamanyň nädogry okalýandygyny görkezýär; Karar düzedildi. Düşündiriş we garşy çykmak hukugy adalat bilen ýalňyşlygyň öwezini dolýar.
Adalat ölçegleri: näme we nädip ölçemeli
"Model adalatlymy?" Soraga ýekeje jogap ýok; Adalatyň birnäçe kesgitlemesi bar we olar käwagt biri-biri bilen gapma-garşy gelýär. Bank işinde iş ýüzünde ýerine ýetirilýän birnäçe çemeleşme:
- Makullamak / ret etmek derejesini deňeşdirmek: Tassyklama derejesi meňzeş maliýe profilleri bolan dürli toparlaryň arasynda (meselem, jyns toparlary) yzygiderli tapawutlanýarmy? Uly we düşündirilmedik tapawut, ikitaraplaýynlygyň alamatydyr.
- Roralňyşlyk derejesiniň deňligi: Modeliň ýalňyş ret edilmegi (kanuny programmany ret etmek) derejesi toparlaryň arasynda deňagramlymy? Bir topar beýleki toparlara garanyňda adalatsyz ret edilse, bir mesele bar.
- Kalibrleme: Model “ýokary töwekgelçilik” diýip atlandyrýan müşderiler, her topardaky şuňa meňzeş nyrhlarda hakykatdanam defoltmy? Balyň manysy topardan topara geçmeli däldir.
Bu ölçegler käwagt bir wagtda üpjün edilip bilinmez; Adalatyň ileri tutulýan kesgitlemesi tehniki däl-de, ahlak we kanuny karar bolup, adam dolandyryşyny talap edýär.
Maslahat: Adalat ölçegini diňe bir model guranyňyzda däl-de, yzygiderli aralykda ölçäň. Bir model adalatly ýaşap biler we maglumatlaryň üýtgemegi sebäpli wagtyň geçmegi bilen ikitaraplaýyn bolup biler. Adalat "gurmak" däl-de, "gözegçilik" meselesi.
Adaty ýalňyşlyklar
- "Obýektiw maglumatlar" ýalňyşlygy. Modeliň bitarapdygyny çaklamak; maglumatlar taryhy tarapdan tapawutlanýar.
- Diňe duýgur sütüni pozuň. Goralýan emlägi aýyrmak we proksi üýtgeýänlere üns bermezlik.
- Adalat ölçeglerini yzarlamazlyk. Toparlaryň arasynda ret etmek / ýalňyşlyk derejesini asla deňeşdirmezlik.
- Gara guty kararyny goramak. Kanuny diýip aklap bolmajak karary göz öňünde tutmak.
- Garşy çykmak hukugyny aýyrmak. Adamyň synyny öçürmek, sebäbi "bu prosesi haýalladýar".
Üns beriň: Diskriminasiýa köplenç erbetlikden däl-de, biperwaýlykdan ýüze çykýar. Üýtgeýji goşuldy, sebäbi "takyklygy ýokarlandyrýar" bilmän bir topary aýryp biler. Şonuň üçin adalat ak ýürekden däl-de, yzygiderli synagdan esaslanýar.
Gysgaça
AI modelleri öwrenýän maglumatlarynyň ikitaraplaýyn görnüşlerini alyp barýarlar we bank ulgamynda diskriminasiýa kanuny, ahlak we abraýly töwekgelçilikdir. Göni diskriminasiýa goralýan aýratynlygy ulanýar; Gytaklaýyn diskriminasiýa, beýleki tarapdan, proksi üýtgeýjiler (poçta indeksi, ady) bilen şol bir netijäni berýär. Adalat duýgur sütüni pozmak däl; Adalat ölçegleri, proksi gözegçiligi, düşündirilişi we garşy çykmak hukugy bilen üpjün edilýär. Bir sözlemde: nagyş geçmişi gaýtalaýar; Adalaty goramak we diskriminasiýany ret etmek adamyň jogapkärçiligidir.
Programma meselesi
Karz modeli üçin 8-10 üýtgeýjiniň sanawyny ýazyň (käbirleri bilgeşleýin proksi töwekgelçiligi: poçta kody, ady, söwda kategoriýasy). 2. Şablon bilen proksi barlagyny geçiriň we töwekgelçiliklerini sebäpleri bilen belläň. Soňra kemsidiji esaslandyryş tekstini ýazyň we 1-nji şablon bilen skanirläň. Netijede, toparlaryň arasynda modeliň ret ediliş derejesini deňeşdirmek üçin adalat ölçeglerini yzarlaýan abzasda meýilleşdiriň.
gözegçilik sanawy
- [] Modeliň / esaslandyryşyň goralýan häsiýetleri ulanmaýandygyny barladym.
- [] Şeýle hem proksi üýtgeýänleriň töwekgelçiligini barladym.
- [] Toparlaryň arasynda tassyklama / ret etmek we ýalňyşlyk derejesini deňeşdirmegi meýilleşdirdim.
- [] Her kararyň düşündirip boljak esaslarynyň bardygyny üpjün etdim.
- [] Müşderä garşy çykmak we adam gözden geçirmek hukugyny berdim.
- [] Hatda "urmak" sebäpli diskriminasiýa gyzyl çyzykdan geçmedim.