Girdeji:
- Algoritmiki taraplaryň maglumatlaryny, dizaýnyny we ulanylyş çeşmelerini ykrar edýär we çykyşy toparlaýyn synag edýär.
- Seslenme aýlawynyň we wekilçilik ýalňyşlygynyň deňsizligi nädip ulaldýandygyny we täsir gözegçiligini ýola goýýandygyny düşündirýär.
- Her awtomatlaşdyrylan kararda düşündirişliligi we özüne çekijiligi üpjün etmek arkaly jogapkärçiligi üpjün edýär.
Jemgyýet öz güýjüni hemmelere deň derejede ulanmalydyr: meňzeş ýagdaýlarda iki raýata meňzeş çemeleşme, dürli ýagdaýlara proporsional tapawut. Bu deňlik ýörelgesi konstitusion borçdyr. Emeli intellekt bu ugry gowulaşdyryp we ýuwaşlyk bilen bozup biler. Gowulaşyp biler, sebäbi yzygiderli ulanylýan düzgün özbaşdaklygy we adam tarapyny peseldip biler. Zyýanly bolup biler, sebäbi AI modelleri geçmişdäki maglumatlardan öwrenýär we geçmişdäki maglumatlar geçmişiň kemsidilmegini üpjün edýär. Ulgam belli bir topara taryhy taýdan zyýan ýetiren maglumatlar boýunça taýýarlanan bolsa, bu zyýany gelejege we “obýektiw algoritm” ady bilen kesgitlemek has kyn görnüşde alyp barar. Bu bölümde, döwlet sektorynda AI ulanylanda algoritmiki ikitaraplaýynlygy (belli bir toparlara garşy yzygiderli çykyş) nädip tanamalydygyny, ony nädip azaltmalydygyny we iň esasysy algoritmiki jogapkärçiligi nädip üpjün etmelidigini öwrenersiňiz (awtomatiki kararyň düşündiriljek, diňlenip bilinjek we jedelli bolmagy).
Ikitaraplaýynlyk nireden gelýär?
Algoritmiki taraplaryň birnäçe çeşmesi bar we bularyň hemmesi köpçülikde töwekgelçilikli:
- Taryhy taraplar: Okuw maglumatlary geçmişdäki deňsizligi öz içine alýar. Mysal üçin, bir sebitde ozal hyzmat az bolsa, “talap maglumatlary” bu sebiti pes zerurlyk hökmünde görkezip biler - aslynda hyzmat ýoklugy sebäpli isleg azdy.
- Wekilçilik ikitaraplaýynlygy: Käbir toparlar maglumatlarda az görkezilýär (sanly elýeterliligi bolmadyklar, azlyklaryň dil toparlary) we model olar üçin erbet işleýär.
- Proksi ikitaraplaýynlyk: Model gadagan kriteriýa (etnik, din) gönüden-göni seretmese-de, özi bilen baglanyşykly proksi (goňşy, ady, poçta kody) seredip şol bir diskriminasiýa döredip biler.
- Ölçeg ikitaraplaýynlygy: Ölçeýän zadymyz aslynda ölçemek isleýän zadymyz däl. "Şikaýatlaryň sany" zerurlyk däl-de, arz etmek ukybyny ölçýär.
Üns beriň: "Modelden duýgur maglumatlary (jyns, etnik degişlilik) aýyrdym, indi adalatly" diýmek ýalňyş. Proksi üýtgeýjiler arkaly diskriminasiýa dowam edip biler. Adalatlylyk girişi pozmak bilen däl-de, toparlaryň arasyndaky çykyşy barlamak arkaly gazanylýar.
Adalatlylygy barlamak: netijä serediň
Ulgamyň adalatlydygyna ýa-da ýokdugyna, niýetlerine däl-de, netijelerine seredip düşünip bolýar. Esasy usul: karary toparlara bölüň we deňeşdiriň. Kabul etmek / ret etmek derejesi, ýalňyşlyk derejesi, garaşmak wagty ýaly netijeler dürli toparlaryň (jyns, ýaş, sebit, girdeji) arasynda ep-esli tapawutlanýarmy? Tapawut bar bolsa, bu tapawut kanuny esaslara esaslanýarmy ýa-da diskriminasiýa? Bu derňew şahsy maglumatlary talap edip bilýändigi sebäpli, jemlenmeli we KVKK laýyklykda amala aşyrylmaly.
Maslahat: AI bilen işleýän täze karar ulgamyny işe girizmezden ozal, demografiki toparlaryň kararlaryny bozuň we “adalatlylyk hasabatyny” taýýarlaň. Tapawut tapsaňyz, "bu tapawudy düşündirip bolarmy?" Soragy adamlar komitetine eltiň.
Düşündiriş we özüne çekiji: jogapkärçiligiň ýüregi
Döwlet sektorynda "ulgam şeýle karar berdi" diýen jogap bilen hiç bir raýat öz hukuklaryndan mahrum edilip bilinmez. Her bir awtomatlaşdyrylan ýa-da AI goldawly karar üçin üç zat üpjün edilmeli:
- Düşündiriş: Kararyň nämä esaslanandygy, haýsy faktorlaryň täsirli bolmagy ýönekeý dilde düşündirilmeli.
- Şikaýat etmegiň usuly: Raýatlar karara garşy çykyp, adamdan gaýtadan gözden geçirmegini haýyş etmeli.
- Gözegçilik ýoly: Haýsy maglumatlary, haýsy modeli / wersiýany we haýsy jogapkär adam bilen karara gelendigini ýazga geçirmeli.
üç sany kiçi halat
1-nji waka - Surrogate görnüşi ele alyndy. Bir kömegi ileri tutmagyň modeli duýgur maglumatlary ulanman, “poçta kody” seredýärdi. Adalatlylyk synagynda käbir etraplarda yzygiderli pes ähmiýet berilýändigi, poçta indeksi, girdeji we etnik dykyzlyk bilen baglanyşyklydygy anyklandy. Üýtgeýji aýryldy we ileri tutma zerurlyk görkezijilerine gönüden-göni baglydy.
2-nji waka - Wekilçilik boşlugy. Söhbetdeşlik, türk däl ene dili bolan raýatlaryň soraglaryny ýalňyşdyrmak ähtimallygy 41% köp; Okuw maglumatlarynda bu toparyň az bölegi bardy. Köp dilli goldaw we adam tabşyrmagyň çäkleri goşulanda, boşluk ýapyldy.
3-nji waka - düşündirilmedik ret etmek. Bir edara anketany awtomatiki ret etdi; raýat "näme üçin?" Soralanda, ofiser modeliň sebäbiniň düşnüksizdigi sebäpli düşündirip bilmedi. Bu waka, düşündirişi pes bolan modelleriň hukuklary çözmek üçin ulanylyp bilinmejekdigini görkezdi; Ulgam aklanylýan we adamyň razylygyny talap edýän modele öwrüldi.
Göçürip boljak dört şablon
1) Ikitaraplaýyn skaneriň çeşmesi:
Siziň roluňyz: algoritmiki adalatly hünärmen. AI bilen işleýän karar amalyny aşakda gözden geçiriň. Ikitaraplaýyn çeşmeleriň mümkin bolan çeşmelerini sanaň: (1) taryhy ikitaraplaýynlyk, (2) wekilçilikli tarap (az görkezilen topar), (3) proksi üýtgeýjiler (gadagan kriteriýa bilen baglanyşykly sütün), (4) ölçeg taraplary. Her biri üçin anyk mysal beriň we ony nädip barlamalydygyny aýdyň. Prosess: [karar bermek prosesi we maglumatlar]
2) Adalatlylyk synag meýilnamasy:
Aşakdaky karar çykarmak üçin adalatlylyk synag meýilnamasyny dörediň: haýsy toparlary (ýaşy, jynsy, sebiti, girdejisi) bölmeli, haýsy ölçegleri (kabul ediş derejesi, ýalňyşlyk derejesi, garaşmak wagty) deňeşdirmeli, tapawudyň kanuny ýa-da diskriminasiýa bolandygyny nädip çözmeli? KVKK duýduryşyny goşuň. Karar: [haýsy karar]
3) Karar beýany (raýata):
Aşakdaky karar üçin raýata düşünip boljak düşündiriş taslamasyny ýazyň: haýsy faktorlar täsirli, sada dilde. Ahyrynda şikaýat etmek hukugyny we adam gözden geçirmegiň mümkinçiligini goşuň [tassyklanjak wagt bilen]. "Ulgam şeýle karar berdi" ýaly düşnüksiz aňlatmalary ulanmak. Karar: [gysgaça we täsir ediji faktorlar]
4) ýaýramazdan ozal jogapkärçiligi barlamak:
AI bilen işleýän karar ulgamyny işe girizmezden ozal jogapkärçilik barlag sanawyny öndüriň: düşündirip bolarmy, şikaýat etmegiň usuly barmy, gözegçilik ýoly (maglumatlar / model wersiýasy / hasabatly) saklanýar, adalatlylyk synagy geçirildi, adam tassyklaýyş nokady nirede. Missingitirilen zatlary gyzyl baýdak hökmünde belläň. SYSTEM: [resept]
Gowşak haýyş / Güýçli haýyş
Gowşak: "Bu karar modeli adalatlymy?"
Güýçli: "Siziň roluňyz algoritmiki adalatlylyk hünärmeni. Bu kömegi ileri tutmagyň modeli üçin ilki bilen ikitaraplaýyn çeşmeleri gözläň (taryhy, wekilçilik, üýtgeýän üýtgeýän, ölçeg) we her biri üçin anyk mysallar beriň. Soňra adalat synag meýilnamasyny düzüň: haýsy toparlara bölünýändigi, tapawudyň kanunylygyny nädip kesgitlemelidigi; KVKK duýduryşyny goşuň.
Tapawut: güýçli isleg çeşmesinden ikitaraplaýyn gözleýär, netijeleri toparlar tarapyndan synagdan geçirýär we jogapkärçiligi giňeldýär.
Adalat ölçegleri we gözegçilikler
Ölçegi
Töwekgelçilik
gözegçilik
taryhy maglumatlar
Geçmiş deňsizligi alyp barýar
Toparlar boýunça synag netijesi
wekilçilik
Käbir topar üçin erbet işleýär
Toparlaýyn ýalňyşlyk derejesi
sorogate üýtgeýjisi
gizlin diskriminasiýa
Üýtgeýjä duýgur ölçeg gatnaşyklary
Düşündiriş
esassyz karar
Simpleönekeý düşündiriş dörediň
garşylyk
mahrum etmek
Adam gözden geçiriş ýoly
Seslenme aýlawy we wekilçilik ýalňyşlygy
Algoritmiki diskriminasiýanyň iň mekir görnüşi ýekeje ýalňyş kararda däl-de, wagtyň geçmegi bilen özüni güýçlendirýän seslenme aýlawynda ýüze çykýar (modeliň çykyşy indiki okuw maglumatlaryna täsir edýär, bar bolan ikitaraplaýynlygy güýçlendirýär). Mysal üçin, gözleg modeli belli bir töwerekleri “töwekgelçilikli” diýip belleýän bolsa, näçe köp barlag geçirilse, şonça-da köp ýazgy döredilse, model bu töwekgelçiligi däl-de, seredilen ýerinde tapawut köpelendigine garamazdan has töwekgelçilikli görýär. Munuň üçin ýol açýan zat köplenç wekilçilik ýalňyşlygydyr (käbir toparlary doly däl ýa-da ýoýulan görnüşde görkezýän okuw maglumatlary). Jemgyýetçilik pudagynda bu sikller has güýçli gözegçilik we sanksiýalar astynda amatsyz toparlary ýerleşdirip biler. Özüňizi goramagyň usuly, diňe bir onuň çykyşyna däl-de, modeliň täsirine gözegçilik etmekdir: kararlaryň toparlaýyn paýlanyşyna yzygiderli gözegçilik etmek we modeliň tekliplerini kör ýerine ýetirmezlik.
Mini halta - özüni ulaldýan şübhe. Durmuş galplyklaryny ýüze çykarmak modeli, geçmişde has köp barlanan sebiti ýokary töwekgelçilik hökmünde görkezdi. Topar maglumatlardan ýerine ýetiriş intensiwligini alyp, “ilata görä hakyky kesgitleme derejesini” ölçänlerinde, sebitleriň arasyndaky tapawudyň köplenç ýitip gidendigini gördüler; Model hakyky töwekgelçilik üçin deňsizligi ýalňyşdy.
Topara esaslanýan täsir dolandyryş şablony:
Wezipe: Aşakdaky karar maglumatlaryny toparlar boýunça gözden geçiriň (şahsy maglumatlar ýok, kategoriýa mazmuny ýok) .Data: [topar | umumy karar | negatiw karar derejesi | gözleg intensiwligi] Çykyş: 1) negativearamaz karar derejesi toparlaryň arasynda düýpli tapawudy görkezýärmi? 2) Tapawut hakyky töwekgelçilik ýa-da gözegçilik / wekilçilik intensiwligi sebäpli bolup bilermi? 3) Ters jogap aýlawynyň alamaty barmy? 4) Adam gözegçiligi üçin teklipler. Düzgün: Sebäp talaplaryny kesgitlemek; Mümkin düşündirişleri we synag usullaryny sanaň.
Üns beriň: "Model bitarap, sebäbi hemme kişä şol bir düzgüni ulanýar" diýen argument ýalňyşdyr. Şol bir düzgün, ýalňyş maglumatlar ulanylanda deňsizligi saklaýar we ulaldýar. Adalat düzgün däl-de, netijäniň deňligi bilen ölçelýär.
Adaty ýalňyşlyklar
- Duýgur maglumatlary pozmak we "adalatly" diýip pikir etmek. Surrogate üýtgeýjiler diskriminasiýany dowam etdirýärler; çykyşyny barlaň.
- Adalaty niýet bilen ölçemek. Adalat ahyrynda peýda bolýar; Kararlary toparlara bölüň we deňeşdiriň.
- Düşünmedik topary ýatdan çykarmak. Model azlyk topary üçin arkaýyn işläp biler; Toparlaýyn säwlige serediň.
- Hukuk bermek kararlarynda düşündirilmedik modeli ulanmak. Aklap bilmeýän ulgam köpçülige karar berip bilmez.
- Garşy çykmagyň serişdesini bermezlik. Her bir awtomatiki karar adam gözden geçirmeli.
- Gözegçilik yzyny saklamazlyk. Kararyň haýsy maglumatlar / model / jogapkär adam bilen kabul edilendigi ýazylmalydyr.
Gysgaça
Jemgyýetçilik pudagynda AI yzygiderliligi artdyryp biler, ýöne geçmişdäki diskriminasiýany ýuwaşlyk bilen alyp biler. Ikitaraplaýyn taryhy maglumatlardan, wekilçilik boşlugyndan, proksi üýtgeýjilerden we nädogry ölçegden gelýär; Duýgur maglumatlary pozmak ony çözüp bilmez. Adalatlylyk netijäni toparlaryň arasynda barlamak arkaly gazanylýar. "Ulgam şeýle diýdi" hiç bir raýaty hukukdan mahrum edip bilmez: her bir karar düşnükli, jedelli we diňlenmeli. Algoritm däl-de, jogapkärçilik çekýän edara.
Programma meselesi
Bölümiňizde AI bilen işleýän ýa-da awtomatlaşdyrylan karar amalyny saýlaň. Mümkin bolan taraplary sanaň we “Ikitaraplaýyn skaneriň çeşmesi” şablony bilen iň bolmanda bir üýtgeýän töwekgelçiligi tapyň. "Adalatlylyk synag meýilnamasy" bilen haýsy topara bölünmelidigini kesgitläň. Mysal üçin, "Karar düşündirişi" şablony bilen raýat bilen ýüzbe-ýüz düşündiriş beriň.
gözegçilik sanawy
- [] Ikitaraplaýyn çeşmeleri gözledim (taryhy, wekilçilik, proksi, ölçeg).
- [] Diňe duýgur maglumatlary pozmadym; Çykyşy toparlara bölüp synadym.
- [] Az görkezilen toparlar üçin ýalňyşlyk derejesini gözegçilikde sakladym.
- [] Her karara ýönekeý, düşnükli esas berdim.
- [] Men garşylygy we adamyň gözden geçiriş ýoluny kesgitledim.
- [] Gözegçilik yzy (maglumatlar / model wersiýasy / jogapkär) ýöredilýär.