Girdeji:
- Adam gözegçiliginiň üç modelini tapawutlandyrmak (aýlawda, aýlawda, buýrukda)
- AI önümçiliginde ikitaraplaýyn we diskriminasiýa töwekgelçiligini ykrar etmek we azaltmak
- Aç-açanlyk we düşündiriş ýörelgelerini anyk programmalara terjime etmek
AI ulgamy tehniki taýdan ajaýyp işläp biler, ýöne şonda-da ýalňyş bolup biler: bir topary yzygiderli ýok edip biler, kararynyň sebäbini düşündirip bilmez ýa-da adamlary soragsyz kabul etmegine sebäp bolup biler. Bu bölümde dolandyryşyň “ýumşak”, ýöne iň aýgytly tarapyny - adam gözegçiligi, ikitaraplaýyn dolandyryş, aç-açanlyk we ahlak kadalaryny anyk amallara terjime edýäris. Maksat "AI-ä ynanma" ýaly düşnüksiz şygarlar däl; Netijäni nädip barlamalydygyny, ikitaraplaýynlygy azaltmalydygyny we aç-açanlygy görkezýän iş mehanizmleri.
Adam gözegçiliginiň üç modeli
Ynsan gözegçiligi, adamyň AI tarapyndan kabul edilen kararlara gözegçilik edýändigini aňladýar. Üç sany esasy model bar we töwekgelçilige görä dogry modeli saýlamaly.
modeli
Manysy
Gabat gelýän ýeri
Adam aýlawda
Adam her karary makullaýar
Riskokary töwekgelçilikli, täsirli kararlar
Adam aýlawda
AI işleýär, adamlar zerur bolsa gözegçilik edýärler we gatyşýarlar
Orta töwekgelçilik, ýokary göwrümli amallar
Serkerde
Adam ulgamy dizaýn edýär, çäklerini kesgitleýär, ýapyp biler
Umumy dolandyryş derejesi
Adama ep-esli täsir edýän kararlar (iş, karz, saglygy goraýyş) üçin adamdan çykýan model ileri tutulýar: AI maslahat berýär, ýöne başarnykly adam iň soňky karary berýär. “AI şeýle diýdi” hiç haçan bahana däldir; Jogap hemişe adama degişlidir.
Üns beriň: Adam gözegçiliginiň "kagyz ýüzünde" bolmagy ýeterlik däl. Adam AI teklibini (rezin möhürlemek) awtomatiki tassyklasa, hakyky gözegçilik ýok. Gözegçiligiň manyly bolmagy üçin esaslary görüp, sorag bermeli we hakykatdanam “ýok” diýmeli.
Saýlaw we diskriminasiýa töwekgelçiligi
Ikitaraplaýynlyk, AI belli bir toparlara yzygiderli zyýan ýetirýän ýa-da artykmaçlyk berýän mahalydyr. Onuň çeşmesi köplenç maglumatlary öwredýär: taryhy maglumatlarda diskriminasiýa bar bolsa, AI ony öwrenýär we goldaýar - hatda terezini hem alýar.
Ikitaraplaýynlygy azaltmak üçin amaly ädimler:
- Duýgur üýtgeýänleri gözden geçiriň: Jyns, ýaş, etnik ýaly meýdanlaryň karara täsirini barlaň.
- Toparlar boýunça synag netijeleri: Ulgam dürli toparlarda dürli ret etmek / kabul etmek derejesini öndürýärmi?
- Proksi üýtgeýjilerden ägä boluň: “goňşy” ýa-da “mekdep” ýaly meýdanlar etnik / synp tapawudyny aç-açan görkezip biler.
- Yzygiderli gözegçiligi ýola goýuň: Ikitaraplaýynlyk diňe bir gezek däl-de, yzygiderli barlanýar; Maglumatlaryň üýtgemegi bilen gaýdyp gelip biler.
üç sany kiçi halat
1-nji hadysa - rezin marka. Bir bankda karz işgärleri AI balyny gözden geçirmän tassyklaýarlar; "Ulgam eýýäm hasaplady" diýýärler. Gözegçilik, 500 tabşyrygyň 498-sinde adam AI bilen edil şol bir karara gelendigini görkezýär - şonuň üçin hakyky syn ýok. Çözgüt: adamlardan sebäbini görmegi, karary belli bir derejede çaklamagyny we "näme üçin razy / ylalaşmaýandygy" belligini talap etmegini talap ediň.
2-nji hadysa - Gümürtik tarapgöýlik. Işe alynýan AI, jynsdan asla peýdalanmasa-da, aýal dalaşgärlerden has pes bal alýar. Nireden? Öňki maglumatlar esasan belli bir wezipede erkekleri öz içine alýandygy sebäpli, model “üznüksiz karýera” ýaly proksi üýtgeýjiler arkaly gytaklaýyn diskriminasiýany öwrendi. Toparlaýyn synag muny açýar; Topar sorogate üýtgeýjileri çykarýar we netijä gözegçilik edýär.
3-nji waka - Aç-açanlyk bilen ynam. AI bilen işleýän zyýany bahalandyrmakda ätiýaçlandyryş kompaniýasy her bir müşderä “kararyň AI bilen üpjün edilendigini, adamlar tarapyndan gözden geçirilip we ýüz tutup biljekdigini” habar berýär. Garşylyk derejesi garaşylýandan pes, sebäbi müşderiler bu prosese düşünýärler we ynanýarlar. Aç-açanlyk töwekgelçiligi azaltmak bilen ynamy artdyrýar.
Aç-açanlyk we düşündiriş
Aç-açanlyk, AI-iň hereket edýändigini we işleýşini degişli adamlara düşündirmekden ybaratdyr. Düşündiriş, kararyň sebäbini düşnükli düşündirip bilmek diýmekdir. Beton amaly programmalar:
- AI bilen adam bilen gatnaşygy barada "AI bilen gürleşýärsiňiz".
- Awtomatiki kararlarda "Bu karar aşakdaky faktorlara esaslandy".
- Adamyň özüne çekmegini we haýyş edilmeginiň ýoluny aç-açan görkeziň.
- Içerki toparlar üçin: modeliň edýän zatlaryny resminamalaşdyrmak we ýazga almak.
Maslahat: AI kararyny soraň "bu karara täsir eden esasy üç faktor haýsylar?" Sorag bilen synap görüň. Ulgam muny düşnükli edip bilmese we karar adama ep-esli täsir etse, bu ulgam entek jogapkärçilikli ulanmaga taýyn däl.
Awtomatlaşdyryş ikitaraplaýynlygy: öz duzagy
Aç-açanlyk we adam gözegçiligi ýola goýulsa-da, adam tarapynda mekir töwekgelçilik bar: awtomatlaşdyryş. Bu, adamlaryň öz pikirlerinden has köp maşynyň önümine ynanmak meýli. Ekrandaky AI teklibi “obýektiw we hasaplanan” ýaly görünýändigi sebäpli, ony soragsyz kabul etmek isleýär - bu rezin markanyň psihologiki gelip çykyşy.
Muny azaltmagyň anyk ýollary bar. Ilki bilen garşy pikiri höweslendiriň: "Näme üçin AI bilen ylalaşman bilerin?" Karary tassyklaýan adamdan soraň. Sorag hakda pikirlenmegini haýyş ediň. Soňra ynam balyny görkeziň: AI-iň näderejede ynamlydygyny görkeziň; Pes ynam netijelerini aýratyn belläň. Soňra gapma-garşylyk duýduryşyny düzüň: AI maslahaty edaranyň düzgünini ýa-da adama elýeterli maglumatlary bozsa, ulgam muny görkezer. Ahyrynda, adamzadyň iki ýörelgesini möhüm kararlara ulanyň; Approvekeje tassyklaýjy awtomatlaşdyryş tarapyna has ýykgyn edýär.
Üns beriň: "Adamyň razylygy bar" diýmek, awtomatlaşdyryşdan azat bolmaklygy aňlatmaýar. Adamda AI-ni sorag etmek üçin ygtyýary, wagty we dogry maglumatlary bolmaly. Makullaýjyny 3 sekuntda 200 karar bermäge mejbur edýän ulgam, aslynda adam gözegçiligini teklip etmeýär.
Göçürip boljak galyplar
MESELE 1 - Adam gözegçiligi modelini saýlamak: "Haýsy AI dolandyryş modeli aşakdaky AI ulanylyşyna laýyk gelýär [ulanylyşyny beýan ediň]: aýlawda, aýlawda ýa-da buýrukda? Şahsy töwekgelçiligi we täsiri göz öňünde tutup, delillendirip maslahat beriň. Kauçuk möhür töwekgelçiliginiň öňüni almak üçin haýsy gözegçiligi goşmalydygyny kesgitläň."
TEMPLATE 2 - Iki taraplaýyn synag meýilnamasy: "AI-ni aşakdaky karar goldawy üçin [ulanylyşy beýan ediň] ikitaraplaýyn synag meýilnamasyny düzüň: haýsy toparlary deňeşdirmeli, haýsy ölçegi ölçemeli (ret etmek / kabul etmegiň derejesi we ş.m.), haýsy üýtgeýän üýtgeýjileri gözlemeli, synagy näçe gezek gaýtalamaly? Stepdim-ädim ýazyň."
3-nji MESELE - Kararyň düşündiriş teksti: "Şahsylaşdyrylan awtomatlaşdyrylan karar üçin ýönekeý düşündiriş tekstini ýazyň: kararyň AI bilen işleýändigi ýa-da karara täsir edýän esasy faktorlar, adamyň ýüz tutmagynyň we haýyş edilmeginiň usuly. Aýyplama, hormat äheňi, 120 söz ýa-da has az."
TEMPLATE 4 - Etiki gözden geçiriş sanawy: "AI ulanylyşyny çap etmezden ozal etika gözden geçiriş sanawyny taýýarlaň: adalatlylyk / diskriminasiýa, aç-açanlyk, adam gözegçiligi, şahsy durmuşyň eldegrilmesizligi, howpsuzlyk, jogapkärçilik. Her sözbaşy astynda 1-2 sany anyk sorag goşuň."
Gowşak haýyş / Güýçli haýyş
Gowşak: “Bu işe alynýan AI adalatlymy?” -> Model “adalatly bolmaly” ýaly umumy jogap berýär; synagdan geçirip boljak usuly we ikitaraplaýyn ölçegi üpjün etmeýär. Güýçli: "Bu işe alynýan goldaw AI üçin ikitaraplaýyn synag meýilnamasyny düzüň: jyns we ýaş toparlary boýunça kabul ediş nyrhlaryny, göz öňünde tutulýan proksi üýtgeýjileri, kabul ederlikli tapawut çäklerini we gözegçilik ýygylygyny deňeşdirmegiň usuly. Şeýle hem adamyň soňky karary kabul etmegine gözegçilik goşuň." -> Model ölçenip bolýan, gaýtalanýan adalatlylyk mehanizmini öndürýär.
Adaty ýalňyşlyklar
- Adam gözegçiligini “kagyz ýüzünde” goýmak we AI maslahatyny (rezin möhür) awtomatiki tassyklamak.
- Dolandyryşda däl-de, gözegçilik edilmeýän adama ep-esli täsir edýän kararlary goýmak.
- Ikitaraplaýyn çözgüdi göz öňünde tutup, diňe "Duýgur üýtgeýjini pozdum"; proksi üýtgeýjilerinden geçmek.
- Iki taraplaýyn synamak we yzygiderli gözegçilik etmezlik.
- Aç-açanlygy taşlamak, sebäbi "tehniki jikme-jiklik, ulanyjy düşünmez".
- Möhüm kararlarda kararyň sebäbini düşündirip bilmeýän ulgamy ulanmak.
- "Soň göreris" diýmek bilen, ahlak taýdan baha bermek.
Gysgaça
- Adam gözegçiligi üç modelde amala aşyrylýar; Adamlara täsir edýän kararlarda, aýlawda adamlar ileri tutulýar.
- Dolandyryş manyly bolmaly; Kauçuk möhür (awtomatik tassyklamak) hakyky barlag däl.
- Ikitaraplaýynlyk köplenç okuw maglumatlaryndan gelýär; Duýgur we emeli üýtgeýjiler synagdan geçirilmelidir we yzygiderli gözegçilik edilmelidir.
- Aç-açanlyk we düşnüklilik, AI-iň oýnaýandygyny we kararyň sebäbini ulanyja açyk görkezmegi talap edýär.
- Etiki syn çap edilmezden ozal bolup geçýär; jogapkärçilik hemişe adamyň üstüne düşýär "-diýdi AI.
Programma meselesi
Guramaňyzdaky adamlara täsir edýän AI karar amalyny saýlaň (mysal üçin, programma baha bermek). Bu amal üçin adam gözegçiliginiň degişli modelini kesgitläň we rezin möhürlemegiň öňüni almak üçin anyk gözegçiligi düzüň (meselem, delillendiriş, talap gözden geçirmek). Soňra ikitaraplaýyn synag meýilnamasyny ýazyň: haýsy toparlary deňeşdirjekdigiňizi, haýsy ölçeg bilen, näçe ýygy we haýsy proksi üýtgeýjilere üns berjekdigiňizi kesgitläň. Netijede, bu işiň dowamynda adama görkeziljek we özüne çekiji / adam gözden geçiriş ýoluny öz içine alýan karar düşündiriş tekstini taýýarlaň.
gözegçilik sanawy
- [] Bu prosese laýyk adam dolandyryş modelini saýladym.
- [] Kauçuk möhüriň öňüni aljak anyk dolandyryş düzdüm.
- [] Iki taraplaýyn synag meýilnamasyny taýýarladym (toparlar, ölçeg, ýygylyk).
- [] Surogate üýtgeýänleriň töwekgelçiligine baha berdim.
- [] Adam üçin karar düşündiriş tekstini ýazdym.
- [] Men özüne çekmegiň we adam gözden geçirmegiň ýoluny açyk görkezdim.
- [] Çap edilmezden ozal etika synyny geçirdim.