Girdeji:
- AI ikitaraplaýynlygyň esasy çeşmesidigine düşünýär
- Iş ýerinde ikitaraplaýynlygyň döredip biljek töwekgelçiliklerini ykrar edýär
- Düşünjäni azaltmak üçin görülýän çäreleri durmuşa geçirýär
AI bitarap, obýektiw maşyn hökmünde peýda bolýar; emma hakykat has çylşyrymly. AI ulgamlary, tälim alýan maglumatlarynda adam taraplaryny öwrenýärler we käwagt ulaldýarlar we köpeldýärler. Saýlaw, ulgamyň käbir adamlary ýa-da toparlary yzygiderli goldamak ýa-da ýok etmek meýli. Bu bölümde, düşünjäniň nireden gelýändigini, iş ýerinde haýsy anyk töwekgelçilikleri döredýändigini we oňa garşy näme edilip bilinjekdigini öwreneris. Bu diňe "ahlak" meselesi däl; Dolandyrylmasa kanuny, täjirçilik we abraýly töwekgelçiligi öz içine alýan amaly iş.
Saýlaw nireden gelýär?
Dil modeliniň maglumatlary, adamlaryň öndürýän ullakan tekstlerinden gelýär. Bu ýazgylarda adamzat jemgyýeti baradaky ähli bilimler, şeýle hem ähli stereotipler, deňsizlikler we taryhy deňsizlikler bar. Model "gowy" we "erbet" nagyşlary tapawutlandyrmaýar; Maglumatdaky zatlary öwrenýär.
Mysal: Käbir hünärler esasan öňki tekstlerde jyns bilen baglanyşykly bolsa (meselem, "şepagat uýasy" aýal, "inerener" erkek bilen), model bu birleşigi öwrenýär. "Inerener ofisiň içine girdi, ol ..." sözlemini tamamlanda erkek at çalyşmasyny saýlap biler, model erbet däl; diňe maglumatlardaky deňsizligi görkezýär.
Şeýlelik bilen, ikitaraplaýynlyk, köplenç aňly programmirleme ýalňyşlygy däl-de, maglumatlaryň aýnasy bolmagy bilen baglanyşyklydyr. Meseläni "kimdir biri erbet kod ýazdy" diýip düşündirmek ýalňyşdyr; Mesele dünýädäki deňsizligiň maglumatlara we ol ýerden modele geçirilmegidir.
Iş ýerinde görnüp duran töwekgelçilikler
meýdany
Ikitaraplaýyn töwekgelçilik
bolup biljek zyýan
işe almak
Taryhy maglumatlaryň tendensiýasyny öwreniň we käbir toparlary ýok ediň
Kazyýet işi, başarnygyň ýitmegi
Müşderi bilen aragatnaşyk
Stereotipiki ýa-da aýratyn dil
Abraýyny ýitirmek, müşderiniň uçuşy
karz / töwekgelçilik
Geçen deňsizlikleri dowam etdirmek
Diskriminasiýa, sanksiýalar
Netijelere baha bermek
Maglumatlarda ikitaraplaýyn karar bermek
Adalatsyz mahabat / bonus
Mazmuny / marketing
Belli bir topary görünmeýän ediň
Marka zeper
Üç kiçi waka
1-nji waka - Mahabat dili gysgaldýardy. Bir kompaniýa AI bilen iş ýerlerini çap edip başlady. Birneme wagt geçensoň, mahabatlaryň "ýaş we dinamik", "agressiw maksat" ýaly sözler bilen belli bir profiliň özüne çekendigi we şeýlelik bilen programmalaryň dürlüligini azaltdy. Topar her bir ýazgyny “öz içine alyjy dil” üçin barlaýan ädim goşdy; Dalaşgärleriň dürlüligi birnäçe aýyň içinde ep-esli ýokarlandy.
2-nji waka - Gysgaça mazmuny. Bir dolandyryjy AI-de 30 işgäriň pikirini jemledi. Netijede, negatiw teswirleri belli bir topara jemlän ýalydy; çig mallarda ýagdaý deňagramlydy. Model birnäçe güýçli sözleri ulaltdy. Dolandyryjy yza gaýdyp, çig maglumatlary barlanda, ýalňyş düşünmekden saklandy.
3-nji waka - öz içine alyjylyk mandaty işledi. Marketing toparlarynyň biri, “öz içine alyjy, aýratyn jyns / ýaş / topar dilini ulanmak we ahyrynda çaklamalaryňyzy sanamak” kampaniýasynyň göçürmesindäki görkezmäni standartlaşdyrdy. Öndürilen tekstlerdäki formula aňlatmalary ep-esli azaldy; topar her çykyşy el bilen düzetmeli däldi.
Iki taraplaýyn tanamak näme üçin kyn?
Düşünjäniň iň mekir zady, köplenç görünmeýänligidir. Çykyş tekiz, hünärmen we ýerlikli görünýär; Içindäki tendensiýa diňe bir seresaplylyk bilen seredilende ýa-da dürli toparlara täsirini ölçän mahaly ýüze çykýar. Singleekeje mysala seredip "bu ýerde ikitaraplaýynlyk ýok" diýmek ýalňyş; Ikitaraplaýynlyk köplenç aýratyn mysallarda däl-de, ulgamyň umumy meýillerinde ýüze çykýar.
Üns beriň: "Men bitarap, şonuň üçin ulanýan guralym hem bitarap" diýen çaklama howply. Guralyň bitaraplygy, niýetiňize däl-de, okuw maglumatlaryna we nädip barlanýandygyna baglydyr.
Gowşak gyssagly / güýçli teklip
Gowşak haýyş: Bu wezipä ideal dalaşgäri suratlandyryň.
Netije: Model stereotiplere bil baglap, belli bir tertibi "ideal" hökmünde görkezip biler.
Güýçli haýyş: Iş bilen hakykatdanam baglanyşykly bolan bu wezipe üçin diňe ölçenip boljak başarnyklary sanaň. Iş bilen baglanyşykly bolmadyk aýratynlyklary, jyns, ýaş, maşgala ýagdaýy, dogduk şäheri ýaly ulanmaň. Ahyrynda, "gaça durýan çaklamalarym" sözbaşysynyň aşagynda galdyran zatlaryňyzy ýazyň.
Netije: Baha bermek iş bilen baglanyşykly ölçegler bilen çäklenýär, ähmiýetsiz aýratynlyklar aýrylýar.
Ikitaraplaýynlygy azaltmak üçin galyplar
Öz içine alyjy dil üçin aşakdaky teksti barlaň. Jyns, ýaş, etnik degişlilik, maýyplyk ýa-da belli bir topara degişli baýdak jümleleri we her biri üçin bitarap alternatiwany teklip edýär. Tekst: [şu ýere goýuň]
Bu bahalandyrmany diňe şu obýektiw kriteriýalara esaslaň: [ölçegler]. Bu ölçeglerden başga ady (ady, jynsy, ýaşy) göz öňünde tutmaň.
Öndüren tekstiňizde haýsy çaklamalary ýerine ýetirendigiňizi soňunda aýratyn sözbaşynyň aşagynda sanaň. Şonuň üçin men gizlin taraplary görüp bilýärin.
Bu mazmuna üç dürli okyjy toparynyň gözüniň üsti bilen baha beriň we olaryň haýsydyr birini kemsidip biljek / kemsidip biljek sözleri belläň. Mazmuny: [şu ýere goýuň]
Umumy ýalňyşlyklar
Adaty ýalňyşlyklar
- "Bitarap" AI çykyşyny kabul etmek. Çykyş bitarap görünse-de, maglumatlardaky ikitaraplaýynlygy alyp biler; Işjeň gözegçilik zerurdyr.
- Bir mysala seredip, "tarapgöýlik ýok" diýmek. Saýlaw ulgamyň umumy meýillerinde gizlenýär.
- Highokary täsirli kararlary gözegçiliksiz AI-e goýmak. Adam ygtyýary işe almak, wezipä bellemek we karz bermek ýaly kararlarda möhümdir.
- Öz içine alyjylygy talap etmegi ýatdan çykarmak. Soragda aç-açan haýyş etmeseňiz, model deslapky nagyşlara gaýdyp gelýär.
- "Maşyn aýtdy" diýmekdir. Karary ulanýan adam, netijeleri üçin jogapkärdir.
Adalat hemmeleriň jogapkärçiligidir
Düşünjä garşy göreşmek diňe bir tehniki toparyň işi däl. AI önümini ulanýan her bir işgäriň, önümiň adalatlydygyny ýa-da ýokdugyny sorag astyna alýar. “Maşyn maňa aýtdy” bahana däl; Karar berýän adam, netijeleri üçin jogapkärdir.
Gysgaça
- AI ikitaraplaýynlygyň esasy çeşmesi erbetlik däl, eýsem okuw maglumatlarynda bar bolan deňsizlik we stereotipler.
- Düşünmezlik; Işe almak, müşderi bilen aragatnaşyk, maliýe we baha bermek ýaly ugurlarda hakyky kanuny we abraýly töwekgelçiligi döredýär.
- Ikitaraplaýynlyk köplenç göze görünmeýär we ulgamyň umumy häsiýetine ornaşýar; Bir mysala seretmek ýalňyşdyr.
- Azaltmak: habardar boluň, karary iş bilen baglanyşykly ölçegler bilen çäklendiriň, öz içine alyjylygy aç-açan soraň, ýokary täsirli kararlara adam gözegçiligini goýuň.
- “Maşyn maňa aýtdy” bahana däl; Adalatlylyk, çykyşy ulanýanlaryň hemmesiniň jogapkärçiligidir.
Programma meselesi
AI-e “ideal [islendik hünär] işçini suratlandyryň” diýiň we çykyşda näme (belki zerur däl) çaklamalary belläň. Soňra ýokardaky “iş bilen baglanyşykly ölçegler” şablony bilen gaýtalaň we adalatlylyk üçin iki netijäni deňeşdiriň.
Barlag sanawy
- [] Ikitaraplaýyn esasy çeşmäniň okuw maglumatlarydygyna düşünýärin.
- [] Iş ýerinde ikitaraplaýynlygyň döredip biljek anyk töwekgelçiliklerini atlandyryp bilerin.
- [] Ikitaraplaýynlygyň köplenç görünmeýändigini we ýekeje mysala seretmegiň ýalňyşdygyny bilýärin.
- [] Çaltlyk bilen öz içine alyjylygy we iş bilen baglanyşykly ölçegleri sorap bilerin.
- [] Highokary täsirli kararlara adam gözegçiligini talap edýärin.