Qligħ:
- Jifhem li d-dejta hija s-sors primarju tal-preġudizzju tal-AI
- Jirrikonoxxi r-riskji li l-preġudizzju jista' joħloq fuq il-post tax-xogħol
- Jimplimenta miżuri li jistgħu jittieħdu biex jitnaqqas il-preġudizzju
AI tidher bħala magna newtrali u oġġettiva; iżda l-verità hija ħafna aktar kumplessa. Is-sistemi tal-IA jitgħallmu l-preġudizzji umani fid-dejta li huma mħarrġa fuqha u xi drabi jkabbruhom u jirriproduċuhom. Il-preġudizzju huwa t-tendenza ta’ sistema li tiffavorixxi jew teskludi b’mod sistematiku ċerti nies jew gruppi. F’din l-unità, se nikkunsidraw minn fejn ġej il-preġudizzju, x’riskji konkreti joħloq fuq il-post tax-xogħol, u x’jista’ jsir kontrih. Din mhix biss kwistjoni ta’ “etika”; Hija kwistjoni kummerċjali prattika li ġġorr riskju legali, kummerċjali u għar-reputazzjoni meta tkun immaniġġjata ħażin.
Minn Fejn Jiġi Preġudizzju?
L-informazzjoni ta 'mudell tal-lingwa ġejja mit-testi enormi li jipproduċu l-bnedmin. Dawn it-testi fihom l-għarfien kollu tas-soċjetà umana, kif ukoll l-isterjotipi, l-iżbilanċi u l-inugwaljanzi storiċi kollha tagħha. Il-mudell ma jiddistingwix bejn mudelli "tajbin" u "ħżiena"; Jitgħallem dak kollu li hemm fid-data.
Eżempju: Jekk ċerti professjonijiet kienu assoċjati b'mod predominanti ma' sess f'testi tal-passat (eż. "infermiera" ma' mara, "inġinier" mal-irġiel), il-mudell jitgħallem din l-assoċjazzjoni. Hija għandha t-tendenza li tagħżel pronom maskili meta tlesti s-sentenza, "Inġinier daħal fl-uffiċċju, hu..." Il-mudell mhuwiex malizzjuż; tirrifletti biss l-iżbilanċ fid-dejta.
Allura l-preġudizzju huwa l-aktar minħabba li huwa mera tad-dejta, mhux żball ta 'programmazzjoni konxja. Li tispjega l-problema bħala "xi ħadd kiteb kodiċi ħażin" huwa qarrieqi; Il-problema hija li l-iżbilanċ fid-dinja jinġarr fid-dejta u minn hemm fil-mudell.
Riskji tanġibbli fil-Post tax-Xogħol
żona
Riskju ta' preġudizzju
ħsara possibbli
reklutaġġ
Tgħallem it-tendenza fid-dejta storika u elimina ċerti gruppi
Każ legali, telf ta' ħila
Komunikazzjoni tal-klijent
Lingwaj stereotipiċi jew ta' esklużjoni
Telf ta 'reputazzjoni, titjira tal-klijenti
kreditu/riskju
Jipperpetwaw l-inugwaljanzi tal-passat
Diskriminazzjoni, sanzjonijiet
Evalwazzjoni tal-prestazzjoni
It-twettiq tal-preġudizzju fid-dejta fid-deċiżjoni
Promozzjoni/bonus inġusta
Kontenut/kummerċjalizzazzjoni
Agħmel grupp speċifiku inviżibbli
Ħsara tad-ditta
Tliet Każijiet Mini
Każ 1 — Ir-reklam kien qed jonqos il-lingwa. Kumpanija bdiet tipprintja impjiegi bl-AI. Wara ftit, ġie nnutat li r-reklami appellaw għal ċertu profil b’espressjonijiet bħal “żagħżugħ u dinamiku”, “mira aggressiva” u b’hekk naqqsu d-diversità tal-applikazzjonijiet. It-tim żied pass li jiċċekkja kull kollokament għal "lingwaġġ inklużiv"; Id-diversità tal-applikanti żdiedet b'mod sinifikanti fi żmien ftit xhur.
Każ 2 — Preġudizzju moħbi fis-sommarju. Maniġer wieħed kellu l-AI tiġbor fil-qosor 30 feedback impjegat. Ir-recap deher li jikkonċentra l-kummenti negattivi fuq tim wieħed partikolari; billi fid-data mhux ipproċessata s-sitwazzjoni kienet ibbilanċjata. Il-mudell esaġerat diversi dikjarazzjonijiet qawwija. Meta l-maniġer mar lura u ċċekkja d-dejta mhux ipproċessata, evita li jagħmel kunċett żbaljat.
Każ 3 — Il-mandat tal-inklussività ħadem. Tim wieħed tal-marketing standardizza l-istruzzjoni fil-kopja tal-kampanja biex "uża lingwaġġ inklużiv, mhux speċifiku tas-sess/età/grupp u telenka s-suppożizzjonijiet tiegħek fl-aħħar." L-espressjonijiet formuli fit-testi prodotti naqsu notevolment; it-tim ma kellux għalfejn jikkoreġi manwalment kull output għal darb'oħra.
Għaliex Huwa Diffiċli Li Tirrikonoxxi Preġudizzju?
L-aktar ħaġa insidjuża dwar il-preġudizzju hija li ħafna drabi huwa inviżibbli. L-output jidher bla xkiel, professjonali u raġonevoli; It-tendenza fi ħdanha tidher biss meta wieħed iħares bir-reqqa jew ikejjel l-impatt tagħha fuq gruppi differenti. Huwa qarrieqi li tgħid "hawn l-ebda preġudizzju" billi tħares lejn eżempju wieħed; Il-preġudizzju spiss jimmanifesta ruħu mhux f'eżempji individwali iżda fit-tendenza ġenerali tas-sistema.
Attenzjoni: Is-suppożizzjoni li "Jien newtrali, għalhekk l-għodda li nuża hija wkoll newtrali" hija perikoluża. In-newtralità tal-għodda tiddependi fuq id-dejta tat-taħriġ u kif tiġi spezzjonata, mhux fuq l-intenzjoni tiegħek.
Prompt Dgħajjef / Prompt Qawwija
Pront dgħajjef: Iddeskrivi l-kandidat ideali għal din il-pożizzjoni.
Riżultat: Il-mudell jista' jiddependi fuq sterjotipi u jippreżenta profil partikolari bħala "ideali".
Pront b'saħħtu: Elenka biss kompetenzi li jistgħu jitkejlu għal din il-pożizzjoni li huma verament rilevanti għax-xogħol. Tużax xi karatteristiċi li mhumiex relatati max-xogħol, bħal sess, età, stat ċivili, belt twelidha. Fl-aħħarnett, ikteb dak li ħallejt barra taħt l-intestatura "suppożizzjonijiet li nevita."
Riżultat: L-evalwazzjoni hija limitata għal kriterji relatati max-xogħol, karatteristiċi irrilevanti huma esklużi.
Mudelli biex Tnaqqas il-Preġudizzju
Iċċekkja t-test hawn taħt għal lingwaġġ inklużiv. Dikjarazzjonijiet tal-bandiera li jimplikaw sess, età, etniċità, diżabilità, jew grupp speċifiku u jissuġġerixxu alternattiva newtrali għal kull wieħed.Test: [pejst hawn]
Agħmel din l-evalwazzjoni bbażata biss fuq dawn il-kriterji oġġettivi: [kriterji]. Tqis ebda informazzjoni għajr dawn il-kriterji (isem, sess, età).
Elenka taħt intestatura separata fl-aħħar liema suppożizzjonijiet għamilt fit-test li pproduċijt. Allura nista' nara preġudizzji moħbija.
Evalwa dan il-kontenut permezz tal-għajnejn ta’ tliet gruppi differenti ta’ qarrejja u mmarka kwalunkwe dikjarazzjoni li tista’ toffendi/joffendi xi wieħed minnhom. Kontenut: [pejst hawn]
Żbalji Komuni
Żbalji komuni
- Jekk wieħed jassumi output AI "newtrali". Anke jekk l-output jidher newtrali, jista 'jġorr il-preġudizzju fid-dejta; Superviżjoni attiva hija meħtieġa.
- Ħarsa lejn eżempju wieħed u tgħid "m'hemm l-ebda bias". Il-preġudizzju huwa moħbi fit-tendenza ġenerali tas-sistema.
- It-teħid ta' deċiżjonijiet b'impatt għoli jitħalla f'idejn AI mhux sorveljata. L-awtorità umana hija essenzjali f'deċiżjonijiet bħal reklutaġġ, promozzjoni, u kreditu.
- Tinsa li titlob l-inklussività. Jekk ma titlobx b'mod espliċitu fil-pront, il-mudell jerġa 'lura għall-mudelli default.
- Ifisser "Il-magna qaletha." Il-persuna li tuża d-deċiżjoni hija wkoll responsabbli għall-konsegwenzi.
Il-ġustizzja hija r-Responsabbiltà ta’ Kulħadd
Il-ġlieda kontra l-preġudizzju mhux biss ix-xogħol tat-tim tekniku. Kull impjegat li juża l-output AI għandu r-responsabbiltà li jistaqsi jekk dak l-output huwiex ġust. "Il-magna qaltli" mhix skuża; Il-persuna li tieħu d-deċiżjoni hija wkoll responsabbli għall-konsegwenzi.
Fil-qosor
- Is-sors primarju tal-preġudizzju tal-AI mhuwiex il-malevolenza, iżda l-iżbilanċi u l-isterjotipi eżistenti fid-dejta tat-taħriġ.
- Preġudizzju; Joħloq riskju legali u ta' reputazzjoni reali f'oqsma bħar-reklutaġġ, il-komunikazzjonijiet tal-klijenti, il-finanzi u l-evalwazzjoni.
- Il-preġudizzju ħafna drabi huwa inviżibbli u inkorporat fid-dispożizzjoni ġenerali tas-sistema; Li wieħed iħares lejn eżempju wieħed huwa qarrieqi.
- Biex tnaqqas: kun konxju, tillimita d-deċiżjoni għal kriterji relatati max-xogħol, titlob b'mod espliċitu għall-inklussività, tpoġġi kontroll uman fuq deċiżjonijiet b'impatt għoli.
- "Il-magna qaltli" mhix skuża; Il-ġustizzja hija r-responsabbiltà ta' kull min juża l-output.
Kompitu tal-Applikazzjoni
Għid lill-AI "iddeskrivi ħaddiem ideali [kwalunkwe xogħol]" u mmarka liema suppożizzjonijiet (forsi mhux meħtieġa) saru fl-output. Imbagħad irrepeti bil-mudell "kriterji relatati mal-impjieg" hawn fuq u qabbel iż-żewġ outputs għall-ġustizzja.
Lista ta' kontroll
- [ ] Nifhem li s-sors primarju ta' preġudizzju huwa d-dejta tat-taħriġ.
- [ ] Kapaċi nsemmi r-riskji konkreti li l-preġudizzju fuq il-post tax-xogħol jista' joħloq.
- [ ] Naf li l-preġudizzju ħafna drabi huwa inviżibbli u li meta wieħed iħares lejn eżempju wieħed huwa qarrieqi.
- [ ] Kapaċi nitlob b'mod ċar għall-inklussività u l-kriterji relatati max-xogħol fil-pront.
- [ ] Neħtieġ sorveljanza umana ta' deċiżjonijiet b'impatt għoli.