Fitimet:
- Kupton se të dhënat janë burimi kryesor i paragjykimit të AI
- Njeh rreziqet që paragjykimet mund të krijojnë në vendin e punës
- Zbaton masat që mund të merren për të reduktuar paragjykimet
AI shfaqet si një makinë neutrale, objektive; por e vërteta është shumë më komplekse. Sistemet e AI mësojnë paragjykimet njerëzore në të dhënat mbi të cilat janë trajnuar dhe ndonjëherë i zmadhojnë dhe riprodhojnë ato. Paragjykimi është tendenca e një sistemi për të favorizuar ose përjashtuar në mënyrë sistematike njerëz ose grupe të caktuara. Në këtë njësi do të shqyrtojmë se nga vijnë paragjykimet, çfarë rreziqesh konkrete paraqet në vendin e punës dhe çfarë mund të bëhet kundër tyre. Kjo nuk është vetëm një çështje "etike"; Është një çështje praktike biznesi që mbart rrezik ligjor, tregtar dhe reputacion kur keqmenaxhohet.
Nga vjen paragjykimi?
Informacioni i një modeli gjuhësor vjen nga tekstet e mëdha që prodhojnë njerëzit. Këto tekste përmbajnë të gjitha njohuritë e shoqërisë njerëzore, si dhe të gjitha stereotipet e saj, disbalancat dhe pabarazitë historike. Modeli nuk bën dallimin midis modeleve "të mira" dhe "të këqija"; Ai mëson çdo gjë që është në të dhëna.
Shembull: Nëse profesione të caktuara lidhen kryesisht me një gjini në tekstet e kaluara (p.sh. "infermiere" me femër, "inxhinier" me mashkull), modelja mëson këtë lidhje. Ajo mund të priret të zgjedhë një përemër mashkullor kur plotëson fjalinë: "Një inxhinier hyri në zyrë, ai..." Modeli nuk është keqdashës; ai thjesht pasqyron mosbalancimin në të dhëna.
Pra, paragjykimi është kryesisht për shkak të të qenit një pasqyrë e të dhënave, jo një gabim i ndërgjegjshëm programimi. Shpjegimi i problemit si "dikush ka shkruar kod të keq" është mashtruese; Problemi është se çekuilibri në botë bartet në të dhëna dhe prej andej në model.
Rreziqet e prekshme në vendin e punës
zonë
Rreziku i paragjykimit
dëm i mundshëm
rekrutimi
Mësoni tendencën në të dhënat historike dhe eliminoni grupe të caktuara
Rasti juridik, humbja e aftësisë
Komunikimi me klientët
Gjuhë stereotipike ose përjashtuese
Humbja e reputacionit, largimi i klientit
krediti/rreziku
Përjetësimi i pabarazive të së shkuarës
Diskriminimi, sanksionet
Vlerësimi i performancës
Mbajtja e njëanshmërisë në të dhëna në vendim
Promovim/bonus i padrejtë
Përmbajtja/marketing
Bëjeni grupin specifik të padukshëm
Dëmtimi i markës
Tre Mini Rastet
Rasti 1 — Reklama po ngushtonte gjuhën. Një kompani filloi të printonte postime pune me AI. Pas pak u vu re se reklamat apelonin në një profil të caktuar me shprehje si “i ri dhe dinamik”, “shënjestër agresiv” dhe në këtë mënyrë u ul larmia e aplikacioneve. Ekipi shtoi një hap që kontrollon çdo postim për "gjuhë gjithëpërfshirëse"; Diversiteti i aplikantëve është rritur ndjeshëm brenda pak muajsh.
Rasti 2 - Paragjykimi i fshehur në përmbledhje. Një menaxher kërkoi që AI të përmbledhë reagimet e 30 punonjësve. Përmbledhja dukej se përqendronte komentet negative në një ekip të caktuar; ndërsa në të dhënat e papërpunuara situata ishte e balancuar. Modelja ekzagjeroi disa deklarata të forta. Kur menaxheri u kthye dhe kontrolloi të dhënat e papërpunuara, ai shmangu të bënte një keqkuptim.
Rasti 3 — Mandati i gjithëpërfshirjes funksionoi. Një ekip marketingu standardizoi udhëzimin në kopjen e fushatës për të "përdorur një gjuhë gjithëpërfshirëse, jo specifike të gjinisë/moshës/grupit dhe renditni supozimet tuaja në fund". Shprehjet formulaike në tekstet e prodhuara janë ulur dukshëm; ekipit nuk iu desh të korrigjonte manualisht çdo rezultat pa pushim.
Pse është e vështirë të njihet paragjykimi?
Gjëja më tinëzare në lidhje me paragjykimin është se ai shpesh është i padukshëm. Prodhimi duket i qetë, profesional dhe i arsyeshëm; Tendenca brenda saj bëhet e dukshme vetëm kur shikon me kujdes ose matë ndikimin e saj në grupe të ndryshme. Është mashtruese të thuash "këtu nuk ka paragjykim" duke parë një shembull të vetëm; Paragjykimi shpesh manifestohet jo në shembuj individualë, por në tendencën e përgjithshme të sistemit.
Kujdes: Supozimi se "Unë jam neutral, prandaj mjeti që përdor është gjithashtu neutral" është i rrezikshëm. Neutraliteti i mjetit varet nga të dhënat e trajnimit dhe nga mënyra se si është inspektuar, jo nga qëllimi juaj.
Prompt i dobët / Prompt i fortë
Prompt i dobët: Përshkruani kandidatin ideal për këtë pozicion.
Rezultati: Modeli mund të mbështetet në stereotipe dhe të paraqesë një profil të veçantë si "ideal".
Prompt i fortë: Rendisni vetëm kompetencat e matshme për këtë pozicion që janë vërtet të rëndësishme për punën. Mos përdorni asnjë karakteristikë që nuk ka lidhje me punën, si gjinia, mosha, statusi martesor, vendlindja. Së fundi, shkruani atë që keni lënë jashtë nën titullin "supozimet që i shmang".
Rezultati: Vlerësimi është i kufizuar në kritere të lidhura me punën, veçoritë e parëndësishme janë përjashtuar.
Modele për të reduktuar paragjykimet
Kontrolloni tekstin më poshtë për gjuhën gjithëpërfshirëse. Shënoni deklaratat që nënkuptojnë gjininë, moshën, përkatësinë etnike, aftësinë e kufizuar ose një grup specifik dhe sugjeroni një alternativë neutrale për secilin. Teksti: [ngjit këtu]
Bëjeni këtë vlerësim vetëm në bazë të këtyre kritereve objektive: [kriteret]. Mos merrni parasysh asnjë informacion tjetër përveç këtyre kritereve (emri, gjinia, mosha).
Rendisni nën një titull të veçantë në fund cilat supozime keni bërë në tekstin që keni prodhuar. Kështu që unë mund të shoh paragjykime të fshehura.
Vlerësoni këtë përmbajtje me sytë e tre grupeve të ndryshme të lexuesve dhe shënoni çdo deklaratë që mund të ofendojë/ofendojë ndonjërin prej tyre. Përmbajtja: [ngjit këtu]
Gabimet e zakonshme
Gabimet e zakonshme
- Duke supozuar dalje "neutrale" të AI. Edhe pse prodhimi duket neutral, ai mund të ketë paragjykim në të dhëna; Kërkohet mbikëqyrje aktive.
- Duke parë një shembull dhe duke thënë "nuk ka paragjykim". Në tendencën e përgjithshme të sistemit fshihet paragjykimi.
- Lënia e vendimmarrjes me ndikim të lartë tek AI i pambikëqyrur. Autoriteti njerëzor është thelbësor në vendime të tilla si rekrutimi, promovimi dhe kreditimi.
- Duke harruar të kërkoni gjithëpërfshirje. Nëse nuk e kërkoni në mënyrë eksplicite në prompt, modeli kthehet në modelet e paracaktuara.
- Do të thotë "Makina e tha atë". Për pasojat përgjigjet edhe personi që përdor vendimin.
Drejtësia është përgjegjësi e të gjithëve
Luftimi i paragjykimeve nuk është vetëm punë e ekipit teknik. Çdo punonjës që përdor rezultatin e AI ka përgjegjësinë të pyesë nëse ai rezultat është i drejtë. "Makina më tha" nuk është një justifikim; Personi që merr vendim është gjithashtu përgjegjës për pasojat.
Në përmbledhje
- Burimi kryesor i paragjykimit të AI nuk është keqdashja, por pabarazitë ekzistuese dhe stereotipet në të dhënat e trajnimit.
- Paragjykimi; Krijon rrezik real ligjor dhe reputacion në fusha të tilla si rekrutimi, komunikimi me klientët, financat dhe vlerësimi.
- Paragjykimi është shpesh i padukshëm dhe i ngulitur në disponimin e përgjithshëm të sistemit; Të shikosh një shembull të vetëm është mashtruese.
- Për të reduktuar: jini të vetëdijshëm, kufizoni vendimet në kriteret e lidhura me punën, kërkoni në mënyrë eksplicite përfshirjen, vendosni kontrollin njerëzor në vendimet me ndikim të lartë.
- "Makina më tha" nuk është një justifikim; Drejtësia është përgjegjësi e secilit që përdor produktin.
Detyra e Aplikimit
Tregojini AI “përshkruani një punëtor ideal [çdo profesioni]” dhe shënoni cilat supozime (ndoshta të panevojshme) janë bërë në rezultat. Më pas përsërisni me shabllonin "kriteret e lidhura me punën" më lart dhe krahasoni dy rezultatet për drejtësi.
Lista kontrolluese
- [ ] Unë e kuptoj se burimi kryesor i paragjykimeve janë të dhënat e trajnimit.
- [ ] Mund të përmend rreziqet konkrete që mund të paraqesin paragjykimet në vendin e punës.
- [ ] E di që paragjykimi është shpesh i padukshëm dhe se shikimi i një shembulli të vetëm është mashtrues.
- [ ] Unë mund të kërkoj qartë përfshirjen dhe kriteret e lidhura me punën në prompt.
- [ ] Kërkoj mbikëqyrje njerëzore të vendimeve me ndikim të lartë.