Fitimet:
- Njohja kur AI prodhon paragjykime përmes të dhënave të trajnimit, inkuadrimit, standardeve të dyfishta dhe lajkave
- Aftësia për të vendosur një kontroll kundër paragjykimeve me pyetje neutrale, diskriminim prova-stereotip dhe test me kënd të kundërt
- Aftësia për të përkthyer gjuhën stigmatizuese në gjuhë përshkruese dhe respektuese duke përdorur njohuritë kulturore si një pikë vëmendjeje dhe jo një rregull përfundimtar
Arsyeja e ekzistencës së punës sociale është drejtësia dhe dinjiteti njerëzor; Në themel të profesionit është angazhimi që çdo individ të jetë me vlerë të barabartë, të kundërshtohet diskriminimi dhe të mbrohen grupet vulnerabël. Inteligjenca artificiale mbart një rrezik që mund të dëmtojë në heshtje pikërisht këto vlera: paragjykim. AI mëson nga të dhënat historike; Nëse këto të dhëna përfshijnë pabarazi, stereotipe dhe diskriminim në shoqëri, AI i mëson ato dhe i riprodhon ato në një gjuhë të rrjedhshme, me pamje "objektive". Në duart e një punonjësi social, kjo mund të përkthehet në një vlerësim sistematikisht më negativ të një grupi, një stereotip të një familjeje ose një keqkuptim të një kulture. Në këtë njësi, ju do të mësoni të njihni paragjykimet e AI, të kontrolloni kundër tij dhe të përdorni AI me drejtësi dhe ndjeshmëri kulturore.
Një fakt që në fillim: AI nuk është neutrale, ajo duket neutrale. Paragjykimi më i rrezikshëm është ai i paraqitur me gjuhë të sigurt dhe profesionale; sepse pranohet pa diskutim. Detyra juaj si punonjës social është ta bëni të dukshëm këtë paragjykim të padukshëm dhe të monitoroni nëse rezultati bie ndesh me vlerat tuaja profesionale.
Nga vjen paragjykimi i AI dhe si duket?
- Paragjykimi i të dhënave të trajnimit. AI mëson nga tekstet që pasqyrojnë pabarazitë në shoqëri. Stereotipet rreth grupeve të caktuara etnike, të varfërve, personave me aftësi të kufizuara, lagjeve të caktuara ose gjinive mund të rrjedhin në rezultat.
- Paragjykimi i gjuhës dhe i kornizës. Inteligjenca artificiale mund të përcaktojë një grup si pasiv, "problematik" ose "objekt që ka nevojë për ndihmë"; një grup tjetër si lëndë. E njëjta sjellje mund të interpretohet si "kulturore" nga një grup dhe "problematike" nga një grup tjetër.
- Mungesa e përfaqësimit. AI mund të kuptojë në mënyrë të pasaktë ose sipërfaqësore grupet që janë të nënpërfaqësuara në të dhëna (popullata të vogla, raste të rralla).
- Lajka (sikofanti). AI tenton të konfirmojë pikëpamjen tuaj të nënkuptuar; Një pyetje e njëanshme sjell një konfirmim të njëanshëm.
Këto paragjykime janë veçanërisht të rrezikshme në punën sociale, sepse rezultati prek drejtpërdrejt jetën e njerëzve realë - një vlerësim, një raport, një referim.
Kujdes: "Inteligjenca artificiale e ka vlerësuar në atë mënyrë" është një shenjë paralajmëruese, jo një justifikim. Kur shihni rezultate që portretizojnë një grup ose individ negativisht, pyetja e parë është "a bazohet në prova apo bazohet në stereotipe?" duhet të jetë.
Hap pas hapi: auditimi kundër paragjykimeve
- Pyet neutral. Bëni pyetje që nuk nënkuptojnë ose nuk çojnë; Jo "shpjegoni pse kjo familje është neglizhuese", por "çfarë mund të nënkuptojnë këto vëzhgime, cilat janë shpjegimet alternative?" pyesni.
- Dalloni midis provave dhe stereotipeve. Për çdo deklaratë negative, pyesni: a bazohet në provat konkrete që kam përpara, apo bazohet në një supozim të përgjithshëm për një grup?
- Provoni nga këndi i kundërt. Konsideroni të njëjtën situatë për një grup tjetër: "Nëse klienti do të ishte nga një prejardhje e ndryshme socio-ekonomike/etnike, a do ta shkruante AI në të njëjtën gjuhë?"
- Kërkoni ndjeshmëri kulturore. Pyetni për kontekstin kulturor të një sjelljeje; por merrni njohuritë kulturore si një mundësi dhe një pikë kujdesi, jo një rregull absolut (shmangni stereotipin).
- Pastroni gjuhën e shtypjes. Përkthejeni atë në një gjuhë që përshkruan situatën, jo personin, dhe gjithashtu sheh pikat e forta.
tre mini kuti
Rasti 1 - Këndi i kundërt zbuloi paragjykim. Një ekspert i kërkoi UA të përmbledhë dy raste të ngjashme; i vetmi ndryshim ishte statusi socio-ekonomik i familjeve. YZ shkroi me tonin e "rrezik të lartë të neglizhencës" për familjen me të ardhura të ulëta dhe me tonin "prindi i detyruar të sillet" për familjen me të ardhura të larta. Eksperti e njohu këtë standard të dyfishtë dhe i distiloi të dy vlerësimet në gjuhë të barabartë të bazuar në prova.
Rasti 2 — Korrigjimi i keqinterpretimit kulturor. YZ e përcaktoi situatën e një fëmije që jeton me një familje të gjerë si "çështje kufijsh dhe një mjedis shtëpiak të përzier". Eksperti e dinte se brenda kontekstit kulturor të familjes, familja e gjerë ishte një burim i fuqishëm mbështetjeje dhe mbrojtjeje. AI e kishte kthyer një forcë kulturore në problem. Rishikimi është korrigjuar për të njohur këtë mbështetje si një burim.
Rasti 3 - Pyetja kryesore prodhoi paragjykim. "Shkruani pse ky baba nuk është i besueshëm," pyeti një praktikant AI. AI prodhoi një tekst që portretizon babain negativisht (lajka) pa asnjë provë. Mbikëqyrësi modifikoi pyetjen: "Cilat janë vëzhgimet për babain, cilat mund të jenë pikat e forta dhe të dobëta të tij?" Prodhimi është bërë i balancuar dhe i bazuar në dëshmi. Mësimi: pyetja e njëanshme prodhon përgjigje të njëanshme.
Katër shabllone të kopjueshëm
1) Kërkoni një vlerësim neutral dhe të balancuar:
Në përmbledhjen e vëzhgimeve të mëposhtme, ju paraqisni si pikat e forta ashtu edhe shqetësimet e mundshme në mënyrë të BALANCUR dhe bazuar VETËM në prova. Mos bëni asnjë konkluzion bazuar në stereotipe. Nëse një koment nuk mbështetet në vëzhgim, shkruani "prova të pamjaftueshme". Vëzhgimet: [ngjit vëzhgime]
2) Kontrolli i paragjykimit (testi i këndit të kundërt):
Shikoni tekstin e rishikimit më poshtë. A ka deklarata që përcjellin një stereotip të pabazuar për shkak të statusit socio-ekonomik, etnisë, fesë, gjinisë, aftësisë së kufizuar ose lagjes së klientit? Për secilin, pyesni: "A do të shkruhej kjo në të njëjtën gjuhë nëse klienti ishte nga një grup tjetër?" Shënoni fjalitë problematike. Teksti: [ngjit tekstin]
3) Konteksti kulturor (jo stereotip):
Jepni MUNDËSI për atë që sjellja/situata e mëposhtme mund të nënkuptojë në kontekste të ndryshme kulturore. Jepini këto si pika që duhen marrë parasysh, jo si rregulla absolute; Theksoni se ka dallime individuale në çdo komunitet. Mos përgjithësoni për një grup të vetëm. Situata: [shkruaj situatën]
4) Pastrimi i gjuhës së shtypjes:
Në tekstin e mëposhtëm, gjeni mbiemra që gjykojnë ose stigmatizojnë personin (p.sh., "neglizhues", "jo bashkëpunues", "problematik"). Për secilin, zëvendësoni të njëjtin fakt me një alternativë që është përshkruese, respektuese dhe që njeh pikat e forta. Shtimi i informacionit të ri. Teksti: [ngjit tekstin]
Prompt i dobët / Prompt i fortë
Njoftim i dobët:
Shpjegoni pse kjo familje është e pamjaftueshme në rritjen e fëmijëve.
Kjo pyetje supozon rezultatin që në fillim ("i pamjaftueshëm"). AI, me tendencën e saj për lajka, do të prodhojë një tekst pa prova dhe të njëanshëm që konfirmon këtë supozim. Nëse pyetja është e njëanshme, edhe përgjigja do të jetë e njëanshme.
Njoftim i fuqishëm:
Bazuar në vëzhgimet e mëposhtme, rendisni si pikat e forta të rritjes së fëmijëve, ashtu edhe fushat e shqetësimit të kësaj familjeje në një mënyrë të BALANÇUAR dhe vetëm me dëshmi. Mos e supozoni rezultatin nga fillimi; Nëse provat janë të pamjaftueshme, deklarojeni. Shmangni stereotipet. Vëzhgimet: [ngjisni vëzhgimet]
Dallimi: një pyetje e ekuilibruar që nuk supozon rezultatin dhe kërkon prova parandalon paragjykimet në radhë të parë.
Llojet e paragjykimeve dhe kundërmasave
Lloji i paragjykimit
Si duket
kundërmasa
të dhënat e trajnimit
stereotip grupor
Dallimi provë-model
inkuadrimi
Gjuha pasive/negative
Gjuhë e ekuilibruar, me në qendër lëndën
standarde të dyfishta
E njëjta sjellje, ton të ndryshëm
testi i këndit të kundërt
verbëria kulturore
Shndërrimi i pushtetit kulturor në problem
Pyetje e kontekstit kulturor
lajka
konfirmoni nënkuptimin
Mos bëni pyetje neutrale
mungesa e përfaqësimit
Sipërfaqësor/keqkuptim
Konfirmim lokal/ekspert
Gabimet e zakonshme
- Bërja e pyetjeve me paragjykime. Një pyetje që supozon një përfundim prodhon një përgjigje të njëanshme; problem neutral.
- Duke u mbështetur në gjuhën e sigurt. Toni profesional nuk e bën të saktë paragjykimin; shikoni provat.
- Duke e konsideruar njohurinë kulturore si një rregull përfundimtar. Merrni atë si një pikë mundësie dhe vëmendjeje; Shmangni stereotipet.
- Duke mos vënë re standardet e dyfishta. Provoni se si shkruhet e njëjta sjellje në grupe të ndryshme.
- Gabimi i vulës si provë. Është një gjykim “i pakujdesshëm”; Përshkruani fenomenin, mos e gjykoni personin.
Në përmbledhje
AI nuk është neutrale, duket neutrale; Ai riprodhon pabarazitë dhe stereotipet në të dhënat arsimore në një gjuhë të rrjedhshme. Në punën sociale, kjo mund të çojë në vlerësime të padrejta të njerëzve të vërtetë. Njihni paragjykimet (të dhënat e trajnimit, inkuadrimi, standardet e dyfishta, verbëria kulturore, lajkat), kontrolloni kundër tij (pyetje neutrale, ndarje e modelit të provave, testim këndor, ndjeshmëri kulturore, pastrim stigmaje) dhe filtrojeni çdo rezultat përmes vlerave të profesionit të drejtësisë dhe nderit. Filtri i fundit etik jeni gjithmonë ju.
Detyra e aplikimit
Kërkojini AI të përmbledhë të njëjtin grup vëzhgimesh imagjinare me dy profile të ndryshme grupi (p.sh. status të ndryshëm socio-ekonomik) dhe krahasoni me "testin e këndit të kundërt" nëse tonet/gjuha ndryshojnë. Pastaj provoni një pyetje neutrale me një pyetje të njëanshme me vetëdije (“shpjegoni pse është e pamjaftueshme”) dhe shqyrtoni ndryshimin në rezultate. Së fundi, aplikoni shabllonin "pastrimi i gjuhës së ujëshënuesit" në një tekst.
listë kontrolli
- [ ] Unë i kornizova pyetjet e mia në mënyrë neutrale, pa supozuar rezultatin.
- [ ] Kontrollova çdo deklaratë negative duke përdorur dallimin dëshmi-stereotip.
- [ ] Kam kontrolluar standardin e dyfishtë me testin e këndit të kundërt.
- [ ] Kam përdorur njohuritë kulturore si një pikë kujdesi, jo një rregull absolut.
- [ ] E zëvendësova gjuhën stigmatizuese me gjuhë përshkruese dhe respektuese.