Hagnaður:
- Að viðurkenna þegar gervigreind framkallar hlutdrægni með þjálfunargögnum, rammgerð, tvöföldum stöðlum og smjaðri
- Hæfni til að koma á eftirliti gegn hlutdrægni með hlutlausum spurningum, sönnunarhæfni-staðalímynda mismunun og öfughornsprófi
- Hæfni til að þýða stigmatískt tungumál yfir á lýsandi og virðingarvert tungumál með því að nota menningarlega þekkingu sem athyglispunkt frekar en endanlega reglu
Tilvera félagsráðgjafar er réttlæti og manngildi; Kjarni fagsins er skuldbinding um að hver einstaklingur sé jafnverðmætur, mismunun sé andvíg og viðkvæmir hópar verndaðir. Gervigreind felur í sér áhættu sem getur í hljóði skaðað einmitt þessi gildi: hlutdrægni. gervigreind lærir af sögulegum gögnum; Ef þessi gögn innihalda ójöfnuð, staðalmyndir og mismunun í samfélaginu, lærir gervigreindin þau og endurskapar þau á reiprennandi „hlutlægu“ tungumáli. Í höndum félagsráðgjafa getur þetta skilað sér í kerfisbundið neikvæðara mati á hópi, staðalmynd fjölskyldu eða misskilningi á menningu. Í þessari einingu muntu læra að þekkja hlutdrægni í gervigreind, stjórna þér gegn henni og nota gervigreind af sanngirni og menningarlegri næmni.
Staðreynd frá upphafi: gervigreind er ekki hlutlaus, hún virðist hlutlaus. Hættulegasta hlutdrægnin er sú sem er sett fram á öruggu og faglegu máli; vegna þess að það er samþykkt án efa. Starf þitt sem félagsráðgjafi er að gera þessa ósýnilegu hlutdrægni sýnilega og fylgjast með því hvort framleiðslan stangist á við fagleg gildi þín.
Hvaðan kemur hlutdrægni í gervigreind og hvernig lítur hún út?
- Þjálfunargögn hlutdrægni. Gervigreind lærir af textum sem endurspegla ójöfnuð í samfélaginu. Staðalmyndir um ákveðna þjóðernishópa, fátæka, fatlaða, ákveðin hverfi eða kyn geta lekið inn í framleiðsluna.
- Mál og ramma hlutdrægni. gervigreind getur sett hóp sem óvirkan, „vandræða“ eða „hlut sem þarfnast hjálpar“; annan hóp sem viðfangsefni. Sömu hegðun getur verið túlkuð sem "menningarleg" af einum hópi og "vandamál" af öðrum hópi.
- Skortur á fulltrúa. Gervigreind getur skilið hópa sem eru vantáknaðir í gögnunum á ónákvæman eða yfirborðslegan hátt (litlir íbúar, sjaldgæf tilvik).
- Smjaður (smáður). AI hefur tilhneigingu til að staðfesta óbeina skoðun þína; Hlutdræg spurning færir hlutdræga staðfestingu.
Þessar hlutdrægni eru sérstaklega hættulegar í félagsráðgjöf vegna þess að framleiðslan snertir beint líf raunverulegs fólks - mat, skýrsla, tilvísun.
Varúð: „Gigreindin mat það þannig“ er viðvörunarmerki, ekki réttlæting. Þegar þú sérð úttak sem sýnir hóp eða einstakling á neikvæðan hátt er fyrsta spurningin „er hún byggð á sönnunargögnum eða byggð á staðalímyndum? ætti að vera.
Skref fyrir skref: endurskoðun gegn hlutdrægni
- Spyrðu hlutlausan. Spyrðu spurninga sem gefa ekki í skyn eða leiða; Ekki „útskýra hvers vegna þessi fjölskylda er vanræksla,“ heldur „hvað gætu þessar athuganir þýtt, hverjar eru aðrar skýringar? spyrja.
- Gerðu greinarmun á sönnunargögnum og staðalímynd. Fyrir hverja neikvæða fullyrðingu skaltu spyrja: er hún byggð á áþreifanlegum sönnunargögnum fyrir framan mig, eða er hún byggð á almennum forsendum um hóp?
- Prófaðu frá gagnstæðu sjónarhorni. Íhugaðu sömu aðstæður fyrir annan hóp: "Ef viðskiptavinurinn væri af öðrum félagshagfræðilegum / þjóðernislegum bakgrunni, myndi gervigreindin skrifa það á sama tungumáli?"
- Leitaðu eftir menningarnæmni. Spyrðu um menningarlegt samhengi hegðunar; en taktu menningarlega þekkingu sem möguleika og varúð, ekki algera reglu (forðastu staðalmynd).
- Hreinsaðu áletrunartunguna. Þýddu það á tungumál sem lýsir aðstæðum, ekki manneskjunni, og sér líka styrkleikana.
þrjú smámál
Tilfelli 1 - Andstæða hornið leiddi í ljós hlutdrægni. Sérfræðingur lét gervigreind draga saman tvö svipuð tilvik; eini munurinn var félagshagfræðileg staða fjölskyldnanna. YZ skrifaði í tóninum „mikil hætta á vanrækslu“ fyrir lágtekjufjölskylduna og í tóninum „foreldri neydd til að haga sér“ fyrir hátekjufjölskylduna. Sérfræðingurinn viðurkenndi þetta tvöfalda siðgæði og eimaði bæði matin í gagnreynt, jafnt tungumál.
Mál 2 - Menningarleg rangtúlkun leiðrétt. YZ setti inn aðstæður barns sem býr hjá stórfjölskyldu sem „landamæramál og blandað heimilisumhverfi“. Sérfræðingurinn vissi að innan menningarsamhengis fjölskyldunnar var stórfjölskyldan öflug uppspretta stuðnings og verndar. AI hafði breytt menningarlegu afli í vandamál. Yfirferðin hefur verið leiðrétt til að viðurkenna þennan stuðning sem úrræði.
Mál 3 - Leiðandi spurning framkallaði hlutdrægni. „Skrifaðu niður hvers vegna þessi faðir er ótrúverðugur,“ spurði nemi við gervigreindina. Gervigreindin framleiddi texta sem sýnir föðurinn neikvæðan (smjaður) án nokkurra sannana. Leiðbeinandinn breytti spurningunni: „Hverjar eru athuganir á föðurnum, hverjir gætu verið styrkleikar hans og veikleikar? Framleiðslan er orðin jafnvægi og gagnreynd. Lexía: hlutdræg spurning gefur hlutdrægt svar.
Fjögur afritanleg sniðmát
1) Biddu um hlutlaust, yfirvegað mat:
Þegar þú dregur saman eftirfarandi athuganir setur þú fram bæði mögulega styrkleika og hugsanlegar áhyggjur á JAFNVÆRÐ hátt og byggir AÐEINS á sönnunargögnum. Ekki draga neinar ályktanir út frá staðalímyndum. Ef athugasemd byggir ekki á athugun skaltu skrifa "ófullnægjandi sönnunargögn." Athuganir: [líma athuganir]
2) Athugun á hlutdrægni (prófun á gagnstæðu horni):
Skoðaðu umsögnina hér að neðan. Eru til staðhæfingar sem miðla órökstuddri staðalímynd vegna félags-efnahagslegrar stöðu skjólstæðings, þjóðernis, trúarbragða, kyns, fötlunar eða hverfis? Fyrir hvern, spyrðu: "Væri þetta skrifað á sama tungumáli ef viðskiptavinurinn væri úr öðrum hópi?" Merktu vandamálasetningar.Texti: [líma texta]
3) Menningarlegt samhengi (ekki staðalímynd):
Gefðu MÖGULEIKA á því hvað eftirfarandi hegðun/aðstæður gætu þýtt í mismunandi menningarlegu samhengi. Gefðu þetta sem stig til að íhuga, ekki sem algerar reglur; Leggðu áherslu á að það er einstaklingsmunur í hverju samfélagi. Ekki alhæfa um einn hóp. Staða: [skrifaðstæður]
4) Áprentun á tunguhreinsun:
Í textanum hér að neðan, finndu lýsingarorð sem dæma eða stimpla manneskjuna (t.d. „vanrækslu“, „ósamvinnuþýð“, „vandamál“). Fyrir hvern, skiptu sömu staðreynd út fyrir valkost sem er lýsandi, virðingarfullur og viðurkennir styrkleikana. Bætir nýjum upplýsingum við.Texti: [líma texta]
Veik kvaðning / Sterk kvaðning
Veik kvaðning:
Útskýrðu hvers vegna þessi fjölskylda er ófullnægjandi í uppeldi barna.
Þessi spurning gerir ráð fyrir niðurstöðunni frá upphafi ("ófullnægjandi"). AI, með tilhneigingu til smjaðurs, mun framleiða sönnunarlausan og hlutdrægan texta sem staðfestir þessa forsendu. Ef spurningin er hlutdræg verður svarið einnig hlutdrægt.
Öflug tilvitnun:
Byggt á eftirfarandi athugunum, skráðu bæði styrkleika þessarar fjölskyldu uppeldis og áhyggjuefni á JAFNVELNUM og eingöngu sönnunargögnum. Ekki gera ráð fyrir niðurstöðunni frá upphafi; Ef sönnunargögn eru ófullnægjandi, segðu það. Forðastu staðalmyndir. Athuganir: [líma athuganir]
Munurinn: yfirveguð spurning sem gerir ekki ráð fyrir niðurstöðunni og biður um sönnunargögn kemur í veg fyrir hlutdrægni í fyrsta lagi.
Tegundir hlutdrægni og mótvægisaðgerða
Tegund hlutdrægni
Hvernig lítur það út
mótvægisaðgerð
þjálfunargögn
staðalímynd hópsins
Aðgreining á sönnunarmynstri
innrömmun
Óvirkt/neikvætt tungumál
Jafnvægi, efnismiðað tungumál
tvöfalt staðall
Sama hegðun, annar tónn
öfugt hornpróf
menningarblinda
Að breyta menningarlegu valdi í vandamál
Spurning um menningarlegt samhengi
smjaður
staðfesta vísbendingu
Ekki spyrja hlutlausra spurninga
skortur á fulltrúa
Yfirborðslegur/misskilningur
Staðfesting á staðnum/sérfræðingi
Algeng mistök
- Að spyrja fordómafullra spurninga. Spurning sem gerir ráð fyrir niðurstöðu gefur hlutdrægt svar; hlutlaus vandamál.
- Að treysta á öruggt tungumál. Faglegur tónn gerir hlutdrægni ekki réttan; skoða sönnunargögnin.
- Að líta á menningarþekkingu sem endanlega reglu. Taktu það sem möguleika og athygli; Forðastu staðalmyndir.
- Tek ekki eftir tvísiðanum. Prófaðu hvernig sama hegðun er skrifuð í mismunandi hópum.
- Að misskilja stimpilinn sem sönnunargögn. Það er „gáleysislegur“ dómur; Lýstu fyrirbærinu, ekki dæma manneskjuna.
Í stuttu máli
AI er ekki hlutlaust, það virðist hlutlaust; Það endurskapar ójöfnuð og staðalmyndir í fræðslugögnum á reiprennandi tungumáli. Í félagsráðgjöf getur þetta leitt til ósanngjarnra mats á raunverulegu fólki. Viðurkenna hlutdrægni (þjálfunargögn, rammgerð, tvöfalt siðgæði, menningarblindu, smjaður), athugaðu það (hlutlaus spurning, aðskilnaður sönnunarmynsturs, hornprófun, menningarnæmni, hreinsun fordóma) og síaðu hverja útkomu í gegnum gildi fagsins um sanngirni og heiður. Síðasta siðferðilega sían ert alltaf þú.
Umsóknarverkefni
Láttu gervigreindina draga saman sama mengi skáldaðra athugana með tveimur mismunandi hópsniðum (t.d. mismunandi félagshagfræðilega stöðu) og bera saman við „öfughornsprófið“ hvort tónar/tungumál séu mismunandi. Prófaðu síðan hlutlausa spurningu með meðvitað hlutdrægri spurningu („útskýrðu hvers vegna hún er ófullnægjandi“) og skoðaðu muninn á niðurstöðum. Að lokum skaltu nota „vatnsmerkismálhreinsun“ sniðmátið á texta.
gátlisti
- [ ] Ég setti inn spurningar mínar hlutlaust án þess að gera ráð fyrir niðurstöðunni.
- [ ] Ég athugaði hverja neikvæða fullyrðingu með því að nota sönnunargreininguna á staðalmynd.
- [ ] Ég athugaði tvöfaldan staðal með öfugu hornprófinu.
- [ ] Ég notaði menningarlega þekkingu sem varúðarsjónarmið, ekki algera reglu.
- [ ] Ég skipti út stimplandi tungumáli fyrir lýsandi, virðingarfullt tungumál.