Kasu:
- Tuvastamine, millal tehisintellekt tekitab koolitusandmete, raamimise, topeltstandardite ja meelituste kaudu kallutatust
- Suutlikkus luua kontroll erapoolikuste vastu neutraalsete küsimuste, tõendite-stereotüübi diskrimineerimise ja vastupidise nurga testiga
- Võimalus tõlkida häbimärgistav keel kirjeldavaks ja lugupidavaks keeleks, kasutades kultuuriteadmisi tähelepanupunktina, mitte lõpliku reeglina
Sotsiaaltöö raison d'être on õiglus ja inimväärikus; Elukutse tuumaks on kohustus, et kõik indiviidid on võrdsed, diskrimineerimise vastu võitlemine ja haavatavad rühmad on kaitstud. Tehisintellektiga kaasneb oht, mis võib vaikselt kahjustada just neid väärtusi: eelarvamus. AI õpib ajaloolistest andmetest; Kui need andmed hõlmavad ebavõrdsust, stereotüüpe ja diskrimineerimist ühiskonnas, õpib tehisintellekt need selgeks ja reprodutseerib need ladusas, "objektiivse" välimusega keeles. Sotsiaaltöötaja käes võib see väljenduda grupi süstemaatiliselt negatiivsema hinnanguna, perekonna stereotüüpsusena või kultuuri väärarusaamana. Selles üksuses õpite tundma tehisintellekti eelarvamusi, selle vastu kontrolli alluma ning kasutama tehisintellekti ausalt ja kultuuritundlikult.
Fakt algusest: AI ei ole neutraalne, see tundub neutraalne. Kõige ohtlikum on see, mis esitatakse enesekindlas ja professionaalses keeles; sest see võetakse vastu ilma kahtluseta. Teie ülesanne sotsiaaltöötajana on see nähtamatu eelarvamus nähtavaks teha ja jälgida, kas väljund on vastuolus teie ametialaste väärtustega.
Kust tuleb tehisintellekti eelarvamus ja kuidas see välja näeb?
- Treeningu andmete eelarvamus. AI õpib tekstidest, mis peegeldavad ühiskonna ebavõrdsust. Teatud etniliste rühmade, vaeste, puuetega inimeste, teatud linnaosade või sugude stereotüübid võivad väljundisse lekkida.
- Keele ja kaadri eelarvamus. AI võib kujundada rühma passiivseks, "probleemseks" või "abi vajavaks objektiks"; õppeainetena teine rühm. Üks rühm võib sama käitumist tõlgendada kui "kultuurset" ja teine rühm "probleemset".
- Esinduse puudumine. AI võib ebatäpselt või pealiskaudselt mõista rühmi, mis on andmetes alaesindatud (väikesed populatsioonid, harvad juhud).
- Meelitus (sycophancy). AI kipub teie kaudset vaadet kinnitama; Kallutatud küsimus toob kallutatud kinnituse.
Need eelarvamused on eriti ohtlikud sotsiaaltöös, kuna väljund puudutab otseselt inimeste tegelikke elusid – hinnang, aruanne, suunamine.
Ettevaatust: "AI hindas seda nii" on hoiatusmärk, mitte õigustus. Kui näete väljundit, mis kujutab gruppi või üksikisikut negatiivselt, on esimene küsimus "kas see põhineb tõenditel või stereotüüpidel?" peaks olema.
Samm-sammult: auditeerimine eelarvamuste vastu
- Küsi neutraalselt. Esitage küsimusi, mis ei vihja ega vii; Mitte "selgitage, miks see perekond on hoolimatu", vaid "mida võivad need tähelepanekud tähendada, millised on alternatiivsed seletused?" küsi.
- Tee vahet tõenditel ja stereotüüpidel. Küsige iga negatiivse väite puhul: kas see põhineb minu ees olevatel konkreetsetel tõenditel või põhineb see üldisel oletusel grupi kohta?
- Katsetage vastupidise nurga alt. Mõelge samale olukorrale mõne teise rühma jaoks: "Kui klient oleks erineva sotsiaalmajandusliku/etnilise taustaga, kas tehisintellekt kirjutaks selle samas keeles?"
- Otsige kultuurilist tundlikkust. Küsige käitumise kultuurilise konteksti kohta; kuid võta kultuuriteadmisi kui võimalust ja ettevaatust, mitte absoluutset reeglit (väldi stereotüüpe).
- Puhastage trükikeel. Tõlgi see keelde, mis kirjeldab olukorda, mitte inimest, ja näeb ka tugevusi.
kolm minikarpi
Juhtum 1 – vastupidine nurk näitas kallutatust. Ekspert lasi tehisintellektil teha kokkuvõtte kahest sarnasest juhtumist; ainsaks erinevuseks oli perekondade sotsiaalmajanduslik staatus. YZ kirjutas madala sissetulekuga pere puhul toonil "kõrge hooletusse jätmise oht" ja suure sissetulekuga pere puhul tooniga "vanem, kes on sunnitud käituma". Ekspert tunnistas seda topeltstandardit ja destilleeris mõlemad hinnangud tõenduspõhisesse võrdsesse keelde.
Juhtum 2 – kultuuriline väärtõlgendus parandatud. YZ kirjeldas laiendatud perekonnaga elava lapse olukorda kui "piiriprobleeme ja segast kodukeskkonda". Ekspert teadis, et perekonna kultuurilises kontekstis on suurpere võimas toe ja kaitse allikas. AI oli muutnud kultuurilise jõu probleemiks. Arvustus on parandatud, et tunnustada seda tuge ressursina.
Juhtum 3 – juhtküsimus tekitas erapoolikust. "Kirjutage üles, miks see isa on ebausaldusväärne," küsis praktikant tehisintellektilt. AI koostas teksti, mis kujutab isa negatiivselt (meelitamine) ilma tõenditeta. Juhendaja muutis küsimust: "Millised on tähelepanekud isa kohta, millised võivad olla tema tugevad ja nõrgad küljed?" Väljund on muutunud tasakaalustatuks ja tõenduspõhiseks. Õppetund: kallutatud küsimus annab kallutatud vastuse.
Neli kopeeritavat malli
1) Taotlege neutraalset ja tasakaalustatud hindamist:
Järgmisi tähelepanekuid kokku võttes esitate nii võimalikud tugevused kui ka võimalikud murekohad TASAKAALUSTATUD ning AINULT tõenditele tuginedes. Ärge tehke stereotüüpide põhjal mingeid järeldusi. Kui kommentaar ei põhine vaatlusel, kirjutage "ebapiisavad tõendid". Tähelepanekud: [kleebi tähelepanekud]
2) Nihe kontroll (vastasnurga test):
Vaadake allolevat arvustuse teksti. Kas on väiteid, mis edastavad põhjendamatut stereotüüpi kliendi sotsiaalmajandusliku staatuse, etnilise päritolu, usutunnistuse, soo, puude või naabruskonna tõttu? Küsige igaühe kohta: "Kas see oleks kirjutatud samas keeles, kui klient oleks teisest rühmast?" Märgista probleemlaused. Tekst: [kleebi tekst]
3) Kultuurikontekst (mittestereotüüp):
Pakkuge VÕIMALUSED, mida järgmine käitumine/olukord võib erinevates kultuurikontekstides tähendada. Esitage need punktidena, mida tuleb arvesse võtta, mitte absoluutsete reeglitena; Rõhutage, et igas kogukonnas on individuaalseid erinevusi. Ärge üldistage ühe rühma kohta. Olukord: [kirjutage olukord]
4) Keele jäljendamine:
Otsige allolevast tekstist omadussõnu, mis hindavad või häbimärgistavad isikut (nt "hoolimatu", "koostöövõimetu", "probleemne"). Asendage igaühe puhul sama fakt alternatiiviga, mis on kirjeldav, lugupidav ja tunnistab tugevaid külgi. Uue teabe lisamine.Tekst: [kleebi tekst]
Nõrk viip / Tugev viip
Nõrk viip:
Selgitage, miks see pere ei suuda lapsi kasvatada.
See küsimus eeldab tulemust algusest peale ("ebapiisav"). AI, millel on kalduvus meelitada, loob tõenditevaba ja kallutatud teksti, mis seda oletust kinnitab. Kui küsimus on kallutatud, on ka vastus kallutatud.
Võimas viip:
Järgmiste tähelepanekute põhjal loetlege nii selle pere tugevad küljed laste kasvatamisel kui ka murekohad TASAKAALUSTATUD ja ainult tõendite alusel. Ärge eeldage tulemust algusest peale; Kui tõendid on ebapiisavad, öelge seda. Vältige stereotüüpe. Tähelepanekud: [kleebi tähelepanekud]
Erinevus: tasakaalustatud küsimus, mis ei eelda tulemust ja nõuab tõendeid, hoiab ära eelarvamuse.
Eelarvamuste tüübid ja vastumeetmed
Eelarvamuse tüüp
Kuidas see välja näeb
vastumeede
treeningu andmed
rühma stereotüüp
Tõendus-mustri eristamine
raamimine
Passiivne/negatiivne keel
Tasakaalustatud, ainekeskne keel
topeltstandard
Sama käitumine, erinev toon
vastupidise nurga test
kultuuriline pimedus
Kultuurijõu muutmine probleemiks
Kultuurikonteksti küsimus
meelitus
kinnitada järeldust
Ärge esitage neutraalseid küsimusi
esindatuse puudumine
Pealiskaudne/arusaamatus
Kohalik/eksperdi kinnitus
Levinud vead
- Eelarvamuslike küsimuste esitamine. Küsimus, mis eeldab järeldust, annab kallutatud vastuse; neutraalne probleem.
- Enesekindlale keelele tuginemine. Professionaalne toon ei muuda eelarvamust õigeks; vaata tõendeid.
- Kultuuriteadmiste käsitlemine lõpliku reeglina. Võtke seda kui võimalust ja tähelepanu; Vältige stereotüüpe.
- Topeltstandardeid märkamata. Katsetage, kuidas on erinevates rühmades sama käitumine kirjas.
- Templi eksimine tõendina. See on "hooletu" otsus; Kirjeldage nähtust, ärge mõistke isikut kohut.
Kokkuvõttes
AI ei ole neutraalne, tundub neutraalne; See taastoodab ladusas keeles haridusandmete ebavõrdsust ja stereotüüpe. Sotsiaaltöös võib see kaasa tuua ebaõiglase hinnangu tegelikele inimestele. Tunnistage eelarvamusi (koolitusandmed, raamid, topeltstandardid, kultuuriline pimedus, meelitus), kontrollige seda (neutraalne küsimus, tõendite ja mustrite eraldamine, nurga testimine, kultuuriline tundlikkus, häbimärgistamine) ja filtreerige iga väljund elukutse õigluse ja au väärtuste kaudu. Viimane eetiline filter oled alati sina.
Rakenduse ülesanne
Laske tehisintellektil teha kokkuvõte samadest väljamõeldud vaatlustest kahe erineva rühmaprofiiliga (nt erinev sotsiaalmajanduslik staatus) ja võrrelda "pööratud nurga testiga", kas toonid/keel erinevad. Seejärel proovige neutraalset küsimust teadlikult kallutatud küsimusega ("selgitage, miks see on ebapiisav") ja uurige tulemuste erinevust. Lõpuks rakendage tekstile malli „vesimärgi keele puhastamine”.
kontrollnimekiri
- [ ] Sõnastasin oma küsimused neutraalselt, tulemust eeldamata.
- [ ] Kontrollisin iga negatiivset väidet kasutades tõendus-stereotüübi eristust.
- [ ] Kontrollisin topeltstandardit pöördnurga testiga.
- [ ] Kasutasin kultuuriteadmisi ettevaatusena, mitte absoluutse reeglina.
- [ ] Asendasin häbimärgistava keele kirjeldava, lugupidava keelekasutusega.