Dobički:
- Prepoznavanje, kdaj umetna inteligenca povzroči pristranskost s podatki o usposabljanju, okvirjanjem, dvojnimi standardi in laskanjem
- Sposobnost vzpostavitve nadzora proti pristranskosti z nevtralnimi vprašanji, diskriminacijo dokazov-stereotipov in testom obratnega kota
- Sposobnost prevajanja stigmatizirajočega jezika v opisni in spoštljiv jezik z uporabo kulturnega znanja kot točke pozornosti in ne dokončnega pravila
Raison d'être socialnega dela sta pravičnost in človeško dostojanstvo; V jedru poklica je zaveza, da je vsak posameznik enakovreden, da se nasprotuje diskriminaciji in da so ranljive skupine zaščitene. Umetna inteligenca nosi tveganje, ki lahko tiho škoduje prav tem vrednotam: pristranskost. AI se uči iz zgodovinskih podatkov; Če ti podatki vključujejo neenakosti, stereotipe in diskriminacijo v družbi, se jih AI nauči in reproducira v tekočem, »objektivnem« jeziku. V rokah socialnega delavca se to lahko prevede v sistematično bolj negativno vrednotenje skupine, stereotipiziranje družine ali nerazumevanje kulture. V tej enoti se boste naučili prepoznati pristranskost umetne inteligence, jo nadzorovati in uporabljati umetno inteligenco pošteno in kulturno občutljivo.
Dejstvo od začetka: AI ni nevtralen, zdi se nevtralen. Najnevarnejša pristranskost je tista, ki je predstavljena v samozavestnem in profesionalnem jeziku; ker je sprejet brez vprašanja. Vaša naloga kot socialni delavec je, da naredite to nevidno pristranskost vidno in spremljate, ali je rezultat v nasprotju z vašimi poklicnimi vrednotami.
Od kod izvira pristranskost AI in kako izgleda?
- Pristranskost podatkov o usposabljanju. AI se uči iz besedil, ki odražajo neenakosti v družbi. Stereotipi o določenih etničnih skupinah, revnih, invalidih, določenih soseskah ali spolih lahko pricurljajo v rezultat.
- Jezik in pristranskost uokvirjanja. AI lahko skupino oblikuje kot pasivno, »problematično« ali »predmet, ki potrebuje pomoč«; druga skupina kot subjekti. Enako vedenje si lahko ena skupina razlaga kot "kulturno", druga skupina pa "problematično".
- Pomanjkanje reprezentance. AI lahko netočno ali površno razume skupine, ki so premalo zastopane v podatkih (majhne populacije, redki primeri).
- Laskanje (priličje). AI skuša potrditi vaš nakazani pogled; Pristransko vprašanje prinaša pristransko potrditev.
Te pristranskosti so še posebej nevarne v socialnem delu, ker se rezultati neposredno dotikajo resničnih življenj ljudi – ocena, poročilo, napotitev.
Pozor: "Umetna inteligenca je tako ocenila" je opozorilni znak, ne utemeljitev. Ko vidite rezultat, ki negativno prikazuje skupino ali posameznika, je prvo vprašanje "ali temelji na dokazih ali na stereotipih?" mora biti.
Korak za korakom: revizija proti pristranskosti
- Vprašajte nevtralno. Postavljajte vprašanja, ki ne nakazujejo ali vodijo; Ne "razložite, zakaj je ta družina zanemarljiva," ampak "kaj bi ta opažanja lahko pomenila, kakšne so alternativne razlage?" vprašaj.
- Razlikovati med dokazi in stereotipi. Za vsako negativno izjavo se vprašajte: ali temelji na konkretnih dokazih, ki so pred menoj, ali temelji na splošni predpostavki o skupini?
- Preizkusite z nasprotnega kota. Razmislite o isti situaciji za drugo skupino: "Če bi bila stranka iz drugačnega socialno-ekonomskega/etničnega ozadja, ali bi AI to napisal v istem jeziku?"
- Iščite kulturno občutljivost. Vprašajte o kulturnem kontekstu vedenja; vendar kulturno znanje jemljite kot možnost in opozorilo, ne kot absolutno pravilo (izogibajte se stereotipom).
- Očistite jezik za odtiskovanje. Prevedite ga v jezik, ki opisuje situacijo, ne osebe, in vidi tudi prednosti.
trije mini kovčki
1. primer – vzvratni kot je pokazal pristranskost. Strokovnjak je dal AI povzeti dva podobna primera; edina razlika je bil socialno-ekonomski položaj družin. YZ je pisal v tonu "veliko tveganje zanemarjanja" za družino z nizkimi dohodki in v tonu "starš prisiljen k obnašanju" za družino z visokimi dohodki. Strokovnjak je prepoznal ta dvojna merila in obe oceni strnil v jezik, ki temelji na dokazih.
Primer 2 – Popravljena napačna kulturna razlaga. YZ je položaj otroka, ki živi z razširjeno družino, uokviril kot »mejne težave in mešano domače okolje«. Strokovnjak je vedel, da je v družinskem kulturnem kontekstu razširjena družina močan vir podpore in zaščite. AI je spremenil kulturno silo v problem. Pregled je bil popravljen, da prepozna to podporo kot vir.
Primer 3 – vodilno vprašanje je povzročilo pristranskost. "Zapišite, zakaj ta oče ni vreden zaupanja," je pripravnik prosil AI. Umetna inteligenca je izdelala besedilo, ki očeta prikazuje negativno (laskanje) brez kakršnih koli dokazov. Supervizor je spremenil vprašanje: "Kakšna so opažanja o očetu, kakšne so njegove prednosti in slabosti?" Rezultat je postal uravnotežen in temelji na dokazih. Lekcija: pristransko vprašanje povzroči pristranski odgovor.
Štiri predloge za kopiranje
1) Zahtevajte nevtralno, uravnoteženo oceno:
Če povzamete naslednja opažanja, predstavljate možne prednosti in morebitne pomisleke na URAVNOTEŽEN način in temeljite SAMO na dokazih. Ne sklepajte na podlagi stereotipov. Če komentar ne temelji na opazovanju, napišite "nezadostni dokazi." Opažanja: [prilepite opažanja]
2) Preverjanje pristranskosti (preskus nasprotnega kota):
Oglejte si besedilo ocene spodaj. Ali obstajajo izjave, ki izražajo neutemeljen stereotip zaradi strankinega socialno-ekonomskega statusa, etnične pripadnosti, vere, spola, invalidnosti ali soseske? Za vsako vprašajte: "Ali bi bilo to napisano v istem jeziku, če bi bila stranka iz druge skupine?" Označi težavne stavke. Besedilo: [prilepi besedilo]
3) Kulturni kontekst (nestereotipen):
Navedite MOŽNOSTI, kaj lahko naslednje vedenje/situacija pomeni v različnih kulturnih kontekstih. Navedite jih kot točke, ki jih je treba upoštevati, ne kot absolutna pravila; Poudarite, da obstajajo individualne razlike v vsaki skupnosti. Ne posplošuj o eni skupini. Situacija: [napišite situacijo]
4) Čiščenje jezika z odtisom:
V spodnjem besedilu poiščite pridevnike, ki sodijo ali stigmatizirajo osebo (npr. "zanemarljiv", "nesodelujoč", "problematičen"). Za vsako zamenjajte isto dejstvo z alternativo, ki je opisna, spoštljiva in priznava prednosti. Dodajanje novih informacij. Besedilo: [prilepi besedilo]
Šibek poziv/močan poziv
Šibek poziv:
Pojasnite, zakaj je ta družina neustrezna pri vzgoji otrok.
To vprašanje predvideva rezultat od začetka ("nezadosten"). Umetna inteligenca bo s svojo nagnjenostjo k laskanju ustvarila pristransko besedilo brez dokazov, ki bo potrdilo to domnevo. Če je vprašanje pristransko, bo tudi odgovor pristranski.
Močan poziv:
Na podlagi naslednjih opažanj naštejte prednosti te družine pri vzgoji otrok in področja, ki skrbijo, na URAVNOTEŽEN način, ki temelji samo na dokazih. Ne predvidevajte izida od začetka; Če dokazi niso zadostni, to navedite. Izogibajte se stereotipom. Opažanja: [prilepite opažanja]
Razlika: uravnoteženo vprašanje, ki ne predvideva izida in zahteva dokaze, sploh preprečuje pristranskost.
Vrste pristranskosti in protiukrepi
Vrsta pristranskosti
Kako izgleda
protiukrep
podatki o usposabljanju
skupinski stereotip
Razlikovanje med dokazi in vzorci
okvirjanje
Pasivni/negativni jezik
Uravnotežen jezik, osredotočen na predmet
dvojna merila
Enako vedenje, drugačen ton
preskus vzvratnega kota
kulturna slepota
Spreminjanje kulturne moči v problem
Vprašanje kulturnega konteksta
laskanje
potrdi implikacijo
Ne postavljajte nevtralnih vprašanj
pomanjkanje zastopanosti
Površno/nerazumevanje
Lokalna/strokovna potrditev
Pogoste napake
- Spraševanje s predsodki. Vprašanje, ki predvideva zaključek, povzroči pristranski odgovor; nevtralen problem.
- Zanašanje na samozavesten jezik. Profesionalni ton ne naredi pristranskosti pravilne; poglej dokaze.
- Upoštevanje kulturnega znanja kot dokončnega pravila. Vzemite to kot točko možnosti in pozornosti; Izogibajte se stereotipom.
- Ne opaziti dvojnih meril. Preizkusite, kako je enako vedenje zapisano v različnih skupinah.
- Zamenjali žig kot dokaz. To je "malomarna" sodba; Opišite pojav, ne obsojajte osebe.
Če povzamem
AI ni nevtralen, zdi se nevtralen; Reproducira neenakosti in stereotipe v izobraževalnih podatkih v tekočem jeziku. V socialnem delu lahko to vodi do nepravičnega vrednotenja resničnih ljudi. Prepoznajte pristranskost (podatki o usposabljanju, okvirjanje, dvojna merila, kulturna slepota, laskanje), preverite z njo (nevtralno vprašanje, ločevanje vzorcev od dokazov, testiranje kota, kulturna občutljivost, čiščenje stigme) in filtrirajte vsak rezultat skozi vrednote poklica poštenosti in časti. Zadnji etični filter ste vedno vi.
Aplikacijska naloga
Umetna inteligenca naj povzame isti nabor izmišljenih opazovanj z dvema različnima skupinskima profiloma (npr. različnim socialno-ekonomskim statusom) in primerja s »testom obratnega kota«, ali se toni/jezik razlikujejo. Nato poskusite z nevtralnim vprašanjem z zavestno pristranskim vprašanjem (»pojasnite, zakaj je neustrezno«) in preučite razlike v rezultatih. Na koncu na besedilo uporabite predlogo »čiščenje jezika vodnega žiga«.
kontrolni seznam
- [ ] Svoja vprašanja sem oblikoval nevtralno, ne da bi predvideval rezultat.
- [ ] Vsako negativno izjavo sem preveril z razlikovanjem med dokazi in stereotipi.
- [ ] Dvojni standard sem preveril s testom obratnega kota.
- [ ] Kulturno znanje sem uporabil kot opozorilo in ne kot absolutno pravilo.
- [ ] Stigmatizirajoči jezik sem nadomestil z opisnim, spoštljivim jezikom.