Dobici:
- Prepoznavanje kada umjetna inteligencija proizvodi pristranost putem podataka o obuci, uokvirivanja, dvostrukih standarda i laskanja
- Sposobnost uspostavljanja kontrole protiv pristranosti neutralnim pitanjima, diskriminacijom stereotipa dokaza i testom obrnutog kuta
- Sposobnost prevođenja stigmatizirajućeg jezika u opisni jezik pun poštovanja korištenjem kulturnog znanja kao točke pozornosti, a ne konačnog pravila
Raison d'être socijalnog rada jesu pravda i ljudsko dostojanstvo; U središtu profesije je predanost da je svaki pojedinac jednako vrijedan, da se suprotstavlja diskriminaciji i da su ranjive skupine zaštićene. Umjetna inteligencija nosi rizik koji može tiho naštetiti upravo ovim vrijednostima: pristranost. AI uči iz povijesnih podataka; Ako ti podaci uključuju nejednakosti, stereotipe i diskriminaciju u društvu, AI ih uči i reproducira na tečnom jeziku koji izgleda "objektivno". U rukama socijalnog radnika to se može pretvoriti u sustavno negativnije vrednovanje grupe, stereotipiziranje obitelji ili nerazumijevanje kulture. U ovoj ćete jedinici naučiti prepoznati pristranost umjetne inteligencije, kontrolirati je i koristiti AI s pravednošću i kulturnom osjetljivošću.
Činjenica od početka: AI nije neutralan, čini se neutralnim. Najopasnija pristranost je ona predstavljena samouvjerenim i profesionalnim jezikom; jer se prihvaća bez pitanja. Vaš posao kao socijalnog radnika je učiniti ovu nevidljivu pristranost vidljivom i pratiti jesu li rezultati u sukobu s vašim profesionalnim vrijednostima.
Odakle dolazi pristranost umjetne inteligencije i kako ona izgleda?
- Pristranost podataka o obuci. AI uči iz tekstova koji odražavaju nejednakosti u društvu. Stereotipi o određenim etničkim skupinama, siromašnima, osobama s invaliditetom, određenim četvrtima ili spolovima mogu procuriti u rezultat.
- Jezična i okvirna predrasuda. AI može postaviti grupu kao pasivnu, "problematičnu" ili "objekt kojem je potrebna pomoć"; drugu skupinu kao subjekte. Isto ponašanje jedna grupa može protumačiti kao "kulturno", a druga grupa kao "problematično".
- Nedostatak reprezentacije. AI može netočno ili površno razumjeti skupine koje su nedovoljno zastupljene u podacima (male populacije, rijetki slučajevi).
- Laskanje (ulizivanje). AI nastoji potvrditi vaš implicirani pogled; Pristrano pitanje donosi pristranu potvrdu.
Te su predrasude posebno opasne u socijalnom radu jer rezultati izravno dotiču živote stvarnih ljudi - procjena, izvješće, preporuka.
Oprez: "AI je to tako procijenio" je znak upozorenja, a ne opravdanje. Kada vidite rezultat koji negativno prikazuje grupu ili pojedinca, prvo pitanje je "temelji li se na dokazima ili na stereotipima?" treba biti.
Korak po korak: revizija protiv pristranosti
- Pitajte neutralno. Postavljajte pitanja koja ne impliciraju niti navode; Ne "objasnite zašto je ova obitelj nemarna", već "što bi ova opažanja mogla značiti, koja su alternativna objašnjenja?" pitati.
- Razlikujte dokaze i stereotipe. Za svaku negativnu izjavu pitajte: temelji li se na konkretnim dokazima koji su preda mnom ili se temelji na općoj pretpostavci o grupi?
- Testirajte iz suprotnog kuta. Razmotrite istu situaciju za drugu skupinu: "Da je klijent drugačijeg socioekonomskog/etničkog porijekla, bi li AI to napisao na istom jeziku?"
- Tražite kulturnu osjetljivost. Pitajte o kulturnom kontekstu ponašanja; ali uzmite kulturno znanje kao mogućnost i točku opreza, a ne kao apsolutno pravilo (izbjegavajte stereotip).
- Očistite jezik za otiskivanje. Prevedite to na jezik koji opisuje situaciju, a ne osobu, te također vidi prednosti.
tri mini kućišta
Slučaj 1 — Obrnuti kut otkrio je pristranost. Stručnjak je AI-om sažeo dva slična slučaja; jedina razlika bio je socioekonomski status obitelji. YZ je pisao u tonu "visokog rizika od zanemarivanja" za obitelj s niskim primanjima i u tonu "roditelj prisiljen na ponašanje" za obitelj s visokim prihodima. Stručnjak je prepoznao ovaj dvostruki standard i destilirao obje procjene u jednak jezik utemeljen na dokazima.
Slučaj 2 — Kulturološka pogrešna interpretacija ispravljena. YZ je situaciju djeteta koje živi s proširenom obitelji opisao kao "problem s granicama i mješovito kućno okruženje". Stručnjak je znao da je unutar kulturnog konteksta obitelji proširena obitelj snažan izvor podrške i zaštite. AI je kulturnu snagu pretvorio u problem. Pregled je ispravljen kako bi se ova podrška prepoznala kao resurs.
Slučaj 3 — Sugestivno pitanje proizvelo je pristranost. "Napišite zašto je ovaj otac nepouzdan", pitao je pripravnik AI-ja. AI je proizvela tekst koji oca prikazuje negativno (laskanje) bez ikakvih dokaza. Supervizor je modificirao pitanje: "Koja su zapažanja o ocu, koje bi mogle biti njegove snage i slabosti?" Rezultat je postao uravnotežen i utemeljen na dokazima. Lekcija: pristrano pitanje proizvodi pristran odgovor.
Četiri predloška za kopiranje
1) Zatražite neutralnu, uravnoteženu procjenu:
Sažimajući sljedeća zapažanja, predstavljate i moguće snage i moguće nedoumice na URAVNOTEŽEN način i temeljeno SAMO na dokazima. Nemojte donositi zaključke na temelju stereotipa. Ako se komentar ne oslanja na opažanje, napišite "nedovoljno dokaza". Zapažanja: [zalijepi zapažanja]
2) Provjera pristranosti (test suprotnog kuta):
U nastavku pogledajte tekst recenzije. Postoje li izjave koje prenose neutemeljeni stereotip zbog socioekonomskog statusa, etničke pripadnosti, vjere, spola, invaliditeta ili susjedstva klijenta? Za svaki pitajte: "Bi li ovo bilo napisano na istom jeziku da je klijent iz druge skupine?" Označi problematične rečenice.Tekst: [zalijepi tekst]
3) Kulturni kontekst (nestereotip):
Navedite MOGUĆNOSTI što bi sljedeće ponašanje/situacija moglo značiti u različitim kulturnim kontekstima. Navedite ih kao točke koje treba razmotriti, a ne kao apsolutna pravila; Naglasite da u svakoj zajednici postoje individualne razlike. Nemojte generalizirati o jednoj skupini. Situacija: [napiši situaciju]
4) Čišćenje otiska jezika:
U donjem tekstu pronađite pridjeve koji osuđuju ili stigmatiziraju osobu (npr. "zanemarljiv", "nekooperativan", "problematičan"). Za svaku zamijenite istu činjenicu alternativom koja je opisna, puna poštovanja i koja prepoznaje prednosti. Dodavanje novih informacija.Tekst: [zalijepi tekst]
Slab upit / Jak upit
Slab upit:
Objasnite zašto je ova obitelj neadekvatna u odgoju djece.
Ovo pitanje pretpostavlja rezultat od početka ("nedovoljan"). AI, sa svojom tendencijom laskanja, proizvest će tekst bez dokaza i pristran tekst koji potvrđuje ovu pretpostavku. Ako je pitanje pristrano, pristran će biti i odgovor.
Snažan upit:
Na temelju sljedećih zapažanja, navedite jake strane ove obitelji u odgoju djece i područja zabrinutosti na URAVNOTEŽEN način koji se temelji samo na dokazima. Ne pretpostavljajte ishod od početka; Ako su dokazi nedostatni, navedite to. Izbjegavajte stereotipe. Zapažanja: [zalijepite zapažanja]
Razlika: uravnoteženo pitanje koje ne pretpostavlja ishod i traži dokaze prije svega sprječava pristranost.
Vrste pristranosti i protumjere
Vrsta pristranosti
Kako to izgleda
protumjera
podaci o obuci
grupni stereotip
Razlika između dokaza i uzorka
kadriranje
Pasivni/negativni jezik
Uravnotežen jezik usmjeren na temu
dvostruki standard
Isto ponašanje, drugačiji ton
test obrnutim kutom
kulturno sljepilo
Pretvaranje kulturne moći u problem
Pitanje kulturnog konteksta
laskanje
potvrditi implikaciju
Ne postavljajte neutralna pitanja
nedostatak reprezentacije
Površno/nerazumijevanje
Lokalna/stručna potvrda
Uobičajene greške
- Postavljanje pitanja s predrasudama. Pitanje koje pretpostavlja zaključak proizvodi pristran odgovor; neutralni problem.
- Oslanjajući se na samouvjeren jezik. Profesionalni ton ne čini pristranost ispravnom; pogledaj dokaze.
- Smatrajući kulturno znanje definitivnim pravilom. Uzmite to kao točku mogućnosti i pažnje; Izbjegavajte stereotipe.
- Ne primjećujući dvostruke standarde. Testirajte kako je isto ponašanje zapisano u različitim grupama.
- Zamijenivši pečat kao dokaz. To je "nemarna" presuda; Opišite fenomen, ne osuđujte osobu.
Ukratko
AI nije neutralan, čini se neutralnim; Reproducira nejednakosti i stereotipe u obrazovnim podacima na tečnom jeziku. U socijalnom radu to može dovesti do nepravednog vrednovanja stvarnih ljudi. Prepoznajte pristranost (podaci o obuci, uokvirivanje, dvostruka mjerila, kulturno sljepilo, laskanje), provjerite je (neutralno pitanje, razdvajanje dokaza i uzoraka, testiranje kuta, kulturološka osjetljivost, uklanjanje stigme) i filtrirajte svaki rezultat kroz vrijednosti profesije poštenja i časti. Posljednji etički filter ste uvijek vi.
Zadatak aplikacije
Neka AI sažme isti skup izmišljenih zapažanja s dva različita grupna profila (npr. različit socioekonomski status) i usporedi s "testom obrnutog kuta" razlikuju li se tonovi/jezik. Zatim pokušajte s neutralnim pitanjem sa svjesno pristranim pitanjem ("objasnite zašto je neadekvatno") i ispitajte razliku u ishodima. Na kraju, primijenite predložak "čišćenje jezika vodenog žiga" na tekst.
popis za provjeru
- [ ] Pitanja sam formulirao neutralno, bez pretpostavke o ishodu.
- [ ] Provjerio sam svaku negativnu izjavu koristeći razliku između dokaza i stereotipa.
- [ ] Provjerio sam dvostruki standard testom obrnutog kuta.
- [ ] Koristio sam kulturno znanje kao točku opreza, a ne kao apsolutno pravilo.
- [ ] Zamijenio sam stigmatizirajući jezik opisnim jezikom pun poštovanja.