Dobici:
- Prepoznavanje kada AI proizvodi pristrasnost kroz podatke o obuci, uokvirivanje, dvostruke standarde i laskanje
- Sposobnost uspostavljanja kontrole protiv pristrasnosti neutralnim pitanjima, diskriminacijom dokaza-stereotipa i testom obrnutog ugla
- Sposobnost da se stigmatizirajući jezik prevede u opisni jezik s poštovanjem korištenjem kulturnog znanja kao tačke pažnje, a ne kao definitivnog pravila
Raison d'être socijalnog rada je pravda i ljudsko dostojanstvo; U osnovi profesije je opredjeljenje da svaki pojedinac ima jednaku vrijednost, suprotstavlja se diskriminaciji, a ranjive grupe zaštićene. Umjetna inteligencija nosi rizik koji može tiho naškoditi upravo ovim vrijednostima: pristrasnost. AI uči iz istorijskih podataka; Ako ti podaci uključuju nejednakosti, stereotipe i diskriminaciju u društvu, AI ih uči i reproducira na tečnom jeziku koji izgleda „objektivno“. U rukama socijalnog radnika, ovo se može pretvoriti u sistematski negativniju procjenu grupe, stereotip o porodici ili nerazumijevanje kulture. U ovoj jedinici naučit ćete prepoznati pristrasnost AI, kontrolirati je i koristiti AI pošteno i kulturno osjetljivo.
Činjenica od početka: AI nije neutralan, čini se neutralnim. Najopasnija pristrasnost je ona predstavljena sigurnim i profesionalnim jezikom; jer se prihvata bez pogovora. Vaš posao kao socijalnog radnika je da ovu nevidljivu pristrasnost učinite vidljivom i pratite da li je rezultat u suprotnosti s vašim profesionalnim vrijednostima.
Odakle dolazi AI pristrasnost i kako to izgleda?
- Pristrasnost podataka o obuci. AI uči iz tekstova koji odražavaju nejednakosti u društvu. Stereotipi o određenim etničkim grupama, siromašnima, invalidima, određenim kvartovima ili rodovima mogu procuriti u izlaz.
- Jezik i pristrasnost kadriranja. AI može predstaviti grupu kao pasivnu, “problematičnu” ili “objekat kojem je potrebna pomoć”; drugu grupu kao subjekte. Jedna grupa isto ponašanje može protumačiti kao "kulturno", a druga grupa "problematično".
- Nedostatak reprezentacije. AI može netačno ili površno razumjeti grupe koje su nedovoljno zastupljene u podacima (male populacije, rijetki slučajevi).
- Laskanje. AI teži da potvrdi vaš implicirani stav; Pristrasno pitanje donosi pristrasnu potvrdu.
Ove predrasude su posebno opasne u socijalnom radu jer se rezultat direktno dotiče stvarnih života ljudi – procjena, izvještaj, uputnica.
Oprez: "AI je to tako procijenio" je znak upozorenja, a ne opravdanje. Kada vidite rezultate koji negativno prikazuju grupu ili pojedinca, prvo pitanje je „da li se zasniva na dokazima ili na stereotipima?“ trebao bi biti.
Korak po korak: revizija protiv pristrasnosti
- Pitajte neutralno. Postavljajte pitanja koja ne impliciraju niti vode; Ne „objasni zašto je ova porodica zanemarena“, već „šta bi ova zapažanja mogla značiti, koja su alternativna objašnjenja?“ pitaj.
- Napravite razliku između dokaza i stereotipa. Za svaku negativnu izjavu pitajte: da li je zasnovana na konkretnim dokazima ispred mene ili je zasnovana na opštoj pretpostavci o grupi?
- Testirajte iz suprotnog ugla. Razmotrite istu situaciju za drugu grupu: „Da je klijent iz drugačijeg socioekonomskog/etničkog porijekla, da li bi AI to napisao na istom jeziku?“
- Tražite kulturnu osjetljivost. Pitajte o kulturnom kontekstu ponašanja; ali uzmite kulturno znanje kao mogućnost i razlog za oprez, a ne kao apsolutno pravilo (izbjegavajte stereotip).
- Očistite jezičak za otisak. Prevedite to na jezik koji opisuje situaciju, a ne osobu, i također uviđa prednosti.
tri mini kofera
Slučaj 1 — Obrnuti ugao je otkrio pristrasnost. Ekspert je dao AI da sumira dva slična slučaja; jedina razlika je bio socioekonomski status porodica. YZ je napisao tonom "visok rizik od zanemarivanja" za porodicu sa niskim primanjima, a tonom "roditelj primoran da se ponaša" za porodicu sa visokim primanjima. Ekspert je prepoznao ovaj dvostruki standard i destilirao obje procjene u jednak jezik zasnovan na dokazima.
Slučaj 2 — Ispravljena kulturološka pogrešna interpretacija. YZ je situaciju djeteta koje živi sa proširenom porodicom uokvirila kao „granična pitanja i mješovito kućno okruženje“. Stručnjak je znao da je u okviru porodičnog kulturnog konteksta šira porodica snažan izvor podrške i zaštite. AI je pretvorio kulturnu silu u problem. Pregled je ispravljen da prepozna ovu podršku kao resurs.
Slučaj 3 — Vodeće pitanje proizvelo je pristrasnost. "Napišite zašto je ovaj otac nepovjerljiv", zamolio je jedan pripravnik AI. AI je proizvela tekst koji oca prikazuje negativno (laskanje) bez ikakvih dokaza. Supervizor je izmijenio pitanje: „Kakva su zapažanja o ocu, koje bi mogle biti njegove prednosti i slabosti?“ Rezultat je postao uravnotežen i zasnovan na dokazima. Pouka: pristrasno pitanje proizvodi pristrasan odgovor.
Četiri šablona za kopiranje
1) Zatražite neutralnu, uravnoteženu ocjenu:
Sažimajući sljedeća zapažanja, predstavljate moguće prednosti i moguće nedoumice na Uravnotežen način i zasnovano SAMO na dokazima. Nemojte praviti zaključke na osnovu stereotipa. Ako se komentar ne oslanja na zapažanje, napišite "nedovoljno dokaza". Zapažanja: [zalijepi zapažanja]
2) Provjera pristranosti (test suprotnog ugla):
U nastavku pogledajte tekst recenzije. Postoje li izjave koje prenose nepotkrijepljen stereotip zbog klijentovog socioekonomskog statusa, etničke pripadnosti, vjere, pola, invaliditeta ili susjedstva? Za svaki, pitajte: "Da li bi ovo bilo napisano na istom jeziku da je klijent iz druge grupe?" Označite problematične rečenice. Tekst: [zalijepi tekst]
3) Kulturni kontekst (nestereotipski):
Navedite MOGUĆNOSTI za ono što sljedeće ponašanje/situacija može značiti u različitim kulturnim kontekstima. Dajte ih kao tačke koje treba razmotriti, a ne kao apsolutna pravila; Naglasite da u svakoj zajednici postoje individualne razlike. Nemojte generalizirati o jednoj grupi. Situacija: [napišite situaciju]
4) Čišćenje jezika otiskom:
U tekstu ispod pronađite prideve koji osuđuju ili stigmatiziraju osobu (npr. "nemaran", "nekooperativan", "problematičan"). Za svaki, zamijenite istu činjenicu alternativom koja je opisna, s poštovanjem i koja prepoznaje prednosti. Dodavanje novih informacija. Tekst: [zalijepi tekst]
Slaba prompt / Jaka prompt
Slab upit:
Objasnite zašto je ova porodica neadekvatna u podizanju djece.
Ovo pitanje pretpostavlja rezultat od početka („nedovoljan“). AI, sa svojom tendencijom laskanja, proizvešće tekst bez dokaza i pristrasnost koji potvrđuje ovu pretpostavku. Ako je pitanje pristrasno, odgovor će također biti pristrasan.
Snažan upit:
Na osnovu sljedećih zapažanja, navedite i prednosti ove porodice u odgoju djece i područja zabrinutosti na Uravnotežen način i samo dokaz. Ne pretpostavljajte ishod od početka; Ako su dokazi nedovoljni, navedite to. Izbjegavajte stereotipe. Zapažanja: [zalijepi zapažanja]
Razlika: uravnoteženo pitanje koje ne pretpostavlja ishod i traži dokaze sprječava pristrasnost na prvom mjestu.
Vrste pristrasnosti i protumjere
Vrsta pristrasnosti
Kako to izgleda
protumjera
podaci o obuci
grupni stereotip
Razlika između dokaza i uzorka
kadriranje
Pasivni/negativni jezik
Uravnotežen jezik usredsređen na predmet
dvostruki standard
Isto ponašanje, drugačiji ton
test obrnutog ugla
kulturnog sljepila
Pretvaranje kulturne moći u problem
Pitanje kulturnog konteksta
laskanje
potvrditi implikaciju
Ne postavljajte neutralna pitanja
nedostatak zastupljenosti
Površno/nerazumijevanje
Lokalna/stručna potvrda
Uobičajene greške
- Postavljanje pitanja sa predrasudama. Pitanje koje pretpostavlja zaključak proizvodi pristrasan odgovor; neutralan problem.
- Oslanjajući se na pouzdan jezik. Profesionalni ton ne čini pristrasnost ispravnom; pogledajte dokaze.
- Razmatranje kulturnog znanja kao definitivnog pravila. Uzmite to kao tačku mogućnosti i pažnje; Izbjegavajte stereotipe.
- Ne primjećujući dvostruke standarde. Testirajte kako je isto ponašanje napisano u različitim grupama.
- Pogrešio pečat kao dokaz. To je „nehajna“ presuda; Opišite fenomen, ne osuđujte osobu.
Ukratko
AI nije neutralan, čini se neutralnim; Reproducira nejednakosti i stereotipe u obrazovnim podacima na tečnom jeziku. U socijalnom radu to može dovesti do nepravednih procjena stvarnih ljudi. Prepoznajte pristrasnost (podaci o obuci, uokvirivanje, dvostruki standardi, kulturno sljepilo, laskanje), provjerite u odnosu na to (neutralno pitanje, razdvajanje dokaza i uzorka, testiranje ugla, kulturna osjetljivost, uklanjanje stigme) i filtrirajte svaki rezultat kroz vrijednosti profesije poštenja i časti. Konačni etički filter ste uvijek vi.
Zadatak aplikacije
Neka AI sumira isti skup izmišljenih zapažanja sa dva različita profila grupe (npr. različiti socioekonomski status) i uporedi sa „testom obrnutog ugla“ da li se tonovi/jezik razlikuju. Zatim pokušajte s neutralnim pitanjem sa svjesno pristrasnim pitanjem („objasnite zašto je neadekvatno”) i ispitajte razliku u ishodima. Konačno, primijenite predložak „čišćenja jezika vodenog žiga“ na tekst.
kontrolna lista
- [ ] Svoja pitanja sam postavio neutralno, bez pretpostavke o ishodu.
- [ ] Provjerio sam svaku negativnu izjavu koristeći razliku dokaz-stereotip.
- [ ] Provjerio sam dvostruki standard testom obrnutog ugla.
- [ ] Koristio sam kulturno znanje kao oprez, a ne apsolutno pravilo.
- [ ] Zamijenio sam stigmatizirajući jezik opisnim jezikom s poštovanjem.