zisky:
- Rozpoznať, kedy AI vytvára zaujatosť prostredníctvom trénovacích údajov, rámcov, dvojitých štandardov a lichôtok
- Schopnosť vytvoriť kontrolu proti zaujatosti s neutrálnymi otázkami, diskrimináciou dôkazov a stereotypov a testom obráteného uhla
- Schopnosť preložiť stigmatizujúci jazyk do opisného a rešpektujúceho jazyka pomocou kultúrneho poznania ako bodu pozornosti a nie ako definitívneho pravidla
Raison d'être sociálnej práce je spravodlivosť a ľudská dôstojnosť; Jadrom profesie je záväzok, že každý jednotlivec má rovnakú hodnotu, že sa stavia proti diskriminácii a že zraniteľné skupiny sú chránené. Umelá inteligencia v sebe nesie riziko, ktoré môže v tichosti poškodiť práve tieto hodnoty: zaujatosť. AI sa učí z historických údajov; Ak tieto údaje zahŕňajú nerovnosti, stereotypy a diskrimináciu v spoločnosti, AI sa ich naučí a reprodukuje v plynulom, „objektívne“ vyzerajúcom jazyku. V rukách sociálneho pracovníka sa to môže premietnuť do systematickejšie negatívnejšieho hodnotenia skupiny, stereotypizácie rodiny či nepochopenia kultúry. V tejto jednotke sa naučíte rozpoznať zaujatosť AI, ovládať ju a používať AI čestne a kultúrne citlivo.
Fakt od začiatku: AI nie je neutrálna, neutrálna sa javí. Najnebezpečnejšia zaujatosť je tá, ktorá je prezentovaná sebavedomým a profesionálnym jazykom; pretože sa prijíma bez otázok. Vašou úlohou ako sociálneho pracovníka je zviditeľniť túto neviditeľnú zaujatosť a sledovať, či je výstup v rozpore s vašimi profesionálnymi hodnotami.
Odkiaľ pochádza skreslenie AI a ako to vyzerá?
- Skreslenie tréningových údajov. AI sa učí z textov, ktoré odrážajú nerovnosti v spoločnosti. Do výstupu môžu preniknúť stereotypy o určitých etnických skupinách, chudobných, postihnutých, určitých štvrtiach alebo pohlaviach.
- Jazyková a rámcová zaujatosť. AI môže skupinu označiť za pasívnu, „problematickú“ alebo „objekt, ktorý potrebuje pomoc“; inú skupinu ako predmety. To isté správanie môže jedna skupina interpretovať ako „kultúrne“ a iná ako „problematické“.
- Nedostatok reprezentácie. AI môže nepresne alebo povrchne chápať skupiny, ktoré sú v údajoch nedostatočne zastúpené (malé populácie, zriedkavé prípady).
- Lichotenie (sykofanstvo). AI má tendenciu potvrdiť váš predpokladaný pohľad; Predpojatá otázka prináša neobjektívne potvrdenie.
Tieto predsudky sú obzvlášť nebezpečné v sociálnej práci, pretože výstup sa priamo dotýka skutočných životov ľudí – hodnotenie, správa, odporúčanie.
Pozor: „AI to tak vyhodnotila“ je varovným signálom, nie odôvodnením. Keď vidíte výstup, ktorý negatívne zobrazuje skupinu alebo jednotlivca, prvá otázka znie: „Je založený na dôkazoch alebo na stereotypoch? by mal byť.
Krok za krokom: audit proti zaujatosti
- Opýtajte sa neutrálne. Pýtajte sa otázky, ktoré nenaznačujú ani nevedú; Nie „vysvetliť, prečo je táto rodina zanedbávaná“, ale „čo môžu tieto pozorovania znamenať, aké sú alternatívne vysvetlenia? spýtaj sa.
- Rozlišujte medzi dôkazmi a stereotypmi. Pri každom negatívnom tvrdení sa opýtajte: je založené na konkrétnych dôkazoch, ktoré mám pred sebou, alebo je založené na všeobecnom predpoklade o skupine?
- Test z opačného uhla. Zvážte rovnakú situáciu pre inú skupinu: „Ak by bol klient z iného socioekonomického/etnického prostredia, napísala by to AI v rovnakom jazyku?“
- Hľadajte kultúrnu citlivosť. Pýtajte sa na kultúrny kontext správania; ale kultúrne znalosti berte ako možnosť a varovný bod, nie absolútne pravidlo (vyhnite sa stereotypu).
- Vyčistite otlačovací jazyk. Preložte to do jazyka, ktorý opisuje situáciu, nie človeka, a vidí aj silné stránky.
tri mini prípady
Prípad 1 – Obrátený uhol odhalil zaujatosť. Expert nechal AI zhrnúť dva podobné prípady; rozdiel bol len v sociálno-ekonomickom postavení rodín. YZ napísal tónom „vysoké riziko zanedbávania“ pre rodinu s nízkymi príjmami a tónom „rodič nútený správať sa“ pre rodinu s vysokými príjmami. Expert uznal tento dvojitý meter a obe hodnotenia previedol do rovnocenného jazyka založeného na dôkazoch.
Prípad 2 – Opravená nesprávna kultúrna interpretácia. YZ zarámoval situáciu dieťaťa žijúceho v širšej rodine ako „hraničné problémy a zmiešané domáce prostredie“. Odborník vedel, že v rámci kultúrneho kontextu rodiny je širšia rodina silným zdrojom podpory a ochrany. AI zmenila kultúrnu silu na problém. Recenzia bola opravená, aby túto podporu uznala ako zdroj.
Prípad 3 – Hlavná otázka vyvolala zaujatosť. "Napíšte, prečo je tento otec nedôveryhodný," spýtal sa stážista AI. AI vytvorila text, ktorý zobrazuje otca negatívne (lichotenie) bez akýchkoľvek dôkazov. Supervízor upravil otázku: „Aké sú postrehy o otcovi, aké môžu byť jeho silné a slabé stránky? Výstup sa stal vyváženým a založeným na dôkazoch. Ponaučenie: zaujatá otázka vytvára zaujatú odpoveď.
Štyri kopírovateľné šablóny
1) Požiadajte o neutrálne, vyvážené hodnotenie:
Pri zhrnutí nasledujúcich pozorovaní uvádzate možné silné stránky a možné obavy VYVÁŽENÝM spôsobom a na základe LEN dôkazov. Nerobte žiadne závery založené na stereotypoch. Ak komentár nie je založený na pozorovaní, napíšte „nedostatočné dôkazy“. Pozorovania: [prilepiť pozorovania]
2) Kontrola predpätia (test opačného uhla):
Prečítajte si text recenzie nižšie. Existujú výroky, ktoré vyjadrujú nepodložený stereotyp z dôvodu socioekonomického postavenia klienta, etnickej príslušnosti, náboženstva, pohlavia, zdravotného postihnutia alebo susedstva? Pri každom sa opýtajte: "Bolo by to napísané v rovnakom jazyku, ak by bol klient z inej skupiny?" Označte problémové vety.Text: [prilepiť text]
3) Kultúrny kontext (nestereotypný):
Poskytnite MOŽNOSTI, čo môže znamenať nasledujúce správanie/situácia v rôznych kultúrnych kontextoch. Uveďte ich ako body, ktoré treba zvážiť, nie ako absolútne pravidlá; Zdôraznite, že v každej komunite existujú individuálne rozdiely. Nezovšeobecňujte jednu skupinu. Situácia: [napísať situáciu]
4) Čistenie jazyka:
V texte nižšie nájdite prídavné mená, ktoré posudzujú alebo stigmatizujú danú osobu (napr. „zanedbávajúci“, „nespolupracujúci“, „problémový“). Pre každého nahraďte rovnakú skutočnosť alternatívou, ktorá je popisná, rešpektujúca a uznáva silné stránky. Pridávanie nových informácií.Text: [prilepiť text]
Slabá výzva / Silná výzva
Slabá výzva:
Vysvetlite, prečo táto rodina nedokáže vychovávať deti.
Táto otázka predpokladá výsledok od začiatku („nedostatočný“). AI so svojou tendenciou k lichôtkam vytvorí bez dôkazov a neobjektívny text, ktorý tento predpoklad potvrdí. Ak je otázka neobjektívna, neobjektívna bude aj odpoveď.
Výkonná výzva:
Na základe nasledujúcich pozorovaní uveďte VYVÁŽENÉ a len dôkazy silné stránky tejto rodiny pri výchove detí a oblasti záujmu. Nepredpokladajte výsledok od začiatku; Ak sú dôkazy nedostatočné, uveďte to. Vyhnite sa stereotypom. Pozorovania: [prilepiť pozorovania]
Rozdiel: vyvážená otázka, ktorá nepredpokladá výsledok a žiada dôkazy, v prvom rade zabraňuje zaujatosti.
Druhy zaujatosti a protiopatrenia
Typ zaujatosti
Ako to vyzerá
protiopatrenie
tréningové údaje
skupinový stereotyp
Rozlíšenie dôkaz-vzor
rámovanie
Pasívny/negatívny jazyk
Vyvážený jazyk zameraný na predmet
dvojitý štandard
Rovnaké správanie, iný tón
skúška spätného uhla
kultúrna slepota
Premena kultúrnej sily na problém
Otázka kultúrneho kontextu
lichôtky
potvrdiť implikáciu
Neklaďte neutrálne otázky
nedostatok zastúpenia
Povrchné/nepochopenie
Miestne/odborné potvrdenie
Časté chyby
- Kladenie otázok s predsudkami. Otázka, ktorá predpokladá záver, vytvára zaujatú odpoveď; neutrálny problém.
- Spoliehanie sa na sebavedomý jazyk. Profesionálny tón nespraví zaujatosť; pozrite si dôkazy.
- Považovať kultúrne znalosti za definitívne pravidlo. Berte to ako bod možnosti a pozornosti; Vyhnite sa stereotypom.
- Nevšímajúc si dvojitý meter. Otestujte, ako sa rovnaké správanie píše v rôznych skupinách.
- Zámena pečiatky ako dôkazu. Je to „nedbalý“ rozsudok; Opíšte jav, neposudzujte osobu.
V súhrne
AI nie je neutrálna, zdá sa neutrálna; Reprodukuje nerovnosti a stereotypy vo vzdelávacích údajoch v plynulom jazyku. V sociálnej práci to môže viesť k nespravodlivému hodnoteniu skutočných ľudí. Rozpoznajte zaujatosť (tréningové údaje, rámcovanie, dvojité štandardy, kultúrnu slepotu, lichôtky), kontrolujte ich (neutrálna otázka, oddelenie dôkazových vzorov, testovanie uhlov, kultúrna citlivosť, odstraňovanie stigmy) a filtrujte každý výstup cez profesijné hodnoty férovosti a cti. Posledným etickým filtrom ste vždy vy.
Aplikačná úloha
Nechajte AI zhrnúť rovnaký súbor fiktívnych pozorovaní s dvoma rôznymi skupinovými profilmi (napr. odlišný socioekonomický status) a porovnať s „testom obráteného uhla“, či sa tóny/jazyk líšia. Potom skúste neutrálnu otázku s vedome zaujatou otázkou („vysvetlite, prečo je to nedostatočné“) a preskúmajte rozdiel vo výsledkoch. Nakoniec použite šablónu „čistenie jazyka vodoznaku“ na text.
kontrolný zoznam
- [ ] Svoje otázky som formuloval neutrálne, bez predpokladu výsledku.
- [ ] Každý negatívny výrok som skontroloval pomocou rozlíšenia dôkaz-stereotyp.
- [ ] Dvojitý štandard som skontroloval testom spätného uhla.
- [ ] Kultúrne znalosti som použil ako opatrnosť, nie ako absolútne pravidlo.
- [ ] Stigmatizujúci jazyk som nahradil opisným, rešpektujúcim jazykom.