zisky:
- Rozpoznání, kdy umělá inteligence vytváří zkreslení, prostřednictvím trénovacích dat, rámování, dvojích standardů a lichotek
- Schopnost vytvořit kontrolu proti zkreslení pomocí neutrálních otázek, diskriminace důkazů a stereotypů a testu obráceného úhlu
- Schopnost převést stigmatizující jazyk do popisného a respektujícího jazyka pomocí kulturních znalostí jako bodu pozornosti spíše než definitivního pravidla
Raison d'être sociální práce je spravedlnost a lidská důstojnost; Jádrem profese je závazek, že každý jednotlivec má stejnou hodnotu, že se brání diskriminaci a že jsou chráněny zranitelné skupiny. Umělá inteligence s sebou nese riziko, které může tiše poškodit právě tyto hodnoty: zaujatost. AI se učí z historických dat; Pokud tato data zahrnují nerovnosti, stereotypy a diskriminaci ve společnosti, AI se je naučí a reprodukuje je plynulým, „objektivním“ jazykem. V rukou sociálního pracovníka se to může promítnout do systematicky negativnějšího hodnocení skupiny, stereotypizace rodiny nebo nepochopení kultury. V této jednotce se naučíte rozpoznat zaujatost AI, ovládat ji a používat AI spravedlivě a kulturní citlivostí.
Fakt od začátku: AI není neutrální, zdá se neutrální. Nejnebezpečnější zaujatost je ta, která je prezentována sebevědomým a profesionálním jazykem; protože je přijímán bez otázek. Vaším úkolem jako sociálního pracovníka je tuto neviditelnou zaujatost zviditelnit a sledovat, zda je výstup v rozporu s vašimi profesními hodnotami.
Odkud pochází zkreslení AI a jak to vypadá?
- Zkreslení tréninkových dat. Umělá inteligence se učí z textů, které odrážejí nerovnosti ve společnosti. Do výstupu mohou proniknout stereotypy o určitých etnických skupinách, chudých, postižených, určitých čtvrtích nebo pohlavích.
- Jazyková a rámcová zaujatost. Umělá inteligence může skupinu označit za pasivní, „problematickou“ nebo „objekt, který potřebuje pomoc“; jinou skupinu jako předměty. Totéž chování může být jednou skupinou interpretováno jako „kulturní“ a jinou skupinou „problematické“.
- Nedostatek zastoupení. AI může nepřesně nebo povrchně chápat skupiny, které jsou v datech nedostatečně zastoupeny (malé populace, vzácné případy).
- Pochlebování (sykofanství). AI má tendenci potvrdit váš předpokládaný názor; Zaujatá otázka přináší neobjektivní potvrzení.
Tyto předsudky jsou obzvláště nebezpečné v sociální práci, protože výstup se přímo dotýká skutečných životů lidí – hodnocení, zpráva, doporučení.
Pozor: „Umělá inteligence to tak vyhodnotila“ je varovný signál, nikoli ospravedlnění. Když vidíte výstup, který zobrazuje skupinu nebo jednotlivce negativně, první otázka zní: „Je založen na důkazech nebo na stereotypech? by měl být.
Krok za krokem: audit proti zaujatosti
- Zeptejte se neutrálně. Pokládejte otázky, které nenaznačují ani nevedou; Ne „vysvětlete, proč je tato rodina nedbalá“, ale „co mohou tato pozorování znamenat, jaká jsou alternativní vysvětlení? požádat.
- Rozlišujte mezi důkazy a stereotypy. U každého negativního tvrzení se zeptejte: je založeno na konkrétních důkazech, které mám před sebou, nebo je založeno na obecném předpokladu o skupině?
- Test z opačného úhlu. Zvažte stejnou situaci pro jinou skupinu: „Pokud by klient pocházel z jiného socioekonomického/etnického prostředí, napsala by to AI ve stejném jazyce?“
- Hledejte kulturní citlivost. Ptejte se na kulturní kontext chování; ale berte kulturní znalosti jako možnost a varovný bod, nikoli absolutní pravidlo (vyhněte se stereotypu).
- Vyčistěte otiskovací jazyk. Přeložte to do jazyka, který popisuje situaci, ne člověka, a také vidí silné stránky.
tři mini pouzdra
Případ 1 – Reverzní úhel odhalil zkreslení. Expert nechal AI shrnout dva podobné případy; jediným rozdílem bylo socioekonomické postavení rodin. YZ napsal tónem „vysoké riziko zanedbávání“ pro rodinu s nízkými příjmy a tónem „rodič nucen se chovat“ pro rodinu s vysokými příjmy. Expert uznal tento dvojí metr a obě hodnocení převedl do rovnocenného jazyka založeného na důkazech.
Případ 2 – Opravena kulturní nesprávná interpretace. YZ zarámoval situaci dítěte žijícího v širší rodině jako „omezující problémy a smíšené domácí prostředí“. Expert věděl, že v rámci kulturního kontextu rodiny je širší rodina silným zdrojem podpory a ochrany. AI proměnila kulturní sílu v problém. Recenze byla opravena, aby tuto podporu uznala jako zdroj.
Případ 3 – Hlavní otázka vyvolala zaujatost. "Napiš, proč je tento otec nedůvěryhodný," požádal AI stážista. AI vytvořila text, který zobrazuje otce negativně (lichotka) bez jakýchkoli důkazů. Vedoucí upravil otázku: „Jaké jsou postřehy o otci, jaké by mohly být jeho silné a slabé stránky? Výstup se stal vyváženým a založeným na důkazech. Ponaučení: zkreslená otázka vytváří zkreslenou odpověď.
Čtyři kopírovatelné šablony
1) Požádejte o neutrální, vyvážené hodnocení:
Při shrnutí následujících postřehů prezentujete jak možné silné stránky, tak možné obavy VYVÁŽENĚ a na základě POUZE na základě důkazů. Nedělejte žádné závěry na základě stereotypů. Pokud komentář nespoléhá na pozorování, napište „nedostatečné důkazy“. Pozorování: [vložit pozorování]
2) Kontrola vychýlení (test opačného úhlu):
Přečtěte si text recenze níže. Existují prohlášení, která vyjadřují nepodložený stereotyp z důvodu socioekonomického postavení, etnického původu, náboženství, pohlaví, postižení nebo sousedství klienta? U každého se zeptejte: "Bylo by to napsáno ve stejném jazyce, kdyby byl klient z jiné skupiny?" Označte problémové věty. Text: [vložit text]
3) Kulturní kontext (nestereotypní):
Poskytněte MOŽNOSTI, co by následující chování/situace mohlo znamenat v různých kulturních kontextech. Uveďte je jako body ke zvážení, ne jako absolutní pravidla; Zdůrazněte, že v každé komunitě existují individuální rozdíly. Nezobecňujte pouze jednu skupinu. Situace: [zapsat situaci]
4) Čištění jazyka otiskem:
V níže uvedeném textu najděte přídavná jména, která danou osobu posuzují nebo stigmatizují (např. „nedbalý“, „nespolupracující“, „problémový“). U každého nahraďte stejnou skutečnost alternativou, která je popisná, respektující a uznává silné stránky. Přidávání nových informací.Text: [vložit text]
Slabá výzva / Silná výzva
Slabá výzva:
Vysvětlete, proč tato rodina nestačí vychovávat děti.
Tato otázka předpokládá výsledek od začátku („nedostatečný“). Umělá inteligence se svou tendencí k lichotkám vytvoří text bez důkazů a neobjektivní text, který tuto domněnku potvrdí. Pokud je otázka zaujatá, bude zaujatá i odpověď.
Výkonná výzva:
Na základě následujících pozorování uveďte VYVÁŽENĚ a pouze důkazy silné stránky této rodiny při výchově dětí a oblasti zájmu. Nepředpokládejte výsledek od začátku; Pokud jsou důkazy nedostatečné, uveďte to. Vyhněte se stereotypům. Pozorování: [vložit pozorování]
Rozdíl: vyvážená otázka, která nepředpokládá výsledek a žádá důkazy, v první řadě zabraňuje zaujatosti.
Typy předsudků a protiopatření
Typ zkreslení
Jak to vypadá
protiopatření
tréninková data
skupinový stereotyp
Rozlišení důkaz-vzor
rámování
Pasivní/negativní jazyk
Vyvážený, předmětově zaměřený jazyk
dvojí standard
Stejné chování, jiný tón
zkouška obráceného úhlu
kulturní slepota
Proměna kulturní síly v problém
Otázka kulturního kontextu
lichotky
potvrdit implikaci
Neptejte se neutrální otázky
nedostatek zastoupení
Povrchní/nepochopení
Místní/odborné potvrzení
Časté chyby
- Kladení předpojatých otázek. Otázka, která předpokládá závěr, produkuje zaujatou odpověď; neutrální problém.
- Spoléhání na sebevědomý jazyk. Profesionální tón neupravuje zkreslení; podívejte se na důkazy.
- Považovat kulturní znalosti za definitivní pravidlo. Ber to jako bod možnosti a pozornosti; Vyhněte se stereotypům.
- Nevšímat si dvojího metru. Vyzkoušejte, jak se stejné chování zapisuje v různých skupinách.
- Záměna razítka za důkaz. Je to „nedbalý“ rozsudek; Popište jev, neodsuzujte člověka.
V souhrnu
AI není neutrální, zdá se neutrální; Plynulou řečí reprodukuje nerovnosti a stereotypy ve vzdělávacích datech. V sociální práci to může vést k nespravedlivému hodnocení skutečných lidí. Rozpoznejte zaujatost (tréninková data, rámování, dvojí standardy, kulturní slepota, lichotky), kontrolujte je (neutrální otázka, oddělení důkazů a vzorů, testování úhlu, kulturní citlivost, čištění stigmat) a filtrujte každý výstup přes hodnoty profese, férovost a čest. Posledním etickým filtrem jste vždy vy.
Aplikační úkol
Nechte AI shrnout stejný soubor fiktivních pozorování se dvěma různými skupinovými profily (např. různé socioekonomické postavení) a porovnejte s „testem obráceného úhlu“, zda se tóny/jazyk liší. Pak zkuste neutrální otázku s vědomě zaujatou otázkou („vysvětlete, proč je to nedostatečné“) a prozkoumejte rozdíl ve výsledcích. Nakonec použijte šablonu „Čištění jazyka vodoznaku“ na text.
kontrolní seznam
- [ ] Své otázky jsem formuloval neutrálně, aniž bych předpokládal výsledek.
- [ ] Zkontroloval jsem každý negativní výrok pomocí rozlišení důkaz-stereotyp.
- [ ] Dvojitý standard jsem ověřil testem obráceného úhlu.
- [ ] Kulturní znalosti jsem použil jako upozornění, ne jako absolutní pravidlo.
- [ ] Stigmatizující jazyk jsem nahradil popisným, respektujícím jazykem.