Nyereség:
- Felismerni, ha a mesterséges intelligencia torzítást eredményez a képzési adatok, a keretezés, a kettős mérce és a hízelgés révén
- Képesség a torzítás ellen semleges kérdésekkel, bizonyíték-sztereotípia diszkriminációval és fordított szögteszttel kontrollálni
- Képes a megbélyegző nyelvet leíró és tiszteletteljes nyelvre fordítani úgy, hogy a kulturális ismereteket figyelemfelkeltőként, nem pedig határozott szabályként használjuk
A szociális munka létjogosultsága az igazságosság és az emberi méltóság; A szakma lényege az az elkötelezettség, hogy minden egyén egyenlő értékű, a diszkrimináció ellen küzdjön, és a kiszolgáltatott csoportok védelmet élvezzenek. A mesterséges intelligencia olyan kockázatot rejt magában, amely csendben pontosan ezeket az értékeket károsíthatja: elfogultság. Az AI tanul a történelmi adatokból; Ha ezek az adatok egyenlőtlenségeket, sztereotípiákat és diszkriminációt tartalmaznak a társadalomban, akkor az AI megtanulja ezeket, és folyékony, „objektív” megjelenésű nyelven reprodukálja őket. A szociális munkás kezében ez egy csoport szisztematikusan negatívabb értékelésébe, egy család sztereotípiájába vagy egy kultúra félreértésébe vezethet. Ebben az egységben megtanulja felismerni a mesterséges intelligencia torzítását, védekezni ellene, valamint tisztességesen és kulturálisan érzékenyen használni az AI-t.
Tény a kezdetektől: az AI nem semleges, hanem semlegesnek tűnik. A legveszélyesebb elfogultság az, amelyet magabiztos és professzionális nyelven mutatnak be; mert kérdés nélkül elfogadják. Szociális munkásként az Ön feladata, hogy láthatóvá tegye ezt a láthatatlan elfogultságot, és figyelemmel kísérje, hogy a kimenet nem ütközik-e az Ön szakmai értékeivel.
Honnan származik az AI torzítás, és hogyan néz ki?
- Képzési adatok torzítása. Az AI olyan szövegekből tanul, amelyek tükrözik a társadalom egyenlőtlenségeit. Egyes etnikai csoportokkal, szegényekkel, fogyatékkal élőkkel, bizonyos városrészekkel vagy nemekkel kapcsolatos sztereotípiák beszivároghatnak a kiadványba.
- Nyelvi és keretezési elfogultság. A mesterséges intelligencia egy csoportot passzívnak, „problémásnak” vagy „segítségre szoruló objektumnak” állíthat be; egy másik csoport alanyként. Ugyanezt a viselkedést az egyik csoport „kulturálisnak”, egy másik csoport „problémásnak” értelmezheti.
- A képviselet hiánya. A mesterséges intelligencia pontatlanul vagy felületesen megértheti azokat a csoportokat, amelyek alulreprezentáltak az adatokban (kis populációk, ritka esetek).
- Hízelgés (sycophancy). A mesterséges intelligencia hajlamos megerősíteni az Ön hallgatólagos nézetét; Az elfogult kérdés elfogult megerősítést hoz.
Ezek az elfogultságok különösen veszélyesek a szociális munkában, mivel a kimenet közvetlenül érinti a valós emberek életét – egy értékelés, egy jelentés, egy ajánlás.
Vigyázat: "Az MI így értékelte" figyelmeztető jel, nem indoklás. Ha olyan kimenetet lát, amely negatívan ábrázol egy csoportot vagy egyént, az első kérdés az, hogy „bizonyítékokon vagy sztereotípiákon alapul?” kell lennie.
Lépésről lépésre: auditálás az elfogultság ellen
- Kérdezz semlegest. Tegyen fel kérdéseket, amelyek nem utalnak vagy nem vezetnek; Nem azt, hogy „magyarázd meg, miért hanyag ez a család”, hanem „mit jelenthetnek ezek a megfigyelések, mik az alternatív magyarázatok?” kérdez.
- Tegyen különbséget a bizonyítékok és a sztereotípiák között. Minden negatív állításnál kérdezd meg: az előttem álló konkrét bizonyítékokon alapul, vagy egy csoportra vonatkozó általános feltételezésen?
- Tesztelje ellentétes szögből. Fontolja meg ugyanazt a helyzetet egy másik csoport esetében: „Ha az ügyfél eltérő társadalmi-gazdasági/etnikai hátterű lenne, a mesterséges intelligencia ugyanazon a nyelven írná?
- Keresd a kulturális érzékenységet. Kérdezz rá egy viselkedés kulturális kontextusára; de a kulturális tudást lehetőségnek és óvatosságnak tekintse, ne abszolút szabálynak (kerülje a sztereotípiát).
- Tisztítsa meg a nyomónyelvet. Fordítsa le olyan nyelvre, amely a helyzetet írja le, nem a személyt, és az erősségeket is látja.
három mini tok
1. eset – A fordított szög torzítást mutatott ki. Egy szakértő két hasonló esetet írt össze a mesterséges intelligencia; az egyetlen különbség a családok társadalmi-gazdasági helyzetében volt. YZ az alacsony jövedelmű családok esetében "nagy az elhanyagolás kockázata", a magas jövedelmű család esetében pedig "viselkedésre kényszerülő szülő" hangnemben írt. A szakértő felismerte ezt a kettős mércét, és mindkét értékelést bizonyítékokon alapuló, egyenrangú nyelvezetre desztillálta.
2. eset – A kulturális félreértelmezés javítva. YZ egy nagy családdal élő gyermek helyzetét „határproblémákként és vegyes otthoni környezetként” fogalmazta meg. A szakértő tudta, hogy a család kulturális környezetében a tágabb család a támogatás és védelem erőteljes forrása. A mesterséges intelligencia a kulturális erőt problémává változtatta. Az áttekintést javítottuk, hogy ezt a támogatást forrásként ismerje el.
3. eset – A vezető kérdés torzítást eredményezett. „Írja le, miért nem megbízható ez az apa” – kérte egy gyakornok az MI-től. Az AI olyan szöveget készített, amely minden bizonyíték nélkül negatívan (hízelgés) ábrázolja az apát. A témavezető módosította a kérdést: „Milyen megfigyelések vannak az apával kapcsolatban, mik lehetnek az erősségei és gyengeségei?” A kimenet kiegyensúlyozottá és bizonyítékokon alapulóvá vált. Tanulság: az elfogult kérdés elfogult választ ad.
Négy másolható sablon
1) Kérjen semleges, kiegyensúlyozott értékelést:
Az alábbi észrevételek összefoglalása során Ön mind a lehetséges erősségeket, mind a lehetséges aggodalmakat EGYENSÚLYOZOTTAN mutatja be, és CSAK bizonyítékokon alapul. Ne vonjon le semmilyen következtetést sztereotípiák alapján. Ha egy megjegyzés nem támaszkodik megfigyelésre, írja be, hogy "elégtelen bizonyíték". Észrevételek: [megfigyelések beillesztése]
2) Előfeszítés ellenőrzése (ellentétes szög teszt):
Tekintse meg az alábbi áttekintés szövegét. Vannak-e olyan állítások, amelyek megalapozatlan sztereotípiát közvetítenek az ügyfél társadalmi-gazdasági státusza, etnikai hovatartozása, vallása, neme, fogyatékossága vagy szomszédsága miatt? Mindegyiknél kérdezze meg: "Ez ugyanazon a nyelven lenne írva, ha az ügyfél egy másik csoporthoz tartozik?" Jelölje meg a problémás mondatokat. Szöveg: [szöveg beillesztése]
3) Kulturális kontextus (nem sztereotípia):
Adjon LEHETŐSÉGEKET arra, hogy a következő viselkedés/helyzet mit jelenthet különböző kulturális kontextusokban. Adja meg ezeket figyelembe veendő pontokként, ne abszolút szabályokként; Hangsúlyozzuk, hogy minden közösségben vannak egyéni különbségek. Ne általánosíts egyetlen csoportról sem. Helyzet: [helyzet írása]
4) Nyomtatásos nyelvtisztítás:
Az alábbi szövegben keressen olyan jelzőket, amelyek megítélik vagy megbélyegzik a személyt (pl. „hanyagoló”, „nem együttműködő”, „problémás”). Mindegyik esetében cserélje le ugyanazt a tényt egy olyan alternatívával, amely leíró, tiszteletteljes és felismeri az erősségeket. Új információk hozzáadása.Szöveg: [szöveg beillesztése]
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Magyarázd el, miért nem megfelelő ez a család a gyermeknevelésben.
Ez a kérdés kezdettől fogva feltételezi az eredményt ("elégtelen"). Az AI a hízelgésre hajlamos bizonyítékoktól mentes és elfogult szöveget fog készíteni, amely megerősíti ezt a feltételezést. Ha a kérdés elfogult, a válasz is elfogult lesz.
Erőteljes felszólítás:
A következő megfigyelések alapján sorolja fel e család gyermeknevelési erősségeit és aggodalomra okot adó területeket EGYENSÚLYOZOTTAN és csak bizonyítékok alapján! Ne feltételezze az eredményt a kezdetektől fogva; Ha a bizonyítékok nem elegendőek, jelezze. Kerülje a sztereotípiákat. Észrevételek: [megfigyelések beillesztése]
A különbség: egy kiegyensúlyozott kérdés, amely nem feltételezi az eredményt, és bizonyítékokat kér, elsősorban megakadályozza az elfogultságot.
Az elfogultság típusai és az ellenintézkedések
Az elfogultság típusa
Hogy néz ki
ellenintézkedés
edzési adatok
csoportos sztereotípia
Bizonyíték-minta megkülönböztetés
keretezés
Passzív/negatív nyelv
Kiegyensúlyozott, tárgyközpontú nyelv
kettős mérce
Ugyanaz a viselkedés, más a hangnem
fordított szög teszt
kulturális vakság
A kulturális hatalom problémává alakítása
Kulturális kontextus kérdése
hízelgés
erősítse meg a következtetést
Ne tegyél fel semleges kérdéseket
a képviselet hiánya
Felületes/félreértés
Helyi/szakértői megerősítés
Gyakori hibák
- Előítéletes kérdések feltevése. A következtetést feltételező kérdés elfogult választ ad; semleges probléma.
- A magabiztos nyelvezetre támaszkodva. A professzionális hangnem nem teszi helyessé az elfogultságot; nézd meg a bizonyítékokat.
- A kulturális tudást meghatározó szabálynak tekintve. Vedd a lehetőség és a figyelem pontjaként; Kerülje a sztereotípiákat.
- Nem veszi észre a kettős mércét. Tesztelje, hogyan írják le ugyanazt a viselkedést különböző csoportokban.
- A bélyegző félreértése bizonyítékként. Ez egy „hanyag” ítélet; Írd le a jelenséget, ne ítélkezz a személy felett.
Összefoglalva
A mesterséges intelligencia nem semleges, hanem semlegesnek tűnik; Folyékony nyelven reprodukálja az egyenlőtlenségeket és a sztereotípiákat az oktatási adatokban. A szociális munkában ez a valós emberek tisztességtelen értékeléséhez vezethet. Ismerje fel az elfogultságot (képzési adatok, keretezés, kettős mérce, kulturális vakság, hízelgés), ellenőrzi őket (semleges kérdés, bizonyítékok és minták szétválasztása, szögvizsgálat, kulturális érzékenység, megbélyegzés), és szűrje le az egyes kimeneteket a szakma tisztességes és becsületes értékein. A végső etikai szűrő mindig te vagy.
Pályázati feladat
A mesterséges intelligencia összefoglalja ugyanazt a kitalált megfigyeléssorozatot két különböző csoportprofillal (pl. eltérő társadalmi-gazdasági státusszal), és hasonlítsa össze a „fordított szög teszttel”, hogy a hangszínek/nyelvek eltérnek-e. Ezután próbáljon meg egy semleges kérdést tudatosan elfogult kérdéssel („magyarázza meg, miért nem megfelelő”), és vizsgálja meg az eredmények közötti különbséget. Végül alkalmazza a „vízjel nyelv tisztítása” sablont egy szövegre.
ellenőrző lista
- [ ] Kérdéseimet semlegesen fogalmaztam meg, anélkül, hogy feltételeztem volna az eredményt.
- [ ] Minden negatív állítást a bizonyíték-sztereotípia megkülönböztetéssel ellenőriztem.
- [ ] A kettős mércét a fordított szögpróbával ellenőriztem.
- [ ] A kulturális ismereteket óvatosságra, nem abszolút szabályként használtam.
- [ ] A stigmatizáló nyelvet leíró, tiszteletteljes nyelvezetre cseréltem.