Pelnas:
- Atpažinimas, kada dirbtinis intelektas sukelia šališkumą, naudojant mokymo duomenis, kadravimą, dvigubus standartus ir meilikavimą
- Gebėjimas nustatyti šališkumo kontrolę neutraliais klausimais, įrodymų ir stereotipų diskriminacija ir atvirkštinio kampo testu
- Gebėjimas išversti stigmatizuojančią kalbą į aprašomąją ir pagarbų kalbą, naudojant kultūros žinias kaip dėmesio tašką, o ne galutinę taisyklę.
Socialinio darbo raison d'être yra teisingumas ir žmogaus orumas; Profesijos esmė – įsipareigojimas, kad kiekvienas asmuo yra vienodai vertingas, priešinamasi diskriminacijai ir apsaugotos pažeidžiamos grupės. Dirbtinis intelektas kelia pavojų, kuris gali tyliai pakenkti būtent šioms vertybėms: šališkumas. AI mokosi iš istorinių duomenų; Jei šie duomenys apima nelygybę, stereotipus ir diskriminaciją visuomenėje, AI juos išmoksta ir atkuria sklandia, „objektyviai“ atrodančia kalba. Socialinio darbuotojo rankose tai gali virsti sistemingai neigiamu grupės vertinimu, šeimos stereotipu ar kultūros nesupratimu. Šiame skyriuje išmoksite atpažinti DI šališkumą, apsisaugoti nuo jo ir sąžiningai bei kultūriškai jautriai naudoti AI.
Faktas nuo pat pradžių: AI nėra neutralus, jis atrodo neutralus. Pavojingiausias šališkumas yra tas, kuris pateikiamas pasitikinčia ir profesionalia kalba; nes tai priimama be klausimų. Jūsų, kaip socialinio darbuotojo, darbas yra padaryti šį nematomą šališkumą matomą ir stebėti, ar rezultatai prieštarauja jūsų profesinėms vertybėms.
Iš kur kyla AI šališkumas ir kaip jis atrodo?
- Mokymo duomenų šališkumas. AI mokosi iš tekstų, atspindinčių visuomenės nelygybę. Stereotipai apie tam tikras etnines grupes, vargšus, neįgaliuosius, tam tikrus rajonus ar lytis gali nutekėti į produkciją.
- Kalbos ir kadravimo šališkumas. AI gali suformuluoti grupę kaip pasyvią, „probleminę“ arba „objektą, kuriam reikia pagalbos“; kita grupė kaip subjektai. Tą patį elgesį viena grupė gali interpretuoti kaip „kultūrinį“, o kitos grupės – „probleminį“.
- Trūksta atstovavimo. AI gali netiksliai arba paviršutiniškai suprasti grupes, kurių duomenyse nepakankamai atstovaujama (mažos populiacijos, retais atvejais).
- Glostymas (sycofancy). AI yra linkęs patvirtinti jūsų numanomą požiūrį; Šališkas klausimas duoda šališką patvirtinimą.
Šis šališkumas yra ypač pavojingas socialiniame darbe, nes rezultatas tiesiogiai liečia realius žmonių gyvenimus – įvertinimas, ataskaita, siuntimas.
Atsargiai: „AI taip įvertino“ yra įspėjamasis ženklas, o ne pateisinimas. Kai matote išvestį, kuri neigiamai vaizduoja grupę ar asmenį, pirmasis klausimas yra „ar tai pagrįsta įrodymais, ar stereotipais? turėtų būti.
Žingsnis po žingsnio: auditas prieš šališkumą
- Paklauskite neutralaus. Užduokite klausimus, kurie nenurodo ar veda; Ne „paaiškinkite, kodėl ši šeima yra aplaidi“, bet „ką gali reikšti šie pastebėjimai, kokie yra alternatyvūs paaiškinimai? paklausti.
- Atskirkite įrodymus ir stereotipus. Dėl kiekvieno neigiamo teiginio paklauskite: ar jis pagrįstas konkrečiais mano turimais įrodymais, ar jis pagrįstas bendra prielaida apie grupę?
- Išbandykite priešingu kampu. Apsvarstykite tą pačią situaciją kitoje grupėje: „Jei klientas būtų iš skirtingos socialinės ir ekonominės / etninės kilmės, ar AI parašytų tai ta pačia kalba?
- Siekite kultūrinio jautrumo. Paklauskite apie kultūrinį elgesio kontekstą; tačiau kultūros žinias vertinkite kaip galimybę ir atsargumo tašką, o ne absoliučią taisyklę (venkite stereotipų).
- Nuvalykite įspaudo liežuvėlį. Išverskite jį į kalbą, kuri apibūdina situaciją, o ne asmenį, ir įžvelgia stipriąsias puses.
trys mini dėklai
1 atvejis – atvirkštinis kampas atskleidė poslinkį. Ekspertas AI apibendrino du panašius atvejus; skyrėsi tik šeimų socialinė ir ekonominė padėtis. YZ mažas pajamas gaunančiai šeimai rašė tonu „didelė nepriežiūros rizika“, o dideles pajamas gaunančiai šeimai – tonu „tėvai, priversti elgtis“. Ekspertas pripažino šį dvigubą standartą ir abu vertinimus distiliavo įrodymais grįsta, lygiaverte kalba.
2 atvejis. Ištaisytas klaidingas kultūrinis aiškinimas. YZ suformulavo vaiko, gyvenančio išplėstinėje šeimoje, situaciją kaip „ribines problemas ir mišrią namų aplinką“. Ekspertas žinojo, kad šeimos kultūriniame kontekste išplėstinė šeima buvo galingas paramos ir apsaugos šaltinis. AI kultūrinę jėgą pavertė problema. Apžvalga buvo pataisyta, kad ši parama būtų pripažinta kaip šaltinis.
3 atvejis. Pagrindinis klausimas sukėlė šališkumą. „Parašykite, kodėl šis tėvas yra nepatikimas“, – AI paprašė praktikantas. AI sukūrė tekstą, kuriame tėvas vaizduojamas neigiamai (glostymas) be jokių įrodymų. Vadovas pakoregavo klausimą: „Kokie pastebėjimai apie tėvą, kokios gali būti jo stipriosios ir silpnosios pusės? Rezultatas tapo subalansuotas ir pagrįstas įrodymais. Pamoka: šališkas klausimas pateikia šališką atsakymą.
Keturi kopijuojami šablonai
1) Paprašykite neutralaus, subalansuoto vertinimo:
Apibendrindami toliau pateiktas pastabas, subalansuotai ir remdamiesi TIK įrodymais pateikiate galimas stipriąsias puses ir galimus rūpesčius. Nedarykite jokių išvadų remdamiesi stereotipais. Jei komentaras nesiremia stebėjimu, parašykite „nepakankamai įrodymų“. Pastebėjimai: [įklijuoti pastabas]
2) Poslinkio patikrinimas (priešingo kampo bandymas):
Peržiūrėkite toliau pateiktą apžvalgos tekstą. Ar yra teiginių, kurie perteikia nepagrįstą stereotipą dėl kliento socialinės ir ekonominės padėties, etninės priklausomybės, religijos, lyties, negalios ar kaimynystės? Kiekvienam paklauskite: „Ar tai būtų parašyta ta pačia kalba, jei klientas būtų iš kitos grupės? Pažymėkite probleminius sakinius. Tekstas: [įklijuoti tekstą]
3) Kultūrinis kontekstas (ne stereotipas):
Pateikite GALIMYBES, ką šis elgesys/situacija galėtų reikšti skirtinguose kultūriniuose kontekstuose. Pateikite tai kaip dalykus, į kuriuos reikia atsižvelgti, o ne kaip absoliučias taisykles; Pabrėžkite, kad kiekvienoje bendruomenėje yra individualių skirtumų. Neapibendrinkite apie vieną grupę. Situacija: [rašyk situaciją]
4) Įspaudų liežuvio valymas:
Žemiau esančiame tekste raskite būdvardžių, kurie smerkia arba stigmatizuoja asmenį (pvz., „aplaidus“, „nebendradarbiaujantis“, „problemiškas“). Kiekvienam tą patį faktą pakeiskite alternatyva, kuri yra apibūdinanti, pagarbi ir pripažįsta stipriąsias puses. Pridedama naujos informacijos.Tekstas: [įklijuoti tekstą]
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas:
Paaiškinkite, kodėl ši šeima neadekvačiai augina vaikus.
Šis klausimas nuo pat pradžių prisiima rezultatą („nepakankamas“). Dirbtinis intelektas, turintis polinkį glostyti, pateiks be įrodymų ir šališką tekstą, patvirtinantį šią prielaidą. Jei klausimas yra šališkas, atsakymas taip pat bus šališkas.
Galingas raginimas:
Remdamiesi toliau pateiktomis pastabomis, subalansuotai ir tik įrodymais išvardykite ir šios šeimos stiprybes auginant vaikus, ir susirūpinimą keliančias sritis. Nesiimkite rezultato nuo pat pradžių; Jei įrodymų nepakanka, nurodykite tai. Venkite stereotipų. Pastebėjimai: [įklijuokite pastebėjimus]
Skirtumas: subalansuotas klausimas, kuris neprisiima rezultato ir reikalauja įrodymų, visų pirma užkerta kelią šališkumui.
Šališkumo ir atsakomųjų priemonių rūšys
Šališkumo tipas
Kaip atrodo
atsakomoji priemonė
treniruočių duomenys
grupės stereotipas
Įrodymų ir modelių skirtumas
kadravimas
Pasyvi/neigiama kalba
Subalansuota, į dalyką orientuota kalba
dvigubi standartai
Tas pats elgesys, kitoks tonas
atvirkštinio kampo bandymas
kultūrinis aklumas
Kultūrinės galios pavertimas problema
Kultūros konteksto klausimas
meilikavimas
patvirtinti implikaciją
Neklauskite neutralių klausimų
atstovavimo trūkumas
Paviršutiniškas/nesusipratimas
Vietinis/ekspertinis patvirtinimas
Dažnos klaidos
- Išankstinių klausimų uždavimas. Klausimas, kuriame daroma išvada, pateikia šališką atsakymą; neutrali problema.
- Pasikliauti savimi pasitikinčia kalba. Profesionalus tonas nepadaro šališkumo teisingo; pažiūrėk į įrodymus.
- Kultūros žinias vertinant kaip galutinę taisyklę. Priimkite tai kaip galimybę ir dėmesį; Venkite stereotipų.
- Nepastebėti dvigubų standartų. Išbandykite, kaip tas pats elgesys užrašomas skirtingose grupėse.
- Antspaudo kaip įrodymo klaidinimas. Tai „aplaidus“ sprendimas; Apibūdinkite reiškinį, nesmerkite žmogaus.
Apibendrinant
AI nėra neutralus, jis atrodo neutralus; Ji sklandia kalba atkuria švietimo duomenų nelygybę ir stereotipus. Socialiniame darbe tai gali lemti nesąžiningą realių žmonių vertinimą. Atpažinkite šališkumą (mokymo duomenis, kadravimą, dvigubus standartus, kultūrinį aklumą, meilikavimą), patikrinkite, ar tai nėra (neutralus klausimas, įrodymų ir modelių atskyrimas, kampo tikrinimas, kultūrinis jautrumas, stigmos pašalinimas) ir filtruokite kiekvieną išvestį pagal profesijos sąžiningumo ir garbės vertybes. Galutinis etinis filtras visada esate jūs.
Taikymo užduotis
Tegul dirbtinis intelektas apibendrina tą patį išgalvotų stebėjimų rinkinį su dviem skirtingais grupių profiliais (pvz., skirtinga socialine ir ekonomine padėtimi) ir palyginkite su „atvirkštinio kampo testu“, ar skiriasi tonai / kalba. Tada išbandykite neutralų klausimą su sąmoningai šališku klausimu („paaiškinkite, kodėl jis netinkamas“) ir ištirkite rezultatų skirtumus. Galiausiai tekstui pritaikykite „vandenženklio kalbos valymo“ šabloną.
kontrolinis sąrašas
- [ ] Aš suformulavau savo klausimus neutraliai, negalvodamas apie rezultatą.
- [ ] Kiekvieną neigiamą teiginį patikrinau naudodamas įrodymų ir stereotipų skirtumą.
- [ ] Atvirkštinio kampo testu patikrinau dvigubą standartą.
- [ ] Kultūros žinias naudojau kaip atsargumo priemonę, o ne absoliučią taisyklę.
- [ ] Stigmatizuojančią kalbą pakeičiau aprašomąja, pagarbia kalba.