Pelnas:
- Su pavyzdžiais atpažinkite, kaip kultūrinis, lyties ir diagnostinis šališkumas dirbtinio intelekto modeliuose daro žalą psichologijos kontekste
- Gebėjimas įgyvendinti šališkumo patikrą, kuri tikrina skirtingų grupių, kalbų ir kultūrų rezultatus
- Gebėjimas sukurti greitus ir patikrinimo metodus, koreguojančius į Vakarus orientuotą normą ir stigmatizuojančią kalbą
Dirbtinis intelektas (DI) nėra neutralus. Dirbtinio intelekto modelis mokosi iš didžiulės krūvos teksto internete, o modelio „pasaulio vaizdas“ yra iškreiptas dėl to, kieno balse yra daugiau, o kieno – mažiau. Šis iškraipymas vadinamas šališkumu. Psichologijos šališkumas nėra įprastas techninis trūkumas; Tai gali tiesiogiai paveikti asmens vertinimą, diagnozę ir gydymą. Vienoje kultūroje simptomas gali būti suprantamas kaip „normalus“, o kitoje – „patologinis“; Vienos lyties elgesys gali būti suformuluotas kaip „pasitikėjimas“, o kitos – „agresija“. AI gali išmokti ir atkartoti šias istorines tendencijas. Šiame skyriuje išmoksite atpažinti dirbtinio intelekto šališkumą psichologijos kontekste ir patikrinti skirtingų grupių, kalbų ir kultūrų rezultatus.
Iš kur atsiranda išankstinis nusistatymas ir kaip jis kenkia?
Yra trys pagrindiniai AI šališkumo šaltiniai:
- Treniruočių duomenų disbalansas. Modeliai rengiami daugiausia su konkrečios kalbos, kultūros ir laikotarpio tekstais. Didžioji dalis psichologinės literatūros ateina iš Vakarų, išsilavinusių, industrializuotų visuomenių; taigi AI „normalaus žmogaus“ prielaida atspindi šią siaurą imtį.
- Istorinio šališkumo įtraukimas. Į duomenis įtraukiami ir tekstai, kurie praeityje patologizavo ir stigmatizavo tam tikras grupes; modelis išmoksta šiuos modelius.
- Trūksta atstovavimo. Modelyje nėra pakankamai arba stereotipinės informacijos apie nepakankamai atstovaujamas grupes (skirtinga etninė kilmė, kalba, seksualinė orientacija, negalia).
Žala yra apčiuopiama: AI gali įvertinti simptomą kaip sunkesnį vienoje grupėje ir švelnesnį nei kitoje; gali klaidingai laikyti kultūrinę raišką (gedulo ritualą, religinę patirtį) kaip simptomą; Tai gali sukurti stigmatizuojančią, klišinę kalbą.
Atsargiai: net jei dirbtinio intelekto išvestis atrodo kaip „objektyvus mokslas“, ji gali turėti išmoktų paklaidų. Ypač kai kalbama apie skirtingas kultūras, lytis, seksualinę orientaciją ir socialines ir ekonomines grupes, kiekvieną rezultatą vertiname kaip „ar tai teisinga visoms grupėms? Filtruokite su klausimu.
Psichologijai būdingi šališkumo tipai
Šališkumo tipas
Žvilgsnis psichologijoje
rizika
kultūrinis šališkumas
Vakarų normas laikydamas universaliomis
Nemaišykite kultūrinės raiškos su patologija
lyties šališkumas
To paties elgesio interpretavimas skirtingai, priklausomai nuo lyties
diagnostikos skirtumai
diagnostinis šališkumas
Tam tikrų grupių vaizdavimas kaip „linkęs“ į tam tikras diagnozes
Pernelyg/nepakankama diagnozė
kalbos šališkumas
Labiau „išmanantis“ dominuojančią kalbą, paviršutiniškas – kitą
Nevienodas vertinimas
Antspaudavimas
Kalba, pagal kurią identifikuojamas asmuo pagal diagnozę
žeminantis kadravimas
Žingsnis po žingsnio: šališkumo valdymas
- Galite pakeisti išvestį į "kam ji buvo parašyta?" klausimas. Kas yra numatytasis subjektas? Paprastai jis yra išsilavinęs, vakarietiškas, „vidutinis“ vaikinas.
- Testas su skirtingomis grupėmis. Kartoti tą patį raginimą skirtinguose kultūriniuose, lyties ir amžiaus kontekstuose; Ar keičiasi komentarai?
- Nuskaitykite stigmatišką liežuvį. Teisinga formuluotė, identifikuojanti asmenį su jo diagnoze („asmuo, sergantis šizofrenija“, o ne „šizofrenija“).
- Pridėkite kultūrinį kontekstą. Pasakykite AI kultūrinį / kalbinį kliento kontekstą ir „nelaikykite posakių, kurie gali būti normalūs šiame kontekste, kaip patologija“.
- Ekspertų ir bendruomenės akys. Jei nesate tikri dėl kultūros klausimo, pasikonsultuokite su kolega, išmanančiu tą kultūrą.
- Tegul žmonės sprendžia. Net šališkumo tikrinimas nėra paliktas dirbtiniam intelektui; Galutinis teisingumo sprendimas priklauso jums.
Patarimas: praktiškas būdas patikrinti, ar išvestis yra šališka: ragelyje pakeiskite vieną atributą (lytį, kultūrą, amžių) ir vėl užduokite tą patį klausimą. Jei dėl šio pakeitimo interpretacija pasikeičia „nesąžiningai“, yra šališkumo.
trys mini dėklai
1 atvejis – patologizuojanti kultūrinė raiška. Profesionalas sako AI, kad klientas iš kitos kultūros sielvarto proceso metu „kalba su mirusiuoju“. AI tai apibūdina kaip „gali būti psichozės simptomas“. Tačiau tai yra įprasta ir normali sielvarto išraiška to kliento kultūroje. Ekspertas atmeta AI produkciją, nes žino kultūrinį kontekstą. Kas nors, kas nežinojo konteksto, gali padaryti rimtą klaidingą sprendimą.
2 atvejis – lyties šališkumo tikrinimas. Tyrėjas AI du kartus pateikia tą pačią bylos santrauką; tai tiesiog pakeičia žmogaus lytį. „Moteriškoje“ versijoje AI pabrėžia „emocinį nestabilumą“, o „vyriškoje“ versijoje įrėmina tą patį elgesį kaip „reakcija į stresą“. Tai aiškiai parodo modelio šališkumą dėl lyties. Tyrėjas dokumentuoja šį skirtumą ir tai suvokdamas naudoja rezultatus.
3 atvejis – stigmatizuojančios kalbos taisymas. AI yra „serganti riba“, teigiama viename ataskaitos projekte. Specialistas tai vertina kaip stigmatizuojančią kalbą, kuri identifikuoja asmenį su jo diagnoze ir paverčia ją kalba, kuri sutelkia dėmesį į žmogų, pavyzdžiui, „asmenį su apibrėžtu ribiniu asmenybės modeliu“. Nedidelis kalbos pakeitimas daro didelį skirtumą saugant kliento orumą.
Kopijuojami raginimai ir šablonai
Patikrinkite, ar šiame tekste nėra šališkumo: žymėjimo teiginiai, nurodantys kultūrinį, lytį, seksualinę orientaciją, amžių ar socialinį ir ekonominį šališkumą. Taip pat parodykite prielaidas, kurios Vakarų normas laiko universaliomis. Pasiūlykite teisingesnę alternatyvą kiekvienam. Tekstas: [tekstas]
Padėkite man įvertinti tokią situaciją, tačiau kliento kultūrinis kontekstas yra [kultūra/kalba]. Šiame kontekste posakių, kurie gali būti NORMALŪS, pateikimas kaip patologija; Jei nesate tikri dėl kultūros aspekto, pasakykite „tai gali skirtis priklausomai nuo kultūros, pasikonsultuokite su ekspertu“. Būsena: [anoniminė būsena]
Išverskite šio teksto stigmatizuojančius posakius, kurie identifikuoja asmenį su jo diagnoze (pvz., „šizofrenija“, „riba“) į kalbą, kuri sutelkia asmenį ir išsaugo jo orumą. Nekeiskite turinio, tiesiog humanizuokite kalbą. Tekstas: [tekstas]
Šią atvejo santrauką vertinsiu du kartus: vieną kartą subjektas [atributas], kitas [požymis B]. Ar yra nesąžiningas skirtumas tarp dviejų vertinimų ir jei taip, ar tai dėl šališkumo? Palyginti. Santrauka: [anoniminė santrauka]
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas: "Ar šio kliento elgesys yra normalus ar nenormalus?"
Šis raginimas neklausia, kam skirtas „normalus“; AI daro prielaidą, kad yra orientuotas į Vakarus, nekultūringas „normalus“ ir gali patologizuoti kultūrinę raišką.
Stiprus raginimas: "Šis klientas yra [kultūriniame / lingvistiniame kontekste]. Paaiškinkite, ar toks elgesys gali būti įprasta išraiška tame kultūriniame kontekste, ar ženklas, į kurį reikia atkreipti dėmesį, aptariant abu dalykus atskirai. Nedarykite galutinio sprendimo; priminkite, kad reikia pasikonsultuoti su ekspertu, kuris žino kultūrinį kontekstą."
Šis raginimas iškelia kontekstą į centrą, užkerta kelią klaidingam kultūriniam supratimui ir palieka sprendimą ekspertui.
Dažnos klaidos
- AI išvestis klaidingai suprantama kaip „objektyvus“. Pamiršus, kad modelis yra šališkas, ir priimant išvestį kaip mokslinį faktą.
- Vakarų normą laikant universalia. „Normalaus“ apibrėžimas pagal vieną kultūrą ir skirtingų posakių patologizavimas.
- Nepastebi stigmatizuojančios kalbos. Klaidinga kalba, pagal kurią asmuo, kuriam nustatyta diagnozė, yra „techninė kalba“.
- Netestuojama dėl šališkumo. Nebandyti to paties raginimo su skirtingomis grupėmis ir tikrinti nuoseklumą.
- Priimti sprendimus vienas kultūroje, kurios nepažįstate. Priimti sprendimą nepasitarus su kolega, išmanančiu tą kultūrą.
Apibendrinant
AI yra šališkas, nes mokosi iš šališko pasaulio tekstų; Psichologijoje šis šališkumas virsta apčiuopiama žala kultūros, lyties, diagnostikos, kalbos ir stigmos forma. Palyginkite kiekvieną išvestį su klausimu „ar tai sąžininga visoms grupėms? perkošti; išbandyti tą patį raginimą su skirtingomis grupėmis; pridėti kultūrinį kontekstą į savo raginimą; stigmatizuojančią kalbą pakeisti į asmenį orientuota kalba; Ieškokite ekspertų / bendruomenės žvilgsnių į jums nepažįstamą kultūrą. Teisingumo sprendimas, įskaitant šališkumo kontrolę, kyla iš žmogaus.
Taikymo užduotis
Parengti bylos santrauką (anoniminį). Suteikite jį AI du kartus; pakeisti tik vieną savybę (lytį, kultūrą ar amžių). Padėkite du spaudinius vienas šalia kito ir patikrinkite, ar nėra nesąžiningų skirtumų. Taip pat paprašykite AI išversti stigmatizuojančias frazes ataskaitos pastraipoje į į asmenį orientuotą kalbą ir pastebėkite skirtumą.
kontrolinis sąrašas
- [ ] Pakeiskite išvestį į "ar tai sąžininga visoms grupėms?" Aš uždaviau klausimą.
- [ ] Išbandžiau tą patį raginimą su skirtingomis grupėmis / kultūromis.
- [ ] Į raginimą įtraukiau kultūrinį kontekstą; Nepatologizavau kultūrinės raiškos.
- [ ] Stigmatizuojančią kalbą pakeičiau į į asmenį orientuotą kalbą.
- [ ] Klausiau eksperto/kolegos patarimo man nepažįstamu kultūros klausimu.
- [ ] Galutinį teisingumo sprendimą palikau savo, o ne AI, sprendimui.