Ieguvumi:
- Ar piemēriem apzināties, kā kultūras, dzimuma un diagnostikas aizspriedumi mākslīgā intelekta modeļos rada kaitējumu psiholoģijas kontekstā
- Spēja ieviest neobjektivitātes pārbaudi, kas pārbauda rezultātus dažādām grupām, valodām un kultūrām
- Spēja izstrādāt tūlītējas un pārbaudes metodes, kas koriģē uz Rietumiem orientētu normu un stigmatizējošo valodu
Mākslīgais intelekts (AI) nav neitrāls. AI modelis mācās no milzīgas teksta kaudzes internetā, un modeļa "pasaules skatījums" ir šķībs atkarībā no tā, kura balss satur vairāk un kura balss satur mazāk. Šo izkropļojumu sauc par novirzi. Neobjektivitāte psiholoģijā nav parasta tehniska kļūme; Tas var tieši ietekmēt personas novērtējumu, diagnozi un ārstēšanu. Simptomu vienā kultūrā var nolasīt kā "normālu", bet citā - "patoloģisku"; Viena dzimuma uzvedību var formulēt kā “pārliecību” un otra dzimuma “agresiju”. AI var mācīties un atkārtot šīs vēsturiskās novirzes. Šajā nodaļā jūs iemācīsities atpazīt AI novirzes psiholoģijas kontekstā un pārbaudīt dažādu grupu, valodu un kultūru rezultātus.
No kurienes rodas aizspriedumi un kā tie kaitē?
Ir trīs galvenie AI novirzes avoti:
- Apmācības datu nelīdzsvarotība. Modeļi tiek apmācīti galvenokārt ar noteiktas valodas, kultūras un laikmeta tekstiem. Lielākā daļa psiholoģijas literatūras nāk no Rietumu, izglītotām, industrializētām sabiedrībām; tāpēc AI pieņēmums "parasts cilvēks" atspoguļo šo šauro izlasi.
- Vēsturisko aizspriedumu iekļaušana. Datos iekļauti arī teksti, kas pagātnē patoloģizēja un stigmatizēja noteiktas grupas; modelis apgūst šos modeļus.
- Pārstāvības trūkums. Modelim ir vai nu nepietiekama vai stereotipiska informācija par nepietiekami pārstāvētām grupām (atšķirīga etniskā piederība, valoda, seksuālā orientācija, invaliditāte).
Kaitējums ir taustāms: AI var novērtēt simptomu kā smagāku vienā grupā un vieglāku nekā citā; var maldīgi uzskatīt kultūras izpausmi (sēru rituālu, reliģisku pieredzi) par simptomu; Tas var radīt stigmatizējošu, klišejisku valodu.
Uzmanību: pat tad, ja šķiet, ka mākslīgā intelekta izvade ir “objektīva zinātne”, tajā var būt iegūtās novirzes. Jo īpaši, ja runa ir par dažādām kultūrām, dzimumiem, seksuālo orientāciju un sociālekonomiskajām grupām, mēs uzskatām, ka katrs rezultāts ir "vai tas ir godīgi attiecībā uz visām grupām?" Filtrējiet ar jautājumu.
Psiholoģijai raksturīgi aizspriedumu veidi
Neobjektivitātes veids
Skats psiholoģijā
risku
kultūras aizspriedumiem
Rietumu normas uzskatot par universālām
Nejauciet kultūras izpausmi ar patoloģiju
dzimuma aizspriedumi
Vienas un tās pašas uzvedības interpretācija atšķirīgi atkarībā no dzimuma
diagnostikas atšķirības
diagnostikas novirze
Atsevišķu grupu attēlošana kā "nosliece" uz noteiktām diagnozēm
Virs/nepietiekama diagnoze
valodas neobjektivitāte
Vairāk "prasmīgs" dominējošā valodā, virspusējs otrā
Nevienlīdzīgs vērtējums
Apzīmogošana
Valoda, kas identificē personu ar diagnozi
pazemojošs kadrējums
Soli pa solim: neobjektivitātes kontrole
- Varat mainīt izvadi uz "kam tas tika rakstīts?" jautājums. Kurš ir noklusējuma priekšmets? Viņš parasti ir izglītots, rietumniecisks, "vidējs" puisis.
- Tests ar dažādām grupām. Atkārtojiet vienu un to pašu aicinājumu dažādos kultūras, dzimuma un vecuma kontekstos; Vai komentāri mainās?
- Skenējiet stigmatisko mēli. Pareizs formulējums, kas identificē personu ar diagnozi ("persona, kas cieš no šizofrēnijas", nevis "šizofrēnija").
- Pievienojiet kultūras kontekstu. Pastāstiet AI klienta kultūras/lingvistisko kontekstu un "neuzskatiet izteicienus, kas šajā kontekstā var būt normāli, par patoloģiju".
- Ekspertu un sabiedrības acis. Ja neesat pārliecināts par kādu kultūras jautājumu, konsultējieties ar kolēģi, kurš zina šo kultūru.
- Lai cilvēki izlemj. Pat neobjektivitātes pārbaude nav atstāta AI ziņā; Galīgais taisnīguma spriedums ir jūsu ziņā.
Padoms. Praktisks veids, kā pārbaudīt, vai rezultāts ir neobjektīvs: mainiet vienu atribūtu (dzimums, kultūra, vecums) uzvednē un vēlreiz uzdodiet to pašu jautājumu. Ja interpretācija mainās "netaisnīgi" ar šīm izmaiņām, pastāv neobjektivitāte.
trīs mini futrāļi
1. gadījums — kultūras izpausmes patoloģizēšana. Profesionālis AI stāsta, ka klients no citas kultūras bēdu procesa laikā “runā ar mirušo”. AI to raksturo kā "var būt psihotisks simptoms". Tomēr tā ir izplatīta un normāla bēdu izpausme šī klienta kultūrā. Eksperts noraida AI produkciju, jo viņš zina kultūras kontekstu. Kāds, kurš nezināja kontekstu, var izdarīt nopietnu nepareizu spriedumu.
2. gadījums — dzimumu neobjektivitātes pārbaude. Izmeklētājs AI divas reizes sniedz vienas un tās pašas lietas kopsavilkumu; tas vienkārši maina personas dzimumu. “Sieviešu” versijā AI uzsver “emocionālo nestabilitāti”, savukārt “vīriešu” versijā tā nosaka tādu pašu uzvedību kā “stresa reakcija”. Tas skaidri parāda modeļa dzimumu aizspriedumus. Pētnieks dokumentē šo atšķirību un izmanto rezultātus, apzinoties šo informāciju.
3. gadījums — stigmatizējošās valodas labošana. AI ir "slims robežlīnija", teikts vienā ziņojuma projektā. Speciālists to uzskata par stigmatizējošu valodu, kas identificē personu ar viņa diagnozi un pārvērš to valodā, kas koncentrējas uz cilvēku, piemēram, "indivīds ar noteiktu robežšķirtnes personības modeli". Nelielas valodas izmaiņas rada lielas atšķirības klienta cieņas aizsargāšanā.
Kopējamas uzvednes un veidnes
Pārbaudiet, vai šajā tekstā nav neobjektivitātes: karoga paziņojumi, kas norāda uz kultūras, dzimuma, seksuālās orientācijas, vecuma vai sociālekonomisko aizspriedumiem. Parādiet arī pieņēmumus, kas Rietumu normas uzskata par universālām. Iesakiet godīgāku alternatīvu katram.Teksts: [teksts]
Palīdziet man novērtēt šādu situāciju, bet klienta kultūras konteksts ir [kultūra/valoda]. Šajā kontekstā izteicienu uzrādīšana, kas var būt NORMĀLA kā patoloģija; Ja neesat pārliecināts par kultūras aspektu, sakiet: "Tas var atšķirties atkarībā no kultūras, konsultējieties ar ekspertu". Statuss: [anonīms statuss]
Tulkojiet šajā tekstā ietvertos stigmatizējošos izteicienus, kas identificē personu ar diagnozi (piemēram, "šizofrēnija", "robeža") valodā, kas centrē personu un saglabā viņa cieņu. Nemainiet saturu, vienkārši humanizējiet valodu. Teksts: [teksts]
Šo gadījuma kopsavilkumu novērtēšu divreiz: vienu reizi priekšmets [pazīme A], otrs [pazīme B]. Vai starp abiem novērtējumiem pastāv negodīga atšķirība, un, ja tā, vai tā ir neobjektivitātes dēļ? Compare.Abstract: [anonīms abstract]
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne: "Vai šī klienta uzvedība ir normāla vai patoloģiska?"
Šī uzvedne nejautā, kam ir domāts "normāls"; AI pieņem uz Rietumiem orientētu, nekulturālu “normālu” un var patoloģizēt kultūras izpausmes.
Spēcīgs aicinājums: "Šis klients atrodas [kultūras/lingvistiskā kontekstā]. Paskaidrojiet, vai šī uzvedība var būt normāla izpausme šajā kultūras kontekstā vai zīme, kas prasa uzmanību, apspriežot abus atsevišķi. Neizdariet galīgu spriedumu; atgādiniet man, ka jākonsultējas ar ekspertu, kurš zina kultūras kontekstu."
Šī uzvedne izvirza kontekstu centrā, novērš kultūras nepareizu lasīšanu un atstāj eksperta ziņā.
Biežas kļūdas
- AI izvade tiek sajaukta ar “objektīvu”. Aizmirstot, ka modelī ir neobjektivitāte, un pieņemt rezultātu kā zinātnisku faktu.
- Uzskatot Rietumu normu par universālu. "Normāla" definēšana saskaņā ar vienu kultūru un dažādu izteicienu patoloģizēšana.
- Nemanot stigmatizējošo valodu. Valodas maldināšana, kas identificē personu ar viņa diagnozi kā "tehnisko valodu".
- Nepārbauda neobjektivitāti. Neizmēģinot vienu un to pašu uzvedni ar dažādām grupām un pārbaudīt konsekvenci.
- Lēmumu pieņemšana vienatnē kultūrā, kuru nepazīstat. Sprieduma pieņemšana, nekonsultējoties ar kolēģi, kurš zina šo kultūru.
Rezumējot
AI ir neobjektīva, jo tā mācās no neobjektīvas pasaules tekstiem; Psiholoģijā šī novirze izpaužas kā taustāms kaitējums kultūras, dzimuma, diagnostikas, valodas un stigmas veidā. Salīdziniet katru rezultātu ar jautājumu "vai tas ir godīgi pret visām grupām?" izkāš to; pārbaudiet vienu un to pašu uzvedni ar dažādām grupām; pievienojiet savai uzvednei kultūras kontekstu; mainīt stigmatizējošo valodu uz valodu, kas vērsta uz cilvēku; Meklējiet ekspertu/kopienas skatījumu uz kultūru, kas jums nav pazīstama. Taisnīguma spriedums, tostarp neobjektivitātes kontrole, izriet no cilvēka.
Lietojumprogrammas uzdevums
Sagatavojiet lietas kopsavilkumu (anonīmu). Dodiet to AI divas reizes; mainīt tikai vienu īpašību (dzimumu, kultūru vai vecumu). Novietojiet abas izdrukas blakus un pārbaudiet, vai nav netaisnīgu atšķirību. Ļaujiet AI arī tulkot stigmatizējošās frāzes ziņojuma rindkopā uz cilvēku vērstā valodā un ievērojiet atšķirību.
kontrolsaraksts
- [ ] Mainiet izvadi uz "vai tas ir godīgi pret visām grupām?" Es uzdevu jautājumu.
- [ ] Es pārbaudīju vienu un to pašu uzvedni ar dažādām grupām/kultūrām.
- [ ] Uzvednei pievienoju kultūras kontekstu; Es nepataloģizēju kultūras izpausmi.
- [ ] Es mainīju stigmatizējošo valodu uz valodu, kas vērsta uz cilvēku.
- [ ] Es meklēju eksperta/kolēģa padomu par kultūras jautājumu, kas man nebija pazīstams.
- [ ] Galīgo lēmumu par taisnīgumu es atstāju sava, nevis AI ziņā.