Harha, edustus ja kulttuurinen herkkyys

Voitot:

• Tunnista esimerkein, kuinka tekoälymallien kulttuuri-, sukupuoli- ja diagnostiset harha-ajatus aiheuttavat haittaa psykologian kontekstissa
• Kyky toteuttaa harhatarkistus, joka testaa tulosteita eri ryhmille, kielille ja kulttuureille
• Kyky kehittää nopeita ja varmistustekniikoita, jotka korjaavat länsikeskeistä normia ja leimaavaa kieltä

Tekoäly (AI) ei ole neutraali. Tekoälymalli oppii valtavasta tekstipinosta Internetissä, ja mallin "maailmankuvaa" vääristää sen mukaan, kenen ääni sisältää enemmän ja kenen ääni vähemmän. Tätä vääristymää kutsutaan biasiksi. Psykologian harha ei ole tavallinen tekninen virhe; Se voi vaikuttaa suoraan henkilön arviointiin, diagnoosiin ja hoitoon. Oire voidaan lukea "normaaliksi" yhdessä kulttuurissa ja "patologiseksi" toisessa; käyttäytyminen voidaan muotoilla toisessa sukupuolessa "itseväisyydeksi" ja toisessa "aggressiiviseksi". Tekoäly voi oppia ja toistaa nämä historialliset ennakkoluulot. Tässä osiossa opit tunnistamaan tekoälyn harhaa psykologian kontekstissa ja tarkastelemaan eri ryhmien, kielten ja kulttuurien tuloksia.

Mistä ennakkoluulot tulevat ja miten ne vahingoittavat?

Tekoälyharhalla on kolme ensisijaista lähdettä:

1. Harjoittelutietojen epätasapaino. Malleja koulutetaan pääasiassa tietyn kielen, kulttuurin ja aikakauden teksteillä. Suurin osa psykologian kirjallisuudesta tulee länsimaisista, koulutetuista teollistuneista yhteiskunnista; siksi tekoälyn "normaalin ihmisen" oletus heijastaa tätä kapeaa otosta.
2. Sisällytetään historiallinen harha. Tietoihin sisältyy myös tekstejä, jotka patologisoivat ja leimasivat tiettyjä ryhmiä aiemmin; malli oppii nämä mallit.
3. Edustuksen puute. Mallissa on joko riittämätöntä tai stereotyyppistä tietoa aliedustetuista ryhmistä (eri etnisyys, kieli, seksuaalinen suuntautuminen, vammaisuus).

Haitat ovat konkreettisia: tekoäly voi arvioida oireen vakavammaksi yhdessä ryhmässä ja lievempänä kuin toisessa; voi virheellisesti pitää kulttuurista ilmaisua (surirituaalia, uskonnollista kokemusta) oireena; Se voi tuottaa leimauttavaa, kliseistä kieltä.

Varoitus: Vaikka tekoälyn tulos näyttäisi olevan "objektiivista tiedettä", se voi sisältää oppimiaan harhoja. Varsinkin kun on kyse eri kulttuureista, sukupuolista, seksuaalisista suuntauksista ja sosioekonomisista ryhmistä, katsomme jokaisen tuloksen "onko tämä oikeudenmukaista kaikille ryhmille?" Suodata kysymyksellä.

Psykologialle ominaiset ennakkoluulot

Bias-tyyppi

Näkymä psykologiassa

riskiä

kulttuurinen harha

Länsimaisten normien pitäminen yleismaailmallisina

Älä pidä kulttuurista ilmaisua patologiana

sukupuoliharha

Saman käytöksen tulkitseminen eri tavalla sukupuolen mukaan

diagnostinen ero

diagnostinen harha

Tiettyjen ryhmien esittäminen "alttiiksi" tietyille diagnooseille

Yli/alidiagnoosi

kieliharha

Enemmän "taitava" hallitsevassa kielessä, pinnallinen toisessa

Epätasainen arviointi

Leimaaminen

Kieli, joka tunnistaa henkilön diagnoosin perusteella

halventava kehystys

Askel askeleelta: harhasäätö

1. Voit muuttaa tulosteen "kenelle se on kirjoitettu?" kysymys. Kuka on oletusaihe? Hän on yleensä koulutettu, länsimainen, "keskimääräinen" kaveri.
2. Testaa eri ryhmien kanssa. Toista sama kehotus eri kulttuuri-, sukupuoli- ja ikäkonteksteissa; Muuttuvatko kommentit?
3. Skannaa stigmaattinen kieli. Oikea sanamuoto, joka tunnistaa henkilön, jolla on diagnoosi ("skitsofreniaa sairastava henkilö" "skitsofreenisen" sijaan).
4. Lisää kulttuurinen konteksti. Kerro tekoälylle asiakkaan kulttuurinen/kielellinen konteksti ja "älä pidä ilmaisuja, jotka voivat olla normaaleja tässä yhteydessä, patologiana".
5. Asiantuntija ja yhteisön silmät. Jos olet epävarma jostakin kulttuurikysymyksestä, ota yhteyttä kollegaan, joka tuntee kyseisen kulttuurin.
6. Antaa ihmisten päättää. Edes harhatarkistus ei ole jätetty tekoälyn tehtäväksi; Oikeuden viimeinen tuomio on sinun.

Vinkki: Käytännöllinen tapa testata, onko tulos puolueellinen: muuta yksittäinen määrite (sukupuoli, kulttuuri, ikä) kehotteessa ja kysy sama kysymys uudelleen. Jos tulkinta muuttuu "epäreilusti" tämän muutoksen myötä, kyseessä on harha.

kolme minilaukkua

Tapaus 1 – Kulttuuri-ilmaisun patologistaminen. Ammattilainen kertoo tekoälylle, että eri kulttuurista oleva asiakas "puhuu vainajan kanssa" suruprosessin aikana. Tekoäly määrittelee tämän "voi olla psykoottinen oire". Tämä on kuitenkin yleinen ja normaali surun ilmaus kyseisen asiakkaan kulttuurissa. Asiantuntija torjuu tekoälyn tuotoksen, koska hän tuntee kulttuurikontekstin. Joku, joka ei tiennyt kontekstia, voi tehdä vakavan virhearvion.

Tapaus 2 – Sukupuoliharhojen testaus. Tutkija antaa saman tapauksen yhteenvedon tekoälylle kahdesti; se vain muuttaa henkilön sukupuolta. "Naisten" versiossa tekoäly korostaa "emotionaalista epävakautta", kun taas "mies" -versiossa se kehystää saman käyttäytymisen kuin "stressireaktio". Tämä osoittaa selvästi mallin sukupuoliharhaisuuden. Tutkija dokumentoi tämän eron ja käyttää tuloksia tällä tietoisuudella.

Tapaus 3 – Leimaavan kielen korjaaminen. Tekoäly on "sairas raja", eräässä raporttiluonnoksessa todetaan. Asiantuntija näkee tämän leimaavana kielenä, joka tunnistaa henkilön hänen diagnoosinsa kanssa ja kääntää sen kieleksi, joka keskittyy henkilöön, kuten "yksilö, jolla on rajallinen persoonallisuusmalli". Pienellä kielenmuutoksella on suuri merkitys asiakkaan ihmisarvon suojelemiseksi.

Kopioitavat kehotteet ja mallit

Tarkista seuraava teksti puolueellisuuden varalta: liputuslauseet, jotka osoittavat kulttuurista, sukupuolta, seksuaalista suuntautumista, ikää tai sosioekonomista ennakkoluulottomuutta. Esitä myös oletukset, jotka pitävät länsimaisia ​​normeja universaaleina. Ehdota oikeudenmukaisempaa vaihtoehtoa kullekin.Teksti: [teksti]

Auta minua arvioimaan seuraava tilanne, mutta asiakkaan kulttuurinen konteksti on [kulttuuri/kieli]. Tässä yhteydessä ilmaisujen esittäminen, jotka voivat olla NORMAALIA, patologiana; Jos olet epävarma kulttuurisesta kohdasta, sano "tämä voi vaihdella kulttuurisesti, ota yhteyttä asiantuntijaan." Tila: [anonyymi tila]

Käännä tämän tekstin leimaavat ilmaukset, jotka tunnistavat diagnoosinsa saaneen henkilön (esim. "skitsofreeninen", "rajaviiva") kieleksi, joka keskittää henkilön ja säilyttää hänen ihmisarvonsa. Älä muuta sisältöä, vaan inhimillistää kieli. Teksti: [teksti]

Arvioin seuraavan tapaustiivistelmän kahdesti: kerran aihe [ominaisuus A], toinen [ominaisuus B]. Onko näiden kahden arvioinnin välillä kohtuuton ero, ja jos on, johtuuko se puolueellisuudesta? Vertaa.Abstract: [anonyymi tiivistelmä]

Heikko kehote / Vahva kehote

Heikko kehote: "Onko tämän asiakkaan käyttäytyminen normaalia vai epänormaalia?"

Tämä kehote ei kysy, kenelle "normaali" on tarkoitettu; Tekoäly olettaa länsikeskeisen, kulttuurittoman "normaalin" ja voi patologisoida kulttuurisen ilmaisun.

Voimakas kehote: "Tämä asiakas on [kulttuurisessa/kielellisessä kontekstissa]. Selitä, voiko tämä käyttäytyminen olla normaalia ilmaisua kyseisessä kulttuurikontekstissa vai huomiota vaativa merkki, keskustelemalla molemmista erikseen. Älä tee lopullista arviota; muistuta minua neuvottelemaan asiantuntijan kanssa, joka tuntee kulttuurikontekstin."

Tämä kehote asettaa kontekstin keskiöön, estää kulttuurista väärinkäsitystä ja jättää päätöksen asiantuntijalle.

Yleisiä virheitä

• AI-lähtö erehtyy "objektiiviseen". Unohdetaan, että mallissa on harhaa, ja hyväksytään tulos tieteellisenä tosiasiana.
• Länsimaisen normin pitäminen yleismaailmallisena. "Normaalin" määritteleminen yhden kulttuurin mukaan ja erilaisten ilmaisujen patologisointi.
• Ei huomaa leimaavaa kieltä. Kielen erehtyminen, joka tunnistaa diagnoosin saaneen henkilön "tekniseksi kieleksi".
• Ei testata puolueellisuutta. Älä yritä samaa kehotetta eri ryhmien kanssa ja tarkista johdonmukaisuutta.
• Tee päätöksiä yksin kulttuurissa, jota et tunne. Arvioiminen kuulematta kollegaa, joka tuntee kyseisen kulttuurin.

Yhteenvetona

AI on puolueellinen, koska se oppii puolueellisen maailman teksteistä; Psykologiassa tämä harha muuttuu konkreettiseksi vahingoksi kulttuurin, sukupuolen, diagnostisen, kielen ja leimautumisen muodossa. Vertaa jokaista tulosta kysymykseen "Onko tämä reilua kaikille ryhmille?" siivilöi se; testaa samaa kehotetta eri ryhmillä; lisää kulttuurikonteksti kehotteeseen; muuttaa leimaava kieli henkilökeskeiseksi kieleksi; Etsi asiantuntijoiden/yhteisön katseita kulttuuriin, jota et tunne. Oikeudenmukaisuus, mukaan lukien ennakkoluulojen hallinta, kumpuaa ihmisestä.

Sovellustehtävä

Valmista tapauksesta yhteenveto (anonyymi). Anna se tekoälylle kahdesti; muuttaa vain yhtä ominaisuutta (sukupuoli, kulttuuri tai ikä). Aseta kaksi tulostetta vierekkäin ja tarkista epäoikeudenmukaisten erojen varalta. Pyydä myös tekoälyä kääntämään raportin kappaleen leimaavat lauseet henkilökeskeiseksi kieleksi ja huomaa ero.

tarkistuslista

• [ ] Muuta tulos "onko tämä reilua kaikille ryhmille?" kysyin kysymyksen.
• [ ] Testasin samaa kehotetta eri ryhmien/kulttuureiden kanssa.
• [ ] Lisäsin kehotteeseen kulttuurikontekstin; En patologisoinut kulttuurista ilmaisua.
• [ ] Muutin leimaavan kielen henkilökeskeiseksi kieleksi.
• [ ] Pyysin neuvoa asiantuntijalta/kollegalta kulttuurikysymyksessä, jota en tuntenut.
• [ ] Jätin lopullisen oikeudenmukaisuuden päätöksen oman harkintaani, en tekoälylle.