Bias, Perwakilan, dan Sensitiviti Budaya

Keuntungan:

• Kenali dengan contoh bagaimana bias budaya, jantina dan diagnostik dalam model kecerdasan buatan menyebabkan kemudaratan dalam konteks psikologi
• Keupayaan untuk melaksanakan semakan berat sebelah yang menguji output untuk kumpulan, bahasa dan budaya yang berbeza
• Keupayaan untuk membangunkan teknik segera dan pengesahan yang membetulkan norma berpusatkan Barat dan bahasa yang menstigma

Kecerdasan buatan (AI) tidak neutral. Model AI belajar daripada longgokan teks yang besar di internet, dan "pandangan dunia" model itu dipesongkan oleh suara siapa yang mengandungi lebih banyak dan suaranya mengandungi kurang. Herotan ini dipanggil berat sebelah. Bias dalam psikologi bukanlah kecacatan teknikal biasa; Ia secara langsung boleh menjejaskan penilaian, diagnosis dan rawatan seseorang. Sesuatu gejala boleh dibaca sebagai "normal" dalam satu budaya dan "patologi" dalam budaya lain; tingkah laku boleh dirangka sebagai "ketegasan" dalam satu jantina dan "keagresifan" dalam yang lain. AI boleh belajar dan meniru kecenderungan sejarah ini. Dalam unit ini, anda akan belajar mengenali berat sebelah dalam AI dalam konteks psikologi dan mengaudit output untuk kumpulan, bahasa dan budaya yang berbeza.

Dari mana datangnya prasangka dan bagaimana ia memudaratkan?

Terdapat tiga sumber utama bias AI:

1. Ketidakseimbangan data latihan. Model dilatih terutamanya dengan teks bahasa, budaya dan zaman tertentu. Sebahagian besar sastera psikologi berasal dari masyarakat Barat, berpendidikan, industri; maka andaian "manusia normal" AI mencerminkan sampel sempit ini.
2. Kemasukan bias sejarah. Teks yang mematologi dan mencemarkan kumpulan tertentu pada masa lalu juga termasuk dalam data; model mempelajari corak ini.
3. Kurang perwakilan. Model ini mempunyai sama ada maklumat yang tidak mencukupi atau stereotaip tentang kumpulan yang kurang diwakili (etnik yang berbeza, bahasa, orientasi seksual, ketidakupayaan).

Kemudaratan adalah ketara: AI mungkin menilai gejala sebagai lebih teruk dalam satu kumpulan dan lebih ringan daripada yang lain; mungkin tersilap menganggap ungkapan budaya (ritual berkabung, pengalaman keagamaan) sebagai gejala; Ia boleh menghasilkan stigmatisasi, bahasa klise.

Awas: Walaupun output daripada AI kelihatan seperti "sains objektif," ia mungkin membawa bias yang telah dipelajarinya. Terutama apabila ia berkaitan dengan budaya, jantina, orientasi seksual dan kumpulan sosioekonomi yang berbeza, kami menganggap setiap hasil sebagai "adakah ini adil untuk semua kumpulan?" Tapis dengan soalan.

Jenis berat sebelah khusus untuk psikologi

Jenis berat sebelah

Lihat dalam psikologi

risiko

bias budaya

Menganggap norma Barat sebagai universal

Jangan silap ungkapan budaya sebagai patologi

berat sebelah jantina

Mentafsir tingkah laku yang sama secara berbeza bergantung pada jantina

ketaksamaan diagnostik

bias diagnostik

Menggambarkan kumpulan tertentu sebagai "terdedah" kepada diagnosis tertentu

Diagnosis atas/bawah

bias bahasa

Lebih "mahir" dalam bahasa dominan, dangkal dalam bahasa lain

Penilaian yang tidak sama rata

Mengecap

Bahasa yang mengenal pasti orang dengan diagnosis mereka

pembingkaian yang merendahkan

Langkah demi langkah: kawalan berat sebelah

1. Anda boleh menukar output kepada "untuk siapa ia ditulis?" soalan. Siapakah subjek lalai? Dia biasanya seorang lelaki yang berpendidikan, Barat, "sederhana".
2. Uji dengan kumpulan yang berbeza. Ulangi gesaan yang sama dalam konteks budaya, jantina dan umur yang berbeza; Adakah komen berubah?
3. Imbas lidah stigmatik. Perkataan yang betul yang mengenal pasti orang itu dengan diagnosis mereka ("orang yang mengalami skizofrenia" bukannya "schizophrenic").
4. Tambah konteks budaya. Beritahu AI konteks budaya/linguistik klien dan "jangan anggap ungkapan yang mungkin normal dalam konteks ini sebagai patologi."
5. Mata pakar dan masyarakat. Jika anda tidak pasti tentang isu budaya, rujuk rakan sekerja yang mengetahui budaya itu.
6. Biar diorang buat keputusan. Malah pemeriksaan berat sebelah tidak diserahkan kepada AI; Penghakiman akhir keadilan adalah milik anda.

Petua: Cara praktikal untuk menguji sama ada output adalah berat sebelah: tukar satu atribut (jantina, budaya, umur) dalam gesaan dan tanya soalan yang sama sekali lagi. Jika tafsiran berubah "tidak adil" dengan perubahan ini, terdapat berat sebelah.

tiga kes mini

Kes 1 — Mempatologi ekspresi budaya. Seorang profesional memberitahu AI bahawa pelanggan dari budaya berbeza "bercakap dengan si mati" semasa proses kesedihan. AI membingkai ini sebagai "mungkin gejala psikotik." Walau bagaimanapun, ini adalah ungkapan kesedihan yang biasa dan biasa dalam budaya klien itu. Pakar menolak output AI kerana dia tahu konteks budaya. Seseorang yang tidak mengetahui konteksnya boleh membuat salah penilaian yang serius.

Kes 2 — Ujian berat sebelah jantina. Seorang penyiasat memberikan ringkasan kes yang sama kepada AI dua kali; ia hanya mengubah jantina orang itu. Dalam versi "perempuan", AI menekankan "ketidakstabilan emosi", manakala dalam versi "lelaki", ia membingkai tingkah laku yang sama seperti "tindak balas tekanan." Ini jelas menunjukkan kecenderungan jantina model. Penyelidik mendokumenkan perbezaan ini dan menggunakan output dengan kesedaran ini.

Kes 3 — Membetulkan bahasa yang menghina. AI ialah "garis sempadan yang sakit," satu draf laporan menyatakan. Pakar melihat ini sebagai bahasa stigmatisasi yang mengenal pasti orang itu dengan diagnosisnya dan menterjemahkannya ke dalam bahasa yang memfokuskan kepada orang itu, seperti "seorang individu dengan corak personaliti sempadan yang ditentukan". Perubahan kecil dalam bahasa membuat perbezaan besar melindungi maruah klien.

Gesaan dan templat yang boleh disalin

Semak teks berikut untuk berat sebelah: pernyataan bendera yang menunjukkan kecenderungan budaya, jantina, orientasi seksual, umur atau sosioekonomi. Tunjukkan juga andaian yang menganggap norma Barat bersifat universal. Cadangkan alternatif yang lebih adil untuk setiap satu.Teks: [teks]

Bantu saya menilai situasi berikut, tetapi konteks budaya klien ialah [budaya/bahasa]. Dalam konteks ini, mengemukakan ungkapan yang mungkin NORMAL sebagai patologi; Jika anda tidak pasti tentang titik budaya, katakan "ini mungkin berbeza dari segi budaya, rujuk pakar." Status: [status tanpa nama]

Terjemahkan ungkapan stigma dalam teks ini yang mengenal pasti orang itu dengan diagnosis mereka (mis., "Skizofrenia,","garis sempadan") ke dalam bahasa yang memusatkan orang itu dan memelihara maruah mereka. Jangan ubah isinya, cuma manusiakan bahasa. Teks: [teks]

Saya akan menilai ringkasan kes berikut dua kali: sekali subjek [ciri A], satu lagi [ciri B]. Adakah terdapat perbezaan yang tidak adil antara kedua-dua penilaian, dan jika ya, adakah ia disebabkan oleh berat sebelah? Bandingkan.Abstrak: [abstrak tanpa nama]

Gesaan lemah / Gesaan kuat

Gesaan lemah: "Adakah tingkah laku pelanggan ini normal atau tidak normal?"

Gesaan ini tidak menanyakan untuk siapa "biasa"; AI menganggap "normal" yang berpusatkan Barat, tidak berbudaya dan boleh mematologi ekspresi budaya.

Gesaan kuat: "Klien ini berada dalam [konteks budaya/linguistik]. Terangkan sama ada tingkah laku ini mungkin ungkapan biasa dalam konteks budaya itu atau tanda yang memerlukan perhatian, membincangkan kedua-duanya secara berasingan. Jangan membuat pertimbangan muktamad; ingatkan saya untuk berunding dengan pakar yang mengetahui konteks budaya."

Gesaan ini meletakkan konteks di tengah-tengah, menghalang salah baca budaya dan menyerahkan keputusan kepada pakar.

Kesilapan biasa

• Tersilap output AI sebagai "objektif". Melupakan bahawa model membawa berat sebelah dan menerima output sebagai fakta saintifik.
• Menganggap norma Barat sebagai universal. Mentakrifkan "normal" mengikut budaya tunggal dan mematologi ekspresi yang berbeza.
• Tidak perasan bahasa stigma. Tersilap bahasa yang mengenal pasti orang dengan diagnosisnya sebagai "bahasa teknikal".
• Bukan menguji berat sebelah. Tidak mencuba gesaan yang sama dengan kumpulan yang berbeza dan menyemak konsistensi.
• Membuat keputusan bersendirian dalam budaya yang anda tidak tahu. Membuat pertimbangan tanpa berunding dengan rakan sekerja yang mengetahui budaya itu.

Secara ringkasnya

AI berat sebelah kerana ia belajar daripada teks dunia yang berat sebelah; Dalam psikologi, berat sebelah ini diterjemahkan kepada bahaya ketara dalam bentuk budaya, jantina, diagnostik, bahasa, dan stigma. Bandingkan setiap output dengan soalan "adakah ini adil kepada semua kumpulan?" tapis; menguji gesaan yang sama dengan kumpulan yang berbeza; tambah konteks budaya pada gesaan anda; menukar bahasa yang mencela kepada bahasa berpusatkan orang; Dapatkan pandangan pakar/komuniti tentang budaya yang anda tidak kenali. Penghakiman keadilan, termasuk kawalan berat sebelah, berpunca daripada manusia.

Tugasan permohonan

Sediakan ringkasan kes (tanpa nama). Berikannya kepada AI dua kali; mengubah hanya satu ciri (jantina, budaya atau umur). Letakkan kedua-dua cetakan sebelah menyebelah dan periksa perbezaan yang tidak adil. Minta AI juga menterjemah frasa yang menstigma dalam perenggan laporan ke dalam bahasa berpusatkan orang dan perhatikan perbezaannya.

senarai semak

• [ ] Tukar output kepada "adakah ini adil kepada semua kumpulan?" Saya bertanya soalan itu.
• [ ] Saya menguji gesaan yang sama dengan kumpulan/budaya yang berbeza.
• [ ] Saya menambah konteks budaya pada gesaan; Saya tidak membuat patologi ekspresi budaya.
• [ ] Saya menukar bahasa stigma kepada bahasa berpusatkan orang.
• [ ] Saya meminta nasihat pakar/rakan sekerja mengenai isu budaya yang saya tidak biasa.
• [ ] Saya menyerahkan keputusan muktamad keadilan kepada pertimbangan saya sendiri, bukan AI.