Keuntungan:
- Kenali dengan contoh bagaimana bias budaya, gender, dan diagnostik dalam model kecerdasan buatan menyebabkan kerugian dalam konteks psikologi
- Kemampuan untuk menerapkan pemeriksaan bias yang menguji keluaran untuk kelompok, bahasa, dan budaya yang berbeda
- Kemampuan untuk mengembangkan teknik cepat dan verifikasi yang mengoreksi norma yang berpusat pada Barat dan bahasa yang menstigmatisasi
Kecerdasan buatan (AI) tidaklah netral. Model AI belajar dari tumpukan teks di internet, dan "pandangan dunia" model tersebut dipengaruhi oleh suara siapa yang lebih banyak dan suara siapa yang lebih sedikit. Distorsi ini disebut bias. Bias dalam psikologi bukanlah kelemahan teknis biasa; Hal ini dapat secara langsung mempengaruhi penilaian, diagnosis, dan pengobatan seseorang. Suatu gejala mungkin dianggap "normal" di satu budaya dan "patologis" di budaya lain; suatu perilaku dapat dibingkai sebagai “ketegasan” pada satu gender dan “agresi” pada gender lainnya. AI dapat mempelajari dan meniru bias historis ini. Dalam unit ini Anda akan belajar mengenali bias dalam AI dalam konteks psikologi dan mengaudit keluarannya untuk berbagai kelompok, bahasa, dan budaya.
Dari mana datangnya prasangka dan apa dampak buruknya?
Ada tiga sumber utama bias AI:
- Ketidakseimbangan data pelatihan. Model dilatih terutama dengan teks dari bahasa, budaya, dan periode tertentu. Sebagian besar literatur psikologi berasal dari masyarakat Barat, terpelajar, dan industri; oleh karena itu asumsi AI sebagai "manusia normal" mencerminkan sampel yang sempit ini.
- Dimasukkannya bias sejarah. Teks-teks yang di masa lalu bersifat patologis dan menstigmatisasi kelompok tertentu juga dimasukkan dalam data; model mempelajari pola-pola ini.
- Kurangnya representasi. Model ini tidak memiliki informasi yang memadai atau bersifat stereotipikal mengenai kelompok yang kurang terwakili (etnis, bahasa, orientasi seksual, disabilitas yang berbeda).
Kerugiannya nyata: AI mungkin menilai suatu gejala lebih parah pada satu kelompok dan lebih ringan dibandingkan kelompok lain; mungkin secara keliru menganggap ekspresi budaya (ritual berkabung, pengalaman keagamaan) sebagai sebuah gejala; Hal ini dapat menghasilkan bahasa yang bersifat stigmatisasi dan klise.
Perhatian: Sekalipun keluaran AI tampak seperti “ilmu pengetahuan objektif”, hal tersebut mungkin mengandung bias yang telah dipelajari. Khususnya ketika menyangkut perbedaan budaya, gender, orientasi seksual, dan kelompok sosio-ekonomi, kami mempertimbangkan setiap hasil sebagai “apakah ini adil untuk semua kelompok?” Filter dengan pertanyaan.
Jenis bias khusus untuk psikologi
Jenis bias
Lihat dalam psikologi
risiko
bias budaya
Menganggap norma-norma Barat sebagai sesuatu yang universal
Jangan salah mengartikan ekspresi budaya sebagai patologi
bias gender
Menafsirkan perilaku yang sama secara berbeda tergantung pada gender
disparitas diagnostik
bias diagnostik
Menggambarkan kelompok tertentu “rentan” terhadap diagnosis tertentu
Diagnosis berlebih/kurang
bias bahasa
Lebih "mahir" dalam bahasa dominan, dangkal dalam bahasa lain
Evaluasi yang tidak setara
menginjak
Bahasa yang mengidentifikasi orang dengan diagnosisnya
pembingkaian yang merendahkan
Langkah demi langkah: kontrol bias
- Anda dapat mengubah hasilnya menjadi "untuk siapa ini ditulis?" pertanyaan. Siapa subjek defaultnya? Dia pada umumnya adalah orang yang terpelajar, orang Barat, dan "rata-rata".
- Tes dengan kelompok yang berbeda. Ulangi perintah yang sama dalam konteks budaya, gender, dan usia yang berbeda; Apakah komentarnya berubah?
- Pindai lidah stigmatis. Kata-kata yang benar yang mengidentifikasi orang tersebut dengan diagnosisnya ("orang yang mengalami skizofrenia" bukan "skizofrenia").
- Tambahkan konteks budaya. Beri tahu AI konteks budaya/linguistik klien dan “jangan menganggap ekspresi yang mungkin normal dalam konteks ini sebagai patologi.”
- Mata pakar dan komunitas. Jika Anda tidak yakin tentang suatu masalah budaya, konsultasikan dengan rekan kerja yang mengetahui budaya tersebut.
- Biarkan orang memutuskan. Bahkan pemeriksaan bias tidak diserahkan kepada AI; Keputusan akhir atas keadilan ada di tangan Anda.
Tip: Cara praktis untuk menguji apakah suatu keluaran bias: ubah satu atribut (gender, budaya, usia) di prompt dan ajukan pertanyaan yang sama lagi. Jika penafsirannya berubah secara “tidak adil” dengan perubahan ini, maka akan terjadi bias.
tiga kasus mini
Kasus 1 — Mepatologikan ekspresi budaya. Seorang profesional memberi tahu AI bahwa klien dari budaya berbeda sedang “berbicara dengan almarhum” selama proses berduka. AI membingkainya sebagai “mungkin gejala psikotik.” Namun, ini adalah ekspresi kesedihan yang umum dan normal dalam budaya klien. Pakar tersebut menolak keluaran AI karena dia mengetahui konteks budayanya. Seseorang yang tidak mengetahui konteksnya dapat membuat kesalahan penilaian yang serius.
Kasus 2 — Pengujian bias gender. Seorang penyelidik memberikan ringkasan kasus yang sama kepada AI sebanyak dua kali; itu hanya mengubah jenis kelamin orang tersebut. Dalam versi “perempuan”, AI menekankan “ketidakstabilan emosional”, sedangkan dalam versi “laki-laki”, AI membingkai perilaku yang sama sebagai “respons stres”. Hal ini jelas menunjukkan bias gender dalam model tersebut. Peneliti mendokumentasikan perbedaan ini dan menggunakan keluarannya dengan kesadaran ini.
Kasus 3 — Memperbaiki bahasa yang menstigmatisasi. AI adalah “batas yang sakit,” menurut salah satu rancangan laporan. Spesialis melihat ini sebagai bahasa stigmatisasi yang mengidentifikasi orang tersebut dengan diagnosisnya dan menerjemahkannya ke dalam bahasa yang berfokus pada orang tersebut, seperti "individu dengan pola kepribadian ambang tertentu". Perubahan kecil dalam bahasa membuat perbedaan besar dalam melindungi martabat klien.
Perintah dan templat yang dapat disalin
Periksa teks berikut untuk mengetahui adanya bias: tandai pernyataan yang menunjukkan bias budaya, gender, orientasi seksual, usia, atau sosioekonomi. Tunjukkan juga asumsi-asumsi yang menganggap norma-norma Barat bersifat universal. Sarankan alternatif yang lebih adil untuk masing-masing. Teks: [teks]
Bantu saya mengevaluasi situasi berikut, tetapi konteks budaya klien adalah [budaya/bahasa]. Dalam konteks ini, menghadirkan ekspresi yang mungkin NORMAL sebagai patologi; Jika Anda tidak yakin tentang suatu hal budaya, katakan "ini mungkin berbeda menurut budaya, konsultasikan dengan ahlinya." Status: [status anonim]
Terjemahkan ekspresi stigmatisasi dalam teks ini yang mengidentifikasi orang tersebut dengan diagnosisnya (misalnya, "penderita skizofrenia", "batas") ke dalam bahasa yang memusatkan perhatian pada orang tersebut dan menjaga martabatnya. Jangan diubah isinya, memanusiakan saja bahasanya. Teks: [teks]
Saya akan mengevaluasi ringkasan kasus berikut dua kali: pertama subjek [fitur A], yang lain [fitur B]. Apakah terdapat perbedaan yang tidak adil antara kedua evaluasi tersebut, dan jika demikian, apakah hal tersebut disebabkan oleh bias? Bandingkan.Abstrak: [abstrak anonim]
Perintah lemah / Perintah kuat
Pertanyaan lemah: "Apakah perilaku klien ini normal atau tidak normal?"
Prompt ini tidak menanyakan untuk siapa "normal" itu; AI mengasumsikan “normal” yang berpusat pada Barat, tidak berbudaya, dan dapat membuat ekspresi budaya menjadi patologis.
Perintah yang kuat: "Klien ini berada dalam [konteks budaya/linguistik]. Jelaskan apakah perilaku ini mungkin merupakan ekspresi normal dalam konteks budaya tersebut atau suatu tanda yang memerlukan perhatian, diskusikan keduanya secara terpisah. Jangan membuat penilaian yang pasti; ingatkan saya untuk berkonsultasi dengan pakar yang mengetahui konteks budaya."
Perintah ini mengutamakan konteks, mencegah kesalahan pembacaan budaya, dan menyerahkan keputusan kepada ahlinya.
Kesalahan umum
- Salah mengira keluaran AI sebagai "objektif". Melupakan bahwa model tersebut mengandung bias dan menerima keluaran sebagai fakta ilmiah.
- Menganggap norma Barat bersifat universal. Mendefinisikan "normal" menurut satu budaya dan membuat patologi ekspresi yang berbeda.
- Tidak memperhatikan bahasa yang menstigmatisasi. Salah mengira bahasa yang mengidentifikasi orang dengan diagnosisnya sebagai "bahasa teknis".
- Bukan menguji bias. Tidak mencoba perintah yang sama dengan kelompok yang berbeda dan memeriksa konsistensi.
- Membuat keputusan sendirian dalam budaya yang tidak Anda ketahui. Membuat penilaian tanpa berkonsultasi dengan rekan kerja yang mengetahui budaya tersebut.
Singkatnya
AI bersifat bias karena ia belajar dari teks-teks dunia yang bias; Dalam psikologi, bias ini diterjemahkan menjadi kerugian nyata dalam bentuk budaya, gender, diagnostik, bahasa, dan stigma. Bandingkan setiap keluaran dengan pertanyaan “apakah ini adil untuk semua kelompok?” saring; uji prompt yang sama dengan kelompok yang berbeda; tambahkan konteks budaya pada permintaan Anda; mengubah bahasa yang menstigmatisasi menjadi bahasa yang berpusat pada orang; Carilah perhatian dari pakar/komunitas mengenai budaya yang tidak Anda kenal. Penilaian keadilan, termasuk pengendalian bias, berasal dari manusia.
Tugas aplikasi
Siapkan ringkasan kasus (anonim). Berikan kepada AI dua kali; mengubah hanya satu karakteristik (gender, budaya atau usia). Tempatkan kedua hasil cetakan bersebelahan dan periksa perbedaan yang tidak wajar. Mintalah AI juga menerjemahkan frasa yang menstigmatisasi dalam paragraf laporan ke dalam bahasa yang berpusat pada orang dan perhatikan perbedaannya.
daftar periksa
- [ ] Ubah outputnya menjadi "apakah ini adil untuk semua kelompok?" Saya menanyakan pertanyaan itu.
- [ ] Saya menguji perintah yang sama dengan kelompok/budaya yang berbeda.
- [ ] Saya menambahkan konteks budaya ke dalam prompt; Saya tidak melakukan patologi terhadap ekspresi budaya.
- [ ] Saya mengubah bahasa stigmatisasi menjadi bahasa yang berpusat pada orang.
- [ ] Saya meminta nasihat dari pakar/kolega mengenai isu budaya yang tidak saya kenal.
- [ ] Saya menyerahkan keputusan akhir yang adil pada penilaian saya sendiri, bukan AI.