Keuntungan:
- Memahami bahawa data ialah sumber utama bias AI
- Menyedari risiko yang boleh timbulkan berat sebelah di tempat kerja
- Melaksanakan langkah-langkah yang boleh diambil untuk mengurangkan prasangka
AI muncul sebagai mesin objektif yang neutral; tetapi kebenaran adalah lebih kompleks. Sistem AI mempelajari bias manusia dalam data yang mereka latih dan kadangkala membesarkan dan menghasilkan semulanya. Prejudis adalah kecenderungan sistem untuk secara sistematik memihak atau mengecualikan orang atau kumpulan tertentu. Dalam unit ini, kita akan mempertimbangkan dari mana datangnya prasangka, apakah risiko konkrit yang ditimbulkannya di tempat kerja, dan apa yang boleh dilakukan terhadapnya. Ini bukan hanya soal "etika"; Ia adalah perkara perniagaan praktikal yang membawa risiko undang-undang, komersial dan reputasi apabila salah urus.
Dari Mana Datangnya Prasangka?
Maklumat model bahasa berasal dari teks besar yang dihasilkan manusia. Teks-teks ini mengandungi semua pengetahuan masyarakat manusia, serta semua stereotaip, ketidakseimbangan dan ketidaksamaan sejarahnya. Model tidak membezakan antara corak "baik" dan "buruk"; Ia mempelajari apa sahaja yang ada dalam data.
Contoh: Jika profesion tertentu kebanyakannya dikaitkan dengan jantina dalam teks lalu (cth. "jururawat" dengan perempuan, "jurutera" dengan lelaki), model mempelajari perkaitan ini. Dia mungkin cenderung memilih kata ganti lelaki apabila melengkapkan ayat, "Seorang jurutera masuk ke pejabat, dia..." Model itu tidak berniat jahat; ia hanya mencerminkan ketidakseimbangan dalam data.
Jadi bias kebanyakannya disebabkan oleh ia menjadi cermin data, bukan ralat pengaturcaraan yang disedari. Menjelaskan masalah sebagai "seseorang menulis kod buruk" adalah mengelirukan; Masalahnya ialah ketidakseimbangan di dunia dibawa ke dalam data dan dari sana ke dalam model.
Risiko Ketara di Tempat Kerja
kawasan
Risiko berat sebelah
kemungkinan bahaya
pengambilan
Ketahui arah aliran dalam data sejarah dan hapuskan kumpulan tertentu
Kes undang-undang, hilang keupayaan
Komunikasi pelanggan
Bahasa stereotaip atau pengecualian
Kehilangan reputasi, penerbangan pelanggan
kredit/risiko
Mengekalkan ketidaksamaan masa lalu
Diskriminasi, sekatan
Penilaian prestasi
Membawa berat sebelah dalam data ke dalam keputusan
Promosi/bonus yang tidak adil
Kandungan/pemasaran
Jadikan kumpulan tertentu tidak kelihatan
Kerosakan jenama
Tiga Kes Mini
Kes 1 — Iklan itu mengecilkan bahasa. Sebuah syarikat mula mencetak siaran pekerjaan dengan AI. Selepas beberapa ketika, adalah diperhatikan bahawa iklan tersebut menarik kepada profil tertentu dengan ungkapan seperti "muda dan dinamik", "sasaran agresif" dan dengan itu mengurangkan kepelbagaian aplikasi. Pasukan itu menambah langkah yang menyemak setiap siaran untuk "bahasa inklusif"; Kepelbagaian pemohon telah meningkat dengan ketara dalam beberapa bulan.
Kes 2 — Kecondongan tersembunyi dalam ringkasan. Seorang pengurus mempunyai AI meringkaskan 30 maklum balas pekerja. Rekap itu seolah-olah menumpukan komen negatif pada satu pasukan tertentu; sedangkan dalam data mentah keadaan adalah seimbang. Model itu membesar-besarkan beberapa kenyataan yang kuat. Apabila pengurus kembali dan menyemak data mentah, dia mengelak daripada membuat salah tanggapan.
Kes 3 — Mandat keterangkuman berjaya. Satu pasukan pemasaran menyeragamkan arahan dalam salinan kempen untuk "menggunakan bahasa jantina/umur/kumpulan yang inklusif dan tidak khusus dan senaraikan andaian anda pada penghujungnya." Ungkapan formula dalam teks yang dihasilkan telah berkurangan dengan ketara; pasukan tidak perlu membetulkan setiap output secara manual berulang kali.
Mengapa Bias Sukar Dikenali?
Perkara yang paling berbahaya tentang prasangka ialah ia sering tidak kelihatan. Keluaran kelihatan lancar, profesional dan munasabah; Kecenderungan di dalamnya menjadi jelas hanya apabila seseorang melihat dengan teliti atau mengukur kesannya terhadap kumpulan yang berbeza. Adalah mengelirukan untuk mengatakan "tidak ada bias di sini" dengan melihat satu contoh; Bias sering menunjukkan dirinya bukan dalam contoh individu tetapi dalam kecenderungan umum sistem.
Awas: Andaian bahawa "Saya neutral, oleh itu alat yang saya gunakan juga neutral" adalah berbahaya. Keberkecualian alat bergantung pada data latihan dan cara ia diperiksa, bukan pada niat anda.
Gesaan Lemah / Gesaan Kuat
Gesaan yang lemah: Terangkan calon yang ideal untuk jawatan ini.
Keputusan: Model mungkin bergantung pada stereotaip dan menampilkan profil tertentu sebagai "ideal".
Gesaan yang kuat: Senaraikan hanya kecekapan yang boleh diukur untuk jawatan ini yang benar-benar berkaitan dengan pekerjaan. Jangan gunakan sebarang ciri yang tidak berkaitan dengan pekerjaan, seperti jantina, umur, status perkahwinan, kampung halaman. Akhir sekali, tulis perkara yang anda tinggalkan di bawah tajuk "andaian yang saya elakkan."
Keputusan: Penilaian terhad kepada kriteria berkaitan pekerjaan, ciri yang tidak relevan dikecualikan.
Templat untuk Mengurangkan Bias
Semak teks di bawah untuk bahasa inklusif. Benderakan pernyataan yang membayangkan jantina, umur, etnik, ketidakupayaan atau kumpulan tertentu dan mencadangkan alternatif neutral untuk setiap satu.Teks: [tampal di sini]
Buat penilaian ini hanya berdasarkan kriteria objektif ini: [kriteria]. Jangan mengambil kira sebarang maklumat selain daripada kriteria ini (nama, jantina, umur).
Senaraikan di bawah tajuk berasingan di penghujung andaian yang anda buat dalam teks yang anda hasilkan. Jadi saya dapat melihat bias tersembunyi.
Nilai kandungan ini melalui pandangan tiga kumpulan pembaca yang berbeza dan tandai mana-mana kenyataan yang boleh menyinggung perasaan/menyinggung mana-mana daripada mereka. Kandungan: [tampal di sini]
Kesilapan Biasa
Kesilapan biasa
- Dengan mengandaikan output AI "neutral". Walaupun output kelihatan neutral, ia mungkin membawa bias dalam data; Penyeliaan aktif diperlukan.
- Melihat satu contoh dan berkata "tidak ada bias". Prasangka tersembunyi dalam kecenderungan umum sistem.
- Meninggalkan pembuatan keputusan berimpak tinggi kepada AI yang tidak diawasi. Kuasa manusia adalah penting dalam keputusan seperti pengambilan, kenaikan pangkat, dan kredit.
- Terlupa menuntut keterangkuman. Jika anda tidak memintanya secara eksplisit dalam gesaan, model akan kembali kepada corak lalai.
- Ia bermaksud "Mesin mengatakannya." Orang yang menggunakan keputusan itu juga bertanggungjawab atas akibatnya.
Keadilan adalah Tanggungjawab Semua
Memerangi prasangka bukan hanya tugas pasukan teknikal. Setiap pekerja yang menggunakan output AI mempunyai tanggungjawab untuk mempersoalkan sama ada output itu adil. "Mesin memberitahu saya" bukanlah alasan; Orang yang membuat keputusan juga bertanggungjawab atas akibatnya.
Secara ringkasnya
- Sumber utama bias AI bukanlah kejahatan, tetapi ketidakseimbangan dan stereotaip sedia ada dalam data latihan.
- Prasangka; Ia mewujudkan risiko undang-undang dan reputasi sebenar dalam bidang seperti pengambilan, komunikasi pelanggan, kewangan dan penilaian.
- Bias selalunya tidak kelihatan dan tertanam dalam pelupusan keseluruhan sistem; Melihat satu contoh adalah mengelirukan.
- Untuk mengurangkan: sedar, hadkan keputusan kepada kriteria berkaitan pekerjaan, minta keterangkuman secara eksplisit, letakkan kawalan manusia pada keputusan berimpak tinggi.
- "Mesin memberitahu saya" bukanlah alasan; Keadilan adalah tanggungjawab setiap orang yang menggunakan output.
Tugas Permohonan
Beritahu AI "terangkan pekerja yang ideal [mana-mana pekerjaan]" dan tandai andaian (mungkin tidak perlu) yang dibuat dalam output. Kemudian ulangi dengan templat "kriteria berkaitan pekerjaan" di atas dan bandingkan kedua-dua output untuk keadilan.
Senarai semak
- [ ] Saya faham bahawa sumber utama berat sebelah ialah data latihan.
- [ ] Saya boleh menamakan risiko konkrit yang boleh ditimbulkan berat sebelah di tempat kerja.
- [ ] Saya tahu bahawa berat sebelah selalunya tidak kelihatan dan melihat satu contoh adalah mengelirukan.
- [ ] Saya boleh dengan jelas meminta keterangkuman dan kriteria berkaitan pekerjaan dalam segera.
- [ ] Saya memerlukan pengawasan manusia terhadap keputusan berimpak tinggi.