Keuntungan:
- Memahami bahwa data adalah sumber utama bias AI
- Mengenali risiko yang dapat ditimbulkan oleh bias di tempat kerja
- Menerapkan langkah-langkah yang dapat diambil untuk mengurangi prasangka
AI tampil sebagai mesin yang netral dan objektif; namun kenyataannya jauh lebih kompleks. Sistem AI mempelajari bias manusia dalam data yang menjadi dasar pelatihannya dan terkadang memperbesar dan mereproduksinya. Prasangka adalah kecenderungan suatu sistem untuk secara sistematis memihak atau mengecualikan orang atau kelompok tertentu. Dalam unit ini, kita akan membahas dari mana prasangka berasal, risiko nyata apa yang ditimbulkannya di tempat kerja, dan apa yang dapat dilakukan untuk melawannya. Ini bukan hanya masalah “etika”; Ini adalah masalah bisnis praktis yang membawa risiko hukum, komersial, dan reputasi jika salah dikelola.
Dari Mana Prasangka Berasal?
Informasi model bahasa berasal dari teks-teks besar yang dihasilkan manusia. Teks-teks ini berisi semua pengetahuan tentang masyarakat manusia, serta semua stereotip, ketidakseimbangan, dan kesenjangan sejarah. Model tersebut tidak membedakan antara pola yang "baik" dan "buruk"; Ia mempelajari apa pun yang ada dalam data.
Contoh: Jika profesi tertentu sebagian besar diasosiasikan dengan gender dalam teks sebelumnya (misalnya, "perawat" dengan perempuan, "insinyur" dengan laki-laki), model akan mempelajari asosiasi ini. Dia mungkin cenderung memilih kata ganti laki-laki ketika menyelesaikan kalimat, "Seorang insinyur masuk ke kantor, dia..." Model tersebut tidak jahat; ini hanya mencerminkan ketidakseimbangan dalam data.
Jadi biasnya sebagian besar disebabkan oleh cerminan data, bukan kesalahan pemrograman yang disengaja. Menjelaskan masalah sebagai "seseorang menulis kode yang buruk" adalah menyesatkan; Masalahnya adalah ketidakseimbangan di dunia ini terbawa ke dalam data dan dari sana ke dalam model.
Risiko Nyata di Tempat Kerja
daerah
Risiko bias
kemungkinan bahaya
perekrutan
Pelajari tren data historis dan hilangkan kelompok tertentu
Kasus hukum, kehilangan kemampuan
Komunikasi pelanggan
Bahasa stereotip atau eksklusif
Hilangnya reputasi, pelarian pelanggan
kredit/risiko
Melestarikan kesenjangan di masa lalu
Diskriminasi, sanksi
Evaluasi kinerja
Membawa bias dalam data ke dalam keputusan
Promosi/bonus yang tidak adil
Konten/pemasaran
Jadikan grup tertentu tidak terlihat
Kerusakan merek
Tiga Kasus Mini
Kasus 1 — Iklan tersebut mempersempit bahasa. Sebuah perusahaan mulai mencetak lowongan pekerjaan dengan AI. Setelah beberapa waktu, diketahui bahwa iklan tersebut menarik profil tertentu dengan ekspresi seperti "muda dan dinamis", "target agresif" sehingga mengurangi keragaman aplikasi. Tim menambahkan langkah yang memeriksa setiap postingan untuk “bahasa inklusif”; Keberagaman pelamar telah meningkat secara signifikan dalam beberapa bulan.
Kasus 2 — Bias tersembunyi dalam ringkasan. Seorang manajer meminta AI merangkum 30 masukan karyawan. Rekap tersebut sepertinya memusatkan komentar negatif pada satu tim tertentu; sedangkan pada data mentah situasinya seimbang. Model tersebut membesar-besarkan beberapa pernyataan yang kuat. Ketika manajer kembali dan memeriksa data mentah, dia menghindari kesalahpahaman.
Kasus 3 – Mandat inklusivitas berhasil. Salah satu tim pemasaran menstandardisasi instruksi dalam salinan kampanye menjadi “gunakan bahasa gender/umur/kelompok yang inklusif dan tidak spesifik dan cantumkan asumsi Anda di bagian akhir.” Ekspresi rumusan dalam teks yang dihasilkan telah menurun secara nyata; tim tidak perlu mengoreksi setiap keluaran secara manual berulang kali.
Mengapa Bias Sulit Dikenali?
Hal yang paling berbahaya tentang prasangka adalah bahwa prasangka sering kali tidak terlihat. Outputnya terlihat mulus, profesional, dan masuk akal; Kecenderungan yang ada di dalamnya baru terlihat ketika seseorang mencermati atau mengukur dampaknya terhadap kelompok yang berbeda. Adalah menyesatkan untuk mengatakan "tidak ada bias di sini" hanya dengan melihat satu contoh saja; Bias sering kali muncul bukan dalam contoh-contoh individual, melainkan dalam kecenderungan umum suatu sistem.
Perhatian: Anggapan “Saya netral maka alat yang saya gunakan juga netral” adalah berbahaya. Netralitas alat bergantung pada data pelatihan dan cara pemeriksaannya, bukan pada niat Anda.
Prompt Lemah / Prompt Kuat
Perintah lemah: Jelaskan kandidat ideal untuk posisi ini.
Hasil: Model tersebut mungkin mengandalkan stereotip dan menampilkan profil tertentu sebagai "ideal".
Perintah yang kuat: Cantumkan hanya kompetensi terukur untuk posisi ini yang benar-benar relevan dengan pekerjaan. Jangan menggunakan karakteristik apapun yang tidak berhubungan dengan pekerjaan, seperti jenis kelamin, usia, status perkawinan, kampung halaman. Terakhir, tulis apa yang Anda tinggalkan di bawah judul "asumsi yang saya hindari".
Hasil: Evaluasi dibatasi pada kriteria yang berhubungan dengan pekerjaan, fitur-fitur yang tidak relevan dikecualikan.
Templat untuk Mengurangi Bias
Periksa teks di bawah untuk bahasa inklusif. Tandai pernyataan yang menyiratkan gender, usia, etnis, disabilitas, atau kelompok tertentu dan sarankan alternatif netral untuk masing-masing kelompok. Teks: [tempel di sini]
Lakukan evaluasi ini hanya berdasarkan kriteria obyektif berikut: [kriteria]. Jangan memperhitungkan informasi apa pun selain kriteria ini (nama, jenis kelamin, usia).
Cantumkan di bawah judul terpisah di akhir asumsi mana yang Anda buat dalam teks yang Anda buat. Jadi saya bisa melihat bias yang tersembunyi.
Evaluasi konten ini melalui sudut pandang tiga kelompok pembaca yang berbeda dan tandai pernyataan apa pun yang mungkin menyinggung/menyinggung salah satu dari mereka. Konten: [tempel di sini]
Kesalahan Umum
Kesalahan umum
- Dengan asumsi keluaran AI "netral". Meskipun keluarannya tampak netral, hal ini mungkin membawa bias pada data; Diperlukan pengawasan aktif.
- Melihat satu contoh dan mengatakan "tidak ada bias". Prasangka tersembunyi dalam kecenderungan umum sistem.
- Menyerahkan pengambilan keputusan berdampak besar pada AI tanpa pengawasan. Otoritas manusia sangat penting dalam pengambilan keputusan seperti rekrutmen, promosi, dan kredit.
- Lupa menuntut inklusivitas. Jika Anda tidak memintanya secara eksplisit di prompt, model akan kembali ke pola default.
- Artinya, "Mesin yang mengatakannya." Orang yang menggunakan keputusan tersebut juga bertanggung jawab atas akibatnya.
Keadilan adalah Tanggung Jawab Setiap Orang
Melawan prasangka bukan hanya tugas tim teknis. Setiap karyawan yang menggunakan keluaran AI memiliki tanggung jawab untuk mempertanyakan apakah keluaran tersebut adil. “Mesin memberitahu saya” bukanlah sebuah alasan; Orang yang membuat keputusan juga bertanggung jawab atas konsekuensinya.
Singkatnya
- Sumber utama bias AI bukanlah niat jahat, namun ketidakseimbangan dan stereotip yang ada dalam data pelatihan.
- Prasangka; Hal ini menciptakan risiko hukum dan reputasi yang nyata di berbagai bidang seperti perekrutan, komunikasi pelanggan, keuangan dan evaluasi.
- Bias seringkali tidak terlihat dan tertanam dalam keseluruhan disposisi sistem; Melihat satu contoh saja sudah menyesatkan.
- Untuk mengurangi: waspada, batasi keputusan pada kriteria terkait pekerjaan, secara eksplisit minta inklusivitas, berikan kendali manusia pada keputusan yang berdampak besar.
- “Mesin memberitahu saya” bukanlah sebuah alasan; Kewajaran merupakan tanggung jawab setiap orang yang memanfaatkan hasilnya.
Tugas Aplikasi
Beritahu AI “deskripsikan pekerja ideal [pekerjaan apa pun]” dan tandai asumsi apa (yang mungkin tidak diperlukan) yang dibuat dalam outputnya. Kemudian ulangi dengan templat “kriteria terkait pekerjaan” di atas dan bandingkan kedua keluaran tersebut agar adil.
Daftar periksa
- [ ] Saya memahami bahwa sumber utama bias adalah data pelatihan.
- [ ] Saya dapat menyebutkan risiko nyata yang dapat ditimbulkan oleh bias di tempat kerja.
- [ ] Saya tahu bahwa bias seringkali tidak terlihat dan melihat satu contoh saja bisa menyesatkan.
- [ ] Saya dapat dengan jelas meminta inklusivitas dan kriteria terkait pekerjaan di prompt.
- [ ] Saya memerlukan pengawasan manusia terhadap keputusan yang berdampak besar.