Keuntungan:
- Menyedari apabila AI menghasilkan berat sebelah melalui data latihan, pembingkaian, piawaian berganda dan sanjungan
- Keupayaan untuk mewujudkan kawalan terhadap berat sebelah dengan soalan neutral, diskriminasi stereotaip bukti dan ujian sudut songsang
- Keupayaan untuk menterjemahkan bahasa yang menstigmatisasi ke dalam bahasa deskriptif dan hormat dengan menggunakan pengetahuan budaya sebagai titik perhatian dan bukannya peraturan muktamad
Raison d'être kerja sosial ialah keadilan dan maruah manusia; Teras profesion ialah komitmen bahawa setiap individu mempunyai nilai yang sama, diskriminasi ditentang, dan kumpulan yang terdedah dilindungi. Kecerdasan buatan membawa risiko yang secara senyap boleh membahayakan nilai-nilai ini: berat sebelah. AI belajar daripada data sejarah; Jika data itu termasuk ketidaksamaan, stereotaip dan diskriminasi dalam masyarakat, AI mempelajarinya dan mengeluarkannya semula dalam bahasa yang fasih dan kelihatan "objektif". Di tangan pekerja sosial, ini boleh diterjemahkan ke dalam penilaian yang lebih sistematik negatif terhadap kumpulan, stereotaip keluarga, atau salah faham budaya. Dalam unit ini, anda akan belajar mengenali kecenderungan AI, mengawalnya dan menggunakan AI dengan saksama dan sensitiviti budaya.
Fakta dari awal: AI tidak neutral, ia kelihatan neutral. Bias yang paling berbahaya ialah yang disampaikan dalam bahasa yang yakin dan profesional; kerana ia diterima tanpa persoalan. Tugas anda sebagai pekerja sosial adalah untuk membuat kecenderungan halimunan ini kelihatan dan memantau sama ada output bercanggah dengan nilai profesional anda.
Dari mana asal bias AI dan bagaimana rupanya?
- Data latihan bias. AI belajar daripada teks yang mencerminkan ketidaksamaan dalam masyarakat. Stereotaip tentang kumpulan etnik tertentu, orang miskin, orang kurang upaya, kawasan kejiranan tertentu atau jantina mungkin bocor ke dalam output.
- Bias bahasa dan pembingkaian. AI boleh membingkai kumpulan sebagai pasif, "bermasalah" atau "objek yang memerlukan bantuan"; kumpulan lain sebagai subjek. Tingkah laku yang sama boleh ditafsirkan sebagai "budaya" oleh satu kumpulan dan "bermasalah" oleh kumpulan lain.
- Kurang perwakilan. AI mungkin secara tidak tepat atau dangkal memahami kumpulan yang kurang diwakili dalam data (populasi kecil, kes yang jarang berlaku).
- Sanjungan (sycophancy). AI cenderung untuk mengesahkan pandangan tersirat anda; Soalan berat sebelah membawa pengesahan berat sebelah.
Kecondongan ini amat berbahaya dalam kerja sosial kerana hasilnya secara langsung menyentuh kehidupan orang sebenar—penilaian, laporan, rujukan.
Awas: "AI menilai dengan cara itu" adalah tanda amaran, bukan justifikasi. Apabila anda melihat output yang menggambarkan kumpulan atau individu secara negatif, soalan pertama ialah "adakah ia berdasarkan bukti atau berdasarkan stereotaip?" sepatutnya.
Langkah demi langkah: pengauditan terhadap berat sebelah
- Tanya neutral. Tanya soalan yang tidak membayangkan atau membawa; Bukan "terangkan mengapa keluarga ini lalai," tetapi "apakah maksud pemerhatian ini, apakah penjelasan alternatif?" bertanya.
- Bezakan antara bukti dan stereotaip. Untuk setiap pernyataan negatif, tanya: adakah ia berdasarkan bukti konkrit di hadapan saya, atau adakah ia berdasarkan andaian umum tentang kumpulan?
- Uji dari sudut yang bertentangan. Pertimbangkan situasi yang sama untuk kumpulan yang berbeza: "Jika pelanggan berasal dari latar belakang sosioekonomi/etnik yang berbeza, adakah AI akan menulisnya dalam bahasa yang sama?"
- Cari sensitiviti budaya. Tanya tentang konteks budaya sesuatu tingkah laku; tetapi mengambil pengetahuan budaya sebagai kemungkinan dan titik berhati-hati, bukan peraturan mutlak (elakkan stereotaip).
- Bersihkan lidah yang tercetak. Terjemahkannya ke dalam bahasa yang menggambarkan situasi, bukan orangnya, dan juga melihat kekuatannya.
tiga kes mini
Kes 1 — Sudut songsang mendedahkan berat sebelah. Seorang pakar telah AI meringkaskan dua kes serupa; satu-satunya perbezaan adalah status sosioekonomi keluarga. YZ menulis dalam nada "risiko tinggi pengabaian" untuk keluarga berpendapatan rendah, dan dalam nada "ibu bapa terpaksa berkelakuan" untuk keluarga berpendapatan tinggi. Pakar mengiktiraf piawaian berganda ini dan menyaring kedua-dua penilaian ke dalam bahasa yang sama berasaskan bukti.
Kes 2 — Salah tafsir budaya diperbetulkan. YZ merangka situasi kanak-kanak yang tinggal bersama keluarga besar sebagai "isu sempadan dan persekitaran rumah bercampur." Pakar itu tahu bahawa dalam konteks budaya keluarga, keluarga besar adalah sumber sokongan dan perlindungan yang kuat. AI telah mengubah kuasa budaya menjadi masalah. Semakan telah diperbetulkan untuk mengiktiraf sokongan ini sebagai sumber.
Kes 3 — Soalan utama menghasilkan berat sebelah. "Tulis mengapa bapa ini tidak boleh dipercayai," tanya seorang pelatih kepada AI. AI menghasilkan teks yang menggambarkan bapa secara negatif (sanjungan) tanpa sebarang bukti. Penyelia mengubah suai soalan: "Apakah pemerhatian tentang bapa, apakah kekuatan dan kelemahannya?" Output telah menjadi seimbang dan berasaskan bukti. Pengajaran: soalan berat sebelah menghasilkan jawapan berat sebelah.
Empat templat yang boleh disalin
1) Minta penilaian yang neutral dan seimbang:
Dalam meringkaskan pemerhatian berikut, anda mengemukakan kedua-dua kemungkinan kekuatan dan kemungkinan kebimbangan dalam cara yang SEIMBANG dan berdasarkan bukti SAHAJA. Jangan membuat sebarang inferens berdasarkan stereotaip. Jika ulasan tidak bergantung pada pemerhatian, tulis "bukti tidak mencukupi." Pemerhatian: [tampal pemerhatian]
2) Pemeriksaan berat sebelah (ujian sudut bertentangan):
Semak teks ulasan di bawah. Adakah terdapat pernyataan yang menyampaikan stereotaip yang tidak berasas kerana status sosioekonomi, etnik, agama, jantina, ketidakupayaan atau kejiranan pelanggan? Untuk setiap satu, tanya: "Adakah ini akan ditulis dalam bahasa yang sama jika pelanggan adalah daripada kumpulan yang berbeza?" Benderakan ayat masalah.Teks: [tampal teks]
3) Konteks budaya (bukan stereotaip):
Sediakan KEMUNGKINAN untuk maksud tingkah laku/situasi berikut dalam konteks budaya yang berbeza. Berikan ini sebagai mata untuk dipertimbangkan, bukan sebagai peraturan mutlak; Tegaskan bahawa terdapat perbezaan individu dalam setiap komuniti. Jangan generalisasi tentang satu kumpulan. Situasi: [tulis situasi]
4) Mencetak pembersihan lidah:
Dalam teks di bawah, cari kata sifat yang menilai atau menstigmatisasi orang itu (cth., "mencuai," "tidak bekerjasama," "bermasalah"). Untuk setiap satu, gantikan fakta yang sama dengan alternatif yang bersifat deskriptif, menghormati dan mengiktiraf kekuatan. Menambah maklumat baharu.Teks: [tampal teks]
Gesaan lemah / Gesaan kuat
Gesaan yang lemah:
Terangkan mengapa keluarga ini tidak mencukupi untuk membesarkan anak.
Soalan ini menganggap keputusan dari awal ("tidak mencukupi"). AI, dengan kecenderungan untuk menyanjung, akan menghasilkan teks bebas bukti dan berat sebelah yang mengesahkan andaian ini. Sekiranya soalan itu berat sebelah, jawapannya juga akan berat sebelah.
Gesaan kuat:
Berdasarkan pemerhatian berikut, senaraikan kedua-dua kekuatan pembesaran anak keluarga ini dan bidang yang dibimbangkan dengan cara yang SEIMBANG dan bukti sahaja. Jangan menganggap hasil dari awal; Jika bukti tidak mencukupi, nyatakan. Elakkan stereotaip. Pemerhatian: [tampal pemerhatian]
Perbezaannya: soalan seimbang yang tidak menganggap keputusan dan meminta bukti menghalang berat sebelah di tempat pertama.
Jenis berat sebelah dan tindakan balas
Jenis berat sebelah
Macam mana rupanya
tindakan balas
data latihan
stereotaip kumpulan
Perbezaan corak bukti
pembingkaian
Bahasa pasif/negatif
Bahasa yang seimbang dan berpusatkan subjek
double standard
Tingkah laku yang sama, nada yang berbeza
ujian sudut terbalik
buta budaya
Mengubah kuasa budaya menjadi masalah
Soalan konteks budaya
sanjungan
mengesahkan implikasinya
Jangan tanya soalan neutral
kekurangan perwakilan
Dangkal/salah faham
Pengesahan tempatan/pakar
Kesilapan biasa
- Bertanya soalan prejudis. Soalan yang menganggap kesimpulan menghasilkan jawapan berat sebelah; masalah neutral.
- Bergantung pada bahasa yang yakin. Nada profesional tidak menjadikan berat sebelah betul; tengok bukti.
- Mempertimbangkan pengetahuan budaya sebagai peraturan muktamad. Ambil ia sebagai titik kemungkinan dan perhatian; Elakkan stereotaip.
- Tidak perasan double standard. Uji cara tingkah laku yang sama ditulis dalam kumpulan yang berbeza.
- Menganggap setem sebagai bukti. Ia adalah penghakiman yang "cuai"; Huraikan fenomena itu, jangan menilai orang itu.
Secara ringkasnya
AI tidak neutral, ia kelihatan neutral; Ia menghasilkan semula ketidaksamaan dan stereotaip dalam data pendidikan dalam bahasa yang fasih. Dalam kerja sosial, ini boleh membawa kepada penilaian yang tidak adil terhadap orang sebenar. Kenali berat sebelah (data latihan, pembingkaian, piawaian berganda, buta budaya, sanjungan), semak terhadapnya (soalan neutral, pemisahan corak bukti, ujian sudut, sensitiviti budaya, pembersihan stigma), dan tapis setiap output melalui nilai keadilan dan kehormatan profesion. Penapis etika terakhir sentiasa anda.
Tugasan permohonan
Minta AI merumuskan set pemerhatian fiksyen yang sama dengan dua profil kumpulan yang berbeza (cth. status sosioekonomi yang berbeza) dan bandingkan dengan "ujian sudut songsang" sama ada nada/bahasa berbeza. Kemudian cuba soalan neutral dengan soalan berat sebelah secara sedar ("terangkan mengapa ia tidak mencukupi") dan periksa perbezaan hasil. Akhir sekali, gunakan templat "pembersihan bahasa penanda air" pada teks.
senarai semak
- [ ] Saya merangka soalan saya secara neutral, tanpa mengandaikan hasilnya.
- [ ] Saya menyemak setiap pernyataan negatif menggunakan perbezaan stereotaip bukti.
- [ ] Saya menyemak standard berganda dengan ujian sudut songsang.
- [ ] Saya menggunakan pengetahuan budaya sebagai titik berhati-hati, bukan peraturan mutlak.
- [ ] Saya menggantikan bahasa stigma dengan bahasa deskriptif dan hormat.