Daromadlar:
- AI ta'lim ma'lumotlari, ramkalar, ikki tomonlama standartlar va xushomadgo'ylik orqali tarafkashlikni keltirib chiqarganini tan olish
- Neytral savollar, dalil-stereotip kamsitish va teskari burchak testi bilan tarafkashlikka qarshi nazoratni o'rnatish qobiliyati
- Madaniy bilimlarni aniq qoida sifatida emas, balki diqqat markazida qo'llash orqali stigmatizatsiya qiluvchi tilni tavsiflovchi va hurmatli tilga tarjima qilish qobiliyati
Ijtimoiy ishning asosi adolat va inson qadr-qimmati; Kasbning zamirida har bir insonning teng qadriyatga ega ekanligi, kamsitishlarga qarshi turish va zaif guruhlar himoya qilinishi majburiyatini oladi. Sun'iy intellekt ushbu qadriyatlarga jimgina zarar etkazishi mumkin bo'lgan xavfni o'z ichiga oladi: tarafkashlik. AI tarixiy ma'lumotlardan o'rganadi; Agar ushbu ma'lumotlar jamiyatdagi tengsizliklar, stereotiplar va kamsitishlarni o'z ichiga olsa, AI ularni o'rganadi va ravon, "ob'ektiv" ko'rinadigan tilda takrorlaydi. Ijtimoiy ishchining qo'lida bu guruhni tizimli ravishda salbiy baholashga, oilaning stereotipiga yoki madaniyatni noto'g'ri tushunishga olib kelishi mumkin. Ushbu bo'limda siz AI tarafkashligini tan olishni, unga qarshi nazorat qilishni va AIdan adolat va madaniy sezgirlik bilan foydalanishni o'rganasiz.
Boshidan haqiqat: AI neytral emas, u neytral ko'rinadi. Eng xavfli tarafkashlik ishonchli va professional tilda ifodalangani; chunki u so'roqsiz qabul qilinadi. Ijtimoiy ishchi sifatida sizning vazifangiz bu ko'rinmas tarafkashlikni ko'rinadigan qilish va natijalar sizning professional qadriyatlaringizga zid keladimi yoki yo'qligini nazorat qilishdir.
AI tarafkashligi qayerdan kelib chiqadi va u nimaga o'xshaydi?
- Ta'lim ma'lumotlarining noto'g'riligi. AI jamiyatdagi tengsizliklarni aks ettiruvchi matnlardan o'rganadi. Muayyan etnik guruhlar, kambag'allar, nogironlar, ma'lum mahallalar yoki jinslar haqidagi stereotiplar chiqishi mumkin.
- Til va ramkaning tarafkashligi. AI guruhni passiv, "muammoli" yoki "yordamga muhtoj ob'ekt" sifatida belgilashi mumkin; sub'ektlar sifatida boshqa guruh. Xuddi shu xatti-harakatlar bir guruh tomonidan "madaniy" va boshqa guruh tomonidan "muammoli" deb talqin qilinishi mumkin.
- Vakillikning etishmasligi. AI ma'lumotlarda kam ifodalangan guruhlarni noto'g'ri yoki yuzaki tushunishi mumkin (kichik populyatsiyalar, kamdan-kam holatlar).
- Xushomadgo'ylik (ko'ngilsizlik). AI sizning nazarda tutilgan fikringizni tasdiqlashga intiladi; Noxolis savol noxolis tasdiqni keltirib chiqaradi.
Bunday noto'g'ri qarashlar ijtimoiy ishda ayniqsa xavflidir, chunki mahsulot haqiqiy odamlarning hayotiga bevosita ta'sir qiladi - baholash, hisobot, tavsiyanoma.
Diqqat: "AI buni shunday baholadi" - bu ogohlantirish emas, balki ogohlantirish. Guruh yoki shaxsni salbiy ko'rsatadigan natijani ko'rsangiz, birinchi savol "bu dalillarga asoslanganmi yoki stereotiplarga asoslanganmi?" bo'lishi kerak.
Bosqichma-bosqich: tarafkashlikka qarshi audit
- Neytral so'rang. Ma'nosi bo'lmagan yoki olib bormaydigan savollarni bering; "Bu oila nega e'tiborsiz ekanini tushuntiring" emas, balki "bu kuzatuvlar nimani anglatishi mumkin, muqobil tushuntirishlar nima?" so'rang.
- Dalil va stereotipni farqlang. Har bir salbiy bayonot uchun so'rang: bu mening oldimdagi aniq dalillarga asoslanganmi yoki guruh haqidagi umumiy taxminga asoslanganmi?
- Qarama-qarshi burchakdan sinov. Boshqa guruh uchun bir xil vaziyatni ko'rib chiqing: "Agar mijoz boshqa ijtimoiy-iqtisodiy/etnik kelib chiqishi bo'lsa, AI uni bir xil tilda yozarmidi?"
- Madaniy sezgirlikni qidiring. Xulq-atvorning madaniy konteksti haqida so'rang; ammo madaniy bilimlarni mutlaq qoida emas, balki imkoniyat va ehtiyotkorlik nuqtasi sifatida qabul qiling (sterotipdan qoching).
- Impressing tilini tozalang. Uni shaxsni emas, balki vaziyatni tasvirlaydigan, shuningdek, kuchli tomonlarini ko'radigan tilga tarjima qiling.
uchta mini holat
1-holat - teskari burchak egilishni aniqladi. Mutaxassis AI ikkita shunga o'xshash holatni umumlashtirgan; yagona farq oilalarning ijtimoiy-iqtisodiy holati edi. YZ kam ta'minlangan oila uchun "e'tiborsizlik xavfi yuqori" ohangida, yuqori daromadli oila uchun esa "ota-ona o'zini tutishga majbur" ohangida yozgan. Mutaxassis bu ikki tomonlama standartni tan oldi va ikkala bahoni ham dalillarga asoslangan, teng tilga aylantirdi.
2-holat - Madaniy noto'g'ri talqin tuzatildi. YZ katta oilada yashovchi bolaning ahvolini "chegaraviy muammolar va aralash uy muhiti" deb baholadi. Mutaxassis oilaning madaniy kontekstida katta oila kuchli qo'llab-quvvatlash va himoya manbai ekanligini bilar edi. AI madaniy kuchni muammoga aylantirdi. Ko'rib chiqish ushbu yordamni manba sifatida tan olish uchun tuzatildi.
3-holati - Etakchi savol tarafkashlikni keltirib chiqardi. "Bu ota nima uchun ishonchsiz ekanligini yozing", deb so'radi stajyor AIdan. AI hech qanday dalilsiz otani salbiy (xushomad) tasvirlaydigan matnni ishlab chiqardi. Nazoratchi savolni o'zgartirdi: "Ota haqida qanday kuzatishlar bor, uning kuchli va zaif tomonlari qanday bo'lishi mumkin?" Chiqish muvozanatli va dalillarga asoslangan bo'ldi. Dars: noxolis savol noxolis javob beradi.
To'rt nusxa ko'chirish shablonlari
1) Neytral, muvozanatli baholashni talab qiling:
Quyidagi kuzatuvlarni sarhisob qilar ekansiz, siz ham mumkin bo'lgan kuchli tomonlarni ham, mumkin bo'lgan tashvishlarni ham MUVOZANLANGAN tarzda va FAQAT dalillarga asoslangan holda taqdim etasiz. Stereotiplar asosida hech qanday xulosa chiqarmang. Agar sharh kuzatishga tayanmasa, "dalil yetarli emas" deb yozing. Kuzatishlar: [kuzatishlarni joylashtirish]
2) Biasni tekshirish (qarama-qarshi burchak testi):
Quyidagi sharh matnini tekshiring. Mijozning ijtimoiy-iqtisodiy holati, etnik kelib chiqishi, dini, jinsi, nogironligi yoki mahallasi tufayli asossiz stereotipni bildiruvchi bayonotlar bormi? Har biri uchun: "Agar mijoz boshqa guruhdan bo'lsa, bu bir xil tilda yoziladimi?" Muammoli jumlalarni belgilang. Matn: [matnni joylashtirish]
3) Madaniy kontekst (stereotip bo'lmagan):
Quyidagi xatti-harakatlar/vaziyat turli madaniy kontekstlarda nimani anglatishi uchun IMKONIYATLARNI taqdim eting. Bularni mutlaq qoidalar sifatida emas, balki e'tiborga olinadigan nuqtalar sifatida bering; Har bir jamoada individual farqlar mavjudligini ta'kidlang. Bitta guruh haqida umumlashtirmang. Vaziyat: [vaziyatni yozish]
4) Imprinting tilni tozalash:
Quyidagi matnda shaxsni hukm qiladigan yoki qoralaydigan sifatlarni toping (masalan, "beparvo", "hamkorlik qilmaydigan", "muammoli"). Har biri uchun bir xil faktni tavsiflovchi, hurmatli va kuchli tomonlarini tan oladigan muqobil bilan almashtiring. Yangi maʼlumotlar qoʻshilmoqda. Matn: [matnni joylashtirish]
Zaif taklif / Kuchli taklif
Zaif taklif:
Nima uchun bu oila bolalarni tarbiyalashda etarli emasligini tushuntiring.
Bu savol boshidanoq natijani nazarda tutadi ("etarli emas"). AI, xushomadgo'ylikka moyil bo'lib, bu taxminni tasdiqlovchi dalillarsiz va noxolis matn yaratadi. Agar savol bir tomonlama bo'lsa, javob ham bir tomonlama bo'ladi.
Kuchli so'rov:
Quyidagi kuzatuvlarga asoslanib, bu oilaning farzand tarbiyasidagi kuchli tomonlarini va tashvishli sohalarini MUVONANTSION va faqat dalillarga asoslangan holda sanab bering. Natijani boshidan o'ylamang; Agar dalillar etarli bo'lmasa, buni ayting. Stereotiplardan saqlaning. Kuzatishlar: [kuzatishlarni joylashtirish]
Farqi: natijani nazarda tutmaydigan va dalillarni so'raydigan muvozanatli savol, birinchi navbatda, tarafkashlikning oldini oladi.
Tartibsizlik va qarshi choralar turlari
Tartibsizlik turi
Bu nimaga o'xshaydi
qarshi chora
ta'lim ma'lumotlari
guruh stereotipi
Dalil-model farqi
ramkalash
Passiv/salbiy til
Muvozanatli, mavzuga asoslangan til
ikki tomonlama standart
Xuddi shu xatti-harakat, boshqa ohang
teskari burchak sinovi
madaniy ko'rlik
Madaniy kuchni muammoga aylantirish
Madaniy kontekst savol
xushomadgo'ylik
ma'nosini tasdiqlang
Neytral savollar bermang
vakillikning etishmasligi
Yuzaki/tushunmovchilik
Mahalliy/mutaxassis tomonidan tasdiqlash
Umumiy xatolar
- Noto'g'ri savollar berish. Xulosa degan savol noxolis javob beradi; neytral muammo.
- Ishonchli tilga tayanish. Professional ohang tarafkashlikni to'g'ri qilmaydi; dalillarga qarang.
- Madaniy bilimlarni aniq qoida sifatida ko'rib chiqish. Buni imkoniyat va e'tibor nuqtasi sifatida qabul qiling; Stereotiplardan saqlaning.
- Ikki tomonlama standartlarga e'tibor bermaslik. Turli guruhlarda bir xil xatti-harakatlar qanday yozilishini sinab ko'ring.
- Damgani dalil sifatida xato qilish. Bu “beparvolik” hukmi; Hodisani tasvirlab bering, odamni hukm qilmang.
Xulosa
AI neytral emas, u neytral ko'rinadi; U ta'lim ma'lumotlaridagi tengsizlik va stereotiplarni ravon tilda takrorlaydi. Ijtimoiy ishda bu haqiqiy odamlarning adolatsiz baholanishiga olib kelishi mumkin. Noto'g'rilikni tan oling (ta'lim ma'lumotlari, ramkalar, ikki tomonlama standartlar, madaniy ko'rlik, xushomadgo'ylik), unga qarshi tekshiring (neytral savol, dalillar namunasini ajratish, burchak testi, madaniy sezgirlik, stigma tozalash) va har bir natijani kasbning adolat va sharaf qadriyatlari orqali filtrlang. Yakuniy axloqiy filtr har doim sizsiz.
Ilova vazifasi
AI ikki xil guruh profillari (masalan, turli xil ijtimoiy-iqtisodiy maqom) bilan bir xil xayoliy kuzatishlar to'plamini jamlasin va ohanglar / tillar farq qiladimi yoki yo'qligini "teskari burchak testi" bilan solishtiring. Keyin ongli ravishda nojo'ya savol bilan neytral savolni sinab ko'ring ("u nima uchun etarli emasligini tushuntiring") va natijalardagi farqni ko'rib chiqing. Nihoyat, matnga "suv belgisi tilini tozalash" shablonini qo'llang.
nazorat ro'yxati
- [ ] Savollarimni natijani taxmin qilmasdan, neytral tarzda tuzdim.
- [ ] Men har bir salbiy bayonotni dalil-stereotip farqidan foydalanib tekshirdim.
- [ ] Men ikki tomonlama standartni teskari burchak testi bilan tekshirdim.
- [ ] Men madaniy bilimlarni mutlaq qoida emas, balki ehtiyotkorlik nuqtasi sifatida ishlatganman.
- [ ] Men stigmatizatsiya qiluvchi tilni tavsiflovchi, hurmatli til bilan almashtirdim.