Прибуток:
- Розпізнавання випадків, коли штучний інтелект створює упередженість через навчальні дані, фреймінг, подвійні стандарти та лестощі
- Здатність встановити контроль проти упередженості за допомогою нейтральних запитань, дискримінації доказових стереотипів і тесту на зворотний кут
- Здатність перекладати стигматизаційну мову на описову та шанобливу мову, використовуючи культурні знання як пункт уваги, а не як остаточне правило
Raison d'être соціальної роботи - це справедливість і людська гідність; В основі професії лежить зобов’язання, що кожна людина є рівноцінною, дискримінація протидіє, а вразливі групи захищені. Штучний інтелект несе в собі ризик, який може непомітно зашкодити саме цим цінностям: упередженість. ШІ навчається на історичних даних; Якщо ці дані містять нерівність, стереотипи та дискримінацію в суспільстві, ШІ вивчає їх і відтворює вільною, «об’єктивною» мовою. У руках соціального працівника це може перетворитися на систематичну негативну оцінку групи, стереотипне ставлення до сім’ї чи неправильне розуміння культури. У цьому розділі ви навчитеся розпізнавати упередження штучного інтелекту, контролювати його та використовувати штучний інтелект чесно та з урахуванням культурних особливостей.
Факт із самого початку: штучний інтелект не нейтральний, він виглядає нейтральним. Найнебезпечнішим упередженням є те, що викладено впевненою та професійною мовою; тому що це приймається без питань. Ваше завдання як соціального працівника полягає в тому, щоб зробити це невидиме упередження видимим і контролювати, чи не суперечить результат вашим професійним цінностям.
Звідки береться упередження AI і як воно виглядає?
- Зміщення даних навчання. ШІ вчиться з текстів, які відображають нерівність у суспільстві. Стереотипи щодо певних етнічних груп, бідних, інвалідів, певних районів чи статі можуть просочитися в результат.
- Мова та упередженість фрейму. ШІ може представити групу як пасивну, «проблемну» або «об’єкт, який потребує допомоги»; інша група як предмети. Та сама поведінка може бути витлумачена однією групою як «культурна», а іншою — «проблемна».
- Відсутність представництва. ШІ може неточно або поверхнево розуміти групи, які недостатньо представлені в даних (невеликі групи населення, рідкісні випадки).
- Лестощі (підлабузництво). AI прагне підтвердити ваш неявний погляд; Упереджене запитання приносить упереджене підтвердження.
Ці упередження особливо небезпечні в соціальній роботі, оскільки результат безпосередньо стосується життя реальних людей — оцінка, звіт, направлення.
Застереження: «ШІ так оцінив» — це попереджувальний знак, а не виправдання. Коли ви бачите вихід, який негативно зображує групу чи окрему людину, перше запитання: «це засновано на доказах чи на стереотипах?» має бути.
Крок за кроком: аудит проти упередженості
- Запитуйте нейтрально. Ставте запитання, які не натякають і не наводять; Не «поясніть, чому ця сім’я недбала», а «що можуть означати ці спостереження, які альтернативні пояснення?» запитати.
- Розрізняйте докази та стереотипи. Для кожного негативного твердження запитайте: воно ґрунтується на конкретних доказах, які є переді мною, чи ґрунтується на загальному припущенні щодо групи?
- Тест з протилежного кута. Розглянемо таку саму ситуацію для іншої групи: «Якби клієнт мав інше соціально-економічне/етнічне походження, чи писав би штучний інтелект тією ж мовою?»
- Шукайте культурну чутливість. Запитайте про культурний контекст поведінки; але сприймайте культурні знання як можливість і застереження, а не абсолютне правило (уникайте стереотипів).
- Очистіть відбитковий язик. Перекладіть це мовою, яка описує ситуацію, а не людину, а також бачить сильні сторони.
три міні-чохла
Випадок 1 — зворотний кут виявленого зсуву. Експерт попросив ШІ підсумувати два схожі випадки; єдиною відмінністю був соціально-економічний статус сімей. YZ писав у тоні «високий ризик зневаги» для сім’ї з низьким доходом і в тоні «батько змушений поводитися» для сім’ї з високим доходом. Експерт визнав цей подвійний стандарт і перевів обидві оцінки в рівноправну мову, засновану на доказах.
Випадок 2 — виправлено помилкове культурне тлумачення. YZ назвав ситуацію, коли дитина живе з великою родиною, «проблемами кордонів і змішаним домашнім середовищем». Експерт знав, що в культурному контексті сім'ї розширена сім'я була потужним джерелом підтримки та захисту. ШІ перетворив культурну силу на проблему. Огляд виправлено, щоб визнати цю підтримку ресурсом.
Випадок 3 — Навідне запитання викликало упередження. «Напишіть, чому цей батько не заслуговує довіри», — попросив інтерн ШІ. AI створив текст, який зображує батька негативно (лестощі) без будь-яких доказів. Супервізор модифікував питання: «Які спостереження щодо батька, які можуть бути його сильні та слабкі сторони?» Результат став збалансованим і заснованим на доказах. Урок: упереджене запитання породжує упереджену відповідь.
Чотири шаблони, які можна копіювати
1) Вимагайте нейтральної, збалансованої оцінки:
Підсумовуючи наведені нижче спостереження, ви представляєте як можливі сильні сторони, так і можливі занепокоєння в ЗВАЛОЖЕНИЙ спосіб і ґрунтуючись ЛИШЕ на доказах. Не робіть висновків на основі стереотипів. Якщо коментар не ґрунтується на спостереженнях, напишіть «недостатньо доказів». Спостереження: [вставити спостереження]
2) Перевірка зміщення (тест протилежного кута):
Перегляньте текст рецензії нижче. Чи є твердження, які передають необґрунтований стереотип через соціально-економічний статус, етнічну приналежність, релігію, стать, інвалідність або сусідство клієнта? Для кожного запитайте: «Чи було б це написано тією самою мовою, якби клієнт належав до іншої групи?» Позначити проблемні речення. Текст: [вставити текст]
3) Культурний контекст (нестереотипний):
Надайте МОЖЛИВОСТІ того, що може означати наступна поведінка/ситуація в різних культурних контекстах. Наведіть це як пункти, які слід враховувати, а не як абсолютні правила; Підкресліть, що в кожній громаді є індивідуальні відмінності. Не узагальнюйте про одну групу. Ситуація: [написати ситуацію]
4) Очищення відбитка язика:
У наведеному нижче тексті знайдіть прикметники, які засуджують або стигматизують людину (наприклад, «недбалий», «нездатний до співпраці», «проблематичний»). Для кожного замініть той самий факт альтернативою, яка є описовою, шанобливою та визнає сильні сторони. Додавання нової інформації. Текст: [вставити текст]
Слабка підказка / Сильна підказка
Слабка підказка:
Поясніть, чому ця сім'я неповноцінна у вихованні дітей.
Це запитання передбачає результат із самого початку («недостатньо»). ШІ з його схильністю до лестощів створить бездоказовий і упереджений текст, який підтвердить це припущення. Якщо питання необ'єктивне, то і відповідь буде необ'єктивною.
Потужна підказка:
Базуючись на наведених нижче спостереженнях, перелічіть як сильні сторони цієї сім’ї у вихованні дітей, так і сфери, які викликають занепокоєння, ЗВАЛОЖЕНО та лише на основі доказів. Не припускайте результату з самого початку; Якщо доказів недостатньо, вкажіть це. Уникайте стереотипів. Спостереження: [вставити спостереження]
Відмінність: збалансоване запитання, яке не припускає результату та вимагає доказів, у першу чергу запобігає упередженості.
Види упередження та контрзаходи
Тип упередження
Як це виглядає
контрзахід
навчальні дані
груповий стереотип
Розрізнення доказів і шаблонів
обрамлення
Пасивна/заперечна мова
Збалансована, предметно-орієнтована мова
подвійний стандарт
Така сама поведінка, інший тон
тест на зворотний кут
культурна сліпота
Перетворення культурної влади на проблему
Питання культурного контексту
лестощі
підтвердити наслідки
Не ставте нейтральних питань
відсутність представництва
Поверхнево/нерозуміння
Місцеве/експертне підтвердження
Поширені помилки
- Ставити упереджені запитання. Питання, яке припускає висновок, породжує упереджену відповідь; нейтральна проблема.
- Спираючись на впевнену мову. Професійний тон не робить упередженість правильною; подивіться на докази.
- Вважаючи знання про культуру остаточним правилом. Прийміть це як точку можливості та уваги; Уникайте стереотипів.
- Не помічаючи подвійних стандартів. Перевірте, як однакова поведінка записана в різних групах.
- Помилка з печаткою як доказом. Це «недбале» судження; Описуйте явище, не судіть людину.
Підсумовуючи
ШІ не нейтральний, він виглядає нейтральним; Він відтворює нерівності та стереотипи в освітніх даних вільною мовою. У соціальній роботі це може призвести до несправедливих оцінок реальних людей. Визнайте упередженість (навчальні дані, формулювання, подвійні стандарти, культурна сліпота, лестощі), перевірте її на відповідність (нейтральне запитання, відокремлення доказів від зразків, кутове тестування, культурна чутливість, очищення стигматизації) і відфільтруйте кожен результат через професійні цінності справедливості та честі. Останнім етичним фільтром завжди залишаєтесь ви.
Аплікаційне завдання
Попросіть штучний інтелект узагальнити той самий набір вигаданих спостережень із двома різними груповими профілями (наприклад, різний соціально-економічний статус) і порівняти з «тестом зворотного кута», чи відрізняються тони/мова. Потім спробуйте нейтральне запитання зі свідомо упередженим запитанням («поясніть, чому це неадекватно») і перевірте різницю в результатах. Нарешті, застосуйте до тексту шаблон «Очищення мови водяного знака».
контрольний список
- [ ] Я формулював свої запитання нейтрально, не припускаючи результату.
- [ ] Я перевірив кожне негативне твердження, використовуючи відмінність між доказами та стереотипами.
- [ ] Я перевірив подвійний стандарт за допомогою тесту на зворотний кут.
- [ ] Я використав знання про культуру як застереження, а не як абсолютне правило.
- [ ] Я замінив стигматизуючу мову описовою, шанобливою мовою.