Прибуток:
- Розрізнення трьох моделей управління людиною (в циклі, на циклі, за командою)
- Визнання та пом’якшення ризиків упередженості та дискримінації в результатах ШІ
- Переклад принципів прозорості та пояснюваності в конкретні програми
Технічно система штучного інтелекту може працювати ідеально, але все одно помилятися: вона може систематично ліквідувати групу, не пояснити причину свого рішення або змусити людей прийняти його без сумнівів. У цьому підрозділі ми перетворюємо «м’яку», але найважливішу сторону управління — людський контроль, управління упередженнями, прозорість та етику — у конкретні практики. Метою є не розпливчасті гасла на кшталт «не довіряй ШІ»; Це робочі механізми, які показують, як перевірити результат, зменшити упередженість і встановити прозорість.
Три моделі управління людиною
Людський нагляд означає, що людина зберігає контроль над рішеннями, які приймає ШІ. Є три основні моделі, і необхідно вибрати правильну модель відповідно до ризику.
модель
Значення
Де підходить
Людина в петлі
Кожне рішення людина схвалює
Високий ризик, впливові рішення
Людина на петлі
ШІ працює, люди спостерігають і втручаються, якщо необхідно
Середній ризик, великий обсяг операцій
Командир
Людина проектує систему, встановлює її межі, може її закрити
Загальний рівень управління
Для рішень, які суттєво впливають на людину (працевлаштування, кредит, охорона здоров’я), перевага віддається моделі «людина в циклі»: штучний інтелект дає поради, але компетентна людина приймає остаточне рішення. «ШІ так сказав» ніколи не є виправданням; Відповідальність завжди лежить на людині.
Увага: недостатньо, щоб людський контроль був «на папері». Якщо людина автоматично схвалює пропозиції штучного інтелекту (штампування), реального контролю немає. Щоб аудит мав сенс, потрібно вміти побачити обґрунтування, поставити його під сумнів і по-справжньому сказати «ні».
Ризик упередженого ставлення та дискримінації
Упередженість — це коли штучний інтелект систематично ставить у невигідне становище або надає перевагу певним групам. Його джерелом часто є навчальні дані: якщо є дискримінація в історичних даних, ШІ вивчає та підтримує їх — навіть масштабує.
Практичні кроки для зменшення упередженості:
- Перегляньте чутливі змінні: перевірте вплив таких полів, як стать, вік, етнічна приналежність, на рішення.
- Результати тестування за групами: чи створює система різні показники відхилень/прийняття в різних групах?
- Остерігайтеся проксі-змінних: такі поля, як «район» або «школа», можуть неявно вказувати на етнічну/класову відмінність.
- Встановіть регулярний моніторинг: зміщення перевіряється постійно, а не один раз; Він може повернутися, коли зміниться дані.
три міні-чохла
Випадок 1 — Гумовий штамп. В одному банку кредитні спеціалісти затверджують оцінку AI, не переглядаючи її; Кажуть, «система вже вирахувала». Аудит показує, що в 498 із 500 заявок людина прийняла те саме рішення, що й штучний інтелект, тому реального перегляду немає. Рішення: вимагайте, щоб люди бачили міркування, певною мірою переосмислювали рішення та вимагали зауваження «чому погоджуються/не погоджуються».
Випадок 2 — неявне упередження. Штучний інтелект рекрутингу оцінює кандидатів-жінок нижче, хоча він взагалі не використовує стать. Звідки? Оскільки минулі дані включали переважно чоловіків на певній посаді, модель дізналася про непряму дискримінацію через проксі-змінні, такі як «безперервна кар’єра». Групове тестування виявляє це; Команда виділяє сурогатні змінні та контролює результат.
Випадок 3 — Довіра з прозорістю. У своїй оцінці збитків за допомогою штучного інтелекту страхова компанія інформує кожного клієнта, що «рішення прийнято за допомогою штучного інтелекту, вони можуть подати апеляцію та вимагати перевірки людиною». Рівень заперечень нижчий, ніж очікувалося, оскільки клієнти розуміють процес і довіряють йому. Прозорість підвищує довіру, одночасно зменшуючи ризик.
Прозорість і зрозумілість
Прозорість полягає в тому, щоб дати відповідним людям зрозуміти, що ШІ діє і як він працює. Пояснюваність означає можливість пояснити причину рішення зрозумілим способом. Конкретні додатки:
- Сповіщення «Ви розмовляєте зі штучним інтелектом» про взаємодію ШІ з людиною.
- «Це рішення ґрунтувалося на наступних факторах», пояснення в автоматичних рішеннях.
- Чітко вкажіть шлях оскарження та запиту на перевірку спеціалістами.
- Для внутрішніх команд: документування та запис того, що робить модель.
Підказка: запитайте рішення ШІ: «Які три головні фактори вплинули на це рішення?» Перевір це за допомогою запитання. Якщо система не може зробити це зрозумілим і рішення суттєво впливає на людину, ця система ще не готова до відповідального використання.
Упередження автоматизації: власна пастка
Навіть якщо буде встановлено прозорість і людський нагляд, з боку людей існує підступний ризик: упередженість автоматизації. Це тенденція людей більше довіряти результатам роботи машини, ніж власному судженню. Оскільки пропозиція штучного інтелекту на екрані здається «об’єктивною та прорахованою», виникає спокуса прийняти її без сумнівів — це психологічне походження гумового штампа.
Існують конкретні способи зменшити це. Спочатку заохочуйте протилежну думку: запитайте людину, яка схвалює рішення: «Чому я можу не погоджуватися з ШІ?» Попросіть його подумати над питанням. Потім покажіть оцінку впевненості: вкажіть, наскільки впевнений ШІ; Окремо позначте результати з низькою достовірністю. Потім налаштуйте сповіщення про конфлікт: якщо рекомендація AI порушує правила установи або дані, доступні людині, система висвітлить це. Нарешті, застосувати два людські принципи до критичних рішень; Один затверджувач більш сприйнятливий до автоматизації.
Застереження: сказати «є людське схвалення» не означає бути вільним від автоматизації. Людина повинна мати повноваження, час і правильну інформацію, щоб поставити під сумнів ШІ. Система, яка змушує затверджувача приймати 200 рішень за 3 секунди, насправді не забезпечує справжнього людського контролю.
Шаблони, які можна копіювати
ШАБЛОН 1 — Вибір моделі керування людиною: «Яка модель керування людиною підходить для наступного використання штучного інтелекту [опишіть використання]: у циклі, у циклі чи в команді? Рекомендуйте з обґрунтуванням, враховуючи ризик і вплив на людину. Укажіть, який контроль слід додати, щоб уникнути ризику «гумового штампа».
ШАБЛОН 2 — План перевірки упередженості: «Складіть [опишіть використання] план перевірки упередженості для наступного штучного інтелекту підтримки прийняття рішень: які групи слід порівнювати, яку метрику слід виміряти (рівень відхилення/прийняття тощо), які сурогатні змінні слід шукати, як часто слід повторювати тест? Напишіть його крок за кроком».
ШАБЛОН 3 — Текст опису рішення: «Напишіть простий текст опису для персоналізованого автоматизованого рішення: чи було рішення на базі штучного інтелекту, ключові фактори, що вплинули на рішення, спосіб подання апеляції та запит на перевірку персоналом. Незвинувачувальний, шанобливий тон, 120 слів або менше».
ШАБЛОН 4 — Контрольний список для етичної перевірки: «Перед публікацією використання штучного інтелекту підготуйте контрольний список для етичної перевірки: справедливість/дискримінація, прозорість, людський контроль, конфіденційність, безпека, підзвітність. Додайте 1-2 чітких запитання під кожним заголовком».
Слабка підказка / Сильна підказка
СЛАБКО: «Чи справедливим є цей набір ШІ?» -> Модель дає загальну відповідь на зразок «це має бути справедливим»; не забезпечує перевірений метод і вимірювання зміщення. СИЛЬНИЙ: «Створіть план перевірки упередженості для цього штучного інтелекту підтримки рекрутингу: метод порівняння показників прийнятності за статтю та віковими групами, проксі-змінних, які слід враховувати, прийнятного порогу різниці та частоти моніторингу. Також додайте контроль, щоб гарантувати, що остаточне рішення приймає людина». -> Модель створює вимірюваний, повторюваний механізм справедливості.
Поширені помилки
- Залишення людського контролю «на папері» та автоматичне схвалення рекомендацій ШІ (гумовий штамп).
- Залишення рішень, які суттєво впливають на людину, без нагляду, а не в циклі.
- Вважаючи зміщення вирішеним лише тому, що «я видалив чутливу змінну»; пропускаючи проксі-змінні.
- Тестування упередженості один раз, а не постійний моніторинг.
- Пропуск прозорості, тому що "це технічна деталь, користувач не зрозуміє".
- Використання системи, яка не може пояснити причину рішення в критичних рішеннях.
- Залишити етичну оцінку до публікації, сказавши «побачимо пізніше».
Підсумовуючи
- Управління людиною реалізовано в трьох моделях; У рішеннях, що стосуються людей, перевага надається людям у циклі.
- Контроль має бути змістовним; Штамп (автоматичне затвердження) не є справжнім аудитом.
- Упередженість часто виникає через дані навчання; Чутливі та сурогатні змінні слід перевіряти та постійно контролювати.
- Прозорість і зрозумілість вимагають чіткого представлення користувачеві того, що ШІ бере участь у грі, і причини такого рішення.
- Етична перевірка відбувається перед публікацією; відповідальність завжди лежить на людині, «ШІ так сказав» не є виправданням.
Аплікаційне завдання
Виберіть процес прийняття рішень ШІ, який впливатиме на людей у вашій організації (наприклад, оцінка заявки). Визначте відповідну модель людського контролю для цього процесу з обґрунтуванням і розробіть конкретний контроль, щоб запобігти гумовому штампуванню (наприклад, вимога переглянути обґрунтування, перевірити зразки). Потім напишіть план перевірки упередженості: вкажіть, які групи ви будете порівнювати, з якою метрикою, як часто та на які проксі-змінні ви будете звертати увагу. Нарешті, складіть текст пояснення рішення, який буде показано особі під час цього процесу та включіть шлях апеляції/перегляду персоналом.
контрольний список
- [ ] Я вибрав модель керування людиною, яка відповідає процесу.
- [ ] Я розробив конкретне керування, яке запобігає гумовому штампу.
- [ ] Я підготував план тестування на упередження (групи, показники, частота).
- [ ] Я оцінив ризик сурогатних змінних.
- [ ] Я написав для особи текст пояснення до рішення.
- [ ] Я чітко представив шлях до апеляції та перевірки людьми.
- [ ] Я провів етичну перевірку перед публікацією.