Прибуток:
- Здатність чітко визначати поняття агентства, розриву відповідальності, алгоритмічної упередженості, прозорості та автономності та встановлювати напруженість.
- Покладання відповідальності не на «штучний інтелект», а на людський ланцюг, який розробляє, розгортає та використовує його
- Здатність вести багатосторонню дискусію, перевіряючи оптимістичне упередження ШІ та застарілі знання його власних технологій
Філософія та прикладна етика — це галузі, які не лише використовують штучний інтелект, але й вивчають його. Штучний інтелект сам по собі є однією з найжвавіших тем у етичній філософії сьогодні: хто несе відповідальність, коли система ШІ приймає рішення? Якщо алгоритм упереджений, як це називається несправедливістю? Чи можна вважати ШІ «агентом» (суб’єктом, здатним до моральних дій)? Як етик, ви є особою, яка водночас проводить ці дискусії та викладає. У цьому розділі ми роз’яснимо основні концепції дебатів щодо етики штучного інтелекту (галузь прикладної етики, яка розглядає моральні питання — відповідальність, упередженість, прозорість, автономія, справедливість — які виникають у результаті розробки та використання систем штучного інтелекту) і побачимо, як краще аналізувати та викладати ці дебати за допомогою інструментів ШІ.
Ось цікавий цикл: ви можете використовувати штучний інтелект як інструмент, навіть коли обговорюєте етику штучного інтелекту, але саме тут ви повинні бути уважнішими до власних упереджень та обмежень штучного інтелекту.
Основні поняття та напруги
Агент і моральний суб'єкт. Намір, розуміння, свобода та усвідомлення наслідків часто потрібні, щоб істота могла нести моральну відповідальність. Спірним питанням є те, чи є у ШІ; Більшість поглядів стверджує, що штучний інтелект є інструментом і що відповідальність залишається за людьми, які розробляють, розгортають і використовують його. Це узгоджується з принципом, на якому наголошується в модулі: остаточна відповідальність лежить на людині.
Розрив відповідальності. Коли система ШІ завдає шкоди, можуть виникати ситуації, коли відповідальність розподіляється («залишається в порожнечі»): розробник, постачальник даних, установа, яка їх використовує, кінцевий оператор? Ця «розрив відповідальності» є однією з центральних проблем сучасної етики ШІ.
Алгоритмічний зміщення. ШІ може вивчати та відтворювати історичні нерівності в навчальних даних; Це алгоритмічне упередження (коли система систематично дає результати, які завдають шкоди певним групам) лежить в основі дискусій про справедливість і дискримінацію.
Прозорість і зрозумілість. Нездатність зрозуміти, чому рішення ШІ є таким, як воно є (проблема «чорної скриньки»), є етичною проблемою з точки зору відповідальності та права на оскарження. Пояснюваність (що робить обґрунтування виходу системи зрозумілим для людини) дедалі більше стає етичною та юридичною вимогою.
Порада: обговорюючи етику штучного інтелекту, чітко розділяйте поняття: замість того, щоб говорити «ШІ прийняв рішення», скажіть «ШІ дав результат, а людина його реалізувала». Ця лінгвістична строгість покладає відповідальність на потрібне місце та позбавляє дискусію від туманності.
Використання ШІ як інструменту в цій дискусії
ШІ сам по собі є чудовим ілюстративним матеріалом на курсах етики ШІ. Ви можете попросити студентів виявити упередженість у результатах ШІ, продемонструвати необґрунтованість рішення та порівняти різні думки. Але два застереження: (1) штучний інтелект може мати комерційний або оптимістичний нахил щодо своєї технології; Обов’язково також шукайте критичні думки. (2) Це поле швидко змінюється; Інформація AI може бути застарілою, перейдіть до поточного джерела, щоб отримати правила та факти.
Застереження: запитуючи ШІ «Чи ШІ етичний?» Коли ви задаєте подібне запитання, відповідь, яку ви отримуєте, є середнім значенням даних навчання, а не результатом філософської дискусії. Візьміть цю відповідь як відправну точку; Самостійно визначте поняття, самостійно встановіть протиріччя та підтвердьте їх актуальними реальними прикладами.
три міні-чохла
Випадок 1 — Обговорення розриву відповідальності. На одному семінарі обговорювався сценарій, коли система набору на основі ШІ залишала групу в невигідному становищі. Запитайте ШІ "хто відповідальний?" Їм було проаналізовано питання з різних рамок; Вихід відобразив ланцюжок дизайнер-дані-установа-оператор. Група використала цю карту для вироблення власної аргументованої позиції: вони виступали за підзвітність кожної ланки, щоб відповідальність не потрапляла в «порожнечу».
Випадок 2 — Упередження, продемонстроване живим прикладом. Інструктор змусив штучний інтелект написати однакову посадову інструкцію з різними іменами та показав учням стереотипи в роздруківці. Студенти розглядали алгоритмічне упередження не як абстрактну концепцію, а конкретно у вихідних даних перед ними. Урок закріпив концепцію на реальному прикладі. Лектор також підкреслив, що це єдиний результат і для узагальнення потрібні систематичні докази.
Випадок 3 — Оптимістичний тренд стабілізувався. Студент попросив ШІ написати про «вплив ШІ на суспільство»; Результати були переважно позитивними та заниженими ризиками. Студент звернувся до критичних академічних джерел, додав протилежні погляди та побудував збалансований аналіз. Упередженість штучного інтелекту щодо власної сфери врівноважується контролем людини.
Слабка підказка / Сильна підказка
Слабка підказка:
Штучний інтелект етичний чи ні? Відповідь.
Ця підказка зводить складні філософські дебати до бінарної відповіді; ШІ повертає середнє значення, поняття залишаються невизначеними, а упередженість стає непомітною.
Потужна підказка:
Ваша роль: Неупереджений аналітик у сфері етики ШІ. НЕ СУДИ МЕНЕ за [Сценарій]. Натомість: 1) Визначте відповідні поняття (винуватець, прогалина у відповідальності, упередженість алгоритму, прозорість) — коротко та нейтрально. 2) Зробіть карту можливого розподілу відповідальності (розробник, дані, установа, оператор). 3) Уявіть принаймні дві протилежні етичні позиції, кожна з яких є найсильнішою. 4) Зауважте, що ця сфера швидко змінюється та потребує актуальних ресурсів. Я буду робити свій власний суд. Сценарій: [написати сценарій]
Ця підказка роз’яснює поняття, започатковує багатостороннє обговорення та залишає рішення за вами.
Чотири шаблони, які можна копіювати
1) Пояснення поняття:
Коротко та об’єктивно визначте такі поняття в етиці штучного інтелекту: агент/моральний суб’єкт, розрив відповідальності, алгоритмічна упередженість, прозорість, пояснюваність. Додайте повсякденний приклад під кожним визначенням. Позначте суперечливі моменти як «думки розходяться».
2) Відображення відповідальності:
У наступному сценарії намалюйте ланцюжок відповідальності за шкоду, спричинену системою штучного інтелекту: розробник, постачальник даних, розповсюджувальна установа, користувач-оператор, регулятор. Запишіть можливу ставку та захист кожного кільця. Винесіть остаточне судження. Сценарій: [сценарій]
3) Представлення протилежної позиції:
Представте принаймні дві протилежні етичні позиції щодо [питання етики штучного інтелекту], кожну в найсильнішій і найчеснішій формі. Не оголошуйте жодного "переможцем". Назвіть значення, на якому базується кожна позиція. Питання: [питання]
4) Контроль оптимізму/упередженості:
Перевірте, чи цей текст про ШІ недооцінює ризики чи передає оптимістичне ставлення до технології. Позначте будь-які критичні перспективи, які відсутні, і ризики, які потрібно додати. Текст: [вставити текст]
Поняття / таблиця напруг
концепція
основне питання
етична напруга
Винуватець/суб'єкт моралі
Чи несе ШІ відповідальність?
Інструмент чи предмет?
розрив відповідальності
Хто несе відповідальність у разі заподіяння шкоди?
Розпорошена звітність
алгоритмічне зміщення
Невигідність кому?
Справедливість проти ефективності
прозорість
Чому це рішення?
Пояснюваність тощо складність
автономія
Скільки людського контролю?
Автоматизація проти аудиту
Поширені помилки
- Мова «вирішив ШІ». Це розмиває відповідальність; ШІ створює результат, люди його реалізують, і відповідальність лежить на них.
- Зведення дебатів до бінарної відповіді. "Етично чи ні?" питання руйнує концептуальну глибину; Налаштуйте напругу.
- Не помічаючи оптимістичної тенденції ШІ. ШІ може бути нестабільним щодо власних технологій; Додайте критичне джерело.
- Узагальнення одного результату. Упередженість у вибірці вражає, але систематичне твердження вимагає систематичних доказів.
- Покладаючись на застарілу інформацію. Це поле та його механізми швидко змінюються; Підтвердьте факти поточним джерелом.
Підсумовуючи
Етика штучного інтелекту є одним із найяскравіших напрямів сучасної філософії, і як етик ви ведете та викладаєте цю дискусію. Чітко визначте ключові поняття — агентство, прогалина підзвітності, алгоритмічна упередженість, прозорість, автономія — і встановіть напругу. У цьому обговоренні можна використовувати штучний інтелект і як інструмент, і як приклад, але остерігайтеся двох підводних каменів: штучний інтелект, як правило, оптимістично дивиться на свою технологію, а його знання можуть бути застарілими. Такі формулювання, як «штучний інтелект вирішив», розмивають відповідальність; Сувора концептуальна мова ставить відповідальність у потрібне місце. Ви завжди приймаєте рішення.
Аплікаційне завдання
- Виберіть сценарій етики ШІ (наприклад, алгоритмічну систему прийняття рішень).
- Визначте та перегляньте ключові концепції за допомогою шаблону «роз’яснення концепції».
- Витягніть ланцюжок відповідальності у разі пошкодження за допомогою шаблону «карта відповідальності».
- Порівняйте принаймні дві етичні позиції з шаблоном «представлення протилежної позиції».
- Перевірте упередженість у тексті AI за допомогою шаблону «перевірка оптимізму» та додайте критичне джерело.
контрольний список
- [ ] Я визначив поняття чітко та об’єктивно.
- [] Я поклав відповідальність на людський ланцюг, а не на «ШІ».
- [ ] Я структурував дискусію багатогранно, не зводив її до бінарної відповіді.
- [ ] Я перевірив оптимістичне ставлення ШІ до свого поля.
- [ ] Я підтвердив факти та положення поточним джерелом.
- [ ] Остаточне судження та обґрунтування я зробив сам.