Прибыль:
- Способность четко определять понятия агентства, разрыва в ответственности, алгоритмической предвзятости, прозрачности и автономии, а также создавать напряженность.
- Возложение ответственности не на «искусственный интеллект», а на человеческую цепочку, которая его проектирует, внедряет и использует
- Способность вести многостороннюю дискуссию, проверяя оптимистическую предвзятость ИИ и устаревшие знания о его собственных технологиях.
Философия и прикладная этика — это области, которые не только используют ИИ, но и изучают ИИ. Искусственный интеллект сам по себе является сегодня одной из самых оживленных тем в этической философии: кто несет ответственность, когда система ИИ принимает решение? Если алгоритм необъективен, как называется эта несправедливость? Можно ли считать ИИ «агентом» (субъектом, способным на моральные действия)? Как специалист по этике, вы одновременно проводите эти обсуждения и обучаете. В этом модуле мы разъясним основные концепции дебатов об этике ИИ (раздел прикладной этики, который исследует моральные вопросы — ответственность, предвзятость, прозрачность, автономия, справедливость — поднятые в результате разработки и использования систем искусственного интеллекта) и посмотрим, как можно лучше анализировать и преподавать эти дебаты с помощью инструментов ИИ.
Вот интересный цикл: вы можете использовать ИИ в качестве инструмента даже при обсуждении этики ИИ, но именно здесь вам нужно быть наиболее внимательными к собственным предубеждениям и ограничениям ИИ.
Основные понятия и противоречия
Агент и моральный субъект. Намерение, понимание, свобода и осознание последствий часто необходимы для того, чтобы существо несло моральную ответственность. Есть ли они у ИИ, остается спорным; Большинство взглядов считают, что ИИ — это инструмент, и ответственность лежит на людях, которые его проектируют, внедряют и используют. Это соответствует принципу, который подчеркивается на протяжении всего модуля: окончательная ответственность лежит на человеке.
Разрыв в ответственности. Когда система ИИ причиняет вред, могут возникнуть ситуации, когда ответственность распределяется («остается в пустоте»): разработчик, поставщик данных, учреждение, использующее их, конечный оператор? Этот «разрыв в ответственности» является одной из центральных проблем современной этики ИИ.
Алгоритмическая предвзятость. ИИ может изучать и воспроизводить историческое неравенство в обучающих данных; Эта алгоритмическая предвзятость (когда система систематически производит результаты, ставящие в невыгодное положение определенные группы) лежит в основе дискуссий о справедливости и дискриминации.
Прозрачность и объяснимость. Непонимание того, почему решение ИИ является таким, какое оно есть (проблема «черного ящика»), является этической проблемой с точки зрения ответственности и права на апелляцию. Объясняемость (делающая обоснование результатов работы системы понятным для человека) все чаще становится этическим и юридическим требованием.
Совет: при обсуждении этики ИИ четко разделяйте понятия: вместо того, чтобы говорить «ИИ принял решение», скажите: «ИИ выдал результат, человек реализовал его». Такая языковая строгость ставит ответственность на правильное место и спасает дискуссию от неясности.
Использование ИИ в качестве инструмента в этих дебатах
ИИ сам по себе является отличным иллюстративным материалом в курсах по этике ИИ. Вы можете попросить учащихся найти предвзятость в результатах ИИ, продемонстрировать неоправданность решения и сравнить разные мнения. Но есть два предостережения: (1) ИИ может иметь коммерческий или оптимистический настрой в отношении своей технологии; Обязательно обратите внимание на критические мнения. (2) Это поле быстро меняется; Информация AI может быть устаревшей. Для получения информации о правилах и фактах перейдите к текущему источнику.
Внимание: при вопросе ИИ «Этично ли ИИ?» Когда вы задаете такой вопрос, ответ, который вы получаете, — это среднее значение обучающих данных, а не результат философской дискуссии. Возьмите этот ответ как отправную точку; Сами определяйте понятия, сами устанавливайте противоречия и сами подкрепляйте их текущими реальными примерами.
три мини-кейса
Случай 1. Дебаты о разрыве ответственности. На одном семинаре обсуждался сценарий, когда система рекрутинга на базе искусственного интеллекта поставила группу в невыгодное положение. Спросите ИИ «кто несет ответственность?» Им был проанализирован вопрос с разных точек зрения; В результате была отображена цепочка «дизайнер-данные-организация-оператор». Группа использовала эту карту для выработки собственной аргументированной позиции: они выступали за подотчетность каждого звена, чтобы ответственность не уходила в «пустоту».
Случай 2 — Предрассудки продемонстрированы на живом примере. Преподаватель попросил ИИ написать одну и ту же должностную инструкцию под разными именами и показал распечатанные стереотипы студентам. Студенты рассматривали алгоритмическую предвзятость не как абстрактную концепцию, а конкретно в результатах, которые перед ними стояли. Урок закрепил концепцию на реальном примере. Лектор также подчеркнул, что это единичный результат и для обобщения необходимы систематические данные.
Случай 3. Оптимистичная тенденция стабилизировалась. Студент попросил ИИ написать о «влиянии ИИ на общество»; Результаты были преимущественно позитивными и занижали риски. Студент обратился к критическим академическим источникам, добавил противоположные точки зрения и построил сбалансированный анализ. Предвзятость ИИ к своей собственной сфере уравновешивается человеческим контролем.
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Этичен ли искусственный интеллект или нет? Отвечать.
Эта подсказка сводит сложную философскую дискуссию к бинарному ответу; ИИ возвращает среднее значение, концепции остаются неопределенными, а предвзятость становится невидимой.
Мощная подсказка:
Ваша роль: беспристрастный аналитик в области этики ИИ. НЕ СУДИТЕ МЕНЯ в [Сценарии]. Вместо этого: 1) Определите соответствующие понятия (правонарушитель, пробел в ответственности, алгоритмическая предвзятость, прозрачность) — кратко и нейтрально. 2) Составьте карту возможного распределения ответственности (разработчик, данные, учреждение, оператор). 3) Представьте как минимум две противоположные этические позиции, каждая из которых является наиболее сильной. 4) Обратите внимание, что эта область быстро меняется и требует современных ресурсов. Я вынесу свое собственное суждение. Сценарий: [написать сценарий]
Эта подсказка проясняет концепции, создает многостороннюю дискуссию и оставляет решение за вами.
Четыре копируемых шаблона
1) Уточнение концепции:
Кратко и объективно определите следующие понятия в этике ИИ: агент/моральный субъект, разрыв в ответственности, алгоритмическая предвзятость, прозрачность, объяснимость. Включите повседневный пример под каждое определение. Отметьте спорные места как «мнения расходятся».
2) Картирование ответственности:
В следующем сценарии нарисуйте цепочку ответственности за ущерб, нанесенный системой ИИ: разработчик, поставщик данных, организация-распространитель, пользователь-оператор, регулятор. Запишите возможную ставку и защиту каждого кольца. Вынесите окончательное решение. Сценарий: [сценарий]
3) Противоположное представление позиции:
Представьте как минимум две противоположные этические позиции по [вопросу этики ИИ], каждую в своей самой сильной и честной форме. Не объявляйте никого «победителем». Назовите значение, на котором основана каждая позиция. Вопрос: [вопрос]
4) Контроль оптимизма/предвзятости:
Проверьте, не недооценивает ли следующий текст об ИИ риски или выражает ли оптимистическое отношение к этой технологии. Отметьте все важные точки зрения, которые отсутствуют, и риски, которые необходимо добавить. Текст: [вставить текст]
Концепция / таблица напряжений
концепция
основной вопрос
этическое напряжение
Преступник/моральный субъект
Несет ли ИИ ответственность?
Инструмент или предмет?
разрыв в ответственности
Кто несет ответственность в случае причинения ущерба?
Рассредоточенная ответственность
алгоритмическая предвзятость
Недостаток для кого?
Справедливость против эффективности
прозрачность
Почему это решение?
Объяснимость и т. д. сложность
автономия
Насколько велик человеческий контроль?
Автоматизация против аудита
Распространенные ошибки
- Язык «ИИ решил». Это размывает ответственность; ИИ производит результаты, люди реализуют их, и ответственность лежит на людях.
- Сведение дебатов к бинарному ответу. «Этично или нет?» вопрос разрушает концептуальную глубину; Настройте напряжения.
- Не замечая оптимистичной тенденции ИИ. ИИ может быть нестабильным в отношении своей собственной технологии; Добавьте критический источник.
- Обобщение одного результата. Предвзятость выборки поразительна, но систематическое утверждение требует систематических доказательств.
- Опираясь на устаревшую информацию. Эта область и ее механизмы быстро меняются; Подтвердите факты текущим источником.
В итоге
Этика искусственного интеллекта — одна из самых ярких современных областей философии, и как специалист по этике вы одновременно ведете и преподаете эту дискуссию. Четко определите ключевые понятия — агентность, пробел в подотчетности, алгоритмическую предвзятость, прозрачность, автономия — и создайте напряженность. В этом обсуждении вы можете использовать ИИ как инструмент и пример, но остерегайтесь двух ловушек: ИИ склонен с оптимизмом смотреть на свои технологии, а его знания могут устареть. Такие формулировки, как «ИИ решил», размывают ответственность; Строгий концептуальный язык ставит ответственность на правильное место. Вы всегда принимаете решение.
Задача приложения
- Выберите сценарий этики ИИ (например, алгоритмическую систему принятия решений).
- Определите ключевые понятия и проверите их с помощью шаблона «Разъяснение понятий».
- Извлеките цепочку ответственности в случае ущерба с помощью шаблона «карта ответственности».
- Сравните как минимум две этические позиции с шаблоном «изложение противоположной позиции».
- Проверьте предвзятость в AI-тексте с помощью шаблона «проверка оптимизма» и добавьте критический источник.
контрольный список
- [ ] Я определил понятия четко и объективно.
- [ ] Я возложил ответственность на человеческую цепь, а не на «ИИ».
- [ ] Я структурировал дискуссию многосторонне, не сводил ее к бинарному ответу.
- [ ] Я проверил оптимистичный настрой ИИ по отношению к своему полю.
- [ ] Я подтвердил факты и положения текущего источника.
- [ ] Я сам вынес окончательное решение и обоснование.