Прибыль:
- Способность анализировать этический случай с разных точек зрения, с точки зрения консеквенциалистских, деонтологических и этических концепций добродетели.
- Способность разъяснять факты и заинтересованные стороны, а также называть принципиальные конфликты.
- Возможность принимать обоснованные этические суждения и решения с контролем предвзятости, не оставляя это на усмотрение искусственного интеллекта.
В основе прикладной этики лежит вопрос «что делать?» в реальной ситуации. заключается в том, чтобы дать аргументированный ответ на вопрос. Комитет по этике больницы обсуждает решение о лечении, компания оценивает, является ли использование данных этичным, исследователь взвешивает вред эксперимента для участников. Инструментами, используемыми в этих работах, являются этические рамки (подходы, предлагающие последовательный набор принципов и обоснований для оценки ситуации), например, консеквенциализм (подход, который оценивает правильность действия по его последствиям, пользе и вреду, которые оно производит), деонтология (подход, который оценивает правильность действия по его соответствию обязанностям, правам и правилам, независимо от его последствий) и этику добродетели (подход, который формулирует вопрос так: «что бы сделал добродетельный человек?») чем «какое действие?»). ИИ может стать быстрым инструментом для анализа дела из разных структур, выявления упущенных аспектов и увеличения количества вариантов. Но окончательное этическое суждение — какой принцип преобладает, какое решение принять и его обоснование — принадлежит человеку, особенно ответственному комитету и эксперту.
В этом модуле мы увидим, как анализировать этический случай с помощью искусственного интеллекта, но с точки зрения человека.
Многокадровый анализ: реальная мощь ИИ
Самая распространенная ошибка в этическом деле — придерживаться единой точки зрения. Хороший анализ рассматривает одну и ту же ситуацию с разных точек зрения и выявляет противоречия. Именно здесь ИИ силен: он может анализировать случай одновременно с консеквенциалистской, деонтологической и добродетельной точек зрения и быстро составить список, к какому выводу приводит каждая концепция. Это отображает дискуссию.
Шаги:
1. Разъясните факты. Кто, что, когда задействовано; различать неопределенные и предполагаемые факты. Этический анализ не может основываться на ложных фактах.
2. Определить заинтересованные стороны и интересы. Кого затронет это решение, каковы права и интересы каждого?
3. Анализируйте с помощью разных фреймворков. Как каждая структура рассматривает эту ситуацию и какие действия она рекомендует?
4. Покажите противоречия и принципиальные конфликты. Если концепции приходят к разным выводам, в чем именно заключается конфликт? (Например, между автономией личности и пользой общества.)
5. Прийти к аргументированному решению. Обоснуйте, какой принцип перевешивает, приняв самое сильное возражение другой стороны.
Совет: не просите ИИ «сказать мне правильный ответ»; Скажем: «Проанализируйте этот случай с помощью трех концепций и покажите вывод и самое сильное возражение по каждой». Задача ИИ — создать карту; Вы представляете решение и обоснование. В этике «ответ, данный машиной» не является оправданием.
Почему ИИ не может принимать этические решения?
Давайте скажем это ясно. Этическое суждение; Это требует знания контекста, определения приоритетов между ценностями, принятия на себя ответственности и желания подписать это решение. У ИИ нет ничего из этого: у него нет ценностей, нет ответственности, ограниченное знание контекста и он может воспроизводить культурные/идеологические предубеждения в обучающих данных. Более того, ИИ часто выдаёт «среднее» или наиболее распространенное мнение по спорной теме; тогда как в этике правильный ответ может быть в основном в меньшинстве или может отсутствовать вообще. ИИ открывает варианты; Вы взвешиваете и решаете.
Внимание: при принятии важных этических решений (медицинских, юридических, институциональных) результаты ИИ никогда не должны заменять мнение компетентного совета или эксперта. Используйте ИИ в качестве «консультирующего составителя»; Окончательное решение и ответственность лежит на ответственном лице. Кроме того, если фактические данные дела содержат личную/конфиденциальную информацию, не вводите ее в общедоступные инструменты.
три мини-кейса
Случай 1 — Многокадровая карта. Комитет по этике обсуждал выделение ограниченных ресурсов (например, ограниченного количества вариантов лечения). Они попросили ИИ проанализировать дело с консеквенциалистской, деонтологической и добродетельной точек зрения; Три разных оправдания и их конфликтные точки были нанесены на карту за 20 минут. Используя эту карту в качестве отправной точки, правление провело собственное обсуждение и приняло собственное обоснованное решение.
Случай 2 — Заинтересованная сторона, которую упускают из виду. Компания оценивала решение об использовании данных. В своем анализе YZ выделила третью группу (людей, чьи данные использовались, но не участвовали в процессе), которые были затронуты косвенно, помимо непосредственных сторон решения. Команда упустила из виду эту заинтересованную сторону. Вклад ИИ сделал решение более полным, но команда расставила приоритеты.
Случай 3 — исправлено предвзятое предложение. Следователь поручил ИИ проанализировать дело, чувствительное с культурной точки зрения. ИИ представил единую культурную точку зрения как «универсальную истину» и игнорировал альтернативные системы ценностей. Исследователь заметил эту односторонность и разнообразил анализ. Преобладающий взгляд на данные обучения ИИ уравновешивается контролем человека.
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Что мне следует делать с этической точки зрения в этой ситуации?
Это подсказка делегирует ИИ этическое суждение и ответственность; Вы получаете один «ответ», не видите обоснования и рамок, предвзятость остается скрытой.
Мощная подсказка:
Ваша роль: аналитик по прикладной этике (не лицо, принимающее решения). Проанализируйте следующий случай. НЕ ДАВАЙТЕ МНЕ РЕШЕНИЕ. 1) Перечислите неоднозначные факты, которые необходимо прояснить. 2) Удалите заинтересованные стороны и интересы/права каждой из них. 3) Проанализируйте случай отдельно с точки зрения консеквенциализма, деонтологии и этики добродетели; Приведите вывод и самое сильное возражение по каждому из них. 4) Показать основной конфликт принципов между структурами. Я представлю решение и обоснование. Предупреждать, если есть личные/конфиденциальные данные. Дело: [напишите дело]
Эта подсказка удаляет мультикадровую карту, оставляет решение за вами и делает смещение видимым.
Четыре копируемых шаблона
1) Разъяснение фактов и заинтересованных сторон:
В следующем случае перечислите (а) определенные известные факты, (б) неопределенные/предполагаемые факты, (в) всех заинтересованных сторон, а также интересы и права каждой из них. Добавляйте комментарии и решения. Дело: [дело]
2) Трехкадровый анализ:
Проанализируйте этот случай отдельно с точки зрения консеквенциализма, деонтологии и этики добродетели. Для каждого кадра: как он это видит, какое действие рекомендует и самое сильное возражение против этого предложения. Объявление фреймворка «правильным». Дело: [дело]
3) Диагностика конфликта политики:
Назовите ключевые принципы, по которым эти концепции противоречат в приведенном ниже анализе (например, автономия против общего блага, справедливость против сострадания). Покажите, где именно сосредоточен конфликт. Принятие решения.Анализ: [вставить текст]
4) Аудит предрассудков и культурной чувствительности:
Проверьте, не представляет ли этот этический анализ единую культурную/идеологическую точку зрения как универсальную истину. Существуют ли альтернативные системы ценностей или точки зрения, которые игнорируются? Подчеркните, где должно быть больше плюрализма. Анализ: [вставить текст]
Таблица сравнения кадров
Рамка
основной вопрос
Фокус
типичная слабость
консеквенциализм
Каков наилучший результат?
Баланс польза/вред
Может подавить права меньшинств
деонтология
Что говорит задание/правило?
право, обязанность, принцип
Строгий, может игнорировать результат
этика добродетели
Что делает добродетельный человек?
характер, намерение
Неясное руководство к действию
Распространенные ошибки
- Заставить ИИ принимать решения. "Что я должен делать?" Вопрос делегирует этическое суждение; ИИ создает карту, решать вам.
- Застрял в одном кадре. Видение дела только с одной точки зрения; Многокадровый анализ выявляет напряженность.
- Не разъясняя факты. Этический анализ, основанный на ложных или предполагаемых фактах, терпит крах.
- Не признавая предвзятости. ИИ может представлять доминирующую культурную точку зрения как «универсальную»; Плюрализм обеспечивается людьми.
- Внесение конфиденциального/личного дела в общедоступный инструмент. Риск нарушения конфиденциальности в реальных файлах; Анонимизируйте или используйте безопасную систему.
В итоге
Настоящая сила ИИ в прикладном анализе дел по этике заключается в том, чтобы быстро составить карту ситуации с нескольких точек зрения, выявить заинтересованные стороны и сделать видимыми принципиальные конфликты. Но этическое суждение – какой принцип преобладает, решение и обоснование – принадлежит человеку, особенно ответственному комитету и эксперту; потому что у ИИ нет ценностей, ответственности, знаний контекста и он несет предвзятость. Уточните факты, проанализируйте несколько рамок, назовите конфликт, проверьте на предвзятость и примите решение самостоятельно, обосновав его. При принятии важных решений ИИ ставится рядом с экспертной оценкой, а не заменяет ее.
Задача приложения
- Выберите реальный или вымышленный этический случай (анонимизируйте, если он касается персональных данных).
- Извлекайте факты и заинтересованных лиц с помощью шаблона «Разъяснение фактов и заинтересованных сторон».
- Проанализируйте случай с трех точек зрения с помощью шаблона «трехкадрового анализа».
- Назовите основное противоречие, используя шаблон «диагностики принципиального конфликта».
- Напишите собственное мотивированное решение, приняв самое сильное возражение противоположной стороны.
контрольный список
- [ ] Я разъяснил факты и неопределенности.
- [ ] Я определил всех заинтересованных сторон и их интересы.
- [ ] Я проанализировал случай как минимум с трех этических позиций.
- [ ] Я ясно назвал принципиальный конфликт.
- [ ] Я проверил на предвзятость и односторонность.
- [ ] Я оставил решение и обоснование себе/совету, а не ИИ.
- [ ] Я защитил конфиденциальные/личные данные.