Прибыль:
- Способность связать принципы ответственного ИИ (справедливость, прозрачность, подотчетность, конфиденциальность, человеческий надзор, безопасность, устойчивость) с конкретными решениями.
- Способность проверять затронутые стороны и предвзятость, отделяя этику от соблюдения законодательства и проводя различие между «мы можем» и «мы должны»
- Возможность заранее сократить количество сценариев злоупотреблений за счет внедрения прозрачности, человеческого мониторинга и привлекательности в дизайне.
Стартап, основанный на искусственном интеллекте, может быть технически совершенным, финансово выгодным и юридически жизнеспособным; но это все равно может быть неправильно. Этика — это разница между «мы можем» и «мы должны». Для старшего менеджера этика не является вопросом приукрашивания или связей с общественностью; Это фундамент, который поддерживает долгосрочную надежность, репутацию и социальную легитимность учреждения. В этом модуле вы изучите принципы ответственного ИИ (подход к разработке и использованию искусственного интеллекта справедливым, прозрачным, подотчетным и уважительным к человеческому достоинству) и тому, как отражать их в повседневных решениях.
Фундаментальные принципы ответственного ИИ
Различные структуры работают по схожим принципам. Практическое резюме для менеджера:
принцип
Что ты имеешь в виду?
вопрос администратора
справедливость
недискриминация
Влияет ли это несправедливо на группу?
прозрачность
быть понятным
Можем ли мы объяснить причину такого решения?
подотчетность
Определение ответственного
Кто несет ответственность в случае возникновения ошибки?
Конфиденциальность
Уважение к личным данным
Имеем ли мы право использовать данные?
человеческое наблюдение
Оставаясь под контролем
Можно ли возразить и остановить это?
Безопасность
не навреди
Можно ли этим злоупотреблять?
Устойчивое развитие
Экологическое/социальное воздействие
Кому мы навязываем стоимость?
Эти принципы не абстрактны; Каждый из них может быть связан с конкретным решением. Например, «прозрачность» означает дать клиенту знать, что он разговаривает с ИИ; «Человеческий надзор» означает, что отказ в кредите будет рассмотрен человеком и оставлен на апелляцию.
Совет: При каждом важном решении ИИ задавайте один вопрос: «Могу ли я четко объяснить и поддержать это решение человеку, на которого оно больше всего повлияло?» Если ответ оскорбляет, возникает этическая проблема.
Этика отличается от закона
Важное различие: соблюдение законодательства (блок 9) является минимальным; Этика – это высшая ступень. Что-то может быть законным, но неэтичным. Например, приложению не может быть запрещено использовать искусственный интеллект для манипулирования поведением пользователей, но это неэтично. Ответственные учреждения "запрещено?" а не «Это правда?» — спрашивает он.
Шаг за шагом: внедрение этики в решение
1. Определить затрагиваемые стороны. Кого затронет эта инициатива? (Клиент, сотрудник, общество, обездоленные группы)
2. Сканируйте с помощью политик. Поставьте под сомнение инициативу с точки зрения каждого из вышеперечисленных принципов.
3. Проверка на предвзятость и вред. Влияет ли модель несправедливо на определенные группы? Каковы сценарии злоупотреблений?
4. Добавьте прозрачности и контроля. Сообщите об использовании искусственного интеллекта, не оставляя возможности для человеческого возражения.
5. Документы и обзор. Сохранить этическую оценку; Периодически проверяйте.
три мини-кейса
Случай 1 — Законно, но неправильно. Приложение использовало искусственный интеллект для генерации вызывающих привыкание уведомлений, чтобы пользователи оставались в приложении дольше. Юридических препятствий не было, но когда об этом сообщили в прессе, репутация была серьезно подорвана; Особую критику вызвала его ориентация на молодых пользователей. Компания удалила эту функцию. Если бы этический фильтр был с самого начала, этот риск был бы виден.
Случай 2. Ценность теста на справедливость. Модель кредитного скоринга банка систематически давала более низкие оценки заявкам из защищенных групп. Это было обнаружено в ходе судебной проверки. Модель была переработана и регулярно тестировалась, чтобы обеспечить справедливость результатов между группами. Этический принцип (справедливость) превратился в конкретное испытание и предотвратил реальный вред.
Случай 3. Прозрачность укрепляет доверие. Компания электронной коммерции поместила фразу «Вам поможет помощник с искусственным интеллектом, вы можете связаться с представителем-человеком в любое время» в начале своего чат-бота службы поддержки клиентов. Прозрачность и человеческий уход не уменьшили удовлетворенности; Напротив, это повысило доверие, а количество жалоб снизилось на 15%. Правильно сделанная прозрачность имела ценность, а не затраты.
Четыре копируемых шаблона
1) Этическая проверка:
Ваша роль: ответственный консультант по искусственному интеллекту. Ознакомьтесь с этой инициативой и найдите 7 принципов: справедливость, прозрачность, подотчетность, конфиденциальность, человеческий надзор, безопасность, устойчивость. Для каждой политики напишите один риск и одну рекомендацию. Инициатива: [текст]
2) Анализ затронутой стороны:
Перечислите все стороны, затронутые этой инициативой ИИ (клиент, сотрудник, общество, обездоленные группы). Запишите возможные положительные и отрицательные последствия для каждой стороны; Отметьте группу, которая, скорее всего, пострадает. Инициатива: [текст]
3) Сценарий злоупотребления:
Создайте 5 сценариев, в которых могут быть злоупотреблены следующие функции ИИ (включая манипуляции, дискриминацию, нарушение конфиденциальности, обман). Предложите превентивное проектное решение для каждого сценария. Атрибут: [текст]
4) Прозрачность и контроль наблюдения:
Напишите план прозрачности и человеческого надзора за ИИ, работающим с клиентами, который: что будет сообщаться пользователю и как; Как его можно передать человеку? Как он может возразить против такого решения? Использование: [текст]
Слабая подсказка / Сильная подсказка
Слабый: «Этичен ли этот ИИ?»
Результат: поверхностное «да/нет»; Какой принцип, кто затронут, какая мера – неясно.
Стронг: «Мы рассматриваем возможность использования ИИ в инструменте предварительного отбора при приеме на работу (окончательное решение будет принимать человек). Проверяйте его на предмет принципов справедливости, прозрачности, подотчетности и человеческого контроля. Напишите конкретно, какие группы кандидатов могут быть несправедливо затронуты, какие тесты на предвзятость мне нужно провести и как кандидаты могут обжаловать это решение».
Результат: основанная на принципах практическая оценка, которая определяет пострадавшую сторону и предлагает провести тестирование и подать апелляцию.
Распространенные ошибки
- Путаница этики с соблюдением законодательства. Не все, что законно, этично; Этика – это высшая ступень.
- Оставив этику надолго. Получение «этического одобрения» после проектирования уже слишком поздно; этика должна быть заложена в проект с самого начала.
- Не испытывая справедливости. Предположение о том, что «наша модель нейтральна» опасно; не может быть познано без измерения.
- Принятие прозрачности за стоимость. Правильная прозрачность повышает доверие и ценность.
- Сохранение пораженных сторон узкими. Думая только о клиенте и игнорируя сотрудников, общество и обездоленные группы, мы создаем слепое пятно.
Внимание: полностью оставлять этическую оценку искусственному интеллекту противоречиво и опасно. ИИ может помочь поднять этические вопросы, но оценочные суждения, культурный контекст и высшая моральная ответственность остаются за человеком. Этическая позиция организации определяется сознательным выбором людей, а не «так сказал ИИ».
В итоге
Этика — это разница между «мы можем» и «мы должны» и защищает долгосрочный авторитет организации. Ответственный ИИ; Он основан на принципах справедливости, прозрачности, подотчетности, конфиденциальности, человеческого надзора, безопасности и устойчивости. Эти принципы не абстрактны; Это приводит к конкретным решениям, таким как выявление затронутых сторон, проверка на предвзятость, обеспечение прозрачности и усиление человеческого контроля. Этика отличается от права и является более высокой ступенью; Его нельзя оставлять на конец, его нужно закладывать в дизайн. В следующем разделе мы обсудим соблюдение требований, которые являются юридическим эквивалентом этики, особенно Закон ЕС об искусственном интеллекте и KVKK.
Задача приложения
Выберите высокоэффективный стартап в области искусственного интеллекта. Используя шаблон 2, перечислите все затронутые стороны и отметьте группу, которая, скорее всего, пострадает. Используя шаблон 1, просмотрите инициативу на предмет семи принципов. Определите конкретные меры (проверка справедливости, уведомление о прозрачности, порядок апелляции и т. д.) для устранения двух наиболее важных этических рисков. Наконец, «могу ли я объяснить это решение человеку, который пострадал больше всего?» Ответьте на вопрос честно.
контрольный список
- [ ] Я определил все затронутые стороны.
- [ ] Я рассмотрел стартап с учетом семи принципов ответственного ИИ.
- [ ] Я запланировал тест на предвзятость/справедливость.
- [ ] Я разработал заявление о прозрачности.
- [ ] Я не оставил возможности для человеческого надзора и апелляции.
- [ ] Я думал о сценариях злоупотреблений.
- [ ] «Могу ли я объяснить это тому, кто пострадал больше всего?» Я прошел тест.