Прибыль:
- Перечислите основные принципы ответственного использования ИИ
- Может объяснить, почему человеческий контроль необходим
- Может составить контрольный список ответственного использования для своей работы
В этом модуле мы узнали, что такое ИИ, как он работает, его сильные и слабые стороны, риски и рабочий процесс. В этом разделе мы объединяем все это в практическую основу под заголовком ответственного использования. ИИ — мощный инструмент; Но его сила становится риском, когда она не сбалансирована с ответственностью человека, который его использует. «Ответственное использование» может звучать как абстрактный этический принцип; Однако оно состоит из очень конкретных повседневных привычек. В этом разделе мы поместим эти привычки в простую и понятную структуру.
Пять основных принципов ответственного использования
1. Последнее слово остается за людьми
Это самый основной принцип. ИИ выдает рекомендации; Люди несут решения и ответственность. Результаты ИИ никогда не должны реализовываться без присмотра, особенно в таких важных вопросах, как деньги, здравоохранение, право, занятость и репутация. «Машина сказала мне» никогда не является уважительным оправданием.
2. Проверяйте, затем доверяйте
Помните о блоке галлюцинаций. Не используйте проверяемые факты (число, дата, имя, источник), сгенерированные ИИ, без их независимого подтверждения. Свободная и уверенная речь не является доказательством точности.
3. Защитите конфиденциальность
Применить принцип в разделе о конфиденциальности данных: не публиковать личные данные, коммерческую тайну и конфиденциальную информацию в публичных средствах массовой информации; при необходимости анонимизировать и соблюдать политику вашей компании.
4. Соблюдайте справедливость
Помните о предвзятости: убедитесь, что результаты не исключают несправедливо и не создают стереотипов для определенных групп; Контролируйте различные взгляды на важные решения.
5. Будьте прозрачными
Не вводите в заблуждение, что вы используете ИИ. Уместное заявление о том, что ключевой результат был подготовлен с помощью ИИ на основе бизнес-контекста и корпоративной политики, укрепляет доверие.
Примечание. Эти пять принципов дополняют друг друга. Недостаточно реализовать только один; Например, если вы обратите внимание на конфиденциальность и пропустите проверку, вы все равно подвергаетесь риску.
Почему человеческий контроль необходим?
ИИ не может взять на себя ответственность; Когда он совершает ошибку, расплачивается не он, а человек и учреждение, которые его используют. Кроме того, ИИ не может видеть полный контекст (корпоративную политику, отношения, отраслевую чувствительность, конкретную ситуацию на данный момент). Человеческий контроль; Он одновременно определяет орган, который будет нести юридическую ответственность, и является фильтром, улавливающим слепые пятна модели (галлюцинации, предвзятость, некорректность). Чем ближе аудит к принятию высокоэффективного решения, тем более строгим он должен быть.
Уровень аудита в зависимости от риска
Тип задачи
пример
Требуемый осмотр
низкое воздействие
Черновой вариант внутренней записки, мозговой штурм
Легкий обзор
средний эффект
Исходящая электронная почта, сводка отчета
Внимательное чтение + проверка фактов
высокое воздействие
Юридическое/финансовое/здравоохранение/решение о трудоустройстве
Экспертная проверка + письменное подтверждение
Слабый подход/Сильный подход
Слабый подход: принять высокоэффективное решение (например, оценку сотрудника) на основе результатов ИИ без проверки.
Результат: Галлюцинация или предубеждение напрямую влияют на решение, которое влияет на жизнь человека.
Сильный подход: используйте ИИ только для поддержки/драфта; Обоснуйте свое решение соответствующими доказательствами, проконсультируйтесь с соответствующим экспертом и дайте окончательное одобрение в письменной форме.
Результат: Вы получаете выгоду от скорости, но при этом сохраняется ответственность и справедливость.
Три мини-кейса
Случай 1. В контрольном списке обнаружена ошибка. Начиная работу с ИИ, одна команда напечатала пять принципов на карточке и разложила их на столах. Сотрудник наткнулся на вопрос о «конфиденциальности» в отправляемом предложении и заметил, что он содержит имя клиента, и сделал его анонимным. Простой список предотвратил возможное нарушение.
Случай 2 — «Машина так сказала» не сработало. Другой сотрудник применил неверную нормативную информацию, предоставленную ИИ, не проверив ее, а когда возникла проблема, он защищался, говоря: «Так сказал ИИ». Это оправдание не было принято; потому что именно он использовал и внедрил этот инструмент. Ответственность лежит на пользователе.
Случай 3 — Гибкое управление в зависимости от риска. Когда менеджер быстро использует результаты внутреннего мозгового штурма; Необходимое одобрение эксперта + письменное обоснование важных решений, таких как найм и производительность. Таким образом, это ускорило работу с низким уровнем риска и повысило безопасность принятия важных решений.
Копируемые шаблоны
Прежде чем использовать эти выходные данные, задайте мне по порядку пять вопросов об ответственном использовании и попросите меня отметить «хорошо/незавершено» для каждого: 1) Проводился ли человеческий аудит? 2) Были ли факты проверены? 3) Соблюдалась ли конфиденциальность? 4) Является ли это справедливым и инклюзивным? 5) Готов ли я нести ответственность за результат?
Оцените уровень воздействия (низкий/средний/высокий) этой задачи и предложите соответствующий список шагов аудита. Задача: [написать задачу]
В приведенном ниже выводе перечислите рискованные моменты (правда, конфиденциальность, честность, обязательства), которые человеку обязательно следует проверить, в порядке важности. Вывод: [вставьте сюда]
Подготовьте мне краткий личный «кодекс ответственного использования ИИ» для моей должности; Сделайте элементы ориентированными на действие и легко запоминающимися. Моя роль: [напишите свою роль]
Практический контрольный список
контроль
Вопрос
Аудит
Просмотрел ли я этот результат как человек?
точность
Подтвердил ли я изложенные в нем факты (номер, имя, дату)?
Конфиденциальность
Записал ли я в инструмент конфиденциальные или личные данные?
справедливость
Является ли результат справедливым и инклюзивным?
прозрачность
Правильно ли заявлено об использовании ИИ и не вводит ли оно в заблуждение?
Ответственность
Готов ли я нести ответственность за последствия этого результата?
Ответ на последний вопрос всегда должен быть «да»; Потому что пока вы используете этот инструмент, результат ваш.
Распространенные ошибки
Распространенные ошибки
- Реализация важных решений без надзора. Одобрение эксперта и письменный контроль необходимы в вопросах денег, здоровья, законодательства и трудоустройства.
- Это означает «Машина сказала это». Ответственность возлагается не на инструмент, а на человека, который его использует.
- Выборочное применение политики. Пять принципов представляют собой единое целое; Если один из них отсутствует, риск остается.
- Всегда выполняйте проверку с одинаковой тщательностью. Масштабировать контроль в соответствии с риском; скорость при низком риске, тщательность при высоком риске.
Ответственность приносит свободу
Правила ответственного использования могут показаться ограничительными, но они действуют с точностью до наоборот: если у вас есть эти привычки безопасности, вы можете использовать ИИ гораздо более комфортно и смело. Потому что даже если есть ошибка, вы знаете, что у вас есть фильтр, который ее уловит. Правила созданы не для того, чтобы вас замедлять, а для того, чтобы помочь вам безопасно ускориться.
В заключение
- Пять принципов ответственного использования: последнее слово остается за людьми, проверяйте, а затем доверяйте, защищайте конфиденциальность, добивайтесь справедливости, будьте прозрачными.
- Эти принципы дополняют друг друга; Если один из них отсутствует, риск сохраняется.
- Человеческий надзор необходим, поскольку ИИ не может взять на себя ответственность и видеть весь контекст.
- Масштабируйте аудит в соответствии с риском: легкий при низком уровне воздействия, экспертное одобрение и письменное обоснование при высоком уровне воздействия.
- Поскольку вы используете инструмент, вы также несете ответственность за результат; «Машина сказала мне» не является оправданием.
Задача приложения
Создайте краткий личный «кодекс ответственного использования ИИ» для своей должности, используя приведенный выше шаблон (максимум 6 элементов). Запишите это где-нибудь на видном месте и один за другим потренируйтесь отвечать на вопросы из таблицы «Контрольный список практики» применительно к следующему важному результату ИИ.
Контрольный список
- [ ] Я могу назвать пять принципов ответственного использования.
- [ ] Я могу объяснить, почему человеческий контроль необходим.
- [ ] Я могу настроить уровень контроля в соответствии с риском задачи.
- [ ] Я составил контрольный список ответственного использования для своей должности.
- [ ] Я усвоил, что фраза «машина сказала мне» не является оправданием.