Конфиденциальность данных, аутентификация, этика и управление

Прибыль:

• Возможность защиты данных на четырех уровнях (классификация, анонимизация, выбор автомобиля, минимум данных) и выполнение обязательств КВКК.
• Возможность проверять результаты в соответствии с уровнем риска и фильтровать рекомендации, которые влияют на людей через справедливость и предвзятость.
• Способность создать простую структуру управления ИИ и гарантировать, что результаты ИИ не заменяют одобрение экспертов при принятии финансовых/юридических/кадровых решений/решений, связанных с соблюдением требований.

Как менеджер, вы научились использовать ИИ во всех аспектах своего бизнеса: в отчетности, ключевых показателях эффективности, автоматизации, операциях, закупках, коммуникации, подведении итогов, сценариях. Сейчас мы создаем основу для ответственного использования этой власти. Потому что при неправильном использовании ИИ скорость и удобство оборачиваются серьёзными рисками: утечка списка клиентов, решение по выдуманному номеру, дискриминационное предложение, нарушение КВКК. Этот блок представляет собой защитную сетку, которая скрепляет весь модуль. Главный принцип в одном предложении: ИИ — помощник; Конфиденциальность данных, точность вывода и этика решения всегда являются обязанностью менеджера.

Конфиденциальность данных: четыре уровня защиты

Бизнес-данные ценны, и большая их часть конфиденциальна. Защитите конфиденциальность в четыре уровня. Первый уровень — классификация: пометьте каждую часть данных как «публичное/внутреннее использование/конфиденциальная/личная». Конфиденциальные и персональные данные требуют особого внимания. Второй уровень — анонимизация: переводите идентификаторы, такие как имя, идентификатор, имя клиента, цена поставщика, в коды, прежде чем передавать их ИИ (Сотрудник А, Клиент 1). Третий уровень — выбор инструментов: по возможности используйте одобренные компанией корпоративные инструменты искусственного интеллекта, которые не хранят данные для обучения модели; Не предоставляйте конфиденциальные данные бесплатным общедоступным инструментам. Четвертый уровень — минимальные данные: дайте минимум данных, необходимых для выполнения работы, не более.

КВКК (Закон о защите персональных данных) регулирует обработку вами персональных данных сотрудников и клиентов; Нарушение влечет за собой как юридические санкции, так и потерю репутации. Вставить список клиентов или платежную ведомость в открытое окно чата — все равно, что оставить на улице заблокированный файл.

Внимание: фраза «Этот инструмент кажется безопасным» не является гарантией. Прежде чем передавать какие-либо данные ИИ, спросите: «Какой вред будет нанесен компании, если эта информация станет известна?» Если ущерб серьезный, либо обезличьте данные, либо не разглашайте их вообще. Если сомневаетесь, не давайте.

Проверка: беззнаковый вывод не является решением

Дисциплина, повторяющаяся на протяжении всего модуля, собрана здесь под одной крышей. Подтвердите каждый вывод ИИ в три этапа: источник (это число из предоставленных мной данных?), пересчет (проверьте арифметику), управленческий фильтр (соответствует ли оно моим отраслевым знаниям и области?). ИИ может вызывать галлюцинации — придумывать несуществующие цифры, источники или факты убедительным языком. Беглость — это не точность. Чем важнее решение, тем более строгой должна быть проверка.

Рассмотрим риск на трех уровнях. Результаты с низким уровнем риска (внутренняя структура, форматирование, резюме): достаточно беглого просмотра. Результаты со средним риском (отчет руководству, комментарий по KPI): каждое число проверено. Результаты высокого риска (финансовое решение, контракт, документ о соответствии, кадровая сделка): ИИ создает только черновики; Компетентная экспертиза, юридический/финансовый контроль и подпись обязательны. В этих областях результаты ИИ никогда не смогут заменить одобрение компетентных экспертов.

Этика и предвзятость: быстро, но честно

ИИ учится на исторических данных; Если существует предвзятость прошлого, ИИ повторит или даже усилит ее. Рекомендации по найму, продвижению по службе или расстановке приоритетов для клиентов могут невольно поставить группу в невыгодное положение. Поэтому пропустите каждое предложение ИИ, затрагивающее людей, через фильтр справедливости: «Это предложение несправедливо исключает группу? Является ли оправдание оправданным?» Прямо спросите ИИ: «Какие группы могут оказаться в невыгодном положении из-за этого предложения?» просить.

Еще два этических принципа: Прозрачность — не скрывайте значительные результаты, полученные с помощью ИИ; Вы должны быть в состоянии объяснить, как было принято решение. Ответственность — «ИИ так сказал» не является оправданием. Ответственность лежит на менеджере, использующем инструмент. Когда ИИ совершает ошибку, ответственность несете вы; так что используйте его как контролируемого помощника, а не слепого авторитета.

Управление ИИ: институциональная основа

Индивидуальной доброй воли недостаточно; Создайте простую структуру управления ИИ для бизнеса: какие данные и какому инструменту можно передать, какие решения могут поддерживаться ИИ, какие решения принадлежат только эксперту, как проверяются результаты, кто несет ответственность. Прописанная и простая политика защитит всю команду и предотвратит катастрофу на следующем подразделении.

три мини-кейса

Случай 1 — Возвращение от грани утечки. Менеджер по продажам вставлял список с реальными именами клиентов и оборотами в бесплатный инструмент искусственного интеллекта. В момент колебания он спросил: «Что произойдет, если это просочится?» — спросил он, кодируя имена клиентов и записывая обороты в ленту. Анализ вышел того же качества; никаких реальных данных не было. Небольшая привычка предотвратила серьезный риск KVKK.

Случай 2 — Стоимость выдуманного номера. Финансовый директор представил совету директоров цифру «средний по отрасли 23 процента», предоставленную YZ, не проверив ее. Число было составлено; ИИ убедительно выдал число, не имеющее источника. Возник инвестиционный спор, основанный на неверной цифре, и потребовалось время, чтобы его переломить. Урок: не каждое число, утверждающее, что оно получено извне, может быть использовано без привязки его к реальному источнику.

Случай 3. Выявление предвзятой рекомендации. Менеджер по персоналу попросил ИИ ранжировать кандидатов. ИИ будет выделять выпускников конкретной школы на основе исторических данных. Менеджер спрашивает: «Какие группы исключает это предложение?» — спросил он; Он обнаружил, что ИИ повторяет прошлые предубеждения. Он основывал рейтинг исключительно на обоснованных критериях, связанных с работой, и оставил окончательное решение народному комитету.

Четыре копируемых шаблона

1) Проверка конфиденциальности данных:

Ваша роль: консультант по конфиденциальности данных. Я дам вам набор данных через минуту. Сначала перечислите личные/конфиденциальные поля (имя, идентификатор, клиент, цена, зарплата) и предложите, как анонимизировать каждое из них. Кратко распишите риски передачи этих данных ИИ с точки зрения КВКК. Не анализируйте пока.

2) Контрольный список проверки:

Мне нужно проверить следующие выходные данные ИИ, прежде чем представлять их руководству. Перечислите каждое числовое утверждение и утверждение о внешнем источнике в выходных данных. По каждому из них спросите: «Является ли это источником данных, которые я предоставил, или это информация, которую ИИ мог создать/изготовить сам?» Соберите сообщения с неизвестными источниками под заголовком «ПРОВЕРИТЬ».

3) Фильтр этики/справедливости:

Следующее предложение ИИ затрагивает людей: [предложение].Какие группы это предложение может несправедливо поставить в невыгодное положение? Могут ли рекомендации быть искажены историческими данными? Что мне следует изменить, чтобы решение основывалось исключительно на обоснованных, связанных с бизнесом критериях? Будьте честны, не защищайте это предложение.

4) Классификация рисков использования ИИ:

Я выполню с ИИ следующую задачу: [задача]. Поместите его на уровень риска: низкий (внутренний проект), средний (исходящий для руководства), высокий (финансовые/юридические/кадровые последствия). Подскажите, какие этапы проверки и согласования необходимы исходя из уровня риска. Если риск высокий, напомните, что одобрение эксперта обязательно.

Слабая подсказка / Сильная подсказка

Слабая подсказка:

Дайте мне анализ этих данных о клиентах. [настоящие именованные данные]

Предоставляет реальные личные данные открытому инструменту; Это несет в себе риск нарушения КВКК и утечки. Также не планируется проверять результаты.

Мощная подсказка:

Ваша роль: аналитик. В данных, которые я вам дал, все имена закодированы (Клиент 1-50) и суммы пересчитаны в ленту. Выполните сегментный анализ с помощью этих анонимных данных. Просто используйте цифры, которые я дал, не добавляйте номера внешних секторов; Если вы добавите его, пожалуйста, четко укажите источник, чтобы я мог его проверить.

Размер

плохой подход

Сильный подход

Данные

настоящее имя

анонимный

КВКК риск

высокий

низкий

контроль версий

Нет

обязательный

проверяемость

низкий

высокий

Ответственность

неопределенный

уточненный

Распространенные ошибки

• Предоставление реальных конфиденциальных/личных данных для открытия инструмента. Сначала классифицируйте и анонимизируйте.
• Не проверка утверждений внешнего источника. ИИ может рассчитывать цифры вроде «среднего показателя по отрасли»; подключиться к источнику.
• Игнорирование предрассудков. Пропускайте предложения, затрагивающие людей, через фильтр справедливости.
• Оправдание «ИИ так сказал». Ответственность лежит на пользователе; Возьмите на себя ответственность.
• Пропуск экспертного одобрения решения, связанного с высоким риском. Финансовые/юридические/кадровые/комплаенс-результаты требуют одобрения экспертов.

Внимание: самое важное предложение этого модуля: результаты ИИ в таких важных областях, как соблюдение требований, финансы, юриспруденция и человеческие ресурсы, НЕ заменяют одобрение компетентного эксперта. ИИ увеличивает вашу скорость, а не увольняет вашего эксперта. Непроверенный вывод ИИ так же рискован, как и неподписанное решение.

В итоге

Ответственное использование ИИ опирается на три столпа: конфиденциальность, аутентификация и этика. Защищайте данные на четырех уровнях (классификация, анонимизация, выбор инструментов, минимум данных) и помните об ответственности КВКК. Подтвердите каждый результат с помощью связывания источников, перерасчета и административной фильтрации; Повышайте усердие в зависимости от уровня риска. Пропускайте предложения, которые влияют на людей, через фильтр справедливости и сохраняйте прозрачность и подотчетность. Простая система управления ИИ защищает всю команду. И всегда: в важных областях высокого риска ИИ не заменяет одобрение компетентных экспертов.

Задача приложения

Напишите черновик на полстраницы «Руководства по использованию ИИ» для вашего собственного бизнеса. Включите: какие данные и какому инструменту можно передать, как данные будут анонимизированы, какие результаты следует проверять, какие решения принадлежат исключительно эксперту и кто несет ответственность. Используя приведенный выше шаблон «Классификация рисков использования ИИ», поместите 5 задач, которые вы выполнили с помощью ИИ за последнюю неделю, в уровень риска и напишите правильный этап проверки для каждой.

контрольный список

• [ ] Классифицировал ли я и анонимизировал данные?
• [ ] Использовал ли я одобренный/безопасный инструмент компании и минимальные данные?
• [ ] Проверил ли я каждый результат на соответствие уровню риска?
• [ ] Отфильтровал ли я предложения, затрагивающие людей, с точки зрения справедливости?
• [ ] Требовалось ли мне одобрение эксперта для принятия решений, связанных с высоким риском?

Модульный экзамен

1. Какой вопрос должен задать менеджер, чтобы определить уровень работы (механический/аналитический/решение) и строгость проверки перед передачей работы ИИ?

• А) Каков будет результат, если этот вывод неверен? ✔
• Б) Сможет ли искусственный интеллект выполнить эту работу как можно быстрее?
• В) Этот инструмент бесплатный?
• D) Выполнялась ли эта работа когда-либо раньше?

Описание: Основой правильного использования является классификация работ по уровню риска. «Какие будут последствия, если этот результат окажется неправильным?» Вопрос определяет, является ли работа механической, аналитической или ответственным решением, и, следовательно, какая степень проверки требуется.

2. Цифра «средний по отрасли 23 процента», полученная искусственным интеллектом, представляется совету директоров без проверки, и оказывается, что эта цифра сфабрикована. Какая базовая дисциплина была упущена в данном случае?

• А) Правило использования искусственного интеллекта только в утренние часы
• Б) Дисциплина проверки выхода путем подключения его к источнику ✔
• В) Преобразование отчета в таблицу цветов
• D) Написание более длинной подсказки

Пояснение: Искусственный интеллект иногда выдает несуществующие числа убедительным языком (галлюцинация). На этапе подключения выхода к источнику проверяется, получено ли каждое число из реального источника или оно могло быть вымышленным. Если этого не сделать, существует риск принятия неправильных решений.

3. Хотя общий оборот компании электронной коммерции выглядит стабильным, разбивка по сегментам показывает, что высокорентабельная категория снизилась на 22 процента, а низкорентабельные продажи маскируют это. Какой принцип иллюстрирует этот пример?

• А) Общая численность всегда является наиболее надежным показателем
• Б) Рентабельность не важна, важен только оборот
• В) Общие цифры могут скрывать развороты; Разбивка по сегментам раскрывает правду ✔
• Г) Сегментный анализ справедлив только для крупных компаний.

Пояснение: Общие числа могут скрывать внутренние развороты. Глядя на разбивку (анализ сегментов), а не на общую сумму в работе по поддержке принятия решений, можно обнаружить истину; Большие отклонения могут быть скрыты под фиксированной суммой.

4. Менеджер кафе интерпретирует вывод о том, что «продажи в выходные дни меняются в зависимости от температуры» как «жаркая погода увеличивает продажи», и выключает кондиционер; Однако настоящей причиной стал возросший клиентский трафик за выходные. Что это за ошибка?

• А) Принятие корреляции за причинно-следственную связь ✔
• Б) Не удалось собрать достаточно данных
• В) Выбор неправильного типа диаграммы
• D) Не анонимизировать данные

Пояснение: Тот факт, что две вещи действуют вместе (корреляция), не означает, что одна вызывает другую (причинность). Температура и продажи по совпадению двигались в одном направлении; Распространенной причиной были пробки в выходные дни. Зависимости, обнаруженные искусственным интеллектом, являются не доказательствами, а гипотезами, подлежащими проверке.

5. Что находится на вершине «пирамиды» хорошего управленческого отчета?

• А) Таблицы исходных данных
• Б) Резюме ✔
• В) Дополнительные документы и сноски
• D) Все цифры за предыдущие годы.

Пояснение: Хороший отчет представляет собой пирамиду: наверху краткое изложение (3–5 пунктов), рассчитанное на то, чтобы самый занятый читатель мог понять его за 30 секунд; критические выводы ниже; Внизу находится опорная деталь. Таким образом, топ-менеджер читает только верх, а вниз спускаются все желающие.

6. Когда колл-центр делает «количество отвеченных звонков в день» ключевым показателем эффективности, представители торопят звонки и снижают удовлетворенность клиентов. Какой принцип иллюстрирует эта ситуация?

• А) Чем больше KPI, тем лучше управление
• Б) KPI нельзя использовать в колл-центрах
• В) Скорость всегда важнее качества
• Г) KPI, которым можно манипулировать, может стимулировать неблагоприятное поведение, а не результат, который он предназначен для измерения ✔

Пояснение: Когда индикатор становится целью, люди находят способы его обмануть (Закон Гудхарта). «Счетчиком звонков» легко манипулировать, и он не измеряет фактический результат (разрешение, удовлетворенность). Поэтому, прежде чем выбирать KPI, вам следует спросить: «Какое неблагоприятное поведение он поощряет?» следует спросить.

7. В чем причина правила «сначала упростить процесс, потом автоматизировать» в автоматизации процессов?

• А) Автоматизация также ускоряет сбой в нарушенном процессе; Сначала необходимо исправить процесс ✔
• Б) Упрощение делает автоматизацию невозможной
• В) Упрощение — это всего лишь юридическое обязательство.
• Г) Автоматизация всегда дешевле упрощения

Описание: Автоматизация увеличивает скорость процесса; Это также ускоряет возникновение ошибки, если процесс поврежден. Когда процесс из 5 ненужных шагов в учетной единице был автоматизирован, ненужные шаги стали выполняться быстрее. Сначала этот процесс следует упростить, а затем ускорить.

8. Какова цель концепции «человек в процессе» автоматического реагирования на запросы клиентов?

• А) Полная остановка автоматизации
• Б) Повышение решающей способности искусственного интеллекта
• C) Предотвращение возникновения ошибки с одобрения человека в критической точке при сохранении большей части скорости ✔
• D) Полное уничтожение человеческой рабочей силы.

Пояснение: Проектирование с участием человека — это одобрение человеком в критической точке автоматизированного процесса. ИИ составляет черновик, человек его быстро одобряет, после чего отправляет. Это предотвращает появление ошибки, сохраняя при этом большую часть скорости; Когда команда удалила это одобрение, до клиента дошла неверная информация.

9. В мебельной мастерской производство идет медленно; Менеджер хочет заменить самую дорогую машину (раскройную), но анализ показывает, что узким местом является этап крашения-сушки. В чем заключается основной принцип анализа операций?

• А) Самый дорогостоящий шаг всегда следует улучшать
• Б) Улучшение должно быть направлено на устранение узкого места, замедляющего весь поток ✔
• В) Все шаги следует ускорять одинаково
• Г) Понятие узкого места справедливо только на производственных линиях.

Пояснение: Скорость процесса — это скорость его самого медленного этапа (узкого места). Ускорение шагов за пределами узкого места — это пустая трата денег и усилий; Единственное, что работает, — это расширить узкое место. Когда менеджер вложил средства во вторую сушильную печь вместо убоя, скорость увеличилась на 28 процентов.

10. При закупках менеджер переключается на самого дешевого поставщика сырья, игнорируя при этом низкую надежность поставок; Две основные задержки приводят к остановке производства. Какой урок из этой ситуации?

• А) Всегда следует выбирать самого дорогого поставщика
• Б) Надежность доставки не имеет значения
• В) Поставщика следует оценивать не по одному измерению (только цена), а по нескольким измерениям, включая надежность и риск ✔
• D) Решения о поставщиках должны быть оставлены исключительно на усмотрение искусственного интеллекта.

Описание: Выбор поставщика является многомерным: цена, качество, сроки поставки, надежность, финансовая устойчивость и риск должны оцениваться вместе. Простой взгляд на цену может привести к потерям, во много раз превышающим заработанную скидку; потери производства аннулировали скидку.

11. Что лучше всего сделать менеджеру, прежде чем отправлять гневное и резкое электронное письмо команде, которая постоянно опаздывает?

• А) Отправка сообщения таким, какое оно есть, потому что эмоции реальны
• Б) Сделать тон ориентированным на решение с помощью искусственного интеллекта, а затем пропустить его через человеческий фильтр ✔
• В) Не отправлять сообщение вообще и игнорировать проблему
• D) Сделать сообщение сильнее

Пояснение: Сообщения, написанные в гневе, не следует отправлять немедленно. Сказав искусственному интеллекту «изменить тон на уважительный и ориентированный на решение тон, сохраняя при этом те же ожидания и границы», сохраняется суть сообщения, корректируется его тон и предотвращается трудноизлечимое недовольство; Затем выходные данные фильтруются человеком.

12. В резюме встречи говорится, что AI «утверждает увеличение бюджета»; Однако на заседании было сказано, что «увеличение бюджета будет оценено». Как правильно избежать этой опасности?

• А) Раздать резюме сразу, не читая его
• Б) Проверьте краткое изложение, отделите решение от возможности и подтвердите его участниками ✔
• В) вообще не подводить итоги встречи
• Г) Принятие решения только к самому длинному предложению

Описание: ИИ может ошибочно принимать решения; Разница между «подлежит оценке» и «одобрению» имеет решающее значение. Резюме встречи часто является «официальной памятью», поэтому каждое резюме следует читать, отличать от решения и согласовывать с участниками перед его распространением.

13. Какова цель сценарного планирования — создать как минимум три сценария (оптимистический, базовый, пессимистический) вместо того, чтобы привязывать будущее к одному прогнозу (например, «мы вырастем на 15 процентов»)?

• А) Искусственный интеллект может точно предсказывать будущее
• Б) Независимо от того, в каком направлении пойдет правда, не стоит быть застигнутым врасплох и вместо паники приводить план в действие ✔
• В) Собирать меньше данных
• Г) Выбор единственного правильного будущего заранее

Пояснение: Реальность — это интервал; Если план, основанный на единственной догадке, не будет реализован, он рухнет. Заблаговременная подготовка ответов на несколько сценариев гарантирует, что план можно будет реализовать, а не паниковать, независимо от того, в каком направлении движется реальность. Цель состоит не в том, чтобы узнать будущее, а в том, чтобы не оказаться застигнутыми врасплох.

14. Что из следующего верно в отношении использования искусственного интеллекта в управлении бизнесом?

• А) Результаты искусственного интеллекта не заменяют одобрение компетентных экспертов в решениях, имеющих финансовые, юридические и кадровые последствия ✔
• Б) Если результаты искусственного интеллекта верны, одобрение эксперта не требуется.
• В) Реальные данные клиента могут быть переданы в открытые инструменты, если это безопасно.
• Г) «ИИ так сказал» является веским оправданием ответственности.

Раскрытие информации: результаты искусственного интеллекта не заменяют одобрение компетентных экспертов в таких важных областях, как соблюдение требований, финансы, юридические и кадровые ресурсы. Искусственный интеллект — помощник в увеличении скорости; Конфиденциальность данных, точность вывода и этика решения всегда являются обязанностью менеджера. Непроверенный результат так же рискован, как и неподписанное решение.