Прибыль:
- Способность создавать компоненты структуры управления ИИ, которая обеспечивает баланс скорости, безопасности и согласованности.
- Способность разработать многофункциональную плату искусственного интеллекта и простые применимые основные политики (приемлемое использование, данные, риски)
- Возможность распределять утверждения в соответствии с уровнем риска и поддерживать управление на местах с помощью системной инвентаризации и регулярного аудита.
Стратегия, вариант использования, рентабельность инвестиций и риск; Они все сильные, но поодиночке они неряшливы. Что объединяет их, делает повторяемыми и придает уверенности институту, так это управление (управление; структура, которая определяет, кто будет принимать решения, по каким правилам и с каким контролем). Управление — это постоянный ответ на вопрос: «Как нам ответственно использовать ИИ на этом предприятии?» В этом модуле вы узнаете, как создать управление ИИ, письменную политику и структуру совета директоров, принимающую решения. Целью является не создание бюрократии; Чтобы обеспечить безопасную и повторяемую работу без снижения скорости.
Почему управление важно?
В организации без управления каждая команда устанавливает свои собственные правила: одна вставляет данные о клиентах в общедоступный инструмент, другая запускает в производство несертифицированную модель, третья вообще не проводит оценку рисков. Когда возникают проблемы, «кто это одобрил?» Ответа на вопрос нет. Управление заполняет этот пробел: кто решает, какие правила применяются, кто контролирует и кто несет ответственность в случае возникновения проблем.
Хорошее управление сочетает в себе три вещи: скорость (не подавлять инициативу), безопасность (контроль рисков) и последовательность (все играют по одним и тем же правилам). Чрезмерное управление убивает скорость; Неполное управление убивает доверие. Баланс – это искусство.
Совет: При настройке управления создавайте уровни в зависимости от уровня риска: от «самого медленного и безопасного пути» до «самого быстрого и рискованного пути». Работа с низким уровнем риска должна выполняться быстро; Только работа с высоким риском должна подвергаться строгому одобрению. Применение одного и того же обременительного процесса ко всем делает управление объявленным врагом.
Компоненты управления
компонент
Что он делает?
пример
доска искусственного интеллекта
Стратегическое решение, приоритет, одобрение
Ежемесячная встреча, одобрение высокого риска
Набор политик/принципов
письменные правила
Допустимое использование, данные, поставщик
Роли и собственность
Кто за что отвечает
Владелец бизнеса для любой сферы использования
Риски и процесс утверждения
С чего начать
Уровень одобрения в зависимости от уровня риска
Мониторинг и аудит
Непрерывный контроль
Мониторинг сноса, периодический осмотр
Регистрация/инвентаризация
Что и где работает
Инвентаризация системы искусственного интеллекта
Совет по искусственному интеллекту (совет / руководящий комитет по искусственному интеллекту) — это орган, состоящий из высокопоставленных представителей различных функций (бизнес, технологии, право, риски, данные), которые определяют стратегическое направление и одобряют инициативы с высоким уровнем риска. Совет не управляет проектами; устанавливает рамки и принимает важные решения.
Основные политики
Каждой организации необходимы как минимум следующие политики:
- Политика приемлемого использования: какие инструменты ИИ могут использовать сотрудники, с какими данными и для чего? (Пример: «Не вводите персональные данные клиента в неавторизованный внешний инструмент».)
- Политика данных и конфиденциальности: Какие данные, где и как обрабатываются? Как обеспечить соблюдение КВКК?
- Политика рисков и одобрения: какие оценки проходит стартап перед запуском в производство?
- Политика поставщиков/закупок: по каким критериям отбираются внешние поставщики ИИ? (Блок 11)
- Политика прозрачности: когда клиент/сотрудник уведомляется об использовании ИИ?
Шаг за шагом: установление управления
1. Создайте доску. Представитель бизнеса, технологий, права, рисков и данных; четкие полномочия и ритм встреч.
2. Напишите основную политику. Напишите приведенные выше пять правил просто и применимо; Это не роман, это правило.
3. Создайте поток одобрений, основанный на рисках. Быстрое одобрение с низким риском, тяжелое одобрение с высоким риском.
4. Держите инвентарь. Какая система искусственного интеллекта где находится, кто несет ответственность, на каком уровне риска.
5. Институционализировать мониторинг и контроль. Периодический пересмотр, дрейф и контроль соответствия.
три мини-кейса
Случай 1 — Утечка без политики. В одной юридической фирме у юристов были конфиденциальные документы дела, обобщенные с помощью общедоступного инструмента искусственного интеллекта. Это считалось нормальным, поскольку не существовало политики приемлемого использования. Когда об этом узнал клиент, возник кризис доверия. Фирма оперативно написала политику, предоставила корпоративный (защищенный от данных) инструмент и провела обучение. Если бы такая политика была с самого начала, кризиса бы не произошло.
Случай 2 — Баланс доски. Один производитель создал свою плату искусственного интеллекта исключительно силами своей технологической команды. Правление давало одобрения, которые были технически блестящими, но имели юридическую и этическую слепоту. Когда в совет директоров был добавлен представитель по юридическим вопросам и управлению рисками, серьезная проблема с соблюдением требований была обнаружена еще до того, как предприятие с высоким уровнем риска могло быть запущено в производство. Разнообразие было целью правления.
Случай 3 — Удушающий импульс управления. В одном банке каждая идея ИИ, даже с низким уровнем риска, проходила строгий шестинедельный процесс утверждения. Бригады стали уклоняться от процесса и использовать «теневую» технику. Банк стратифицировал одобрение по уровню риска: работы с низким уровнем риска за 3 дня, с высоким уровнем риска в течение всего процесса. И скорость, и контроль вернулись; Использование тени уменьшено.
Четыре копируемых шаблона
1) Проект создания правления:
Ваша роль: советник по управлению ИИ. Предложите нам проект совета по искусственному интеллекту: сколько членов, от каких функций, полномочия совета, частота заседаний, какие решения он утверждает, какие оставляет командам. Избегайте чрезмерной бюрократии; Предложите баланс, который позволит поддерживать скорость.
2) Проект политики допустимого использования:
[Промышленность] разрабатывает простую и осуществимую «политику приемлемого использования ИИ» для организации: какие инструменты можно использовать, с какими данными и для чего; что категорически запрещено; Что происходит в случае нарушения? Пишите по пунктам, понятным языком.
3) Поток утверждений на основе рисков:
Разработайте для нас многоуровневый поток одобрения ИИ на основе уровня риска: какие шаги, чье одобрение, как долго, отдельно для низкого/среднего/высокого риска. Убедитесь, что работа с низким уровнем риска выполняется быстро, а работа с высоким риском проходит строгий контроль.
4) Шаблон инвентаря AI:
Разработайте шаблон инвентаризации для регистрации систем искусственного интеллекта в организации: название системы, предполагаемое использование, владелец бизнеса, уровень риска, используемые данные, поставщик, дата последнего аудита. Кратко объясните, почему необходимо каждое поле.
Слабая подсказка / Сильная подсказка
Слабое: «Напишите нам политику в области ИИ».
Результат: текст носит общий характер, не соответствует данному учреждению и слишком абстрактен для применения.
Гючлю: «Мы — компания, занимающаяся медицинскими технологиями, в которой работают 200 человек, мы работаем с данными пациентов и подпадаем под действие KVKK. Разработайте простую и осуществимую политику приемлемого использования, описывающую, как сотрудники могут использовать инструменты искусственного интеллекта: правила в отношении данных пациентов, утвержденные инструменты, запреты и последствия нарушений. Напишите ее по пунктам и понятным языком; предполагайте, что наша юридическая команда рассмотрит ее».
Результат: Применимый проект, соответствующий учреждению, сектору и законодательству.
Распространенные ошибки
- Не установление управления вообще. Сказать «посмотрим позже» означает молчаливое накопление риска.
- Чрезмерная бюрократия. Применение строгого одобрения к каждой работе подталкивает команды к теневому использованию.
- Однофункциональная плата. Сама по себе технология или совет директоров, в котором представлены только юридические лица, создают «слепые зоны»; разнообразие является обязательным.
- Не писать политику и не воплощать ее в жизнь. Политика, лежащая на полке, не обеспечивает защиты; Это должно быть подкреплено обучением и инструментами.
- Не ведение инвентаря. Учреждение, которое не знает, над чем оно работает, не может знать, что проверять.
Внимание: ИИ может подготовить проект политики или совета директоров; Но эти проекты не должны вводиться в действие без адаптации к реальности, сектору и законодательству учреждения и без рассмотрения юридическими службами и службами управления рисками. Политика, разработанная ИИ, — это не сама по себе модель ответственного корпоративного решения.
В заключение
Управление — это основа, которая делает стратегию ИИ постоянной, повторяемой и надежной; балансирует скорость, безопасность и согласованность. Его ключевыми компонентами являются многофункциональная плата искусственного интеллекта, простые и действенные политики, четкие роли, поток утверждений с учетом рисков, непрерывный мониторинг и инвентаризация системы. Чрезмерная скорость бюрократии и неполное управление убивают доверие; Баланс сводится к распределению по уровням риска. Политика должна существовать в полевых условиях с обучением и инструментами, а не лежать на полке. В следующем разделе мы рассмотрим принципы этичного и ответственного ИИ, которые являются моральной основой управления.
Задача приложения
Составьте совет по искусственному интеллекту для вашей организации: кто из каких функций, с какими полномочиями, в каком ритме. Затем создайте проект политики допустимого использования с помощью шаблона 2 и вручную адаптируйте не менее трех пунктов в соответствии с фактическими данными/нормативными условиями вашего учреждения. Наконец, опишите в одном предложении три уровня (низкий/средний/высокий) потока одобрений с учетом рисков.
контрольный список
- [ ] Я разработал многофункциональную структуру доски.
- [ ] Я разработал как минимум одну основную политику.
- [ ] Я адаптировал политику к законодательству организации и реальности данных.
- [ ] Я определил многоуровневый поток утверждения на основе рисков.
- [ ] Я настроил шаблон инвентаризации системы ИИ.
- [ ] Я спланировал ритм наблюдения и контроля.
- [ ] Я думал о том, как применить политику на местах (обучение/инструмент).