Прибыль:
- Примените критерии оценки перед покупкой инструмента искусственного интеллекта
- Распознавание пунктов, которые следует искать в соглашении об обработке данных (DPA) и типовой карточке.
- Создайте список утвержденных транспортных средств и оценку рисков поставщиков.
Что вы делаете, когда к вам приходит бизнес-подразделение и говорит: «Мы хотим использовать этот новый инструмент искусственного интеллекта, он будет очень полезен»? Слова «ни за что» питают теневой ИИ; Когда вы говорите «ОК», это открывает неконтролируемый риск. Правильный ответ — запустить процесс оценки автомобиля. В этом модуле мы узнаем, какие вопросы следует задать перед покупкой/сертификацией автомобиля с искусственным интеллектом, на что обращать внимание в соглашении об обработке данных (DPA) и карточке модели, а также как объединить все это в список утвержденных транспортных средств и оценку рисков поставщика.
Зачем нужна оценка?
Каждый инструмент искусственного интеллекта — это процессор данных: он обрабатывает данные организации. Одобрить неправильный инструмент — значит передать персональные данные организации третьей стороне (а зачастую и за границу) в бесконтрольном порядке. Основные вопросы, на которые необходимо ответить, прежде чем утвердить инструмент:
- Где он обрабатывает и хранит данные (в какой стране)?
- Использует ли он наши данные при обучении модели? Можно ли его отключить (opt-out)?
- Предлагает ли он соглашение об обработке данных (DPA)?
- Имеются ли сертификаты безопасности (например, ISO 27001)?
- Как долго хранится история чата и можно ли ее удалить?
- Есть ли обязательство уведомлять нас в случае нарушения безопасности?
Соглашение об обработке данных (DPA)
Соглашение об обработке данных (DPA) — это договор, подписанный между контролером данных (учреждением) и обработчиком данных (поставщиком ИИ), в котором указывается, как данные будут обрабатываться. KVKK и GDPR в значительной степени требуют этого. Что нужно искать в DPA:
вопрос
Что оно должно обеспечивать?
Объем и цель обработки
Пусть провайдер действует только по нашим указаниям
Субпроцессоры
Кому оно передается? Уведомляется ли об этом заранее?
Гарантия трансфера
Стандартные положения контракта или эквивалент
Меры безопасности
Шифрование, контроль доступа, ISO 27001
Уведомление о нарушении
Уведомление нас в течение определенного периода времени в случае нарушения
Удаление/возврат
Обязательство удалить/вернуть данные в конце контракта
Право на аудит
Возможность аудита провайдера или получения отчетов
Остерегайтесь: большинство «бесплатных» и «индивидуальных» планов AI не предлагают DPA и могут использовать данные для обучения модели. Для корпоративного использования следует отдавать предпочтение корпоративным/бизнес-планам, которые предлагают DPA и гарантируют отказ от обучения. Бесплатный план часто является планом, в котором данные «оплачиваются».
Модель карты и прозрачность
Карточка модели — это документ, в котором объясняется, для чего предназначена модель ИИ, на каких данных она обучается, ее ограничения и известные риски. Хороший провайдер разделяет это. На что следует обращать внимание в карточке модели: предполагаемое использование модели, известные ограничения и риски предвзятости, нерекомендуемое использование, а также примечания по производительности/безопасности. Если карточка модели отсутствует или очень расплывчата, это само по себе является предупреждающим знаком.
три мини-кейса
Случай 1 — Стоимость бесплатного плана. Команда бухгалтеров начинает обработку финансовых данных клиентов с помощью бесплатного инструмента искусственного интеллекта. Инструмент не предлагает DPA и заявляет, что может использовать данные для обучения модели. Сотрудник по соблюдению требований замечает это и запрещает инструмент, одобряя корпоративную альтернативу, предлагающую DPA. Разница: несколько сотен турецких лир в месяц за лицензию и т. д. Возможные штрафы в миллионы фунтов.
Случай 2 — сюрприз субпроцессора. Спустя несколько месяцев в ходе аудита компания обнаруживает, что одобренный ею инструмент искусственного интеллекта передал данные субобработчикам в трех разных странах. Поскольку в DPA нет пункта «субобработчики должны быть уведомлены заранее», компания не знала об этом. Урок: пункт в DPA, который делает видимой цепочку подпроцессоров, является обязательным.
Случай 3 — Решение путем подсчета очков. Организация составляет таблицу оценки рисков поставщиков по 8 критериям для сравнения трех инструментов ИИ (DPA, расположение данных, отказ от обучения, ISO 27001, уведомление о нарушении, удаление, карта шаблонов, цена). В результате рейтинга выделяется инструмент, который является не самым популярным, но наиболее совместимым. Решение основывается на документально подтвержденной оценке, а не на субъективном «мне понравилось».
Совет: Управляйте списком одобренных транспортных средств как «белым списком»: разрешайте только транспортные средства, которые есть в списке. Черный список должен обновляться с каждым новым инструментом и всегда отстает на шаг; Белый список по умолчанию безопасен.
Выход и риск зависимости
Вопрос, который большинство агентств пропускают при одобрении транспортного средства: «Что произойдет, если мы захотим выйти из этого транспортного средства?» Хорошая оценка учитывает как выход, так и вход. Выделяются два риска. Во-первых, это переносимость данных: когда вы покидаете провайдера, можете ли вы вернуть свои данные и конфигурацию в стандартном формате, или данные заблокированы у провайдера? Во-вторых, это привязка к поставщику: бизнес-процессы могут быть настолько привязаны к одному инструменту, что затраты на выход станут невыносимыми, когда поставщик увеличит цены или прервет обслуживание.
Вот почему рекомендуется также добавлять в запись подтверждения строку «план выхода»: как нам вернуть данные, какой альтернативный инструмент, сколько времени занимает переход. Даже если однажды провайдер отключит услугу, организация будет к этому готова.
Внимание: тот факт, что автомобиль популярен или дешев, не означает, что он экологически устойчив. Мелкие поставщики могут закрыться, быть приобретены или внезапно изменить свою политику. Прежде чем подключать критически важный процесс к одному инструменту, рассмотрите сценарий выхода.
Копируемые шаблоны
ШАБЛОН 1. Набор вопросов для оценки поставщика: «Подготовьте оценочные вопросы, которые следует задать поставщику перед утверждением нового инструмента искусственного интеллекта. Включите: расположение данных, использование и отказ от обучения модели, наличие DPA, сертификаты безопасности, период хранения, уведомление о нарушении, субобработчики, обязательство по удалению. Включите ожидаемый «безопасный» ответ на каждый вопрос».
ШАБЛОН 2 — Контрольный список положений DPA: «Проверьте проект DPA ниже [вставьте текст] на наличие следующих пунктов: объем обработки, субобработчики, гарантия передачи, меры безопасности, период уведомления о нарушении, удаление/возврат, право на аудит. Отметьте «присутствует/отсутствует/неопределенно» для каждого пункта. Напомните, что требуется юридическое одобрение; не делайте окончательных решений».
ШАБЛОН 3 — Табло рисков поставщика: «Настройте табло рисков по 8 критериям для сравнения 3 инструментов ИИ: DPA, расположение данных, отказ от обучения, ISO 27001, уведомление о нарушении, удаление, карта шаблонов, стоимость. Пусть каждый критерий будет 0–3 балла, добавьте общее количество и столбец рекомендаций. Дайте пустой шаблон, я его заполню».
ШАБЛОН 4 — Запись в списке утвержденных инструментов: «Составьте новую запись в списке утвержденных инструментов ИИ: название инструмента, утвержденное предполагаемое использование, разрешенные классы данных (публичные/внутренние/конфиденциальные), запрещенные типы данных, ответственное подразделение, дата утверждения, дата проверки. В формате однострочной записи».
Слабая подсказка / Сильная подсказка
СЛАБЫЕ: «Безопасен ли этот инструмент искусственного интеллекта?» -> Повторяет маркетинговое обещание модельного инструмента; Он не оценивает конкретные критерии, такие как DPA, расположение данных, использование обучения. СИЛЬНЫЙ: «Я оценю этот инструмент искусственного интеллекта для корпоративного использования. Какую информацию мне следует запросить у поставщика на основе следующих 8 критериев (DPA, расположение данных, отказ от обучения, ISO 27001, уведомление о нарушении, хранилище, субпроцессор, карточка модели) и каким должен быть «приемлемый» порог по каждому критерию? Укажите в формате контрольной таблицы». -> Модель создает конкретную, поддающуюся проверке структуру оценки.
Распространенные ошибки
- Использование бесплатных/индивидуальных планов с корпоративными данными; Не осознавая, что нет DPA и отказа.
- Одобрение инструмента основано на маркетинговых обещаниях, а не на запросах о местоположении данных и использовании в образовательных целях.
- Совместное использование данных без подписания DPA или проверки пункта субобработчика.
- Одобрение автомобиля без карты/неопределенной модели без каких-либо вопросов.
- Ведение списка запрещенных автомобилей вместо белого списка и присутствие каждого нового автомобиля.
- Отсутствие повторной проверки автомобиля после одобрения (условия меняются).
- Выбор поставщика основан на субъективных предпочтениях, а не на подтвержденной оценке.
В заключение
- Каждый инструмент ИИ представляет собой процессор данных; Перед утверждением необходима систематическая оценка.
- Соглашение об обработке данных (DPA) является основным документом, связывающим данные; Он должен включать положения об области действия, субобработчике, безопасности, нарушении и удалении.
- Бесплатные/индивидуальные планы часто не предлагают DPA и используют данные для обучения; Предпочтение следует отдавать корпоративным планам.
- Карта модели показывает ограничения и риски модели; Его отсутствие является тревожным знаком.
- Утвержденные инструменты должны управляться как белый список, а поставщики должны управляться с помощью документированной оценки риска.
Задача приложения
Выберите три реальных инструмента искусственного интеллекта, которые, возможно, захочет использовать ваша организация. Создайте таблицу оценки рисков поставщика с восемью критериями (DPA, расположение данных, отказ от обучения, сертификация безопасности, уведомление о нарушении, хранение, карта модели, стоимость) и оцените каждое транспортное средство по шкале от 0 до 3 на основе этих критериев. Затем напишите запись в списке одобренных транспортных средств для автомобиля, получившего наивысшую оценку: утвержденное предполагаемое использование, разрешенные классы данных, запрещенные типы данных, ответственная организация и дата проверки. Наконец, отметьте пять пунктов, которые вы обязательно захотите увидеть в DPA автомобиля, и почему каждый из них важен.
контрольный список
- [ ] Прежде чем утвердить инструмент, я задал оценочные вопросы.
- [ ] Я уточнил расположение данных и вариант использования при обучении модели.
- [ ] Я проверил наличие DPA и его критических элементов.
- [ ] Я изучил карточку модели; Я видел пределы и риски.
- [ ] Я оценил поставщика с помощью документально подтвержденной оценки риска.
- [ ] Я добавил инструмент в белый список с разрешенными классами данных.
- [ ] Я установил дату проверки.