Прибыль:
- Возможность оценить поставщика ИИ по осям сертификации, хранения, местонахождения данных и субпроцессора.
- Умение сверять заверения с документами и условиями контракта, а не полагаться на устные слова.
- Возможность привязать DPA и условия отказа/удаления к проверке безопасности перед покупкой.
Большинство организаций не обучают свои собственные модели; использует API провайдера. Это не устраняет риск — оно просто передает его кому-то другому, и вы обязаны оценить риск, который вы передаете. Каждая третья сторона, которой передаются ваши данные, является расширением границ вашей безопасности. В этом модуле вы узнаете, как оценить поставщика ИИ; Мы научимся проводить проверку безопасности перед покупкой с помощью сертификатов соответствия, соглашения об обработке данных (DPA), хранилища данных, места жительства данных и субобработчиков.
Почему риск третьих лиц?
В случае проверки или нарушения защита «мы не обрабатывали данные, это сделал провайдер» вас не спасет. Вы являетесь контролером данных; Поставщик является обработчиком данных. KVKK и GDPR проводят это различие, но большая часть ответственности остается на вас. Вот почему выбор поставщика — это не решение о покупке, а решение о безопасности.
Внимание: «Крупный и известный провайдер» не является гарантией безопасности. Гарантия обеспечивается подписанными договорными положениями и проверяемыми сертификатами; не из-за репутации бренда.
Оси оценки
Изучите поставщика ИИ по семи осям:
- Сертификаты соответствия: SOC 2 Type II (независимый аудит средств контроля безопасности организации), ISO/IEC 27001 (стандарт управления информационной безопасностью) и все чаще ISO/IEC 42001 (стандарт системы управления искусственным интеллектом).
- Хранение данных: как долго сохраняется приглашение/ответ? Предлагается ли ZDR (нулевое сохранение данных)?
- Использование в обучении. Используются ли ваши данные для обучения модели? (Обычно «нет» на корпоративном уровне.)
- Местонахождение данных: в какой стране/регионе обрабатываются и хранятся данные?
- Субпроцессоры: Какие еще компании использует провайдер (облако, мониторинг)? Они также являются частью вашей границы.
- Функции безопасности: шифрование (в пути/в состоянии покоя), контроль доступа, журнал аудита, время уведомления о событиях.
- Контракт и выход: существует ли DPA? Гарантировано ли удаление ваших данных в случае прекращения действия услуги? Чем грозит блокировка?
Шаг за шагом: обзор поставщика
- Проведите опрос по безопасности. Превратите приведенные выше оси в список вопросов.
- Попросите доказательства. Подтвердите претензии документацией (отчет SOC 2, сертификат ISO, проект DPA).
- Составьте карту потока данных. Какие данные куда и для какого процесса?
- Переговоры по DPA. Не начинайте производство без подписания соглашения об обработке данных (юридического текста, определяющего, как поставщик будет обрабатывать данные).
- Проверьте субпроцессоры. Рассмотрим всю цепочку.
- Установите график переоценки. Риск поставщика должен пересматриваться не реже одного раза в год.
Четыре копируемых шаблона
Ядро исследования безопасности поставщиков:
Что спросить у провайдера: 1. Какие сертификаты соответствия у вас есть? (SOC 2 Type II, ISO 27001/42001) Можете ли вы поделиться отчетом?2. Какой объем данных запроса/ответа сохраняется? Есть ли опция ZDR?3. Используются ли наши данные при обучении модели? Это написано в договоре?4. В каком регионе данные обрабатываются/хранятся? Можем ли мы выбрать регион?5. Кто ваши субобработчики? Как вы уведомите об изменении?6. Каков срок уведомления в случае нарушения?7. Как и когда наши данные удаляются по истечении срока действия договора?
Правило проверки доказательств:
По каждому утверждению «есть ли доказательства?» проверьте:- Заявление о сертификации -> видел ли я текущий номер отчета/сертификата?- Заявление о ZDR/хранении -> написано ли это в пункте контракта?- Неиспользование в обучении -> Есть ли в DPA открытый пункт? Отметьте каждое утверждение без доказательств как «НЕ ПОДТВЕРЖДЕНО»; Не принимайте словесные слова.
Подсказка по сопоставлению потоков данных:
Извлеките поток данных для следующей интеграции: {{ сценарий }}Укажите на каждом шаге: какие данные (содержат ли они PII), куда они отправляются (какая компания/регион), с какой целью, сколько хранится. Отметьте каждый шаг и подпроцессоры, пересекающие границу предприятия.
Система показателей рисков поставщика:
Оцените каждую ось по шкале от 0 до 2 (0 = нет, 1 = частично, 2 = полностью): сертификат, ZDR/сохранение, не использовать при обучении, местонахождение данных, прозрачность подпроцессора, уведомление о нарушении, выход/удаление. Если общее количество < 10 или любая ось равна 0: «РИСК ВЫСОКИЙ, запустить в производство».
Слабая подсказка/Сильная подсказка
плохой подход
Сильный подход
Предполагая «большая компания, безопасная»
Проверьте сертификат и DPA с документом
опираясь на устные заверения
Связь каждой гарантии с пунктом контракта
Просто проверьте провайдера
Также рассмотрим цепочку субпроцессоров
выбери один раз и забудь
Ежегодный календарь переоценки
Три мини-кейса
Случай 1. Проект, начатый без DPA, был остановлен. Розничная компания быстро привела на производство помощника; Впоследствии команда юристов обнаружила, что с провайдером не было подписанного соглашения DPA. Проект был приостановлен на время обработки данных клиентов, были согласованы условия DPA и возобновлены после того, как местонахождение данных было зафиксировано в регионе ЕС.
Случай 2. Цепочка субпроцессоров преподносит сюрприз. Медицинская компания одобрила основного поставщика; Однако картирование потока данных показало, что провайдер использовал для мониторинга компанию в третьей стране. Это нарушило требование о местонахождении данных. Компания добавила в контракт пребывание в регионе.
Случай 3. Из системы показателей исключено дешевое предложение. Были оценены три предложения. Самый дешевый поставщик получил 0 (нет SOC 2) по оси сертификации. Правило системы показателей «если какая-либо ось равна 0, запустите ее в производство» было исключено; Был выбран поставщик на 22% дороже, но с полным рейтингом, и решение было задокументировано для аудита.
Совет: Никогда не путайте две разные гарантии: «наши данные не сохраняются (ZDR)» и «наши данные не используются при обучении» — это отдельные пункты. Поставщик может предложить одно, но не другое; Попросите и то и другое четко прописать в контракте.
Распространенные ошибки
- Учитывая размер/бренд провайдера как гарантию безопасности.
- Опираясь на сарафанное радио, не подтверждая утверждения документацией.
- Запуск в производство без подписания DPA.
- Игнорирование цепочки субпроцессоров (там пробито место жительства данных).
- Думая, что ZDR и гарантия «не используется в образовании» — это одно и то же.
- Утверждение поставщика один раз, а не переоценка ежегодно.
В заключение
- Вы являетесь контролером данных; Выбор поставщика — это решение по безопасности, а не решение о покупке.
- Оценивайте по семи осям: сертификация, сохранение/ZDR, использование в образовательных целях, местонахождение данных, субобработчики, функции безопасности, контракт/выход.
- Подтвердить каждое заверение документом и договорным положением; Бренда и сарафанного радио недостаточно.
- Также рассмотрите цепочку субпроцессоров; данные проживания часто там пробивают.
- Не начинайте производство до подписания соглашения DPA и ежегодно проводите повторную оценку поставщика.
Задача приложения
Заполните приведенный выше опрос по безопасности для поставщика ИИ, которого вы используете (или оцениваете), и спросите: «Есть ли доказательства?» за каждый ответ. Отметьте столбец. Затем составьте карту потока данных и отметьте каждый шаг, выходящий за границы предприятия. Наконец, оцените семь осей, создайте карту оценки рисков и спросите: «Пригодно ли это для производства?» Напишите причины вашего решения.
контрольный список
- [ ] Я задокументировал сертификаты соответствия поставщика (SOC 2 / ISO 27001).
- [ ] Условия хранения данных, ZDR и «неиспользования в образовании» прописаны в договоре.
- [ ] Это соответствует моим требованиям к месту жительства данных (KVKK/GDPR).
- [ ] Я сопоставил и оценил цепочку субпроцессоров.
- [ ] Я не приступил к производству без подписанного DPA.
- [ ] Я составил для поставщика календарь ежегодной переоценки.