Прибуток:
- Застосуйте критерії оцінки перед покупкою інструменту ШІ
- Розпізнавання елементів, які слід шукати в угоді про обробку даних (DPA) і типовій картці
- Створіть затверджений список транспортних засобів і оцінку ризику постачальника
Що ви робите, коли бізнес-підрозділ приходить до ваших дверей і каже: «Ми хочемо використовувати цей новий інструмент ШІ, він буде дуже корисним»? Говорячи «ні в якому разі» живить тіньовий ШІ; Сказати «ок» відкриває неконтрольований ризик. Правильна відповідь – провести процес оцінки автомобіля. У цьому розділі ми дізнаємося, які запитання поставити перед покупкою/сертифікацією транспортного засобу зі штучним інтелектом, на що звертати увагу в угоді про обробку даних (DPA) і картці моделі, а також як перекласти все це в затверджений список транспортних засобів і показник ризику постачальника.
Навіщо потрібна оцінка?
Кожен інструмент ШІ є процесором даних: він обробляє дані організації. Схвалення неправильного інструменту означає неконтрольовану передачу особистих даних організації третій стороні (і часто за кордоном). Основні запитання, на які варто відповісти перед тим, як схвалити інструмент:
- Де він обробляє та зберігає дані (в якій країні)?
- Чи використовує він наші дані для навчання моделі? Чи можна вимкнути (відмовитися)?
- Чи пропонується угода про обробку даних (DPA)?
- Чи є сертифікати безпеки (наприклад, ISO 27001)?
- Як довго зберігається історія чату і чи можна її видалити?
- Чи є зобов’язання повідомляти нас про порушення безпеки?
Угода про обробку даних (DPA)
Угода про обробку даних (DPA) — це договір, підписаний між контролером даних (установою) і обробником даних (постачальником штучного інтелекту), який визначає, як дані будуть оброблятися. KVKK і GDPR значною мірою передбачають це. Елементи, які слід шукати в DPA:
справа
Що він повинен забезпечити?
Обсяг і мета обробки
Нехай провайдер працює тільки за нашими вказівками
Субпроцесори
Кому передано? Чи повідомлено заздалегідь?
Гарантія передачі
Стандартні умови договору або еквівалент
Заходи безпеки
Шифрування, контроль доступу, ISO 27001
Сповіщення про порушення
Повідомлення нас протягом певного періоду часу у разі порушення
Видалення/повернення
Зобов’язання видалити/повернути дані після закінчення контракту
Право на аудит
Можливість аудиту провайдера або отримання звітів
Обережно: більшість «безкоштовних» та «індивідуальних» планів AI не пропонують DPA та можуть використовувати дані для навчання моделей. Для корпоративного використання слід віддавати перевагу корпоративним/бізнес-планам, які пропонують DPA та гарантують відмову від навчання. Безкоштовний план часто є планом, де дані «оплачуються».
Модель картки та прозорість
Картка моделі – це документ, який пояснює, для чого розроблена модель ШІ, з якими даними вона навчається, її обмеження та відомі ризики. Хороший провайдер ділиться цим. На що слід звернути увагу в картці моделі: використання моделі за призначенням, відомі обмеження та ризики упередженості, використання, яке не рекомендується, і примітки щодо ефективності/безпеки. Якщо картка моделі відсутня або дуже розпливчаста, це саме по собі є попереджувальним знаком.
три міні-чохла
Випадок 1 — Вартість безкоштовного плану. Команда бухгалтерів починає обробляти фінансові дані клієнтів за допомогою безкоштовного інструменту ШІ. Інструмент не пропонує DPA, і в його умовах зазначено, що він може використовувати дані для навчання моделі. Відповідальний за відповідність помічає це та забороняє інструмент, схвалюючи корпоративну альтернативу, яка пропонує DPA. Різниця: кілька сотень TL на місяць за ліцензію тощо. Можливі штрафи в мільйони фунтів.
Випадок 2 — Сюрприз підпроцесора. Під час аудиту через кілька місяців компанія виявила, що схвалений нею інструмент штучного інтелекту передавав дані субпроцесорам у трьох різних країнах. Оскільки в DPA немає пункту «субобробники повинні бути повідомлені заздалегідь», компанія не знала про це. Урок: пункт у DPA, який робить ланцюжок підпроцесора видимим, є обов’язковим.
Випадок 3 — Рішення шляхом підрахунку балів. Організація встановлює таблицю оцінки ризику постачальника за 8 критеріями для порівняння трьох інструментів ШІ (DPA, розташування даних, відмова від навчання, ISO 27001, сповіщення про порушення, видалення, картка шаблону, ціна). Результат рейтингу виділяє засіб, який є не найпопулярнішим, але найбільш сумісним. Рішення ґрунтується на задокументованій оцінці, а не на суб’єктивному «Мені сподобалося».
Порада: керуйте списком схвалених транспортних засобів як «білим списком»: дозволяйте лише ті транспортні засоби, які є у списку. Чорний список потрібно оновлювати з кожним новим інструментом і завжди на крок позаду; білий список безпечний за замовчуванням.
Вихід і ризик залежності
Питання, яке більшість агентств пропускає під час схвалення автомобіля: «Що станеться, якщо ми захочемо вийти з цього автомобіля?» Хороша оцінка враховує як вихід, так і вхід. Виділяють два ризики. По-перше, це переносимість даних: коли ви залишаєте постачальника, чи можете ви повернути свої дані та конфігурацію в стандартному форматі, чи дані заблоковані в постачальнику? По-друге, це прив’язка до постачальника: бізнес-процеси можуть бути настільки прив’язані до одного інструменту, що вартість виходу стає нестерпною, коли постачальник підвищує ціни або перериває обслуговування.
Ось чому доцільно також додати рядок «план виходу» до запису підтвердження: як ми повертаємо дані, який альтернативний інструмент, скільки часу займає перехід. Навіть якщо провайдер одного разу відключить послугу, організація буде готова.
Застереження: те, що автомобіль популярний або дешевий, не означає, що він екологічний. Малі постачальники можуть закритися, бути придбаними або раптово змінити свою політику. Перш ніж підключати критичний процес до одного інструменту, розгляньте сценарій виходу.
Шаблони, які можна копіювати
ШАБЛОН 1 — Набір оціночних запитань постачальника: «Підготуйте оцінювальні запитання постачальника, перш ніж затверджувати новий інструмент штучного інтелекту. Включіть: розташування даних, використання та відмову від навчання моделі, присутність DPA, сертифікати безпеки, період зберігання, сповіщення про порушення, субпроцесори, зобов’язання щодо видалення. Включіть очікувану «безпечну» відповідь на кожне запитання».
ШАБЛОН 2 — Контрольний список положень DPA: «Перевірте чернетку DPA нижче [вставити текст] на такі пункти: обсяг обробки, субпроцесори, забезпечення передачі, заходи безпеки, період сповіщення про порушення, видалення/повернення, право на аудит. Позначте «присутнє/відсутнє/невизначене» для кожного пункту. Нагадайте, що потрібне юридичне схвалення; не виносьте остаточних суджень».
ШАБЛОН 3 — Табло ризиків постачальника: «Налаштуйте табло ризиків за 8 критеріями, щоб порівняти 3 інструменти штучного інтелекту: DPA, розташування даних, відмова від навчання, ISO 27001, сповіщення про порушення, видалення, шаблонна картка, вартість. Нехай кожен критерій буде 0-3 балами, додайте загальну суму та стовпець рекомендацій. Дайте порожній шаблон, я його заповню».
ШАБЛОН 4 — Запис у списку схвалених інструментів: «Створіть новий запис у списку схвалених інструментів штучного інтелекту: назва інструменту, затверджене передбачуване використання, дозволені класи даних (публічні/внутрішні/конфіденційні), заборонені типи даних, відповідальний підрозділ, дата схвалення, дата перегляду. У форматі однорядкового запису».
Слабка підказка / Сильна підказка
СЛАБКО: «Чи безпечний цей інструмент штучного інтелекту?» -> Повторює маркетингову обіцянку модельного інструменту; Він не оцінює конкретні критерії, такі як DPA, розташування даних, використання навчання. СИЛЬНИЙ: «Я оціню цей інструмент штучного інтелекту для корпоративного використання. Яку інформацію я маю вимагати від постачальника на основі наступних 8 критеріїв (DPA, розташування даних, відмова від навчання, ISO 27001, сповіщення про порушення, пам’ять, субпроцесор, модель картки) і яким має бути «прийнятний» поріг для кожного критерію? Надайте у форматі контрольної таблиці». -> Модель створює конкретну структуру оцінювання, яку можна перевірити.
Поширені помилки
- Використання безкоштовних/індивідуальних планів з корпоративними даними; Не розуміючи, що немає DPA та відмови.
- Схвалення інструменту на основі маркетингових обіцянок, без запиту про місцезнаходження даних і освітнього використання.
- Спільний доступ до даних без підписання DPA або перевірки пункту субпроцесора.
- Погодження транспортного засобу з невизначеною/невизначеною карткою моделі без питань.
- Вести список заборонених замість білого списку та залишатися позаду з кожним новим транспортним засобом.
- Не переглядати транспортний засіб повторно після схвалення (умови змінюються).
- Вибір постачальника базується на суб’єктивних уподобаннях, а не на балах, які підлягають сертифікації.
Підсумовуючи
- Кожен інструмент ШІ є процесором даних; Систематична оцінка необхідна перед затвердженням.
- Договір про обробку даних (DPA) є основним документом, який зв’язує дані; Він повинен містити положення про область дії, субпроцесор, безпеку, порушення та видалення.
- Безкоштовні/індивідуальні плани часто не пропонують DPA та використовують дані для навчання; Слід віддавати перевагу корпоративним планам.
- Картка моделі показує обмеження та ризики моделі; Його відсутність є тривожним знаком.
- Схвалені інструменти слід керувати як білий список, а постачальники мають керувати документально підтвердженою оцінкою ризику.
Аплікаційне завдання
Виберіть три реальні інструменти ШІ, які ваша організація може захотіти використовувати. Налаштуйте таблицю оцінки ризику постачальника за вісьмома критеріями (DPA, розташування даних, відмова від навчання, сертифікація безпеки, сповіщення про порушення, утримання, картка моделі, вартість) і оцініть кожен автомобіль від 0 до 3 на основі цих критеріїв. Потім напишіть запис у списку схвалених транспортних засобів для транспортного засобу з найвищим балом: затверджене передбачуване використання, дозволені класи даних, заборонені типи даних, відповідальна особа та дата перевірки. Насамкінець запам’ятайте п’ять пунктів, які ви точно захочете побачити в DPA автомобіля, і чому кожен з них важливий.
контрольний список
- [ ] Я поставив оцінювальні запитання, перш ніж затвердити інструмент.
- [ ] Я уточнив розташування даних і варіант використання в навчанні моделі.
- [ ] Я перевірив наявність DPA та його критичних елементів.
- [ ] Я оглянув модель карти; Я бачив межі та ризики.
- [ ] Я оцінив постачальника за документально підтвердженою оцінкою ризику.
- [ ] Я додав інструмент до білого списку з дозволеними класами даних.
- [ ] Я призначив дату перегляду.