Прибуток:
- Оцінка того, чи вимагає застосування DPIA для використання ШІ
- Застосування семиетапного процесу DPIA до проекту ШІ
- Визначте пріоритетність ризиків за допомогою матриці ймовірностей і впливу та розробіть заходи пом’якшення
Деякі види використання штучного інтелекту створюють серйозні ризики для людей: широкомасштабний моніторинг, обробка конфіденційних даних, автоматизовані рішення. У таких проектах як KVKK/GDPR, так і Закон ЄС про штучний інтелект очікують структурованої оцінки ризиків перед початком роботи. Назва цієї оцінки – оцінка впливу на захист даних (DPIA). У цьому розділі ми дізнаємося, як визначити, чи потребує використання DPIA, як застосувати семиетапний процес DPIA до проекту штучного інтелекту та як визначити пріоритетність ризиків за допомогою матриці ймовірності та впливу.
Що таке DPIA і коли він потрібен?
Оцінка впливу на захист даних (DPIA) — це структурований аналіз, який заздалегідь оцінює ризики обробки для прав і свобод осіб і визначає заходи пом’якшення. Критичний момент: DPIA виконується на етапі проектування, до початку обробки, а не після виникнення проблеми.
DPIA зазвичай потрібна, коли:
- Використання нових технологій (часто включається ШІ).
- Масштабна обробка персональних даних.
- Систематичний моніторинг або профілювання.
- Спеціальна обробка даних.
- Автоматизовані рішення, які суттєво впливають на людей.
Порада: якщо ви не впевнені, виконайте «перевірку»: якщо присутні два або більше з п’яти вищезазначених, за замовчуванням виконайте DPIA. Вартість виконання DPIA низька; Ціна невиконання цього є дуже високою за одне порушення.
Семиетапний процес DPIA
Ви застосовуєте DPIA до проекту AI за ці сім кроків:
крок
чим ти займаєшся
1. Опис
Опишіть обробку: які дані, мета, обсяг, потік
2. Необхідність і пропорційність
Чи справді ШІ потрібен? Чи є менш нав'язливий спосіб?
3. Думка зацікавлених сторін
Отримати думку відповідних осіб/представників
4. Ідентифікація ризиків
Перерахуйте можливі збитки для людей
5. Оцінка ризику
Оцініть кожен ризик за ймовірністю та впливом
6. Пом'якшувальні заходи
Розробити запобіжні заходи для кожного ризику, визначити залишковий ризик
7. Затвердження та розгляд
Документуйте результат, надсилайте його на затвердження, періодично оновлюйте
Пріоритезація ризику: матриця ймовірності впливу
Ви оцінюєте кожен ризик у двох вимірах: ймовірність того, що це станеться, і вплив, якщо це станеться. Поєднання цих двох дає пріоритет.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Слабкий вплив
середній ефект
високий вплив
висока ймовірність
середній
висока
критичний
середня ймовірність
низький
середній
висока
низька ймовірність
низький
низький
середній
Критичні та високі ризики – це ризики, для яких проект не слід продовжувати без вжиття запобіжних заходів. Метою є не усунення всіх ризиків; полягає в зниженні кожного ризику до прийнятного рівня та свідомому прийнятті залишкового (залишкового) ризику.
три міні-чохла
Випадок 1 — пропущений DPIA. Роздрібна мережа впроваджує систему, яка відстежує поведінку покупців у магазині за допомогою ШІ, без DPIA. Через кілька місяців скарга показує, що система зробила певні висновки (стан здоров’я, прогноз вагітності). Відповіді на запитання «чому ви не зробили ДПІА» в аудиті немає. DPIA з самого початку вловила б цей ризик на етапі проектування та зробила проект безпечним.
Випадок 2 — Проект врятовано DPIA. DPIA виконується для підтримки ШІ набору персоналу в банку. Під час фази визначення ризику ризик гендерних упереджень через історичні дані виявляється «високим». Щоб пом’якшити наслідки, команда видаляє гендерну інформацію з моделі, пов’язує результати з регулярним тестуванням упередженості та вимагає перевірки людиною. Тепер ризик падає до «помірного», і проект стає прийнятним. DPIA робить проект безпечним, а не вбиває його.
Випадок 3 — Тест на пропорційність. Компанія хоче сканувати електронні листи співробітників для «аналізу лояльності» за допомогою ШІ. На етапі необхідності/пропорційності DPIA це виявляється надмірно нав’язливим щодо мети; Є менш нав'язливі альтернативи. У нинішньому вигляді проект не затверджений. Тест на пропорційність розрізняє «ми можемо» і «ми повинні».
Увага: ДПІА – це не форма, яка заповнюється один раз і відкладається. При обробці змін (нові дані, нова мета, новий інструмент) DPIA необхідно оновлювати. Непрацюючий DPIA вводить в оману більше, ніж відсутність DPIA взагалі, оскільки дає помилкову впевненість.
Хто займається DPIA та реєструє відносини з DPIA
Одна особа не може заповнити DPIA за своїм столом; Правильний DPIA – це командна робота. Як правило, уповноважений із захисту даних здійснює процес (Doer), менеджер із відповідності несе остаточну відповідальність (Accountable), відповідний бізнес-підрозділ описує обробку, оцінює технічні заходи ІТ/безпеки та підтверджує правову основу. Не слід нехтувати отриманням думок відповідних людей (третій крок); Однак цей крок найчастіше пропускають на практиці.
Результати DPIA не лежать у вакуумі: виявлені ризики реєструються в реєстрі ризиків організації. Реєстр ризиків — це оперативна діаграма, яка фіксує всі відкриті ризики, їхні пріоритети, пом’якшення, винуватців і дати останнього перегляду. Таким чином, ризики проекту ШІ говорять тією ж мовою, що й загальне управління ризиками організації, і регулярно контролюються.
Зона реєстру ризиків
приклад
Визначення ризику
Гендерні упередження при наймі ШІ
пріоритет
висока
Захід пом'якшення
Вилучення сурогатної змінної + тестування на зміщення
Відповідальний
Спеціаліст із захисту даних
огляд
кожні 3 місяці
Порада. Ставтеся до DPIA, орієнтуючись на «реєстрацію ризиків і відстеження», а не підхід «зробив і забув». Чи було впроваджено пом’якшення ризику, чи залишковий ризик на прийнятному рівні — без відстеження цього запису DPIA стає віконним документом.
Шаблони, які можна копіювати
ШАБЛОН 1 — Попередня перевірка DPIA: «Чи потрібна DPIA для цього використання штучного інтелекту? [опишіть використання]. Оцініть за п’ятьма тригерами: нова технологія, широкомасштабна обробка, систематичний моніторинг, конфіденційні дані, суттєве автоматизоване прийняття рішень. Скільки існує тригерів, чи рекомендуєте ви DPIA з обґрунтуванням».
ШАБЛОН 2 — Мозковий штурм щодо ідентифікації ризиків: «Перелічіть можливі збитки для людей у цьому проекті штучного інтелекту [опишіть проект]: витік даних, дискримінація, помилкова оцінка, вторгнення в конфіденційність, відсутність прозорості, дрейф мети. Напишіть сценарій одним реченням для кожної шкоди. Просто виявляйте, але не протидійте».
ШАБЛОН 3 — Оцінка ймовірності й впливу: «Оцініть наступні ризики [список ризиків] як ймовірність (низький/середній/високий) і вплив (низький/середній/високий); пріоритет (низький/середній/високий/критичний) відображається в кожному рядку. Перелік критичних і високих угорі. Представлення у форматі таблиці.»
ШАБЛОН 4 — План пом’якшення: «Для наступного ризику [напишіть ризик] запропонуйте принаймні 3 заходи пом’якшення (технічні, технологічні, організаційні). Оцініть рівень «залишкового ризику» після кожного заходу. Якщо ризик залишається високим після заходу, вкажіть, що проект слід переробити».
Слабка підказка / Сильна підказка
СЛАБКО: «Чи є цей проект штучного інтелекту ризикованим?» -> Модель дає розпливчасту відповідь «можливо»; не класифікує ризики, не встановлює пріоритетність ризиків, не створює заходів. СИЛЬНИЙ: «Проведіть міні DPIA для наступного проекту штучного інтелекту: (1) опишіть обробку, (2) оцініть потребу в DPIA за допомогою 5 тригерів, (3) перерахуйте 6 можливих збитків для людей, (4) оцініть кожну за ймовірністю впливу, (5) порекомендуйте пом’якшення для критичних/високих ризиків. Прийміть остаточне юридичне рішення; створіть проект який піде на юридичне схвалення."-> Модель створює чернетку структурованого, дієвого DPIA.
Поширені помилки
- Виконання DPIA після початку транзакції (або навіть після того, як виникла проблема).
- Пропуск високоризикової обробки, що вимагає DPIA, як «нічого страшного».
- Не перераховуючи ризики та впорядковуючи їх за ймовірністю та впливом.
- Вважаючи DPIA «завершеним» без визначення заходів для кожного ризику.
- Пропустити етап необхідності/пропорційності та сказати «ми можемо це зробити, тож давайте це зробимо».
- Заповнення DPIA один раз і не оновлювати його, коли процес змінюється.
- Затвердження проекту без чіткого документування залишкового (залишкового) ризику.
Підсумовуючи
- DPIA – це структурований аналіз, який оцінює вплив обробки з високим ризиком на окремих осіб до її початку.
- DPIA необхідний, якщо є нова технологія, широкомасштабна обробка, систематичний моніторинг, конфіденційні дані або значне автоматизоване прийняття рішень.
- Процес складається із семи кроків: ідентифікація, необхідність/пропорційність, думка зацікавлених сторін, ідентифікація ризику, оцінка, дія, затвердження/перегляд.
- Ризики встановлюються за пріоритетністю за допомогою матриці ймовірності-впливу; Критичні/високі ризики не приймаються без запобіжних заходів.
- DPIA не вбиває проект, він робить його безпечним; Це живий документ, який необхідно оновлювати в міру обробки змін.
Аплікаційне завдання
Виберіть спосіб використання штучного інтелекту, який може використовувати ваша організація, який може бути високим (наприклад, підтримка підбору персоналу, відстеження поведінки або кредитний рейтинг). Спочатку подумайте, чи потрібна DPIA з п’ятьма тригерами. Потім проведіть міні-DPIA для цього використання: опишіть обробку, перерахуйте принаймні шість можливих збитків для окремих осіб, оцініть кожну з них за матрицею ймовірності та впливу та призначте пріоритет. Розробіть три заходи пом’якшення для двох критичних і високих ризиків і оцініть рівень залишкового ризику після заходу. Нарешті, зауважте, коли цей DPIA потрібно буде оновити.
контрольний список
- [ ] Я оцінив вимогу DPIA за допомогою п’яти тригерів.
- [ ] Я визначив обробку (дані, мета, обсяг, потік).
- [ ] Я ставив під сумнів необхідність і пропорційність.
- [ ] Я перерахував можливу шкоду для окремих осіб.
- [ ] Я визначив пріоритетність ризиків у матриці ймовірності й впливу.
- [ ] Я розробив заходи пом’якшення критичних/високих ризиків.
- [ ] Тепер я задокументував ризик і встановив умови перевірки.