Прибуток:
- Визнання чотирьох класів ризику та заборонених практик Закону ЄС про штучний інтелект
- Розумна оцінка того, до якої категорії ризику відноситься використання
- Зрозумійте, чому зобов’язання щодо високого ризику та загального призначення ШІ впливають на турецькі компанії
Закон ЄС про штучний інтелект (Закон ЄС про штучний інтелект), який набуває чинності в 2024 році, є першим у світі комплексним регулюванням ШІ, і його вплив поширюється далеко за межі Європейського Союзу. Цей закон може мати пряму силу для компанії, що базується в Туреччині, але обслуговує ринок ЄС, має клієнтів із ЄС або продає продукцію в ЄС. У цьому розділі ви дізнаєтеся про основну логіку закону — його підхід, що ґрунтується на оцінці ризику — з його чотирма класами, забороненими практиками та зобов’язаннями з високим ризиком; Ми спробуємо оцінити, до якого поля потрапляє використання.
Основна ідея: чим вищий ризик, тим жорсткіше правило
Закон ЄС про штучний інтелект не об’єднує всі штучні інтелекти разом. Він поділяє систему штучного інтелекту на чотири категорії відповідно до її потенційної шкоди та накладає різні зобов’язання на кожну категорію. Рекомендація щодо музики не несе такого ж ризику, як система перевірки найму; Закон не застосовує до них таке ж правило. Цей підхід, що ґрунтується на оцінці ризику, є основою закону.
Клас ризику
Значення
приклад
правило
Заборонено (неприпустимо)
Відкрита загроза фундаментальним правам
Соціальний скоринг, підсвідоме маніпулювання
повна заборона
високий ризик
Це серйозно впливає на життя людини
Наймання персоналу, кредитування, охорона здоров’я, освіта, критична інфраструктура
Сувора відповідальність
обмежений ризик
Вимагає прозорості
Чат-бот, deepfake, вміст AI
Інформація обов'язкова
мінімальний ризик
Незначний ризик
Фільтр спаму, штучний інтелект гри, система рекомендацій
безкоштовно
Заборонені програми: червона лінія
Деякі способи використання штучного інтелекту вважаються настільки шкідливими, що їх неможливо випустити, незалежно від того, наскільки зменшується ризик. Вони входять до категорії заборонених (неприйнятного ризику):
- Соціальне оцінювання за державною підтримкою (оцінка людей за їхньою поведінкою/характеристиками та їх невигідне становище).
- Системи, які маніпулюють підсвідомістю людей і завдають шкоди.
- Системи, які використовують вразливі місця, такі як вік і інвалідність.
- Певні програми біометричної ідентифікації в реальному часі та масового спостереження (за невеликими винятками).
- Спеціальні програми, такі як розпізнавання емоцій на робочому місці та в освіті.
Увага: той факт, що використання відноситься до категорії «заборонено», не є перешкодою, яку можна подолати, сказавши «У мене є вагома причина». Ці практики повністю заборонені; не можуть бути вивільнені навіть із заходами щодо зменшення ризику. Перш за все перевірте, чи включено проект до цього списку.
Пасиви з високим ризиком
Системи високого ризику не заборонені, але підпадають під суворі умови. Типові сфери високого ризику: набір персоналу та управління персоналом, кредитування та страхування, освіта та оцінювання іспитів, охорона здоров’я, критична інфраструктура, правоохоронні органи та імміграція. Типові зобов'язання в цих системах:
- Створення та підтримка системи управління ризиками.
- Якість даних і управління упередженням (репрезентативність і точність даних навчання).
- Технічна документація та ведення обліку (простежуваність).
- Прозорість та надання інформації користувачу.
- Людський контроль (здатність людини втручатися та перекривати).
- Точність, надійність і гарантії кібербезпеки.
Зобов'язання загального призначення AI (GPAI).
Закон накладає певні зобов’язання щодо прозорості та документування щодо моделей штучного інтелекту загального призначення (GPAI), тобто багатоцільових базових моделей, таких як великі мовні моделі, а також щодо окремих видів використання: надання підсумків щодо навчальних даних, політика дотримання авторських прав, додаткова оцінка для моделей із системним ризиком. Якщо організація вбудовує ці моделі у свій власний продукт, деякі з цих зобов’язань можуть бути відображені в ланцюжку.
три міні-чохла
Випадок 1 — Відбір під час найму (високий ризик). Компанія з програмного забезпечення в Ізмірі розробляє платформу найму для компаній ЄС; Система автоматично виставляє бали та відсіює кандидатів. Це сфера, яку закон однозначно вважає високою небезпекою. компанія; повинні відповідати вимогам щодо якості даних, перевірки упередженості, аудиту персоналу та документації. Аргумент «Ми в Туреччині, це нас не зобов'язує» недійсний; Оскільки система використовується на ринку ЄС, застосовується закон.
Випадок 2 — Чат-бот клієнта (обмежений ризик). Сайт електронної комерції розгортає чат-бота, який обслуговує своїх клієнтів із ЄС. Це відноситься до категорії обмеженого ризику; Основний обов’язок – прозорість: користувач повинен бути чітко проінформований, що «ви розмовляєте зі штучним інтелектом». Приховування цього є порушенням; Досить уточнити.
Випадок 3 — Наближення до забороненої лінії. Мережа роздрібної торгівлі хоче проаналізувати емоційну реакцію покупців за допомогою камер магазину та дати оцінку «потенційному крадію». Це відноситься до зони забороненого/дуже високого ризику як щодо розпізнавання емоцій, так і для оцінювання. Команда юристів зупиняє проект на етапі проектування; Зрозуміло, що це неможливо реалізувати навіть із заходами щодо зменшення ризику.
Порада: перше запитання, коли ви починаєте новий проект AI: «Наскільки це корисно?» а скоріше "до якого класу ризику це відноситься?" має бути. Виконання класифікації в першу чергу дозволяє уникнути марнування ресурсів на проект, який буде скасовано пізніше.
Шаблони, які можна копіювати
ШАБЛОН 1 — Попередня оцінка класу ризику: «Попередньо оцініть наступне використання штучного інтелекту відповідно до законодавства ЄС щодо штучного інтелекту: [опишіть використання]. Вкажіть, до якого класу ризику (заборонений/високий/обмежений/мінімальний) він може належати з обґрунтуванням. Позначте пункти, у яких ви не впевнені, як «потрібне юридичне підтвердження»; не виносьте остаточного юридичного рішення».
ШАБЛОН 2 — Заборонене сканування додатків: «Проскануйте наступну ідею проекту лише зі списком «Закону про штучний інтелект ЄС, заборонених додатків»: [опишіть проект]. Чи існує ризик із точки зору соціальних оцінок, підсвідомих маніпуляцій, використання вразливості, несанкціонованого біометричного спостереження, розпізнавання емоцій? Напишіть так/ні та обґрунтуйте в кожному заголовку».
ШАБЛОН 3 — Контрольний список відповідальності з високим ризиком: «Для цього високоризикового використання ШІ [описати використання] створює таблицю «яка наша поточна ситуація, чого не вистачає» за шістьма заголовками відповідальності (управління ризиками, якість даних, документація, прозорість, людський аудит, надійність). Запропонуйте конкретну дію в кожному рядку».
ШАБЛОН 4 — Сповіщення про прозорість (обмежений ризик): «Для чат-бота, який обслуговує користувачів із ЄС, напишіть коротке сповіщення «ви розмовляєте зі штучним інтелектом», яке відображатиметься користувачеві. Просте, обнадійливе, максимум 2 речення. Включіть опцію перемикання на агента-людина».
Слабка підказка / Сильна підказка
СЛАБКО: «Чи стосується нас Закон ЄС щодо штучного інтелекту?»-> Модель дає загальну відповідь; Він не класифікує ваше конкретне використання, він не оцінює ваш зв’язок із ринком ЄС. GÜÇLÜ: «Ми є компанією, що базується в Ізмірі, ми продаємо AI для набору та перевірки компанії в Німеччині. Який клас ризику це використання підпадає під Закон ЄС про AI, які зобов’язання ми покладаємо на нас і чому перебування в Туреччині не звільняє нас? Позначте, де ви не впевнені». -> Модель створює класифікацію залежно від контексту та список відповідальності.
Поширені помилки
- Думаючи: «Ми в Туреччині, закон ЄС нас не зобов’язує»; Проте достатньо торкнутися ринку ЄС.
- Створення класифікації ризиків після розробки проекту; Однак це слід зробити в першу чергу.
- Помилкове сприйняття забороненої практики як перешкоди, яку можна подолати за допомогою «належного обґрунтування».
- Обхід прозорих звітів у системах з обмеженим ризиком (перетворення бота на людину).
- Нехтування людським аудитом і управлінням упередженням зобов’язань із високим ризиком.
- Не звертаючи уваги на те, що зобов’язання ШІ загального призначення (GPAI) можуть відбитися вниз по ланцюжку.
- Замінити Закон ЄС про AI на KVKK; вони різні, але доповнюють один одного.
Підсумовуючи
- Закон ЄС про штучний інтелект використовує підхід, що ґрунтується на ризиках, і поділяє штучний інтелект на чотири класи: заборонений, високий, обмежений, мінімальний.
- Заборонені практики (соціальна оцінка, маніпуляції тощо) не можуть бути звільнені, навіть якщо ризик зменшено.
- Системи високого ризику; Він підпадає під суворі зобов’язання, такі як управління ризиками, якість даних, людський контроль і документація.
- У системах обмеженого ризику основним обов’язком є прозорість (повідомлення про наявність ШІ).
- Турецькі компанії, які торкаються ринку ЄС, також зачіпають закон; Класифікацію слід проводити на самому початку проекту.
Аплікаційне завдання
Розгляньте три різні способи використання штучного інтелекту, які ваша організація (або фіктивна компанія) може використовувати на ринку ЄС. Віднесіть кожен до одного з чотирьох класів ризику Закону ЄС про штучний інтелект та напишіть своє обґрунтування. Помістіть у контрольну таблицю шість зобов’язань із високим ризиком для використання, яке, на вашу думку, є найризиковішим: заповніть стовпці «поточний статус» і «невиконано/дія». Напишіть заяву про прозорість, яка відображатиметься користувачеві для використання, що належить до категорії обмеженого ризику. Нарешті, якщо будь-яке з ваших застосувань наближається до забороненої лінії, запам’ятайте це та чому.
контрольний список
- [] Я відніс кожне використання ШІ до одного з чотирьох класів ризику.
- [ ] Я перевірив свої проекти на список заборонених програм.
- [ ] Я створив таблицю контролю відповідальності для використання з високим ризиком.
- [ ] Я включив у свої зобов’язання людський аудит і управління упередженнями.
- [ ] Я підготував заяву про прозорість для використання з обмеженим ризиком.
- [ ] Я розумію, чому мій зв’язок із ринком ЄС спричинив закон.
- [ ] Я зробив класифікацію ризиків на початку проекту, а не в кінці.