Прибыль:
- Признание четырех классов риска и запрещенных действий Закона ЕС об искусственном интеллекте
- Разумная оценка того, к какой категории риска относится использование
- Поймите, почему обязательства по искусственному интеллекту высокого риска и общего назначения влияют на турецкие компании.
Закон ЕС об искусственном интеллекте (EU AI Act), который вступает в силу в 2024 году, является первым в мире всеобъемлющим регулированием искусственного интеллекта, и его влияние распространяется далеко за пределы Европейского Союза. Этот закон может иметь прямую обязательную силу для компании, базирующейся в Турции, но обслуживающей рынок ЕС, имеющей клиентов из ЕС или продающей продукцию в ЕС. В этом модуле вы познакомитесь с основной логикой закона — его риск-ориентированным подходом — с его четырьмя классами, запрещенными действиями и обязательствами с высоким уровнем риска; Мы попытаемся оценить, в какую коробку попадает использование.
Основная идея: чем выше риск, тем жестче правило.
Закон ЕС об ИИ не объединяет все ИИ в одну кучу. Он делит систему искусственного интеллекта на четыре категории в зависимости от ее потенциального вреда и налагает разные обязательства на каждую категорию. Музыкальная рекомендация не несет такого же риска, как система проверки при приеме на работу; Закон не применяет к ним такое же правило. Этот подход, основанный на риске, является основой закона.
Класс риска
Значение
пример
правило
Запрещено (неприемлемо)
Открытая угроза фундаментальным правам
Социальный скоринг, манипулирование подсознанием
полный запрет
высокий риск
Это серьезно влияет на жизнь человека
Набор персонала, кредит, здравоохранение, образование, критическая инфраструктура
Строгая ответственность
ограниченный риск
Требует прозрачности
Чат-бот, дипфейк, AI-контент
Информация обязательна
минимальный риск
Незначительный риск
Спам-фильтр, игровой AI, механизм рекомендаций
бесплатно
Запрещенные приложения: красная линия.
Некоторые виды использования ИИ считаются настолько вредными, что их невозможно выпустить, независимо от того, насколько снижается риск. Они относятся к категории запрещенных (неприемлемых рисков):
- Социальный скоринг, поддерживаемый государством (оценка людей по их поведению/характеристикам и выставление их в невыгодном положении).
- Системы, манипулирующие подсознанием людей и причиняющие вред.
- Системы, использующие такие уязвимости, как возраст и инвалидность.
- Определенные приложения для биометрической идентификации в реальном времени и массового наблюдения (за узкими исключениями).
- Конкретные приложения, такие как распознавание эмоций на рабочем месте и в образовании.
Внимание: тот факт, что использование относится к категории «запрещено», не является препятствием, которое можно преодолеть, сказав: «У меня есть веская причина». Такая практика полностью запрещена; не могут быть высвобождены даже с помощью мер по снижению риска. Первая проверка, которую необходимо сделать, — включен ли проект в этот список.
Обязательства с высоким риском
Системы высокого риска не запрещены, но подчиняются строгим условиям. Типичные области высокого риска: подбор персонала и управление персоналом, кредитование и страхование, образование и экзаменационная оценка, здравоохранение, критически важная инфраструктура, правоохранительная деятельность и иммиграция. Типичные обязательства в этих системах:
- Создание и поддержание системы управления рисками.
- Качество данных и управление предвзятостью (репрезентативные и точные данные обучения).
- Техническая документация и ведение учета (отслеживаемость).
- Прозрачность и предоставление информации пользователю.
- Человеческий контроль (способность человека вмешиваться и подавлять).
- Точность, надежность и гарантии кибербезопасности.
Обязательства по ИИ общего назначения (GPAI)
Закон налагает конкретные обязательства по прозрачности и документированию для моделей ИИ общего назначения (GPAI), то есть многоцелевых базовых моделей, таких как модели большого языка, а также для индивидуального использования: предоставление сводок по обучающим данным, политика соблюдения авторских прав, дополнительная оценка для моделей с системным риском. Если организация встраивает эти модели в свой собственный продукт, некоторые из этих обязательств могут быть отражены в цепочке.
три мини-кейса
Случай 1. Проверка при приеме на работу (высокий риск). Компания-разработчик программного обеспечения в Измире разрабатывает платформу для подбора персонала, обслуживающую компании ЕС; Система автоматически оценивает и отсеивает кандидатов. Это область, которую закон явно считает высоким риском. Компания; должны соответствовать требованиям по качеству данных, тестированию на предвзятость, человеческому аудиту и документации. Аргумент «Мы находимся в Турции, нас это не связывает» недействителен; Поскольку система используется на рынке ЕС, применяется закон.
Случай 2 — Чат-бот для клиентов (ограниченный риск). Сайт электронной коммерции использует чат-бота, обслуживающего клиентов из ЕС. Это относится к категории ограниченного риска; Главное обязательство — прозрачность: пользователь должен быть четко проинформирован о том, что «вы разговариваете с искусственным интеллектом». Сокрытие этого является нарушением; Достаточно указать.
Случай 3 — Приближение к запрещенной линии. Розничная сеть хочет проанализировать эмоциональные реакции покупателей с помощью камер в магазине и дать им оценку «потенциальный магазинный вор». Это попадает в зону запрещенного/очень высокого риска как по распознаванию эмоций, так и по параметрам оценки. Юридическая команда останавливает проект на стадии проектирования; Понятно, что это невозможно реализовать даже при наличии мер по снижению риска.
Совет: первый вопрос при запуске нового проекта ИИ: «Насколько это полезно?» а скорее «к какому классу риска это относится?» должно быть. Выполнение классификации в первую очередь позволяет избежать траты ресурсов на проект, который позже будет отменен.
Копируемые шаблоны
ШАБЛОН 1 — Предварительная оценка класса риска: «Предварительно оцените следующее использование ИИ в соответствии с Законом ЕС об ИИ: [опишите использование]. Укажите, к какому классу риска (запрещенный / высокий / ограниченный / минимальный) он может относиться, с обоснованием. Отметьте моменты, в которых вы не уверены, как «требуется юридическое подтверждение»; не выносите окончательного юридического решения».
ШАБЛОН 2 — Сканирование запрещенных приложений: «Сканируйте следующую идею проекта только по списку запрещенных приложений Закона ЕС об искусственном интеллекте»: [опишите проект]. Существует ли риск с точки зрения социального скоринга, манипулирования подсознанием, эксплуатации уязвимостей, несанкционированного биометрического наблюдения, распознавания эмоций? Напишите «да/нет» и обоснование в каждом заголовке».
ШАБЛОН 3. Контрольный список ответственности за высокий риск: «Для этого использования ИИ с высоким риском [опишите использование] создается таблица «Какова наша текущая ситуация, чего не хватает» по шести заголовкам ответственности (управление рисками, качество данных, документация, прозрачность, человеческий аудит, надежность). В каждой строке предложите конкретные действия».
ШАБЛОН 4 — Уведомление о прозрачности (ограниченный риск): «Для чат-бота, обслуживающего пользователей из ЕС, напишите короткое уведомление «вы разговариваете с ИИ», которое будет отображаться пользователю. Простое, обнадеживающее, максимум 2 предложения. Включите возможность переключиться на агента-человека».
Слабая подсказка / Сильная подсказка
СЛАБАЯ: «Затрагивает ли нас Закон ЕС об искусственном интеллекте?» -> Модель дает общий ответ; Он не классифицирует ваше конкретное использование и не оценивает вашу связь с рынком ЕС. ГЮЧЛЮ: «Мы — компания, базирующаяся в Измире, мы продаем ИИ для подбора и проверки компании в Германии. Какой класс риска это использование подпадает под Закон ЕС об ИИ, какие обязательства ложатся на нас и почему пребывание в Турции не освобождает нас от ответственности? Отметьте, где вы не уверены». -> Модель создает контекстно-зависимую классификацию и список ответственности.
Распространенные ошибки
- Думая: «Мы находимся в Турции, законы ЕС нас не связывают»; Однако достаточно коснуться рынка ЕС.
- Классификация рисков после разработки проекта; Однако это следует сделать в первую очередь.
- Ошибочное принятие запрещенной практики за препятствие, которое можно преодолеть при наличии «веских оснований».
- Обход прозрачности отчетности в системах с ограниченным риском (придание боту вида человека).
- Пренебрежение человеческим аудитом и управлением предвзятостью в отношении обязательств с высоким риском.
- Не обращая внимания на то, что обязательства по искусственному интеллекту общего назначения (GPAI) могут отразиться на всей цепочке.
- Обменять Закон ЕС об искусственном интеллекте на KVKK; они разные, но дополняют друг друга.
В заключение
- Закон ЕС об ИИ использует подход, основанный на риске, и делит ИИ на четыре класса: запрещенный, высокий, ограниченный и минимальный.
- Запрещенные практики (социальный скоринг, манипуляция и т. д.) не могут быть отменены, даже если риск снижен.
- Системы высокого риска; На него распространяются строгие обязательства, такие как управление рисками, качество данных, человеческий контроль и документирование.
- В системах с ограниченным риском основным обязательством является прозрачность (сообщение о наличии ИИ).
- Закон также затрагивает турецкие компании, работающие на рынке ЕС; Классификацию следует проводить в самом начале проекта.
Задача приложения
Рассмотрим три различных варианта использования ИИ, которые ваша организация (или вымышленная компания) может использовать на рынке ЕС. Отнесите каждого из них к одному из четырех классов риска согласно Закону ЕС об искусственном интеллекте и напишите свое обоснование. Поместите шесть обязательств с высоким уровнем риска для использования, которое вы считаете наиболее рискованным, в контрольную карту: заполните столбцы «текущий статус» и «незавершено/действие». Напишите заявление о прозрачности, которое будет отображаться пользователю для использования, подпадающего под категорию ограниченного риска. Наконец, если какое-либо из ваших применений приближается к запретной черте, отметьте это и почему.
контрольный список
- [ ] Я отнес каждое использование ИИ к одному из четырех классов риска.
- [ ] Я просканировал свои проекты на наличие списка запрещенных приложений.
- [ ] Я создал диаграмму контроля ответственности за использование с высоким риском.
- [ ] Я включил в свои обязательства человеческий аудит и управление предвзятостью.
- [ ] Я подготовил заявление о прозрачности использования с ограниченным риском.
- [ ] Я понимаю, почему мои связи с рынком ЕС привели к принятию закона.
- [ ] Я провел классификацию рисков в начале проекта, а не в конце.