Печалби:
- Признаване на четирите рискови класа и забранени практики в Закона за ИИ на ЕС
- Разумна оценка на това в коя рискова категория попада дадена употреба
- Разберете защо пасивите с висок риск и AI с общо предназначение оказват влияние върху турските компании
Законът на ЕС за изкуствения интелект (EU AI Act), който влиза в сила през 2024 г., е първият в света цялостен регламент за ИИ и неговото въздействие се простира далеч отвъд границите на Европейския съюз. Този закон може да бъде пряко обвързващ за компания, базирана в Турция, но обслужваща пазара на ЕС, имаща клиенти от ЕС или продаваща продукти в ЕС. В този модул ще научите основната логика на закона — неговия подход, основан на риска — с неговите четири класа, забранени практики и високорискови задължения; Ще се опитаме да преценим в кое поле попада дадена употреба.
Основна идея: колкото по-висок е рискът, толкова по-строго е правилото
Законът за ИИ на ЕС не събира всички ИИ заедно. Той разделя системата с изкуствен интелект на четири категории според потенциалната й вреда и налага различни задължения на всяка категория. Препоръката за музика не носи същия риск като системата за скрининг при наемане на работа; Законът не прилага същото правило за тях. Този основан на риска подход е гръбнакът на закона.
Клас на риск
Значение
пример
правило
Забранено (неприемливо)
Открита заплаха за основните права
Социално оценяване, подсъзнателна манипулация
пълна забрана
висок риск
Това сериозно засяга човешкия живот
Набиране на персонал, кредитиране, здравеопазване, образование, критична инфраструктура
Строга отговорност
ограничен риск
Изисква прозрачност
Чат бот, deepfake, AI съдържание
Информацията е задължителна
минимален риск
Незначителен риск
Филтър за нежелана поща, AI за игри, двигател за препоръки
безплатно
Забранени приложения: червена линия
Някои употреби на AI се считат за толкова вредни, че не могат да бъдат освободени, независимо колко рискът е намален. Те са в забранената (неприемлив риск) категория:
- Поддържано от държавата социално оценяване (оценяване на хората според тяхното поведение/характеристики и поставянето им в неравностойно положение).
- Системи, които манипулират подсъзнанието на хората и причиняват вреда.
- Системи, които използват уязвимости като възраст и увреждане.
- Някои приложения за биометрична идентификация в реално време и масово наблюдение (с малки изключения).
- Специфични приложения като разпознаване на емоции на работното място и в образованието.
Внимание: Фактът, че дадена употреба е в категорията „забранено“, не е пречка, която може да бъде преодоляна с думите „Имам основателна причина“. Тези практики са напълно забранени; не може да бъде освободен дори с мерки за намаляване на риска. Първата проверка, която трябва да се направи, е дали проектът е включен в този списък.
Високорискови пасиви
Системите с висок риск не са забранени, но са предмет на строги условия. Типични високорискови области: набиране и управление на служители, кредитиране и застраховане, оценка на образованието и изпитите, здравеопазване, критична инфраструктура, правоприлагане и имиграция. Типични задължения в тези системи:
- Създаване и поддържане на система за управление на риска.
- Управление на качеството на данните и отклоненията (представителни и точни данни за обучението).
- Техническа документация и водене на записи (проследимост).
- Прозрачност и предоставяне на информация на потребителя.
- Човешки контрол (човешка способност за намеса и преодоляване).
- Точност, надеждност и гаранции за киберсигурност.
Задължения за ИИ с общо предназначение (GPAI).
Законът налага специфични задължения за прозрачност и документиране на AI модели с общо предназначение (GPAI) — т.е. многофункционални базови модели като големи езикови модели — както и на индивидуални употреби: предоставяне на резюмета на данни за обучение, политика за спазване на авторските права, допълнителна оценка за модели със системен риск. Ако една организация вгради тези модели в собствения си продукт, някои от тези задължения може да бъдат отразени във веригата.
три мини калъфа
Случай 1 — Проверка при набиране на персонал (висок риск). Софтуерна компания в Измир разработва платформа за набиране на персонал, обслужваща компании от ЕС; Системата автоматично оценява и елиминира кандидатите. Това е област, която законът ясно определя като високорискова. фирма; трябва да отговаря на задълженията за качество на данните, тестване на отклонения, човешки одит и документиране. Аргументът „В Турция сме, не ни обвързва“ е невалиден; Тъй като системата се използва на пазара на ЕС, се прилага законът.
Случай 2 — Клиентски чатбот (ограничен риск). Сайт за електронна търговия разполага с чатбот, обслужващ своите клиенти от ЕС. Това е в категорията с ограничен риск; Основното задължение е прозрачността: потребителят трябва да бъде ясно информиран, че „разговаряте с изкуствен интелект“. Скриването на това е нарушение; Достатъчно е да се уточни.
Случай 3 — Приближаване до забранената линия. Търговска верига иска да анализира емоционалните реакции на клиентите чрез камерите на магазина и да даде резултат за „потенциален крадец в магазина“. Това попада в зоната на забранения/много висок риск както с разпознаването на емоциите, така и с измеренията на точкуването. Юридическият екип спира проекта на етап проектиране; Ясно е, че той не може да бъде изпълнен дори с мерки за намаляване на риска.
Съвет: Първият въпрос при започване на нов AI проект е „колко полезно е това?“ а по-скоро "към какъв рисков клас попада това?" трябва да бъде. Извършването на класификацията на първо място избягва загубата на ресурси за проект, който ще бъде отменен по-късно.
Копируеми шаблони
ШАБЛОН 1 — Предварителна оценка на клас на риск: „Предварително оценете следната употреба на ИИ съгласно Закона за ИИ на ЕС: [опишете употребата]. Посочете в кой клас на риск (забранен/висок/ограничен/минимален) може да попадне с обосновка. Маркирайте точките, в които не сте сигурни като „изисква се правно потвърждение“; не правете окончателна правна преценка.“
ШАБЛОН 2 — Забранено сканиране на приложения: „Сканирайте следната идея за проект само спрямо списъка „Забранени приложения на Закона за изкуствен интелект на ЕС“: [опишете проекта]. Има ли риск по отношение на социално оценяване, подсъзнателна манипулация, използване на уязвимости, неразрешено биометрично наблюдение, разпознаване на емоции? Напишете да/не и обосновка във всяко заглавие.“
ШАБЛОН 3 — Контролен списък за високорискова отговорност: „За тази високорискова употреба на ИИ [опишете употребата] създава таблица „каква е текущата ни ситуация, какво липсва“ в шест заглавия на отговорността (управление на риска, качество на данните, документация, прозрачност, човешки одит, устойчивост). Предложете конкретно действие във всеки ред.“
ШАБЛОН 4 — Известие за прозрачност (ограничен риск): „За чатбот, обслужващ потребители в ЕС, напишете кратко известие „разговаряте с AI“, което да се покаже на потребителя. Просто, успокояващо, максимум 2 изречения. Включете опцията за превключване към човешки агент.“
Слаба подкана / Силна подкана
СЛАБ: „Законът за ИИ на ЕС засяга ли ни?“-> Моделът дава общ отговор; Не класифицира вашата конкретна употреба, не оценява връзката ви с пазара на ЕС. GÜÇLÜ: „Ние сме компания, базирана в Измир, продаваме ИИ за набиране и скрининг на компания в Германия. Какъв клас на риск попада тази употреба в Закона за ИИ на ЕС, какви задължения падаме върху нас и защо това, че сме в Турция, не ни освобождава? Маркирайте, където не сте сигурни.“ -> Моделът създава специфична за контекста класификация и списък с задължения.
Често срещани грешки
- Мислейки „Ние сме в Турция, правото на ЕС не ни обвързва“; Но докосването до пазара на ЕС е достатъчно.
- Изготвяне на класификация на риска след разработване на проекта; Това обаче трябва да се направи на първо място.
- Възприемане на забранена практика като пречка, която може да бъде преодоляна с „добра обосновка“.
- Заобикаляне на докладването за прозрачност в системи с ограничен риск (като ботът изглежда като човек).
- Пренебрегване на човешкия одит и управление на пристрастия от високорискови задължения.
- Пренебрегвайки, че задълженията за ИИ с общо предназначение (GPAI) могат да отекнат надолу по веригата.
- Размяна на Закона за изкуствения интелект на ЕС с KVKK; те са различни, но се допълват.
В обобщение
- Законът за ИИ на ЕС възприема подход, основан на риска, и разделя ИИ на четири класа: забранен, висок, ограничен, минимален.
- Забранените практики (социално оценяване, манипулация и т.н.) не могат да бъдат освободени дори ако рискът е намален.
- Системи с висок риск; Той подлежи на строги задължения като управление на риска, качество на данните, човешки контрол и документация.
- В системите с ограничен риск основното задължение е прозрачността (отчитане, че има AI).
- Турските компании, които докосват пазара на ЕС, също са засегнати от закона; Класификацията трябва да се извърши в самото начало на проекта.
Задача за приложение
Помислете за три различни приложения на AI, които вашата организация (или фиктивна компания) може да използва във връзка с пазара на ЕС. Поставете всеки в един от четирите рискови класа на Закона за ИИ на ЕС и напишете своята обосновка. Поставете шестте високорискови задължения за употребата, която смятате за най-рискова в контролна диаграма: попълнете колоните „текущо състояние“ и „незавършено/действие“. Напишете декларация за прозрачност, която ще се показва на потребителя за употреба, която попада в категорията с ограничен риск. И накрая, ако някоя от вашите употреби се доближава до забранената линия, отбележете това и защо.
контролен списък
- [ ] Поставих всяка употреба на AI в един от четирите рискови класа.
- [ ] Сканирах проектите си спрямо списъка със забранени приложения.
- [ ] Създадох диаграма за контрол на задълженията за използване с висок риск.
- [ ] Включих човешки одит и управление на пристрастия в задълженията.
- [ ] Подготвих декларация за прозрачност за употреба с ограничен риск.
- [ ] Разбирам защо връзката ми с пазара в ЕС задейства закона.
- [ ] Направих класификацията на риска в началото на проекта, а не в края.