Добивки:
- Препознавајќи ги четирите класи на ризик и забранетите практики на Законот за вештачка интелигенција на ЕУ
- Разумна проценка за тоа во која категорија на ризик спаѓа употребата
- Разберете зошто високиот ризик и обврските за вештачка интелигенција за општа намена влијаат на турските компании
Законот за вештачка интелигенција на ЕУ (Закон за вештачка интелигенција на ЕУ), кој стапува на сила во 2024 година, е првата сеопфатна регулатива за вештачка интелигенција во светот и нејзиното влијание се протега многу подалеку од границите на Европската унија. Овој закон може да биде директно обврзувачки за компанија со седиште во Турција, но служи на пазарот на ЕУ, има клиенти од ЕУ или продава производи во ЕУ. Во оваа единица, ќе ја научите основната логика на законот - неговиот пристап заснован на ризик - со неговите четири класи, забранети практики и обврски со висок ризик; Ќе се обидеме да оцениме во кое поле спаѓа употребата.
Основна идеја: колку е поголем ризикот, толку е построго правилото
Законот на ЕУ за вештачка интелигенција не ја собира целата вештачка интелигенција заедно. Тој го дели системот за вештачка интелигенција во четири категории според неговата потенцијална штета и наметнува различни обврски за секоја категорија. Музичката препорака не го носи истиот ризик како и системот за скрининг за вработување; За нив законот не го применува истото правило. Овој пристап заснован на ризик е столбот на законот.
Класа на ризик
Значење
пример
правило
Забрането (неприфатливо)
Отворена закана за основните права
Социјално бодување, потсвесна манипулација
целосна забрана
висок ризик
Тоа сериозно влијае на човечкиот живот
Регрутирање, кредит, здравство, образование, критична инфраструктура
Строга одговорност
ограничен ризик
Потребна е транспарентност
Бот за разговор, длабока фејк, содржина со вештачка интелигенција
Информациите се задолжителни
минимален ризик
Незначителен ризик
Филтер за спам, вештачка интелигенција на игри, мотор за препораки
бесплатно
Забранети апликации: црвена линија
Некои употреби на вештачката интелигенција се сметаат за толку штетни што не можат да се ослободат без разлика колку ризикот е намален. Овие се во категоријата забранет (неприфатлив ризик):
- Социјално бодување поддржано од државата (бодување на луѓето според нивното однесување/карактеристики и нивно обесправување).
- Системи кои манипулираат со потсвеста на луѓето и предизвикуваат штета.
- Системи кои ги искористуваат ранливостите како што се возраста и попреченоста.
- Одредени апликации за биометриска идентификација и масовен надзор во реално време (со тесни исклучоци).
- Специфични апликации како што се препознавање емоции на работното место и образование.
Внимание: Фактот дека употребата е во категоријата „забранета“ не е пречка што може да се надмине со кажување „Имам добра причина“. Овие практики се целосно забранети; не може да се ослободи дури и со мерки за намалување на ризикот. Првата проверка што треба да се направи е дали проектот е вклучен во оваа листа.
Обврски со висок ризик
Системите со висок ризик не се забранети, но подлежат на строги услови. Типични области со висок ризик: регрутирање и управување со вработени, кредити и осигурување, образование и проценка на испити, здравство, критична инфраструктура, спроведување на законот и имиграција. Типични обврски во овие системи:
- Воспоставување и одржување на систем за управување со ризик.
- Квалитет на податоците и управување со пристрасност (репрезентативно и точно на податоците за обуката).
- Техничка документација и водење евиденција (следливост).
- Транспарентност и обезбедување информации на корисникот.
- Човечка контрола (човечка способност да интервенира и прескокнува).
- Гаранции за точност, робусност и сајбер-безбедност.
Обврски за општа намена AI (GPAI).
Законот наметнува специфични обврски за транспарентност и документација на моделите со вештачка интелигенција за општа намена (GPAI) — односно, основните модели со повеќе намени, како што се големите јазични модели — како и за индивидуални употреби: обезбедување резимеа за податоците за обуката, политика за усогласеност со авторските права, дополнителна проценка за модели со системски ризик. Ако организацијата ги вгради овие модели во својот производ, некои од овие обврски може да се рефлектираат во синџирот.
три мини футроли
Случај 1 - Скрининг за регрутирање (висок ризик). Софтверска компанија во Измир развива платформа за регрутирање која им служи на компаниите од ЕУ; Системот автоматски ги бодува и елиминира кандидатите. Ова е област која законот јасно ја смета за висок ризик. Компанија; мора да ги исполнува обврските за квалитетот на податоците, тестирањето на пристрасност, човечката ревизија и документацијата. Аргументот „Ние сме во Турција, тоа не не обврзува“ е неважечки; Бидејќи системот се користи на пазарот на ЕУ, се применува законот.
Случај 2 - четбот за клиенти (ограничен ризик). Веб-страница за е-трговија распоредува чет-бот кој им служи на своите клиенти од ЕУ. Ова е во категоријата со ограничен ризик; Главната обврска е транспарентноста: корисникот мора јасно да биде информиран дека „разговарате со вештачка интелигенција“. Криењето на ова е прекршување; Доволно е да се прецизира.
Случај 3 - Приближување до забранетата линија. Малопродажен синџир сака да ги анализира емоционалните реакции на клиентите преку камерите на продавниците и да даде оценка за „потенцијален крадец“. Ова спаѓа во забранетата/многу ризичната област со димензии за препознавање емоции и за бодување. Правниот тим го запира проектот во фазата на дизајнирање; Јасно е дека тоа не може да се спроведе ниту со мерки за намалување на ризикот.
Совет: Првото прашање кога започнувате нов проект за вештачка интелигенција е „колку е корисно ова?“ туку „во која класа на ризик спаѓа ова? треба да биде. Правејќи ја класификацијата на прво место, се избегнува губење ресурси на проект што подоцна ќе биде откажан.
Шаблони за копирање
шаблон 1 — Прелиминарна проценка на класата на ризик: „Претходно проценете ја следнава употреба на вештачка интелигенција според Законот за вештачка интелигенција на ЕУ: [опишете ја употребата]. Наведете во која класа на ризик (забранета / висока / ограничена / минимална) може да спаѓа, со оправдување. Означете ги точките во кои не сте сигурни како „потребна правна потврда“; не донесувајте конечна правна пресуда“.
шаблон 2 — Забрането скенирање на апликацијата: „Скенирајте ја следната проектна идеја само според списокот „забранети апликации од Законот за вештачка интелигенција на ЕУ“: [опишете го проектот]. Дали постои ризик во смисла на социјално бодување, потсвесна манипулација, искористување на ранливоста, неовластен биометриски надзор, препознавање на емоции и оправдување на секоја глава?
шаблон 3 — Список за проверка на одговорност со висок ризик: „За оваа употреба на вештачка интелигенција со висок ризик, [опишете ја употребата] создава табела „каква е нашата моментална ситуација, што недостасува“ во шест наслови на обврски (управување со ризик, квалитет на податоци, документација, транспарентност, човечка ревизија, робусност). Предложете конкретна акција во секој ред“.
шаблон 4 — Известување за транспарентност (ограничен ризик): „За чет-бот што им служи на корисниците на ЕУ, напишете кратко известување „разговарате со вештачка интелигенција“ за да му се прикаже на корисникот. Едноставно, смирувачко, најмногу 2 реченици. Вклучете ја опцијата за префрлување на човечки агент“.
Слаб промпт / Силен промпт
СЛАБ: „Дали нè засега Законот за вештачка интелигенција на ЕУ?“-> Моделот дава општ одговор; Не ја класифицира вашата конкретна употреба, не ја оценува вашата поврзаност со пазарот на ЕУ. ГУЧЛУ: „Ние сме компанија со седиште во Измир, продаваме регрутирање и проверка на вештачката интелигенција на компанија во Германија. Каква класа на ризик спаѓа оваа употреба под Законот на ЕУ за вештачка интелигенција, какви обврски спаѓаат на нас и зошто престојот во Турција не нè ослободува? Означете каде не сте сигурни“. -> Моделот произведува класификација и листа на обврски специфична за контекстот.
Вообичаени грешки
- Мислејќи „Во Турција сме, правото на ЕУ не обврзува“; Сепак, допирање на пазарот на ЕУ е доволно.
- Изработка на класификација на ризик по развојот на проектот; Сепак, тоа треба да се направи на прво место.
- Заблуда на забранетата практика како пречка што може да се надмине со „добро оправдување“.
- Заобиколувајќи го известувањето за транспарентност во системите со ограничен ризик (со што ботот изгледа како човек).
- Занемарување на човечката ревизија и управувањето со пристрасност од обврските со висок ризик.
- Имајќи предвид дека обврските за вештачка интелигенција за општа намена (GPAI) може да одекнуваат низ синџирот.
- Заменете го Законот за вештачка интелигенција на ЕУ со KVKK; тие се различни, но комплементарни.
Сумирано
- Законот на ЕУ за вештачка интелигенција зема пристап заснован на ризик и ја дели вештачката интелигенција во четири класи: забранета, висока, ограничена, минимална.
- Забранетите практики (социјално бодување, манипулација, итн.) не можат да се ослободат дури и ако ризикот е намален.
- Системи со висок ризик; Подлежи на строги обврски како што се управување со ризик, квалитет на податоци, човечка контрола и документација.
- Во системите со ограничен ризик, главната обврска е транспарентноста (пријавување дека постои вештачка интелигенција).
- Турските компании кои го допираат пазарот на ЕУ се исто така погодени од законот; Класификацијата треба да се направи на самиот почеток на проектот.
Задача за апликација
Размислете за три различни употреби на вештачката интелигенција што вашата организација (или фиктивна компанија) може да ги користи во однос на пазарот на ЕУ. Ставете го секој во една од четирите класи на ризик од Законот за вештачка интелигенција на ЕУ и напишете го вашето оправдување. Ставете ги шесте обврски со висок ризик за употребата што ја сметате за најголем ризик во контролниот графикон: пополнете ги колоните „тековен статус“ и „нецелосни/дејствија“. Напишете изјава за транспарентност што ќе биде прикажана на корисникот за употреба што спаѓа во категоријата со ограничен ризик. Конечно, ако некоја од вашите употреби се приближува до забранетата линија, забележете го тоа и зошто.
листа за проверка
- [ ] Секоја употреба на ВИ ја сместив во една од четирите класи на ризик.
- [ ] Ги скенирав моите проекти според списокот на забранети апликации.
- [ ] Создадов табела за контрола на обврските за користење со висок ризик.
- [ ] Во обврските вклучив човечка ревизија и управување со пристрасност.
- [ ] Подготвив изјава за транспарентност за употреба со ограничен ризик.
- [ ] Разбирам зошто мојата врска со пазарот во ЕУ го активира законот.
- [ ] Класификацијата на ризик ја направив на почетокот на проектот, а не на крајот.