Добици:
- Препознавање четири класе ризика и забрањених пракси ЕУ закона о вештачкој интелигенцији
- Разумна процена у коју категорију ризика спада употреба
- Схватите зашто обавезе високог ризика и АИ опште намене утичу на турске компаније
Закон ЕУ о вештачкој интелигенцији (ЕУ АИ Ацт), који ступа на снагу 2024. године, прва је светска свеобухватна регулатива о вештачкој интелигенцији и њен утицај се протеже далеко изван граница Европске уније. Овај закон може бити директно обавезујући за компанију са седиштем у Турској, али која опслужује тржиште ЕУ, има купце из ЕУ или продаје производе у ЕУ. У овој јединици ћете научити основну логику закона — његов приступ заснован на ризику — са четири класе, забрањеним поступцима и високоризичним обавезама; Покушаћемо да проценимо у коју кутију спада употреба.
Основна идеја: што је већи ризик, то је правило строже
Закон ЕУ о вештачкој интелигенцији не обједињује сву вештачку интелигенцију. Он дели систем вештачке интелигенције у четири категорије према његовој потенцијалној штети и намеће различите обавезе свакој категорији. Музичка препорука не носи исти ризик као систем скрининга запошљавања; На њих закон не примењује исто правило. Овај приступ заснован на ризику је окосница закона.
Класа ризика
Значење
пример
владати
Забрањено (неприхватљиво)
Отворена претња основним правима
Друштвено бодовање, подсвесна манипулација
тотална забрана
висок ризик
То озбиљно утиче на људски живот
Запошљавање, кредит, здравство, образовање, критична инфраструктура
Строга одговорност
ограничен ризик
Захтева транспарентност
Цхат бот, деепфаке, АИ садржај
Информације су обавезне
минимални ризик
Безначајан ризик
Филтер за нежељену пошту, АИ игре, механизам за препоруке
бесплатно
Забрањене апликације: црвена линија
Сматра се да су неке употребе АИ толико штетне да се не могу ослободити без обзира на то колико је ризик смањен. Ово су у категорији забрањених (неприхватљивих ризика):
- Социјално бодовање које подржава држава (бодовање људи према њиховом понашању/карактеристикама и њихово постављање у неповољнији положај).
- Системи који манипулишу подсвести људи и наносе штету.
- Системи који искоришћавају рањивости као што су старост и инвалидитет.
- Одређене апликације за биометријску идентификацију у реалном времену и масовни надзор (са малим изузецима).
- Специфичне примене као што је препознавање емоција на радном месту и образовању.
Пажња: Чињеница да је употреба у категорији „забрањена“ није препрека која се може превазићи речима „имам добар разлог“. Ове праксе су потпуно забрањене; не може се ослободити чак ни уз мере за смањење ризика. Прва провера коју треба извршити јесте да ли је пројекат укључен у ову листу.
Обавезе високог ризика
Системи високог ризика нису забрањени, али подлежу строгим условима. Типичне области високог ризика: запошљавање и управљање запосленима, кредити и осигурање, образовање и процена испита, здравствена заштита, критична инфраструктура, спровођење закона и имиграција. Типичне обавезе у овим системима:
- Успостављање и одржавање система управљања ризицима.
- Квалитет података и управљање пристрасношћу (репрезентативни и тачни подаци о обуци).
- Техничка документација и вођење евиденције (следљивост).
- Транспарентност и пружање информација кориснику.
- Људска контрола (људска способност да интервенише и превазиђе).
- Тачност, робусност и сајбер сигурност.
Обавезе опште намене АИ (ГПАИ).
Закон намеће посебне обавезе транспарентности и документације за АИ моделе опште намене (ГПАИ) — то јест, вишенаменске основне моделе као што су велики језички модели — као и за појединачну употребу: обезбеђивање резимеа података о обуци, политика усклађености са ауторским правима, додатна процена за моделе са системским ризиком. Ако организација угради ове моделе у свој производ, неке од ових обавеза могу се одразити у ланцу.
три мини кофера
Случај 1 — Провера запошљавања (висок ризик). Софтверска компанија у Измиру развија платформу за запошљавање која служи компанијама из ЕУ; Систем аутоматски бодује и елиминише кандидате. Ово је област коју закон јасно сматра високоризичном. Цомпани; мора испунити обавезе квалитета података, тестирања пристрасности, људске ревизије и документације. Аргумент „Ми смо у Турској, то нас не обавезује“ је неважећи; Пошто се систем користи на тржишту ЕУ, примењује се закон.
Случај 2 — Кориснички цхатбот (ограничен ризик). Сајт за е-трговину примењује цхат бот који опслужује своје клијенте из ЕУ. Ово је у категорији ограниченог ризика; Главна обавеза је транспарентност: корисник мора бити јасно обавештен да „разговарате са вештачком интелигенцијом“. Скривање овога представља кршење; Довољно је прецизирати.
Случај 3 — Приближавање забрањеној линији. Малопродајни ланац жели да анализира емоционалне реакције купаца кроз камере продавница и да оцени „потенцијални крадљивац”. Ово спада у забрањено/веома ризично подручје са димензијама препознавања емоција и бодовања. Правни тим зауставља пројекат у фази пројектовања; Јасно је да се то не може спровести чак ни уз мере за смањење ризика.
Савет: Прво питање при покретању новог АИ пројекта је „колико је ово корисно?“ већ "у коју класу ризика ово спада?" требало би да буде. Извођење класификације на првом месту избегава трошење ресурса на пројекат који ће касније бити отказан.
Шаблони који се могу копирати
ОБРАЗАЦ 1 — Прелиминарна процена класе ризика: „Претходно процените следећу употребу вештачке интелигенције у складу са законом ЕУ о вештачкој интелигенцији: [опишите употребу]. Наведите у коју класу ризика (забрањена / висока / ограничена / минимална) може да спада, уз оправдање. Означите тачке у које нисте сигурни као „потребна је правна потврда“; немојте доносити коначну правну пресуду.“
ШАБЛОНА 2 — Забрањено скенирање апликација: „Скенирајте следећу пројектну идеју само у односу на листу забрањених апликација из Закона о вештачкој интелигенцији ЕУ: [опишите пројекат]. Постоји ли ризик у смислу друштвеног оцењивања, подсвесне манипулације, искоришћавања рањивости, неовлашћеног биометријског надзора, препознавања емоција у свакој глави/не.“?
ШАБЛОНА 3 — Контролна листа одговорности високог ризика: „За ову употребу вештачке интелигенције високог ризика, [опишите употребу] креирате табелу „каква је наша тренутна ситуација, шта недостаје“ у шест наслова одговорности (управљање ризиком, квалитет података, документација, транспарентност, људска ревизија, робусност). Предложите конкретну акцију у сваком реду.“
ШАБЛОН 4 — Обавештење о транспарентности (ограничени ризик): „За цхат бота који опслужује кориснике из ЕУ, напишите кратко обавештење „разговарате са вештачком интелигенцијом“ које ће се приказати кориснику. Једноставно, уверљиво, највише 2 реченице. Укључите опцију да се пребаците на људског агента.“
Слаби промпт / Јаки промпт
СЛАБО: „Да ли се закон ЕУ о вештачкој интелигенцији тиче нас?“-> Модел даје општи одговор; Не класификује вашу конкретну употребу, не оцењује вашу повезаност са тржиштем ЕУ. ГУЦЛУ: „Ми смо компанија са седиштем у Измиру, ми продајемо регрутацију и проверу АИ компанији у Немачкој. Коју класу ризика ова употреба спада под закон ЕУ о вештачкој интелигенцији, које обавезе падају на нас и зашто нас боравак у Турској не изузима? Означите где нисте сигурни.“ -> Модел производи класификацију специфичну за контекст и листу обавеза.
Уобичајене грешке
- Размишљајући „Ми смо у Турској, право ЕУ нас не обавезује“; Међутим, довољно је додирнути тржиште ЕУ.
- Израда класификације ризика након израде пројекта; Међутим, то би требало учинити на првом месту.
- Погрешити забрањену праксу као препреку која се може превазићи „добрим оправдањем“.
- Заобилажење транспарентног извештавања у ограниченим системима ризика (тако да бот изгледа као човек).
- Занемаривање људске ревизије и управљања пристрасношћу од обавеза високог ризика.
- Превиђајући да обавезе АИ опште намене (ГПАИ) могу одјекнути низ ланац.
- Размена закона ЕУ о вештачкој интелигенцији са КВКК; они су различити, али комплементарни.
Укратко
- Закон о вештачкој интелигенцији ЕУ има приступ заснован на ризику и дели АИ у четири класе: забрањена, висока, ограничена, минимална.
- Забрањене праксе (друштвено бодовање, манипулација, итд.) не могу се ослободити чак и ако је ризик смањен.
- Системи високог ризика; Подлеже строгим обавезама као што су управљање ризиком, квалитет података, људска контрола и документација.
- У системима ограниченог ризика, главна обавеза је транспарентност (извештавање да постоји АИ).
- Турске компаније које додирују тржиште ЕУ такође су погођене законом; Класификација треба да се уради на самом почетку пројекта.
Задатак апликације
Размотрите три различите употребе АИ које ваша организација (или фиктивна компанија) може користити у односу на тржиште ЕУ. Ставите сваког у једну од четири класе ризика из Закона о вештачкој интелигенцији ЕУ и напишите своје образложење. Ставите шест високоризичних обавеза за употребу за коју сматрате да је највећи ризик у контролној табели: попуните колоне „тренутни статус“ и „непотпуно/радња“. Напишите изјаву о транспарентности која ће бити приказана кориснику за употребу која спада у категорију ограниченог ризика. Коначно, ако се нека од ваших употреба приближава забрањеној линији, забележите то и зашто.
контролна листа
- [ ] Сваку употребу АИ сам ставио у једну од четири класе ризика.
- [ ] Скенирао сам своје пројекте према листи забрањених апликација.
- [ ] Направио сам графикон контроле одговорности за коришћење високог ризика.
- [ ] У обавезе сам укључио људску ревизију и управљање пристрасношћу.
- [ ] Припремио сам изјаву о транспарентности за ограничену употребу ризика.
- [ ] Разумем зашто је моја веза са ЕУ тржиштем покренула закон.
- [ ] Урадио сам класификацију ризика на почетку пројекта, не на крају.