EU AI Zakon i klase rizika

Dobici:

• Prepoznavanje četiri klase rizika i zabranjenih praksi iz Zakona o umjetnoj inteligenciji EU-a
• Razumna procjena kategorije rizika u koju uporaba spada
• Shvatite zašto obveze visokog rizika i opće namjene AI utječu na turske tvrtke

Zakon EU-a o umjetnoj inteligenciji (EU AI Act), koji stupa na snagu 2024. godine, prva je sveobuhvatna regulativa o umjetnoj inteligenciji u svijetu i njezin se utjecaj proteže daleko izvan granica Europske unije. Ovaj zakon može biti izravno obvezujući za tvrtku sa sjedištem u Turskoj, ali koja opslužuje tržište EU-a, ima kupce u EU-u ili prodaje proizvode u EU-u. U ovoj ćete jedinici naučiti osnovnu logiku zakona — njegov pristup temeljen na riziku — s njegove četiri klase, zabranjenim radnjama i visokorizičnim obvezama; Pokušat ćemo procijeniti u koji okvir spada neka upotreba.

Osnovna ideja: što je veći rizik, to je pravilo strože

Zakon EU-a o umjetnoj inteligenciji ne zbraja sve umjetne inteligencije zajedno. Dijeli sustav umjetne inteligencije u četiri kategorije prema njegovoj potencijalnoj štetnosti i nameće različite obveze svakoj kategoriji. Glazbena preporuka ne nosi isti rizik kao sustav provjere zapošljavanja; Zakon na njih ne primjenjuje isto pravilo. Ovaj pristup temeljen na riziku okosnica je zakona.

Klasa rizika

Značenje

primjer

pravilo

Zabranjeno (neprihvatljivo)

Otvorena prijetnja temeljnim pravima

Društveno bodovanje, podsvjesna manipulacija

potpuna zabrana

visok rizik

Ozbiljno utječe na ljudski život

Zapošljavanje, krediti, zdravstvo, obrazovanje, kritična infrastruktura

Stroga odgovornost

ograničen rizik

Zahtijeva transparentnost

Chat bot, deepfake, AI sadržaj

Informacije su obavezne

minimalan rizik

Beznačajan rizik

Spam filter, igrica AI, mehanizam za preporuke

besplatno

Zabranjene aplikacije: crvena linija

Neke upotrebe umjetne inteligencije smatraju se toliko štetnima da se ne mogu osloboditi bez obzira koliko se rizik smanjio. Oni su u kategoriji zabranjenih (neprihvatljivih rizika):

• Društveno bodovanje koje podupire država (bodovanje ljudi prema njihovom ponašanju/karakteristikama i stavljanje u nepovoljniji položaj).
• Sustavi koji manipuliraju ljudskom podsviješću i uzrokuju štetu.
• Sustavi koji iskorištavaju ranjivosti kao što su dob i invaliditet.
• Određene aplikacije za biometrijsku identifikaciju u stvarnom vremenu i masovni nadzor (uz male iznimke).
• Specifične primjene kao što je prepoznavanje emocija na radnom mjestu i u obrazovanju.

Pažnja: činjenica da je upotreba u kategoriji "zabranjeno" nije prepreka koja se može premostiti izjavom "Imam dobar razlog". Ove prakse su potpuno zabranjene; ne može se osloboditi čak ni uz mjere za smanjenje rizika. Prva provjera je je li projekt uključen u ovaj popis.

Visoko rizične obveze

Sustavi visokog rizika nisu zabranjeni, ali podliježu strogim uvjetima. Tipična područja visokog rizika: zapošljavanje i upravljanje zaposlenicima, krediti i osiguranje, obrazovanje i procjena ispita, zdravstvena skrb, kritična infrastruktura, provedba zakona i imigracija. Tipične obveze u ovim sustavima:

1. Uspostava i održavanje sustava upravljanja rizicima.
2. Kvaliteta podataka i upravljanje pristranostima (reprezentativni i točni podaci o obuci).
3. Tehnička dokumentacija i vođenje evidencije (sljedivost).
4. Transparentnost i pružanje informacija korisniku.
5. Ljudska kontrola (ljudska sposobnost interveniranja i nadjačavanja).
6. Točnost, robusnost i jamstva kibernetičke sigurnosti.

Obveze AI-a opće namjene (GPAI).

Zakon nameće posebne obveze transparentnosti i dokumentiranja za modele umjetne inteligencije opće namjene (GPAI) — to jest, višenamjenske bazne modele kao što su veliki jezični modeli — kao i za pojedinačne upotrebe: pružanje sažetaka podataka o obuci, politika usklađenosti s autorskim pravima, dodatna procjena za modele sa sistemskim rizikom. Ako organizacija ugradi ove modele u vlastiti proizvod, neke od tih obveza mogu se odraziti u lancu.

tri mini kućišta

Slučaj 1 — Provjera pri zapošljavanju (visoki rizik). Softverska tvrtka u Izmiru razvija platformu za zapošljavanje koja služi tvrtkama iz EU-a; Sustav automatski boduje i eliminira kandidate. Ovo je područje koje zakon jasno smatra visokorizičnim. tvrtka; moraju ispunjavati obveze kvalitete podataka, testiranja pristranosti, ljudske revizije i dokumentacije. Argument "Mi smo u Turskoj, to nas ne obavezuje" nije valjan; Budući da se sustav koristi na tržištu EU, primjenjuje se zakon.

Slučaj 2 — korisnički chatbot (ograničeni rizik). Stranica za e-trgovinu koristi chatbot koji služi svojim klijentima iz EU-a. Ovo je u kategoriji ograničenog rizika; Glavna obveza je transparentnost: korisnik mora biti jasno informiran da "razgovarate s umjetnom inteligencijom". Skrivanje ovoga je prekršaj; Dovoljno je navesti.

Slučaj 3 — Približavanje zabranjenoj liniji. Maloprodajni lanac želi analizirati emocionalne reakcije kupaca putem kamera u trgovinama i dati ocjenu "potencijalni kradljivac". Ovo spada u zabranjeno/vrlo rizično područje s dimenzijama prepoznavanja emocija i bodovanja. Pravni tim zaustavlja projekt u fazi projektiranja; Jasno je da se to ne može provesti niti uz mjere za smanjenje rizika.

Savjet: Prvo pitanje pri pokretanju novog AI projekta je "koliko je ovo korisno?" nego "u koju klasu rizika ovo spada?" treba biti. Izvođenjem klasifikacije na prvom mjestu izbjegava se rasipanje resursa na projekt koji će kasnije biti otkazan.

Predlošci koji se mogu kopirati

OBRAZAC 1 — Preliminarna procjena klase rizika: "Prethodno ocijenite sljedeću upotrebu umjetne inteligencije u skladu sa Zakonom o umjetnoj inteligenciji EU-a: [opišite upotrebu]. Navedite u koju klasu rizika (zabranjeno / visoko / ograničeno / minimalno) može spadati, uz obrazloženje. Označite točke u koje niste sigurni kao 'potrebna je pravna potvrda'; nemojte donositi konačnu pravnu prosudbu."

PREDLOŽAK 2 — Zabranjeno skeniranje aplikacije: "Skenirajte sljedeću projektnu ideju samo prema popisu 'EU AI Act zabranjenih aplikacija': [opišite projekt]. Postoji li rizik u smislu društvenog bodovanja, podsvjesne manipulacije, iskorištavanja ranjivosti, neovlaštenog biometrijskog nadzora, prepoznavanja emocija? Napišite da/ne i obrazloženje u svakom naslovu."

PREDLOŽAK 3 — Kontrolni popis odgovornosti visokog rizika: "Za ovu visokorizičnu upotrebu umjetne inteligencije [opišite upotrebu] stvara tablicu 'kakva je naša trenutna situacija, što nedostaje' u šest naslova odgovornosti (upravljanje rizikom, kvaliteta podataka, dokumentacija, transparentnost, ljudska revizija, robusnost). Predložite konkretnu radnju u svakom retku."

PREDLOŽAK 4 — Obavijest o transparentnosti (ograničeni rizik): "Za chatbot koji služi korisnicima u EU-u, napišite kratku obavijest 'razgovarate s umjetnom inteligencijom' koja će se prikazati korisniku. Jednostavna, umirujuća, najviše 2 rečenice. Uključite opciju prebacivanja na ljudskog agenta."

Slab upit / Jak upit

SLABO: “Trine li nas se zakon EU o umjetnoj inteligenciji?”-> Model daje opći odgovor; Ne klasificira vašu konkretnu uporabu, ne ocjenjuje vašu povezanost s tržištem EU. GÜÇLÜ: "Mi smo tvrtka sa sjedištem u Izmiru, prodajemo umjetnu inteligenciju za zapošljavanje i provjeru tvrtki u Njemačkoj. Koju klasu rizika ova upotreba potpada pod Zakon EU o umjetnoj inteligenciji, koje obveze padaju na nas i zašto nas boravak u Turskoj ne izuzima? Označite tamo gdje niste sigurni." -> Model proizvodi klasifikaciju specifičnu za kontekst i popis obveza.

Uobičajene greške

• Razmišljajući "Mi smo u Turskoj, zakon EU nas ne obvezuje"; No, dovoljno je dodirnuti tržište EU.
• Izrada klasifikacije rizika nakon izrade projekta; Međutim, to bi trebalo biti učinjeno na prvom mjestu.
• Mišljenje zabranjene prakse kao prepreke koja se može prevladati uz "dobro opravdanje".
• Zaobilaženje transparentnog izvješćivanja u sustavima ograničenog rizika (činiti da bot izgleda kao čovjek).
• Zanemarivanje ljudske revizije i upravljanja pristranostima zbog visokorizičnih obveza.
• Zanemarujući da obveze AI-a opće namjene (GPAI) mogu odjeknuti niz lanac.
• Izmijeniti EU AI Zakon s KVKK; oni su različiti, ali se nadopunjuju.

Ukratko

• Zakon EU-a o AI ima pristup temeljen na riziku i dijeli AI u četiri klase: zabranjeno, visoko, ograničeno, minimalno.
• Zabranjene prakse (društveno bodovanje, manipulacija, itd.) ne mogu se osloboditi čak i ako je rizik smanjen.
• Sustavi visokog rizika; Podliježe strogim obvezama kao što su upravljanje rizikom, kvaliteta podataka, ljudska kontrola i dokumentacija.
• U sustavima s ograničenim rizikom glavna obveza je transparentnost (izvještavanje da postoji AI).
• Turske tvrtke koje dotiču tržište EU također su pogođene zakonom; Klasifikaciju treba napraviti na samom početku projekta.

Zadatak aplikacije

Razmotrite tri različite upotrebe umjetne inteligencije koje bi vaša organizacija (ili fiktivna tvrtka) mogla koristiti u odnosu na tržište EU. Svrstajte svaki u jedan od četiri razreda rizika EU Zakona o umjetnoj inteligenciji i napišite svoje obrazloženje. Stavite šest visokorizičnih obveza za korištenje za koje smatrate da je najveći rizik u kontrolnu tablicu: ispunite stupce "trenutni status" i "nedovršeno/radnja". Napišite izjavu o transparentnosti koja će biti prikazana korisniku za upotrebu koja spada u kategoriju ograničenog rizika. Konačno, ako se bilo koja od vaših upotreba približava zabranjenoj liniji, zabilježite to i zašto.

popis za provjeru

• [ ] Svrstao sam svaku upotrebu umjetne inteligencije u jednu od četiri klase rizika.
• [ ] Skenirao sam svoje projekte na popisu zabranjenih aplikacija.
• [ ] Napravio sam kontrolnu tablicu odgovornosti za visokorizičnu upotrebu.
• [ ] Uključio sam ljudsku reviziju i upravljanje pristranostima u obveze.
• [ ] Pripremio sam izjavu o transparentnosti za korištenje s ograničenim rizikom.
• [ ] Razumijem zašto je moja povezanost s tržištem EU pokrenula zakon.
• [ ] Napravio sam klasifikaciju rizika na početku projekta, a ne na kraju.