Dobici:
- Prepoznavanje četiri klase rizika i zabranjenih praksi EU zakona o AI
- Razumna procjena u koju kategoriju rizika spada upotreba
- Shvatite zašto obaveze visokog rizika i AI opšte namene utiču na turske kompanije
Zakon EU o umjetnoj inteligenciji (EU AI Act), koji stupa na snagu 2024. godine, prva je svjetska sveobuhvatna regulativa o umjetnoj inteligenciji i njen utjecaj seže daleko izvan granica Evropske unije. Ovaj zakon može biti direktno obavezujući za kompaniju sa sjedištem u Turskoj, ali koja opslužuje tržište EU, ima kupce iz EU ili prodaje proizvode u EU. U ovoj cjelini naučit ćete osnovnu logiku zakona — njegov pristup zasnovan na riziku — sa četiri klase, zabranjenim postupcima i visokorizičnim obavezama; Pokušat ćemo procijeniti u koju kutiju spada upotreba.
Osnovna ideja: što je veći rizik, to je pravilo strože
Zakon EU o AI ne objedinjuje sve AI zajedno. On dijeli sistem umjetne inteligencije u četiri kategorije prema njegovoj potencijalnoj šteti i nameće različite obaveze svakoj kategoriji. Muzička preporuka ne nosi isti rizik kao sistem provjere zapošljavanja; Zakon ne primjenjuje isto pravilo na njih. Ovaj pristup zasnovan na riziku je okosnica zakona.
Klasa rizika
Značenje
primjer
pravilo
Zabranjeno (neprihvatljivo)
Otvorena prijetnja osnovnim pravima
Društveno bodovanje, podsvjesna manipulacija
totalna zabrana
visok rizik
To ozbiljno utiče na ljudski život
Zapošljavanje, kredit, zdravstvo, obrazovanje, kritična infrastruktura
Stroga odgovornost
ograničen rizik
Zahtijeva transparentnost
Chat bot, deepfake, AI sadržaj
Informacije su obavezne
minimalni rizik
Beznačajan rizik
Spam filter, igra AI, mehanizam za preporuke
besplatno
Zabranjene aplikacije: crvena linija
Smatra se da su neke upotrebe AI toliko štetne da se ne mogu osloboditi bez obzira na to koliko je rizik smanjen. Ovo su u kategoriji zabranjenih (neprihvatljivih rizika):
- Socijalno bodovanje koje podržava država (bodovanje ljudi prema njihovom ponašanju/karakteristikama i njihovo postavljanje u nepovoljniji položaj).
- Sistemi koji manipulišu ljudskom podsviješću i nanose štetu.
- Sistemi koji iskorištavaju ranjivosti kao što su starost i invaliditet.
- Određene aplikacije biometrijske identifikacije i masovnog nadzora u realnom vremenu (sa malim izuzecima).
- Specifične primjene kao što je prepoznavanje emocija na radnom mjestu i obrazovanju.
Pažnja: Činjenica da je upotreba u kategoriji "zabranjena" nije prepreka koja se može savladati ako kažete "imam dobar razlog". Ove prakse su potpuno zabranjene; ne može se osloboditi čak ni uz mjere za smanjenje rizika. Prva provera koju treba izvršiti je da li je projekat uključen u ovu listu.
Obaveze visokog rizika
Sistemi visokog rizika nisu zabranjeni, ali su podložni strogim uslovima. Tipične oblasti visokog rizika: zapošljavanje i upravljanje zaposlenima, krediti i osiguranje, obrazovanje i procjena ispita, zdravstvena zaštita, kritična infrastruktura, provođenje zakona i imigracija. Tipične obaveze u ovim sistemima:
- Uspostavljanje i održavanje sistema upravljanja rizicima.
- Kvalitet podataka i upravljanje pristrasnošću (reprezentativni i tačni podaci o obuci).
- Tehnička dokumentacija i vođenje evidencije (sljedivost).
- Transparentnost i pružanje informacija korisniku.
- Ljudska kontrola (ljudska sposobnost da interveniše i prevaziđe).
- Tačnost, robusnost i sajber sigurnost.
Obaveze AI opšte namene (GPAI).
Zakon nameće posebne obaveze transparentnosti i dokumentacije za AI modele opšte namene (GPAI) – to jest, višenamjenske osnovne modele kao što su veliki jezički modeli – kao i za pojedinačnu upotrebu: pružanje sažetaka podataka o obuci, politika usklađenosti sa autorskim pravima, dodatna procjena za modele sa sistemskim rizikom. Ako organizacija ugradi ove modele u svoj proizvod, neke od ovih obaveza mogu se odraziti u lancu.
tri mini kofera
Slučaj 1 — Provjera zapošljavanja (visok rizik). Softverska kompanija u Izmiru razvija platformu za zapošljavanje koja služi kompanijama iz EU; Sistem automatski boduje i eliminiše kandidate. Ovo je oblast koju zakon jasno smatra visokorizičnom. Kompanija; moraju ispuniti obaveze kvaliteta podataka, testiranja pristranosti, ljudske revizije i dokumentacije. Argument „Mi smo u Turskoj, to nas ne obavezuje“ je nevažeći; Pošto se sistem koristi na tržištu EU, primjenjuje se zakon.
Slučaj 2 — Korisnički chatbot (ograničeni rizik). Stranica za e-trgovinu postavlja chatbot koji opslužuje svoje klijente iz EU. Ovo je u kategoriji ograničenog rizika; Glavna obaveza je transparentnost: korisnik mora biti jasno obaviješten da "razgovarate s umjetnom inteligencijom". Skrivanje ovoga predstavlja kršenje; Dovoljno je navesti.
Slučaj 3 — Približavanje zabranjenoj liniji. Maloprodajni lanac želi analizirati emocionalne reakcije kupaca putem kamera trgovina i dati ocjenu "potencijalni kradljivac". Ovo spada u zabranjeno/veoma rizično područje sa dimenzijama prepoznavanja emocija i bodovanja. Pravni tim zaustavlja projekat u fazi projektovanja; Jasno je da se to ne može provesti čak ni mjerama za smanjenje rizika.
Savjet: Prvo pitanje pri pokretanju novog AI projekta je "koliko je ovo korisno?" nego "u koju klasu rizika ovo spada?" trebao bi biti. Izvođenjem klasifikacije na prvom mjestu izbjegava se trošenje resursa na projekat koji će kasnije biti otkazan.
Predlošci koji se mogu kopirati
PREDLOG 1 — Preliminarna procjena klase rizika: "Prethodno procijenite sljedeću upotrebu AI u skladu sa zakonom EU o AI: [opišite upotrebu]. Navedite u koju klasu rizika (zabranjena / visoka / ograničena / minimalna) može spadati, s opravdanjem. Označite točke u koje niste sigurni kao 'potrebna je pravna potvrda'; nemojte donositi konačnu pravnu presudu."
PREDLOG 2 — Zabranjeno skeniranje aplikacija: "Skenirajte sljedeću projektnu ideju samo u odnosu na 'listu zabranjenih aplikacija EU Zakonom o umjetnoj inteligenciji': [opišite projekat]. Postoji li rizik u smislu društvenog bodovanja, podsvjesne manipulacije, eksploatacije ranjivosti, neovlaštenog biometrijskog nadzora, prepoznavanja emocija u svakoj glavi/ne.
PREDLOG 3 — Kontrolna lista za odgovornost visokog rizika: "Za ovu visokorizičnu upotrebu AI, [opišite upotrebu] kreirate tabelu 'kakva je naša trenutna situacija, šta nedostaje' u šest naslova odgovornosti (upravljanje rizikom, kvalitet podataka, dokumentacija, transparentnost, ljudska revizija, robusnost). Predložite konkretnu radnju u svakom redu."
PREDLOŽAK 4 — Obavijest o transparentnosti (ograničeni rizik): "Za chat bota koji služi korisnicima iz EU, napišite kratku obavijest 'razgovarate s AI' koja će se prikazati korisniku. Jednostavno, umirujuće, maksimalno 2 rečenice. Uključite opciju za prebacivanje na ljudskog agenta."
Slaba prompt / Jaka prompt
SLABO: „Da li nas se zakon o veštačkoj inteligenciji EU tiče?“-> Model daje opšti odgovor; Ne klasifikuje vašu konkretnu upotrebu, ne vrednuje vašu povezanost sa tržištem EU. GÜÇLÜ: "Mi smo kompanija sa sjedištem u Izmiru, prodajemo AI za zapošljavanje i provjeru jednoj kompaniji u Njemačkoj. Koju klasu rizika ova upotreba spada pod zakon EU o AI, koje obaveze padaju na nas i zašto nas boravak u Turskoj ne izuzima? Označite gdje niste sigurni." -> Model proizvodi klasifikaciju specifičnu za kontekst i listu obaveza.
Uobičajene greške
- Razmišljajući "Mi smo u Turskoj, zakon EU nas ne obavezuje"; Međutim, dovoljno je dodirnuti tržište EU.
- Izrada klasifikacije rizika nakon izrade projekta; Međutim, to bi trebalo učiniti na prvom mjestu.
- Pogrešiti zabranjenu praksu kao prepreku koja se može savladati "dobrim opravdanjem".
- Zaobilaženje transparentnog izvještavanja u ograničenim sistemima rizika (tako da bot izgleda kao čovjek).
- Zanemarivanje ljudske revizije i upravljanja pristrasnošću od obaveza visokog rizika.
- Previdjeti da obaveze AI opšte namjene (GPAI) mogu odjeknuti niz lanac.
- Razmijeniti zakon EU o AI sa KVKK; oni su različiti, ali komplementarni.
Ukratko
- Zakon EU o AI ima pristup zasnovan na riziku i dijeli AI u četiri klase: zabranjena, visoka, ograničena, minimalna.
- Zabranjene prakse (društveno ocjenjivanje, manipulacija, itd.) ne mogu se otpustiti čak i ako je rizik smanjen.
- Sistemi visokog rizika; Podliježe strogim obavezama kao što su upravljanje rizikom, kvalitet podataka, ljudska kontrola i dokumentacija.
- U sistemima ograničenog rizika, glavna obaveza je transparentnost (izvještavanje da postoji AI).
- Turske kompanije koje dodiruju tržište EU također su pogođene zakonom; Klasifikacija se vrši na samom početku projekta.
Zadatak aplikacije
Razmotrite tri različite upotrebe AI koje vaša organizacija (ili fiktivna kompanija) može koristiti u odnosu na tržište EU. Stavite svakog u jednu od četiri klase rizika EU zakona o AI i napišite svoje obrazloženje. Stavite šest visokorizičnih obaveza za upotrebu za koju smatrate da je najveći rizik u kontrolnu kartu: popunite kolone „trenutni status” i „nedovršeno/radnja”. Napišite izjavu o transparentnosti koja će biti prikazana korisniku za upotrebu koja spada u kategoriju ograničenog rizika. Konačno, ako se neka od vaših upotreba približava zabranjenoj liniji, zabilježite to i zašto.
kontrolna lista
- [ ] Svaku upotrebu AI sam stavio u jednu od četiri klase rizika.
- [ ] Skenirao sam svoje projekte prema listi zabranjenih aplikacija.
- [ ] Napravio sam grafikon kontrole odgovornosti za korištenje visokog rizika.
- [ ] U obaveze sam uključio ljudsku reviziju i upravljanje pristrasnošću.
- [ ] Pripremio sam izjavu o transparentnosti za ograničenu upotrebu rizika.
- [ ] Razumijem zašto je moja veza s tržištem EU pokrenula zakon.
- [ ] Klasifikaciju rizika sam uradio na početku projekta, ne na kraju.