Dobički:
- Priznavanje štirih razredov tveganja in prepovedanih praks zakona EU o AI
- Razumna ocena, v katero kategorijo tveganja sodi uporaba
- Razumeti, zakaj visoko tvegane in splošne obveznosti umetne inteligence vplivajo na turška podjetja
Zakon EU o umetni inteligenci (EU AI Act), ki začne veljati leta 2024, je prva celovita uredba o umetni inteligenci na svetu in njen vpliv sega daleč preko meja Evropske unije. Ta zakon je lahko neposredno zavezujoč za podjetje s sedežem v Turčiji, ki pa služi trgu EU, ima stranke v EU ali prodaja izdelke v EU. V tej enoti boste spoznali osnovno logiko zakona – njegov pristop, ki temelji na tveganju – s štirimi razredi, prepovedanimi praksami in visoko tveganimi obveznostmi; Poskušali bomo oceniti, v katero okence sodi uporaba.
Osnovna ideja: večje kot je tveganje, strožje je pravilo
Zakon EU o umetni inteligenci ne združuje vse umetne inteligence. Sistem umetne inteligence deli v štiri kategorije glede na njegovo potencialno škodo in vsaki kategoriji nalaga različne obveznosti. Glasbeno priporočilo ne nosi enakega tveganja kot sistem preverjanja zaposlitve; Zakon zanje ne uporablja istega pravila. Ta pristop, ki temelji na tveganju, je hrbtenica zakona.
Razred tveganja
Pomen
primer
pravilo
Prepovedano (nesprejemljivo)
Odkrita grožnja temeljnim pravicam
Socialno točkovanje, podzavestna manipulacija
popolna prepoved
visoko tveganje
Resno vpliva na človeško življenje
Zaposlovanje, krediti, zdravstvo, izobraževanje, kritična infrastruktura
Stroga odgovornost
omejeno tveganje
Zahteva preglednost
Klepetalni bot, deepfake, vsebina AI
Informacije so obvezne
minimalno tveganje
Neznatno tveganje
Filter neželene pošte, AI igre, mehanizem za priporočila
brezplačno
Prepovedane aplikacije: rdeča črta
Nekatere uporabe umetne inteligence veljajo za tako škodljive, da jih ni mogoče sprostiti, ne glede na to, koliko se zmanjša tveganje. Ti so v kategoriji prepovedanih (nesprejemljivo tveganje):
- Državno podprto socialno točkovanje (točkovanje ljudi glede na njihovo vedenje/lastnosti in njihovo slabšanje).
- Sistemi, ki manipulirajo s podzavestjo ljudi in povzročajo škodo.
- Sistemi, ki izkoriščajo ranljivosti, kot sta starost in invalidnost.
- Nekatere aplikacije za biometrično identifikacijo v realnem času in množični nadzor (z majhnimi izjemami).
- Posebne aplikacije, kot je prepoznavanje čustev na delovnem mestu in v izobraževanju.
Pozor: Dejstvo, da je uporaba v kategoriji "prepovedano", ni ovira, ki bi jo lahko premagali z besedami "imam dober razlog". Te prakse so popolnoma prepovedane; ni mogoče sprostiti niti z ukrepi za zmanjšanje tveganja. Najprej je treba preveriti, ali je projekt vključen na ta seznam.
Visoko tvegane obveznosti
Sistemi z visokim tveganjem niso prepovedani, vendar zanje veljajo strogi pogoji. Tipična področja z visokim tveganjem: zaposlovanje in upravljanje zaposlenih, krediti in zavarovanje, izobraževanje in ocenjevanje izpitov, zdravstvo, kritična infrastruktura, kazenski pregon in priseljevanje. Tipične obveznosti v teh sistemih:
- Vzpostavitev in vzdrževanje sistema upravljanja tveganj.
- Kakovost podatkov in upravljanje pristranskosti (reprezentativni in natančni podatki o usposabljanju).
- Tehnična dokumentacija in vodenje evidenc (sledljivost).
- Transparentnost in zagotavljanje informacij uporabniku.
- Človeški nadzor (človeška sposobnost posredovanja in preglasitve).
- Natančnost, robustnost in zagotovila kibernetske varnosti.
Obveznosti splošnega umetne inteligence (GPAI).
Zakon nalaga posebne obveznosti glede preglednosti in dokumentiranja za modele umetne inteligence za splošne namene (GPAI) – to je večnamenske osnovne modele, kot so veliki jezikovni modeli – kot tudi za posamezne uporabe: zagotavljanje povzetkov podatkov o usposabljanju, politika skladnosti z avtorskimi pravicami, dodatna ocena za modele s sistemskim tveganjem. Če organizacija te modele vgradi v svoj izdelek, se lahko nekatere od teh obveznosti odražajo v verigi.
trije mini kovčki
Primer 1 – Pregled pri zaposlovanju (visoko tveganje). Podjetje za programsko opremo v Izmirju razvija platformo za zaposlovanje, ki služi podjetjem iz EU; Sistem samodejno točkuje in izloča kandidate. To je področje, ki ga zakon jasno obravnava kot visoko tvegano. Podjetje; mora izpolnjevati obveznosti glede kakovosti podatkov, testiranja pristranskosti, človeške revizije in dokumentacije. Argument "Smo v Turčiji, to nas ne zavezuje" je neveljaven; Ker se sistem uporablja na trgu EU, velja zakon.
Primer 2 – Klepetalni robot stranke (omejeno tveganje). Spletno mesto za e-trgovino uporablja klepetalnega robota, ki služi svojim strankam v EU. To je v kategoriji omejenega tveganja; Glavna obveznost je transparentnost: uporabnik mora biti jasno obveščen, da »se pogovarjate z umetno inteligenco«. Skrivanje tega je kršitev; Dovolj je določiti.
Primer 3 – Približevanje prepovedani črti. Maloprodajna veriga želi analizirati čustvene reakcije kupcev prek kamer v trgovini in dati oceno "potencialni tatu v trgovini". To sodi v prepovedano/zelo tvegano področje tako glede razsežnosti prepoznavanja čustev kot točkovanja. Pravna ekipa ustavi projekt v fazi načrtovanja; Jasno je, da je ni mogoče izvesti niti z ukrepi za zmanjšanje tveganja.
Nasvet: prvo vprašanje, ko začnete nov projekt AI, je "kako uporabno je to?" ampak "v kateri razred tveganja to spada?" mora biti. S prvo klasifikacijo se izognete zapravljanju sredstev za projekt, ki bo pozneje preklican.
Kopirane predloge
PREDLOGA 1 – Predhodna ocena razreda tveganja: "Predhodno ocenite naslednjo uporabo umetne inteligence v skladu z zakonodajo EU o umetni inteligenci: [opišite uporabo]. Navedite, v kateri razred tveganja (prepovedano/visoko/omejeno/minimalno) lahko spada z utemeljitvijo. Označite točke, v katere niste prepričani, kot 'zahtevana je pravna potrditev'; ne sprejemajte dokončne pravne presoje."
PREDLOGA 2 — Prepovedano skeniranje aplikacij: "Skenirajte naslednjo projektno idejo samo glede na seznam 'EU AI Act prepovedanih aplikacij': [opišite projekt]. Ali obstaja tveganje v smislu družbenega točkovanja, podzavestne manipulacije, izkoriščanja ranljivosti, nepooblaščenega biometričnega nadzora, prepoznavanja čustev? Napišite da/ne in utemeljitev v vsakem naslovu."
PREDLOGA 3 – Kontrolni seznam odgovornosti za visoko tveganje: "Za to visoko tvegano uporabo umetne inteligence [opišite uporabo] ustvari tabelo 'kakšno je naše trenutno stanje, kaj manjka' v šestih razdelkih odgovornosti (upravljanje tveganja, kakovost podatkov, dokumentacija, preglednost, človeška revizija, robustnost). V vsaki vrstici predlagajte konkretno dejanje."
PREDLOGA 4 – Obvestilo o preglednosti (omejeno tveganje): "Za klepetalnega robota, ki služi uporabnikom v EU, napišite kratko obvestilo 'pogovarjate se z umetno inteligenco', ki bo prikazano uporabniku. Preprosto, pomirjujoče, največ 2 stavka. Vključite možnost preklopa na človeškega posrednika."
Šibek poziv/močan poziv
ŠIBKO: “Ali nas zakon EU o AI zadeva?”-> Model daje splošen odgovor; Ne razvršča vaše konkretne uporabe, ne ocenjuje vaše povezave s trgom EU. GÜÇLÜ: "Smo podjetje s sedežem v Izmirju, prodajamo umetno inteligenco za zaposlovanje in pregledovanje podjetju v Nemčiji. V kateri razred tveganja spada ta uporaba v skladu z zakonodajo EU o umetni inteligenci, katere obveznosti so za nas in zakaj nas bivanje v Turčiji ne izvzame? Označite, kjer niste prepričani." -> Model ustvari kontekstno specifično klasifikacijo in seznam obveznosti.
Pogoste napake
- Razmišljanje "Smo v Turčiji, pravo EU nas ne zavezuje"; Zadošča pa že dotik trga EU.
- Izdelava klasifikacije tveganj po izdelavi projekta; Vendar pa je treba to storiti na prvem mestu.
- Zamenjati prepovedano prakso kot oviro, ki jo je mogoče premagati z "dobro utemeljitvijo".
- Zaobiti poročanje o preglednosti v sistemih z omejenim tveganjem (pri čemer je bot videti kot človek).
- Zanemarjanje človeške revizije in obvladovanje pristranskosti zaradi visoko tveganih obveznosti.
- Če spregledamo, da se lahko obveznosti umetne inteligence za splošni namen (GPAI) odmevajo navzdol po verigi.
- Zamenjati pravo EU o AI s KVKK; so različni, vendar se dopolnjujejo.
Če povzamem
- Zakon EU o umetni inteligenci uporablja pristop, ki temelji na tveganju, in deli umetno inteligenco v štiri razrede: prepovedano, visoko, omejeno in minimalno.
- Prepovedanih praks (socialno točkovanje, manipulacija itd.) ni mogoče opustiti, tudi če je tveganje zmanjšano.
- sistemi z visokim tveganjem; Zanj veljajo stroge obveznosti, kot so obvladovanje tveganj, kakovost podatkov, človeški nadzor in dokumentacija.
- V sistemih z omejenim tveganjem je glavna obveznost transparentnost (poročanje, da obstaja umetna inteligenca).
- Zakon zadeva tudi turška podjetja, ki se dotikajo trga EU; Razvrstitev je treba opraviti na samem začetku projekta.
Aplikacijska naloga
Razmislite o treh različnih uporabah umetne inteligence, ki bi jih lahko vaša organizacija (ali fiktivno podjetje) uporabljala v zvezi s trgom EU. Vsako uvrstite v enega od štirih razredov tveganja zakona EU o umetni inteligenci in napišite svojo utemeljitev. V kontrolni diagram vnesite šest visoko tveganih obveznosti za uporabo, za katero se vam zdi največje tveganje: izpolnite stolpca »trenutni status« in »nedokončano/dejanje«. Napišite izjavo o preglednosti, ki bo prikazana uporabniku za uporabo, ki spada v kategorijo omejenega tveganja. Nazadnje, če se katera od vaših uporab približuje prepovedani črti, upoštevajte to in zakaj.
kontrolni seznam
- [ ] Vsako uporabo umetne inteligence sem uvrstil v enega od štirih razredov tveganja.
- [ ] Svoje projekte sem pregledal glede na seznam prepovedanih aplikacij.
- [ ] Ustvaril sem kontrolno tabelo odgovornosti za uporabo z visokim tveganjem.
- [ ] Med obveznosti sem vključil človeško revizijo in obvladovanje pristranskosti.
- [ ] Pripravil sem izjavo o preglednosti za uporabo z omejenim tveganjem.
- [ ] Razumem, zakaj je moja povezava s trgom EU sprožila zakon.
- [ ] Razvrstitev tveganj sem naredil na začetku projekta, ne na koncu.