Dobici:
- Razumeti logiku EU zakona o veštačkoj inteligenciji zasnovanu na riziku (neprihvatljivo, visoko, ograničeno, minimalno) i obaveze sistema visokog rizika
- Sposobnost otkrivanja rizika obrade ličnih podataka, ograničenja svrhe, otkrivanja i međunarodnog prijenosa u smislu KVKK-a u korištenju umjetne inteligencije
- Sposobnost da se unaprijed procijeni rezultat umjetne inteligencije bez da se to smatra konačnim pravnim savjetom i uključi lične podatke i pravnu podršku u visokorizične inicijative.
Etika opisuje "šta je ispravno"; Usklađenost, s druge strane, opisuje ono što se „zahtijeva po zakonu“ i čije kršenje dovodi do kazni, tužbi i gubitka ugleda. Za višeg rukovodioca, poštovanje je pitanje lične pravne odgovornosti; "Nisam znao" nije odbrana. U ovoj cjelini raspravljat ćemo o dva najkritičnija propisa za umjetnu inteligenciju: Zakon o umjetnoj inteligenciji EU (EU AI zakon; sveobuhvatni zakon Europske unije koji regulira umjetnu inteligenciju prema nivou rizika) i KVKK (Zakon o zaštiti osobnih podataka; turski zakon o zaštiti osobnih podataka GDPR je sličan europskom zakonu o zaštiti osobnih podataka). Cilj nije postati advokat; Znati kada treba stati i dobiti pravnu podršku i izbjegavati rizike naslijepo.
Obrazloženje zakona EU o veštačkoj inteligenciji: zasnovano na riziku
Zakon o veštačkoj inteligenciji EU deli sisteme veštačke inteligencije u četiri kategorije prema nivou rizika i nameće različite obaveze svakoj kategoriji. Iako se ne implementira direktno u Turskoj; On obavezuje institucije koje prodaju proizvode/usluge u EU, imaju kupce iz EU ili obrađuju podatke korisnika EU i postaje svjetski standard.
Nivo rizika
primjer
odgovornost
neprihvatljivo
Društveno bodovanje, manipulativni sistemi
zabranjeno
visok rizik
Zapošljavanje, kredit, zdravstvena zaštita, kritična infrastruktura
Strogo: upravljanje rizikom, kvalitet podataka, ljudski nadzor, snimanje, transparentnost
ograničen rizik
Chatbot, produktivan sadržaj
Transparentnost: obavještavanje korisnika da je AI
minimalni rizik
Spam filter, igra
Besplatna, dobrovoljna dobra praksa
Važan pojam: sistem visokog rizika je primjena umjetne inteligencije koja može direktno utjecati na ljudska prava, sigurnost ili životne mogućnosti (poslovi, krediti, obrazovanje, zdravlje). Zakon za ove sisteme je; Nalaže procjenu rizika, kvalitetne i nepristrasne podatke, ljudski nadzor, tehničku dokumentaciju, vođenje evidencije i transparentnost.
Savjet: Kada procjenjujete AI inicijativu, zapitajte se: „Da li je ovaj sistem uključen u odluku koja utiče na nečiji posao, novac, zdravlje ili slobodu?“ Ako je odgovor potvrdan, to je vjerovatno veliki rizik i zahtijeva posebnu pažnju uz pravnu podršku.
Osnovne obaveze KVKK
KVKK regulira obradu ličnih podataka (svaka informacija koja osobu čini specifičnom ili prepoznatljivom: ime, TR ID, e-mail, lokacija, čak i podaci o ponašanju). Kritične tačke u smislu veštačke inteligencije:
- Pravni osnov: Za obradu ličnih podataka potreban je valjan razlog (izričit pristanak, ugovor, legitimni interes, itd.).
- Ograničenje svrhe: Podaci se ne mogu koristiti u druge svrhe osim u svrhu za koju su prikupljeni. Uvođenje podataka prikupljenih u svrhu u obuku vještačke inteligencije može zahtijevati dodatnu podršku.
- Minimizacija podataka: Obrađuje se samo onoliko podataka koliko je potrebno.
- Otkrivanje: Dotična osoba mora biti obaviještena o tome kako se njegovi podaci obrađuju.
- Transfer: Prenos podataka u inostranstvo (na primer, dobavljaču veštačke inteligencije u inostranstvu) podleže posebnim pravilima.
- Automatska odluka: Treba poštovati pravo na prigovor na potpuno automatske odluke koje utiču na osobu.
Lepljenje podataka o klijentima u AI alat često predstavlja „prenos podataka u inostranstvo” i „nenamernu obradu”; Ovo je najčešće i najopasnije kršenje usklađenosti.
Korak po korak: provjera uklapanja
1. Odredite nivo rizika. Koji je sistem pod neprihvatljivim/visokim/ograničenim/minimalnim rizikom?
2. Provjerite postoje li lični podaci. Koji lični podaci kuda idu, na osnovu čega?
3. Obaveze na utakmici. Navedite zakonske zahtjeve na osnovu nivoa rizika i statusa podataka.
4. Dobijte pravnu podršku. Uključite zakon u svaku inicijativu koja je visokog rizika ili uključuje lične podatke.
5. Dokumentirajte i nadgledajte. Zabilježite odluke o usklađenosti, otkrivanja i inspekcije.
tri mini kofera
Slučaj 1 — Tihi transfer u inostranstvo. Prodavac je poslao podatke u inozemni AI alat za analizu pritužbi kupaca. Tekst pojašnjenja to nije obuhvatio, nije bilo osnova za transfer. Došlo je do kršenja u pogledu KVKK; Tokom revizije postojao je rizik od administrativnih kazni. Institucija je prešla na rješenje koje obrađuje podatke u zemlji i ažurirala je rasvjetu.
Slučaj 2 — Strogost sistema visokog rizika. Kompanija koja se bavi tehnologijom ljudskih resursa prodavala je softver za zapošljavanje kompaniji AB. Ovo se smatra "visokim rizikom" u zakonu EU o AI. Kompanija je ušla na tržište glatko jer je unaprijed pripremila upravljanje rizicima, dokaze o kvalitetu podataka, ljudski nadzor i dokumentaciju. Pristup nespremnom takmičaru je odložen jer nije mogao da ispuni iste obaveze. Harmonija se pretvorila u konkurentsku prednost.
Slučaj 3 — Snaga rasvjete. Osiguravajuća kompanija jasno je obavještavala kupce kada je u pitanju određivanje cijena umjetnom inteligencijom i otvorila put za prigovore na potpuno automatizirane odluke. Klijent se usprotivio, ljudi su pregledali i greška u podacima je ispravljena. Transparentnost i žalba ne samo da su ispunili zakonski zahtjev, već su i uhvatili stvarnu grešku.
Četiri šablona za kopiranje
1) Preliminarna kontrola klasifikacije rizika:
Vaša uloga: Savjetnik za usklađenost sa AI (preliminarna procjena, a ne pravni savjet). Klasificirajte sljedeći sistem prema nivoima rizika EU Zakona o AI: neprihvatljiv, visok, ograničen, minimalan. Napišite svoje obrazloženje i koje će glavne obaveze nastati; Navedite da je za konačnu odluku potrebna pravna podrška. Sistem: [tekst]
2) Mapa toka ličnih podataka:
U ovoj upotrebi veštačke inteligencije, mapirajte koji se lični podaci obrađuju, u koju svrhu se prikupljaju i gde se prenose (posebno u inostranstvo). Označite rizične tačke u smislu KVKK i navedite koja pitanja zahtijevaju pravnu podršku. Upotreba: [tekst]
3) Kontrola rasvjete i prigovora:
Provjerite zahtjeve za pojašnjenje KVKK-a i zahtjeve za automatsko donošenje prigovora za umjetnu inteligenciju usmjerenu na korisnika: o čemu bi korisnik trebao biti obaviješten, kako treba obraditi prigovor? Navedite nedostatke. Upotreba: [tekst]
4) Kontrolna lista spremnosti za usklađenost:
Napravite kontrolnu listu spremnosti za usklađenost sa Zakonom o AI za sljedeću visokorizičnu inicijativu AI: upravljanje rizikom, kvalitet podataka, ljudski nadzor, dokumentacija, registracija, transparentnost. Napišite pitanje za svaku stavku koju mogu ocijeniti kao "spremno/nepotpuno". Inicijativa: [tekst]
Slaba prompt / Jaka prompt
Slabo: "Da li je ova AI legalna?"
Rezultat: površan, nepouzdan odgovor; AI ne može i ne treba da pruži konačan pravni savet.
Güçlü: "Procjenjujem alat za prethodnu provjeru zapošljavanja koji se prodaje kupcima u EU. Prethodno ga klasificirajte prema nivoima rizika EU zakona o AI i navedite koje će obaveze (upravljanje rizikom, kvalitet podataka, ljudski nadzor, dokumentacija) nastati ako se smatra vjerovatnim visokim rizikom. Također, u smislu KVKK-a, postavite pitanja koja trebam postaviti kandidatu koji je predhodni proces. ocjenjivanja, zakon je potreban za konačnu odluku."
Rezultat: Strukturirana preliminarna procjena i priprema za pravnu podršku; nije slijepa klauzula "zakonito/ne".
Uobičajene greške
- Očekujem konačan pravni savjet od AI. Umjetna inteligencija vrši preliminarnu procjenu; Konačna pravna odluka pripada advokatu.
- Ignorisanje prenosa podataka u inostranstvo. Unošenje podataka o klijentima u eksterni AI alat je često kršenje usklađenosti.
- Potcjenjivanje sistema visokog rizika. Sistemi uključeni u poslovne, kreditne i zdravstvene odluke zahtijevaju posebnu pažnju.
- Zaobilazeći pravo na informaciju i prigovor. Transparentnost i žalba su zakonski zahtjevi za automatske odluke koje utiču na pojedince.
- Misliti da je harmonija jednokratna stvar. Zakonodavstvo i promjene sistema; Usklađenost se mora stalno pratiti.
Oprez: Informacije u ovoj jedinici služe općoj svijesti i nisu pravni savjet. Izlaz umjetne inteligencije također nije pravni savjet. U svakoj inicijativi koja obrađuje lične podatke ili je visokorizična, obavezna je konsultacija sa kvalifikovanim pravnim stručnjakom pre donošenja odluke. Troškovi kršenja usklađenosti eksponencijalno rastu u obliku novčanih kazni, tužbi i gubitka ugleda.
Ukratko
Usklađenost je minimum propisan zakonom, a njegovo kršenje nameće pravnu odgovornost menadžeru. Zakon EU o AI reguliše AI prema nivou rizika (neprihvatljiv, visok, ograničen, minimalan); Upravljanje rizikom, kvalitet podataka, ljudski nadzor i transparentnost su od suštinskog značaja za sisteme visokog rizika. KVKK, s druge strane, zahtijeva da lični podaci budu u skladu sa zakonskom osnovom, ograničenjem svrhe, minimiziranjem, otkrivanjem i međunarodnim pravilima prijenosa; Unošenje podataka o klijentima u eksterni AI alat je najčešće kršenje. AI može vršiti samo preliminarne procjene; Za konačnu pravnu odluku potrebno je dobiti stručnu podršku. U sljedećoj cjelini razgovarat ćemo o timu i strukturi kompetencija koji će implementirati cijelu ovu strategiju.
Zadatak aplikacije
Odaberite slučaj upotrebe AI. 1. Prethodno klasifikujte nivo rizika EU Zakona o veštačkoj inteligenciji pomoću šablona. 2. Mapirajte tok ličnih podataka sa šablonom i odredite da li postoji međunarodni transfer. Zapišite dva najkritičnija pitanja usklađenosti koja se pojavljuju i zabilježite na koji pravni izvor/stručnjaka biste ih uputili. Ne donositi konačne pravne odluke; samo razjasnite pitanja.
kontrolna lista
- [ ] Prethodno sam klasifikovao nivo rizika sistema u skladu sa Zakonom o veštačkoj inteligenciji EU.
- [ ] Ako je visok rizik, naveo sam relevantne obaveze.
- [ ] Mapirao sam obrađene lične podatke i njihovu osnovu.
- [ ] Provjerio sam da li postoji prijenos podataka u inostranstvu.
- [ ] Pregledao sam zahtjeve za informacijama i pravo na prigovor.
- [ ] Pripremio sam kritična pitanja usklađenosti za pravnu podršku.
- [ ] Nisam smatrao izlaz AI kao konačan pravni savjet.