Dobički:
- Razumeti na tveganju temelječo logiko zakona EU o umetni inteligenci (nesprejemljivo, visoko, omejeno, minimalno) in obveznosti sistemov z visokim tveganjem
- Sposobnost zaznavanja tveganj obdelave osebnih podatkov, omejitve namena, razkritja in mednarodnega prenosa v smislu KVKK pri uporabi umetne inteligence.
- Sposobnost predhodne ocene rezultatov umetne inteligence, ne da bi jih obravnavali kot dokončen pravni nasvet, in vključitev osebnih podatkov in pravne podpore v pobude z visokim tveganjem.
Etika opisuje »kar je prav«; Po drugi strani pa skladnost opisuje, kaj "zahteva zakon" in katerega kršitev vodi do kazni, tožb in izgube ugleda. Za višje vodstvo je skladnost stvar osebne pravne odgovornosti; "Nisem vedel" ni obramba. V tej enoti bomo razpravljali o dveh najbolj kritičnih predpisih za umetno inteligenco: Zakonu o umetni inteligenci EU (Zakon EU o AI; celovit zakon Evropske unije, ki ureja umetno inteligenco glede na stopnjo tveganja) in KVKK (Zakon o varstvu osebnih podatkov; Turški zakon o varstvu osebnih podatkov je podoben GDPR v Evropi). Cilj ni postati odvetnik; Vedeti, kdaj se ustaviti in dobiti pravno podporo ter se izogniti slepim tveganjem.
Utemeljitev prava EU o AI: temelji na tveganju
Zakon EU o umetni inteligenci deli sisteme umetne inteligence v štiri kategorije glede na stopnjo tveganja in vsaki kategoriji nalaga različne obveznosti. Čeprav se v Turčiji ne izvaja neposredno; Zavezuje institucije, ki prodajajo izdelke/storitve v EU, imajo stranke iz EU ali obdelujejo podatke uporabnikov iz EU, in postaja svetovni standard.
Stopnja tveganja
primer
odgovornost
nesprejemljivo
Socialno točkovanje, manipulativni sistemi
prepovedano
visoko tveganje
Zaposlovanje, krediti, zdravstvo, kritična infrastruktura
Strogo: obvladovanje tveganja, kakovost podatkov, človeški nadzor, beleženje, preglednost
omejeno tveganje
Klepetalni robot, produktivna vsebina
Preglednost: obveščanje uporabnika, da gre za AI
minimalno tveganje
Filter neželene pošte, igra
Brezplačna, prostovoljna dobra praksa
Pomemben izraz: sistem z visokim tveganjem je aplikacija umetne inteligence, ki lahko neposredno vpliva na človekove temeljne pravice, varnost ali življenjske priložnosti (delovna mesta, krediti, izobraževanje, zdravje). Zakon za te sisteme je; Zahteva oceno tveganja, kakovostne in nepristranske podatke, človeški nadzor, tehnično dokumentacijo, vodenje evidenc in preglednost.
Nasvet: Ko ocenjujete pobudo za umetno inteligenco, se vprašajte: "Ali je ta sistem vpleten v odločitev, ki vpliva na službo, denar, zdravje ali svobodo osebe?" Če je odgovor pritrdilen, je verjetno visoko tveganje in zahteva posebno skrbnost s pravno podporo.
Osnovne obveznosti KVKK
KVKK ureja obdelavo osebnih podatkov (kateri koli podatek, ki naredi osebo specifično ali določljivo: ime, TR ID, e-pošta, lokacija, tudi vedenjski podatki). Kritične točke z vidika umetne inteligence:
- Pravna podlaga: Za obdelavo osebnih podatkov je potreben tehten razlog (izrecna privolitev, pogodba, zakoniti interes itd.).
- Omejitev namena: podatkov ni mogoče uporabiti za druge namene kot za namen, za katerega so bili zbrani. Uvedba podatkov, zbranih za določen namen, v usposabljanje za umetno inteligenco bo morda zahtevala dodatno podporo.
- Zmanjšanje podatkov: obdela se le toliko podatkov, kot je potrebno.
- Razkritje: zadevna oseba mora biti obveščena o tem, kako se njeni podatki obdelujejo.
- Prenos: Za prenos podatkov v tujino (na primer k čezmorskemu ponudniku umetne inteligence) veljajo posebna pravila.
- Samodejna odločitev: spoštovati je treba pravico do ugovora zoper popolnoma samodejne odločitve, ki zadevajo osebo.
Lepljenje podatkov o strankah v orodje AI pogosto pomeni »prenos podatkov v tujino« in »nenamerno obdelavo«; To je najpogostejša in najnevarnejša kršitev skladnosti.
Korak za korakom: preverjanje prileganja
1. Določite stopnjo tveganja. Kaj je sistem z nesprejemljivim/visokim/omejenim/minimalnim tveganjem?
2. Preverite, ali obstajajo osebni podatki. Kateri osebni podatki gredo kam, na kakšni podlagi?
3. Obveznosti tekem. Navedite pravne zahteve glede na stopnjo tveganja in status podatkov.
4. Pridobite pravno podporo. Vključite zakon v vsako pobudo, ki je visoko tvegana ali vključuje osebne podatke.
5. Dokumentirajte in spremljajte. Zabeležite odločitve o skladnosti, razkritja in preglede.
trije mini kovčki
Primer 1 – Tiha premestitev v tujino. Trgovec je poslal podatke čezmorskemu orodju AI za analizo pritožb strank. Pojasnilo tega ni zajemalo, podlage za prenos ni bilo. Prišlo je do kršitve v smislu KVKK; Med revizijo je obstajala nevarnost upravnih glob. Zavod je prešel na rešitev, ki obdeluje podatke doma in posodobil osvetlitev.
Primer 2 – Strogost sistema z visokim tveganjem. Podjetje za kadrovsko tehnologijo je podjetju AB prodajalo programsko opremo za zaposlovanje. V zakonodaji EU o AI je to veljalo za "visoko tveganje". Podjetje je vstopilo na trg gladko, saj je vnaprej pripravilo upravljanje s tveganji, dokazila o kakovosti podatkov, človeški nadzor in dokumentacijo. Nepripravljenemu tekmovalcu se je nastop zavlekel, ker ni mogel izpolniti istih obveznosti. Harmonija se je spremenila v konkurenčno prednost.
Primer 3 – Moč osvetlitve. Zavarovalnica je jasno razsvetlila stranke pri oblikovanju cen z umetno inteligenco in odprla pot nasprotovanju povsem avtomatiziranim odločitvam. Stranka je ugovarjala, človeško pregledano in podatkovna napaka je bila popravljena. Preglednost in pritožba nista le izpolnjevali zakonske zahteve, temveč sta tudi odkrili resnično napako.
Štiri predloge za kopiranje
1) Predhodna kontrola razvrstitve tveganja:
Vaša vloga: svetovalec za skladnost z umetno inteligenco (predhodna ocena, ne pravni nasvet).Razvrstite naslednji sistem glede na ravni tveganja v skladu z zakonom EU o umetni inteligenci: nesprejemljivo, visoko, omejeno, minimalno. Napišite svojo utemeljitev in katere glavne obveznosti se bodo pojavile; Navedite, da je za končno odločitev potrebna pravna podpora. Sistem: [besedilo]
2) Zemljevid pretoka osebnih podatkov:
Pri tej uporabi umetne inteligence preslikajte, kateri osebni podatki se obdelujejo, za kakšen namen se zbirajo in kam se prenašajo (predvsem v tujino). Označite tvegane točke v smislu KVKK in navedite, katera vprašanja zahtevajo pravno podporo. Uporaba: [besedilo]
3) Nadzor osvetlitve in nasprotovanja:
Preverite pojasnila KVKK in zahteve za ugovor samodejne odločitve za umetno inteligenco, ki se sooča s strankami: o čem mora biti uporabnik obveščen, kako naj se ugovor obdela? Navedite pomanjkljivosti. Uporaba: [besedilo]
4) Kontrolni seznam pripravljenosti za skladnost:
Izdelajte kontrolni seznam pripravljenosti za skladnost z zakonom EU o umetni inteligenci za naslednjo pobudo o umetni inteligenci z visokim tveganjem: obvladovanje tveganja, kakovost podatkov, človeški nadzor, dokumentacija, registracija, preglednost. Za vsako postavko napišite vprašanje, ki ga lahko ocenim kot "pripravljeno/nedokončano". Pobuda: [besedilo]
Šibek poziv/močan poziv
Slabo: "Ali je ta umetna inteligenca zakonita?"
Rezultat: Površen, nezanesljiv odgovor; AI ne more in ne sme zagotoviti dokončnega pravnega nasveta.
Güçlü: »Ocenjujem orodje za predhodni pregled zaposlovanja, ki se prodaja strankam v EU. Vnaprej ga razvrstite glede na ravni tveganja v skladu z zakonodajo EU o umetni inteligenci in navedite, katere obveznosti (obvladovanje tveganja, kakovost podatkov, človeški nadzor, dokumentacija) bodo nastale, če bo ocenjeno kot verjetno visoko tveganje. V zvezi s KVKK zastavite tudi vprašanja, kateri podatki kandidatov se obdelujejo in kako. Navedite, da je to predhodna ocena, za končno odločitev je potreben zakon."
Rezultat: Strukturirana predhodna ocena in priprava na pravno podporo; ni slepa klavzula "legal/not".
Pogoste napake
- Pričakujem dokončen pravni nasvet AI. Umetna inteligenca naredi predhodno oceno; Končna pravna odločitev je v rokah odvetnika.
- Ignoriranje prenosa podatkov v tujino. Vnos podatkov o strankah v zunanje orodje AI je pogosto kršitev skladnosti.
- Podcenjevanje sistema visokega tveganja. Sistemi, vključeni v poslovne, kreditne in zdravstvene odločitve, zahtevajo posebno skrb.
- Mimo pravice do obveščenosti in ugovora. Preglednost in pritožba sta pravni zahtevi za avtomatizirane odločitve, ki zadevajo posameznike.
- Misliti, da je harmonija enkratna stvar. Spremembe zakonodaje in sistemov; Skladnost je treba stalno spremljati.
Pozor: Informacije v tej enoti so namenjene splošnemu ozaveščanju in niso pravni nasvet. Rezultati umetne inteligence tudi niso pravni nasveti. Pri vsaki pobudi, ki obdeluje osebne podatke ali je visoko tvegana, je pred odločitvijo obvezen posvet z usposobljenim pravnim strokovnjakom. Stroški kršitev skladnosti eksponentno rastejo v obliki glob, tožb in izgube ugleda.
Če povzamem
Skladnost je minimum, ki ga zahteva zakon, njena kršitev pa nalaga upravniku pravno odgovornost. Zakon EU o AI ureja UI glede na stopnjo tveganja (nesprejemljivo, visoko, omejeno, minimalno); Obvladovanje tveganja, kakovost podatkov, človeški nadzor in preglednost so bistveni za sisteme z visokim tveganjem. KVKK pa zahteva, da so osebni podatki v skladu s pravnimi podlagami, omejitvijo namena, minimizacijo, razkritjem in mednarodnimi pravili prenosa; Vnos podatkov o strankah v zunanje orodje AI je najpogostejša kršitev. AI lahko naredi samo predhodne ocene; Za dokončno pravno odločitev je treba pridobiti strokovno podporo. V naslednji enoti bomo razpravljali o ekipi in strukturi kompetenc, ki bo izvajala to celotno strategijo.
Aplikacijska naloga
Izberite primer uporabe AI. 1. Vnaprej razvrstite stopnjo tveganja v skladu z Zakonom o AI s predlogo. 2. Preslikajte tok osebnih podatkov s predlogo in ugotovite, ali gre za mednarodni prenos. Zapišite dve najbolj kritični vprašanji glede skladnosti, ki se pojavita, in zabeležite, h kateremu pravnemu viru/strokovnjaku bi ju usmerili. Ne sprejemajte dokončnih pravnih odločitev; samo razjasni vprašanja.
kontrolni seznam
- [ ] Vnaprej sem določil stopnjo tveganja sistema v skladu z Zakonom o AI AI.
- [ ] Če gre za visoko tveganje, sem navedel ustrezne obveznosti.
- [ ] Preslikal sem obdelane osebne podatke in njihovo osnovo.
- [ ] Preveril sem, ali obstaja prenos podatkov v tujini.
- [ ] Pregledal sem zahtevo po informacijah in pravico do ugovora.
- [ ] Pripravil sem kritična vprašanja o skladnosti za pravno podporo.
- [ ] Rezultata umetne inteligence nisem štel za dokončen pravni nasvet.