zisky:
- Pochopte logiku práva EÚ o umelej inteligencii založenú na riziku (neprijateľné, vysoké, obmedzené, minimálne) a povinnosti vysokorizikových systémov
- Schopnosť odhaliť riziká spracúvania osobných údajov, obmedzenia účelu, zverejnenia a medzinárodného prenosu v podmienkach KVKK pri využívaní umelej inteligencie
- Schopnosť predbežne vyhodnotiť výstupy umelej inteligencie bez toho, aby sa považovali za definitívne právne poradenstvo a zahrnúť osobné údaje a právnu podporu do vysoko rizikových iniciatív.
Etika popisuje „čo je správne“; Súlad na druhej strane popisuje, čo „vyžaduje zákon“ a čo vedie k sankciám, súdnym sporom a strate dobrého mena. Pre vyššieho riadiaceho pracovníka je súlad vecou osobnej právnej zodpovednosti; „Nevedel som“ nie je obhajoba. V tejto časti rozoberieme dve najdôležitejšie nariadenia pre umelú inteligenciu: zákon EÚ o umelej inteligencii (zákon EÚ o AI; komplexný zákon Európskej únie upravujúci umelú inteligenciu podľa úrovne rizika) a KVKK (zákon o ochrane osobných údajov; zákon o ochrane osobných údajov v Türkiye je podobný GDPR v Európe). Cieľom nie je stať sa právnikom; Vedieť, kedy prestať a získať právnu podporu, a vyhnúť sa slepým rizikám.
Odôvodnenie zákona EÚ o umelej inteligencii: založené na riziku
Zákon EÚ o umelej inteligencii rozdeľuje systémy umelej inteligencie do štyroch kategórií podľa úrovne rizika a pre každú kategóriu ukladá iné povinnosti. Hoci to nie je priamo implementované v Türkiye; Zaväzuje inštitúcie, ktoré predávajú produkty/služby do EÚ, majú zákazníkov v EÚ alebo spracúvajú údaje používateľov z EÚ, a stáva sa celosvetovým štandardom.
Úroveň rizika
príklad
zodpovednosti
neprijateľné
Sociálne skórovanie, manipulačné systémy
zakázané
vysoké riziko
Nábor, úver, zdravotná starostlivosť, kritická infraštruktúra
Prísne: riadenie rizík, kvalita údajov, ľudský dohľad, zaznamenávanie, transparentnosť
obmedzené riziko
Chatbot, produktívny obsah
Transparentnosť: upozornenie používateľa, že ide o AI
minimálne riziko
Spamový filter, hra
Bezplatné, dobrovoľné osvedčené postupy
Dôležitý pojem: vysokorizikový systém je aplikácia umelej inteligencie, ktorá môže priamo ovplyvniť základné práva ľudí, bezpečnosť alebo životné príležitosti (zamestnanie, kredit, vzdelanie, zdravie). Zákon pre tieto systémy je; Nariaďuje hodnotenie rizík, kvalitné a neskreslené údaje, ľudský dohľad, technickú dokumentáciu, vedenie záznamov a transparentnosť.
Tip: Pri hodnotení iniciatívy AI si položte otázku: „Podieľa sa tento systém na rozhodnutí, ktoré ovplyvňuje prácu, peniaze, zdravie alebo slobodu osoby?“ Ak je odpoveď áno, je to pravdepodobne vysoké riziko a vyžaduje si osobitnú starostlivosť s právnou podporou.
Základné povinnosti KVKK
KVKK upravuje spracúvanie osobných údajov (akékoľvek informácie, ktoré robia osobu konkrétnou alebo identifikovateľnou: meno, TR ID, e-mail, miesto, dokonca aj údaje o správaní). Kritické body z hľadiska umelej inteligencie:
- Právny základ: Na spracovanie osobných údajov je potrebný platný dôvod (výslovný súhlas, zmluva, oprávnený záujem atď.).
- Obmedzenie účelu: Údaje nemožno použiť na iné účely, ako je účel, na ktorý boli zhromaždené. Zavedenie údajov zozbieraných na určitý účel do školenia o umelej inteligencii si môže vyžadovať ďalšiu podporu.
- Minimalizácia údajov: Spracuje sa len toľko údajov, koľko je potrebné.
- Zverejnenie: Dotknutá osoba musí byť informovaná o tom, ako sa jej údaje spracúvajú.
- Prenos: Prenos údajov do zahraničia (napríklad zámorskému poskytovateľovi umelej inteligencie) podlieha osobitným pravidlám.
- Automatické rozhodnutie: Malo by sa rešpektovať právo namietať proti úplne automatickým rozhodnutiam, ktoré sa dotýkajú osoby.
Vkladanie údajov o zákazníkoch do nástroja AI často predstavuje „prenos údajov do zahraničia“ a „neúmyselné spracovanie“; Toto je najbežnejšie a najnebezpečnejšie porušenie súladu.
Krok za krokom: kontrola vhodnosti
1. Určite úroveň rizika. Aký je systém s neprijateľným/vysokým/obmedzeným/minimálnym rizikom?
2. Skontrolujte, či existujú osobné údaje. Ktoré osobné údaje kam smerujú, na akom základe?
3. Zápasové povinnosti. Uveďte právne požiadavky na základe úrovne rizika a stavu údajov.
4. Získajte právnu podporu. Zapojte zákon do každej iniciatívy, ktorá je vysoko riziková alebo sa týka osobných údajov.
5. Dokumentujte a monitorujte. Zaznamenajte rozhodnutia o súlade, zverejnenia a kontroly.
tri mini prípady
Prípad 1 – Tichý prevod do zahraničia. Maloobchodník odoslal údaje do zámorského nástroja AI na analýzu sťažností zákazníkov. Objasňujúci text to nezahŕňal, neexistoval žiadny základ na prevod. Došlo k porušeniu v zmysle KVKK; Počas auditu hrozili správne pokuty. Inštitúcia prešla na riešenie, ktoré spracováva údaje na domácom trhu a aktualizuje osvetlenie.
Prípad 2 – Prísnosť vysokorizikového systému. Spoločnosť zaoberajúca sa technológiou ľudských zdrojov predávala náborový softvér spoločnosti AB. V zákone EÚ o umelej inteligencii sa to považovalo za „vysoké riziko“. Spoločnosť vstúpila na trh hladko, pretože si vopred pripravila riadenie rizík, evidenciu kvality dát, ľudský dohľad a dokumentáciu. Prístup nepripraveného konkurenta bol oneskorený, pretože nemohol splniť rovnaké povinnosti. Harmónia sa zmenila na konkurenčnú výhodu.
Prípad 3 – Sila osvetlenia. Poisťovňa jednoznačne osvietila zákazníkov pri cenotvorbe umelou inteligenciou a otvorila cestu námietkam k úplne automatizovaným rozhodnutiam. Zákazník podal námietku, človek to skontroloval a chyba údajov bola opravená. Transparentnosť a odvolanie nielenže splnili zákonnú požiadavku, ale zaznamenali aj skutočnú chybu.
Štyri kopírovateľné šablóny
1) Predbežná kontrola klasifikácie rizika:
Vaša úloha: Poradca pre dodržiavanie AI (predbežné hodnotenie, nie právne poradenstvo). Klasifikujte nasledujúci systém podľa úrovne rizika zákona EÚ o AI: neprijateľné, vysoké, obmedzené, minimálne. Napíšte svoje zdôvodnenie a aké hlavné povinnosti z toho vyplynú; Uveďte, že na konečné rozhodnutie je potrebná právna podpora. Systém: [text]
2) Mapa toku osobných údajov:
Pri tomto využívaní umelej inteligencie zmapujte, ktoré osobné údaje sa spracúvajú, na aký účel sa zhromažďujú a kam sa prenášajú (najmä do zahraničia). Označte rizikové body z hľadiska KVKK a uveďte, ktoré problémy vyžadujú právnu podporu. Použitie: [text]
3) Ovládanie osvetlenia a námietok:
Skontrolujte požiadavky na objasnenie KVKK a automatické rozhodnutie o námietkach pre umelú inteligenciu orientovanú na zákazníka: o čom by mal byť používateľ informovaný, ako by sa mala námietka spracovať? Uveďte nedostatky. Použitie: [text]
4) Kontrolný zoznam pripravenosti na zhodu:
Vytvorte kontrolný zoznam pripravenosti na dodržiavanie zákona o umelej inteligencii EÚ pre nasledujúcu vysoko rizikovú iniciatívu AI: riadenie rizík, kvalita údajov, ľudský dohľad, dokumentácia, registrácia, transparentnosť. Ku každej položke napíšte otázku, ktorú môžem vyhodnotiť ako „pripravenú/nekompletnú“. Iniciatíva: [text]
Slabá výzva / Silná výzva
Slabý: "Je táto AI legálna?"
Výsledok: povrchná, nespoľahlivá odpoveď; AI nemôže a nemala by poskytovať definitívne právne poradenstvo.
Güçlü: "Hodnotím nástroj predbežného skríningu náboru predávaný zákazníkom v EÚ. Predklasifikujte ho podľa úrovní rizika AI zákona EÚ a uveďte, aké povinnosti (riadenie rizík, kvalita údajov, ľudský dohľad, dokumentácia) vyplynú, ak sa bude považovať za pravdepodobne vysokorizikové. Tiež, pokiaľ ide o KVKK, položte otázky, ktoré potrebujem, aby som sa spýtal, ktoré údaje štátov, ktoré sa majú spracovať, je konečné rozhodnutie a akým spôsobom."
Výsledok: Štruktúrované predbežné posúdenie a príprava na právnu podporu; nie slepá klauzula „právna/nie“.
Časté chyby
- Očakávame definitívnu právnu radu od AI. Umelá inteligencia robí predbežné hodnotenie; Konečné právne rozhodnutie patrí právnikovi.
- Ignorovanie prenosu údajov do zahraničia. Zadávanie údajov o zákazníkoch do externého nástroja AI je často porušením pravidiel.
- Podcenenie vysokorizikového systému. Systémy zapojené do obchodných, úverových a zdravotných rozhodnutí si vyžadujú osobitnú starostlivosť.
- Obchádzanie práva na informácie a námietky. Transparentnosť a odvolanie sú zákonné požiadavky na automatizované rozhodnutia ovplyvňujúce jednotlivcov.
- Myslieť si, že harmónia je jednorazová záležitosť. Zmena legislatívy a systémov; Súlad sa musí neustále monitorovať.
Upozornenie: Informácie v tejto jednotke slúžia na všeobecné povedomie a nie sú právne rady. Výstup umelej inteligencie tiež nie je právnym poradenstvom. Pri akejkoľvek iniciatíve, ktorá spracúva osobné údaje alebo je vysoko riziková, je pred prijatím rozhodnutia povinná konzultácia s kvalifikovaným právnym odborníkom. Náklady na porušenie predpisov exponenciálne rastú vo forme pokút, súdnych sporov a straty dobrého mena.
V súhrne
Dodržiavanie je minimum vyžadované zákonom a jeho porušenie zakladá právnu zodpovednosť manažéra. Zákon EÚ o umelej inteligencii upravuje umelú inteligenciu podľa úrovne rizika (neprijateľné, vysoké, obmedzené, minimálne); Riadenie rizík, kvalita údajov, ľudský dohľad a transparentnosť sú nevyhnutné pre vysokorizikové systémy. KVKK na druhej strane vyžaduje, aby osobné údaje boli v súlade s právnym základom, obmedzením účelu, minimalizáciou, zverejňovaním a pravidlami medzinárodného prenosu; Zadávanie údajov o zákazníkoch do externého nástroja AI je najčastejším porušením. AI môže robiť len predbežné hodnotenia; Pre definitívne právne rozhodnutie je potrebné získať odbornú podporu. V ďalšej časti si rozoberieme tím a kompetenčnú štruktúru, ktorá bude implementovať celú túto stratégiu.
Aplikačná úloha
Vyberte prípad použitia AI. 1. Predklasifikujte úroveň rizika zákona EÚ o AI pomocou šablóny. 2. Zmapujte tok osobných údajov pomocou šablóny a zistite, či ide o medzinárodný prenos. Zapíšte si dve najkritickejšie otázky týkajúce sa dodržiavania predpisov, ktoré vyvstanú, a poznačte si, na ktorý právny zdroj/odborníka by ste ich nasmerovali. Nerobte žiadne konečné právne rozhodnutia; len si ujasni otazky.
kontrolný zoznam
- [ ] Predbežne som klasifikoval úroveň rizika systému podľa zákona EÚ o AI.
- [ ] Ak ide o vysoké riziko, uviedol som príslušné záväzky.
- [ ] Zmapoval som spracúvané osobné údaje a ich základ.
- [ ] Skontroloval som, či dochádza k prenosu dát do zahraničia.
- [ ] Skontroloval som požiadavku na informácie a právo namietať.
- [ ] Pripravil som kritické otázky týkajúce sa súladu pre právnu podporu.
- [ ] Výstup AI som nepovažoval za definitívnu právnu radu.