zisky:
- Uznávajúc štyri rizikové triedy a zakázané praktiky zákona EÚ o umelej inteligencii
- Primerané vyhodnotenie, do ktorej rizikovej kategórie patrí použitie
- Pochopte, prečo vysoké riziko a záväzky súvisiace s AI majú vplyv na turecké spoločnosti
Zákon EÚ o umelej inteligencii (EU AI Act), ktorý nadobudne účinnosť v roku 2024, je prvým komplexným nariadením o umelej inteligencii na svete a jeho vplyv ďaleko presahuje hranice Európskej únie. Tento zákon môže byť priamo záväzný pre spoločnosť so sídlom v Türkiye, ktorá však slúži trhu EÚ, má zákazníkov z EÚ alebo predáva výrobky do EÚ. V tejto lekcii sa naučíte základnú logiku zákona – jeho prístup založený na riziku – s jeho štyrmi triedami, zakázanými praktikami a vysoko rizikovými záväzkami; Pokúsime sa vyhodnotiť, do akej škatuľky použitie patrí.
Základná myšlienka: čím vyššie riziko, tým prísnejšie pravidlo
Zákon EÚ o umelej inteligencii nehádže všetky AI dohromady. Rozdeľuje systém umelej inteligencie do štyroch kategórií podľa jeho potenciálnej škodlivosti a pre každú kategóriu ukladá iné povinnosti. Hudobné odporúčanie nenesie rovnaké riziko ako systém skríningu náboru; Zákon na nich neuplatňuje rovnaké pravidlo. Tento prístup založený na riziku je základom zákona.
Riziková trieda
Význam
príklad
pravidlo
Zakázané (neprijateľné)
Otvorené ohrozenie základných práv
Sociálne bodovanie, podvedomá manipulácia
úplný zákaz
vysoké riziko
Vážne ovplyvňuje ľudský život
Nábor, úver, zdravotná starostlivosť, vzdelávanie, kritická infraštruktúra
Objektívna zodpovednosť
obmedzené riziko
Vyžaduje transparentnosť
Chatovací robot, deepfake, obsah AI
Informácie sú povinné
minimálne riziko
Bezvýznamné riziko
Spamový filter, herná AI, odporúčací nástroj
zadarmo
Zakázané aplikácie: červená čiara
Niektoré použitia AI sa považujú za také škodlivé, že ich nemožno uvoľniť bez ohľadu na to, do akej miery sa zníži riziko. Tieto patria do kategórie zakázaných (neprijateľné riziko):
- Štátom podporované sociálne bodovanie (bodovanie ľudí podľa ich správania/vlastností a ich znevýhodňovanie).
- Systémy, ktoré manipulujú s podvedomím ľudí a spôsobujú škody.
- Systémy, ktoré využívajú zraniteľné miesta, ako je vek a zdravotné postihnutie.
- Určité aplikácie biometrickej identifikácie a hromadného sledovania v reálnom čase (s úzkymi výnimkami).
- Špecifické aplikácie, ako je rozpoznávanie emócií na pracovisku a vzdelávanie.
Pozor: Skutočnosť, že použitie patrí do kategórie „zakázané“, nie je prekážkou, ktorú možno prekonať vyslovením „mám na to dobrý dôvod“. Tieto praktiky sú úplne zakázané; nemožno uvoľniť ani pri opatreniach na zníženie rizika. Prvá kontrola, ktorú treba vykonať, je, či je projekt zahrnutý v tomto zozname.
Vysoko rizikové záväzky
Vysokorizikové systémy nie sú zakázané, ale podliehajú prísnym podmienkam. Typické vysoko rizikové oblasti: nábor a riadenie zamestnancov, úvery a poistenie, vzdelávanie a hodnotenie skúšok, zdravotná starostlivosť, kritická infraštruktúra, presadzovanie práva a imigrácia. Typické povinnosti v týchto systémoch:
- Zavedenie a udržiavanie systému riadenia rizík.
- Riadenie kvality údajov a skreslenia (reprezentatívne a presné údaje zo školenia).
- Technická dokumentácia a vedenie záznamov (sledovateľnosť).
- Transparentnosť a poskytovanie informácií používateľovi.
- Ľudská kontrola (ľudská schopnosť zasiahnuť a potlačiť).
- Presnosť, robustnosť a záruky kybernetickej bezpečnosti.
Povinnosti AI (GPAI) na všeobecné použitie
Zákon ukladá špecifické povinnosti týkajúce sa transparentnosti a dokumentácie pre všeobecné modely AI (GPAI) – teda viacúčelové základné modely, ako sú veľké jazykové modely –, ako aj pre jednotlivé použitia: poskytovanie súhrnov o tréningových údajoch, politika dodržiavania autorských práv, dodatočné hodnotenie modelov so systémovým rizikom. Ak organizácia začlení tieto modely do svojho vlastného produktu, niektoré z týchto záväzkov sa môžu prejaviť v reťazci.
tri mini prípady
Prípad 1 – Skríning náboru (vysoké riziko). Softvérová spoločnosť v Izmire vyvíja náborovú platformu, ktorá slúži spoločnostiam z EÚ; Systém automaticky boduje a vyraďuje kandidátov. Ide o oblasť, ktorú zákon jednoznačne považuje za vysoko rizikovú. Spoločnosť; musia spĺňať povinnosti týkajúce sa kvality údajov, testovania skreslenia, ľudského auditu a dokumentácie. Argument „Sme v Turecku, to nás nezaväzuje“ je neplatný; Keďže sa systém používa na trhu EÚ, platí zákon.
Prípad 2 – Zákaznícky chatbot (obmedzené riziko). Stránka elektronického obchodu využíva chatbota, ktorý slúži svojim zákazníkom z EÚ. Ide o kategóriu obmedzeného rizika; Hlavnou povinnosťou je transparentnosť: používateľ musí byť jasne informovaný, že „hovoríte s umelou inteligenciou“. Skrytie tohto je porušením; Stačí špecifikovať.
Prípad 3 – Približovanie sa k zakázanej čiare. Maloobchodný reťazec chce analyzovať emocionálne reakcie zákazníkov prostredníctvom kamier v obchodoch a udeliť skóre „potenciálny zlodej“. Toto spadá do zakázanej/veľmi vysoko rizikovej oblasti s dimenziami rozpoznávania emócií aj bodovania. Právny tím zastaví projekt vo fáze návrhu; Je jasné, že ho nemožno realizovať ani s opatreniami na zníženie rizika.
Tip: Prvá otázka pri spustení nového projektu AI je „ako je to užitočné? ale skôr "do akej rizikovej triedy to patrí?" by mal byť. Uskutočnenie klasifikácie na prvom mieste zabráni plytvaniu zdrojmi na projekt, ktorý bude neskôr zrušený.
Kopírovateľné šablóny
ŠABLONA 1 – Predbežné hodnotenie triedy rizika: „Predbežne vyhodnoťte nasledujúce použitie umelej inteligencie podľa zákona EÚ o umelej inteligencii: [opíšte použitie]. Uveďte, do ktorej triedy rizika (zakázané / vysoké / obmedzené / minimálne) môže spadať, s odôvodnením. Body, o ktorých si nie ste istí, označte ako „vyžaduje sa právne potvrdenie“; nevytvárajte konečný právny úsudok.“
ŠABLÓNA 2 — Skenovanie zakázaných aplikácií: „Naskenujte nasledujúci nápad projektu iba v porovnaní so zoznamom zakázaných aplikácií zákona o umelej inteligencii EÚ: [popíšte projekt]. Existuje riziko z hľadiska sociálneho bodovania, podvedomej manipulácie, zneužívania zraniteľnosti, neoprávneného biometrického sledovania, rozpoznávania emócií? Do každého nadpisu napíšte áno/nie a odôvodnenie.“
ŠABLÓNA 3 — Kontrolný zoznam vysokorizikovej zodpovednosti: „Pre toto vysokorizikové použitie AI [popíšte použitie] vytvorí tabuľku „aká je naša súčasná situácia, čo chýba“ v šiestich hlavičkách zodpovednosti (riadenie rizík, kvalita údajov, dokumentácia, transparentnosť, ľudský audit, robustnosť). V každom riadku navrhnite konkrétnu akciu.“
ŠABLÓNA 4 – Oznámenie o transparentnosti (obmedzené riziko): „Pre chatbota slúžiaceho používateľom z EÚ napíšte krátke upozornenie „hovoríte s AI“, ktoré sa zobrazí používateľovi. Jednoduché, upokojujúce, maximálne 2 vety. Zahrňte možnosť prepnúť na ľudského agenta.“
Slabá výzva / Silná výzva
SLABÝ: „Týka sa nás zákon EÚ o umelej inteligencii?“-> Model dáva všeobecnú odpoveď; Neklasifikuje vaše konkrétne použitie, nehodnotí vaše prepojenie na trh EÚ. GÜÇLÜ: "Sme spoločnosť so sídlom v Izmire, predávame náborovú a skríningovú AI spoločnosti v Nemecku. Aká riziková trieda tohto použitia spadá pod zákon EÚ o AI, aké povinnosti na nás pripadajú a prečo nás pobyt v Turecku neoslobodzuje? Označte, kde si nie ste istí." -> Model vytvára kontextovo špecifickú klasifikáciu a zoznam zodpovednosti.
Časté chyby
- Myslenie „Sme v Turecku, právo EÚ nás nezaväzuje“; Stačí sa však dotknúť trhu EÚ.
- Klasifikácia rizík po vypracovaní projektu; Malo by sa to však urobiť v prvom rade.
- Pomýliť si zakázanú prax ako prekážku, ktorú možno prekonať s „dobrým odôvodnením“.
- Obchádzanie hlásenia o transparentnosti v systémoch s obmedzeným rizikom (robot vyzerá ako človek).
- Zanedbávanie ľudského auditu a riadenia predsudkov z vysoko rizikových záväzkov.
- Ak sa prehliadne, že všeobecné záväzky AI (GPAI) sa môžu prejaviť v reťazci.
- Vymieňať si zákon EÚ o umelej inteligencii s KVKK; sú odlišné, ale dopĺňajú sa.
V súhrne
- Zákon EÚ o umelej inteligencii využíva prístup založený na riziku a rozdeľuje umelú inteligenciu do štyroch tried: zakázaná, vysoká, obmedzená, minimálna.
- Zakázané praktiky (sociálne bodovanie, manipulácia a pod.) nie je možné uvoľniť ani pri znížení rizika.
- Vysoko rizikové systémy; Podlieha prísnym povinnostiam, ako je riadenie rizík, kvalita údajov, ľudská kontrola a dokumentácia.
- V systémoch s obmedzeným rizikom je hlavnou povinnosťou transparentnosť (nahlasovanie, že existuje AI).
- Zákon sa týka aj tureckých spoločností, ktoré sa dotýkajú trhu EÚ; Klasifikácia by sa mala vykonať na samom začiatku projektu.
Aplikačná úloha
Zvážte tri rôzne použitia AI, ktoré by vaša organizácia (alebo fiktívna spoločnosť) mohla použiť vo vzťahu k trhu EÚ. Každý zaraďte do jednej zo štyroch tried rizika podľa zákona EÚ o umelej inteligencii a napíšte svoje odôvodnenie. Umiestnite šesť vysokorizikových povinností pre použitie, ktoré považujete za najvyššie riziko, do kontrolnej tabuľky: vyplňte stĺpce „aktuálny stav“ a „neúplné/akcia“. Napíšte vyhlásenie o transparentnosti, ktoré sa zobrazí používateľovi pri použití, ktoré spadá do kategórie obmedzeného rizika. Nakoniec, ak sa niektoré z vašich použití blíži k zakázanej hranici, všimnite si to a prečo.
kontrolný zoznam
- [ ] Každé použitie AI som zaradil do jednej zo štyroch rizikových tried.
- [ ] Skontroloval som svoje projekty podľa zoznamu zakázaných aplikácií.
- [ ] Vytvoril som kontrolnú tabuľku zodpovednosti pre vysoko rizikové použitie.
- [ ] Do povinností som zahrnul ľudský audit a riadenie zaujatosti.
- [ ] Pripravil som vyhlásenie o transparentnosti pre použitie s obmedzeným rizikom.
- [ ] Rozumiem, prečo moje spojenie s trhom EÚ vyvolalo zákon.
- [ ] Klasifikáciu rizika som robil na začiatku projektu, nie na konci.