zisky:
- Uznání čtyř rizikových tříd a zakázaných praktik v zákoně EU o umělé inteligenci
- Přiměřené vyhodnocení, do jaké kategorie rizika dané použití spadá
- Pochopte, proč vysoké riziko a závazky související s AI mají dopad na turecké společnosti
Zákon EU o umělé inteligenci (EU AI Act), který vstoupí v platnost v roce 2024, je prvním komplexním nařízením o umělé inteligenci na světě a jeho dopad daleko přesahuje hranice Evropské unie. Tento zákon může být přímo závazný pro společnost se sídlem v Türkiye, která však slouží trhu EU, má zákazníky z EU nebo prodává produkty do EU. V této lekci se naučíte základní logiku zákona – jeho přístup založený na riziku – s jeho čtyřmi třídami, zakázanými praktikami a vysoce rizikovými závazky; Pokusíme se vyhodnotit, do jaké škatulky použití spadá.
Základní myšlenka: čím vyšší riziko, tím přísnější pravidlo
Zákon EU o umělé inteligenci neskládá všechny umělé inteligence dohromady. Rozděluje systém umělé inteligence do čtyř kategorií podle jeho potenciální škodlivosti a ukládá pro každou kategorii jiné povinnosti. Doporučení hudby nenese stejné riziko jako systém prověřování náboru; Zákon na ně stejné pravidlo nevztahuje. Tento přístup založený na riziku je páteří zákona.
Riziková třída
Význam
příklad
pravidlo
Zakázáno (nepřijatelné)
Otevřené ohrožení základních práv
Sociální bodování, podvědomá manipulace
úplný zákaz
vysoké riziko
Vážně ovlivňuje lidský život
Nábor, úvěr, zdravotnictví, vzdělávání, kritická infrastruktura
Objektivní odpovědnost
omezené riziko
Vyžaduje transparentnost
Chatovací robot, deepfake, obsah AI
Informace jsou povinné
minimální riziko
Bezvýznamné riziko
Spamový filtr, herní AI, doporučovací engine
zdarma
Zakázané aplikace: červená čára
Některá použití umělé inteligence jsou považována za tak škodlivá, že je nelze uvolnit bez ohledu na to, jak velké riziko je sníženo. Tyto patří do kategorie zakázaných (nepřijatelné riziko):
- Státem podporované sociální bodování (bodování lidí podle jejich chování/charakteristiky a jejich znevýhodňování).
- Systémy, které manipulují s podvědomím lidí a způsobují škody.
- Systémy, které využívají slabá místa, jako je věk a zdravotní postižení.
- Některé aplikace biometrické identifikace a hromadného sledování v reálném čase (až na úzké výjimky).
- Specifické aplikace, jako je rozpoznávání emocí na pracovišti a ve vzdělávání.
Pozor: Skutečnost, že je použití v kategorii „zakázané“, není překážkou, kterou lze překonat vyslovením „mám dobrý důvod“. Tyto praktiky jsou zcela zakázány; nelze uvolnit ani pomocí opatření ke snížení rizika. Nejprve je třeba zkontrolovat, zda je projekt zahrnut v tomto seznamu.
Vysoce rizikové závazky
Vysoce rizikové systémy nejsou zakázány, ale podléhají přísným podmínkám. Typické vysoce rizikové oblasti: nábor a řízení zaměstnanců, úvěry a pojištění, vzdělávání a hodnocení zkoušek, zdravotnictví, kritická infrastruktura, vymáhání práva a imigrace. Typické povinnosti v těchto systémech:
- Zavedení a udržování systému řízení rizik.
- Řízení kvality dat a zkreslení (reprezentativní a přesné údaje o školení).
- Technická dokumentace a vedení záznamů (sledovatelnost).
- Transparentnost a poskytování informací uživateli.
- Lidská kontrola (lidská schopnost zasáhnout a potlačit).
- Přesnost, robustnost a záruky kybernetické bezpečnosti.
Povinnosti obecné AI (GPAI).
Zákon ukládá zvláštní povinnosti týkající se transparentnosti a dokumentace pro obecné modely umělé inteligence (GPAI) – tedy víceúčelové základní modely, jako jsou velké jazykové modely – a také pro jednotlivá použití: poskytování souhrnů školicích dat, zásady dodržování autorských práv, dodatečné hodnocení pro modely se systémovým rizikem. Pokud organizace začlení tyto modely do svého vlastního produktu, některé z těchto závazků se mohou projevit v řetězci.
tři mini pouzdra
Případ 1 – Prověřování náboru (vysoké riziko). Softwarová společnost v Izmiru vyvíjí náborovou platformu, která slouží společnostem z EU; Systém automaticky boduje a vyřazuje kandidáty. To je oblast, kterou zákon jednoznačně považuje za vysoce rizikovou. Společnost; musí splňovat povinnosti týkající se kvality dat, testování zkreslení, lidského auditu a dokumentace. Argument "Jsme v Turecku, to nás nezavazuje" je neplatný; Jelikož je systém používán na trhu EU, platí zákon.
Případ 2 — Zákaznický chatbot (omezené riziko). Web elektronického obchodu nasazuje chatbota obsluhujícího své zákazníky z EU. Toto je v kategorii omezeného rizika; Hlavní povinností je transparentnost: uživatel musí být jasně informován, že „mluvíte s umělou inteligencí“. Skrytí tohoto je porušení; Stačí upřesnit.
Případ 3 – Přiblížení k zakázané čáře. Maloobchodní řetězec chce analyzovat emocionální reakce zákazníků prostřednictvím kamer obchodů a udělit skóre „potenciální zloděj“. To spadá do zakázané/velmi vysoce rizikové oblasti s dimenzemi rozpoznávání emocí i bodování. Právní tým zastaví projekt ve fázi návrhu; Je jasné, že ji nelze realizovat ani s opatřeními snižujícími rizika.
Tip: První otázkou při spouštění nového projektu umělé inteligence je „jak je to užitečné? ale spíše "do jaké rizikové třídy to spadá?" by měl být. Tím, že provedete klasifikaci na prvním místě, zabráníte plýtvání zdroji na projekt, který bude později zrušen.
Kopírovatelné šablony
ŠABLONA 1 — Předběžné posouzení třídy rizika: „Předběžně vyhodnoťte následující použití umělé inteligence podle zákona EU o umělé inteligenci: [popište použití]. Uveďte, do které třídy rizika (zakázané / vysoké / omezené / minimální) může spadat, s odůvodněním. Označte body, u kterých si nejste jisti, jako ‚vyžaduje se právní potvrzení‘; nevytvářejte definitivní právní úsudek."
ŠABLONA 2 — Skenování zakázaných aplikací: "Naskenujte následující myšlenku projektu pouze podle seznamu zakázaných aplikací podle zákona o umělé inteligenci EU: [popište projekt]. Existuje riziko z hlediska sociálního bodování, podvědomé manipulace, zneužívání zranitelnosti, neoprávněného biometrického sledování, rozpoznávání emocí? Do každého nadpisu napište ano/ne a odůvodnění."
ŠABLONA 3 — Kontrolní seznam odpovědnosti za vysoké riziko: „Pro toto vysoce rizikové použití umělé inteligence [popište použití] vytvoří tabulku ‚jaká je naše současná situace, co chybí‘ v šesti položkách odpovědnosti (řízení rizik, kvalita dat, dokumentace, transparentnost, lidský audit, robustnost). V každém řádku navrhněte konkrétní akci.“
ŠABLONA 4 — Oznámení o transparentnosti (omezené riziko): "Pro chatbota obsluhujícího uživatele z EU napište krátké upozornění "mluvíte s AI", které se zobrazí uživateli. Jednoduché, uklidňující, maximálně 2 věty. Zahrňte možnost přepnout na lidského agenta."
Slabá výzva / Silná výzva
SLABÝ: „Týká se nás zákon EU o umělé inteligenci?“-> Model dává obecnou odpověď; Neklasifikuje vaše konkrétní použití, nehodnotí vaše napojení na trh EU. GÜÇLÜ: "Jsme společnost se sídlem v Izmiru, prodáváme náborovou a screeningovou AI společnosti v Německu. Do jaké třídy rizika toto použití spadá pod zákon EU o AI, jaké povinnosti na nás připadají a proč nás pobyt v Turecku neosvobozuje? Označte tam, kde si nejste jisti." -> Model vytváří kontextově specifickou klasifikaci a seznam odpovědnosti.
Časté chyby
- Myšlení „Jsme v Turecku, právo EU nás nezavazuje“; Stačí se však dotknout trhu EU.
- Klasifikace rizik po vypracování projektu; Mělo by se to však udělat v první řadě.
- Zaměnit zakázanou praktiku za překážku, kterou lze překonat s „dobrým odůvodněním“.
- Obcházení hlášení transparentnosti v systémech s omezeným rizikem (aby robot vypadal jako člověk).
- Zanedbávání lidských auditů a řízení předsudků z vysoce rizikových závazků.
- Přehlédneme-li, že obecné závazky AI (GPAI) se mohou odrážet v řetězci.
- Vyměňte si zákon EU o umělé inteligenci s KVKK; jsou různé, ale doplňují se.
V souhrnu
- Zákon EU o umělé inteligenci zaujímá přístup založený na riziku a rozděluje umělou inteligenci do čtyř tříd: zakázaná, vysoká, omezená, minimální.
- Zakázané praktiky (sociální bodování, manipulace atd.) nelze uvolnit ani při snížení rizika.
- Vysoce rizikové systémy; Podléhá přísným povinnostem, jako je řízení rizik, kvalita dat, lidská kontrola a dokumentace.
- V systémech s omezeným rizikem je hlavní povinností transparentnost (hlášení, že existuje AI).
- Zákon se rovněž týká tureckých společností, které se dotýkají trhu EU; Klasifikace by měla být provedena na samém začátku projektu.
Aplikační úkol
Zvažte tři různá použití AI, která by vaše organizace (nebo fiktivní společnost) mohla používat ve vztahu k trhu EU. Každý zařaďte do jedné ze čtyř rizikových tříd zákona EU o umělé inteligenci a napište své odůvodnění. Vložte šest vysoce rizikových závazků pro použití, které považujete za nejvyšší riziko, do kontrolního diagramu: vyplňte sloupce „aktuální stav“ a „neúplné/akce“. Napište prohlášení o transparentnosti, které se zobrazí uživateli pro použití, které spadá do kategorie omezeného rizika. A konečně, pokud se některé z vašich použití blíží zakázané hranici, poznamenejte si to a proč.
kontrolní seznam
- [ ] Každé použití AI jsem zařadil do jedné ze čtyř rizikových tříd.
- [ ] Naskenoval jsem své projekty podle seznamu zakázaných aplikací.
- [ ] Vytvořil jsem kontrolní tabulku odpovědnosti pro vysoce rizikové použití.
- [ ] Mezi povinnosti jsem zahrnul lidský audit a řízení předsudků.
- [ ] Připravil jsem prohlášení o transparentnosti pro použití s omezeným rizikem.
- [ ] Chápu, proč moje spojení s trhem EU vyvolalo zákon.
- [ ] Klasifikace rizik jsem provedl na začátku projektu, ne na konci.