ES AI teisė ir rizikos klasės

Pelnas:

• Pripažįstame ES AI įstatyme nustatytas keturias rizikos klases ir draudžiamą praktiką
• Pagrįstas įvertinimas, kuriai rizikos kategorijai priskiriamas naudojimo būdas
• Supraskite, kodėl didelės rizikos ir bendros paskirties AI įsipareigojimai daro įtaką Turkijos įmonėms

2024 m. įsigaliosiantis ES Dirbtinio intelekto įstatymas (ES AI aktas) yra pirmasis pasaulyje išsamus dirbtinio intelekto reglamentas, kurio poveikis peržengia Europos Sąjungos sienas. Šis įstatymas gali būti tiesiogiai privalomas įmonei, įsikūrusiai Turkijoje, bet aptarnaujančiai ES rinką, turinčiai ES klientų arba parduodančiai produktus į ES. Šiame skyriuje sužinosite pagrindinę įstatymo logiką – rizika pagrįstą požiūrį – su keturiomis klasėmis, draudžiama praktika ir didelės rizikos įsipareigojimais; Bandysime įvertinti, į kurią dėžę patenka koks nors naudojimas.

Pagrindinė idėja: kuo didesnė rizika, tuo griežtesnė taisyklė

ES DI įstatymas nesujungia viso DI. Jame dirbtinio intelekto sistema skirstoma į keturias kategorijas pagal galimą žalą ir kiekvienai kategorijai nustatomi skirtingi įpareigojimai. Muzikos rekomendacija nekelia tokios pat rizikos kaip samdymo patikros sistema; Įstatymas jiems netaiko tos pačios taisyklės. Šis rizika pagrįstas požiūris yra įstatymo pagrindas.

Rizikos klasė

Reikšmė

pavyzdys

taisyklė

Draudžiama (nepriimtina)

Atvira grėsmė pagrindinėms teisėms

Socialinis balas, pasąmoninis manipuliavimas

visiškas draudimas

didelė rizika

Tai rimtai paveikia žmogaus gyvenimą

Įdarbinimas, kreditai, sveikatos priežiūra, švietimas, kritinė infrastruktūra

Griežta atsakomybė

ribota rizika

Reikalingas skaidrumas

Pokalbių robotas, „deepfake“, AI turinys

Informacija yra privaloma

minimali rizika

Nereikšminga rizika

Šlamšto filtras, žaidimų AI, rekomendacijų variklis

nemokamai

Draudžiamos programos: raudona linija

Kai kurie dirbtinio intelekto naudojimo būdai yra tokie žalingi, kad jų negalima paleisti, nepaisant to, kiek sumažėtų rizika. Tai yra draudžiamos (nepriimtinos rizikos) kategorijoje:

• Valstybės remiamas socialinis balas (žmonių balinimas pagal jų elgesį/savybes ir nuskriaustas).
• Sistemos, kurios manipuliuoja žmonių pasąmone ir daro žalą.
• Sistemos, kurios išnaudoja pažeidžiamumą, pvz., amžių ir negalią.
• Tam tikros realaus laiko biometrinio identifikavimo ir masinio stebėjimo programos (su siauromis išimtimis).
• Konkrečios programos, tokios kaip emocijų atpažinimas darbo vietoje ir švietimas.

Dėmesio: tai, kad naudojimas yra „draudžiamo“ kategorijoje, nėra kliūtis, kurią galima įveikti pasakant „turiu rimtą priežastį“. Ši praktika yra visiškai draudžiama; negali būti paleistas net taikant riziką mažinančias priemones. Pirmiausia reikia patikrinti, ar projektas įtrauktas į šį sąrašą.

Didelės rizikos įsipareigojimai

Didelės rizikos sistemos nėra draudžiamos, tačiau joms taikomos griežtos sąlygos. Tipiškos didelės rizikos sritys: įdarbinimas ir darbuotojų valdymas, kreditai ir draudimas, išsilavinimas ir egzaminų vertinimas, sveikatos priežiūra, ypatingos svarbos infrastruktūra, teisėsauga ir imigracija. Tipiški įsipareigojimai šiose sistemose:

1. Rizikos valdymo sistemos sukūrimas ir priežiūra.
2. Duomenų kokybės ir šališkumo valdymas (reprezentatyvūs ir tikslūs mokymo duomenys).
3. Techninė dokumentacija ir apskaitos tvarkymas (atsekamumas).
4. Skaidrumas ir informacijos teikimas vartotojui.
5. Žmogaus kontrolė (žmogaus gebėjimas įsikišti ir nepaisyti).
6. Tikslumo, tvirtumo ir kibernetinio saugumo garantijos.

Bendrosios paskirties AI (GPAI) įsipareigojimai

Įstatymas nustato specialius skaidrumo ir dokumentavimo įpareigojimus bendrosios paskirties AI modeliams (GPAI), t. Jei organizacija įtraukia šiuos modelius į savo produktą, kai kurie iš šių įsipareigojimų gali atsispindėti grandinėje.

trys mini dėklai

1 atvejis – įdarbinimo patikra (didelė rizika). Programinės įrangos įmonė Izmire kuria ES įmones aptarnaujančią įdarbinimo platformą; Sistema automatiškai surenka balus ir pašalina kandidatus. Tai sritis, kurią įstatymai aiškiai laiko didele rizika. Įmonė; turi atitikti duomenų kokybės, šališkumo tikrinimo, žmogaus audito ir dokumentacijos įsipareigojimus. Argumentas „Esame Turkijoje, tai mūsų nesaisto“ yra negaliojantis; Kadangi sistema naudojama ES rinkoje, galioja įstatymai.

2 atvejis – klientų pokalbių robotas (ribota rizika). El. prekybos svetainė įdiegia pokalbių robotą, aptarnaujantį savo ES klientus. Tai priklauso ribotos rizikos kategorijai; Pagrindinė prievolė – skaidrumas: vartotojas turi būti aiškiai informuotas, kad „kalbate su dirbtiniu intelektu". To slėpimas yra pažeidimas; Pakanka nurodyti.

3 atvejis – artėjimas prie draudžiamos linijos. Mažmeninės prekybos tinklas nori išanalizuoti klientų emocines reakcijas per parduotuvių kameras ir įvertinti „potencialų parduotuvių vagystę“. Tai patenka į draudžiamą / labai didelės rizikos sritį, kurioje yra ir emocijų atpažinimo, ir balų vertinimo dimensijos. Teisininkų komanda sustabdo projektą projektavimo etape; Akivaizdu, kad net taikant riziką mažinančias priemones jo įgyvendinti nepavyks.

Patarimas: pirmasis klausimas pradedant naują AI projektą yra „kaip tai naudinga? o "į kokią rizikos klasę tai patenka?" turėtų būti. Visų pirma atliekant klasifikaciją išvengiama išteklių švaistymo projektui, kuris vėliau bus atšauktas.

Kopijuojami šablonai

1 ŠABLONAS. Preliminarus rizikos klasės įvertinimas: „Iš anksto įvertinkite šį AI naudojimą pagal ES AI įstatymą: [apibūdinkite naudojimą]. Nurodykite, kuriai rizikos klasei (draudžiama / didelė / ribota / minimali) jis gali priklausyti, pateikdamas pagrindimą. Pažymėkite punktus, dėl kurių nesate tikri, kaip „reikia teisinio patvirtinimo“; nepriimkite galutinio teisinio sprendimo.

2 ŠABLONAS – Draudžiamas programų nuskaitymas: „Nuskaitykite šią projekto idėją tik pagal „ES AI įstatymo draudžiamų taikomųjų programų“ sąrašą: [apibūdinkite projektą]. Ar yra rizika, susijusi su socialiniu įvertinimu, manipuliavimu pasąmone, pažeidžiamumo išnaudojimu, neteisėtu biometriniu stebėjimu, emocijų atpažinimu? Kiekvienoje antraštėje parašykite taip/ne ir pagrindimą.

3 ŠABLONAS – didelės rizikos atsakomybės kontrolinis sąrašas: „Šiam didelės rizikos AI naudojimui [apibūdinkite naudojimą] sukuria lentelę „kokia mūsų dabartinė padėtis, ko trūksta“ šešiose atsakomybės antraštėse (rizikos valdymas, duomenų kokybė, dokumentacija, skaidrumas, žmogaus atliktas auditas, patikimumas). Kiekvienoje eilutėje siūlykite konkretų veiksmą.

4 ŠABLONAS. Skaidrumo pranešimas (ribota rizika): "Jei pokalbių robotas aptarnauja ES naudotojus, parašykite trumpą pranešimą "Jūs kalbate su dirbtiniu intelektu", kuris bus rodomas vartotojui. Paprastas, raminantis, daugiausia 2 sakinių. Įtraukite parinktį pereiti prie žmogaus agento."

Silpnas raginimas / Stiprus raginimas

SILPNAS: „Ar ES AI įstatymas mums rūpi?“-> Modelis pateikia bendrą atsakymą; Tai neklasifikuoja jūsų konkretaus naudojimo, neįvertina jūsų ryšio su ES rinka. GÜÇLÜ: "Esame įmonė, įsikūrusi Izmire, parduodame įdarbinimo ir tikrinimo dirbtinį intelektą įmonei Vokietijoje. Kokiai rizikos klasei toks naudojimas priklauso ES AI įstatymui, kokie įsipareigojimai tenka mums ir kodėl buvimas Turkijoje mums neatleidžiamas? Pažymėkite, kur nesate tikri." -> Modelis sukuria kontekstui būdingą klasifikaciją ir įsipareigojimų sąrašą.

Dažnos klaidos

• Mąstymas „Esame Turkijoje, ES teisė mūsų nesaisto“; Tačiau prisiliesti prie ES rinkos pakanka.
• Rizikos klasifikavimas po projekto parengimo; Tačiau tai turėtų būti padaryta pirmiausia.
• Draudžiamos praktikos suvokimas kaip kliūtis, kurią galima įveikti „gerai pateisinus“.
• Skaidrumo ataskaitų apėjimas ribotos rizikos sistemose (botas atrodo kaip žmogus).
• Nepaisoma žmogaus audito ir šališkumo valdymo dėl didelės rizikos įsipareigojimų.
• Neatsižvelgiant į tai, kad bendrosios paskirties AI (GPAI) įsipareigojimai gali nuskambėti grandinėje.
• Keisti ES AI įstatymą su KVKK; jie skirtingi, bet papildo vienas kitą.

Apibendrinant

• ES AI įstatyme laikomasi rizika pagrįsto požiūrio ir dirbtinis intelektas skirstomas į keturias klases: draudžiamas, didelis, ribotas, minimalus.
• Draudžiamos praktikos (socialinis balas, manipuliavimas ir t. t.) negali būti atleistos net ir sumažinus riziką.
• Didelės rizikos sistemos; Jai taikomi griežti įsipareigojimai, tokie kaip rizikos valdymas, duomenų kokybė, žmogaus kontrolė ir dokumentacija.
• Ribotos rizikos sistemose pagrindinis įsipareigojimas yra skaidrumas (pranešimas, kad yra AI).
• Įstatymas taip pat turi įtakos Turkijos įmonėms, liečiančioms ES rinką; Klasifikavimas turėtų būti atliktas pačioje projekto pradžioje.

Taikymo užduotis

Apsvarstykite tris skirtingus AI panaudojimo būdus, kuriuos jūsų organizacija (arba fiktyvi įmonė) galėtų naudoti ES rinkoje. Priskirkite kiekvieną į vieną iš keturių ES AI įstatymo rizikos klasių ir parašykite savo pagrindimą. Į valdymo diagramą įtraukite šešis didelės rizikos įsipareigojimus, skirtus naudojimui, kurio rizika yra didžiausia: užpildykite stulpelius „dabartinė būsena“ ir „neužbaigta / veiksmas“. Parašykite skaidrumo pareiškimą, kuris bus rodomas vartotojui naudojant ribotos rizikos kategoriją. Galiausiai, jei kuris nors iš jūsų naudojimo būdų artėja prie draudžiamos linijos, atkreipkite dėmesį į tai ir kodėl.

kontrolinis sąrašas

• [ ] Kiekvieną AI naudojimą priskyriau vienai iš keturių rizikos klasių.
• [ ] Nuskaitau savo projektus pagal draudžiamų programų sąrašą.
• [ ] Sukūriau atsakomybės kontrolės lentelę, skirtą didelės rizikos naudojimui.
• [ ] Į įsipareigojimus įtraukiau žmogaus auditą ir šališkumo valdymą.
• [ ] Aš parengiau skaidrumo pareiškimą dėl ribotos rizikos naudojimo.
• [ ] Suprantu, kodėl mano ryšys su ES rinka paskatino įstatymą.
• [ ] Rizikos klasifikaciją atlikau projekto pradžioje, o ne pabaigoje.