ELi tehisintellekti seadus ja riskiklassid

Kasu:

• ELi tehisintellekti seaduse nelja riskiklassi ja keelatud tavade tunnustamine
• Mõistlik hinnang selle kohta, millisesse riskikategooriasse kasutusala kuulub
• Saate aru, miks kõrge riskiga ja üldotstarbelised tehisintellekti kohustused mõjutavad Türgi ettevõtteid

2024. aastal jõustuv ELi tehisintellekti seadus (EU AI Act) on maailma esimene kõikehõlmav tehisintellekti regulatsioon ja selle mõju ulatub kaugele üle Euroopa Liidu piiride. See seadus võib olla otseselt siduv ettevõttele, mis asub Türkiye linnas, kuid teenindab ELi turgu, omab ELi kliente või müüb tooteid ELi. Selles õppetükis saate teada seaduse põhiloogikat – selle riskipõhist lähenemist – koos nelja klassi, keelatud tegevuste ja kõrge riskiga kohustustega; Proovime hinnata, millisesse kasti kasutusala langeb.

Põhiidee: mida suurem risk, seda rangem on reegel

ELi tehisintellektiseadus ei koonda kõiki tehisintellekti ühte. See jagab tehisintellekti süsteemi vastavalt võimalikule kahjule nelja kategooriasse ja seab igale kategooriale erinevad kohustused. Muusikasoovitusega ei kaasne sama riski kui töölevõtmise kontrollisüsteemiga; Seadus ei kohalda nende suhtes sama reeglit. Selline riskipõhine lähenemine on seaduse selgroog.

Riskiklass

Tähendus

näide

reegel

Keelatud (vastuvõetamatu)

Avatud oht põhiõigustele

Sotsiaalne punktiarvestus, alateadlik manipuleerimine

täielik keeld

kõrge risk

See mõjutab tõsiselt inimelu

Värbamine, krediit, tervishoid, haridus, kriitiline infrastruktuur

Range vastutus

piiratud risk

Nõuab läbipaistvust

Vestlusbot, sügavvõlts, AI sisu

Teave on kohustuslik

minimaalne risk

Ebaoluline risk

Rämpspostifilter, mängu AI, soovitusmootor

tasuta

Keelatud rakendused: punane joon

Mõningaid tehisintellekti kasutusviise peetakse nii kahjulikeks, et neid ei saa vabastada olenemata sellest, kui palju risk on vähenenud. Need kuuluvad keelatud (vastuvõetamatu riski) kategooriasse:

• Riigi toetatud sotsiaalne punktiarvestus (inimeste hindamine nende käitumise/omaduste järgi ja ebasoodsasse olukorda seadmine).
• Süsteemid, mis manipuleerivad inimeste alateadvusega ja tekitavad kahju.
• Süsteemid, mis kasutavad turvaauke, nagu vanus ja puue.
• Teatud reaalajas biomeetrilise tuvastamise ja massjälgimise rakendused (kitsaste eranditega).
• Spetsiifilised rakendused, nagu emotsioonide tuvastamine töökohal ja hariduses.

Tähelepanu: Asjaolu, et kasutusala kuulub kategooriasse "keelatud", ei ole takistuseks, mida saab ületada, öeldes: "Mul on mõjuv põhjus". Need tavad on täielikult keelatud; ei saa vabastada isegi riski vähendamise meetmetega. Kõigepealt tuleb kontrollida, kas projekt on selles loendis.

Kõrge riskiga kohustused

Kõrge riskiga süsteemid ei ole keelatud, kuid neile kehtivad ranged tingimused. Tüüpilised kõrge riskiga valdkonnad: värbamine ja töötajate juhtimine, krediit ja kindlustus, hariduse ja eksamite hindamine, tervishoid, kriitiline infrastruktuur, õiguskaitse ja immigratsioon. Tüüpilised kohustused nendes süsteemides:

1. Riskijuhtimissüsteemi loomine ja haldamine.
2. Andmete kvaliteedi ja eelarvamuste haldamine (treeninguandmete esinduslik ja täpne).
3. Tehniline dokumentatsioon ja arvestuse pidamine (jälgitavus).
4. Läbipaistvus ja teabe edastamine kasutajale.
5. Inimkontroll (inimese võime sekkuda ja alistada).
6. Täpsuse, töökindluse ja küberturvalisuse tagatised.

Üldotstarbelised AI (GPAI) kohustused

Seadusega kehtestatakse konkreetsed läbipaistvus- ja dokumenteerimiskohustused üldotstarbelistele tehisintellektimudelitele (GPAI) – see tähendab mitmeotstarbelistele baasmudelitele, nagu suured keelemudelid –, aga ka üksikkasutusele: koolitusandmete kokkuvõtete esitamine, autoriõiguste järgimise poliitika, süsteemse riskiga mudelite lisahindamine. Kui organisatsioon manustab need mudelid oma tootesse, võivad mõned neist kohustustest kajastuda ahelas.

kolm minikarpi

Juhtum 1 – värbamise sõeluuring (suur risk). Izmiris asuv tarkvaraettevõte arendab ELi ettevõtteid teenindavat värbamisplatvormi; Süsteem hindab ja kõrvaldab kandidaadid automaatselt. See on valdkond, mida seadus peab selgelt kõrge riskiga. Ettevõte; peab täitma andmete kvaliteedi, eelarvamuste testimise, inimeste auditeerimise ja dokumenteerimise kohustusi. Argument "Oleme Türgis, see ei seo meid" on kehtetu; Kuna süsteemi kasutatakse EL turul, siis kehtib seadus.

Juhtum 2 – kliendi vestlusbot (piiratud risk). E-kaubanduse sait kasutab oma EL-i kliente teenindavat vestlusrobot. See kuulub piiratud riskikategooriasse; Peamine kohustus on läbipaistvus: kasutajat tuleb selgelt teavitada, et "te räägite tehisintellektiga". Selle varjamine on rikkumine; Piisab täpsustamisest.

Juhtum 3 – lähenemine keelatud joonele. Jaekett soovib analüüsida klientide emotsionaalseid reaktsioone läbi kaupluste kaamerate ja anda "potentsiaalse poevarga" hinde. See kuulub keelatud/väga kõrge riskiga valdkonda nii emotsioonide tuvastamise kui ka punktiarvestuse mõõtmetega. Juriidiline meeskond peatab projekti projekteerimisetapis; On selge, et seda ei saa rakendada isegi riskide vähendamise meetmetega.

Näpunäide: esimene küsimus uue AI projekti alustamisel on "kui kasulik see on?" vaid pigem "millisesse riskiklassi see langeb?" peaks olema. Esmajärjekorras klassifitseerimine väldib ressursside raiskamist projektile, mis hiljem tühistatakse.

Kopeeritavad mallid

MALL 1 – Riskiklassi esialgne hinnang: "Eelhinnake järgmist tehisintellekti kasutamist vastavalt EL-i tehisintellekti seadusele: [kirjeldage kasutust]. Märkige, millisesse riskiklassi (keelatud / kõrge / piiratud / minimaalne) see võib kuuluda, koos põhjendusega. Märkige punktid, milles te pole kindel, kui „nõutav on juriidiline kinnitus; ärge tehke lõplikku juriidilist otsust."

MALL 2 – Keelatud rakenduste skannimine: "Skannige järgmist projektiideed ainult EL-i tehisintellekti seaduse keelatud rakenduste loendi vastu: [kirjeldage projekti]. Kas on oht sotsiaalsete hindamiste, alateadliku manipuleerimise, haavatavuse ärakasutamise, volitamata biomeetrilise jälgimise, emotsioonide tuvastamise osas? Kirjutage igasse päisesse jah/ei ja põhjendus."

MALL 3 – kõrge riskiga vastutuse kontroll-loend: "Selle kõrge riskiga tehisintellekti kasutamise jaoks loob [kirjeldage kasutust] tabeli "milline on meie praegune olukord, millest on puudu" kuues vastutuse rubriigis (riskijuhtimine, andmete kvaliteet, dokumentatsioon, läbipaistvus, inimeste auditeerimine, töökindlus). Soovitage igal real konkreetset tegevust."

MALL 4 – läbipaistvuse teatis (piiratud risk): "EL-i kasutajaid teenindava vestlusroboti jaoks kirjutage kasutajale kuvatav lühike teade "Räägite tehisintellektiga". Lihtne, rahustav, maksimaalselt 2 lauset. Kaasake võimalus lülituda inimagendile."

Nõrk viip / Tugev viip

NÕRK: “Kas EL-i tehisintellekti seadus puudutab meid?”-> Mudel annab üldise vastuse; See ei klassifitseeri teie konkreetset kasutusala ega hinda teie seotust ELi turuga. GÜÇLÜ: "Oleme Izmiris asuv ettevõte, müüme värbamist ja tehisintellekti skriinimist Saksamaal asuvale ettevõttele. Millise riskiklassiga see kasutamine EL-i tehisintellekti seaduse alla kuulub, millised kohustused lasub meil ja miks Türgis viibimine meid ei vabasta? Märgistage, kuhu te pole kindel." -> Mudel loob kontekstipõhise klassifikatsiooni ja vastutusloendi.

Levinud vead

• Mõeldes "Oleme Türgis, EL-i õigus ei seo meid"; Siiski piisab ELi turu puudutamisest.
• Riskiklassifikatsiooni tegemine pärast projekti väljatöötamist; Eelkõige tuleks seda siiski teha.
• Keelatud praktika eksimine takistuseks, millest saab "hea põhjendusega" üle.
• Piiratud riskiga süsteemides läbipaistvusaruandlusest möödahiilimine (muutes robotil inimese moodi välja).
• Inimeste auditeerimise ja eelarvamuste juhtimise tähelepanuta jätmine kõrge riskiga kohustuste tõttu.
• Jättes tähelepanuta, et üldotstarbelised AI (GPAI) kohustused võivad ahelas allapoole kajada.
• Vahetada EL-i tehisintellekti seadus KVKK-ga; need on erinevad, kuid täiendavad üksteist.

Kokkuvõttes

• ELi tehisintellektiseadus lähtub riskipõhisest lähenemisviisist ja jagab tehisintellekti nelja klassi: keelatud, kõrge, piiratud, minimaalne.
• Keelatud tegevustest (sotsiaalskoorimine, manipuleerimine jne) ei saa lahti ka siis, kui risk on vähenenud.
• kõrge riskiga süsteemid; Sellele kehtivad ranged kohustused, nagu riskijuhtimine, andmete kvaliteet, inimeste kontroll ja dokumenteerimine.
• Piiratud riskiga süsteemides on peamiseks kohustuseks läbipaistvus (teavitamine tehisintellekti olemasolust).
• Seadus puudutab ka ELi turgu puudutavaid Türgi ettevõtteid; Klassifitseerimine tuleks teha projekti alguses.

Rakenduse ülesanne

Mõelge kolmele erinevale tehisintellekti kasutusviisile, mida teie organisatsioon (või fiktiivne ettevõte) võib EL-i turuga seoses kasutada. Asetage igaüks ühte EL AI seaduse neljast riskiklassist ja kirjutage oma põhjendus. Pange kontrollkaardi kuus kõrge riskiga kohustust kõige suurema riskiga kasutuse kohta: täitke veerud „hetkeseisund” ja „puudulik/tegevus”. Kirjutage läbipaistvusavaldus, mis kuvatakse kasutajale piiratud riskikategooriasse kuuluva kasutuse kohta. Lõpuks, kui mõni teie kasutusaladest läheneb keelatud piirile, pange tähele, et ja miks.

kontrollnimekiri

• [ ] Jaotasin iga tehisintellekti kasutamise ühte neljast riskiklassist.
• [ ] Skaneerisin oma projektid keelatud rakenduste nimekirja alusel.
• [ ] Koostasin vastutuse kontrollkaardi kõrge riskiga kasutamise jaoks.
• [ ] Lisasin kohustuste hulka inimeste auditeerimise ja eelarvamuste juhtimise.
• [ ] Olen koostanud läbipaistvusavalduse piiratud riskiga kasutamiseks.
• [ ] Ma saan aru, miks minu EL-i turu seotus käivitas seaduse.
• [ ] Tegin riskide klassifikatsiooni projekti alguses, mitte lõpus.