Ieguvumi:
- Atzīstot ES MI likumā četras riska klases un aizliegtās darbības
- Saprātīgs novērtējums, kurā riska kategorijā ietilpst lietojums
- Izprotiet, kāpēc augsta riska un vispārējas nozīmes AI saistības ietekmē Turcijas uzņēmumus
ES Mākslīgā intelekta likums (EU AI Act), kas stājas spēkā 2024. gadā, ir pasaulē pirmais visaptverošais AI regulējums, un tā ietekme sniedzas tālu aiz Eiropas Savienības robežām. Šis likums var būt tieši saistošs uzņēmumam, kas atrodas Tirkijā, bet apkalpo ES tirgu, kam ir ES klienti vai kas pārdod produktus uz ES. Šajā nodaļā jūs apgūsit likuma pamatloģiku — tā uz risku balstīto pieeju — ar četrām klasēm, aizliegtām darbībām un augsta riska saistībām; Mēģināsim novērtēt, kurā lodziņā iekrīt lietojums.
Pamatideja: jo lielāks risks, jo stingrāki noteikumi
ES AI likums neapvieno visu AI. Tas iedala mākslīgā intelekta sistēmu četrās kategorijās atbilstoši tās iespējamajam kaitējumam un katrai kategorijai uzliek dažādus pienākumus. Mūzikas ieteikums nerada tādu pašu risku kā darbā pieņemšanas pārbaudes sistēma; Likums tiem nepiemēro vienu un to pašu noteikumu. Šī uz risku balstītā pieeja ir likuma pamats.
Riska klase
Nozīme
piemērs
noteikums
Aizliegts (nepieņemams)
Atklāts pamattiesību apdraudējums
Sociālā vērtēšana, zemapziņas manipulācijas
pilnīgs aizliegums
augsts risks
Tas nopietni ietekmē cilvēka dzīvi
Personāla atlase, kredīts, veselības aprūpe, izglītība, kritiskā infrastruktūra
Stingra atbildība
ierobežots risks
Nepieciešama caurspīdīgums
Tērzēšanas robots, dziļais viltojums, AI saturs
Informācija ir obligāta
minimāls risks
Nenozīmīgs risks
Surogātpasta filtrs, spēļu AI, ieteikumu dzinējs
bezmaksas
Aizliegtās lietotnes: sarkana līnija
Daži mākslīgā intelekta lietojumi tiek uzskatīti par tik kaitīgiem, ka tos nevar atbrīvot neatkarīgi no tā, cik liels risks ir samazināts. Tie ietilpst aizliegtajā (nepieņemamā riska) kategorijā:
- Valsts atbalstīta sociālā vērtēšana (cilvēku vērtēšana pēc viņu uzvedības/īpašībām un neizdevīga).
- Sistēmas, kas manipulē ar cilvēku zemapziņu un rada kaitējumu.
- Sistēmas, kas izmanto ievainojamības, piemēram, vecumu un invaliditāti.
- Dažas reāllaika biometriskās identifikācijas un masveida novērošanas lietojumprogrammas (ar šauriem izņēmumiem).
- Īpašas lietojumprogrammas, piemēram, emociju atpazīšana darba vietā un izglītībā.
Uzmanību: tas, ka lietojums ir iekļauts kategorijā "aizliegts", nav šķērslis, ko var pārvarēt, sakot "man ir labs iemesls". Šādas darbības ir pilnībā aizliegtas; nevar atbrīvot pat ar risku mazinošiem pasākumiem. Vispirms ir jāpārbauda, vai projekts ir iekļauts šajā sarakstā.
Augsta riska saistības
Augsta riska sistēmas nav aizliegtas, bet uz tām attiecas stingri nosacījumi. Tipiskas augsta riska jomas: personāla atlase un darbinieku vadība, kredīts un apdrošināšana, izglītība un eksāmenu vērtēšana, veselības aprūpe, kritiskā infrastruktūra, tiesībaizsardzība un imigrācija. Tipiski pienākumi šajās sistēmās:
- Riska vadības sistēmas izveide un uzturēšana.
- Datu kvalitātes un novirzes pārvaldība (apmācības datu reprezentatīvi un precīzi).
- Tehniskā dokumentācija un lietvedība (izsekojamība).
- Pārredzamība un informācijas sniegšana lietotājam.
- Cilvēka kontrole (cilvēka spēja iejaukties un ignorēt).
- Precizitāte, robustums un kiberdrošības garantijas.
Vispārējā mērķa AI (GPAI) saistības
Likums nosaka īpašus pārskatāmības un dokumentēšanas pienākumus vispārējas nozīmes AI modeļiem (GPAI), tas ir, daudzfunkcionāliem bāzes modeļiem, piemēram, lielvalodu modeļiem, kā arī individuālam lietojumam: kopsavilkumu sniegšana par apmācību datiem, autortiesību atbilstības politika, papildu novērtējums modeļiem ar sistēmisku risku. Ja organizācija iestrādā šos modeļus savā produktā, dažas no šīm saistībām var tikt atspoguļotas ķēdē.
trīs mini futrāļi
1. gadījums — darbā pieņemšanas pārbaude (augsts risks). Programmatūras uzņēmums Izmirā izstrādā personāla atlases platformu, kas apkalpo ES uzņēmumus; Sistēma automātiski vērtē un izslēdz kandidātus. Šī ir joma, ko likums nepārprotami uzskata par augstu risku. Uzņēmums; jāizpilda datu kvalitātes, neobjektivitātes pārbaudes, cilvēku veiktās revīzijas un dokumentācijas pienākumi. Arguments "Mēs esam Turcijā, tas mūs nesaista" ir nederīgs; Tā kā sistēma tiek izmantota ES tirgū, ir spēkā likums.
2. gadījums — klientu tērzēšanas robots (ierobežots risks). E-komercijas vietne izvieto tērzēšanas robotu, kas apkalpo savus ES klientus. Tas ietilpst ierobežotā riska kategorijā; Galvenais pienākums ir caurspīdīgums: lietotājam jābūt skaidri informētam, ka "jūs runājat ar mākslīgo intelektu". Tā slēpšana ir pārkāpums; Pietiek precizēt.
3. gadījums — tuvošanās aizliegtajai līnijai. Mazumtirdzniecības ķēde vēlas analizēt klientu emocionālās reakcijas, izmantojot veikala kameras, un novērtēt "potenciālo veikalu zagļu". Tas ietilpst aizliegtajā/ļoti augsta riska zonā gan emociju atpazīšanas, gan vērtēšanas dimensijās. Juridiskā komanda aptur projektu projektēšanas stadijā; Skaidrs, ka to nevar īstenot pat ar risku mazinošiem pasākumiem.
Padoms: pirmais jautājums, uzsākot jaunu AI projektu, ir “cik tas ir noderīgi?” bet drīzāk "kādā riska klasē tas ietilpst?" vajadzētu būt. Veicot klasifikāciju, vispirms tiek izvairīties no resursu izšķērdēšanas projektam, kas vēlāk tiks atcelts.
Kopējamas veidnes
1. VEINNE — riska klases sākotnējais novērtējums: "Iepriekš novērtējiet šādu mākslīgā intelekta lietojumu saskaņā ar ES AI likumu: [aprakstiet lietojumu]. Norādiet, kurā riska klasē (aizliegts / augsts / ierobežots / minimāls) tas var ietilpt, ar pamatojumu. Atzīmējiet punktus, par kuriem neesat pārliecināts, kā "nepieciešams juridisks apstiprinājums"; nepieņemiet galīgu juridisku spriedumu."
2. VEINNE — aizliegta lietojumprogrammu skenēšana: "Skenējiet tālāk norādīto projekta ideju tikai pret ES AI likuma aizliegto lietojumprogrammu sarakstu: [aprakstiet projektu]. Vai pastāv risks saistībā ar sociālo vērtējumu, zemapziņas manipulācijām, ievainojamības izmantošanu, neatļautu biometrisko novērošanu, emociju atpazīšanu? Katrā virsrakstā ierakstiet jā/nē un pamatojumu."
3. VEINNE — augsta riska atbildības kontrolsaraksts: "Šai augsta riska AI izmantošanai [aprakstiet lietojumu] izveido tabulu "kāda ir mūsu pašreizējā situācija, kā trūkst" sešās atbildības virsrakstos (riska pārvaldība, datu kvalitāte, dokumentācija, pārredzamība, cilvēku veiktā revīzija, robustums). Iesakiet konkrētu darbību katrā rindā."
4. VEINE — Paziņojums par caurspīdīgumu (ierobežots risks): "Tērzēšanas robotam, kas apkalpo ES lietotājus, uzrakstiet īsu paziņojumu "Jūs runājat ar AI", kas tiks parādīts lietotājam. Vienkāršs, pārliecinošs, ne vairāk kā 2 teikumi. Iekļaujiet iespēju pārslēgties uz cilvēku aģentu."
Vāja uzvedne / spēcīga uzvedne
VĀJS: “Vai ES AI likums attiecas uz mums?”-> Modelis sniedz vispārīgu atbildi; Tas neklasificē jūsu konkrēto lietojumu, nevērtē jūsu saistību ar ES tirgu. GÜÇLÜ: "Mēs esam uzņēmums, kas atrodas Izmirā, mēs pārdodam personāla atlases un pārbaudes AI uzņēmumam Vācijā. Uz kādu riska klasi šī izmantošana attiecas uz ES AI likumu, kādi pienākumi attiecas uz mums un kāpēc atrašanās Turcijā mūs neatbrīvo? Atzīmējiet vietu, kur neesat pārliecināts." -> Modelis izveido kontekstam atbilstošu klasifikāciju un saistību sarakstu.
Biežas kļūdas
- Domājot "Mēs esam Turcijā, ES tiesību akti mūs nesaista"; Tomēr pietiek ar pieskārienu ES tirgum.
- Risku klasifikācijas veikšana pēc projekta izstrādes; Tomēr tas būtu jādara pirmajā vietā.
- Aizliegtas prakses uzskatīšana par šķērsli, ko var pārvarēt ar "labu pamatojumu".
- Pārredzamības ziņošanas apiešana ierobežota riska sistēmās (padarot robotam līdzīgu cilvēka izskatu).
- Cilvēku veiktās revīzijas un neobjektivitātes pārvaldība no augsta riska saistībām tiek atstāta novārtā.
- Neņemot vērā, ka vispārējas nozīmes AI (GPAI) saistības var atbalsoties ķēdē.
- apmainīt ES AI likumu ar KVKK; tie ir atšķirīgi, bet papildina viens otru.
Rezumējot
- ES AI likumā ir izmantota uz risku balstīta pieeja, un AI iedala četrās klasēs: aizliegts, augsts, ierobežots, minimāls.
- Aizliegtās darbības (sociālā vērtēšana, manipulācijas utt.) nevar atbrīvot pat tad, ja risks ir samazināts.
- augsta riska sistēmas; Uz to attiecas stingri pienākumi, piemēram, riska pārvaldība, datu kvalitāte, cilvēku kontrole un dokumentācija.
- Ierobežota riska sistēmās galvenais pienākums ir pārredzamība (ziņošana, ka ir AI).
- Likums ietekmē arī Turcijas uzņēmumus, kas skar ES tirgu; Klasifikācija jāveic pašā projekta sākumā.
Lietojumprogrammas uzdevums
Apsveriet trīs dažādus AI lietojumus, ko jūsu organizācija (vai fiktīvs uzņēmums) varētu izmantot saistībā ar ES tirgu. Ievietojiet katru vienā no četrām ES AI likuma riska klasēm un uzrakstiet savu pamatojumu. Kontroles diagrammā ievietojiet sešus augsta riska pienākumus izmantošanai, kuru uzskatāt par visaugstāko risku: aizpildiet kolonnas “pašreizējais statuss” un “nepabeigts/darbība”. Uzrakstiet pārskatāmības paziņojumu, kas tiks parādīts lietotājam lietošanai, kas ietilpst ierobežotā riska kategorijā. Visbeidzot, ja kāds no jūsu lietojumiem tuvojas aizliegtajai līnijai, ņemiet vērā to un kāpēc.
kontrolsaraksts
- [ ] Es katru AI lietojumu iekļāvu vienā no četrām riska klasēm.
- [ ] Es pārbaudīju savus projektus pret aizliegto lietojumprogrammu sarakstu.
- [ ] Es izveidoju atbildības kontroles diagrammu augsta riska izmantošanai.
- [ ] Pienākumos iekļāvu cilvēku revīziju un aizspriedumu pārvaldību.
- [ ] Esmu sagatavojis pārskatāmības paziņojumu ierobežota riska lietošanai.
- [ ] Es saprotu, kāpēc mana ES tirgus saikne izraisīja likumu.
- [ ] Risku klasifikāciju veicu projekta sākumā, nevis beigās.