Qligħ:
- Ir-rikonoxximent tal-erba' klassijiet ta' riskju tal-Liġi tal-UE dwar l-AI u l-prattiki pprojbiti
- Evalwazzjoni raġonevoli ta' liema kategorija ta' riskju jaqa' fiha użu
- Ifhem għaliex ir-responsabbiltajiet ta' AI ta' riskju għoli u ta' skop ġenerali għandhom impatt fuq il-kumpaniji Torok
L-Att dwar l-Intelliġenza Artifiċjali tal-UE (l-Att tal-UE dwar l-AI), li jidħol fis-seħħ fl-2024, huwa l-ewwel regolament komprensiv tal-IA fid-dinja u l-impatt tiegħu jestendi ħafna lil hinn mill-fruntieri tal-Unjoni Ewropea. Din il-liġi tista' torbot direttament għal kumpanija bbażata fit-Türkiye iżda li taqdi s-suq tal-UE, li jkollha klijenti tal-UE jew li tbigħ prodotti lill-UE. F'din l-unità, int se titgħallem il-loġika bażika tal-liġi — l-approċċ tagħha bbażat fuq ir-riskju — bl-erba 'klassijiet tagħha, il-prattiki pprojbiti u l-obbligazzjonijiet ta' riskju għoli; Se nippruvaw nevalwaw f'liema kaxxa jaqa' użu.
Idea bażika: iktar ma jkun għoli r-riskju, iktar tkun stretta r-regola
Il-Liġi tal-UE dwar l-AI ma tgħaqqadx l-AI kollha flimkien. Taqsam sistema ta 'intelliġenza artifiċjali f'erba' kategoriji skont il-ħsara potenzjali tagħha u timponi obbligi differenti fuq kull kategorija. Rakkomandazzjoni tal-mużika ma ġġorrx l-istess riskju bħal sistema ta’ screening ta’ kiri; Il-liġi ma tapplikax l-istess regola għalihom. Dan l-approċċ ibbażat fuq ir-riskju huwa s-sinsla tal-liġi.
Klassi ta' riskju
Tifsira
eżempju
regola
Ipprojbit (inaċċettabbli)
Theddida miftuħa għad-drittijiet fundamentali
Punteġġ soċjali, manipulazzjoni subkonxja
projbizzjoni totali
riskju għoli
Taffettwa serjament il-ħajja tal-bniedem
Reklutaġġ, kreditu, kura tas-saħħa, edukazzjoni, infrastruttura kritika
Responsabbiltà stretta
riskju limitat
Jeħtieġ trasparenza
Chat bot, deepfake, kontenut AI
L-informazzjoni hija obbligatorja
riskju minimu
Riskju insinifikanti
Filtru tal-ispam, AI tal-logħob, magna ta 'rakkomandazzjoni
ħielsa
Apps ipprojbiti: linja ħamra
Xi użi tal-AI huma meqjusa tant ta 'ħsara li ma jistgħux jiġu rilaxxati irrispettivament minn kemm jitnaqqas ir-riskju. Dawn huma fil-kategorija pprojbita (riskju inaċċettabbli):
- Punteġġ soċjali appoġġjat mill-Istat (punteġġ lin-nies skont l-imġieba/il-karatteristiċi tagħhom u l-iżvantaġġ tagħhom).
- Sistemi li jimmanipulaw is-subkonxju tan-nies u jikkawżaw ħsara.
- Sistemi li jisfruttaw vulnerabbiltajiet bħall-età u d-diżabilità.
- Ċerti applikazzjonijiet ta' identifikazzjoni bijometrika u sorveljanza tal-massa f'ħin reali (b'eċċezzjonijiet dojoq).
- Applikazzjonijiet speċifiċi bħar-rikonoxximent tal-emozzjonijiet fuq il-post tax-xogħol u l-edukazzjoni.
Attenzjoni: Il-fatt li użu jinsab fil-kategorija "projbit" mhuwiex ostaklu li jista' jingħeleb billi ngħid "Għandi raġuni tajba". Dawn il-prattiċi huma kompletament ipprojbiti; ma jistgħux jiġu rilaxxati anke b'miżuri li jnaqqsu r-riskju. L-ewwel kontroll li għandu jsir huwa jekk il-proġett huwiex inkluż f'din il-lista.
Obbligazzjonijiet ta' riskju għoli
Is-sistemi ta' riskju għoli mhumiex ipprojbiti iżda huma soġġetti għal kundizzjonijiet stretti. Oqsma tipiċi ta’ riskju għoli: reklutaġġ u ġestjoni tal-impjegati, kreditu u assigurazzjoni, edukazzjoni u valutazzjoni tal-eżamijiet, kura tas-saħħa, infrastruttura kritika, infurzar tal-liġi u immigrazzjoni. Obbligi tipiċi f'dawn is-sistemi:
- L-istabbiliment u ż-żamma ta' sistema ta' ġestjoni tar-riskju.
- Il-kwalità tad-dejta u l-ġestjoni tal-preġudizzju (rappreżentanti u preċiżi tad-dejta tat-taħriġ).
- Dokumentazzjoni teknika u żamma tar-rekords (traċċabilità).
- Trasparenza u provvista ta' informazzjoni lill-utent.
- Kontroll uman (kapaċità umana li jintervjeni u jegħleb).
- Eżattezza, robustezza u assigurazzjonijiet taċ-ċibersigurtà.
Obbligi tal-IA għal skopijiet ġenerali (GPAI).
Il-liġi timponi obbligi speċifiċi ta' trasparenza u dokumentazzjoni fuq mudelli ta' AI għal skopijiet ġenerali (GPAI) — jiġifieri, mudelli ta' bażi b'ħafna għanijiet bħal mudelli lingwistiċi kbar — kif ukoll fuq użi individwali: provvista ta' sommarji dwar data ta' taħriġ, politika ta' konformità tad-drittijiet tal-awtur, valutazzjoni addizzjonali għal mudelli b'riskju sistemiku. Jekk organizzazzjoni tintegra dawn il-mudelli fil-prodott tagħha stess, xi wħud minn dawn l-obbligazzjonijiet jistgħu jiġu riflessi fil-katina.
tliet każijiet żgħar
Każ 1 — Screening tar-reklutaġġ (riskju għoli). Kumpanija tas-softwer f'Izmir tiżviluppa pjattaforma ta' reklutaġġ li taqdi lill-kumpaniji tal-UE; Is-sistema awtomatikament tagħmel punteġġi u telimina l-kandidati. Dan huwa qasam li l-liġi b'mod ċar tqis bħala riskju għoli. Kumpanija; irid jissodisfa l-obbligi tal-kwalità tad-dejta, l-ittestjar tal-preġudizzju, l-awditjar uman u d-dokumentazzjoni. L-argument "Aħna fit-Turkija, ma jorbotniex" huwa invalidu; Peress li s-sistema tintuża fis-suq tal-UE, tapplika l-liġi.
Każ 2 — Chatbot tal-klijenti (riskju limitat). Sit tal-kummerċ elettroniku juża chatbot li jaqdi lill-klijenti tiegħu tal-UE. Dan huwa fil-kategorija tar-riskju limitat; L-obbligu ewlieni huwa t-trasparenza: l-utent għandu jkun infurmat b'mod ċar li "qed titkellem ma' intelliġenza artifiċjali". Ħabi dan huwa ksur; Huwa biżżejjed li tispeċifika.
Każ 3 — Toqrob lejn il-linja pprojbita. Katina tal-bejgħ bl-imnut trid tanalizza r-reazzjonijiet emozzjonali tal-klijenti permezz tal-kameras tal-ħwienet u tagħti punteġġ ta '"ħanut potenzjali". Dan jaqa' fiż-żona pprojbita/ta' riskju għoli ħafna kemm b'dimensjonijiet ta 'rikonoxximent tal-emozzjonijiet kif ukoll ta' punteġġ. It-tim legali jwaqqaf il-proġett fl-istadju tad-disinn; Huwa ċar li ma jistax jiġi implimentat anke b'miżuri li jnaqqsu r-riskju.
Tip: L-ewwel mistoqsija meta tibda proġett AI ġdid hija "kemm huwa utli dan?" iżda pjuttost "din f'liema klassi ta' riskju jaqa'?" għandu jkun. Li tagħmel il-klassifikazzjoni fl-ewwel lok tevita ħela ta 'riżorsi fuq proġett li se jiġi kkanċellat aktar tard.
Mudelli kopjabbli
MUDELL 1 — Valutazzjoni preliminari tal-klassi tar-riskju: "Evalwa minn qabel l-użu tal-AI li ġej skont il-Liġi tal-UE dwar l-AI: [iddeskrivi l-użu]. Iddikjara f'liema klassi ta' riskju (projbita / għolja / limitata / minima) tista' taqa' fiha, b'ġustifikazzjoni. Immarka l-punti li m'intix ċert minnhom bħala 'konferma legali meħtieġa'; tagħmilx ġudizzju legali definittiv."
MUDELL 2 — Skennjar ta' applikazzjoni pprojbit: "Skennja l-idea ta' proġett li ġejja biss kontra l-lista 'applikazzjonijiet projbiti mill-Att tal-UE AI': [iddeskrivi l-proġett]. Hemm riskju f'termini ta' punteġġ soċjali, manipulazzjoni subkonxja, sfruttament tal-vulnerabbiltà, sorveljanza bijometrika mhux awtorizzata, rikonoxximent tal-emozzjonijiet? Ikteb iva/le u ġustifikazzjoni f'kull intestatura."
MUDELL 3 — Lista ta' kontroll ta' responsabbiltà ta' riskju għoli: "Għal dan l-użu ta' AI ta' riskju għoli, [iddeskrivi l-użu] toħloq tabella 'x'inhi s-sitwazzjoni attwali tagħna, x'inhu nieqes' fuq sitt intestaturi ta' responsabbiltà (ġestjoni tar-riskju, kwalità tad-dejta, dokumentazzjoni, trasparenza, verifika umana, robustezza). Issuġġerixxi azzjoni konkreta f'kull ringiela."
MUDELLUL 4 — Notifika ta' trasparenza (riskju limitat): "Għal chatbot li jaqdi lill-utenti tal-UE, ikteb notifika qasira 'qed titkellem ma' AI' biex tintwera lill-utent. Sempliċi, rassikuranti, 2 sentenzi massimu. Inkludi l-għażla li taqleb għal aġent uman."
Pront dgħajjef / Pront qawwi
DGĦAJFJA: “Il-Liġi tal-UE dwar l-IA tikkonċernana?”-> Il-mudell jagħti tweġiba ġenerali; Ma tikklassifikax l-użu konkret tiegħek, ma tevalwax il-konnessjoni tiegħek mas-suq tal-UE. GÜÇLÜ: "Aħna kumpanija bbażata f'Izmir, inbigħu reklutaġġ u screening AI lil kumpanija fil-Ġermanja. Liema klassi ta' riskju jaqa' dan l-użu taħt il-Liġi tal-UE dwar l-AI, liema obbligi jaqgħu fuqna u għaliex li nkunu fit-Turkija ma jeżentinax? Immarka fejn m'intix ċert." -> Il-mudell jipproduċi klassifikazzjoni speċifika għall-kuntest u lista tar-responsabbiltà.
Żbalji komuni
- Taħseb "Aħna fit-Turkija, il-liġi tal-UE ma torbotx"; Madankollu, li jmissu s-suq tal-UE huwa biżżejjed.
- Nagħmlu klassifikazzjoni tar-riskju wara l-iżvilupp tal-proġett; Madankollu, għandu jsir fl-ewwel lok.
- Tiżbalja prattika pprojbita bħala ostaklu li jista’ jingħeleb b’“ġustifikazzjoni tajba”.
- Jinjora r-rappurtar tat-trasparenza f'sistemi ta' riskju limitat (li jagħmel il-bot qisu bniedem).
- It-traskurazzjoni tal-verifika umana u l-immaniġġjar tal-preġudizzju minn obbligazzjonijiet ta’ riskju għoli.
- Jekk wieħed jinjora dak l-obbligazzjonijiet tal-AI għal skopijiet ġenerali (GPAI) jistgħu jduru 'l isfel fil-katina.
- Ibdel il-Liġi tal-UE dwar l-AI mal-KVKK; huma differenti iżda komplementari.
Fil-qosor
- Il-Liġi tal-UE dwar l-AI tieħu approċċ ibbażat fuq ir-riskju u taqsam l-AI f’erba’ klassijiet: ipprojbit, għoli, limitat, minimu.
- Prattiki pprojbiti (punteġġ soċjali, manipulazzjoni, eċċ.) ma jistgħux jiġu rilaxxati anki jekk ir-riskju jitnaqqas.
- Sistemi ta' riskju għoli; Huwa soġġett għal obbligi stretti bħall-ġestjoni tar-riskju, il-kwalità tad-dejta, il-kontroll uman u d-dokumentazzjoni.
- F'sistemi ta' riskju limitat, l-obbligu ewlieni huwa t-trasparenza (ir-rappurtar li hemm AI).
- Kumpaniji Torok li jmissu s-suq tal-UE huma affettwati wkoll mil-liġi; Il-klassifikazzjoni għandha ssir fil-bidu nett tal-proġett.
Kompitu ta' applikazzjoni
Ikkunsidra tliet użi differenti tal-IA li l-organizzazzjoni tiegħek (jew kumpanija fittizja) tista’ tuża fir-rigward tas-suq tal-UE. Poġġi kull wieħed f'waħda mill-erba' klassijiet ta' riskju tal-Att tal-UE dwar l-AI u ikteb il-ġustifikazzjoni tiegħek. Poġġi s-sitt obbligi ta' riskju għoli għall-użu li ssib l-ogħla riskju f'tabella ta' kontroll: imla l-kolonni "istatus attwali" u "mhux komplut/azzjoni". Ikteb dikjarazzjoni ta' trasparenza li se tintwera lill-utent għal użu li jaqa' fil-kategorija ta' riskju limitat. Fl-aħħarnett, jekk xi użi tiegħek qed joqrob lejn il-linja pprojbita, innota li u għaliex.
lista ta' kontroll
- [ ] Poġġejt kull użu ta' AI f'waħda minn erba' klassijiet ta' riskju.
- [ ] Skennjt il-proġetti tiegħi mal-lista ta' applikazzjonijiet projbiti.
- [ ] Ħloqt tabella ta' kontroll tar-responsabbiltà għal użu ta' riskju għoli.
- [ ] Inkludejt l-awditjar uman u l-immaniġġjar tal-preġudizzju fl-obbligi.
- [ ] Ħejjejt dikjarazzjoni ta' trasparenza għal użu ta' riskju limitat.
- [ ] Nifhem għaliex il-konnessjoni tiegħi tas-suq tal-UE tat il-bidu tal-liġi.
- [ ] Għamilt il-klassifikazzjoni tar-riskju fil-bidu tal-proġett, mhux fl-aħħar.