Fitimet:
- Duke njohur katër klasat e rrezikut dhe praktikat e ndaluara të ligjit të BE-së për UA
- Vlerësim i arsyeshëm se në cilën kategori rreziku hyn përdorimi
- Kuptoni pse detyrimet e inteligjencës artificiale me rrezik të lartë dhe qëllime të përgjithshme ndikojnë në kompanitë turke
Akti i BE-së për Inteligjencën Artificiale (EU AI Act), i cili hyn në fuqi në 2024, është rregullorja e parë gjithëpërfshirëse në botë e AI dhe ndikimi i tij shtrihet shumë përtej kufijve të Bashkimit Evropian. Ky ligj mund të jetë drejtpërdrejt i detyrueshëm për një kompani me bazë në Turqi, por që i shërben tregut të BE-së, ka klientë të BE-së ose shet produkte në BE. Në këtë njësi, ju do të mësoni logjikën bazë të ligjit - qasjen e tij të bazuar në rrezik - me katër klasat e tij, praktikat e ndaluara dhe detyrimet me rrezik të lartë; Ne do të përpiqemi të vlerësojmë se në cilën kuti bie një përdorim.
Ideja bazë: sa më i lartë të jetë rreziku, aq më i rreptë është rregulli
Ligji i BE-së për IA nuk e bashkon të gjithë IA së bashku. Ai ndan një sistem të inteligjencës artificiale në katër kategori sipas dëmit të tij të mundshëm dhe vendos detyrime të ndryshme për secilën kategori. Një rekomandim muzikor nuk mbart të njëjtin rrezik si një sistem shqyrtimi i punësimit; Ligji nuk zbaton të njëjtin rregull për ta. Kjo qasje e bazuar në rrezik është shtylla kurrizore e ligjit.
Klasa e rrezikut
Kuptimi
shembull
rregull
E ndaluar (e papranueshme)
Kërcënim i hapur ndaj të drejtave themelore
Vlerësimi social, manipulim nënndërgjegjeshëm
ndalim total
rrezik të lartë
Ndikon seriozisht në jetën e njeriut
Rekrutimi, kreditimi, kujdesi shëndetësor, arsimi, infrastruktura kritike
Përgjegjësi e rreptë
rrezik i kufizuar
Kërkon transparencë
Chat robot, deepfake, përmbajtje AI
Informacioni është i detyrueshëm
rrezik minimal
Rrezik i parëndësishëm
Filtri i spamit, AI i lojës, motor rekomandimi
falas
Aplikacionet e ndaluara: vija e kuqe
Disa përdorime të inteligjencës artificiale konsiderohen aq të dëmshme saqë ato nuk mund të çlirohen pa marrë parasysh sa rreziku është zvogëluar. Këto janë në kategorinë e ndaluar (rreziku i papranueshëm):
- Vlerësimi social i mbështetur nga shteti (pikëzimi i njerëzve sipas sjelljes/karakteristikave të tyre dhe vënia e tyre në disavantazh).
- Sisteme që manipulojnë nënndërgjegjen e njerëzve dhe shkaktojnë dëm.
- Sisteme që shfrytëzojnë dobësitë si mosha dhe paaftësia.
- Disa aplikacione të identifikimit biometrik dhe mbikëqyrjes masive në kohë reale (me përjashtime të ngushta).
- Aplikime specifike si njohja e emocioneve në vendin e punës dhe edukimi.
Kujdes: Fakti që një përdorim është në kategorinë "i ndaluar" nuk është një pengesë që mund të kapërcehet duke thënë "kam një arsye të mirë". Këto praktika janë plotësisht të ndaluara; nuk mund të çlirohet as me masa për uljen e rrezikut. Kontrolli i parë që duhet bërë është nëse projekti përfshihet në këtë listë.
Detyrime me rrezik të lartë
Sistemet me rrezik të lartë nuk janë të ndaluara, por u nënshtrohen kushteve strikte. Fushat tipike me rrezik të lartë: rekrutimi dhe menaxhimi i punonjësve, kreditimi dhe sigurimi, arsimi dhe vlerësimi i provimeve, kujdesi shëndetësor, infrastruktura kritike, zbatimi i ligjit dhe imigrimi. Detyrimet tipike në këto sisteme:
- Krijimi dhe mirëmbajtja e një sistemi të menaxhimit të rrezikut.
- Cilësia e të dhënave dhe menaxhimi i paragjykimeve (përfaqësues dhe i saktë i të dhënave të trajnimit).
- Dokumentacioni teknik dhe mbajtja e shënimeve (gjurmueshmëria).
- Transparenca dhe ofrimi i informacionit për përdoruesit.
- Kontrolli njerëzor (aftësia njerëzore për të ndërhyrë dhe kapërcyer).
- Saktësia, qëndrueshmëria dhe siguria kibernetike.
Detyrimet e UA për qëllime të përgjithshme (GPAI).
Ligji imponon detyrime specifike për transparencë dhe dokumentacion për modelet e AI me qëllime të përgjithshme (GPAI) — pra, modelet bazë me shumë qëllime siç janë modelet e mëdha gjuhësore — si dhe për përdorimet individuale: ofrimi i përmbledhjeve mbi të dhënat e trajnimit, politika e pajtueshmërisë me të drejtën e autorit, vlerësimi shtesë për modelet me rrezik sistemik. Nëse një organizatë i fut këto modele në produktin e saj, disa nga këto detyrime mund të pasqyrohen në zinxhir.
tre mini kuti
Rasti 1 — Ekzaminimi i rekrutimit (rrezik i lartë). Një kompani softuerësh në Izmir zhvillon një platformë rekrutimi që u shërben kompanive të BE-së; Sistemi automatikisht shënon dhe eliminon kandidatët. Kjo është një fushë që ligji e konsideron qartë me rrezikshmëri të lartë. Kompania; duhet të përmbushë cilësinë e të dhënave, testimin e paragjykimeve, auditimin njerëzor dhe detyrimet e dokumentacionit. Argumenti “Ne jemi në Turqi, nuk na lidh” është i pavlefshëm; Meqenëse sistemi përdoret në tregun e BE-së, zbatohet ligji.
Rasti 2 - Chatbot i klientit (rrezik i kufizuar). Një faqe e-commerce vendos një chatbot që u shërben klientëve të saj të BE-së. Kjo është në kategorinë e rrezikut të kufizuar; Detyrimi kryesor është transparenca: përdoruesi duhet të informohet qartë se “po flet me një inteligjencë artificiale”. Fshehja e kësaj është shkelje; Mjafton të specifikohet.
Rasti 3 - Afrimi në vijën e ndaluar. Një zinxhir shitjesh me pakicë dëshiron të analizojë reagimet emocionale të klientëve përmes kamerave të dyqaneve dhe të japë një rezultat "grabitës të mundshëm dyqanesh". Kjo bie në zonën e ndaluar/rrezik shumë të lartë si me njohjen e emocioneve ashtu edhe me dimensionet e pikëve. Ekipi ligjor ndalon projektin në fazën e projektimit; Është e qartë se nuk mund të zbatohet as me masa për uljen e rrezikut.
Këshillë: Pyetja e parë kur filloni një projekt të ri të AI është "sa e dobishme është kjo?" por më tepër "në cilën klasë rreziku hyn kjo?" duhet të jetë. Kryerja e klasifikimit në radhë të parë shmang humbjen e burimeve për një projekt që do të anulohet më vonë.
Modele të kopjueshme
TABLE 1 — Vlerësimi paraprak i klasës së rrezikut: "Vlerësoni paraprakisht përdorimin e mëposhtëm të AI sipas ligjit të BE-së për IA: [përshkruani përdorimin]. Tregoni se në cilën klasë rreziku (e ndaluar / e lartë / e kufizuar / minimale) mund të bjerë, me arsyetim. Shënoni pikat për të cilat nuk jeni të sigurt si 'kërkohet konfirmim ligjor'; mos bëni një gjykim ligjor përfundimtar."
SHBALL 2 — Skanimi i aplikacionit të ndaluar: "Skanoni idenë e projektit të mëposhtëm vetëm kundër listës së aplikacioneve të ndaluara të Ligjit për UA të BE-së": [përshkruani projektin]. A ekziston rrezik përsa i përket vlerësimit social, manipulimit nënndërgjegjeshëm, shfrytëzimit të cenueshmërisë, mbikëqyrjes biometrike të paautorizuar, njohjes së drejtë të emocioneve dhe njohjes së çdo koke?
TABLE 3 — Lista kontrolluese e përgjegjësive me rrezik të lartë: "Për këtë përdorim të AI me rrezik të lartë, [përshkruani përdorimin] krijon një tabelë "si është situata jonë aktuale, çfarë mungon" në gjashtë titujt e detyrimeve (menaxhimi i rrezikut, cilësia e të dhënave, dokumentacioni, transparenca, auditimi njerëzor, qëndrueshmëria). Sugjeroni një veprim konkret në çdo rresht."
SHBALL 4 — Njoftim për transparencë (rrezik i kufizuar): "Për një chatbot që u shërben përdoruesve të BE-së, shkruani një njoftim të shkurtër "ju jeni duke folur me AI" për t'i shfaqur përdoruesit. Thjeshtë, qetësuese, maksimumi 2 fjali. Përfshi opsionin për të kaluar te një agjent njerëzor."
Prompt i dobët / Prompt i fortë
I DOBËT: “A na shqetëson ligji i BE-së për UA?”-> Modeli jep një përgjigje të përgjithshme; Nuk e klasifikon përdorimin tuaj konkret, nuk vlerëson lidhjen tuaj me tregun e BE-së. GÜÇLÜ: "Ne jemi një kompani me bazë në Izmir, ne shesim rekrutim dhe kontrollim të inteligjencës artificiale në Gjermani. Çfarë klase rreziku bën ky përdorim në ligjin e BE-së për IA, çfarë detyrimesh bien mbi ne dhe pse qëndrimi në Turqi nuk na përjashton? Shënoni ku nuk jeni të sigurt." -> Modeli prodhon një klasifikim dhe listë detyrimesh specifike për kontekstin.
Gabimet e zakonshme
- Duke menduar “Jemi në Turqi, ligji i BE-së nuk na detyron”; Megjithatë, mjafton të prekësh tregun e BE-së.
- Bërja e klasifikimit të riskut pas zhvillimit të projektit; Megjithatë, në radhë të parë duhet bërë.
- Gabimi i një praktike të ndaluar si një pengesë që mund të kapërcehet me "justifikim të mirë".
- Anashkalimi i raportimit të transparencës në sistemet me rrezik të kufizuar (duke e bërë robotin të duket si një njeri).
- Neglizhimi i auditimit njerëzor dhe menaxhimit të paragjykimeve nga detyrimet me rrezik të lartë.
- Duke mos marrë parasysh se detyrimet për qëllime të përgjithshme AI (GPAI) mund të jehojnë në zinxhir.
- Ndërrimi i ligjit të BE-së për UA me KVKK; ato janë të ndryshme, por plotësuese.
Në përmbledhje
- Ligji i BE-së për IA merr një qasje të bazuar në rrezik dhe e ndan IA në katër klasa: e ndaluar, e lartë, e kufizuar, minimale.
- Praktikat e ndaluara (pikëzimi social, manipulimi, etj.) nuk mund të lirohen edhe nëse rreziku është zvogëluar.
- Sisteme me rrezik të lartë; Ai i nënshtrohet detyrimeve strikte si menaxhimi i rrezikut, cilësia e të dhënave, kontrolli njerëzor dhe dokumentacioni.
- Në sistemet me rrezik të kufizuar, detyrimi kryesor është transparenca (raportimi se ka UA).
- Kompanitë turke që prekin tregun e BE-së gjithashtu preken nga ligji; Klasifikimi duhet të bëhet që në fillim të projektit.
Detyra e aplikimit
Konsideroni tre përdorime të ndryshme të AI që organizata juaj (ose një kompani fiktive) mund të përdorë në lidhje me tregun e BE-së. Vendoseni secilën në një nga katër klasat e rrezikut të Aktit të AI të BE-së dhe shkruani arsyetimin tuaj. Vendosni gjashtë detyrimet me rrezikshmëri të lartë për përdorimin që gjeni rrezikun më të lartë në një grafik kontrolli: plotësoni kolonat "statusi aktual" dhe "i paplotë/veprim". Shkruani një deklaratë transparence që do t'i shfaqet përdoruesit për një përdorim që bie në kategorinë e rrezikut të kufizuar. Së fundi, nëse ndonjë nga përdorimet tuaja po i afrohet linjës së ndaluar, vini re këtë dhe pse.
listë kontrolli
- [ ] Unë e vendosa çdo përdorim të AI në një nga katër klasat e rrezikut.
- [ ] I skanova projektet e mia kundër listës së aplikacioneve të ndaluara.
- [ ] Kam krijuar një tabelë kontrolli të detyrimeve për përdorim me rrezik të lartë.
- [ ] Unë përfshiva auditimin njerëzor dhe menaxhimin e paragjykimeve në detyrime.
- [ ] Unë kam përgatitur një deklaratë transparence për përdorim me rrezik të kufizuar.
- [ ] Unë e kuptoj pse lidhja ime me tregun e BE-së shkaktoi ligjin.
- [ ] Unë e bëra klasifikimin e rrezikut në fillim të projektit, jo në fund.