Mga Klase ng Batas at Panganib ng EU AI

Mga nadagdag:

• Pagkilala sa apat na klase ng peligro at ipinagbabawal na kasanayan ng EU AI Law
• Makatwirang pagsusuri kung aling kategorya ng panganib ang isang paggamit
• Maunawaan kung bakit ang mataas na panganib at pangkalahatang layunin ng mga pananagutan ng AI ay nakakaapekto sa mga kumpanya ng Turkey

Ang EU Artificial Intelligence Act (EU AI Act), na magkakabisa sa 2024, ay ang unang komprehensibong AI regulasyon sa mundo at ang epekto nito ay umaabot nang lampas sa mga hangganan ng European Union. Maaaring direktang may bisa ang batas na ito para sa isang kumpanyang nakabase sa Türkiye ngunit nagsisilbi sa merkado ng EU, pagkakaroon ng mga customer sa EU o nagbebenta ng mga produkto sa EU. Sa yunit na ito, matututunan mo ang pangunahing lohika ng batas — ang diskarte na nakabatay sa panganib — kasama ang apat na klase nito, mga ipinagbabawal na kasanayan at mga pananagutan na may mataas na peligro; Susubukan naming suriin kung saang kahon nahuhulog ang isang paggamit.

Pangunahing ideya: mas mataas ang panganib, mas mahigpit ang panuntunan

Hindi pinagsasama-sama ng EU AI Law ang lahat ng AI. Hinahati nito ang isang artificial intelligence system sa apat na kategorya ayon sa potensyal na pinsala nito at nagpapataw ng iba't ibang obligasyon sa bawat kategorya. Ang isang rekomendasyon sa musika ay hindi nagdadala ng parehong panganib bilang isang sistema ng screening sa pagkuha; Ang batas ay hindi naglalapat ng parehong tuntunin sa kanila. Ang diskarteng ito na nakabatay sa panganib ay ang gulugod ng batas.

Panganib na klase

Ibig sabihin

halimbawa

tuntunin

Ipinagbabawal (hindi katanggap-tanggap)

Bukas na banta sa mga pangunahing karapatan

Social scoring, subconscious manipulation

kabuuang pagbabawal

mataas ang panganib

Ito ay seryosong nakakaapekto sa buhay ng tao

Recruitment, credit, healthcare, edukasyon, kritikal na imprastraktura

Mahigpit na pananagutan

limitadong panganib

Nangangailangan ng transparency

Chat bot, deepfake, AI content

Ang impormasyon ay sapilitan

minimal na panganib

Hindi gaanong panganib

Spam filter, laro AI, engine ng rekomendasyon

libre

Mga ipinagbabawal na app: pulang linya

Ang ilang paggamit ng AI ay itinuring na lubhang nakakapinsala kaya't hindi ito mailalabas kahit gaano pa kalaki ang panganib. Ang mga ito ay nasa kategoryang ipinagbabawal (hindi katanggap-tanggap na panganib):

• Social scoring na suportado ng estado (pagmamarka ng mga tao ayon sa kanilang pag-uugali/katangian at nakakapinsala sa kanila).
• Mga sistemang minamanipula ang subconscious ng mga tao at nagdudulot ng pinsala.
• Mga sistemang nagsasamantala sa mga kahinaan gaya ng edad at kapansanan.
• Ilang real-time na biometric identification at mass surveillance application (na may makitid na pagbubukod).
• Mga partikular na aplikasyon gaya ng pagkilala sa emosyon sa lugar ng trabaho at edukasyon.

Pansin: Ang katotohanan na ang isang paggamit ay nasa kategoryang "ipinagbabawal" ay hindi isang balakid na maaaring malampasan sa pamamagitan ng pagsasabi ng "Mayroon akong magandang dahilan". Ang mga gawaing ito ay ganap na ipinagbabawal; hindi maaaring ilabas kahit na may mga hakbang sa pagbabawas ng panganib. Ang unang pagsusuri na gagawin ay kung ang proyekto ay kasama sa listahang ito.

Mataas na panganib na pananagutan

Ang mga high risk system ay hindi ipinagbabawal ngunit napapailalim sa mahigpit na kundisyon. Mga karaniwang lugar na may mataas na peligro: pangangalap at pamamahala ng empleyado, kredito at insurance, edukasyon at pagsusuri sa pagsusulit, pangangalaga sa kalusugan, kritikal na imprastraktura, pagpapatupad ng batas at imigrasyon. Mga karaniwang obligasyon sa mga sistemang ito:

1. Pagtatatag at pagpapanatili ng isang sistema ng pamamahala ng peligro.
2. Ang kalidad ng data at pamamahala ng bias (kinatawan at tumpak ng data ng pagsasanay).
3. Teknikal na dokumentasyon at record keeping (traceability).
4. Transparency at pagbibigay ng impormasyon sa user.
5. Kontrol ng tao (kakayahang mamagitan at i-override ng tao).
6. Katumpakan, katatagan at mga kasiguruhan sa cybersecurity.

Pangkalahatang layunin ng AI (GPAI) na mga obligasyon

Ang batas ay nagpapataw ng partikular na transparency at mga obligasyon sa dokumentasyon sa mga general-purpose AI models (GPAI) — ibig sabihin, mga multi-purpose na batayang modelo gaya ng malalaking modelo ng wika — pati na rin sa mga indibidwal na gamit: probisyon ng mga buod sa data ng pagsasanay, patakaran sa pagsunod sa copyright, karagdagang pagtatasa para sa mga modelong may sistematikong panganib. Kung i-embed ng isang organisasyon ang mga modelong ito sa sarili nitong produkto, maaaring makita sa chain ang ilan sa mga pananagutan na ito.

tatlong mini case

Kaso 1 — Pag-screen ng recruitment (mataas ang panganib). Ang isang kumpanya ng software sa Izmir ay bumuo ng isang recruitment platform na nagsisilbi sa mga kumpanya ng EU; Ang sistema ay awtomatikong nag-iiskor at nag-aalis ng mga kandidato. Ito ay isang lugar na malinaw na itinuturing ng batas na mataas ang panganib. kumpanya; dapat matugunan ang kalidad ng data, pagsubok ng bias, pag-audit ng tao at mga obligasyon sa dokumentasyon. Ang argumentong "Kami ay nasa Turkey, hindi ito nagbubuklod sa amin" ay hindi wasto; Dahil ginagamit ang system sa merkado ng EU, nalalapat ang batas.

Case 2 — Customer chatbot (limitadong panganib). Nag-deploy ang isang e-commerce na site ng chatbot na nagsisilbi sa mga customer nito sa EU. Ito ay nasa kategorya ng limitadong panganib; Ang pangunahing obligasyon ay transparency: dapat na malinaw na ipaalam sa user na "nakikipag-usap ka sa isang artificial intelligence". Ang pagtatago nito ay isang paglabag; Ito ay sapat na upang tukuyin.

Kaso 3 — Paglapit sa ipinagbabawal na linya. Gustong suriin ng isang retail chain ang mga emosyonal na reaksyon ng mga customer sa pamamagitan ng mga camera ng tindahan at magbigay ng markang "potensyal na mangingilog." Nahuhulog ito sa lugar na ipinagbabawal/napakataas ng panganib na may parehong pagkilala sa emosyon at mga sukat ng pagmamarka. Ang legal na koponan ay huminto sa proyekto sa yugto ng disenyo; Malinaw na hindi ito maipapatupad kahit na may mga hakbang sa pagbabawas ng panganib.

Tip: Ang unang tanong kapag nagsisimula ng isang bagong proyekto ng AI ay "gaano ito kapaki-pakinabang?" ngunit sa halip "sa anong uri ng panganib ito nahuhulog?" dapat ay. Ang paggawa ng pag-uuri sa unang lugar ay maiiwasan ang pag-aaksaya ng mga mapagkukunan sa isang proyekto na kakanselahin sa ibang pagkakataon.

Mga nakopyang template

TEMPLATE 1 — Preliminary assessment ng risk class: "Paunang suriin ang sumusunod na paggamit ng AI ayon sa EU AI Law: [ilarawan ang paggamit]. Sabihin kung aling klase ng peligro (ipinagbabawal / mataas / limitado / minimal) ito, na may katwiran. Markahan ang mga puntong hindi ka sigurado bilang 'kinakailangan ng legal na kumpirmasyon'; huwag gumawa ng tiyak na legal na paghatol."

TEMPLATE 2 — Ipinagbabawal na pag-scan ng aplikasyon: "I-scan ang sumusunod na ideya ng proyekto lamang laban sa listahan ng 'EU AI Act prohibited applications': [ilarawan ang proyekto].

TEMPLATE 3 — Checklist ng pananagutan na may mataas na peligro: "Para sa paggamit ng AI na ito na may mataas na peligro, [ilarawan ang paggamit] ay gumagawa ng talahanayang 'ano ang ating kasalukuyang sitwasyon, ano ang kulang' sa anim na heading ng pananagutan (pamamahala sa panganib, kalidad ng data, dokumentasyon, transparency, pag-audit ng tao, katatagan). Magmungkahi ng isang kongkretong aksyon sa bawat hilera."

TEMPLATE 4 — Transparency notification (limitadong panganib): "Para sa isang chatbot na nagsisilbi sa mga user ng EU, sumulat ng maikling 'you are talking to AI' notification na ipapakita sa user. Simple, nakakapanatag, 2 pangungusap maximum. Isama ang opsyong lumipat sa isang human agent."

Mahinang prompt / Malakas na prompt

MAHINA: "Nababahala ba sa atin ang EU AI Law?"-> Ang modelo ay nagbibigay ng pangkalahatang sagot; Hindi nito inuuri ang iyong konkretong paggamit, hindi nito sinusuri ang iyong koneksyon sa merkado ng EU. GÜÇLÜ: "Kami ay isang kumpanya na nakabase sa Izmir, nagbebenta kami ng recruitment at screening ng AI sa isang kumpanya sa Germany. Anong uri ng panganib ang ginagamit nito sa ilalim ng EU AI Law, anong mga obligasyon ang nahuhulog sa amin at bakit hindi kami exempt kapag nasa Turkey? Markahan kung saan hindi ka sigurado." -> Ang modelo ay gumagawa ng isang klasipikasyon at listahan ng pananagutan na partikular sa konteksto.

Mga karaniwang pagkakamali

• Iniisip na "Kami ay nasa Turkey, ang batas ng EU ay hindi nagbubuklod sa amin"; Gayunpaman, ang pagpindot sa merkado ng EU ay sapat na.
• Paggawa ng pag-uuri ng panganib pagkatapos ng pagbuo ng proyekto; Gayunpaman, dapat itong gawin sa unang lugar.
• Ipagkamali ang isang ipinagbabawal na kasanayan bilang isang balakid na maaaring malampasan ng "magandang katwiran".
• Pag-bypass sa pag-uulat ng transparency sa mga limitadong sistema ng peligro (ginagawang parang tao ang bot).
• Ang pagpapabaya sa pag-audit ng tao at pamamahala ng bias mula sa mga pananagutan na may mataas na panganib.
• Tinatanaw na ang mga pananagutan sa pangkalahatang layunin ng AI (GPAI) ay maaaring umalingawngaw sa kadena.
• Palitan ang EU AI Law sa KVKK; magkaiba sila ngunit komplementaryo.

Sa buod

• Ang EU AI Law ay gumagamit ng diskarte na nakabatay sa panganib at hinahati ang AI sa apat na klase: ipinagbabawal, mataas, limitado, minimal.
• Ang mga ipinagbabawal na kasanayan (pagmamarka sa lipunan, pagmamanipula, atbp.) ay hindi maaaring ilabas kahit na nabawasan ang panganib.
• Mga sistema ng mataas na panganib; Ito ay napapailalim sa mahigpit na mga obligasyon tulad ng pamamahala sa peligro, kalidad ng data, kontrol ng tao at dokumentasyon.
• Sa mga limitadong sistema ng peligro, ang pangunahing obligasyon ay transparency (pag-uulat na mayroong AI).
• Ang mga kumpanyang Turko na humipo sa merkado ng EU ay apektado rin ng batas; Ang pag-uuri ay dapat gawin sa pinakadulo simula ng proyekto.

Gawain ng aplikasyon

Isaalang-alang ang tatlong magkakaibang paggamit ng AI na maaaring gamitin ng iyong organisasyon (o isang fictitious na kumpanya) kaugnay sa merkado ng EU. Ilagay ang bawat isa sa isa sa apat na klase ng panganib ng EU AI Act at isulat ang iyong katwiran. Ilagay ang anim na mataas na panganib na obligasyon para sa paggamit na nakikita mo ang pinakamataas na panganib sa isang control chart: punan ang mga column na "kasalukuyang status" at "hindi kumpleto/pagkilos". Sumulat ng isang transparency statement na ipapakita sa user para sa isang paggamit na nabibilang sa kategorya ng limitadong panganib. Panghuli, kung ang alinman sa iyong mga gamit ay papalapit sa ipinagbabawal na linya, tandaan iyon at bakit.

checklist

• [ ] Inilagay ko ang bawat paggamit ng AI sa isa sa apat na klase ng panganib.
• [ ] Ini-scan ko ang aking mga proyekto laban sa listahan ng mga ipinagbabawal na aplikasyon.
• [ ] Gumawa ako ng tsart ng kontrol sa pananagutan para sa paggamit ng mataas na panganib.
• [ ] Isinama ko ang pag-audit ng tao at pamamahala ng bias sa mga obligasyon.
• [ ] Naghanda ako ng transparency statement para sa limitadong paggamit ng panganib.
• [ ] Naiintindihan ko kung bakit nag-trigger ng batas ang aking koneksyon sa merkado sa EU.
• [ ] Ginawa ko ang pag-uuri ng panganib sa simula ng proyekto, hindi sa dulo.