ЕО AI құқығы және тәуекел сыныптары

Табыстар:

• ЕО AI заңының төрт тәуекел класын және тыйым салынған тәжірибені мойындау
• Қолданудың қандай тәуекел санатына жататынын негізді бағалау
• Неліктен жоғары тәуекел және жалпы мақсаттағы AI міндеттемелері түрік компанияларына әсер ететінін түсініңіз

2024 жылы күшіне енетін ЕО Жасанды интеллект актісі (ЕО AI актісі) әлемдегі алғашқы кешенді AI реттеуі болып табылады және оның әсері Еуропалық Одақ шекарасынан әлдеқайда асып түседі. Бұл заң Түркияда орналасқан, бірақ ЕО нарығына қызмет көрсететін, ЕО тұтынушылары бар немесе ЕО өнімдерін сататын компания үшін тікелей міндетті болуы мүмкін. Бұл бөлімде сіз заңның негізгі логикасын — оның тәуекелге негізделген тәсілін — оның төрт класын, тыйым салынған әрекеттерін және тәуекелі жоғары міндеттемелерін үйренесіз; Біз пайдаланудың қай қорапқа түсетінін бағалауға тырысамыз.

Негізгі идея: тәуекел неғұрлым жоғары болса, ереже соғұрлым қатаң болады

ЕО AI заңы барлық AI-ны біріктірмейді. Ол жасанды интеллект жүйесін ықтимал зиянына қарай төрт санатқа бөледі және әр санатқа әртүрлі міндеттер жүктейді. Музыкалық ұсыныс жалдау скрининг жүйесі сияқты тәуекелге ие емес; Заң оларға бірдей ережені қолданбайды. Бұл тәуекелге негізделген тәсіл заңның негізі болып табылады.

Тәуекел класы

Мағынасы

мысал

ереже

Тыйым салынған (қабылданбайтын)

Негізгі құқықтарға ашық қауіп

Әлеуметтік скоринг, санадан тыс манипуляция

толық тыйым

жоғары тәуекел

Бұл адам өміріне қатты әсер етеді

Жұмысқа қабылдау, несие, денсаулық сақтау, білім беру, маңызды инфрақұрылым

Қатаң жауапкершілік

шектеулі тәуекел

Мөлдірлікті талап етеді

Чат боты, deepfake, AI мазмұны

Ақпарат міндетті болып табылады

минималды тәуекел

Елеусіз тәуекел

Спам сүзгісі, ойын AI, ұсыныс механизмі

тегін

Тыйым салынған қолданбалар: қызыл сызық

AI-ны қолданудың кейбір түрлері соншалықты зиянды болып саналады, сондықтан тәуекел қаншалықты азайса да, оларды босату мүмкін емес. Олар тыйым салынған (қабылданбайтын тәуекел) санатына жатады:

• Мемлекет тарапынан қолдау көрсетілетін әлеуметтік балл (адамдарды мінез-құлқына/сипаттамаларына қарай балл қою және оларды қолайсыз ету).
• Адамдардың сана-сезімін басқаратын және зиян келтіретін жүйелер.
• Жас және мүгедектік сияқты осалдықтарды пайдаланатын жүйелер.
• Белгілі бір нақты уақыттағы биометриялық сәйкестендіру және жаппай бақылау қосымшалары (тар ерекшеліктерді қоспағанда).
• Жұмыс орнында эмоцияны тану және білім беру сияқты арнайы қолданбалар.

Назар аударыңыз: Қолданудың «тыйым салынған» санатында болуы «дәлелді себебім бар» деп жеңуге болатын кедергі емес. Бұл әрекеттерге толығымен тыйым салынады; тәуекелді төмендететін шаралармен де шығарыла алмайды. Ең алдымен жобаның осы тізімге енгізілген-кірмегенін тексеру керек.

Тәуекелділігі жоғары міндеттемелер

Тәуекел деңгейі жоғары жүйелерге тыйым салынбайды, бірақ қатаң шарттарға бағынады. Тәуекел деңгейі жоғары типтік салалар: жалдау және қызметкерлерді басқару, несие және сақтандыру, білім беру және емтиханды бағалау, денсаулық сақтау, маңызды инфрақұрылым, құқық қорғау және иммиграция. Бұл жүйелердегі типтік міндеттемелер:

1. Тәуекелдерді басқару жүйесін құру және қолдау.
2. Деректер сапасы мен бұрмалануды басқару (оқу деректерінің өкілі және дәлдігі).
3. Техникалық құжаттама және іс қағаздарын жүргізу (бақылау).
4. Ашықтық және пайдаланушыға ақпарат беру.
5. Адамның бақылауы (адамның араласу және бас тарту қабілеті).
6. Дәлдік, сенімділік және киберқауіпсіздік кепілдігі.

Жалпы мақсаттағы AI (GPAI) міндеттемелері

Заң жалпы мақсаттағы AI үлгілеріне (GPAI), яғни үлкен тілдік модельдер сияқты көпмақсатты базалық үлгілерге, сондай-ақ жеке пайдалануларға: оқу деректері бойынша қорытындыларды беру, авторлық құқықты сақтау саясаты, жүйелік тәуекелі бар үлгілерге қосымша бағалауды қамтамасыз ету бойынша нақты ашықтық пен құжаттамалық міндеттемелерді жүктейді. Егер ұйым осы үлгілерді өз өніміне енгізсе, осы міндеттемелердің кейбіреулері тізбекте көрсетілуі мүмкін.

үш шағын іс

1-жағдай — Жұмысқа қабылдау скринингі (жоғары тәуекел). Измирдегі бағдарламалық жасақтама компаниясы ЕО компанияларына қызмет көрсететін жалдау платформасын әзірлейді; Жүйе автоматты түрде ұпай жинап, үміткерлерді жояды. Бұл заң жоғары тәуекелді деп санайтын сала. Компания; деректер сапасына, біржақты тестілеуге, адам аудитіне және құжаттамалық міндеттемелерге сәйкес келуі керек. «Біз Түркиядамыз, ол бізді байланыстырмайды» деген дәлел жарамсыз; Жүйе ЕО нарығында қолданылғандықтан, заң қолданылады.

2-жағдай — Тұтынушының чатботы (шектелген тәуекел). Электрондық коммерция сайты ЕО тұтынушыларына қызмет көрсететін чатботты орналастырады. Бұл шектеулі тәуекел санатына жатады; Негізгі міндет - ашықтық: пайдаланушыға «сіз жасанды интеллектпен сөйлесіп жатырсыз» деп анық хабардар болуы керек. Мұны жасыру - бұзушылық; нақтылау жеткілікті.

3-жағдай — Тыйым салынған сызыққа жақындау. Сауда желісі дүкен камералары арқылы тұтынушылардың эмоционалдық реакцияларын талдап, «әлеуетті дүкен ұрлаушысы» деген баға беруді қалайды. Бұл эмоцияны тану және бағалау өлшемдері бар тыйым салынған/өте жоғары тәуекел аймағына жатады. Заңды топ жобаны жобалау сатысында тоқтатады; Тәуекелді азайтатын шаралармен де жүзеге асыру мүмкін емес екені анық.

Кеңес: Жаңа AI жобасын бастағанда бірінші сұрақ: «бұл қаншалықты пайдалы?» бірақ "бұл қандай тәуекел класына жатады?" болуы керек. Бірінші кезекте жіктеуді орындау кейінірек жойылатын жобаға ресурстарды ысырап етуді болдырмайды.

Көшіретін үлгілер

1-ҮЛГІ — Тәуекел сыныбының алдын ала бағалауы: "ЕО AI заңына сәйкес келесі AI пайдалануын алдын ала бағалаңыз: [пайдалануды сипаттаңыз]. Негіздемемен оның қандай тәуекел класына жататынын көрсетіңіз (тыйым салынған / жоғары / шектеулі / минималды). Өзіңіз сенімді емес нүктелерді "заңды растау қажет" деп белгілеңіз; түпкілікті заңды қорытынды жасамаңыз."

2-ҮЛГІ — Тыйым салынған қолданбаларды сканерлеу: "Келесі жоба идеясын тек "ЕО AI заңына тыйым салынған қолданбалар" тізіміне қарсы сканерлеңіз: [жобаны сипаттаңыз]. Әлеуметтік бағалау, санадан тыс манипуляция, осалдықты пайдалану, рұқсат етілмеген биометриялық бақылау, эмоцияларды тану тұрғысынан қауіп бар ма? Әр тақырыпқа иә/жоқ деп жазыңыз."

3-ҮЛГІ — Тәуекелділігі жоғары жауапкершілікті тексеру тізімі: "Осы жоғары қауіпті AI пайдалану үшін [пайдалануды сипаттаңыз] алты жауапкершілік тақырыбы бойынша (тәуекелдерді басқару, деректер сапасы, құжаттама, ашықтық, адам аудиті, сенімділік) "біздің қазіргі жағдайымыз қандай, не жетіспейді" кестесін жасайды. Әрбір жолда нақты әрекетті ұсыныңыз."

4-ҮЛГІ — Мөлдірлік туралы хабарлама (шектелген тәуекел): "ЕО пайдаланушыларына қызмет көрсететін чатбот үшін пайдаланушыға көрсетілетін қысқа "сіз AI-мен сөйлесіп жатырсыз" хабарландыруын жазыңыз. Қарапайым, сенімді, ең көбі 2 сөйлем. Адам агентіне ауысу опциясын қосыңыз."

Әлсіз шақыру / Күшті шақыру

ƏЛСІЗ: «ЕО AI заңы бізге қатысты ма?»-> Модель жалпы жауап береді; Ол сіздің нақты пайдалануыңызды жіктемейді, ЕО нарығына қосылуыңызды бағаламайды. GÜÇLÜ: "Біз Измирде орналасқан компаниямыз, біз Германиядағы компанияға жасанды іріктеу және тексеруді сатамыз. Бұл пайдалану ЕО AI заңына қай тәуекел класына жатады, бізге қандай міндеттер жүктеледі және Түркияда болу бізді неге босатпайды? Сенбейтін жерді белгілеңіз." -> Модель мәтінмәнге байланысты жіктеу мен жауапкершілік тізімін жасайды.

Жалпы қателер

• «Біз Түркиядамыз, Еуроодақ заңы бізді байланыстырмайды» деп ойлау; Дегенмен, ЕО нарығына қол жеткізу жеткілікті.
• Жобаны әзірлегеннен кейін тәуекелдерді жіктеу; Дегенмен, бұл бірінші кезекте жасалуы керек.
• Тыйым салынған тәжірибені «жақсы негіздеу» арқылы жеңуге болатын кедергі ретінде қателесу.
• Шектеулі тәуекел жүйелеріндегі ашықтық туралы есеп беруді айналып өту (ботты адамға ұқсату).
• Тәуекелділігі жоғары міндеттемелерден адам аудитін және біржақты басқаруды елемеу.
• Жалпы мақсаттағы AI (GPAI) міндеттемелері тізбекте қайталануы мүмкін.
• ЕО AI заңын KVKK-мен алмастыру; олар әртүрлі, бірақ бір-бірін толықтырады.

Қысқаша айтқанда

• ЕО AI заңы тәуекелге негізделген тәсілді қолданады және AI төрт сыныпқа бөледі: тыйым салынған, жоғары, шектеулі, минималды.
• Тыйым салынған әрекеттерді (әлеуметтік бағалау, манипуляция және т.б.) тәуекел төмендетсе де босатуға болмайды.
• Жоғары тәуекел жүйелері; Ол тәуекелдерді басқару, деректер сапасы, адам бақылауы және құжаттама сияқты қатаң міндеттемелерге бағынады.
• Тәуекелдің шектеулі жүйелерінде негізгі міндет ашықтық болып табылады (AI бар екендігі туралы есеп беру).
• ЕО нарығына қол жеткізген түрік компаниялары да заңнан зардап шегеді; Жіктеу жобаның ең басында жасалуы керек.

Қолданбалы тапсырма

Ұйымыңыз (немесе жалған компания) ЕО нарығына қатысты қолдануы мүмкін AI үш түрлі қолданылуын қарастырыңыз. Әрқайсысын ЕО AI актінің төрт тәуекел класының біріне орналастырыңыз және негіздемеңізді жазыңыз. Бақылау диаграммасына ең жоғары тәуекел деп тапқан пайдалану үшін алты жоғары тәуекелді міндеттемені қойыңыз: «ағымдағы күй» және «аяқталмаған/әрекет» бағандарын толтырыңыз. Шектеулі тәуекел санатына жататын пайдалану үшін пайдаланушыға көрсетілетін мөлдірлік мәлімдемесін жазыңыз. Соңында, егер сіздің пайдалануларыңыздың кез келгені тыйым салынған сызыққа жақындаса, мұны және неге екенін ескеріңіз.

бақылау парағы

• [ ] Мен AI-ны әр қолдануды төрт тәуекел класының біріне орналастырдым.
• [ ] Мен жобаларымды тыйым салынған қолданбалар тізіміне қарсы сканерледім.
• [ ] Мен жоғары тәуекелді пайдалану үшін жауапкершілікті бақылау кестесін жасадым.
• [ ] Мен міндеттемелерге адам аудитін және біржақты басқаруды қостым.
• [ ] Мен шектеулі тәуекелді пайдалану үшін ашықтық мәлімдемесін дайындадым.
• [ ] Мен Еуропалық Одақ нарығына қосылуымның заңға неліктен себеп болғанын түсінемін.
• [ ] Мен тәуекел классификациясын жобаның соңында емес, басында жасадым.