Печалби:
- Разберете базираната на риска логика на Закона за ИИ на ЕС (неприемливо, високо, ограничено, минимално) и задълженията на високорисковите системи
- Възможност за откриване на обработка на лични данни, ограничаване на целите, разкриване и международен трансфер на рискове по отношение на KVKK при използването на изкуствен интелект
- Възможност за предварителна оценка на изхода от изкуствения интелект, без да се счита за окончателен правен съвет и включване на лични данни и правна подкрепа във високорискови инициативи.
Етиката описва "което е правилно"; Съответствието, от друга страна, описва какво се „изисква от закона“ и чието нарушение води до санкции, съдебни дела и загуба на репутация. За висш ръководител спазването е въпрос на лична правна отговорност; „Не знаех“ не е защита. В тази част ще обсъдим двата най-критични регламента за изкуствения интелект: Закона за изкуствения интелект на ЕС (Закон за изкуствения интелект на ЕС; всеобхватният закон на Европейския съюз, регулиращ изкуствения интелект според нивото на риска) и KVKK (Закон за защита на личните данни; Законът за защита на личните данни на Турция е подобен на GDPR в Европа). Целта не е да станете адвокат; Да знаете кога да спрете и да получите правна подкрепа и избягване на слепи рискове.
Обосновка на Закона за ИИ на ЕС: основан на риска
Законът на ЕС за ИИ разделя системите с изкуствен интелект на четири категории според нивото на риск и налага различни задължения за всяка категория. Въпреки че не се прилага директно в Турция; Той обвързва институциите, които продават продукти/услуги на ЕС, имат клиенти от ЕС или обработват данните на потребители в ЕС, и се превръща в световен стандарт.
Ниво на риск
пример
отговорност
неприемливо
Социално оценяване, манипулативни системи
забранено
висок риск
Набиране на персонал, кредитиране, здравеопазване, критична инфраструктура
Строго: управление на риска, качество на данните, човешки надзор, записване, прозрачност
ограничен риск
Чатбот, продуктивно съдържание
Прозрачност: уведомяване на потребителя, че това е AI
минимален риск
Спам филтър, игра
Безплатна, доброволна добра практика
Важен термин: високорисковата система е приложение на изкуствен интелект, което може пряко да засегне основните права, безопасността или възможностите за живот на хората (работа, кредит, образование, здраве). Законът за тези системи е; Той изисква оценка на риска, качествени и безпристрастни данни, човешки надзор, техническа документация, водене на записи и прозрачност.
Съвет: Когато оценявате инициатива за ИИ, запитайте се: „Тази система участва ли в решение, което засяга работата, парите, здравето или свободата на даден човек?“ Ако отговорът е да, вероятно е висок риск и изисква специално старание с правна подкрепа.
Основни задължения на КВКК
KVKK регулира обработката на лични данни (всяка информация, която прави дадено лице специфично или идентифицируемо: име, TR ID, имейл, местоположение, дори поведенчески данни). Критични моменти по отношение на изкуствения интелект:
- Правно основание: Изисква се валидна причина (изрично съгласие, договор, легитимен интерес и др.) за обработка на лични данни.
- Ограничение на целта: Данните не могат да се използват за цели, различни от целта, за която са събрани. Въвеждането на данни, събрани за определена цел, в обучението по изкуствен интелект може да изисква допълнителна подкрепа.
- Минимизиране на данни: Обработват се само толкова данни, колкото са необходими.
- Разкриване: Съответното лице трябва да бъде информирано за това как се обработват неговите данни.
- Прехвърляне: Прехвърлянето на данни в чужбина (например към отвъдморски доставчик на изкуствен интелект) е предмет на специални правила.
- Автоматично решение: Трябва да се зачита правото на възражение срещу напълно автоматични решения, засягащи лицето.
Поставянето на клиентски данни в AI инструмент често се равнява на „прехвърляне на данни в чужбина“ и „неволна обработка“; Това е най-често срещаното и най-опасното нарушение на съответствието.
Стъпка по стъпка: проверка на годността
1. Определете нивото на риска. Коя е системата с неприемлив/висок/ограничен/минимален риск?
2. Проверете дали има лични данни. Кои лични данни къде отиват, на какво основание?
3. Съвпадащи задължения. Избройте правните изисквания въз основа на нивото на риск и състоянието на данните.
4. Получете правна подкрепа. Включете закона във всяка инициатива, която е високорискова или включва лични данни.
5. Документирайте и наблюдавайте. Записвайте решения за съответствие, оповестявания и проверки.
три мини калъфа
Случай 1 — Негласен трансфер в чужбина. Търговец на дребно изпрати данни до базиран в чужбина инструмент за изкуствен интелект, за да анализира оплакванията на клиентите. Уточняващият текст не обхващаше това, нямаше основание за прехвърляне. Извършено е нарушение по КВКК; Имаше риск от административни глоби по време на одита. Институцията премина към решение, което обработва данни вътрешно и актуализира осветлението.
Случай 2 — Строгост на системата с висок риск. Технологична компания за човешки ресурси продаваше софтуер за набиране на персонал на AB. Това се счита за „висок риск“ в Закона за ИИ на ЕС. Компанията навлезе на пазара гладко, защото предварително подготви управление на риска, доказателства за качеството на данните, човешки надзор и документация. Достъпът на неподготвен състезател се забави, защото не можеше да изпълни същите задължения. Хармонията се превърна в конкурентно предимство.
Случай 3 — Силата на осветлението. Застрахователна компания ясно просвети клиентите при ценообразуването с изкуствен интелект и отвори пътя за възражения срещу напълно автоматизирани решения. Клиент възрази, прегледа се от човек и грешката в данните беше коригирана. Прозрачността и обжалването не само изпълниха законовите изисквания, но и уловиха истинска грешка.
Четири копируеми шаблона
1) Предварителен контрол за класификация на риска:
Вашата роля: Съветник по съответствие с ИИ (предварителна оценка, не правни съвети). Класифицирайте следната система според нивата на риск в Закона за ИИ на ЕС: неприемливо, високо, ограничено, минимално. Напишете вашата обосновка и какви основни задължения ще възникнат; Посочете, че е необходима правна подкрепа за окончателно решение. Система: [текст]
2) Карта на потока от лични данни:
При това използване на изкуствен интелект направете карта кои лични данни се обработват, за каква цел се събират и къде се прехвърлят (особено в чужбина). Маркирайте рисковите точки по отношение на KVKK и посочете кои въпроси изискват правна подкрепа. Използване: [текст]
3) Контрол на осветлението и възраженията:
Проверете изискванията за разяснение на KVKK и възражение за автоматично решение за изкуствен интелект, насочен към клиента: за какво трябва да бъде информиран потребителят, как трябва да се обработи възражението? Избройте недостатъците. Използване: [текст]
4) Контролен списък за готовност за съответствие:
Създайте контролен списък за готовност за съответствие със Закона за ИИ на ЕС за следната високорискова инициатива за ИИ: управление на риска, качество на данните, човешки надзор, документация, регистрация, прозрачност. Напишете въпрос за всеки елемент, който мога да оценя като "готов/незавършен". Инициатива: [текст]
Слаба подкана / Силна подкана
Слаб: „Този ИИ законен ли е?“
Резултат: Повърхностен, ненадежден отговор; AI не може и не трябва да предоставя окончателни правни съвети.
Güçlü: „Оценявам инструмент за предварителна проверка за набиране на персонал, продаван на клиенти в ЕС. Класифицирайте го предварително според нивата на риск в Закона за ИИ на ЕС и избройте какви задължения (управление на риска, качество на данните, човешки надзор, документация) ще възникнат, ако се счита за вероятно висок риск. Също така, по отношение на KVKK, повдигнете въпросите, които трябва да задам, кои данни на кандидатите се обработват и как. Посочете, че това е предварителна оценка, законът е необходим за окончателно решение."
Резултат: Структурирана предварителна оценка и подготовка за правна подкрепа; не е сляпа клауза „законно/не“.
Често срещани грешки
- Очакваме окончателен правен съвет от AI. Изкуственият интелект прави предварителна оценка; Окончателното правно решение принадлежи на адвоката.
- Игнориране на трансфер на данни в чужбина. Въвеждането на клиентски данни във външен AI инструмент често е нарушение на съответствието.
- Подценяване на системата с висок риск. Системите, участващи в бизнес, кредитни и здравни решения, изискват специални грижи.
- Заобикаляне на правото на информация и възражение. Прозрачността и обжалването са правни изисквания за автоматизирани решения, засягащи физически лица.
- Мислейки, че хармонията е нещо еднократно. Промяна в законодателството и системите; Съответствието трябва да се наблюдава постоянно.
Внимание: Информацията в този раздел е за обща осведоменост и не е правен съвет. Резултатът от изкуствения интелект също не е правен съвет. При всяка инициатива, която обработва лични данни или е с висок риск, е задължителна консултация с квалифициран правен експерт, преди да вземете решение. Цената на нарушенията на съответствието нараства експоненциално под формата на глоби, съдебни дела и загуба на репутация.
В обобщение
Спазването е минималното изискване от закона, а нарушаването му налага юридическа отговорност на управителя. Законът за ИИ на ЕС регулира ИИ според нивото на риск (неприемлив, висок, ограничен, минимален); Управлението на риска, качеството на данните, човешкият надзор и прозрачността са от съществено значение за високорисковите системи. KVKK, от друга страна, изисква личните данни да са в съответствие с правилата за правно основание, ограничение за целта, минимизиране, разкриване и международен трансфер; Въвеждането на клиентски данни във външен AI инструмент е най-често срещаното нарушение. AI може да прави само предварителни оценки; Трябва да се получи експертна подкрепа за окончателно правно решение. В следващата част ще обсъдим екипа и структурата на компетентностите, които ще приложат цялата тази стратегия.
Задача за приложение
Изберете случай на използване на AI. 1. Предварително класифицирайте нивото на риска съгласно Закона за изкуствен интелект на ЕС с шаблон. 2. Картирайте потока от лични данни с шаблона и определете дали има международен трансфер. Запишете двата най-критични въпроса за съответствие, които възникват, и отбележете към кой правен източник/експерт бихте ги насочили. Не правете окончателни правни решения; просто изяснете въпросите.
контролен списък
- [ ] Предварително класифицирах нивото на риска на системата според Закона за ИИ на ЕС.
- [ ] Ако е висок риск, изброих съответните задължения.
- [ ] Картографирах обработваните лични данни и тяхната основа.
- [ ] Проверих дали има трансфер на данни в чужбина.
- [ ] Прегледах изискването за информация и правото на възражение.
- [ ] Подготвих критични въпроси за съответствие за правна подкрепа.
- [ ] Не считах резултата от AI за окончателен правен съвет.