KVKK, конфіденційність і відповідальне державне управління штучним інтелектом

Прибуток:

• Він застосовує принципи KVKK і мінімізацію даних під час обробки персональних даних громадян в інструментах ШІ.
• Він встановлює структуру управління для організації, яка включає політику використання штучного інтелекту, журнал аудиту та ланцюг відповідальності.
• Він цілісно стверджує, що відповідальний державний штучний інтелект заснований на людському контролі, прозорості та підзвітності.

Упродовж цього модуля ми побачили, наскільки штучний інтелект є потужним прискорювачем у громадських місцях: відповіді на запитання громадян, петиції та листування, дослідження законодавства, аналіз політики, звітність, прийняття рішень на основі даних, електронний уряд та прозорість. Тепер ми підійшли до структури, яка об’єднує все це: захист персональних даних і відповідальне управління. Паблік за своєю природою обробляє найбільш конфіденційні дані громадянина: особистість, адресу, дохід, стан здоров’я, судимість, сімейний стан. Обробка цих даних за допомогою інструментів AI має повністю відповідати нормам KVKK (Закон про захист персональних даних № 6698; закон, що регулює законну, обмежену та безпечну обробку персональних даних). У цьому останньому розділі ми встановимо основу конфіденційності та управління загальнодоступним використанням ШІ — які дані можна надати якому інструменту, які політики застосовуються, хто несе відповідальність, як організація безпечно керує ШІ. Цей блок є дахом над попередніми десятьма блоками.

Основні принципи КВКК, що стосуються публічного ШІ

KVKK встановлює кілька основних принципів, кожен з яких прямо обмежує використання ШІ:

• Відповідність закону та дотримання мети: Персональні дані обробляються лише для певної, законної мети. Дані, зібрані для однієї мети (наприклад, звернення за допомогою), не можна використовувати для іншої мети (наприклад, навчання моделі) без дозволу.
• Мінімізація даних: обробляється не більше даних, ніж необхідно для цієї мети. Якщо назва не потрібна для аналізу категорії, назва не вказується.
• Безпека: дані захищені від несанкціонованого доступу. Вставлення даних громадянина в загальнодоступний інструмент AI виносить ці дані за межі організації — це є порушенням політики безпеки.
• Термін зберігання: дані видаляються, коли мета закінчується; Він не зберігається нескінченно.
• Інформація та права: громадяни мають право знати, як обробляються їхні дані, виправляти, видаляти та заперечувати проти автоматизованих рішень.

Увага: завантаження даних громадянина в публічний інструмент ШІ, який установа не схвалила, де зберігаються дані та хто має до них доступ, незрозуміло, у більшості випадків є порушенням КВКК і відкриває установу для санкцій. Правила ніколи не змінюються, «щоб полегшити роботу».

Які дані, до якого автомобіля? Тризонна модель

Як правило, розділіть дані на три області:

1. Червоний (ніколи не в’їжджати в громадський транспорт): ідентифікаційний номер, стан здоров’я, злочинність, релігія, етнічна приналежність, біометрія, повна адреса, усе, що ідентифікує особу. Вони обробляються лише в контрактному/власному середовищі, сумісному з KVKK, затвердженому установою.
2. Жовтий (обережно, шляхом маскування): Дані, які можуть бути опосередковано пов’язані з особою. Спочатку анонімізуйте/агрегуйте, а потім обробіть.
3. Зелений (вільно): безособова, публічна, загальна інформація (законодавчий текст, публічна статистика, загальна процедура). Ви можете легко обробити їх за допомогою ШІ.

Порада: перш ніж передати текст штучному інтелекту, виконайте 5-секундний тест: «Чи є в цьому вмісті щось, за чим можна ідентифікувати особу?» Якщо відповідь «так/можливо», замаскуйтеся або керуйте схваленим транспортним засобом. Якщо сумніваєтеся, зверніть увагу на червоний.

Корпоративне управління: від людини до системи

Відповідальний державний штучний інтелект не може бути покладений на добру волю окремих державних службовців; Необхідна інституційна основа:

• Політика: установа повинна мати політику використання ШІ: які інструменти схвалені, які дані можна вводити, хто відповідає.
• Перелік затверджених інструментів: персонал має використовувати інструменти, які оцінила та схвалила установа, а не випадково.
• Навчання: персонал повинен знати дисципліну перевірки та регіони даних (як цей модуль).
• Запис і перевірка: слід зберігати контрольний журнал рішень, прийнятих за допомогою ШІ.
• Відповідальність: кожен вихід на основі ШІ повинен мати власника та схвалення. Відповідальність лежить на установі та офіцері, а не на транспортному засобі.
• Принцип, орієнтований на людину: Жодне остаточне рішення щодо створення/обмеження прав не приймається без згоди людини.

три міні-чохла

Випадок 1 — попереджено червоний витік даних. Співробітник збирався завантажити короткий перелік переваг для здоров’я для 1200 осіб у загальнодоступний інструмент. Завдяки схваленій політиці агентства щодо транспортних засобів і навчанню "червоних даних" це зупинилося; Дані оброблялися у схваленому внутрішньому середовищі з маскованими полями ідентифікації. Попереджено можливе порушення КВКК та втрату довіри десятків тисяч людей.

Випадок 2 — Неправильне використання. Один підрозділ хотів використати дані, зібрані для роз’яснення, для плану передвиборчої комунікації. Уповноважений із захисту даних нагадав про принцип дотримання мети: це було використання даних поза межами мети, для якої вони були зібрані, і було незаконним. Запит було відхилено.

Випадок 3 — ліквідовано прогалину в управлінні. В одному муніципалітеті різні підрозділи безконтрольно використовували різні інструменти ШІ; Ніхто не знав, куди йдуть дані. Агентство запровадило політику використання штучного інтелекту, затверджений список транспортних засобів і аудиторський слід; Протягом 3 місяців використання незареєстрованих транспортних засобів зменшилося на 90% і було створено інвентаризацію даних.

Чотири шаблони, які можна копіювати

1) Класифікація регіону даних (перед експортом у транспортний засіб):

Ваша роль: радник із захисту даних. Класифікуйте наступний вміст, перш ніж надавати його агенту ШІ: ЧЕРВОНИЙ (ідентифікує особу, ніколи не сідає в громадський транспорт), ЖОВТИЙ (непряме підключення, маска), ЗЕЛЕНИЙ (неособистий, безкоштовний). Позначте червоні/жовті області одну за одною та скажіть, як їх замаскувати. Вважайте підозрюваного червоним. ЗМІСТ: [текст]

2) Маскування/анонімізація:

Зробіть анонімними всі персональні дані перед обробкою такого тексту: ім’я -> [ОСОБА-1], ідентифікаційний номер -> [ІНФОРМАЦІЯ], адреса ->[АДРЕСА], стан здоров'я/штраф -> [КОНФІДЕЛЬНО]. Позначити ту саму людину. Експортуйте анонімний текст окремо. Ніколи не записуйте фактичні дані на вихід. ТЕКСТ: [текст]

3) Контрольний список відповідності КВКК (для використання ШІ):

Ваша роль: комплаєнс-спеціаліст КВКК. Створіть контрольний список відповідності для такого використання штучного інтелекту: (1) чи законна та конкретна мета обробки, (2) чи пов’язана вона з ціллю (чи змінюється на іншу мету), (3) чи вона оптимізована, (4) чи безпечний/схвалений інструмент, (5) чи певний період зберігання, (6) чи захищені права громадян (заперечення, видалення). Позначте відсутні елементи червоним прапорцем. ЗАСТОСУВАННЯ: [рецепт]

4) Основи корпоративної політики ШІ:

Ваша роль: державний експерт з управління ІТ. Створіть структуру політики використання штучного інтелекту для нашої організації: обсяг, схвалені інструменти, зони даних (червона/жовта/зелена), заборонене використання, точки схвалення персоналом, контрольний журнал, обов’язки, навчання та повідомлення про порушення. Доповніть кожен заголовок 1-2 реченнями. УСТАНОВА: [підрозділ і типові посади]

Слабка підказка / Сильна підказка

Слабкий: «Узагальніть цей список літератури».

Сильно: «Ваша роль — консультант із захисту даних. Спочатку класифікуйте цей список за регіонами даних (червоний/жовтий/зелений) і позначте всі поля, які ідентифікують особу. Замаскуйте червоні/жовті поля за допомогою [ОСОБА]/[Ідентифікація]/[КОНФІДЕНЦІЙНО], збережіть ту саму особу з тією самою міткою. Створюйте підсумок категорії лише з анонімними зведеними даними; не записуйте справжні особисті дані у вихідні дані. Наприкінці зауважте, де цей процес потребує уваги з точки зору КВКК (призначення, зберігання, безпека автомобіля) доп."

Відмінність: потужна підказка класифікує, маскує, мінімізує та інтегрує принципи KVKK перед обробкою даних.

Області даних і правило

Регіон

приклад

правило

червоний

ТР ІП, здоров'я, штраф, повна адреса

Ніколи не заходити в громадський транспорт; затверджене середовище

жовтий

Вік+місце проживання+заняття, непрямий ідентифікатор

Маскування/агрегат, потім обробка

зелений

Законодавство, державна статистика, загальний порядок

позаштатна робота

Поширені помилки

• Експорт червоних даних у публічний інструмент. Найбільш серйозне порушення; Дані про ідентифікацію/здоров’я/штрафи не виходять із схваленого середовища.
• Неправильне використання. Використання даних, зібраних для однієї цілі, для іншої (навчання моделі, спілкування) без дозволу є протизаконним.
• Обробка забагато даних. Не переміщуйте непотрібні поля (ім'я, адреса) за призначенням; Згорнути.
• Водіння без дозволу. Незрозуміло, куди йдуть дані в транспортних засобах, які установа не оцінила.
• Не визначення терміну зберігання. Дані повинні бути видалені, коли мета буде досягнута; не слід зберігати необмежений час.
• Покладання відповідальності на транспортний засіб. Результатом володіє та схвалює людина; «ШІ зробив це» не є захистом.

Підсумовуючи

Основою відповідального публічного ШІ є захист персональних даних і корпоративне управління. Принципи КВКК — цілеспрямованість, мінімізація, безпека, ліміт зберігання, права громадян — обмежують будь-яке використання ШІ. Розділяйте дані на червоні/жовті/зелені зони, ніколи не надавайте червоний загальнодоступним інструментам, маскуйте особисті дані, використовуйте лише схвалені інструменти та підключайте до кожного рішення людину-власника. Політика інституційного рівня, затверджений перелік транспортних засобів, записи про навчання та перевірки; Дисципліна перевірки на рівні особи. Таким чином, ШІ служить суспільству, захищаючи права громадян.

Аплікаційне завдання

Виберіть фактичне використання штучного інтелекту, яке ви використовували (або розглядаєте) у своєму підрозділі. Розділіть вміст, який ви оброблятимете, на червоний/жовтий/зелений за допомогою шаблону «Класифікація регіону даних». Застосуйте шаблон «Контрольний список відповідності KVKK» і знайдіть хоча б одну відсутню/ризиковану точку. Нарешті, складіть коротку політику, яка підходить для вашого підрозділу за допомогою «Скелета корпоративної політики ШІ».

контрольний список

• [ ] Я розділив вміст на червону/жовту/зелену зони; Я зарахував підозрюваного до червоного.
• [ ] Я не надав червоні дані загальнодоступному інструменту; Я використовував дозволені носії.
• [ ] Я замаскував персональні дані та видалив непотрібні поля (мінімізація).
• [ ] Я перевірив мету обробки, термін зберігання та безпеку автомобіля.
• [ ] Я дотримувався прав громадян на заперечення/видалення.
• [ ] Я додав власника людини та схвалення до кожного результату; Я вів контрольний слід.

Модульний екзамен

1. Як державному службовцю, яке запитання вам слід поставити перед тим, як передати роботу ШІ?

• A) Що втрачає громадянин, якщо цей висновок є неправильним? ✔
• Б) Як швидко штучний інтелект може виконати цю роботу?
• C) Цей інструмент ШІ безкоштовний?
• D) Чи інший пристрій також використовуватиме цей вихід?

Пояснення: Рішення про передачу приймається виходячи з шкоди, яку зазнає громадянин у разі неправильного виведення. Псування легко переноситься, якщо це всього кілька хвилин переписування; Якщо це несправедлива відмова, неправильне покарання або втрата прав, AI створює лише чернетку, рішення та перевірка належать посадовій особі.

2. Як називається, коли ШІ подає неіснуючий закон чи сфабриковане судове рішення за реальне?

• А) Кешування
• Б) Сортування
• В) Анонімізація
• D) Галюцинації ✔

Пояснення: галюцинація — це коли штучний інтелект впевнено видає інформацію, якої насправді не існує (вигадана речовина, скасовані правила, неправильне число). У сфері законодавства це один із найнебезпечніших ризиків, оскільки може призвести до втрати прав та скасування адміністративного позову.

3. Офіцер збирається відхилити заявку на підставі статті положення, на яку вказав YZ. Яка поведінка найбільш правильна?

• A) AI безпосередньо пише відмову, оскільки це виглядає впевнено
• Б) Поставте те саме запитання іншому транспортному засобу зі штучним інтелектом і отримайте підтвердження
• C) Підтверджує статтю з поточного консолідованого тексту на Çözüm.gov.tr ✔
• Г) Усно запитує рішення у начальника

Опис: навчальні дані штучного інтелекту заморожені на певну дату; Стаття, яку він показує, могла бути скасована або змінена. Підтвердження того, що стаття є чинною, і її остаточна версія з поточного консолідованого тексту на Çözüm.gov.tr ​​до прийняття рішення запобігає несправедливій відмові та можливому позову про анулювання.

4. Чому для громадянського чат-бота є можливість сказати «Я не знаю, я переводжу вас до чиновника»?

• A) Покращує статистичні дані за рахунок збільшення плинності кадрів
• B) Запобігає дезінформації, делегуючи інформацію людям, якщо ви не впевнені ✔
• В) Збільшує час розмови, відволікаючи громадян
• D) Дозволяє чат-боту отримувати менше питань

Пояснення: публічно впевнена неправильна відповідь коштує набагато дорожче, ніж чесна відповідь; Це призводить до втрати прав і недовіри до інституції. Здатність чат-бота передати людині, коли вона не впевнена, є механізмом безпеки, який запобігає галюцинаторній дезінформації.

5. Який найважливіший ризик слід враховувати під час «спрощення» офіційного листування з ШІ?

• А) Текст занадто короткий
• Б) Зміна шрифту
• C) Вилучення умови або винятку ✔
• Г) Неправильне написання імені адресата

Пояснення: Стилістична адаптація не повинна змінювати зміст. Під час спрощення штучний інтелект іноді пропускає виняток, умову або тривалість. Тому спрощений текст слід завжди порівнювати з оригінальним рішенням чи законодавством.

6. Ім'я та Т.Р. у наборі даних. Як ви називаєте це, коли комбінація «мікрорайон + рік народження + тип інвалідності» може виявити особу, навіть якщо ідентифікаційний номер було видалено?

• A) Перевизначення ✔
• B) Мінімізація даних
• В) Коефіцієнт покриття
• Г) Закріплення

Пояснення: повторна ідентифікація – це пошук особи за допомогою комбінації непрямих ідентифікаторів із даних, які вважаються анонімними. Якщо рідкісна категорія знайдена в однієї особи, видалення імені буде недостатньо; Потрібні додаткові заходи, такі як перетворення віку в діапазон і об’єднання рідкісних категорій.

7. Як це називається, коли модель інспекції позначає район, який у минулому інтенсивно перевірявся, як «ризикований» і надсилає туди більше інспекцій, що спонукає модель вважати цей район більш ризикованим?

• А) Мінімізація даних
• Б) Галюцинації
• В) Анонімізація
• D) Петля зворотного зв'язку ✔

Пояснення: цикл зворотного зв’язку — це коли вихідні дані моделі впливають на подальші навчальні дані, підсилюючи існуюче зміщення. Різниця збільшується не в реальному ризику, а в тому, куди дивитися. Спосіб захистити себе — відстежувати вплив, а не результат, і контролювати груповий розподіл рішень.

8. Після того, як заявка на пільги повністю перейшла в Інтернет, кількість заявок впала на 30 відсотків за перший місяць. Яке найвірогідніше пояснення цього?

• А) Реальні потреби громадян зменшилися
• B) Громадяни без Інтернету та цифрової грамотності залишилися поза увагою ✔
• C) Відсотки зменшилися через зменшення суми допомоги
• D) Система автоматично схвалила всі заявки

Опис: Цифровий розрив — це нездатність громадян без доступу до Інтернету або цифрової грамотності отримати доступ до послуг. Кількість зменшується, тому що найбільш потребуюча група людей похилого віку та громадяни без Інтернету не можуть подати заявку. Рішення полягає в тому, щоб залишити альтернативні канали, такі як допоміжні пункти направлення.

9. У той час як фактичний показник успіху в річному звіті становить 63 відсотки, у резюме, підготовленому YZ, зазначено, що «переважна більшість заявок була позитивною». Що таке правильна поведінка?

• А) Вираз залишено без змін, оскільки він позитивний.
• Б) Співвідношення видаляється і використовується лише якісний вираз
• В) Вираз замінено дійсним числом 63 відсотки ✔
• Г) Резюме повністю видалено зі звіту

Пояснення: перебільшене позитивне сприйняття в публічному звіті ставить установу в складну ситуацію під час наступних перевірок. Кожну претензію в резюме слід порівняти з необробленими даними та записати фактичну кількість (63 відсотки); Резюме AI не включаються до звіту без перевірки.

10. Під час прийняття рішень на основі даних у державному секторі, якщо «кількість файлів, що закриваються щомісяця», збільшується, а «швидкість вирішення при першому контакті» зменшується, чому це вчить нас насамперед?

• А) Вибір правильного показника важливіший, ніж множення числа ✔
• Б) Слід збільшити чисельність персоналу
• В) Графіки повинні бути кольоровими
• D) Чат-бот має відповідати на більше запитань

Пояснення: неправильний індикатор призводить до неправильного рішення навіть за правильних даних. Файли можна швидко закривати та знову відкривати. Вибір правильного індикатора та зчитування індикаторів разом запобігає хвастощам, заснованим лише на оманливому числі.

11. На діаграмі вертикальна вісь починається з 40 замість нуля, і збільшення на 2 відсотки виглядає як різкий стрибок, приклад якої проблеми?

• А) Галюцинації
• B) Мінімізація даних
• В) Цифровий розрив
• D) Оманлива візуалізація ✔

Пояснення: оманлива візуалізація спотворює сприйняття за допомогою таких методів, як вісь не починається з нуля, непропорційний масштаб або вибраний період часу. Це частина чесного візуального управління публічними даними; Справжню таблицю слід показати, підтягнувши вісь до нуля.

12. Чому неприпустимо говорити «АІ це написав» як виправдання адміністративної дії?

• А) Тому що інструменти ШІ занадто дорогі
• B) Адміністративні дії мають бути обґрунтованими, а відповідальність несе посадова особа ✔
• В) Тому що ШІ не знає турецької мови
• D) Тому що громадяни не люблять ШІ

Пояснення: адміністративна дія має бути обґрунтованою та підлягати перевірці; Відповідальність лежить не на штучному інтелекті, а на державному службовці та установі, які використовують результати, не перевіряючи їх. «ШІ так сказав» не є виправданням і не підтримує адміністративні дії.

13. Які чотири принципи відрізняють використання штучного інтелекту в державному секторі від приватного сектору та яких слід додатково дотримуватися?

• А) Швидкість, дешевизна, прибутковість, конкуренція
• B) Автоматизація, масштаб, маркетинг, бренд
• C) Рівність, прозорість, підзвітність, захист персональних даних ✔
• D) Конфіденційність, конфіденційність, приватність і конфіденційність

Пояснення: у роботах, де використовується публічна влада, ШІ будується на принципах рівності (однакове ставлення до подібної ситуації), прозорості (з’ясування обґрунтування рішення), підзвітності (відповідальність за кожну транзакцію та контрольний слід) та захисту персональних даних (КВКК).

14. Що має робити автоматизована система попередньої перевірки, якщо вона не впевнена щодо рідкісного типу документа?

• А) Відхилити заявку мовчки
• Б) Пересилання програми на перевірку персоналом ✔
• C) Автоматично схвалити заявку
• Г) Видалити додаток

Пояснення: хороша автоматизація направляє модель до офіцера, коли вона не впевнена, а не мовчки відкидає її. Інакше законні додатки потраплять у сліпу зону й станеться віктимізація. Утримання людей на етапі прийняття рішення є основою управління винятками.