KVKK, Конфиденциальность и ответственное государственное управление искусственным интеллектом

Прибыль:

• Он применяет принципы KVKK и минимизацию данных при обработке персональных данных граждан с помощью инструментов искусственного интеллекта.
• Он устанавливает структуру управления для организации, которая включает политику использования ИИ, журнал аудита и цепочку ответственности.
• В нем целостно утверждается, что ответственный общественный ИИ основан на человеческом надзоре, прозрачности и подотчетности.

В этом модуле мы увидели, как ИИ является мощным общественным ускорителем: ответы на вопросы граждан, петиции и корреспонденция, исследования законодательства, анализ политики, отчетность, принятие решений на основе данных, электронное правительство и прозрачность. Теперь мы подошли к структуре, которая объединяет все это: защита персональных данных и ответственное управление. Общественность по своей природе обрабатывает наиболее конфиденциальные данные гражданина: личность, адрес, доход, состояние здоровья, судимость, семейное положение. Обработка этих данных с помощью инструментов искусственного интеллекта должна полностью соответствовать требованиям КВКК (Закон о защите персональных данных № 6698; закон, регулирующий законную, ограниченную и безопасную обработку персональных данных). В этом заключительном разделе мы создадим основу конфиденциальности и управления общественным использованием ИИ: какие данные и какому инструменту можно передавать, какие политики применяются, кто несет ответственность, как организация безопасно управляет ИИ. Этот блок представляет собой крышу над предыдущими десятью блоками.

Основные принципы КВКК, касающиеся публичного ИИ

КВКК устанавливает несколько основных принципов, каждый из которых напрямую ограничивает использование ИИ:

• Соблюдение закона и целеустремленность: Персональные данные обрабатываются только для конкретной, законной цели. Данные, собранные для одной цели (например, обращения за помощью), не могут быть использованы для другой цели (например, обучения модели) без разрешения.
• Минимизация данных: не обрабатывается больше данных, чем необходимо для этой цели. Если для анализа категории имя не требуется, имя не указывается.
• Безопасность: данные защищены от несанкционированного доступа. Вставка данных граждан в общедоступный инструмент искусственного интеллекта выводит эти данные за пределы организации — это нарушение политики безопасности.
• Срок хранения: Данные удаляются по истечении срока действия; Оно не хранится бесконечно.
• Информация и права: Граждане имеют право знать, как их данные обрабатываются, исправляются, удаляются и возражают против автоматических решений.

Внимание: загрузка данных гражданина в общедоступный инструмент искусственного интеллекта, который не одобрен учреждением, где хранятся данные и кто имеет к ним доступ, неясно, в большинстве случаев является нарушением КВКК и открывает для учреждения санкции. Правила никогда не нарушаются «чтобы облегчить работу».

Какие данные, к какому автомобилю? Трехзонная модель

Как правило, разделите данные на три области:

1. Красный (никогда не садится в общественный транспорт): идентификационный номер, состояние здоровья, уголовная ответственность, религия, этническая принадлежность, биометрические данные, полный адрес, все, что идентифицирует человека. Они обрабатываются только в контрактной/внутренней среде, соответствующей требованиям KVKK, утвержденной учреждением.
2. Желтый (осторожно, путем маскировки): Данные, которые могут быть косвенно связаны с человеком. Сначала анонимизируйте/агрегируйте, затем обрабатывайте.
3. Зеленый (бесплатно): обезличенная, общедоступная информация общего характера (законодательный текст, публичная статистика, общая процедура). Вы можете легко обработать их с помощью ИИ.

Совет: прежде чем отправлять текст ИИ, проведите 5-секундный тест: «Есть ли в этом контенте что-нибудь, что могло бы идентифицировать человека?» Если ответ «да/может быть», наденьте маску или управляйте одобренным транспортным средством. Если сомневаетесь, рассмотрите красный.

Корпоративное управление: от человека к системе

Ответственный государственный ИИ не может быть оставлен на усмотрение доброй воли отдельных государственных служащих; Институциональная основа необходима:

• Политика: В учреждении должна быть политика использования ИИ: какие инструменты одобрены, какие данные можно вводить, кто несет ответственность.
• Утвержденный список инструментов: Персонал должен использовать инструменты, которые учреждение оценило и одобрило, а не случайно.
• Обучение: персонал должен знать дисциплину проверки и регионы данных (например, этот модуль).
• Запись и аудит. Необходимо вести контрольный журнал решений, принятых с помощью ИИ.
• Подотчетность: каждый результат, основанный на искусственном интеллекте, должен иметь владельца и одобрение. Ответственность лежит на учреждении и офицере, а не на транспортном средстве.
• Принцип, ориентированный на человека: ни одно окончательное решение о создании/ограничении прав не принимается без согласия человека.

три мини-кейса

Случай 1 — предотвращена красная утечка данных. Сотрудник собирался загрузить в общедоступный инструмент сводный список медицинских пособий для 1200 человек. Благодаря утвержденной политике агентства в отношении транспортных средств и обучению по «красным данным» это прекратилось; Данные обрабатывались в утвержденной внутренней среде с замаскированными идентификационными полями. Предотвращено возможное нарушение КВКК и потеря доверия десятков тысяч человек.

Случай 2 — Неправильное использование. Одно подразделение хотело использовать собранные данные для информационно-просветительской работы в рамках предвыборного коммуникационного плана. Уполномоченный по защите данных напомнил о принципе целеустремленности: это использование данных вне цели, для которой они были собраны, и является незаконным. Запрос был отклонен.

Случай 3 — Устранение пробелов в управлении. В одном муниципалитете разные подразделения бесконтрольно использовали разные инструменты искусственного интеллекта; Никто не знал, какие данные куда пошли. Агентство представило политику использования ИИ, утвержденный список транспортных средств и контрольный журнал; За 3 месяца использование незарегистрированных транспортных средств сократилось на 90%, и был создан реестр данных.

Четыре копируемых шаблона

1) Классификация регионов данных (перед экспортом в автомобиль):

Ваша роль: консультант по защите данных. Классифицируйте следующий контент, прежде чем передавать его агенту ИИ: КРАСНЫЙ (идентифицирует человека, никогда не садится в общественный транспорт), ЖЕЛТЫЙ (косвенно подключаемый, маска), ЗЕЛЕНЫЙ (неличный, бесплатный). Отметьте красные/желтые области одну за другой и скажите им, как их замаскировать. Считайте подозреваемого красным. СОДЕРЖАНИЕ: [текст]

2) Маскирование/анонимизация:

Анонимизируйте все персональные данные перед обработкой следующего текста: имя -> [ЛИЦО-1], идентификационный номер -> [ИДЕНТИЧНОСТЬ], адрес -> [АДРЕС], здоровье/штраф -> [ЧУВСТВИТЕЛЬНО]. Отметьте того же человека. Экспортируйте анонимный текст отдельно. Никогда не записывайте фактические данные на выход. ТЕКСТ: [текст]

3) Контрольный список соответствия КВКК (для использования ИИ):

Ваша роль: Специалист по соблюдению требований KVKK. Составьте контрольный список соответствия для следующего использования ИИ: (1) является ли цель обработки законной и конкретной, (2) связана ли она с этой целью (переводится ли она на другую цель), (3) оптимизирована ли она, (4) является ли инструмент безопасным/утвержденным, (5) определен ли срок хранения, (6) защищены ли права граждан (возражение, удаление). Отметьте недостающие предметы красным флажком. ПРИМЕНЕНИЕ: [рецепт]

4) Рамки корпоративной политики в области искусственного интеллекта:

Ваша роль: эксперт по государственному управлению ИТ. Разработайте структуру политики использования ИИ для нашей организации: область применения, утвержденные инструменты, зоны данных (красный/желтый/зеленый), запрещенные виды использования, точки одобрения людьми, контрольный журнал, обязанности, обучение и уведомление о нарушениях. Дополните каждый заголовок 1-2 предложениями. УЧРЕЖДЕНИЕ: [подразделение и типовые вакансии]

Слабая подсказка / Сильная подсказка

Слабое: «Обобщите этот список литературы».

Сильный: «Ваша роль — консультант по защите данных. Сначала классифицируйте этот список по регионам данных (красный/желтый/зеленый) и отметьте все поля, которые идентифицируют человека. Замаскируйте красные/желтые поля с помощью [ЧЕЛОВЕКА]/[ИДЕНТИЧНОСТЬ]/[ЧУВСТВИТЕЛЬНЫЙ], оставьте одного и того же человека с той же меткой. Создавайте сводку по категориям только с анонимизированными, агрегированными данными; не записывайте в выходные данные реальные личные данные. В конце отметьте, где этот процесс требует внимания с точки зрения KVKK (цель, хранение, охрана автомобиля) добавить.»

Разница: мощная подсказка классифицирует, маскирует, минимизирует и интегрирует принципы KVKK перед обработкой данных.

Регионы данных и правило

Регион

пример

правило

красный

Идентификационный номер TR, здоровье, штраф, полный адрес

Никогда не садитесь в общественный транспорт; одобренная среда

желтый

Возраст+район+род занятий, косвенный идентификатор

Маскировать/агрегировать, затем обрабатывать

зеленый

Законодательство, государственная статистика, общий порядок

внештатная работа

Распространенные ошибки

• Экспорт красных данных в общедоступный инструмент. Наиболее серьезное нарушение; Данные об удостоверении личности/здоровье/штрафе не выходят за пределы утвержденной среды.
• Неправильное использование. Использование данных, собранных для одной цели, для другой цели (обучение модели, общение) без разрешения является нарушением закона.
• Обработка слишком большого количества данных. Не перемещайте ненужные поля (имя, адрес) для этой цели; Свернуть.
• Вождение без разрешения. Неясно, куда поступают данные в транспортных средствах, которые учреждение не оценило.
• Не определяет срок хранения. Данные должны быть удалены после достижения цели; не следует хранить бесконечно.
• Возложение ответственности на автомобиль. Результат принадлежит и одобряется человеком; «Это сделал ИИ» не является защитой.

В заключение

Основой ответственного общественного ИИ является защита персональных данных и корпоративное управление. Принципы КВКК — целенаправленность, минимизация, безопасность, лимит хранения, права граждан — ограничивают любое использование ИИ. Разделите данные на красную, желтую и зеленую зоны, никогда не выделяйте красный цвет общедоступным инструментам, маскируйте личные данные, используйте только одобренные инструменты и подключайте к каждому решению человека-владельца. Политика на институциональном уровне, утвержденный список транспортных средств, записи об обучении и проверках; Дисциплина проверки на уровне человека. Таким образом, ИИ служит обществу, защищая права граждан.

Задача приложения

Выберите фактическое использование ИИ, которое вы уже использовали (или планируете использовать) в своем подразделении. Разделите контент, который вы будете обрабатывать, на красный/желтый/зеленый с помощью шаблона «Классификация регионов данных». Примените шаблон «Контрольный список соответствия КВКК» и найдите хотя бы один недостающий/рискованный пункт. Наконец, составьте краткую политику, подходящую для вашего подразделения, с помощью «Скелета корпоративной политики в области ИИ».

контрольный список

• [ ] Я разделил контент на красную/желтую/зеленую зону; Я посчитал подозреваемого красным.
• [ ] Я не предоставил красные данные общедоступному инструменту; Я использовал одобренные средства массовой информации.
• [ ] Я замаскировал личные данные и удалил ненужные поля (минимизация).
• [ ] Я проверил цель обработки, срок хранения и безопасность автомобиля.
• [ ] Я соблюдал права граждан на возражение/удаление.
• [ ] Я прикрепил к каждому результату человека-владельца и одобрение; Я вел контрольный след.

Модульный экзамен

1. Какой приоритетный вопрос вам, как государственному служащему, следует задать, прежде чем передать работу ИИ?

• А) Что теряет гражданин, если этот вывод неверен? ✔
• Б) Насколько быстро ИИ сможет выполнить эту работу?
• В) Этот инструмент искусственного интеллекта бесплатен?
• D) Будет ли другое устройство также использовать этот выход?

Пояснение: Решение о переводе принимается исходя из ущерба, который понесет гражданин в случае неверного вывода. Повреждение легко переносится, если переписать всего несколько минут; Если это несправедливый отказ, неправильное наказание или потеря прав, ИИ составляет только проект, решение и проверка принадлежат должностному лицу.

2. Как называется, когда ИИ выдает за реальный несуществующий закон или сфабрикованное решение суда?

• А) Кэширование
• Б) Сортировка
• В) Анонимизация
• Г) Галлюцинации ✔

Пояснение: Галлюцинация — это когда ИИ уверенно выдает информацию, которой на самом деле не существует (сфабрикованное вещество, отмененное регулирование, неправильное число). В сфере законодательства это один из самых опасных рисков, поскольку может привести к утрате прав и отмене административного действия.

3. Чиновник собирается отклонить заявление на основании статьи регулирования, указанной YZ. Какое поведение является наиболее правильным?

• А) ИИ напрямую пишет отказ, потому что кажется уверенным
• Б) Задайте тот же вопрос другому транспортному средству с искусственным интеллектом и получите подтверждение.
• C) Подтверждает статью из текущего сводного текста на Çözüm.gov.tr ✔
• D) Устно запрашивает решение у начальника

Описание: данные обучения ИИ замораживаются на определенную дату; Статья, которую он показывает, возможно, была отменена или изменена. Подтверждение того, что статья имеет силу, и ее окончательная версия из текущего сводного текста на Çözüm.gov.tr ​​до принятия решения предотвращает несправедливое отклонение и возможный иск об аннулировании.

4. Почему возможность гражданского чат-бота сказать «Я не знаю, я передаю вас чиновнику» является гарантией качества?

• А) Улучшает статистику за счет увеличения текучести кадров
• Б) Предотвращает дезинформацию, передавая информацию людям, когда они не уверены ✔
• В) Увеличивает время разговора, отвлекая граждан
• Г) Позволяет чат-боту получать меньше вопросов

Пояснение: На публике уверенный неправильный ответ обходится гораздо дороже, чем честный ответ; Это приводит к потере прав и недоверию к институту. Способность чат-бота передавать информацию человеку, когда он не уверен, является механизмом безопасности, предотвращающим галлюцинаторную дезинформацию.

5. Какой наиболее важный риск следует учитывать при «упрощении» официальной переписки с ИИ?

• А) Текст слишком короткий
• Б) Изменение шрифта
• В) Удаление условия или исключения ✔
• Г) Неправильное написание имени адресата.

Пояснение: Стилистическая адаптация не должна менять содержание. При упрощении ИИ иногда исключает исключение, условие или продолжительность. Поэтому упрощенный текст всегда следует сравнивать с первоначальным решением или законодательством.

6. Имя и Т.Р. в наборе данных. Как вы это называете, когда сочетание «район + год рождения + тип инвалидности» может выявить человека, даже если идентификационный номер был удален?

• А) Переопределение ✔
• Б) Минимизация данных
• В) Коэффициент покрытия
• Г) Консолидация

Пояснение: Повторная идентификация — это поиск человека посредством комбинации косвенных идентификаторов на основе данных, считающихся анонимными. Если у одного человека обнаружена редкая категория, удаления имени будет недостаточно; Требуются дополнительные меры, такие как преобразование возраста в диапазон и объединение редких категорий.

7. Как это называется, когда модель проверки помечает район, который в прошлом подвергался тщательным проверкам, как «рискованный» и направляет туда дополнительные проверки, что подталкивает модель рассматривать этот район как более рискованный?

• А) Минимизация данных
• Б) Галлюцинации
• В) Анонимизация
• D) Петля обратной связи ✔

Пояснение: Цикл обратной связи — это когда выходные данные модели влияют на последующие обучающие данные, усиливая существующую предвзятость. Разница увеличивается не в реальном риске, а в том, куда смотреть. Чтобы защитить себя, нужно отслеживать воздействие, а не результат, и контролировать распределение решений по группам.

8. После того, как заявки на получение пособий были полностью переведены в онлайн-режим, количество заявок за первый месяц сократилось на 30 процентов. Какое наиболее вероятное объяснение этому?

• А) Реальные потребности граждан снизились
• Б) Граждане без Интернета и цифровой грамотности остались в стороне ✔
• В) Проценты уменьшились, потому что сумма помощи уменьшилась
• Г) Система автоматически одобрила все заявки.

Описание: Цифровой разрыв – это неспособность граждан, не имеющих доступа к Интернету или цифровой грамотности, получить доступ к услугам. Их число уменьшается, потому что наиболее нуждающаяся группа населения, пожилые люди и граждане, не имеющие Интернета, не могут подать заявку. Решение состоит в том, чтобы оставить альтернативные каналы, такие как точки оказания помощи.

9. Хотя фактический показатель успеха в годовом отчете составляет 63 процента, в резюме, подготовленном YZ, говорится, что «подавляющее большинство заявок были положительными». Каково правильное поведение?

• А) Выражение оставляем как есть, поскольку оно положительное.
• Б) Соотношение удалено и используется только качественное выражение
• В) Выражение заменяем действительным числом 63 процента ✔
• Г) Резюме полностью удалено из отчета

Пояснение: Преувеличенное позитивное восприятие в публичном отчете ставит учреждение в затруднительное положение при последующих проверках. Каждое утверждение в резюме следует сравнить с исходными данными и записать фактическое количество (63 процента); Резюме AI не включаются в отчет без проверки.

10. Если при принятии решений на основе данных в государственном секторе «количество закрываемых ежемесячно дел» увеличивается, а «коэффициент разрешения дел при первом обращении» снижается, чему это нас учит в первую очередь?

• А) Выбор правильного показателя важнее, чем умножение числа ✔
• Б) Численность персонала следует увеличить
• В) Графики должны быть раскрашены.
• Г) Чат-бот должен отвечать на больше вопросов

Пояснение: Неправильный показатель приводит к неправильному решению даже при наличии правильных данных. Файлы можно быстро закрыть и открыть снова. Выбор правильного индикатора и совместное чтение показателей предотвратят хвастовство, основанное только на вводящих в заблуждение цифрах.

11. На диаграмме вертикальная ось начинается с отметки 40, а не с нуля, и увеличение на 2 процента выглядит как резкий скачок. Пример какой проблемы?

• А) Галлюцинации
• Б) Минимизация данных
• В) Цифровой разрыв
• D) Вводящая в заблуждение визуализация ✔

Пояснение: Вводящая в заблуждение визуализация искажает восприятие с помощью таких методов, как ось, начинающаяся не с нуля, непропорциональный масштаб или выбранный период времени. Это часть честного визуального управления общедоступными данными; Реальную таблицу следует показывать, вытягивая ось к нулю.

12. Почему недопустимо говорить «это написал ИИ» в качестве оправдания административного действия?

• А) Потому что инструменты ИИ слишком дороги
• Б) Административные действия должны быть обоснованными и ответственность лежит на должностном лице ✔
• В) Потому что ИИ не знает турецкого языка
• Г) Потому что граждане не любят ИИ

Пояснение: Административные действия должны быть обоснованными и поддаваться проверке; Ответственность лежит не на ИИ, а на государственном должностном лице и учреждении, которое использует выходные данные без их проверки. «Так сказал ИИ» не является оправданием и не является основанием для административного действия.

13. Каковы четыре принципа, которые отличают использование ИИ в государственном секторе от частного и которые следует дополнительно соблюдать?

• А) Скорость, дешевизна, рентабельность, конкуренция
• Б) Автоматизация, масштаб, маркетинг, бренд
• В) Равенство, прозрачность, подотчетность, защита персональных данных ✔
• Г) Приватность, конфиденциальность, приватность и конфиденциальность.

Пояснение: В работах, где используется публичная власть, ИИ строится на принципах равенства (аналогичного подхода к аналогичной ситуации), прозрачности (объяснимость обоснованности решения), подотчетности (ответственность за каждую транзакцию и контрольный журнал) и защиты персональных данных (КВКК).

14. Что должна делать автоматизированная предполетная система, если она не уверена в типе редкого документа?

• А) молча отклонить заявку
• Б) Передача заявки на рассмотрение человеку ✔
• В) Автоматически одобрить заявку
• г) Удалить приложение

Пояснение: Хорошая автоматизация направляет модель офицеру, когда он не уверен, а не молча отклоняет ее. В противном случае законные приложения попадут в слепую зону и произойдет виктимизация. Удержание людей на этапе принятия решений — основа управления исключениями.