Прибыль:
- Способность понимать и осознавать тот факт, что данные ребенка являются особыми данными и что они должны быть анонимизированы в рамках КВКК и конфиденциальности и требуют согласия семьи.
- Способность оценить инструменты искусственного интеллекта с точки зрения безопасности, хранения и использования данных при обучении модели и выбрать безопасный из них.
- Способность поддерживать этические границы, такие как диагностический авторитет, стигма, дискриминация и соблюдение интересов ребенка в рабочем процессе.
В файле развития ребенка содержится самая интимная информация о нем: история развития, семейная ситуация, результаты обследований, наблюдения, а иногда и медицинская информация. Когда эта информация попадает в чужие руки или используется не по назначению, она может нанести вред ребенку на долгие годы: ярлык, стигма, дискриминация. Поэтому защита данных детей — одна из самых серьезных обязанностей специалиста по развитию ребенка; В эпоху искусственного интеллекта эта ответственность возрастает, поскольку вставка данных в инструмент занимает секунды и не может быть отменена. В этом модуле мы рассмотрим правовой статус данных детей, оценку инструментов искусственного интеллекта с точки зрения конфиденциальности и этические границы.
Во-первых, правовая основа: в Турции обработка персональных данных регулируется KVKK (Закон о защите персональных данных). Данные о здоровье и развитии ребенка относятся к категории особых персональных данных; Эта категория подлежит наивысшему уровню защиты. В Европе его эквивалентом является GDPR. В случае ребенка чувствительность еще выше, поскольку ребенок не может дать действительное согласие на использование своих собственных данных; Согласие (явное информированное согласие) получается от законного представителя, то есть семьи. В каждом решении преобладает принцип «наилучших интересов ребенка».
Анонимизация: самый простой и мощный шаг
Самый основной и самый практичный шаг, который защищает конфиденциальность при работе с искусственным интеллектом, — это анонимизация: удаление из данных всей информации, раскрывающей личность (имя, фамилия, номер TR ID, дата рождения, название школы/учреждения, адрес, номер протокола/файла, фамилии) и использование только неидентифицируемой информации, необходимой для вашей задачи. Написание «3 года и 2 месяца девочка» вместо «Элиф Кая, 3 года и 2 месяца, детский сад Папатья» выполняет работу по обработке данных, но сохраняет идентичность.
Предупреждение: идентичность может вновь проявиться, когда объединяются несколько мелких деталей (это называется повторной идентификацией). Например, такие детали, как «Единственный близнец в деревне X, его отец — староста», могут идентифицировать человека, даже если в нем нет имени. Поэтому необходимо не только удалить название, но и обобщить детали, делающие его уникальным.
Сырой (нельзя поделиться)
Анонимно (можно поделиться)
Элиф Кая, ТК 123..., 12.03.2022 г.р.
девочке 3 года 2 мес.
Детский сад Папатья, 3-А класс
дошкольное учреждение
Его мать – Айше, а отец – Мухтар.
родители
Номер дела 2024/187
(удалено)
Внимание: загрузка идентификационной информации ребенка, полного отчета или фотографии в общедоступный инструмент искусственного интеллекта является нарушением KVKK и конфиденциальности и не может быть отозвана. Данные передаются на внешний сервер, и некоторые инструменты могут использовать их для обучения модели. Всегда анонимизируйте перед загрузкой.
Выбор инструмента и жизненный цикл данных
Не все инструменты искусственного интеллекта имеют одинаковый уровень конфиденциальности. Оценивая инструмент, задайте вопрос: насколько он эффективен при обучении модели? Где он хранит данные и как долго? Предлагает ли он соглашение об обработке данных (для корпоративного использования)? Где их сервера? Корпоративные, контрактные и обучающие инструменты, не использующие ваши данные, безопаснее общедоступных бесплатных инструментов. Однако даже при использовании самого безопасного инструмента не передавайте ненужные учетные данные: анонимизация — первая защита при любых обстоятельствах.
Учитывайте жизненный цикл данных: собирайте данные (проверяйте), обрабатывайте (при необходимости), храните (безопасно, по времени), делитесь ими (только авторизованно, анонимно) и удаляйте (когда закончите). Все, что вы используете в инструментах искусственного интеллекта, рискует выйти за пределы этого цикла.
Совет: поместите жесткое правило в верхней части ваших любимых подсказок: «Я не буду раскрывать какую-либо информацию, которая идентифицирует ребенка или семью в этом разговоре». Создание этого контрольного рефлекса предотвращает наиболее распространенное нарушение (рассеянное вклеивание удостоверения личности).
Этические границы: диагноз, стигма, дискриминация
Конфиденциальность — это технический вопрос, но этика шире. Три границы имеют решающее значение. Диагностический орган: специалист по развитию ребенка проводит скрининг и оценку развития; Окончательный диагноз – это работа соответствующего врача/клинической бригады. Искусственный интеллект не знает этого предела; ты защитишь. Стигма: навешивание на ребенка раннего и постоянного ярлыка (в деле, в семье, в вашем собственном сознании) несправедливо по отношению к ребенку и может негативно повлиять на его развитие. Дискриминация и предвзятость: ИИ может отражать предвзятость в обучающих данных; Это может привести к предвзятым результатам в отношении конкретной культуры, пола или социально-экономической группы. Эксперт должен это заметить и исправить. Прежде всего, это принцип наилучших интересов ребенка: каждое ли решение идет на благо ребенка?
Четыре копируемых подсказки
1) Подсказка анонимизации:
Я дам вам текст. Удалите любую информацию, которая может раскрыть личность ребенка или семьи (имя, фамилия, TR ID, дата рождения, школа/учреждение, адрес, номер дела, уникальные данные); заменить общим выражением([девочка], [дошкольное учреждение]). Обобщайте не только имя, но и уникальные детали, которые могут идентифицировать человека. Перечислите, что вы удалили. Текст: [raw]
2) Подсказка для оценки конфиденциальности автомобиля:
Дайте мне контрольный список вопросов о конфиденциальности, которые я должен задать, чтобы решить, могу ли я использовать инструмент искусственного интеллекта с дочерними данными (используются ли данные для обучения, хранения, заключения контракта, определения местоположения сервера, удаления). Не придумывайте ответы; просто перечислите вопросы.
3) Подсказка по вопросам этики/предела полномочий:
Проанализируйте с этической точки зрения следующий текст: (1) ставит ли он/подразумевает ли он диагноз? (2) есть ли стигматизирующий ярлык? (3) существуют ли культурные/гендерные/социально-экономические предубеждения? Выделите каждую проблему и предложите исправленную и осторожную альтернативу. Текст: [проект]
4) Текстовая подсказка с информацией о согласии семьи:
Составьте для семьи краткий текст УВЕДОМЛЕНИЯ/СОГЛАСИЯ, в котором просто объясняется, как я буду использовать и защищать данные ребенка. Оно включает в себя: какие данные, для какой цели, как они защищены, кому они передаются, право на отзыв. Предоставление юридических консультаций; Обратите внимание, что это проект и он должен быть одобрен учреждением.
три мини-кейса
Случай 1. Нарушение загрузки идентификационных данных. В напряженный день специалист вставляет отчет о развитии ребенка с указанием его полного имени и удостоверения личности в общедоступный инструмент и говорит: «Подведите итог». Данные покинули учреждение, и согласие семьи не было получено. Правильным способом было анонимизировать данные с помощью первого запроса и использовать только анонимную информацию в безопасном инструменте. Это нарушение является как юридической, так и этической проблемой и не может быть отменено.
Случай 2 — Повторная идентификация. Эксперт удаляет имя, но оставляет деталь: «Единственный тройняшек в селе, его отец — имам». Эта деталь идентифицирует ребенка даже без имени. Эксперт углубляет анонимизацию, чтобы обобщить уникальные детали: «многоплодный ребенок, проживающий в сельской местности». Личность теперь защищена.
Случай 3 — Коррекция смещения. ИИ создает предвзятое предположение, скрытое в контенте о семье с низким доходом, например, что «участие в этих семьях часто недостаточно». Эксперт улавливает это с помощью третьей подсказки; считает заявление необоснованным, стигматизирующим и дискриминирующим и удаляет его. Он переписывает содержание на языке, который рассматривает каждую семью как равную и уважаемую.
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Вставляю сюда полный отчет Элиф, оценю и порекомендую диагноз.
Проблема: идентификационная информация разглашается (нарушение КВКК), запрашивается диагностика (превышение авторизации), согласия нет, безопасность автомобиля не подвергается сомнению.
Мощная подсказка:
Отредактируйте следующее АНОНИМНОЕ резюме разработки (идентификационная информация удалена) для оценочного ПРОЕКТА. Постановка диагноза; использование стигматизирующих ярлыков; Избегайте предвзятых предположений. Отметьте [дайте эксперту оценить] там, где вы не уверены. Краткое описание: [анонимно]
Распространенные ошибки
- Загрузка учетных данных: самое распространенное и самое серьезное нарушение; всегда анонимизируйте.
- Поверхностная анонимизация: просто удалить имя недостаточно; также обобщайте уникальные детали.
- Не ставить под сомнение конфиденциальность инструментов: избегайте инструментов, которые используют ваши данные в образовательных целях.
- Пересечение диагностической границы: оценка не является диагнозом; Полномочия принадлежат врачу/команде.
- Непризнание предвзятости: Исправьте стигматизирующие/дискриминационные предположения об ИИ.
В заключение
Данные о детях — это особые персональные данные; Это требует высочайшей защиты в рамках КВКК, конфиденциальности и согласия семьи. Самая сильная защита при работе с ИИ — это анонимизация: обобщайте не только имя, но и уникальные детали, которые могут идентифицировать человека. Оценить инструменты обеспечения конфиденциальности; Выбирайте безопасный, который не использует ваши данные при обучении. Соблюдайте этические границы (авторитет диагностики, стигматизация, дискриминация/предвзятость) и учитывайте интересы ребенка при каждом решении.
Задача приложения
Сделайте неанонимную (аутентичную, из ваших собственных записей) заметку о ходе работы; Не отражая его на экране, анонимизируйте его вручную, используя логику первого запроса, и перечислите всю полученную информацию. Оцените инструмент искусственного интеллекта, который вы используете, с точки зрения конфиденциальности, используя второй запрос. Проверьте черновик на предмет этики/предвзятости с помощью подсказки 3. Отметьте как минимум три внесенных вами исправления (одно анонимизация, одно этическое, одно предвзятое).
контрольный список
- [ ] Я анонимизировал данные; Я также обобщил уникальные детали.
- [ ] Я оценил инструмент, который использовал, с точки зрения конфиденциальности; Я выбрал безопасный.
- [ ] При необходимости я получил согласие семьи.
- [ ] Я сохранил предел диагностических полномочий; Я применил различие между оценкой и диагнозом.
- [ ] Я удалил стигматизирующие теги и дискриминационные/предвзятые выражения.
- [ ] При принятии каждого решения я учитывал интересы ребенка.
- [ ] Я не загрузил учетные данные ни в один автомобиль.