Прибыль:
- Понимание того, что данные учащихся являются персональными и зачастую частными данными, а также правил анонимизации и хранения в рамках КВКК и профессиональной конфиденциальности.
- Возможность практиковать деидентификацию и выбирать безопасный/институциональный инструмент при вводе данных в общедоступные инструменты искусственного интеллекта.
- Понимание того, что согласие на обмен данными, минимизация данных и соблюдение школьной политики являются обязанностью учителя.
В ходе своей работы учитель имеет доступ к очень конфиденциальной информации: оценкам, поведенческим записям, состоянию здоровья, семейной информации, консультативным беседам, социально-экономическим данным. Эта информация относится к самой конфиденциальной области учащегося, и когда она попадает в чужие руки, она может причинить вред на всю жизнь. Большинство инструментов искусственного интеллекта основаны на облаке — это означает, что вводимый вами текст обрабатывается на удаленных серверах компании, а не на вашем компьютере, а в некоторых инструментах его можно использовать для разработки модели. Таким образом, записать информацию об ученике в общедоступный ИИ означает вывести ее из-под вашего контроля. Этот модуль устанавливает наиболее важный уровень безопасности при использовании ИИ в обучении. Правило ясно: сначала обезличьте данные учащихся, по возможности используйте безопасные/институциональные инструменты; Ответственность лежит на учителе.
Какие данные защищены? Рамки КВКК
Персональные данные — это любая информация, которая делает человека конкретным или идентифицируемым: имя-фамилия, номер школы, удостоверение личности, фотография или даже косвенные описания, такие как «самый высокий ученик 3-А» в одном контексте. Специальные (конфиденциальные) персональные данные защищены более строго: здоровье, этническая принадлежность, религия, судимость, биометрические данные, членство в ассоциациях/союзах. К этой категории относятся отчет о состоянии здоровья учащегося, диагноз неспособности к обучению или семейная травма.
KVKK (Закон о защите персональных данных) требует, чтобы персональные данные обрабатывались законно, для конкретной цели, взвешенно и безопасно. Практические последствия для учителя: используйте данные только по мере необходимости (минимизация данных), не злоупотребляйте данными, сохраняйте их в безопасности, не передавайте их третьим лицам (включая общедоступный ИИ) без разрешения. Также существует обязательство профессиональной конфиденциальности: преподаватель не может разглашать информацию, которую он узнает об ученике и его семье.
Внимание: предполагать, что «компания все равно это не читает», небезопасно. Некоторые бесплатные инструменты искусственного интеллекта могут хранить/использовать входные данные при обучении. Как только данные исчезнут, их невозможно будет восстановить. Самое безопасное — никогда не удалять данные.
Анонимизация: превращаем ее в рефлекс
Анонимизация означает удаление из данных всех элементов, идентифицирующих человека, и их необратимое обобщение. На практике:
- Имя-фамилия → «Студент А», «студент»
- Номер школы, ТР ID, класс-филиал → удалить полностью
- Имя родителя, телефон, адрес → удалить
- Редкие/описательные детали → обобщайте (фразы вроде «один ученик, который пользуется инвалидной коляской» выдают человека; скажите «один ученик»)
- Название школы/заведения → выйдите или скажите «наша школа»
Прежде чем передать текст ИИ, предположим, что его прочитает незнакомый человек: можно ли по этому тексту понять, какой это ребенок? Если понятно, обобщайте дальше.
Безопасный выбор автомобиля
Не все инструменты ИИ одинаковы. Самыми безопасными являются корпоративные инструменты, которые предоставляет ваша школа/учреждение, имеет соглашение об обработке данных (DPA) и не использует входные данные в образовании. При наличии бесплатных общедоступных инструментов предположение должно быть наихудшим сценарием. Выбирая инструмент, спросите: сохраняются ли мои вводимые данные? Используется ли оно в образовании? Где обрабатываются данные? Одобряет ли школьная политика этот инструмент? Если вы не уверены, не используйте данные без их анонимизации.
Шаг за шагом: безопасный рабочий процесс
- Сканируйте личные данные. Имя, номер, учреждение, деликатная ситуация.
- Анонимизировать. Заменить общими выражениями; удалить идентифицирующие данные.
- Примените минимизацию данных. Не добавляйте никакой информации, которая не требуется для задачи.
- Выберите транспортное средство. Институциональный, если это возможно; Если нет, предположим худший сценарий.
- Используйте это. Работайте только с анонимным текстом.
- Также проверьте вывод. ИИ может отражать предоставленную вами информацию; В выводе не должно быть утечки идентификационных данных.
три мини-кейса
Случай 1 — Захват в последнюю минуту. Консультант написал в AI письмо, чтобы проконсультироваться по поводу семейной проблемы студента; В тексте были указаны имя, класс и «его мать в больнице». Он заметил, не отправив это, обобщил все это как «13-летний школьник, проблемы со здоровьем в его семье». Предложения общего подхода, которые он получил, сработали; Никакие личные данные не были раскрыты.
Случай 2 — Косвенная идентификация. Учитель написал AI, что это «материал для единственного слабовидящего ученика в классе». Имени не было, но эта фраза определенно описывала того мальчика в школе. Когда он заметил, он изменил название на «для студента, которому нужна поддержка зрения». Анонимизация – это не только удаление имен, но и сокрытие идентификационных данных.
Случай 3 — Выбор автомобиля. Одна школа запретила учителям использовать бесплатные инструменты для работы с данными учащихся и предоставила корпоративный инструмент с защитой данных. Один учитель по привычке вставил анализ заметок в бесплатный инструмент; Благодаря напоминанию о политике он перешёл на корпоративный инструмент и всё равно анонимизировал данные. Два уровня защиты объединены.
Копируемые шаблоны
1) Предварительное сканирование анонимизации:
Предположим, что незнакомец прочитает следующий текст. Можно ли из этого текста прямо ИЛИ косвенно понять, какой он студент? Перечислите все выражения, выдающие идентичность (имя, номер, учреждение, редкая особенность), и предложите общую альтернативу каждому. Текст: [вставить]
2) Самооценка безопасного транспортного средства:
Напишите контрольный список из 6 вопросов для оценки инструмента искусственного интеллекта, который я собираюсь использовать: хранение входных данных, использование в образовании, расположение данных, институциональное одобрение, право на удаление, соответствие конфиденциальным данным. Добавьте к каждому вопросу «что делать, если да/что делать, если нет».
3) Управление минимизацией данных:
Упростите текст, который я дам ИИ для следующего задания: удалите все личные/контекстные детали, которые НЕ ТРЕБУЮТСЯ для задания, оставив только то, что необходимо для выполнения задания. Задача: [описать]. Текст: [вставить]
4) Проект школьной политики (для учителей):
Составьте краткий и четкий список правил из 8 пунктов, по которым учителя в школе могут использовать инструменты искусственного интеллекта для защиты данных учащихся: анонимизация, одобренный инструмент, конфиденциальные данные, сохранение, согласие, уведомление о нарушении. Пусть будут турецкие, применимые статьи. Я передам это на одобрение руководства/экспертов.
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Ахмет Йылмаз, 7-Б номер 214, очень слаб в математике, а его отец к нему равнодушен; Что мне сделать для этого студента?
Имя, номер, класс, семейная юрисдикция — грубое нарушение конфиденциальности; Данные находятся вне вашего контроля.
Мощная подсказка:
Предложите 3 стратегии поддержки, которые можно реализовать в школе для ученика 7-го класса, у которого возникают трудности с основными действиями по математике, при условии, что поддержка дома ограничена. (Студент анонимный; я не разглашаю никакой личной информации.)
Тип данных
пример
Это отдано ИИ?
Как
прямая идентификация
Имя, номер, ТР
нет
Удалить полностью
косвенная идентификация
«Одинокий студент-инвалид»
нет
обобщать
Конфиденциальные данные
Здоровье, диагностика, семья
очень осторожный
Анонимный + корпоративный инструмент
Общая педагогическая ситуация
«Бедный студент»
Да
анонимно
Распространенные ошибки
- Просто удалите имя. Если число, класс или косвенное определение остаются, идентичность все еще ясна.
- Не обращая внимания на косвенное определение. Выражения типа «Ты единственный в своем классе…» выдают человека.
- Легкомысленное отношение к конфиденциальным данным. Информация о здоровье/семье представляет собой особые данные и требует более строгой защиты.
- Предполагая безопасность автомобиля. Рискованно предполагать, что бесплатный инструмент не хранит данные; Предполагайте худшее.
- Не контролирует выход. ИИ может повторить учетные данные, которые вы предоставляете в ответе; также очистите вывод.
Совет: «Правило двух минут»: прежде чем вставлять в ИИ какой-либо текст, относящийся к учащемуся, потратьте две минуты, чтобы очистить имя, номер, учебное заведение и идентификационные данные. Эта маленькая привычка предотвращает самые большие нарушения.
В итоге
Данные студентов являются личными, часто частными данными, и защищены законом КВКК и профессиональной конфиденциальностью. Публичные инструменты искусственного интеллекта основаны на облаке; Предоставление данных в том виде, в каком они есть, выводит их из-под контроля. Правильный путь: анонимизировать личную и косвенно идентифицирующую информацию, делиться только тем, что необходимо (минимизация данных), по возможности использовать корпоративные и одобренные инструменты и проводить аудит результатов. Ответственность лежит на учителе.
Задача приложения
Возьмите текст об ученике, который вы написали (или собираетесь написать) AI на прошлой неделе. Обнаруживайте и обобщайте все прямые и косвенные идентификаторы с помощью шаблона «проверки перед анонимизацией». Затем оцените используемый вами инструмент ИИ по списку «Самооценка безопасного инструмента» и решите, какой тип данных вы можете использовать с этим инструментом.
контрольный список
- [ ] Удалил ли я прямые идентификаторы, такие как имя, номер, TR ID, учреждение?
- [ ] Обобщил ли я косвенные дескрипторы, такие как «Единственный в твоем классе…»?
- [ ] Обработал ли я конфиденциальные данные (здоровье/семья) дополнительной защитой?
- [ ] Проверил ли я политику использования данных и одобрение школы для автомобиля, которым пользуюсь?
- [ ] Проверил ли я также утечку личных данных в выходных данных?