Прибыль:
- Способность классифицировать и анонимизировать данные учащихся в рамках КВКК и специальных концепций персональных данных, а также применять безопасный выбор транспортных средств.
- Способность адаптировать принципы профессиональной этики PDR (конфиденциальность, благодеяние, непричинение вреда, автономия) к использованию искусственного интеллекта.
- Способность распознавать предвзятость, культурную нечувствительность и галлюцинации в результатах искусственного интеллекта и создавать политику этического использования.
Доверие лежит в основе профессии PDR. Если студент может рассказать специалисту о своих самых сокровенных чувствах, родных и страхах, то только потому, что верит, что информация будет защищена. Инструменты искусственного интеллекта представляют собой новое серьезное испытание для этого доверия: самые конфиденциальные данные могут выйти из-под контроля в одно мгновение. В этом разделе мы систематически обсуждаем конфиденциальность, профессиональную этику KVKK, PDR и то, как они применяются к использованию искусственного интеллекта. Мы применяли эти принципы по частям в предыдущих разделах; Здесь мы объединим это в единое целое и превратим в постоянную политику.
КВКК и типы данных: что более защищено
КВКК (Закон о защите персональных данных) — закон, регулирующий законную обработку данных людей. Две концепции особенно важны. Персональными данными является любая информация, которая идентифицирует или идентифицирует человека: имя, фамилия, номер школы, класс, адрес, фотография. Особые персональные данные — это тип конфиденциальных данных, требующих более высокой защиты: здоровье, психическое состояние, диагноз, сексуальная жизнь, религия, этническая принадлежность, криминальный статус. Большинство записей PDR попадают во вторую, деликатную категорию; потому что психическое состояние, семейные проблемы и история поддержки являются непосредственно личными данными. Это означает, что данные PDR никогда не следует вводить в необработанном виде в общедоступные инструменты.
На практике это выражается в трех правилах: (1) Минимизация данных — работайте с наименьшим объемом данных, необходимых для выполнения работы. (2) Анонимизация — сделать данные недоступными для конкретного человека, удалив личную информацию. (3) Обеспечьте безопасность средств и целей — по возможности используйте защищенные корпоративные инструменты и обрабатывайте данные только для той цели, для которой они были собраны.
Внимание: недостаточно сказать «Я как-то анонимизировал это». Даже если имя опущено в тексте, уникальное описание ситуации (очень специфическая ситуация с одним учеником в маленькой школе) может помочь идентифицировать человека. При анонимизации обобщайте не только имя, но и детали, которые в совокупности указывают на человека.
Практика анонимизации: процедура контроля
Прежде чем экспортировать текст в инструмент, выполните следующую процедуру: (a) Удалите прямые идентификаторы, такие как имя, фамилия, номер, класс, имя родителя, адрес, телефон, название школы. (б) Обобщите косвенные дескрипторы: «ученик средней школы» вместо «единственный слабовидящий ученик в 12-Б». (c) При необходимости размыть дату и детали события. (г) Послечтение: «Может ли кто-нибудь, читающий этот текст, узнать, о ком идет речь?» Если ответ расплывчатый, обобщайте дальше. Аутентифицированная запись записывается только в закрытую, безопасную систему учреждения; Инструмент ИИ находится вне этой системы.
Профессиональная этика PDR и искусственный интеллект
Профессиональная этика PDR основана на четырех фундаментальных принципах, каждый из которых напрямую применим к использованию ИИ:
- Конфиденциальность (сохранение секретов): Информация о студентах защищена. Не вводить необработанные данные в ИИ, обезличивать их и выбирать безопасный инструмент — требование этого принципа.
- Благодеяние: Все, что делается, должно служить благополучию ученика. ИИ используется для удобства, а не таким образом, чтобы поставить под угрозу пользу учащегося.
- Непричинение вреда: приоритет – не причинить вреда. Непроверенные результаты, неточная статистика, маркировка и использование ИИ в кризисных ситуациях представляют собой риск причинения вреда; поэтому проверка и граница кризиса являются этическим императивом.
- Автономия: Право учащегося принимать собственное решение защищено. ИИ не должен низводить ученика до ярлыка или принимать решения от его имени.
К этому добавляется подотчетность: ответственность за каждый использованный результат лежит на эксперте; «Это создал ИИ» не является защитой.
Предвзятость, культурная чувствительность и прозрачность
ИИ может отражать социальные закономерности в обучающих данных. В PDR это вопрос справедливости: результаты, которые стереотипизируют учащегося в зависимости от его пола, культуры или социально-экономического статуса, подрывают равенство возможностей. Эксперт проверяет создаваемый контент на культурную чувствительность и предвзятость. Также прозрачность: там, где это возможно, внутри компании должно быть ясно указано, что ИИ использовался при подготовке материала или проекта; Его не следует использовать как тайную «магию». Конфиденциальность имеет важное значение в отношениях со студентом; То, что объясняет студент, не распространяется на транспортное средство.
Шаг за шагом: установление политики использования ИИ
- Классифицировать данные. Разделите всю имеющуюся у вас информацию на «личную/частную/публичную».
- Выберите транспортное средство. Единственный безопасный корпоративный инструмент для конфиденциальных данных; Работайте анонимно для общего плана.
- Следуйте процедуре анонимизации. Запускайте процедуру проверки перед каждой записью.
- Валидация и проверка предвзятости. Проверьте каждый результат на предмет фактичности и справедливости.
- Поддерживать кризисный лимит. Держите кризисные и консультационные отношения подальше от автомобиля.
- Возьмите на себя ответственность и будьте прозрачны. Окончательное утверждение принадлежит эксперту; Использование открыто внутри организации.
Копируемые шаблоны
1) Контроль анонимизации:
Ваша роль: помощник по аудиту конфиденциальности. Перечислите каждое утверждение в тексте ниже, которое может ПРЯМО или КОСВЕННО идентифицировать человека (имя, номер, класс, школа, уникальное описание ситуации) и предложите более общую альтернативу для каждого. Комментирование содержимого.Текст: [вставить текст]
2) Аудит предвзятости и культурной чувствительности:
Проверьте следующий материал PDR на предмет предвзятости и культурной чувствительности: Содержит ли он стереотипы о поле, культуре, социально-экономическом статусе или структуре семьи? Кто может исключить? Отмечайте рискованные заявления и предлагайте инклюзивные альтернативы.Материал: [вставить материал]
3) Проект корпоративной политики использования ИИ:
Ваша роль: помощник по написанию PDR. Для службы руководства разработайте краткую внутреннюю политику по использованию инструментов искусственного интеллекта. Рубрики: в каких работах используется, в каких не используется (кризис, диагностика, консультация), правило анонимизации данных, обязанность проверки, ответственность лежит на эксперте. Кратко и применимо.
Слабая подсказка / Сильная подсказка
Слабый:
Подводя итог ситуации с Ахметом Йылмазом 8-C, можно сказать, что он подвергался насилию дома.
Вносит в транспортное средство наиболее конфиденциальные данные (имя, класс, особый статус) в необработанном виде — серьезное нарушение КВКК и этики; Причем это может быть ситуация уведомления (блок 9).
Сильный:
Ваша роль: помощник по контролю конфиденциальности. Примечание. Я анонимизировал текст ниже перед отправкой его в инструмент. Однако проверьте еще раз: осталась ли какая-нибудь деталь, позволяющая идентифицировать человека? Текст: «Ученик средней школы намекнул, что испытывает напряжение дома».
три мини-кейса
Случай 1 — Косвенное раскрытие. Эксперт собирался ввести в инструмент текст, в котором он пропустил имя; но он понял, что фраза «единственный ученик школы, пользующийся инвалидной коляской» напрямую относилась к этому человеку. Он обобщил это на «студента». Одного названья было недостаточно; Показательным было и описание уникальной ситуации.
Случай 2 — Коррекция смещения. Эксперт, проверявший материалы о карьере, обнаружил, что ИИ всегда использовал мужские имена в инженерных примерах и женские имена в профессиях по уходу. Это сбалансировало образцы и сломало стереотипы. Это, казалось бы, незначительное исправление сохранило справедливость послания, отправленного студентам.
Случай 3. Разработка политики. Служба руководства создала единый текст внутренней политики, чтобы исключить путаницу, возникающую из-за того, что все используют ИИ по-разному: в каких задачах он применяется, а не в кризисных ситуациях и диагностике, данные анонимизируются, выходные данные проверяются, ответственность лежит на эксперте. AI дал проект; Команда доработала контент, используя свои собственные ценности. Неопределенность уступила место четким рамкам.
Распространенные ошибки
- Ввод сырых данных. Запись в транспортное средство с указанием имени/статуса. Решение: процедура анонимизации, безопасный инструмент.
- Просто удалил имя. Забывание косвенных идентификаторов. Решение: обобщить и уникальные детали.
- Игнорирование предвзятости. Принятие стереотипного вывода. Решение: предвзятость и аудит культуры.
- Возложение ответственности на автомобиль. Это означает «ИИ создал это». Решение: ответственность лежит на эксперте.
- Неправильное использование. Обработка данных, собранных для одной цели, для другой цели. Решение: соблюдайте лимит цели.
Таблица: Тип данных и правило AI
Тип данных
пример
Правило ИИ
общественный
Общее знакомство с профессией
свободно доступен
персональные данные
Имя, номер, класс
Без анонимизации войти невозможно.
Данные специального качества
Психический статус, семья, диагноз
Его никогда нельзя ввести в чистом виде.
данные о кризисе
Риск, насилие, самоубийство
Никогда не садитесь в автомобиль (блок 9)
В заключение
В PDR конфиденциальность — это основа доверия к профессии и самый проверенный принцип в эпоху ИИ. КВКК разделяет данные на персональные и частные данные; Большинство данных PDR являются конфиденциальными и не вводятся в инструмент в необработанном виде. Минимизация данных, анонимизация (с прямыми и косвенными идентификаторами) и безопасный выбор инструментов — основные правила. Четыре принципа профессиональной этики — конфиденциальность, благодеяние, непричинение вреда, автономия — обязательны для использования ИИ; Предвзятость контролируется, ответственность остается за экспертом, а использование внутри организации прозрачно.
Задача приложения
Разработайте краткую «Политику использования ИИ» для вашей собственной службы консультирования. Начните работу с шаблона «Проект политики использования корпоративного ИИ»; Затем отрегулируйте его в соответствии с реальностью вашего учреждения. Также пропустите (вымышленный) текст через шаблон «проверки анонимности», зафиксируйте и обобщите хотя бы один косвенный идентификатор.
контрольный список
- [ ] Я классифицировал имеющиеся у меня данные как личные/частные/публичные.
- [ ] Я обобщил прямые и косвенные идентификаторы в анонимизации.
- [ ] Я использовал безопасный/корпоративный инструмент для конфиденциальных данных.
- [ ] Я проверил результаты на предмет предвзятости и культурной чувствительности.
- [ ] Я взял на себя ответственность и сохранил прозрачность использования.