Прибыль:
- Умение оценивать информацию по классу секретности (публичная/внутренняя/конфиденциальная/совершенно секретно) и применять рефлекс «спроси класс, подбери инструмент».
- Понимание хранения данных, обучения моделей, сбора и рисков взлома ИИ, а также разделения открытого и засекреченного мира.
- Способность принять принцип минимума данных, защиту персональных данных и дисциплину защиты неопределенной информации, как если бы она была более высокого класса.
Дипломатия основана на доверии, а доверие основано на секретности. Переговорная позиция, оценка разведки, содержание разговора с собеседником или еще не объявленное решение, оказавшись в чужих руках, могут поставить под угрозу интересы государства, исход переговоров или даже безопасность людей. Искусственный интеллект привносит огромную скорость в эту область, но он также несет в себе новые и серьезные риски для конфиденциальности. В этом модуле вы узнаете, как защитить секретную и конфиденциальную информацию в эпоху искусственного интеллекта, какие данные могут попасть в какое транспортное средство, а также правила безопасного использования.
Этот модуль представляет собой наиболее важный урок по безопасности в модуле. Одна ошибка здесь — вставка конфиденциального документа не в тот инструмент — необратима. Следовательно, здесь выработается рефлекс, который необходимо запомнить: прежде чем передавать какие-либо данные инструменту ИИ, всегда спрашивайте: в каком классе находятся эти данные и одобрен ли этот инструмент для этого класса?
Классификация информации: основные различия
Дипломатическую информацию часто классифицируют в зависимости от ее конфиденциальности. Хотя это варьируется от учреждения к учреждению, основная логика такова:
- Несекретная/публичная информация: информация, которая уже была опубликована и является общедоступной. Пример: официальные пресс-релизы, публичные новости.
- Ограниченная/внутренняя: внутренняя информация, которая не является общедоступной, но имеет низкую конфиденциальность.
- Конфиденциально: информация, раскрытие которой может нанести серьезный ущерб интересам государства. Пример: переговорная позиция, внутренняя оценка.
- Совершенно секретно: Информация, раскрытие которой может причинить самый серьезный вред. Пример: конфиденциальная информация, критическая информация о безопасности.
Эмпирическое правило простое: никакая секретная информация, не являющаяся общедоступной, не будет введена в инструмент искусственного интеллекта, который ваше учреждение не одобрило для этого класса. Публичная служба искусственного интеллекта по определению не сертифицирована для работы с данным классом информации.
Совет: если вы не уверены, отнеситесь к информации как к старшему. Говорить «вероятно, это уже известно» — опасное предположение. Пока вы не будете на 100 процентов уверены, что информация является общедоступной, защищайте ее так, как если бы она была конфиденциальной. Ненужная осторожность – это не затраты, это гарантия.
Риски конфиденциальности, связанные с ИИ
Инструменты искусственного интеллекта создают иные риски для конфиденциальности, чем традиционное программное обеспечение:
1. Обработка и хранение данных. Текст, который вы пишете в общедоступную службу искусственного интеллекта, может обрабатываться и храниться на серверах этой службы. Вы не можете контролировать, кто имеет к нему доступ, как долго он хранится и как используется.
2. Использование при обучении модели. Некоторые сервисы могут использовать введенные вами данные для улучшения модели. Это создает риск того, что ваша конфиденциальная информация косвенно попадет в «память» модели и утечет другим людям.
3. Риск агрегирования. Части информации, которые по отдельности кажутся безобидными, в сочетании могут сформировать чувствительную картину. Небольшие фрагменты информации, введенные в разное время, могут в совокупности выдать секретную позицию.
4. Риск доступа и взлома. Как и любая внешняя система, сервисы ИИ могут подвергаться утечке данных. Предоставленные вами данные могут быть раскрыты в результате такого нарушения.
Решением этих рисков является создание двух отдельных миров: общих инструментов для работы с открытым исходным кодом; Только собственные, безопасные и одобренные системы, которые не экспортируют данные для секретной работы. Никогда не смешивайте эти два понятия.
Внимание: Сказать «Я сделал это анонимным» часто бывает недостаточно. Даже если вы удалите имена, контекста (дата, место, событие, количество участников) может быть достаточно, чтобы эксперт мог скрыть личности и положение. Реальная конфиденциальная информация защищается не маскировкой, а соответствующим выбором инструментов и носителей.
Дисциплина безопасного использования
Настройте практический поток управления:
- Определите класс. Являются ли эти данные общедоступными, внутренними, конфиденциальными или совершенно секретными?
- Подключите автомобиль. Можно ли обработать этот класс в этом инструменте? Если нет, остановитесь.
- Минимальная политика данных. Даже на выполнимой работе не давайте больше информации, чем требует работа.
- Защищайте личные данные. Персональные данные (имя, контакт, местонахождение) обрабатываются только в случае необходимости и на законных основаниях; При необходимости он маскируется или не задается вообще.
- Держите запись. Задокументируйте, какой инструмент вы использовали для какой работы и с какими данными; Если есть проблема, ее можно отследить.
Совет: создайте в своей команде культуру «конфиденциальность прежде всего»: новый клерк или стажер должен с первого дня выучить рефлекс «никакие конфиденциальные документы не становятся достоянием общественности». Большинство нарушений происходят не по злому умыслу, а из-за незнания того, насколько открыто транспортное средство.
три мини-кейса
Случай 1 — Рефлекс предотвратил нарушение. Эксперт собирался резюмировать запись интервью, когда остановился и спросил ее классификацию: заметка представляла собой конфиденциальный разговор с собеседником. Перешел на внутреннюю безопасную систему вместо общедоступного инструмента. Простой рефлекс «сначала спроси в классе» предотвратил нарушение.
Случай 2 — Признан риск взыскания. В разные дни команда вводила небольшие, казалось бы, «безобидные» фрагменты информации во внешний инструмент. Проверка безопасности показала, что в совокупности эти части выдали повестку предстоящих переговоров. Приложение остановлено; Работа была перенесена в безопасную среду.
Случай 3 — Фальшивая анонимность. Клерк посчитал документ «анонимным», поскольку удалил имена и передал его стороннему агенту. Однако дата, место и описание события в документе давали понять, о ком идет речь. Удаление имени было недостаточным; В любом случае документ должен был быть обработан в безопасной среде.
Четыре копируемых шаблона
1) Предварительная проверка класса и автомобиля:
Работу опишу ниже. Скажите мне (не выполняйте задание): (1) какой класс конфиденциальности могут иметь эти данные (публичный/внутренний/секретный/совершенно секретный), (2) следует ли обрабатывать этот класс в общедоступном инструменте ИИ, (3) если нет, какой тип среды требуется. Описание вакансии/данных: [здесь]
2) Сканирование и маскирование персональных данных:
Перечислите в тексте ниже личные/конфиденциальные данные (имя, должность, контакт, местонахождение, состояние здоровья, идентификационный номер), которые должны быть замаскированы перед обработкой. ОБРАБОТКА ТЕКСТА; Просто скажите мне, какие области необходимо удалить. Сделаю маскировку и отправлю повторно. Текст: [здесь]
3) Оценка риска сбора:
Я рассматриваю возможность экспорта следующих фрагментов информации отдельно во внешний инструмент: [куски]. Даже если по отдельности они могут показаться безобидными, могут ли они в СОЕДИНЕНИИ создать чувствительную картину (например, позицию, программу, идентичность)? Оцените риск сбора и скажите, какие предметы не следует давать вместе.
4) Подтверждение публичной доступности:
Я не уверен, что следующая информация является общедоступной: [информация]. Перечислите, какую проверку мне нужно сделать, прежде чем считать его общедоступным (есть ли официальный релиз, кто его опубликовал, дата). Если я не уверен, напомните мне о принципе «сохранять конфиденциальность».
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Подведите итоги этого интервью. (скрытый контент вставляется прямо в заметку)
Это самая опасная ошибка: конфиденциальный документ попал в публичный носитель, а его класс не подвергается сомнению. Возник риск утечки, который невозможно устранить.
Мощная подсказка (сначала проверьте):
Я хочу обработать запись о встрече. Но сначала: эта записка, вероятно, находится в секретном классе. Скажите, можно ли этот тип документа обработать в общедоступном инструменте и как правильно? Я НЕ ДАЮ ВАМ СОДЕРЖАНИЕ ДОКУМЕНТА; Я просто прошу правильный процесс.
Разница очевидна: конфиденциальный контент вообще не предоставляется, сначала задается правильный процесс, а работа направляется в соответствующую среду.
Таблица соответствия классов автомобилям
информационный класс
пример
Общественный ИИ
правильная среда
общественный
пресс-релиз
подходящий
общий инструмент
Внутренний/специфичный для службы
внутренняя нота
Обычно нет
Внутреннее одобрение
секрет
переговорная позиция
никогда
Безопасная система учреждений
Совершенно секретно
чувствительный интеллект
никогда
высочайшая безопасность
персональные данные
полномочия
Необходимо+только по закону
Замаскировано/защищено
Распространенные ошибки
- Ввод данных без запроса класса. Перед каждым заданием возникает рефлекс «это в каком классе?» является обязательным.
- Предполагая, что «это, вероятно, очевидно». Неопределенная информация защищена как конфиденциальная.
- Принятие удаления имени за анонимизацию. Контекст может выдать личность.
- Игнорирование риска инкассо. Мелкие детали могут быть хрупкими при сборке.
- Смешение двух миров. Открытые и классифицированные задания выполняются в отдельных инструментах/средах.
В заключение
Секретность является наиболее важным ограничением дипломатического использования ИИ. В качестве основы этого раздела возьмите классификацию информации (публичная/внутренняя/конфиденциальная/совершенно секретная), рефлекс «спроси класс, сопоставь транспортное средство», принцип минимума данных, защиту персональных данных и риск сбора. Общие инструменты для работы с открытым исходным кодом; Для секретной работы используйте только собственные безопасные и одобренные системы. Никогда не путайте эти два понятия; В случае сомнений охраняйте информацию как старший.
Задача приложения
Перечислите 8 различных фрагментов данных со своего (или воображаемого) стола (некоторые общедоступные, некоторые конфиденциальные). Поместите каждую в класс и решите, «каким инструментом можно ее обработать». Оценивайте неоднозначные с помощью шаблона «Предварительная проверка класса и автомобиля». Выберите три предмета и проверьте, образуют ли они чувствительную картину в сочетании с «оценкой риска сбора».
контрольный список
- [ ] Сначала я определил класс чувствительности для каждого данных.
- Я никогда не вводил данные, класс [ ] которых не подходит для общественного транспорта.
- [ ] Я охранял информацию, в которой не был уверен, как начальник.
- [ ] Я обрабатываю персональные данные только в случае необходимости и законно, в замаскированном виде.
- [ ] Я рискнул коллекционировать и разделить два мира.