Прибуток:
- Здатність оцінювати інформацію відповідно до класу конфіденційності (відкрита / внутрішня / конфіденційна / цілковито секретна) і застосовувати рефлекс «запитати клас, відповідати інструменту»
- Розуміння зберігання даних, навчання моделі, збору та ризиків злому штучного інтелекту та збереження відкритого та секретного світу окремо
- Здатність прийняти принцип мінімальних даних, захист персональних даних і дисципліну захисту невизначеної інформації, як якщо б це був вищий клас.
Дипломатія ґрунтується на довірі, а довіра — на таємниці. Позиція на переговорах, оцінка розвідки, зміст розмови зі співрозмовником або ще не оголошене рішення в чужих руках можуть поставити під загрозу інтереси держави, результат переговорів або навіть безпеку людей. Штучний інтелект приносить величезну швидкість у цю сферу, але він також несе нові та серйозні ризики для конфіденційності. У цьому розділі ви дізнаєтеся, як захищати секретну та конфіденційну інформацію в епоху штучного інтелекту, які дані можуть надходити в який транспортний засіб, а також дисципліну безпечного використання.
Цей розділ є найважливішим уроком безпеки модуля. Одна помилка тут — вставлення конфіденційного документа в неправильний інструмент — незворотна. Таким чином, тут буде встановлено рефлекс, який потрібно запам’ятати: перш ніж надавати будь-які дані інструменту ШІ, завжди запитуйте: до якого класу ці дані належать і чи цей інструмент схвалений для цього класу?
Класифікація інформації: основна відмінність
Дипломатичну інформацію часто класифікують відповідно до її конфіденційності. Хоча це різниться від установи до установи, основна логіка така:
- Несекретна/публічна: інформація, яка вже була опублікована та є загальнодоступною. Приклад: офіційні прес-релізи, публічні новини.
- Обмежена/внутрішня: внутрішня інформація, яка не є загальнодоступною, але має низький рівень конфіденційності.
- Конфіденційна: інформація, розголошення якої може завдати серйозної шкоди інтересам держави. Приклад: позиція на переговорах, внутрішня оцінка.
- Цілком таємно: інформація, розголошення якої завдасть найбільшої шкоди. Приклад: конфіденційна розвідка, важлива інформація безпеки.
Емпіричне правило просте: секретна інформація, яка не є загальнодоступною, не буде введена в інструмент штучного інтелекту, який ваша установа не схвалила для цього класу. Загальнодоступна служба AI, за визначенням, не сертифікована для такого класу інформації.
Порада: якщо ви не впевнені, ставтеся до інформації як до старшого. Сказати «це, напевно, вже відомо» — небезпечна здогадка. Поки ви не будете на 100 відсотків впевнені, що інформація є загальнодоступною, захищайте її як конфіденційну. Зайва обережність – це не ціна, а впевненість.
Ризики конфіденційності ШІ
Інструменти ШІ створюють інші ризики конфіденційності, ніж традиційне програмне забезпечення:
1. Обробка та зберігання даних: Текст, який ви пишете в загальнодоступній службі ШІ, може оброблятися та зберігатися на серверах цієї служби. Ви не можете контролювати, хто має до нього доступ, як довго він зберігається та як використовується.
2. Використання під час навчання моделі: деякі служби можуть використовувати введені вами дані для покращення моделі. Це створює ризик того, що ваша конфіденційна інформація опосередковано потрапить у «пам’ять» моделі та витікає до інших.
3. Ризик агрегації: фрагменти інформації, які окремо здаються нешкідливими, у поєднанні можуть сформувати делікатну картину. Невеликі фрагменти інформації, введені в різний час, разом можуть видати таємну позицію.
4. Ризик доступу та порушення: як і будь-яка зовнішня система, сервіси ШІ можуть піддаватися порушенню даних. Дані, які ви надаєте, можуть бути розкриті в результаті цього порушення.
Рішенням цих ризиків є створення двох окремих світів: загальних інструментів для роботи з відкритим кодом; Лише власні безпечні та затверджені системи, які не експортують дані для секретної роботи. Ніколи не змішуйте обидва.
Увага: сказати «Я зробив це анонімним» часто недостатньо. Навіть якщо ви видалите імена, контексту (дата, місце, подія, кількість сторін) може бути достатньо для експерта, щоб відредагувати особистості та посаду. Справжня конфіденційна інформація захищається не маскуванням, а відповідним вибором інструментів і носіїв.
Дисципліна безпечного використання
Налаштуйте практичний потік керування:
- Визначте клас. Чи є ці дані публічними, внутрішніми, конфіденційними чи цілком таємними?
- З’єднайте автомобіль у пару. Чи можна обробити цей клас у цьому інструменті? Якщо ні, зупиніться.
- Мінімальна політика даних. Навіть на працездатній роботі не давайте більше інформації, ніж вимагає робота.
- Захист персональних даних. Персональні дані (ім’я, контакт, місцезнаходження) обробляються лише за необхідності та на законних підставах; За непотрібності її маскують або не дають взагалі.
- Ведіть облік. Задокументуйте, який інструмент ви використовували для якої роботи, з якими даними; Якщо є проблема, її можна відстежити.
Порада: створіть у своїй команді культуру «конфіденційність перш за все»: новий службовець або стажер повинен засвоїти рефлекс «жодні конфіденційні документи не потрапляють у загальне надбання» з першого дня. Більшість порушень відбуваються не зі злого наміру, а через незнання того, наскільки відкритий транспортний засіб.
три міні-чохла
Випадок 1 — Рефлекс запобіг порушення. Експерт збирався конспектувати замітку інтерв’ю, але зупинився і запитав її класифікацію: це була довірча розмова зі співрозмовником. Перейшов на внутрішню безпечну систему замість публічного інструменту. Простий рефлекс «спершу запитай клас» запобіг порушенням.
Випадок 2 — Визнано ризик збору. Команда в різні дні вводила невеликі, здавалося б, «нешкідливі» фрагменти інформації в зовнішній інструмент. Перевірка безпеки показала, що в поєднанні ці фрагменти видають порядок денний майбутніх переговорів. Додаток зупинено; Роботу перенесли в безпечне середовище.
Випадок 3 — Підроблена анонімність. Клерк вважав документ «анонімним», оскільки він видалив імена та передав його зовнішньому агенту. Проте з дати, місця та опису події в документі було зрозуміло, про кого йдеться. Видалення імені було недостатньо; У будь-якому випадку документ мав бути оброблений у безпечному середовищі.
Чотири шаблони, які можна копіювати
1) Попередня перевірка класу та автомобіля:
Нижче я опишу роботу. Скажіть мені (не виконуйте цю роботу): (1) який клас чутливості можуть мати ці дані (загальнодоступний/внутрішній/секретний/цілком секретний), (2) чи потрібно обробляти цей клас у загальнодоступному інструменті ШІ, (3) якщо ні, який тип середовища потрібен. Опис роботи/дані: [тут]
2) Сканування та маскування персональних даних:
Перелічіть особисті/конфіденційні дані (ім’я, посада, контакт, місцезнаходження, стан здоров’я, ідентифікаційний номер), які необхідно замаскувати перед обробкою, у тексті нижче. ОПРАЦЮВАННЯ ТЕКСТУ; Просто скажіть мені, які ділянки потрібно видалити. Зроблю маскування і відправлю повторно. Текст: [тут]
3) Оцінка ризику збору:
Я розглядаю можливість експорту наступних частин інформації окремо до зовнішнього інструменту: [pieces]. Незважаючи на те, що вони можуть здаватися нешкідливими окремо, у КОМБІНАЦІЇ чи можуть вони створити делікатну картину (наприклад, позицію, порядок денний, ідентичність)? Оцініть ризик колекції та скажіть, які предмети не можна давати разом.
4) Підтвердження загальнодоступності:
Я не впевнений, що така інформація є публічною: [інформація]. Перелічіть, яку перевірку мені потрібно зробити, перш ніж вважати його загальнодоступним (чи є офіційний випуск, хто його опублікував, дата). Якщо я не впевнений, нагадайте мені про принцип «вважати конфіденційним».
Слабка підказка / Сильна підказка
Слабка підказка:
Підсумуйте цю замітку про інтерв’ю. (прихований вміст вставляється безпосередньо в замітку)
Це найнебезпечніша помилка: конфіденційний документ потрапив у загальнодоступний носій, не поставивши під сумнів його клас. Виник ризик витоку, який неможливо усунути.
Потужна підказка (спочатку перевірте):
Я хочу обробити записку про зустріч. Але спочатку: ця записка, мабуть, у секретному класі. Скажіть мені, чи можна обробити цей тип документів у загальнодоступному інструменті та як правильно? Я НЕ НАДАЮ ВАМ ЗМІСТ ДОКУМЕНТА; Я просто прошу правильний процес.
Різниця очевидна: конфіденційний вміст не надається взагалі, спочатку запитується правильний процес, а робота спрямовується у відповідне середовище.
Таблиця відображення класу автомобіля
інформаційний клас
приклад
Громадський ШІ
правильне середовище
громадськість
прес-реліз
підходить
загальний інструмент
Внутрішній/специфічний сервіс
внутрішня нота
Зазвичай ні
Внутрішнє схвалення
секрет
переговорна позиція
ніколи
Захищена система установи
цілком таємно
чутливий інтелект
ніколи
найвищий рівень безпеки
особисті дані
облікові дані
Лише необхідні+юридичні
В масках/охороні
Поширені помилки
- Введення даних без запиту класу. Перед кожною роботою рефлекс "це в якому класі?" є обов'язковим.
- Припускаючи, що «це, ймовірно, очевидно». Невизначена інформація захищена як конфіденційна.
- Помилка видалення імені як анонімізація. Контекст може видати ідентичність.
- Ігнорування ризику інкасації. Дрібні деталі можуть бути делікатними під час складання.
- Змішування двох світів. Відкриті та класифіковані завдання виконуються в окремих інструментах/середовищах.
Підсумовуючи
Секретність є найважливішим обмеженням дипломатичного використання ШІ. Візьміть класифікацію інформації (публічну/внутрішню/конфіденційну/цілком таємно), рефлекс «запитати клас, підберіть транспортний засіб», принцип мінімуму даних, захист персональних даних і ризик збору як основу цього підрозділу. Загальні інструменти для роботи з відкритим кодом; Використовуйте лише власні безпечні, затверджені системи для секретної роботи. Ніколи не плутайте ці два; Якщо сумніваєтеся, бережіть інформацію, як старший.
Аплікаційне завдання
Перелічіть 8 різних фрагментів даних із вашого власного (або уявного) столу (деякі загальнодоступні, деякі конфіденційні). Розмістіть кожен у класі та визначте, «яким інструментом його можна обробити». Оцініть неоднозначні за допомогою шаблону «Попередня перевірка класу та автомобіля». Виберіть три частини та перевірте, чи утворюють вони делікатну картину в поєднанні з «оцінкою ризику збору».
контрольний список
- [ ] Спочатку я визначив клас чутливості для кожного даних.
- Я ніколи не вводив дані, клас [ ] яких не підходить для громадського автомобіля.
- [ ] Я оберігав інформацію, у якій не був впевнений, як начальник.
- [ ] Я обробляю персональні дані лише в разі необхідності та законності, замасковано.
- [ ] Я ризикнув зібрати та розділити два світи.