Печалби:
- Възможност за оценка на информация според класа на чувствителност (обществен / вътрешен / поверителен / строго секретен) и прилагане на рефлекса „попитайте класа, съпоставете инструмента“
- Разбиране на съхранението на данни, обучението на модела, събирането и рисковете от пробив на AI и запазването на отворения и класифициран свят отделен
- Способност за възприемане на принципа на минималните данни, защита на личните данни и дисциплината за защита на несигурна информация, сякаш е от по-висок клас.
Дипломацията се основава на доверие, а доверието се основава на секретност. Преговорна позиция, разузнавателна оценка, съдържание на разговор със събеседник или решение, което все още не е обявено, в неподходящи ръце може да застраши интересите на държавата, резултата от преговорите или дори сигурността на хората. Изкуственият интелект носи огромна скорост в тази област, но също така носи нови и сериозни рискове за поверителността. В този модул ще научите как да защитавате класифицирана и чувствителна информация в ерата на изкуствения интелект, кои данни могат да влизат в кое превозно средство и дисциплината за безопасна употреба.
Този модул е най-критичният урок по сигурността в модула. Една грешка тук - поставянето на поверителен документ в грешен инструмент - е необратима. Следователно, тук ще бъде установен рефлекс, който трябва да бъде запаметен: Преди да дадете каквито и да е данни на AI инструмент, винаги питайте: в кой клас са тези данни и този инструмент одобрен ли е за този клас?
Класификация на информацията: основно разграничение
Дипломатическата информация често се класифицира според нейната чувствителност. Въпреки че варира от институция до институция, основната логика е следната:
- Некласифицирана/публична: Информация, която вече е публикувана и е публично достъпна. Пример: официални прессъобщения, публични новини.
- Ограничено/вътрешно: Вътрешна информация, която не е публично достъпна, но е с ниска чувствителност.
- Поверително: информация, чието разкриване може сериозно да увреди интересите на държавата. Пример: преговорна позиция, вътрешна оценка.
- Строго секретно: информация, чието разкриване би причинило най-сериозна вреда. Пример: чувствителна информация, критична информация за сигурността.
Основното правило е просто: никаква класифицирана информация, която не е публично достъпна, няма да бъде въведена в инструмент с изкуствен интелект, който вашата институция не е одобрила за този клас. Публичната услуга на ИИ по дефиниция не е сертифицирана за този клас информация.
Съвет: Ако не сте сигурни, третирайте информацията като възрастен. Казването „това вероятно вече е известно“ е опасно предположение. Докато не сте 100 процента сигурни, че информацията е публична, защитавайте я така, сякаш е поверителна. Излишната предпазливост не е разход, а уверение.
Рискове за поверителността на AI
AI инструментите крият различни рискове за поверителността от традиционния софтуер:
1. Обработка и съхранение на данни: Текстът, който пишете на обществена услуга за AI, може да бъде обработен и съхранен на сървърите на тази услуга. Не можете да контролирате кой има достъп до него, колко дълго се съхранява и как се използва.
2. Използване в обучението на модели: Някои услуги може да използват данните, които въвеждате, за да подобрят модела. Това създава риск вашата поверителна информация индиректно да влезе в „паметта“ на модела и да изтече към други.
3. Риск от агрегиране: Части от информация, които изглеждат безобидни поотделно, могат да формират чувствителна картина, когато се комбинират. Малки парчета информация, въведени по различно време, могат заедно да разкрият тайна позиция.
4. Риск от достъп и пробив: Както всяка външна система, AI услугите могат да бъдат обект на пробив в данните. Предоставените от вас данни може да бъдат разкрити при това нарушение.
Решението на тези рискове е да се установят два отделни свята: общи инструменти за работа с отворен код; Само вътрешни, сигурни, одобрени системи, които не експортират данни за класифицирана работа. Никога не смесвайте двете.
Внимание: Често не е достатъчно да кажете „Направих го анонимно“. Дори ако изтриете имената, контекстът (дата, място, събитие, брой партии) може да е достатъчен за експерта да редактира самоличността и позицията. Истинската чувствителна информация е защитена не чрез маскиране, а чрез подходящ избор на инструменти и медии.
Безопасна дисциплина при използване
Настройте практически контролен поток:
- Определете класа. Тези данни публични, вътрешни, поверителни или строго секретни ли са?
- Сдвоете автомобила. Може ли този клас да бъде обработен в този инструмент? Ако не, спрете.
- Политика за минимални данни. Дори и на работеща работа, не давайте повече информация, отколкото работата изисква.
- Защита на личните данни. Лични данни (име, контакт, местоположение) се обработват само при необходимост и на законово основание; При ненужност се маскира или изобщо не се дава.
- Пазете записа. Документирайте кой инструмент сте използвали за коя работа, с какви данни; Ако има проблем, той може да бъде проследен.
Съвет: Създайте култура на „поверителността на първо място“ във вашия екип: нов служител или стажант трябва да научи рефлекса „никакви поверителни документи да не влизат в публичното пространство“ от първия ден. Повечето нарушения не произтичат от злонамереност, а от незнание колко отворено е превозното средство.
три мини калъфа
Случай 1 — Рефлексно предотвратено нарушение. Експерт се канеше да обобщи бележка от интервю, когато спря и попита класификацията й: бележката беше поверителен разговор със събеседник. Премина към вътрешна защитена система вместо публичен инструмент. Един прост рефлекс "попитай първо класа" предотврати нарушение.
Случай 2 — Признат риск от събиране. Един екип ще въвежда малки, на пръв поглед „безобидни“ части от информация във външен инструмент в различни дни. Преглед на сигурността показа, че когато се комбинират, тези части разкриват дневния ред на предстоящи преговори. Приложението е спряно; Работата беше преместена в защитена среда.
Случай 3 — Фалшива анонимност. Чиновник сметна документ за "анонимен", защото беше изтрил имена и го беше предал на външния агент. От датата, мястото и описанието на събитието в документа обаче става ясно за кого става дума. Изтриването на името не беше достатъчно; Документът така или иначе трябваше да бъде обработен в защитена среда.
Четири копируеми шаблона
1) Предварителна проверка на класа и превозното средство:
Ще опиша работата по-долу. Кажете ми (не вършете работата): (1) какъв клас на чувствителност могат да имат тези данни (обществени/вътрешни/секретни/строго секретни), (2) трябва ли този клас да се обработва в публичен AI инструмент, (3) ако не, какъв тип среда се изисква. Описание на работата/данни: [тук]
2) Сканиране и маскиране на лични данни:
Избройте личните/чувствителните данни (име, титла, контакт, местоположение, здраве, идентификационен номер), които трябва да бъдат маскирани преди обработка в текста по-долу. ОБРАБОТКА НА ТЕКСТА; Просто ми кажете кои области трябва да бъдат премахнати. Ще направя маскирането и ще изпратя отново. Текст: [тук]
3) Оценка на риска от събиране:
Обмислям да експортирам следните части от информацията отделно към външен инструмент: [pieces]. Въпреки че те могат да изглеждат безобидни поотделно, когато се КОМБИНИРАТ могат ли да създадат чувствителна картина (напр. позиция, програма, идентичност)? Оценете риска от събиране и кажете кои артикули не трябва да се дават заедно.
4) Потвърждение за публична наличност:
Не съм сигурен дали следната информация е публична: [информация]. Избройте каква проверка трябва да направя, преди да го считам за публичен (има ли официално издание, кой го е публикувал, дата). Ако не съм сигурен, напомнете ми за принципа „третиране като поверително“.
Слаба подкана / Силна подкана
Слаба подкана:
Обобщете тази бележка от интервюто. (скритото съдържание се поставя директно в бележката)
Това е най-опасната грешка: поверителен документ е влязъл в публична медия, без класът му да бъде поставен под въпрос. Възникнал е риск от изтичане и не може да бъде отстранен.
Мощна подкана (първо проверете):
Искам да обработя бележка от срещата. Но първо: тази бележка вероятно е в тайния клас. Кажете ми дали този тип документи могат да се обработват в публичен инструмент и какъв е правилният начин? НЕ ВИ ДАВАМ СЪДЪРЖАНИЕТО НА ДОКУМЕНТА; Просто питам за правилния процес.
Разликата е ясна: поверителното съдържание изобщо не се дава, първо се задава правилният процес и работата се насочва към подходящата среда.
Таблица за съпоставяне на класа към превозното средство
информационен клас
пример
Публичен AI
подходяща среда
публичен
прессъобщение
подходящ
общ инструмент
Вътрешен/специфичен за услугата
вътрешна нотка
Обикновено не
Вътрешно одобрено
тайна
преговорна позиция
никога
Сигурна институционална система
строго секретно
чувствителен интелект
никога
най-висока сигурност
лични данни
акредитивни писма
Само необходимо + законно
Маскирани/охраняеми
Често срещани грешки
- Въвеждане на данни без запитване за клас. Преди всяка работа рефлексът "в кой клас е това?" е задължително.
- Ако приемем, че „вероятно е очевидно“. Несигурната информация е защитена като поверителна.
- Погрешно изтриване на име като анонимизиране. Контекстът може да издаде идентичности.
- Пренебрегване на риска от събиране. Малките части могат да бъдат деликатни, когато се сглобят.
- Смесване на два свята. Отворените и класифицирани задачи се изпълняват в отделни инструменти/среди.
В обобщение
Секретността е най-критичното ограничение на дипломатическата употреба на ИИ. Вземете класификацията на информацията (публична/вътрешна/поверителна/строго секретна), рефлекса „попитайте класа, съпоставете превозното средство“, принципа за минимални данни, защитата на личните данни и рискът от събиране като гръбнак на това звено. Общи инструменти за работа с отворен код; Използвайте само вътрешни сигурни, одобрени системи за класифицирана работа. Никога не бъркайте двете; Когато се съмнявате, пазете информацията като старши.
Задача за приложение
Избройте 8 различни части от данни от вашето собствено (или въображаемо) бюро (някои публични, някои чувствителни). Поставете всеки един в клас и решете "в кой инструмент може да бъде обработен". Оценете двусмислените с шаблона „Предварителна проверка на класа и автомобила“. Изберете три части и проверете дали формират чувствителна картина, когато се комбинират с „оценката на риска от събиране“.
контролен списък
- [ ] Първо определих класа на чувствителност за всяка информация.
- Никога не съм въвеждал данни, чийто клас [ ] не е подходящ за обществено превозно средство.
- [ ] Пазех информацията, в която не бях сигурен като началник.
- [ ] Обработвам лични данни само при необходимост и законосъобразност, маскирани.
- [ ] Поех риска да събирам и разделям два свята.