Добивки:
- Способност да се проценат информациите според класата на чувствителност (јавна / внатрешна / доверлива / строго доверлива) и да се примени рефлексот „прашај класа, поклопи ја алатката“
- Разбирање на ризиците за складирање податоци, обука на модели, собирање и прекршување на вештачката интелигенција и одржување на отворениот и класифициран свет одделен
- Способност за усвојување на принципот на минимални податоци, заштита на личните податоци и дисциплина за заштита на несигурни информации како да се од повисока класа.
Дипломатијата се заснова на доверба, а довербата се заснова на тајност. Преговарачка позиција, проценка на разузнавањето, содржината на разговор со соговорник или одлука која допрва треба да се објави, во погрешни раце, може да ги загрози интересите на државата, исходот од преговорите, па дури и безбедноста на луѓето. Вештачката интелигенција носи огромна брзина на ова поле, но носи и нови и сериозни ризици за приватноста. Во оваа единица, ќе научите како да ги заштитите доверливите и чувствителни информации во ерата на вештачката интелигенција, кои податоци во кое возило може да внесуваат и дисциплината за безбедно користење.
Оваа единица е најкритичната безбедносна лекција на модулот. Една грешка овде - ставање доверлив документ во погрешна алатка - е неповратна. Затоа, овде ќе се воспостави рефлекс што треба да се запамети: Пред да дадете какви било податоци на алатка за вештачка интелигенција, секогаш прашувајте: во која класа се овие податоци и дали оваа алатка е одобрена за оваа класа?
Класификација на информации: основна разлика
Дипломатските информации често се класифицираат според нивната чувствителност. Иако тоа варира од институција до институција, основната логика е оваа:
- Некласифицирани/јавни: Информации кои се веќе објавени и се јавно достапни. Пример: официјални соопштенија за печатот, јавни вести.
- Ограничено/внатрешно: Внатрешни информации кои не се јавно достапни, но имаат мала чувствителност.
- Доверливи: Информации чие откривање може сериозно да им наштети на интересите на државата. Пример: преговарачка позиција, внатрешна евалуација.
- Врвна тајна: Информации чие откривање би предизвикало најсериозна штета. Пример: чувствително разузнавање, критични безбедносни информации.
Правилото на палецот е едноставно: ниедна класифицирана информација што не е јавно достапна нема да биде внесена во алатка за вештачка интелигенција што вашата институција не ја одобрила за таа класа. Јавната услуга за вештачка интелигенција, по дефиниција, не е сертифицирана за оваа класа на информации.
Совет: Ако не сте сигурни, третирајте ги информациите како постар. Да се каже „ова веројатно е веќе познато“ е опасна претпоставка. Додека не сте 100 отсто сигурни дека информацијата е јавна, заштитете ја како да е доверлива. Непотребната претпазливост не е трошок, тоа е гаранција.
Ризиците за приватност на вештачката интелигенција
Алатките за вештачка интелигенција претставуваат различни ризици за приватност од традиционалниот софтвер:
1. Обработка и складирање податоци: Текстот што го пишувате на јавна услуга за вештачка интелигенција може да биде обработен и зачуван на серверите на таа услуга. Не можете да контролирате кој пристапува до него, колку долго се чува и како се користи.
2. Употреба во обуката за модели: некои услуги може да ги користат податоците што ги внесувате за да го подобрат моделот. Ова создава ризик дека вашите доверливи информации индиректно ќе влезат во „меморијата“ на моделот и ќе протечат до други.
3. Ризик од агрегација: Парчињата информации кои поединечно изгледаат безопасни може да формираат чувствителна слика кога се комбинираат. Малите информации внесени во различно време можат колективно да дадат тајна позиција.
4. Ризик за пристап и прекршување: Како и секој надворешен систем, услугите за вештачка интелигенција може да бидат предмет на прекршување на податоците. Податоците што ги давате може да бидат изложени во тоа прекршување.
Решението за овие ризици е да се воспостават два посебни света: општи алатки за работа со отворен код; Само внатрешни, безбедни, одобрени системи кои не извезуваат податоци за класифицирана работа. Никогаш не мешајте ги двете.
Внимание: честопати не е доволно да се каже „го направив анонимен“. Дури и ако ги избришете имињата, контекстот (датум, локација, настан, број на забави) може да биде доволен за експертот да ги редактира идентитетите и позицијата. Вистинските чувствителни информации не се заштитени со маскирање, туку со соодветен избор на алатки и медиуми.
Дисциплина за безбедно користење
Поставете практичен контролен тек:
- Одреди ја класата. Дали овие податоци се јавни, внатрешни, доверливи или строго доверливи?
- Спарете го возилото. Дали оваа класа може да се обработи во оваа алатка? Ако не, престанете.
- Политика за минимални податоци. Дури и на работоспособна работа, не давајте повеќе информации отколку што бара работата.
- Заштитете ги личните податоци. Личните податоци (име, контакт, локација) се обработуваат само доколку е потребно и на правна основа; Доколку е непотребно, се маскира или воопшто не се дава.
- Чувајте го записот. Документирајте која алатка сте ја користеле за која работа, со кои податоци; Ако има проблем, може да се следи.
Совет: Воспоставете култура „најпрво за приватност“ во вашиот тим: нов службеник или практикант треба да го научи рефлексот „нема доверливи документи да влегуваат во јавна сопственост“ уште од првиот ден. Повеќето прекршоци не произлегуваат од злоба, туку од незнаење колку е отворено возилото.
три мини футроли
Случај 1 - Рефлекс спречи повреда. Еден експерт сакаше да резимира белешка од интервјуто кога застана и ја праша нејзината класификација: белешката беше доверлив разговор со соговорник. Префрлен на внатрешен безбеден систем наместо јавна алатка. Едноставен рефлекс „прво прашај класа“ спречи прекршување.
Случај 2 - Признаен е ризикот од наплата. Тимот би внесувал мали, навидум „безопасни“ информации во надворешна алатка во различни денови. Безбедносниот преглед покажа дека кога ќе се комбинираат, овие делови ја дадоа агендата на претстојните преговори. Апликацијата е прекината; Работата беше преместена во безбедна средина.
Случај 3 - Лажна анонимност. Службеник сметал дека документот е „анонимен“ затоа што избришал имиња и го предал на надворешниот агент. Сепак, датумот, местото и описот на настанот во документот јасно покажаа на кого се мисли. Бришењето на името не беше доволно; Документот сепак требаше да биде обработен во безбедна средина.
Четири шаблони за копирање
1) Претходна проверка на класата и возилото:
Ќе ја опишам работата подолу. Кажи ми (не ја извршувај работата): (1) каква класа на чувствителност може да имаат овие податоци (јавна / внатрешна / тајна / строго тајна), (2) дали оваа класа се обработува во јавна алатка за вештачка интелигенција, (3) ако не, каков тип на околина е потребен. Опис на работата/податоци: [тука]
2) Скенирање и маскирање на лични податоци:
Наведете ги личните/чувствителните податоци (име, наслов, контакт, локација, здравје, матичен број) кои мора да бидат маскирани пред да се обработат во текстот подолу. ОБРАБОТКА НА ТЕКСТОТ; Само кажи ми кои области треба да се отстранат. Ќе направам маскирање и повторно ќе испратам. Текст: [тука]
3) Проценка на ризикот од наплата:
Размислувам да ги извезам следните делови од информации одделно во надворешна алатка: [парчиња]. Иако тие може да изгледаат безопасно поединечно, дали кога се КОМБИНИРАНИ, може да создадат чувствителна слика (на пр. позиција, агенда, идентитет)? Проценете го ризикот од собирање и кажете кои предмети не треба да се даваат заедно.
4) Потврда за јавна достапност:
Не сум сигурен дали следните информации се јавни: [информации]. Наведете каква потврда треба да направам пред да ја сметам за јавна (дали има официјално издание, кој го објавил, датум). Ако не сум сигурен, потсетете ме на принципот „третирај како доверлив“.
Слаб промпт / Силен промпт
Слаба навестување:
Сумирајте ја оваа белешка за интервју. (скриената содржина е залепена директно во белешката)
Ова е најопасната грешка: доверлив документ влезе во јавен медиум без неговата класа да биде доведена во прашање. Ризикот од истекување се појави и не може да се врати назад.
Моќно известување (прво проверете):
Сакам да обработам белешка за состанок. Но, прво: оваа белешка е веројатно во тајната класа. Кажете ми дали овој тип на документ може да се обработи во јавна алатка и кој е правилниот начин? НЕ ВИ ЈА ДАВАМ СОДРЖИНАТА НА ДОКУМЕНТОТ; Само барам правилен процес.
Разликата е јасна: доверливата содржина воопшто не е дадена, прво се прашува правилниот процес и работата се насочува кон соодветната средина.
Табела за мапирање од класа до возило
информативна класа
пример
Јавна вештачка интелигенција
вистинската средина
јавен
соопштение за медиумите
погоден
општа алатка
Специфично за внатрешни/услуги
внатрешна нота
Обично не
Одобрен во куќата
тајна
преговарачка позиција
никогаш
Безбеден систем на институции
строга тајна
чувствителна интелигенција
никогаш
највисока безбедност
лични податоци
ингеренциите
Само неопходно+правно
Маскиран/обезбеден
Вообичаени грешки
- Внесување податоци без барање за класа. Пред секоја работа, рефлекс „во кој клас е ова? е задолжително.
- Под претпоставка дека „веројатно е очигледно“. Несигурни информации се заштитени како доверливи.
- Грешка бришењето на името како анонимизација. Контекстот може да даде идентитети.
- Игнорирање на ризикот од собирање. Малите делови може да бидат деликатни кога се склопуваат.
- Мешање на два света. Отворените и класифицирани работни места работат во посебни алатки/средини.
Сумирано
Тајноста е најкритичната граница на дипломатската употреба на вештачката интелигенција. Земете ја класификацијата на информациите (јавна/внатрешна/доверлива/строго тајна), рефлексот „прашај класа, натпреварувај возило“, принципот на минимални податоци, заштитата на личните податоци и ризикот од собирање како столб на оваа единица. Општи алатки за работа со отворен код; Користете само внатрешни безбедни, одобрени системи за класифицирана работа. Никогаш не мешајте ги двете; Кога се двоумите, чувајте ги информациите како постар.
Задача за апликација
Наведете 8 различни податоци од вашето сопствено (или имагинарно) биро (некои јавни, некои чувствителни). Ставете го секој во класа и одлучете „во која алатка може да се обработи“. Оценете ги двосмислените со шаблонот „Претходна проверка на класа и возило“. Изберете три парчиња и проверете дали тие формираат чувствителна слика кога се комбинираат со „проценка на ризикот од наплата“.
листа за проверка
- [ ] Прво ја одредив класата на чувствителност за секој податок.
- Никогаш не сум внесувал податоци чија [ ] класа не е погодна за јавно возило.
- [ ] Ги чував информациите во кои не бев сигурен како претпоставен.
- [ ] Ги обработувам личните податоци само кога е неопходно и законски, маскиран.
- [ ] Го презедов ризикот да собирам и одвојувам два света.