Добици:
- Способност процене информација према класи осетљивости (јавно / интерно / поверљиво / строго поверљиво) и примена рефлекса 'питај класу, одговарај алату'
- Разумевање складиштења података, обучавања модела, прикупљања и ризика од кршења АИ и одвајање отвореног и поверљивог света
- Способност усвајања принципа минимума података, заштите података о личности и дисциплине заштите несигурних информација као да је у питању виши разред.
Дипломатија се заснива на поверењу, а поверење на тајности. Преговарачка позиција, обавештајна процена, садржај разговора са саговорником или одлука која се тек треба објавити, у погрешним рукама, могу да угрозе интересе државе, исход преговора, па чак и безбедност људи. Вештачка интелигенција доноси огромну брзину овој области, али такође носи нове и озбиљне ризике приватности. У овој јединици научићете како да заштитите поверљиве и осетљиве информације у доба вештачке интелигенције, које податке можете да унесете у које возило и дисциплину безбедне употребе.
Ова јединица је најкритичнија лекција о безбедности модула. Једна грешка овде — лепљење поверљивог документа у погрешан алат — је неповратна. Стога ће се овде успоставити рефлекс који треба запамтити: Пре него што дате било какве податке АИ алату, увек питајте: у којој класи су ови подаци и да ли је овај алат одобрен за ову класу?
Класификација информација: основна дистинкција
Дипломатске информације се често класификују према њиховој осетљивости. Иако се разликује од институције до институције, основна логика је следећа:
- Неповерљиво/јавно: Информације које су већ објављене и јавно доступне. Пример: званична саопштења за јавност, јавне вести.
- Ограничено/интерно: Интерне информације које нису јавно доступне, али су ниске осетљивости.
- Поверљиво: Информације чије би откривање могло озбиљно да нашкоди интересима државе. Пример: преговарачка позиција, интерна евалуација.
- Строго поверљиво: Информације чије би откривање проузроковало најтежу штету. Пример: осетљива обавештајна информација, критичне безбедносне информације.
Правило је једноставно: Ниједна поверљива информација која није јавно доступна неће бити унета у АИ алат који ваша институција није одобрила за ту класу. Јавни АИ сервис, по дефиницији, није сертификован за ову класу информација.
Савет: Ако нисте сигурни, третирајте информације као старији. Рећи "ово је вероватно већ познато" опасна је претпоставка. Док нисте 100 посто сигурни да су информације јавне, заштитите их као да су поверљиве. Непотребан опрез није трошак, то је гаранција.
Ризици приватности АИ
Алати за вештачку интелигенцију представљају различите ризике за приватност од традиционалног софтвера:
1. Обрада и складиштење података: Текст који напишете јавном АИ сервису може бити обрађен и ускладиштен на серверима те услуге. Не можете да контролишете ко му приступа, колико дуго се чува и како се користи.
2. Коришћење у обуци модела: Неке услуге могу користити податке које унесете да побољшају модел. Ово ствара ризик да ће ваше поверљиве информације индиректно ући у „памћење” модела и процурити другима.
3. Ризик агрегације: делови информација који појединачно изгледају безопасно могу формирати осетљиву слику када се комбинују. Мале информације унете у различито време могу заједно да одају тајну позицију.
4. Ризик приступа и кршења: Као и сваки спољни систем, услуге вештачке интелигенције могу бити предмет повреде података. Подаци које пружите могу бити изложени том кршењу.
Решење за ове ризике је успостављање два одвојена света: општи алати за рад отвореног кода; Само интерни, безбедни, одобрени системи који не извозе податке за поверљиви рад. Никад не мешајте то двоје.
Пажња: Рећи „Учинио сам то анонимним“ често није довољно. Чак и ако избришете имена, контекст (датум, локација, догађај, број странака) може бити довољан да стручњак редигује идентитете и позицију. Праве осетљиве информације нису заштићене маскирањем, већ одговарајућим одабиром алата и медија.
Дисциплина безбедне употребе
Подесите практичан ток контроле:
- Одреди класу. Да ли су ови подаци јавни, интерни, поверљиви или строго поверљиви?
- Упарите возило. Може ли се ова класа обрадити у овом алату? Ако не, престани.
- Политика минималних података. Чак и на послу који ради, немојте давати више информација него што посао захтева.
- Заштитите личне податке. Лични подаци (име, контакт, локација) се обрађују само по потреби и на законској основи; Ако је непотребно, маскира се или се уопште не даје.
- Чувајте записник. Документујте који сте алат користили за који посао, са којим подацима; Ако постоји проблем, може се пратити.
Савет: Успоставите културу „приватност на првом месту“ у свом тиму: нови службеник или приправник би требало да научи рефлекс „нема поверљивих докумената у јавном домену“ од првог дана. Већина кршења не произилази из злобе, већ из незнања колико је возило отворено.
три мини кофера
Случај 1 — Рефлекс спречио кршење. Експерт се спремао да резимира белешку интервјуа када је стао и упитао њену класификацију: белешка је била поверљив разговор са саговорником. Прешао на интерни безбедан систем уместо на јавни алат. Једноставан рефлекс „прво питај разред” спречио је кршење.
Случај 2 — Признат ризик наплате. Тим би уносио мале, наизглед „безазлене“ информације у спољни алат у различитим данима. Безбедносни преглед је показао да када се комбинују, ови делови одају дневни ред предстојећих преговора. Апликација је заустављена; Рад је премештен у безбедно окружење.
Случај 3 — Лажна анонимност. Службеник је документ сматрао "анонимним" јер је избрисао имена и предао га спољном агенту. Међутим, датум, место и опис догађаја у документу јасно су показали на кога се мисли. Брисање имена није било довољно; Документ је ионако требало да буде обрађен у безбедном окружењу.
Четири шаблона за копирање
1) Претходна провера класе и возила:
У наставку ћу описати рад. Реци ми (немој да радиш посао): (1) коју класу осетљивости могу имати ови подаци (јавни / интерни / тајни / строго поверљиви), (2) да ли ова класа треба да се обрађује у јавном АИ алату, (3) ако не, која врста окружења је потребна. Опис посла/података: [овде]
2) Скенирање и маскирање личних података:
Наведите личне/осетљиве податке (име, титула, контакт, локација, здравље, матични број) који морају бити маскирани пре обраде у тексту испод. ОБРАДА ТЕКСТА; Само ми реци које области треба уклонити. Урадићу маскирање и поново послати. Текст: [овде]
3) Процена ризика наплате:
Размишљам о извозу следећих информација засебно у спољни алат: [комади]. Иако ово може изгледати безопасно појединачно, када се КОМБИНИРАЈУ, могу ли створити осетљиву слику (нпр. позиција, дневни ред, идентитет)? Процените ризик прикупљања и реците које предмете не треба давати заједно.
4) Потврда о доступности јавности:
Нисам сигуран да ли су следеће информације јавне: [информације]. Наведите коју верификацију треба да урадим пре него што је сматрам јавном (да ли постоји званично саопштење, ко га је објавио, датум). Ако нисам сигуран, подсетите ме на принцип „третирајте као поверљиво“.
Слаби промпт / Јаки промпт
Слабо обавештење:
Сумирајте ову белешку интервјуа. (скривени садржај се налепи директно у белешку)
Ово је најопаснија грешка: поверљиви документ је ушао у јавни медиј, а да његова класа није доведена у питање. Ризик од цурења је настао и не може се поништити.
Снажан упит (прво провери):
Желим да обрадим белешку са састанка. Али прво: ова белешка је вероватно у тајној класи. Реците ми да ли се ова врста документа може обрадити у јавном алату и који је исправан начин? НЕ ДАЈЕМ ВАМ САДРЖАЈ ДОКУМЕНТА; Само тражим исправан процес.
Разлика је јасна: поверљиви садржај се уопште не даје, прво се тражи тачан процес и рад се усмерава у одговарајуће окружење.
Табела мапирања од класе до возила
час информација
пример
Публиц АИ
право окружење
јавности
саопштење за јавност
погодан
општи алат
Интерно/специфично за услугу
унутрашња нота
Обично не
Ин-хоусе одобрено
тајна
преговарачка позиција
никад
Сигуран систем институција
строго поверљиво
осетљива интелигенција
никад
највише безбедности
личне податке
акредитиве
Неопходан+само законски
Маскиран/обезбеђен
Уобичајене грешке
- Уношење података без тражења часа. Пре сваког посла рефлекс "у ком разреду је ово?" је обавезно.
- Под претпоставком „вероватно је очигледно“. Неизвесне информације су заштићене као поверљиве.
- Погрешно брисање имена као анонимизација. Контекст може да одаје идентитете.
- Игноришући ризик наплате. Мали делови могу бити деликатни када се склопе.
- Мешање два света. Отворени и класификовани послови се покрећу у одвојеним алатима/окружењима.
Укратко
Тајност је најкритичнија граница дипломатске употребе вештачке интелигенције. Узмите класификацију информација (јавно/интерно/поверљиво/строго поверљиво), рефлекс „питајте класу, ускладите возило“, принцип минималних података, заштиту личних података и ризик прикупљања као окосницу ове јединице. Општи алати за рад отвореног кода; Користите само безбедне, одобрене системе у кући за поверљив рад. Никада не мешајте то двоје; Када сте у недоумици, чувајте информације као старији.
Задатак апликације
Наведите 8 различитих података са вашег (или замишљеног) стола (неки јавни, неки осетљиви). Поставите сваки у класу и одлучите „у ком алату се може обрадити“. Оцените двосмислене помоћу шаблона „Претходна провера класе и возила“. Изаберите три дела и испитајте да ли формирају осетљиву слику када се комбинују са „проценом ризика наплате“.
контролна листа
- [ ] Прво сам одредио класу осетљивости за сваки податак.
- Никада нисам уносио податке чија [ ] класа није погодна за јавно возило.
- [ ] Чувао сам информације у које нисам био сигуран као надређени.
- [ ] Личне податке обрађујем само када је то неопходно и законито, маскиран.
- [ ] Преузео сам ризик сакупљања и раздвајања два света.