Zyski:
- Umiejętność oceny informacji według klasy wrażliwości (publiczne / wewnętrzne / poufne / ściśle tajne) i zastosowania odruchu „zapytaj klasę, dopasuj narzędzie”
- Zrozumienie ryzyka związanego z przechowywaniem danych, szkoleniem modeli, gromadzeniem i naruszeniem sztucznej inteligencji oraz oddzielanie świata otwartego od tajnego
- Umiejętność przyjęcia zasady minimum danych, ochrony danych osobowych i dyscypliny ochrony informacji niepewnych, jakby były wyższej klasy.
Dyplomacja opiera się na zaufaniu, a zaufanie opiera się na tajemnicy. Stanowisko negocjacyjne, ocena wywiadowcza, treść rozmowy z rozmówcą czy jeszcze nieogłoszona decyzja w niewłaściwych rękach może zagrozić interesom państwa, wynikowi negocjacji, a nawet bezpieczeństwu ludzi. Sztuczna inteligencja wnosi w tej dziedzinie ogromną prędkość, ale niesie ze sobą także nowe i poważne zagrożenia dla prywatności. Na tym module dowiesz się jak chronić informacje niejawne i wrażliwe w dobie sztucznej inteligencji, jakie dane mogą dostać się do jakiego pojazdu oraz jakie zasady bezpiecznego korzystania z nich.
Ta jednostka jest najważniejszą lekcją modułu dotyczącą bezpieczeństwa. Jeden błąd – wklejenie poufnego dokumentu do niewłaściwego narzędzia – jest nieodwracalny. Dlatego tutaj zostanie ustalony odruch, który należy zapamiętać: Przed podaniem jakichkolwiek danych narzędziu AI zawsze zadaj sobie pytanie: w jakiej klasie są te dane i czy to narzędzie jest zatwierdzone do tej klasy?
Klasyfikacja informacji: podstawowe rozróżnienie
Informacje dyplomatyczne często klasyfikuje się ze względu na ich poufność. Chociaż różni się to w zależności od instytucji, podstawowa logika jest następująca:
- Niesklasyfikowane/publiczne: Informacje, które zostały już opublikowane i są publicznie dostępne. Przykład: oficjalne komunikaty prasowe, wiadomości publiczne.
- Zastrzeżone/wewnętrzne: informacje wewnętrzne, które nie są publicznie dostępne, ale mają niską wrażliwość.
- Poufne: Informacje, których ujawnienie mogłoby poważnie zaszkodzić interesom państwa. Przykład: stanowisko negocjacyjne, ocena wewnętrzna.
- Ściśle tajne: Informacje, których ujawnienie spowodowałoby najpoważniejszą szkodę. Przykład: wrażliwe dane wywiadowcze, krytyczne informacje dotyczące bezpieczeństwa.
Ogólna zasada jest prosta: żadne informacje niejawne, które nie są publicznie dostępne, nie zostaną wprowadzone do narzędzia AI, którego Twoja instytucja nie zatwierdziła dla tej klasy. Publiczna usługa sztucznej inteligencji z definicji nie jest certyfikowana w zakresie tej klasy informacji.
Wskazówka: jeśli nie jesteś pewien, potraktuj tę informację jak osobę starszą. Stwierdzenie „to już prawdopodobnie wiadomo” jest niebezpieczne. Dopóki nie będziesz mieć stuprocentowej pewności, że informacje są publiczne, chroń je tak, jakby były poufne. Zbędna ostrożność nie jest kosztem, jest gwarancją.
Zagrożenia prywatności związane ze sztuczną inteligencją
Narzędzia AI stwarzają inne zagrożenia dla prywatności niż tradycyjne oprogramowanie:
1. Przetwarzanie i przechowywanie danych: Tekst, który piszesz do publicznej usługi AI, może być przetwarzany i przechowywany na serwerach tej usługi. Nie możesz kontrolować, kto ma do nich dostęp, jak długo są przechowywane i w jaki sposób są wykorzystywane.
2. Wykorzystanie w szkoleniu modeli: Niektóre serwisy mogą wykorzystywać wprowadzone przez Ciebie dane w celu ulepszenia modelu. Stwarza to ryzyko, że Twoje poufne informacje pośrednio dostaną się do „pamięci” modela i wyciekną do innych osób.
3. Ryzyko agregacji: fragmenty informacji, które pojedynczo wydają się nieszkodliwe, po połączeniu mogą stworzyć wrażliwy obraz. Małe fragmenty informacji wprowadzone w różnym czasie mogą łącznie ujawnić tajne stanowisko.
4. Ryzyko dostępu i naruszenia: Jak każdy system zewnętrzny, usługi AI mogą podlegać naruszeniu danych. Podane przez Ciebie dane mogą zostać ujawnione w wyniku tego naruszenia.
Rozwiązaniem tych zagrożeń jest ustanowienie dwóch odrębnych światów: ogólnych narzędzi do pracy z otwartym kodem źródłowym; Tylko wewnętrzne, bezpieczne i zatwierdzone systemy, które nie eksportują danych do celów tajnych. Nigdy nie mieszaj tych dwóch rzeczy.
Uwaga: Powiedzenie „Zanonimizowałem” często nie wystarczy. Nawet jeśli usuniesz nazwiska, kontekst (data, lokalizacja, wydarzenie, liczba przyjęć) może wystarczyć, aby ekspert usunął tożsamość i stanowisko. Prawdziwe informacje wrażliwe chroni się nie poprzez maskowanie, ale poprzez odpowiedni dobór narzędzi i nośników.
Dyscyplina bezpiecznego użytkowania
Skonfiguruj praktyczny przepływ kontroli:
- Określ klasę. Czy te dane są publiczne, wewnętrzne, poufne czy ściśle tajne?
- Sparuj pojazd. Czy tę klasę można przetworzyć w tym narzędziu? Jeśli nie, przestań.
- Polityka minimalnych danych. Nawet w przypadku wykonalnej pracy nie podawaj więcej informacji, niż wymaga tego praca.
- Chroń dane osobowe. Dane osobowe (imię i nazwisko, kontakt, lokalizacja) przetwarzane są wyłącznie w przypadku, gdy jest to konieczne i na podstawie prawnej; Jeśli jest to niepotrzebne, jest ono maskowane lub w ogóle nie podawane.
- Zachowaj zapis. Udokumentuj, jakiego narzędzia użyłeś do jakiego zadania i z jakimi danymi; Jeśli wystąpi problem, można go prześledzić.
Wskazówka: Stwórz w swoim zespole kulturę „prywatność na pierwszym miejscu”: nowy urzędnik lub stażysta powinien od pierwszego dnia nauczyć się odruchu „żadne poufne dokumenty nie trafiają do domeny publicznej”. Większość naruszeń nie wynika ze złej woli, ale z niewiedzy, jak otwarty jest pojazd.
trzy mini etui
Przypadek 1 — Odruch zapobiegł naruszeniu. Biegły miał właśnie streścić notatkę z przesłuchania, gdy zatrzymał się i zapytał o jej klasyfikację: notatka była poufną rozmową z rozmówcą. Przełączono na wewnętrzny bezpieczny system zamiast na narzędzie publiczne. Prosty odruch „najpierw zapytaj klasę” zapobiegł naruszeniu.
Przypadek 2 – Rozpoznano ryzyko windykacji. W różne dni zespół wprowadzał małe, pozornie „nieszkodliwe” informacje do zewnętrznego narzędzia. Przegląd bezpieczeństwa wykazał, że po połączeniu tych fragmentów ujawniono plan nadchodzących negocjacji. Aplikacja została zatrzymana; Prace zostały przeniesione do bezpiecznego środowiska.
Przypadek 3 – Fałszywa anonimowość. Urzędnik uznał dokument za „anonimowy”, ponieważ usunął nazwiska i przekazał go agentowi zewnętrznemu. Jednak data, miejsce i opis wydarzenia zawarte w dokumencie jasno wskazywały, o kogo chodzi. Usunięcie nazwy nie wystarczyło; Dokument i tak powinien zostać przetworzony w bezpiecznym środowisku.
Cztery szablony do kopiowania
1) Wstępna kontrola klasy i pojazdu:
Poniżej opiszę pracę. Powiedz mi (nie wykonuj tej pracy): (1) jaką klasę wrażliwości mogą mieć te dane (publiczne/wewnętrzne/tajne/ściśle tajne), (2) czy tę klasę należy przetwarzać w publicznym narzędziu AI, (3) jeśli nie, jaki typ środowiska jest wymagany. Opis stanowiska/danych: [tutaj]
2) Skanowanie i maskowanie danych osobowych:
W poniższym tekście wypisz dane osobowe/wrażliwe (imię i nazwisko, stanowisko, kontakt, lokalizacja, stan zdrowia, numer identyfikacyjny), które muszą być zamaskowane przed przetwarzaniem. PRZETWARZANIE TEKSTU; Powiedz mi tylko, które obszary należy usunąć. Zrobię maskowanie i wyślę ponownie. Tekst: [tutaj]
3) Ocena ryzyka windykacyjnego:
Rozważam wyeksportowanie osobno następujących informacji do narzędzia zewnętrznego: [pieces]. Nawet jeśli pojedynczo mogą się one wydawać nieszkodliwe, czy POŁĄCZONE mogą stworzyć wrażliwy obraz (np. stanowisko, program, tożsamość)? Oceń ryzyko odbioru i powiedz, jakich przedmiotów nie należy przekazywać razem.
4) Potwierdzenie dostępności publicznej:
Nie jestem pewien, czy następujące informacje są publiczne: [informacje]. Wypisz, jaką weryfikację muszę przeprowadzić, zanim uznam to za publiczne (czy istnieje oficjalne wydanie, kto je opublikował, data). Jeśli nie jestem pewien, przypomnij mi o zasadzie „traktuj jako poufne”.
Słaba zachęta/silna zachęta
Słaba zachęta:
Podsumuj notatkę z wywiadu. (ukryta treść jest wklejana bezpośrednio do notatki)
To najniebezpieczniejszy błąd: poufny dokument przedostał się do publicznego medium bez kwestionowania jego klasy. Wystąpiło ryzyko wycieku, którego nie można odwrócić.
Potężny monit (najpierw sprawdź):
Chcę przetworzyć notatkę ze spotkania. Ale najpierw: ta notatka prawdopodobnie znajduje się w tajnej klasie. Powiedz mi, czy tego typu dokument można przetworzyć w narzędziu publicznym i w jaki sposób jest to prawidłowe? NIE UDOSTĘPNIAM PAŃSTWU TREŚCI DOKUMENTU; Proszę tylko o prawidłowy przebieg procesu.
Różnica jest wyraźna: w ogóle nie podaje się poufnych treści, najpierw pytany jest o prawidłowy proces, a praca kierowana jest do odpowiedniego środowiska.
Tabela mapowania klasy na pojazd
klasa informacyjna
przykład
Publiczna sztuczna inteligencja
właściwe środowisko
publiczny
komunikat prasowy
odpowiedni
narzędzie ogólne
Wewnętrzne/specyficzne dla usługi
notatka wewnętrzna
Zwykle nie
Zatwierdzone wewnętrznie
sekret
stanowisko negocjacyjne
nigdy
Bezpieczny system instytucji
ściśle tajne
wrażliwa inteligencja
nigdy
najwyższe bezpieczeństwo
dane osobowe
referencje
Konieczne+tylko legalne
Zamaskowany/zabezpieczony
Typowe błędy
- Wprowadzanie danych bez pytania o zajęcia. Przed każdą pracą odruch „w której to klasie?” jest koniecznością.
- Zakładając, że „to chyba oczywiste”. Niepewne informacje są chronione jako poufne.
- Mylenie usunięcia nazwy z anonimizacją. Kontekst może zdradzić tożsamość.
- Ignorowanie ryzyka windykacji. Małe części mogą być delikatne po złożeniu.
- Mieszanie dwóch światów. Otwarte i sklasyfikowane zadania działają w oddzielnych narzędziach/środowiskach.
Podsumowując
Tajemnica jest najważniejszym ograniczeniem dyplomatycznego wykorzystania sztucznej inteligencji. Za podstawę tej jednostki należy uznać klasyfikację informacji (publiczną/wewnętrzną/poufną/ściśle tajną), odruch „zapytaj o klasę, dopasuj pojazd”, zasadę minimalnej ilości danych, ochronę danych osobowych i ryzyko gromadzenia danych. Ogólne narzędzia do pracy z otwartym kodem źródłowym; Do prac niejawnych należy używać wyłącznie wewnętrznych, bezpiecznych i zatwierdzonych systemów. Nigdy nie myl tych dwóch; W razie wątpliwości chroń informacje jak senior.
Zadanie aplikacji
Wymień 8 różnych fragmentów danych z Twojego własnego (lub wyimaginowanego) biurka (niektóre publiczne, inne wrażliwe). Umieść każdego w klasie i zdecyduj, „w jakim narzędziu można go przetworzyć”. Oceń niejednoznaczne za pomocą szablonu „Wstępna kontrola klasy i pojazdu”. Wybierz trzy elementy i sprawdź, czy tworzą one wrażliwy obraz w połączeniu z „oceną ryzyka gromadzenia danych”.
lista kontrolna
- [ ] Najpierw określiłem klasę wrażliwości dla poszczególnych danych.
- Nigdy nie wprowadzałem danych, których klasa [ ] nie jest odpowiednia dla pojazdu publicznego.
- [ ] Strzegłem informacji, których nie byłem pewien, jak przełożony.
- [ ] Przetwarzam dane osobowe tylko wtedy, gdy jest to konieczne i zgodne z prawem, zamaskowane.
- [ ] Podjąłem ryzyko gromadzenia i rozdzielenia dwóch światów.