zisky:
- Schopnosť vyhodnotiť informácie podľa triedy citlivosti (verejné / interné / dôverné / prísne tajné) a použiť reflex „trieda spýtať sa, prispôsobiť nástroj“
- Pochopenie rizika ukladania údajov, modelového školenia, zhromažďovania a narušenia AI a udržiavanie oddeleného otvoreného a utajovaného sveta
- Schopnosť prijať zásadu minima údajov, ochranu osobných údajov a disciplínu ochrany neistých informácií, ako keby išlo o vyššiu triedu.
Diplomacia je založená na dôvere a dôvera je založená na tajomstve. Vyjednávacia pozícia, spravodajské hodnotenie, obsah rozhovoru s partnerom alebo rozhodnutie, ktoré ešte nebolo oznámené, v nesprávnych rukách, môže ohroziť záujmy štátu, výsledok rokovania alebo dokonca bezpečnosť ľudí. Umelá inteligencia prináša do tejto oblasti obrovskú rýchlosť, no prináša aj nové a vážne riziká v oblasti ochrany súkromia. V tejto lekcii sa naučíte, ako chrániť utajované a citlivé informácie v dobe umelej inteligencie, aké údaje môžu vniknúť do ktorého vozidla a disciplínu bezpečného používania.
Táto jednotka je najdôležitejšou bezpečnostnou lekciou modulu. Jedna chyba – vloženie dôverného dokumentu do nesprávneho nástroja – je nezvratná. Preto sa tu vytvorí reflex, ktorý si treba zapamätať: Pred poskytnutím akýchkoľvek údajov nástroju AI sa vždy opýtajte: v akej triede sú tieto údaje a je tento nástroj schválený pre túto triedu?
Klasifikácia informácií: základné rozlíšenie
Diplomatické informácie sú často klasifikované podľa ich citlivosti. Hoci sa to líši od inštitúcie k inštitúcii, základná logika je takáto:
- Nezaradené/verejné: Informácie, ktoré už boli zverejnené a sú verejne prístupné. Príklad: oficiálne tlačové správy, verejné správy.
- Obmedzené/interné: Interné informácie, ktoré nie sú verejne dostupné, ale majú nízku citlivosť.
- Dôverné: Informácie, ktorých zverejnenie by mohlo vážne poškodiť záujmy štátu. Príklad: vyjednávacia pozícia, interné hodnotenie.
- Prísne tajné: Informácie, ktorých zverejnenie by spôsobilo najvážnejšiu ujmu. Príklad: citlivé spravodajstvo, kritické bezpečnostné informácie.
Základné pravidlo je jednoduché: Žiadne utajované informácie, ktoré nie sú verejne dostupné, nebudú vložené do nástroja AI, ktorý vaša inštitúcia neschválila pre túto triedu. Verejná služba AI podľa definície nie je certifikovaná pre túto triedu informácií.
Tip: Ak si nie ste istí, zaobchádzajte s informáciami ako so seniormi. Povedať „toto je už pravdepodobne známe“ je nebezpečný odhad. Kým si nie ste stopercentne istí, že informácie sú verejné, chráňte ich, ako keby boli dôverné. Zbytočná opatrnosť nie je nákladom, je to istota.
Riziká ochrany osobných údajov AI
Nástroje AI predstavujú iné riziká ochrany súkromia ako tradičný softvér:
1. Spracovanie a ukladanie údajov: Text, ktorý napíšete do verejnej služby AI, môže byť spracovaný a uložený na serveroch tejto služby. Nemôžete kontrolovať, kto k nemu pristupuje, ako dlho sa uchováva a ako sa používa.
2. Použitie pri tréningu modelu: Niektoré služby môžu použiť údaje, ktoré zadáte na zlepšenie modelu. Vzniká tak riziko, že vaše dôverné informácie sa nepriamo dostanú do „pamäte“ modelu a preniknú k ostatným.
3. Agregačné riziko: Kusy informácií, ktoré sa jednotlivo zdajú neškodné, môžu pri kombinácii vytvárať citlivý obraz. Malé informácie zadané v rôznych časoch môžu spoločne prezradiť tajnú pozíciu.
4. Riziko prístupu a narušenia: Ako každý externý systém, aj služby AI môžu byť predmetom porušenia ochrany údajov. Údaje, ktoré poskytnete, môžu byť pri tomto porušení odhalené.
Riešením týchto rizík je vytvorenie dvoch oddelených svetov: všeobecné nástroje pre prácu s otvoreným zdrojom; Iba interné, zabezpečené, schválené systémy, ktoré neexportujú údaje pre klasifikovanú prácu. Nikdy ich nemiešajte.
Pozor: Povedať „urobil som to anonymne“ často nestačí. Aj keď mená vymažete, kontext (dátum, miesto, udalosť, počet strán) môže odborníkovi stačiť na zredigovanie identít a pozície. Skutočné citlivé informácie sú chránené nie maskovaním, ale vhodným výberom nástrojov a médií.
Disciplína bezpečného používania
Nastavte praktický riadiaci tok:
- Určite triedu. Sú tieto údaje verejné, interné, dôverné alebo prísne tajné?
- Spárujte vozidlo. Dá sa táto trieda spracovať v tomto nástroji? Ak nie, prestaňte.
- Minimálna dátová politika. Dokonca aj pri funkčnej práci neposkytujte viac informácií, ako si práca vyžaduje.
- Chráňte osobné údaje. Osobné údaje (meno, kontakt, miesto) sú spracúvané iba v nevyhnutných prípadoch a na právnom základe; Ak je to zbytočné, maskuje sa alebo sa nepodáva vôbec.
- Uchovajte si záznam. Zdokumentujte, ktorý nástroj ste použili na ktorú prácu, s akými údajmi; Ak sa vyskytne problém, dá sa vysledovať.
Tip: Vytvorte vo svojom tíme kultúru „súkromie na prvom mieste“: nový úradník alebo stážista by sa mal naučiť reflexiu „žiadne dôverné dokumenty nevstupujú do verejnej sféry“ od prvého dňa. Väčšina porušení nepochádza zo zlomyseľnosti, ale z toho, že nevieme, ako otvorené je vozidlo.
tri mini prípady
Prípad 1 – Reflex zabránil porušeniu. Expert sa chystal zhrnúť poznámku z rozhovoru, keď sa zastavil a spýtal sa jej klasifikáciu: poznámka bola dôverným rozhovorom s partnerom. Namiesto verejného nástroja sme prešli na interný zabezpečený systém. Jednoduchý reflex „najskôr sa spýtaj triedy“ zabránil porušeniu.
Prípad 2 – Rozpoznané riziko inkasa. Tím by v rôznych dňoch vložil malé, zdanlivo „neškodné“ informácie do externého nástroja. Bezpečnostná kontrola ukázala, že keď sa skombinujú, tieto časti prezradia agendu nadchádzajúceho rokovania. Aplikácia bola zastavená; Práca bola presunutá do bezpečného prostredia.
Prípad 3 – Falošná anonymita. Úradník považoval dokument za „anonymný“, pretože vymazal mená a odovzdal ho externému agentovi. Z dátumu, miesta a popisu udalosti v dokumente však bolo jasné, o koho ide. Vymazanie mena nestačilo; Dokument mal byť aj tak spracovaný v bezpečnom prostredí.
Štyri kopírovateľné šablóny
1) Predbežná kontrola triedy a vozidla:
Prácu popíšem nižšie. Povedzte mi (nerobte túto úlohu): (1) akú triedu citlivosti môžu mať tieto údaje (verejné / interné / tajné / prísne tajné), (2) ak by sa táto trieda mala spracovať vo verejnom nástroji AI, (3) ak nie, aký typ prostredia sa vyžaduje. Popis práce/údajov: [tu]
2) Skenovanie a maskovanie osobných údajov:
V texte nižšie uveďte osobné/citlivé údaje (meno, titul, kontakt, miesto, zdravotný stav, IČO), ktoré je potrebné pred spracovaním zamaskovať. SPRACOVANIE TEXTU; Len mi povedzte, ktoré oblasti je potrebné odstrániť. Urobím maskovanie a pošlem znova. Text: [tu]
3) Posúdenie rizika zberu:
Uvažujem o oddelenom exporte nasledujúcich informácií do externého nástroja: [kusy]. Aj keď sa tieto môžu zdať jednotlivo neškodné, môžu pri KOMBINÁCII vytvoriť citlivý obraz (napr. pozícia, agenda, identita)? Posúďte riziko zberu a povedzte, ktoré položky by sa nemali dávať spolu.
4) Potvrdenie verejnej dostupnosti:
Nie som si istý, či sú nasledujúce informácie verejné: [informácie]. Uveďte, aké overenie musím urobiť, kým to budem považovať za verejné (existuje oficiálne vydanie, kto ho zverejnil, dátum). Ak si nie som istý, pripomeňte mi zásadu „považovať za dôverné“.
Slabá výzva / Silná výzva
Slabá výzva:
Zhrňte túto poznámku z rozhovoru. (skrytý obsah sa vloží priamo do poznámky)
Toto je najnebezpečnejšia chyba: dôverný dokument sa dostal na verejné médium bez toho, aby bola spochybnená jeho trieda. Vyskytlo sa riziko úniku a nemožno ho zvrátiť.
Výkonná výzva (najskôr skontrolujte):
Chcem spracovať poznámku zo stretnutia. Ale najprv: táto poznámka je pravdepodobne v tajnej triede. Povedzte mi, či je možné tento typ dokumentu spracovať vo verejnom nástroji a aký je správny spôsob? OBSAH DOKUMENTU VÁM NEPOSKYTUJEM; Len sa pýtam na správny postup.
Rozdiel je jasný: dôverný obsah sa vôbec neuvádza, najprv sa pýta na správny proces a práca smeruje do vhodného prostredia.
Mapovacia tabuľka triedy k vozidlu
informačná trieda
príklad
Verejná AI
správne prostredie
verejnosti
tlačová správa
vhodné
všeobecný nástroj
Interné/špecifické pre službu
vnútorná poznámka
Zvyčajne nie
Vlastne schválené
tajný
vyjednávacia pozícia
nikdy
Bezpečný inštitucionálny systém
prísne tajné
citlivá inteligencia
nikdy
najvyššiu bezpečnosť
osobné údaje
poverenia
Nutné+len legálne
Maskované/zabezpečené
Časté chyby
- Zadávanie údajov bez pýtania sa na triedu. Pred každou prácou reflex "v ktorej triede to je?" je nutnosťou.
- Za predpokladu, že „to je asi zrejmé“. Neisté informácie sú chránené ako dôverné.
- Chybné vymazanie mena ako anonymizácia. Kontext môže prezrádzať identitu.
- Ignorovanie rizika zberu. Malé časti môžu byť pri montáži jemné.
- Miešanie dvoch svetov. Otvorené a klasifikované úlohy prebiehajú v samostatných nástrojoch/prostrediach.
V súhrne
Utajenie je najdôležitejším limitom diplomatického použitia AI. Zoberte si klasifikáciu informácií (verejné/interné/dôverné/prísne tajné), reflex „ask class, match vehicle“, princíp minima údajov, ochranu osobných údajov a riziko zberu ako chrbticu tejto jednotky. Všeobecné nástroje pre prácu s otvoreným zdrojom; Na klasifikovanú prácu používajte iba interne zabezpečené, schválené systémy. Nikdy ich nezamieňajte; Ak máte pochybnosti, strážte si informácie ako senior.
Aplikačná úloha
Uveďte 8 rôznych údajov z vlastného (alebo imaginárneho) stola (niektoré verejné, iné citlivé). Umiestnite každého do triedy a rozhodnite sa, „v akom nástroji sa dá spracovať“. Nejednoznačné vyhodnoťte pomocou šablóny „Predkontrola triedy a vozidla“. Vyberte tri kusy a preskúmajte, či v kombinácii s „hodnotením rizika zberu“ tvoria citlivý obraz.
kontrolný zoznam
- [ ] Najprv som určil triedu citlivosti pre každý údaj.
- Nikdy som nezadal údaje, ktorých trieda [ ] nie je vhodná pre verejné vozidlo.
- [ ] Informácie, ktorými som si nebol istý, som si strážil ako nadriadený.
- [ ] Osobné údaje spracúvam len vtedy, keď je to nevyhnutné a zákonné, maskované.
- [ ] Riskoval som zbieranie a oddelenie dvoch svetov.