zisky:
- Schopnost vyhodnotit informace podle třídy citlivosti (veřejné / interní / důvěrné / přísně tajné) a použít reflex "zeptejte se, porovnejte nástroj"
- Pochopení rizika ukládání dat, modelování, shromažďování a porušení AI a udržování odděleného otevřeného a utajovaného světa
- Schopnost přijmout princip minima dat, ochranu osobních údajů a kázeň ochrany nejistých informací, jako by šlo o vyšší třídu.
Diplomacie je založena na důvěře a důvěra je založena na tajemství. Vyjednávací pozice, zpravodajské hodnocení, obsah rozhovoru s partnerem nebo dosud neoznámené rozhodnutí ve špatných rukou mohou ohrozit zájmy státu, výsledek jednání nebo dokonce bezpečnost lidí. Umělá inteligence přináší do této oblasti obrovskou rychlost, ale také s sebou nese nová a závažná rizika pro ochranu soukromí. V této lekci se naučíte, jak chránit utajované a citlivé informace v době umělé inteligence, jaká data se mohou dostat do kterého vozidla a disciplínu bezpečného používání.
Tato jednotka je nejdůležitější bezpečnostní lekcí modulu. Jedna chyba – vložení důvěrného dokumentu do nesprávného nástroje – je nevratná. Proto zde bude zaveden reflex, který je třeba si zapamatovat: Před poskytnutím jakýchkoli dat nástroji AI se vždy zeptejte: v jaké třídě jsou tato data a je tento nástroj pro tuto třídu schválen?
Klasifikace informací: základní rozlišení
Diplomatické informace jsou často klasifikovány podle jejich citlivosti. Ačkoli se to liší od instituce k instituci, základní logika je tato:
- Nezařazené/veřejné: Informace, které již byly zveřejněny a jsou veřejně přístupné. Příklad: oficiální tiskové zprávy, veřejné zprávy.
- Omezené/interní: Interní informace, které nejsou veřejně dostupné, ale mají nízkou citlivost.
- Důvěrné: Informace, jejichž zveřejnění by mohlo vážně poškodit zájmy státu. Příklad: vyjednávací pozice, interní hodnocení.
- Přísně tajné: Informace, jejichž zveřejnění by způsobilo nejvážnější újmu. Příklad: citlivé zpravodajství, kritické bezpečnostní informace.
Základní pravidlo je jednoduché: Žádné utajované informace, které nejsou veřejně dostupné, nebudou zadány do nástroje AI, který vaše instituce pro danou třídu neschválila. Veřejná služba umělé inteligence není podle definice pro tuto třídu informací certifikována.
Tip: Pokud si nejste jisti, zacházejte s informacemi jako senior. Říci „tohle je pravděpodobně již známo“ je nebezpečný odhad. Dokud si nebudete stoprocentně jisti, že jsou informace veřejné, chraňte je, jako by byly důvěrné. Zbytečná opatrnost není nákladem, je to jistota.
Rizika ochrany osobních údajů AI
Nástroje umělé inteligence představují jiná rizika pro ochranu soukromí než tradiční software:
1. Zpracování a ukládání dat: Text, který napíšete do veřejné služby AI, může být zpracován a uložen na serverech této služby. Nemůžete kontrolovat, kdo k němu přistupuje, jak dlouho je uchováván a jak se používá.
2. Použití v modelovém školení: Některé služby mohou používat data, která zadáte, ke zlepšení modelu. Vzniká tak riziko, že se vaše důvěrné informace nepřímo dostanou do „paměti“ modelu a uniknou ostatním.
3. Riziko agregace: Části informací, které se jednotlivě zdají neškodné, mohou v kombinaci vytvořit citlivý obrázek. Malé informace zadané v různých časech mohou společně prozradit tajnou pozici.
4. Riziko přístupu a narušení: Jako každý externí systém mohou být služby umělé inteligence předmětem úniku dat. Údaje, které poskytnete, mohou být při tomto porušení odhaleny.
Řešením těchto rizik je vytvoření dvou oddělených světů: obecné nástroje pro práci s otevřeným zdrojovým kódem; Pouze interní, zabezpečené a schválené systémy, které neexportují data pro klasifikovanou práci. Nikdy nemíchejte obojí.
Pozor: Říci „Udělal jsem to anonymně“ často nestačí. I když jména smažete, kontext (datum, místo, událost, počet stran) může expertovi stačit k redigování identit a pozice. Skutečné citlivé informace nejsou chráněny maskováním, ale vhodným výběrem nástrojů a médií.
Disciplína bezpečného používání
Nastavte praktický řídicí tok:
- Určete třídu. Jsou tato data veřejná, interní, důvěrná nebo přísně tajná?
- Spárujte vozidlo. Lze tuto třídu zpracovat v tomto nástroji? Pokud ne, přestaňte.
- Zásady minimálních dat. Ani v případě funkční práce neposkytujte více informací, než práce vyžaduje.
- Chraňte osobní údaje. Osobní údaje (jméno, kontakt, lokalita) jsou zpracovávány pouze v případě potřeby a na právním základě; Pokud je to zbytečné, je maskováno nebo není podáváno vůbec.
- Uchovávejte záznam. Dokumentujte, který nástroj jste použili pro jakou úlohu, s jakými daty; Pokud je problém, lze jej vysledovat.
Tip: Vytvořte ve svém týmu kulturu „soukromí především“: nový úředník nebo stážista by se měl od prvního dne naučit reflexu „žádné důvěrné dokumenty nevstupují do veřejné sféry“. Většina porušení nepochází ze zlomyslnosti, ale z neznalosti, jak otevřené vozidlo je.
tři mini pouzdra
Případ 1 – Reflex zabránil porušení. Expert se chystal shrnout poznámku k rozhovoru, když se zastavil a zeptal se na její klasifikaci: poznámka byla důvěrným rozhovorem s partnerem. Místo veřejného nástroje přešlo na interní zabezpečený systém. Jednoduchý reflex „zeptejte se nejprve třídy“ zabránil porušení.
Případ 2 – Rozpoznáno riziko inkasa. Tým by v různých dnech vkládal malé, zdánlivě „neškodné“ informace do externího nástroje. Bezpečnostní revize ukázala, že když se zkombinují, tyto části prozrazují agendu nadcházejícího vyjednávání. Aplikace byla zastavena; Práce byla přesunuta do zabezpečeného prostředí.
Případ 3 – Falešná anonymita. Úředník považoval dokument za „anonymní“, protože vymazal jména a předal jej externímu agentovi. Z data, místa a popisu události v dokumentu však bylo jasné, o koho jde. Smazání jména nestačilo; Dokument měl být v každém případě zpracován v bezpečném prostředí.
Čtyři kopírovatelné šablony
1) Předběžná kontrola třídy a vozidla:
Práci popíšu níže. Řekněte mi (nedělejte tu práci): (1) jakou třídu citlivosti mohou mít tato data (veřejné / interní / tajné / přísně tajné), (2) má být tato třída zpracována ve veřejném nástroji umělé inteligence, (3) pokud ne, jaký typ prostředí je vyžadován. Popis práce/dat: [zde]
2) Skenování a maskování osobních údajů:
V níže uvedeném textu uveďte osobní/citlivé údaje (jméno, titul, kontakt, místo, zdravotní stav, IČO), které je nutné před zpracováním maskovat. ZPRACOVÁNÍ TEXTU; Řekněte mi, které oblasti je třeba odstranit. Udělám maskování a pošlu znovu. Text: [zde]
3) Posouzení rizika sběru:
Uvažuji o samostatném exportu následujících informací do externího nástroje: [kusy]. I když se jednotlivě mohou zdát neškodné, mohou při KOMBINACI vytvořit citlivý obraz (např. pozice, agenda, identita)? Posuďte riziko sběru a řekněte, které položky by se neměly dávat dohromady.
4) Potvrzení veřejné dostupnosti:
Nejsem si jistý, zda jsou následující informace veřejné: [informace]. Uveďte, jaké ověření musím udělat, než to považuji za veřejné (existuje oficiální vydání, kdo to zveřejnil, datum). Pokud si nejsem jistý, připomeňte mi zásadu „zachovat jako důvěrné“.
Slabá výzva / Silná výzva
Slabá výzva:
Shrňte tuto poznámku k rozhovoru. (skrytý obsah se vloží přímo do poznámky)
Toto je nejnebezpečnější chyba: důvěrný dokument se dostal na veřejné médium, aniž by byla zpochybněna jeho třída. Došlo k riziku úniku a nelze jej zvrátit.
Výkonná výzva (nejprve zkontrolujte):
Chci zpracovat poznámku ze schůzky. Ale nejprve: tato poznámka je pravděpodobně v tajné třídě. Řekněte mi, zda lze tento typ dokumentu zpracovat ve veřejném nástroji a jaký je správný způsob? OBSAH DOKUMENTU VÁM NEDÁVÁM; Jen se ptám na správný postup.
Rozdíl je zřejmý: důvěrný obsah se vůbec neuvádí, nejprve se ptá na správný proces a práce je směrována do vhodného prostředí.
Tabulka mapování třídy na vozidlo
informační třída
příklad
Veřejná umělá inteligence
správné prostředí
veřejné
tisková zpráva
vhodné
obecný nástroj
Interní/specifické služby
vnitřní poznámka
Obvykle ne
Vnitropodnikově schváleno
tajný
vyjednávací pozice
nikdy
Bezpečný systém institucí
přísně tajné
citlivou inteligenci
nikdy
nejvyšší bezpečnost
osobní údaje
pověření
Nutné+pouze legální
Maskovaný/zabezpečený
Časté chyby
- Zadávání údajů bez dotazu na třídu. Před každou prací reflex "ve které třídě to je?" je nutností.
- Za předpokladu, že „to je asi zřejmé“. Nejisté informace jsou chráněny jako důvěrné.
- Chybné smazání jména jako anonymizace. Kontext může prozradit identitu.
- Ignorování rizika inkasa. Malé díly mohou být při sestavování choulostivé.
- Míchání dvou světů. Otevřené a klasifikované úlohy běží v samostatných nástrojích/prostředích.
V souhrnu
Utajení je nejkritičtější limit diplomatického použití AI. Jako páteř této jednotky vezměte klasifikaci informací (veřejné/interní/důvěrné/přísně tajné), reflex „ask class, match vehicle“, princip minima dat, ochranu osobních údajů a riziko shromažďování. Obecné nástroje pro práci s otevřeným zdrojovým kódem; Pro klasifikovanou práci používejte pouze interní zabezpečené, schválené systémy. Nikdy je nezaměňujte; Když máte pochybnosti, hlídejte si informace jako senior.
Aplikační úkol
Vypište 8 různých dat z vašeho vlastního (nebo imaginárního) stolu (některá veřejná, některá citlivá). Každý z nich umístěte do třídy a rozhodněte, „ve kterém nástroji jej lze zpracovat“. Nejednoznačné vyhodnoťte pomocí šablony „Předběžná kontrola třídy a vozidla“. Vyberte tři kusy a prozkoumejte, zda v kombinaci s „posouzením rizika sběru“ tvoří citlivý obrázek.
kontrolní seznam
- [ ] Nejprve jsem pro každý údaj určil třídu citlivosti.
- Nikdy jsem nezadal údaje, jejichž třída [ ] není vhodná pro veřejné vozidlo.
- [ ] Informace, kterými jsem si nebyl jistý, jsem si střežil jako nadřízený.
- [ ] Osobní údaje zpracovávám pouze tehdy, je-li to nezbytné a zákonné, maskované.
- [ ] Riskoval jsem sbírání a oddělení dvou světů.