Vinster:
- Möjlighet att utvärdera information enligt känslighetsklass (offentlig / intern / konfidentiell / topphemlig) och tillämpa reflexen 'fråga klassen, matcha verktyget'
- Förstå datalagring, modellutbildning, insamling och intrångsriskerna med AI och hålla den öppna och klassificerade världen åtskilda
- Förmåga att anta minimidataprincipen, skydd av personuppgifter och disciplinen att skydda osäker information som om det vore en högre klass.
Diplomati bygger på tillit, och tillit bygger på sekretess. En förhandlingsposition, en underrättelsebedömning, innehållet i ett samtal med en samtalspartner, eller ett ännu inte meddelat beslut, i fel händer kan äventyra en stats intressen, resultatet av en förhandling eller till och med människors säkerhet. Artificiell intelligens ger en enorm hastighet till detta område, men det medför också nya och allvarliga integritetsrisker. I den här enheten får du lära dig hur du skyddar sekretessbelagd och känslig information i artificiell intelligenss ålder, vilken data som kan komma in i vilket fordon och disciplinen säker användning.
Denna enhet är den mest kritiska säkerhetsläxan i modulen. Ett misstag här - att klistra in ett konfidentiellt dokument i fel verktyg - är oåterkalleligt. Därför kommer en reflex som behöver memoreras att upprättas här: Innan du ger någon data till ett AI-verktyg, fråga alltid: i vilken klass finns denna data och är detta verktyg godkänt för denna klass?
Informationsklassificering: grundläggande distinktion
Diplomatisk information klassificeras ofta efter dess känslighet. Även om det varierar från institution till institution, är den grundläggande logiken denna:
- Oklassificerad/offentlig: Information som redan har publicerats och är allmänt tillgänglig. Exempel: officiella pressmeddelanden, offentliga nyheter.
- Begränsad/intern: Intern information som inte är allmänt tillgänglig men har låg känslighet.
- Konfidentiell: Information vars röjande allvarligt kan skada statens intressen. Exempel: förhandlingsposition, intern utvärdering.
- Topphemlig: Information vars avslöjande skulle orsaka den allvarligaste skadan. Exempel: känslig intelligens, kritisk säkerhetsinformation.
Tumregeln är enkel: Ingen hemligstämplad information som inte är allmänt tillgänglig kommer att läggas in i ett AI-verktyg som din institution inte har godkänt för den klassen. En offentlig AI-tjänst är per definition inte certifierad för denna informationsklass.
Tips: Om du är osäker, behandla informationen som en senior. Att säga "det här är förmodligen redan känt" är en farlig gissning. Tills du är 100 procent säker på att information är offentlig, skydda den som om den vore konfidentiell. Onödig försiktighet är inte en kostnad, det är en garanti.
Integritetsrisker med AI
AI-verktyg utgör andra integritetsrisker än traditionell programvara:
1. Databehandling och lagring: Texten du skriver till en offentlig AI-tjänst kan bearbetas och lagras på den tjänstens servrar. Du kan inte kontrollera vem som får åtkomst till den, hur länge den sparas och hur den används.
2. Användning i modellträning: Vissa tjänster kan använda de uppgifter du anger för att förbättra modellen. Detta skapar risken att din konfidentiella information indirekt kommer in i modellens "minne" och läcker till andra.
3. Aggregationsrisk: Informationsbitar som verkar harmlösa var för sig kan bilda en känslig bild när de kombineras. Små bitar av information som läggs in vid olika tidpunkter kan tillsammans ge bort en hemlig position.
4. Åtkomst- och intrångsrisk: Liksom alla externa system kan AI-tjänster bli föremål för ett dataintrång. De uppgifter du tillhandahåller kan avslöjas i det intrånget.
Lösningen på dessa risker är att etablera två separata världar: allmänna verktyg för arbete med öppen källkod; Endast interna, säkra, godkända system som inte exporterar data för sekretessbelagt arbete. Blanda aldrig de två.
Observera: Att säga "jag gjorde det anonymt" är ofta inte tillräckligt. Även om du tar bort namnen kan sammanhanget (datum, plats, händelse, antal fester) räcka för att en expert ska kunna redigera identiteter och position. Verklig känslig information skyddas inte av maskering utan genom lämpligt urval av verktyg och media.
Säker användningsdisciplin
Skapa ett praktiskt kontrollflöde:
- Bestäm klassen. Är denna information offentlig, intern, konfidentiell eller topphemlig?
- Para ihop fordonet. Kan den här klassen bearbetas i det här verktyget? Om inte, sluta.
- Minsta datapolicy. Även på ett fungerande jobb, ge inte ut mer information än vad jobbet kräver.
- Skydda personuppgifter. Personuppgifter (namn, kontakt, plats) behandlas endast om det är nödvändigt och på laglig grund; Om det är onödigt, maskeras det eller ges inte alls.
- Håll journalen. Dokumentera vilket verktyg du använde för vilket jobb, med vilken data; Om det finns ett problem kan det spåras.
Tips: Etablera en "privacy first"-kultur i ditt team: en ny kontorist eller praktikant bör lära sig reflexen "inga konfidentiella dokument är offentliga" från dag ett. De flesta överträdelser härrör inte från illvilja utan från att man inte vet hur öppet ett fordon är.
tre minifodral
Fall 1 — Reflex förhindrade kränkning. En expert var på väg att sammanfatta ett intervjuanteckning när han stannade och frågade dess klassificering: anteckningen var ett konfidentiellt samtal med en samtalspartner. Bytte till ett internt säkert system istället för ett offentligt verktyg. En enkel "fråga klassen först"-reflex förhindrade ett brott.
Fall 2 – Insamlingsrisk erkänd. Ett team skulle mata in små, till synes "oskyldiga" informationsbitar i ett externt verktyg under olika dagar. En säkerhetsgranskning visade att när de kombinerades gav dessa bitar bort agendan för en kommande förhandling. Applikationen har stoppats; Arbetet flyttades till en säker miljö.
Fall 3 – Falsk anonymitet. En kontorist ansåg att ett dokument var "anonymt" eftersom han hade raderat namn och överlämnat det till den externa agenten. Datum, plats och händelsebeskrivning i dokumentet gjorde dock klart vem som avsågs. Det räckte inte att ta bort namnet; Dokumentet borde ändå ha behandlats i en säker miljö.
Fyra kopierbara mallar
1) Förkontroll av klass och fordon:
Jag kommer att beskriva arbetet nedan. Säg till mig (gör inte jobbet): (1) vilken känslighetsklass kan denna data ha (offentlig / intern / hemlig / topphemlig), (2) bör denna klass bearbetas i ett offentligt AI-verktyg, (3) om inte, vilken typ av miljö krävs. Arbets-/databeskrivning: [här]
2) Skanning och maskering av personuppgifter:
Lista de personliga/känsliga uppgifter (namn, titel, kontakt, plats, hälsa, ID-nummer) som måste maskeras innan behandling i texten nedan. BEHANDLING AV TEXTEN; Berätta bara för mig vilka områden som måste tas bort. Jag ska göra maskeringen och skicka om. Text: [här]
3) Insamlingsriskbedömning:
Jag överväger att exportera följande information separat till ett externt verktyg: [bitar]. Även om dessa kan verka harmlösa var för sig, när de KOMBINERAS kan de skapa en känslig bild (t.ex. en position, agenda, identitet)? Bedöm risken för insamling och berätta vilka föremål som inte ska ges tillsammans.
4) Offentlig tillgänglighetsbekräftelse:
Jag är inte säker på om följande information är offentlig: [information]. Lista vilken verifiering jag behöver göra innan jag anser att den är offentlig (finns det en officiell release, vem som publicerade den, datum). Om jag är osäker, påminn mig om principen "behandla som konfidentiellt".
Svag prompt / Stark prompt
Svag uppmaning:
Sammanfatta denna intervjunotering. (dolt innehåll klistras in direkt i anteckningen)
Detta är det farligaste misstaget: ett konfidentiellt dokument har kommit in i ett offentligt medium utan att dess klass har ifrågasatts. Risken för läckage har uppstått och kan inte vändas.
Kraftfull uppmaning (kontrollera först):
Jag vill behandla ett mötesanteckning. Men först: den här lappen är förmodligen i den hemliga klassen. Berätta för mig om den här typen av dokument kan behandlas i ett offentligt verktyg och vad är det korrekta sättet? JAG GER INTE INNEHÅLLET I DOKUMENTET TILL DIG; Jag ber bara om rätt process.
Skillnaden är tydlig: det konfidentiella innehållet ges inte alls, den korrekta processen frågas först och arbetet riktas till lämplig miljö.
Klass-till-fordon kartläggningstabell
informationsklass
exempel
Offentlig AI
rätt miljö
offentliga
pressmeddelande
lämplig
allmänt verktyg
Internt/tjänstespecifikt
inre not
Vanligtvis nej
Internt godkänd
hemlighet
förhandlingsposition
aldrig
Säkert institutionssystem
topphemlig
känslig intelligens
aldrig
högsta säkerhet
personuppgifter
meriter
Endast nödvändigt+lagligt
Maskerad/säkrad
Vanliga misstag
- Mata in data utan att fråga efter klassen. Inför varje jobb kommer reflexen "i vilken klass är det här?" är ett måste.
- Förutsatt att "det är nog uppenbart". Osäkra uppgifter skyddas som konfidentiella.
- Misstag radering av namn som anonymisering. Sammanhang kan ge bort identiteter.
- Att ignorera risken för insamling. Små delar kan vara ömtåliga när de monteras.
- Blanda två världar. Öppna och klassificerade jobb körs i separata verktyg/miljöer.
Sammanfattningsvis
Sekretess är den mest kritiska gränsen för diplomatisk AI-användning. Ta informationsklassificering (offentlig/intern/konfidentiell/tophemlig), "fråga klass, matcha fordon"-reflex, minimidataprincip, personuppgiftsskydd och insamlingsrisk som ryggraden i denna enhet. Allmänna verktyg för arbete med öppen källkod; Använd endast interna säkra, godkända system för sekretessbelagt arbete. Blanda aldrig ihop de två; När du är osäker, skydda informationen som en senior.
Applikationsuppgift
Lista 8 olika data från ditt eget (eller imaginära) skrivbord (vissa offentliga, andra känsliga). Placera var och en i en klass och bestäm "i vilket verktyg kan det bearbetas". Utvärdera tvetydiga med mallen "Klass- och fordonsförhandskontroll". Välj ut tre stycken och undersök om de bildar en känslig bild i kombination med ”kollektionsriskbedömningen”.
checklista
- [ ] Jag bestämde först känslighetsklassen för varje data.
- Jag har aldrig angett data vars [ ] klass inte är lämplig för ett allmänt fordon.
- [ ] Jag bevakade informationen jag var osäker på som en överordnad.
- [ ] Jag behandlar personuppgifter endast när det är nödvändigt och lagligt, maskerad.
- [ ] Jag tog risken att samla och separera två världar.