Gevinster:
- Evne til å evaluere informasjon i henhold til sensitivitetsklasse (offentlig / intern / konfidensiell / topphemmelig) og bruke "spør-klassen, match verktøyet"-refleksen
- Forstå datalagring, modelltrening, innsamling og bruddrisiko ved AI og holde den åpne og klassifiserte verden atskilt
- Evne til å ta i bruk minimumsdataprinsippet, beskyttelse av personopplysninger og disiplinen med å beskytte usikker informasjon som om den var en høyere klasse.
Diplomati er basert på tillit, og tillit er basert på hemmelighold. En forhandlingsposisjon, en etterretningsvurdering, innholdet i en samtale med en samtalepartner, eller en ennå ikke kunngjort avgjørelse, i feil hender, kan sette en stats interesser, utfallet av en forhandling eller til og med sikkerheten til mennesker i fare. Kunstig intelligens bringer enorm fart til dette feltet, men det medfører også nye og alvorlige personvernrisikoer. I denne enheten lærer du hvordan du beskytter klassifisert og sensitiv informasjon i en tidsalder med kunstig intelligens, hvilke data som kan komme inn i hvilket kjøretøy, og disiplinen for sikker bruk.
Denne enheten er den mest kritiske sikkerhetsleksjonen til modulen. En feil her - å lime inn et konfidensielt dokument i feil verktøy - er irreversibel. Derfor vil en refleks som må lagres bli etablert her: Før du gir noen data til et AI-verktøy, spør alltid: i hvilken klasse er disse dataene og er dette verktøyet godkjent for denne klassen?
Informasjonsklassifisering: grunnleggende distinksjon
Diplomatisk informasjon klassifiseres ofte etter sensitivitet. Selv om det varierer fra institusjon til institusjon, er den grunnleggende logikken denne:
- Uklassifisert/offentlig: Informasjon som allerede er publisert og er offentlig tilgjengelig. Eksempel: offisielle pressemeldinger, offentlige nyheter.
- Begrenset/internt: Intern informasjon som ikke er offentlig tilgjengelig, men som har lav sensitivitet.
- Konfidensiell: Informasjon hvis avsløring kan alvorlig skade statens interesser. Eksempel: forhandlingsposisjon, intern evaluering.
- Topphemmelig: Informasjon hvis avsløring vil forårsake størst skade. Eksempel: sensitiv etterretning, kritisk sikkerhetsinformasjon.
Tommelfingerregelen er enkel: Ingen klassifisert informasjon som ikke er offentlig tilgjengelig vil bli lagt inn i et AI-verktøy som institusjonen din ikke har godkjent for den klassen. En offentlig AI-tjeneste er per definisjon ikke sertifisert for denne informasjonsklassen.
Tips: Hvis du er usikker, behandle informasjonen som en senior. Å si "dette er sannsynligvis allerede kjent" er en farlig gjetning. Inntil du er 100 prosent sikker på at informasjon er offentlig, beskytt den som om den var konfidensiell. Unødvendig forsiktighet er ikke en kostnad, det er en forsikring.
Personvernrisiko ved AI
AI-verktøy utgjør en annen personvernrisiko enn tradisjonell programvare:
1. Databehandling og lagring: Teksten du skriver til en offentlig AI-tjeneste kan behandles og lagres på serverne til den tjenesten. Du kan ikke kontrollere hvem som får tilgang til den, hvor lenge den oppbevares og hvordan den brukes.
2. Bruk i modellopplæring: Noen tjenester kan bruke dataene du legger inn for å forbedre modellen. Dette skaper risiko for at din konfidensielle informasjon indirekte kommer inn i modellens «minne» og lekker til andre.
3. Aggregasjonsrisiko: Informasjonsbiter som hver for seg virker harmløse kan danne et sensitivt bilde når de kombineres. Små opplysninger som legges inn på ulike tidspunkt kan samlet gi bort en hemmelig stilling.
4. Tilgangs- og bruddrisiko: Som ethvert eksternt system kan AI-tjenester bli utsatt for et datainnbrudd. Dataene du oppgir kan bli avslørt i det bruddet.
Løsningen på disse risikoene er å etablere to separate verdener: generelle verktøy for åpen kildekodearbeid; Kun interne, sikre, godkjente systemer som ikke eksporterer data for klassifisert arbeid. Bland aldri de to.
Oppmerksomhet: Å si «jeg gjorde det anonymt» er ofte ikke nok. Selv om du sletter navnene, kan konteksten (dato, sted, arrangement, antall fester) være nok til at en ekspert kan redigere identiteter og stilling. Ekte sensitiv informasjon beskyttes ikke av maskering, men av passende valg av verktøy og medier.
Sikker bruksdisiplin
Sett opp en praktisk kontrollflyt:
- Bestem klassen. Er disse dataene offentlige, interne, konfidensielle eller topphemmelige?
- Par kjøretøyet. Kan denne klassen behandles i dette verktøyet? Hvis ikke, stopp.
- Minimumsdatapolicy. Selv på en gjennomførbar jobb, ikke gi ut mer informasjon enn jobben krever.
- Beskytt personopplysninger. Personopplysninger (navn, kontakt, sted) behandles kun hvis nødvendig og på lovlig grunnlag; Hvis det er unødvendig, er det maskert eller ikke gitt i det hele tatt.
- Hold oversikten. Dokumenter hvilket verktøy du brukte til hvilken jobb, med hvilke data; Hvis det er et problem, kan det spores.
Tips: Etabler en "personvern først"-kultur i teamet ditt: en ny kontorist eller praktikant bør lære refleksen "ingen konfidensielle dokumenter kommer inn i det offentlige domene" fra dag én. De fleste brudd stammer ikke fra ondsinnethet, men fra å ikke vite hvor åpent et kjøretøy er.
tre minisaker
Sak 1 - Refleks forhindret brudd. En ekspert var i ferd med å oppsummere et intervjunotat da han stoppet og spurte om klassifiseringen: notatet var en fortrolig samtale med en samtalepartner. Byttet til et internt sikkert system i stedet for et offentlig verktøy. En enkel "spør klassen først"-refleks forhindret et brudd.
Sak 2 – Innkrevingsrisiko erkjent. Et team ville legge inn små, tilsynelatende "ufarlige" informasjonsbiter i et eksternt verktøy på forskjellige dager. En sikkerhetsgjennomgang viste at når de ble kombinert, ga disse brikkene bort agendaen for en kommende forhandling. Søknaden er stoppet; Arbeidet ble flyttet til sikre omgivelser.
Sak 3 – Falsk anonymitet. En kontorist anså et dokument som "anonymt" fordi han hadde slettet navn og overlevert det til den eksterne agenten. Men dato, sted og hendelsesbeskrivelse i dokumentet gjorde det klart hvem som var ment. Det var ikke nok å slette navnet; Dokumentet burde uansett vært behandlet i et sikkert miljø.
Fire kopierbare maler
1) Forhåndssjekk av klasse og kjøretøy:
Jeg vil beskrive arbeidet nedenfor. Fortell meg (ikke gjør jobben): (1) hvilken sensitivitetsklasse kan disse dataene ha (offentlig / intern / hemmelig / topphemmelig), (2) bør denne klassen behandles i et offentlig AI-verktøy, (3) hvis ikke, hvilken type miljø som kreves. Job/databeskrivelse: [her]
2) Skanning og maskering av personopplysninger:
List opp de personlige/sensitive dataene (navn, tittel, kontakt, sted, helse, ID-nummer) som må maskeres før behandling i teksten nedenfor. BEHANDLER TEKSTEN; Bare fortell meg hvilke områder som må fjernes. Jeg skal gjøre maskeringen og sende på nytt. Tekst: [her]
3) Innsamlingsrisikovurdering:
Jeg vurderer å eksportere følgende informasjon separat til et eksternt verktøy: [biter]. Selv om disse kan virke ufarlige hver for seg, når de KOMBINERES, kan de skape et sensitivt bilde (f.eks. en posisjon, agenda, identitet)? Vurder risikoen ved innsamling og fortell hvilke gjenstander som ikke skal gis sammen.
4) Offentlig tilgjengelighetsbekreftelse:
Jeg er ikke sikker på om følgende informasjon er offentlig: [informasjon]. List opp hvilken verifisering jeg må gjøre før jeg anser den som offentlig (finnes det en offisiell utgivelse, hvem publiserte den, dato). Hvis jeg er usikker, minn meg på "behandle som konfidensielt"-prinsippet.
Svak forespørsel / Sterk forespørsel
Svak melding:
Oppsummer dette intervjunotatet. (skjult innhold limes direkte inn i notatet)
Dette er den farligste feilen: et konfidensielt dokument har kommet inn i et offentlig medium uten at klassen har blitt avhørt. Faren for lekkasje har oppstått og kan ikke reverseres.
Kraftig ledetekst (sjekk først):
Jeg ønsker å behandle et møtenotat. Men først: denne lappen er nok i hemmelig klasse. Fortell meg om denne typen dokumenter kan behandles i et offentlig verktøy og hva er riktig måte? JEG GIR IKKE INNHOLDET I DOKUMENTET TIL DEG; Jeg ber bare om den riktige prosessen.
Forskjellen er tydelig: det konfidensielle innholdet er ikke gitt i det hele tatt, den riktige prosessen spørres først og arbeidet rettes mot det aktuelle miljøet.
Klasse-til-kjøretøy kartleggingstabell
informasjonsklasse
eksempel
Offentlig AI
riktig miljø
offentlig
pressemelding
egnet
generelt verktøy
Intern/tjenestespesifikk
indre note
Vanligvis nei
Interngodkjent
hemmelig
forhandlingsposisjon
aldri
Sikkert institusjonssystem
topphemmelighet
sensitiv intelligens
aldri
høyeste sikkerhet
personopplysninger
legitimasjon
Kun nødvendig+lovlig
Maskert/sikret
Vanlige feil
- Legge inn data uten å spørre etter klassen. Før hver jobb, refleksen "i hvilken klasse er dette?" er et must.
- Forutsatt at "det er nok åpenbart". Usikker informasjon er beskyttet som konfidensiell.
- Misforstå sletting av navn som anonymisering. Kontekst kan gi bort identiteter.
- Ignorerer risikoen for samling. Små deler kan være ømfintlige når de monteres.
- Blander to verdener. Åpne og klassifiserte jobber kjøres i separate verktøy/miljøer.
Oppsummert
Hemmelighold er den mest kritiske grensen for bruk av diplomatisk kunstig intelligens. Ta informasjonsklassifisering (offentlig/intern/konfidensiell/topphemmelig), "spørklasse, match kjøretøy"-refleks, minimumsdataprinsipp, beskyttelse av personopplysninger og innsamlingsrisiko som ryggraden i denne enheten. Generelle verktøy for arbeid med åpen kildekode; Bruk kun interne sikre, godkjente systemer for klassifisert arbeid. Aldri forveksle de to; Når du er i tvil, vokt informasjonen som en senior.
Søknadsoppgave
List opp 8 forskjellige data fra ditt eget (eller imaginære) skrivebord (noen offentlige, noen sensitive). Plasser hver enkelt i en klasse og bestem "hvilket verktøy kan det behandles i". Vurder tvetydige med malen "Klasse og kjøretøy forhåndssjekk". Velg tre stykker og undersøk om de danner et sensitivt bilde når de kombineres med «samlingsrisikovurderingen».
sjekkliste
- [ ] Jeg bestemte først sensitivitetsklassen for hver data.
- Jeg har aldri lagt inn data hvis [ ] klasse ikke er egnet for et offentlig kjøretøy.
- [ ] Jeg voktet informasjonen jeg var usikker på som en overordnet.
- [ ] Jeg behandler personopplysninger kun når det er nødvendig og lovlig, maskert.
- [ ] Jeg tok risikoen med å samle og skille to verdener.