Gevinster:
- Evne til at evaluere information i henhold til følsomhedsklasse (offentlig / intern / fortrolig / tophemmelig) og anvende 'spørg klassen, match værktøjet'-refleksen
- Forståelse af datalagring, modeltræning, indsamling og brudrisici ved AI og holde den åbne og klassificerede verden adskilt
- Evne til at anvende minimumsdataprincippet, persondatabeskyttelse og disciplinen at beskytte usikre oplysninger, som om de var en højere klasse.
Diplomati er baseret på tillid, og tillid er baseret på hemmeligholdelse. En forhandlingsposition, en efterretningsvurdering, indholdet af en samtale med en samtalepartner eller en endnu ikke offentliggjort beslutning, i de forkerte hænder, kan bringe en stats interesser, udfaldet af en forhandling eller endda menneskers sikkerhed i fare. Kunstig intelligens bringer enorm fart til dette felt, men det medfører også nye og alvorlige privatlivsrisici. I denne enhed lærer du, hvordan du beskytter klassificerede og følsomme oplysninger i en tidsalder med kunstig intelligens, hvilke data der kan komme ind i hvilket køretøj, og disciplinen sikker brug.
Denne enhed er modulets mest kritiske sikkerhedslektion. En fejl her - at indsætte et fortroligt dokument i det forkerte værktøj - er irreversibel. Derfor vil en refleks, der skal huskes, blive etableret her: Før du giver nogen data til et AI-værktøj, spørg altid: i hvilken klasse er disse data, og er dette værktøj godkendt til denne klasse?
Informationsklassificering: grundlæggende sondring
Diplomatiske oplysninger klassificeres ofte efter deres følsomhed. Selvom det varierer fra institution til institution, er den grundlæggende logik denne:
- Uklassificeret/offentlig: Oplysninger, der allerede er offentliggjort og er offentligt tilgængelige. Eksempel: officielle pressemeddelelser, offentlige nyheder.
- Begrænset/intern: Intern information, der ikke er offentligt tilgængelig, men som har lav følsomhed.
- Fortroligt: Oplysninger, hvis videregivelse kan alvorligt skade statens interesser. Eksempel: forhandlingsposition, intern evaluering.
- Tophemmelighed: Oplysninger, hvis videregivelse ville forårsage den alvorligste skade. Eksempel: følsomme efterretninger, kritiske sikkerhedsoplysninger.
Tommelfingerreglen er enkel: Ingen klassificeret information, der ikke er offentligt tilgængelig, vil blive indtastet i et AI-værktøj, som din institution ikke har godkendt til den pågældende klasse. En offentlig AI-tjeneste er per definition ikke certificeret til denne informationsklasse.
Tip: Hvis du er usikker, så behandle oplysningerne som en senior. At sige "det er sikkert allerede kendt" er et farligt gæt. Indtil du er 100 procent sikker på, at oplysningerne er offentlige, skal du beskytte dem, som om de var fortrolige. Unødig forsigtighed er ikke en omkostning, det er en forsikring.
Privatlivsrisici ved AI
AI-værktøjer udgør andre privatlivsrisici end traditionel software:
1. Databehandling og lagring: Den tekst, du skriver til en offentlig AI-tjeneste, kan behandles og gemmes på den pågældende tjenestes servere. Du kan ikke kontrollere, hvem der får adgang til det, hvor længe det opbevares, og hvordan det bruges.
2. Brug i modeltræning: Nogle tjenester kan bruge de data, du indtaster, til at forbedre modellen. Dette skaber risiko for, at dine fortrolige oplysninger indirekte kommer ind i modellens "hukommelse" og lækker til andre.
3. Aggregationsrisiko: Oplysninger, der hver for sig virker harmløse, kan danne et følsomt billede, når de kombineres. Små stykker information, der indtastes på forskellige tidspunkter, kan samlet give en hemmelig stilling væk.
4. Adgangs- og brudrisiko: Som ethvert eksternt system kan AI-tjenester være genstand for et databrud. De data, du giver, kan blive afsløret i det brud.
Løsningen på disse risici er at etablere to separate verdener: generelle værktøjer til open source-arbejde; Kun interne, sikre, godkendte systemer, der ikke eksporterer data til klassificeret arbejde. Bland aldrig de to.
OBS: At sige "Jeg gjorde det anonymt" er ofte ikke nok. Selvom du sletter navnene, kan konteksten (dato, sted, begivenhed, antal parter) være nok til, at en ekspert kan redigere identiteter og position. Ægte følsomme oplysninger beskyttes ikke af maskering, men af passende valg af værktøjer og medier.
Sikker brugsdisciplin
Opsæt et praktisk kontrolflow:
- Bestem klassen. Er disse data offentlige, interne, fortrolige eller tophemmelige?
- Par køretøjet. Kan denne klasse behandles i dette værktøj? Hvis ikke, stop.
- Minimum datapolitik. Selv på et brugbart job, giv ikke mere information, end jobbet kræver.
- Beskyt personlige data. Personoplysninger (navn, kontaktperson, lokation) behandles kun, hvis det er nødvendigt og på et juridisk grundlag; Hvis det er unødvendigt, er det maskeret eller slet ikke givet.
- Hold journalen. Dokumenter hvilket værktøj du brugte til hvilket job, med hvilke data; Hvis der er et problem, kan det spores.
Tip: Etabler en "privatliv først"-kultur i dit team: en ny ekspedient eller praktikant bør lære refleksen "ingen fortrolige dokumenter kommer ind i det offentlige domæne" fra dag ét. De fleste overtrædelser stammer ikke fra ondskab, men fra ikke at vide, hvor åbent et køretøj er.
tre minisager
Tilfælde 1 — Refleks forhindrede overtrædelse. En ekspert var ved at opsummere et interviewnotat, da han stoppede op og spurgte dets klassificering: notatet var en fortrolig samtale med en samtalepartner. Skiftet til et internt sikkert system i stedet for et offentligt værktøj. En simpel "spørg klassen først"-refleks forhindrede et brud.
Tilfælde 2 — Indsamlingsrisiko erkendt. Et team ville input små, tilsyneladende "uskadelige" stykker information i et eksternt værktøj på forskellige dage. En sikkerhedsgennemgang viste, at når de blev kombineret, gav disse stykker dagsordenen for en kommende forhandling væk. Ansøgningen er blevet stoppet; Arbejdet blev flyttet til sikre omgivelser.
Sag 3 — Falsk anonymitet. A clerk deemed a document "anonymous" because he had deleted names and handed it over to the outside agent. However, the date, place and event description in the document made it clear who was meant. Det var ikke nok at slette navnet; The document should have been processed in a secure environment anyway.
Fire kopierbare skabeloner
1) Forhåndskontrol af klasse og køretøj:
Jeg vil beskrive arbejdet nedenfor. Fortæl mig (gør ikke jobbet): (1) hvilken følsomhedsklasse disse data kan have (offentlig / intern / hemmelig / tophemmelig), (2) skal denne klasse behandles i et offentligt AI-værktøj, (3) hvis ikke, hvilken type miljø er påkrævet. Job-/databeskrivelse: [her]
2) Skanning og maskering af personoplysninger:
List the personal/sensitive data (name, title, contact, location, health, ID number) that must be masked before processing in the text below. BEHANDLING AF TEKST; Bare fortæl mig, hvilke områder der skal fjernes. Jeg vil gøre maskeringen og sende igen. Tekst: [her]
3) Risikovurdering af indsamling:
Jeg overvejer at eksportere følgende oplysninger separat til et eksternt værktøj: [pieces]. Selvom disse kan virke harmløse hver for sig, kan de, når de KOMBINERES, skabe et følsomt billede (f.eks. en position, dagsorden, identitet)? Vurder risikoen ved afhentning og fortæl hvilke genstande der ikke skal gives sammen.
4) Offentlig tilgængelighedsbekræftelse:
Jeg er ikke sikker på, om følgende oplysninger er offentlige: [information]. Liste over, hvilken verifikation jeg skal gøre, før jeg anser den for offentlig (er der en officiel udgivelse, hvem der har offentliggjort den, dato). Hvis jeg er usikker, så mind mig om "behandl som fortroligt"-princippet.
Svag prompt / Stærk prompt
Svag prompt:
Opsummer dette interviewnotat. (skjult indhold indsættes direkte i noten)
Dette er den farligste fejl: Et fortroligt dokument er kommet ind i et offentligt medie, uden at dets klasse er blevet afhørt. Risikoen for lækage er opstået og kan ikke vendes.
Kraftig prompt (tjek først):
Jeg ønsker at behandle et mødenotat. Men først: denne seddel er nok i den hemmelige klasse. Fortæl mig, om denne type dokumenter kan behandles i et offentligt værktøj, og hvad er den korrekte måde? JEG GIVER IKKE INDHOLDET AF DOKUMENTET TIL DIG; Jeg beder bare om den korrekte proces.
Forskellen er klar: det fortrolige indhold er slet ikke givet, den korrekte proces spørges først, og arbejdet rettes mod det relevante miljø.
Klasse-til-køretøj kortlægningstabel
information class
eksempel
Public AI
right environment
offentlige
pressemeddelelse
passende
general tool
Internt/servicespecifikt
inner note
Usually no
In-house approved
hemmelighed
negotiation position
aldrig
Sikkert institutionssystem
tophemmeligt
sensitive intelligence
aldrig
highest security
personlige data
credentials
Necessary+legal only
Masked/secured
Almindelige fejl
- Indtastning af data uden at spørge til klassen. Før hvert job, refleksen "i hvilken klasse er det?" is a must.
- Forudsat "det er nok indlysende". Usikre oplysninger er beskyttet som fortrolige.
- Forkert navnesletning som anonymisering. Kontekst kan give identiteter væk.
- Ignorerer risikoen for afhentning. Små dele kan være sarte, når de er samlet.
- Mixing two worlds. Åbne og klassificerede job kører i separate værktøjer/miljøer.
Sammenfattende
Hemmeligholdelse er den mest kritiske grænse for diplomatisk brug af kunstig intelligens. Tag informationsklassificering (offentlig/intern/fortrolig/tophemmelig), "spørg klasse, match køretøj"-refleks, minimumsdataprincip, persondatabeskyttelse og indsamlingsrisiko som rygraden i denne enhed. Generelle værktøjer til open source-arbejde; Brug kun interne sikre, godkendte systemer til klassificeret arbejde. Never confuse the two; Når du er i tvivl, så vær opmærksom på informationen som en senior.
Ansøgningsopgave
List 8 different pieces of data from your own (or imaginary) desk (some public, some sensitive). Place each one in a class and decide "in which tool can it be processed". Evaluate ambiguous ones with the "Class and vehicle pre-check" template. Vælg tre stykker, og undersøg, om de danner et følsomt billede, når de kombineres med "kollektionsrisikovurderingen".
tjekliste
- [ ] I first determined the sensitivity class for each data.
- I have never entered data whose [ ] class is not suitable for a public vehicle.
- [ ] I guarded the information I was unsure of like a superior.
- [ ] Jeg behandler kun personoplysninger, når det er nødvendigt og lovligt, maskeret.
- [ ] I took the risk of collecting and the separation of two worlds.