Gewinne:
- Fähigkeit, Informationen nach Vertraulichkeitsklasse (öffentlich/intern/vertraulich/streng geheim) zu bewerten und den „Klasse fragen, zum Tool passenden“-Reflex anzuwenden
- Verständnis der Datenspeicherung, Modellschulung, Sammlung und Sicherheitsverletzungsrisiken von KI und Trennung der offenen und geheimen Welt
- Fähigkeit, das Mindestdatenprinzip, den Schutz personenbezogener Daten und die Disziplin zu übernehmen, unsichere Informationen so zu schützen, als ob es sich um eine höhere Klasse handeln würde.
Diplomatie basiert auf Vertrauen, und Vertrauen basiert auf Geheimhaltung. Eine Verhandlungsposition, eine nachrichtendienstliche Einschätzung, der Inhalt eines Gesprächs mit einem Gesprächspartner oder eine noch nicht bekannt gegebene Entscheidung können in den falschen Händen die Interessen eines Staates, das Ergebnis einer Verhandlung oder sogar die Sicherheit von Menschen gefährden. Künstliche Intelligenz bringt enorme Geschwindigkeit in diesen Bereich, birgt aber auch neue und ernsthafte Risiken für die Privatsphäre. In dieser Einheit erfahren Sie, wie Sie vertrauliche und vertrauliche Informationen im Zeitalter der künstlichen Intelligenz schützen, welche Daten in welches Fahrzeug gelangen können und welche Disziplin eine sichere Verwendung erfordert.
Diese Einheit ist die wichtigste Sicherheitslektion des Moduls. Ein Fehler hier – das Einfügen eines vertraulichen Dokuments in das falsche Tool – ist irreversibel. Deshalb wird sich hier ein Reflex etablieren, der eingeprägt werden muss: Bevor man irgendwelche Daten an ein KI-Tool weitergibt, fragt man sich immer: In welcher Klasse sind diese Daten und ist dieses Tool für diese Klasse zugelassen?
Informationsklassifizierung: grundlegende Unterscheidung
Diplomatische Informationen werden häufig nach ihrer Sensibilität klassifiziert. Obwohl es von Institution zu Institution unterschiedlich ist, ist die Grundlogik folgende:
- Nicht klassifiziert/öffentlich: Informationen, die bereits veröffentlicht wurden und öffentlich zugänglich sind. Beispiel: offizielle Pressemitteilungen, öffentliche Nachrichten.
- Eingeschränkt/intern: Interne Informationen, die nicht öffentlich zugänglich sind, aber eine geringe Sensibilität aufweisen.
- Vertraulich: Informationen, deren Offenlegung den Interessen des Staates ernsthaft schaden könnte. Beispiel: Verhandlungsposition, interne Bewertung.
- Streng geheim: Informationen, deren Offenlegung den größten Schaden anrichten würde. Beispiel: sensible Informationen, kritische Sicherheitsinformationen.
Die Faustregel ist einfach: Keine geheimen Informationen, die nicht öffentlich zugänglich sind, werden in ein KI-Tool eingegeben, das Ihre Institution nicht für diese Klasse genehmigt hat. Ein öffentlicher KI-Dienst ist per Definition nicht für diese Informationsklasse zertifiziert.
Tipp: Wenn Sie unsicher sind, behandeln Sie die Informationen wie ein Senior. Zu sagen „das ist wahrscheinlich schon bekannt“ ist eine gefährliche Vermutung. Bis Sie zu 100 Prozent sicher sind, dass Informationen öffentlich sind, schützen Sie sie so, als wären sie vertraulich. Unnötige Vorsicht ist kein Kostenfaktor, sondern eine Garantie.
Datenschutzrisiken von KI
KI-Tools bergen andere Datenschutzrisiken als herkömmliche Software:
1. Datenverarbeitung und -speicherung: Der Text, den Sie an einen öffentlichen KI-Dienst schreiben, kann auf den Servern dieses Dienstes verarbeitet und gespeichert werden. Sie können nicht kontrollieren, wer darauf zugreift, wie lange sie aufbewahrt werden und wie sie verwendet werden.
2. Verwendung im Modelltraining: Einige Dienste verwenden möglicherweise die von Ihnen eingegebenen Daten, um das Modell zu verbessern. Dadurch besteht die Gefahr, dass Ihre vertraulichen Informationen indirekt in den „Speicher“ des Modells gelangen und an andere weitergegeben werden.
3. Aggregationsrisiko: Informationen, die einzeln harmlos erscheinen, können in ihrer Kombination ein sensibles Bild ergeben. Kleine Informationen, die zu unterschiedlichen Zeitpunkten eingegeben werden, können insgesamt eine geheime Position verraten.
4. Zugriffs- und Verletzungsrisiko: Wie jedes externe System können auch KI-Dienste Opfer einer Datenschutzverletzung werden. Die von Ihnen bereitgestellten Daten können bei diesem Verstoß offengelegt werden.
Die Lösung dieser Risiken besteht darin, zwei getrennte Welten zu schaffen: allgemeine Tools für Open-Source-Arbeit; Nur interne, sichere und zugelassene Systeme, die keine Daten für klassifizierte Arbeiten exportieren. Mischen Sie niemals beides.
Achtung: Zu sagen „Ich habe es anonym gemacht“ reicht oft nicht aus. Selbst wenn Sie die Namen löschen, kann der Kontext (Datum, Ort, Ereignis, Anzahl der Parteien) für einen Experten ausreichen, um Identitäten und Position zu schwärzen. Wirklich sensible Informationen werden nicht durch Maskierung, sondern durch die geeignete Auswahl von Tools und Medien geschützt.
Sichere Nutzungsdisziplin
Richten Sie einen praktischen Kontrollfluss ein:
- Bestimmen Sie die Klasse. Sind diese Daten öffentlich, intern, vertraulich oder streng geheim?
- Koppeln Sie das Fahrzeug. Kann diese Klasse in diesem Tool verarbeitet werden? Wenn nicht, hören Sie auf.
- Mindestdatenrichtlinie. Geben Sie auch bei einem ausführbaren Job nicht mehr Informationen weiter, als für den Job erforderlich sind.
- Schützen Sie persönliche Daten. Personenbezogene Daten (Name, Kontakt, Standort) werden nur im Bedarfsfall und auf gesetzlicher Grundlage verarbeitet; Wenn es nicht erforderlich ist, wird es maskiert oder überhaupt nicht angegeben.
- Behalten Sie das Protokoll. Dokumentieren Sie mit welchen Daten, welches Werkzeug Sie für welche Aufgabe verwendet haben; Wenn es ein Problem gibt, kann es zurückverfolgt werden.
Tipp: Etablieren Sie in Ihrem Team eine „Privacy First“-Kultur: Ein neuer Sachbearbeiter oder Praktikant sollte vom ersten Tag an den Reflex „keine vertraulichen Dokumente gelangen an die Öffentlichkeit“ erlernen. Die meisten Verstöße beruhen nicht auf böswilliger Absicht, sondern darauf, dass man nicht weiß, wie offen ein Fahrzeug ist.
drei Mini-Koffer
Fall 1 – Reflex verhinderte Verletzung. Ein Experte wollte gerade eine Interviewnotiz zusammenfassen, als er innehielt und nach der Einordnung fragte: Bei der Notiz handelte es sich um ein vertrauliches Gespräch mit einem Gesprächspartner. Umstellung auf ein internes sicheres System statt auf ein öffentliches Tool. Ein einfacher „Fragen Sie zuerst die Klasse“-Reflex verhinderte einen Verstoß.
Fall 2 – Inkassorisiko anerkannt. Ein Team gab an verschiedenen Tagen kleine, scheinbar „harmlose“ Informationen in ein externes Tool ein. Eine Sicherheitsüberprüfung ergab, dass diese Punkte zusammengenommen die Agenda einer bevorstehenden Verhandlung verrieten. Die Anwendung wurde gestoppt; Die Arbeit wurde in eine sichere Umgebung verschoben.
Fall 3 – Gefälschte Anonymität. Ein Sachbearbeiter hielt ein Dokument für „anonym“, weil er Namen gelöscht und es dem externen Agenten übergeben hatte. Aus Datum, Ort und Ereignisbeschreibung im Dokument ging jedoch klar hervor, wer gemeint war. Das Löschen des Namens reichte nicht aus; Das Dokument hätte ohnehin in einer sicheren Umgebung verarbeitet werden müssen.
Vier kopierbare Vorlagen
1) Vorabprüfung der Klasse und des Fahrzeugs:
Im Folgenden beschreibe ich die Arbeit. Sagen Sie mir (erledigen Sie die Aufgabe nicht): (1) Welche Vertraulichkeitsklasse könnten diese Daten haben (öffentlich/intern/geheim/streng geheim), (2) soll diese Klasse in einem öffentlichen KI-Tool verarbeitet werden, (3) wenn nicht, welche Art von Umgebung ist erforderlich. Stellen-/Datenbeschreibung: [hier]
2) Scannen und Maskieren personenbezogener Daten:
Listen Sie im folgenden Text die persönlichen/sensiblen Daten (Name, Titel, Kontakt, Standort, Gesundheitszustand, ID-Nummer) auf, die vor der Verarbeitung maskiert werden müssen. VERARBEITUNG DES TEXTES; Sagen Sie mir einfach, welche Bereiche entfernt werden müssen. Ich werde die Maskierung vornehmen und erneut senden. Text: [hier]
3) Risikobewertung der Sammlung:
Ich denke darüber nach, die folgenden Informationen separat in ein externes Tool zu exportieren: [Stücke]. Auch wenn diese einzeln harmlos erscheinen mögen, können sie in Kombination ein sensibles Bild ergeben (z. B. eine Position, Agenda, Identität)? Bewerten Sie das Risiko der Sammlung und sagen Sie, welche Gegenstände nicht zusammen abgegeben werden sollten.
4) Bestätigung der öffentlichen Verfügbarkeit:
Ich bin nicht sicher, ob die folgenden Informationen öffentlich sind: [Informationen]. Listen Sie auf, welche Überprüfung ich durchführen muss, bevor ich es als öffentlich erkenne (gibt es eine offizielle Veröffentlichung, wer hat es veröffentlicht, Datum). Wenn ich mir nicht sicher bin, erinnern Sie mich an den Grundsatz „Vertraulich behandeln“.
Schwache Eingabeaufforderung / Starke Eingabeaufforderung
Schwache Eingabeaufforderung:
Fassen Sie diese Interviewnotiz zusammen. (versteckter Inhalt wird direkt in die Notiz eingefügt)
Dies ist der gefährlichste Fehler: Ein vertrauliches Dokument ist in ein öffentliches Medium gelangt, ohne dass seine Klasse in Frage gestellt wurde. Das Risiko einer Leckage ist eingetreten und kann nicht rückgängig gemacht werden.
Leistungsstarke Eingabeaufforderung (zuerst prüfen):
Ich möchte eine Besprechungsnotiz bearbeiten. Aber zuerst: Diese Notiz gehört wahrscheinlich zur Geheimklasse. Sagen Sie mir, ob diese Art von Dokument in einem öffentlichen Tool verarbeitet werden kann und wie das richtig ist? Ich gebe Ihnen den Inhalt des Dokuments nicht weiter. Ich frage nur nach dem richtigen Prozess.
Der Unterschied ist klar: Der vertrauliche Inhalt wird überhaupt nicht angegeben, der richtige Prozess wird zuerst abgefragt und die Arbeit wird in die entsprechende Umgebung geleitet.
Tabelle zur Zuordnung von Klassen zu Fahrzeugen
Informationsklasse
Beispiel
Öffentliche KI
richtige Umgebung
öffentlich
Pressemitteilung
geeignet
allgemeines Werkzeug
Intern/servicespezifisch
innere Note
Normalerweise nein
Intern genehmigt
Geheimnis
Verhandlungsposition
niemals
Sicheres Institutionensystem
streng geheim
sensible Intelligenz
niemals
höchste Sicherheit
Persönliche Daten
Anmeldeinformationen
Nur notwendig + legal
Maskiert/gesichert
Häufige Fehler
- Daten eingeben, ohne nach der Klasse zu fragen. Vor jedem Job entsteht der Reflex „In welcher Klasse ist das?“ ist ein Muss.
- Vorausgesetzt „es ist wahrscheinlich offensichtlich“. Unsichere Informationen unterliegen dem Schutz der Vertraulichkeit.
- Das Löschen des Namens wird mit Anonymisierung verwechselt. Der Kontext kann Identitäten verraten.
- Das Inkassorisiko wird ignoriert. Kleinteile können beim Zusammenbau empfindlich sein.
- Zwei Welten vermischen. Offene und klassifizierte Jobs werden in separaten Tools/Umgebungen ausgeführt.
Zusammenfassend
Geheimhaltung ist die kritischste Grenze des diplomatischen KI-Einsatzes. Betrachten Sie die Informationsklassifizierung (öffentlich/intern/vertraulich/streng geheim), den „Klasse fragen, Fahrzeug anpassen“-Reflex, das Mindestdatenprinzip, den Schutz personenbezogener Daten und das Erhebungsrisiko als Rückgrat dieser Einheit. Allgemeine Tools für die Open-Source-Arbeit; Verwenden Sie für vertrauliche Arbeiten nur firmeninterne sichere und zugelassene Systeme. Verwechseln Sie die beiden niemals; Bewahren Sie die Informationen im Zweifelsfall wie ein Senior auf.
Anwendungsaufgabe
Listen Sie 8 verschiedene Daten von Ihrem eigenen (oder imaginären) Schreibtisch auf (einige öffentlich, andere vertraulich). Ordnen Sie jedes einzelne einer Klasse zu und entscheiden Sie, „in welchem Werkzeug es verarbeitet werden kann“. Bewerten Sie Unklarheiten mit der Vorlage „Klassen- und Fahrzeugvorabprüfung“. Wählen Sie drei Stücke aus und prüfen Sie, ob sie in Kombination mit der „Sammelrisikobewertung“ ein sensibles Bild ergeben.
Checkliste
- [ ] Ich habe zunächst die Sensitivitätsklasse für die einzelnen Daten bestimmt.
- Ich habe noch nie Daten eingegeben, deren Klasse [ ] nicht für ein öffentliches Fahrzeug geeignet ist.
- [ ] Ich habe die Informationen, bei denen ich mir nicht sicher war, wie ein Vorgesetzter gehütet.
- [ ] Ich verarbeite personenbezogene Daten nur, wenn dies erforderlich und rechtmäßig ist, maskiert.
- [ ] Ich bin das Risiko des Sammelns und der Trennung zweier Welten eingegangen.