Gains :
- Capacité à évaluer les informations selon la classe de sensibilité (publique / interne / confidentielle / top secret) et à appliquer le réflexe « demander à la classe, faire correspondre l'outil »
- Comprendre les risques de stockage des données, de formation des modèles, de collecte et de violation de l'IA et séparer le monde ouvert du monde classifié
- Capacité à adopter le principe du minimum de données, la protection des données personnelles et la discipline de protection des informations incertaines comme s'il s'agissait d'une classe supérieure.
La diplomatie est basée sur la confiance, et la confiance est basée sur le secret. Une position de négociation, une évaluation des renseignements, le contenu d'une conversation avec un interlocuteur ou une décision non encore annoncée, entre de mauvaises mains, peuvent mettre en péril les intérêts d'un État, l'issue d'une négociation, voire la sécurité des personnes. L’intelligence artificielle apporte une rapidité considérable dans ce domaine, mais elle comporte également de nouveaux et graves risques en matière de vie privée. Dans cette unité, vous apprendrez comment protéger les informations classifiées et sensibles à l'ère de l'intelligence artificielle, quelles données peuvent entrer dans quel véhicule et la discipline d'une utilisation sûre.
Cette unité constitue la leçon de sécurité la plus critique du module. Une erreur ici – coller un document confidentiel dans le mauvais outil – est irréversible. Ici, un réflexe à mémoriser va donc s'établir : avant de donner une quelconque donnée à un outil d'IA, demandez-vous toujours : dans quelle classe se trouve cette donnée et cet outil est-il homologué pour cette classe ?
Classification des informations : distinction fondamentale
Les informations diplomatiques sont souvent classées selon leur sensibilité. Même si cela varie d’une institution à l’autre, la logique de base est la suivante :
- Non classifié/public : informations déjà publiées et accessibles au public. Exemple : communiqués de presse officiels, actualités publiques.
- Restreint/interne : informations internes qui ne sont pas accessibles au public mais qui sont peu sensibles.
- Confidentiel : Information dont la divulgation pourrait nuire gravement aux intérêts de l'État. Exemple : position de négociation, évaluation interne.
- Top secret : Informations dont la divulgation causerait le préjudice le plus grave. Exemple : renseignements sensibles, informations de sécurité critiques.
La règle générale est simple : aucune information classifiée qui n’est pas accessible au public ne sera saisie dans un outil d’IA si votre établissement n’a pas approuvé pour cette classe. Un service public d’IA n’est, par définition, pas certifié pour cette classe d’informations.
Conseil : si vous n'êtes pas sûr, traitez l'information comme une personne âgée. Dire « cela est probablement déjà connu » est une hypothèse dangereuse. Jusqu'à ce que vous soyez sûr à 100 % que les informations sont publiques, protégez-les comme si elles étaient confidentielles. Une prudence inutile n’est pas un coût, c’est une assurance.
Risques de confidentialité liés à l’IA
Les outils d’IA présentent des risques de confidentialité différents de ceux des logiciels traditionnels :
1. Traitement et stockage des données : Le texte que vous écrivez à un service public d'IA peut être traité et stocké sur les serveurs de ce service. Vous ne pouvez pas contrôler qui y accède, combien de temps il est conservé et comment il est utilisé.
2. Utilisation dans la formation du modèle : certains services peuvent utiliser les données que vous saisissez pour améliorer le modèle. Cela crée le risque que vos informations confidentielles entrent indirectement dans la « mémoire » du modèle et soient divulguées à d'autres.
3. Risque d’agrégation : des informations qui semblent inoffensives individuellement peuvent former une image sensible lorsqu’elles sont combinées. De petites informations saisies à différents moments peuvent collectivement révéler une position secrète.
4. Risque d’accès et de violation : comme tout système externe, les services d’IA peuvent être soumis à une violation de données. Les données que vous fournissez peuvent être exposées lors de cette violation.
La solution à ces risques consiste à établir deux mondes distincts : les outils généraux pour le travail open source ; Uniquement des systèmes internes, sécurisés et approuvés qui n’exportent pas de données pour des travaux classifiés. Ne mélangez jamais les deux.
Attention : Dire « Je l'ai rendu anonyme » n'est souvent pas suffisant. Même si vous supprimez les noms, le contexte (date, lieu, événement, nombre de personnes) peut suffire à un expert pour expurger les identités et la position. Les informations réellement sensibles sont protégées non pas par masquage mais par une sélection appropriée d'outils et de supports.
Discipline d'utilisation sûre
Mettre en place un flux de contrôle pratique :
- Déterminez la classe. Ces données sont-elles publiques, internes, confidentielles ou top secrètes ?
- Associez le véhicule. Cette classe peut-elle être traitée dans cet outil ? Sinon, arrêtez.
- Politique de données minimales. Même pour un travail réalisable, ne donnez pas plus d'informations que ce que le travail nécessite.
- Protéger les données personnelles. Les données personnelles (nom, contact, localisation) ne sont traitées que si cela est nécessaire et sur une base légale ; Si cela n’est pas nécessaire, l’information est masquée ou n’est pas donnée du tout.
- Gardez le dossier. Documentez quel outil vous avez utilisé pour quel travail, avec quelles données ; S'il y a un problème, il peut être retracé.
Astuce : Établissez une culture « la vie privée avant tout » dans votre équipe : un nouvel employé ou stagiaire doit apprendre le réflexe « aucun document confidentiel ne tombe dans le domaine public » dès le premier jour. La plupart des violations ne proviennent pas de la malveillance mais du fait de ne pas savoir à quel point un véhicule est ouvert.
trois mini-cases
Cas 1 — Le réflexe a empêché la violation. Un expert s'apprêtait à résumer une note d'entretien lorsqu'il s'arrêta et demanda son classement : la note était une conversation confidentielle avec un interlocuteur. Passé à un système sécurisé interne au lieu d’un outil public. Un simple réflexe « demander à la classe en premier » a empêché une brèche.
Cas 2 — Risque de recouvrement reconnu. Une équipe saisissait de petites informations apparemment « inoffensives » dans un outil externe à différents jours. Un examen de sécurité a montré que, une fois combinés, ces éléments révélaient l’ordre du jour d’une négociation à venir. L'application a été arrêtée ; L'œuvre a été déplacée dans un environnement sécurisé.
Cas 3 — Faux anonymat. Un employé a jugé un document « anonyme » parce qu'il avait effacé les noms et l'avait remis à l'agent extérieur. Cependant, la date, le lieu et la description de l'événement dans le document indiquaient clairement de qui il s'agissait. Supprimer le nom n’était pas suffisant ; Le document aurait de toute façon dû être traité dans un environnement sécurisé.
Quatre modèles copiables
1) Pré-vérification de classe et de véhicule :
Je décrirai le travail ci-dessous. Dites-moi (ne faites pas le travail) : (1) quelle classe de sensibilité ces données peuvent-elles avoir (publique / interne / secrète / top secrète), (2) cette classe doit-elle être traitée dans un outil d'IA public, (3) sinon, quel type d'environnement est requis. Description du poste/des données : [ici]
2) Analyse et masquage des données personnelles :
Répertoriez les données personnelles/sensibles (nom, titre, contact, localisation, santé, numéro d'identification) qui doivent être masquées avant traitement dans le texte ci-dessous. TRAITEMENT DU TEXTE ; Dites-moi simplement quelles zones doivent être supprimées. Je vais faire le masquage et renvoyer. Texte : [ici]
3) Évaluation des risques liés à la collecte :
J'envisage d'exporter séparément les informations suivantes vers un outil externe : [pièces]. Même si ces éléments peuvent sembler inoffensifs individuellement, lorsqu’ils sont COMBINÉS, peuvent-ils créer une image sensible (par exemple une position, un agenda, une identité) ? Évaluez le risque de collecte et indiquez quels articles ne doivent pas être donnés ensemble.
4) Confirmation de disponibilité publique :
Je ne sais pas si les informations suivantes sont publiques : [informations]. Énumérez les vérifications que je dois faire avant de le considérer comme public (y a-t-il une version officielle, qui l'a publié, date). En cas de doute, rappelez-moi le principe « traiter comme confidentiel ».
Invite faible/Invite forte
Invite faible :
Résumez cette note d’entretien. (le contenu masqué est collé directement dans la note)
C'est l'erreur la plus dangereuse : un document confidentiel est entré dans un média public sans que sa classe soit remise en question. Le risque de fuite est survenu et ne peut être inversé.
Invite puissante (vérifiez d'abord) :
Je souhaite traiter une note de réunion. Mais d’abord : cette note est probablement dans la classe secrète. Dites-moi si ce type de document peut être traité dans un outil public et quelle est la bonne manière ? JE NE VOUS DONNE PAS LE CONTENU DU DOCUMENT ; Je demande simplement le bon processus.
La différence est claire : le contenu confidentiel n'est pas du tout divulgué, le bon processus est demandé en premier et le travail est dirigé vers l'environnement approprié.
Tableau de mappage classe-véhicule
cours d'information
exemple
IA publique
bon environnement
publique
communiqué de presse
approprié
outil général
Interne/spécifique au service
note intérieure
Généralement non
Approuvé en interne
secret
position de négociation
jamais
Système d'établissement sécurisé
top secret
renseignements sensibles
jamais
sécurité la plus élevée
données personnelles
informations d'identification
Nécessaire+légal uniquement
Masqué/sécurisé
Erreurs courantes
- Saisir des données sans demander la classe. Avant chaque travail, le réflexe "dans quelle classe est-ce ?" est un incontournable.
- En supposant que "c'est probablement évident". Les informations incertaines sont protégées comme confidentielles.
- Confondre la suppression du nom avec l’anonymisation. Le contexte peut révéler des identités.
- Ignorer le risque de collecte. Les petites pièces peuvent être délicates une fois assemblées.
- Mélanger deux mondes. Les tâches ouvertes et classifiées s'exécutent dans des outils/environnements distincts.
En résumé
Le secret est la limite la plus critique de l’utilisation de l’IA diplomatique. Prendre comme épine dorsale de cette unité la classification des informations (publiques/internes/confidentielles/top secrètes), le réflexe « demander à la classe, faire correspondre le véhicule », le principe de données minimales, la protection des données personnelles et le risque de collecte. Outils généraux pour le travail open source ; Utilisez uniquement des systèmes internes sécurisés et approuvés pour les travaux classifiés. Ne confondez jamais les deux ; En cas de doute, protégez les informations comme un senior.
Tâche de candidature
Répertoriez 8 éléments de données différents provenant de votre propre bureau (ou imaginaire) (certains publics, d'autres sensibles). Placez chacun dans une classe et décidez "dans quel outil peut-il être traité". Évaluez les éléments ambigus avec le modèle « Contrôle préalable de la classe et du véhicule ». Sélectionnez trois éléments et examinez s’ils forment une image sensible lorsqu’ils sont combinés avec « l’évaluation des risques liés à la collection ».
liste de contrôle
- [ ] J'ai d'abord déterminé la classe de sensibilité pour chaque donnée.
- Je n'ai jamais saisi de données dont la classe [ ] ne convient pas à un véhicule public.
- [ ] J'ai gardé les informations dont j'étais incertain comme un supérieur.
- [ ] Je traite les données personnelles uniquement lorsque cela est nécessaire et licite, masqué.
- [ ] J'ai pris le risque de collectionner et de séparer deux mondes.