Ganancias:
- Capacidad para evaluar información según la clase de sensibilidad (pública/interna/confidencial/alto secreto) y aplicar el reflejo de 'preguntar a la clase, hacer coincidir la herramienta'
- Comprender los riesgos de almacenamiento de datos, entrenamiento de modelos, recopilación y violación de la IA y mantener separados el mundo abierto y clasificado
- Capacidad para adoptar el principio de datos mínimos, la protección de datos personales y la disciplina de proteger la información incierta como si fuera una clase superior.
La diplomacia se basa en la confianza y la confianza se basa en el secreto. Una posición de negociación, una evaluación de inteligencia, el contenido de una conversación con un interlocutor o una decisión aún por anunciar, en las manos equivocadas, pueden poner en peligro los intereses de un Estado, el resultado de una negociación o incluso la seguridad de las personas. La inteligencia artificial aporta una enorme velocidad a este campo, pero también conlleva nuevos y graves riesgos para la privacidad. En esta unidad, aprenderá cómo proteger la información clasificada y confidencial en la era de la inteligencia artificial, qué datos pueden ingresar a qué vehículo y la disciplina del uso seguro.
Esta unidad es la lección de seguridad más crítica del módulo. Un error aquí (pegar un documento confidencial en la herramienta incorrecta) es irreversible. Por lo tanto, aquí se establecerá un reflejo que es necesario memorizar: antes de dar cualquier dato a una herramienta de IA, pregunte siempre: ¿en qué clase están estos datos y esta herramienta está aprobada para esta clase?
Clasificación de la información: distinción básica.
La información diplomática a menudo se clasifica según su sensibilidad. Aunque varía de una institución a otra, la lógica básica es la siguiente:
- Sin clasificar/pública: Información que ya ha sido publicada y es de acceso público. Ejemplo: comunicados de prensa oficiales, noticias públicas.
- Restringido/interno: información interna que no está disponible públicamente pero tiene baja sensibilidad.
- Confidencial: Información cuya divulgación podría perjudicar gravemente los intereses del Estado. Ejemplo: puesto de negociación, evaluación interna.
- Alto secreto: Información cuya divulgación causaría el daño más grave. Ejemplo: inteligencia sensible, información de seguridad crítica.
La regla general es simple: ninguna información clasificada que no esté disponible públicamente se ingresará en una herramienta de inteligencia artificial que su institución no haya aprobado para esa clase. Un servicio público de IA, por definición, no está certificado para esta clase de información.
Consejo: si no está seguro, trate la información como si fuera una persona mayor. Decir "esto probablemente ya se sepa" es una suposición peligrosa. Hasta que esté 100 por ciento seguro de que la información es pública, protéjala como si fuera confidencial. La precaución innecesaria no es un costo, es una garantía.
Riesgos de privacidad de la IA
Las herramientas de inteligencia artificial plantean riesgos de privacidad diferentes a los del software tradicional:
1. Procesamiento y almacenamiento de datos: el texto que escriba en un servicio público de IA puede procesarse y almacenarse en los servidores de ese servicio. No puedes controlar quién accede a él, cuánto tiempo se conserva y cómo se utiliza.
2. Uso en entrenamiento de modelos: algunos servicios pueden usar los datos que usted ingresa para mejorar el modelo. Esto crea el riesgo de que su información confidencial entre indirectamente en la "memoria" del modelo y se filtre a otros.
3. Riesgo de agregación: fragmentos de información que individualmente parecen inofensivos pueden formar una imagen sensible cuando se combinan. Pequeñas piezas de información ingresadas en diferentes momentos pueden revelar colectivamente una posición secreta.
4. Riesgo de acceso y violación: como cualquier sistema externo, los servicios de IA pueden estar sujetos a una violación de datos. Los datos que usted proporcione pueden quedar expuestos en esa violación.
La solución a estos riesgos es establecer dos mundos separados: herramientas generales para el trabajo de código abierto; Solo sistemas internos, seguros y aprobados que no exportan datos para trabajos clasificados. Nunca mezcles los dos.
Atención: muchas veces decir "lo hice anónimo" no es suficiente. Incluso si elimina los nombres, el contexto (fecha, ubicación, evento, número de partes) puede ser suficiente para que un experto elimine las identidades y la posición. La información realmente sensible no se protege mediante enmascaramiento sino mediante la selección adecuada de herramientas y medios.
Disciplina de uso seguro
Configure un flujo de control práctico:
- Determinar la clase. ¿Son estos datos públicos, internos, confidenciales o ultrasecretos?
- Empareje el vehículo. ¿Se puede procesar esta clase en esta herramienta? Si no, detente.
- Política de datos mínimos. Incluso en un trabajo viable, no proporcione más información de la que requiere el trabajo.
- Proteger datos personales. Los datos personales (nombre, contacto, ubicación) se procesan sólo si es necesario y sobre una base legal; Si no es necesario, se enmascara o no se administra en absoluto.
- Mantenga el registro. Documente qué herramienta utilizó para qué trabajo, con qué datos; Si hay un problema, se puede rastrear.
Consejo: Establezca una cultura de "privacidad primero" en su equipo: un nuevo empleado o pasante debe aprender el reflejo de "ningún documento confidencial ingresa al dominio público" desde el primer día. La mayoría de las infracciones no se deben a malicia sino a no saber qué tan abierto está un vehículo.
tres mini casos
Caso 1: Reflejo evitó la violación. Un experto estaba a punto de resumir una nota de una entrevista cuando se detuvo y preguntó su clasificación: la nota era una conversación confidencial con un interlocutor. Se cambió a un sistema seguro interno en lugar de una herramienta pública. Un simple reflejo de "preguntar a clase primero" evitó una infracción.
Caso 2: Riesgo de cobro reconocido. Un equipo ingresaba pequeños fragmentos de información aparentemente “inocuos” en una herramienta externa en días diferentes. Una revisión de seguridad mostró que, cuando se combinan, estas piezas delatan la agenda de una próxima negociación. La aplicación ha sido detenida; El trabajo se trasladó a un entorno seguro.
Caso 3: Falso anonimato. Un empleado consideró un documento "anónimo" porque borró nombres y se lo entregó al agente externo. Sin embargo, la fecha, el lugar y la descripción del evento en el documento dejaban claro a quién se refería. Eliminar el nombre no fue suficiente; De todos modos, el documento debería haberse procesado en un entorno seguro.
Cuatro plantillas copiables
1) Verificación previa de clase y vehículo:
Describiré el trabajo a continuación. Dígame (no haga el trabajo): (1) qué clase de sensibilidad podrían tener estos datos (público/interno/secreto/alto secreto), (2) esta clase debería procesarse en una herramienta pública de IA, (3) si no, qué tipo de entorno se requiere. Descripción del trabajo/datos: [aquí]
2) Escaneo y enmascaramiento de datos personales:
Enumere los datos personales/sensibles (nombre, cargo, contacto, ubicación, salud, número de identificación) que deben enmascararse antes del procesamiento en el texto a continuación. PROCESAMIENTO DEL TEXTO; Sólo dime qué áreas necesitan ser eliminadas. Haré el enmascaramiento y lo reenviaré. Texto: [aquí]
3) Evaluación de riesgos de cobranza:
Estoy considerando exportar la siguiente información por separado a una herramienta externa: [piezas]. Aunque estos pueden parecer inofensivos individualmente, cuando se COMBINAN, ¿pueden crear una imagen sensible (por ejemplo, una posición, agenda, identidad)? Evaluar el riesgo de cobro y decir qué artículos no se deben entregar juntos.
4) Confirmación de disponibilidad pública:
No estoy seguro de si la siguiente información es pública: [información]. Enumere qué verificación debo hacer antes de considerarlo público (hay un comunicado oficial, quién lo publicó, fecha). Si no estoy seguro, recuérdeme el principio de "tratar como confidencial".
Aviso débil / Aviso fuerte
Aviso débil:
Resuma esta nota de la entrevista. (el contenido oculto se pega directamente en la nota)
Éste es el error más peligroso: un documento confidencial ha entrado en un medio público sin que se cuestione su clase. El riesgo de fuga se ha producido y no se puede revertir.
Aviso potente (verifique primero):
Quiero procesar una nota de reunión. Pero primero: esta nota probablemente esté en la clase secreta. ¿Dime si este tipo de documento se puede tramitar en una herramienta pública y cuál es la forma correcta? NO TE ESTOY DANDO EL CONTENIDO DEL DOCUMENTO; Sólo estoy pidiendo el proceso correcto.
La diferencia es clara: no se da ningún contenido confidencial, se pregunta primero cuál es el proceso correcto y el trabajo se dirige al entorno adecuado.
Tabla de mapeo de clase a vehículo
clase de información
ejemplo
IA pública
ambiente adecuado
publico
comunicado de prensa
adecuado
herramienta general
Interno/específico del servicio
nota interior
Generalmente no
Aprobado internamente
secreto
posición de negociación
nunca
Sistema institucional seguro
alto secreto
inteligencia sensible
nunca
máxima seguridad
datos personales
credenciales
Necesario+solo legal
Enmascarado/asegurado
Errores comunes
- Ingresando datos sin preguntar por la clase. Antes de cada trabajo, el reflejo "¿en qué clase es esto?" es imprescindible.
- Suponiendo que "probablemente sea obvio". La información incierta se protege como confidencial.
- Confundir la eliminación del nombre con la anonimización. El contexto puede revelar identidades.
- Ignorando el riesgo de cobro. Las piezas pequeñas pueden ser delicadas cuando se ensamblan.
- Mezclando dos mundos. Los trabajos abiertos y clasificados se ejecutan en herramientas/entornos separados.
En resumen
El secreto es el límite más crítico del uso diplomático de la IA. Tome la clasificación de la información (pública/interna/confidencial/ultrasecreta), el reflejo de "preguntar clase, coincidir con el vehículo", el principio de datos mínimos, la protección de datos personales y el riesgo de recopilación como columna vertebral de esta unidad. Herramientas generales para el trabajo de código abierto; Utilice únicamente sistemas internos seguros y aprobados para trabajos clasificados. Nunca confundas los dos; En caso de duda, guarde la información como un mayor.
Tarea de aplicación
Enumere 8 datos diferentes de su propio (o imaginario) escritorio (algunos públicos, otros sensibles). Coloca cada uno en una clase y decide "en qué herramienta se puede procesar". Evalúe los ambiguos con la plantilla "Comprobación previa de clase y vehículo". Seleccione tres piezas y examine si forman una imagen sensible cuando se combinan con la "evaluación de riesgos de la colección".
lista de verificación
- [] Primero determiné la clase de sensibilidad para cada dato.
- Nunca he introducido datos cuya clase [ ] no sea apta para un vehículo público.
- [] Guardé la información de la que no estaba seguro como un superior.
- [ ] Tratamiento datos personales sólo cuando sea necesario y lícito, enmascarado.
- [ ] Me arriesgué al coleccionismo y la separación de dos mundos.