Ganhos:
- Capacidade de avaliar informações de acordo com a classe de sensibilidade (pública/interna/confidencial/ultrassecreta) e aplicar o reflexo ‘pergunte à classe, combine a ferramenta’
- Compreender o armazenamento de dados, o treinamento de modelos, a coleta e os riscos de violação da IA e manter o mundo aberto e classificado separado
- Capacidade de adotar o princípio de dados mínimos, a proteção de dados pessoais e a disciplina de proteger informações incertas como se fossem de classe superior.
A diplomacia baseia-se na confiança e a confiança baseia-se no sigilo. Uma posição negocial, uma avaliação de inteligência, o conteúdo de uma conversa com um interlocutor, ou uma decisão ainda a ser anunciada, nas mãos erradas, podem pôr em risco os interesses de um Estado, o resultado de uma negociação, ou mesmo a segurança das pessoas. A inteligência artificial traz uma velocidade tremenda a este campo, mas também acarreta novos e graves riscos para a privacidade. Nesta unidade, você aprenderá como proteger informações confidenciais e confidenciais na era da inteligência artificial, quais dados podem entrar em quais veículos e a disciplina do uso seguro.
Esta unidade é a lição de segurança mais crítica do módulo. Um erro aqui – colar um documento confidencial na ferramenta errada – é irreversível. Portanto, aqui será estabelecido um reflexo que precisa ser memorizado: Antes de fornecer qualquer dado para uma ferramenta de IA, pergunte sempre: em que classe estão esses dados e essa ferramenta está aprovada para esta classe?
Classificação da informação: distinção básica
A informação diplomática é frequentemente classificada de acordo com a sua sensibilidade. Embora varie de instituição para instituição, a lógica básica é esta:
- Não classificado/público: Informações que já foram publicadas e estão acessíveis ao público. Exemplo: comunicados de imprensa oficiais, notícias públicas.
- Restrito/interno: Informação interna que não está disponível publicamente, mas tem baixa sensibilidade.
- Confidencial: Informação cuja divulgação pode prejudicar gravemente os interesses do Estado. Exemplo: posição de negociação, avaliação interna.
- Ultrassecreto: Informação cuja divulgação causaria danos mais graves. Exemplo: inteligência sensível, informações críticas de segurança.
A regra é simples: nenhuma informação classificada que não esteja disponível publicamente será inserida em uma ferramenta de IA que sua instituição não tenha aprovado para aquela classe. Um serviço público de IA não é, por definição, certificado para esta classe de informação.
Dica: se não tiver certeza, trate as informações como um idoso. Dizer "isso provavelmente já é conhecido" é um palpite perigoso. Até que você tenha 100% de certeza de que as informações são públicas, proteja-as como se fossem confidenciais. Cuidado desnecessário não é um custo, é uma garantia.
Riscos de privacidade da IA
As ferramentas de IA apresentam riscos de privacidade diferentes dos softwares tradicionais:
1. Processamento e armazenamento de dados: O texto que você escreve para um serviço público de IA pode ser processado e armazenado nos servidores desse serviço. Você não pode controlar quem acessa, por quanto tempo é mantido e como é usado.
2. Uso no treinamento do modelo: alguns serviços podem usar os dados inseridos para melhorar o modelo. Isso cria o risco de que suas informações confidenciais entrem indiretamente na “memória” do modelo e vazem para outras pessoas.
3. Risco de agregação: Informações que parecem inofensivas individualmente podem formar uma imagem sensível quando combinadas. Pequenas informações inseridas em momentos diferentes podem revelar coletivamente uma posição secreta.
4. Risco de acesso e violação: como qualquer sistema externo, os serviços de IA podem estar sujeitos a violação de dados. Os dados que você fornece podem ser expostos nessa violação.
A solução para estes riscos é estabelecer dois mundos separados: ferramentas gerais para trabalho de código aberto; Somente sistemas internos, seguros e aprovados que não exportam dados de trabalhos classificados. Nunca misture os dois.
Atenção: Dizer “Tornei anônimo” muitas vezes não é suficiente. Mesmo que você exclua os nomes, o contexto (data, local, evento, número de partes) pode ser suficiente para um especialista redigir identidades e cargos. As informações verdadeiramente sensíveis são protegidas não por máscaras, mas pela seleção adequada de ferramentas e meios de comunicação.
Disciplina de uso seguro
Configure um fluxo de controle prático:
- Determine a classe. Esses dados são públicos, internos, confidenciais ou ultrassecretos?
- Emparelhe o veículo. Esta classe pode ser processada nesta ferramenta? Se não, pare.
- Política de dados mínimos. Mesmo em um trabalho viável, não forneça mais informações do que o trabalho exige.
- Proteja os dados pessoais. Os dados pessoais (nome, contacto, localização) são tratados apenas se necessário e com base legal; Se desnecessário, é mascarado ou não é fornecido.
- Mantenha o registro. Documente qual ferramenta você usou para qual trabalho, com quais dados; Se houver um problema, ele pode ser rastreado.
Dica: Estabeleça uma cultura de “privacidade em primeiro lugar” em sua equipe: um novo funcionário ou estagiário deve aprender o reflexo “nenhum documento confidencial entra em domínio público” desde o primeiro dia. A maioria das violações não resulta de malícia, mas de não saber quão aberto é um veículo.
três mini cases
Caso 1 – Violação impedida por reflexo. Um perito estava prestes a resumir uma nota de entrevista quando parou e perguntou a sua classificação: a nota era uma conversa confidencial com um interlocutor. Mudou para um sistema seguro interno em vez de uma ferramenta pública. Um simples reflexo de “perguntar primeiro à classe” evitou uma violação.
Caso 2 — Risco de cobrança reconhecido. Uma equipe inseria informações pequenas e aparentemente “inócuas” em uma ferramenta externa em dias diferentes. Uma análise de segurança mostrou que, quando combinadas, essas peças revelavam a agenda de uma negociação futura. O aplicativo foi interrompido; O trabalho foi transferido para um ambiente seguro.
Caso 3 — Falso anonimato. Um funcionário considerou um documento “anônimo” porque apagou nomes e o entregou ao agente externo. No entanto, a data, o local e a descrição do evento no documento deixaram claro a quem se referia. Excluir o nome não foi suficiente; De qualquer forma, o documento deveria ter sido processado em um ambiente seguro.
Quatro modelos copiáveis
1) Pré-verificação de classe e veículo:
Descreverei o trabalho abaixo. Diga-me (não faça o trabalho): (1) que classe de sensibilidade esses dados podem ter (público/interno/secreto/ultrassecreto), (2) essa classe deve ser processada em uma ferramenta pública de IA, (3) se não, que tipo de ambiente é necessário. Descrição do trabalho/dados: [aqui]
2) Verificação e mascaramento de dados pessoais:
Liste os dados pessoais/sensíveis (nome, cargo, contato, localização, saúde, número de identificação) que devem ser mascarados antes do processamento no texto abaixo. PROCESSANDO O TEXTO; Apenas me diga quais áreas precisam ser removidas. Farei o mascaramento e reenviarei. Texto: [aqui]
3) Avaliação de risco de cobrança:
Estou pensando em exportar as seguintes informações separadamente para uma ferramenta externa: [peças]. Mesmo que possam parecer inofensivos individualmente, quando COMBINADOS podem criar uma imagem sensível (por exemplo, uma posição, agenda, identidade)? Avalie o risco da coleta e informe quais itens não devem ser doados juntos.
4) Confirmação de disponibilidade pública:
Não tenho certeza se as seguintes informações são públicas: [informações]. Liste quais verificações preciso fazer antes de considerá-lo público (existe um lançamento oficial, quem o publicou, data). Se não tiver certeza, lembre-me do princípio “tratar como confidencial”.
Alerta fraco / Alerta forte
Alerta fraco:
Resuma esta nota de entrevista. (o conteúdo oculto é colado diretamente na nota)
Este é o erro mais perigoso: um documento confidencial entrou num meio público sem que a sua classe fosse questionada. O risco de vazamento ocorreu e não pode ser revertido.
Prompt poderoso (verifique primeiro):
Quero processar uma nota de reunião. Mas primeiro: esta nota provavelmente está na classe secreta. Diga-me se esse tipo de documento pode ser processado em ferramenta pública e qual a forma correta? NÃO ESTOU DANDO O CONTEÚDO DO DOCUMENTO PARA VOCÊ; Só estou pedindo o processo correto.
A diferença é clara: o conteúdo confidencial não é fornecido de forma alguma, primeiro é solicitado o processo correto e o trabalho é direcionado para o ambiente adequado.
Tabela de mapeamento de classe para veículo
aula de informação
exemplo
IA pública
ambiente certo
público
comunicado de imprensa
adequado
ferramenta geral
Interno/específico do serviço
nota interna
Geralmente não
Aprovado internamente
segredo
posição de negociação
nunca
Sistema institucional seguro
ultrassecreto
inteligência sensível
nunca
mais alta segurança
dados pessoais
credenciais
Necessário+legal apenas
Mascarado/protegido
Erros comuns
- Inserindo dados sem solicitar a aula. Antes de cada trabalho, o reflexo “em que turma é essa?” é uma obrigação.
- Supondo que "provavelmente seja óbvio". Informações incertas são protegidas como confidenciais.
- Confundir exclusão de nome com anonimato. O contexto pode revelar identidades.
- Ignorando o risco de cobrança. Peças pequenas podem ser delicadas quando montadas.
- Misturando dois mundos. Trabalhos abertos e classificados são executados em ferramentas/ambientes separados.
Em resumo
O sigilo é o limite mais crítico do uso diplomático da IA. Considere a classificação das informações (pública/interna/confidencial/ultrassecreta), o reflexo "pergunte à classe, combine o veículo", o princípio dos dados mínimos, a proteção de dados pessoais e o risco de coleta como a espinha dorsal desta unidade. Ferramentas gerais para trabalho de código aberto; Use apenas sistemas internos seguros e aprovados para trabalhos classificados. Nunca confunda os dois; Em caso de dúvida, guarde as informações como um idoso.
Tarefa de aplicativo
Liste 8 dados diferentes de sua própria mesa (ou imaginária) (alguns públicos, outros confidenciais). Coloque cada um em uma classe e decida “em qual ferramenta ele pode ser processado”. Avalie os ambíguos com o modelo "Pré-verificação de classe e veículo". Selecione três peças e examine se elas formam uma imagem sensível quando combinadas com a “avaliação de risco da coleção”.
lista de verificação
- [] Primeiro determinei a classe de sensibilidade para cada dado.
- Nunca inseri dados cuja classe [ ] não seja adequada para um veículo público.
- [] Guardei as informações sobre as quais não tinha certeza como um superior.
- [ ] Processo dados pessoais somente quando necessário e lícito, mascarado.
- [ ] Corri o risco do colecionismo e da separação de dois mundos.