KVKK, Privacidade e Governança Responsável de Inteligência Artificial Pública

Ganhos:

• Aplica os princípios KVKK e minimização de dados ao processar dados pessoais de cidadãos em ferramentas de IA.
• Estabelece uma estrutura de governança para uma organização que inclui uma política de uso de IA, trilha de auditoria e cadeia de responsabilidade.
• Argumenta holisticamente que a IA pública responsável se baseia na supervisão humana, na transparência e na responsabilização.

Ao longo deste módulo, vimos como a IA é um acelerador poderoso no público: resposta a perguntas, petições e correspondência dos cidadãos, investigação legislativa, análise de políticas, relatórios, tomada de decisões baseada em dados, governo eletrónico e transparência. Agora chegamos ao quadro que mantém tudo unido: proteção de dados pessoais e governação responsável. A Pública, pela sua natureza, trata os dados mais sensíveis do cidadão: identidade, morada, rendimentos, saúde, antecedentes criminais, situação familiar. O processamento destes dados com ferramentas de IA deve cumprir integralmente a estrutura da KVKK (Lei de Proteção de Dados Pessoais nº 6.698; a lei que regula o processamento legal, limitado e seguro de dados pessoais). Nesta unidade final, estabeleceremos a espinha dorsal da privacidade e da governação da utilização pública da IA ​​– que dados podem ser fornecidos a que ferramenta, que políticas se aplicam, quem é o responsável, como uma organização gere a IA com segurança. Esta unidade é o telhado colocado sobre as dez unidades anteriores.

Princípios básicos do KVKK que afetam a IA pública

KVKK estabelece vários princípios básicos, cada um dos quais limita diretamente o uso da IA:

• Conformidade com a lei e cumprimento da finalidade: Os dados pessoais são processados apenas para uma finalidade específica e legítima. Os dados coletados para uma finalidade (por exemplo, solicitar ajuda) não podem ser usados ​​para outra finalidade (por exemplo, treinar um modelo) sem permissão.
• Minimização de dados: Não são processados ​​mais dados do que o necessário para a finalidade. Se um nome não for necessário para uma análise de categoria, nenhum nome será fornecido.
• Segurança: Os dados são protegidos contra acesso não autorizado. Colar dados de cidadãos em uma ferramenta pública de IA é levar esses dados para fora da organização – é uma violação da política de segurança.
• Período de armazenamento: Os dados são eliminados quando a finalidade termina; Não é mantido indefinidamente.
• Informação e direitos: Os cidadãos têm o direito de saber como os seus dados são tratados, corrigir, eliminar e opor-se a decisões automatizadas.

Atenção: O upload de dados de um cidadão para uma ferramenta pública de IA que a instituição não aprovou, onde os dados são armazenados e quem tem acesso a eles não é claro, é na maioria dos casos uma violação do KVKK e expõe a instituição a sanções. As regras nunca são alteradas “para facilitar o trabalho”.

Quais dados, para qual veículo? Modelo de três zonas

Como regra geral, divida os dados em três regiões:

1. Vermelho (nunca entra em veículo público): número de identificação, estado de saúde, criminal, religião, etnia, biometria, endereço completo, qualquer coisa que identifique a pessoa. Estes são processados ​​​​apenas em ambiente contratado/interno e compatível com KVKK aprovado pela instituição.
2. Amarelo (com cuidado, mascarando): Dados que podem estar indiretamente vinculados à pessoa. Primeiro anonimize/agregue e depois processe.
3. Verde (gratuito): Informação impessoal, pública, geral (texto legislativo, estatísticas públicas, procedimento geral). Você pode processá-los facilmente com IA.

Dica: Antes de entregar um texto para a IA, faça o teste de 5 segundos: “Há algo neste conteúdo que possa identificar uma pessoa?” Se a resposta for “sim/talvez”, use máscara ou dirija um veículo aprovado. Em caso de dúvida, considere o vermelho.

Governança corporativa: da pessoa ao sistema

A IA pública responsável não pode ser deixada à boa vontade de funcionários públicos individuais; É necessário um quadro institucional:

• Política: A instituição deve ter uma política de uso de IA: quais ferramentas são aprovadas, quais dados podem ser inseridos, quem é o responsável.
• Lista de ferramentas aprovadas: O pessoal deve utilizar ferramentas que a instituição avaliou e aprovou, e não aleatoriamente.
• Treinamento: A equipe deve conhecer a disciplina de verificação e as regiões de dados (como este módulo).
• Registro e auditoria: Deve ser mantida uma trilha de auditoria das decisões produzidas com IA.
• Responsabilidade: Cada resultado alimentado por IA deve ter um proprietário humano e aprovação. A responsabilidade é da instituição e do policial, não do veículo.
• Princípio centrado no ser humano: Nenhuma decisão final de criação/restrição de direitos é tomada sem o consentimento humano.

três mini cases

Caso 1 — Vazamento de dados vermelho evitado. Um membro da equipe estava prestes a enviar um resumo de uma lista de benefícios de saúde para 1.200 pessoas em uma ferramenta pública. Graças à política de veículos aprovada pela agência e ao treinamento em “dados vermelhos”, ele parou; Os dados foram processados ​​em ambiente aprovado internamente e com campos de identidade mascarados. Foi evitada uma possível violação do KVKK e perda de confiança para dezenas de milhares de pessoas.

Caso 2 — Uso indevido. Uma unidade pretendia utilizar os dados recolhidos para divulgação num plano de comunicação pré-eleitoral. O encarregado da proteção de dados lembrou o princípio do cumprimento da finalidade: tratava-se de uma utilização dos dados fora da finalidade para a qual foram recolhidos e era ilegal. O pedido foi negado.

Caso 3 — Lacuna de governação eliminada. Num município, diferentes unidades utilizavam diferentes ferramentas de IA sem controlo; Ninguém sabia quais dados iam para onde. A agência introduziu uma política de uso de IA, lista de veículos aprovados e trilha de auditoria; Em 3 meses, o uso de veículos não registrados diminuiu 90% e foi criado um inventário de dados.

Quatro modelos copiáveis

1) Classificação da região de dados (antes de exportar para o veículo):

Sua função: consultor de proteção de dados. Classifique o seguinte conteúdo antes de entregá-lo a um agente de IA: VERMELHO (identifica a pessoa, nunca entra em veículo público), AMARELO (conectável indiretamente, máscara), VERDE (não pessoal, gratuito). Marque as áreas vermelhas/amarelas uma por uma e diga-lhes como mascarar. Conte o suspeito como vermelho. CONTEÚDO: [texto]

2) Mascaramento/anonimização:

Anonimize todos os dados pessoais antes de processar o seguinte texto: nome -> [PESSOA-1], número de identificação -> [IDENTIDADE], endereço ->[ENDEREÇO], saúde/penalidade -> [SENSÍVEL]. Marque a mesma pessoa. Exporte texto anônimo separadamente. Nunca grave dados reais na saída. TEXTO: [texto]

3) Lista de verificação de conformidade KVKK (para o uso de uma IA):

Sua função: especialista em conformidade KVKK. Produza uma lista de verificação de conformidade para o seguinte uso de IA: (1) a finalidade do processamento é legítima e específica, (2) está conectada à finalidade (está mudando para outra finalidade), (3) está otimizada, (4) a ferramenta é segura/aprovada, (5) o período de retenção é certo, (6) os direitos dos cidadãos (objeção, exclusão) são protegidos. Marque os itens faltantes com uma bandeira vermelha. USO: [receita]

4) Estrutura política corporativa de IA:

Sua função: especialista em governança de TI pública. Produzir uma estrutura de política de uso de IA para nossa organização: escopo, ferramentas aprovadas, zonas de dados (vermelho/amarelo/verde), usos proibidos, pontos de aprovação humana, trilha de auditoria, responsabilidades, treinamento e notificação de violação. Preencha cada título com 1-2 frases. INSTITUIÇÃO: [unidade e empregos típicos]

Alerta fraco / Alerta forte

Fraco: "Resuma esta lista de referências."

Forte: "Sua função é de consultor de proteção de dados. Primeiro, classifique esta lista por região de dados (vermelho/amarelo/verde) e marque todos os campos que identificam a pessoa. Mascare os campos vermelho/amarelo com [PESSOA]/[IDENTIDADE]/[SENSÍVEL], mantenha a mesma pessoa com o mesmo rótulo. Produza apenas um resumo da categoria com dados agregados e anônimos; não escreva dados pessoais reais na saída. No final, observe onde esse processo requer atenção em termos de KVKK (objetivo, armazenamento, segurança do veículo) adicionar."

A diferença: o poderoso prompt classifica, mascara, minimiza e integra os princípios KVKK antes de processar os dados.

Regiões e regras de dados

Região

exemplo

regra

vermelho

Número TR ID, saúde, penalidade, endereço completo

Nunca entre em veículo público; ambiente aprovado

amarelo

Idade+bairro+ocupação, identificador indireto

Mascarar/agregar e depois processar

verde

Legislação, estatísticas públicas, procedimento geral

trabalho autônomo

Erros comuns

• Exportando dados vermelhos para ferramenta pública. A violação mais grave; Os dados de identificação/saúde/penalidade não saem do ambiente aprovado.
• Uso indevido. É contra a lei usar dados coletados para uma finalidade e para outra finalidade (treinamento de modelos, comunicação) sem permissão.
• Processando muitos dados. Não mova campos desnecessários (nome, morada) para o efeito; Minimizar.
• Dirigir sem aprovação. Não está claro para onde vão os dados nos veículos que a instituição não avaliou.
• Não determinar o período de retenção. Os dados deverão ser eliminados quando a finalidade for concluída; não deve ser mantido indefinidamente.
• Colocar a responsabilidade no veículo. A saída pertence e é aprovada pelo ser humano; “A IA fez isso” não é uma defesa.

Em resumo

A estrutura para uma IA pública responsável é a proteção de dados pessoais e a governança corporativa. Os princípios KVKK — finalidade, minimização, segurança, limite de retenção, direitos dos cidadãos — limitam qualquer uso de IA. Separe os dados em zonas vermelhas/amarelas/verdes, nunca dê vermelho a uma ferramenta pública, mascare dados pessoais, use apenas ferramentas aprovadas e conecte um proprietário humano a cada decisão. Política de nível institucional, lista de veículos aprovados, registro de treinamento e inspeção; A disciplina de verificação no nível pessoal. Assim, a IA serve o público protegendo os direitos dos cidadãos.

Tarefa de aplicativo

Escolha um uso real de IA que você fez (ou está pensando em fazer) em sua unidade. Separe o conteúdo que você processará em vermelho/amarelo/verde com o modelo "Classificação da região de dados". Aplique o modelo "Lista de verificação de conformidade KVKK" e encontre pelo menos um ponto ausente/arriscado. Por fim, elabore uma política curta adequada para sua unidade com o "Esqueleto da política de IA corporativa".

lista de verificação

• [ ] Dividi o conteúdo em zona vermelha/amarela/verde; Contei o suspeito como vermelho.
• [ ] Não forneci os dados vermelhos para a ferramenta pública; Usei mídia aprovada.
• [ ] Mascarei dados pessoais e removi campos desnecessários (minimização).
• [ ] Verifiquei a finalidade do processamento, o período de armazenamento e a segurança do veículo.
• [ ] Observei os direitos de oposição/exclusão dos cidadãos.
• [ ] Anexei um proprietário humano e aprovação para cada saída; Eu mantive uma trilha de auditoria.

Exame do Módulo

1. Como funcionário público, qual é a pergunta prioritária que você deve fazer antes de entregar um cargo à IA?

• A) O que o cidadão perde se esta saída estiver errada? ✔
• B) Quão rápido a IA pode fazer esse trabalho?
• C) Esta ferramenta de IA é gratuita?
• D) Outra unidade também utilizará esta saída?

Explicação: A decisão de transferência é tomada com base nos danos que o cidadão sofrerá se a saída estiver incorreta. O dano é facilmente transferido se forem apenas alguns minutos de reescrita; Se for rejeição injusta, penalidade errada ou perda de direitos, a AI apenas produz um rascunho, a decisão e a verificação cabem ao funcionário.

2. Como se chama quando a IA apresenta uma lei inexistente ou uma decisão judicial fabricada como real?

• A) Cache
• B) Triagem
• C) Anonimização
• D) Alucinação ✔

Explicação: Alucinação ocorre quando a IA produz com segurança informações que na verdade não existem (substância fabricada, regulamento revogado, número errado). No âmbito da legislação, este é um dos riscos mais perigosos, pois pode levar à perda de direitos e ao cancelamento da ação administrativa.

3. Um oficial está prestes a rejeitar o pedido com base em um artigo regulamentar apontado por YZ. Qual é o comportamento mais correto?

• A) A IA escreve diretamente a rejeição porque parece confiante
• B) Faça a mesma pergunta a outro veículo de IA e obtenha confirmação
• C) Confirma o artigo do texto consolidado atual em Çözüm.gov.tr ✔
• D) Solicita verbalmente a decisão a um superior

Descrição: Os dados de treinamento da IA ​​são congelados em uma determinada data; O artigo que mostra pode ter sido revogado ou alterado. A confirmação de que o artigo está em vigor e sua versão final a partir do atual texto consolidado em Çözüm.gov.tr ​​​​antes da decisão evita uma rejeição injusta e possível ação de anulação.

4. Por que é uma garantia de qualidade que um chatbot cidadão possa dizer “Não sei, estou transferindo você para um funcionário”?

• A) Melhora as estatísticas aumentando a taxa de rotatividade
• B) Evita a desinformação, delegando informações a humanos quando não tiver certeza ✔
• C) Prolonga o tempo de chamada distraindo os cidadãos
• D) Permite que o chatbot receba menos perguntas

Explicação: Em público, uma resposta errada e confiante custa muito mais caro do que uma resposta honesta; Isso leva à perda de direitos e à desconfiança da instituição. A capacidade do chatbot de passar a palavra ao humano quando não tem certeza é um mecanismo de segurança que evita informações erradas alucinatórias.

5. Qual é o risco mais importante a considerar ao “simplificar” a correspondência oficial com a IA?

• A) O texto é muito curto
• B) Alterando a fonte
• C) Descartando uma condição ou exceção ✔
• D) Ortografia errada do nome do destinatário

Explicação: A adaptação estilística não deve alterar o conteúdo. Ao simplificar, a IA às vezes descarta uma exceção, condição ou duração. Por conseguinte, o texto simplificado deve ser sempre comparado com a decisão ou legislação original.

6. Nome e T.R. em um conjunto de dados. Como se chama quando a combinação de 'bairro + ano de nascimento + tipo de deficiência' pode revelar uma pessoa mesmo que o número de identificação tenha sido apagado?

• A) Redefinição ✔
• B) Minimização de dados
• C) Taxa de cobertura
• D) Consolidação

Explicação: A reidentificação é encontrar uma pessoa através de uma combinação de identificadores indiretos de dados considerados anônimos. Se uma categoria rara for encontrada em uma única pessoa, excluir o nome não será suficiente; São necessárias medidas adicionais, como a conversão da idade em faixa e a combinação de categorias raras.

7. Como é chamado quando um modelo de inspeção marca um bairro que foi fortemente inspecionado no passado como “de risco” e envia mais inspeções para lá, o que leva o modelo a ver esse bairro como mais arriscado?

• A) Minimização de dados
• B) Alucinação
• C) Anonimização
• D) Ciclo de feedback ✔

Explicação: O ciclo de feedback ocorre quando a saída do modelo afeta os dados de treinamento subsequentes, reforçando o viés existente. A diferença aumenta não no risco real, mas para onde se olha. A maneira de se proteger é monitorar o impacto, não o resultado, e controlar a distribuição das decisões com base no grupo.

8. Depois que uma solicitação de benefícios foi totalmente on-line, o número de solicitações caiu 30% no primeiro mês. Qual é a explicação mais provável para isso?

• A) As necessidades reais dos cidadãos diminuíram
• B) Cidadãos sem internet e sem alfabetização digital ficaram de fora ✔
• C) Os juros diminuíram porque o montante do auxílio diminuiu
• D) O sistema aprovou automaticamente todas as inscrições

Descrição: A exclusão digital é a incapacidade dos cidadãos sem acesso à Internet ou literacia digital de aceder aos serviços. O número diminui porque o grupo mais necessitado, idosos e cidadãos sem internet, não pode candidatar-se. A solução é deixar canais alternativos, como pontos de referência assistida.

9. Embora a taxa real de sucesso num relatório anual seja de 63 por cento, o resumo executivo produzido pela YZ diz que “a grande maioria das candidaturas foi positiva”. Qual é o comportamento correto?

• A) A expressão permanece como está porque é positiva.
• B) A proporção é excluída e apenas a expressão qualitativa é usada
• C) A expressão é substituída pelo número real 63 por cento ✔
• D) O resumo é completamente removido do relatório

Explicação: A percepção positiva exagerada no relatório público coloca a instituição numa situação difícil nas auditorias subsequentes. Cada afirmação no sumário executivo deve ser comparada com os dados brutos e o número real (63 por cento) deve ser escrito; Os resumos de IA não são incluídos no relatório sem serem auditados.

10. Ao tomar decisões baseadas em dados no sector público, se o “número de processos fechados mensalmente” aumentar enquanto a “taxa de resolução no primeiro contacto” diminuir, o que isto nos ensina primeiro?

• A) Escolher o indicador certo é mais importante do que multiplicar o número ✔
• B) O número de pessoal deve ser aumentado
• C) Os gráficos devem ser coloridos
• D) O chatbot deve responder mais perguntas

Explicação: O indicador errado leva à decisão errada mesmo com dados corretos. Os arquivos podem ser fechados e reabertos rapidamente. Escolher o indicador certo e ler os indicadores em conjunto evita se gabar apenas com base em um número enganoso.

11. Num gráfico, o eixo vertical começa em 40 em vez de zero e um aumento de 2 por cento parece um salto dramático. É um exemplo de que problema?

• A) Alucinação
• B) Minimização de dados
• C) Divisão digital
• D) Visualização enganosa ✔

Explicação: A visualização enganosa distorce a percepção através de técnicas como eixo que não parte de zero, escala desproporcional ou período de tempo selecionado. Faz parte de uma governança visual honesta em dados públicos; A tabela real deve ser mostrada puxando o eixo para zero.

12. Por que é inaceitável dizer “A IA escreveu isto” como justificação para uma acção administrativa?

• A) Porque as ferramentas de IA são muito caras
• B) A ação administrativa deve ser justificada e a responsabilidade é do dirigente ✔
• C) Porque a IA não sabe turco
• D) Porque os cidadãos não gostam de IA

Explicação: A ação administrativa deve ser fundamentada e auditável; A responsabilidade não é da IA, mas do funcionário público e da instituição que utiliza os resultados sem verificá-los. ‘A IA disse isso’ não é justificativa e não sustenta a ação administrativa.

13. Quais são os quatro princípios que distinguem a utilização da IA ​​no setor público do setor privado e que devem ser observados adicionalmente?

• A) Velocidade, baixo custo, lucratividade, concorrência
• B) Automação, escala, marketing, marca
• C) Igualdade, transparência, responsabilidade, proteção de dados pessoais ✔
• D) Privacidade, confidencialidade, privacidade e confidencialidade

Explicação: Nas obras onde o poder público é utilizado, a IA é enquadrada pelos princípios da igualdade (tratamento semelhante de uma situação semelhante), transparência (explicabilidade da justificação da decisão), responsabilização (responsável por cada transação e pista de auditoria) e proteção de dados pessoais (KVKK).

14. O que um sistema automatizado de comprovação deve fazer quando não tem certeza sobre um tipo de documento raro?

• A) Para rejeitar o pedido silenciosamente
• B) Encaminhamento da aplicação para análise humana ✔
• C) Aprovar automaticamente a inscrição
• D) Exclua o aplicativo

Explicação: Uma boa automação direciona o modelo para o oficial quando este não tem certeza, em vez de rejeitá-lo silenciosamente. Caso contrário, as aplicações legítimas cairão num ponto cego e ocorrerá vitimização. Manter as pessoas no ponto de decisão é a base do gerenciamento de exceções.