Ganhos:
- Capacidade de classificar e anonimizar os dados dos alunos no âmbito do KVKK e de conceitos especiais de dados pessoais e aplicar a seleção segura de veículos
- Capacidade de adaptar os princípios de ética profissional do PDR (confidencialidade, beneficência, não maleficência, autonomia) ao uso da inteligência artificial
- Capacidade de reconhecer preconceitos, insensibilidade cultural e alucinações na produção de inteligência artificial e criar uma política de uso ético
A confiança está no cerne da profissão de PDR. Se um aluno consegue contar seus sentimentos mais íntimos, familiares e medos a um especialista, é apenas porque acredita que a informação estará protegida. As ferramentas de inteligência artificial representam um novo e sério teste a esta confiança: os dados mais sensíveis podem ficar fora de controlo numa frase. Nesta unidade, discutimos sistematicamente a privacidade, a KVKK, a ética profissional do PDR e como elas se aplicam ao uso da inteligência artificial. Aplicamos esses princípios peça por peça nas unidades anteriores; Aqui iremos combiná-lo como um todo e transformá-lo numa política permanente.
KVKK e tipos de dados: o que é mais protegido
KVKK (Lei de Proteção de Dados Pessoais) é a lei que regula o tratamento lícito de dados pessoais. Dois conceitos são particularmente importantes. Dados pessoais são quaisquer informações que identifiquem ou identifiquem uma pessoa: nome, apelido, número de escola, turma, morada, fotografia. Dados pessoais especiais são um tipo de dados sensíveis que requerem maior proteção: saúde, estado mental, diagnóstico, vida sexual, religião, etnia, situação criminal. A maioria dos registos PDR enquadra-se nesta segunda categoria, sensível; porque o estado mental, os problemas familiares e o histórico de apoio são dados diretamente privados. Isto significa que os dados do PDR nunca devem ser introduzidos na sua forma bruta em ferramentas públicas.
Na prática, isto se traduz em três regras: (1) Minimização de dados – trabalhar com a menor quantidade de dados necessária para realizar um trabalho. (2) Anonimização — tornar os dados indisponíveis ao indivíduo, removendo informações de identificação pessoal. (3) Meios seguros e limite de finalidade – use ferramentas empresariais com dados protegidos sempre que possível e processe os dados apenas para a finalidade para a qual foram coletados.
Atenção: Não basta dizer “De alguma forma anonimizei”. Mesmo que um nome seja omitido de um texto, uma descrição única da situação (uma situação muito específica num único aluno numa escola pequena) pode tornar a pessoa identificável. No anonimato, generalize não só o nome, mas também os detalhes que juntos indicam a pessoa.
Prática de anonimato: um procedimento de controle
Antes de exportar um texto para a ferramenta, siga este procedimento: (a) Remova identificadores diretos como nome, sobrenome, número, turma-filial, nome dos pais, endereço, telefone, nome da escola. (b) Generalizar os descritores indiretos: “um aluno do ensino médio” em vez de “o único aluno com deficiência visual do 12-B”. (c) Desfocar a data e os detalhes do evento conforme necessário. (d) Pós-leitura: “Alguém que esteja lendo este texto pode descobrir quem está sendo mencionado?” Se a resposta for vaga, generalize ainda mais. O registro autenticado é gravado apenas no sistema fechado e seguro da instituição; A ferramenta de IA está fora deste sistema.
Ética profissional PDR e IA
A ética profissional do PDR baseia-se em quatro princípios fundamentais, cada um dos quais se aplica diretamente ao uso da IA:
- Confidencialidade (manter segredos): As informações dos alunos são protegidas. Não inserir dados brutos na IA, anonimizá-los e escolher uma ferramenta segura é um requisito deste princípio.
- Beneficência: Tudo o que é feito deve servir ao bem-estar do aluno. A IA é usada por conveniência, e não de uma forma que comprometa o benefício do aluno.
- Não maleficência: A prioridade é não causar dano. Os resultados não verificados, as estatísticas imprecisas, a rotulagem e a utilização de IA em crises são riscos prejudiciais; portanto, a verificação e o limite da crise são um imperativo ético.
- Autonomia: O direito do aluno de tomar sua própria decisão é protegido. A IA não deve reduzir o aluno a um rótulo ou tomar decisões em seu nome.
A isso se soma a responsabilidade: a responsabilidade por cada resultado utilizado cabe ao especialista; “A IA produziu” não é uma defesa.
Preconceito, sensibilidade cultural e transparência
A IA pode refletir padrões sociais em dados de treinamento. No PDR, esta é uma questão de justiça: resultados que estereotipam um aluno de acordo com o seu género, cultura ou estatuto socioeconómico prejudicam a igualdade de oportunidades. O especialista verifica o conteúdo produzido quanto à sensibilidade e preconceito cultural. Também transparência: quando apropriado, deve ficar claro internamente que a IA foi utilizada na preparação de um material ou rascunho; Não deve ser usado como uma “mágica” secreta. A confidencialidade é essencial no relacionamento com o aluno; O que o aluno explica não é transferido para o veículo.
Passo a passo: estabelecendo uma política de uso de IA
- Classifique os dados. Separe todas as informações que você possui como “pessoais/privadas/públicas”.
- Selecione o veículo. A única ferramenta empresarial segura para dados confidenciais; Trabalhe anonimamente para o esboço geral.
- Siga o procedimento de anonimato. Execute a rotina de verificação antes de cada entrada.
- Validação e verificação de viés. Examine cada resultado em busca de fatos e justiça.
- Manter o limite de crise. Mantenha a crise e a relação de consulta fora do veículo.
- Assuma a responsabilidade e seja transparente. A aprovação final cabe ao perito; O uso é aberto dentro da organização.
Modelos copiáveis
1) Controle de anonimato:
Sua função: assistente de auditoria de privacidade. Liste cada afirmação no texto abaixo que possa identificar DIRETA ou INDIRETAMENTE a pessoa (nome, número, turma, escola, descrição de situação única) e sugira uma alternativa mais geral para cada uma. Comentando conteúdo.Texto: [colar texto]
2) Auditoria de preconceito e sensibilidade cultural:
Verifique o seguinte material do PDR quanto a preconceitos e sensibilidade cultural: Contém estereótipos sobre género, cultura, estatuto socioeconómico ou estrutura familiar? Quem pode excluir? Sinalize declarações arriscadas e sugira alternativas inclusivas. Material: [colar material]
3) Rascunho da política corporativa de uso de IA:
Sua função: assistente de redação do PDR. Para o serviço de orientação, elaborar uma breve política interna sobre a utilização de ferramentas de inteligência artificial. Rubricas: em que trabalhos é utilizado, em que trabalhos não é utilizado (crise, diagnóstico, consulta), regra de anonimato de dados, obrigação de verificação, responsabilidade é do perito. Curto e aplicável.
Alerta fraco / Alerta forte
Fraco:
Para resumir a situação de Ahmet Yılmaz 8-C, ele estava sendo submetido à violência em casa.
Insere os dados mais sensíveis (nome, classe, estatuto especial) no veículo na sua forma bruta – uma violação grave da KVKK e da ética; Além disso, esta pode ser uma situação de notificação (unidade 9).
Forte:
Sua função: assistente de controle de privacidade. Observação: anonimizei o texto abaixo antes de enviá-lo para a ferramenta. Porém, verifique novamente: sobrou algum detalhe que torne a pessoa identificável? Texto: "Um estudante do ensino médio deu a entender que estava passando por tensão em casa."
três mini cases
Caso 1 — Divulgação indireta. Um especialista estava prestes a inserir na ferramenta um texto cujo nome havia omitido; mas percebeu que a frase “o único aluno da escola que usa cadeira de rodas” se referia diretamente a essa pessoa. Ele generalizou isso para “um estudante”. A criação de nomes por si só não foi suficiente; A descrição da situação única também foi identificadora.
Caso 2 — Correção de viés. Um especialista que auditou um material de carreira descobriu que a IA sempre usou nomes masculinos em exemplos de engenharia e nomes femininos em profissões de assistência. Equilibrou as amostras e quebrou o molde. Esta correção aparentemente menor preservou a justiça da mensagem enviada aos alunos.
Caso 3 — Estabelecendo política. Um serviço de orientação criou um texto de política interna comum para eliminar a confusão decorrente do facto de cada pessoa utilizar a IA de forma diferente: em que tarefas é utilizada, não em situações de crise e diagnóstico, os dados são anonimizados, os resultados são verificados, a responsabilidade cabe ao perito. AI deu rascunho; A equipe finalizou o conteúdo com valores próprios. A incerteza deu lugar a um quadro claro.
Erros comuns
- Inserindo dados brutos. Escrevendo para veículo com nome/status. Solução: procedimento de anonimato, ferramenta segura.
- Apenas removendo o nome. Esquecendo identificadores indiretos. Solução: generalize também detalhes exclusivos.
- Ignorando o preconceito. Adotando resultados estereotipados. Solução: auditoria de preconceito e cultura.
- Colocar a responsabilidade no veículo. Significa "AI produziu". Solução: a responsabilidade é do especialista.
- Uso indevido. Processar dados recolhidos para uma finalidade e para outra finalidade. Solução: respeite o limite de finalidade.
Tabela: Tipo de dados e regra de IA
Tipo de dados
exemplo
Regra de IA
público
Introdução geral à profissão
disponível gratuitamente
dados pessoais
Nome, número, turma
Não pode ser inserido sem anonimato
Dados de qualidade especial
Estado mental, família, diagnóstico
Nunca pode ser inserido em sua forma bruta.
dados de crise
Risco, abuso, suicídio
Nunca entre no veículo (unidade 9)
Em resumo
No PDR, a confidencialidade é a base da confiança na profissão e o princípio mais testado na era da IA. KVKK separa os dados em dados pessoais e privados; A maioria dos dados PDR são confidenciais e não são inseridos na ferramenta em sua forma bruta. Minimização de dados, anonimização (com identificadores diretos e indiretos) e seleção segura de ferramentas são as regras básicas. Os quatro princípios da ética profissional – confidencialidade, beneficência, não maleficência, autonomia – são vinculativos para a utilização da IA; O preconceito é controlado, a responsabilidade permanece com o especialista e o uso é transparente dentro da organização.
Tarefa de aplicativo
Elabore uma breve “Política de Uso de IA” para seu próprio serviço de orientação. Obtenha vantagem com o modelo “Rascunho da política de uso de IA empresarial”; Depois ajuste de acordo com a realidade da sua instituição. Passe também um texto (fictício) pelo modelo de “verificação de anonimato” e capture e generalize pelo menos um identificador indireto.
lista de verificação
- [ ] Classifiquei os dados que possuo como pessoais/privados/públicos.
- [] Generalizei identificadores diretos e indiretos na anonimização.
- [] Usei uma ferramenta segura/empresarial para dados confidenciais.
- [] Verifiquei o resultado em busca de preconceito e sensibilidade cultural.
- [ ] Aceitei a responsabilidade e mantive o uso transparente.