Integração ponta a ponta: Política de uso ético de IA — Inteligência Artificial em Psicologia

Ganhos:

Capacidade de criar uma política escrita e executável de uso de inteligência artificial e um fluxo de decisão para uma clínica ou instituição de psicologia
Capacidade de combinar disciplinas de limite, verificação, privacidade e preconceito aprendidas ao longo de todo o módulo em um único sistema de controle
Capacidade de explicar de forma transparente o uso da inteligência artificial ao cliente e manter a ética e a responsabilidade profissionais

Ao longo deste módulo, você aprendeu como usar a inteligência artificial (IA) em diferentes partes do trabalho da psicologia: revisão de literatura, suporte à interpretação de escalas, marcação de sessões, psicoeducação, análise de pesquisas, verificação de preconceitos, hard edge de crise, ferramentas digitais e desenvolvimento profissional. Havia três princípios recorrentes em cada unidade: limite, verificação, confidencialidade. Nesta unidade final, resumiremos esses princípios em um único sistema: uma política de uso de IA escrita e aplicável. Uma política não é uma intenção vaga como “Tento usar a IA para o bem”; É um conjunto de regras concretas que todos seguem, que podem ser auditadas e pelas quais você pode prestar contas ao cliente. Quer você trabalhe sozinho ou em uma instituição, esta política é uma estrutura que protege você e seu cliente.

Por que uma política escrita é essencial

Regras não escritas são aplicadas de forma inconsistente. Um dia ele torna os dados anônimos, num dia agitado você pode esquecê-los; Embora um especialista possa usar a IA corretamente, um colega pode usá-la incorretamente. A política escrita garante três coisas: consistência (todos seguem as mesmas regras), responsabilidade (se algo der errado, fica claro o que foi feito e como) e transparência (você pode explicar claramente ao cliente como está usando a IA). Em termos de ética profissional e KVKK, “Usamos IA, mas não escrevemos como a controlamos” é uma posição insustentável.

Cuidado: uma política de IA existe para manter limites, não para relaxá-los. Cláusulas como “Relaxe a privacidade para obter velocidade”, “Redirecionar para bot em caso de emergência” descrevem uma fonte de risco, não uma política. Uma boa política institucionaliza o caminho certo, não o caminho fácil.

Seis componentes básicos de uma política

componente

O que define

Base no módulo

Áreas de uso

Em quais tarefas a IA é usada (zona verde/amarela)

Unidade 1

áreas restritas

Onde a IA nunca será usada (diagnóstico, decisão de crise)

Unidade 1, 4, 9

Regra de dados

Anonimização e seleção de ferramentas

Unidade 2

regra de validação

Como confirmar cada saída

Unidade 3, 5, 7

Preconceito e linguagem

Justiça e controle do estigma

Unidade 8

transparência

Como informar o cliente

Unidade 2, 12

Passo a passo: configurando sua própria política

Crie um inventário de tarefas. Liste todas as tarefas para as quais a IA pode ser usada na prática; coloque cada um na zona verde/amarela/vermelha.
Esclareça a lista de banimentos. Escreva claramente a zona vermelha (diagnóstico, decisão de risco, intervenção em crise, decisão de tratamento/medicamento) como proibido.
Escreva a regra de dados. Quais dados são anonimizados, quais ferramentas são aprovadas, quais configurações são obrigatórias.
Defina etapas de verificação. Escreva etapas de confirmação obrigatórias para cada tipo de saída (fonte, notas, análise).
Prepare texto de transparência. Inclua o uso de IA em seu texto de esclarecimento do cliente.
Configure um cronograma de revisão. Atualizar a política periodicamente (por exemplo, a cada 6 meses); Mudanças tecnológicas e legislativas.

Dica: A melhor maneira de testar sua política é executar as tarefas de um dia real na política, uma por uma. Para cada tarefa, "segui esta regra?" Se você conseguir responder à pergunta com clareza, a política está funcionando; Se você disser “dependendo da situação”, essa cláusula deverá ser escrita de forma mais clara.

Transparência para o cliente

O cliente tem o direito de saber qual o papel que a IA desempenha em seu processo. Mas isso deve ser explicado com honestidade, sem assustar o cliente: “Utilizo ferramentas de inteligência artificial em alguns trabalhos administrativos e de rascunho (como edição de notas, preparação de materiais); anonimizo seus dados e sempre tomo decisões de diagnóstico, avaliação e tratamento”. Esta declaração é tanto uma obrigação ética quanto uma honestidade geradora de confiança. Se o cliente se opuser, a sua escolha será respeitada.

três mini cases

Caso 1 — Proteção da apólice. Um novo estagiário de uma clínica está prestes a colar uma nota de cliente em uma ferramenta de IA sem torná-la anônima. Como a política escrita da clínica afirma que “os dados brutos do cliente não são inseridos em nenhuma ferramenta de IA; eles são anonimizados primeiro” e esta política é assinada no início do trabalho, o estagiário para e dá o passo certo. Sem a política, haveria uma violação de privacidade. A regra escrita é a rede de segurança que entra em ação quando as boas intenções são esquecidas.

Caso 2 — A transparência gera confiança. Na primeira reunião, um especialista explica honestamente ao seu cliente o uso da IA: o que ele usa, como os dados são protegidos, as decisões são dele. O cliente fica nervoso no início, mas ao ouvir a explicação relaxa e sua confiança aumenta. A transparência funciona como uma honestidade que gera confiança, e não como uma fraqueza que precisa ser escondida.

Caso 3 — Ativação de lista proibida. Ao final de um dia cansativo, um especialista quer que a IA “pergunte” sobre o risco de um cliente. Vem à mente o artigo da política da instituição, “as decisões de crise e risco não podem ser solicitadas à IA; o especialista avalia diretamente e se necessário consulta-se a linha de supervisão/emergência”. O especialista para e faz a coisa certa. A lista de banimentos da política é uma âncora que lembra a decisão certa mesmo no momento de maior cansaço.

Prompts e modelos copiáveis

Elabore uma POLÍTICA DE USO DE INTELIGÊNCIA ARTIFICIAL para um consultório de psicologia. Vamos ter as seis seções a seguir: 1) áreas de uso permitidas, 2) áreas proibidas (diagnóstico, decisão de crise, decisão de tratamento), 3) regra de dados/anonimização, 4) etapas de verificação, 5) parcialidade e controle de linguagem, 6) transparência para o cliente. Escreva as regras de forma clara e aplicável; adicionando substância que afrouxa os limites.

Divida a lista de tarefas a seguir em uma zona de risco verde/amarela/vermelha e escreva uma regra de política de uma frase para cada uma (quem faz isso, como é verificado). Missões: [lista de tarefas]

Escreva um parágrafo a ser adicionado ao texto informativo do cliente, explicando o uso da inteligência artificial de forma honesta e sem intimidação: em que empregos ela é usada, se os dados são anonimizados, que as decisões de diagnóstico/tratamento pertencem ao especialista e o direito do cliente de se opor.

Verifique este rascunho da política de uso de IA: ela protege os limites adequadamente, as áreas proibidas estão desobstruídas, as etapas de privacidade e autenticação foram concluídas, há transparência do cliente? Sinalize itens fracos ou arriscados. Política: [rascunho]

Alerta fraco / Alerta forte

Prompt fraco: "Escreva-nos uma política que facilite o uso da IA."

A ênfase na “capacitação” leva a IA a propor cláusulas que relaxam os limites; ao passo que o objectivo da política não é a conveniência, mas sim a protecção e a responsabilização.

Solicitação forte: "Elabore uma política de uso de IA que mantenha limites, delineie claramente áreas proibidas (diagnóstico, crise, decisão de tratamento), exija etapas de confidencialidade e verificação e inclua transparência para o cliente. O objetivo não é afrouxar o uso, mas torná-lo seguro e responsável."

Este prompt direciona a política para o objetivo correto (proteção); A saída se torna um quadro controlável.

Erros comuns

Não estou escrevendo política. Manter as regras em mente e aplicá-las de forma inconsistente; Este é o erro mais comum.
Implementar uma cláusula que afrouxe os limites. Introduzir regras como “Relaxe a privacidade para obter velocidade” na política.
Deixando vaga a lista de proibidos. Não escrever claramente que decisões de diagnóstico/crise/tratamento são proibidas.
Ignorando a transparência. Não informar de forma alguma o cliente sobre o uso de IA.
Não atualizando a política. Continuar com as regras antigas à medida que a tecnologia e a legislação mudam.

Resumindo

Os três princípios deste módulo (limite, autenticação, privacidade) combinam-se numa política de utilização de IA escrita e aplicável. Uma boa política inclui seis componentes: áreas de uso permitidas, áreas proibidas (diagnóstico, crise, decisão de tratamento), regra de dados/anonimização, etapas de verificação, preconceito e controle de linguagem, transparência para o cliente. A política existe para manter limites, não para relaxá-los; Fornece consistência, responsabilidade e transparência. Explique honestamente o uso da IA ao cliente e atualize a política regularmente. A IA acelera; Responsabilidade, decisão e ética são sempre suas.

Tarefa de aplicativo

Escreva uma política de uso de IA de uma página para sua própria clínica ou instituição. Preencha todos os seis componentes (campos permitidos, campos proibidos, regra de dados, verificação, parcialidade/linguagem, transparência). Em seguida, execute 5 tarefas do seu dia de trabalho real por meio desta política, uma por uma, e pergunte “segui a regra?” para cada um. Verifique se você consegue responder à pergunta com clareza. Escreva com mais clareza os itens que você não consegue responder com clareza.

lista de verificação

[ ] Defini por escrito as áreas de uso permitidas e proibidas.
[ ] Escrevi claramente que decisões de diagnóstico, crise e tratamento são proibidas.
[ ] Defino a regra de dados/anonimização e veículo aprovado.
[] Escrevi as etapas de verificação para cada tipo de saída.
[] Adicionei preconceito e verificação de idioma à política.
[ ] Preparei o texto de transparência para o cliente e estabeleci um cronograma de revisão.

Exame do Módulo

1. Um psicólogo escreve os sintomas descritos por seu cliente para a inteligência artificial e pergunta: “Que diagnóstico esse cliente tem?” ele pergunta. Qual é a abordagem mais correta?

A) Utilizar IA apenas para sugerir conceitos possíveis; Fazendo o diagnóstico através de entrevista clínica, história e julgamento próprio ✔
B) Escrever o diagnóstico dado pela inteligência artificial diretamente no relatório
C) Se a inteligência artificial der várias vezes o mesmo diagnóstico, ele é considerado definitivo.
D) Encurtar a entrevista e contar com inteligência artificial para agilizar o diagnóstico

Descrição: Fazer um diagnóstico é uma decisão clínica crítica para a segurança e requer vários dados, entrevista clínica, história e julgamento. A inteligência artificial pode ser útil para sugerir possíveis conceitos, mas o diagnóstico é feito através do julgamento clínico do especialista competente (psicólogo/psiquiatra). Os resultados da IA não substituem esta decisão.

2. Você deseja resumir a gravação da sessão do cliente em uma ferramenta de inteligência artificial baseada em nuvem. Qual é a primeira coisa a fazer em termos de KVKK e sigilo profissional?

A) Colando o registro como está, com nome real e detalhes
B) Anonimizar o conteúdo, monitorar a política de privacidade/dados da ferramenta e observar a estrutura de consentimento ✔
C) Encurte apenas o sobrenome do cliente e deixe o restante como está.
D) Embora a privacidade seja importante, compartilhar todos os dados para aumentar a velocidade

Explicação: Os dados do cliente são dados pessoais especiais. Antes de serem entregues à ferramenta em nuvem, informações de identificação como nome, local, data e local de trabalho devem ser anonimizadas; Se possível, deve ser utilizado conteúdo desidentificado e deve-se garantir que a ferramenta não utiliza os dados para formação. Além disso, o consentimento informado do cliente deve ser observado.

3. A inteligência artificial diz no resumo de um artigo que "O tamanho do efeito neste estudo datado de 2019 foi d = 0,82", mas você não consegue encontrar esse artigo. O que você deve fazer?

A) Usar a atribuição como ela é porque a inteligência artificial é confiável
B) Escrever o número sem procurar a fonte porque parece razoável
C) Desconsidere a reivindicação até confirmarmos a fonte e o tamanho do efeito do texto primário ✔
D) Pergunte a outra inteligência artificial e aceite se ela obtiver o mesmo número

Explicação: A inteligência artificial pode inventar referências, autores ou números que parecem reais, mas não existem (alucinação). Uma fonte que não pode ser encontrada ou um tamanho de efeito que não pode ser verificado não é usado. A reivindicação é considerada inválida até ser confirmada pela fonte primária.

4. Um cliente relata ter tido pensamentos suicidas durante uma sessão. Qual deveria ser o papel da inteligência artificial nesta situação?

A) A inteligência artificial deve avaliar o risco e transmitir o plano de segurança ao cliente
B) O cliente deve ser direcionado para o chatbot de inteligência artificial
C) A inteligência artificial deve ser configurada para chamar o serviço de emergência automaticamente
D) A decisão e intervenção cabem ao perito; A IA não pode avaliar riscos, a crise é responsabilidade humana ✔

Descrição: O risco de suicídio e de crise é uma situação crítica de segurança que requer avaliação clínica, envolvimento e responsabilização em tempo real. A inteligência artificial não pode tomar decisões, avaliar riscos e intervir. O especialista intervém diretamente; Se necessário, são acionadas linhas diretas e a cadeia de apoio humano. Na melhor das hipóteses, a IA pode servir como um lembrete para o especialista fora da sessão.

5. Qual risco é mais crítico numa brochura psicoeducacional produzida com inteligência artificial?

A) Informações incorretas/estigmatizantes que levam o cliente ao autodiagnóstico e tratamento ✔
B) Mau design visual da brochura
C) O folheto é muito longo
D) A fonte é pequena

Explicação: Quando o material psicoeducativo está nas mãos do cliente, ele pode se transformar em uma ferramenta de autodiagnóstico e tratamento, e informações incorretas ou estigmatizantes podem causar danos. Portanto, o material deve ser verificado habilmente quanto à comprovação, segurança e correto enquadramento; A advertência “esta informação não substitui o julgamento profissional” deve ser acrescentada.

6. Você recebe suporte de codificação temática da inteligência artificial em seus dados de pesquisa qualitativa (transcrições de entrevistas). Qual é a abordagem mais saudável?

A) Relatar os códigos produzidos pela inteligência artificial como análise final
B) Verifique, corrija e garanta a confiabilidade considerando os códigos como rascunhos iniciais e lendo os dados ✔
C) Deixar a análise inteiramente para a inteligência artificial e não ler os dados de forma alguma
D) Não fazer sua própria leitura porque dá temas de inteligência artificial

Descrição: A IA fornece velocidade na produção de sugestões iniciais de código e esboços de temas, mas a análise qualitativa requer julgamento interpretativo do pesquisador. Os códigos de inteligência artificial são um começo; O pesquisador lê todos os dados, verifica e corrige os códigos e observa a confiabilidade entre codificadores. Além disso, a transcrição deve ser anônima.

7. Por que o preconceito é um risco importante em termos de psicologia nos modelos de inteligência artificial?

A) O preconceito é apenas uma questão técnica, não clinicamente relevante
B) O preconceito foi completamente resolvido nos modelos modernos
C) Os resultados do modelo podem ser distorcidos pela cultura/gênero/diagnóstico e podem enganar e prejudicar a avaliação ✔
D) O viés ocorre apenas em modelos que produzem imagens

Descrição: Como os modelos são frequentemente treinados em dados de culturas e idiomas específicos, eles podem conter preconceitos diagnósticos, culturais e de gênero; podem interpretar um sintoma como “normal” num grupo e “patológico” noutro grupo, ou produzir linguagem estigmatizante. Isto pode distorcer e prejudicar a avaliação; Os resultados devem ser auditados para diferentes grupos e culturas.

8. Você está pensando em recomendar um chatbot terapêutico ao seu cliente. O que você deve fazer primeiro?

A) Recomendo diretamente porque é popular
B) Dizer que o bot pode substituir a terapia e reduzir as sessões
C) Sugerir que o cliente confie no bot em uma crise.
D) Auditar evidências, segurança, privacidade e adequação clínica e posicionar o bot como um complemento limitado ✔

Explicação: Antes de recomendar uma ferramenta digital de saúde mental, a sua base de evidências, segurança (gestão de crises), política de privacidade/dados e adequação à situação clínica do cliente devem ser revistas. O bot não deve ser posicionado como um substituto da terapia humana, mas sim como um complemento limitado, e deve ser claramente explicado ao cliente que é inadequado em situações de crise.

9. AI produziu um rascunho de notas de sessão. Qual é o passo mais importante a ser dado antes de usar este esboço?

A) Verifique o rascunho comparando-o com o que realmente aconteceu na sessão, corrija o conteúdo fabricado/ausente e assuma a responsabilidade ✔
B) Salvando o rascunho no arquivo como está
C) Presumir que o rascunho está correto porque foi escrito com fluência
D) Fazer com que o cliente aprove o rascunho e utilize-o sem alterações.

Explicação: O rascunho da IA pode adicionar informações importantes que foram omitidas, inventar declarações que não foram realmente ditas (alucinação) ou fornecer um enquadramento clinicamente incorreto. O especialista compara o rascunho com o que realmente aconteceu na sessão, verifica, corrige e é responsável pelo conteúdo final. A nota é um documento legal e clínico.

10. Qual das alternativas a seguir representa uma tarefa de “zona verde” (baixo risco) no uso da inteligência artificial em psicologia?

A) Decidir se o cliente corre risco de suicídio
B) Preparar um rascunho para simplificar a linguagem de um texto psicoeducacional anônimo ✔
C) Fazer um diagnóstico definitivo a partir da pontuação da escala
D) Criação de recomendações de medicação

Explicação: Tarefas como simplificar a linguagem de um texto psicoeducacional anônimo ou redigir um e-mail de lembrete de consulta são de baixo risco porque não envolvem diagnóstico/decisão e são seguras para uso com revisão rápida. O diagnóstico, a avaliação de riscos e a decisão de tratamento estão na zona vermelha (crítica para a segurança).

11. Qual o limite mais importante na utilização da inteligência artificial na interpretação de um teste psicométrico?

A) Como a inteligência artificial interpreta a pontuação, não há necessidade de comentários de especialistas.
B) Basta dizer o nome do teste à inteligência artificial
C) A interpretação decorre não de um único escore, mas de julgamento clínico e de múltiplos dados; Observância dos direitos autorais e do contexto normativo ✔
D) A pontuação de corte é a mesma em todas as culturas

Explicação: A pontuação da escala/teste é um dado; O diagnóstico e a interpretação clínica não surgem de um único escore. Além disso, muitos testes são protegidos por direitos autorais e sensíveis ao contexto das normas. A inteligência artificial pode fornecer descrição de subescalas e suporte linguístico, mas a interpretação é feita por um especialista no âmbito do julgamento clínico, de dados múltiplos e de validade cultural.

12. Por que a IA não pode substituir a supervisão real?

A) A inteligência artificial substitui a supervisão porque responde mais rápido
B) A supervisão é desnecessária de qualquer maneira
C) A inteligência artificial é considerada supervisora porque é licenciada.
D) A inteligência artificial não assume responsabilidades, não conhece o contexto real e não pode fornecer controle ético; A supervisão requer especialista humano ✔

Descrição: Supervisão; É a supervisão de um profissional competente, responsável, relacional e que conhece o real contexto do cliente e o desenvolvimento do terapeuta. A IA pode ajudar no ensaio do caso e na elaboração da formulação, mas não assume a responsabilidade clínica, não conhece o contexto real e não pode fornecer supervisão ética/legal. A supervisão requer especialistas humanos.

13. Você está preparando uma política de uso de inteligência artificial para uma instituição de psicologia. Qual dos seguintes itens deve ser incluído?

A) Regra de anonimato, áreas de uso proibidas, verificação obrigatória e transparência ao cliente ✔
B) Permissão para compartilhar dados do cliente sem anonimizá-los para maior velocidade
C) Transferência de decisões de diagnóstico para inteligência artificial
D) Direcionar situações de crise para o chat bot

Descrição: Boa política; Define quais dados podem ser fornecidos à ferramenta (regra de anonimato), áreas proibidas de uso como diagnóstico/crise, etapas obrigatórias de verificação e transparência ao cliente. Cláusulas como “Privacidade expressa para obter velocidade” são riscos éticos e legais; A política existe para manter limites, não para afrouxá-los.

14. Qual das alternativas a seguir é uma justificativa válida para validar os resultados da IA?

A) Está correto porque a inteligência artificial dá a mesma resposta mais de uma vez
B) A alegação é confirmada por evidências primárias, medição válida e julgamento de especialistas competentes ✔
C) A resposta está correta porque está escrita de forma fluente e convincente.
D) A IA é um modelo poderoso, portanto seu resultado é preciso

Descrição: Justificativa para uma alegação clínica ou de pesquisa; evidência primária, medição válida, padrão ético/profissional aplicável e julgamento profissional competente. 'AI disse', 'escrito fluentemente' ou 'deu o mesmo várias vezes' não são justificativas válidas; Estes não são sinais de verdade, mas, na melhor das hipóteses, de consistência.