Fluxo de trabalho ponta a ponta, governança e uso responsável — Inteligência Artificial no Serviço Social

Ganhos:

Capacidade de incorporar IA de forma consistente em todas as fases, desde a aplicação até o fechamento, com seis portas de verificação humana
Capacidade de estabelecer uma estrutura de governança corporativa com lista de ferramentas aprovadas, política de dados, funções, registro, treinamento e revisão contínua
Capacidade de incorporar os princípios de responsabilidade humana, verificação, privacidade/KVKK, adesão a evidências, controle de preconceitos e centralização no cliente no fluxo de trabalho

Ao longo deste módulo, cobrimos como usar a inteligência artificial e onde interrompê-la em diferentes tarefas de serviço social — documentação, avaliação, suporte de risco, encaminhamento, plano, relatório, comunicação, concepção de programas. Nesta unidade final, juntamos as peças: onde a IA ficará de ponta a ponta, desde a aplicação até o encerramento de um caso, quais portas de verificação humana param em cada estágio, e estabeleceremos a estrutura de governança necessária para que isso seja sustentável em uma organização. O objetivo é transformar dicas dispersas em uma disciplina de trabalho consistente e repetível.

Princípio integrativo desde o início: a IA é um acelerador em cada etapa do fluxo de trabalho, e não um tomador de decisão em qualquer etapa. Há uma porta humana em cada estágio, e você não pode passar para o próximo sem passar por uma porta. Essa estrutura em camadas evita que uma única alucinação, preconceito ou erro de privacidade se infiltre em uma decisão que afete a vida de um cliente.

Fluxo ponta a ponta e seis portas humanas

Vamos considerar um caso através de seus estágios típicos e colocar uma porta de verificação em cada estágio:

1. Candidatura/primeiro contacto — Porta: Privacidade. Quando as primeiras informações chegam, a IA é usada para preparação da entrevista (guia, quadro de perguntas). Porta: Nenhum dado real do cliente entra na ferramenta aberta; Peça aula, combine veículo.

2. Avaliação — Gate: Julgamento clínico. A IA organiza notas em dimensões biopsicossociais e lembra deficiências e pontos fortes. Porta: O diagnóstico e a avaliação cabem ao especialista; A IA não avalia.

3. Risco — Porta: Autoridade e equipe. A IA lembra os fatores de risco/proteção e cria um esqueleto do plano de segurança. Porta: A decisão do risco é tomada apenas por especialista, equipe, supervisão e processo legal; A IA não produz pontuações/decisões.

4. Planejamento e orientação — Porta: Validação e cliente. A IA coloca as metas no SMART, gera ideias de recursos e rascunhos de cartas. Porta: O cliente define as metas; O serviço/endereço/condição é verificado na fonte oficial.

5. Relatório e comunicação — Porta: Evidência e responsabilização. A IA estrutura o relatório, simplifica e traduz o texto. Porta: Todo caso depende de provas, a opinião é do perito, verificam-se perdas e vieses de informações críticas, a assinatura está na pessoa.

6. Fechamento e entrega — Portão: Precisão. YZ resume o arquivo cronologicamente. Porta: O resumo é baseado apenas no registro; Os resultados e aprendizados são verificados pelo especialista.

Dica: Use uma única pergunta para lembrar as portas: “Nesta etapa, a IA toma uma decisão ou produz um esboço?” Se a resposta for “decisão”, pare – essa etapa pertence ao humano. Se a resposta for "rascunho", continue, mas não passe para a próxima etapa sem verificar a saída.

Governança corporativa: a disciplina individual não é suficiente

Os bons hábitos de um especialista são valiosos, mas frágeis; A utilização segura e consistente da IA numa organização requer um quadro de governação. Os principais componentes desta estrutura são:

Lista de veículos aprovados. Está escrito e claro qual ferramenta será usada para qual trabalho e quais dados podem ser inseridos em qual ferramenta. “Todos deveriam usar a ferramenta que quiserem” é uma vulnerabilidade de segurança.
Política de classificação de dados. Fica definido quais dados serão processados na ferramenta aberta e quais serão processados apenas no sistema seguro.
Papel e autoridade. É claro quem pode fazer o quê e qual decisão depende de qual autoridade (especialmente decisões de risco).
Registro e trilha de auditoria. Onde e como a IA é usada pode ser monitorado; Quando há um problema, ele pode ser revisto.
Educação e conscientização. Cada funcionário conhece os princípios deste módulo; O recém-chegado está treinado.
Revisão constante. Ferramentas, riscos e alterações legislativas; A estrutura é atualizada regularmente. A política, uma vez escrita e esquecida, torna-se obsoleta.

três mini cases

Caso 1 — As portas detectaram um bug no início da cadeia. Num caso, a AI acrescentou uma observação que o cliente não mencionou durante a fase de avaliação. No portão do “julgamento clínico” o especialista percebeu e apagou. Se ele não tivesse sido apanhado, esta observação fabricada poderia ter vazado para o plano, daí para o relatório e daí para uma decisão judicial. A autenticação em camadas interrompeu o erro logo no início.

Caso 2 — A governança evitou uma violação. Uma organização estava operando sem uma lista de ferramentas e uma política de dados aprovadas; Todos estavam usando seu próprio veículo. Uma auditoria revelou que vários funcionários estavam inserindo dados reais de clientes em ferramentas abertas. A organização estabeleceu um quadro de governação: ferramentas aprovadas, classificação de dados, formação e registo. No período seguinte, o número de violações caiu para zero. Lição: a boa vontade individual não é suficiente sem estrutura institucional.

Caso 3 — Revisão contínua e atualizada. A política de IA de uma organização, escrita há um ano, ficou desatualizada face a um novo tipo de ferramenta e a uma legislação atualizada. A revisão anual captou isso; A política foi atualizada, o treinamento foi renovado. A moldura permaneceu um documento vivo, não um enfeite de prateleira.

Quatro modelos copiáveis

1) Lista de verificação da porta de verificação do fluxo de casos:

Sua função: supervisor. Recebo uma lista de verificação de validação para a seguinte etapa do caso: o que a IA pode elaborar nesta etapa, qual decisão é necessariamente humana, quais verificações de privacidade e parcialidade devem ser feitas, o que devo verificar antes de passar para a próxima etapa? Etapa: [aplicação/avaliação/risco/plano/relatório/fechamento]

2) Correspondência de veículo confirmada:

Para cada uma das listas de tarefas abaixo, especifique o tipo de ferramenta de IA que pode ser usada (ferramenta aberta/apenas sistema empresarial seguro/Sem IA disponível) e a justificativa. Marque cada tarefa que contém dados do cliente como "somente sistema seguro". Tarefas: [listar tarefas]

3) Rascunho da política corporativa de IA:

Sua função: editor de política corporativa. Elabore uma política de uso responsável de IA para uma agência de serviço social; Abrange os seguintes tópicos: finalidade, ferramentas aprovadas, classificação de dados, funções e autorizações, privacidade/KVKK, limite de decisão de risco, registro e auditoria, treinamento, cronograma de revisão. Definir o quadro geral; A instituição preencherá seus próprios dados.

4) Autorregulação (revisão de uso pessoal):

Crie uma lista de autoverificação de 10 perguntas para eu revisar meu uso da IA como assistente social: privacidade, verificação, preconceito, fidelidade de evidências, limites de decisão e centralização no cliente. Deixe que cada pergunta seja respondida com “sim/não”.

Alerta fraco / Alerta forte

Alerta fraco:

Apresento-lhe todo este caso; Você cuida de tudo, desde o requerimento até o relatório, só assino no final.

Isto significa terceirizar todo o processo – incluindo privacidade, julgamento clínico, julgamento de risco, adesão às evidências – para software. A única assinatura no final nos cega para todos os erros, invenções e preconceitos intermediários.

Alerta poderoso:

Seu papel: editor que me ajuda em cada etapa do processo. Prosseguirei com o caso passo a passo (avaliação, plano, relatório...). Em cada etapa: trabalhe apenas com dados anônimos/seguros, produza um rascunho, deixe-me decidir, não adicione o que não está na nota e lembre-me do que preciso verificar antes de passar para a próxima etapa. Vamos começar com esta etapa: [etapa]

A diferença: proteger a porta a cada passo e posicionar a IA como um assistente passo a passo mantém a segurança e a responsabilidade humanas, ao mesmo tempo que mantém a velocidade.

Resumo de responsabilidade do stage-gate

Palco

Contribuição da IA

portão humano

controle crítico

Aplicação

Preparação para entrevista

privacidade

Classe de dados

Avaliação

Edição de tamanho

julgamento clínico

Sem diagnóstico, sem fabricação

Risco

Lembrete de fator

Autoridade + equipe

Sem pontuação/decisão

Plano/orientação

rascunho + ideia

Validação + cliente

Confirmação da fonte, prioridade do cliente

Relatório/contato

Estrutura + simplificação

Evidência + responsabilidade

Opinião em especialista, controle de viés

Fechando

Resumo cronológico

precisão

baseado em registro

Erros comuns

Entregar todo o processo à IA e assinar uma única assinatura no final. Os erros intermediários não são visíveis; Deveria haver portas em cada degrau.
Passar por uma porta sem verificar. A fabricação de um estágio é herdada pelo próximo; Cada saída é validada.
Deixar a governança para a disciplina individual. Sem um quadro institucional, os bons hábitos são frágeis.
Escreva a política uma vez e esqueça. Mudanças nas ferramentas e na legislação; É necessária revisão constante.
Não manter registros. Sem uma trilha de auditoria, um problema não pode ser analisado e responsabilizado.

Resumindo

No serviço social, a IA é um catalisador em todas as etapas e um tomador de decisões em nenhuma etapa, desde a aplicação até o encerramento de um caso. Coloque seis portas humanas (confidencialidade, julgamento clínico, autoridade/equipe, validação/cliente, evidência/responsabilidade, integridade) no fluxo de ponta a ponta; Não passe de uma porta a outra sem passar. Tornar isto sustentável requer governação corporativa: lista de ferramentas aprovadas, política de dados, funções, registo, formação e revisão contínua. Os seis princípios orientadores do módulo – responsabilidade humana, verificação, privacidade/PDPA, compromisso com evidências, controle de preconceitos e centralização no cliente – devem ser integrados em cada fluxo de trabalho.

Tarefa de aplicativo

Trace mentalmente um caso fictício desde a aplicação até o fechamento; Produza uma lista de verificação para cada etapa com um modelo de “gate de verificação de fluxo de caso”. Em seguida, classifique as tarefas neste caso como veículo aberto/sistema seguro/sem IA com o modelo “correspondência de veículo validado”. Por fim, avalie-se criando uma lista de 10 perguntas para seu próprio uso da IA com o modelo de “autoauditoria”.

lista de verificação

[] Identifiquei seis portas humanas no fluxo de ponta a ponta.
[ ] A cada passo, "decisão ou rascunho?" Eu apliquei a pergunta.
[] Combinei as tarefas com o tipo de veículo correto (aberto/seguro/nenhum).
[ ] Conheço os componentes da governança corporativa (ferramenta, dados, função, registro, treinamento, revisão).
[] Implementei os seis princípios de transporte do módulo em meu próprio fluxo de trabalho.

Exame do Módulo

1. Qual das alternativas a seguir é o posicionamento mais preciso da inteligência artificial no serviço social?

A) A inteligência artificial pode decidir o nível de risco e a decisão de intervenção de um cliente sem aprovação humana
B) A IA é uma ferramenta para resumir, organizar, simplificar e redigir; A responsabilidade pelo julgamento clínico, risco e decisão final cabe ao especialista ✔
C) A inteligência artificial só é útil para traduzir texto e não tem nada a ver com outras tarefas de serviço social
D) Como a inteligência artificial é sempre mais imparcial que os humanos, a avaliação deve ser deixada a ela.

Descrição: Inteligência artificial; É um assistente que organiza notas, resume o arquivo, simplifica o texto e produz rascunhos. A responsabilidade pelo julgamento clínico, avaliação de risco, opinião profissional e decisão final cabe ao profissional competente; Um resultado não verificado pode levar a um erro de julgamento do cliente, à evasão de riscos ou ao vazamento de dados confidenciais.

2. Qual a instrução mais correta ao converter as anotações brutas de uma entrevista em registro de caso pela inteligência artificial?

A) Solicitar à inteligência artificial que preencha as partes que faltam de maneira razoável para que pareça profissional.
B) Permitir que a IA adicione observações adicionais para enriquecer o registro
C) Solicitar ao aluno que utilize apenas as informações efetivamente contidas na nota, marque os itens faltantes como 'precisa de esclarecimento', e não acrescente nada ✔
D) Colocá-lo diretamente no arquivo sem compará-lo com a nota, desde que a saída seja fluente

Explicação: A tendência mais perigosa da IA é fabricar observações, números ou citações que não estão na nota para fazer o registro parecer “completo”. A abordagem correta é dizer 'apenas use o que está na nota, marque os que faltam, não acrescente nada'. As lacunas não são preenchidas, estão marcadas para esclarecimento.

3. Por que a distinção entre “fato” e “interpretação” é importante nos autos de um caso?

A) Um fato é uma observação/afirmação concreta, enquanto uma interpretação é uma inferência profissional que requer base; Os dois deverão ser separados e o comentário deverá ser marcado ✔
B) A distinção é desnecessária; fato e comentário podem ser escritos da mesma maneira no registro
C) Só importa a interpretação; É possível mesmo que os fatos não sejam registrados
D) Como a inteligência artificial faz esta distinção perfeitamente, não há necessidade de controle humano.

Explicação: 'Ele chorou três vezes na entrevista' é um fato; 'Ele estava deprimido' é um comentário que não pode ser escrito sem base clínica. O registro destaca o fato e inclui interpretação apenas com rotulagem e justificativa claras. A IA pode misturar os dois com fluência; É dever da pessoa fazer a distinção e evitar linguagem estigmatizante.

4. Qual deve ser o papel da IA para decidir se uma criança está segura em casa ou o nível de risco de um caso?

A) A inteligência artificial pode ler o caso, determinar o nível de risco e tomar a decisão de segurança
B) O rótulo de “baixo risco” dado pela inteligência artificial pode anular a observação do especialista em contrário
C) A inteligência artificial apenas lembra fatores e organiza notas; O nível de risco e a decisão de segurança pertencem ao especialista, equipe, supervisão e processo legal ✔
D) A inteligência artificial é mais confiável do que os humanos na tomada de decisões de risco porque é imparcial.

Descrição: Nível de risco e decisão de segurança; Requer autoridade profissional, julgamento clínico, opinião de equipe multidisciplinar, supervisão e responsabilidade legal. Aqui, a IA só pode recuperar fatores de risco/proteção e editar notas; não pode produzir pontuações ou decisões. Pode também atribuir um risco sistemático elevado a grupos desfavorecidos devido ao preconceito nos dados de formação, pelo que os seus resultados não podem ser utilizados como uma decisão.

5. O que deve ser feito quando a inteligência artificial fornece uma informação de encaminhamento para um cliente dizendo “este centro, aquele telefone”?

A) Confirmar o endereço e telefone da fonte oficial e atual da instituição antes de entregá-lo ao cliente ✔
B) Transmitir informações diretamente ao cliente, conforme apresentadas com segurança
C) Assumir que a informação está absolutamente correta desde que a inteligência artificial forneça uma data atual
D) Pensar que não há necessidade de investigar a veracidade da informação porque ela está mencionada em algum lugar.

Descrição: A inteligência artificial pode compor serviços, requisitos de aplicações, endereços e números de telefone ou fornecer informações desatualizadas; As instituições fundem-se, mudam-se, fecham-se. Enviar o cliente para um endereço não verificado levará a uma viagem perdida e à perda de confiança. Portanto, os dados de contato fornecidos pela inteligência artificial devem ser confirmados por meio do canal oficial da própria instituição antes de serem transmitidos ao cliente.

6. Quem deve definir metas num plano de resposta e qual é o papel da IA?

A) A inteligência artificial deve determinar os objetivos e redigir todo o plano sem perguntar ao cliente.
B) O cliente (em conjunto com o especialista) determina os objetivos; A IA os coloca no formato SMART e os estrutura, não adiciona novos alvos ✔
C) As metas não são importantes; Quanto mais metas o plano incluir, melhor.
D) A inteligência artificial pode ignorar as prioridades do cliente porque parece profissional

Descrição: O valor central do serviço social é a 'autodeterminação': o cliente define metas e prioridades, moldando-as com conhecimento profissional especializado. A inteligência artificial coloca estes objetivos no formato SMART e sugere etapas e indicadores; mas ele não pode acrescentar novos objetivos que o cliente não diga. Um plano estrangeiro imposto externamente não pode ser aplicado ao cliente.

7. Num relatório de investigação social a submeter ao tribunal, em que questão a inteligência artificial é mais perigosa?

A) Capacidade de inventar datas, observações ou citações inexistentes para fazer o relatório parecer 'completo' ✔
B) Tornar a linguagem do texto muito formal
C) Escrever o relatório mais curto do que o solicitado
D) Ordem alfabética dos títulos

Explicação: A tendência mais perigosa da IA é adicionar uma data, observação ou citação inexistente para fazer o relatório parecer “completo”. Uma sentença inventada num relatório judicial pode induzir em erro uma decisão e destruir a credibilidade do perito. Portanto, cada caso deve estar vinculado a uma entrevista/observação/documento real, e a opinião profissional deve ser formada pelo especialista.

8. Quem deve redigir a seção de opinião profissional e opinião (sugestão) de um relatório de investigação social?

A) Inteligência artificial; porque produz uma recomendação mais imparcial
B) A seção de opinião nunca é preenchida na redação do relatório.
C) A inteligência artificial escreve o parecer, o especialista assina apenas no final
D) Perito; opinião e opinião profissional são de sua autoridade e responsabilidade, a inteligência artificial apenas esclarece a linguagem ✔

Declaração: A opinião profissional e a opinião — «este é o melhor interesse desta criança», «este acordo é apropriado» — são da autoridade legal e da responsabilidade do perito. 'O que eu recomendo para a inteligência artificial?' Não é perguntado; Uma “sugestão” que ele produz pode ser ao mesmo tempo inventada e uma transferência de responsabilidade. Na melhor das hipóteses, a inteligência artificial esclarece a linguagem da opinião escrita pelo especialista.

9. Qual é o controle mais crítico ao simplificar uma pesada carta oficial de ajuda para um cliente com inteligência artificial?

A) Mantenha o texto o mais curto possível, não olhe detalhes
B) O resultado parece fluente e estético
C) Verificar se nenhum direito, condição, valor, data ou aviso foi omitido comparando com o original ✔
D) A simplificação proporciona conforto ao cliente, fornecendo-lhe menos informações.

Explicação: Simplificar não significa distorcer; Ao ‘encurtar’ ou ‘simplificar’ a IA pode engolir um direito, condição, valor, data ou aviso. O cliente pode perder o seu direito com informações “fáceis”, mas incompletas. Portanto, o texto simplificado deve ser comparado com o original e verificado se nenhuma informação crítica foi perdida, e ainda fazer com que a inteligência artificial liste os elementos críticos que protege.

10. Como é correto tratar as estatísticas produzidas pela inteligência artificial na elaboração de um pedido de financiamento?

A) Usar diretamente as estatísticas fornecidas pela inteligência artificial para torná-la impressionante
B) Não fazer com que a inteligência artificial componha estatísticas, imprimindo [DADOS NECESSÁRIOS] quando necessário e colocando cada número da fonte real ✔
C) Considerando que a fonte não tem importância desde que o número conste de um requerimento.
D) Presumindo que não há necessidade de verificar as estatísticas porque a IA escreve com segurança

Descrição: A inteligência artificial pode criar estatísticas impressionantes, mas sem fontes; Um número sem fonte quase sempre não é confiável. Uma estatística fabricada na candidatura rejeitará a candidatura e destruirá a credibilidade da instituição. A abordagem correta é não fazer com que a IA invente números ('Escrever [DADOS NECESSÁRIOS]') e colocar cada número da fonte real e verificada.

11. Por que é prejudicial perguntar à inteligência artificial “explique por que esta família é inadequada na criação dos filhos”?

A) Porque a pergunta é muito longa
B) Como a inteligência artificial não pode fornecer nenhuma informação sobre assuntos familiares
C) Por assumir o resultado desde o início, a inteligência artificial (lisonjeiramente) produz uma confirmação infundada e tendenciosa; A pergunta deve ser neutra e equilibrada ✔
D) Porque a inteligência artificial sempre escreverá a favor da família

Explicação: Esta questão pressupõe o resultado (“insuficiente”). A IA produz um texto tendencioso e livre de evidências que confirma essa suposição com sua tendência a lisonjear (confirme sua insinuação). Uma pergunta tendenciosa cria uma resposta tendenciosa. Na verdade, é uma questão neutra que não pressupõe o resultado, equilibra forças e preocupações e pede apenas provas.

12. Como aplicar o 'teste de ângulo' para verificar tendências na saída de IA?

A) Pensar na mesma situação para um grupo diferente e perguntar 'Isto seria escrito na mesma língua?' ✔ Testando padrões duplos perguntando
B) Aceitar a primeira resposta da inteligência artificial como neutra e não procurar outro ângulo
C) Fazer apenas perguntas que apoiem o grupo do cliente
D) Presumir que não há necessidade de controle adicional porque não existe preconceito na inteligência artificial

Explicação: A IA pode escrever o mesmo comportamento num tom diferente para grupos diferentes (por exemplo, “risco de negligência” para famílias de baixos rendimentos, “pais forçados” para famílias de rendimentos elevados). O teste de inversão é 'se o cliente fosse de um grupo socioeconômico/étnico diferente, isso seria escrito no mesmo idioma?' é perguntar; Isto torna visíveis os padrões duplos baseados em estereótipos e não em evidências.

13. Qual é a abordagem correta para resumir o arquivo real de um cliente (incluindo nome, endereço, informações de saúde)?

A) Para maior velocidade, cole-o na ferramenta pública de IA mais próxima e faça um resumo
B) Processar o arquivo sem prestar atenção à privacidade porque é curto
C) Insira tudo incluindo informações de saúde e salve apenas o resultado
D) Processar somente em sistema seguro aprovado pela instituição ou com texto desidentificado, com dados mínimos ✔

Divulgação: Os dados pessoais que identificam o cliente — especialmente dados sensíveis como os de saúde — nunca são inseridos em uma ferramenta pública que a instituição não tenha aprovado; o texto pode ser processado, armazenado em servidores externos ou utilizado no treinamento de modelos, e a exfiltração é irreversível. Esta também é uma violação do KVKK. Esse tipo de trabalho é feito apenas em sistemas internos, seguros, aprovados e que não vazam dados ou com texto desidentificado.

14. Por que a exclusão de nomes de um documento nem sempre é suficiente para submetê-lo a uma ferramenta pública?

A) A exclusão de nomes é sempre um anonimato completo e torna todos os documentos seguros
B) Enquanto o documento for curto, é impossível inferir a identidade a partir do contexto
C) Um documento cujo nome foi totalmente excluído está fora do escopo do KVKK.
D) O contexto (bairro, idade, evento, estrutura familiar) pode reafirmar a identidade; A proteção é fornecida pela escolha da ferramenta e do ambiente ✔

Explicação: Mesmo que os nomes sejam eliminados, o contexto (uma rara combinação de bairro, idade, evento, data, estrutura familiar, etc.) pode tornar uma pessoa identificável; Ele pode ser a única pessoa na vizinhança que se enquadra na descrição. A proteção real não é fornecida pela máscara, mas pela escolha da ferramenta e do ambiente certos; O contexto também são dados pessoais e informações incertas devem ser protegidas como uma classe superior.

15. Da petição ao encerramento de um caso, qual é a maneira mais eficaz de evitar que um único erro de IA vaze para a decisão final?

A) Delegar todo o processo a uma única ferramenta de IA e assinar apenas uma vez no final
B) Colocar uma porta de verificação humana e uma condição de aprovação em cada estágio (verificação em camadas) ✔
C) Removendo validações intermediárias de velocidade e verificando apenas no estágio de saída
D) Permitir que cada especialista use sua própria ferramenta livremente, sem manter registros

Descrição: Uma porta de verificação humana é colocada em cada etapa (pedido/confidencialidade, avaliação/julgamento clínico, risco/autorização, plano/verificação, relatório/evidência, encerramento/precisão); Você não pode passar por uma porta sem passar por outra. Essa estrutura em camadas evita que uma alucinação, preconceito ou erro de confidencialidade em determinado estágio se infiltre na decisão que afeta um cliente.