Ganhos:
- Ser capaz de distinguir onde a inteligência artificial poupa tempo no fluxo de trabalho do serviço social (resumo, edição, simplificação, rascunho) e onde o julgamento clínico, as decisões de risco e de representação são deixadas ao ser humano, dependendo do nível de risco.
- Capacidade de aplicar uma disciplina que verifica cada resultado através das etapas de vinculá-lo a evidências reais, confirmando informações externas com fontes oficiais atuais e filtrando-as através de preconceitos.
- Para entender por que a privacidade do cliente, a distinção entre mundos anônimos e de dados do cliente e a responsabilidade da KVKK devem ser levadas em consideração desde o início no serviço social.
Você está na manhã de um centro de serviço social. Ontem chegaram três novos requerimentos: uma mulher vítima de violência e seus dois filhos, um idoso necessitado de cuidados e um adolescente em risco de abandono escolar. Há quatro relatórios de investigação social sobre sua mesa, um parecer solicitado pelo tribunal, registros de casos que precisam ser preenchidos e preparativos para uma visita domiciliar com uma família esta tarde. O serviço social (a profissão e disciplina realizada para melhorar a funcionalidade social dos indivíduos, famílias e comunidades, para garantir o seu acesso aos direitos e ao bem-estar, e para proteger grupos vulneráveis) é um campo que é inerentemente intensivo em documentos, pressionado pelo tempo, afeta a vida humana e tem elevada responsabilidade. A inteligência artificial (IA – software que pode extrair padrões de dados históricos e produzir ou classificar textos, resumos, traduções e rascunhos) dá uma folga nessa carga de documentos e pressão de tempo. Mas o início deste módulo é claro: a IA é um assistente, um resumidor e um gerador de esboço; Você é o especialista competente que faz a avaliação, o risco e a decisão final sobre o cliente.
Nesta primeira unidade focaremos na disciplina e não na ferramenta. Você aprenderá onde a IA economiza tempo real no fluxo de trabalho do serviço social, onde é perigosa, como verificar cada resultado, como proteger a privacidade e os dados pessoais do cliente e como ficar alerta a preconceitos. Sem estabelecer esta base, as unidades subsequentes permanecem no ar – porque no serviço social, um resultado não verificado não é apenas uma sentença falsa; É um erro que pode levar a que uma criança seja mal avaliada, a que um risco seja ignorado, a uma família seja injustamente estigmatizada ou a que informações sensíveis sejam divulgadas.
Onde a IA é útil no fluxo de trabalho do serviço social?
Vamos dividir os empregos de serviço social em dois grandes grupos. O primeiro cluster: tarefas com uso intensivo de documentos, repetitivas, extraíveis por padrões e baseadas em linguagem. Tradução de notas dispersas após uma entrevista em um registro de caso organizado, resumo cronológico de um longo arquivo, primeiro esqueleto de um relatório de investigação social, simplificação de uma lista de ajuda/serviço para se adequar ao idioma do cliente, rascunho de uma carta de referência, tradução de um texto informativo simples para um cliente multilíngue, primeira estrutura de análise de necessidades de um programa. Nestes trabalhos, a IA reduz horas a minutos e não se cansa.
Segundo cluster: tarefas que exigem julgamento, avaliação clínica, julgamento de risco e responsabilidade. Se uma criança está segura em casa, o nível de risco de automutilação de um indivíduo, se uma família necessita de medidas de proteção, a opinião com a qual um relatório será apresentado ao tribunal, se um serviço é realmente adequado para o cliente. Estas decisões requerem competência profissional, julgamento clínico, conhecimento do contexto, responsabilidade ética e, muitas vezes, opinião de equipa multidisciplinar. Aqui, a IA multiplica as opções, gera rascunhos, lembra o que foi esquecido — mas a avaliação final e a assinatura são suas.
Vamos esclarecer a distinção em uma frase: a IA é forte nas questões “o que está neste arquivo e como é o primeiro rascunho”; A decisão é sua quando se trata de questões como “Qual é a real situação desta pessoa e posso defendê-la em nome da minha profissão?”
Dica: Antes de terceirizar um trabalho para uma IA, pergunte: “Quem se prejudica se esse resultado estiver errado?” Se a resposta for “alguns minutos de refatoração”, delegue confortavelmente. Se a resposta for “avaliação errada de um cliente, evasão de risco ou vazamento de informação”, deixe a IA produzir o rascunho e você toma a decisão e verificação.
Privacidade: princípio inviolável
O cerne do serviço social é a confiança, e a confiança é baseada na confidencialidade. Um cliente lhe conta suas informações mais privadas e frágeis – violência, pobreza, estado de saúde, segredos de família – confiando no sigilo profissional. Quando esta informação cai em mãos erradas, ameaça a vida, a segurança e a dignidade de uma pessoa. A regra básica aqui: Nenhum dado pessoal que identifique o cliente (nome, endereço, TR ID, saúde, informações familiares, etc.) será inserido em uma ferramenta pública de IA que sua instituição não tenha aprovado. O texto que você digita em um serviço público de IA é processado nos servidores desse serviço; Você não pode controlar quem o vê, onde está armazenado e se será usado no treinamento do modelo. Na Turquia, esta também é uma responsabilidade legal ao abrigo da KVKK (Lei de Protecção de Dados Pessoais - a lei que regula o tratamento de dados pessoais).
Portanto, a utilização da IA no serviço social opera em dois mundos distintos: Ferramentas gerais podem ser utilizadas para o mundo desidentificado/genérico (exemplos anónimos ou fictícios que não identificam o cliente, questões de conhecimento geral); Para o mundo dos dados de clientes, são utilizados apenas sistemas internos, seguros e aprovados que não vazam dados. Confundir os dois é o erro mais perigoso deste módulo.
Cuidado: “A IA disse isso” não é uma justificativa e não tem força em um arquivo de caso. Se houver um erro de julgamento, informação fabricada ou vazamento de dados, a responsabilidade não pertence à IA, mas ao especialista que utiliza esse resultado sem verificá-lo ou insere esses dados na ferramenta.
Disciplina de verificação: três etapas
A IA produz com fluidez e confiança; Isso não significa que seja verdade. A IA ocasionalmente produz alucinações – isto é, apresenta como real uma legislação que não existe, um serviço que não existe, uma estatística inventada ou uma declaração que o cliente nunca disse. Num relatório de investigação social ou num memorando de risco, isto é desastroso. Aplique um reflexo de três etapas a cada saída:
- Link para fonte/evidência. Cada declaração que a IA faz sobre o cliente deve ser baseada na nota ou conversa real que você deu. “Em que conversa, da boca de quem, com que observação foi dada essa informação?” perguntar. A IA não deve acrescentar nada que o cliente não tenha dito.
- Confirme com fonte independente. Verifique informações externas, como lei, direitos, serviço, endereço de encaminhamento, etc., da fonte oficial atual. Um requisito de inscrição ou número de telefone fornecido pela IA pode estar desatualizado ou ser falso.
- Passe pelo filtro da interpretação e do preconceito. A saída é tendenciosa contra um grupo? Existe linguagem que estigmatiza e culpa o cliente? Ignora os pontos fortes? Seu julgamento profissional é o filtro final.
três mini cases
Caso 1 — A documentação economizou tempo. Uma assistente social conduziu 14 entrevistas em uma semana e fez anotações à mão para cada uma delas. A edição assistida por IA reduziu o tempo total de tradução dessas notas em registros de casos estruturados de aproximadamente 4 horas para 1 hora. Mas cada gravação foi lida pelo perito e verificada comparando-a com a entrevista real; Duas frases que a IA “interpretou” foram excluídas.
Caso 2 — A verificação detectou uma alucinação. Um especialista fez uma pergunta sobre direitos à IA; YZ disse: “Há um requisito de residência mínima de 24 meses para este auxílio”. Quando o perito consultou a legislação oficial, não existia tal exigência; A IA misturou duas ajudas semelhantes e criou uma condição que não existia. A etapa de atribuição evitou que o cliente fosse rejeitado injustamente.
Caso 3 — Retorno de violação de privacidade. Para ser rápido, um novo profissional queria colar todas as informações de um caso de proteção infantil (incluindo o nome da criança, endereço, escola) em uma ferramenta pública de IA e imprimir um relatório. O especialista sênior percebeu: tratava-se de dados pessoais confidenciais no âmbito do KVKK e estavam fora de questão. O incidente foi tratado como uma violação de dados; o trabalho foi refeito com as credenciais removidas e apenas com método seguro interno.
Quatro modelos copiáveis
1) Avaliação de adequação ao trabalho:
Sua função: assistente social sênior e supervisor. Descreverei o trabalho abaixo. Diga-me (1) se este é um trabalho de resumo/edição/esboço que pode ser delegado a uma IA ou que requer julgamento clínico e julgamento de risco, (2) o custo para o cliente de resultados incorretos, (3) a verificação que preciso fazer antes e depois da delegação. Trabalho: [insira o trabalho aqui]
2) Obrigação de basear-se em provas:
Vou lhe dar as notas de uma reunião. Ao editar a gravação, use SOMENTE as informações da nota. Não acrescente nada que o cliente não tenha dito, não diagnostique, não comente. Rotule a observação e a expressão do cliente separadamente. Marque as áreas faltantes ou pouco claras como "precisa de esclarecimento".
3) Pré-verificação de privacidade:
Avalie o seguinte texto ANTES do processamento: esse texto pode conter dados pessoais que identifiquem o cliente (nome, endereço, TR ID, saúde, dados familiares)? Se sim, quais seções? Assim, caso não deva ser processado em ferramenta pública, avise-me e liste os campos que preciso desidentificar.Texto: [escreva o texto aqui]
4) Verificação de preconceito/linguagem:
Considere o seguinte caso: Existe linguagem que estigmatiza, culpa ou prejudica o cliente em relação a um grupo? Ignora pontos fortes e recursos? Sugira uma linguagem que seja mais respeitosa, focada em fatos e que reconheça os pontos fortes. Não altere o registro, apenas sinalize os problemas de idioma.
Alerta fraco / Alerta forte
Alerta fraco:
Escreva um relatório sobre esta família e decida se a criança está segura em casa.
Este aviso não tem contexto e é perigoso: não está claro quais informações, quais observações e a IA estão sendo solicitadas a tomar uma decisão sobre a segurança de uma criança. A IA prevê, pode distorcer, pode inventar – e isso envolve uma vida humana.
Alerta poderoso:
Sua função: editor assistente de assistente social. Fonte: Notas de entrevista e observação com retiradas de informações identificativas, que colarei a seguir. Tarefa: criar um esboço do esqueleto de um relatório de investigação social com base apenas nas informações REALMENTE contidas nessas notas; Rotule a observação, a declaração do cliente e as informações faltantes separadamente. TOMAR uma decisão de risco ou segurança; Eu farei a avaliação. Marque a área sobre a qual você não tem certeza como “precisa ser esclarecida”.
A diferença é clara: a desidentificação, a restrição de “passagem verdadeira”, a rotulagem e a restrição de “decisão” tornam o resultado seguro e útil.
Gráfico de comparação de funções/tarefas
negócio
Papel da IA
o papel do homem
verificação
Editar um registro de caso
Configurar a nota
confirmação, precisão
Comparação com nota
Resumo do arquivo
esboço cronológico
Importância, comente
Link para a fonte
Direitos/informações de serviço
primeiro rascunho
Confirmação atual
legislação oficial
avaliação de risco
Lembrete de pergunta/quadro
Julgamento clínico, decisão
Equipe + supervisão
Relatório
esboço de esqueleto
Conteúdo, opinião, assinatura
Correspondência de evidência-declaração
Desenho do programa
Geração de ideias/estrutura
elegibilidade, decisão
Campo + confirmação de dados
Erros comuns
- Confundindo o resultado da IA com avaliação. A saída é sempre um rascunho a ser verificado; Não entra no processo sem estar vinculado a provas.
- Colando dados do cliente na ferramenta aberta. Se vazar, não poderá ser desfeito e é uma violação do KVKK; É o erro mais perigoso.
- Pedir à IA para tomar uma decisão de risco/segurança. Estas decisões exigem autoridade e responsabilidade profissionais; A IA não pode tomar decisões.
- Um pedido que não requer provas. Se você não disser “Basta usar o que está na nota”, a IA poderá adicionar o que o cliente não disse.
- Não percebendo a linguagem estigmatizante. A linguagem da IA pode conter preconceitos; Uma linguagem respeitosa e que considera os pontos fortes está sob seu controle.
Resumindo
A IA é uma assistente poderosa no trabalho social: organiza a nota confusa, resume o arquivo, produz rascunhos, simplifica, traduz. Mas o julgamento clínico, a avaliação de risco, a representação e a decisão final pertencem ao ser humano. Realize a separação de dois conjuntos (trabalho intensivo de documentos versus decisões de julgamento/risco), verificação em três etapas (link para evidências, confirmação independente, filtro de parcialidade), consciência de privacidade (mundo anônimo versus mundo de dados do cliente) e alerta para preconceitos como a espinha dorsal deste módulo.
Tarefa de aplicativo
Liste 6 tarefas da sua mesa (ou imaginária). Classifique cada um como “resumo/edição/rascunho delegável por IA” ou “julgamento clínico/decisão de risco”. Para um dos transferíveis (com exemplo fictício que não identifica o cliente), utilize o modelo “Avaliação de adequação ao trabalho” acima e obtenha uma resposta da IA; em seguida, aplique a verificação em três etapas e tente também a pré-verificação de privacidade.
lista de verificação
- [ ] Dividi o trabalho em dois grupos (julgamento intensivo de documentos / julgamento de risco).
- [ ] Apliquei a verificação em três etapas (evidência, confirmação independente, viés).
- [ ] Certifiquei-me de não fornecer dados pessoais de identificação do cliente para a ferramenta aberta.
- [] Vinculei todas as declarações que a IA fez sobre o cliente à nota real.
- [] Verifiquei a linguagem estigmatizante/tendenciosa na saída.