Ganhos:
- Capacidade de explicar por que a alucinação (fonte fabricada, citação, evento) e o anacronismo são os erros mais perigosos da história
- Capacidade de aplicar a disciplina de verificação de cada referência do catálogo, comparação do conteúdo com o documento e confirmação cruzada de fatos críticos.
- Capacidade de questionar preconceitos e vozes ausentes nas fontes, perguntando à inteligência artificial onde procurar, em vez da fonte real
Há uma advertência repetida em cada unidade deste módulo: o resultado da IA é uma afirmação, não um fato, até ser verificado. Esta unidade transforma esse aviso em uma disciplina. A história e o arquivo são campos inerentemente baseados em evidências; A habilidade mais básica de um historiador é a crítica de fontes (questionar por quem, quando, com que propósito uma fonte foi produzida e quão confiável ela é). Na era da IA, esta habilidade tornou-se ainda mais crítica porque a própria fonte pode agora ser fabricada.
Aqui iremos cobrir três perigos em profundidade: alucinação (IA produzindo informações, fontes ou citações fabricadas), anacronismo (elementos periódicos sendo movidos para o período errado) e a disciplina de verificação de fontes em geral. Também veremos a IA aprendendo a partir de fontes que eram imprecisas ou tendenciosas no passado, para que possa reproduzir preconceitos.
Alucinação: o erro mais perigoso
Uma alucinação ocorre quando uma IA apresenta com segurança algo que na verdade não existe. Historicamente, é mais comumente visto nas seguintes formas:
- Fonte/referência fabricada: Um fundo de arquivo, número de arquivo, livro ou artigo inexistente.
- Citação inventada: uma palavra que não foi dita, uma frase que não está no documento.
- Evento/data/pessoa inventados: Um evento que não aconteceu, uma data falsa, uma pessoa que não existe.
- Conexão fictícia: Uma relação de causa-efeito inexistente entre dois eventos reais.
O que torna uma alucinação perigosa é que ela parece verossímil. Uma referência inventada tem o mesmo formato de uma referência real: nome do fundo, número, data. Portanto, "o formato parece correto" nunca significa "correto".
Atenção: Nenhum recurso produzido pela YZ poderá ser utilizado sem ser verificado e encontrado no catálogo ou em local confiável. A única maneira de provar que existe uma referência é vê-la onde está localizada a fonte original (catálogo de arquivo, biblioteca, publicação). "AI deu" não é evidência.
Anacronismo: óculos da época
Anacronismo é ver o passado através dos óculos de hoje. Como a IA é treinada na linguagem atual, ela tem uma forte tendência a:
- Anacronismo de termo: Utilização de palavra, instituição ou conceito que não pertence ao período.
- Anacronismo conceitual: Projetar uma ideia do presente (por exemplo, uma ideologia ou identidade moderna) no passado.
- Anacronismo de valores: julgar o comportamento passado apenas pelos padrões de hoje.
O trabalho do historiador é compreender o passado em seu contexto. A IA carece dessa sensibilidade ao contexto; Você deve fornecê-lo sozinho.
Compreender por que a alucinação acontece com tanta frequência torna mais fácil a proteção contra ela. IA é um sistema que funciona para produzir a “próxima palavra mais provável”; Não tem o propósito de “conhecer a verdade”. Quando lhe é feita uma pergunta, quer saiba a resposta ou não, ele produz um texto que parece estatisticamente convincente. O formato de uma referência arquivística (nome do fundo, número, data) é um padrão aprendido; A IA pode preencher esse padrão sem uma referência real. Então, “por que a IA inventa isso?” A resposta à pergunta é simples: é mais fácil para ele inventar do que “não saber”. A responsabilidade recai sobre você de preencher esses moldes com recursos reais.
Disciplina de verificação de origem: passo a passo
1. Verifique a existência do recurso. Encontre todas as referências fornecidas pela AI no catálogo/publicação. Se você não conseguir encontrar, não use.
2. Compare o conteúdo com a fonte. As informações que a IA atribui a um documento realmente existem no documento? A citação é exatamente a mesma?
3. Confirmação cruzada. Para um fato crítico, consulte pelo menos duas fontes independentes e confiáveis.
4. Aplique críticas às fontes. A fonte em si é confiável? Quem o produziu, quando e com que propósito? É tendencioso?
5. Passe pelo filtro de anacronismo. Existem termos, conceitos ou julgamentos de valor que não se enquadram no período do resultado?
6. Questione o preconceito. Poderia a IA ter reproduzido os preconceitos nas fontes históricas (ignorando um grupo, favorecendo um ponto de vista)?
Camada de autenticação
Pergunta
quem faz
entidade
Esse recurso realmente existe?
Você no catálogo.
Conteúdo
Isso realmente diz no documento?
Você no documento
Confirmação
Alguma outra fonte suporta isso?
você, cruz
confiabilidade
A fonte é confiável?
parecer especializado
Período
Existem anacronismos?
parecer especializado
preconceito
De quem é a voz que está faltando/distorcida?
parecer especializado
três mini cases
Caso 1 — Seis referências fabricadas. Um pesquisador pediu à IA uma lista de fontes sobre um tema. YZ forneceu 6 referências de arquivo com formatação perfeita. Na busca no catálogo faltaram 4 dos 6, 2 deles estavam com o número errado. Se o pesquisador não tivesse verificado, teria surgido um estudo que citasse fontes inexistentes. Lição: toda referência é verificada no catálogo.
Caso 2 — Citação inventada. Um escritor usaria uma citação marcante que a IA atribui a uma figura histórica. Ao investigar a fonte, viu que não havia nenhum documento que comprovasse que essa pessoa disse tal coisa, e que a afirmação foi “inventada” pela IA. Lição: as citações não podem ser usadas sem verificação de uma fonte primária ou confiável.
Caso 3 — Reprodução de preconceito. Um aluno fez com que a IA explicasse a história de uma região. O resultado ignorou completamente uma comunidade específica naquela área porque as fontes com as quais a IA aprendeu também os ignoraram. O aluno percebeu e corrigiu essa lacuna com referências cruzadas. Lição: a IA reproduz silêncios e preconceitos nas fontes; É preciso perguntar de quem é a voz que está faltando.
Quatro modelos copiáveis
1) Lista de verificação de referência:
TODOS os nomes de fontes, referências, citações, datas e pessoas no texto abaixo aparecem em uma lista separada. Adicione uma nota para cada um: “reivindicado neste texto, deve ser verificado de forma independente”. Se você não selecionar nenhum, "verifique"; Basta produzir uma lista para verificar para que eu possa verificá-la no catálogo/fonte. Texto: [aqui]
2) Varredura de anacronismo:
Examine o texto sobre [período] abaixo. Destaque termos, instituições, conceitos e valores que PODEM NÃO pertencer a este período. Para cada um, escreva brevemente por que você está desconfiado. Fazer o julgamento final; Crie uma lista de suspeitas que o especialista irá verificar. Texto: [aqui]
3) Estrutura de crítica de origem:
Uma crítica da fonte é elaborada sobre a seguinte fonte: (1) Quem pode tê-la produzido, (2) Quando, (3) Com que finalidade, (4) Quais são os seus possíveis preconceitos, (5) Em quais questões devemos confiar e quais devem ser cautelosas. Imposição de julgamento final; Forneça perguntas e possíveis opções de resposta. Fonte: [aqui]
4) Controle de volume/bias ausente:
A voz de QUEM e a experiência de qual grupo podem estar faltando ou serem unilaterais no seguinte resumo histórico? Qual perspectiva é dominante, qual é invisível? Produza isso como uma lista de perguntas; Vou preenchê-lo com referências cruzadas. Resumo: [aqui]
Alerta fraco / Alerta forte
Fraco:
Dê-me fontes históricas confiáveis e citações sobre este assunto.
A IA é muito propensa a produzir referências corretas na forma, mas fabricadas no conteúdo quando solicitadas por "fonte" e "citação". Este prompt é um convite direto à alucinação.
Forte:
Sugira que TIPO de fontes (tipo de fundo de arquivo, tipo de publicação, instituição) devo procurar em minha pesquisa sobre este assunto. AJUSTAR uma referência específica, número de arquivo ou cotação; Apenas me diga onde procurar. Então encontrarei as fontes reais nos catálogos.
Diferença: a IA é questionada sobre “onde procurar”, não sobre “referência real”; O risco de alucinação é radicalmente reduzido e a verificação é deixada para o ser humano.
Erros comuns
- Contando com a referência correta. A referência inventada também parece impecável; deve ser verificado no catálogo.
- Fazendo uma citação direta da IA. As citações não podem ser usadas sem a confirmação da fonte primária/confiável.
- Ignorando o anacronismo. Os termos e conceitos de hoje infiltram-se silenciosamente no passado.
- Reproduzindo preconceitos. A IA copia silêncios das fontes; É necessário perguntar sobre o som que falta.
- Contando com uma única fonte. Os fatos críticos devem ser confirmados por pelo menos duas fontes independentes.
Em resumo
A verificação da fonte está no centro da história e do arquivamento e é ainda mais crítica na era da IA. A alucinação produz fontes, citações e eventos cuja forma é perfeita, mas cujo conteúdo é fictício; o anacronismo distorce o passado através das lentes de hoje; e a IA reproduz preconceitos nas fontes. A defesa é uma disciplina: verificar cada referência do catálogo, comparar o conteúdo com o documento, cruzar fatos críticos, filtrar períodos e preconceitos. Pergunte à IA “onde procurar”, não “a fonte real”. O guardião da verdade é sempre o especialista.
Tarefa de aplicativo
Faça com que a IA produza uma lista de recursos sobre um tópico no qual você está trabalhando (com um "prompt fraco" deliberadamente). Em seguida, extraia todas as referências desta saída com o modelo "lista de validação de referências" e pesquise cada uma delas em um catálogo. Conte quantos realmente existem e quantos são inventados ou imprecisos. Repita o mesmo tópico com um “prompt forte” (“onde devo olhar”) e experimente a diferença.
lista de verificação
- [] Verifiquei cada referência no catálogo/fonte confiável.
- [] Verifiquei cada cotação com a fonte primária/confiável.
- [ ] Verifiquei fatos críticos com pelo menos duas fontes independentes.
- [] Eu filtrei a saída em busca de anacronismos.
- [ ] Questionei vozes ausentes/distorcidas e preconceitos.