Ganhos:
- Saber por que a alucinação está oculta no domínio humano e ser capaz de passar cada fonte pela cadeia de verificação de cinco etapas (existência, impressão, citação, contexto, atribuição)
- Capacidade de confirmar a autenticidade da fonte com identidades concretas como DOI, ISBN e catálogo.
- Entenda a disciplina de proibir a inteligência artificial de fazer invenções e nunca delegar a ela a verificação de cotação e honestidade de atribuição.
O valor de um texto nos campos humano e social depende da autenticidade e da transferência precisa das fontes em que se baseia. Um ensaio literário, uma tese, uma nota de aula – todos dependem de fontes confiáveis e de atribuição honesta (mostrando quem/onde você obteve a informação ou uma citação). A IA oferece grande comodidade neste campo, mas também traz consigo o maior perigo: a alucinação, ou seja, produzir uma fonte, citação ou fato inexistente como real. Esta unidade dedica-se a estabelecer uma “armadura de verificação” contra este perigo.
Regra de uma frase: nenhuma fonte, citação, data ou número gerado por IA pode entrar no texto sem a confirmação em primeira pessoa de uma fonte primária ou confiável. Esta regra é a regra mais repetida e menos flexível deste módulo.
Por que a alucinação é tão perigosa neste campo?
Se a IA estiver errada numa questão técnica, isso será frequentemente notado; mas na esfera humana a alucinação é habilmente escondida:
- Assinatura realista: a IA combina o nome de um autor real com um título apropriado à área e um ano razoável. O resultado é uma fonte que não existe, mas parece exatamente real.
- Citação adequada ao estilo: a IA pode imitar o estilo de um autor e apresentar uma frase que não lhe pertence como “sua palavra”.
- Data próxima, mas errada: O ano de trabalho pode ser deslocado em um ou dois anos; Isso escapa ao leitor descuidado.
- Atribuição confusa: pode atribuir uma ideia à pessoa errada.
Tudo isso pode infiltrar-se silenciosamente no texto de um autor com intenções honestas e, se não for detectado, prejudicar tanto a reputação do autor quanto a confiança do leitor.
Cuidado: Só porque um recurso parece “realista” para a IA não significa que seja real. Realismo e realidade são duas coisas diferentes; A IA é mestre no primeiro, mas não pode garantir o segundo.
Armadura de verificação: passo a passo
Para cada fonte e citação, siga esta cadeia:
- Existe? Procure a fonte no catálogo da biblioteca, em um banco de dados confiável ou no site da editora. Se não puder ser encontrado, não existe – não o use.
- A impressão está correta? Autor, título, editora/revista, ano, página — todos devem corresponder exatamente.
- A citação é real? Encontre a citação na própria fonte, na página especificada, e compare-a literalmente.
- O contexto está correto? A citação foi usada literalmente ou foi distorcida?
- A atribuição é honesta? A ideia é atribuída à pessoa certa, algo retirado de uma fonte secundária é retratado como primário?
Se pelo menos um elo desta cadeia for quebrado, ele não poderá entrar no texto fonte.
Dica: Instrua a IA desde o início: "Não divulgue nenhuma fonte que você não tenha certeza de que existe; se não tiver certeza, diga 'Não consegui encontrar a fonte'." Isso não encerra completamente a alucinação, mas faz com que a IA diga “não sei” em vez de inventar.
Citação e disciplina de citação
Juntamente com a verificação, a atribuição honesta também é uma disciplina:
- Dê o orçamento direto com citações e página; Que seja literalmente.
- Vincule também a citação indireta (resumindo com suas próprias palavras) à fonte; Se a ideia não for sua, ela precisa de atribuição.
- Apresente de forma transparente a contribuição da IA de acordo com as regras da sua organização; A IA não é um “recurso”, mas se for utilizada, deve ser declarada.
- Não retrate a fonte secundária como primária; Se você fez uma citação de um autor de outro livro, indique isso.
três mini cases
Caso 1 — Duas das cinco fontes revelaram-se fictícias. Um pesquisador passou pelo processo de verificação de 5 fontes fornecidas pela IA. 2 não estavam no catálogo, 1 tinha o ano errado, 2 eram reais e corretos. Apenas os 2 verificados foram utilizados; artigo protegido de atribuição fictícia.
Caso 2 — Distorção de cotação detectada. Um aluno encontrou uma citação de IA em um livro real, mas a citação significava exatamente o oposto no contexto original. A IA tirou a frase do contexto. O aluno corrigiu a citação com seu contexto correto.
Caso 3 — Atribuição incorreta corrigida. Numa nota de aula, a AI atribuiu uma opinião ao autor errado. Quando o professor cruzou o arquivo com duas fontes confiáveis, encontrou o legítimo proprietário e o corrigiu. A nota sobreviveu sem dar errado ao aluno.
Quatro modelos copiáveis
1) Instrução de proibição de fabricação:
De agora em diante: NÃO forneça nenhuma fonte, citação, data ou número que você não tenha certeza de que exista. Se não tiver certeza, diga "precisa de verificação" ou "Não consegui encontrar". Nunca forneça uma etiqueta que seja realista, mas você não pode garantir sua autenticidade. Siga esta regra com cada resposta.
2) Roteiro de verificação da fonte:
Vou verificar a fonte abaixo sozinho. Diga-me onde procurar este recurso (catálogo, banco de dados, editora) e com quais informações importantes. VOCÊ confirma que o recurso existe; basta fornecer as etapas de verificação. Fonte: [colar crédito]
3) Verificação do contexto da cotação:
Abaixo está uma citação e o parágrafo real em que ela ocorre. A citação foi usada em seu contexto original ou foi distorcida? Confie apenas no texto que lhe dei; adicionando um comentário.Citação: [...] Parágrafo original: [...]
4) Auditoria de integridade de atribuição:
No meu texto abaixo: quais frases requerem uma fonte, mas permanecem sem atribuição, qual ideia pode pertencer a outra pessoa, existe algum lugar onde eu mostre a fonte secundária como primária? Sugerir fontes fabricadas; apenas aponte as citações que faltam.Texto: [colar texto]
Alerta fraco / Alerta forte
Fraco: "Forneça 5 fontes acadêmicas e citações sobre este tópico."
Güçlü: "Diga-me que tipo de fontes e palavras-chave devo procurar ao pesquisar sobre este assunto. Não produza nenhuma referência ou citação que você não tenha certeza de que exista; se não tiver certeza, diga 'Não consegui encontrar'. Darei a você as fontes que encontrar mais tarde; confirmarei as citações dos livros."
O poderoso alerta fecha a porta para a alucinação e deixa a verificação para o humano. A solicitação fraca convida diretamente à produção de recursos imaginários.
Tabela da cadeia de validação
passo
Pergunta
local de verificação
entidade
A fonte realmente existe?
Catálogo/banco de dados
impressão
O autor, ano e página estão corretos?
Editora/impressão
citar
Está literalmente no texto?
a própria fonte
Contexto
O significado está distorcido?
parágrafo principal
Citação
Para a pessoa certa?
verificação cruzada
Verificação com link permanente e impressão
Existem maneiras concretas de confirmar de forma rápida e confiável se um recurso realmente existe. A maioria das publicações acadêmicas modernas tem um DOI (Digital Object Identifier – um ID único e imutável permanentemente atribuído a uma publicação; ele funciona como um link e leva diretamente à publicação). Se você acessar a publicação real ao digitar o DOI de um artigo em um navegador, essa fonte existe; Se você não conseguir encontrar ou o DOI não existir, desconfie. Os “DOIs” gerados por IA são muitas vezes inventados e não levam a lugar nenhum; Este é um dos testes mais práticos de captura da fonte imaginária.
ISBN (International Standard Book Number) fornece uma identificação semelhante para livros; Você pode verificar a autenticidade do livro pesquisando-o pelo ISBN em um catálogo de biblioteca ou em um banco de dados de livros confiável. Para periódicos, verifique o nome do periódico e as informações do volume/edição no site oficial da editora. Estas identidades concretas são a resposta à pergunta “A fonte é real?” Ele responde claramente à sua pergunta em poucos minutos.
Esses métodos transformam a verificação em uma “transação” e não em um “estoque”: quando você abre e visualiza cada fonte pessoalmente, no catálogo, por DOI ou no site da editora, o risco de atribuição fantasma é amplamente eliminado.
Dica: Ao finalizar sua bibliografia, faça um “click tour”: abra de fato o DOI ou registro de catálogo de cada fonte. Mesmo um único recurso que não abre é um aviso; corrija-o com a impressão correta ou remova-o da lista.
Erros comuns
- Confundindo realismo com realidade. A identidade plausível de uma IA não prova a sua existência.
- Não verificando a citação da fonte. Citações fabricadas ou distorcidas podem vazar.
- Obtendo histórico de uma única fonte. Verifique com pelo menos duas fontes confiáveis.
- Fazendo o secundário parecer o primário. Indique honestamente a cadeia de transmissão.
- Citando IA como fonte. A IA não é um recurso; seu uso é declarado, a referência é feita à fonte primária.
Resumindo
A honestidade nas ciências humanas depende da precisão da fonte e das citações. O maior perigo da IA é produzir fontes e citações que parecem realistas, mas que não existem. Passe cada fonte e citação pela cadeia de verificação de cinco etapas (entidade, crédito, cotação, contexto, atribuição). Proibir a fabricação de IA desde o início e nunca delegar a verificação a ela. Esta disciplina é a garantia da sua confiabilidade nesta profissão.
Tarefa de aplicativo
Tente fazer com que a IA sugira algumas fontes e uma citação sobre um tópico. Passe cada fonte pela cadeia de verificação: quantas realmente existem, quantas têm atribuição correta, a citação está realmente na fonte? Escreva os resultados em uma tabela. Esta experiência mostrará concretamente os limites da IA neste domínio.
lista de verificação
- [ ] Confirmei a existência de cada recurso no catálogo.
- [] Verifiquei cada citação literalmente da fonte original.
- [] Verifiquei se o contexto da citação não foi distorcido.
- [ ] Verifiquei as datas com pelo menos duas fontes.
- [] Proibi a fabricação da IA e não deleguei a verificação a ela.