Vérification de la source, hallucination et discipline d'attribution

Gains :

• Savoir pourquoi l'hallucination est cachée dans le domaine humain et être capable de faire passer chaque source par la chaîne de vérification en cinq étapes (existence, empreinte, citation, contexte, attribution)
• Possibilité de confirmer l'authenticité de la source avec des identités concrètes telles que DOI, ISBN et catalogue.
• Comprenez la discipline consistant à interdire à l’intelligence artificielle de fabriquer des fabrications et à ne jamais lui déléguer la vérification de l’honnêteté des citations et des attributions.

La valeur d'un texte dans les domaines humain et social dépend de l'authenticité et de la précision du transfert des sources sur lesquelles il s'appuie. Un essai littéraire, une thèse, une note de cours : tous reposent sur des sources fiables et une attribution honnête (montrant qui/où vous avez obtenu des informations ou une citation). L’IA offre un grand confort dans ce domaine, mais elle comporte également le plus grand danger : l’hallucination, c’est-à-dire produire une source, une citation ou un fait inexistant pour réel. Cette unité a pour mission d'établir une « armure de vérification » contre ce danger.

Règle d'une phrase : aucune source, citation, date ou numéro généré par l'IA ne peut saisir le texte sans confirmation à la première personne d'une source primaire ou fiable. Cette règle est la règle la plus répétée et la moins flexible de ce module.

Pourquoi les hallucinations sont-elles si dangereuses dans ce domaine ?

Si l’IA se trompe sur une question technique, cela sera souvent remarqué ; mais dans le domaine humain, l’hallucination est habilement dissimulée :

• Signature réaliste : IA combine le nom d'un véritable auteur avec un titre approprié au domaine et une année raisonnable. Le résultat est une source qui n’existe pas mais qui semble tout à fait réelle.
• Citation adaptée au style : L'IA peut imiter le style d'un auteur et présenter une phrase qui ne lui appartient pas comme « sa parole ».
• Date proche mais erronée : L'année d'une œuvre peut être décalée d'un ou deux ans ; Cela échappe au lecteur imprudent.
• Attribution confuse : peut attribuer une idée à la mauvaise personne.

Tous ces éléments peuvent s'infiltrer silencieusement dans le texte d'un auteur animé d'intentions honnêtes et, s'ils ne sont pas détectés, nuire à la fois à la réputation de l'auteur et à la confiance du lecteur.

Attention : Ce n'est pas parce qu'une ressource paraît « réaliste » à l'IA qu'elle est réelle. Le réalisme et la réalité sont deux choses différentes ; L’IA maîtrise le premier, elle ne peut garantir le second.

Armure de vérification : étape par étape

Pour chaque source et citation, suivez cette chaîne :

1. Y a-t-il ? Recherchez la source dans le catalogue de la bibliothèque, dans une base de données fiable ou sur le site de l'éditeur. S’il est introuvable, il n’existe pas – ne l’utilisez pas.
2. L'empreinte est-elle correcte ? Auteur, titre, éditeur/journal, année, page : tous doivent correspondre exactement.
3. La citation est-elle réelle ? Recherchez la citation dans la source elle-même, sur la page spécifiée, et comparez-la textuellement.
4. Le contexte est-il correct ? La citation est-elle utilisée littéralement ou a-t-elle été déformée ?
5. L'attribution est-elle honnête ? L’idée est-elle attribuée à la bonne personne, quelque chose provenant d’une source secondaire est-il présenté comme primaire ?

Si même un maillon de cette chaîne est rompu, il ne peut pas entrer dans le texte source.

Astuce : indiquez à l'IA dès le début : "Ne divulguez aucune source dont vous n'êtes pas sûr de l'existence ; si vous n'êtes pas sûr, dites "Je n'ai pas trouvé la source"." Cela ne met pas complètement fin à l'hallucination, mais cela incite l'IA à dire "Je ne sais pas" au lieu de se réconcilier.

Citation et discipline de citation

Outre la vérification, l’attribution honnête est également une discipline :

• Donnez le devis direct avec guillemets et page ; Que ce soit littéralement.
• Associez également une citation indirecte (en la résumant dans vos propres mots) à la source ; Si l’idée ne vous appartient pas, elle doit être attribuée.
• Énoncez de manière transparente la contribution de l'IA selon la règle de votre organisation ; L’IA n’est pas une « ressource », mais si elle est utilisée, elle doit être déclarée.
• Ne présentez pas la source secondaire comme primaire ; Si vous avez tiré une citation d'un auteur d'un autre livre, indiquez-le.

trois mini-cases

Cas 1 — Deux des cinq sources se sont révélées fictives. Un chercheur a suivi le processus de vérification de 5 sources fournies par AI. 2 n'étaient pas du tout dans le catalogue, 1 avait la mauvaise année, 2 étaient réelles et correctes. Seuls les 2 vérifiés ont été utilisés ; article protégé contre toute attribution fictive.

Cas 2 — Distorsion des citations détectée. Un étudiant a trouvé une citation d’IA dans un vrai livre, mais la citation signifiait exactement le contraire dans le contexte d’origine. L'IA avait sorti la phrase de son contexte. L'élève a corrigé la citation avec son contexte correct.

Cas 3 — Attribution incorrecte corrigée. Dans une note de cours, AI attribuait une opinion au mauvais auteur. Lorsque l’enseignant l’a vérifié auprès de deux sources fiables, il a trouvé le propriétaire légitime et l’a réparé. La note a survécu sans nuire à l'étudiant.

Quatre modèles copiables

1) Instruction d’interdiction de fabrication :

À partir de maintenant : NE produisez PAS de source, de citation, de date ou de numéro dont vous n’êtes pas sûr de l’existence. Si vous n'êtes pas sûr, dites « vérification nécessaire » ou « je ne l'ai pas trouvé ». Ne donnez jamais une étiquette réaliste, mais vous ne pouvez pas garantir son authenticité. Suivez cette règle avec chaque réponse.

2) Feuille de route pour la vérification à la source :

Je vérifierai moi-même la source ci-dessous. Dites-moi où chercher cette ressource (catalogue, base de données, éditeur) et avec quelles informations clés. VOUS confirmez que la ressource existe ; donnez simplement les étapes de vérification.Source : [coller le crédit]

3) Vérification du contexte du devis :

Vous trouverez ci-dessous une citation et le paragraphe dans lequel elle apparaît. La citation est-elle utilisée dans son contexte original ou a-t-elle été déformée ? Fiez-vous simplement au texte que je vous ai donné ; en ajoutant un commentaire.Citation : [...] Paragraphe original : [...]

4) Audit d'intégrité d'attribution :

Dans mon texte ci-dessous : quelles phrases nécessitent une source mais restent non attribuées, quelle idée peut appartenir à quelqu'un d'autre, y a-t-il un endroit où je montre la source secondaire comme principale ? Suggérer des sources fabriquées ; signalez simplement les citations manquantes.Texte : [coller le texte]

Invite faible/Invite forte

Faible : "Donnez 5 sources académiques et citations sur ce sujet."

Güçlü : "Dites-moi quel type de sources et de mots-clés je dois rechercher lors de mes recherches sur ce sujet. Ne produisez aucune référence ou citation dont vous n'êtes pas sûr de l'existence ; si vous n'êtes pas sûr, dites 'Je ne l'ai pas trouvé'. Je vous donnerai les sources que je trouverai plus tard ; je confirmerai les citations des livres."

Cette invite puissante ferme la porte à l’hallucination et laisse la vérification à l’humain. L’invite faible invite directement à la production de ressources imaginaires.

Tableau de la chaîne de validation

étape

Question

lieu de vérification

entité

La source existe-t-elle vraiment ?

Catalogue / base de données

empreinte

L'auteur, l'année, la page sont-ils corrects ?

Éditeur/impression

citation

Est-ce textuellement dans le texte ?

la source elle-même

Contexte

Le sens est-il déformé ?

paragraphe principal

Citation

À la bonne personne ?

vérification croisée

Vérification avec lien permanent et empreinte

Il existe des moyens concrets de confirmer de manière rapide et fiable si une ressource existe réellement. La plupart des publications universitaires modernes ont un DOI (Digital Object Identifier – un identifiant unique et immuable attribué en permanence à une publication ; il agit comme un lien et mène directement à la publication). Si vous accédez à la publication réelle lorsque vous tapez le DOI d'un article dans un navigateur, cette source existe ; Si vous ne le trouvez pas ou si le DOI n’existe pas du tout, méfiez-vous. Les « DOI » générés par l’IA sont souvent inventés et ne mènent nulle part ; C'est l'un des tests les plus pratiques pour capturer la source imaginaire.

L'ISBN (International Standard Book Number) fournit une identification similaire pour les livres ; Vous pouvez vérifier l'authenticité du livre en le recherchant par ISBN dans un catalogue de bibliothèque ou dans une base de données de livres fiable. Pour les périodiques, vérifiez le nom de la revue et les informations sur le volume/numéro sur le site officiel de l'éditeur. Ces identités concrètes sont la réponse à la question « La source est-elle réelle ? Il répond clairement à votre question en quelques minutes.

Ces méthodes transforment la vérification en une « transaction » plutôt qu’en un « stock » : lorsque vous ouvrez et visualisez chaque source en personne, dans le catalogue, par DOI ou sur le site de l’éditeur, le risque d’attribution fantôme est largement éliminé.

Astuce : Lorsque vous avez terminé votre bibliographie, faites un « tour de clic » : ouvrez effectivement le DOI ou la notice de catalogue de chaque source. Même une seule ressource qui ne s’ouvre pas est un avertissement ; soit corrigez-le avec la bonne empreinte, soit supprimez-le de la liste.

Erreurs courantes

• Confondre réalisme et réalité. L’identité plausible d’une IA ne prouve pas son existence.
• Ne pas vérifier la citation de la source. Des devis fabriqués ou déformés peuvent fuir.
• Obtenir l'historique à partir d'une seule source. Vérifiez auprès d’au moins deux sources fiables.
• Faire ressembler le secondaire au primaire. Énoncez honnêtement la chaîne de transmission.
• Citant l’IA comme source. L'IA n'est pas une ressource ; son utilisation est déclarée, la référence est faite à la source primaire.

En résumé

L'honnêteté dans les sciences humaines repose sur l'exactitude des sources et des citations. Le plus grand danger de l’IA est qu’elle produit des sources et des citations qui semblent réalistes mais qui n’existent pas. Faites passer chaque source et citation à travers la chaîne de vérification en cinq étapes (entité, crédit, citation, contexte, attribution). Interdisez dès le départ à l’IA de fabriquer et ne lui déléguez jamais la vérification. Cette discipline est le gage de votre fiabilité dans ce métier.

Tâche de candidature

Essayez de demander à l'IA de suggérer quelques sources et une citation sur un sujet. Exécutez chaque source à travers la chaîne de vérification : combien existent réellement, combien ont une attribution correcte, la citation est-elle réellement dans la source ? Écrivez les résultats dans un tableau. Cette expérience montrera concrètement les limites de l’IA dans ce domaine.

liste de contrôle

• [ ] J'ai confirmé l'existence de chaque ressource du catalogue.
• [ ] J'ai vérifié chaque citation textuellement à partir de la source originale.
• [ ] J'ai vérifié que le contexte de la citation n'a pas été déformé.
• [ ] J'ai recoupé les dates avec au moins deux sources.
• [ ] J'ai interdit à l'IA de fabriquer et je ne lui ai pas délégué la vérification.