Gains :
- Capacité à capturer l'hallucination en vérifiant l'existence de chaque source, en allant à la source primaire et en effectuant des étapes de confirmation croisée indépendantes
- Capacité à maintenir l'originalité et l'intégrité académique contre des citations et des documents fabriqués en sciences humaines et sociales
- Capacité à enseigner aux utilisateurs des compétences en matière de vérification des sources et de maîtrise de l’information à l’ère de l’IA
Au cœur de la mission sociale des bibliothéconomies se trouve une seule promesse : une information fiable. Un bibliothécaire amène l'utilisateur non seulement à des informations, mais à des informations vérifiées, et lui apprend à évaluer lui-même ces informations. À l’ère de l’intelligence artificielle, cette mission est devenue à la fois plus difficile et plus importante ; parce que l’IA peut produire de la désinformation de manière très convaincante. Dans cette unité, nous aborderons la reconnaissance des hallucinations, la discipline de la vérification des sources et l'enseignement de la maîtrise de l'information à l'ère de l'IA.
Définissons les concepts. L’hallucination se produit lorsque l’IA produit des informations, des sources, des citations ou des événements qui n’existent pas réellement comme s’ils étaient réels. La vérification à la source est la confirmation que les informations sont basées sur une source réelle, fiable et primaire. La maîtrise de l’information est la capacité d’une personne à trouver des informations, à les évaluer, à remettre en question leur fiabilité et à les utiliser de manière éthique. Cette unité vise au bibliothécaire à renforcer ces compétences tant dans sa propre pratique que dans l'enseignement à l'utilisateur.
Étape par étape : discipline de vérification à la source
1. Demandez la source et vérifiez son existence. Lorsque l’IA fait une réclamation ou une citation, « de quelle source provient-elle ? » et vérifier que la source existe réellement dans un catalogue indépendant, une base de données ou un document primaire.
2. Accédez à la source principale. La forme d’information la plus fiable est sa source directe. Ne vous contentez pas d'un résumé de l'IA ou d'un texte secondaire ; Si possible, accédez au document, aux données ou à la publication originale.
3. Confirmation croisée. Vérifiez une affirmation critique auprès d’au moins deux sources fiables, indépendantes l’une de l’autre. Une seule ressource, en particulier la ressource IA, ne suffit pas.
4. Évaluez la crédibilité de la source. Qui l’a écrit, quand, dans quel but, sur quelle base ? Est-ce à jour ? L’existence d’une information ne la rend pas vraie ; Remettez également en question la nature de la source.
5. Exprimez honnêtement votre incertitude. Si les informations ne peuvent pas être vérifiées, dites-le clairement. Il est toujours préférable de dire « non confirmé » plutôt que d’offrir une certitude fabriquée.
Astuce : lorsque vous recevez une citation ou une source d'IA, recherchez d'abord le titre et l'auteur dans un catalogue réel. Les ressources inexistantes apparaissent immédiatement ici. Cette vérification de 30 secondes empêche une source fabriquée de fabriquer une bibliographie, un devoir ou une publication.
Authenticité et vérification en sciences humaines et sociales
Les sciences humaines et sociales sont particulièrement vulnérables au risque d’hallucinations. Dans ces domaines, les preuves reposent souvent sur un document spécifique, une date, une citation ou la source d’un commentaire. L’IA peut produire des affirmations très spécifiques mais complètement fabriquées, telles que « cet historien a dit » ou « ce document de 1923 dit ». Dans une œuvre littéraire, historique ou juridique, cela signifie une fausse chaîne de preuves.
De plus, l'originalité est la valeur fondamentale de ces domaines : il importe de savoir à qui appartient réellement un texte, une interprétation ou une traduction. Présenter un texte produit par l’IA comme une œuvre originale ou s’appuyer sur une « source » inventée par l’IA viole l’intégrité académique. Le bibliothécaire est un guide qui enseigne aux utilisateurs à la fois la vérification et les limites de l'originalité et du plagiat.
Attention : même dans les cas où une citation générée par l'IA semble exacte mot pour mot et est attribuée à un véritable auteur, cette citation peut être fabriquée. Vérifiez une citation en la trouvant uniquement dans l'œuvre réelle de l'auteur ; La logique du « cet auteur aurait pu dire quelque chose comme ça » ne suffit pas.
trois mini-cases
Cas 1 — L'étudiant a appris la vérification. Un bibliothécaire a vu 5 ressources d'IA dans le devoir d'un étudiant. Ensemble ils l'ont vérifié dans le catalogue : 2 sources ont été fabriquées. L'étudiant a fait l'expérience directe de la leçon selon laquelle "il n'est pas juste que cela ait l'air réel" et a repris l'habitude de vérifier chaque source.
Cas 2 — Document historique fabriqué. Un chercheur a reçu un « article de journal de 1919 » d'AI ; La date, le nom du journal et le contenu étaient extrêmement convaincants. Le bibliothécaire a parcouru les archives du journal : il n'y avait pas de telles nouvelles à ce moment-là. Une source primaire fabriquée de toutes pièces a été détectée avant même d’en faire un article.
Cas 3 — Citation mal attribuée. AI a attribué une citation à un penseur célèbre. Le bibliothécaire chercha ce mot dans les ouvrages du penseur et ne le trouva pas ; Le mot n’était mentionné nulle part. Des recoupements ont permis d'éviter la diffusion d'une citation mal attribuée.
La chaîne de propagation de la désinformation et le rôle du bibliothécaire
La désinformation commence souvent par une simple sortie fabriquée, mais elle ne s’arrête pas là. Un utilisateur place une fausse ressource générée par l'IA dans une affectation ; la mission devient une publication ; la publication est citée par d'autres, de sorte qu'une source fictive acquiert l'apparence de la « vérité » en étant citée à plusieurs reprises. On peut appeler cela une contamination d’attribution : les fausses informations gagnent en légitimité en étant répétées encore et encore. Le bibliothécaire constitue le maillon le plus critique de cette chaîne ; car c'est le dernier point de contrôle où les informations sont vérifiées avant d'entrer dans le système. Ce n’est pas parce qu’une source « se produit dans de nombreux endroits » qu’elle est vraie ; Les mêmes fausses informations peuvent apparaître à plusieurs endroits en étant copiées les unes des autres. Par conséquent, la confirmation croisée devrait être basée sur la question « combien de sources fiables le confirment indépendamment les unes des autres », et non « à combien d’endroits apparaît-il ? Dix sources secondaires répétant la même affirmation ne valent pas autant qu’une seule source primaire indépendante. Le bibliothécaire doit placer cette distinction (sans confondre indépendance et répétition) au centre de sa propre vérification et de son enseignement à l'usager.
Attention : L'apparition d'une information dans un moteur de recherche ou sur de nombreuses pages web ne constitue pas une preuve de son exactitude. La même erreur a pu se généraliser en étant copiée de source en source. La prévalence et l’exactitude sont des choses différentes ; La confirmation nécessite une source indépendante et fiable.
Quatre modèles copiables
1) Requête d'entité ressource :
Répertoriez chaque citation de source et citation dans le texte ci-dessous. Pour chacun : auteur, titre, année et informations de publication (le cas échéant). Extraire élément par élément les informations que je dois vérifier ; ne pas ajouter.Texte : [ici]
2) Évaluation de la confirmabilité :
Pour chacune des affirmations suivantes, isolez les éléments factuels (date, nom, numéro, citation) qui doivent être vérifiés. Suggérez sur quel type de source (catalogue, document principal, base de données) il peut être vérifié. Ne jugez pas l'exactitude, montrez simplement le chemin de vérification. Affirmations : [ici]
3) Liste de contrôle de fiabilité du soudage :
Évaluez la crédibilité de la source suivante : qui l'a écrit, quand, dans quel but, existe-t-il des preuves, sont-elles actuelles, y a-t-il un possible biais ? Fiez-vous simplement aux informations que j'ai données, écrivez "inconnu" là où elles manquent. Informations sur la source : [ici]
4) Plan d'enseignement de la maîtrise de l'information :
Produire un bref tutoriel de 20 minutes sur la vérification des sources et les hallucinations à l'ère de l'IA pour le groupe d'utilisateurs suivant (par exemple les étudiants de premier cycle) : objectifs, 3 exemples, 1 application. Groupe : [ici]
Invite faible/Invite forte
Invite faible :
Rédigez un résumé sur ce sujet avec des sources fiables.
Dire « avec des sources fiables » encourage l’IA à produire de fausses sources qui semblent réelles ; Il n’y a pas de crochet de validation.
Invite puissante :
Votre rôle : assistant à la maîtrise de l'information. RÉDIGER un résumé sur le sujet suivant ; Au lieu de cela, répertoriez les questions factuelles qu'un utilisateur doit vérifier et le type de source fiable avec lequel il peut les vérifier. Ne fabriquez aucune citation de source ; Marquez la zone dont vous n'êtes pas sûr comme « doit être vérifiée ». Sujet : [ici]
Invite puissante ; Il utilise l’IA comme un guide qui montre la voie à suivre pour vérifier, plutôt que de produire des réponses, et empêche structurellement la fabrication.
Tableau des couches d'authentification
couche
Question
Méthode
entité
Cette source est-elle réelle ?
Recherche dans un catalogue/une base de données
primauté
Est-ce la source la plus proche ?
Accéder au document original
Confirmation
Une autre source le confirme-t-elle ?
Vérification croisée indépendante
fiabilité
Quelle est la solidité de la source ?
Auteur, date, but, preuve
honnêteté
En suis-je sûr ?
Énoncez clairement l’incertitude
Erreurs courantes
- Penser que ce qui est convaincant est vrai. Bien paraître n’est pas une preuve de droiture.
- Se contenter d'une seule source. Les informations critiques nécessitent une confirmation croisée indépendante.
- Je ne cherche pas la citation à sa source. C’est ainsi que se propagent les mots mal attribués.
- Cacher l'incertitude. Mieux vaut « invérifiable » qu’une fausse certitude.
- Ne pas apprendre à l'utilisateur à s'authentifier. La maîtrise de l’information est la mission du bibliothécaire.
En résumé
La vérification des sources et la maîtrise de l’information sont les tâches les plus critiques de la bibliothéconomie à l’ère de l’IA. L’hallucination produit des informations convaincantes mais fabriquées de toutes pièces et est particulièrement dangereuse dans les sciences humaines/sociales. La discipline est claire : vérifier l'existence de chaque source, se rendre à la source principale, effectuer des recoupements indépendants, remettre en question la crédibilité de la source et exprimer honnêtement son incertitude. Le bibliothécaire diffuse cette culture de la vérification non seulement dans sa pratique mais aussi en enseignant aux utilisateurs ; L'originalité et l'intégrité académique font partie intégrante de cette mission.
Tâche de candidature
Demandez 6 sources et 2 citations à l'IA dans votre domaine. Vérifier chaque source en la recherchant dans un catalogue réel et chaque citation dans l'œuvre réelle de l'auteur ; Notez combien sont des fabrications. Ensuite, à l'aide du modèle « Plan pédagogique de maîtrise de l'information », rédigez un didacticiel de 20 minutes pour expliquer la vérification des sources à un groupe d'utilisateurs et incluez des exemples réels que vous avez trouvés.
liste de contrôle
- [ ] J'ai vérifié de manière indépendante que chaque source existe réellement.
- [ ] J'ai utilisé des sources primaires dans la mesure du possible.
- [ ] J'ai recoupé les affirmations critiques avec au moins deux sources indépendantes.
- [ ] J'ai vérifié les citations en les recherchant dans l'œuvre même de l'auteur.
- [ ] J'ai clairement marqué les informations invérifiables comme « invérifiables ».