Gains :
- Capacité à expliquer pourquoi les hallucinations (source, citation, événement fabriqué) et l'anachronisme sont les erreurs les plus dangereuses de l'histoire
- Capacité à appliquer la discipline consistant à vérifier chaque référence dans le catalogue, à comparer le contenu au document et à confirmer les faits critiques.
- Capacité à remettre en question les préjugés et les voix manquantes dans les sources en demandant à l'intelligence artificielle où chercher au lieu de la véritable source
Il y a une mise en garde répétée dans chaque unité de ce module : le résultat de l'IA est une affirmation, pas un fait, jusqu'à ce qu'il soit vérifié. Cette unité transforme cet avertissement en discipline. L’histoire et l’archivage sont des domaines intrinsèquement fondés sur des preuves ; La compétence la plus fondamentale d'un historien est la critique des sources (se demander par qui, quand, dans quel but une source a été produite et dans quelle mesure elle est fiable). À l’ère de l’IA, cette compétence est devenue encore plus cruciale car la source elle-même peut désormais être fabriquée.
Nous aborderons ici en profondeur trois dangers : l'hallucination (l'IA produisant des informations, des sources ou des citations fabriquées), l'anachronisme (des éléments périodiques déplacés vers la mauvaise période) et la discipline de la vérification des sources en général. Nous verrons également l’IA apprendre de sources qui étaient inexactes ou biaisées dans le passé, de sorte qu’elle puisse reproduire des biais.
Hallucination : l'erreur la plus dangereuse
Une hallucination, c’est lorsqu’une IA présente avec confiance quelque chose qui n’existe pas réellement. Historiquement, on l’observe le plus souvent sous les formes suivantes :
- Source/référence fabriquée : Un fonds d'archives, un numéro de dossier, un livre ou un article inexistant.
- Citation inventée : Un mot qui n’a pas été réellement prononcé, une phrase qui ne figure pas dans le document.
- Événement/date/personne inventé : Un événement qui ne s'est pas produit, une fausse date, une personne qui n'existe pas.
- Lien fictif : relation de cause à effet inexistante entre deux événements réels.
Ce qui rend une hallucination dangereuse, c’est qu’elle semble crédible. Une référence fictive a le même format qu'une référence réelle : nom du fonds, numéro, date. Ainsi, « le format semble correct » ne signifie jamais « correct ».
Attention : Aucune ressource produite par YZ ne peut être utilisée sans être vérifiée et trouvée dans le catalogue ou dans un endroit fiable. La seule façon de prouver qu'une référence existe est de la voir là où se trouve la source originale (catalogue d'archives, bibliothèque, publication). "L'IA l'a donné" n'est pas une preuve.
Anachronisme : les lunettes d'époque
L'anachronisme, c'est voir le passé à travers les lunettes d'aujourd'hui. Parce que l’IA est formée dans le langage d’aujourd’hui, elle a une forte tendance à :
- Terme anachronisme : Utilisation d’un mot, d’une institution ou d’un concept qui n’appartient pas à l’époque.
- Anachronisme conceptuel : projeter une idée du présent (par exemple une idéologie ou une identité moderne) dans le passé.
- Anachronisme des valeurs : juger le comportement passé uniquement selon les normes d'aujourd'hui.
Le travail de l'historien consiste à comprendre le passé dans son contexte. L’IA n’a pas cette sensibilité contextuelle ; Vous devez le fournir vous-même.
Comprendre pourquoi les hallucinations se produisent si souvent permet de s’en protéger plus facilement. L'IA est un système qui fonctionne pour produire le « prochain mot le plus probable » ; Cela n’a aucun but comme « connaître la vérité ». Lorsqu'on lui pose une question, qu'il connaisse la réponse ou non, il produit un texte qui semble statistiquement convaincant. Le format d'une référence archivistique (nom du fonds, numéro, date) est un modèle appris ; L’IA peut remplir ce modèle sans véritable référence. Alors « pourquoi l’IA invente-t-elle cela ? » La réponse à la question est simple : il lui est plus facile de se réconcilier que de « ne pas savoir ». Il vous incombe de remplir ces moules de ressources réelles.
Discipline de vérification à la source : étape par étape
1. Vérifiez l'existence de la ressource. Retrouvez toutes les références données par AI dans le catalogue/publication. Si vous ne le trouvez pas, ne l'utilisez pas.
2. Comparez le contenu avec la source. Les informations que l’IA attribue à un document existent-elles réellement dans le document ? La citation est-elle exactement la même ?
3. Confirmation croisée. Pour un fait critique, consultez au moins deux sources indépendantes et fiables.
4. Appliquez la critique de la source. La source elle-même est-elle fiable ? Qui l’a produit, quand et dans quel but ? Est-ce biaisé ?
5. Passez-le à travers le filtre d’anachronisme. Y a-t-il des termes, des concepts ou des jugements de valeur qui ne correspondent pas à la période du résultat ?
6. Remettez en question les préjugés. L’IA aurait-elle pu reproduire les biais des sources historiques (ignorer un groupe, privilégier un point de vue) ?
Couche d'authentification
Question
qui fait
entité
Cette ressource existe-t-elle vraiment ?
Vous dans le catalogue.
Contenu
Est-ce que cela est vraiment dit dans le document ?
Vous dans le document
Confirmation
Est-ce qu'une autre source le prend en charge ?
toi, traverse
fiabilité
La source est-elle fiable ?
jugement d'expert
Période
Y a-t-il des anachronismes ?
jugement d'expert
préjugé
Quelle voix est manquante/déformée ?
jugement d'expert
trois mini-cases
Cas 1 — Six références fabriquées. Un chercheur a demandé à l’IA une liste de sources sur un sujet. YZ a fourni 6 références d'archives avec un formatage parfait. Lors de la recherche dans le catalogue, 4 des 6 manquaient, 2 d'entre eux avaient un mauvais numéro. Si le chercheur n’avait pas vérifié, une étude citant des sources inexistantes aurait vu le jour. Leçon : chaque référence est vérifiée dans le catalogue.
Cas 2 — Devis inventé. Un écrivain utiliserait une citation frappante que l’IA attribue à un personnage historique. Lorsqu'il a enquêté sur la source, il a constaté qu'il n'existait aucun document prouvant que cette personne avait dit une telle chose et que cette déclaration avait été « inventée » par AI. Leçon : les citations ne peuvent pas être utilisées sans vérification auprès d’une source primaire ou fiable.
Cas 3 — Reproduction d'un préjugé. Un étudiant a demandé à l'IA d'expliquer l'histoire d'une région. La sortie a complètement ignoré une communauté spécifique dans cette zone, car les sources dont l'IA avait appris les avaient également ignorées. L'étudiant a remarqué et corrigé cet écart grâce à des références croisées. Leçon : l’IA reproduit les silences et les biais dans les sources ; Il faut se demander quelle voix manque.
Quatre modèles copiables
1) Liste de vérification des références :
TOUS les noms de source, de référence, de citation, de date et de personne dans le texte ci-dessous apparaissent dans une liste séparée. Ajoutez une note pour chacun : « revendiqué dans ce texte, doit être vérifié de manière indépendante. » Si vous n'en sélectionnez aucun, « vérifier » ; Produisez simplement une liste à vérifier afin que je puisse la vérifier à partir du catalogue/de la source. Texte : [ici]
2) Analyse des anachronismes :
Examinez le texte sur [période] ci-dessous. Mettez en évidence les termes, institutions, concepts et valeurs qui NE PEUVENT PAS appartenir à cette période. Pour chacun, écrivez brièvement pourquoi vous avez des soupçons. Porter un jugement final ; Créez une liste de soupçons que l'expert vérifiera. Texte : [ici]
3) Cadre de critique des sources :
Une critique de source est rédigée sur la source suivante : (1) Qui a pu la produire, (2) Quand, (3) Dans quel but, (4) Quels sont ses biais possibles, (5) À quelles questions faut-il se fier et lesquelles doivent être prudentes. Imposer un jugement final ; Fournissez des questions et des options de réponses possibles. Source : [ici]
4) Contrôle de volume/biais manquant :
DONT la voix et l'expérience de quel groupe pourraient manquer ou être partiales dans le résumé historique suivant ? Quelle perspective est dominante, laquelle est invisible ? Produisez ceci sous forme de liste de questions ; Je vais le remplir de références croisées. Résumé : [ici]
Invite faible/Invite forte
Faible :
Donnez-moi des sources historiques fiables et des citations à ce sujet.
L'IA est très encline à produire des références qui sont correctes dans la forme mais fabriquées dans le contenu lorsqu'on lui demande la « source » et la « citation ». Cette invite est une invitation directe à l’hallucination.
Fort :
Suggérez quel GENRE de sources (type de fonds d'archives, type de publication, institution) je devrais rechercher dans mes recherches sur ce sujet. AJUSTER une référence, un numéro de dossier ou un devis précis ; Dis-moi juste où chercher. Ensuite, je retrouverai les vraies sources dans les catalogues.
Différence : on demande à l’IA « où chercher », et non « référence réelle » ; Le risque d'hallucination est radicalement réduit et la vérification est laissée à l'humain.
Erreurs courantes
- S'appuyer sur la bonne référence. La référence inventée semble également impeccable ; doit être vérifié dans le catalogue.
- Prendre une citation directe de l’IA. Les citations ne peuvent pas être utilisées sans confirmation de la source principale/fiable.
- Au-delà de l'anachronisme. Les termes et concepts d'aujourd'hui s'infiltrent silencieusement dans le passé.
- Reproduire les préjugés. L'IA copie les silences des sources ; Il faut se renseigner sur le son manquant.
- S'appuyer sur une seule source. Les faits critiques doivent être confirmés par au moins deux sources indépendantes.
En résumé
La vérification des sources est au cœur de l’histoire et de l’archivage, et est encore plus critique à l’ère de l’IA. L'hallucination produit des sources, des citations et des événements dont la forme est parfaite mais dont le contenu est fictif ; l'anachronisme déforme le passé à travers les lentilles d'aujourd'hui ; et l’IA reproduit les biais dans les sources. La défense est une discipline : vérifier chaque référence du catalogue, comparer le contenu au document, recouper les faits critiques, filtrer par période et biais. Demandez à l’IA « où chercher », et non « la source réelle ». Le gardien de la vérité est toujours l'expert.
Tâche de candidature
Demandez à l'IA de produire une liste de ressources sur un sujet sur lequel vous travaillez (avec une invite délibérément « faible »). Extrayez ensuite toutes les références de cette sortie avec le modèle « liste de validation des références » et recherchez chacune d'entre elles dans un catalogue. Comptez combien il y en a réellement et combien sont inventés ou inexacts. Répétez le même sujet avec une « invite forte » (« où dois-je chercher ») et découvrez la différence.
liste de contrôle
- [ ] J'ai vérifié chaque référence dans le catalogue/source fiable.
- [ ] J'ai vérifié chaque devis auprès de la source principale/fiable.
- [ ] J'ai recoupé les faits critiques avec au moins deux sources indépendantes.
- [ ] J'ai filtré la sortie pour les anachronismes.
- [ ] J'ai remis en question les voix manquantes/déformées et les préjugés.