Gains :
- Capacité à vérifier systématiquement une allégation par la provenance, la crédibilité de la source et des étapes de vérification croisée indépendantes
- Capacité à comprendre que l'intelligence artificielle elle-même peut produire de fausses informations par le biais d'hallucinations, de biais dans les données d'entraînement et de flatterie, et à traiter ses résultats avec une suspicion accrue
- Capacité à tester les biais en marquant le résultat avec une étiquette de niveau de confiance claire et en évaluant le même événement sous différents angles
La diplomatie fonctionne avec l'information, et la valeur de l'information dépend de son exactitude. Un briefing, une position de négociation ou une déclaration publique fondée sur des informations incorrectes a des conséquences difficiles à inverser. C'est pourquoi l'une des compétences les plus essentielles d'un diplomate est la vérification à la source : évaluer systématiquement l'origine d'une affirmation, sa fiabilité et sa véracité. Dans cette unité, vous apprendrez comment intégrer l'intelligence artificielle dans la vérification ; mais vous apprendrez à l'utiliser tout en gardant à l'esprit que l'IA elle-même peut être une source de désinformation et de biais.
Séparons d'abord les trois concepts. Désinformation : des informations incorrectes sont diffusées involontairement. Désinformation : désinformation produite et diffusée consciemment et de manière ciblée. Préjugé : déplacement systématique de l'information ou de l'évaluation vers un certain côté. Un diplomate doit être attentif à ces trois aspects, et l’IA peut être à la fois une aide et un risque dans ces trois domaines.
Étape par étape : vérifier une réclamation
1. Énoncez clairement la revendication. Que faut-il vérifier exactement ? Réduisez-le à une affirmation unique et claire comme « Le pays X s’est retiré de l’accord Y ». Les allégations floues ne peuvent pas être vérifiées.
2. Trouvez votre origine. Où, quand et par qui cette affirmation a-t-elle été formulée pour la première fois ? La plupart des informations erronées proviennent d’une seule source douteuse et sont amplifiées. Revenez à la source.
3. Évaluez la crédibilité de la source. La source est-elle officielle, indépendante ou partiale ? A-t-il fourni des informations exactes dans le passé ? A-t-il un intérêt direct à cela ? Même une source fiable peut se tromper ; mais une source peu crédible nécessite une confirmation supplémentaire.
4. Vérifiez par recoupement. Confirmez l’affirmation auprès d’au moins deux sources indépendantes et fiables. 50 sites alimentés par la même agence de presse ne sont pas des sources indépendantes.
5. Testez la cohérence interne et le contexte. L’affirmation est-elle cohérente en interne ? Est-ce que cela contredit les faits connus ? Sorti de son contexte ? Une phrase vraie peut être trompeuse dans un mauvais contexte.
6. Marquez le résultat avec le niveau de confiance. Donnez une étiquette claire telle que « vérifié », « partiellement vérifié », « fournisseur unique », « n'a pas pu être vérifié », « faux ». Même « je ne suis pas sûr » est une conclusion et doit être énoncé honnêtement.
Conseil : Plus une affirmation résonne ou suscite une réponse émotionnelle, plus vous devez la vérifier méticuleusement. La désinformation cible l’émotion même de la colère, de la peur ou « les nouvelles que nous voulons ». Les informations qui vous incitent à agir rapidement sont souvent celles qui nécessitent le plus de vérification.
L’IA elle-même est une source de risque
La mise en garde la plus importante de cette unité : l’IA n’est pas une autorité de vérification ; Cela peut en soi générer de la désinformation et des préjugés. L’IA peut induire en erreur de trois manières :
1. Hallucination : présente une source, une citation ou un événement inexistant comme étant réel. "Quelle source confirme cette affirmation ?" Lorsque vous le demandez, il peut même vous donner un nom de source inventé.
2. Biais des données de formation : L’IA reflète la perspective dominante dans les textes sur lesquels elle est formée. Si le point de vue d’une partie du monde sur une question particulière domine les données, l’IA peut influencer cette tendance. Ce n’est pas intentionnel, mais le reflet des données – mais le résultat reste toujours un résultat biaisé.
3. Sycophanie : l'IA peut avoir tendance à répondre à la question d'une manière qui vous plaît. Si vous souhaitez vérifier une affirmation, celle-ci a tendance à produire une réponse qui la soutient.
Utilisez donc l'IA comme outil de vérification (édition des sources, signalement des conflits, aide au traçage de la provenance), mais ne prenez jamais l'IA disant « c'est vrai » comme le dernier mot.
Attention : lorsque vous demandez à l'IA de vérifier une source, vérifiez si l'IA vous montre une source réelle ou produit une fabrication d'apparence plausible. Ne le considérez pas comme « vérifié » tant que vous n'avez pas ouvert et vu indépendamment chaque nom de source, lien et citation qu'il donne. Une source concoctée par l’IA peut sembler plus convaincante qu’une source réelle.
trois mini-cases
Cas 1 — Vérification de l'origine enregistrée. Une capture d'écran "d'annonce officielle" déposée sur la table et elle semblait réelle. La vérification a montré qu'une telle déclaration n'existait pas sur les chaînes officielles de cette institution ; l'image était fausse. La vérification de l'origine a empêché une fausse déclaration d'entrer dans le briefing.
Cas 2 – Source fabriquée par l’IA. Un expert a demandé à l’IA de vérifier une statistique. YZ a cité une source en disant "d'après le rapport 2023 de cette organisation..." Il a cité la source experte : il n'y avait ni un tel rapport ni un tel chiffre ; L'IA avait inventé les deux. Une vérification indépendante a détecté une « confirmation » fabriquée de toutes pièces.
Cas 3 — Compensation de biais. Un expert a demandé à l'IA de résumer un événement controversé et a remarqué que le résultat était nettement proche du récit d'une partie. Lorsque j'ai demandé à nouveau « résumez le même événement du point de vue de l'autre partie », une image très différente est apparue. La comparaison des deux résultats a évité d’introduire un cadre unilatéral dans le rapport.
Quatre modèles copiables
1) Protocole de vérification des réclamations :
Votre rôle : analyste de validation. Pour l'affirmation suivante : (1) réduire l'affirmation à une phrase nettek, (2) trouver où/quand elle est mentionnée pour la première fois dans les sources que j'ai données, (3) combien de sources INDÉPENDANTES la soutiennent, (4) y a-t-il des sources contradictoires, (5) marquer le résultat avec l'une des balises suivantes : vérifié / source unique / contradictoire / non vérifié. Fabrication des sources ; Utilisez simplement ce que je vous donne. Réclamation+sources : [ici]
2) Tests de biais de l'IA :
Tout d’abord, résumez l’incident suivant aussi objectivement que possible. Résumez ensuite le MÊME événement séparément (a) du point de vue de la partie A, (b) du point de vue de la partie B. Énumérez les différences entre les trois versions. Ainsi, on peut voir quels points sont l'interprétation des parties et quels sont les faits communs. Cas/sources : [ici]
3) Évaluation de la fiabilité des sources :
Évaluez la source suivante : type (officiel/indépendant/biaisé/anonyme), intérêt potentiel pour le sujet, informations fournies sur la crédibilité passée, étapes supplémentaires requises pour la vérification. Notez également pourquoi la source pourrait être erronée. Source : [ici]
4) Drapeaux rouges sur la désinformation :
Scannez le contenu ci-dessous à la recherche de désinformation. Recherchez ces signaux : statistiques non sourcées, langage provoquant des émotions, images sans contexte, pression du « dépêchez-vous/partage », mot d'autorité invérifiable, diffusion coordonnée simultanée. Marquez chaque constatation avec une justification. Ne portez pas de jugement définitif. Contenu : [ici]
Invite faible/Invite forte
Invite faible :
Cette affirmation est-elle vraie ? Recherchez en ligne et faites-le-moi savoir.
L’IA disant « vrai » n’est pas une vérification ; Il peut donner de fausses sources ou produire une réponse biaisée ou flatteuse.
Invite puissante :
Votre rôle : analyste de vérification. Vous trouverez ci-dessous une affirmation et les sources que j'ai collectées. Ne me dites pas « bien/mal » ; Au lieu de cela : montrez l’origine de l’affirmation, le nombre de sources indépendantes, les contradictions éventuelles et le niveau de confiance. Ne dépassez pas les sources que j'ai données, n'inventez pas de sources. Si vous n'êtes pas sûr, marquez-le comme « nécessite une vérification humaine ». Réclamation+sources : [ici]
La différence est claire : exiger la provenance, une confirmation indépendante et un niveau de confiance plutôt qu’un jugement « vrai/faux » limite les risques de l’IA.
Tableau des statuts de vérification
Étiquette
Signification
Utilisation dans le rapport
Vérifié
Au moins 2 sources indépendantes fiables
Peut être utilisé comme étui
Partiellement confirmé
Certains ont confirmé
Limité, avec explication
source unique
Une seule source
En tant que "réclamation", confirmation requise
contradictoire
Les sources ne correspondent pas
Présenté comme une incertitude
Impossible de vérifier
Aucune confirmation trouvée
Non utilisé comme un fait
faux
Le contraire a été prouvé
En guise de correction dans le rapport
Erreurs courantes
- Considérant que l'IA dit "correct" comme validation. L’IA peut fabriquer, biaiser ou flatter.
- Ouvrir la source donnée par l'IA et l'accepter sans la voir. Les sources fabriquées semblent convaincantes.
- Vérification de petites informations qui correspondent à vos besoins. Les informations émotionnelles/appropriées sont celles qui nécessitent le plus de confirmation.
- Confondre l'abondance des copies avec une confirmation. Des centaines de sites alimentés par la même source constituent une seule source.
- Je ne teste pas du tout les biais. Résumer le même événement sous différents angles permet d’obtenir un équilibre.
En résumé
La vérification à la source est le fondement de la connaissance diplomatique, et l’IA constitue à la fois une aide et un risque dans ce travail. L'IA organise les sources, aide au suivi de la provenance et au signalement des conflits ; mais il peut lui-même générer de la désinformation en raison d'hallucinations, de biais dans les données d'entraînement et de flatterie. Le traçage de la provenance, la vérification croisée indépendante, la séparation de la crédibilité des informations source, l'étiquetage du niveau de confiance et un doute supplémentaire sur la sortie de l'IA sont l'épine dorsale de cette unité.
Tâche de candidature
Choisissez une affirmation actuelle et controversée et rassemblez des sources de différents genres. Évaluez la réclamation de provenance et la vérification indépendante avec le « protocole de vérification des réclamations ». Avec le « test de biais IA », résumez le même événement sous différents angles et listez les différences. Si l'IA donne une ressource, ouvrez-la indépendamment et vérifiez si elle existe réellement.
liste de contrôle
- [ ] J'ai réduit la revendication à une seule phrase claire et j'ai cherché son origine.
- [ ] J'ai recoupé avec au moins deux sources indépendantes fiables.
- [ ] J'ai vérifié de manière indépendante chaque source fournie par AI.
- [ ] J'ai testé le biais en résumant le même événement sous différents angles.
- [ ] J'ai marqué le résultat avec une étiquette de niveau de confiance claire.