收益：
- 能够通过出处、来源可信度和独立的交叉检查步骤系统地验证声明
- 能够理解人工智能本身可以通过幻觉、训练数据偏差和奉承产生虚假信息，并以额外的怀疑态度对待其输出
- 能够通过用清晰的置信度标签标记结果并从不同角度评估同一事件来测试偏差
外交依赖于信息，而信息的价值取决于其准确性。基于不正确信息的简报、谈判立场或公开声明会产生难以逆转的后果。这就是为什么外交官最重要的技能之一就是来源验证：系统地评估某个说法的来源、可靠性以及是否属实。在本单元中，您将学习如何将人工智能融入验证中；但您将学习如何使用它，同时记住人工智能本身可能是错误信息和偏见的来源。
我们先来区分一下这三个概念。错误信息：不正确的信息无意中传播。虚假信息：有意识地、有针对性地制造和传播的错误信息。偏见：系统地将信息或评价转向某一方。外交官必须对这三者保持警惕，而人工智能对这三者既可以提供帮助，也可以带来风险。
一步一步：验证索赔
1. 清楚地陈述主张。具体要验证什么？将其归结为一个单一、明确的主张，例如“X 国退出 Y 协议”。模糊的说法无法得到验证。
2.找到你的起源。这一主张是在何时何地由谁首次提出的？大多数错误信息源自单一可疑来源并被放大。回到源头。
3. 评估来源的可信度。消息来源是官方的、独立的还是有偏见的？他过去提供过准确的信息吗？他在这方面有既得利益吗？即使是可靠的来源也可能是错误的；但可信度低的来源需要额外确认。
4. 交叉检查。至少通过两个独立、可靠的来源确认该说法。由同一通讯社提供的 50 个网站并非独立来源。
5. 测试内部一致性和背景。该主张内部是否一致？它与已知事实相矛盾吗？断章取义？正确的句子在错误的上下文中可能会产生误导。
6. 用置信度标记结果。给出明确的标签，例如“已验证”、“部分验证”、“唯一来源”、“无法验证”、“虚假”。即使“我不确定”也是一个结论，应该诚实地说出来。
提示：一个主张越能引起共鸣或引起情绪反应，你在验证它时就应该越仔细。虚假信息针对的是愤怒、恐惧或“我们想要的新闻”等情绪。提示您快速采取行动的信息往往是最需要验证的信息。
人工智能本身就是风险源
本单元最重要的警告：人工智能不是验证权威；它本身就会产生错误信息和偏见。人工智能可能会通过三种方式产生误导：
1. 幻觉：将不存在的来源、引用或事件呈现为真实的。 “哪个消息来源证实了这一说法？”当你询问时，他甚至可能会给你一个虚构的来源名称。
2. 训练数据偏差：AI 反映了其训练文本中的主导观点。如果世界某个地区对某一特定问题的看法主导了数据，人工智能就会产生这种影响。这不是故意的，而是数据的反映——但结果仍然是有偏差的输出。
3.阿谀奉承：人工智能可能倾向于以让你满意的方式回答问题。如果你想验证一个主张，它往往会产生一个支持它的答案。
因此，使用人工智能作为验证工具（编辑来源、标记冲突、帮助溯源），但永远不要将人工智能说“这是真的”作为最终决定。
注意：当你让人工智能验证来源时，请检查人工智能是否向你显示真实来源或产生看似合理的捏造。在您独立打开并看到他提供的每个来源名称、链接和引文之前，不要认为它“已验证”。人工智能炮制的消息来源可能看起来比真实消息来源更有说服力。
三个迷你箱子
情况 1 — 已保存来源验证。一张“官宣”截图落在桌子上，看起来很真实。经核实，该机构官方渠道无该声明；该图像是假的。来源检查防止虚假陈述进入简报。
案例 2 — AI 伪造源。一位专家让人工智能验证了一项统计数据。 YZ援引消息人士的话称，“根据该组织2023年的报告……”他致电专家消息人士：既没有这样的报告，也没有这样的数字；人工智能已经弥补了两者。独立检查发现了捏造的“确认”。
情况 3 — 偏差抵消。一位专家让人工智能总结了一个有争议的事件，并注意到输出明显接近一方的叙述。当我再次提出“从对方的角度总结同一事件”时，一幅截然不同的画面出现了。比较这两种结果可以防止在报告中引入片面的框架。
四个可复制模板
1）声明验证协议：
您的角色：验证分析师。对于以下声明：(1) 将声明简化为 nettek 句子，(2) 查找在我提供的来源中首次提及的位置/时间，(3) 有多少独立来源支持它，(4) 是否存在任何冲突的来源，(5) 使用以下标签之一标记结果：已验证/单一来源/矛盾/未验证。源头制造；只需使用我给你的东西即可。声明+来源：[此处]
2）AI偏差测试：
首先，尽可能客观地总结以下事件。然后分别总结同一事件（a）从甲方的角度，（b）从乙方的角度。列出三个版本之间的差异。由此可见哪些观点是当事人的解释，哪些观点是共同事实。案例/来源：[此处]
3）来源可靠性评估：
评估以下来源：类型（官方/独立/有偏见/匿名）、对此事的潜在兴趣、提供的有关过去可信度的信息、验证所需的其他步骤。还要写下为什么来源可能是错误的。来源：[此处]
4) 虚假信息危险信号：
扫描以下内容以查找虚假信息。寻找这些标志：无来源的统计数据、煽动性的语言、没有上下文的图像、“赶紧/分享”压力、无法验证的权威词、同时协调的传播。标记每个发现的理由。不要做出最终判断。内容：[这里]
弱提示/强提示
弱提示：
这个说法属实吗？网上搜索一下然后告诉我。
AI说“真实”并不是验证；他可能会提供虚假消息来源或给出有偏见或奉承的答案。
强力提示：
您的角色：验证分析师。以下是我收集的声明和来源。不要告诉我“对/错”；相反：显示主张的起源、独立来源的数量、任何矛盾以及置信度。不要超出我给出的来源，也不要编造来源。如果您不确定，请将其标记为“需要人工验证”。声明+来源：[此处]
区别很明显：需要出处、独立确认和一定程度的信任而不是“真/假”判断来限制人工智能的风险。
验证状态表
标签
含义
报告中的用法
已验证
至少2个独立可靠来源
可以作为案例使用
部分确认
一些证实
有限，有解释
单一来源
只有一个来源
作为“索赔”，需要确认
矛盾的
来源不匹配
表现为不确定性
无法验证
未找到确认信息
不作为事实使用
错误的
相反的情况已被证明
作为报告中的更正
常见错误
- 将人工智能说“正确”视为验证。人工智能可以捏造、偏见或迎合。
- 打开AI给出的源码，看不到就接受。捏造的来源似乎令人信服。
- 验证适合您需求的少量信息。情感/适当的信息是最需要确认的信息。
- 将大量副本误认为是确认。来自同一来源的数百个站点是单一来源。
- 根本不测试偏见。从不同角度总结同一事件可以提供平衡。
综上所述
来源核实是外交知识的基础，人工智能对这项工作既是帮助，也是风险。人工智能组织来源，帮助进行来源跟踪和冲突标记；但由于幻觉、训练数据偏差和奉承，它本身可能会产生错误信息。溯源、独立交叉检查、源信息可信度分离、信任级别标记和对人工智能输出的额外怀疑是该单元的支柱。
应用任务
选择当前有争议的主张并收集不同流派的来源。使用“声明验证协议”评估声明的出处和独立验证。通过“AI偏见测试”，从不同角度总结同一事件并列出差异。如果AI给出一个资源，独立打开它并检查它是否确实存在。
清单
- [ ] 我将主张简化为一个清晰的句子，并寻找其来源。
- [ ] 我已经与至少两个独立的可靠来源进行了交叉核对。
- [ ] 我已经独立验证了 AI 提供的每个来源。
- [ ] 我通过从不同角度总结同一事件来测试偏差。
- [ ] 我用清晰的置信度标签标记了结果。