收益:
- 能够将声明分成可独立验证的组件,并识别和交叉检查每个组件的主要来源
- 能够在人工智能支持下生成和应用视觉和反向图像搜索、元数据和内部一致性测试清单
- 了解人工智能不能以准确性来判断,证据来自第一来源,确认过程必须透明地书写。
在新闻业中,除非“被证明是真实的”,否则任何句子都是真实的。事实核查——用独立证据检验主张、图像、数字或文件的真实性的行为——是该行业的支柱。社交媒体加速信息流中的记者;他必须在几分钟内测试照片是否确实是在所声称的地点拍摄的、帐户是否真实以及号码的来源。人工智能(AI)是这个过程中的组织和构思工具:它枚举验证步骤,将声明分解为各个组成部分,推断出要问的问题,列出文本中需要检查的所有声明。但这里最重要的警告变得更加严厉:人工智能不是事实核查的来源;它是事实核查的来源。你无法通过“询问”人工智能来确定某个说法是否属实。人工智能简化了流程,记者从第一手来源找到证据。问AI“这是真的吗?”询问就会引发幻觉。
一步一步:确认索赔
第 1 步——将权利要求分解为几个组成部分。 “那个机构去年裁员500人”这句话,其实是几个说法:哪个机构、哪一年、多少人、来源是什么。 AI 可以快速完成此解析;每个组件都经过单独验证。
第 2 步 — 确定主要来源。对于每个组件,“最可靠的证据在哪里?”提出问题:正式记录、原始文件、第一手证人、审计报告。人工智能可以建议去哪里寻找;但你找到了证据并打开了它。
第 3 步 — 测试图像和位置。对于照片/视频:首次发布日期、拍摄地点、天气/阴影一致性、背景标志。反向图像搜索——一种查找图像先前出现在互联网上的位置的方法——显示旧图像是否呈现为新图像。 AI列出这些检查;观察和搜索做出决定。
步骤 4 — 检查资源的身份和历史记录。开放日期、过去的帖子、社交媒体帐户的一致性。人工智能提醒我们要寻找什么;你做验证。
第 5 步——交叉确认。该关键主张已得到至少两个独立来源的验证。两个互相复制的网站不是“两个来源”;独立是必要的。
第 6 步 — 对结果进行评分并透明地书写。提供明确的判决和导致该判决的证据,例如“真实”、“误导”、“部分真实”、“证据不足”。读者应该看看你如何验证它。
注意:询问AI“这个说法是真的吗?”问“是最危险的确认错误。人工智能可以产生令人信服的“是/否”,甚至是虚构的“来源”。使用人工智能作为流程协调器;主要证据给出了真相的判决。
人工智能生成的内容和优势
人工智能也成为验证的主题:文本、声音和图像现在可以人工产生(下一个单元的主题)。因此事实核查人员会问“这个内容可能是人工智能产品吗?”他将这个问题添加到他的流程中。 AI检测工具提供指导,但不是确凿证据;真正的验证再次归结为来源、元数据和上下文。
三个迷你箱子
案例 1 — 旧图像,新声明。一名记者收到了一张据称是“今天在该城市拍摄的”火灾照片。他让人工智能产生验证步骤;第一项是“反向图像搜索”。搜索显示,同一张照片三年前在另一个国家发布过。视觉效果并未播出;记者将此事变成了事实核查。
案例2——解析索赔的速度。在一个选举季,一名记者必须在 1 分钟的谈话中对 12 项数字主张进行事实核查。 YZ 将对话分为 12 个独立的声明,并为每个声明创建了“应查找哪个官方消息来源”的列表。记者采访了12家消息人士; 4 用独立证据证明这些说法具有误导性。让人工智能进行解析而不是手动进行,节省了大约一个小时,但记者打开了每一个证据。
案例 3 — 伪造源。为了验证一个说法,实习生直接询问人工智能,“这是真的吗,消息来源是什么?”他问道。 AI 说“是”,并提供了报告名称和链接。小编打开链接:没有这样的报道。这变成了一个培训案例,向团队展示了为什么“不要向人工智能询问准确性”规则是绝对的。
可复制模板
1)将权利要求分成几个部分:
我将确认下面这句话。将其分解为可独立验证的主张。对于每项主张:(1) 哪些信息需要验证,(2) 什么类型的主要来源最可靠,(3) 在什么情况下会产生误导。不要自己说对/错。句子:[这里]
2) 目视/视频验证清单:
一张照片声称是“某日某地拍摄的”。列出我需要执行的验证步骤来测试此声明:反向图像搜索、位置线索(标牌、语言、建筑)、阴影/空气一致性、首次发布日期。写下如何执行每个步骤。想象一下我所知道的:[食谱]
3)删除文本中的所有声明:
列出下面文本中需要证实的每一个事实主张(数字、日期、归属、引用、比较)。为每个建议“应验证哪些独立来源”。单独的解释和事实。更改文本。文本:[此处]
4)独立性测试:
我找到了以下说法的 3 个来源:[总结来源]。我应该提出哪些问题来评估这些是否真正独立或重复/基于单一原始来源?果断的决策;出现控制问题。
弱提示/强提示
微弱的提示:“这个说法是真的吗?请给出你的消息来源。”
结果:人工智能给出了令人信服的判决,但来源往往是捏造的。记者陷入了虚假的信心之中。
强有力的提示:“将此声明分解为可独立验证的组件。对于每个组件,写下我应该查找的主要源类型,如果有误导性,则可能会在什么点上查找。您不判断该声明;我将从源头验证它。”
区别:强提示将AI降低为流程编辑者,防止其产生捏造的“消息来源/判断”,并将证据责任推到记者身上。
对比图
索赔类型
人工智能的贡献
主要证据
陷阱
数值数据
解析、推荐来源
正式记录/报告
AI 组成的百分比
引用/归属
分为组件
原始记录/文件
断章取义
图片/视频
清单
反向搜索、元数据
旧视觉新主张
社交媒体帐户
列出要寻找的内容
账户历史、一致性
模仿/机器人帐户
文件
标记可疑点
来源、元数据、签名
虚假/虚构文件
常见错误
- 向 AI 询问准确性。 “这是真的吗?”该问题产生捏造的判断和来源; AI不提供证据。
- 复制资源算作“两个资源”。相互转让的站点并不独立;它违反了交叉确认的原则。
- 不要反向搜索图像。将旧形象呈现为新形象是最常见的虚假信息。
- 省略上下文。在错误的上下文中提供准确的引用而产生误导也是事实核查错误。
- 不透明。不向读者展示其确认方式的确认不会激发信任。
确认的评级和透明语言
确认往往发生在“真”与“假”之间的灰色地带;一个好的事实核查员会将这种灰色转化为清晰的类别。常见的衡量标准是:真实(有主要证据支持的主张)、部分真实(部分真实但缺失或扭曲)、误导(使用技术上正确的元素创造错误印象)、错误(有证据反驳)和证据不足(既不能证实也不能反驳)。最后一类是至关重要的:仅仅因为你无法反驳某个主张并不意味着它就是真的;说“证据不足”也是诚实的事实核查,比向读者推销虚假的确定性要好。
除了评级之外,确认消息所显示的证据痕迹也是信任的基础。读者应该能够看到正在查看哪个文档、正在谈论哪个来源、反向搜索揭示了什么;仅仅说“我们进行了调查,结果证明这是错误的”是不够的。这就是人工智能可以帮助您将事实核查过程转变为证据网格的地方:每个主张、其所依据的证据以及给出的评级都在一起。这样的表格既可以让编辑内部编辑的工作变得更加轻松,又可以让读者相信出版时的确认。请记住:事实核查的目的不仅仅是发现虚假信息,而是让准确的信息可见且可追溯。
总之
验证是将声明分解为各个组成部分,为每个组成部分找到主要证据,测试图像和来源,进行独立的交叉检查,并透明地写出结果。在此过程中,人工智能会解析声明、创建清单、建议查看位置,但不会做出真相判断或生成来源。最难的规则:问 AI“这是真的吗?”没有人问;证据来自第一手来源,即记者之手。
应用任务
选择社交媒体上流传的主张或图片。按照“将声明分解为组件”和(如果可见)“视觉验证清单”提示进行操作。在实际的主要来源中搜索人工智能提取的每个成分;将结果评价为“真实/误导/部分/证据不足”,并在 5 项中写下您的验证方式。
清单
- [ ] 我将声明分解为独立的部分并分别验证每个部分。
- [ ]我不是要求AI判断真理;我从主要来源找到了证据。
- [ ] 我使用反向搜索和位置线索来测试图像。
- [ ] 我通过至少两个真正独立的消息来源证实了这一关键主张。
- [ ] 我向读者透明地展示了我如何验证。