收益：
- 能够通过验证每个来源的存在、转到主要来源以及独立的交叉确认步骤来捕获幻觉
- 能够在人文和社会科学领域保持原创性和学术完整性，防止伪造引文和文件
- 能够教授用户人工智能时代的源验证和信息素养技能
图书馆社会使命的核心是一个承诺：可靠的信息。图书馆员不仅向用户提供信息，而且向用户提供经过验证的信息，并教他如何自己评估这些信息。在人工智能时代，这一使命变得更加艰巨，也更加重要。因为人工智能可以以非常令人信服的方式产生错误信息。在本单元中，我们将涵盖人工智能时代的幻觉识别、来源验证学科以及信息素养教学。
让我们定义一下这些概念。幻觉是指人工智能产生的信息、来源、引述或事件实际上并不存在，就好像它们是真实的一样。来源验证是确认信息基于真实、可靠和主要来源。信息素养是一个人查找信息、评估信息、质疑信息可靠性以及合乎道德地使用信息的能力。本单元旨在让图书馆员在自己的实践和教学用户中加强这些技能。
循序渐进：来源验证纪律
1. 请求来源并验证其存在。当人工智能给出一个主张或引用时，“这来自哪里？”并检查源确实存在于独立的目录、数据库或主文档中。
2. 转到主要来源。最可靠的信息形式是其第一手来源。不要满足于人工智能的摘要或辅助文本；如果可能，请访问原始文档、数据或出版物。
3. 交叉确认。至少通过两个相互独立的可靠来源验证关键主张。一种资源，特别是人工智能资源是不够的。
4. 评估来源的可信度。谁写的、何时写的、出于什么目的、基于什么证据？是最新的吗？信息的存在并不意味着它是真实的；还要质疑来源的性质。
5. 诚实地表达不确定性。如果信息无法核实，请明确说明。说“未经证实”总是比提供捏造的确定性要好。
提示：当您从 AI 获得引用或来源时，首先在实际目录中搜索标题和作者。不存在的资源会立即出现在这里。这个 30 秒的检查可以防止捏造的来源进入参考书目、作业或出版物。
人文社会科学中的真实性与验证
人文和社会科学尤其容易受到幻觉的影响。在这些领域，证据通常基于特定文档、日期、引用或评论来源。人工智能可以产生高度具体但完全捏造的说法，例如“那位历史学家说的”或“那份 1923 年的文件说的”。在文学、历史或法律著作中，这意味着虚假的证据链。
此外，原创性是这些领域的基本价值：文本、解释或翻译真正属于谁很重要。将人工智能产生的文本呈现为原创作品或依赖人工智能编造的“来源”违反了学术诚信。图书馆员是一名向导，教导用户验证以及原创性和抄袭的限制。
注意：即使人工智能生成的引文看起来逐字准确并且出自真实作者之手，该引文也可能是捏造的。仅在作者的实际作品中查找引用来验证引用； “这位作者可能会说这样的话”的逻辑是不够的。
三个迷你箱子
案例 1 — 向学生教授验证。一名图书管理员在学生的作业中看到了 5 个来自 AI 的资源。他们一起在目录中进行了检查：有 2 个来源是捏造的。学生亲身经历了“看起来不真实是不对的”的教训，并再次养成了核实每一个来源的习惯。
案例2——捏造的历史文献。一位研究人员收到了一份来自AI的“1919年报纸报道”；日期、报纸名称和内容都极具说服力。图书管理员浏览了报纸档案：当时没有这样的新闻。捏造的原始资料在写成文章之前就被抓获了。
案例 3 — 引用错误。 AI 引用了一位著名思想家的名言。图书管理员在思想家的著作中寻找这个词，但没有找到；这个词没有在任何地方被提及。交叉检查防止了错误引用的传播。
错误信息的传播链和图书馆员的角色
错误信息通常始于一个捏造的输出，但它并不止于此。用户将虚假的人工智能生成资源放入作业中；作业成为出版物；该出版物被其他人引用，因此虚构的来源通过反复引用而获得了“真实”的外观。我们可以将这种现象称为归因污染：虚假信息通过一次又一次的重复而获得合法性。图书馆员处于这个链条中最关键的一环；因为它是信息进入系统之前验证的最后一个控制点。仅仅因为某个来源“出现在许多地方”并不能证明它是真的；相反，它是真实的。相同的虚假信息可以通过相互复制而出现在许多地方。因此，交叉确认应该基于“有多少个可靠来源相互独立确认”的问题，而不是“它出现在多少个地方？”重复同一主张的十个次要来源的价值不如单个独立的主要来源。图书馆员应该将这种区别（不要将独立性与重复混淆）置于他自己的验证和对用户的教学的中心。
注意：搜索引擎或许多网页中信息的出现并不能证明其准确性。同样的错误可能会因为从一个源复制到另一个源而变得普遍。普遍性和准确性是不同的事情；确认需要独立且可靠的来源。
四个可复制模板
1）资源实体查询：
列出下面文本中的所有来源引文和引文。对于每个：作者、标题、年份和出版信息（如果有）。逐项提取我需要验证的信息；不要添加。文本：[此处]
2）可确认性评估：
对于以下每项声明，隔离需要验证的事实元素（日期、名称、数字、引用）。建议可以根据什么类型的源（目录、主要文档、数据库）进行验证。不判断准确性，只展示验证路径。断言：[此处]
3）焊接可靠性检查表：
评估以下来源的可信度：谁写的，何时写的，出于什么目的，是否有证据，是否是最新的，是否存在偏见？就根据我提供的信息，缺失的地方写上“未知”。来源信息：[此处]
4）信息素养教学计划：
为以下用户组（例如本科生）制作一个 20 分钟的关于人工智能时代的来源验证和幻觉的简短教程：目标、3 个示例、1 个应用程序。组：[此处]
弱提示/强提示
弱提示：
用可靠的来源写一个关于这个主题的摘要。
说“有可靠的来源”会鼓励人工智能产生看似真实的虚假来源；没有验证挂钩。
强力提示：
您的角色：信息素养助理。写下以下主题的摘要；相反，列出用户需要验证的事实问题以及他们可以验证这些问题的可靠来源的类型。不得伪造任何来源引用；将您不确定的区域标记为“必须验证”。主题：[此处]
强大的提示功能；它使用人工智能作为指导，展示验证方法，而不是产生答案，并从结构上防止捏造。
认证层表
层
问题
方法
实体
这个来源是真实的吗？
目录/数据库搜索
首要地位
这是最近的来源吗？
访问原始文档
确认
有其他消息来源证实这一点吗？
独立交叉检查
可靠性
来源有多扎实？
作者、日期、目的、证据
诚实
我确定吗？
清楚地陈述不确定性
常见错误
- 认为有说服力的就是真实的。外表漂亮并不能证明正义。
- 对单一来源感到满意。关键信息需要独立的交叉确认。
- 没有在其来源中寻找报价。错误的词语就是这样传播的。
- 隐藏不确定性。 “无法验证”比错误的确定性要好。
- 不教用户进行身份验证。信息素养是图书馆员的使命。
综上所述
来源验证和信息素养是人工智能时代图书馆工作最关键的任务。幻觉产生令人信服但捏造的信息，在人文/社会科学中尤其危险。纪律很明确：验证每个来源的存在，查找主要来源，进行独立的交叉检查，质疑来源的可信度，并诚实地表达不确定性。图书馆员不仅在他或她的实践中而且还通过教导用户来传播这种验证文化。原创性和学术诚信是这一使命不可或缺的一部分。
应用任务
向您所在领域的 AI 请求 6 个来源和 2 个引文。通过在实际目录中搜索以及作者实际作品中的每次引用来验证每个来源；注意有多少是捏造的。然后，使用“信息素养教学计划”模板，起草一个 20 分钟的教程，向用户组解释来源验证，并包含您自己发现的真实示例。
清单
- [ ] 我已独立验证每个来源确实存在。
- [ ] 我尽可能使用主要来源。
- [ ] 我已经与至少两个独立来源交叉核对了关键主张。
- [ ] 我在作者的实际工作中查找了这些引文，进行了验证。
- [ ] 我明确将无法验证的信息标记为“无法验证”。