单位 10 / 11

来源验证、幻觉和归因纪律

收益:

  • 知道为什么幻觉隐藏在人类领域,并能够通过五步验证链(存在、印记、引用、上下文、归因)传递每个来源
  • 能够通过 DOI、ISBN 和目录等具体标识来确认来源真实性。
  • 了解禁止人工智能造假的纪律,绝不将引用和归属诚实性的验证委托给人工智能。

文本在人类和社会领域的价值取​​决于其来源的真实性和准确传递。一篇文学论文、一篇论文、一篇讲义——所有这些都依赖于可靠的来源和诚实的归属(显示您从谁/哪里获得信息或引言)。人工智能在这一领域提供了极大的便利,但它也带来了最大的危险:幻觉,即产生不存在的来源、引用或事实作为真实的。该单位致力于建立应对这种危险的“验证装甲”。

一句话规则:未经主要或可靠来源的第一人称确认,人工智能生成的来源、引用、日期或数字都不能输入文本。该规则是该模块中重复次数最多且最不灵活的规则。

为什么幻觉在这个领域如此危险?

如果人工智能在技术问题上出现错误,通常会被注意到;但在人类领域,幻觉被巧妙地隐藏起来:

  • 真实的署名:人工智能将真实作者的姓名与适合该领域的标题和合理的年份结合起来。结果是一个不存在但看起来完全真实的源。
  • 适合风格的引用:AI可以模仿作者的风格,将不属于他的句子呈现为“他的话”。
  • 日期接近但错误:作品的年份可能会错位一两年;粗心的读者就逃不过这一点。
  • 归因混乱:可能将某个想法归因于错误的人。

所有这些都可以无声无息地渗透到具有诚实意图的作者的文本中,如果不被发现,就会损害作者的声誉和读者的信任。

注意:仅仅因为资源对人工智能来说显得“现实”,并不意味着它是真实的。现实主义和现实是两个不同的东西;人工智能擅长前者,但不能保证后者。

验证装甲:一步一步

对于每个来源和引用,请遵循以下链:

  1. 有吗?在图书馆目录、可靠的数据库或出版商的网站中搜索来源。如果找不到,则说明它不存在——请勿使用它。
  2. 印记是否正确?作者、标题、出版商/期刊、年份、页码——所有内容都必须完全匹配。
  3. 报价是真的吗?在指定页面上的源本身中查找引用,并逐字比较。
  4. 上下文正确吗?这句话是按字面意思引用的还是被歪曲了?
  5. 归因是否诚实?这个想法是否属于正确的人,是否来自被描绘为主要来源的次要来源?

如果这条链条中的一环被破坏,它就无法进入源文本。

提示:从一开始就指导人工智能:“不要给出任何你不确定是否存在的来源;如果你不确定,就说‘我找不到来源’。”这并没有完全结束幻觉,但它促使人工智能说“我不知道”而不是弥补。

引文和引文纪律

除了验证之外,诚实归因也是一门学科:

  • 直接报价,带报价单和页码;就按字面意思吧。
  • 还将间接引用(用你自己的话总结)链接到来源;如果这个想法不是你的,它需要归属。
  • 根据您组织的规则透明地说明人工智能的贡献;人工智能不是“资源”,但如果使用,就必须声明。
  • 不要将次要来源描绘成主要来源;如果您引用了另一本书的作者的话,请注明这一点。

三个迷你箱子

案例 1——五个消息来源中有两个被证明是虚构的。一位研究人员对AI给出的5个来源进行了验证过程。 2 个根本不在目录中,1 个年份错误,2 个是真实且正确的。只使用了2个经过验证的;文章免受虚构归属。

案例 2 — 发现报价失真。一名学生在一本实际的书中发现了人工智能的引述,但该引述在原始上下文中的含义完全相反。人工智能断章取义了这句话。学生用正确的上下文更正了引文。

案例 3 — 纠正了不正确的归因。在一篇讲义中,人工智能将一个观点归因于错误的作者。当老师与两个可靠来源进行交叉核对时,他找到了合法的所有者并修复了它。这张纸条幸存下来,没有给学生带来任何错误。

四个可复制模板

1) 禁止制作说明:

从现在开始:不要提供任何您不确定是否存在的来源、引用、日期或数字。如果您不确定,请说“需要验证”或“我找不到”。永远不要给出一个真实的标签,但你不能保证它的真实性。每个回复都遵循此规则。

2)来源验证路线图:

下面我会亲自验证一下来源。告诉我在哪里寻找该资源(目录、数据库、出版商)以及包含哪些关键信息。您确认该资源存在;只需给出验证步骤即可。来源:[粘贴信用]

3)引用上下文检查:

以下是引用及其出现的实际段落。引用的内容是在其原始上下文中使用的还是被歪曲了?只要相信我给你的文字即可;添加评论。引用:[...] 原始段落:[...]

4)归因完整性审核:

在我下面的文本中:哪些句子需要来源但仍未归属,哪些想法可能属于其他人,是否有地方我将次要来源显示为主要来源?建议捏造来源;只需指出缺少的引文。文本:[粘贴文本]

弱提示/强提示

弱:“给出 5 个关于该主题的学术资料和引文。”

Güçlü:“告诉我在研究这个主题时应该寻找什么样的资料来源和关键词。不要提供任何你不确定是否存在的参考文献或引用;如果你不确定,就说‘我找不到’。我稍后会给你我找到的资料来源;我会确认书中的引用。”

强大的提示关闭了幻觉之门,并将验证留给人类。微弱的提示直接引发虚拟资源的产生。

验证链表

步骤

问题

验证地点

实体

源头真的存在吗?

目录/数据库

印记

作者、年份、页码是否正确?

出版商/出版社

报价

正文中是逐字逐句的吗?

来源本身

背景

意思是不是被扭曲了?

主要段落

引文

给对的人?

交叉检查

通过永久链接和印记进行验证

有一些具体的方法可以快速可靠地确认资源是否确实存在。大多数现代学术出版物都有 DOI(数字对象标识符 - 永久分配给出版物的不变的唯一 ID;它的作用类似于链接,直接指向出版物)。如果您在浏览器中输入文章的 DOI 来访问实际的出版物,则该来源就存在;如果您找不到它或者 DOI 根本不存在,请保持怀疑。人工智能生成的“DOI”通常是虚构的并且无处可去;这是捕获想象源的最实际的测试之一。

ISBN(国际标准书号)为书籍提供类似的标识;您可以通过在图书馆目录或可靠的图书数据库中按 ISBN 搜索该书来验证该书的真实性。对于期刊,请在出版商的官方网站上查看期刊名称和卷/期信息。这些具体的身份是“来源真实吗?”这个问题的答案。它会在几分钟内清楚地回答您的问题。

这些方法将验证变成了“交易”而不是“库存”:当您亲自在目录中、通过 DOI 或在出版商网站上打开并查看每个来源时,很大程度上消除了虚假归因的风险。

提示:完成参考书目后,请进行“点击浏览”:实际打开每个来源的 DOI 或目录记录。即使单个资源打不开也是一个警告;使用正确的印记更正它或将其从列表中删除。

常见错误

  • 将现实主义误认为现实。人工智能看似合理的身份并不能证明其存在。
  • 未验证来源的引用。伪造或歪曲的报价可能会泄露。
  • 从单一来源获取历史记录。与至少两个可靠来源进行交叉核对。
  • 让次要看起来像主要。如实陈述传输链。
  • 引用人工智能作为来源。人工智能不是一种资源,而是一种资源。声明了其用途,并引用了主要来源。

总之

人文学科的诚实依赖于来源和引用的准确性。人工智能最大的危险在于它产生的来源和引述看起来很现实,但实际上并不存在。通过五步验证链(实体、信用、引用、上下文、归属)传递每个来源和引文。从一开始就禁止人工智能制造,并且永远不要将验证委托给它。这种纪律是你在这个职业中的可靠性的保证。

应用任务

尝试让人工智能建议一些来源和有关某个主题的引用。通过验证链运行每个来源:有多少实际存在,有多少有正确的归属,引用实际上在来源中吗?将结果写在表中。这次经历将具体展示AI在该领域的局限性。

清单

  • [ ] 我确认了目录中每个资源的存在。
  • [ ] 我已经逐字验证了原始来源中的每个引用。
  • [ ] 我已经检查过,引用的上下文没有被扭曲。
  • [ ] 我已经与至少两个来源交叉核对了日期。
  • [ ] 我禁止AI编造,也没有将验证委托给它。