收益:
- 能够使用人工智能,而不是寻找来源,而是总结您提供的真实文章,建立搜索策略并将其定位为语言工具
- 了解伪造引文的机制,并通过 PubMed/DOI 独立验证来消除每个引文
- 能够提供科学主张和数字并透明地声明人工智能的使用
生物学家的大部分时间都花在阅读和写作上:跟上该领域的步伐,了解某个主题的研究程度,将他的发现转化为论文、论文或资助申请。人工智能在这两个领域都提供了巨大的加速;但这正是它包含最危险陷阱的地方:幻觉引用。该模型可以生成根本不存在但看起来极其真实的文章署名。在本单元中,我们将学习在文献综述和科学写作中安全地使用人工智能。
基本原则:让人工智能加快你的打字速度,而不是你的思考和校对速度。
人工智能在文献综述中的正确作用
人工智能不是文献数据库。通用法学硕士无法可靠地知道哪篇论文存在,也无法生成实际的引用。适合该工作的工具:
- PubMed、Google Scholar、Semantic Scholar:真实文章搜索。
- 引文链接工具(例如 Connected Papers、Litmaps):以可视化地图形式查找相关文章。
- 基于文档的 AI:总结您提供的实际文章(PDF/文本)并根据该文本回答您的问题的工具。这里模型并不构成源,它会处理您提供的内容。
安全使用法学硕士:总结您找到的真实文章,进行比较,向您解释主题,建议搜索词。
提示:不要告诉 AI“给我 10 个关于这个主题的来源”;相反,“我应该在 PubMed 中就该主题使用哪些搜索词?”问。然后你就可以做出真正的决定了。该模型的可靠性不在于寻找资源,而在于建立搜索策略。
伪造归因问题:原因以及如何避免
LLM 产生文本;它与“下一个可能的单词”的逻辑一起工作。当要求引用时,它不会回忆实际的文章,而是“生成”看起来逼真的署名:合理的作者姓名、真实的期刊、适当的年份,甚至是假的 DOI。其中大多数从未存在过。保护:
- 独立验证每个引文:在 doi.org 上搜索 DOI,在 PubMed 上搜索引文。
- 只引用您自己读过的文章。
- 切勿将模型生成的引文直接放入参考书目中。
- 即使您使用的是基于文档的工具,也要检查引用是否在实际文本中。
人工智能在科学写作中的应用
这里人工智能确实很强大,因为它不再充当“信息源”,而是充当“语言工具”:
- 草稿生成:方法段落的第一个版本,摘要。
- 语言纠正:流利性和语法,特别是对于非英语母语者。
- 重组:将分散的笔记纳入逻辑流程。
- 不同的受众:为专家、学生或公众重写相同的发现。
- 回复信:对裁判员意见的回复草稿。
但科学主张、数字和参考文献必须始终来自您并由您验证。
一步一步:处理文章摘要
- 查找实际文章(PubMed/Scholar)。
- 将文本交给AI(摘要或全文)。
- 要求提供结构化摘要:问题、方法、发现、局限性。
- 将声明与文本进行比较:模型是否做了任何补充?
- 将其转移到您自己的笔记中,并记录来源和真实的引文。
可复制的提示模板
将以下文章摘要总结为 5 个标题:(1) 研究问题,(2) 方法和样本,(3) 主要发现(带数字),(4) 局限性,(5) 与我的研究的关系。不要添加任何文本中没有的信息。正文:【摘要】
建议有效的搜索字符串以在 PubMed 中搜索以下主题:关键术语、同义词、MeSH 术语和布尔运算符。主题:[主题]。不要给我一个来源列表,只要给我一个搜索策略。
此方法简化了我的段落并修复了语法,但不更改任何数值、方法名称或断言。标记更改。文本:[段落]
针对三种不同的受众重写我的发现:(1) 领域专家,(2) 本科生,(3) 公众。保持科学准确性,不夸大其词。发现:[文字]
弱提示/强提示
弱:“写一篇关于 CRISPR 的介绍并添加来源。”
Strong:“以下是我自己阅读并验证的4篇文章(附有引文)。根据这些文章,起草一篇关于植物育种中CRISPR的介绍性段落;在括号中标明这4个来源中哪一个支持每个主张;不要添加任何不在这些来源中的主张。”
区别:在强大的提示中,您提供资源,模型仅使用它们。消除了伪造归因的风险。
三个迷你箱子
案例一——假DOI:一名研究生在论文引言中包含了人工智能提供的8个来源。顾问检查后发现,其中3个根本不存在,其中2个作者是错误的。学生必须彻底修改整个参考书目。教训:永远不要相信模型的归因。
案例 2 — 新增发现:一名研究人员总结了一篇论文;该模型添加了摘要中未包含的“统计显着性”短语。研究人员将其与文本进行比较时注意到了差异。教训:始终将摘要与来源进行比较。
案例3——正确用法:一位非英语母语的研究员让AI精简了他写的方法部分;他规定不得更改数字和索赔。结果是文本更具可读性,且不会扭曲含义。教训:作为一种语言工具,人工智能非常出色。
对比图
任务
人工智能可靠吗?
正确的工具/方法
采购
不
考研/学者
生成引文
没有(弥补)
手动验证
总结给定的文章
是(通过文字确认)
法学硕士+比较
语言矫正
是的
法学硕士
创建草稿
是(向您索赔)
法学硕士
搜索策略
是的
法学硕士
常见错误
- 使用模型的归因而不验证它:最常见和最有害的错误。
- 将 LLM 误认为搜索引擎:它找不到真正的文章。
- 依赖摘要而不阅读源代码:可能会导致模型添加/扭曲。
- 让人工智能产生主张:科学主张必须来自你。
- 抄袭和原创:将模型生成的文本呈现为我自己的句子;可能违反期刊政策。
注意:许多期刊和机构要求披露人工智能的使用情况,但不承认人工智能是作者。透明地表明您在人工智能支持的写作中使用的工具和范围;您对最终文本的准确性负责。
系统筛选与人工智能前沿
人工智能在想要全面、公正地扫描整个主题的系统评论中似乎很有吸引力,但应谨慎使用。系统检索的本质是可重复且透明的检索策略:记录检索了哪些数据库、使用什么术语、使用什么包含/排除标准。人工智能可以帮助您制定此策略、扩展条款并编写筛选方案。但真正找到文章的是实际的数据库搜索;仅仅因为模型说“这里有相关研究”并不能替代筛查,并且可能会错过重要的研究。
另一个强大且安全的用途是帮助筛选大量文章:筛选数百篇摘要以查看它们是否符合您的纳入标准需要时间。该模型可以根据您的标准将每个摘要预先分类为“可能相关/不相关”;但包含不确定情况的最终决定仍然取决于人类。再次强调,模型不是决策者,而是预筛选辅助工具。
根据以下纳入标准评估以下文章摘要:[标准]。分类为“相关/不相关/不确定”并用一句话给出理由。最终决定权在我;您只需预审即可。摘要:[文本]
我的写作中隐藏着人工智能的痕迹
人工智能生成的文本有时过于笼统、重复,或者“很酷但空洞”。具体性在科学写作中至关重要:每个句子都应该传达一些信息。不要按原样保留模型大纲,而是在每个段落开始时提出这样的问题:“这句话真的说了些什么,还是只是填充物?”排除。此外,模型生成的文本有时包含微妙的错误术语或常见但错误的表达;用领域专家的眼光检查每个技术术语。 AI 是一个很好的初稿生成器;他不是一个好的校对员。最终的阅读者永远是你。
为什么要构成归因:了解机制。
将模型的归因伪造视为其工作方式的自然结果,而不是“错误”,使其更容易受到保护。在训练过程中,模型会学习数百万个真实署名的模式:作者姓名、期刊名称的格式、DOI 的结构。当请求引用时,它不会“查找”实际记录;而是“查找”实际记录。它“生成”一个统计上合理的标签,符合它所学到的模式。所以结果看起来很现实但可能并不真实;他甚至可能将真正作者的名字纳入他从未写过的文章中。一旦您理解了这种机制,规则就会变得清晰:模型生成的任何标识符在您在数据库中看到之前都不会被视为存在。依赖于文档的工具(您提供实际文本)可以降低这种风险,因为模型依赖于您提供的文本而不是拟合;但仍要检查该引用是否确实在该文本中。
总之
人工智能不会在文献搜索中找到(弥补)来源,但它会总结您提供的实际文章,构建搜索策略并简化您的写作。最大的危险是虚构的归因;独立验证每个署名并仅使用您已阅读过的来源。科学主张、数字和引文均来自您;人工智能只会强化语言和秩序。透明地声明使用情况。
应用任务
将您实际阅读的文章(摘要或全文)交给人工智能,并创建结构化摘要(问题、方法、发现、限制)。将摘要与源文本进行比较,看看模型是否添加或扭曲了任何内容。分别向模型询问同一主题的资源列表;搜索他在 PubMed 上给出的每一条署名,并计算有多少是真实的。
清单
- [ ] 我自己在 PubMed/Scholar 中找到了来源,我没有让它们适合模型。
- [ ] 我已经独立验证了每个引文。
- [ ] 我将摘要与源文本进行了比较。
- [ ] 我自己提供了科学主张和数据。
- [ ] 我只引用了我读过的资料。
- [ ] 我已经透明地声明了人工智能的使用。