收益:
- 能够使用人工智能,而不是作为证据来源,而是作为指南简化和搜索路线图的助手
- 知道人工智能可以伪造不存在的文章和来源,并能够验证原始来源的每一个参考和声明
- 能够通过“处理我发现的这段文字”而不是“提供信息”的方法来最大限度地降低产生幻觉的风险
助产学是一个不断变化的知识领域。昨天的真相可能已在今天的指南中更新;随着时间的推移,某种做法的证据会加强或被放弃。一名优秀的助产士能够看到“一直都是这样做的”和“目前的证据表明如此”之间的区别。循证实践(基于当前可靠的研究结果和指南做出护理决策)是助产服务的质量保证。人工智能在这里对两件事非常有帮助:简化和理解复杂的指南或文章,以及提供研究主题时应该查看的路线图。但这里有一个最关键的限制:人工智能不是证据来源;它是证据。它是通往源头之路上的助手。
在本单元中,我们将学习像“文学助手”一样使用人工智能,但永远不要直接依赖它产生的“事实”主张。 AI可以给你总结一项研究;但你要从原始来源核实该研究是否存在、它说了什么、是否是最新的。
请注意:大型语言模型可能会欺骗不存在的文章、作者、期刊,甚至伪造“DOI”(出版物的数字识别号)。这是证据筛选中最阴险的幻觉形式。因为编造的参考书目看起来很真实。在未找到原始来源之前,请勿使用人工智能给出的任何参考。
人工智能擅长做什么,不能做什么?
他们擅长什么(领先):
- 将您拥有的指南/文章翻译成通俗易懂的语言并提取其要点。
- 建议您可以使用哪些关键字和哪些来源类型(指南、系统评论、专业组织出版物)来搜索某个主题。
- 标记与您的问题相关的文本部分。
- 用日常语言解释复杂的统计数据(例如“相对风险”、“置信区间”)。
他们永远不能做的事(不能替代资源):
- “根据自己的记忆”自信地提供最新且准确的证据。 AI训练的数据被冻结在特定日期;稍后更新可能不会出现。
- 正确地展示索赔所依据的证据(可以弥补参考)。
- 确保指南的最新版本。
- 了解应用程序是否符合您所在国家/机构的适用协议。
一步一步:安全证据扫描
- 澄清问题:“在这种情况下,当前指南建议采取哪种做法?”提出一个具体的问题,例如:
- 使用人工智能制定路线图:询问要查看哪些来源、使用哪些关键字。
- 转到原始来源:卫生部指南、公认的专业组织出版物、可靠的数据库——开放来源本身。
- 让人工智能总结您拥有的来源:粘贴您找到的文本并说“仅根据此文本进行总结”。所以AI不会编造事情,它只是处理你面前的文档。
- 当前性和上下文控制:自行检查资源的日期及其是否符合您所在机构的协议。
- 决定:申请决定仍然属于助产士/医生;证据成为决策的输入,它不会取代决策。
第四步——“向人工智能总结你自己的文本”——是本单元的黄金法则。当你使用人工智能作为文本的处理器而不是信息来源时,产生幻觉的风险就会大大降低。
三个迷你箱子
案例 1 — 简化指南:助产士没有时间阅读最新的 60 页产前护理指南。他将指南的 PDF(公开的官方文件)交给 YZ,并表示:“仅根据这份文件,总结与助产士有关的主要主题和实际变化。” 20 分钟的工作变成 5 分钟。然后他从指南的相关页面一一确认了摘要中的三个关键点。 AI减轻阅读负担;助产士保证准确性。
案例 2 — 虚假参考书目捕获:第二位助产士告诉 AI 进行演示,“给我 5 项关于这个主题的最新研究。” YZ 按标题-作者-年份-期刊列出了 5 项研究;这一切都非常有说服力。当助产士试图从源头寻找每一件物品时,她发现其中两件根本不存在。他扔掉了这份清单,转而自己在可靠的数据库中进行搜索。教训:在找到来源之前,人工智能给出的引文被认为是“不存在的”。
案例 3 — 统计翻译:在第三个示例中,助产士无法理解实际研究摘要中的“相对风险 1.4(95% 置信区间 1.1–1.8)”陈述。他将表情粘贴到人工智能中并说道:“用日常语言向我解释一下,不要添加新信息。” “该事件发生在该群体中的概率约为 1.4 倍,而且这种增加似乎具有统计显着性,”YZ 解释道。助产士理解这个概念,但会评估在临床环境中的转化。
可复制模板
角色:你是文献路线图助理(不是信息来源)。问题:[具体的临床/实践问题]。任务:为了研究这个问题,(1)我应该寻找什么类型的来源(指南、专业组织、系统评价等),(2)我可以用什么关键词搜索,(3)我应该注意什么(当前情况,国家)?规则:具体研究/制作引用;只要告诉我去哪里看就可以了。
角色:你是源总结助理。任务:仅基于我在下面粘贴的文本进行总结。不要添加文本中没有的任何信息、数字或结论。如果您对某一点不确定,请写下“[文字中不清楚]”。单独列出与助产士相关的实际影响。文本:[粘贴文档]
角色:统计/术语翻译。任务:用助产士能够理解的日常语言解释以下句子。添加新数据/评论;只是简单化意思。如果不清楚,就说不清楚。句子:[统计/术语]
角色:您是验证检查助理。任务:列出下面文本中的每个证据声明和每个参考文献;在每一项旁边写上“[从原始来源进行验证]”。请勿评论;只提取需要验证的项目。文本:[文本]
弱提示/强提示
弱:“目前关于怀孕期间使用 X 的证据是什么?请提供来源。”
结果:人工智能从自己的(冻结且不完整的)记忆中产生过时的“证据”,可能带有捏造的归因。
强:
角色:文献路线图助理。怀孕期间X应用应该寻找哪些类型的来源和关键词,在最新性方面应该注意什么?具体工作/引文制作;只要告诉我去哪里看就可以了。
区别:强烈提示将AI置于路线图而非资源的角色;它可以防止您生成虚假引文并将您引导至真实来源。
人工智能在证据链中的地位
商业
人工智能
助产士
建议致电地点/方式
是的
拨打电话
总结我所拥有的文件
是的(只是那个文字)
真理
统计/术语翻译
是的
把它放在上下文中
从内存中导出当前证据
不
从原始来源找到它
引文/来源生成
没有(可以补)
他自己找到了源头
实施决定
不
助产士/医生
提示:当向人工智能询问证据时,请始终切换到“处理我自己找到的文本”模式。问题不应该是“给我找到证据”,而应该是“帮助我理解我找到的证据”。这种单一的心理变化消除了大部分产生幻觉的风险。
常见错误
- 误认为人工智能是信息源:人工智能不是信息源;而是信息源。他的记忆被冻结且不完整。
- 未经核实而使用引文:捏造的参考书目很有说服力;每个参考文献都必须来自原始来源。
- 假设是最新的:人工智能可能会将旧版本呈现为“最新”;日期由你掌控。
- 跳过国家/机构背景:通用证据可能并不完全适合您的方案。
- 不给出摘要的实际文本:如果你不给出文本,AI 会补上;总是说“只要依靠这篇文章”。
- 用证据代替决策:输入证据;申请决定权属于助产士/医生。
总之
在证据筛选中,人工智能是一个强大的路线图和文本处理器:它简化了指南,建议去哪里查看,将统计数据翻译成日常语言。但他并不是证据的来源——他的记忆被冻结了,他可能不完整,而且他可以编造归因。黄金法则:以“处理我找到的文本”模式使用人工智能,而不是“提供信息”;验证原始来源的每项声明和归属;检查自己是否处于最新状态并遵守机构的协议。应用决定始终属于助产士和医生。
应用任务
查找最新的、官方的、公开的助产/产前护理指南。使用摘要模板总结来源,说“仅基于此文本”,然后从指南的相关部分确认摘要中的三个关键点。然后向人工智能询问同一主题的“工作列表”,并尝试从其来源查找每个引文;注意实际存在的数量。这个实验体现了为什么你不应该相信人工智能作为一种资源。
清单
- [ ] 我使用人工智能作为路线图/文本处理器,而不是来源。
- [ ] 我给出了摘要的原始文档并说“仅依赖此文本”。
- [ ] 我已经验证了原始来源的每项归属和证据主张。
- [ ] 我检查了来源的最新性及其对机构协议的遵守情况。
- [ ] 我有意识地测试了是否是虚构的归因。
- [ ] 我根据临床判断而非证据做出申请决定。