收益:
- 能够根据风险级别将助产工作区分为绿色(使用舒适)、黄色(支持、小心)和红色(人工智能无法决定)区域
- 能够识别幻觉风险并通过验证-定制-链接规则保护每个人工智能输出
- 能够采用隐私和责任原则,并确保临床决策始终由助产士和医生负责。
助产士是一个在同一天将许多不同工作结合在一起的职业。助产士早上为孕妇测量血压并评估检查结果,下午安抚焦虑的准妈妈,下午纠正哺乳姿势,晚上准备胎教手册,最后写下笔记。其中一些工作涉及组织信息、生成和记忆文本;其中一些是临床决策,误差范围很小,直接关系到母亲和婴儿的健康。整个模块教您清楚地区分这两组,并在安全限制内仅在第一组中使用人工智能。
人工智能(简称AI;经过大量文本训练并能用人类语言书写和阅读的计算机系统)如果使用得当,可以为助产实践提供强大的帮助。这里我们专门谈论大型语言模型(LLM;一种通过与你通信来生成文本的人工智能——例如聊天助手)类型的工具。这些工具总结文本、简化小册子、编写故事、撰写约会消息。但它不会做出诊断、评估风险或推荐药物。我们将在整个模块中重复的主要原则是:
人工智能是一个助手:它生成草稿、提醒、简化。诊断、风险决策、药物治疗和临床指导是助产士和医生的责任。未经验证的人工智能输出就像未经签名的患者便条;它本身不具有约束力。
人工智能到底在助产领域加速了什么?
为了了解人工智能在助产领域的价值,我们根据风险级别将其分为三个领域。这种区别是模块其余部分的骨架。
绿色区域——舒适地使用人工智能(文本和信息工作):教育手册草稿、给孕妇的预约和准备信息、将复杂的医学文本翻译成简单的语言、简化移交说明、多语言信息文本的首次翻译、在哪里寻找有关某个主题的当前文献的路线图。在这里,人工智能节省了时间,当助产士读取并纠正它时,很容易发现输出的错误。
黄色区域——谨慎使用人工智能,仅作为支持:列出故事中的风险因素(作为提醒,而不是决定),制定危险信号清单,“记住”可能的不同情况。在这里,人工智能可以充当清单/忘记盾牌;但助产士会根据自己的知识过滤清单上的每一项,最终决定权仍在助产士手中。
红色区域——人工智能不做出决定:做出诊断(例如,先兆子痫诊断)、评估风险并做出转诊决定、确定药物和剂量、管理分娩、紧急干预决策。在这个区域内,AI的输出最多可以是一个输入;永远无法承担责任。
提示:在将一项任务外包给人工智能之前,先问自己一个问题:“如果这个输出是错误的,谁会受到影响,影响有多快?”如果伤害快速且直接地发生在母亲/婴儿身上,您就处于红色区域;使用AI仅用于编辑文本,而不是判断文本。
幻觉:为什么人工智能看似自信却是错误的
大语言模型最危险的特征是幻觉:模型以流利且自信的语言产生实际不存在的信息,就好像它是真实的一样。人工智能可以通过可信的捏造来填补这一空白,而不是说“我不知道”。助产学中的具体例子包括:编造不存在的指南声明、自信地开出不正确的药物剂量、给出错误的化验值“正常范围”、引用一项实际上尚未发表的研究。
幻觉并不是“故障”,而是这些工具工作方式的自然结果。并没有完全消失。因此,解决方案不是依赖人工智能,而是验证来自独立来源的每一个数字和临床陈述。文本的流畅性并不能证明准确性。
验证规则:ANC规则
每个 AI 输出在发布之前都经过三个步骤。我们简称为 ANC:验证 – 定制 – 连接。
- 验证:验证当前官方来源(卫生部指南、机构方案、可靠的专业指南)文本中的每个数字、剂量、测定值、每周限制和指南声明。删除无法验证的句子。
- 定制:根据这位孕妇、这个机构、这个文化背景调整一般文本。人工智能为普通患者写作;有一个真实的人在你面前。
- 链接:将输出链接到临床背景和责任链:添加注释“这是草案,需要助产士/医生批准”,如有必要,请咨询医生。
三个迷你箱子
案例1——宣传册草稿(绿色区域):助产士将为一所有20名学生的怀孕学校准备一本“怀孕营养”宣传册。他向 AI 索要一份 350 个单词的简单草稿,8 分钟内收到,根据他所在机构的铁叶酸方案纠正 2 个句子,然后分发。如果他手写的话,需要 45 分钟; AI 减少了约 80% 的时间,而且出错的风险很低,因为助产士会验证每个数字。
案例2——假剂量(移入红色区域):另一位助产士问YZ“妊娠期缺铁性贫血每天补铁的剂量是多少?”他问道。 AI给出了一个有信心的数字。当助产士正要直接告诉孕妇这一点时,她停下来查看机构协议;他看到AI给出的范围与协议不符。剂量决定权属于医生;助产士根本不使用AI输出。规则有效:未经验证不使用数字/临床输出。
案例 3 — 历史记录收集(黄色区域):第三位助产士让人工智能总结了一份凌乱的 12 页怀孕档案(省略了识别信息),并要求列出“显着风险因素”。 AI 生产 6 种物品。助产士阅读清单,意识到 1 项被误解,将其删除,并添加 1 项缺失的项目。该清单不是一个决定,而是助产士评估的输入。
可复制模板
您可以根据自己的实践调整以下四个模板。它们的共同点是:将角色、限制和验证要求重写到提示中。
角色:您是一名初级助理,为经验丰富的助产士写作。任务:为孕妇撰写关于以下主题的简单信息草稿。主题:[主题]规则:- 不要做出诊断、推荐药物/剂量、风险分层。- 不要写任何您不确定的数字、剂量或指导句子;而是留下标签“[MIDWIFE VERIFIED]”。 - 语言:六年级水平,短句,解释第一次出现的医学术语。长度:300字以内。
用“验证眼”扫描下面的AI输出。输出:[粘贴文本]只需给我一个列表:1)其中的每个数字,剂量,周和正常范围陈述(单独)。2)引用指南/协议的每个句子。3)带有明确(“总是”,“从不”,“绝对”)语言的每个声明。这些是我将手动验证的项目;添加评论。
角色:您是文本简化助理。任务:以高中毕业生准妈妈能够理解的方式重写下面的医学文本。请勿更改含义、添加或删除信息。如果您无法简化某个术语,请在括号中简要解释。文字:[文字]
这是一份移交说明草稿;不涉及临床判断。按标题整理以下零散笔记:【故事】【今日发现】【行动】【跟进提醒】。没有新信息失败;如果缺少字段,请填写“[BLANK]”。原始注释:[注释]
弱提示/强提示
<w:tcPr><w:tcW w:type="dxa" w:w="2880"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>弱提示
强大提示
文字
“提供有关怀孕期间铁的信息”
“角色:助产士助理。为孕妇写一份信息大纲,六年级水平,最多 250 个字。建议剂量/药物;将您不确定的数字标记为“[助产士验证]”。”
结论
包含剂量和声明的无来源且难以验证的文本
具有清晰边界和标记待验证区域的安全可编辑草稿。
微弱提示时,AI释放;它很容易进入红色区域。强大的提示中,从一开始就定义了角色、限制、验证标签和长度;输出仍由助产士控制。
道德和隐私:从一开始就有两条规则
从第一个单元开始,两个道德原则适用于整个模块。首先是隐私:永远不要向AI写入孕妇姓名、TR ID号、电话号码、档案号、地址等识别信息(详情见第9单元)。其次,透明度和问责制:不要将人工智能生成的文本呈现为人类编写的文本;进入临床文件的每一条声明都对批准它的助产士负责。
注意:AI按照文化“平均”写作;因此,它可能会忽视或误判一些社会、宗教或地方敏感性。助产士总是进行文化适应(详细信息见第 10 单元)。
常见错误
- 要求人工智能做出“决定”:“我应该转介这位孕妇吗?”诸如此类的问题属于红色区域;你不能问人工智能。
- 使用数字而不验证它们:将每个数字(例如剂量、周数、分析间隔)留在文本中而不进行验证是最常见和最危险的错误。
- 书写识别信息:提示中不应包含任何可识别孕妇的信息。
- 混淆流畅性和准确性:仅仅因为文本写得好并不意味着其内容是正确的。
- 不写下角色和限制:无限的提示会产生无限的(且有风险的)输出。
- 依赖单一输出:对于关键文本,重新运行人工智能作为第二个“验证眼”并扫描其自己的输出是有用的。
总之
人工智能是加速助产文本和信息工作的有力助手;但它不能取代诊断、风险、药物治疗和临床转诊等决策。将任务分为绿色(舒适使用)、黄色(支持、小心)和红色(决策)区域。由于存在幻觉风险,请验证来自独立来源的每个数字和临床陈述;通过“验证-自定义-链接”规则传递每个输出。隐私和责任原则适用于整个模块:决定始终由个人决定。
应用任务
选择 6 个你自己的每周任务,并制作一个图表,将每个任务放在绿色/黄色/红色区域中。使用上面的小册子模板制作绿区企业的概要;然后用“验证眼”模板扫描自己的打印输出,并标记需要验证的项目。对于你放在红色区域的工作,用两句话写下为什么你不会使用人工智能。
清单
- [ ] 我将该工作置于绿色/黄色/红色区域;如果它是红色的,我就没有使用人工智能来做决定。
- [ ] 我在提示中写了作用、限制(无诊断/剂量)和验证标签。
- [ ] 我已独立验证打印输出中的每个数字、剂量、周数和指南声明。
- [ ] 提示中未输入任何识别信息。
- [ ] 我经历了验证 - 自定义 - 链接输出的步骤。
- [ ] 我确认我对临床文件中输入的声明负责。