收益：
- 能够定义为什么诊断、治疗和药物决策不能委托给人工智能以及有能力的医生批准的作用
- 能够在该领域仅将人工智能用作安全范围内的预筛选、检查表和沟通工具
- 能够实施如何通过机构协议、临床评估和主管批准来完成安全关键型人工智能建议
护士最重要的专业技能之一是知道决定是否属于他或她的管辖范围或医生/专家的管辖范围。这个限制不仅仅是官僚主义，它是患者安全的基础。在人工智能时代，这个界限变得更加重要：人工智能说话如此流利和自信，以至于人们可能会陷入认为它是专家的陷阱。在本单元中，您将了解为什么安全关键决策不能委托给人工智能、主管医生/专家批准的作用以及如何在该领域的安全范围内使用人工智能。不变的原则：诊断、治疗、用药和安全关键的临床决策需要有能力的医生/专家批准； AI 输出并不能取代此批准。
什么是安全关键决策？
一项安全关键的决定如果不正确，可能会对患者造成严重的、不可逆转的伤害或危及他的生命。在护理方面，这些通常属于医生的职权范围：做出诊断、开始或改变治疗、订购药物和剂量、决定手术、决定出院。护士也有自己的安全关键考虑因素：注意到患者病情恶化，认识到需要立即干预的情况。这些决策是由数据提供的，但人们拥有最终决定权。
人工智能无法对这些决定拥有最终决定权。原因很简单：人工智能看不到病人，不承担责任，不负责，会产生幻觉。将诊断、剂量或决定留给人工智能，就是将责任转移给无法承担责任的一方——这在道德和法律上都是不可接受的。
注意：无论人工智能如何令人信服地解释一个决定，这并不意味着它是正确的或权威的。流利并不是专业知识。每项安全关键决策均需经过主管医生/专家的评估和批准。
人工智能的安全作用
人工智能并未完全被排除在安全关键领域之外；但其作用受到严格限制。安全角色有：
- 预扫描：在海量信息中提醒需要考虑的点。
- 清单：制定可以跳过的可见步骤。
- 沟通工具：组织报告给医生和患者的沟通。
- 信息组织：将分散的数据转化为可理解的形式。
这些角色都不做决定；所有这些都为人类的决定做好准备和促进。危险在于把这个配角变成“决策”角色。
三个迷你箱子
情况 1 — 正确的边界。一名护士要求 AI 为病情恶化的患者出具 SBAR 报告，然后给医生打电话。医生做出治疗决定。人工智能加速了沟通；决定权仍由医生决定。边框绘制正确。
案例 2——危险的人员流动。一名护士询问人工智能“对这些症状进行什么诊断和治疗？”并尝试在不咨询医生的情况下实施该建议。护士长介入：诊断和治疗由医生决定。教训：人工智能的建议并不能取代秩序。
情况 3 — 确认关闭。护士注意到人工智能预先筛选的可能的药物相互作用。他把这作为一个“问题”而不是一个“决定”带给药剂师和医生。专家评估并做出决定。人工智能引起了人们的关注，人们做出了决定，整个过程在主管部门的批准下结束。
一步一步：关闭安全关键的 AI 建议
- 将建议视为问题，而不是决定。 “人工智能标记了这一点”是一个开始。
- 确定您的管辖权。这个决定是护士的还是医生/专家的？
- 使用源和协议进行测试。该建议是否符合当前知识？
- 将其交给有能力的专家。让医生/药剂师/专家评估一下。
- 记录决定及其理由。经主管批准后关闭。
- 让人工智能仅发挥准备作用。
四个可复制模板
任务：在预扫描列表中标记出以下（匿名）结果中需要注意的可能风险。做出诊断，建议治疗；给每个项目注明“必须提交医生评估”。调查结果：[...]
任务：以 SBAR 格式整理我需要向医生传达的有关该患者情况的信息。做出决定或命令；只需准备沟通即可。情况：[...]
任务：提醒我作为在此药物/决策过程中可能错过的安全步骤清单。决定取决于我和主管专家；你只是提醒我步骤而已。过程：[...]
任务：从护士的角度对以下人工智能建议进行分类：这个决定是否在护士的权限范围内，是否需要医生/专家的批准？对于每个项目，写下权限范围以及为什么需要获得批准。建议：[...]
弱提示/强提示
弱者：“我应该对这个病人开始哪种治疗？”
Güçlü：“在以下匿名调查结果中，将我需要向医生传达的注意事项标记为预筛选清单，并给每个注意事项注明‘需要医生评估’。不做诊断，不建议治疗。我的目标是为与医生会面做好准备；医生将做出决定。”
在强有力的提示下，人工智能处于预备角色；决定权显然留给了医生。
常见错误
- 将流畅性误认为是专业知识。 AI的自信语气并不是权威或准确性。
- 将建议替换到订单中。诊断、治疗和剂量均在医师的授权下。
- 管辖权混乱。知道哪个决定是谁的就是患者的安全。
- 跳过确认步骤。安全关键决策以有效确认结束。
- 将支持角色转变为决策角色。预筛选不是决定。
护士自己的职责：宣传
主管同意原则不会将护士变成被动的从业者。相反，护士最强大的专业角色是为患者辩护：当命令或决定可能伤害患者时，停止询问，并在必要时提出反对。例如，如果剂量看起来异常高，护士不会盲目地服用它，因为它被告知“服用这个”;他询问医生并要求确认。这既是护士的权力，也是责任。人工智能可以支持这种倡导：它可以预先筛选并吸引护士注意订单中看似不寻常的方面。但护士表现出了质疑的决心和勇气。
在这里，人工智能发挥着有趣的双重作用：一方面，它可以提醒护士他或她可能错过的风险，但另一方面，它不应该取代护士自己的临床直觉。最健康的平衡是使用人工智能作为第二只眼睛来确认或挑战你的直觉，但将最终决定权留给你自己的判断和有能力的专家批准。
自动化偏差陷阱
自动化偏见是指人们倾向于相信机器或软件的输出而不是自己的判断。在医疗保健领域，这是危险的：护士可能会忍不住遵循屏幕上弹出的人工智能建议，即使她自己的观察告诉她事实并非如此。解决这个陷阱的方法是将人工智能定位为“助手”而不是“权威”。当人工智能提出某些建议时，人们必须条件反射地问：“嗯，这适合这个病人吗？它与我所看到的相矛盾吗？”当你自己的临床观察与人工智能发生冲突时，默认依靠你的观察，并与有能力的专家一起评估情况。仅仅因为机器有信心并不意味着你是错的。这种有意识的怀疑是安全使用人工智能最重要的职业习惯。
提示：要快速确定某个决定是否“安全关键”，请问问自己：“如果这是错误的，患者会遭受不可逆转的伤害吗？”如果答案是“是”或“也许”，则该决定处于红色区域，需要主管专家的批准；人工智能还只是在做准备。这个简单的问题是日常实践中快速可靠的指南针。第二个指南针是：“如果我必须捍卫这个决定，我的理由是什么？”如果你唯一的理由是“人工智能建议这样做”，请停止；您的理由应始终是机构协议、命令、证据或临床评估。这两个问题是正确绘制边界最实用的方法。
总之
安全关键决策——诊断、治疗、用药、出院、病情恶化评估——如果不正确，会造成不可逆转的伤害，需要有能力的医生/专家批准。人工智能无法对这些决定拥有最终决定权，因为它看不到患者，不承担责任，并且可能会产生幻觉。人工智能的安全作用是预筛选、检查清单、沟通和信息组织。将辅助角色转变为决策角色，是最危险的错误；每一个对安全至关重要的建议都会经过主管部门的批准而结束。
应用任务
从您自己的实践中选择一个安全关键决策的示例（例如，药物剂量变化、恶化评估）。设计一个流程，其中人工智能仅在此过程中发挥准备作用：在哪一步进行预筛选，在哪一步进行沟通，在哪一步进行主管批准。用一段话写出为什么人工智能不能做出决定以及谁得到了批准。
清单
- [ ] 我已确定该决定的管辖权。
- [ ] 我把人工智能的建议当作一个问题，而不是一个决定。
- [ ] 我测试了该建议的来源和协议。
- [ ] 我向有能力的医生/专家传达了安全关键的决定。
- [ ] 我只让AI扮演预备角色。
- [ ] 我记录了该决定及其理由。
- [ ] 我没有陷入将流畅性误认为专业性的陷阱。