收益：
- 能够明确为什么诊断和治疗的责任不能转移给人工智能以及医生的法律地位
- 能够根据知情同意、透明度和职业道德规则使用人工智能
- 能够应用如何在指导、检查和主管医生批准的情况下完成人工智能支持的临床决策
当患者受到伤害时，首先要问的问题是：谁负责？如果人工智能（AI）提出了诊断建议，但结果证明决策是错误的，那么人工智能是否负责？答案很明确：不。医疗责任始终由做出决定的称职医生承担。人工智能就像一个工具；例如听诊器或实验室设备。医生有责任解释设备的输出，接受或拒绝它，并做出最终决定。在本单元中，您将学习责任的法律基础、职业道德原则、透明度和知情同意，以及如何正确结束人工智能辅助决策。
为什么责任全在医生身上？
医学基于“护理义务”：医生有义务按照良好的医疗实践进行护理。他使用车辆并不能免除他的这项义务；相反，正确使用工具也是细心的一部分。盲目遵循人工智能的建议或忽略有用的警告都可能违反护理规定。医生必须利用他或她的临床判断来评估人工智能输出。
从法律上讲，人工智能不属于“法律主体”；不能被起诉，不能支付赔偿，不能受到惩罚。制造商的产品责任是一个单独的问题，但与患者的医疗关系和决策的责任在于医生。 “人工智能就是这么说的”并不是辩护；相反，依赖未经验证的人工智能输出可能会加重责任。
注意：任何基于人工智能输出的决定都是医生自己的决定。遵循未经证实的建议会使医生承担法律和道德责任。不可能将责任转移给车辆。
职业道德与人工智能
医学伦理学的四项基本原则指导人工智能的使用：
- 造福：利用人工智能改善护理，造福患者。
- 非恶意：管理未经验证的输出造成伤害的风险；如有疑问，请选择安全的路径。
- 自主性：尊重患者的决定权；告知，征得同意。
- 公平：确保人工智能的偏见不会让某些群体处于不利地位。
这些原则使人工智能从“速度工具”转变为“负责任的临床实践的一部分”。
透明度和知情同意
知情同意是患者理解并接受对其进行的手术。那么患者应该知道人工智能正在影响他们的决定吗？透明原则要求医生诚实地声明他/她正在使用人工智能作为辅助，并且最终的决定是他/她自己的。隐藏人工智能的使用并将决定完全归因于人工智能是错误的。正确的态度：“我在做出决定时使用最新的资源和辅助手段，但我会评估并推荐诊断和治疗。”
提示：有病人问，“人工智能决定了吗？”诚实而令人放心的答案是：“人工智能是帮助我的工具；最终的评估和决定属于我。我已经审查了你的情况。”这既保持了透明度又保持了信任。
一步一步：关闭人工智能驱动的决策
- 使用AI作为助手。建议、提醒、草稿。
- 通过临床判断进行评估。建议是否符合患者的实际情况？
- 与指南和来源确认。该决定必须基于证据。
- 如有必要请咨询专家。它处于危急和不确定的状态。
- 记录决定及其理由。记录人工智能的贡献和验证。
- 保持透明；必要时征得同意。
三个迷你箱子
案例 1 — 责任限制。医生未经验证就实施人工智能推荐的治疗，患者因此受到伤害。 “AI建议”答辩不予评审；认定该医师未尽到核查义务。教训：AI输出是医生自己的决定。
案例 2 — 正确的透明度。一名患者想知道他的诊断是如何做出的。医生解释说，他使用人工智能作为辅助工具，但自己进行检查、检查和评估。患者感到自信；知情同意是以健康的方式建立的。
案例 3 — 忽略有用的警告。人工智能提醒我们一种被忽视的药物相互作用。医生确认了这一点并确保治疗安全。在这里，留意车辆的警告成为为患者谋福利的护理的一部分。
职责明确表
状态
谁负责
为什么
未经验证而实施的人工智能推荐
医生
注意和核实义务
AI警告被忽略并发生损坏
医生
通过临床判断
AI输出经过验证，做出了正确的决策
医生（阳性）
决定权属于医生
车辆的技术故障（单独的产品责任）
制造商（部分）
医疗决定权仍在医生手中
四个可复制模板
任务：将以下人工智能驱动的临床决策转换为记录的基本原理注释：采取了什么建议，如何验证（指南/检查者/专家），谁做出了最终决定。添加“责任在于医生”这句话。决定：[...]
任务：给患者写一篇简短的文字，以透明且令人放心的方式解释我使用了一个工具来协助他做出决定。强调最终决定权在我；不要陷入技术细节的困境。上下文：[...]
任务：将以下决定转化为包含医学伦理四项原则（仁慈、非恶意、自主、正义）的清单。为每个策略生成一个控制问题。决定：[...]
任务：在这个人工智能驱动的过程中，标记哪些点需要知情同意和透明度，并提出应该向患者告知每个点什么的问题。过程： [...]
弱提示/强提示
弱者：“人工智能做出了这个诊断，我应该应用它吗？”
Güçlü：“对我来说，评估人工智能建议的诊断：我应该通过哪些检查/检查来确认它，我应该查看哪些现行指南，我应该排除哪些危险信号？我将做出决定；为此制定一份确认草案和理由记录，并添加“责任在于医生”这一短语。”
在强有力的提示下，AI不再是决策者，而是决策者。它是记录和巩固医生决定的助手。
常见错误
- 试图将责任转移给人工智能。 “AI说”不是辩护。
- 无需验证即可申请。这将违反注意义务。
- 忽略有用的警告。这也可能违反护理规定。
- 隐藏人工智能的使用。这违背了透明度原则。
- 不记录决定和理由。需要可审计的跟踪。
医疗器械立法和批准使用
一些用于临床目的的人工智能工具（例如检测图像中的发现、协助诊断的软件）在法律上被视为医疗设备，并且必须通过相关监管部门的批准。通用聊天模型未获批准作为医疗设备；它充其量只是临床诊断的辅助手段，而不是“官方工具”。这种区别很重要：批准的医疗器械已经针对特定的预期用途（适应症）进行了验证和标记；标签外使用会产生额外的责任。
在实践中，医生应该问的问题是：我使用的设备是批准用于临床的医疗设备还是通用型号？如果获得批准，我使用它的目的是否与标签目的相符？这种清晰度是安全使用和可能的法律评估的基础。使用通用模型作为诊断工具并在不验证结果的情况下应用它是最容易受到攻击的位置。
注意：通用舌头模型不是经批准的医疗设备。从监管和责任的角度来看，将其用作临床诊断工具并在不验证其输出的情况下应用它是站不住脚的。
总之
医疗责任始终由做出决定的主管医生承担；人工智能是一种工具，而不是法律的主体。 “AI说”不是辩护，而是必要时的加重。以符合医学伦理四项原则、透明且尊重知情同意的方式使用人工智能；必要时通过临床判断、指导和专家意见来证明每个决定的合理性；记录理由和验证。当病人问“AI决定了吗？”诚实且令人放心地回答问题。
应用任务
考虑一下您最近利用人工智能的临床决策。包含上述理由记录模板的文档：采取了什么建议、如何验证该建议、谁做出了决定？用四项道德原则检查同一决定。还要写下您将如何向患者透明地解释您对人工智能的使用。
清单
- [ ] 我把人工智能当作辅助工具，而不是决策者。
- [ ] 我已通过临床判断和指导证明了该建议的合理性。
- [ ] 必要时我咨询了专家。
- [ ] 我根据四项道德原则检查了该决定。
- [ ] 我是透明的；必要时我已获得同意。
- [ ] 我记录了决定、理由和理由。
- [ ] 我已经证明责任在于医生。