收益：
- 能够解释人工智能对医疗设备和软件设计的需求、架构和测试阶段的贡献。
- 了解软件本身是医疗设备时设计控制和风险管理的作用 (SaMD)
- 能够理解人工智能支持的设计输出必须经过有能力的工程师批准、标准和验证测试的测试。
生物医学工程师的核心工作之一是医疗设备设计：从输液泵到患者监护仪，从假肢到诊断软件。由于这些设备与患者直接接触，其设计与普通产品开发不同；设计控制（记录从需求到验证的每一步的严格流程）和风险管理是法律义务。人工智能通过需求编写、架构起草、测试设计和文档为这些流程做出贡献。在本单元中，我们将了解人工智能在设备设计中的应用，软件本身如何成为设备（SaMD），以及为什么人工智能输出不能替代主管工程师的批准。
让我们从头说起：在安全关键设备工程中，人工智能是蓝图和控制助手。如果缺少需求、错过故障模式、测试超出范围，则责任由签字工程师承担。 AI不验证设计；工程师确认。
设计控制链和人工智能的地位
用户需求→设计输入（要求）→设计输出→验证→确认→设计转移。该链是设备工程的支柱。 AI在各个环中的作用是不同的：
- 用户需求：人工智能可以总结和主题利益相关者访谈和现场笔记。验证：利益相关者确认。
- 需求：人工智能扫描需求，看看它们是否“可测试、单一、矛盾”，并建议缺失的场景（边缘情况）。验证：工程师审核。
- 架构/设计：AI 列出了替代架构方法和已知的设计模式。验证：工程判断和计算。
- 测试：AI根据需求生成测试用例和断点测试。验证：测试覆盖率矩阵。
- 文档：AI 起草设计历史文件和报告。验证：技术内容检查。
风险管理：ISO 14971 和 FMEA
医疗器械风险管理标准是ISO 14971；它描述了识别危害、评估风险、减轻风险以及证明剩余风险合理性的过程。常见的工具是 FMEA（故障模式和影响分析；系统地列出可能的故障模式、其影响以及严重性/概率/可检测性分数）。人工智能在头脑风暴 FMEA 图表的故障模式（提醒人类可以跳过的模式）方面非常有效。但每条线的真实性、分数和缓解措施必须由工程师的判断来确认；人工智能建议的“缓解措施”可能实际上不起作用，或者可能会带来新的风险。
如果软件本身是设备：SaMD
有时，软件本身就是一种医疗设备：SaMD（软件即医疗设备；无需嵌入任何硬件即可用于诊断/治疗/监测目的的软件）。一个示例是根据图像或解释信号的算法生成风险评分的应用程序。对于 SaMD，软件不能被视为“只是软件”：设计控制、风险管理、验证/确认、版本控制和法规遵从都是强制性的。 IEC 62304 标准定义了软件生命周期的流程。人工智能辅助开发的一个特殊挑战是模型的行为会随着更新而变化。这就是为什么变更控制和重新验证至关重要。
三个迷你案例：从数字来看
案例 1 — 需求差距捕获。为患者监护仪编写了 140 条需求草案。 AI 驱动的一致性扫描将 12 项要求标记为不可测试（例如“必须用户友好”），并将 3 个警报场景标记为缺失。工程团队修复了这些问题；但人工智能提出的两个“新要求”实际上是现有要求的重复，必须被消除。净收益是通过人工验证的。
案例 2 — FMEA 加速。在输液泵的 FMEA 研究中，团队列出了 60 种故障模式； AI 头脑风暴又产生了 18 名候选人。工程师发现其中 9 件是真实的且之前被遗漏的，并排除了 9 件无效或重复的物品。节省的时间是真实的，但过滤完全是工程师的工作。
案例 3 — 模型更新风险。 SaMD 团队用“更好”的版本更新了底层模型。虽然新版本提高了整体准确性，但其在某些设备类型上的性能却有所下降。如果没有变更控制和重新验证，这种回归就会出现。每次模型更新都是设计变更，必须经过验证。
弱提示/强提示
弱提示：
写出该设备的要求。[想法]
强力提示：
您的角色：您是医疗器械要求工程助理（您不是审批机构）。为以下设备概念制定需求草案： - 保持每个需求独特、可测试和可验证。 - 为安全/警报和边缘情况创建一个单独的部分。 - 标记模糊/不可衡量的陈述（“简单”、“快速”）并使其可衡量。 - 最后，列出“工程师需要决定的开放点”。 - 标准/条款引用为“待验证”标记，明确表示。概念：[描述]
四个可复制模板
1）要求质量检验：
将以下要求分类为“可测试/模糊/矛盾/重复”，并建议使任何不明确的部分可测量。清单：【要求】
2）FMEA头脑风暴：
列出该子系统可能的故障模式；提出每个结果的影响和可能的原因。说明工程师将进行评分和缓解。子系统：[描述]
3）测试场景生成：
为以下需求生成正常、边界和错误输入测试场景；对可追溯到需求的每个场景进行编号。要求：[文字]
4）SaMD变更影响分析：
为模型发布更新编写影响分析清单草稿：受影响的需求、重新验证范围、子组性能比较。
模型的角色：根据设计阶段
舞台
人工智能贡献
关键性
验证
需求/利益相关者摘要
高
低
利益相关者确认
需求起草/审核
高
中等
工程师评审
建筑学/微积分
有限
高
工程判断+计算
FMEA/风险头脑风暴
高
高
工程师评分/批准
测试场景生成
高
中等
覆盖矩阵
安全审批
无
非常高
授权工程师签名
提示：将人工智能用作 FMEA 和需求审核中的“遗忘场景提醒”，而不是作为“决策者”。它的最大价值在于使人们忽视的边缘情况得以凸显。但每一个建议都必须经过工程师的过滤。
注意：在 SaMD 中，每次模型更新都是设计更改。 “更好”的模型可能会在总体平均值上有所进步，而在子组中则会有所下降；如果没有变更控制和重新验证，任何更新都不应进入现场。
常见错误
- 未经确认就接受人工智能推荐。装配要求可能会产生无效的故障模式或无用的缓解措施。
- 认为 SaMD “只是软件”。设计控制、风险管理和 V&V 是强制性的。
- 不验证模型更新。每个版本都是设计变更，必须重新验证。
- 通过模糊的要求。像“简单/快速”这样不可估量的陈述是无法测试的。
- 绕过工程师批准。安全决定和签名属于授权工程师； AI不是审批机关。
总之
- 医疗器械设计、设计控制和风险管理是一个强制性的、记录在案的过程。
- AI 通过草稿和提醒为需求、架构、FMEA 和测试阶段做出贡献。
- 如果软件本身就是设备 (SaMD)，则需要完整的设计控制、V&V 和法规遵从性。
- 每次模型更新都是设计变更，需要重新验证。
- AI输出不能替代合格工程师的认可；安全决策和签名属于工程师。
应用任务
选择简单的医疗设备概念（例如便携式 SpO2 监测仪）。使用强大的提示起草了五个需求；然后问每个人“可以测试吗？”手动检查并使模糊的部分变得可测量。最后，写下该设备的三种故障模式以及每种故障模式的缓解措施，并记下您从人工智能建议中消除了哪些模式。
清单
- [ ] 我知道设计控制链以及人工智能在每个环节的作用。
- [ ] 我了解 ISO 14971 风险管理和 FMEA 的目的。
- [ ] 我了解 SaMD 的概念及其义务。
- [ ] 我了解模型更新是设计变更，需要重新验证。
- [ ] 我已经意识到，安全决策和签名仍由授权工程师负责。