收益：
- 能够将图像、信号、数据和监管片段组合到一个负责任的生物医学人工智能工作流程中
- 能够应用人机交互审核、可追溯性和分发后监控原则
- 能够在人工智能不取代医生和工程师批准的每个阶段维持限制
模块考试
1. 以下哪项是决定生物医学工程人工智能输出风险的基本原则？
- A) 输出的风险等于输出不正确时对患者造成的伤害；验证规模相应 ✔
- B）AI输出一般是安全的，因为它写得流畅且技术性强
- C) 使用最新模型时无需验证
- D) 如果输出参考手册，则不需要额外检查
解释：输出的风险等于输出不正确时对患者造成的伤害。虽然文献摘要中的小错误风险较低，但图像检测或临床决策中的错误会直接威胁患者安全；因此，验证强度与潜在危害成正比，每项涉及患者安全的决定都取决于医生的批准。
2.人工智能支持的检测模型在放射学临床应用中的正确作用是什么？
- A) 自动批准放射科医生的报告并消除工作量
- B) 在没有看放射科医生的情况下关闭低优先级病例
- C) 如果模型概率较高，则无需额外检查即可做出诊断
- D) 作为一种支持工具，吸引人们对发现的关注并对其进行优先排序，但诊断的责任仍然由放射科医生承担 ✔
描述：图像 AI 是一种决策支持工具：吸引、优先排序、测量和标记；然而，诊断责任仍然由放射科医生承担。模型输出不能替代放射科医生的决定，它只是一个输入。输出结果与独立的临床评估结合使用，因为总是可能出现假阳性和假阴性。
3. 在数字病理学中，将人工智能模型的性能从一个实验室移植到另一个实验室时，最常见的问题是什么？
- A）模型运行速度非常快
- B) 幻灯片文件太小
- C) 染色和扫描差异引起的区域偏移 ✔
- D）病理学家根本不想使用该模型
描述：不同实验室的染色方案、扫描仪品牌和切片厚度各不相同；如果模型是根据一个实验室的图像统计数据进行学习的，那么它在另一个实验室的性能将会下降。这种现象称为域转移，是数字病理学失败的最常见原因；这就是外部验证和颜色标准化至关重要的原因。
4. 当心电图分类模型标记“心房颤动”时，工程师的第一个确认反射应该是什么？
- A) 将标签直接写入患者档案作为诊断
- B) 检查原始信号、伪影和生理合理性，并将决定权留给医生 ✔
- C）如果模型的置信度得分很高，则不需要任何其他控制。
- D) 指导患者进行药物治疗
解释：首先应测试输出的生理合理性和信号质量：记录中的基线漂移、肌肉伪影或电极松弛可能会模仿节律。不查看原始信号和 R-R 间隔就相信标签是错误的；最终心律诊断属于医生。该模型会产生初步信号，但不会做出决定。
5. 脑电信号人工智能处理的关键特征是什么，导致验证特别困难？
- A) 低信噪比和高伪影/变异性 ✔
- B) EEG 信号振幅非常高且无噪声
- C) 仅从一个通道记录脑电图
- D）脑电图数据从来都不是数字化的
说明：脑电图是幅度非常低（微伏范围）的信号，很容易受到眨眼、肌肉运动、电极和网络噪声等伪影的污染；此外，个人和录音之间的差异很大。这种低信噪比导致模型输出脆弱，需要神经生理学家专家进行验证。
6. 使用消费者可穿戴设备的心率数据时最重要的限制是什么？
- A) 设备的电池很快耗尽
- B) 将数据存储在云端
- C) 该设备通常未经医学认证，并且信号容易受到伪影/偏差的影响 ✔
- D）设备太贵
披露：大多数消费者可穿戴设备并未获得医疗设备认证； PPG（光电体积描记法）信号受到运动伪影的影响，深色肤色和纹身等因素可能会降低准确性。这些数据对于倾向/意识很有价值，但诊断决策需要经过验证的临床测量和医生评估。
7. 使用电子健康记录 (EHR) 数据构建预测模型时，“时间泄漏”意味着什么？
- A) 数据加密存储
- B) 将未来信息泄漏到预测时尚不存在的特征中 ✔
- C) 数据太旧
- D）模型训练速度太慢
解释：时间泄漏是训练特征对预测时（未来）尚不可用的信息的干扰；例如，使用出院诊断来预测入院时的风险。这导致了实验室的高性能，但在实际临床使用中却导致性能崩溃，并且是临床数据模型最隐蔽的缺陷之一。
8. 当软件本身被描述为“医疗设备软件”(SaMD) 时，以下哪一项成为强制性要求？
- A）只要快速工作就足够了
- B) 不需要任何文件
- C) 只需要一个漂亮的界面
- D) 设计控制、风险管理、验证/确认和法规遵从成为强制性 ✔
描述：SaMD（软件医疗设备）是用于诊断、治疗或监测目的的软件，不依赖于任何硬件。在这种情况下，设计控制、风险管理 (ISO 14971)、验证/确认和法规遵从是强制性的；该软件不能被视为“只是软件”，因为它的故障直接影响患者的安全。
9. 当您向AI索取MDR（医疗器械指令）条款或标准号时，最关键的风险是什么？
- A) 该模型生成假文章/标准参考并安全地呈现它们 ✔
- B）模型给出的答案太短
- C) 模型用英语响应
- D）模型响应太慢
解释：语言模型可以自信地生成不存在的项目编号、不正确的标准版本和虚构的参考文献（幻觉）。在监管合规方面，错误的物质参考会导致严重的合规失败；因此，每个属性都应独立于官方文本进行验证，人工智能应仅用于导航/绘图。
10. KVKK 范围内的健康数据属于什么类别？这意味着什么？
- A) 普通个人数据；可以自由加工
- B) 不是个人数据；没有限制
- C) 特殊类别的个人数据；经过更严格的条件和保护处理✔
- D) 仅商业秘密；无需隐私
说明：健康数据在 KVKK 中被视为“特殊个人数据”；通常，处理取决于明确同意或法律规定的例外情况，并且需要更严格的保护措施。因此，患者数据不能输入到不受控制的工具中；匿名、访问限制和数据处理协议是强制性的。
11.“校准”在临床人工智能模型中意味着什么？为什么它很重要？
- A）模型运行的速度有多快
- B）模型有多少个参数？
- C) 模型界面颜色
- D) 模型给出的概率与实际事件频率的兼容性 ✔
解释：校准是将模型给出的概率与实际频率进行拟合：该事件实际上应该发生在大约 20% 的患者中，而对于这些患者来说，其具有“20% 的风险”。由于临床决策是基于概率阈值做出的，因此校准不佳的模型即使排名正确，也会导致错误的阈值决策；因此，必须验证校准和辨别（AUC）。
12. 为什么要在图像、信号或临床数据模型中单独检查“亚组表现”？
- A）只要总准确度就足够了
- B）因为子组影响模型速度
- C) 通用指标可以隐藏特定患者群体的表现不佳和偏见 ✔
- D) 亚组分析仅对营销来说是必要的
解释：虽然模型平均看起来不错，但在某些亚组（年龄、性别、肤色、设备类型、医院）中表现可能明显较差；一般指标掩盖了这种不平等。在医疗保健领域，这会导致某些患者群体遭受系统性伤害；因此，为了公平起见，绩效应分为小组并报告。
13. 在处理患者数据时，应对“重新识别”风险的最佳方法是什么？
- A) 在任何情况下，只需删除名称就足够了。
- B) 推广间接标识符和直接标识符并限制访问 ✔
- C) 如果数据属于少数人，则无需采取预防措施
- D) 仅更改文件名而不加密
描述：即使是删除姓名的数据也可以通过诊断、出生日期、邮政编码和日期的罕见组合来重新识别。所以仅仅提取直接标识符是不够的；日期平移、泛化、k-匿名和访问控制等技术应该一起应用，敏感的自由文本也应该被清理。
14. 在生物医学人工智能工作流程中维持端到端“人在环”控制的主要原因是什么？
- A）人为控制只会造成缓慢，应该被消除
- B）如果模型置信度得分很高，则不需要人工验证
- C) 除了法律义务之外没有任何实际原因
- D）人工智能存在偏见和错误；患者安全决策和责任应由合格的专家承担 ✔
描述：人工智能生成假设、确定优先级并起草假设；但它从数据中学到的模式可能不完整、有偏见或断章取义。有关患者安全的决定必须得到授权医生和工程师的批准，以便发现错误并将责任放在正确的位置；人工智能在任何阶段都不会取代这种批准。