单位 1 / 11

医学实验室人工智能简介:角色、边界、验证和道德规范

收益:

  • 能够根据任务风险级别区分人工智能在实验室工作流程中哪些地方可以实时节省时间(分析前、分析中、分析后)以及哪些安全关键决策(结果验证、临床解释、诊断)留给专家处理
  • 能够应用一门学科,通过将每个人工智能输出链接到源、重新计算和临床/分析过滤的步骤来验证每个人工智能输出。
  • 在 KVKK/隐私范围内对患者数据进行匿名处理,并养成选择安全车辆的习惯

医学实验室里每天都会默默地做出数以千计的决定。管子会被接受还是拒绝?钾的结果是真实的还是由于溶血造成的;血涂片中看到的细胞是正常淋巴细胞还是原始细胞;这可能就是为什么患者的肌酐比之前的值增加了一倍。其中一些决策是重复性且耗时的;其中一些决策可以直接影响一个人的生活,其误差幅度应该接近于零。人工智能(AI,简称AI——可以像人类一样生成文本、识别模式、分类图像和执行计算的计算机系统)正好适合这幅图景:如果使用得当,它可以加快重复任务的速度,让你有时间思考;如果使用得当,它可以加快重复性任务的速度,让你有时间思考;如果使用不当,它可能会给患者报告带来看似安全但不正确的输出。

本模块的第一个单元不是软件介绍。其目的是澄清在你的职业中什么地方可以使用人工智能,什么地方根本不可以使用人工智能。因为医学检验科学是一个“安全关键”领域:您产生的每一个结果都可能影响医生的诊断决定、药物剂量、手术延误。让我们在这里重申一下基本原则:人工智能是助手,而不是实验室专家。发布(验证)结果、临床解释和诊断的决定取决于主管专家——实验室专科医生和主治临床医生。

AI整体测试流程及地点

要理解实验室工作,有必要将过程分为三个阶段。预分析阶段是从订购样品到进入设备的阶段:测试订单、患者准备、血液采集、标签、运输、离心。分析阶段是在设备上进行测量的阶段。分析后阶段是验证、解释、报告并将结果交付给临床医生。有趣的是,大多数实验室错误发生在分析前阶段,而不是分析阶段(仪器)。人工智能可以触及所有三个阶段,但不是每个阶段都具有相同的权限。

“分析物”是指被测量的物质或参数:葡萄糖、肌酐、钾、血红蛋白等。“参考范围”是健康人群中分析物的预期值范围,并因年龄、性别、方法而异。 “验证”在实验室中有两种含义:在发布结果之前确认结果,以及证明方法/方法/模型的可靠性。人工智能可以对结果做出清晰的初步解释;但只有专家才能评估这种解释是否适合患者的临床状况、药物和之前的结果。

下表按任务总结了人工智能的作用和风险级别:

任务

人工智能的作用

风险等级

谁批准

工作量估算、样本排序

加速器、规划器

实验室经理

撰写结论意见稿

草图生成器,受控

中等

实验室专家

Delta 检查/QC 警报生成

统计刺激

中高

专家(找到根本原因)

图像预分类(涂片、尿液)

初步的,不是最终的决定

专科医生(确认诊断)

恐慌值通知

浏览器、草稿生成器

非常高

专家(确认、报告)

临床诊断/决定

没有帮助

非常高

医师+实验室专家

请记住该图表中的一行:随着风险上升,人工智能的作用缩小,人类的认可度增加。

为什么“验证”是这项业务的核心

人工智能语言模型似乎对他们的答案充满信心,但他们也可能不确定。用技术语言来说,这被称为幻觉:这是模型用流利的句子捏造了不存在的信息,就好像它是真的一样。对于实验室专业人员来说,这是一个致命的陷阱:模型可能会告诉您“成人的正常血清钾为 3.5-5.1 mmol/L”(接近准确),但它也可能回答“每个人的正常铁蛋白范围为 30-400 ng/mL”,而忽略了性别差异(这是不完整且具有误导性的)。既然他说得都一样流利,那么唯一区分对错的就是你的知识和验证的习惯。

验证规则包括三个步骤:

  1. 来源链接:对于参考范围、单位、方法等信息,请依赖您自己实验室的经过验证的记录和公认的来源(制造商的说明书、认可的方法、国家/国际指南),而不是人工智能的记忆。使用人工智能来解释这些数据,而不是记住它。
  2. 重新计算/比较:独立检查AI返回的每个数值结果、单位和增量变化。特别是,测试单位一致性(mg/dL ↔ mmol/L)并与之前的结果一致。
  3. 临床和分析过滤器:用专家的眼光进行测试,看看输出是否与患者的医疗状况、药物、样本质量和质量控制状态相冲突。
注意:在没有验证的情况下将人工智能产生的结果解释复制到患者报告中,就您的职业责任而言,就像提供未签名的结果报告一样。该评论并不只是因为它说得很流畅而正确。

隐私:患者数据是私人数据

患者实验室数据(检测结果、诊断、方案编号、身份信息)属于敏感个人数据,受土耳其 KVKK(个人数据保护法)和欧洲 GDPR 的保护。将患者姓名、TR ID号、方案号和诊断结果粘贴到公开的AI工具中是严重违规的。规则很简单:对数据进行匿名化。将“Ayşe Yılmaz,68 岁,方案 2024-114523,慢性肾脏病”改为“68 岁女性患者,已知肾功能衰竭”;删除姓名、联系信息、机构和协议号。如果可能,请选择具有数据处理协议的企业工具,并且不要在模型训练中使用您的数据。

三个迷你箱子

案例 1——安全使用。生物化学专家希望在患者报告中向患者提供 8 个异常参数的清晰信息概要。人工智能根据匿名值(无名称)生成简单的草图。专家将参考范围与自己实验室的值进行比较,删除暗示“最终诊断”的句子,并添加注释“请咨询您的医生进行评估”。持续时间:4 分钟而不是 15 分钟。 AI给出了草案,责任仍由专家承担。

案例 2 — 未经验证的评论陷阱。另一位专家让 YZ 解读 TSH(促甲状腺激素)结果。 AI告诉我们,结果相对于成人参考范围是“正常”的;但样本来自新生儿,新生儿参考范围完全不同。该评论不正确,因为它针对的是错误的年龄段。验证被省略,临床背景被遗漏。

案例 3——违反保密规定。实验室技术人员将患者的全名和报告 PDF 加载到公共人工智能工具中,并说“评论”。数据发送到外部服务器。该机构面临 KVKK 审查。正确的方法是对数据进行匿名化,并仅匿名共享必要的数值。

弱提示/强提示

弱提示:

解释该患者的分析结果:Ayşe Yılmaz,TC 123...,方案 2024-114523。肌酐2.1,尿素90,钾5.8。

该请求在三个方面是错误的:共享身份信息(违反 KVKK)、未给出单位和参考范围、以及没有临床背景(年龄、性别、诊断)。人工智能通过猜测来填补空白,并且存在误解的风险。

强力提示:

您的角色:实验室专家的草稿准备助理。诊断、临床决策。为以下匿名结果向患者起草一份简单的解释;意味着明确的诊断;添加备注“咨询您的医生”。标记您不确定的地方[以供专家确认]。患者:68岁女性,已知慢性肾病。结果(根据我们的单位和实验室参考值):肌酐 2.1 mg/dL(参考值 0.5-0.9)、尿素 90 mg/dL(参考值 17-43)、钾 5.8 mmol/L(参考值 3.5-5.1)。

强提示是匿名的,定义角色和边界,给出单位和参考,提供临床背景,并请求验证标志。

可复制的提示模板

角色和边界描述模板您的角色:实验室专家的草稿准备助理。你不是专家;做出诊断、决定发布结果、提供临床建议。最终批准权属于专家。如果不确定,请标记为“【让专家验证】”,请勿胡编乱造。任务:[写任务]。

匿名化控制模板从下面的文本中提取姓名、TR ID、协议/文件号、联系方式和机构信息;替换为“[已删除]”。只留下临床/分析上必要的信息。在输出中不留下任何身份线索。文本:[粘贴文本]

验证检查模板对于您生成的每个结果解释,请指出:(1) 您假设的参考范围,(2) 单位是否一致,以及 (3) 解释取决于临床背景。使用“可能”的语言而不是绝对的语言。

风险级别排序模板 将我给你的实验室任务分为三类之一,并写出理由:(A) 低风险 - AI 大纲已足够,(B) 中等风险 - 专家验证,(C) 高/极高风险 - 诊断/决策属于专家,AI 只是辅助。任务:[写任务]。

常见错误

  • 将人工智能误认为“专家”。 AI说话流利但没有责任;签名是你的。输出是草案,而不是决定。
  • 按原样粘贴凭据。名称、TR ID号、协议号为特殊数据;未经匿名共享违反了 KVKK。
  • 不质疑参考范围。 AI给出了一个大概的范围;您的设备和年龄/性别组的范围可能有所不同。
  • 没有提供临床背景。没有年龄、性别、诊断、药物和样本质量的解释是具有误导性的。
  • 放手是因为“看起来不错”。流畅并不等于准确;每个输出都需要独立控制。
提示:在开始使用人工智能之前,问自己一个问题:“如果此输出错误,患者会怎样?”如果答案是认真的,请仅将人工智能用于选秀/资格审查,切勿跳过验证。

总之

人工智能是医学实验室的强大助手:它加速重复性任务、生成蓝图、扫描模式。但由于您在安全关键领域工作,因此发布结果、临床解释和诊断的决定取决于合格的专家。人工智能在整个测试过程的每个阶段(分析前、分析中、分析后)中的作用根据风险级别而变化;随着风险的增加,人们的认可度也会增加。三个核心学科守护着每个步骤:来源、重新计算/比较、临床分析过滤。机密性是一切的基础:患者数据在未经匿名处理的情况下不会进入任何工具。

应用任务

从您自己的实验室(或示例场景)中选择三种不同的任务:一项低风险(例如工作量摘要)、一项中等风险(例如结果解释草案)、一项高风险(例如临界值声明)。对于每一个,(1) 用一句话描述人工智能的作用,(2) 写下您将采取的验证步骤,(3) 表明您将如何对数据进行匿名化。然后根据您的中等风险任务调整上面的“角色和边界定义”模板并编写提示。

清单

  • [ ] 我确定了任务的风险级别(低/中/高)。
  • [ ] 我将AI的角色限制为“助理/选秀/预选赛”;诊断/决定取决于专家。
  • [ ] 我对数据进行了匿名处理;输出名称、TR ID、协议号。
  • [ ] 我用自己实验室的值验证了参考范围和单位。
  • [ ] 我在提示中添加了临床背景(年龄、性别、诊断、样本质量)。
  • [ ] 在发布输出之前,我对输出进行了独立检查。