收益:
- 能够区分人工智能在成像工作流程中实时保存的位置(预采集、采集、读取、报告)以及安全关键决策(诊断、报告发布、关键发现通知)留给放射科医生的位置,具体取决于任务风险级别
- 能够应用将每个人工智能输出连接到图像和临床环境、独立审查和最终签名批准的规则
- 在KVKK/隐私范围内对DICOM图像和报告数据进行匿名处理,并养成选择安全车辆的习惯
放射科每天都会传输数百张图像。胸片上的阴影是正常血管还是小结节?脑部 CT 上显示患者头痛后是否有无声出血?乳房X光照片上的一簇微钙化是否是良性的,还是早期癌症的第一个迹象;在控制断层扫描中,确定结节是否真的生长,或者只是在不同的平面上测量。其中一些问题是重复且耗时的;其中一些决策将直接决定一个人的一生,其误差幅度应该接近于零。人工智能(简称AI——可以识别图像中的模式、对其进行分类、测量并生成文本的计算机系统)正好适合这幅图景:如果使用得当,它可以解决紧急问题,加快测量速度,起草报告并给你思考的时间;如果使用不当,它可能会将看似安全但不正确的输出传输到患者报告中,或者导致您产生错误的信心。
本模块的第一个单元不是软件介绍。其目的是澄清在你的职业中什么地方可以使用人工智能,什么地方根本不可以使用人工智能。因为放射学是一个“安全关键”领域:您生成的每一份报告都会影响医生的诊断决定、手术计划、化疗剂量、患者数周的焦虑。让我们从一开始就阐明基本原则:人工智能是助手,而不是放射科医生。诊断、报告发布(签署)和关键发现通知属于主管专家——报告放射科医生和主治临床医生。未经验证的 AI 输出是未签名的报告。
成像工作流程和人工智能的地位
为了理解放射学业务,将过程分为四个阶段是有用的。预提取阶段:检查请求、适应症(需要检查的医疗原因)评估、方案选择、患者准备。采集阶段:应用方式(成像方法 — X 射线、CT/计算机断层扫描、MRI/磁共振、超声波、乳房 X 光检查)、剂量和质量调整。阅读阶段:放射科医生评估图像、测量结果,并与之前的检查进行比较。报告阶段:构建研究结果、撰写结论、报告关键发现并将报告交付给临床医生。人工智能可以触及所有四个阶段,但每个阶段的权限并不相同。
“模态”是指成像模态。 “发现”是在图像中检测到异常或引人注目的情况。 “分诊”意味着将紧急案件放在工作清单的前面。 “假阴性”遗漏了实际存在的发现;这是放射学中最令人害怕的错误类型,因为它会悄无声息地造成伤害。人工智能可以产生优先信号、标志或审计报告草稿;但只有放射科医生才能评估这些是否符合患者的临床状况、病史和既往检查结果。
下表按任务总结了人工智能的作用和风险级别:
任务
人工智能的作用
风险等级
谁批准
工作量估算、工作清单规划
加速器、规划器
低
单位经理
方案/剂量建议
建议,已检查
低-中
技术员+放射科医生
撰写报告草稿
草图生成器
中等
放射科医生
自动测量(结节、体积)
计算器,已检查
中等
放射科医生
分类/优先标志
优先顺序,而不是最后一句话
中高
放射科医生(仍在阅读)
病变标记 (CAD)
预筛选,第二只眼睛
高
放射科医生(给出诊断)
重要发现警报
提醒、草稿
非常高
放射科医生(确认+报告)
诊断/最终报告
没有帮助
非常高
放射科医生+临床医生
请记住该图表中的一行:随着风险上升,人工智能的作用缩小,人类的认可度增加。人工智能不能“豁免”任何方面的研究。
为什么验证是该业务的核心
人工智能似乎对其给出的输出充满信心,但也可能不确定。图像模型可能会错过某个发现(假阴性)或标记不存在的发现(假阳性)。另一方面,文本生成语言模型可以将图像中实际上没有的发现以流畅的句子添加到报告中,就好像它是真的一样;这称为幻觉。例如,一句“右肾上腺腺瘤”可能包含在从未被看过的胸部CT报告草稿中。两个陷阱都具有相同的流动性;唯一区分对错的是你的专业知识和验证的习惯。
验证规则包括三个步骤:
- 链接到图像:将每个 AI 标记的发现及其写入报告中的每个句子与图像本身进行匹配。图像中没有对应项的任何表达式都不能包含在报告中。使用人工智能来吸引注意力,而不是作为证据。
- 独立阅读/重新评估:一定要阅读没有被AI标记的区域。负的人工智能输出并不能保证“没有发现”;永远不要跳过自己的系统筛查。
- 临床过滤:用专家的眼睛测试输出是否与患者的病史、适应症、既往检查和检查结果相矛盾。
注意:在未将每个句子与图像进行匹配的情况下签署人工智能生成的报告草稿与提交未签署的报告承担相同的责任。平滑输出不是正确输出。
隐私:图像数据是私人数据
放射图像和报告属于特殊个人数据,受土耳其 KVKK(个人数据保护法)和欧洲 GDPR 的保护。此外,放射数据在两个独立的层中携带身份:DICOM标头(图像文件开头的患者姓名、身份证号、出生日期、机构、检查日期等字段)和有时烧入的文本(从超声或扫描仪屏幕捕获并处理为像素的患者信息)。将图像或报告按原样加载到公共人工智能工具中会公开这两个层。规则很简单:首先匿名。清除DICOM标头,屏蔽嵌入文本;分享故事时,请写“62 岁女性,已知乳腺癌病史”,而不是“Ayşe Yılmaz,协议 2024-114523,乳腺癌”。如果可能,请选择具有数据处理协议的企业工具,并且不要在模型训练中使用您的数据。
三个迷你箱子
案例 1——安全使用。一名放射科医生在繁忙的轮班期间面临着一份包含 40 次脑部 CT 扫描的工作清单。 Triage AI 提出了两项“可能急性出血”的测试。放射科医生首先阅读这两份报告,发现其中一份有大量硬膜下出血,并在 6 分钟内致电神经外科;他看到另一件是运动神器,并将其消除。他按顺序完整阅读了其余 38 篇研究报告。 AI改变了顺序,但没有消除阅读;关键事件获得了几分钟的时间。
案例 2 — 未经验证的吃水陷阱。另一位放射科医生很快签署了人工智能生成的胸部 CT 报告草稿。草案中包含“右肾上腺2厘米腺瘤”这句话;然而该部分并没有这样的病变——模型产生了幻觉。在这种形式下,报告会提交给临床医生,而患者则会接受一系列不必要的内分泌检查。验证被跳过,句子与图像不匹配。
案例 3——违反保密规定。一名技术人员将他认为有趣的超声图像(嵌入了患者姓名)上传到公共人工智能工具,并询问“这可能是什么?”图像与患者 ID 一起发送到外部服务器。该机构面临 KVKK 审查。正确的方法是屏蔽嵌入的文本,清除 DICOM 标头,并仅共享匿名图像。
弱提示/强提示
弱提示:
写下这份胸部CT报告:Ayşe Yılmaz,TC 123...,协议2024-114523,我认为肺部有东西。
该请求在三个方面是错误的:共享身份信息(违反 KVKK)、未给出调查结果和模式细节、未定义角色和边界。人工智能通过猜测来填补空白,并且存在出现虚假结果的风险。
强力提示:
您的角色:报告放射科医生的草稿准备助理。不要做出诊断,不要认为报告是完整的。仅根据我给您的调查结果制作一份结构化草案;添加与图像不对应的任何发现;将您不确定的区域标记为“[让放射科医生确认]”。患者:62岁,女性,咳嗽,有吸烟史。方式:胸部非造影CT。给出的结果:右上叶有 8 毫米软组织密度结节;纵隔内无病理大小的淋巴结;无胸腔积液。标题:临床信息、技术、发现、结论、建议。
强烈意志是匿名的,定义了角色和边界,给出了模式和发现,禁止捏造,并需要验证标志。
可复制的提示模板
角色和边界描述模板您的角色:报告放射科医生的草稿准备助理。您不是放射科医生;做出诊断、发布报告、报告重要发现。最终批准和签名由放射科医生承担。请勿添加任何与图像不对应的发现;如果不确定,请标记为“[让放射科医生确认]”,不要弥补。任务:[写任务]。
匿名化控制模板从下面的文本中提取姓名、TR ID、协议/检查编号、出生日期、联系方式和机构信息;改为写“[已删除]”。仅留下临床相关信息(年龄组、性别、相关病史)。注意:提醒我,如果我要共享图像,我还需要清除图像中嵌入的 DICOM 标头和文本。文本:[粘贴文本]
确认检查模板对于您生成的草稿中的每个发现陈述,请指出:(1) 此发现基于什么输入,(2) 图像中需要验证的内容,(3) 它取决于临床背景。必要时使用“可能/可疑”的语言,而不是明确的陈述。
风险级别分类模板放置并证明放射科任务的合理性,我将把您分为以下几类:(A) 低风险 - AI 大纲/建议足够,(B) 中等风险 - 放射科医生必须确认,(C) 高/极高风险 - 诊断/决定/通知属于放射科医生,AI 仅是辅助。任务:[写任务]。
常见错误
- 将人工智能误认为是放射科医生。 AI扫描图案但不承担责任、不签名;诊断结果是你的。输出是草案,而不是决定。
- 忘记了图像中嵌入的身份。清除 DICOM 标头还不够;超声/扫描仪图像上以像素形式雕刻的姓名也应匿名。
- 依靠负AI输出和放松扫描。 “没有迹象”并不意味着没有发现;永远不要跳过你自己的系统阅读。
- 在没有匹配的情况下签署报告草稿。您可以添加非模型的发现;每个句子都必须通过图像进行验证。
- 没有提供临床背景。没有迹象、历史或先前检查的解释是具有误导性的。
提示:对于每次检查,问自己一个问题:“如果此打印输出不正确,患者会怎样?”如果答案是严肃的——在放射学中通常是这样——仅使用人工智能进行预取/绘制/测量,并且永远不要跳过验证。
综上所述
人工智能是放射学领域的强大助手:它提出紧急情况、进行测量、绘制草图,成为第二只眼睛。但由于您在安全关键领域工作,诊断、报告发布以及关键发现的通知都由合格的放射科医生负责。人工智能在成像过程的四个阶段(预捕获、捕获、读取、报告)中的作用根据风险级别而变化;随着风险的增加,人们的认可度也会增加。三个学科守护每一步:图像链接、独立读取、临床过滤。其背后是保密性:图像和报告在未经匿名处理的情况下不会进入任何外部设备,包括 DICOM 标头和嵌入文本。
应用任务
从您的单位(或示例场景)中选择三项不同的任务:一项是低风险(例如,每日工作清单摘要),一项是中等风险(例如,起草报告),一项是极高风险(例如,重要发现通知)。对于每一个,(1) 用一句话描述人工智能的作用,(2) 写下您将采取的验证步骤,(3) 表明您将如何对数据(文本和图像)进行匿名化。然后根据您的中等风险任务调整上面的“角色和边界定义”模板并编写提示。
清单
- [ ] 我确定了任务的风险级别(低/中/高/非常高)。
- [ ] 我将AI的角色限制为“协助/培育/起草/测量”;放射科医生的诊断和签名。
- [ ] 我对文本进行了匿名处理;出现姓名、TR ID、协议和出生日期。
- [ ] 我注意到,如果我要共享图像,我会清除 DICOM 标头和嵌入文本。
- [ ] 我在提示中添加了临床背景(年龄、性别、适应症、病史、既往检查)。
- [ ] 尽管人工智能输出为负,我还是致力于进行自己的系统阅读。
- [ ] 如果每句话都与图像相符,我不会在稿件上签名。