收益：
- 能够在工作流程的每个阶段（从患者入院到出院）在一定范围内现场集成人工智能
- 能够在诊所/机构规模建立快速库、验证协议和符合 KVKK 的隐私政策
- 能够设计一种审计文化，保护患者安全、责任和对人工智能支持的医学的信任
以前的单元已经在临床工作的各个阶段讨论了人工智能（AI）：鉴别诊断、文献、病史、成像、药物、患者沟通、验证、隐私、文档、问责制。在最后一个单元中，我们将所有内容结合在一起：如何在工作流程的每个阶段（从患者入院到出院）以原位、有界和可审核的方式集成人工智能；您将学习如何在临床或机构规模上将其制度化。目标是让人工智能不再是个人的“噱头”，而是成为保护患者安全和责任的系统的一部分。
人工智能在患者旅程中的地位
考虑患者的临床历程并确定人工智能在每一站的作用和限制：
- 入院/分诊：AI可以收集初步信息，推荐优先顺序；决定权在医生手中（红色区域）。
- 病历：人工智能构建患者证词；医生完成检查（黄色区域）。
- 鉴别诊断：AI概率提醒；由医生进行诊断（红色区域）。
- 检查/监控：人工智能确定优先顺序、措施；放射科医生的报告（红色区域）。
- 治疗/用药：AI交互提醒；医生的剂量和处方（红色区域）。
- 文档：人工智能产生史诗般的危机/代码草案；医生确认（黄色区域）。
- 患者信息：人工智能简化；内容经医生批准（黄色区域）。
- 放电/监控：AI生成指令和提醒；责任在于医生。
每个站点都适用相同的规则：人工智能加速，医生验证和决定。
提示：一旦您完成工作流程并询问“人工智能在每个步骤中做什么，它的限制是什么，谁来验证它？”把它画出来。这张地图成为新团队成员和监督人员的一页指南针。
企业三块积木
个人的善意是不够的；安全的人工智能使用需要一个制度框架。
1.提示库。经过测试的标准提示，为每个重复任务（危机、匿名、代码建议、患者注释、验证）提供书面边界。每个人都使用相同的安全模式；质量一致。
2. 认证协议。对于每种输出类型，都写有谁将验证什么、使用哪个源。安全关键输出（诊断、剂量、报告）经主管医生批准后关闭。
3. 符合 KVKK 的隐私政策。可以使用哪些工具、可以输入哪些数据、匿名规则和工具审批流程都被记录下来。
一步一步：企业应用
- 绘制您的工作流程。 AI的角色、限制、每一步的验证者。
- 分配风险区域。绿色/黄色/红色。
- 安装提示库。带有限制和验证说明。
- 编写身份验证协议。每个输出类型。
- 设置隐私政策和工具列表。符合 KVKK 标准。
- 建立培训和审核周期。从错误中学习，更新。
三个迷你箱子
案例 1——从混乱到系统。在综合诊所中，每位医生使用不同的工具和随机提示；质量参差不齐，存在一些隐私风险。该诊所正在建立通用提示库、验证协议和批准的工具列表。 3 个月后，文档时间减少，隐私问题得到解决，输出质量达到平衡。
案例 2 — 审计更正。在每月的审计中，6% 的人工智能生成的重大事件似乎存在未经纠正的虚假发现。该机构将“危机验证”步骤与强制性检查表联系起来并提供培训；在下一次审计中，该比率降至 0.5%。审核循环在错误传输到系统之前捕获错误。
案例 3 — 安全集成。一家医院通过符合 KVKK 的合同部署其人工智能工具，该工具不仅在教育中使用数据，而且在教育领域使用数据。它将匿名规则嵌入到系统中。因此，在提高速度的同时，隐私和责任得到了保护。良好的设计使安全性“从一开始就嵌入”，而不是“后来添加”。
企业成熟度表
级别
特征
风险
凌乱的
每个人都是自己的工具/提示
高（质量、隐私）
标准型
常用提示库
中等
监督的
认证协议+确认
低
成熟的
政策+培训+审核周期
最低，持续改进
四个可复制模板
任务：逐步制定以下临床工作流程。对于每个步骤：-人工智能的角色-风险区域（绿色/黄色/红色）-边界（不该做什么）-谁验证/认证工作流程：[...]
任务：为以下输出类型制定验证协议草案：谁检查、使用什么来源、什么步骤、谁验证、在什么情况下咨询专家。输出类型：[...]
任务：为我们的诊所制定人工智能隐私政策框架：允许的工具、可以/不能输入的数据、匿名规则、工具审批流程、违规时该怎么办。遵守 KVKK。
任务：为以下重复任务准备标准提示，并附有边界和验证说明；采用可以添加到团队库中的格式。任务：[...]
弱提示/强提示
弱者：“我们应该如何在诊所中使用人工智能？”
Strong：“逐步绘制我们诊所的以下工作流程（入院、病历、诊断、检查、治疗、记录、出院）。在每个步骤中，指定人工智能的角色、风险区域、它不会做什么以及由谁来验证和确认。清楚地标记安全关键步骤，并在每个步骤上添加“需要合格医生批准”的注释。还建议一个提示库和验证协议的标题。”
在强大的提示下，AI产生系统设计骨架；边界和检查站很明确。
常见错误
- 无人监督、混乱使用。每个人都有自己的车辆会增加风险。
- 不写界限。如果没有定义“它不做什么”，那就太过分了。
- 将验证留给个人。无需协议即可绕过它。
- 将隐私政策留到以后再说。 KVKK 风险应从一开始就进行管理。
- 没有建立审核循环。错误不断重复；系统不学习。
团队文化和学习周期
技术构建模块（提示库、协议、策略）是必要的，但还不够；主要决定因素是团队文化。在安全使用人工智能的组织中，报告错误并不被视为耻辱，而是对系统改进的贡献。说“我在AI输出中发现了幻觉”应该是一种受到赞赏的行为，而不是受到惩罚。然而，在开放的报告文化中，错误会变得明显，系统会学习。
这种文化由三种习惯滋养。首先，定期分享：简短的会议，与团队分享捕捉到的有趣的幻觉和好的提示。其次，角色明确：不让谁验证什么不明确；不确定性导致每个人都假设“其他人正在寻找”。第三，持续更新：随着指南、工具和模型的变化更新库和协议。人工智能不是静态的；机构的纪律也不应该是一成不变的。
提示：衡量组织人工智能成熟度的最简单方法是问：“上个月人工智能输出中发现了多少错误以及从中学到了什么？”零错误报告是盲目的标志，而不是完美的标志。
总之
实现人工智能在医学中的真正价值的方法是以明确的方式将其嵌入到端到端的工作流程中并将其制度化。绘制工作流程、分配风险区域、建立三个构建块：提示库、身份验证协议和符合 KVKK 的隐私策略。经主管医生批准后关闭每个安全关键输出，并通过培训审核周期不断改进。这同时确保了人工智能速度、患者安全和责任。
应用任务
使用上面的映射模板逐步规划出您自己诊所的工作流程（例如门诊患者旅程）：人工智能在每个步骤中的角色、风险区域、边界和验证者是什么？然后为输出类型（例如，史诗般的危机）起草身份验证协议和隐私策略框架。创建一个一页指南针，您可以与您的团队共享。
清单
- [ ] 我一步步规划出了工作流程。
- [ ] 我为每个步骤分配了风险区域和限制。
- [ ] 我已将安全关键步骤与主管医生的批准联系起来。
- [ ] 我安装/启动了提示库。
- [ ] 我为每个输出类型编写了验证协议。
- [ ] 我已确定符合 KVKK 的隐私政策和工具列表。
- [ ] 我建立了一个培训和监督周期。
模块考试
1. 一位内科医生向人工智能请求一份鉴别诊断清单，这样他就不会错过复杂病例中的任何可能性。哪种做法才是最正确的呢？
- A) 使用人工智能列表作为提醒，并通过临床发现、实验室和检查评估每种可能性；作为医生做出最终诊断 ✔
- B) 直接接受人工智能所说最有可能的诊断并开始治疗
- C) 如果人工智能多次重复同一诊断，无需检查即可最终确定。
- D) 将清单发送给患者并要求他自己做出决定
点评：人工智能对于扩大鉴别诊断列表和起到提醒作用具有价值；然而，最终诊断是通过医生评估的临床检查、实验室和影像学结果来做出的。 AI不诊断；它不能替代医生的临床判断。
2. 一位医生向 AI 索要最新治疗方法的文献摘要和来源。 AI 返回了三篇带有有说服力的标题和期刊名称的文章。最好的行为是什么？
- A) 将来源按原样添加到报告中，因为标题令人信服
- B) 假设文章是准确的，因为期刊名称很熟悉
- C) 在真实数据库中搜索每篇文章并确认其存在、其结果及其与主要来源的当前指南的兼容性✔
- D）再次提出相同的问题并接受共同文章的正确性
解释：语言模型可以编造实际不存在的文章、作者和 DOI 号（幻觉）。每个引文都应在真实数据库（例如 PubMed）中进行搜索，并且应确认主要来源是否文章确实陈述了该结论及其是否符合当前指南。
3. 当将信息输入人工智能工具以打印患者的历史危机时，就患者隐私而言最好的行为是什么？
- A) 按原样上传包含患者姓名和 TR ID 号的整个文件
- B) 在不阅读隐私政策的情况下使用任何免费工具
- C) 假设必须提供所有患者身份信息以确保结果质量
- D) 清理标识符并仅提供临床上必要的信息，并选择不使用教育数据的 KVKK 兼容工具 ✔
说明：健康数据是KVKK中的特殊个人数据。应清除患者姓名、TR ID号和文件号等标识符（匿名化/数据最小化），仅提供临床必要的信息，并且应优先选择保证数据不会用于教育的机构、政策合规工具。
4.人工智能向患者提供处方剂量建议。服用此剂量之前最关键的步骤是什么？
- A) 直接施用剂量，因为人工智能给出了明确的数字
- B) 从当前说明书和经过验证的药物数据库确认剂量，并根据患者的临床情况作为医生进行调整✔
- C) 更改为您记忆的其他患者的剂量
- D) 将特殊情况（肾脏、怀孕）留待以后处理
解释：AI 可能会记错剂量、混淆单位或漏掉肾/肝功能、年龄和怀孕等特殊情况。剂量应根据现行说明书和经过验证的药物数据库确定，并由医生根据患者的临床状况进行调整。
5. 放射学 AI 在胸部 X 光检查中返回“未检测到异常”。最好的临床态度是什么？
- A) 如果存在临床疑问，请由合格的放射科医生读取图像并提供包含临床背景的最终报告 ✔
- B) 在没有放射科医生阅读的情况下将射线照片报告为正常，因为人工智能显示结果为阴性
- C) 即使患者的主诉仍然存在，也停止进一步检查
- D）将人工智能输出结果直接传输给患者
描述：成像 AI 可能会出现漏报；可能会遗漏轻微或非典型的发现。人工智能有助于分诊和预筛查，但最终报告由合格的放射科医生阅读，评估患者的临床情况。负的 AI 输出并不能消除临床怀疑。
6.人工智能输出以非常自信的语言给出了错误的指南推荐。为什么这种情况在医学上特别危险？
- A) 自信的语气证明输出是正确的，因此被认为是安全的
- B) 自信的语气并不能证明准确性；看似安全的错误如果未经确认就会威胁患者安全✔
- C）当人工智能自信地说话时，不需要来源确认
- D）没有危险，因为人工智能在医疗问题上是绝对正确的
说明：语言模型流畅地产生信任表达；但自信的语气并不能证明其准确性。在医学上，看似安全的幻觉（错误的剂量、虚构的研究、过时的建议）直接威胁到患者的安全。因此，每项临床声明都应根据当前指南和主要来源进行验证。
7. 医生使用人工智能为患者提供清晰的出院后简报。哪种做法才是最正确的呢？
- A) 制作便条并将其直接交给患者而不阅读
- B）保留医学术语不变，等待患者研究
- C）通过从文本中删除危险信号症状来缩短注释
- D) 将笔记作为草稿，以医生的身份验证每项医疗信息，并将语言达到患者可以理解的水平✔
描述：人工智能擅长将医学语言翻译成简单语言并生成可读的指令。然而，文本中的每项医疗信息（剂量、红旗症状、控制日期）均应由医生检查其准确性；最终责任应由医生承担。文字还应适合患者的健康素养。
8.您输入人工智能的病例摘要包含患者的姓名和档案编号，该工具是在模型训练中使用此数据的服务。这种情况的主要问题是什么？
- A）没有问题，因为人工智能工具安全地存储每个数据
- B）问题仅在于输出的质量，而不在于隐私
- C) 在未经同意和采取适当预防措施的情况下，将敏感个人数据与标识符一起输入到将其用于教育的服务中，从而造成 KVKK 违规和隐私风险。 ✔
- D) 只要给出患者姓名，档案号就不是问题
说明：健康数据属于KVKK下的特殊个人数据，需要更高的保护。在未经患者同意的情况下，进入在教育中使用数据和识别信息的服务会产生数据处理和泄露的风险；法律和道德责任由医生/机构承担。
9.为了在临床中安全地使用人工智能，有必要根据风险级别来划分任务。以下哪项是“安全关键（红色区域）”任务？
- A) 总结会议记录
- B）简化文本的语言
- C) 做出明确诊断并决定治疗和剂量 ✔
- D) 格式化表格
解释：诊断、治疗/剂量决定和紧急分诊是直接影响患者安全的安全关键决策，需要有能力的医生审查和批准。会议记录、语言简化或格式化等任务风险较低；人工智能可以在这些方面自由使用。
10. 病人问：“诊断是你做的还是人工智能做的？”他问道。在知情同意和透明度方面最好的态度是什么？
- A）隐藏人工智能的使用并自己做出所有决定
- B）将决策完全归咎于人工智能并把责任留给它
- C) 不回答问题并改变话题
- D) 清楚、诚实地声明他使用人工智能作为辅助工具，最终的诊断和决定属于他✔
澄清：透明度和知情同意要求医生明确声明他/她正在使用人工智能作为辅助，并且最终的诊断和决定是他/她自己的。隐藏人工智能、将决策归咎于人工智能是错误的；责任在于医生。
11. 在你用人工智能制作的一份危机草稿中，有一个“发烧39度”的发现，而真实的文件中没有这个发现。这是一个什么例子以及应该做什么？
- A) 这是一种幻觉；将每一行与真实文件进行比较，纠正错误的发现并将文件传递给医生批准✔
- B) 这是一个不重要的细节；按原样签署文件
- C）信息应该被接受为正确的，因为它是由人工智能编写的
- D）向文件添加火力而不是删除发现的结果
说明：在文本中添加实际不存在的发现是幻觉的一个例子。临床文件是法律记录；每行必须与真实文件进行准确比较，必须纠正捏造或不一致的信息，并且该文件必须得到医生的批准。
12.您收到人工智能推荐的ICD诊断代码。将代码提交到正式记录之前的最佳行为是什么？
- A）直接提交，因为代码看起来可信
- B) 根据当前官方分类和实际诊断文件验证代码后进行处理✔
- C）认为代码是正确的，因为人工智能给出了它
- D) 将代码更改为您记得的另一个代码
解释：人工智能可能会产生幻觉代码、给出过时的版本或诊断不匹配。错误的编码会导致临床注册和报销出现问题。该代码必须根据当前官方分类和实际诊断进行验证。
13. 在准备证据摘要时，人工智能表示治疗“有效”。批判性评估这一主张的最重要步骤是什么？
- A）直接接受索赔，因为人工智能这么说了
- B) 选择给出最积极结果的单一研究
- C) 评估声明所依据的证据水平（荟萃分析、随机对照试验、病例系列）及其与主要来源当前指南的合规性 ✔
- D）无论证据水平如何，都发布摘要
解释：治疗的有效性取决于证据水平：荟萃分析和精心设计的随机对照试验比病例系列或专家意见更有说服力。此外，还应评估对当前指南的遵守情况和利益冲突。在没有证据和指导的情况下接受单一主张是错误的。
14. 一家诊所正在建立基础设施，以维持人工智能使用的质量和患者安全。以下哪项是基本构建块？
- A) 每个医生都使用他/她所知的无人监管的车辆。
- B) 可以将患者数据免费输入任何免费工具
- C) 每年仅进行一次验证
- D) 建立通用提示库、验证协议、KVKK 合规政策，并经主管医生批准关闭安全关键输出 ✔
描述：人工智能的分布式、无监督使用会放大错误和隐私的风险。通用提示库、每种输出类型的验证协议、符合 KVKK 的隐私政策以及在主管医生批准的情况下关闭每个安全关键输出；它是企业安全使用的基础。