收益：
- 能够在 KVKK/隐私范围内对患者实验室数据进行匿名化并应用安全工具和数据处理规则
- 了解为什么验证、性能指标和偏差控制在人工智能模型的临床使用中是强制性的。
- 通过将四项道德原则和责任链融入到人工智能的每次使用中，能够承担最终责任
实验室是医疗保健系统中数据最密集的点之一。每个患者、每次测试、每个结果都是一段数据，而这些数据大部分都属于敏感个人数据的范围——即健康数据。人工智能可以通过处理这些数据产生巨大的价值，但如果使用不慎，同样的人工智能也可能导致严重的隐私侵犯、法律责任和患者信任受损。此外，这不仅仅是保密问题：证明投入临床使用的人工智能模型确实可靠（即验证）并确保该模型对某些患者群体不公平（偏见）是一项专业和道德义务。
在本单元中，您将学习如何在 KVKK/保密范围内保护患者实验室数据；临床人工智能模型的验证、性能指标和偏差控制；以及如何将道德原则融入到每种用途中。基本原则：未经匿名处理，数据不进入任何车辆；在根据您自己的数据进行验证之前，任何模型都不会参与临床决策；最终的责任始终由专家承担。
隐私：什么数据，如何保护它
患者实验室数据（结果、诊断、方案编号、身份）受土耳其 KVKK（个人数据保护法）和欧洲 GDPR 的保护，并且由于健康数据具有“特殊性质”，因此需要额外的保护。使用人工智能的三个基本规则：
- 匿名。删除姓名、TR ID、协议/文件编号、出生日期、联系方式和机构信息。 “68岁女患者”就足够了；不是“Ayşe Yılmaz，1957 年 3 月 12 日”。请注意，罕见疾病+小地点等组合可能会间接揭示身份。
- 最低数据政策。共享任务所需的最少数据。参考范围问题不需要整个患者档案。
- 安全选车。选择具有数据处理协议且不在模型训练中使用您的数据的企业工具。将原始患者文件上传到公共工具是最常见、最严重的违规行为。
数据类型
风险
正确的行为
名称、TR ID、协议号
直接识别
提取、匿名
出生日期、地址
间接识别
下载到年龄范围，删除地址
结果值
健康数据
尽量匿名分享
影像（涂片、病理）
健康数据+身份线索
将其保存在经过验证的临床系统中；装入敞篷车辆
注意：“我加密了，所以我也可以发送名字”是错误的。加密使传输安全，但并不能证明将身份数据发送到人工智能工具是合理的。提取身份数据。
模型验证：为什么“发布”还不够
仅仅因为人工智能模型（例如图像分类器或解释引擎）在一个地方运行良好，并不意味着它在您的实验室中也能运行良好。该模型可能已经在另一个群体、另一个设备、另一个染色方案上进行了训练；其性能在您的样品中可能有所不同。这称为分布转移。因此，每个投入临床使用的模型都应该根据自己的数据进行验证，并定期测量和监控其性能。
验证中使用的关键绩效指标：
- 敏感性：模型准确捕获真正患病/阳性者的比率。低灵敏度 = 错过真阳性（假阴性） = 错过关键发现的风险。
- 特异性：真正健康/阴性的消除的正确率。低特异性=许多误报。
- 假阴性/假阳性率：在实验室中，假阴性（错过关键发现）通常比假阳性更危险；该平衡根据模型的预期用途进行调整。
模型一旦被验证，就不会被遗忘；随着时间的推移，设备、试剂、群体可能会发生变化，性能也可能会发生变化。因此，需要持续监测和定期重新评估。
偏见：模型对谁不公平？
模型了解训练数据中的不平衡情况。如果图像模型主要根据特定患者组的示例进行训练，则可能会在代表性不足的组中产生更多错误。在实验室环境中，这意味着该模型对于特定年龄、性别或临床群体的表现较差——这是一个公平/道德问题。验证时，不仅需要检查总体性能，还需要检查子组的性能。忽视偏见意味着默默地为某些患者提供更差的服务。
道德四项原则和责任链
健康伦理的四项基本原则也适用于实验室人工智能：
- 造福：人工智能应该为患者造福；加速不应损害安全。
- 非恶意：未经验证的输出、虚假的临界值、错过的发现都可能导致伤害；阻止它们是一种道德义务。
- 自主性：患者对其数据的权利受到保护；尊重保密和同意。
- 公正：该模式应该为所有患者群体提供同等质量的服务；必须检查偏差。
最重要的是，存在一个责任链：人工智能可能会产生输出，但专家对该输出的结果负责。 “AI是这么说的”不是借口；签名、决定和责任属于人类。
弱提示/强提示
弱提示：
解释 Ayşe Yılmaz（TC 123...，方案 2024-88）的所有结果和诊断并撰写报告。
该请求直接包含身份数据（违反KVKK），违反最小数据原则，请求诊断。这是对隐私和边界的严重侵犯。
强力提示：
您的角色：实验室专家的草稿准备助理。以下数据为匿名数据；不包含识别信息。仅使用所需的临床/分析信息。做出诊断；使用“可能”的语言；请咨询医生。患者：68岁女性，已知甲状腺疾病。匿名结果（参考）：TSH 6.2 mIU/L（参考值0.4-4.0），游离T4在正常范围内。任务：向患者写一份简单的简报大纲；生成身份线索。
强提示是匿名的，使用最少的数据，将诊断保留给专家，并指定限制。
三个迷你箱子
案例 1——防止隐私泄露。为了解读患者报告，技术人员首先使用“匿名控制”模板从文本中提取姓名、ID 和协议编号；它只留下年龄、性别和结果值。然后它在安全的企业工具中运行。数据不会以身份的形式传出机构。违规行为在工作开始前就被阻止了。
案例 2 — 未经验证的模型陷阱。实验室开始直接在自己的仪器中使用另一个中心开发的尿液沉渣模型；它不验证。一段时间后，我们注意到该模型经常在其染色方案中遗漏某些晶体（分布偏移）。假阴性已经累积。教训：在根据您自己的数据进行验证并测量敏感性/特异性之前，模型不会影响临床决策。
案例 3——捕捉偏见。在绩效审计中，虽然模型的整体敏感性似乎很高，但发现在老年患者亚组中显着较低；该模型在该组中犯了更多错误。实验室为这组模型输出添加了额外的专家审查，并联系制造商。教训：不仅要检查整体表现，还要检查小组表现；正义原则要求如此。
可复制的提示模板
匿名化控制模板从下面的文本中提取姓名、TR ID、协议/文件号、出生日期、地址、电话和机构信息；替换为“[已删除]”。如果有间接 ID 线索（罕见诊断+小位置）则发出警告。仅留下必要的临床/分析信息。文本：[文本]。
模型验证计划模板为我将投入临床使用的人工智能模型准备一份验证计划草案：我将使用哪些自己的数据来测试它，如何测量敏感性/特异性，如何评估假阴性/阳性的平衡，如何控制亚组（年龄/性别）表现，重新评估的频率。我会决定；您制作一份清单。
偏差检查模板评估模型的性能。列出我应该在哪些亚组（年龄、性别、临床组、样本类型）中单独寻找表现，以及如果我发现一组表现明显较差，我应该采取哪些步骤。添加公平/平等警告。
道德自我审核模板我即将使用的人工智能根据四个道德原则进行审核：仁慈、非恶意、自主（隐私/同意）、公平。针对每项政策提出风险问题。另外，“谁负责这个输出？”请我回答你的问题。用法：[定义]。
常见错误
- 向车辆提供识别数据。姓名、TR ID 号和协议号在未经匿名处理的情况下不会共享；加密并不能证明这一点。
- 忘记间接身份。罕见诊断+小位置等组合可以揭示身份。
- 使用模型而不验证它。在其他地方运行的模型可能会对您的数据产生不同的性能。
- 看看总体表现就知道了。如果不进行亚组分析，偏差仍然是隐藏的。
- 把责任推给模型。 “人工智能说”不是借口；决定和签字属于专家。
提示：在每次使用人工智能之前，一起问两个问题：“这些数据是否已去识别化？”以及“我知道这个模型在我的产量下表现如何吗？”第一个问题的答案是保护隐私，第二个问题的答案是保护安全。
总之
实验室数据是特殊品质的健康数据；使用人工智能时，匿名、最低数据政策和安全工具选择是强制性的。投入临床的模型必须根据自己的数据进行验证；应测量敏感性、特异性和假阴性/阳性平衡；还应该在小组中检查表现以检查是否存在偏差。四种道德原则——仁慈、非恶意、自主、正义——融入到每一种用途中，而在它们之上的是责任链：虽然输出来自模型，但决策和责任在于专家。
应用任务
使用“匿名化控制”模板对样本患者文本进行匿名化，并列出您删除的信息。使用“模型验证计划”模板为您正在使用（或考虑使用）的 AI 模型创建验证清单；包括敏感性/特异性和亚组分析。最后，使用“道德自我审核”模板根据四项原则评估使用情况。
清单
- [ ] 我对数据进行了匿名处理；我删除了直接和间接的身份线索。
- [ ] 我应用了最低数据策略；我只分享了必要的内容。
- [ ] 我使用了安全的企业数据处理承包工具。
- [ ] 我根据自己的数据验证了模型；我测量了敏感性/特异性。
- [ ] 我检查了子组的表现并检查了偏差。
- [ ] 我遵守四项道德原则并确认责任在于专家。