收益:
- 能够根据风险级别区分人工智能在兽医工作流程中哪些地方可以实时节省时间,以及哪些地方应由有能力的兽医承担诊断和治疗的责任
- 能够实施多层验证规则,根据临床检查、当前指导、经过验证的测量和医生批准来测试每个人工智能输出
- 获得上下文匿名化、隐私和安全工具选择,以保护患者所有者数据、临床记录和业务信息。
兽医学是一个具有挑战性的决策过程,它读取非语言患者的症状并将其转化为安全的治疗方法。这个链条中的一些环节(记录保存、文案撰写、数据汇总)可以快速实现自动化;其中一些永远无法转移到机器上,因为它们触及生物的生命。人工智能(简称AI;从数据中学习模式并生成文本、图像或代码的软件)是这个链条中的强大加速器:总结病史、起草鉴别诊断清单、编写所有者简报文本、组织实验室结果。但人工智能不是兽医,而是兽医。不检查、不触诊、不承担责任、不签署处方。在本单元中,您将学习在兽医业务中何处使用人工智能、在何处停止以及如何验证每个输出。我们的目标是让你成为一名控制人工智能的医生,而不是依赖人工智能的医生。
人工智能在兽医领域能做什么、不能做什么
人工智能的真正力量在于生成语言、模式和变体。将松散的病史记录(患者病史;主人告诉并由医生观察的信息)转变为有条理的记录,列出可能的疾病诊断,总结血象图表,写出院单,准备疫苗接种提醒,需要几秒钟的时间。在这些任务中,人工智能可以节省您的时间,让您有更多的时间在床边。
AI做不到的是临床判断,这需要责任。明确的诊断、药物剂量、手术指征、预后(对病程的估计)、安乐死决定;这些都不能用“通常是这样”的逻辑来给出。人工智能产生幻觉是因为它从互联网上的文本中学习:也就是说,它可以编造出看似真实但虚假的剂量、参考值或疾病关联。在兽医学中,这种类型的错误不仅仅是拼写错误;而是错误。动物的死亡意味着人畜共患疾病(动物传染给人类的疾病)的传播或食品安全违规行为。
注意:AI输出的是草稿,不是医生的意见。未经合格兽医的审查和批准,不得做出诊断、治疗、处方和预后等安全关键决策。人工智能并不能取代这种同意。
物种之间的差异:兽医学特有的大陷阱
与人类医学不同,兽医不是针对单一物种,而是针对数十种物种:猫、狗、马、牛、绵羊、山羊、家禽、外来动物。同一种药物可能对一种物种是安全的,但对另一种物种来说可能是致命的。例如,扑热息痛对猫有毒;含有氯菊酯的狗体外寄生虫产品如果涂在猫身上可能会致命。由于人工智能是根据常见的医学文本进行训练的,因此它可以默默地混淆品种差异,并根据狗的数据生成猫的建议。因此,有必要根据目标物种、品种、年龄和生理状态(怀孕、哺乳期)确认AI给出的每一条建议。
按风险等级分为三个区域
安全使用人工智能最实用的方法是根据风险级别将每个任务分为三个区域。
地区
示例任务
人工智能的作用
验证级别
绿色(低风险)
病历准备、出院文本、疫苗接种提醒、电子邮件草稿、业主培训手册
免费生产
快速审核
黄色(中等风险)
鉴别诊断清单、实验室摘要、图像预扫描、畜群数据摘要
草案+提案
医师控制+来源确认
红色(安全关键)
确诊、药物剂量、处方、麻醉、手术指征、预后、安乐死
仅预筛选/清单
必须经过有资格的医生审查和批准
在绿色区域要快。在黄色区域使用人工智能,但确认每个值和来源。在红色区域,AI永远没有最终决定权;它只是加快医生工作速度的一种辅助手段。
三个迷你箱子
案例 1(绿色)。一家诊所平均每天接诊 22 名患者,每位医生每天手写每份出院单大约需要 40 分钟。当用AI生成基于模板的放电文本时,这个时间减少到12分钟;医生仅阅读并批准内容。风险很低,因为文本得到了医生的批准。
案例 2(黄色)。一只 6 岁、28 公斤重的狗出现呕吐和食欲不振。医生将病历交给AI,并创建8项鉴别诊断清单。该列表是一个有用的提醒,但医生在检查过程中通过触诊发现疼痛区域,并在列表中提出较低的诊断。 AI加快了列表速度;医生做出了决定。
案例 3(红色)。一名实习生向 AI 询问一只 3.2 公斤重的猫的止痛药剂量,AI 给出的值接近于狗的剂量。当负责的医生检查官方说明书上的剂量时,他发现猫的数值高出 4 倍。双重检查可防止中毒。在红色区域,人工智能永远不可信。
多层验证纪律
验证不是可以因为“我稍后再检查”而推迟的事情;是工作流程的一部分。可靠的验证由五层组成:
- 返回检查。无论AI说什么,最终的决定都是基于体检和临床发现。
- 回归本源。如果人工智能给出了剂量、参考值或监管物质,请通过适用的官方文本(数据包传单、当前指南、立法)进行确认。
- 独立账户。亲手重新计算数值结果,如剂量、液体体积、卡路里。
- 类型/上下文测试。验证建议是否适合目标物种、品种、年龄和生理状况。
- 留下你的印记。记录哪些输出被验证以及如何验证;稍后再检查一下。
提示:“人工智能说”不是理由。临床决定的理由始终是检查、检查、当前指南或合格的医生评估。人工智能可以帮助你准备这些理由,但它不会取代它们。
隐私、版权和道德
兽医数据很敏感。患者主人的姓名、地址、联系信息、动物的临床病史、企业的生产力和疾病数据;所有这些都属于个人数据或商业秘密的范围。在将这些数据提供给基于云的人工智能工具之前,请先问三个问题:这些数据真的有必要吗?可以匿名吗?我使用的工具在训练中使用数据吗?
还有另一个道德问题:不允许人工智能成为患者所有者医疗建议的直接来源。主人询问聊天机器人“我应该给我的狗什么”并给予错误的剂量,从而使动物福利面临风险。向主人提供的任何医疗指示都必须经过医生的同意。
一步一步:将人工智能安全地引入任务中
- 将任务放置在该区域中。绿色、黄色还是红色?
- 匿名上下文。清晰的真实姓名、地址、联系方式。
- 给出一个清晰的概要。写清楚类型、重量、年龄、限制和格式。
- 将输出视为草稿。切勿像最终产品一样使用它。
- 应用层层验证。检查、来源、账户、类型、踪迹。
- 记录决定及其理由。
四个可复制模板
角色:您是一名兽医临床助理(仅提供大纲)。任务:为[任务]准备一份草稿。背景:物种[...]、品种[...]、年龄[...]、体重[...] kg、生理状态[...]。规则:为您不确定的每个剂量/值/物质标记“需要确认”。规则:做出诊断和治疗决定;只向医生提供选择。格式:要点,并附有理由。
任务:在下文中列出临床声明、剂量和数值、物种相关建议以及监管参考。为每个添加“来源和类型必须经过验证”注释。不要验证自己。文本:[...]
任务:从兽医的角度按风险级别对人工智能输出进行分类。对于每个项目:绿色/黄色/红色,并给出一个句子的理由。红色项目写“需有资格医师审查批准”。输出:[...]
任务:对下面的患者/所有者文本进行匿名化。将真实姓名、地址、电话、芯片号、品牌信息替换为【TAG】;保留临床意义和物种/年龄/体重信息。文本:[...]
弱提示/强提示
弱者:“我们应该给这只狗吃什么,建议治疗。”
Güçlü:“6岁,28公斤,绝育雄性金毛犬;呕吐、食欲不振2天,发烧39.6℃。列出可能的鉴别诊断及其原因,并写出每种检查的区别。最终的诊断和剂量将由医生给出,通过检查和检查做出决定。不确定的地方写上‘需要确认’。”
强烈提示中明确给出了物种、年龄、重量、发现和限制;人工智能的立场是显而易见的。
常见错误
- 将人工智能输出误认为是医生的意见。人工智能产生草稿,不诊断,不做出决定。
- 绕过物种之间的差异。根据狗的数据得出的猫建议可能是致命的。
- 在未确认来源的情况下使用剂量。每个剂量和值应从官方包装说明书/指南中确认。
- 直接上传敏感数据。所有者和业务数据不应在未经匿名处理的情况下提供。
- 没有注意到幻觉。虽然人工智能看起来很自信,但它也可能是错误的。确定的陈述并不能证明真理。
综上所述
人工智能是兽医学的真正加速器,但它并不能取代医生。将任务划分为绿色、黄色和红色区域;绿色方面要快速,黄色方面要确认,红色方面永远不要让 AI 有最终决定权。始终检查物种之间的差异。将每个输出视为草稿并通过五层验证。认真对待隐私和道德。责任始终由有能力的兽医承担; AI 不承担这个责任。
应用任务
从您自己当前的实践中选择三项任务(例如,编写出院脚本、鉴别诊断列表、检查药物剂量)。将每个分类为绿色/黄色/红色。写下您将为黄色和红色任务应用哪些验证层,以及您将在哪里获得红色任务的确认。此外,在您使用的人工智能工具的隐私政策中查找并注明它是否在训练中使用数据。
清单
- [ ] 我将任务置于危险区。
- [ ] 我匿名了上下文(姓名、地址、联系方式)。
- [ ] 我已经明确说明了物种、种族、年龄、体重和生理状况。
- [ ] 我将输出视为草稿。
- [ ] 我从官方来源确认了剂量/值/法规。
- [ ] 我检查了物种之间的差异。
- [ ] 我将安全关键的决定留给了医生的审查和批准。
- [ ] 我保存了验证痕迹。