单位 1 / 11

听力学人工智能简介:角色、边界、验证和伦理

收益:

  • 根据任务风险级别,能够区分听力学工作流程(扫描、诊断测试、设备验配、随访)中的人工智能可实时节省时间,以及安全关键决策(诊断、设备处方、验配审批)的哪些环节留给专家处理
  • 能够应用一门学科,通过将每个人工智能输出连接到源、将其与校准的设备数据进行比较以及通过临床过滤来验证每个人工智能输出。
  • 在 KVKK/隐私范围内对患者和设备数据进行匿名处理,并养成选择安全车辆的习惯

听力学既是一门技术性的专业,也是一门深入人性化的专业,涉及听力和平衡健康。听力学家(评估听力和平衡障碍并应用助听器的医疗保健专业人员)读取新生儿的筛查结果,解释退休人员的听力图(显示频率强度平面上的听力阈值的图表),对青少年的助听器进行编程,安抚焦虑的亲戚,并撰写临床报告,所有这些都在同一天完成。其中一些工作与组织信息、生成和记忆文本有关;其中一些是直接影响健康且误差范围较小的临床决策。当您很好地理解这种区别时,人工智能(简称AI;经过大量文本训练的计算机系统,可以用人类语言编写和响应)将成为您听力学实践的强大帮助:它加快文本和信息的工作,但永远不会取代临床判断。

在第一个单元中,我们为您在听力学工作流程中的何处安全使用人工智能、应在何处停止以及如何验证每个输出奠定了基础。我们将在整个模块中重复的主要原则是:人工智能是助手;它可以生成草稿、提醒、简化和预览。诊断、设备处方、验配决定和临床解释由听力学家负责,必要时由医生负责。未经验证的人工智能输出就像未经签名的临床报告:没有约束力,不能单独使用。

人工智能在听力学领域到底能做什么

让我们将听力学实践分为三层,并阐明人工智能在每一层中的作用。这种区别是对“我应该在哪里使用它,我应该站在哪里?”这个问题的答案。

1.信息和文本层(这里AI很强)。向患者提供的助听器用户指南、简单语言培训手册、预约提醒消息、指南摘要、报告草稿格式、常见问题列表。人工智能可以在这些任务中节省您的时间,因为编辑、简化和格式化文本是其最强大的领域。

2. 思考和组织层(人工智能有帮助,决定权在你)。收集患者的病史,列出要询问的病史问题,提醒可能的评估主题,构建病例,确定筛查列表中需要跟进的优先顺序。在这里,人工智能的工作原理就像一个清单——它可以提醒你忘记的标题——但你可以决定哪些信息适用于该患者。

3.临床决策层(AI不能做决策,只能支持)。听力损失类型和程度的诊断、设备处方、验配(编程)批准、突发性听力损失等紧急转诊决定、转诊至耳鼻喉科、评估“该测量是否可靠?”这些决定属于有能力的专家——听力学家和主治医师。 AI最多只能是一个提醒;他永远无法自己做出决定。

注意:人工智能可以创建流畅且自信的句子。这种流畅性并不能保证准确性。在医疗保健等安全关键领域,“听起来正确”和“正确”是两个完全不同的事情。

按任务风险级别进行映射

下表显示了您将在哪些任务上释放多少人工智能。听力学的黄金法则是:风险越高,验证门槛越高,AI的自主性越低。

任务

风险等级

人工智能角色

验证

撰写小册子/留言草稿

制造商

语言和事实检查

病史问题清单

低中

提醒

临床过滤器

听力图预解读稿

中高

草图生成器

校准测量+专家确认

扫描列表优先级

中高

预筛选

假阴性监测

设备处方/验配决定

仅支持

REM + 专家 + 医生(如有必要)

突发性听力损失转诊决定

批评的

只是一个提醒

专家/医生的决定是强制性的

为什么验证至关重要:幻觉和过时

在不了解人工智能的两个主要弱点的情况下,在医疗保健中使用人工智能是危险的。

第一个是幻觉:模型自信地捏造实际不存在的信息(阈值、测试结果、引导物质、设备特征)。该模型可能不会说“我不知道”,而是会产生一个看似合理但不正确的答案。在听力学中,这意味着未给出的“发现声反射”的陈述被泄露到报告中。第二个是过时:模型的知识在训练时就被冻结了;当前的设备型号、处方配方、筛查方案或立法可能已发生变化。

验证规则分为三个步骤: (1) 链接到来源——检查信息所基于的校准测量或当前指导。 (2) 重新计算/检查——验证给定的阈值、分类、增益值是否确实与设备数据一致。 (3) 通过临床筛选——用您的专业知识评估这些信息是否适合您面前的患者、他的耳朵解剖结构和病史。

隐私:患者的数据属于患者

听力学数据很敏感:听力损失程度、设备使用、儿童发育状况、职业噪声暴露、耳鸣抱怨。在 KVKK(个人数据保护法;土耳其规范个人数据处理的法律)范围内,健康数据被认为是特殊的,需要最高级别的保护。通用人工智能工具的真实名称是 T.C.未输入身份证号码、地址、电话号码或身份详细信息。相反,对数据进行匿名化:诸如“6岁男孩,右耳中度丧失”之类的匿名描述在临床上就足够了,不会泄露任何人的信息。

提示:在提示患者时,问问自己:“如果此文本以屏幕截图形式泄露,这个人会被认出吗?”如果答案是“是”,则缺少匿名化。

一步一步:在听力学中安全使用人工智能

  1. 对任务进行分类。这是文本/信息任务(人工智能强),还是临床判断(仅人工智能支持)?如果风险较高,则提高验证门槛。
  2. 数据匿名化。建立临床上充分的描述,无需识别信息。
  3. 明确角色和边界。从一开始就告诉AI限制,比如“不做诊断,使用可能的语言,声明决定由听力学家决定”。
  4. 分三步验证输出。连接到源/校准测量、重新检查、临床过滤器。
  5. 获得专家批准。在临床内容到达患者之前,必须得到听力学家/医生的批准。
  6. 保存你的踪迹。请注意您使用哪种工具用于何种目的;这对于问责制很重要。

弱提示/强提示

弱提示:

Ahmet Yıldız 62 岁,右耳听力不佳。什么类型的听力损失,我应该开哪种设备?

这个请求涉及实名(侵犯隐私)、要求直接诊断和处方决定(将AI推向专家的角色),并且没有任何界限。

强力提示:

您的角色:听力学家的教育和提醒助理。诊断、处方设备;使用“可能”的措辞并声明决定由听力学家/医生决定。情况(匿名):62岁患者,主诉右耳听力。任务:提醒我听力学家应评估该患者的测试标题以及他不应忘记询问的病史问题的清单。强调决定将基于校准测量和临床评估做出。

强烈的意志是匿名的,确定角色和边界,要求提醒,而不是决定,需要验证。

三个迷你箱子

案例1——正确使用。当听力学家为接受设备的患者准备一份简明语言的用户手册时,他会向人工智能询问草稿,但不会提供任何身份信息。他审查了草稿,纠正了两个夸大的陈述,例如“该设备完全使听力正常化”,并将其交给患者。准备时间从35分钟减少到10分钟;内容已核实。

案例 2 — 幻觉捕获。听力测试师向人工智能询问鼓室导抗测试的类型。 AI 通过添加不存在的“D 型”分类给出了自信的解释。专家将其与他的临床知识进行比较,发现标准分类(A、B、C 及其亚型)之外不存在“D 型”。教训:在没有与专业知识佐证的情况下,不应传播任何技术知识。

案例 3 — 从侵犯隐私中返回。一位听力学家正要在提示中匆忙输入孩子的全名和学校信息;该团队记住了它的规则,并将文本匿名为“5岁,怀疑双耳轻微丧失”。临床结果不会改变,人受到保护。

可复制的提示模板

任务分类模板评估以下任务:[任务].1)这是文本/信息任务还是临床决策?2)如果涉及临床决策,哪一部分留给听力学家/医生?3)人工智能可以安全地完成哪些部分?在表格中给出答案。

匿名检查模板在下面的文本中标记可以识别您身份的每个元素(姓名、ID、地址、电话、完整出生日期、学校/工作场所名称)并建议匿名等效项。文字:[文字]

验证模板将在三个标题下评估以下人工智能输出:输出:[输出]1) 此信息应基于什么口径测量/指南? (链接至源)2)应手动检查哪个阈值/值/分类? (重新计算)3) 此信息适合该患者吗? (临床筛选)【患者描述】

角色和边界模板您的角色:听力学家助理。规则:做出诊断、开具处方、做出转诊决定;使用“可能/必须通过校准测量确认”的语言;在每个答案末尾添加注释“听力学家/医生的决定,通过校准进行验证”。任务:[任务]。

常见错误

  • 将临床决策委托给人工智能。 “这个病人应该使用设备吗?”此类问题的答案不在于人工智能,而在于测量和专家评估。
  • 未经验证就使用。认为流畅的答案是正确的;未确认阈值、分类和器件值。
  • 输入真实凭据。姓名、电话号码、T.R.打字违反了 KVKK。
  • 忘记变老。用模型信息替换当前设备/协议。
  • 不设限制地提问。在不指示角色和边界的情况下发布人工智能需要诊断和精确的语言。

总之

人工智能是一个强大的助手,可以加速听力学中的文本和信息工作并预览筛选列表;然而,诊断、设备处方、验配决定和临床解释始终属于听力学家和医生。每个输出必须分三个步骤进行验证——链接到来源/测量、复查、临床过滤——患者数据必须匿名,临床内容必须经过专家批准。未经验证的输出是未签名的报告。

应用任务

考虑一下您自己实际一周的实践,并将您的工作放在三列表格中:“文本/信息工作”、“组织”、“临床决策”。每一行写下人工智能的角色(强/有帮助/仅支持)。然后使用本单元的“角色和边界”模板生成患者教育文本草稿,应用三步验证,并记下您更正的内容。

清单

  • [ ] 我将任务分类为文本/组织/临床决策。
  • [ ] 我对患者数据进行了匿名处理,以免暴露身份。
  • [ ]我给了人工智能角色和边界指令。
  • [ ] 我将输出连接到源/测量,重新检查并将其通过临床过滤器。
  • [ ] 我已将临床内容提交给听力学家/医生以获得批准。
  • [ ] 我记录了我使用哪个工具用于哪个目的。