收益：
- 批判性地评估治疗性聊天机器人和数字心理健康应用程序的前景、证据基础和风险。
- 在向客户推荐工具之前能够对其安全性、证据、保密性和临床适用性进行审查
- 能够准确地向客户解释机器人应如何定位为人类治疗的有限补充，而不是替代品。
近年来出现了数百种自称是“口袋里的治疗师”的应用程序：人工智能 (AI) 聊天机器人、情绪跟踪应用程序、数字认知行为治疗程序、冥想和呼吸工具。客户问您：“我可以使用这个应用程序吗？”他会问；一家机构问“我们应该给候补名单上的人提供一艘船吗？”他会想。这些工具并不都是坏的；有些可能会带来真正的好处。但营销承诺与科学证据之间存在巨大差距，其中一些工具带来严重的安全、隐私和临床适用性风险。在本单元中，您将学习如何批判性地评估数字心理健康工具，在向客户推荐它们之前对其进行审查，并将它们定位为人类疗法的有限补充而不是替代。
承诺与证据之间的差距
在应用商店中，您会看到诸如“将您的焦虑减少 70%”、“您的人工智能治疗师始终与您同在”等句子。这些说法大多是营销而非证据。真正的问题是：该工具的有效性是否经过独立、同行评审的研究测试？一些数字程序（尤其是那些遵循结构化、基于证据的协议的程序）可能适用于轻度至中度症状；但对于大多数免费聊天通用机器人来说，没有确凿的证据。 “人们喜欢它”或“数百万次下载”并不能证明有效性。
注意：人工智能聊天机器人不是治疗师。无法建立治疗关系、承担责任、可靠地管理实时风险并进行临床判断。用机器人代替治疗会让客户失去保护。
机器人的四大风险
- 危机脆弱性。机器人可能会误解、忽略或对暗示自杀或危机的消息作出有害反应（第 9 单元）。危机永远不安全。
- 安全。许多应用程序收集用户最私密的情感数据，并可能出于商业目的对其进行处理。在“免费”应用程序中，产品通常是用户的数据。
- 虚假/有害内容。该机器人可以产生幻觉，给出与证据相反的建议，成为一个令人上瘾的“总是认可的倾听者”并阻止真正的对抗。
- 临床不适当。对于患有严重疾病（精神病、重度抑郁症、创伤）的人来说，机器人可能不够用，甚至会拖延；耽误了真正的帮助。
一步一步：推荐代理商之前进行检查
- 求证据。是否有任何独立的同行评审研究表明该工具的有效性？症状处于什么水平？
- 测试安全性。车辆在危机情况下会做什么？他如何回应自杀的建议？它会导致一条真正的线吗？
- 检查隐私。数据去了哪里，是否被出售，是否可以删除？隐私政策是否明确？
- 评估临床适用性。这适合客户的图表吗？不建议在严重/危险的情况下使用。
- 明确角色。将该工具定位为补充（例如，疗程间练习、情绪跟踪），而不是治疗的替代品。
- 诚实地告诉客户。明确说明车辆可以做什么、不能做什么以及在危机中它的能力不足。
提示：在决定是否信任某个工具时，问问自己：“这个工具在最坏的情况下（如果用户陷入危机）会做什么？”如果您不知道答案或答案不充分，切勿向有风险的图表推荐该工具。
船可能适合也可能不适合的地方
状态
机器人/数字工具合适吗？
注释
轻度压力、习惯追踪、心理教育
有限 是（补充）
如果选择经过验证的安全车辆
课间作业/练习提醒
有限 是
作为治疗的延伸
中重度抑郁、焦虑表
小心一点，不孤单
在监督下进行人体治疗
危机、自杀风险、精神病、严重创伤
不
需要人工和紧急干预
儿童/青少年亲密数据
非常小心
隐私和同意至关重要
三个迷你箱子
案例 1——承诺与证据。一位客户想要使用一个声称可以“解决我 90% 的焦虑”的人工智能机器人。专家对车辆进行检查；没有独立的有效性研究，隐私政策称数据可能会与第三方共享，并且机器人对危机消息的反应陈词滥调。专业人士向客户解释这一点，并推荐一种更安全、基于证据的替代方案。这样就可以在不伤害客户的情况下弥合主张与事实之间的差距。
案例 2——适当的补充。一位客户正在参加每周一次的治疗，但在两次治疗之间很难保持思想记录。专家推荐使用基于证据、保密控制的思想记录应用程序作为课间练习工具。该机器人不会取代治疗；它加强了它。客户在两次治疗之间更加规律地工作，并且进展加快。
案例 3——拖延的危险。患有重度抑郁症症状的人试图通过与人工智能机器人“交谈”几个月而不是去找专业人士来控制这种情况。布茨每次都安慰他，但事情却变得更加沉重。真正的帮助被延迟了。此案例显示了机器人在严重情况下延迟实际治疗的风险。专家的任务是诚实地向客户解释机器人的局限性，并及时指导他寻求人工帮助。
可复制的提示和模板
我正在考虑向我的客户推荐一种数字心理健康工具。给我一份检查清单来评估该工具：证据状态、危机安全、隐私/数据政策、目标症状水平、临床适用性、成本。决定权是我的。
写一份简短的对话草稿，告诉客户他们想要使用的人工智能聊天机器人不是治疗师，它在危机中的能力不足，以及它能以礼貌、非侮辱性和诚实的方式做什么和不能做什么。通过保护客户而不责怪他。
列出评估该工具的隐私政策时需要提出的关键问题：数据去哪里、是否出售、是否可以删除、如何处理危机数据、是否有第三方共享、是否对儿童/青少年数据有额外的保护？
这是客户的图表（匿名）：[图表]。在此表中讨论推荐数字工具作为补充是否合适，在这种情况下我绝对应该参考人类疗法。最终决策；支持我的评价。
弱提示/强提示
弱提示：“建议一个好的治疗实践，我会将其提供给我的客户。”
这个提示从不要求提供证据、安全性、保密性以及遵守客户的图表；人工智能可能会推荐一种流行但未经审核的工具。
强烈提示：“在推荐数字心理健康工具之前，我会从证据、危机安全性、保密性和临床适当性方面对其进行评估。在这四个标题下列出我应该提出的关键问题和危险信号。我将根据客户的图表做出最终决定。”
这个提示指示AI建立控制框架；决定权仍由专家和客户决定。
常见错误
- 将营销承诺误认为证据。错误地将“90% 治愈”或“数百万次下载”作为有效性的证据。
- 不测试危机安全。在不知道媒体如何回应自杀建议的情况下提出建议。
- 绕过隐私。推荐工具而不质疑最私密的情感数据去了哪里。
- 将船放在治疗位置。将该工具作为治疗的替代品而非补充；让客户不受保护。
- 信任沉重图表中的机器人。解决了严重的情况并延迟了真正的帮助。
综上所述
数字心理健康工具和人工智能聊天机器人并不都是坏事，但营销承诺远远领先于证据。在推荐药物之前检查证据、危机安全性、保密性和临床适用性。机器人永远无法避免危机，也无法取代治疗师；最多，在适当的环境下，它们只能是增强人类治疗的有限补充。诚实地向客户解释车辆的局限性，并在情况严重时及时转介他/她寻求人工帮助。
应用任务
选择一个数字心理健康应用程序（真实的或想象的）。从四个支柱进行评估：证据、危机安全、保密性、临床相关性。写下您在每个标题中发现的任何危险信号。然后向客户准备一篇 4-5 句话的诚实演讲，解释该工具的局限性。
清单
- [ ] 我对车辆的独立证据状况提出质疑。
- [ ] 我测试了危机安全性（对自杀建议的反应）。
- [ ] 我已查看隐私/数据政策。
- [ ] 我评估了客户图表的临床适当性。
- [ ] 我将该工具定位为治疗的有限补充而不是替代品。
- [ ] 我如实向客户解释了车辆的局限性。