收益：
- 能够区分哪些任务可以通过聊天机器人和人工智能支持的客户服务响应来安全加速，以及哪些任务需要委托给人类。
- 能够使用人工智能起草答案、摘要和知识库搜索，管理错误信息、未经授权的交易和泄露秘密的风险
- 能够制定规则以在需要投诉、敏感请求和财务建议的情况下停止自动化并重定向至授权员工
客户服务是银行与客户联系最频繁的地方：余额查询、密码重置、活动信息、投诉、交易异议、产品申请。这些请求大多数都是重复性的，人工智能驱动的聊天机器人和响应助手可以在几秒钟内处理它们。但银行业的客户服务并不是一个无辜的信息台：不正确的信息会导致财务损失，未经授权的交易会导致欺诈，泄露的信息会导致侵犯客户机密。所以基本原则是：聊天机器人加速日常工作；投诉、敏感建议和授权行动均委托给相关人员。了解自动化将在哪里停止与安装自动化同样重要。
在本单元中，我们将了解聊天机器人安全地执行哪些任务、哪些任务需要移交给人类，以及如何管理错误信息和秘密泄露的风险。
他可以安全地做什么，不能做什么？
请求类型
聊天机器人
为什么
余额/交易查询（已认证）
确实
常规的、可验证的
常见问题解答：营业时间、产品条件
确实
静态、低风险
密码重置指导
是否（安全流式传输）
标准流程
投诉与不满
转移到人类
同理心和解决方案的权威
投资/信贷建议
转移到人类
合规与责任
账户内授权交易（大额转账等）
额外验证+人工
欺诈风险
情况不明确/复杂
转移到人类
错误信息的风险
规则很简单：聊天机器人加速低风险、标准且可验证的工作；涉及情感、建议、高权威或不确定性的工作都会由人来做。
提示：优秀的聊天机器人最重要的特征是它能够说“我不知道，我正在为您联系一位官员”。试图回答每个问题的聊天机器人是最危险的。
三大风险及其管理
- 虚假信息（幻觉）。该模型可能会编造不存在的活动或错误的利率。解决方案：仅将聊天机器人连接到认可的知识库，并确保它不会给出没有来源的答案。
- 泄露客户秘密。聊天机器人可以向未经身份验证的人提供帐户信息或将客户的数据移动到另一个会话。解决方案：每次敏感操作前进行身份验证和会话隔离。
- 未经授权的交易。聊天机器人自行完成转账等交易。解决方案：需要对高风险交易进行额外验证和人工批准。
响应助手：人工智能与员工并肩作战
虽然聊天机器人直接与客户交谈，但还有一个响应助理可以帮助员工：它将响应草案、相关程序和摘要放在客户代表面前。这里的规则是一样的——助理制作草稿，代理人检查并发送。不同之处在于，每个答案都会被过滤；因此，响应助手比直接与客户对话的聊天机器人可以更灵活地使用。
四个可复制模板
1）FAQ解答草稿（基于知识库）：
您的角色：助理，负责起草给客户代表的回复。仅依赖我给您的经批准的知识库文本；任何不存在的条款、费率或促销活动都是假的。如果知识库中没有答案，请说“此问题应转发给授权人员”。知识库：[相关产品文字] 客户问题：[问题]
2）投诉转交及摘要：
您的角色：对传入消息进行分类的助理。此消息是投诉、不满还是寻求财务建议？如果是这样，请标记“转移给人类”并向代表提供中性的两句话情况摘要。不要自己提出解决方案或建议。留言内容：【客户留言】
3）富有同理心但有限的回应大纲：
您的角色：向代理人提出汇票的助理。客户抱怨交易延迟。起草一份非指责性、富有同理心的回应，但不承诺明确的解决方案/日期。代表将审查交易；只需设置礼貌保留并重定向文本即可。
4）安全检查（敏感请求）：
考虑以下客户请求：是否需要身份验证或涉及授权交易（转账、限额更改、信息更新）？如果是这样，请列出需要哪些额外的验证步骤，并发出“自动结论不适当”警告。请求：[请求]
弱提示/强提示
弱提示：
始终准确、快速地回答客户的问题，必要时做出合理的估计，使客户不必等待。
“预测”指令会引起幻觉，不连接到源，并且忽略切换点。
强力提示：
您的角色：仅基于批准的知识库的响应助理。不要编造任何知识库中没有的内容。否则，将其转发给授权人员。将投诉、建议和授权交易请求标记为“转移给人类”。未经身份验证，请勿提供账户信息。代表将批准该草案。
强意志禁止捏造，定义交接点，防止秘密泄露。
三个迷你箱子
案例 1 — 常规速度增益。一家银行的聊天机器人每月从其批准的知识库中回答 500,000 个常见问题解答类型的问题（工作时间、卡交付状态、活动条件）。代理人只剩下复杂的20%；等待时间从8分钟减少到2分钟。没有来源的问题会自动向人们提出。
案例 2 — 幻觉被预防。客户问：“你们有零息贷款活动吗？”在设计错误的系统中，该模型可能会弥补“是的，这个月的利息为 0”。与知识库紧密相连的聊天机器人说：“知识库中没有这样的活动，我正在将您与权威机构联系起来。”防止错误信息和可能的法律问题。
情况 3 — 未经授权的交易被停止。一位客户告诉聊天机器人，“从我的账户发送 50,000 土耳其里拉到另一个账户。”聊天机器人将此归类为高风险授权交易，并且不会自动结束；导致额外的验证和授权的员工批准流程。此步骤使得利用受损帐户变得更加困难。
设计周转点：平滑过渡
移交给人类是聊天机器人正常运作的一部分，而不是它的“失败”。但设计不当的交接会激怒客户：一遍又一遍地讲述相同的信息，排长队，排队说“我正在将您转移到相关单位”，然后断开连接。一个好的循环包含三件事：
- 上下文传输：聊天机器人收集的信息（客户是谁、他问什么、尝试了哪些步骤）被简单地传递给代表；顾客不会重复自己的话。
- 期望管理：明确告知客户为什么要被运送以及他将等待多长时间。不确定性是不满的主要根源。
- 不可逆的交易停止：在需要切换的情况下，聊天机器人不会尝试完成交易；他没有完成它并安全地转移它。
提前写下展期门槛：什么关键词（如“投诉”、“诉讼”、“我被骗了”、“投资建议”）、什么交易类型以及多少次失败后会触发自动展期？如果这些规则含糊不清，将会导致聊天机器人停留在错误的地方。
提示：衡量聊天机器人质量的最佳指标之一是“时常周转率”。太晚的周转会让顾客感到疲倦；根本不转移是最危险的。转移不是缺陷，而是安全阀。
常见错误
- 强制回答每个问题。设置聊天机器人，使其不能说“我不知道”；产生幻觉的主要来源。
- 跳过周转点。不向人们提出投诉和建议。
- 提供信息而不进行身份验证。将敏感帐户信息暴露给未经身份验证的会话。
- 自动化授权流程。将转账等交易和限制更改留给聊天机器人。
- 没有保持知识库最新。使用旧的费率/活动信息产生错误的答案。
注意：聊天机器人提供的错误信息可能对银行具有法律约束力。 “系统是这么说的”并不是辩护；因此，聊天机器人应该只提供经过批准的、最新的和来源的信息，并将其余的交给人类。
总之
聊天机器人和响应助理加快日常、标准和可验证的请求；投诉、敏感建议、有效行动和不确定性都委托给了人类。错误信息、秘密泄露和未经授权的交易这三个主要风险分别由经过批准的知识库、身份验证和人工确认来管理。聊天机器人最有价值的功能是它知道自己的局限性，并且可以及时地说“我正在将您与权威机构联系起来”。一句话简介：AI加速语音；授权人完成敏感决定和交易。
应用任务
写下五个典型的客户请求（例如余额查询、促销问题、投诉、转账请求、信用建议请求）。对于每一个，确定它是“聊天机器人做的”还是“交给人类做的”以及原因。然后使用模板 1 生成常见问题解答响应，并使用模板 2 生成投诉移交摘要。通过询问聊天机器人知识库中没有的问题来测试“重定向而不是弥补”行为。
清单
- [ ] 我已将该请求正确分类为低风险/人员转移。
- [ ] 我仅将聊天机器人连接到经批准的最新知识库。
- [ ] 我已阻止在未经身份验证的情况下共享敏感信息。
- [ ] 我将投诉、建议和授权行动委托给人类。
- [ ] 我对高风险交易进行了额外的验证和人工批准。
- [ ] 我考虑到答案的责任在于银行。