收益：
- 能够负责任地设计咨询机器人，使其仅连接到经过验证的公司信息并通过引用来源提供事实。
- 能够将医疗、法律和敏感问题直接向专家和可靠来源提出，避免建议，并在必要时将其转移给人类
- 保护聊天数据的隐私并对用户透明地了解人工智能的使用情况
图书馆与人们见面的地方是问讯处。学生寻找作业来源，公民询问如何访问官方文档，研究人员想要学习如何使用数据库。这称为参考服务：它是了解用户的信息需求并将其提供给正确的来源和正确的方法的工作。在本单元中，您将学习如何负责任地使用基于人工智能的聊天机器人（通过与用户通信提供帮助的软件）和人工智能支持的咨询。
一个定义是：参考访谈是一种对话，图书馆员通过提问来澄清用户的真正需求。因为大多数时候用户并不能完全表达他正在寻找的东西；说“一些关于历史的事情”的人实际上可能是在寻找特定事件的特定方面。这种人性化、富有同情心和判断力的工作是图书馆工作的核心，人工智能无法完全接管它。
循序渐进：人工智能支持的咨询
1.明确需求。无论是人类还是机器人，良好的咨询首先会了解需求。 AI可以建议澄清问题来询问用户；但读取用户的上下文和情感是人类的工作。
2.参考出处，不要编答案。图书馆机器人的工作是引导用户找到真实的资源；它不是从常识中生成答案。机器人应该说“看看这个数据库，这个主题的集合”；必须通过引用来源给出事实主张。
3. 设置限制。机器人不应提供医疗、法律或财务建议；相反，它应该向您推荐可靠的来源，并在必要时向专家推荐。如果人工智能向用户给出错误的医疗或法律“答案”，将会造成严重伤害。
4. 委托给人类。当机器人无法弄清楚或主题敏感时，它应该将用户引导给真正的图书馆员。一个好的系统知道机器人的局限性。
5. 保持透明。用户必须知道他正在与机器人交谈。图书馆不得使用冒充人类的隐藏机器人来误导用户。
提示：根据您的馆藏和常见问题解答（常见问题）信息，将咨询机器人设置为资源引用系统。让机器人作为助手“为您找到正确的资源”而不是“了解一切”，可以保持信任和准确性。
聊天机器人的限制和风险
图书馆聊天机器人看起来很吸引人：24/7 工作，同时帮助多个用户，快速回答简单的问题。但风险是真实存在的。机器人可能会产生幻觉并告诉用户资源不存在、启动时间不正确或程序错误。机器人可能会错误地处理用户的敏感问题（健康问题、个人危机）。如果机器人记录用户输入的内容，就会存在隐私风险。
因此，机器人的定位不是作为人类顾问的替代品，而是作为减轻人类顾问负担的一层。机器人会收到简单、重复的问题；人类处理复杂、敏感且需要判断的问题。
注意：用户在聊天机器人中输入的问题可能很敏感（健康、法律、个人情况）。该通信记录应与贷款记录一样受到隐私保护。向通用人工智能工具提供聊天数据进行训练违反了用户信任。
三个迷你箱子
案例 1——船减轻了负载。一家大学图书馆根据馆藏和常见问题解答信息构建了一个机器人，可以回答“开放时间、借阅期限、数据库访问”等常见问题。该机器人处理了咨询台大约 40% 的问题；图书馆员能够投入更多时间来解决复杂的研究问题。该机器人在其答案中始终链接到官方页面。
案例 2 — 错误时间已更正。一个机器人从它的全局记忆中说“图书馆周日关门”；而图书馆市场是开放的。用户会因此而被浪费。该团队重新配置了机器人，使其仅连接到组织当前的、经过验证的信息；禁用全局内存的响应。
案例 3 — 发生转移给人类。用户向机器人询问个人健康问题。该机器人没有提供医疗建议，而是引导用户寻找可靠的健康信息来源，并提供将信息移交给人类的选项，并表示“如果您愿意，可以与图书管理员交谈。”敏感话题处理得当。
可达性和包容性
良好的用户服务服务于所有人；这是图书馆平等访问价值的直接延伸。人工智能工具在这里既带来机遇，也带来风险。机遇方面：人工智能可以将复杂的文本翻译成简单的语言，生成不同语言的响应，使长文档可供视障用户阅读，或者促进与语音助手的交互。这会引入之前被排除在服务之外的用户。风险方面：人工智能工具通常在某些语言和某些用户配置文件中效果更好；在资源匮乏的语言或不同的识字水平下，答复质量可能会下降，从而加剧不平等。图书馆员应该观察机器人或人工智能工具在哪些用户组中运行良好，在哪些用户组中运行不佳，并在其薄弱的地方吸引人类支持。与任何其他事实回应一样，应审查简化或翻译的输出，以确保其不会扭曲含义；错误的简化可能会产生误导，尤其是在健康、法律或政府程序等敏感文本中。
注意：在简化或翻译文本时，AI 可能会无意中改变含义或遗漏重要警告。出于无障碍目的而产生的输出也应进行准确性审核；在说“应该让每个人都知道”的同时，也要注意不要传播虚假信息。
四个可复制模板
1）咨询面试问题：
建议提出 3-4 个礼貌的、开放式的问题，以澄清以下模糊的用户问题（范围、级别、目的、类型）。不要假设用户意图。问题：[这里]
2) 机器人响应指向源：
您的角色：图书馆信息机器人。以下是用户问题和我们的资源/指南列表。仅根据此列表，编写简短、礼貌的回复，引导用户找到适当的资源。在提出事实主张时，说明来源；如果它不在列表中，请说“让我引导您去找图书管理员”。问题：[此处] / 列表：[此处]
3) 限额和成交额响应：
以下用户问题是否包含医疗/法律/财务建议或更敏感的个人主题？如果是这样，请起草一份回复，礼貌地将用户引导至可信来源和专家/图书馆员，而不提供建议。问题：[这里]
4）常见问题解答事实核查：
下面的机器人响应中的所有事实信息（时间、持续时间、程序、来源）是否均基于我提供的官方常见问题解答/信息文本？将每个声明标记为“来源中存在/不存在”。答案：[此处]/常见问题解答：[此处]
弱提示/强提示
弱提示：
回答该用户的问题。
机器人根据其一般记忆生成答案；可能给出错误的时间、错误的来源或错误的程序；它不尊重边界和时期。
强力提示：
您的角色：图书馆信息机器人。仅依赖我在下面提供的当前机构信息和资源列表；请勿提供除此之外的信息。如果需要医疗/法律建议，请咨询专家。回答简短而礼貌，说明事实的来源，如果没有信息，请说“让我引导您去找图书管理员”。用户问题：[此处]/组织信息：[此处]
强大的提示功能；它将机器人连接到经过验证的企业信息、设置限制并定义传输路径。
咨询问题类型表
问题类型
靴子合适吗？
方法
开放时间、时长、流程
是的
当前机构信息的回应
简单的源路由
是的
链接到收藏/联系方式
复杂的研究
部分地
明确需求，将其传递给人们
医疗/法律/敏感
不
直接联系专家和可靠的来源
常见错误
- 让机器人根据全局内存做出响应。错误信息和伪造来源的风险。
- 给出事实答案而不引用消息来源。用户无法验证。
- 提供医疗/法律建议。造成严重伤害；应给予指导。
- 没有建立向人类传播的途径。复杂而敏感的问题仍未得到解决。
- 让聊天数据不受保护。这将会侵犯隐私。
综上所述
在用户服务中，人工智能和聊天机器人接管简单、重复的问题，使图书馆员能够专注于复杂、敏感和需要判断的任务。但机器人应该被构建为一个减轻负担的层，而不是代替人类：它应该只依赖经过验证的公司信息，提供事实作为来源，避免医疗/法律建议并咨询专家，将敏感问题委托给人类，并保护聊天数据的隐私。透明度至关重要：用户必须知道他们正在与机器人交谈。
应用任务
为您的机构准备一份简短的“当前信息+资源列表”（时间、贷款规则、一些指南）。使用“机器人对源的响应”模板生成三个不同用户问题的答案，并使用“常见问题解答事实检查”检查每个事实是否基于源。最后，使用“限制和营业额响应”模板为敏感问题创建正确的提示文本。
清单
- [ ] 我仅将机器人连接到已验证的公司信息。
- [ ] 我在事实答案中引用了来源。
- [ ] 我已经为医疗/法律/敏感问题设置了路由和交接。
- [ ] 我明确表示用户正在与机器人交谈。
- [ ] 我已保护聊天数据的隐私。