收益：
- 了解 RAG 如何通过链接和引用机构实际文档的答案并应用干净文档库的重要性来减少幻觉
- 能够检查 RAG 输出的来源、日期和货币并区分冲突版本
- 通过访问控制防止未经授权的文档响应，从而保护企业隐私
组织的记忆存在于数千个分散的文档中：报告、手册、会议记录、程序、电子邮件。员工可能会花几个小时搜索文档来回答一个简单的问题（“这个程序是如何运作的？”）。知识管理者的梦想是让这种记忆为问题提供直接但基于来源的答案。这正是 RAG 所承诺的。在本单元中，您将了解什么是 RAG、如何在企业信息管理中使用它，以及如何确保它的准确性、保密性和及时性。
让我们定义一下这个概念。 RAG（检索增强生成）是指人工智能通过首先从组织自己的文档中查找（检索）相关部分，然后仅根据这些部分生成答案来回答问题。这与从记忆中生成答案的一般人工智能有着根本的不同：RAG 将答案链接并来源到真实的、可追踪的文档。因此，幻觉大大减少，因为人工智能是根据机构的文件而不是从其“头脑”说话。
逐步：了解企业 RAG 系统
1. 准备文档库。组织可靠的、最新的文档被收集、清理并分成块（文档中有意义的小部分）。如果不良、过时或冲突的文档进入系统，响应将会很糟糕：“垃圾输入，垃圾输出”。
2. 嵌入和索引。每个块都被转换为表示其含义的向量（嵌入）并放入可搜索索引中。当出现问题时，系统会找到含义最接近的部分。
3.携带相关零件。当提出问题时，系统会从文档库中提取一些最相关的部分。这一步很关键：如果带错了，答案也会错。
4. 生成基于源的响应。人工智能仅根据获取的片段生成响应，并指示它来自哪个文档。未注明来源的回复违背了 RAG 的目的。
5. 核实并报告。用户应该能够访问显示的来源并确认答案。不正确或不完整的答案将成为反馈以改进文档库。
提示：RAG 的质量很大程度上取决于文档库的质量。更新文档，清除冲突/过时的版本，并在将每个文档放入系统之前添加日期和出处信息。 500 份组织良好的文档比 5,000 份分散的文档产生更好的答案。
RAG 的边界和安全点
RAG 可以减少幻觉，但不会重置它。如果系统返回了错误的棋子，人工智能仍然可能会通过对错误的棋子保持“忠诚”而给出错误的答案。此外，人工智能可能会误解获取的碎片或以矛盾的方式组合多个碎片。因此，RAG 输出也应该通过源头进行验证，特别是对于关键决策。
隐私是企业 RAG 的核心问题。文档库可能包含敏感信息（人员、合同、策略）。系统不应从未经用户授权的文档生成响应；访问控制（谁可以看到哪个文档）也应该应用于 RAG。否则，员工可能会通过 RAG 访问他看不到的信息。
注意：即使引用文档，RAG 也不保证该文档是最新且准确的。系统可能会根据三年前的旧程序文档进行响应。用户和信息管理者有责任检查源文档的日期和有效性。
三个迷你箱子
案例 1——程序问题加速。一个组织为其 1,200 页的内部程序手册建立了 RAG 系统。员工提出的“如何做到这一点”的问题在几秒钟内就得到了解决，答案表明了来源；平均通话时长从 25 分钟减少到 2 分钟。由于每个响应都与其所依据的文档部分相关联，因此员工能够对其进行验证。
案例 2 — 捕获的旧文档。 RAG 系统回答了 2021 年旧文件中的许可程序问题；不过，2024 年发布了更新版本。打开源链接的员工注意到日期已过时，并找到了更新的文档。信息管理员从文档库中删除了旧版本。
情况 3 — 阻止未经授权的访问。在初始设置中，RAG 公开扫描了所有文档；一名员工收到了一份他不应该看到的工资单文件的回复。该团队向 RAG 添加了访问控制：系统现在仅从用户被授权的文档生成响应。
评估、反馈和持续改进
RAG 系统不是一个安装一次就被遗忘的工具；它需要不断的评估和改进。其基础是定期测量系统对实际问题的答案。有两个问题至关重要：系统是否获取正确的文档片段（访问质量）以及是否从获取的文档片段中生成正确的响应（生产质量）？有必要分别评估这两层；因为携带正确的文件并误解它和携带错误的文件并如实转移是不同的问题，需要不同的解决方案。一个好的做法是保留一组已知正确答案的“测试问题”，并在每次更新时用这组问题测试系统。此外，用户的“这个答案是否有帮助/来源是否准确”反馈揭示了文档库中的差距和错误获取的部分。人工智能可以帮助汇总这些反馈并总结最常失败的问题类型；但添加、更新或删除哪些文档的决定权属于信息管理者。这个系统需要像一个活的有机体一样被照顾；由于文档随着时间的推移而老化，被忽视的 RAG 变得越来越具有误导性。
提示：设置 RAG 系统后，请立即准备一个包含 20-30 个真实问题和已知正确答案的小型测试集。每次文档更新时运行此设置都会立即显示更改是否改进或破坏了系统。
四个可复制模板
1) 基于源的响应提示：
您的角色：企业信息助理。以下是有关该问题的文档。仅根据这些片段给出答案，并说明每条信息来自哪个文档/片段。如果部分没有答案，请说“此信息未包含在提供的文件中”，不要猜测。问题：[此处]/零件：[此处]
2）矛盾与货币控制：
以下文章之间是否存在任何矛盾或不同的日期版本？如果是，请标记它并指出哪一个看起来更最新。部分（带日期）：[此处]
3）文档库清理审核：
在下面的文档列表中，是否有任何过时的、冲突的或来源不确定的文档需要在放入 RAG 系统之前进行整理？勾选并写出原因。列表（带有日期/来源）：[此处]
4）隐私和访问预控制：
以下文档片段是否包含敏感信息（个人数据、保密协议、策略）？将每个分类为“公共/受限访问”并给出理由。曲目：[此处]
弱提示/强提示
弱提示：
解释我们机构的许可程序。
如果没有给出文件，人工智能会根据其一般记忆或其他机构的实施产生一个虚构的程序；这可能与机构的实际规则无关。
强力提示：
您的角色：企业信息助理。以下是有关该机构许可程序的文件（及其日期）。仅根据这些部分回答问题，并在每一步引用源文档和日期。如果部件冲突，请使用最新的部件并说明。如果文档中没有，请说“无信息”。问题：[此处]/零件：[此处]
强大的提示功能；将答案与实际机构文件联系起来，询问来源和日期，并诚实地解决矛盾和差距。
RAG 组成部分和风险表
组件
功能
主要风险
保证
文档库
答案来源
过时/冲突的文件
清洁度、历史、起源
检索
找到相关部分
错误的一块
质量检测、反馈
生产
回复
错误评论
来源引用、验证
访问控制
权限检查
未经授权的披露
基于用户的限制
常见错误
- 建立脏文档库。过时/冲突的文件会产生不良反应。
- 接受答案而不引用来源。 RAG 的目的是可追溯性。
- 不检查文件日期。一个被认为更新的答案来自旧版本。
- 绕过访问控制。未经授权的人访问敏感信息。
- 认为RAG完全免疫幻觉。错误的部分仍然会产生错误的答案。
总之
RAG通过将组织记忆转变为基于资源的响应系统，在知识管理中产生巨大的价值；与一般人工智能不同，它将答案链接并来源到组织的实际文档，从而显着减少幻觉。但成功取决于干净且最新的文档库、准确的跟踪访问、来源归属、日期/当前性检查和访问控制。 RAG 不会重置幻觉；关键答案通过来源进行验证，并且从一开始就尊重机密性。
应用任务
准备一小组文件（5-8份实际或样本机构文件，并注明日期）；有意识地加入一个旧的版本和一个当前的冲突版本。使用“基于来源的回答提示”模板提出问题，并检查 AI 是否引用了来源。然后用“冲突和当前版本检查”模板评估AI是否正确检测到冲突和当前版本。
清单
- [ ] 我更新了文档库，清除了旧的/冲突的文档。
- [ ] 我确保每个答案都指向源文档。
- [ ] 我检查了源文件的日期和有效性。
- [ ] 我通过访问控制阻止了未经授权的文档生成响应。
- [ ] 我通过查看原始文档来验证批评回复。