RAG 是什么？AI 知识库怎样先找资料再回答问题
用公司报销制度问答解释检索增强生成，介绍文档分块和常见检索方式，区分向量数据库与 RAG，并说明有引用的回答仍会出错的原因。
先理解这个概念
RAG 是检索增强生成：系统收到问题后，先从外部资料中找出相关内容，再把这些内容连同问题交给模型生成回答。它适合让助手在回答时参考公司文档等外部资料，常见实现不会因此修改模型参数。RAG 不保证回答正确；搜到旧版本、漏掉条件，或生成时曲解原文，仍会答错。判断效果要分别检查检索结果与最终答案，而不是只看有没有引用链接。
用报销制度看懂检索和生成的分工
假设一家公司的制度写着，晚上十点后下班可以按指定条件报销打车费。员工问这项规则时，系统先检索相关条款，再把原文交给模型组织回答。这个例子是自拟情境，不代表真实企业政策。模型是否曾在训练中见过这家公司，并不是完成本次问答的必要条件。
检索负责提供候选依据，生成负责把依据组织成读者能理解的答复。只把搜索结果列出来，尚未包含这里所说的生成步骤；把整个短文件直接放进提示词，也不能只凭上传按钮判断产品一定用了检索。应查看它是否真的按问题选择了相关资料。
文档分块与向量搜索各自解决一部分问题
资料较长时，系统常先把它切成较小片段，保留文件名和章节等信息，便于按问题查找。片段切得过短，可能把可报销的结论与附带条件分开；切得过长，又会带入大量不相关内容。具体分法应根据文档结构和真实问题检查，不能只照抄固定字数。
向量嵌入可把文本表示为便于比较的数值，用来寻找语义相近的内容。但 RAG 并不要求所有资料都存进向量数据库，也可以采用关键词搜索，或把关键词与向量结果组合。遇到报销制度编号这类精确字符串时，应检查检索结果有没有保留那个具体编号。
有来源链接仍需核对版本与附带条件
如果知识库同时收录新旧制度，检索可能先找到过期条款。即使文档选对，模型也可能漏写只有加班审批通过才能报销这一条件。此时增加引用数量并不能修复错误，应该先打开被引用的具体段落，核对生效日期，再把回答中的条件与原文逐项对应。
排查时可以把问题分成下面几类。先让系统展示实际检索到的片段，再查看最终回答，比直接把所有错误归给模型更容易定位。没有查到足够依据时，可以明确返回资料不足，并指出需要补充的材料；不应让语言流畅的回答掩盖检索缺失。
| 看到的问题 | 先检查的位置 |
|---|---|
| 完全没有相关条款 | 资料是否已收录，以及问题能否搜到对应片段 |
| 引用的是旧版制度 | 文件版本及检索时使用的日期条件 |
| 引用正确但答案漏了限制 | 模型收到的上下文与最终生成内容 |
RAG 与微调可以配合，Agent 还控制行动
RAG 描述的是把检索资料用于生成的做法，微调则会通过训练更新模型参数。两者可以结合，RAG 的原始研究本身就包含训练步骤；日常知识库应用也可以只更新外部资料，不重新训练模型。需要频繁变更制度内容时，先检查资料更新和检索过程，通常比把每次改动都当作模型训练更直接。
Agent 可以把检索当作一个工具，并根据返回结果决定是否继续搜索或执行其他操作。一个只负责查制度并回答问题的 RAG 应用，不必同时拥有修改系统的权限。试用时拿一组答案已知的问题检查效果，再加上资料中没有答案的问题。本文提供概念和测试设计，没有宣称本站已经测得任何知识库的准确率。
核对来源
以下资料用于核对概念和方法。文中的示例与测试范围分别注明，实际使用时请核对所用工具的版本。