hotai.news
← 返回 AI 百科AI 百科 / 基础概念

Grounding 是什么:让回答依据资料,引用仍需核实

解释依据对齐与资料检索的关系,说明来源支持、版本及缺失信息怎样影响生成回答可靠性。

HotAI.news · Codex 来源核对发布于 2026-10-20来源核对于 2026-10-20
先说结论

先理解这个概念

Grounding 在生成式 AI 中通常指让回答与提供或检索到的资料建立依据关系,而非只依靠模型内部知识。它可以使用搜索或知识库等来源,但不等于只要加链接就事实正确。应核对资料确实支持具体说法,缺少依据时保留未知;检索到相关页面和最终回答忠实于来源,是两个不同检查。

01

来源存在和结论被支持不是一回事

Google 的 Grounding 说明把模型输出与可核查来源联系,Microsoft 的 RAG 则描述检索后生成。相关资料可能只是讨论同一主题,并没有支持答案中的金额或日期。模型还可能把两份来源的不同条件合并成不存在的结论。应按关键事实检查对应原文,不以链接数量替代独立支持。资料本身也可能过期,因此需要核对适用版本,不能因为来源来自官方就忽略当前问题与发布日期之间的差异。

02

同一问题追查实际进入模型的材料

例如询问某产品的文件限制,先保存真实取回段落,再检查答案中的每个数值能否在原文找到。加入一个资料没有说明的追问,核对是否明确无法确认。引用落到首页或错误版本时,应当作需要修正的问题,不以格式完整为验收。本文没有运行搜索或知识库,例子用于验证。若资料未进入输入,就不能把答案碰巧正确称作成功依据对齐;需要保留从来源到结论的具体关系。

03

更新资料后需要重新检查旧结论

知识库撤回或网页变化时,缓存与索引可能继续保留旧材料,应检查更新是否真的影响回答。维护成本包括来源版本和引用核对,不只增加检索步骤。可以分别统计检索缺失与回答失真,决定修改资料处理还是生成要求。Grounding 有助于可追溯,但不能保证所有错误消失,也不代替重要事实的人工确认。最终报告应说明已用资料及未找到的依据,避免一段看起来有引用的文字掩盖真实缺口。

核对来源

以下资料用于核对概念和方法。文中的示例与测试范围分别注明,实际使用时请核对所用工具的版本。

返回AI 百科 ↗