知识库没有答案时仍编造内容,怎样测试拒答与补充资料提示?
知识库没有相关依据却仍然回答时,应分别检查检索是否返回无关资料,以及生成是否把相似文本误当证据。先建立明确有答案和明确无答案的测试问题,让系统在缺少支持时说明限制并请求具体资料。
先从这里排查
知识库没有相关依据却仍然回答时,应分别检查检索是否返回无关资料,以及生成是否把相似文本误当证据。先建立明确有答案和明确无答案的测试问题,让系统在缺少支持时说明限制并请求具体资料。不能仅提高相似度阈值,就假定所有编造问题已经消失。
把无依据问题与证据充分问题配对
适用于询问未收录产品参数,系统却给出具体数字,或引用某份文件但原文根本没有结论的情况。选取边界明确的小资料集,逐题标明可支持的事实。无答案样本应确实超出资料范围,不能把一个表达稍有变化但仍可合理推导的问题错误标为必须拒答。
检查命中内容是否真的支持结论
先读实际返回片段,判断它是否包含所需对象及条件,而非只看分数高低。再检查生成输入是否说明依据不足时的行为,以及引用是否对应具体主张。检索完全失败和资料部分缺失应分别记录;只有其中一项信息未知时,不一定需要把其余有依据的内容全部拒绝。
明确无答案时的说明与补资料请求
要求回答区分资料已支持的部分与尚缺的部分,对未知字段保留未知,并说明需要补充的资料类型。若采用检索门槛,应在自己的问题集上校准,同时检查不同查询分数的适用性。给出来源能支持的原句或要点可以帮助核查,但不能把出现了引用当成事实已被证明。
同时计算乱答和错误拒答情况
用有答案、无答案及部分有答案的样本分别检查,统计无依据乱答和有依据却拒答的数量。核对补资料提示是否具体,例如需要某产品版本说明,而不是只说请提供更多信息。改动后还需复测原本正常的问题,防止通过全部拒答得到表面上很低的编造率。
本文没有运行模型评测或提供准确率提升数据,测试设计需要在实际系统上执行。相似度分数和拒答门槛依赖检索器,不能跨系统照搬。公开通用知识是否允许作为额外依据也应提前约定;若任务要求仅按知识库回答,模型自身记忆不能替代缺失的资料。
核对来源
以下资料用于核对概念和方法。文中的示例与测试范围分别注明,实际使用时请核对所用工具的版本。