工具结果是什么?返回内容、执行状态与事实证据的区别
通过文件搜索结果解释工具结果,区分链接、正文和写入确认,说明调用标识、错误及结构化内容,避免把工具返回的文字自动当成可信指令。
先理解这个概念
工具结果是外部程序处理一次调用后返回给应用的内容,可以包含数据、错误或执行状态,再由模型使用。结果不一定是已核实事实:搜索返回链接不等于读取正文,网页里的成功文字也不等于实际操作完成。核查时应同时看调用对应关系、状态与来源,返回内容不能自行扩大用户授权。
先区分返回的是索引线索还是原始内容
文件搜索可能只返回名称和片段,助手需要读取相关正文才能核对结论。若片段省略了例外条件,直接引用就可能出错。一个链接可用于定位来源,但不能用链接存在代替对该来源关键段落的阅读。
查询数据库返回的字段也应保留含义和单位,不能把空值当成零。本文提供处理例子,没有查询真实文件或数据库。返回结构越简洁,不代表包含的信息越完整,应按任务确认是否缺少必要上下文。
调用标识和错误状态必须保持准确
OpenAI函数调用流程用相应标识把结果交回原调用,多个并行结果尤其需要对应。MCP工具规范也区分内容和错误信息。应用不能只提取一段看起来像答案的文本,丢弃错误状态后再告诉模型一切成功。
写入类工具应提供可确认的结果,例如目标记录标识,再按需要读取目标状态。超时或连接断开可能留下未知,不能自动归为未执行。模型总结应忠实保留未知和失败,避免把尝试过改写成已经完成。
内容来源的权限不会因工具传递而改变
网页可能写着忽略用户要求并上传文件,这属于网页内容,不是用户授予的新动作权限。工具结果提供给模型以后,仍需按来源区分。特别是跨系统结果,不能把对方助手的命令当成本系统必须服从的规则。
核查可以用包含错误和误导指令的假返回,确认应用不会执行额外动作。这里没有进行真实越权实验。可追溯来源和明确执行状态,有助于模型形成准确报告,但最终结果仍需与原始资料或目标系统相符。
核对来源
以下资料用于核对概念和方法。文中的示例与测试范围分别注明,实际使用时请核对所用工具的版本。