提示词缓存与答案缓存的区别：复用计算还是复用结果
区分模型服务的提示词缓存与应用保存旧答案，说明前缀匹配、资料更新和访问条件怎样影响能否复用以及如何验收。
怎样选择更合适
提示词缓存复用部分输入的处理计算，模型仍为当前请求生成答案；答案缓存则直接返回此前保存的结果。大量请求共享固定说明时，可核对模型的前缀缓存条件；完全相同且允许复用的查询，可以评估结果缓存。二者可组合，但各自的命中条件与失效规则必须明确。
相同输入前缀与相同问题不同
OpenAI 的提示词缓存说明针对可复用的输入前缀，实际命中由服务规则决定。问题文字相同却更换了前面的说明，不应假定仍命中。缓存命中也不等于这次不再生成，输出计算与结果仍需按实际请求核对。
答案缓存由应用保存结果，再根据缓存键决定是否直接使用。RFC 9111 讨论响应缓存的新鲜度和复用条件；模型应用还需要确定资料与任务版本。只用问题文字作为键，可能在资料已经更新后返回旧结论。
同条件请求记录两种不同命中
准备共享固定资料、但提问不同的一组请求，检查服务返回的缓存使用信息，再更换资料前缀重试。答案缓存则分别测试完全相同的问题和资料版本变化的情况。两种命中应分开记录，不能把缩短等待一概归因于同一个机制。
对于不同用户可见资料不同的应用，还要确认结果是否允许跨用户复用。测试时用公开样本验证访问范围，不需要把真实用户内容写入示例。命中旧答案后应能追查它基于哪个资料版本，而不是只保留一段最终文本。
失效机制决定长期是否可用
固定说明变化后，需要重新检查提示词缓存表现；资料撤回或规则改变时，应让相关答案缓存失效。可以保存生成时的版本标识，并设置可解释的有效期，避免把所有回答无限期复用。具体保留时长要按业务资料变化决定。
比较费用与等待时，分别统计未命中和命中的请求。缓存只是减少重复工作的方法，不能提高缺乏依据的答案质量。本文核对缓存机制及响应复用原则，没有测量服务节省比例，也不保证任何请求一定命中。
核对来源
以下资料用于核对概念和方法。文中的示例与测试范围分别注明，实际使用时请核对所用工具的版本。