vLLM 跨实例图像缓存串号漏洞及修复
自动整理 · 基于采集摘要,未逐条核验
本站整理于
事件要点
vLLM 在多服务器共享外部 KV 缓存时存在跨实例图像缓存串号问题:当 prefix cache 与图像处理缓存均关闭时,每台服务器的图像标签从 1 开始计数,导致不同图像在共享缓存中撞上同一 key,第二台服务器会命中并返回另一张图像的缓存数据,且表现为正常缓存命中、不报错。修复方式是让每台服务器在图像标签中加入自己的随机部分,使跨服务器标签不再相同,相关 PR 为 #67461。
相关背景
拉取请求是什么?从代码差异到审阅、检查与合并
拉取请求Pull Request是把一个分支的改动合入另一个分支的提议,提供讨论、审阅和自动检查的位置。它与Git提交不是同一个对象,也不表示代码已经合并或部署。AI创建PR以后,仍要核对实际差异和测试证据,满足项目规则再处理合并;最终用户能否使用功能,还取决于后续发布与线上验证。
阅读说明
事件要点来自采集摘要;相关背景引用本站已有资料,帮助理解术语,不作为本次事件的新事实。产品效果、适用条件及后续变化请查看原始资料。
原文来源
来源与采集进展
| 来源 | 报道标题 | 原文发布时间 | 本站收录时间 |
|---|---|---|---|
| x.com | vLLM 跨实例图像缓存串号漏洞及修复 | 2026-11-14 03:13 | 2026-11-14 03:37 |