hotai.news
← 返回 AI 快讯
AI 快讯 / 事件详情
x.com · 发布于

vLLM 跨实例图像缓存串号漏洞及修复

自动整理 · 基于采集摘要,未逐条核验
本站整理于

事件要点

vLLM 在多服务器共享外部 KV 缓存时存在跨实例图像缓存串号问题:当 prefix cache 与图像处理缓存均关闭时,每台服务器的图像标签从 1 开始计数,导致不同图像在共享缓存中撞上同一 key,第二台服务器会命中并返回另一张图像的缓存数据,且表现为正常缓存命中、不报错。修复方式是让每台服务器在图像标签中加入自己的随机部分,使跨服务器标签不再相同,相关 PR 为 #67461。

相关背景

拉取请求是什么?从代码差异到审阅、检查与合并

拉取请求Pull Request是把一个分支的改动合入另一个分支的提议,提供讨论、审阅和自动检查的位置。它与Git提交不是同一个对象,也不表示代码已经合并或部署。AI创建PR以后,仍要核对实际差异和测试证据,满足项目规则再处理合并;最终用户能否使用功能,还取决于后续发布与线上验证。

阅读说明

事件要点来自采集摘要;相关背景引用本站已有资料,帮助理解术语,不作为本次事件的新事实。产品效果、适用条件及后续变化请查看原始资料。

原文来源

来源与采集进展

来源报道标题原文发布时间本站收录时间
x.comvLLM 跨实例图像缓存串号漏洞及修复2026-11-14 03:132026-11-14 03:37