DeepSeek 联合北大发布 DSpark 推理加速框架，速度提升 60% 至 85%

AI 导读

针对大模型推理延迟高、并发效率低的痛点，DSpark 框架通过半自回归候选生成与置信度调度验证两项创新，在保证生成质量的同时，将单用户生成速度提升 60% 至 85%。该框架已部署于 DeepSeek-V4 系列预览版服务中，相关代码与模型已在 GitHub 开源。#大模型#AI 推理

回到原文

这里保留短导读，不转载来源网站的完整正文。具体表述和后续更新请以原文为准。