英伟达破局 AI 内存瓶颈：HBM 仅增约 3%，每美元智能体吞吐量最高提升 30 倍

NVIDIA 介绍其全栈协同设计方案，通过分层内存架构、NVFP4 量化、KV 缓存分层卸载等技术，在 HBM 容量仅小幅增长的前提下，将智能体推理的每美元吞吐量提升至最高 30 倍。