微星发布 4L 紧凑型台式机 PRO MAX EDGE AI+,基于 AMD 锐龙 AI Max+ 300
其单机支持 120B 模型本地运行,在 109B 模型上拥有 15 Token/s 的推理输出吞吐量;多机 USB4 互连后可处理 670B 模型。
回到原文
这里保留短导读,不转载来源网站的完整正文。具体表述和后续更新请以原文为准。
打开 IT之家 原文其单机支持 120B 模型本地运行,在 109B 模型上拥有 15 Token/s 的推理输出吞吐量;多机 USB4 互连后可处理 670B 模型。
这里保留短导读,不转载来源网站的完整正文。具体表述和后续更新请以原文为准。
打开 IT之家 原文