hotai.news
← 返回 AI 快讯
AI 快讯 / 事件详情
IT之家 · 发布于

不用显卡:玩家用停产英特尔傲腾内存跑通 2.8 万亿参数 Kimi K3,每秒输出 1.5 词元

自动整理 · 基于采集摘要,未逐条核验
本站整理于

事件要点

网友 u/IndividualSurvival 在 Reddit 分享家庭实验室尝试,不配显卡、仅用已停产的英特尔傲腾持久内存 200 系列,通过 llama.cpp 成功运行 2.8 万亿参数的月之暗面 Kimi K3。1 比特量化下初始生成速度约每秒 0.85 个词元,关闭 DAX 后提升至每秒 1.50 个词元;3 比特量化仅每秒 0.75 个词元,生成 5 万个词元约需 18.5 小时。

相关背景

Llama是什么:Meta开放权重模型与许可的区别

Llama是Meta发布的AI模型家族,提供可下载的权重,供开发者构建自己的推理服务或应用。它与Meta AI聊天产品不是同一个对象,也不同于运行模型的llama.cpp工具。Llama包含多个代际和规模,视觉能力及语言支持应按具体模型卡判断;开放权重不等于标准MIT或Apache许可,Llama 4采用独立的社区许可。

Kimi是什么:长任务模型与旧版API的区别

Kimi是月之暗面(Moonshot AI)的AI模型与应用品牌。使用Kimi聊天应用,与通过API把模型接入自己的软件,是两种不同方式;下载某个旧版开放权重又是另一种部署选择。它的长上下文和工具任务能力必须按具体版本理解。旧API停止服务,不表示已下载的模型文件自动失效,也不意味着旧型号仍能通过原接口调用。

阅读说明

事件要点来自采集摘要;相关背景引用本站已有资料,帮助理解术语,不作为本次事件的新事实。产品效果、适用条件及后续变化请查看原始资料。

原文来源

来源与采集进展

来源报道标题原文发布时间本站收录时间
IT之家不用显卡:玩家用停产英特尔傲腾内存跑通 2.8 万亿参数 Kimi K3,每秒输出 1.5 词元2026-11-13 15:142026-11-13 15:27