斯坦福开源 Memorilla:为冻结 LLM 提供潜在记忆模块
自动整理 · 基于采集摘要,未逐条核验
本站整理于
事件要点
斯坦福 SNAP 团队开源 Memorilla,一个 194M 参数的可训练记忆模块,把整个文档集合压缩成 16 个 memory token 供冻结 LLM 使用。
相关背景
词元是什么?Token 与字数、用量和上下文预算的关系
词元Token是语言模型处理文本时使用的离散单位,可以对应一个字、一个词的一部分或标点等片段,取决于分词器。它不等于固定数量的中文字或英文单词。输入预算与生成用量常以词元计量,但模型和接口口径可能不同,核算时应使用目标模型的计数方式,并检查实际返回的用量信息。
阅读说明
事件要点来自采集摘要;相关背景引用本站已有资料,帮助理解术语,不作为本次事件的新事实。产品效果、适用条件及后续变化请查看原始资料。
原文来源
来源与采集进展
| 来源 | 报道标题 | 原文发布时间 | 本站收录时间 |
|---|---|---|---|
| marktechpost.com | 斯坦福开源 Memorilla:为冻结 LLM 提供潜在记忆模块 | 2026-11-14 18:21 | 2026-11-14 20:52 |