Redwood Research 质疑 GDM 是否在 Gemini 4 上有意训练 CoT
自动整理 · 基于采集摘要,未逐条核验
本站整理于
事件要点
Redwood Research 发现 Gemini 4 安全报告(第114页)似乎提到 GDM 用辅助奖励训练思维链(CoT),但 GDM 博客称训练中从不惩罚 CoT 内容,且多位 GDM 员工表示没有在训练 CoT 但不便透露技术细节,Redwood 表示困惑并希望 GDM 澄清。
相关背景
Gemini是什么:多模态模型与应用功能的区别
Gemini是Google的生成式AI模型家族,具体版本可处理文字与多种媒体输入;Gemini Apps则是用户直接对话和上传文件的应用。多模态必须分别说明输入类型和生成内容。例如Gemini 4 Argon支持音视频输入,但输出为文本,不能把“理解视频”直接理解成“生成视频”。需要本地权重的读者,还应区分另一个家族Gemma。
思维链是什么?分步解题文字的用途与可信边界
思维链通常指模型生成的一系列中间解题步骤,思维链提示则通过示范等方式引导模型按步骤处理问题。相关研究在特定推理任务中观察到收益,但不能据此保证所有模型或题型都变好。输出的步骤可能有错,也可能不忠实反映决定答案的内部因素,因此不能把流畅解释当作正确性的证明。
阅读说明
事件要点来自采集摘要;相关背景引用本站已有资料,帮助理解术语,不作为本次事件的新事实。产品效果、适用条件及后续变化请查看原始资料。
原文来源
来源与采集进展
| 来源 | 报道标题 | 原文发布时间 | 本站收录时间 |
|---|---|---|---|
| blog.redwoodresearch.org | Redwood Research 质疑 GDM 是否在 Gemini 4 上有意训练 CoT | 2026-11-11 04:23 | 2026-11-11 05:37 |