hotai.news
← 返回 AI 快讯
AI 快讯 / 事件详情
blog.redwoodresearch.org · 发布于

Redwood Research 质疑 GDM 是否在 Gemini 4 上有意训练 CoT

自动整理 · 基于采集摘要,未逐条核验
本站整理于

事件要点

Redwood Research 发现 Gemini 4 安全报告(第114页)似乎提到 GDM 用辅助奖励训练思维链(CoT),但 GDM 博客称训练中从不惩罚 CoT 内容,且多位 GDM 员工表示没有在训练 CoT 但不便透露技术细节,Redwood 表示困惑并希望 GDM 澄清。

相关背景

Gemini是什么:多模态模型与应用功能的区别

Gemini是Google的生成式AI模型家族,具体版本可处理文字与多种媒体输入;Gemini Apps则是用户直接对话和上传文件的应用。多模态必须分别说明输入类型和生成内容。例如Gemini 4 Argon支持音视频输入,但输出为文本,不能把“理解视频”直接理解成“生成视频”。需要本地权重的读者,还应区分另一个家族Gemma。

思维链是什么?分步解题文字的用途与可信边界

思维链通常指模型生成的一系列中间解题步骤,思维链提示则通过示范等方式引导模型按步骤处理问题。相关研究在特定推理任务中观察到收益,但不能据此保证所有模型或题型都变好。输出的步骤可能有错,也可能不忠实反映决定答案的内部因素,因此不能把流畅解释当作正确性的证明。

阅读说明

事件要点来自采集摘要;相关背景引用本站已有资料,帮助理解术语,不作为本次事件的新事实。产品效果、适用条件及后续变化请查看原始资料。

原文来源

来源与采集进展

来源报道标题原文发布时间本站收录时间
blog.redwoodresearch.orgRedwood Research 质疑 GDM 是否在 Gemini 4 上有意训练 CoT2026-11-11 04:232026-11-11 05:37