微软研究:AI 智能体休眠神经元可植入后门
自动整理 · 基于采集摘要,未逐条核验
本站整理于
事件要点
微软研究院新研究发现,重编程 AI 智能体中的少量休眠神经元即可植入后门,让智能体平时表现正常,直到触发特定条件才激活异常行为。微软建议企业确认模型来源并合理管控权限,Microsoft Foundry 为 Azure Direct Models 和 Hugging Face 模型提供安全系统以保障模型来源可信。
相关背景
AI Agent 是什么?用资料整理看懂它与聊天机器人的区别
本文讨论由大语言模型驱动的 AI Agent:它围绕一个目标选择下一步操作,通过工具获得外部结果,再据此继续执行或停止。例如整理会议资料时,它可以先搜索文件,读取内容后发现缺少日期,再补查另一份记录。普通问答只生成回复;Agent 增加了对执行过程的动态控制。能调用一次工具并不自动证明它有这种控制,仍应检查工具记录与完成结果。
阅读说明
事件要点来自采集摘要;相关背景引用本站已有资料,帮助理解术语,不作为本次事件的新事实。产品效果、适用条件及后续变化请查看原始资料。
原文来源
来源与采集进展
| 来源 | 报道标题 | 原文发布时间 | 本站收录时间 |
|---|---|---|---|
| x.com | 微软研究:AI 智能体休眠神经元可植入后门 | 2026-11-11 07:18 | 2026-11-11 07:52 |