Microsoft 研究 Lazarus 后门技术:改写不足 10 个休眠神经元即可操纵 AI 智能体
Microsoft 研究人员发现 Lazarus 后门技术,无需训练,仅改写 LLM 中不足 10 个休眠神经元,就能让 AI 智能体在隐藏触发条件出现时执行恶意命令。
推荐理由:研究将智能体后门风险具体落到模型权重完整性上,说明常规行为评测之外,核验原始权重与来源也是安全审计的重要环节。
Microsoft 研究人员发现 Lazarus 后门技术,无需训练,仅改写 LLM 中不足 10 个休眠神经元,就能让 AI 智能体在隐藏触发条件出现时执行恶意命令。
推荐理由:研究将智能体后门风险具体落到模型权重完整性上,说明常规行为评测之外,核验原始权重与来源也是安全审计的重要环节。
Microsoft Research 的 Xinzhi Zhang 与合作者 Zhao Song 证明了提出已 31 年的 KLS 猜想,将高维对数凹分布的相关几何界限收紧至不依赖维度的常数。
推荐理由:研究者逐轮筛选智能体搜索方向,并与相近 token 预算的无引导尝试对照,为理解数学研究中的人机分工提供了具体案例。