Microsoft 研究 Lazarus 后门技术:改写不足 10 个休眠神经元即可操纵 AI 智能体
Microsoft 研究人员发现 Lazarus 后门技术,无需训练,仅改写 LLM 中不足 10 个休眠神经元,就能让 AI 智能体在隐藏触发条件出现时执行恶意命令。
推荐理由:研究将智能体后门风险具体落到模型权重完整性上,说明常规行为评测之外,核验原始权重与来源也是安全审计的重要环节。
公司与模型
微软的 Copilot 系列产品、Azure AI 云服务,以及与 OpenAI 的合作动向。
4 条精选近 30 天 3 条共收录 14 条
Microsoft 研究人员发现 Lazarus 后门技术,无需训练,仅改写 LLM 中不足 10 个休眠神经元,就能让 AI 智能体在隐藏触发条件出现时执行恶意命令。
推荐理由:研究将智能体后门风险具体落到模型权重完整性上,说明常规行为评测之外,核验原始权重与来源也是安全审计的重要环节。
Microsoft Research 的 Xinzhi Zhang 与合作者 Zhao Song 证明了提出已 31 年的 KLS 猜想,将高维对数凹分布的相关几何界限收紧至不依赖维度的常数。
推荐理由:研究者逐轮筛选智能体搜索方向,并与相近 token 预算的无引导尝试对照,为理解数学研究中的人机分工提供了具体案例。
GitHub 采访了 3 位 Java Champion,介绍他们使用 GitHub Copilot 开发功能、迁移资料和排查缺陷的实践。
推荐理由:案例将提效落实为可迁移的工程方法,通过明确上下文、设置任务验收关卡并沉淀技能,让智能体执行与人工责任保持分工。
GitHub 介绍与 Microsoft Applied Sciences 合作构建的 ModernBERT 分类器,将推送保护扩展至非结构化密钥,批量评估候选密钥耗时低于 2 毫秒,可使能提前阻止泄露的密钥数量增加至两倍以上。
推荐理由:九个季度的数据未显示单次推送的密钥泄露比例明显上升,将防护重点从要求开发者更谨慎转向扩大自动预防与处置能力。