跳到正文
只看论文
  1. Microsoft Research71

    Microsoft 研究 Lazarus 后门技术：改写不足 10 个休眠神经元即可操纵 AI 智能体

    Microsoft 研究人员发现 Lazarus 后门技术，无需训练，仅改写 LLM 中不足 10 个休眠神经元，就能让 AI 智能体在隐藏触发条件出现时执行恶意命令。

    推荐理由：研究将智能体后门风险具体落到模型权重完整性上，说明常规行为评测之外，核验原始权重与来源也是安全审计的重要环节。

  1. Google DeepMind80

    Google DeepMind 介绍 AlphaProof Code，形式化验证 Signal 核心加密代码

    Google DeepMind 公布 AlphaProof Code 研究，由人类专家指导 AI 智能体，形式化验证 Signal 核心加密代码的关键安全属性。

    推荐理由：研究将验证对象从协议设计推进到实际运行的代码，为理解形式化验证如何覆盖设计与实现之间的安全缺口提供了具体案例。

  1. Microsoft Research84

    Microsoft Research 研究者与合作者证明提出已 31 年的 KLS 猜想

    Microsoft Research 的 Xinzhi Zhang 与合作者 Zhao Song 证明了提出已 31 年的 KLS 猜想，将高维对数凹分布的相关几何界限收紧至不依赖维度的常数。

    推荐理由：研究者逐轮筛选智能体搜索方向，并与相近 token 预算的无引导尝试对照，为理解数学研究中的人机分工提供了具体案例。

已经到底了