跳到正文

技术方向

安全对齐 最新动态

让 AI 可控、可信、不被滥用:越狱与防御、模型行为研究、安全评测与治理框架。

1 条精选近 30 天 1 条共收录 3 条

更新

安全对齐的精选

11月11日周三第 1–1 条
  1. Microsoft Research71

    Microsoft 研究 Lazarus 后门技术:改写不足 10 个休眠神经元即可操纵 AI 智能体

    Microsoft 研究人员发现 Lazarus 后门技术,无需训练,仅改写 LLM 中不足 10 个休眠神经元,就能让 AI 智能体在隐藏触发条件出现时执行恶意命令。

    推荐理由:研究将智能体后门风险具体落到模型权重完整性上,说明常规行为评测之外,核验原始权重与来源也是安全审计的重要环节。