使用 Amazon SageMaker HyperPod Data Capture 构建模型改进飞轮
AWS 演示了如何使用 Amazon SageMaker HyperPod Data Capture 构建模型改进飞轮,通过捕获推理数据、分析标注和微调改善模型。示例使用合成数据,以 Qwen2.5-3B-Instruct 构建家电支持路由器,并在单个集群上完成数据捕获、训练和重新部署。
AWS 演示了如何使用 Amazon SageMaker HyperPod Data Capture 构建模型改进飞轮,通过捕获推理数据、分析标注和微调改善模型。示例使用合成数据,以 Qwen2.5-3B-Instruct 构建家电支持路由器,并在单个集群上完成数据捕获、训练和重新部署。
Microsoft Research Focus 第 98 期介绍了 AI 翻译、数学难题及编码智能体效率等研究进展。研究人员解决了历时 31 年的 KLS 猜想,并提出 COMPACTIONBENCH 和 APEC,后者在评测中将成本降低最多 25.4%、执行时间缩短 9.6%。Latent Core Tokenizer 在 104 种语言的评测中生成了更具语言意义的 token。
Microsoft 研究人员发现 Lazarus 后门技术,无需训练,仅改写 LLM 中不足 10 个休眠神经元,就能让 AI 智能体在隐藏触发条件出现时执行恶意命令。
推荐理由:研究将智能体后门风险具体落到模型权重完整性上,说明常规行为评测之外,核验原始权重与来源也是安全审计的重要环节。
Google DeepMind 开放 SatWeave 和 PARDIG 的历史档案与实时数据流,供研究者和开发者构建天气、水文及气候应用。两者均用于此前发布的 WeatherNext 3,前者提供每小时更新、覆盖 17 个通道的全球卫星影像拼接,后者提供 AI 生成的全球降水数据,在小到中等强度降水的小时级检测能力上比 IMERG-Final 提升超过 30%。
Microsoft 介绍了用于评估 Microsoft Copilot 的 Industry Evaluation Data Generation Platform,通过合成企业环境模拟真实业务场景。平台利用 O*NET、在线招聘信息和 SEC 文件等公开数据,并通过自动化查询生成和内容安全检查构建评估数据,无需使用客户数据。
GitHub 详解机密扫描的两阶段管线,以正则筛选候选字符串,再由微调的 ModernBERT 结合上下文区分真实凭据与相似的非敏感字符串。相比此前的 LLM 管线,同一公开流量上的离线评估显示精确率提高 13%、召回率提高 19%;客户 A/B 实验中,按仓库所有者加权的告警接受率提高 11.5%,提交后扫描执行时间中位数降低 86%,服务成本降低超过 98%。
ABBEL 框架通过训练 LLM 更新自然语言信念状态,减少长程交互中保留完整历史的需要。在协作编码基准 CollabBench 上,信念评分将与完整上下文模型的性能差距缩小约 50%,训练步数减少 50%,峰值上下文 token 长度也更低。
SPEX 和 ProxySPEX 通过消融与稀疏恢复,大规模识别 LLM 中影响输出的交互作用。ProxySPEX 利用交互的层级结构,以约 10x 更少的消融次数达到 SPEX 的性能;在情感分析中,SPEX 在特征规模增至数千时仍保持较高的归因忠实度。