使用 NVIDIA NeMo Switchyard 在 Amazon Bedrock 上为编码智能体请求选择合适的模型
本教程演示如何部署 NVIDIA NeMo Switchyard 与 LiteLLM,为编码智能体选择 Amazon Bedrock 模型,并按每项成功解决任务的成本评估路由效果。示例支持按任务阶段或随机权重路由,使用 switchyard-server 0.3.0 和 LiteLLM v1.102.0,仅供非生产环境使用。
本教程演示如何部署 NVIDIA NeMo Switchyard 与 LiteLLM,为编码智能体选择 Amazon Bedrock 模型,并按每项成功解决任务的成本评估路由效果。示例支持按任务阶段或随机权重路由,使用 switchyard-server 0.3.0 和 LiteLLM v1.102.0,仅供非生产环境使用。
Amazon Bedrock AgentCore runtime 的会话启动指南介绍了 V2 快照机制及降低启动延迟的架构模式。V2 在创建或更新运行时准备环境并生成快照,新会话通过恢复快照启动;开发者还可使用构建钩子或在用户开始交互时预热会话。优化前可通过 Amazon CloudWatch 指标区分平台开销与代码耗时。
AssemblyAI 通过混用 Amazon EC2 Spot 和按需实例,优化大规模语音转文字推理成本,同时维持服务等级协议承诺。其架构结合 Amazon ECS、不同 GPU 实例类型和 Amazon SQS 队列重试机制,应对 Spot 中断,并通过区域部署满足数据驻留要求。
Amazon Bedrock 提供基于调用者身份的成本归因和用量控制,支持追踪 AI 开发及生产力工具的用户支出。配置 IAM Identity Center 和会话标签后,用户及团队成本可写入 CUR 2.0 并通过 Amazon Athena 查询;CUR 按导出间隔聚合用量,不包含单次请求成本。
AWS 演示了如何使用 Amazon SageMaker HyperPod Data Capture 构建模型改进飞轮,通过捕获推理数据、分析标注和微调改善模型。示例使用合成数据,以 Qwen2.5-3B-Instruct 构建家电支持路由器,并在单个集群上完成数据捕获、训练和重新部署。
GitHub 通过 Data Forge 和 Proof Agent 示例,讲解如何构建可在多个智能体客户端复用的技能,并设置检查与人工审批环节。技能以 SKILL.md 为核心,将项目配置放入独立清单,让多个技能共享上下文和平台访问路径,再生成适用于 Claude Code、Cursor 和 GitHub Copilot 的客户端文件。
推荐理由:将项目配置与技能指令分离,并让相关技能共用执行路径,为团队把隐性业务经验整理成可跨客户端复用的工作流提供了具体方法。
SGLang-Neuron 已公开可用,支持通过熟悉的 SGLang 接口在 AWS Trainium 上部署模型并生成强化学习轨迹。该插件基于原生 PyTorch,支持预填充与解码分离,可通过 AWS Deep Learning Container 使用。
Microsoft Research Focus 第 98 期介绍了 AI 翻译、数学难题及编码智能体效率等研究进展。研究人员解决了历时 31 年的 KLS 猜想,并提出 COMPACTIONBENCH 和 APEC,后者在评测中将成本降低最多 25.4%、执行时间缩短 9.6%。Latent Core Tokenizer 在 104 种语言的评测中生成了更具语言意义的 token。
Google DeepMind 发布 Gemini 4 Hydrogen,主打快速执行日常编码与智能体任务,即日起向开发者、企业和消费者产品逐步开放。
推荐理由:通过区分深度架构判断与日常执行任务,材料展示了多模型工作流如何分配任务,并给出配额消耗与完成速度的对比数据。
Google DeepMind 发布 AlphaGenome 2,通过条件模型预测 DNA 序列及其变异对特定细胞类型和状态的影响,并可分析未见过的细胞状态。模型使用超过 107 million 个单细胞图谱训练,在 TenK10K 数据集上的因果变异识别比例为 30%,对比原版经单细胞数据微调后的 16%,并新增 DNA 甲基化预测。
推荐理由:从组织平均值转向细胞类型与状态的条件预测,有助于定位被组织层面分析掩盖的变异效应,将遗传关联落到具体细胞。
Microsoft 研究人员发现 Lazarus 后门技术,无需训练,仅改写 LLM 中不足 10 个休眠神经元,就能让 AI 智能体在隐藏触发条件出现时执行恶意命令。
推荐理由:研究将智能体后门风险具体落到模型权重完整性上,说明常规行为评测之外,核验原始权重与来源也是安全审计的重要环节。
Google 宣布开放 Gemini 4 Carbon,面向开发者、企业、科研人员和消费者,主打复杂知识工作、长流程智能体编码、网络安全与科学推理。
推荐理由:Carbon 与 Argon 的任务定位和 token 消耗差异,为比较复杂任务中的推理深度、验证投入与使用成本提供了具体依据。
Google DeepMind 公布 AlphaProof Code 研究,由人类专家指导 AI 智能体,形式化验证 Signal 核心加密代码的关键安全属性。
推荐理由:研究将验证对象从协议设计推进到实际运行的代码,为理解形式化验证如何覆盖设计与实现之间的安全缺口提供了具体案例。
Google DeepMind 开放 SatWeave 和 PARDIG 的历史档案与实时数据流,供研究者和开发者构建天气、水文及气候应用。两者均用于此前发布的 WeatherNext 3,前者提供每小时更新、覆盖 17 个通道的全球卫星影像拼接,后者提供 AI 生成的全球降水数据,在小到中等强度降水的小时级检测能力上比 IMERG-Final 提升超过 30%。
Google DeepMind 发布视觉语言动作模型 Gemini Robotics 2.5,提升机器人任务广度、灵巧性与安全性,并正向机器人合作伙伴开放。
推荐理由:从多任务评测到汽车产线试点,材料给出了机器人灵巧性提升与实际作业可靠性之间的对照,便于理解模型进展的落地范围。
GitHub 介绍了利用 Copilot 开展智能体工程的工作流,涵盖规划、构建、验证和观察等软件开发阶段。规划阶段可用 Copilot 整合上下文并创建 GitHub Issues;构建阶段可跨设备延续会话,让任务在云端沙箱中运行。
Google DeepMind 发布 Gemini Omni 1.2 Flash,原生视频生成和编辑时长从 10 秒增至 15 秒,并在 Gemini API 和 Gemini for business 全面开放。
推荐理由:相较上一版,片长增加与降价之外,多轮编辑让局部修改不必重新生成整段视频,为批量制作广告变体提供了更灵活的工作流。
Microsoft Research 用 PDD Kit 演示了对 Rust 全栈应用 Pet Store 登录逻辑的形式化验证,将开发者意图转为规范,再由 Verus 检查代码是否满足规范。
Google DeepMind 演示了 Google Antigravity 借助 Cheminformatics Skills 加速药物发现流程:智能体在约 1 小时内检索数千种化合物、开展匹配分子对分析,并提出新型刚性大环分子及合成路线。该技能套件基于开源化学信息学工具 RDKit,并连接 ChEMBL 和 PubChem 等资源。
Microsoft 介绍了用于评估 Microsoft Copilot 的 Industry Evaluation Data Generation Platform,通过合成企业环境模拟真实业务场景。平台利用 O*NET、在线招聘信息和 SEC 文件等公开数据,并通过自动化查询生成和内容安全检查构建评估数据,无需使用客户数据。
Microsoft Research 介绍 Flint-interactive,让用户和 AI 智能体以高层规范创建支持点击、筛选、缩放、高亮和跨图联动的数据可视化。
Microsoft Research 的 Xinzhi Zhang 与合作者 Zhao Song 证明了提出已 31 年的 KLS 猜想,将高维对数凹分布的相关几何界限收紧至不依赖维度的常数。
推荐理由:研究者逐轮筛选智能体搜索方向,并与相近 token 预算的无引导尝试对照,为理解数学研究中的人机分工提供了具体案例。
GitHub 采访了 3 位 Java Champion,介绍他们使用 GitHub Copilot 开发功能、迁移资料和排查缺陷的实践。
推荐理由:案例将提效落实为可迁移的工程方法,通过明确上下文、设置任务验收关卡并沉淀技能,让智能体执行与人工责任保持分工。
GitHub 讲解如何将 Copilot app 会话直接转入 VS Code,保留对话、代码改动和工作上下文。用户选择 Open in VS Code 后,编辑器会打开该会话关联的工作树,并在 Copilot 侧栏显示原有会话,支持逐行审查差异、继续对话、手动编辑和本地测试。完成修改后,在原分支提交并推送即可更新关联的拉取请求,无需复制文件或重新关联工作。
GitHub 详解机密扫描的两阶段管线,以正则筛选候选字符串,再由微调的 ModernBERT 结合上下文区分真实凭据与相似的非敏感字符串。相比此前的 LLM 管线,同一公开流量上的离线评估显示精确率提高 13%、召回率提高 19%;客户 A/B 实验中,按仓库所有者加权的告警接受率提高 11.5%,提交后扫描执行时间中位数降低 86%,服务成本降低超过 98%。
GitHub Copilot app 入门教程讲解如何结合自定义指令、智能体技能、自定义智能体和 MCP 服务器,让 Copilot 理解项目规范并执行相关工作流。
GitHub 介绍与 Microsoft Applied Sciences 合作构建的 ModernBERT 分类器,将推送保护扩展至非结构化密钥,批量评估候选密钥耗时低于 2 毫秒,可使能提前阻止泄露的密钥数量增加至两倍以上。
推荐理由:九个季度的数据未显示单次推送的密钥泄露比例明显上升,将防护重点从要求开发者更谨慎转向扩大自动预防与处置能力。
GitHub 开放 AI 代码审查基准 ReviewBench 的研究预览版,提供公开数据集、评估方法、自助运行工具和排行榜。基准参考 103.9 million 个 GitHub 拉取请求的分布,收录来自 187 个公开开源仓库、覆盖 19 种语言的 219 个拉取请求,并使用 Claude Sonnet 5 按统一标准评判问题,资深工程师独立复核的一致率为 96.6%。
研究人员为 K-Search 增加 MLX 后端和 CUDA 到 MLX 的结构化翻译层,将现有内核优化经验适配到 Apple Silicon。其 Attention 内核性能达到原生 MLX 内核的 0.97x,Mamba SSM 内核的 prefill 速度较社区 mlx-lm 实现最高提升 20x。
ABBEL 框架通过训练 LLM 更新自然语言信念状态,减少长程交互中保留完整历史的需要。在协作编码基准 CollabBench 上,信念评分将与完整上下文模型的性能差距缩小约 50%,训练步数减少 50%,峰值上下文 token 长度也更低。
Berkeley AI Research 的研究者探讨了 AI 推理成本下降后,数据系统面临的三类机遇:服务、管理 AI 智能体以及由智能体构建系统。在一项多智能体 text-to-SQL 基准测试中,80-90% 的子查询执行了重复工作,数据系统可通过复用重叠子计划的结果减少浪费。
GRASP 是一种基于梯度的规划方法,旨在让学习得到的世界模型更稳健地执行长时间跨度规划。该方法引入虚拟状态以并行优化轨迹,在状态迭代中加入随机性以促进探索,并调整梯度以避免高维视觉模型中不稳定的状态输入梯度。
SPEX 和 ProxySPEX 通过消融与稀疏恢复,大规模识别 LLM 中影响输出的交互作用。ProxySPEX 利用交互的层级结构,以约 10x 更少的消融次数达到 SPEX 的性能;在情感分析中,SPEX 在特征规模增至数千时仍保持较高的归因忠实度。