datasette-llm 0.1a11 发布
datasette-llm 0.1a11 新增对兼容 OpenAI 的端点的支持,可为 Datasette 配置使用该协议的 LLM。用户可通过 LM Studio、Ollama 或 llama.cpp 运行本地模型,并借助 uvx 启动由本地模型驱动的 Datasette Agent 实例。
datasette-llm 0.1a11 新增对兼容 OpenAI 的端点的支持,可为 Datasette 配置使用该协议的 LLM。用户可通过 LM Studio、Ollama 或 llama.cpp 运行本地模型,并借助 uvx 启动由本地模型驱动的 Datasette Agent 实例。
Cloudflare 于当地时间 11 月 13 日宣布开源今年 8 月推出的 AI 智能体浏览器 Kitesurf。它运行于 Cloudflare Workers,支持 HTML 解析、CSS 应用、JavaScript 执行、网页截图和 Chrome DevTools Protocol,无需依赖 Chromium 进程或容器。
Shopify 工程团队介绍内部系统 Cyber Chaos Monkey(CCM),让掌握源码、基础设施知识和测试店铺凭证的 AI 智能体在生产环境开展受控攻击。
Anthropic 应用 AI 团队发布《Building always-on agents》架构指南,用收件箱、计时器、记忆、权限和发件箱五类组件说明如何搭建始终在线的 AI 智能体。
本教程演示如何部署 NVIDIA NeMo Switchyard 与 LiteLLM,为编码智能体选择 Amazon Bedrock 模型,并按每项成功解决任务的成本评估路由效果。示例支持按任务阶段或随机权重路由,使用 switchyard-server 0.3.0 和 LiteLLM v1.102.0,仅供非生产环境使用。
Amazon Bedrock AgentCore runtime 的会话启动指南介绍了 V2 快照机制及降低启动延迟的架构模式。V2 在创建或更新运行时准备环境并生成快照,新会话通过恢复快照启动;开发者还可使用构建钩子或在用户开始交互时预热会话。优化前可通过 Amazon CloudWatch 指标区分平台开销与代码耗时。
AssemblyAI 通过混用 Amazon EC2 Spot 和按需实例,优化大规模语音转文字推理成本,同时维持服务等级协议承诺。其架构结合 Amazon ECS、不同 GPU 实例类型和 Amazon SQS 队列重试机制,应对 Spot 中断,并通过区域部署满足数据驻留要求。
Amazon Bedrock 提供基于调用者身份的成本归因和用量控制,支持追踪 AI 开发及生产力工具的用户支出。配置 IAM Identity Center 和会话标签后,用户及团队成本可写入 CUR 2.0 并通过 Amazon Athena 查询;CUR 按导出间隔聚合用量,不包含单次请求成本。
AWS 演示了如何使用 Amazon SageMaker HyperPod Data Capture 构建模型改进飞轮,通过捕获推理数据、分析标注和微调改善模型。示例使用合成数据,以 Qwen2.5-3B-Instruct 构建家电支持路由器,并在单个集群上完成数据捕获、训练和重新部署。
GitHub 通过 Data Forge 和 Proof Agent 示例,讲解如何构建可在多个智能体客户端复用的技能,并设置检查与人工审批环节。技能以 SKILL.md 为核心,将项目配置放入独立清单,让多个技能共享上下文和平台访问路径,再生成适用于 Claude Code、Cursor 和 GitHub Copilot 的客户端文件。
推荐理由:将项目配置与技能指令分离,并让相关技能共用执行路径,为团队把隐性业务经验整理成可跨客户端复用的工作流提供了具体方法。
SGLang-Neuron 已公开可用,支持通过熟悉的 SGLang 接口在 AWS Trainium 上部署模型并生成强化学习轨迹。该插件基于原生 PyTorch,支持预填充与解码分离,可通过 AWS Deep Learning Container 使用。
AI Engineer Code Summit 展示了 Glean、UiPath 和 Workday 使用 Jev 系统一模型构建软件的案例,涵盖分类决策、文档排序和表单预填。
AWS 官方 aws-emulator 可在本地模拟其多种服务并运行测试,无需配置付费 API 密钥。该项目使用 Rust 编写,由大批 AI 智能体参与开发,前 3 周产生了 29,684 次提交。目前在 macOS 或 Windows 上运行需要 Docker;Simon Willison 希望未来能直接下载单个二进制文件,将其纳入其他语言和平台的标准测试套件。
James O'Donnell 实地走访弗吉尼亚州数据中心聚集区后判断,数据中心遭抵制的原因更多在于用电的实际后果,而不只是科技企业所说的文化冲突。接入电网涉及输电成本分摊与高峰期供电压力,自备天然气轮机和柴油发电机则会给周边社区带来空气污染。文章指出,电力短缺也在制约行业扩张,需要现场发电的新项目可能转向人口稀少、反对阻力较小的地区。
Microsoft Research 用 PDD Kit 演示了对 Rust 全栈应用 Pet Store 登录逻辑的形式化验证,将开发者意图转为规范,再由 Verus 检查代码是否满足规范。
民主党赢得得州州长选举并将掌控州众议院,可能使当地大规模 AI 数据中心扩建计划面临延期或暂停。现任州长 Greg Abbott 已于9月21日要求关键州级监管机构暂停数据中心许可,候任州长 Gina Hinojosa 则在竞选期间主张全面暂停建设。不过,数据中心项目涉及市、县和州多级决策,地方官员及支持部分民主党候选人的建筑工会可能反对全面限制,竞选主张的落实仍面临阻力。
GitHub 详解机密扫描的两阶段管线,以正则筛选候选字符串,再由微调的 ModernBERT 结合上下文区分真实凭据与相似的非敏感字符串。相比此前的 LLM 管线,同一公开流量上的离线评估显示精确率提高 13%、召回率提高 19%;客户 A/B 实验中,按仓库所有者加权的告警接受率提高 11.5%,提交后扫描执行时间中位数降低 86%,服务成本降低超过 98%。
GitHub 介绍与 Microsoft Applied Sciences 合作构建的 ModernBERT 分类器,将推送保护扩展至非结构化密钥,批量评估候选密钥耗时低于 2 毫秒,可使能提前阻止泄露的密钥数量增加至两倍以上。
推荐理由:九个季度的数据未显示单次推送的密钥泄露比例明显上升,将防护重点从要求开发者更谨慎转向扩大自动预防与处置能力。
研究人员为 K-Search 增加 MLX 后端和 CUDA 到 MLX 的结构化翻译层,将现有内核优化经验适配到 Apple Silicon。其 Attention 内核性能达到原生 MLX 内核的 0.97x,Mamba SSM 内核的 prefill 速度较社区 mlx-lm 实现最高提升 20x。
Berkeley AI Research 的研究者探讨了 AI 推理成本下降后,数据系统面临的三类机遇:服务、管理 AI 智能体以及由智能体构建系统。在一项多智能体 text-to-SQL 基准测试中,80-90% 的子查询执行了重复工作,数据系统可通过复用重叠子计划的结果减少浪费。