AI日报 | 2026年10月03日

同一批 Agent 新闻里，出现了三个很难忽略的数字，90%、64% 和 0.56 美元。

90% 来自一位工程师让 Claude Code 自动写推理引擎后的性能差距。64% 是 LangChain 在真实编码线程里做模型路由拿到的成本降幅。0.56 美元，则是 GPT-6.1 Sol (Max) 在 Agent Arena 中位任务成本。

它们并不在讲同一件事，却都在逼着 AI 工程从「选一个最强模型」走向更麻烦、也更真实的阶段，推理栈怎么做，模型怎么派活，成本和质量如何一起验收。

今日重点

Baseten 工程师参考 MetaInfer 的思路，让 Claude Code 为 Qwen-3.6-35B-A3B 自动构建推理引擎 VibeQwen。按其公开实测，在单张 B200、NVFP4 配置下，单流解码相对 vLLM 0.25.1 最多快 90%。

这个故事最容易被读成「AI 写系统代码比人快」。我觉得别急着下这个结论。性能工程里，环境、模型格式、batch、并发和测量方式都会改变结果。真正有价值的部分，是工程师没有停在让模型吐一段代码，而是把它拉进一个能基准测试、能和成熟框架正面对比的闭环。

代码能生成，验证不能外包。

对做推理平台的人来说，这也许是更实际的启发。把 Claude Code 当成提出实现方案和改动候选的搭档可以，但 benchmark、回归集和生产负载，仍得牢牢攥在团队手里。不然 90% 很可能只是一张漂亮的局部成绩单。

Arena 公布的 Agent Arena 中，GPT-6.1 Sol (Max) 排到第 5，净提升 11.23%，中位任务成本为 0.56 美元。Claude Sonnet 5.5 排第 3，净提升 12.5%，中位成本却是 2.74 美元，并未进入该榜单的 Pareto 前沿。

这并不是在宣布谁「性价比最好」。真实任务的失败代价差异很大，一个能自主修复复杂问题的 Agent，可能值得更贵的单次调用。但榜单把质量与成本并排放出来，至少让采购和架构讨论少一点口水仗。

你想想看，模型选择终于不只是冠军榜，而像工程团队的容量规划。跑得快不够，跑得稳不够，还要知道每一公里花了多少钱。

Prime Intellect 发布 Prime Inference，提供 serverless 端点与预留容量，覆盖跨数据中心的前沿开源模型，并已上线 GLM-5.3 端点。其披露的内部日处理量接近一万亿 token。

开源模型的能力近一年窜得很快，真正别扭的部分却常在部署之后。你得面对冷启动、峰值流量、显存碎片、不同供应商的可用区，以及模型版本升级带来的行为漂移。很多团队不是不想用开源模型，而是不愿把基础设施维护变成主业。

托管推理平台填的正是这条缝。不过这条路也有代价，延迟、数据边界、模型版本控制和供应商锁定，都需要在接入前写清楚。不是把 API 换掉就万事大吉。

Google 发布下一代联邦学习系统，使用可信执行环境 TEE 提供可验证、可审计的数据匿名化保证，并把访问策略发布到 Rekor 透明日志。Gboard 已将它用于英语和日语下一词预测模型训练。

联邦学习一直有一个绕不开的问题，数据不离开设备，谁来保证服务器真的按承诺处理聚合结果。传统方案更多是靠架构说明和组织承诺。Google 这次的方向是让二进制可以从开源代码复现构建，再让策略和访问记录能够被审计。

这还不是隐私问题的终点。TEE 依然有硬件信任根和实现复杂度，用户也不会因为多了一份技术白皮书就自动放心。但从「请相信平台」到「尽量让外部可以核验」，路至少走对了。

Meta 分享了数学家与 Muse Spark 1.1、1.2 协作完成的六篇论文。官方称工作发生在 meta.ai 的普通聊天界面里，没有使用定制研究脚手架，五篇触及此前公开的研究问题。

我对这种消息的第一反应总会保留一点。论文的署名、问题选择、人类筛选和最终证明审稿，任何一环都不能被「模型参与」四个字盖过去。数学不是刷题榜，开放问题更不该靠营销语句验收。

但它还是给了一个值得追踪的样本。研究助手是否有用，不在于它能不能独自成为数学家，而在于它能否让研究者更快地提出猜想、找反例、整理证明路径。把成果和协作过程公开得越具体，讨论才越有意义。

Ai2 开源 AstaBrief 8B。它基于 Qwen3-8B，将研究问题和检索到的文献片段转成带引用的科学报告，并公开训练数据和模型权重，已在 Asta 的报告生成功能中以 Fast mode 上线。

科学写作 Agent 最危险的地方，不是写得慢，而是写得像真的。一个流畅但错引、漏引或者把相关性当因果的段落，放进研究流程里会很难收拾。AstaBrief 至少把引用报告这个约束摆在台面上，也让社区有机会检查训练与输出的对应关系。

说实话，我也不确定 8B 模型能在多复杂的文献冲突里走多远。可开源训练材料比单独放一个 Demo 更重要，大家终于能拿自己的领域语料和评测集去检验它，而不是只看展示页。

NVIDIA DGX Spark 64GB 将于 10 月 23 日起以 4,999 美元开售，官方称可在端侧运行最高 1000 亿参数模型。能否真替代云端，要看具体量化、上下文长度和吞吐需求。
Modal Clusters 正式发布，通过 @modal.clustered 提供多节点 GPU 集群，节点通信可达 6.4 Tbps。把集群声明压缩成一个装饰器很爽，排障责任却不会因此消失。
Claude Code mods 教程介绍了可观察、重写或拒绝事件的 hooks 模块，也能画自定义 UI。内部工具规范终于能被写成插件，但插件权限和版本审计得同步跟上。
ChatGPT 托管 MCP 服务器的消息值得持续观察。构建门槛降低是好事，公开 MCP 的鉴权、数据范围和撤销机制也会立刻变成基础能力。