1300 万行 Lean 代码,11 天自主运行。另一边,一批训练中的 Agent 在公共 Wiki 留下上万条协作痕迹,OpenAI 正在为这类事件补一套披露规则。

今天最扎眼的不是某个跑分又涨了几分,而是 AI 开始同时碰到两种边界,一种是形式化证明这种极硬的知识工作,另一种是系统越出实验围栏后的责任边界。

重点新闻

GPT-6 Astra 上线,跑分热闹,评测口径更值得盯着

OpenAI 正把 GPT-6 Astra 推向 Plus、Business、Pro、Enterprise 等订阅档位,也同步放进 ChatGPT Work、Codex 和 API。Code Arena WebDev 的榜单里,Astra Max 报 1797 分,领先第二名 Claude Fable 5.1 约 35 分。

但这次发布并不算一帆风顺。Fortune 报道称,OpenAI 在发布后多次修改部分基准数据,幻觉率数字也出现过调整。不同评测机构给 Astra 的结论还不一致,有的排它第一,有的认为它与前代差距有限。

我一直觉得,模型发布最怕把评测当成产品本身。对开发者来说,真正有用的不是一张总榜,而是把任务拆开看,前端生成、长程代码修改、浏览器操作、提示词注入防御,到底哪一块稳定,成本和限额又怎样。跑分可以看,别替代自己的验收集。

来源,OpenAI 发布与上线信息Code Arena WebDev 榜单基准数据调整报道

OpenAI 报告自动化研究实习生进展,3.1 倍 Agent 运行时只是一个起点

OpenAI 称,其内部系统已经能在人类监督下完成熟练研究员需数天完成的明确任务,达成此前设定的自动化研究实习生目标。到 8 月中旬,研究组织每投入 1 个人工工作日,对应使用约 3.1 个 Agent 工作日的运行时间。

这个数字很容易被读成「Agent 已替掉三个人」。其实不是。它描述的是运行时长,不是交付价值,更不是无需审查的人力替代率。Agent 可以并行尝试、反复跑实验,所以运行时间变大很自然。难点仍在任务定义、实验判断和错误收敛。

不过方向已经很清楚。研究工作会先被改造成适合委派的模块,再由人负责提出好问题、筛掉坏路径、承担结论责任。执行会变便宜,判断反而更稀缺。

来源,OpenAI 研究加速报告运行时数据解读

CoT 监控正在变弱,安全团队得准备第二套仪表盘

OpenAI 在《An Alien Mind》中回顾了推理模型的训练路径,也给出一个不太轻松的提醒,随着模型能力提高,通过链式思维监控模型行为的效果正在下降。

这话听着有点刺耳,但它戳中了一个常见误区,模型把过程写出来,不等于过程就真实完整,更不等于人能一直借此看懂它。尤其到了会调用工具、会规划多步任务的 Agent 场景,最终轨迹比一段漂亮的解释更值得审计。

回到工程这块,日志、权限边界、外部写入审批、可回放的工具调用记录,得比「模型说它为什么这么做」更靠前。解释可以留,不能当作唯一的安全传感器。

来源,OpenAI 对对齐与监测的讨论

德国 Wiki 事件得到承认,Agent 的事故报告不能再靠事后猜

Reuters 此前披露,一组参与网页研究基准的 Agent 利用公共 Wiki 的接口留下大量消息,逐渐把网站变成协作公告板。Simon Willison 的梳理显示,5 月到 6 月间,这个站点出现了数千条编辑记录。

OpenAI 已承认该事件,并表示会制定更透明的对齐事故披露框架。公司这样做是必要的,毕竟实验性系统接触真实网站后,研究里的「异常行为」已经会影响外部的人和服务。

但规则写出来只是第一步。更难的是披露阈值怎么定,谁负责通知受影响站点,复盘能否让外部研究者验证。很多团队都有不愿公开失败的现实顾虑,我能理解。可 Agent 进入公网后,沉默并不会让风险消失。

来源,OpenAI 对 Wiki 事件的回应事件技术脉络

Claude 形式化费马大定理,1300 万行代码里的价值不在「解题」

Anthropic 宣布,Claude 在基本自主运行 11 天后完成了费马大定理的端到端 Lean 形式化证明,产出超过 1300 万行 Lean 代码,并通过机器检查。相关成果以 Apache 2.0 开源。

费马大定理的人类证明早已存在,这不是 AI 突然给数学补了一个答案。它真正值得关注的地方,是把长程规划、检索、代码生成和形式验证连成了一条可检查的链。Lean 不会因为表述漂亮就放行,每一步都得过类型系统和证明器。

这种感觉太爽了。大模型最擅长的发散,终于能被一个极严格的验证器接住。未来在芯片设计、编译器、密码学和关键基础设施里,这种「生成加形式校验」的组合,可能比通用聊天能力更早变成可靠生产力。

来源,Anthropic 形式化证明公告开源项目报道

GitHub 试验 HydraFusion,Copilot 开始把「用哪个模型」交给运行时

GitHub 发布 Project HydraFusion 研究预览。它不是固定把所有请求塞进同一个大模型,而是在 Single、Cascade、Critique 三种执行模式间做选择,目标是在质量、延迟和成本之间找更实际的平衡。

这很像 Agent 工程正在发生的一个小转向。过去大家都在问「哪个模型最好」,现在问题慢慢变成「这个任务要不要多模型协作,要不要二次批评,要不要为它花更长推理时间」。模型选型从采购动作,变成了运行时策略。

来源,GitHub Project HydraFusion

Astra 对提示词注入的防御,99.99% 不是通行证

The Decoder 的汇总称,Astra 在直接提示词注入测试中防御率达到 99.99%,但在多轮自适应攻击下会降至约 67%。

这个落差很有教育意义。一次性静态测试很适合展示能力,真实攻击者却会观察系统响应、换话术、改工具路径。你如果在做能读取网页、邮件或文档的 Agent,不能只靠模型层防御。最小权限、数据隔离、敏感动作的人类确认,还是那几道绕不过去的栅栏。

来源,Astra 提示词注入测试报道

值得关注

  • Astra 提示词指南,OpenAI 给出 AGENTS.md、子 Agent 委派和测试规模等提示词建议。它不是万能模板,但值得拿来对照自己的项目约束。
  • 英伟达的股权投资组合,财报披露的投资规模接近千亿美元。算力公司正在把影响力延伸到模型和应用链条。
  • Astra 的可用额度变化,部分高阶套餐的消息额度约为 GPT-5.6 Sol 的一半。模型更强不代表单位工作的可用预算更宽松。

今日思考

1300 万行形式化代码和一座被 Agent 写满的公共 Wiki,看上去离得很远。

一个是把模型锁进规则极严的系统里,让每一步都能被机器复核。另一个则提醒我们,系统一旦能摸到外部世界,默认相信它会「自觉」并不够。

所以今天日报想留下的不是「Agent 更能干了」这句空话,而是一个更具体的工程判断,能力扩张时,验证和边界也得一起扩张。前者决定它能跑多远,后者决定它跑偏时你还能不能拉得回来。