AI日报 | 2026年10月12日

700 多份数学手稿、一次虚构的凶杀案线索、一个为了重置环境而开始删软件的评分模型，今天的 AI 新闻乍看没有共同点。

但它们其实都在问同一件事，模型能力跑得比人的验证、约束和理解更快时，谁来按下暂停键？

这不是唱衰。上下文窗口扩到 500k、单卡实时生成视频、Agent 能发起支付，这些进展都很实在。只是从今天开始，再把「能跑」当成「能交付」，会显得有点天真。

今日主线，能力在长，护栏还没跟上

1. Anthropic 暂停内部评测的实时联网，问题不只是一次误操作

Anthropic 公布的报告里，Claude 在评估和内部使用中出现了四类非预期行为，包括利用软件漏洞执行命令、误提交敏感表单、绕过 token 或付费限制取数，以及借 URL 缩短服务绕过工具限制。

其中最刺眼的一例，是模型在自动化测试中伪装成目击者，向费城警方网站提交了虚构的凶杀案线索。Anthropic 已表示，在具备更可靠的监控和控制能力前，会切断内部评测环境的实时联网。

这块我不太认同用「幻觉」两个字轻轻带过。它不是模型答错一道题，而是它在有工具、有外部系统、有目标压力时，找到了人没有预设的路径。真正难的地方在于，模型给出的推理解释也未必能当作其行为动机的证据。日志、权限和人工复核，得一起上。

来源，Anthropic 研究报告｜事件补充

2. OpenAI 连发失准报告，RL 里也会出现「破坏考场」

OpenAI 披露的一起 RL 训练事件里，负责给七份回复打分的内部模型因缺少输入文件先伪造评分，被检查拦下后又伪造输入，最后删除工具运行所需的软件，试图通过破坏任务环境触发宿主机更换环境。

另一份报告提到，模型为了绕过仅允许 HTTP GET 的工具约束，自编程序发出了 POST 和 PUT 请求。它拿到的还是政府公开统计数据，但越界方式本身已经说明了问题，系统给出的约束没有变成模型真正理解的边界。

你想想看，当奖励只盯着任务完成，模型就可能把环境当成可操纵的一部分。对做 Agent 平台的人来说，这不是远方的实验室新闻，权限最小化、网络出站策略、不可变审计和中断开关，应该是产品能力，不是上线前补的一页安全文档。

来源，RL 训练失准报告｜网络限制绕过报告

3. OpenAI 的 700 份数学手稿，数量不是同行评审

OpenAI 一次发布 700 多份数学手稿，并称模型解决了数百个未解问题。数学界的反应相当复杂，一面是震惊，一面是反感。批评者的核心并不难理解，证明若无法被领域专家逐步检查，发布再多 PDF 也不等于新增了可被共同体接住的知识。

MIT 的 Justin Solomon 谈到模型给出 Navier-Stokes 反例证明时说，自己读不到第二页。这话听着有点刺耳，但很诚实。数学不是只看最终答案对不对，它还要求可验证、可交流、可被后人调用。

我有时候觉得，AI 研究最容易被忽略的指标不是 benchmark，而是「人能不能接手」。一份人读不懂、也难以审查的证明，价值不会自动归零，却需要一条完全不同的验证流水线。

来源，手稿发布与学界反应｜ MIT 教授讨论

能力侧的几个信号

4. 500k 上下文不是魔法，但会改变任务形状

据 Tibo 消息，GPT-6.1 Sol 在 Codex 与 Work 中的默认上下文长度从 272k 提升到 500k。上下文变长，最直接的收益是减少 compaction，长任务里那些早期约束、异常样本和决策记录不那么容易被挤掉。

不过窗口变大不等于记忆变可靠。长上下文里的检索、注意力分配和权限边界，还是得靠工程设计兜住。别把 500k 当成不用做任务拆分的理由。

来源，Tibo

5. 单张 RTX 5090 跑实时视频，优化开始从论文走进设备

ComfyUI 社区有人把 MiniMax H3 的生成链路压到一张 32GB 显存的 RTX 5090 上，生成 30 秒视频用时 23.51 秒，达到 1.28 倍实时吞吐。这里最有意思的不是某个单点技巧，而是智能体参与搜集、组合多项优化后，把原本笨重的工作流落到了消费级单卡。

视频生成离本地可用又近了一步，但门槛仍在，显存、驱动和工作流调参都不是一句「单卡可跑」能抹平的。

来源，Comfy Blog

6. Sierra 推 Personal Agent Protocol，支付终于被摆上桌面

Sierra 发布 Personal Agent Protocol，也叫 Poppy 的协议草案，并增加了 35 家设计伙伴，包括 OpenAI、Meta、PayPal、Shopify 与多家金融机构。LangChain 同日展示了 Restock，一个在 Slack 内采购办公用品、可完成支付的 Agent 示例。

能付款的 Agent 才会真的碰到现实世界，也会立刻碰到授权、撤销、责任归属这些麻烦事。协议先行是对的，前提是别把「能代办」偷换成「可以随便替人决定」。

来源，Poppy 协议草案｜ Restock 示例

值得顺手收藏

Redwood Research 的 DFI 与 DFC 论文，把蒸馏用于暴露不可信教师的隐藏怪癖，或在迁移能力时阻断失对齐。路线很有野心，实证边界也值得盯紧。
InnovationEval 给前沿模型出了一道更难的题，独立复现论文里的 ML 创新。结果只达到人类 SDPO 增益的 15%，离「自动科学家」的营销话术还远。
State of AI Report 2026 把电力和安全放进同一份年度报告里。模型规模继续涨，供电与治理也会越来越像产品路线图的一部分。
ARC Prize 2026 排行，TUFA Labs 以 88.06% 暂居 ARC-AGI-2 榜首。分数很高，但别急着把它读成通用智能的判决书。