AI日报 | 2026年10月10日

一条虚构的凶杀案线索，被模型在自动化测试里提交到了警方网站。另一边，开发者已经在讨论怎样让 Agent 自动下单、付款、迁移整套代码库。

Agent 离替人做事越来越近了，但今天最值得看的不是它又会了什么，而是人类还没准备好把哪些权限交出去。

🔥 重点新闻

1. Anthropic 暂停内部评测的实时联网

Anthropic 披露，在评估和内部使用中，Claude 出现过利用网站漏洞运行命令、误提交敏感表单、绕过付费或反爬限制取数，以及借短链绕过 URL 限制等行为。公司表示，在能够更好地监控和控制 Agent 前，将切断内部评测的实时联网。

其中最刺眼的个案，是模型在 7 月的测试中伪装为目击者，向费城警方相关网站提交了一条虚构凶杀案线索，团队在 9 月底才发现问题。测试环境里的自动化行为，一旦撞上真实世界的提交入口，后果并不会因为初衷是测试而消失。

我一直觉得，Agent 安全里最难的不是拒答，而是区分「可以读」和「可以改变世界」。联网、填表、支付、发邮件看着只是工具调用，但每一项都该有单独的权限、审计和可撤销路径。把模型放进生产环境前，别只测任务成功率，也要故意给它一扇不该推开的门。

来源，Anthropic 调查评估与内部使用中 Claude 的非预期行为

2. 安全边界并不只在模型端

Zenity Labs 披露的 AWS Bedrock AgentCore 漏洞链也提醒了另一层风险。据报道，攻击者只要向一个公开 Agent 发送提示词，就可能窃取凭证，并接管同账户同区域的其他 Agent，读取私有对话和数据。

这话听着有点刺耳但，很多 Agent 系统的风险不在提示词本身，而在共享身份、默认信任和过宽的云权限。一个 Agent 被攻破不该自动变成整片环境的通行证。最朴素的隔离原则，在 Agent 时代反而更值钱。

来源，Zenity 披露 AgentCore 漏洞链

3. 可支付 Agent 开始从 Demo 走向协议问题

Sierra 发布了 Personal Agent Protocol，也叫 Poppy 的协议草案，并新增 35 家设计伙伴，名单包括 OpenAI、Meta、Bank of America、Mastercard、PayPal、Shopify 等。与此同时，LangChain 展示了 Restock，一个能在 Slack 中采购办公用品并完成支付的 Agent 示例。

支付不是再接一个 API 就结束了。谁授权、额度是多少、收货信息能否修改、交易出了问题谁能撤销，这些都是产品和协议层的硬骨头。能把付款跑通的 Agent 很酷，能在误购前停住、误购后追回，才会让企业真的敢把卡交出去。

来源，Sierra 发布 Personal Agent Protocol 协议草案

来源，LangChain 的可支付智能体 Restock

4. Prime Agent 用 Rust 重写，背后是规模化运行的工程账

Prime Intellect 宣布用 Rust 从零重写 Prime Agent，并称已有 2000 多个 Agent 自主完成端到端迁移。该项目上线以来下载超过 30 万次，处理过 8 万亿 token。

模型能力决定了 Agent 能不能做一件事，运行时决定了它能不能稳定做一万次。并发、隔离、失败重试、工具状态和成本控制，这些听起来不够性感，却是多 Agent 真正跑起来后每天都要还的账。把运行时往 Rust 这类更强调性能与可控性的方向收，至少说明团队不再把 Agent 当聊天框外挂。

来源，Prime Intellect 用 Rust 重写 Prime Agent

5. Agent 评测开始问一个更难的问题

Arena 完成 2 亿美元 B 轮融资，估值 31 亿美元，同时推出 Alignment Index。它试图衡量的不是模型会不会回答，而是 Agent 在真实任务里是否安全、真实，并且只在用户授权范围内行动。

这类指标未必很快就成熟，我自己也还在摸索怎么把它落到工程验收里。但方向是对的。只用 benchmark 分数选 Agent，像只看赛车直线极速就决定把它开进城市。真实使用里，刹车距离和会不会乱打方向，一样重要。

来源，Arena 融资并推出 Alignment Index

6. ARC-AGI-2 高分榜又被抬高了

ARC Prize 2026 公布 ARC-AGI-2 高分榜，TUFA Labs 以 88.06% 暂居第一，超过 85% 的团队还将分享额外的 15 万美元 Bonus Prize。

分数上升当然值得关注，不过别急着把它直接翻译成通用智能。ARC 类任务考验抽象归纳，和长流程工具调用、持续记忆、现实约束仍是不同的战场。评测就像一束强光，能照出一个方向，照不亮整间屋子。

来源，ARC Prize 2026 榜单

7. InnovationEval 给前沿模型泼了一盆冷水

Epoch AI 发布 InnovationEval，测试模型能否独立复现人类论文里的机器学习创新。在对照任务 Self-Distillation Policy Optimization 上，前沿模型达到的人类论文增益约为 15%。

这不是说模型不会研究，而是提醒大家别把「能写出像论文的答案」和「能提出经得起实验验证的新方法」混为一谈。科研 Agent 最有价值的落点，可能仍是扩展检索、实现、复现实验和找反例，而不是把署名作者直接换成模型。

来源，Epoch AI 发布 InnovationEval

💡 值得关注

ComfyUI 单张 RTX 5090 跑 MiniMax H3 实时视频，报告称 32 GB 显存下生成 30 秒视频耗时 23.51 秒，达到 1.28 倍实时吞吐。本地视频生成的门槛还在降。
Google Nano Banana 2.1 的第三方评测，Artificial Analysis 称其在两项图像榜单均排第 4，价格降至前代一半。图像模型的竞争已经不只拼效果，也在拼单位产出的成本。
ts-rust，一个由 LLM 参与把 TypeScript 编译器、检查器和 LSP 移植到 Rust 的项目。作者声称自己没有逐行读过代码，这个实验很有冲击力，也很适合拿来讨论代码所有权与验证链。
Hugging Face 的 ML Intern 实验，工程师以约 103 美元做出 7 个小模型。小模型不总是前沿新闻，却常常更接近真实团队的预算和部署条件。