35 万个 AI 伪装成容易受骗的人,已经陪骗子聊了 250 万次。另一边,工程团队开始放弃逐行审查 AI 写的代码,改为先审意图。

今天这批新闻看上去很散,反诈、蛋白质设计、云算力、推理框架、代码评审都在里面。但把它们摆在一起,轮廓其实很清楚,AI 正从一个会聊天的工具,进入要被部署、被约束、被复盘的阶段。

今天最值得盯住的三件事

1. 训练和推理开始摆脱单一硬件路线

Google 与 Meta 推出开源项目 TorchTPU,为 Google TPU 提供原生 PyTorch 后端。开发者迁移模型时,改动可以小到把 .to("cuda") 换成 .to("tpu")。Google 随后还发布了面向 vLLM 与 SGLang 的 TorchTPU 原生推理引擎,以及 TorchTitan TPU 分叉和模型优化手册。

这件事不只是多一个后端。过去 PyTorch 社区的默认路径几乎总会落到 CUDA,TPU 很强,却常被工具链和迁移成本隔在另一个生态里。现在 Google 拉上 Meta 做原生后端,想解决的是一个很朴素的问题,已经在 PyTorch 里跑起来的模型,能不能少折腾一点就跑到 TPU 上。

我一直觉得,算力竞争最难啃的不是芯片参数,而是开发者不会因为换一张卡就把整套工程重写。TorchTPU 是否真能降低这笔迁移税,还要等真实负载来检验。不过方向是对的。

来源,Google 与 Meta 发布 TorchTPU · Google 发布原生推理引擎 · Google 发布 TorchTitan TPU 分叉

2. Agent 的难题从会做事,变成记得住和跑得稳

Databricks 发布 MemCurrent,给生产 Agent 做持久记忆。它把记忆分成情景记忆和派生记忆,并允许 Agent 通过插件、工具调用和离线 dreaming 管线读写、整合记忆。Modal 则推出 Sticky Sessions,把同一会话的请求固定路由到同一个容器,避免状态在容器之间飘来飘去。

这两条放在一起看很有意思。前者回答 Agent 应该留下什么,后者回答 Agent 留下的东西放在哪里。很多演示里的 Agent 一旦多轮、多工具、多容器,立刻就露怯,不是忘了用户刚说过什么,就是在重新调度后丢了现场。

记忆不是塞一个向量库就结束了。它涉及事实何时写入、何时淘汰、何时从经历里抽出规则。会话黏性也不是最终方案,规模上去后仍要面对迁移、故障恢复和一致性。可这些看起来不性感的部件,才是 Agent 从 Demo 走进生产的地基。

来源,Databricks 发布 MemCurrent · Modal Sticky Sessions

3. AI 写代码越多,审查越不能只盯着 diff

Tessl 团队分享了一个很实在的变化,PR 数量翻了四倍、代码几乎都由 AI 生成后,他们不再试图逐行审查 diff,而是在生成前审查意图,再逐条验证验收标准。

这话听着有点刺耳,但逐行 review 的前提是代码量和人的注意力还匹配。AI 把产出速度推高以后,reviewer 面对的往往不是更少的工作,而是更多、更像样、也更难凭直觉发现问题的改动。继续把眼睛钉在每一行上,最后可能只是制造一种已经审过的安心感。

不是说 diff 不重要,而是审查的重心该往前挪。改什么,为什么改,哪些行为绝不能变,怎么证明它没变,这些问题要在生成之前说清楚。代码只是意图落地后的一个版本。

来源,Tessl 团队的意图验证实践

另外几条,信息密度都很高

DeepSeek 开源 DeepInfer,推理栈开始卷到内部工程能力

DeepSeek 宣布全面开源内部推理框架 DeepInfer,并同步开放生产级 Token 编解码组件 deepseek-recipe。模型权重之外,推理调度、编解码和服务工程正在成为开源竞争的新战场。对实际部署的人来说,这比又多一个 benchmark 分数更接近日常。

来源,DeepSeek 全面开源 DeepInfer

llm-d 1.0 走向生产就绪

IBM、Red Hat、Google 等参与的 llm-d 发布 1.0,定位是 Kubernetes 原生的分布式推理服务框架。Kubernetes 并不能自动解决推理效率,但当团队需要多模型、多节点、弹性调度时,缺一层生产化控制面也确实走不远。

来源,llm-d 1.0 发布

Meta 的 Thin Orchestrator,把编排器缩回它该待的位置

Meta 工程团队披露了一个约 1300 行的瘦编排器,只处理路由和可靠性检查,把 20 多条工作流分发给 14 个上下文隔离的专项 Agent。这个设计很克制。总控既要记业务又要管重试,最后通常会长成一个没人敢改的大 Prompt。

来源,Meta 详解 Thin Orchestrator

Anthropic 用 Claude 做蛋白质迷你结合剂设计

Anthropic 称其内部研究模型在 Claude Science 中主要自主运行 64 小时,生成 318,484 个候选设计,再筛出 180 个针对蝎子神经毒素的蛋白质迷你结合剂。这个结果让人兴奋,也该保持冷静,计算设计距离湿实验验证、毒理与制造,还有很长一段路。真正值得持续追踪的是后续实验数据,而不是先把它讲成万能药。

来源,Anthropic 蛋白质设计研究

Perplexity Computer 试着把 Agent 留在本机

Perplexity CEO 宣布 Perplexity Computer 可在 Mac 本地运行,无需云端推理和 WiFi,并能操作原生应用与本地文件。隐私、延迟、断网可用性都很诱人,但本地模型的能力边界、权限隔离和可审计性仍是落地时绕不开的三道题。

来源,Perplexity Computer 本地运行

35 万个 AI 反诈,给骗子制造一条很长的错误队列

澳大利亚 Apate.ai 用 35 万个 AI 伪装成潜在受害者,已与骗子聊天 250 万次,累计耗掉约 17 年时间。这个思路很像把攻击成本反过来塞回攻击者手里。它未必能替代识别和执法,却给防御加了一种更主动的办法,拖住对方,也顺手收集诈骗话术。

来源,AI 反制诈骗案例

今日思考

从算力后端到记忆架构,从代码评审到反诈,今天的共同点不是模型又变聪明了,而是大家开始认真处理模型进入真实系统后的麻烦。

会推理只是起点。接下来拼的是迁移成本、状态管理、权限边界、失败后的恢复,以及人怎样仍然对最终结果负责。

35 万个 AI 可以替人拖住骗子,但不能替人决定什么叫可信。这个位置,暂时还得留给我们。