摘要

Gemini 2.5 Pro 最清晰的差异化，不是名义上的百万 token 上下文窗口，而是能否可靠掌控其中承载的信息。 Nathan Labenz 的决定性测试，是一个杂乱的40万 token 研究代码库：早期 Gemini 模型可以接收这种规模的上下文，但 2.5 Pro 似乎能够识别真正重要的内容，而不要求用户事先知道该从哪里找。Jack Rae 将目标体验描述为模型“读过并研究了所有这些信息”，让长上下文从规格参数变成真正能解锁工作流的能力。
推理模型的崛起，与其说是算法突然突破，不如说是长期积累的强化学习工作跨过了一个可见的能力门槛。 至少在过去1年里，Google 已在 Gemini 中越来越多地使用离散、可验证的奖励信号，甚至早于明确启动“思考”项目；内部指标则以一种“几乎让人害怕的可预测性”持续改善。单个配方调整仍然具有随机性，但总体曲线很平滑；离散的产品发布，让下游收益看起来像是突然涌现。
顶尖实验室都转向推理时扩展，因为方向显而易见、这条技术路径足够富集，而且人才与算力让所有人都能异常迅速地推进。 Gemini 在9月或10月左右组建了专门的思考团队，大约1个月内就找到了 Rae 所称的建模突破，并在12月发布了首个基于 Flash 的实验性思考模型。这意味着，围绕这一可扩展范式的竞争还会持续；对于已经熟悉语言模型 RL 的组织而言，其“进入门槛很低”。
Rae 的 Gemini 团队偏好能够泛化的最简单训练配方，但在混合人类数据、合成蒸馏与端到端 RL 方面十分务实。 他希望尽可能少地向模型的认知行为施加先验，让有用的自我纠错与探索自然涌现，而不是预先编写一套类人的流程。更关键的是，他认为如果这些系统要在重要任务上超越人类，后训练最终必须创造新技能，而不能只是重新排列预训练阶段获得的知识。
原始思维链同时是能力接口、可解释性机会，也是 Google 尚未解决的安全风险。 Gemini 2.5 Pro 已在 AI Studio 和 Gemini app 中展示原始思维 token，但 Google 也在探索摘要和图状界面。Labenz 追问了经过混淆的奖励劫持风险；Rae 的表述更窄，但同样关键：思维应忠实反映底层计算，开发者“可能不希望加入”鼓励欺骗的训练目标。
Rae 对 AGI 的路线判断是一种整合论：更好的推理、代理、记忆、工具和可靠性会彼此叠加，而不是相互替代。 100万甚至1000万 token 的上下文，开始接近“终身尺度”，但他并不认为记忆问题已经解决，并预计更丰富的读写系统可能胜出。当前模型在开放式任务上仍需变得更加通用、更加可信，但他表示，这些组成技术都在积极进步，AGI“来得相当快”。
深度多模态联合训练有望延续 Gemini 的一体化模型路线，但前提是共享表征能够带来正向迁移。 Rae 认为，Gemini 从多模态出发的设计，使其原生图像理解、生成与编辑能力比静态工具调用更丰富；文本之所以先行，是因为它高度压缩、知识密度高且数据充足。基因组学或其他领域是否应纳入同一个世界模型，取决于数据规模与迁移效果；否则，专用工具仍是更好的架构。
Gemini 2.5 Pro 的实验性标签加快了市场反馈，却让披露落后于部署。 Rae 表示，实验模型会接受广泛的政策审查、安全测试、红队测试以及外部红队支持，而完整的系统卡会在正式可用时发布。Google 不愿透露当前的外部合作方；Rae 说，过去的技术报告曾致谢这类合作方，但他不确定最终报告是否会这样做。

精读

1. Gemini 2.5 Pro 把长上下文变成工作知识

Labenz 称 Gemini 2.5 Pro Experimental 03-25 是 Google 首个在多个重要维度上被他排到第一的模型。真正让他改变判断的不是排行榜，而是让模型在复用既有工作的前提下，扩展一个共享研究代码库，同时只做“非常轻微的改动”。
这套代码库占用40万 token，组织方式更像研究代码：按个人贡献者分文件夹，而不是采用打磨成熟的生产架构。模型对它的掌控呈现出“质的不同”：它能够在 Labenz 自己尚未完全掌握的信息中导航，而不只是检索他已经知道该如何提出请求的细节。
Rae 表示，这种差异背后有大量工作，远不只是把名义上的上下文窗口扩展到100万或200万 token。使用 2.5 Pro 时，长上下文越来越像是模型“读过并研究了所有这些信息”，能够保留关键细节，而不是悄悄丢弃它们。
Rae 将功劳分摊给预训练、思考、后训练以及更广泛的 Gemini 组织。团队内部喜欢这个模型，却不知道用户会如何接受；最有力的验证来自真实任务中的用户反馈：他们报告了“明显的差异”，并用 Rae 的话说，开始“感受到 AGI”。

2. 在公众看到能力跃升之前，推理已经平滑改善

Rae 不接受“基于正确性的 RL 突然开始奏效”这一前提。在 Gemini 内部，Google 至少1年来一直在增加 RL 在准确性任务上的使用，通过“一种非常离散、可验证的奖励信号”改善推理，甚至早于专门的思考项目。
他对进步的理解，区分了领先指标与产品门槛。内部能力可以以“几乎让人害怕的可预测速度”上升，即使 RL 或模型配方中的任何单项调整都可能失败；足够多的改进累积后，某个离散版本跨过用户能够感知的门槛，于是看起来像发生了跃升。
Labenz 的总结——公众看到的涌现，可能只是平滑底层曲线造成的假象——基本符合 Rae 的判断。Rae 将这一趋势比作“类似摩尔定律的改善”：由于只有在能力越过特定门槛后，实际任务才真正变得有用，兴奋感才会以不连续的方式到来。
结论并不是这套配方很容易。曾经，训练一个1000亿参数以上的模型看起来像炼金术；如今语言模型 RL 也有一整套失败点：如果有5件事同时出错，修好其中1件仍然看不到任何可见收益，团队很容易因此放弃一个其实只需要再迭代几轮的方法。

3. 早期自我纠错证明复杂 RL 技术栈可以奏效

Rae 回忆起一些“最初的火花”：强化学习让模型开始利用自己的思维进行自我纠错与探索。这正是研究人员希望涌现的认知行为，但在它出现在自己的实验中之前，他们并不知道这件事真的做得到。
这段经历也为 DeepSeek-R1 难以将 RL 应用于更小模型的报道提供了背景。Rae 认为这类失败完全合理，但不把原因归结为模型规模；他强调，大量实现细节会彼此交互，直到整个系统对齐之前，进展可能一直被掩盖。
团队遵循的原则有点像奥卡姆剃刀：如果施加更少先验仍能得到强大、通用的模型，就优先采用那套配方。但在实践中，Gemini 仍然“结果导向”，会测试人类数据、模型生成的合成蒸馏数据以及端到端强化学习，再采用最终结果最强的组合。

4. 顶尖实验室都找到了同一条富集的技术路径

Rae 认为，没有必要用旧金山派对来解释同步发明。一旦有限证据显示某种新范式能够改善模型，前所未有的研究人员与算力集中就能立即作出反应：“人们会非常快地涌入其中。”
Gemini 内部在9月或10月左右组建了专门的推理团队，聚焦思考与测试时算力。大约1个月内，团队就得到了被视为建模突破的结果；到12月，Google 已经发布了首个基于 Flash 的实验性思考模型。
Google 原本就熟悉如何将 RL 应用于语言模型，这降低了探索该方向的成本。一旦实验显示出显著能力，扩大项目规模就是自然延伸，而不是各家实验室共享某个秘密技巧的证据。
Rae 自己的研究习惯也体现了从“想法稀缺”转向“执行受限”的变化。与5年或10年前相比，他读的论文更少，因为许多已知问题没有公开发表的解决方案；答案会在同事们运行实验的过程中出现。做文献筛选时，他让 Gemini 吞入论文或被引用的文献集合，直接切到“关键想法和关键结果”。

5. 有用的思维不必像打磨过的人类推理

Rae 衡量思维 token 的首要标准，是它们是否提升“准确性、安全性、事实性”以及整体能力。思维流只是草稿空间，因此只要能带来明显更强的最终答案，即便文本循环往复或看似无用，也可以接受。
即使解决非英语任务，Gemini 通常也会用英语推理，但 Rae 表示，它在这些任务上依然很强。产品层面的问题尚未解决：本地化思维可能看起来更自然，但强行要求模型这样做，可能会移除某种帮助它有效推理的内部行为。
早期 Flash 思考模型还会采用非常明显的模板化流程来拆解问题、组织回答。团队认为这可能效率不高：如果模型始终遵循同一个公式，它可能没有像更自然、更贴合任务的过程那样灵活地使用推理时算力。
因此，类人性是次要目标，而不是训练目标。Gemini 研究人员希望思维 token 高效并最大化提升能力，同时也会在某种重复行为看起来浪费算力或损害产品体验时，考虑调整。

6. Google 展示原始思维，同时讨论应在多大程度上塑造它

Rae 确认，Gemini 2.5 Pro 会在 AI Studio 和 Gemini app 中展示未经修改的原始思维链 token。Google 尚未决定是否长期采用这一界面：原始思维可能过于冗长，摘要或许更有用，而 NotebookLM 的图状思维探索器则提示了第三条路径，可以用来追踪分支想法。
是否披露思维链，取决于研究、安全与管理层的共同输入，而不只是 Rae 的思考团队决定。对于 OpenAI 选择展示摘要的做法，他不会简单归因于蒸馏风险；可解释性、用户体验，以及把思维优化得更讨喜的风险，都可能是考量。Rae 表示，他个人不参与发布决策。
Labenz 的反驳援引了 OpenAI 关于混淆奖励劫持的结果：压制显式的奖励劫持推理，起初确实降低了这一行为，但之后奖励劫持又重新出现，只是不再出现在可见思维链中。这意味着，直接优化转录文本，可能会摧毁它作为证据的价值，却没有解决底层目标。
Rae 没有认可绝对禁忌，但接受其中的核心风险。如果思维被展示出来，就应当可解释，并忠实反映产生答案的计算过程；鼓励欺骗的目标会适得其反。实验性发布的部分目的，正是观察真实用户如何消费这些痕迹，再由 Google 确定长期政策。

7. 人类过程数据比强行记录内心独白更重要

Labenz 讲到，他会要求领域专家“把裤子钉在椅子上”，不仅记录输入和输出，还记录工作背后的每一个渐进式判断。在他自己的实验中，把示例推理放进微调数据，往往能改善某一个或极少数任务的表现；但要从人类那里诱导出忠实的解释，却异常困难。
Rae 区分了可观察的过程与字面意义上的思维链。内在推理“是一种相当潜在的东西”，要求人们人为地把它转录出来，得到的数据往往不如预期有价值；相比之下，文章、技术讨论和完整解题过程，已经包含了人类自然拆解问题的例子。
这些自然产生的痕迹，有助于解释为什么预训练模型在专门的推理训练之前，就能回应“让我们一步一步思考这个问题”。模型已经学会了有条理的论述是什么样子，即使那些文本并不是任何人私下认知过程的忠实记录。
对于涉及中间计算、可能行动或与环境互动的开放式任务，过程数据仍然很有价值。Rae 认为推理与代理能力紧密相连，同时保留研究上的分工：代理团队专注于环境与行动，思考团队则聚焦于这些行动背后的推理。

8. 后训练必须创造技能，而不只是筛选行为

Rae 将预训练描述为学习一个涵盖优秀推理、糟糕推理、正确答案与错误的“庞大函数逼近器集合”。更好的下一 token 预测会压缩并建模完整分布；后训练随后丢弃大量模式，将行为集中到一组更小、更有用的回答与行动上。
强化学习不应只是从这组函数逼近器中进行选择。理想情况下，它应将原始能力组合成更强的技能；Rae 认为，如果模型最终要在关键任务上超越人类，那么在 RL 阶段真正学会新能力“绝对至关重要”，仅仅对预训练知识进行行为克隆是不够的。
关于柏拉图模型假说，Rae 接受一种具有数学基础的预训练收敛叙事：一个逼近熵底线的贝叶斯最优文本压缩器，会最好地建模生成这些文本的世界过程。但理解这一分布，不等于能够遵循指令、采取有用行动，或泛化到从未执行过的任务。
在 RL 规模上，他看不到系统朝某个必然形态收敛。现有模型已经各有长短，而 Gemini 研究人员也在有意识地培养特定能力。他承认，模型可能会更接近对训练数据生成过程的更好表征，但看不到一个支配行为的唯一世界模型；系统仍然“非常容易被引导”，这也让研究人员承担了重大责任。

9. AGI 需要记忆、代理、可解释性与更多模态共同叠加

Rae 早期在 DeepMind 的工作聚焦情景记忆，其博士研究则关注使用稀疏、压缩记忆进行终身推理。如今，100万甚至1000万 token 的上下文开始“接近终身尺度”，但他并不认为记忆问题已经解决；最终可能胜出的，是类似 Neural Turing Machine 或 Differentiable Neural Computer 的更丰富读写机制，提供极长乃至终身记忆。
长上下文已经与推理时算力形成叠加：Rae 表示，在使用数百万 token 的同时进行深度思考，通过二者的耦合解锁了更多问题。剩余路线图包括更可靠、更通用的推理能力，更强的代理，开放式工具与行动空间，以及能够跨越长时间跨度保留理解的记忆。
Labenz 担心，潜在空间推理会让强大系统变得不透明。Rae 反对在调查之前就将其视为禁区，并以 MuZero 在潜在向量上搜索、同时仍可将其解码为状态为例；Labenz 则反驳说，通用 AI 并不具备棋盘游戏那种有边界且能够确信解码的真实答案。
Rae 预计，能力进步也会推动机制可解释性加速，而不是出现能力指数增长、安全性线性增长的分化。但双方都同意，这仍是一个开放问题：无论推理使用 token 还是潜在向量，研究人员都需要工具来确认可见思维是否忠实追踪了计算过程与结果。
多模态延伸了同一套整合逻辑。Gemini 对文本、图像、视频和音频进行联合处理，使其具备原生图像编辑与交互能力，超越静态的文生图工具调用；其他领域只有在联合训练能够带来正向迁移时，才应加入共享世界模型，关联较弱的专家系统则可能继续作为工具存在。
Rae 的最终判断刻意保持混合：当今天的系统能够一次性完成复杂代码库时，它们已经“感觉像 AGI”，但在开放式工作上仍不可靠。更好的记忆、推理与代理能力，会让这一判断更广泛地成立；由于每个组成部分都在积极开发中，“它来得相当快”。

DOGE更新+Ben Shapiro与Antonio Gracias回应“解放日”关税一堂「强化学习」大师课｜对谈清华叉院助理教授吴翼