摘要

Noam Brown 认为，测试时算力是一条具有持久性的第二增长曲线，已从 o1-preview 发展到 o1、o3，最终将把思考时间从几分钟拉长到数小时、数天甚至更久。 增长并不只是购买更多推理算力：o3 的表现可以超过 o1-preview，但思维链并没有显著变长，因为模型正在“变得更会思考”。成本和串行耗时最终仍会构成软上限。
Deep Research 是 Brown 证明推理模型可以在缺乏易验证奖励的领域持续进步的存在性证明。 即使没有明确的答案标准，用户仍能区分高质量研究报告和普通报告，这就足以支撑改进闭环。他给出的更严格标准是：如果人们确实无法区分输出，继续爬坡优化“其实就没什么意义”。
如今大量智能体基础设施可能只是过渡方案，而强化微调数据应能跨越多代模型持续发挥价值。 Brown 预计，随着统一模型内化这些功能，手工搭建的 harness、脚手架，或许还有路由器，都会被“规模化冲刷掉”。强化微调则不同：积累的领域数据可以复用于能力更强的未来模型，不会沦为一次性工程投入。
编程智能体已经带来真实杠杆，但 Brown 将它们形容为“天才”，只是刚入职第一天。 他几乎会把所有原本想写的代码先交给 Codex，通常约 5分钟后就能收到一个 pull request；而 o3 基本已经取代了 Google Search。真正缺失的是持续积累的工作上下文：一个拥有 6个月经验的智能体，会比每次从零开始的智能体有用得多。
Brown 的多智能体论点是，单个 AI 仍处于“AI 的穴居人阶段”，而文明级别的协作与竞争可能带来更大的能力跃迁。 生理结构相近的人类，从穴居人走到半导体、核反应堆和登月，靠的是数千年间数十亿人持续积累知识。他的团队也在研究如何把模型的思考时间从约 15分钟延长到数小时和数天，但多智能体方法仍未公开。
朴素自博弈并不保证最终走向超级智能，因为 AlphaZero 的配方依赖异常干净的双人零和目标。 离开这一环境后，优化可能选出困难但毫无价值的行为，例如数学模型生成 30位数乘法，只因为另一个模型难以解决。Diplomacy 同样让 Brown 认识到，协作要求模型理解并适应其他玩家，而不是简单收敛到防守均衡。
在持续扩展规模之外，Brown 还将数据效率、评测质量和迭代速度视为主要约束。 他称，类人样本效率是最重要的未解问题之一：扑克专家约用 12手牌就能判断对手，而早期 AI 需要约 10,000手。与此同时，3小时或 3周的推理运行会拖慢研究闭环本身，使不可避免的串行耗时成为“支持长时间线最有力的理由”。

精读

1. Cicero 教会 Brown 打牌，也暴露了可操控智能体的价值

开发 Cicero 迫使 Brown 深入理解 Diplomacy，直到能够区分程序 bug 和战略上精妙、但不符合人类习惯的走法。研究赛事、教程和机器人的非常规行为也提升了他的个人水平；Cicero 于 2022年末发布后，他继续参赛，并在 2025年赢得世界 Diplomacy 冠军，比赛期间没有使用该系统。
Cicero 的语言模型很小，约 2.7B 参数，偶尔会表现得十分古怪。它可能否认聊天早些时候明明出现过的内容，坚持说：“不，你在撒谎。”玩家通常会把这种表现归因于疲惫、醉酒或恶作剧，因为他们没想到对手会是机器人；Brown 认为，如果玩家主动怀疑，Cicero 会更容易被识别。
Brown 如今的判断更进一步：“GPT-4o 和 o3 已经通过了图灵测试。”语言质量已经提升到这样的程度：对话陷阱可能不再稳定地暴露系统，不过 Brown 认为，当前机器人在 Diplomacy 本身的表现仍不算好。
安全层面的收获出人意料地积极。Cicero 将语言生成限定在具体的意图行动之上，因此行为具备可解释性和可操控性，而不是“一个失控运行的语言模型”。Brown 说，安全研究人员认为，这层推理机制可能成为有用的控制手段；他希望看到顶级机器人在 Diplomacy 基准上彼此对战。

2. Deep Research 打破“奖励必须可验证”的质疑

Brown 惊讶于一些资深研究者仍认为，推理模型只有在数学、编程等易于评分的领域才能出色。Deep Research 直接反驳了这一观点：“你能生成的最佳研究报告是什么？”没有简单的答案标准，但产品大受欢迎，模型在这一领域的表现也极其出色。
主持人追问，质量跨度很大是否会让进步难以识别。Brown 的回答是，人们能够区分好报告、普通报告和差报告，即使系统“并非 100% 完美”，而且还会继续改进。这种比较信号足以进入反馈闭环，用于迭代产品和模型。
他的边界条件很务实，而非哲学性的：只要存在某种成功度量，模型就能在相应领域进步，包括主观或难以明确定义的度量。如果用户感知不到两种输出之间的任何差异，优化就没有意义；否则，简单的机械验证有帮助，但并非必要。

3. System 1 先跨过能力门槛，System 2 才有意义

Brown 对《思考，快与慢》类比的限定是，额外思考无法拯救能力不足的基础模型。对 GPT-2 这类很小的模型而言，思维链几乎没有帮助；更大的预训练模型才出现提升。他的类比是：让鸽子思考国际象棋 1,000年，也不会下出高水平棋局。
收益取决于任务中是否存在可以被推理转换的信息。GeoGuessr 和空间问题可能从深思中受益；图像识别的收益则可能较小。没有联网能力时，出生日期问题基本属于检索——“知道就是知道，不知道就是不知道”——不过推理可以缩小历史时期，给出一个有依据的估计。
井字棋体现了当前的分工。Brown 说，GPT-4.5 能画出棋盘并走出合法步骤，但偶尔会犯错；System 2 则可以实现完美对弈。他没有排除一种可能：假设存在 GPT-6，也许它能仅靠 System 1 瞬间解决井字棋。更大的基础模型可以吸收当前需要显式推理才能获得的能力。
既有知识仍会加速思考。一个天才即使面对全新游戏、拥有 3周时间，也可能推理出击败专家的方法，但训练形成的直觉会让过程快得多。因此，System 1 和 System 2 是相互耦合的扩展范式，而不是彼此独立的替代方案。

4. 理想 harness 会消失，但现实不能回滚

Brown 对智能体脚手架的立场很直接：“理想的 harness 就是没有 harness。”当 Pokémon 成为评测目标后，他更愿意让 o3 在没有辅助的情况下失败，而不是设计一个人为制造高分的结构。模型表现差本身就是有用证据；研究目标应是更广泛的能力，最终顺带提升 Pokémon 表现。
环境工具仍然合理。可以给国际象棋模型一个工具，用于检查拟走步骤是否合法。Brown 区分了这种事先检查，与先走出非法步骤、收到反馈后再说“开个玩笑”，然后改走另一步。
在机器人领域，这一区分不可妥协。模型可以模拟一个动作，发现它会造成损坏，再拒绝执行；但实体机器人一旦完成动作，“东西就已经坏了”。Brown 警告，不能依赖一种可以随意撤销现实后果的测试时算力范式。
路由器面临的长期压力与 harness 相同。廉价模型可以识别部分困难请求，但也可能被欺骗或过度自信；OpenAI 设想的终点是单一统一模型，路由能力最终内置于模型本身。Brown 也承认，供应商路由可能仍有价值，而且今天的路由器在商业上确实值得部署。

5. 领域数据应比短命的智能体脚手架更持久

Brown 对开发者的警告带有明确时间尺度：能力在 3个月内就可能发生剧变，“更不用说 6个月”。即使临时脚手架有助于当下交付，产品团队也应避免花 6个月打磨一套可能被更强基础模型抹掉的基础设施。
强化微调处在这条分界线的另一侧。它围绕供应商不太可能写入通用版本的数据来专门化模型，而同一批积累的样本可以用于微调未来更强的模型。因此，领域数据集比针对某个模型局限性的复杂变通方案更具持久资产价值。
主持人将问题转化为“现在构建还是等待”：是立即微调，还是先搭建环境和奖励信号？Brown 没有给出适用于所有场景的顺序，但强调了真正持久的部分——收集能够随着模型能力扩展继续发挥作用的数据。

6. 推理成为一条存在争议的第二增长范式

Brown 的信念来自扑克、Hanabi 和 Diplomacy：行动前思考可以带来“数量级”的提升，大致相当于把模型规模扩大 1,000倍到 100,000倍。语言模型却会立即作答，这让他怀疑，仅靠预训练无法在经济约束介入前抵达超级智能。
2021年末的一次聚餐上，Ilya Sutskever 询问 Brown 对 AGI 时间线的判断。Brown 认为，通用语言模型仍缺少一种通用推理范式；如果没有这一范式，即使预训练规模再增加几个数量级，也会止步不前，除非有人能投入“1 quadrillion dollars”，即 1000万亿美元。Brown 当时错在认为，找到这一缺失范式还需要很长时间。
Sutskever 和其他人其实已经探索过强化学习，并在多次迭代中取得局部成功：随着模型变强、实验加速，成果逐步累积。Brown 将自己真正形成信念的时间定在 2023年10月或 11月左右，当时团队看到了“非常确凿的生命迹象”，OpenAI 也足够认可这一结果，决定扩大投入。
这一资源配置在当时颇具争议，因为 2023年的 OpenAI 算力更紧张，每个推理实验都意味着挤掉另一个押注。有人质疑这种行为能否泛化，或是否值得重投入。Brown 回忆，一位后来离开 OpenAI 的研究者曾否定“Strawberry”项目，但在看到竞争实验室的同事对 o1 发布反应为“糟糕，这可是件大事”并转向新的研究方向后，改变了看法。

7. 类创业公司的资源配置让规模化押注成为可能

Brown 认为，OpenAI 的贡献不只是发现预训练和推理增长曲线，也在于围绕这些曲线组织资源。实验室更像一家追求 AGI 的创业公司，而不是一所大学：团队可以协作、共享算力，并做出痛苦的集中式选择，而不是保留大量各自独立、规模很小的实验。
最初推动强化学习的动机并不只是测试时算力。研究人员担心数据而非算力会成为瓶颈，因此探索 RL 以提高数据效率。最终形成的范式同时带来了两种收益：更高效地利用数据，以及推理侧算力的巨大有效扩张。
Brown 仍对 Sutskever 的早期视野印象深刻。他提到 2016—17年的邮件，其中主张一次大型实验可能比 100次小实验更有价值，也提到 2021年、2022年及更早的内部文件。更广泛的研究教训是，“最好的研究事后看起来都很明显”；但在发现之初，决定把资源从众多看似合理的替代方案中集中到一次大型实验上，既不明显，也很难在组织内部推动。

8. Codex 已经改变软件工作，但仍缺少持续经验

Brown 目前使用 Windsurf 加 Codex，困难任务优先交给推理模型。“基本上，凡是我通常会尝试写出来的代码，我都会先用 Codex 做”；一个自洽的请求发出后，大约 5分钟就可能运行完并以 pull request 的形式返回。
Brown 说，任何人都可以使用 Codex，“感受 AGI”，但随着用户适应这种能力，这种感觉会逐渐消退，用户也会开始注意到它的缺陷。主持人用 Sora 举了同样的例子：最初的魔法感退去后，人们会注意到不自然的运动和各种不一致。
对 Brown 而言，o3 “基本上已经取代了 Google Search”，还能在约 3分钟内完成一个精简版 Deep Research。它的延迟不适合结对编程，GPT-4.1 可能更能保持工作流连续性；而异步 Codex 改变了使用方式，较长的任务可以在后台运行，用户同时处理其他工作。
核心限制是组织记忆：“它们是天才，但这是它们上班的第一天。”智能体会反复花 10分钟重新发现相似上下文，而不是像拥有 6个月经验的员工那样工作。Brown 将其定义为 OpenAI 必须解决的模型与产品问题，而不仅仅是缺少第三方 harness。

9. 远程工作智能体将把对齐转化为经济优势

Brown 预计，智能体覆盖的工作范围将从软件工程扩展到更多可以远程完成的任务。他的建议很宽泛：凡是工作可以远程完成的人，都应了解当前模型能做什么、不能做什么，因为可行任务边界还会继续扩大。
虚拟助理展示了这种潜力。人类委派任务会产生围绕投入程度、成本和是否忠实于委托人偏好的委托—代理问题。一个真正与用户对齐的 AI 可能“比人类做得好得多”——Brown 特意将自己此前的“可能做得好”修正为更确定的判断——因为它可以更紧密地遵循该用户的偏好。
个人对齐和安全对齐的目标并不一致。如果用户想制造“会消灭半数人类的新型病毒”，完美服从个人就会失败。未解决的层级问题横跨个人偏好、人类整体目标，以及二者之间的约束关系。

10. 多智能体文明可能远超单模型智能

Brown 说，“多智能体团队”低估了其团队的研究范围。一项计划研究如何将模型的思考时间从约 15分钟扩展到数小时、数天乃至更久，使其能够处理困难得多的问题；另一项则研究智能体之间的协作与竞争。
他不接受人类处于极窄智能区间的说法。穴居人和现代人在生理结构上相近，但只有后者生活在能够制造半导体、核反应堆并实现登月的文明中。差异来自数千年间数十亿人通过竞争、协作和知识积累形成的结果。
这一类比导出了 Brown 的标志性论点：今天的系统仍是“AI 的穴居人”。数十亿个 AI 在很长时间内相互作用，可能构建出一个 AI 文明，其产品和答案远超任何一个孤立的当代模型。
Brown 拒绝透露知识究竟通过技能库、再训练还是其他机制存储，只承诺会在“不太遥远的未来”进一步说明。他表示，这一方法与历史上的多智能体工作存在实质差异；后者过度依赖启发式方法，也没有充分遵循可规模化通用方法的 Bitter Lesson。

11. GTO、适应和自博弈优化的是不同世界

在扑克中，理论最优策略从期望值上无法被击败，即使对手难以匹配，也仍能获得收益。针对性剥削则可以从弱对手身上赚得更多——比如对过度弃牌的人大量诈唬——但自身也会暴露出可被利用的弱点。“不可能把两者完美平衡起来。”
样本效率决定适应能否奏效。人类专家可能在约 12手牌内判断出对手的强弱；Brown 在 2010年代中期的系统则需要约 10,000手。因此，扑克机器人采用预先计算的 GTO 策略，既能击败专家，也能击败弱玩家，但从弱玩家身上榨取的收益不如适应性更强的人类。
Diplomacy 推翻了 Brown 关于 GTO 可以迁移的初始假设。在一个融合竞争与协作的 7人游戏中，防守型均衡表现很差；智能体必须建模其他玩家并适应其风格。他的类比更偏社会性而非对抗性：如果桌上所有人都说法语，继续说英语就不是最优策略。
隐状态空间的大小也会改变技术问题。双人扑克搜索可以枚举 1,326种可能的私有牌面状态，再考虑其他玩家；但在 Omaha，尤其是 Stratego 中，这种方法会失效，后者接近 40! 种可能状态。扑克技术无法直接用于 Magic: The Gathering，不过 Brown 猜测，只要投入足够精力，无模型 RL 很可能造出超人类机器人。
AlphaZero 式自博弈也正是在这里不再自动奏效。双人零和自博弈会收敛到有用的极小极大目标；开放式数学任务则可能奖励一个模型提出毫无意义的 30位数乘法，只因为另一个模型无法解出。Brown 同意，如何选择正确目标仍是未解决的问题。

12. 成本、数据、评测与串行耗时构成下一道道墙

测试时算力存在类似预训练的软上限：3分钟可以变成 3小时、3天或 3周，但每次增加都会带来更高成本。效率也在同步提升——面对同一个问题，o3 的思考时间未必比 o1-preview 长很多，但表现好得多，因为它“变得更会思考”。
墙上时钟可能是更难突破的瓶颈。一次 3周的运行，至少要等 3周才能查看结果并决定下一项实验；并行化无法消除所有串行依赖。Brown 称，这是“支持长时间线最有力的理由”，其中药物研发尤其受制于缓慢验证，以及缺少完美的人体生物学模拟器。
Brown 认为，类人的数据效率是最重要的未解研究问题之一。主持人补充说，算法改进可能有所帮助，而且人类学习的不只是互联网文本。Brown 的核心判断是，当前模型的数据效率低于人类，而这一问题仍未解决。
评测可能将研究导向那些问题很难、但评分成本很低的任务，例如 Humanity’s Last Exam，同时忽视评分模糊且昂贵的任务。Brown 说，学术研究仍然重要，但有前景的论文必须经过内部复现和规模化测试；有用的灵感与可规模化的证据是两道不同的筛选关。

13. 规模化可能让显式世界模型变得多余

Brown 认为，能力足够强的模型会形成随规模提升而改善的隐式世界模型，因此未必需要显式的世界模型组件。他过去认为，其他智能体拥有自主性和动机，必须被显式建模；如今则认为，能力足够强的模型可以隐式形成心智理论。
这是他的当前观点，而非定论：在某些多智能体场景中，模型可能仍需要显式处理，但他越来越倾向于认为，通用能力和规模最终会吸收这些行为。

14. 机器人研究闭环更慢，人形机器人也没有明确优势

Brown 的机器人学硕士经历基本只是名义上的；他短暂尝试过 LEGO 机器人后，就转向了扑克 AI。他从机器人研究者那里得到的主要体会是，实体硬件让实验比软件慢得多、痛苦得多，这有助于解释语言模型和虚拟同事任务为何进展更快。
他对人形机器人没有强烈观点，但在听过 Physical Intelligence CEO 的论证后，略微偏向非人形机器人。无人机是他的具体例子：它们无需复制人类形态，也可以具备很高价值。

Tony Robbins｜All-In 迈阿密现场 AI的胚胎学：训练数据如何塑造AI发展——对话Timaeus的Jesse Hoogland与Daniel Murfet