115. 对OpenAI姚顺雨3小时访谈：6年Agent研究、人与系统、吞噬的边界、既单极又多元的世界

摘要

• AI Agent 主线正进入“下半场”，竞争重心正从训练更强模型转向定义更有价值的任务、环境与 reward。 姚顺雨认为，语言先验、推理与强化学习终于组成了一套可跨任务复用的 general recipe；过去是“为不同怪兽造不同武器”，现在“有一把机关枪了”，关键变成朝哪里开枪。投资上，他会关注可验证任务、真实数字环境和用户 context。

• 创业公司的核心机会不是抵御模型能力溢出，而是用溢出的能力创造 ChatGPT 之外的新交互方式。 姚顺雨的判断是，旧 interface 加新模型容易被模型公司吞掉，新 interface 却没有持续增强的模型也难成立，两者缺一不可；Cursor 展示了“非人形”的 Copilot 交互可以形成独立产品。ChatGPT 等 Super App 会产生路径依赖，因此“bet on 有 different super app 的产品形态”仍是重要的非共识。

• Agent 高达 chatbot 约 500—1,000 倍的 token 消耗并非首要矛盾，价值无法覆盖成本才是。 “如果一个很有 value 的事情，我花了五百刀，但是我可以给我赚一千刀，那 that’s not a problem”；模型价格会下降，简单任务也可迁移到更小、更专用的模型。真正的瓶颈仍是找到 PMF，以及能兑现足够经济价值的任务。

• 语言 Agent 相对 AlphaGo 式系统的本质进步，是推理带来的跨环境泛化，而不是某个 benchmark 分数更高。 姚顺雨以 DeepSeek 为例：在 math、coding 上做 RL，创意写作也可能改善；AlphaGo 却只能下围棋。不过他保留边界：泛化是 spectrum，逻辑任务之间更易迁移，人情世故类推理可能沿另一条路径迁移，不能据此断言所有游戏或任务都会互通。

• 他认为下一阶段比较重要的三条 fundamental research 线是长期记忆、intrinsic reward 和 multi-agent。 长期记忆让系统像研究二十年的科学家一样持续积累，内生奖励让它在没有外部反馈时仍能探索，multi-agent 则把单个“大学生实习生”扩展为组织。眼下最大的商业阻力往往不是 O3 不够聪明，而是普通员工拥有公司七天、三个月后积累的隐性 context，模型没有。

• 真正的数据飞轮远比市场叙事稀缺，memory 反而可能成为最直接的商业壁垒。 飞轮要求公司能训练模型、从交互中得到与产品价值对齐的清晰 reward；姚顺雨认为 Midjourney 是少数接近这一条件的案例，多数应用仍依赖基础模型进步。ChatGPT 的 memory、MCP 所连接的个人与企业软件，则可能把研究优势转为用户粘性：“Essentially, environment is always the outermost part of the memory hierarchy.”

• 若配置 500 亿美元，姚顺雨会把模型层，以及拥有用户 context、特殊 environment 和分发平台的公司都纳入考虑。 模型公司大概率继续创造巨大价值，但微信式平台沉淀的 context，有点像发明汽车之前的石油公司；未来还可能同时出现更强中心化公司与更多分布式 Agent 网络。其核心世界观不是单极替代多元，而是“变得更中心化”和“变得更 diverse”可以同时发生。

精读

1. “乖学生”的路径里藏着对价值的非共识

• 姚顺雨把自己的前二十八年形容得“非常乖”：2015—2019 年在清华姚班，2019—2024 年在普林斯顿读 PhD，毕业后又自然地去了他认为最适合做 research 的 OpenAI。

• 真正的反叛首先体现在选题 taste：姚班偏理论计算机科学，但他觉得把图算法复杂度从 n 的 2.83 次方降到 2.82 次方，对现实已经没有多少意义；确定性高、社区认可，并不等于问题值得做。

• 他并非习惯以跳级或离经叛道证明自己，而是更愿意押上限：“恰好有一个上限非常高的事情”，此时做 incremental、低风险工作，可能反而错过时代提供的巨大空间。

2. 一次 embedding 演示把他从理论带向深度学习

• 2016 年，李建老师课上的 multimodal word2vec demo 给了他第一次冲击：国王、男人、王后、女人之间的 embedding 运算，甚至能跨到图片表示，让他看到学习表示可能承载抽象关系。

• 当时清华、至少姚班，缺少 deep learning 的老师与资源。2018 年姚班要求海外 research，他去了 MIT 跟吴佳俊做研究，才开始系统接触 deep learning，最初方向仍是 computer vision。

• 转向 language 的直觉很直接：vision 很难单独通向 general AI，而“任何事情都可以用语言去表示”；语言不像一个垂直感知模块，更像连接知识、推理、学习与行动的 central layer。

3. 语言 Agent 让 AI 重拾最初被放弃的野心

• 姚顺雨回看 1960 年代的 AI：最初目标本来就是解决 vision、language，再把模块拼成一个比人聪明的 Agent。因为目标太难，研究才逐渐碎片化为翻译、分类、问答等越来越窄的 vertical tasks。

• 2015 年后的 scaling law 与一系列突破，使研究有机会从 vertical thinking 回到 general thinking。语言的特殊性在于：“语言是一个人为了实现泛化而发明出来的工具”，它未必在单个任务上最高效，却能打通几乎所有任务。

4. 做 Agent 的第一课，是“用 GPT，不要用 BERT”

• 姚顺雨刚入行时，约“百分之九十五的人在做 BERT，百分之五的人在做 GPT”。BERT 擅长从给定选项中判断情感或蕴含，但 Agent 需要自由生成此前不存在的动作。

• 他的例子是文字游戏：系统可能要“用剑杀怪兽”“去第三个房间”，或“用金色钥匙打开第一个房间的门”。这不是上下左右的有限 action space，也不是一个分类器能枚举完的选择题。

• 第二课是环境决定能力上限。Zork 式文字游戏比分类更难，却仍像围棋：RL 可以把单局游戏刷通关，却几乎不能迁移到其他任务；“有一个非常差的任务的时候，你永远不可能学到非常好的东西。”

5. WebShop 先解决环境，ReAct 再把推理与行动接起来

• 2015 年的 World of Bits 已提出把电脑和互联网当作环境，但受当时技术限制未能充分实现。姚顺雨与导师在 2021 年重拾这条线，尽管模型能力仍不成熟，恰恰因为“没有成熟”，才是开始做的好时间。

• 他们在 2022 年做出 WebShop：不是继续优化封闭文字游戏，而是尝试构造更接近真实互联网、有实际价值且能评估结果的 Agent environment。

• GPT-3 与 Chain of Thought 随后提供了方法机会，ReAct 把 reasoning 与 action 交替组织起来。姚顺雨至今仍把它视为自己最喜欢的工作之一，因为方法足够简单且通用。

• 当时学术圈不容易接受 prompting 也是 research：没有数学公式、训练和大工程，看起来“太软”。他的反论是，学界若继续和模型公司比训练，很可能只是在重复对方几年前做过的事；研究如何使用模型，反而更有新空间。

6. Agent 的定义随语境变化，语言 Agent 的差异在于推理

• 从 NLP 语境看，Agent 是从只会生成文章或对话，走向能使用计算器、互联网及其他 tools；从更古老的 AI 语境看，凡能自主决策、与环境交互并优化 reward 的系统都可称 Agent，AlphaGo、Waymo 和 robot 也包括在内。

• 语言 Agent 的本质优势不是名字，而是推理。面对陌生游戏，人会想到“灯是黑的，可能有危险；灯在后面，所以先往后走”，把常识、观察和行动串成中间步骤，而非从复杂文本直接猜下一个动作。

• 姚顺雨认为，人之所以能做到很多事情，重要原因是能够推理：语言模型提供足够强的 prior，prior 支持 reasoning，reasoning 再让技能跨环境 generalize。

7. Agent 已经历规则、深度强化学习和语言推理三次浪潮

• 第一波符号主义试图把人的推理写成规则，并发展出专家系统；到 1980 年代，人们发现无论写多少规则，都覆盖不了真实世界的特殊情况，诊断心脏病的系统也无法自然迁移到肺病。

• 第二波 deep reinforcement learning 借助可无限重复的虚拟环境和清晰 reward，造出 AlphaGo、Dota Agent、机器手等成功系统。但每个环境都需要专属工程，围棋能力不能迁移到其他游戏，更难找到真实世界应用。

• 第三波基于大语言模型：推理让 Agent 能进入 coding、互联网、computer 等真实数字环境。姚顺雨强调，方法与任务环境是两条相辅相成的演化线，不能只看到模型架构而忽略环境升级。

• OpenAI 的五级框架也沿这条逻辑展开：先有语言 prior 支撑 chatbot，再有 reasoner，之后才是可泛化 Agent。innovator 与 organization 谁是 Level 4、谁是 Level 5，他并不确定，认为两者更可能正交、并行推进。

8. ReAct 仍是主流骨架，下一瓶颈却可能不是 reasoning

• 姚顺雨观察，大多数通用 Agent 仍使用类似 ReAct 的结构：先推理，再生成 action；特定任务会叠加 workflow，但“最简单的事情可能还是 work 得最好”。

• 能力 taxonomy 尚无共识：可以按 coding、上网、computer use 等工具划分，也可按 multimodal、long context、reasoning 划分。若必须选择，他现在最看重的是 context processing 或 memory。

• memory 的意义不只是把输入窗口拉长，而是支持 lifelong learning、online learning：系统进入环境后持续积累、更新自己，而不是每次都像第一次到岗。

9. Code 是数字 Agent 的“手”

• 姚顺雨把 coding 称为 AI 最重要的 affordance 之一：人靠手制造锤子、笔和筷子，数字 Agent 则靠 code 操纵机器。网页、小说和 GUI 首先为人设计，code 才是天然为机器定义的接口。

• 这解释了他早期做 InterCode 的动机：既然代码执行会返回结果，为什么只让模型一次性生成程序，不把执行反馈送回去，形成多轮 Agent environment？这条线后来延伸到 SWE-bench 与 SWE-agent。

• 他在 2022 年困惑“很显然 coding Agent 最重要，为什么没有人做”。由此得出的研究判断是：如果你确信某件事重要、却没人做，这未必是坏信号；它可能正是尚未形成共识的机会。

10. API 与 GUI 不必二选一，真正的障碍是完整 context

• 关于未来 AGI 应基于 API/code，还是基于面向人的 GUI，姚顺雨用车和路作比：是改造车适应所有道路，还是重建所有道路适应车？更可能的答案是“meet in the middle”，两端一起演进。

• 很多服务没有 API，但让 Agent 同时使用 code、screenshot 和 frontend，未必比为全世界补 API 更难。最终系统很可能“什么都做”，code 重要，却不会排除 GUI。

• 广密追问 2027 年是否会出现能操作电脑、手机几乎所有任务的通用 Agent。姚顺雨没有直接认可时间表：模型的代码、数学和逻辑能力某种意义上已超过多数人，但“几乎所有任务”没有被 well defined，缺失完整 context 往往比能力本身更致命。

11. “The Second Half”宣告瓶颈从方法迁到问题定义

• 《The Second Half》最初来自一次斯坦福演讲邀请，也是姚顺雨进入 OpenAI 半年后的总结：大家惯于重视训练、算法和模型，但主线瓶颈已经转向如何定义好的任务与环境。

• 他的核心比喻是，过去面对许多怪兽，要分别制造许多武器；现在终于有了一种 general method，“我有一把机关枪了，那现在我要思考的问题是我要朝哪里去开枪”。

• “下半场”并不声称 audio、multimodal、robot 的方法问题都已解决；它特指从语言 prior 到 reasoning，再到 Agent 的主线，已经出现可泛化的统一 recipe。

• 这也改变研究资源的稀缺性：当 well-defined 考试和游戏能快速被 RL 解决，困难不再只是找答案，而是发现值得解决、又能产生现实价值的问题。

12. 好 reward 必须看结果、可白盒验证

• 从 WebShop 起，姚顺雨就偏好两条原则：reward 基于结果而非过程；由规则清晰计算，而非依赖人的偏好或另一个模型的黑盒评分。

• math 与 coding 的成功正来自这种结构：“答案是三，那它就是三”；程序要么解决问题，要么没有解决。若奖励过程，系统可能 reward hacking；若优化人或模型偏好，可能得到优美但无效的代码。

• 最难的不是把 Amazon 或 Facebook 做成环境，而是同时满足难度、真实价值、清晰 reward 与低噪声。工程可以堆出来，任务与 reward 的设计才决定 RL 最终学到什么。

13. Agent 任务要沿可靠性、创造力、时间和范围分解

• 一条轴是 reliability 与 creativity：客服可能要求一百次中至少九十九次不犯错；证明黎曼猜想、写高难代码或文学创作，则可试一百次，只要一次特别好就成功。两者需要完全不同的优化目标。

• 第二条轴是时间深度：Cursor 改一个文件可能三秒完成，另一些工作要三十分钟、三小时甚至三天，时长一扩展，long-term memory 就成为核心能力。

• 第三条轴是任务广度：修一个 bug 与从零搭建 Windows 级 repo，对应个人与团队、公司的差异，后者自然导向 multi-agent。人的职业等级不能直接映射为 Agent 难度。

14. pass@k 奖励灵感，pass^k 才检验商业可靠性

• coding 常用 pass@k：同一任务运行 k 次，至少成功一次的概率；pass@100 很适合衡量“试一百次能否产出一个好答案”，却遮蔽每次都成功的要求。

• 姚顺雨参与的 τ-bench 使用镜像指标 pass^k：连续 k 次全部成功的概率，或反过来看至少失败一次的风险。客服等业务需要优化这一端，而不只是 success rate，也就是 pass@1。

• 大家忽略 reliability，是因为还在“做 benchmark”，而非对实际应用负责；一旦接受 business mindset，业务需要什么 metric，就应直接优化什么 metric。

15. 模型能力溢出是创业公司的燃料，不是原罪

• 面对“基础模型会吞掉 Agent 创业公司”的担忧，姚顺雨反过来说：“创业公司应该担心的事情是模型没有溢出能力。”没有持续增强的底层能力，很多新产品根本无从成立。

• 最优组合是新 interface 加模型持续溢出：若仍使用 ChatGPT 式界面，即使模型更新，也缺少不被 ChatGPT 取代的理由；若界面创新但模型不再进步，新交互也难持续兑现价值。

• 因而边界未必在“模型公司做通用、创业公司做垂直”，而更可能在交互方式。Cursor 的价值不是拥有一个聊天框，而是把 AI 嵌入 IDE，创造人与数字世界此前不存在的协作关系。

16. Super App 的路径依赖给新交互留下窗口

• 张小珺追问：ChatGPT 也能跟进创业公司的界面创新。姚顺雨承认可以，但 Super App 是双刃剑；已有成功形态后，research、组织和资源都会围绕它重构。

• 他的历史类比是 2020 年的 Google：拥有 Transformer、顶尖人才和无限资源，最自然的选择仍是先提升搜索。类似地，拥有 Super App 后，大部分资源仍会围绕其交互方式，而不是平均探索所有可能界面。

• Her 式语音助手是很有价值、也最自然的形态，但本质仍是拟人 assistant，这个生态位模型公司已经占住。真正不显然的空间，是不像人、甚至一开始令人陌生的交互；Google 相对 Yahoo“黄页”就是旧例。

• Canvas 是他认为值得探索的方向：系统按具体任务、情境与个性，在线生成最合适的 frontend。它比固定聊天框更可塑，也更难做好。

17. 多数应用没有数据飞轮，拥有数据也不等于可训练资产

• 姚顺雨判断，大多数 AI 公司尚未形成数据飞轮，增长主要来自基础模型变好。真正的飞轮首先要求自己能训练模型，还要从交互中获得清楚区分好坏的数据与 reward。

• Midjourney 是他认为较成功的案例：用户选择更喜欢的图片，reward 与产品价值直接 aligned；偏好更准，模型和公司同时变好，训练目标与商业目标没有明显错位。

• 应用还要足够偏离模型公司主线。coding 是所有大厂都会强化的核心能力，Cursor 是否做 pre-training，要看闭源、开源模型之间留下多少 gap，以及它有多少资源能真正填补；他会训练模型，但不会无条件重做 pre-training。

18. memory、intrinsic reward、multi-agent 指向创新者与组织者

• 姚顺雨脑中的 Agent 生态有两棵树：一棵是 fundamental research 如何演化，另一棵是应用与交互方式如何演化；Cursor 主要创新后者，两条线需要不同的人探索。

• fundamental research 的三项重点是 memory、intrinsic reward 和 multi-agent。memory 与内生奖励共同支撑 innovator，multi-agent 则支撑 organization。

• 他以长期研究者作例：研究一个定理可能持续二十年，必须保留长期记忆；在最终证明前，又没有奖项、工资或即时 feedback，只能靠自己的价值判断继续前进。

• 今天的 Agent 更像能在电脑上工作的“普通大学生实习生”。人类社会真正崇拜的边界，一端是爱因斯坦、梵高、贝多芬式创造者，另一端是马斯克、乔布斯式组织创造者。

19. AI 的 utility problem，本质上可能是 context problem

• 姚顺雨的疑问是：模型考试、推理和游戏都很强，为什么还没有创造与能力匹配的经济价值？他的 belief 是，根本原因可能不是 intelligence 不足，而是缺少完整 context。

• 公司把一部分知识写入 Google Docs、Notion 和文字记录，但老板习惯、团队默契、历史取舍等大量信息只分布在人脑里，无法被一次性交代。这使能进入环境并积累 context 的人仍不可替代。

• 一个普通员工可能数学和逻辑都不如 O3，却在入职七天后拥有 O3 没有的背景，因此做得更好。“你没有 O3 聪明，但你有这些 context”，就是当前人与模型比较中最容易被忽略的优势。

• 长期记忆最终可能通过改权重、语言记忆、embedding memory 或新架构实现；姚顺雨相信问题“必然会突破”，但对具体方式和时间保持不确定。

20. 内生奖励要把婴儿的好奇心迁移到“文字游戏”

• 婴儿咬玩具、反复操作物体，并没有升职、奖金或外部 reward；好奇心、掌控感、安全感和新奇体验，驱动其主动探索和学习。

• 难点在于，婴儿首先学习视觉、触觉、听觉、骨骼控制组成的物理游戏；成人则在语言、制度、公司和人际关系构成的“文字游戏”里行动。两类 intrinsic motivation 未必能直接互换。

• 传统 RL 能在迷宫或 robot simulation 中用 world model 定义新奇度，但一个系统如何在语言世界里判断什么值得探索、什么构成真正进步，仍是开放问题。

21. 借鉴人类应从能力差距出发，而非照抄大脑

• 姚顺雨曾在 Josh Tenenbaum 的认知科学实验室工作。早期思路是研究人为何能 few-shot generalize，再把人的机制搬给机器；后来他发现，真正 work 的 scaling law、RL 与人类学习方式可能非常不同。

• 更 robust 的方法是先问“人能做、机器不能做什么”，再从第一性原理解决。例如人能在公司实习三个月积累 context，这是客观差距；但系统未必需要照抄海马体或 episodic memory 的生物结构。

• 是否让 Agent 更像人，也应看 utility：下围棋不必像人，开车也可能有更优规则；进入公司、理解老板并完成模糊任务，目前人做得更好，就应研究如何 bridge the gap。

• 长期记忆也不必自动导向“身份证”。若孤独者需要朋友，拟人 Agent 有价值；若系统表现为平台、推荐页面或游戏，用户甚至感觉不到一个“人”，人格化就不是必要形态。

22. AI 可能同时加强中心化、流动性与多样性

• 谈到 Agent 与 crypto，姚顺雨先声明自己了解不多，把问题抽象为技术将走向中心化还是去中心化。中心化论据是 OpenAI、Anthropic 可能成为 one trillion、ten trillion、甚至 a hundred trillion 级公司，集中 compute、平台和资源。

• 去中心化论据则是 intelligence 若像电一样廉价，会降低信息差、认知差和能力差，赋能大量个体。两股力量并不必然一胜一负。

• 他把社会看作网络：历史一方面扩大资源集中和贫富差距，另一方面也提高普通人从边缘走向中心的速度与可能性；古代门阀、贵族或种姓制度中的固化反而更强。

• 未来还可能出现分布式 multi-agent 网络：每个人的 Agent 持有局部信息，与上百万人交换信息、交易或协作。中心节点有动力继续集中，外围参与者也有动力维护自己的信息和权利。

23. OpenAI 超越 DeepMind，靠的是一个 different bet

• 姚顺雨强调这是自己的总结与揣测，不代表公司官方叙事。OpenAI 初期是 bottom-up research lab，强化学习自然占中心，因为当时最耀眼的公司是 DeepMind，标志性项目是 AlphaGo。

• 但“你只有有个 different bet，才能够超越之前的霸主”。如果 OpenAI 只做强化学习，即使局部超过 DeepMind，公众谈到该领域仍先想到 DeepMind；GPT 最终成为那笔不同的赌注。

• 非共识程度比事后叙事更高：他的导师 Karthik 是 GPT-1 第二作者，仍曾怀疑结果不够好、成本过高；即使身在 OpenAI、亲自参与 GPT，也不代表已经相信 scale up 是最佳方向。

• 姚顺雨认为 Ilya 的关键贡献之一，是推动组织 all in；GPT-3 也需要有人敢于把大量资源押进去。组织不必人人共识，只需足够多人形成信念，便能让反共识实验发生。

24. GPT 没有取代 RL，而是给 RL 提供了可泛化的先验

• OpenAI 并未在选择 GPT 后抛弃 RL，只是调整资源比重；后来的 ChatGPT 仍依赖 RLHF 与 alignment。历史不是一条路线被彻底否定，而是多条线并存，promising 的方向获得更大下注。

• 传统 RL 理论上认为，只要环境与 reward 足够好、样本足够多，就不需要 prior；但在互联网和语言环境里，暴力学习可能要“十的三十次方年”，在宇宙年龄意义上等于做不到。pre-training 让语言 RL 变得实际可行。

• 新变化在于 transfer：DeepSeek 在 math、coding 上做 RL，创意写作也可能增强；AlphaGo 学围棋却不会象棋。姚顺雨把这视为本质差异，但仍强调泛化是 spectrum，迁移强弱取决于任务性质。

25. 新的 scaling dimension 将来自记忆与组织

• 姚顺雨期待更多类似 GPT-3 的 moment，但未必只是把 pre-training 做得更大。long-term memory 会带来新的 test-time compute scaling 方式，multi-agent 又会增加并行协作的 scale 维度。

• 当 skill dimension 增多，问题会变成针对具体应用如何选择和配置不同 skill 的比重。

• 关于“ultimate generalization”，他引用一种说法：“overfit the reality。”如果系统已覆盖现实中的所有事情，再争论它究竟是记忆还是泛化，实用意义就会下降。

26. Agent 成本要用创造的价值衡量

• 一位创业者提出，Agent 单用户 token 消耗可能是 chatbot 的 500—1,000 倍，再叠加数百万用户，算力难以承受。姚顺雨的回应是，cost 本身不是问题，cost 无法 justify performance 或 value 才是问题。

• “我花了五百刀，但是我可以给我赚一千刀”，商业上就成立。简单任务可训练小模型以降低成本；投资、deep research 等高价值任务则可使用更大模型，关键是先找到值得支付的应用。

• 他也不认为 Agent 创始团队必然需要 researcher。研究背景可能带来理解力，也可能让人“拿着锤子找钉子”；产品 sense、找到真实痛点与 PMF，比是否来自 NLP 社区更关键。

27. Manus 证明产品创新也会被模型公司反向学习

• 主持人提到 Minus、Jazz Park；姚顺雨说自己试过 Minus、尚未试过 Jazz Park，随后评价 Manus“挺有意思”，认为其产品 sense 和打磨基因值得肯定。原文在 Minus 与 Manus 的名称上存在交替，不能将两者直接等同。

• 传统叙事是大厂先创新、创业公司再复制；Manus 带来的启示是路径可以反过来：小公司先创造 Agent 的新交互或产品形态，模型公司再借鉴，并叠加自己的底层能力。

• 因此模型公司和应用公司的关系可能是“相互抄”，而非单向吞噬。应用公司没有底层能力会被复制，模型公司也可以借鉴创业公司创造的交互方式。

• 对 Manus 是否应立即垂直化，他的答案不是二选一：保持足够 general、想象空间高的产品外壳，同时阶段性找到 PPT、deep research 等 killer app，就像 iPhone、iPad、ChatGPT、微信靠具体应用获得 momentum。

28. DeepSeek 的影响既是思维链产品化，也是重估开源

• 姚顺雨认为 DeepSeek 的长 Chain of Thought 展示，是一次产品形态突破。技术积累像洪水抵达闸口，需要某个 moment 让普通人感到“magical”；ChatGPT、iPhone 与 DeepSeek 都具有这种释放作用。

• 第二层冲击是重新思考开源。美国业界曾默认开源模型会显著落后闭源，因为模型训练不像 Linux 那样可由上千人独立贡献，更依赖少数顶尖人才、巨量资金和高度集中组织。

• 做好开源并不 trivial：既要资源、人才和组织文化，也要商业 justification。完全靠拥有几百亿美元的慈善家长期供给，属于小概率事件；但 DeepSeek 的出现也带来了对这些默认判断的反思。

• 他还特别肯定 DeepSeek 在组织、工程和基础设施上的可取之处，没有把其成功简化为单一算法或成本故事。

29. 智能边界将由多个系统共同定义，而非一个最强模型

• 姚顺雨过去也会把 AGI 想成“世界上最聪明的人”：一个模型拥有全部知识与能力。现在他的判断是，不同交互方式会形成不同的强，智能边界未必能由 single model 排序。

• 一个陪伴型朋友可能不需要数学、物理和记忆都最强；过分理性、从不出错反而显得虚假。它与 ChatGPT 谁“更强”没有统一答案，因为价值函数不同。

• OpenAI 可能成为新世界里的 Google，是极重要节点，却不必垄断全部形态。“变得更中心化”和“变得更 diverse”并不矛盾：最大公司的支配力可以上升，同时产业、界面与系统数量继续增加。

• 姚顺雨的核心 bet 是“有 different super app 的产品形态，有不同的交互方式”。若不相信，世界只剩 OpenAI、Anthropic 等少数玩家；若相信，应用、平台与新模型路线仍有大量机会。

30. memory 能把模型领先转化为用户粘性

• 单纯比较无记忆 chatbot，本质仍是比谁的模型更强，领先随新模型发布而波动；加入 memory 后，用户在某个平台积累的 context 会改善体验，并提高粘性。

• 姚顺雨因此把 memory 视为 ChatGPT 可能建立商业壁垒的地方：使用越多、沉淀越深、检索越准，研究优势越可能转成产品粘性，而不只是一轮 benchmark 优势。

• 对 ChatGPT 的“记忆已更新”具体机制，他坦言不了解内部细节，只推测系统更善于从大量对话中提炼或 retrieve 相关内容，没有把个人直觉包装成官方说明。

31. MCP 与外部环境属于同一套 memory hierarchy

• 张小珺提出，个人和企业 context 分散在各种软件里，MCP 是否本质也是 memory。姚顺雨认为“从某种程度上来说是的”：它让 Agent 进入保存 context 的外部环境。

• 他引用冯·诺依曼去世前写的《The Brain and the Computer》中的思想：“Essentially, environment is always the outermost part of the memory hierarchy.” CPU cache、内存、硬盘之外，U 盘、互联网和物理环境仍是更外层记忆。

• 对人同样如此：working memory、脑内长期记忆之外，笔记本、Google Docs、Notion 是最长期、最外部的 memory。Agent 的长期记忆问题不能只在模型参数或 context window 内讨论。

• long context 是实现 long-term memory 的一种方式：若有一亿、一千亿乃至无限 context，系统可以用不同于人的路径记住一切；但姚顺雨不认为这已经证明它是唯一或最合适的方案。

32. “大海捞针”只是长期记忆的必要条件

• 现有 long-context 评估常把一句事实藏进极长文本，再要求模型取回。姚顺雨称其 necessary but not sufficient：做不到就谈不上记忆，做到了也远未证明能长期工作、积累和更新。

• 在没有更好 task 与 evaluation 前，很难有意义地争论 linear、sparse 或 hybrid 方法谁优。问题不只是架构，而是大家停留在容易量化的必要条件，没有定义更难、更有价值的充分条件。

• 他尤其想推翻“平行样本求平均”的评估假设：把一个人在 100 个平行宇宙的入职第一天成绩平均，不等于衡量他工作一天、三十天、一年后能成长到什么程度。

• 真实世界没有标准答案与固定 reward，正因如此才难。考试和游戏一旦被 well defined，已有 general recipe 往往很快能解决；Agent 的北极星应回到现实价值，而非更容易刷高的榜单。

33. 未来 12—24 个月会出现两类互补的 Agent 产品

• 姚顺雨预计，ChatGPT、Grok、Anthropic Claude 等 chatbot 会自然演化为 Agent，chat 仍保留为子集，但默认交互将越来越偏向能执行任务的系统。

• 另一类机会是 Cursor 式 Copilot：不从远程虚拟机接管一切，而是在既有软件、电脑和行业场景中嵌入 Agent。前者创造新 environment，后者扩充用户已有的 digital environment，两者正交且互补。

• 应用创业者即使做不了 pre-training，也能控制两个关键界面：Agent 通过 MCP、API 等如何与数字世界交互，以及人如何与 Agent 交互；积累用户 intention、context 和生态系统，同样需要大量产品、infra 与工程创新。

• 对“两年后巨量 Agent 是否需要专属虚拟机、浏览器、身份和经济系统”，他判断两年内仍可能偏中心化，由少数 Super App 建各自 infra；再往后变化过大，“没有人可以预测两年以后发生什么”。

34. Pre-training 与 RL 会按应用经济性重新组合

• 姚顺雨用“天下大势就是分久必合，合久必分”概括下半场：十年前翻译、游戏、订票、数学属于不同社区，如今第一次能由一套方法处理，近似牛顿力学统一此前分散的现象。

• Agent 是目标，pre-training 与 RL 都是工具。pre-training 提供处理语言世界所需的 prior，RL 则通过环境与 reward 改进行为；讨论谁替代谁，容易把技术手段误当最终产品。

• 封闭、高价值、反馈充分的环境可能主要依赖 RL，AlphaGo、Google Ads、TikTok 推荐都接近这一结构；大量长尾任务需要进入陌生环境并在线适应，pre-training 的泛化价值就更高。

• 是否重启昂贵 pre-training，最终取决于 additional value 能否覆盖 cost。只有不同 Super App 真正需要不同能力与模型，且商业价值足够大，从头训练才从战略姿态变为经济上合理。

35. 500 亿美元应同时买 intelligence、environment 与 context

• 若成为伯克希尔 CEO、配置 500 亿美元到 AGI，姚顺雨会考虑 OpenAI、Alphabet 等模型层公司，认为它们“大概率”仍会创造更大价值，而非宣称确定回报。

• 另一类标的是能积累 user context、构建特殊 environment 的公司。AGI 若是系统，就不只有 intelligence，还需要环境和对用户的理解；这些拥有大量 user data 或 user context 的公司，有点像发明汽车之前的石油公司：石油已经存在，但真正的大应用尚未出现。

• 微信这类平台因此“易守难攻”：拥有网络、场景和大量 context。若 intelligence 逐渐便宜、民主化，稀缺性可能反而移向平台、环境与用户关系。

• 对传统大公司 CEO，他的首要建议是亲自学习 AI；CEO 不懂，组织再招专家也可能被忽悠。随后应从现有场景和资源出发创造新价值，而非机械复制一个与自身无关的 ChatGPT。

36. 微信可以不抢跑，但必须警惕非连续创新

• 若自己是微信负责人，姚顺雨不会急于把所有功能 Agent 化，而会先学习、观察新交互。身处易守难攻的位置，incremental innovation 早几个月或晚几个月，未必改变格局。

• 真正危险的是形态完全不同的替代品，正如微信打败 QQ，不是靠做一个更像 QQ 的产品。已有巨头应警惕的不是同类功能追赶，而是用户网络本身被新交互重写。

• 主持人的反驳是：若 long-term memory、multi-agent 成熟，而 Agent 系统没有长在微信上，旧网络可能失去价值。姚顺雨接受这种条件性——结果取决于未来人类朋友、Agent 朋友，以及职业交互各占多少。

37. 安全至少包含商业可靠性与更宏大的风险两层

• 姚顺雨认为“安全”经常混合不同问题。第一层是产品安全：若 Agent 删除数据、持续犯错，产品就没有商业价值，公司即使只追求利润也必须解决。

• 第二层是产品责任之外、更意识形态或人类尺度的安全。是否需要额外责任、怎样定义边界，业界并未达成清晰共识；他承认自己会担心，也承认对此难以给出确定判断。

• 他当前的优先级颇具争议但很明确：AGI 尚未实现，也未创造足够价值；在不知道怎样让它有用时，只讨论它是否“太强、太普及”，并不完全 make sense。对有明确价值的应用，安全作为必要条件会得到持续投入。

38. 意识问题暂时输给了定义问题

• 姚顺雨不认为“意识”已有可操作定义。如果一个系统能处理足够复杂的 context，拥有很高 autonomy 和 decision-making power，持续处理信息、产生想法并选择具有后果的行动，客观上“也许”可被称为有意识。

• 这不是他断言模型必然产生意识，而是把争论重新压回定义：究竟哪些可观察能力构成意识，尚未定义；在定义缺失时，纯粹从机器原理给出是或否都过早。

39. 伟大方法常从好任务中长出，ReAct 却反过来寻找任务

• 姚顺雨总结自己的两条研究线：简单、通用的方法，以及在真实数字世界创造价值的任务。computer、coding、web 位于游戏考试与物理世界之间，曾是一块尚未充分挖掘的“处女地”。

• 多数伟大方法由具体任务激发，例如翻译天然要求对序列不同位置非线性关注，适合孕育 attention。姚顺雨的特殊经历则是先相信某个方法足够通用，再寻找能证明 initial signal 的任务。

• ReAct 最难的不是写出“思考—行动”框架，而是在只有 GPT-3 等早期模型时，找到恰好能展示其潜力的 environment。他把这称为类似创业 PMF 的“method-task fit”。

• 因此做研究不能只困在 RL、NLP 或单一社区内部。ReAct 同时选择语言任务和游戏环境，正是通过打通边界，才让一个方法显出通用性。

40. 他的激进任务从“造科学家”扩展到“造组织”

• 在普林斯顿时，姚顺雨最自然的极限任务是创造爱因斯坦式科学家：让 AI 发现下一套相对论或大一统理论，这足以标志 AGI、甚至 ASI。

• 到硅谷、进入公司后，他开始把人类组织视为同等重要的研究对象。若 AI 能创造一家 one trillion dollar 公司，也是一项与发现相对论不同、但同样困难的成就。

• 组织机制像 general method：股份制、激励设计和组织架构不是单个产品，却能持续产生许多不同的伟大产品。因此 innovator 与 organization 不一定前后相继，更可能是两条可同时探索的路线。

41. 对“通用”的执念贯穿研究、阅读与说唱

• 姚顺雨喜欢杂书、电影和不同地方，也曾参加信息学竞赛并获全国银牌，却不像一些同学那样只把单项刷到极致。他逐渐意识到，个人再聪明也只能掌握人类知识的一小部分，于是想创造“比自己更通用、更尖端的东西”。

• 语言未必是围棋等单项任务的最佳表示，却是为了连接所有认知任务而形成的通用表示。AI 可能创造效率更高的新语言，但人类已有强 prior，也希望理解、监控和控制机器，因此英语或基于英语的表示仍可能占主流。

• 说唱给他的启发也是差异性：每个人有自己的 flow、个性和生活思考，“它不一定是最好的东西，但它是不一样的东西”。GPT-3 刚出现时，他就尝试生成兼具押韵与内容的歌词，发现至今仍很难。

• 难点不只是 next-token prediction：好听、独特的 flow 缺乏清晰 reward，同一种 style 出现太多反而失去价值；更根本的是，伟大说唱来自生活，而 AI “还没有生活”。

42. “别人能做的就让别人做”定义了他的个人下注

• 导师对他影响最深的一句话是：“If someone else can do it, then it’s okay to let them do it.” 这并不声称任何工作绝对不可替代，而是提醒研究者：若别人已在做同一件事，可以把精力用于探索尚无人验证的方向。

• 他不排除创业，也承认 OpenAI 很多人都会考虑创业，但希望先想清楚值得做的事情。即使复制 assistant 形态可能更容易赚钱，他仍觉得创造一个完全不同、哪怕最终失败的产品更有意思。

• 被问最近基于 taste 做了什么 bet，他只透露“I’m doing something”。公开给 Agent 创业者的建议则保持朴素：技术是工具，最重要的是想清楚给用户带来了什么增量价值，并继续押注不同 Super App 与不同交互方式。