如何在所有人之前看懂下一波 AI|Tibo 访谈
如何在所有人之前看懂下一波 AI|Tibo 访谈
摘要
- Codex 用户数已达到 2000 万,Berman 形容其增长曲线在 Anthropic 曾经“吸走房间里所有氧气”的阶段之后突然变得近乎垂直。 Tibo 不愿直接参与这场竞争,只说“我通常不会太关注竞争对手”,并将增长归因于把 Codex 并入 ChatGPT,让 coding agent 直接触达 ChatGPT 庞大的存量用户。
- Tibo 那条“Codex 2-3 个月后会显得原始”的推文,指向的下一个约束其实是笔记本电脑本身(“Codex will seem primitive in two to three months”)。 笔记本电脑原本围绕人的限制设计——打字速度、注意力和同时打开的窗口数量;“模型没有同样的限制”,未来或许可以“同时完美处理 100 个应用”,这意味着模型最终需要访问超出单台笔记本资源范围的能力。
- Berman 估算,ultra-fast mode 的 token 速度约为正常速度的 10–14×,这可能把单人开发者从同时运行 10–15 个并行 agent,带回到保持工作流连贯的状态。 Berman 认为这可能意味着一次只用 3 或 4 个 agent,Tibo 则强调要围绕人的注意力来设计。生成占主导的工作体感可能快约 10×,但工具调用密集的轨迹只有“3×或4×提速”,因为瓶颈转移到了网络和 agent 开销。Tibo 预计,未来“可能 1-2 年内”,这种速度“即使不是默认配置,也会非常接近默认配置”,同时更高成本的档位始终会高一档。
- Berman 所说 Luna 降价 80%,既反映了提前规划的算力容量,也反映了效率提升;Tibo 没有量化两者占比。 前沿模型帮助 OpenAI 重做 serving stack,使其在“同一算力范围”内实现“非常显著的吞吐提升”——这已经是递归自我改进的早期形态。非 ultra-fast 速度比 3 个月前快约 60%,而 Soul 的 token 效率“显著高于 Terra”。Tibo 的承诺是:“不会只是把这部分收益装进自己的口袋。”
- 针对 Berman 所说 Sam Altman 暂停“RL 的绝对前沿”训练一事,Tibo 解释称,团队需要先“加固系统的所有部分”,再“完全掌控地”重启训练。 安全团队通过他所说的辩论与探索过程,形成了“一套相当清晰的原则”,与此同时,alignment 投入出现“巨大增长”。
- Usage reset 按钮如今已经是一个实体物件,但本质上仍是一种刻意保持非正式的善意做法。 Berman 将提供 reset 的能力与容量规划联系起来;Tibo 说:“这不是和市场或财务部门合作完成的……我想什么时候按就什么时候按。” 他强调的区别是:“你可以口头上说你在乎,也可以像我们一样,真的在乎。”
- ChatGPT 与 Codex 合并的终点,是让所有人使用同一个自适应界面:“你和你妈妈会用同一个东西”(“you and your mom will use the same thing”)。 它会成为每个人的“个人 AGI”。软件工程师、设计师等职业标签,“只是人类为处理抽象概念而发明的概念”;界面应该适配用户,而不是逼用户先给自己分类。
- DeepMind 的往事构成了这期节目的文化论点:LaMDA chat 早在 ChatGPT 大约 1 年前就存在,但“DeepMind 并不是为推出产品而设立的”。 OpenAI 的自下而上文化几乎没有“叫停项目的阻力”,也愿意自我颠覆,“即使这意味着要从主业重新调配资源”。Berman 将其视为 Google 无法做出同样动作的对比;Tibo 承认 Google 当时有计划,但表示那不是适合他的地方。
精读
1. DeepMind 早 1 年做出了 LaMDA chat,却没能把它推向市场
- Tibo 回忆 ChatGPT 之前的时代:DeepMind 的语言模型团队内部已经有了“ LaMDA chat”,并计划在 ChatGPT 上线前大约 1 年公开发布;按他自己推文中的说法,Google 当时过于紧张,而 DeepMind 被挡在了发布可能颠覆 Google 的产品之外。“DeepMind 并不是为推出产品而设立的”;相比之下,OpenAI 的“研究与产品协作得非常紧密”,并且“明显偏向发布”。当被问到那是否是特殊时刻时,他说:“第一次意识到自己可以生成连贯文本……一开始更多是好玩,而不是有用。”
- 他从这组对比中提炼出的创业者建议是:坚定判断、根据真实用户快速迭代,以及“愿意自我颠覆……即使这意味着要从主业重新调配资源”——“这非常难,但极其重要”。他也承认应该公平看待 Google:“他们有一个计划……一切都是大计划的一部分”,但那不是适合他的地方。
- 自下而上快速发布也有制衡:“不能让产品变成功能大杂烩”。简单、对质量有自豪感仍然重要,ChatGPT iOS app 被视为“市面上最好的应用之一”,这就是标准。
2. “Codex 2-3 个月后会显得原始”
- 对 harness 的批评是:高级用户已经把产品的笨拙当成常态——skill files“长期很难维护”,记忆并不完美,sub-agent 网络也会在不同环节戳破那层“幻觉”。目标应该是“真正深度理解你的东西”,一个主动出手的“完美小伙伴”,在不打破这种幻觉的前提下帮助用户处理日常工作。
- 关于笔记本电脑是约束,Tibo 的逻辑是:笔记本电脑围绕人的吞吐量设计,包括打字速度、思考速度,以及用户需要同时打开多少个应用。“模型没有同样的限制”;它最终或许可以“同时完美处理 100 个应用”,所以未来模型“需要访问超出你的笔记本资源范围的东西”。
- Tibo 将行业问题拆成两类:一类是个人 AGI,核心是“深深植根于对你这个人的理解”;另一类是彻底自动化——根据生产日志自动修复回归问题,或者在网络安全场景中,把扫描器发现漏洞到漏洞修复之间的窗口压到“接近 0”,人类只需批准高风险操作。
- 语音已经改变了 Tibo 自己的行为:新的 voice model 支持调用工具,所以“早上我只要拿着手机坐在那里,口述几件要 ChatGPT 做的事,它就会自己去完成。它可以访问我的所有工具。”
3. Ultra-fast 让多 agent 工作流重新回到心流
- Berman 的现状是:当前速度迫使他同时运行 10–15 个并行 agent,每轮等待 30–45 分钟,由此产生“相当显著的认知开销”。他认为 ultra-fast 可能让自己改为一次使用 3 或 4 个 agent。Tibo 的回答聚焦于注意力:ultra-fast 加上语音后,“它的运行速度可以和你一样快,甚至比你更快”,因此“我以前同时处理 10 个 agent 的方式,我不太想回去了”。设计原则是对人的注意力“足够友好”,让技术适应用户。
- Tibo 对提速效果给出了明确限定:当工具调用不多时,效果“惊人地好”——原型开发网站或电子游戏,体感可能快约 10×;但工具调用密集的轨迹只有“3×或4×提速”,因为开销转移到了网络或 agent stack 的其他环节。
- 内部资源分配也很说明问题:ultra-fast 会优先给故障期间的 incident commander,因为“每一秒都很重要”,也会给“认为自己正在做非常关键事情”的团队;但“绝大多数额度留给客户”。OpenAI 员工受到限制,否则他们可能“把我们的生产 GPU 全部吃光”。
- 定价背后的效率来自推理硬件、token 效率和 stack 工程的复合改进,所以“可能 1-2 年内,这种速度即使不是默认配置,也会非常接近默认配置”;但“总会有高一档”,对应不同且更昂贵的硬件取舍。
4. 合并的终局:一个界面,“你的个人 AGI”
- 为什么不顾用户反弹,仍要把 Codex 与 ChatGPT 合并?因为“我们的未来模型希望我们合并……底层是同一套技术,同一套 harness”,而且会高度多模态、以语音为先。软件工程师、设计师等标签,“只是人类为处理抽象概念而发明的概念”;最终状态已经说得很明确:“你和你妈妈会用同一个东西。它会是你的个人 AGI。”它连接的是不同工具,并根据每个人的生活进行适配。
- Tibo 反复提到的“幻觉”,指的是一种无处不在、扎根于人的计算体验:在办公室白板上写下内容,系统也应该能够理解。新版 ChatGPT voice 上线后,语音交互“增长非常快”;他的概括是:“每次你转向更自然的方式,人类都会选择阻力最小的路径。”
- 谈到 Anthropic 时,Berman 提到在局面发生变化前,Anthropic 曾“吸走房间里所有氧气”。Tibo 不愿把注意力放在竞争上,而是关注“我们能独特做好的事情”。他强调的增长驱动,是让产品经理、设计师、销售、市场和传播团队都能使用这项技术,再通过已有大量用户的 ChatGPT “非常快速地”完成分发。
5. Reset 按钮:由算力托底的非正式善意
- 这个做法起源于迭代把系统弄坏时补偿用户:“我们刚好把它弄坏了 30 分钟,这是一些额外用量。”如今它已经被制度化,但刻意保持非正式:“背后其实没有太多审查……也不是和市场或财务部门合作完成的。我想什么时候按就什么时候按。”现在确实已经有一个实体按钮。
- Berman 用 Amazon 的退货政策类比 reset 如何建立信任;Tibo 的说法是:“你可以口头上说你在乎,也可以像我们一样,真的在乎。” Reset 也可以用来标记产品时刻:“去探索这个新东西……你还没用过 ultra,给你一些额外用量。”
- Berman 认为 reset 需要容量规划;Tibo 则说“我们很早就提前规划了算力”。2 年前,OpenAI 曾因过度投资算力受到质疑;Berman 称这是“那种疯狂但极其正确的下注”,Tibo 表示认同。
6. Soul 优化 Luna、RL 暂停与效率飞轮
- Berman 提到 Luna 降价 80%以及 Terra 的一次降价,随后追问其中有多少来自算法改进、多少来自战略性容量规划。Tibo 表示算力很早就已规划,而前沿模型帮助 OpenAI“服务、重构或重新设计”整个 stack,带来显著的效率和性能提升。结果是在“同一算力范围”内实现“非常显著的吞吐提升”,几乎谈不上牺牲。除 ultra-fast 外,速度已经“比 3 个月前快 60%”;公司给出的承诺是分享收益,而不是“只是把这部分有意思的增益装进自己的口袋”。
- Tibo 认为,递归自我改进不应局限于模型开发模型:模型也可以构建“处在使用这些模型关键路径上的基础设施”。Berman 提到推理 stack、优化、CUDA kernels、产品和 cloud agents;Tibo 认为这“从某种意义上说”确实是递归自我改进,但“更多是基础设施”,并且可以让这项工作反过来作用于自身。“如果我们不这么做,我觉得那会相当愚蠢。”
- 对于 Berman 所说 Sam Altman 暂停“RL 的绝对前沿”训练一事——问题中还顺带提到一个没有解释的“Hugging Face incident”——Tibo 表示,这次暂停“有必要让团队和个人真正理解并加固系统的所有部分”,之后再“完全掌控地”重启训练。他没有给出单一的重启指标,而是说安全团队通过“一场辩论和探索过程”形成了“一套相当清晰的原则”,与此同时,alignment 投入出现“巨大增长”。
- Tibo 最后向对 AI 感到焦虑的人推介:Luna 在 6 个月前还会处于前沿水平,如今已经“便宜得离谱”。Berman 提到与 Replit 有关的免费模式;Tibo 也表示,这类能力正通过免费模式提供。因此,“现在处于前沿的任何东西,6 个月后运行成本都会低得多、低得多”。对他个人而言,他使用健康和金融工具后,在去看医生时“掌握的信息更多了”。