先锋 趋势 方法 投研 作者
Sam Altman谈打造OpenAI与押注不可能
返回节目精读

Sam Altman谈打造OpenAI与押注不可能

摘要

  • Altman公开反驳Tobi Lütke关于2026年将成为“所有企业都面临重新洗牌之年”的判断,认为颠覆发生的速度会慢于技术进步所允许的速度。 他承认自己已经在这件事上错过一次:2023年GPT-4发布时,他预计软件会迅速被颠覆,但“经济有太强的惯性”,人们仍在持续向同一批公司购买产品,而且“我们所有人对时间表都过于乐观”。在他看来,这种惯性是好事,会让转型“更平滑,也更缓慢”——但大量软件企业仍将成为激烈争夺的对象。
  • OpenAI正有意从产品公司转向更像平台公司,并通过砍掉好产品来为最重要的产品提供资源。 Altman说,公司去年砍掉了Sora(“消耗了大量算力,而且没有Codex重要”),也砍掉了Atlas浏览器,尽管他称其为“最好的网页浏览器”;ChatGPT和Codex已经合并为一个界面,公司将“在成本—性能曲线的每个位置提供优秀AI”——为个人AGI提供一个统一界面,同时提供API,而不是在各个产品类别中与客户竞争。
  • Altman最引人注目的自我批评是:他没有按应有的方式使用自己的产品,并将原因归结为缺少一个“iPhone时刻”。 尽管拥有Codex,他仍然点击来点击去,在不同聊天应用之间复制粘贴,按照“实际选择”无意识地刷邮件——“我一定是在暗中喜欢这么做”。他的判断是,所有技术组件都已具备,但AI还处于2003—04年Palm Treo时代的智能手机阶段,“基本只差那些让iPhone成为iPhone的产品创意”。相比模型智能,他现在更受限于AI掌握的关于自己的有效上下文规模;一个能在几秒内读完数万页材料并为决策提供建议的智能体,“已经近在眼前”。
  • 他的核心管理论点是:运营一家研究实验室,本质上是在做幂律式的创业投资。 最好的押注会跑赢其他所有押注之和;2015年,对AGI的押注让OpenAI“被这个领域所有智力巨头轮番痛击”,押注大语言模型时也经历了类似过程,而当时成千上万的创业者都在开发照片分享应用。他会寻找持有非主流信念的“非标准”研究者,而不是“在同一个想法上覆一层薄薄的外壳”,同时承认,某个孤独的“修行者型研究者”确实可能从三大实验室都没想到的角度找到突破口。
  • 在安全问题上,他主张通过迭代部署而不是象牙塔式谨慎来推进,但也承认从现在开始会越来越难。 10年之后,OpenAI已经造出了在最初看来会非常像AGI的东西,而此前预言的对齐失败和世界末日并未发生——“这应该促使人们更新对未来的预测”。他把FAA的事故报告文化视为范本。转折点在于:“世界上最聪明的人,大致和世界上最聪明的模型一样聪明。而这马上就会逆转。”届时,何时推迟开发将成为必须面对的决策。
  • Altman点名的两大AI风险是失去控制和权力集中,并将行业默认的交换条件斥为“一种非常反人类的推销话术”。 这种 caricature式叙事是:“亲爱的贱民们,我们将把治愈疾病和廉价商品这些礼物赐予你们”,交换条件却是放弃自主权——其背后由“恐惧和权力”驱动。与投资者更相关的反命题是:“我们即将迎来人们创办小型企业规模最大的一轮繁荣”,但整个行业,包括OpenAI在内,既没有充分谈论这一点,也没有打造足够多的产品来加速它。
  • ChatGPT发布约2个月后,内部人士想追逐另外5、6个方向,Peter Thiel却说,做任何其他事情都是“显而易见的错误”;这是本期节目最值得借鉴的战略教训。 “它的力量来自Google搜索框的力量”——没有信息流,没有网络效应,只是一个空白输入框,而人们已经围绕Google的模式追逐了20年。“我们全力投入,结果非常好。”Paul Graham关于“等到产品让你感到尴尬再发布”的原则已经深入Altman内心,以至于他不认为自己在发布ChatGPT前询问过Graham。

精读

1. Tobi Lütke是最有意思的CEO之一,但Altman不认同他的2026年时间表

  • Altman认为Lütke是最有意思的CEO之一,理由在于他“沿着技术演进曲线的每一个阶段”都走在最前面:亲自写软件,给出“极其准确、详细、前沿的反馈”,在其他人之前就宣称“我们不是NPC公司”,并且在“没有任何炒作”的情况下,始终领先其他CEO“6到8个月”。
  • Senra转述了Lütke的判断:2026年将成为“所有企业都面临重新洗牌之年”,有人会做出AI原生版Shopify——“那个人会是我”。Altman的反驳值得保留:“我不同意这个时间表。我认为还要再久一点”,而且并非每一家企业都会被颠覆——随着AI进步,那些提供“真实、非技术化体验”的反AI业务反而更难被竞争。
  • 这场分歧背后的自我坦白是:2023年GPT-4发布时,Altman预计软件会更快遭到颠覆。“经济有太强的惯性……我对此心怀感激。但我认为,这意味着我们所有人对时间表都过于乐观。”Senra给出的平行案例是:80年代Larry Ellison说“问题在人”,以及Netflix寄出DVD后,人们仍然开车去Blockbuster租碟。

2. Altman的实际选择:他不用自己的魔法产品

  • “我一直在等这个问题。”尽管有Codex,Altman过去20年使用电脑的方式几乎没有变化:在不同应用之间复制粘贴,无意识地“刷着”邮件,因为“我脑子里有某种编码,认为做这些事情才叫工作……我一定是在暗中喜欢这么做”。
  • 在他看来,问题主要出在产品,而不只是用户:所有人都在“跨着这两个世界生活”。这就像iPhone出现之前的智能手机——他在2003—04年使用的Palm Treo已经拥有“所有技术组件”,但一直没有出现那个“彻底改变人们与技术交互方式的iPhone时刻”。

3. 算力、研究与幂律——Altman实际上如何运营OpenAI

  • 面对共同朋友Josh Kushner提出的Steve Jobs/“零号患者”式比较,Altman说自己的大部分精力都放在研究和算力上:“如果我们能把这件事做好,我相信其他一切都会随之而来。”算力领域适合他:复杂的供应链、合作关系、芯片设计、电力系统,以及为“可能已经、至少正在迅速成为历史上最昂贵基础设施项目”的工程融资。
  • 他过去做创业投资时的工作,最接近如今管理研究项目:幂律同样适用——“你最好的投资会跑赢其他所有投资加起来的回报”。2015年,对AGI的押注让OpenAI“被这个领域所有智力巨头轮番痛击”,押注大语言模型时又经历了一次;投资带给他的教训是:“高风险押注没问题,只要你选择的是那种一旦成功,价值就极其巨大的押注。”
  • 他筛选研究者的标准与筛选创始人的标准相似:寻找“非标准”的人,寻找那些“愿意坚持非常不受欢迎、很可能是错的信念,但如果是对的,至少会对得非常彻底”的人,而不是“在所有人已有的同一个想法上覆一层薄薄的外壳”。2015年,只有DeepMind和“另外1、2家”在追逐AGI,同时有成千上万家创业公司在做照片分享应用;如今所有人都想做AI实验室,但仍有“两三家,随便说”在做全新的事情,而这些事情只有在AI变得足够强大后才成为可能。
  • Senra回忆说,Dario曾认为,某个“修行者型研究者”可能从一个此前无人考虑的角度破解AI,并愿意为此押上一个小比例的概率。Altman说:“这种可能性当然存在,而且我喜欢这一点。这正是事情始终令人兴奋的原因。”

4. “一件事越像不可能,我就越感兴趣”

  • 起点是一个在St. Louis长大的书呆子男孩:喜欢机器人和科幻,大约在2005年上大学时想研究AI,却被一位教授告知:“我们唯一确定不起作用的东西就是深度学习……这是保证你职业生涯失败的最佳方式。”他认为自己真正与众不同的地方不是兴趣本身,而是回应方式:“我当时觉得,奇怪,那就试试。”
  • 他也提醒说,自己的记忆并不完全可靠——“我现在的工作在多大程度上给记忆染了色”。但如今最让他兴奋的是AI用于科学发现,“甚至比自动化其他任务更重要”,他还提到自己重读了《无穷的开始》。
  • 他那条罕见的“先做投资人、再做创始人”路径,让他得以观察多家公司里的各种“关键时刻”:解雇高管、做出高风险战略转向,而不是只拥有自己5年或10年的有限运营经验。“我当时拥有的数据集之丰富,实在太棒了。我强烈推荐这种经历。”Senra说,Doug Leone只能想到一个类似案例:Nubank的创始人。

5. Shannon和Turing是对的——而人类始终是重点

  • Senra讲述了这段历史:1940年代,Shannon和Turing每天在Bell Labs喝咖啡,预计到约1955年机器就会比人类更聪明,并希望机器能够解决数学问题、写诗、治愈疾病。Altman说:“我真的很遗憾他们没能亲眼看到这一切,因为他们几乎在所有事情上都判断正确……我想他们会说,好吧,你们做到了。”
  • 对于人们是否会更喜欢AI播客,Senra认为,在AI时代之后,以连接为基础的工作会更有价值。Altman同意,大多数人的底层设定仍然是关心他人、与他人相处并和他人互动;那些“只想和电脑交流”的人只是“人类中的极小一部分”,所以即便有了超级智能,“世界整体上也不会变得那么不同”。

6. 两大风险,以及“亲爱的贱民们”式推销话术

  • Altman最担心的两件事彼此存在张力:失去控制——“AI以某种方式变得过于强大,以至于我们无法确保自己想要的控制”;以及权力集中——“某家公司、某个模型或某个人”掌握过多权力。两者最终都会导向反人类的结果:“人类才是这一切的全部意义。”
  • 他将行业中一部分人的逻辑讽刺为:“我们要给这个世界治愈所有疾病的药,还要让商品变得非常便宜,交换条件是人们放弃对自身自主权和未来的影响力”,同时伴随“极其严重的不平等”。翻译成一句话就是:“亲爱的贱民们,我们将把这些礼物赐予你们……你们只管相信我们。”他的结论是,这“是一种非常反人类的推销话术”。之所以有人如此表达,是因为“恐惧和权力”:风险规模被描述得越大,就越能用安全之名交换自由,最终为大量追逐权力的行为提供正当性。

7. 迭代部署就是安全策略——而现在会越来越难

  • 他与末日论者的分歧在于:他同意每个阶段都应倾向于安全和谨慎,但不同意“这是一个无解的问题”。最初,人们普遍确信AGI不可能在10年内出现;即便出现,也会因对齐失败而导致世界末日。10年过去,OpenAI已经造出了当时看起来会非常像AGI的东西,而预言中的世界末日并未发生——“这应该促使人们更新对未来的预测”。
  • 这套方法直接来自创业公司:发布产品、获得反馈、观察它在哪里出问题。OpenAI在不到4年内获得10亿周活跃用户,并在总体上被认为安全的前提下完成部署——“我们不可能在象牙塔里做到这一点”。他的模板是FAA:“极其稳健的事故报告机制,极其清醒”,包括清晰的事后复盘,以及把经验教训分享给其他AI开发者。
  • 他的限定语保持原样:“世界上最聪明的人,大致和世界上最聪明的模型一样聪明。而这现在就会逆转。”未知的未知在绝对意义上会变得更难应对,迫使人们做出“何时推迟开发……或者等待更久、真正深入研究”的艰难决定。

8. 人人都在用AI,人人都讨厌AI——一场自我造成的伤害

  • Altman对Senra这一困惑的回答是:一部分抵触来自健康的社会惯性,但很大一部分是行业自己的宣传造成的——人们一边说“我们有25%的概率毁灭世界”,一边又说要加速前进;或者说“明年50%的工作岗位会消失,希望大家能接受”。行业完全缺少这样的论述:“为什么让人们在这个世界上拥有更多权力和个人自由,而不是更少,这件事很重要。”
  • Senra以Intel的“三位一体”为反例:Noyce、Grove和Moore曾停下手头工作,向潜在客户、投资人乃至整个国家普及微处理器;他们一度开设的课程,比当地社区大学的全部课程目录还多。Altman说:“没有借口。我们应该做得更多。我们尝试过几种版本,但还没有真正做对。”
  • 这个行业没有讲够的上行叙事是:“我们即将迎来人们创办小型企业规模最大的一轮繁荣。”创办公司过去一直需要特权、运气和资源,而AI正在赋予更多人这方面的能力;然而“整个行业,包括我们自己,都没有充分谈论这一点……我们也没有打造足够多的产品来加速这件事”。

9. 瓶颈正从智能转向上下文

  • 面对最新一代“已经相当聪明”的模型,Altman说:“在这个阶段,我感觉自己更多受限于AI掌握的关于我的有效上下文规模。”他希望有一个智能体读完每一条内部Slack消息、每个客户案例,以及多到超出他精力所能阅读的研究论文,然后“调动这些上下文,在我必须做决定时给出好的建议”。他的判断是,我们“正站在一个新维度的门槛上”:没有任何人能在几秒内读完数万页上下文。
  • Senra现场演示了自己的工具:自2018年以来,该工具已经读入他的每一条读书笔记、标注和Founders播客文字稿;在制作最近一期Claude Shannon节目时,他直接询问工具:“Bob Noyce对此说过什么?”Altman回应:“这太酷了。”

10. 平台而非产品——以及砍掉好想法的纪律

  • 结构上,ChatGPT和Codex刚刚合并;Codex这个名字“有点遗憾”,因为它从来不只是做编码。新的产品形态是:为个人或企业的AGI提供“一个统一界面”,再加上API——“我们将在成本—性能曲线的每个位置提供优秀AI”。这既不是与客户竞争,也不是要吞并整个经济,而是让“1亿家新企业和80亿人”以各种新方式使用它。
  • 具体的牺牲包括:“比如去年,我们砍掉了Sora——它是个好产品,既有趣又酷,但消耗了大量算力,而且没有Codex重要”;以及Atlas浏览器——“它是最好的网页浏览器,但还不如把那批人才放到其他更重要的地方”。剩下的主线是“面向知识工作的通用智能,以及最终面向科学的通用智能”,再加上所有上游环节:自研芯片、自建数据中心、基础设施软件和训练。
  • Altman对这套纪律也毫不回避:“砍掉好想法、转向伟大想法,是任何创业者最难学会的课程……我在这件事上很糟糕。我知道自己做得不好。”

11. Thiel的搜索框、Graham的指点,以及Altman真正会打给谁

  • Altman明确提到两类顾问:一类是长期任职的OpenAI研究者,他们拥有他在外部无法复制的“共同语言、直觉和标准”;另一类是在非显而易见的商业问题上,他会找Paul Graham和Peter Thiel——“如果LLM做的是预测下一个词,那么这两个人是我最难预测下一个词会是什么的人”。
  • Thiel给出的典型建议发生在ChatGPT发布约2个月后:增长感觉“不稳定,甚至有点像低价值产品”,内部人士已经提出5、6个其他重点方向。Thiel说:“除了继续增长之外,对它做任何其他事情都是显而易见的错误……它的力量来自Google搜索框的力量。”它没有信息流,没有网络效应,也没有硅谷清单上的任何典型要素,而这恰恰是它奏效的原因。“我们全力投入,结果非常好。”Senra将其概括为:“简单的天才。”
  • Graham的作用更像是一套反复出现的原则,尽管他的具体建议并不总是相同——那种“你知道你应该做什么”的指点,有时非常好,有时也非常糟糕。Altman已经把“等到产品让你感到尴尬再发布”的原则内化到如此程度,以至于他不认为自己在发布ChatGPT前询问过Graham:“我知道他会说什么。”Senra在这里讲了Munger的故事:Munger说他和Buffett已经“从不”再打电话讨论,因为“Buffett只要假装拿起电话,就已经知道我会说什么”。

12. 4.5年没有产品——那场白板会议

  • OpenAI的创立违背了YC的核心打法:从成立到推出第一款产品用了4.5年。Altman记忆最清晰的是2016年1月初:11或12个人聚在Greg Brockman的公寓里,怀着开学第一天般的兴奋,有人拿来一块白板,然后“你能感觉到房间里的能量瞬间塌了。我们谁都不知道该做什么”。那段时期留给他的主导记忆则是:“试图筹钱却不断失败。投入了那么多精力,实在太令人沮丧。”
  • 他们向Alan Kay和其他伟大实验室时代的老兵请教;那是硅谷把OpenAI当作Bell Labs或Xerox PARC式理想主义项目的时刻。但“有些建议并不适用”,因为不同于Bell Labs或Polaroid,OpenAI没有一台垄断性的现金机器。
  • 有效的客户信号替代品包括Dota 2排行榜:让不同想法接受客观竞争;以及“面向研究者真正想取悦的杰出人物进行外部演示”的惊人力量。无效的则是“人为设定的截止日期”。在“基本靠混乱摸索”的过程中,无监督情感论文变成了GPT-1,而关于规模定律的工作则让他们获得了继续扩展的信念。

13. YC像一支有影响力的乐队、向成功学习,以及写给儿子的信

  • 谈到YC的影响力,Senra提出了一个自己并不确定的“影响了所有乐队的那支乐队”类比:Altman认为是The Band,Senra则觉得可能是Velvet Underground。YC的价值不只体现在回报上,它的理念——迭代部署、由技术人员掌舵、押注那些没有经过履历验证却年轻而有野心的人——重塑了整个生态。Altman给出明确判断:如果把时间拨回2004年,保留当时的技术、换回旧生态,“我不认为OpenAI会成为可能”。
  • 他的反直觉学习论是:“你能从失败中学到一些东西,但我认为你从成功中学到的要多得多。”失败带来的教训往往是相当泛化的坚韧与决心,或者难以做因果归因——“大多数事情都不会成功,所以事情失败有很多原因”;而成功经验一旦向前应用,“非常有用,而我本应更多地运用它们”。Senra提出的框架得到了他“极其强烈”的认同:创始人不需要新的教训,而需要教会——不断提醒自己“更多和用户交流、更早发布产品、提高招聘标准”。
  • 第一个孩子出生后,Altman曾在每周日写信,记录自己一周的经历——“总共也就写了8封”。Senra解释了这种做法的作用:“你真的无法躲在任何东西后面……我非常在意孩子将来会怎么看我,所以这件事发生了,我对它感觉不好,下周得换一种做法。”Senra引用Michael Moritz的《小王国》继续劝他写下去,因为那些没有写日记的创始人后来都会说同一句话:“我真希望自己写过日记。”