主题 先锋 趋势 方法 作者
返回

我与 Dylan Patel 和 Stacy Rasgon 的对谈

·Chipstrat

正在生成长图…

本篇主题 算力云债务与宏观流动性 AI集群硬件与网络物理瓶颈 AI算力基建投资与尽调测算 头部模型护城河之争 AI芯片内存墙与存力瓶颈 企业私域AI训练与真实算力需求
本篇先锋 Stacy Rasgon

摘要

  • 融资正成为供给约束,但 Rasgon 认为未来1到2年大概率还好。 Patel 表示,neocloud 越来越需要强劲的承购协议或芯片供应商兜底;即便是有大型 AI 实验室合同支撑的项目,债务成本也可能高达13–15%。Rasgon 认为,这些制约或许会带来“更强劲、更持久”的行情,因为它们能避免产能过度建设。
  • 到2028年,基板和存储可能比电力更限制 AI 部署。 Patel 称基板是“所有瓶颈中最大的瓶颈”,并估计明年全球数据中心建设规模接近50吉瓦;现场发电有助于缓解电力限制。Rasgon 认为2028年大概率仍会吃紧,到了2029年,关键将转为需求问题。
  • 基础设施价格上涨,正在重分配 AI 供应链各环节的利润。 Patel 估计,每吉瓦建设成本已超过600亿美元,高于2024年的约400亿美元;等产能建成后再出售,价格可能远高于提前签约。Rasgon 表示“通胀在 COVID 期间救了这个行业”;眼下的角力在于,哪些供应商能守住毛利率,哪些客户要承担上涨的成本。
  • Nvidia 能否守住毛利率,取决于性能提升能否快于价格上涨。 Rasgon 指出,Blackwell 到 Rubin 的参考成本从每吉瓦约250亿美元升至400亿美元,对应的性能提升据称达到10倍。如果假设中的 Feynman 只快20%,他就会担心:“你得持续给客户创造价值。”
  • Patel 预计 Nvidia 的 CoWoS 和 HBM 份额会下滑,但明年盈利仍至少翻倍。 他的团队称,OpenAI 的首款芯片在 InferenceX 上运行开源中国模型时胜过 Blackwell,这让“芯片设计会不会像软件一样走向商品化”成为更尖锐的问题。Rasgon 强调年度新品发布、规模和融资能力是防线;两人都将估值低迷与竞争忧虑联系起来。
  • 企业采用 AI,需求或主要来自生产率提升和购买 tokens。 Rasgon 说,Claude 用80分钟完成了一周的建模工作,不过他认为回报方面的证据虽令人鼓舞,但仍处于早期。Patel 预计,批处理效率和模型规模经济会推动企业使用云端算力:“大多数人最终都会直接买 tokens。”

精读

1. 资本约束可能拉长建设周期

  • 对 Rasgon 来说,融资是首要担忧,但“未来1到2年大概率还好”。CoreWeave 约15%的无担保债收益率反映的是二级市场交易,并非其当前融资成本;它所显示的是新增无担保融资可能要付出的代价。收入能否追上,取决于当下算力短缺能持续多久。
  • Patel 表示,neocloud 占建设总量近一半,但融资越来越依赖高信用等级的承购协议。即便有 Anthropic/OpenAI 合同支撑的项目,债务定价也达到13–15%。他认为,超大规模云厂商明年不可能支出超过2万亿美元,而小型客户很难通过这些渠道之外的方式为产能融资。
  • Nvidia 的兜底安排可以保证每小时3.50美元的租赁价格,也就是“云厂商一分钱都赚不到”;若其他租户支付更高价格,双方再分成。Patel 举例称,Sharon AI 和 Fermi 的分成比例为50%,Lambda 的 Anthropic 集群则为10%。Broadcom 把 Anthropic 的付款分摊到几年内,实质上是“先租后买”。
  • Rasgon 看好“更强劲、更持久”的行情:约束可能推迟供给,而不是重演暗光纤过度建设。Patel 表示,Meta 承诺的算力和数据中心支出达1.4万亿美元;更广泛的市场可以基于这些承诺为产能融资。

2. 材料和洁净室可能先于电力成为瓶颈

  • Patel 将基板列为首要瓶颈,其次是存储,再往后是显著的光学器件约束。他认为,保守的日本材料供应商投资不足,限制了加速器、CPU 和其他零部件的供应。就连一家大型公司也无法满足其2028年全部共封装光学器件需求,受限环节包括激光器、光纤连接及相关组件。
  • 面对市场对电力的关注,Patel 估计明年数据中心建设规模接近50吉瓦:美国约35吉瓦,中国约7到8吉瓦。现场涡轮机、往复式发动机和燃料电池都能提供替代方案。Rasgon 认同这些方案可行,但承认自己不确定涡轮机的交付周期。
  • 存储股目前的预期市盈率为2到4倍,Rasgon 因此追问:如果市场担心的价格崩跌并未在供给于2028年前后增加时出现,会怎样?存储约占 AI 机架硅片面积的70–80%;每吉字节 HBM 所需晶圆量是 DDR5 的3到4倍。需求继续增长,可能让供给持续紧张。
  • 今年晶圆制造设备的估算起初约为1200亿美元,最终可能接近1550亿美元;一家供应商对明年的初步展望已超过2000亿美元。Rasgon 表示,安装受到洁净室空间限制。部分新空间将在2027年交付,更多要到2028–29年。他认为2028年“可能仍会吃紧”;至于2029年,“我不知道”。

3. 定价权正在重分利润池

  • Rasgon 的判断是,“通胀在 COVID 期间救了这个行业”。2023–24年行业出货量与2019年持平,但综合平均售价(ASP)高出50%,即便不计存储也是如此。他预计今年半导体收入约为1.5万亿美元,甚至可能更高;存储 ASP 贡献了增长的70–80%,出货量则增长约10%。
  • Patel 对比称,TSMC 的毛利率从45%稳步升至60%,而存储行业几年前的毛利率还为负。TSMC 维护长期合作关系;存储供应商则会根据客户的周期性议价作出反应。如果 Apple 在下行周期压价,“周期向上时他们就会狠狠报复 Apple”。
  • Patel 估计,每吉瓦建设成本已超过600亿美元,高于2024年的400亿美元。等产能建成后再出售,Musk 就可以争取每吉瓦500亿美元,而不是150亿美元;Patel 称,Anthropic 每吉瓦推理产能能创造700亿至800亿美元收入。Nvidia 提价并不意味着毛利率上升:内存等投入成本上涨,毛利率大致持平或略有下滑。

4. Nvidia 必须持续扩大性能与价格的差距

  • Lyons 问客户何时才会拒绝不断上涨的成本。Rasgon 的回答是看性能:Ampere 到 Hopper,ASP 大致翻倍,性能提升约10倍;Hopper 到 Blackwell,ASP 上涨约50%,性能提升3到30倍,优化后可能更高。Blackwell 到 Rubin 的参考成本从每吉瓦约250亿美元升至400亿美元,但 Rasgon 称性能提升达到10倍。客户也能从每吉瓦算力中获得更多产出。
  • Rasgon 明确表示,只要“这个差距还在扩大”,更高的价格就仍然可以接受。如果假设中的 Feynman 只快20%,他就会担心定价和毛利率。创新放缓将迫使供应商自行吸收成本,最终演变为一场“谁来买单的恶斗”。

5. 定制芯片会先挤压毛利率,增长随后才受影响

  • Patel 表示,OpenAI 的首款芯片在 InferenceX 上运行开源中国模型时胜过 Blackwell;他的团队在 OpenAI 实验室进行了测试。AI 参与了芯片设计和编程。Anthropic 希望用 OpenAI 一半的开发时间做出自己的芯片,目标“很激进”,能否实现取决于模型是否能加速研发流程。
  • Patel 称,让 Nvidia 在 InferenceX 上跑起来花了6个月,OpenAI 只用了1个半月。他提出疑问:芯片设计会不会像软件一样走向商品化?其中的经济诱因很大:去掉芯片设计公司的利润,他估算每吉瓦约600亿美元的成本栈可降至200亿美元。固定的光罩和 EDA 成本仍约为5000万美元,此外还有数据和规模化方面的挑战。
  • Lyons 问,Nvidia 份额下滑是否意味着芯片出货量减少。Patel 更倾向于看 CoWoS 晶圆、HBM 和相关支出,因为芯片尺寸各不相同。他预计 Nvidia 明年份额还会进一步下滑,尽管盈利至少翻倍。初创公司还面临另一道门槛:Cerebras 和 Groq 说明,只有“真正疯狂”、让现有厂商难以复制的方案才有机会。
  • Rasgon 强调,年度新品发布、生态系统、已部署基础设施和融资能力都是防线;Nvidia 也在用 AI 辅助设计。他认为 CUDA 的护城河仍有讨论空间。9或10个月前的一份研究发现,过去10年里 Nvidia 相对 SOX 指数估值更低的交易日只有13天;如今估值更低了。“这是一场竞赛。”

6. 企业回报不一定需要企业自购硬件

  • Rasgon 表示,Nvidia 的收入大约一半来自超大规模云厂商,另一半来自非超大规模客户,但实验室需求横跨这两类客户;实验室直接和间接贡献约20%。他说:“没有企业采用,就没有这个行业。”编程已经成为一个杀手级应用。
  • Rasgon 的团队此前试过用 AI 建模,结果“一塌糊涂”。最近,Claude 用1小时20分钟建出一个模型,纳入了10年历史数据、业务重分组,以及参考 CEO 讲话得出的预测。一位同事原本需要一周。Rasgon 认为,生产率回报的证据令人鼓舞,但采用仍处于早期。
  • Patel 预计,大多数企业会购买 tokens,再与自己的数据结合使用。批处理效率和模型规模经济更有利于这种方式,而不是企业自己买硬件、运行模型。他还补充说,即便是制药公司和对冲基金,大部分算力和 AI 支出可能也会投向模型,而不是购买算力来运行开源模型。因此,企业采用 AI 可以扩大,而无需同步出现一波企业自建加速器的采购潮。