先锋 趋势 方法 投研 作者
从芯片到电力,人工智能如何重塑计算
返回节目精读

从芯片到电力,人工智能如何重塑计算

摘要

  • a16z 正在推出一只瞄准 AI 硬件瓶颈的新基金,而最清晰的信号来自创始人转向硬件:顶尖创始人的硬件项目占 deal flow 的比例,已从约 3–5% 飙升至“超过20%甚至30%”。 Casado 的判断是:“创始人群体往往比 VC 群体聪明得多,他们已经认定这是一个非常活跃的领域。”基金覆盖的是“计算机科学基础设施”——模型运行所依赖的一切,从芯片、互联网络“可能一直到电力”,但不包括受监管的垂直行业。
  • 反炒作证据异常具体:Raghuram 称,超大规模云厂商今年资本开支约7000亿美元,明年合计将接近1万亿美元;Casado 称供应“基本已经预订到2028年”,GPU 转售价达到采购价的4倍,而可触达市场目前只覆盖了5–10%。 Casado 表示,“我们从未见过芯片价格上涨”,Horowitz 则指出芯片价格通常只会下跌。在 Hot Chips 大会上,一家领先内存供应商称,仅当前需求就需要消耗其3年的产能;与暗光纤时代不同,“现在生产出来的每一块 GPU 都已经预售”。
  • 核心经济变化在于:《人月神话》不再支配这一瓶颈——资金投入如今可以直接转化为能力,工程本身不再提供天然的约束。 Horowitz 称,过去通过雇佣1000名工程师追赶两年领先“从来不会奏效……但现在可以了”,方式是“投入30亿美元,点亮一座壮观的集群”——这就是 Grok 或 Kimi 如何“凭空出现”。Casado 预计 token 需求将“接近每年增长1000%,而供应不可能以那么快的速度增长”;Horowitz 则认为算力需求还将持续数十年。
  • 本期最具交易价值的思维模型,是 Casado 关于单模型 ASIC 的测算:一款成本30亿至50亿美元的前沿模型,需要约100亿美元的推理回报,因此20%的效率提升就价值20亿美元——“你完全可以用20亿美元做出一颗 ASIC”。 模型权重固定,使得按模型定制芯片变得可行,而传统有状态软件并非如此;不过 Casado 也表示,他们还不知道行业是否真的会走向这一步。硬件优化如今“绝对会对业务上行空间产生实质影响”。
  • 物理瓶颈确实存在:机架功率需求正从约5–10kW走向“100到50千瓦”;这一功率水平下交流电已经不再适用,液冷也已成为入场门槛;美国电气工程师或电工中只有2%持有直流电认证;钢筋混凝土价格涨幅居前;而到2028年约44GW的新数据中心需求,对应的电网新增供给预计只有约25GW。 美国的障碍如此严重,以至于新公司往往要去“墨西哥或澳大利亚”寻找 GPU 产能。
  • 现有巨头不可能吃下全部市场:面对数万亿美元级的芯片巨头,“其中5%就足以造就一家规模巨大的私营公司”,而 NVIDIA 理性地不会去捡银砖,只会牢牢抓住金砖。 市场会先扩张、再分化,正如从 Ford、Fordlandia 最终走向供应商生态的类比;而绝望中的实验室已经在“硬件真正可用之前,就与相关公司签下协议”。
  • 关于 agents,Casado 的框架是:正确的载体不是你的延伸,而是“一名真正的员工”,拥有自己的电脑和浏览器。 Horowitz 坦言自己还没有“破解这套方法”:机器人“可以烧掉大量 token、花掉大量资金,却没有产出任何有用的东西”;目标是“让所有人类都变成超人,同时不能因为机器人失控而把整个组织搞垮”。

精读

1. Machine Age 基金:瓶颈已经下沉到“模型之下”

  • Horowitz 的开场框架是:“我们拥有一种全新的技术,这是有史以来最重要的技术”,而每一种这样的技术都需要一套全新的基础设施——“不仅需要新芯片、新系统软件,还需要新的供电方式,需要替代铜……几乎一切都要重做。”
  • Casado 的表述是:过去基础设施意味着服务器、存储和网络;“但现在一路下探到了铜矿。”模型能力提升得“越来越快”,已经“不再是瓶颈”,如今瓶颈在模型之下的所有环节。
  • Casado 观察到,硬件过去可能只占顶尖创始人 deal flow 的3–5%(Horowitz 认为3%,“5%可能已经算慷慨”),如今已超过20%乃至30%。“创始人群体往往比 VC 群体聪明得多,他们已经认定这是一个非常活跃的领域。”基金的明确投资范围是“计算机科学基础设施……模型运行所依赖的一切”——芯片、网络、互联、存储,“可能一直到电力”,但不包括受监管行业或垂直化行业。
  • 基金没有新增 GP;团队称,硬件经验本来就写在其基因里,包括早期投资 SpaceX、Anduril、Astranis 和 Waymo。

2. 为什么这不是炒作周期:GPU 已预售,芯片价格反而上涨

  • Raghuram 列出的需求账本显示,超大规模云厂商今年资本开支约7000亿美元,明年合计据称将达到约1万亿美元;而云厂商看到的需求来自各个方向:前沿实验室、AI 原生公司、企业客户以及海外市场。应用公司全都在高速增长。
  • Casado 补充称,目前可触达市场只覆盖了5–10%。供应“基本已经预订到2028年”,几千块 GPU 的交易要经过持续数日的竞价,转售价则达到采购价的4倍。
  • 价格是关键线索:Casado 表示,“我们从未见过芯片价格上涨”;Horowitz 则称,芯片价格通常会下跌。在斯坦福举行的 Hot Chips 大会上,一家领先内存供应商表示,不是未来需求,而是今天的需求,就足以填满其3年的产能。
  • 互联网泡沫时期的对比在于:1998–99年的建设潮押注的是投机性暗光纤,当时没有用户消费这些产能,也没有可行的视频应用;而现在,“生产出来的每一块 GPU 都已经预售”。
  • Raghuram 讲了一个轶事:一家对云迁移持抵触态度的大型上市公司,其 CFO 发现服务器里的内存增量如此之大,产生的价值足以覆盖整个云迁移。

3. 《人月神话》不再支配这一瓶颈:资金可以直接兑换成能力

  • Casado 的宏观判断是:过去,建设本质上是一个有天然约束的工程问题;如今“真正的问题是资源限制”——“从资金投入,到硬件创造智能,中间已经没有任何阻隔。”
  • Horowitz 解释了为什么领先优势不再构成保护:过去,靠雇佣1000名工程师追赶两年的领先“从来不会奏效……但现在可以了”。方法不是再招工程师,而是“投入30亿美元,点亮一座壮观的集群”,于是“无论如何,Grok 都可能凭空出现……或者 Kimi”。
  • token 需求持续倍增的来源包括 RL、思维链和长时间运行的 agents,它们本质上都是推理。Raghuram 表示,“没有谁比 AI 更喜欢使用 AI”;甚至让 AI 编写 GPU kernel 来创造更多 AI,也构成了自催化循环。单位工作量的价值在上升,受益者则从开发者扩展到所有知识工作者,乃至更广泛的人群。
  • 即便有预言家也无济于事:“我们进入这轮浪潮才4年”,而芯片周期为3–4年,数据中心周期为4–5年,“我们不可能提前建好这些产能”。
  • Casado 认为,更合适的类比是蒸汽机或电力——未来“可能有30–40年都在把算力投入到问题中”,前提是问题具有清晰的回报信号。语言和代码已经建立起来,计算机使用才刚刚开始,之后还会扩展到科学、材料、生命科学和创造力。

4. Agents 是员工,而不是你的延伸

  • Casado 对这一问题的认识经历了三阶段:先把 AI 当作一项功能,“就像搜索框”;随后进入聊天阶段;再后来,OpenClaw 成为你的延伸,“共享你的密钥、知道你的密码”;最终,Clawdbot 真正抓住了关键:“它实际上就是一名员工”,拥有自己的电脑和浏览器。
  • Erik 讲到,他曾在一个周末里让它更新自己在多家服务商处登记的信用卡,并取消订阅。“这不是编程……这是真正的计算机使用。”
  • 需求来源正在扩展。Erik 提到,一款 ChatGPT 应用每周活跃用户约10亿,约3000万名开发者也在使用模型,并消耗了相当大一部分算力。Raghuram 则表示,计算机使用机器人相当于创造了5亿名知识工作者;具身 AI 和机器人则是尚未完全到来的另一大需求来源。
  • Ben 对组织问题直言不讳:这些新员工“可以烧掉大量 token、花掉大量资金,却没有产出任何有用的东西……它们可以编造内容……也可以制造安全问题”,但同时也能“极其高效”。他明确表示自己并没有宣称问题已经解决,目标是“如何让所有人类都变成超人,同时不能因为机器人失控而把整个组织搞垮”。Ben 称,在尝试了多种方法后,Martin 提出的“就把它们当人看”最经得起时间考验。

5. 从第一性原理重建技术栈:可能每个模型都需要一颗 ASIC

  • Raghuram 的方法是把推理引擎拆解为基本要素:计算究竟是什么,也就是矩阵乘法;内存应如何分层组织;芯片如何在芯片内部、芯片之间以及数据中心之间连接;每次传输需要消耗多少电力;然后“从这些基本构件出发重新搭建”。这一工作“目前正在行业内展开”,机会也正在这里。
  • Casado 给出了按模型定制 ASIC 的测算:训练一款前沿模型需要30亿至50亿美元;推理端需要实现约2倍回报,也就是100亿美元。节省其中20%就价值20亿美元——“你完全可以用20亿美元做出一颗 ASIC”。传统软件具有状态且动态变化,而模型权重是固定的,因此每个模型配一套定制芯片具备可行性;但 Casado 表示,他们还不知道行业是否真的会走向这一步。
  • 这种模型经济学前所未有:“我不认为在整个行业历史上,我们曾经创造过一种数字资产,有50亿美元直接投入其中。”
  • 值得保留的利润率判断是:软件业务跑通后,软件毛利率往往自然形成;但在 AI 时代,“硬件优化对业务上行空间的意义绝对不可忽视,这是过去从未出现过的情况”。

6. 电力、散热与混凝土:物理世界的墙

  • 机架功率需求正从约5–10kW走向“100到50千瓦”。Horowitz 称,这意味着“交流电已经不再适用”;直流电需要独立的冷却系统,而且“极其危险”。讽刺的是,爱迪生当年还曾通过电击动物来攻击交流电。美国电气工程师或电工中只有2%持有直流电认证;Meta 目前正在提供免费培训——“AI 将创造大量新的电工。”
  • 许多现有建筑设计已经过时:地板必须承受更高密度的机架,墙体必须加厚以隔绝噪声;“一旦进入 Feynman 时代,今天的数据中心中能继续使用的比例会大幅下降。”钢筋混凝土是价格涨幅最快的材料之一;超大规模云厂商也在尝试用机器人组装和安装服务器。
  • Casado 做了一个规模校验:1GW 电力大约相当于5万户家庭的用电量;他的家乡亚利桑那州 Flagstaff 人口约4万至6万人,耗电量还不到1GW。但主持人援引的数据显示,到2028年新增数据中心需要约44GW电力,而电网预计只新增约25GW。
  • 变压器和涡轮机都短缺,许可审批和电网接入也面临监管障碍;新公司如今开始去“墨西哥或澳大利亚”寻找 GPU 产能,“因为在美国实在太难了”。
  • Horowitz 提议建立一项标准,让数据中心向当地反哺:“电力质量变好,没有噪声,也没有用水问题,还能创造就业。”一些数据中心已经在这么做:白天向州政府供电,夜间州内需求较低时再借电;它们的能源费率也在逐年下降。

7. 为什么 NVIDIA 之外仍能出现初创公司,以及谁来建立它们

  • 历史上曾出现过独立公司:互联网转型时期有 Cisco 和 Juniper,超大规模数据中心时代有 Arista。但 Casado 表示,相比当前这轮变化,过去那些转型都相对有限,因为这一次“每一件事都不一样”。
  • 市场逻辑在于,tokens/秒/美元、tokens/瓦、tokens/机架等指标仍会持续改善,而电力效率也需要新的创新。Casado 补充称,面对数万亿美元级的现有芯片巨头,“其中5%就足以造就一家规模巨大的私营公司”。Horowitz 举了 Alex Rampell 向 Facebook 推销 TrialPay 的例子,Dan Rose 当时说:“我手上有这么多金砖,连一块都捡不完,所以我最不会做的事,就是去看一块银砖。”
  • 市场在扩张后会走向分化。Casado 以 Ford 1913年在 River Rouge 的工厂为例,说明极端的垂直整合;Horowitz 又提到 Fordlandia——Ford 在亚马逊打造的美国化橡胶种植园城市——其最终陷入困境,原因之一是要求工人“准时参加各种活动”。同样,“过去推理只有一种简单架构,但现在已经不是了”。
  • 创始人画像也不一样:首轮融资往往在产品推出前就达到数亿美元,这些必须是从第一天就考虑制造和供应链的“系统型创始人”。Martin 说,“Jensen 是这个领域的 Michael Jordan。”Raghuram 指出,内存专家“并不年轻”;但他同时表示,他们所有的投资项目都是由2名20多岁的创始人创立,再与经验丰富的人一起工作。
  • 两个顺风因素正在加速行业发展:绝望中的实验室已经在“硬件真正可用之前,就与相关公司签下协议”,后续融资也更容易获得。
  • 名称与 stakes 在于:Martin 表示,“人工智能这个词错了……应该叫机器智能”,它是“人类思考方式的缓存”;这个命名也承认了硬件的核心地位。Horowitz 认为,未来5–10年的胜负标准是“美国赢在基础设施”,拥有环保型数据中心,以及充足的芯片、内存和电力。他说,美国是一个特殊的地方,一个一无所有的人也能来到这里,做出意义深远的事情;如果失去技术领先地位,可能迎来“另一个时代、另一个国家,也许他们拥有一套不同的价值观”。