先锋 趋势 方法 投研 作者
Jensen Huang:NVIDIA——4万亿美元公司与AI革命|Lex Fridman Podcast #494
返回节目精读

Jensen Huang:NVIDIA——4万亿美元公司与AI革命|Lex Fridman Podcast #494

摘要

  • NVIDIA的竞争单元已经从GPU扩展到整个AI工厂,因为现代工作负载必须拆分到计算、模型、数据和流水线,并围绕这些环节共同设计网络、内存、电力和散热。 Huang援引阿姆达尔定律:如果计算只占工作负载的50%,即使把计算加速到无限快,整体性能也最多翻倍。过去10年,围绕全栈进行极限协同设计,带来了据称100万倍的计算能力提升,而Moore定律带来的提升约为100倍;与此同时,token成本正以“每年一个数量级”的速度下降。

  • CUDA的装机基础,而非任何单颗芯片的优雅程度,才是NVIDIA最根本的护城河。 在NVIDIA毛利率只有35%时,把CUDA装进每一块GeForce GPU曾让产品成本增加50%,并助推公司约60-80亿美元的市值一度跌向15亿美元;这笔押注花了10年才开始兑现。它最终为研究人员和开发者铺开了无处不在的硬件基础:“NVIDIA是GeForce盖起来的房子。”

  • Huang认为,预训练、后训练、测试时推理和智能体倍增构成4条相互强化的规模定律,但最终都受制于算力。 合成数据把训练瓶颈从稀缺的人类数据推向计算;推理并不是轻量、同质化的商品,因为“推理就是思考”;智能体还能生成由子智能体组成的团队,并将成功经验回流训练。结论是绝对的:“智能只能靠一件事扩展,那就是算力。”

  • NVIDIA试图通过研究、客户可见性和可编程架构,用约3年的硬件周期承接6个月一次的模型架构周期。 CUDA 13.2保留了适应性;NVLink 72的定位,是让参数量达4万亿或10万亿的混合专家模型进入同一个计算域。Grace Blackwell围绕MoE大语言模型推理优化;Vera Rubin则加入Vera CPU、存储加速器,以及另一种名为“Rock”的机架,因为智能体需要文件、工具、研究和I/O。

  • Huang认为,电力和供应链产能这些约束,可以通过工程、合同和供应商投资解决,而不必被视为固定上限。 一套Vera Rubin机架包含约130万-150万个组件,来自200家供应商;NVIDIA每周可能需要约200个pod。将组装环节前移意味着,即使制造和测试也需要GW级电力。Huang表示,目前并不担心ASML、TSMC封装或内存产能,因为“我告诉了他们我需要什么”,并相信他们的投资计划。

  • Huang认为,尚未充分利用的电网,是近期增加AI产能的首选来源。 他估算,电网大部分时间只运行在峰值的约60%,但僵化的“六个9”合同迫使数据中心和公用事业按最坏情形预留容量。他提出的替代方案是可优雅降级的计算:在罕见峰值期间接受80%的电力配额,迁移关键工作负载,让其他系统降速运行,并购买差异化的电力保障,而不是要求所有环节都做到绝对完美。

  • Huang并没有直接给NVIDIA定下10万亿美元估值;他的论点是,如果计算变成能够创造收入的工厂,而不是存放文件的仓库,经济规模就会大得多。 他称增长“极有可能”且“不可避免”,表示每百万个专用token收费1,000美元“就在眼前”,并预计计算在GDP中的占比将达到历史水平的100倍。当被问到NVIDIA是否能“在不远的将来”成为一家营收3万亿美元的公司时,他回答“当然可以”,同时强调,这个机会在很大程度上尚未存在,因此也还谈不上通过抢市场份额来捕获。

  • 在Lex刻意收窄的测试标准下,Huang声称“我们已经实现了AGI”:一个智能体可能创建出短暂走红、价值超过10亿美元的服务,但由10万个智能体共同打造NVIDIA的概率是“0%”。 谈到就业,他将工作的目的与可自动化的任务区分开来:AI让计算机视觉超越人类,但放射科医生的就业人数反而增长;自然语言规格说明则可能把编码人群从3,000万人扩大到约10亿人。他给出的实际建议很直接:在其他条件相当的候选人中,他会选择精通使用AI的人。

精读

上游暂未提供,后续同步将继续补齐。