Jensen Huang：NVIDIA——4万亿美元公司与AI革命｜Lex Fridman Podcast #494

摘要

• NVIDIA的竞争单元已经从GPU扩展到整个AI工厂，因为现代工作负载必须拆分到计算、模型、数据和流水线，并围绕这些环节共同设计网络、内存、电力和散热。 Huang援引阿姆达尔定律：如果计算只占工作负载的50%，即使把计算加速到无限快，整体性能也最多翻倍。过去10年，围绕全栈进行极限协同设计，带来了据称100万倍的计算能力提升，而Moore定律带来的提升约为100倍；与此同时，token成本正以“每年一个数量级”的速度下降。

• CUDA的装机基础，而非任何单颗芯片的优雅程度，才是NVIDIA最根本的护城河。 在NVIDIA毛利率只有35%时，把CUDA装进每一块GeForce GPU曾让产品成本增加50%，并助推公司约60-80亿美元的市值一度跌向15亿美元；这笔押注花了10年才开始兑现。它最终为研究人员和开发者铺开了无处不在的硬件基础：“NVIDIA是GeForce盖起来的房子。”

• Huang认为，预训练、后训练、测试时推理和智能体倍增构成4条相互强化的规模定律，但最终都受制于算力。 合成数据把训练瓶颈从稀缺的人类数据推向计算；推理并不是轻量、同质化的商品，因为“推理就是思考”；智能体还能生成由子智能体组成的团队，并将成功经验回流训练。结论是绝对的：“智能只能靠一件事扩展，那就是算力。”

• NVIDIA试图通过研究、客户可见性和可编程架构，用约3年的硬件周期承接6个月一次的模型架构周期。 CUDA 13.2保留了适应性；NVLink 72的定位，是让参数量达4万亿或10万亿的混合专家模型进入同一个计算域。Grace Blackwell围绕MoE大语言模型推理优化；Vera Rubin则加入Vera CPU、存储加速器，以及另一种名为“Rock”的机架，因为智能体需要文件、工具、研究和I/O。

• Huang认为，电力和供应链产能这些约束，可以通过工程、合同和供应商投资解决，而不必被视为固定上限。 一套Vera Rubin机架包含约130万-150万个组件，来自200家供应商；NVIDIA每周可能需要约200个pod。将组装环节前移意味着，即使制造和测试也需要GW级电力。Huang表示，目前并不担心ASML、TSMC封装或内存产能，因为“我告诉了他们我需要什么”，并相信他们的投资计划。

• Huang认为，尚未充分利用的电网，是近期增加AI产能的首选来源。 他估算，电网大部分时间只运行在峰值的约60%，但僵化的“六个9”合同迫使数据中心和公用事业按最坏情形预留容量。他提出的替代方案是可优雅降级的计算：在罕见峰值期间接受80%的电力配额，迁移关键工作负载，让其他系统降速运行，并购买差异化的电力保障，而不是要求所有环节都做到绝对完美。

• Huang并没有直接给NVIDIA定下10万亿美元估值；他的论点是，如果计算变成能够创造收入的工厂，而不是存放文件的仓库，经济规模就会大得多。 他称增长“极有可能”且“不可避免”，表示每百万个专用token收费1,000美元“就在眼前”，并预计计算在GDP中的占比将达到历史水平的100倍。当被问到NVIDIA是否能“在不远的将来”成为一家营收3万亿美元的公司时，他回答“当然可以”，同时强调，这个机会在很大程度上尚未存在，因此也还谈不上通过抢市场份额来捕获。

• 在Lex刻意收窄的测试标准下，Huang声称“我们已经实现了AGI”：一个智能体可能创建出短暂走红、价值超过10亿美元的服务，但由10万个智能体共同打造NVIDIA的概率是“0%”。 谈到就业，他将工作的目的与可自动化的任务区分开来：AI让计算机视觉超越人类，但放射科医生的就业人数反而增长；自然语言规格说明则可能把编码人群从3,000万人扩大到约10亿人。他给出的实际建议很直接：在其他条件相当的候选人中，他会选择精通使用AI的人。

精读

1. 极限协同设计让NVIDIA变成它自己打造的计算机

• Huang的出发点是：目标问题已经无法装进一台计算机；如果目标是实现100万倍加速，简单增加10,000台机器远远不够。必须重构算法，并将流水线、数据和模型分片；一旦分布式运行，“一切都会成为阻碍”。

• 阿姆达尔定律提供了硬约束。如果计算占工作负载的50%，即使把计算加速到无限快，整个系统也只能提升2倍；因此，CPU、GPU、网络、交换、内存搬运和工作负载分配必须同时优化。

• 极限协同设计覆盖软件架构、芯片、系统、系统软件、算法和应用，并进一步延伸到scale-up、scale-out网络，以及电力和散热。Huang说，单次操作的能效可以很高，但机器汇总后的总功耗仍然巨大。

• NVIDIA的组织方式也映射了这种产品架构。Huang有60多名直接下属，几乎所有人都具备深厚的工程背景；他避免一对一沟通，而是把问题放到群体中，让内存、光学、CPU、GPU、网络、电力和算法在现场相互质询。

2. GeForce为CUDA跨入计算领域的生死跃迁提供资金

• NVIDIA起初是一家专业加速器公司，但Huang意识到，专业化会限制市场规模、研发能力，最终也会限制影响力。“加速计算”有意把两个存在张力的概念结合起来：扩大可编程计算的覆盖面，同时保留让加速器具有价值的性能优势。

• 这次迁移是渐进式的：可编程像素着色器引入了可编程性；兼容IEEE标准的FP32吸引了流处理研究人员；Cg在这些着色器之上提供了类似C语言的编程方式；CUDA则把GPU变成一种更广泛的架构，并实现NVIDIA芯片之间的兼容。

• Huang从x86尽管饱受批评却得以存续、而优雅的RISC设计却失败中总结出架构规律：“装机基础定义架构，其他一切都是次要的。”开发者会选择能够触达用户的平台，因此NVIDIA把CUDA装进数百万台配备GeForce的PC，并通过书籍、课程、集群和可负担的超级计算机向大学铺开。

• 这笔成本几乎吞噬了NVIDIA的经济基础。CUDA让GeForce成本增加约50%，而公司当时的毛利率约为35%；市值从约60-80亿美元跌到15亿美元。玩家不会为用不上的计算能力付费，但NVIDIA仍然承担了这项成本，直到10年后研究人员找到它：“GeForce把CUDA带给了所有人。”

3. Huang先建立共识，再宣布目的地

• 好奇心启动决策过程，但只有通过持续推理，直到某个结果看起来不可避免，才能形成信念。Huang的表述极其个人化：一旦未来在他脑中变得可信，“它就不可能不发生”——即便“中间会有大量痛苦”。

• 他的领导方式拒绝年度宣言、突然重组和令人措手不及的使命声明。当新证据改变他的想法时，他每天公开展示中间推理，让外部信息、工程里程碑和新发现共同塑造员工、管理层和董事会的信念体系。

• 在Huang提出收购Mellanox或押注深度学习之前，他希望同事们反过来问：“你怎么现在才说？”他说，Grok的发布也经历了同样的铺垫，准备期长达两年半：在持续积累100%支持后，领导力看起来可能像“从后面领导”。

• 这种说服也延伸到NVIDIA之外，因为公司在垂直设计一个自己并不完全制造或运营的平台。每一层都必须进入合作伙伴的云、服务器、超级计算机和服务；因此GTC会提前“显现”未来，让合作伙伴在NVIDIA产品到来时已经准备就绪。

4. 4条规模定律最终汇聚为对算力的单一需求

• 预训练曾经最担心的上限是高质量数据。Huang承认这种担忧有合理性，但不接受“预训练已经结束”的结论：模型会继续扩展，而且越来越多地使用通过增强真实数据生成的合成数据。

• 他为合成数据辩护，既有语义层面，也有技术层面：人类交换的大量信息本来就是“合成的”，因为人们会创造、消费、修改并重新生成信息。当AI大规模执行这一循环，训练受到人类生产数据的限制会减弱，受到算力的限制会增强。

• 测试时扩展推翻了“推理会很容易、会在小芯片上商品化”的判断。预训练更接近阅读、记忆、模式识别和泛化；推理则需要推理、规划、搜索、分解、探索和解决新问题。“思考比阅读难得多。”

• 智能体扩展通过让一个系统开展研究、使用工具、查询数据库并生成子智能体团队，放大了智能。高价值经验可以回流到预训练中用于记忆，进入后训练中用于改进，也可以用于进一步增强测试时系统，形成一个反复运行、密集消耗算力的循环。

5. 灵活架构连接6个月算法周期与3年硬件周期

• Lex把规划风险单独拎了出来：混合专家、稀疏化和其他模型变化，可能比硬件转向更快到来。Huang估计，AI模型架构大约每6个月发明一次，而系统和硬件架构大约每3年更新一次，这迫使NVIDIA提前两三年做准备。

• NVIDIA通过基础研究、应用研究和自研模型降低不确定性，让工程师获得一手证据，而不只是依赖预测。公司还与“全世界几乎每一家AI公司”合作，倾听实验室之间共同面对的挑战和“低声传递的消息”。

• CUDA的战略平衡在于：专业化程度足以加速GPU，同时保留足够的通用性，以适应新算法。Huang以CUDA 13.2为例，说明CUDA仍在持续演进，而不是一套冻结的装机基础。

• 混合专家模型推动了NVLink 72的设计。Huang表示，它可以把一个拥有4万亿或10万亿参数的模型放进同一个计算域，“就像运行在一块GPU上”。Grace Blackwell聚焦MoE大语言模型推理；Vera Rubin加入存储加速器、Vera CPU、NVLink 72，以及为智能体工作负载增加的“Rock”机架。

6. OpenClaw让工具型智能体成为新的计算机架构

• Huang认为，即使Claude Code、Codex或OpenClaw尚未出现，也可以推导出智能体基础设施的形态。一个有用的数字劳工必须能够访问真实数据，研究自己不知道的内容，使用所有者的工具，通过I/O沟通并操作文件；等待一个全知模型，只会推迟实际效用。

• 他用人形机器人作类比：机器人应该阅读微波炉说明书并操作设备，而不是把手变成锤子、手术刀或微波发射器。同样的逻辑也反驳了“AI会消灭软件”的说法——有能力的智能体会让既有工具更有用。

• Huang称，OpenClaw之于智能体系统，就像ChatGPT之于生成式系统。Lex指出，梗文化、个性和“氛围感”帮助它吸引了注意力；Huang给出的更简单解释是分发：“消费者能够触达它。”

• OpenShell和NemoClaw是NVIDIA安全响应的一部分。Huang描述了智能体能力的“二选三”规则：智能体可以访问敏感信息、执行代码并对外沟通，但应当拥有其中任意两项，永远不能同时拥有全部三项。访问控制和企业策略引擎在其上叠加：“我们会尽力帮助OpenClaw成为更好的claw。”

7. 能效提升与供应商投资扩大物理边界

• 电力是一个问题，但Huang的回应是每瓦每秒生成多少token。他将过去10年Moore定律带来的约100倍进步，与通过协同设计实现的、据称100万倍的系统级扩展作对比；更高的计算机价格，会被更快的token生成速度和大幅下降的单位成本抵消。

• 由于每瓦性能决定AI工厂的收入，NVIDIA打算把它“推到极限”。Huang表示，token成本已经在以每年约一个数量级的速度下降，使能效成为经济产出，而不只是技术指标。

• 供应计划也延伸到了内存。约3年前，Huang曾敦促DRAM公司CEO把使用率很低的HBM视为未来主流数据中心内存，并让面向手机的低功耗内存适应超级计算机。他说，与LPDDR5和HBM4相关的3家约有45年历史的内存公司随后都创下了创纪录的年份。

• 一套Vera Rubin机架包含约130万-150万个组件，来自200家供应商。Huang表示，目前并不担心ASML设备、TSMC的CoWoS封装或内存扩产：供应商理解他的需求，也解释了各自的计划，而他相信这些计划。

8. AI工厂可以用非满负荷运行换取闲置电网容量

• NVL72让超级计算机的集成从数据中心转移到了供应链制造环节：高密度机架以每次两三吨的规模完成组装、测试和发运。如果一周内制造50GW系统，Huang计算，供应链在这段生产周期中完成制造和测试，需要持续约1GW电力。

• 要实现这一点，首先必须向合作伙伴解释推理需求拐点，然后要求每家合作伙伴投入数十亿美元资本。Huang将这个过程描述为基于第一性原理的说服：靠图片、问题、长期关系和尊重推进，而不是等产能短缺后才甩出一张采购订单。

• 他偏好的近期能源来源，是现有电网中尚未利用的余量。为应对极端冬季、夏季和天气事件而建设的电网，大部分时间可能只运行在峰值的约60%；数据中心可以在罕见峰值期间让出电力、迁移工作负载、启用备用发电，或接受更长的响应延迟。

• 障碍来自一条三方合同链：客户要求“六个9”的可用性，数据中心把这一完美要求传递给公用事业，公用事业再按最大容量规划。Huang希望数据中心能够优雅降级到80%电力，并由公用事业提供分级保障——下个月以一种服务等级提供容量，而不是等5年后才获得完美容量。

9. “光速”思维把系统剥离到物理极限

• Lex提到，xAI的Colossus在最初4个月的建设后达到200,000块GPU。Huang将其归功于Elon Musk的系统思维：质问每项要求是否都必要、是否必须以这种方式完成、是否必须花这么长时间，然后始终亲自“站在行动节点上”。

• Lex举例说，Musk会研究技术人员如何把线缆插入机架，以让流程更快、更不容易出错。Huang补充道，清晰可见的个人紧迫感会让项目在每家供应商相互竞争的优先级中上升；领导者的行为让延误更难被解释。

• NVIDIA对应的方法是“光速”原则，这是Huang用了30年的说法，指向内存、数学、电力、成本、时间、劳动力和制造的物理极限。与其把一个74天的流程优化到72天，不如把它重新归零；如果第一性原理推导出6天，那么剩下的每一天都必须得到明确解释。

• 只有必要时才接受复杂性。Lex列出的Vera Rubin pod数据——7种芯片、5种专用机架、40个机架、1.2千万亿个晶体管、近20,000个NVIDIA die、超过1,100块Rubin GPU、60 exaflops和每秒10PB的scale带宽——体现了Huang的标准：“复杂到必要，但尽可能简单。”NVIDIA每周可能需要约200个pod。

10. 中国的竞争与开放加速AI生态

• Huang估计，全球约50%的AI研究人员是中国人，“上下浮动”，其中许多人仍在中国。强大的科学和数学教育，恰好在移动互联网与云计算时代到来时与之相遇，让一代熟悉现代软件的人得以建设科技行业。

• 中国的省、市和市长彼此竞争，由此诞生大量电动车、AI和科技公司，并形成“疯狂的竞争”，强者从中脱颖而出。家庭、朋友、同学和公司之间快速交换知识，削弱了保密的实际价值，也让开源在文化上变得自然。

• Lex将美国领导者描述为大多是律师，而中国领导者更多由工程背景以及摆脱贫困、从零建设的经历塑造；Huang对中国的简洁概括是“建设者国家”。他称中国是“当今世界创新速度最快的国家”。

• Lex将Nemotron 3 Super描述为一款1200亿参数的开放权重MoE模型；Huang指出，Nemotron 3并不是纯Transformer，而是结合了Transformer和SSM。NVIDIA的模型研究服务于开放与协同设计目标：公司公开模型、权重、数据和创建方法，让研究人员、国家和行业能够把AI从语言扩展到生物、化学、天气、物理系统、汽车和药物发现。

11. TSMC最深层的技术是运营信任

• Huang不接受“TSMC只要再落后一代晶体管技术，就会失去地位”的说法。TSMC的优势包括晶体管、金属互连、封装、3D封装和硅光子学，也包括对数百家客户动态需求的协调能力。

• 晶圆投片可以加速、暂停、在客户之间切换，甚至突然变成紧急任务，而TSMC仍要维持吞吐量、良率、成本、服务和交付承诺。Huang称这种制造体系“完全不可思议”，因为客户依靠这些晶圆来运营自己的公司。

• TSMC还把两种很少能同时掌握的文化结合起来：最前沿技术与客户服务。最终形成的无形资产是信任——“我相信他们会把我的公司托在自己肩上”——这种信任建立在30年以及数百亿美元甚至上千亿美元的业务往来之上，却没有一纸合同。

• Morris Chang在2013年邀请Huang领导TSMC，这件事确实发生过，Huang确认道。他感到的是荣幸，而不是轻视；但他相信自己已经看到了NVIDIA未来的影响力，并把实现这一未来视为自己的“唯一责任”。如今留在NVIDIA，也让他能够帮助这两家公司。

12. CUDA通过速度、覆盖面与开发者信任持续复利

• Huang称CUDA的装机基础是NVIDIA最重要的单项资产。竞争对手推出一个“GUDA或TUDA”，即使技术对等，也不会产生实质影响，因为CUDA已经积累了数十年的公司投入、数百万开发者和“一座软件山”。

• CUDA不是由3名专家打造的，而是由NVIDIA的43,000名员工，以及相信NVIDIA会持续推出并改进CUDA 1、2、3和13的开发者共同建立的。这种持久性把过去的采用转化为面向未来的承诺。

• 从开发者角度看，支持CUDA意味着平台在平均等待6个月后，明天可能变得好10倍；同时，它可以触达数亿台计算机、每一家主要云服务商、计算机厂商、行业和国家。“你可以把这件事当成银行存款。”

• 第二项优势是生态覆盖面。NVIDIA在设计上进行垂直整合，但在横向上进入Google Cloud、Amazon、Azure、CoreWeave、Nscale、Lilly超级计算机、企业、无线基站、汽车、机器人、卫星和太空。一套架构覆盖原本需要分别建设平台的多个市场。

13. 生成式计算把仓库变成收入工厂

• NVIDIA的思维单位已经从GPU演进到计算机、集群，如今又扩展到整个AI工厂。Huang现在不会主要想象发布时的一块芯片，而是看到连接发电、散热和巨大网络的GW级基础设施，以及数千人协调系统通电运行。他期待的“下一次点击”，是行星级计算。

• 第一个经济转变，是从检索走向生成。传统计算机主要存储预先录制的文件，再从中选择要检索的内容；具备上下文理解能力的AI必须实时处理并生成token，除非生成式输出被证明没有效果，否则所需计算量会大得多，而Huang认为近期进展已经让这种可能性越来越不可信。

• 第二个转变，是从仓库走向工厂。存储基础设施与客户收入没有直接对应关系，而token工厂生产的是可销售的智能：免费token、付费token，以及两者之间的不同档位。Huang表示，客户愿意为每百万个专用token支付1,000美元，“不是会不会，而是什么时候”。

• 因此，他称NVIDIA的增长“极有可能”且“不可避免”，预计计算在GDP中的占比将达到历史水平的100倍，并表示一家在不远将来营收3万亿美元的NVIDIA在物理上是可能的。“NVIDIA不做市场份额生意”；他描述的大部分机会，首先必须被创造出来。智能体，尤其是OpenClaw，是“token的iPhone”。

14. 太空计算正在培育，但地球上的浪费更应优先解决

• NVIDIA GPU已经进入太空。Huang表示，本地AI可以在卫星端处理成像数据，因为持续传输PB级高分辨率地球观测数据并不现实。本地AI可以丢弃没有变化或不相关的图像，只返回真正重要的信息。

• 极地部署可以获得持续的太阳能，但没有传导或对流时，散热非常困难，热量主要必须通过辐射排出。辐射损伤、性能衰减、缺陷认证、冗余和优雅降级，都是正在研究的工程问题。

• Huang希望轨道计算机具备这样的软件属性：“永远不会坏，只会变慢。”NVIDIA正在派工程师提前学习，但他近期的优先级仍然务实而明确：培育太空计算，同时先利用地球上闲置的电力。“我最喜欢的答案是消除浪费。”

15. 分解、共同承担与遗忘支撑Huang的领导方式

• Huang清楚，NVIDIA会影响美国税收、技术领导力、国家安全、再工业化、就业、普通股东，以及数百家上下游合作伙伴。他通过追问几个问题来管理压力：发生了什么变化，难点是什么，谁会受到影响，下一步行动是什么。

• 问题被分解之后，考验就变成执行：去做、分配出去，或者“别再哭了”。只要识别出所有可能伤害NVIDIA、合作伙伴或整个行业的因素，并把问题交给有权采取行动的人，他就能睡得着。

• 恢复还需要“系统性遗忘”。Huang会迅速分享担忧，转向“下一个闪亮的目标”，并像运动员对待上一个回合那样看待挫折。他带着孩子般的起手式：“这能有多难？”——不提前模拟每一种羞辱，同时在羞辱真正到来时保留韧性。

• 成功并没有让他免于被纠正，因为他的许多工作都暴露在公众视野中。在内部，他会在团队面前一步步推理，让同事能够挑战中间前提，而不是面对一项已经完成的命令；这种“集体寻找路径”依赖于对尴尬的容忍，以及在想法失败时公开承认。

16. DLSS 5是艺术家的工具，不是自动化后处理

• GeForce仍然是NVIDIA的“第一营销策略”。青少年通过Call of Duty或Fortnite接触这个品牌，之后可能在大学和工作中使用CUDA、Blender、Dassault或Autodesk；游戏装机基础仍在持续为专业生态输送用户。

• Huang理解玩家为什么担心DLSS 5会让游戏看起来像“AI垃圾图”，他自己也不喜欢同质化的AI图像。他的反驳基于架构：DLSS 5受3D真实结构约束和引导，逐帧保留由艺术家定义的几何、纹理、风格和意图。

• 开发者可以训练自己的模型，也可以最终通过提示词要求卡通着色器、参考风格、逼真效果或反逼真效果。它被整合进艺术生产流程，而不是事后强加；创作者也完全可以选择不用它。就像皮肤着色器和次表面散射一样，它扩展了可用的表达词汇。

• 当被问到最具影响力的游戏时，Huang选择了Doom，因为它让PC成为家庭普及的游戏平台；在游戏技术方面，他选择Virtua Fighter。NVIDIA的RTX Mod同样允许社区把当前的渲染技术注入老游戏，与Lex所赞赏的Skyrim mod文化相得益彰。

17. AGI可能创办公司，但工作的规模大于任务本身

• 按照Lex的测试标准——AI启动并运营一家价值超过10亿美元的科技公司——Huang回答：“我认为我们已经实现了AGI。”一个智能体可能创建一个简单的病毒式服务，让数十亿人以50美分使用，然后迅速消失；互联网时代许多公司的技术复杂度并不更高。但由100,000个智能体共同打造NVIDIA的概率是“0%”。

• 他将劳动力问题区分为目的、任务和工具。计算机视觉在2019年或2020年前后达到超越人类的水平，并进入放射科平台，但放射科医生人数仍然增长并出现短缺，因为更快的扫描扩大了诊断范围、患者吞吐量和医院经济效益，而不是消灭这一职业的目的。

• 编程正在变成规格说明：人们描述问题、期望的架构和具体程度。这可能把编码人员从3,000万人扩展到约10亿人，让木匠成为建筑师，让会计师成为金融分析师和顾问。真正的艺术在于知道什么时候需要精确规定，什么时候应当给人类或智能体留下探索空间。

• Lex坚持认为，这一转型仍会带来真实的家庭层面痛苦。Huang给出的可执行回应是让所有人掌握AI：在能力相当的会计师、律师、营销人员、销售人员、供应链从业者或毕业生之间，他会聘用AI专家。如果一份工作等同于一个可自动化的任务，颠覆很可能发生；如果任务服务于更广泛的目的，AI则可以把它提升到更高层次。

18. 智能会成为商品，而人性保留溢价

• Huang怀疑芯片有一天会变得紧张。AI可以识别产生焦虑的条件，但给两台机器相同的上下文，它们之间的差异仍然是统计意义上的，而不是因为其中一台“感觉不同”；人类的表现则会受到主观兴奋、恐惧、痛苦和决心影响。

• 按照Huang的功能性定义，智能由感知、理解、推理和规划组成，并不等同于人性。Huang身边有60名在他看来“超人”的专家，但他仍然能够协调他们，这让他把智能称为一种商品，而不是行动力或领导力的唯一来源。

• 真正值得提升的品质，是品格、同理心、慷慨、人生经验和承受痛苦的能力。Huang自己的成功，尽管他把自己放在智能曲线中低于同事的位置，意在传递一种安慰：智能民主化应该激励人们，而不是削弱他们对自身人类价值的感受。

• 对死亡的意识强化了他分享知识的方式。他拒绝静态的继任规划，转而持续在团队面前推理，立即传递每一个洞见，并赋予组织足够能力，让自己能够“死在工作岗位上”。他更长期的希望宏大但带有保留：“理解生物机器，大概还需要5年”；而终结疾病、减少污染，以及派出一个携带所有者数字记录、能够持续进化的人形机器，也已经进入合理预期的范围。