Naveen Rao：机器人为何将比编码智能体大100倍

摘要

• Rao预计，未来几年美国闲置电力容量将变得稀缺，AI增长将被迫放慢至基建建设速度。 他估算，每吉瓦建设成本约为500亿美元；年建10吉瓦就要投入5000亿美元，而如今声称能建40吉瓦并不现实。他认为当前的融资担忧“只是个小插曲”，信心来自AI服务需求会持续增长。
• 硬件领域的机会，在于围绕能效重新设计模型与机器。 Rao认为，近期的提升主要来自更小的数据类型，物理层面的能效改进却已停滞。Unconventional的出发点是「我们不把模型奉为圭臬」（“we don’t treat the model as sacrosanct”）：同时调整算法、架构和物理实现，才能释放单靠软件优化无法实现的增益。
• Rao预测，10年内推理市场将达到10万亿美元，同时推理服务商的毛利率将承压。 Token价格下跌会挤压把模型映射到现有硬件上的中间层；提升能量转化为智能的效率，则有更大的差异化空间。他预计3年后开源模型将处理80%的Token，但开源与前沿模型的支出大致各占50%。
• AI眼下的瓶颈正从产出内容转向判断内容是否有效。 Rao称，原本需要约2周才能解答的研究问题，如今1小时就能完成；但他警告：「我认为，问题已经从生产转向验证。」规格定义和有经验的人类判断仍不可或缺，因此他预计开发产出增长会快于支出从人力转向工具。
• Stebbings提到由软件与人力共同交付结果的企业后，Rao对SaaS的批评范围明显收窄。 他认可这种模式，包括AI辅助法律服务；如果能对结果建立信心，他愿意把80%的法律工作交给服务商。悬而未决的问题是，现有律所能否留住分销渠道，还是供应商最终会直接销售这些结果。
• Rao认为，机器人市场将比智能体编程大100倍。 他的时间表是：部分任务将在2至3年内出现可用原型，市场则会在5至7年内成形；Stebbings仍担心应用落地的时间，尤其是人形机器人。Rao目前看好技术栈，并预计模型开发商最终会成为一体化机器人公司：「两者不会分家。」
• 当问题需求看起来有保障时，Rao如今更看重技术进展，而非市场验证。 对于万亿美元级市场，他认为价格「几乎无关紧要」；Stebbings则追问基金集中度、LP预期和有限的尽调时间。Rao的投资原则是押注「能开车的人」：最初的技术叙事会出错，团队必须能一路应变。

精读

1. 闲置电力掩盖了更棘手的建设难题

• Rao援引估算称，建设1吉瓦电力约需500亿美元，而一座半导体晶圆厂的成本为200亿至300亿美元。近期数据中心扩张利用的主要是现有电网余量：他估算美国电网平均输出约900吉瓦，潜在峰值为1.2至1.3太瓦。接入这部分余量，比新建电力供应快得多。
• 他认为，即便按保守假设计算，AI增长也会在未来几年耗尽富余容量。此后扩张速度将受制于建设速度。Rao断然否定眼下年建40吉瓦的说法；年建10吉瓦已是「了不起的成绩」，按他给出的成本计算，需要投入5000亿美元。
• Rao认为，中国在2023年就已超过美国的电力装机规模，此前20年建设速度是美国的6倍。他说，集中规划有利于大型基建快速铺开，而美国在开辟新技术领域方面仍有优势。他也反对把中国AI研究一概说成蒸馏：真正的创新正在发生。
• 对于Stebbings关于债务周期的担忧，Rao称这「只是个小插曲」，他的判断建立在AI需求持续增长之上。据称，定制化表后供电已经开始出现溢价。他举例说，若算力收入与电费之比为5倍，电价高出30%至40%仍可承受。Bloom Energy在亚利桑那州涉及数吉瓦的项目或许能有所帮助，但其方案和经济性尚未经验证。

2. 能源优先的计算，需要改变模型本身

• Rao将计算拆分为物理设备、计算架构和模型3个层面。物理能效的提升已基本停滞；近期进步主要来自数据位宽从32位降到16位、8位和4位。减少数据位数有助于降低数据搬运和计算量，但模型层面还有另一条路：强化局部性、减少数据移动。
• Rao谈到Unconventional的路径时说：「我们不把模型奉为圭臬。」计算机的发展历来以速度为先：ENIAC计算炮弹轨迹的速度超过人类，后来的机器也必须胜过前代。随着晶体管进步放缓，他希望每项设计决策都以能效优势为衡量标准。
• Rao以稀疏性为例说明软硬件协同设计。软件在标准GPU上或许能带来示意性的5%能效提升，但片外随机存取存储器限制了稀疏连接的收益。大脑的物理层与智能层协同演化；如果硬件专门为利用模型结构而设计，提升幅度就可能大得多。
• Rao表示，专业化不意味着Nvidia这类横向供应商的市场会很小：「市场会非常大。」他回忆，2014年自己创办Nervana时，图形开发者对Jensen Huang在GTC上转向AI颇有怨言；Huang看准了机会，也执行得很好。如今Rao的标准只有一条：让神经网络「以极高效率、极大规模」运行。

3. 产出提速后，验证成为瓶颈

• Rao举的具体效率案例，来自Unconventional首款芯片中的耦合振子。过去要理解噪声如何经过4跳或6跳传播，得等研究人员做分析、跑模拟，前后可能要花约2周。现在他只需询问模型、检查代码并反复迭代，1小时就能得到答案。
• 速度提升也带来了更多待检查的产出。「我认为，问题已经从生产转向验证。」Stebbings提出，掌握验证就等于掌握自动化；Rao对此并不认同：「你还得掌握规格」，包括问题是否有用，以及最终结果是否真正实现了预期规格。
• Rao对智能体的顾虑，核心在于判断力。医学院毕业后还要接受7年神经外科训练，因为选择正确行动需要经验。模型能生成可能的方案，但如何从中挑出好方案，在不同任务中仍缺乏清晰方法；连续做出一连串决策后，结果可能看似可靠，实际上却完全错误。
• Stebbings预测，人们最终会比信任自己更信任智能体。Rao同意这种情况可能出现，但认为当下还不是如此。他预计专业能力和训练来源仍有价值：智能机器是否有用，取决于它受过怎样的训练，就像外科医生或厨师一样。

4. 课程设计与专业化，让数据形成壁垒

• Rao预计，数据公司会围绕重要问题走向专业化。大规模原始观测数据起初看起来容易商品化，但精心整理的编程示例和推理数据则不同。他认为，当前模型能力很大程度上来自数据筛选、损失函数，以及串联预训练、强化学习和监督微调的课程设计。「这套课程」才是「秘方」。
• 他不认同强化学习效率更高的说法。按单位算力或每美元带来的提升来衡量，他认为强化学习的效率更低，但它能推动能力继续进步，未来几年仍会很重要。收集足够多的预训练数据来解决所有任务并不现实，而当前模型对这些数据的利用效率也不够高。
• Rao用网球发球来解释强化学习为何有效：先示范一个好球，让学习者建立目标，再根据每次尝试给出判断。球速和是否落在界内都能形成可验证的奖励。把行动与可衡量结果联系起来，就能为那些无法单靠增加示例覆盖的任务提供学习框架。

5. Transformer只是过渡架构，实验室竞相发布产品

• Rao说：「我确实认为我们会进入后Transformer时代。」他直到几年前才真正理解这一点。他认为当前的推理方式效率低下，把上下文检索、采样生成推理轨迹，再从输出中挑选结果拼在一起。大脑不会生成一条巨大的推理轨迹，再把它输入另一个模型；他预计未来会出现更好的算法路径。
• 前沿实验室面临另一种激励：晚一个月发布都可能是灾难性的。Rao认为，xAI迅速跻身前沿说明，投入资源、经验丰富的团队并执行成熟范式，就能取得多大进展；这与承担风险、发明新范式是两回事。
• 他把更深层的架构押注——包括Yann LeCun和Fei-Fei Li相关的工作——看作更接近创业公司。类比药物研发，创业公司承担重大风险， incumbent 则渐进改进并收购有前景的成果。对创始人而言，这意味着愿景更重要；在AI之前的软件市场，光靠执行更有可能成功。

6. 推理需求增长，不代表每一层都能保住毛利率

• Rao对需求的判断始于竞争：生物、企业和国家都能从更高智能中获益，因为它们身处对抗性环境。能源为智能提供动力，硬件则负责在两者之间转换。他所说的硬件包括芯片、系统、网络和云基础设施；他预计价值会流向转换效率更高的一方。
• 部分智能已经开始商品化。半年前的模型——包括中国开源模型——仍然实用；Rao预计，未来6个月内开源模型就能达到前沿水平。这会带来巨大的市场，但毛利率更薄。他不认为模型公司能拿走整条产业链的经济价值；目前拿走最大份额的是Nvidia。
• 推理服务商的价值，在于让现有模型稳定、高效地运行，并提供正常运行时间保障。但客户愿意为每个Token支付的价格不断下降，服务商就必须从硬件中榨取更多效率，中间层剩下的毛利空间也会更少。「我实际上认为，未来10年最值得布局的是硬件。」
• Rao预计，3年后开源模型将承载80%的Token流量，前沿模型占20%，但支出大致各占50%。他以手机市场作比：据他所说，iPhone约占整体市场的20%，却拿走80%的毛利。少数高难度任务应能支撑前沿模型的溢价。

7. 结果导向型企业经得起Rao对传统SaaS的批评

• Rao说：「如果你是纯软件投资者，现在基本完蛋了。」他的矛头指向传统SaaS模式。Stebbings质疑其定义：AI供应商卖的仍然是企业软件。Rao承认两者有区别，并认可用软件加服务交付结果的企业。Harvey就是一例：结合AI和人工核验，以更少人手、更快速度完成法律工作，同时保持或接近原有质量。
• Stebbings直接追问：「你不就是在投资一家律所吗？」Rao同意，本质上这就是一家更好的律所。现有律所提供分销渠道，但这种渠道未必能长期维持。如果他能确信直销服务商的方案有效，Rao表示会把80%的法律工作交给它，包括NDA和合同审查。
• Rao提醒，建立专有智能需要规模。Cooley这样的大型律所有理由投入定制化服务；内布拉斯加州的小型事务所则想要开箱即用的产品。他不认同每家公司都会利用历史数据改进自己的模型。竞争压力会促使大型律所投入，小型律所则可能继续作为服务的客户。

8. 开发成本下降，既抬高预期，也增加产出

• Stebbings提到，Benioff谈过编码工具支出3亿美元，对比开发者薪资预算60亿美元，占5%。这个比例会变成30%、50%，还是1%？Rao认为比例可能「大致保持稳定」，因为仍需要经验丰富的人来判断产出好坏并进行验证。
• 他举例说，年度开发支出维持在1000万美元，但交付速度加快。客户过去能接受每年发布一次；现在希望一周内修复Bug，最终甚至要求1小时内解决。AI加上人力让这种速度成为可能。Rao认为，简单替代计算漏掉了一个变量：供给变便宜后，需求也会变化。
• 他把这个逻辑延伸到建筑业：机器人如果能完成80%的工作，摩天大楼项目可能从2年缩短到8个月。但结果不会只是同样的工程更快完成；Rao认为届时会建造两倍数量的摩天大楼，由人类和机器人共同完成。
• 尽管开发效率会提升，Rao仍会避开模型厂商之外的智能体编程项目。他预计价值会转向模型能力，IDE或工具框架能拿到的价值会更少。他的依据是内部使用习惯：员工能在不同工具之间灵活切换，说明用户黏性有限。

9. 机器人打开大得多的实体市场

• Stebbings不投机器人应用，原因是他认为时间风险至少有5年，尤其是人形机器人；非人形机器人的落地路径更清晰。Rao起初强烈反对，随后发现双方的时间表其实接近：部分任务的可用原型将在2至3年内出现，市场则会在5至7年内成形。他认为指数级发展会让看似遥远的能力意外快速到来。
• Rao预测，AI模型市场将在未来几年内达到万亿美元级，推理市场则会在10年内达到10万亿美元。把Token交付成本降低一个数量级，某些意义上就能把市场扩大10倍；潜在应用的增幅还可能超过10倍。他用杰文斯悖论解释使用量为何会持续增长。
• Rao说：「我实际上认为，机器人市场会比智能体编程大100倍。」现有工业机器人主要执行人类设定的重复任务；他期待机器人能够动态地解决物理世界中的问题。数十亿台机器或许能发现故障、清理现场或更换部件。他强调，这类服务的成本会大幅下降，但不会降到零。
• Rao目前更看好技术栈，而非应用。他不认为价值只会落在模型本身：模型开发商最终可能会销售能出色完成特定任务的一体化机器人。「两者不会分家。」被问及如果能把所有资金投到Unconventional以外的项目，会选什么时，他选择了Physical Intelligence，因为该公司在解决如何把指定任务转化为电机输出。

10. Rao的投资判断从市场验证转向技术里程碑

• Rao过去12个月的观念变化，涉及衡量进展的标准。对于缺乏深厚技术根基的产品，市场验证是合适的；但治愈癌症不需要先证明人们想要治愈方法。对于机器人、计算和生物，他希望在解决方案需求已显而易见时，投资者评估技术问题的解决进展。
• 被问到考虑到市场规模，价格是否重要时，Rao回答：「不太重要。」他希望自己的部分财富押注机器人；面对万亿美元级以上市场，他认为入场价格「几乎无关紧要」。Stebbings反驳说，LP仍然非常在意价格和持股比例；Rao预计，随着成熟机构也展现出类似趋势，市场观念会发生变化。
• Stebbings把集中投资的风险具体化：一只规模4亿美元的基金投2000万美元到太空领域，相当于把5%的资金押在自己不了解的技术上。Rao说，早期的技术叙事会出错；投资者押注的应该是「能开车的人，而不是那辆车本身」。团队必须能完成转向。两人都承认，见两三次面很难做到这一点。
• 在Rao约1000次投资者会面中，Steve Jurvetson给他留下了深刻印象。Nervana创业初期，两人讨论数值表示法、交换论文，还像技术同事一样争论标注问题。Jurvetson当时已经独立思考过这个机会。Rao更广泛的观点是：要做出大型成功投资，就必须采取非共识思维，因为共识本身已经过时。

11. 终局是打造更好的科学发现机器

• 如果资源不受限制，Rao会建设制造能力，并向原材料环节延伸。供应约束和通用零部件会限制优化空间；他宁愿按计算机的实际需求定制制造。他的设想甚至延伸到硅锭的加工和切片，因为在他看来，计算机的价值在于提供智能。
• Rao最后谈到AI拓展科学研究的能力：AI让人类能够触及那些超出可用研究人才规模的问题。他提到更深层的物理学，以及虫洞这类理论构想；值得探究的问题包括它们是否真实、能否被利用。他不认同以人类灭绝为中心的叙事，而是把拓展人类认知视为真正的机会：「这让我感觉自己还是个孩子。」