与 Arm CEO Rene Haas 重新定义芯片架构
与 Arm CEO Rene Haas 重新定义芯片架构
摘要
- Arm 已经从 IP 授权跨入实体芯片产品,Meta 是触发因素。 Meta 想要“一颗通用型 agentic CPU”,Arm 认为没有其他公司能提供,于是推出 Arm AGI CPU,并于去年3月发布、在 Hot Chips 上展示。生态方面的反弹小于预期,因为市场上更多基于 Arm 的软件会广泛惠及客户;发布时,Jensen、Rani Borkar、Amin 和 James Hamilton 都向公司表示祝贺。这一转型也让 Arm 补上供应链运营、内存配额、后端、版图、实现和流片启动等能力,而 Sarah 曾提到该业务的毛利率高达98.5%。
- AI 已经渗透 Arm 的工程团队,80%至90%的工程师每天使用,尤其集中在一条24至36个月芯片周期中真正的长板环节:验证、确认、调试和文档。 关掉 AI 就像把1990年代的互联网限时开放,Sarah 说“那会天下大乱”,Haas 则表示“瓶中精灵已经被放出来了”。RTL 生成以及顶尖系统的物理设计仍不够成熟,因为模型依赖公开数据,而关键信息属于专有内容。Haas 认为 Arm 拥有丰富 IP、文档和测试平台,因此具备优势;Elad 的观点是,无法使用、无法测试的 IP “实际上也无法训练”,因而无法用于 AI。
- Haas 认为,5年以上后,从想法直接走到 GDSII 文件对于简单设计完全可能,但不一定只需2至3年。 不过,如果要求一款芯片比 Vera Rubin 快10%、便宜20%、能效高30%,不可能靠按一下按钮解决。
- 只要 Transformer 仍是 AI 训练和推理的能量基本单位,供给至少还会紧张3至5年。 数据中心建设可能成为下一个瓶颈:不少项目既没有提前完工,也没有比预期少用人力,美国部分地区甚至在讨论放慢或限制开发。Haas 认为,这或许还好过晶圆和内存产能成为硬约束。撇开估值不谈,他表示,相对于需求出现供给过剩“远远谈不上”。
- SoftBank 可能为芯片初创公司提供资本、生态接入和潜在落脚点。 Haas 建议,资本开支密集型行业的年轻公司应尽早与供应链参与者、私募股权机构和银行建立战略合作,因为资本获取能力本身就是一道门槛。SoftBank Neo 代表集团打造 neocloud 的意图,可能为拥有芯片技术的公司提供一条路径:不必先拿下 Microsoft 或 Google 的设计导入。Haas 负责 Ampere、Graphcore 和 Stack AV 的发展方向,并协助 Masa 制定和执行机器人、OpenAI、基础设施及 Arm 相关战略。
- 机器人可能在仿人和专用形态上都发展到“几乎像《杰森一家》里的东西”,但成本高企,商业模式仍未验证。 配送中心可能率先实现大规模自动化;Elad 还提到工厂自动化、配送和自动驾驶卡车等早期场景。Haas 表示,Arm 将无处不在地进入机器人,从手指端的传感和感知,到人形机器人内部的计算。
- Haas 支持扩大美国半导体制造,并称出口管制竞赛是一场没有赢家的无限游戏;他警告,关键技术最终可能落在美国之外。 Elad 认为这种结果会很糟,主张继续站在技术前沿。Haas 认为,数据中心遭到反对主要源于对失业的恐惧,并称这种担忧缺乏依据;Elad 还指出有组织的媒体影响,Sarah 则提到电工工会要求不要禁止数据中心。谈到 CPU,Haas 说 ChatGPT 爆发后,市场过度聚焦加速器,忽略了 CPU 持续发挥的作用:随着工作负载从训练转向强化学习和推理,CPU 会与加速器和内存协同,负责调度 token 的去向。这一逻辑从数据中心延伸到边缘设备,而50瓦 GPU 不可能直接戴在人头上。
精读
1. Arm 从 IP 跨入产品:因为 Meta 要了一颗无人能提供的芯片
- Haas 介绍了芯片供应链上的两种定位。Arm 的主业是授权 CPU IP,应用于“智能手机、数据中心、汽车,凡是你能想到的场景”,因此能够横跨汽车、数据中心和智能手机等领域观察市场;从去年3月起,Arm 还拥有自己的产品 Arm AGI CPU。这意味着这家无晶圆厂公司开始亲自采购基板、晶圆、内存及其他供应链投入品。
- Arm 的演进路径是:单个 IP 组件,发展到计算子系统,再到实体产品。起初市场曾怀疑芯片设计者是否愿意让 Arm 提供整套组装蓝图,但计算子系统的需求依然“极其疯狂”;最终,Meta 提出了通用型 agentic CPU 的需求,而 Haas 表示,没有其他公司能把它交付出来。
- Arm 原本预计客户反弹会更强,但实际阻力出奇地小,因为市场上更多专有软件和开源软件会惠及整个生态。NVIDIA、Amazon、Microsoft 和 Google——也就是所有在打造基于 Arm 的服务器芯片的公司——都表示支持。发布时,Jensen、Rani Borkar、Amin 和 James Hamilton 向公司表示祝贺。
- Sarah 回忆,Arm 的毛利率曾达到98.5%。Haas 对比了这一 IP 模式与自己2013年加入 Arm 后的第一印象:“没有库存、没有 RMA、没有废料——还有什么可不喜欢的?”如今实体产品要求公司建立供应链运营体系,与 TSMC、Samsung 协作,从 Samsung、Micron 和 SK hynix 获取内存配额,还要补齐后端、版图、实现、物理基础设施和流片启动实验室等能力。来自 Broadcom、Qualcomm 和 NVIDIA 的管理层人才帮助 Arm 快速搭建了这套能力。
2. AI 已经跑遍 Arm 工程体系,文档可能让 IP 变得可训练
- Sarah 提到当天 OpenAI 关于 Jony Ive 和一款新芯片的消息,其中包括 AI 工具帮助缩短上市时间的说法。Haas 表示,一款芯片的设计周期可能达到24至36个月,但架构设计、RTL 生成和架构映射并不是最耗时的环节;真正的时间黑洞是验证、确认、调试和文档,而这些恰恰是 AI 特别擅长的任务。
- Haas 估计,Arm 有80%至90%的工程师每天使用 AI。按他的说法,如果现在关掉 AI,就像明明有互联网,却只允许用户在2点到4点之间访问;Sarah 补充说“那会天下大乱”,Haas 的结论是“瓶中精灵已经被放出来了”。
- 在顶尖系统中,RTL 生成以及物理设计和实现相关工具仍不够成熟,因为模型基于公开材料训练,而大量关键资料属于专有信息。Haas 认为 Arm 具备先天优势:其丰富的 IP 组合还配套文档、测试平台,以及如何构建这些 IP 的说明。Elad 把这一点说得更直接:如果 IP 无法使用、无法测试,那它“实际上也无法训练”(“actually untrainable”),因此也就无法用于 AI。Haas 表示,Arm 正与模型开发者合作弥合这一缺口。
- 被问到24至36个月的周期能否压缩到6至12个月时,Haas 表示,他不知道这是否只需2至3年,但5年以上后,从想法直接生成 GDSII 文件,对于简单设计可能相当可行,从而删去大量设计和验证工作。不过,如果要求一款产品在特定模型上比 Vera Rubin 快10%、便宜20%、能效高30%,仍不可能一键完成。
3. 未来3至5年供给受限,数据中心建设可能成为下一瓶颈
- AI 芯片公司的数量增加,并不能消除产业瓶颈。Haas 描述了一批拥有创新设计和充足融资的年轻公司:它们面对的是一个资本需求极其庞大的行业,而与内存和基板供应商建立关系至关重要。
- 他预计,供给受限的环境“至少还会持续3至5年”,不会在12或24个月内结束。原因在于,Transformer 作为 AI 训练和推理的能量基本单位,对算力和内存的需求都非常高。
- 被问到封装和内存之后的下一个瓶颈时,Haas 指向数据中心建设。他说,提前完工或比预期少用人力的项目并不多,而美国部分地区正在讨论放慢开发速度或施加限制。与晶圆或内存产能成为硬约束相比,这或许还可以接受。增长会被多个“州长”所制约——这里不是指各州州长,而是不同类型的约束。
- 谈到 AI 泡沫,Haas 区分了估值泡沫与相对于需求的供给过剩。撇开估值不谈,对于供给是否接近超过需求,他的答案是“远远谈不上”(“not even close”),因为在模型运行方式不变的情况下,需求仍然无法满足。
4. SoftBank Neo 或成芯片初创公司的落脚点;Haas 协助执行 Masa 的战略
- Haas 表示,Arm 的上市公司架构加上规模庞大的单一股东,使他经常有机会与 SoftBank 进行非正式的投资者沟通。他给资本开支密集型行业年轻公司的建议是:尽早与供应链参与者、私募股权机构和银行建立战略合作。半导体初创公司重新获得资本青睐,但能否拿到资本仍是决定性门槛。
- SoftBank Neo 并不是已经在运营的 neocloud;Haas 将其描述为 SoftBank 打造 neocloud 的意图。在这一模式下,它可能成为芯片技术初创公司的落脚点,让它们不必先去 Microsoft 或 Google 拿下设计导入。
- Haas 负责 Ampere、Graphcore 和从事自动驾驶的 Stack AV 的发展方向。更广泛地说,他参与 Masa 的大量讨论,协助制定和执行机器人、OpenAI、基础设施及 Arm 相关战略。
- SoftBank 在机器人、能源和数据中心基础设施上的布局,让 Arm 能更全面地观察行业走向,也可能为 Arm 产品提供落脚点。这不一定意味着 Arm 要进入广泛的通用商用芯片业务;Arm 可以为 SoftBank 做产品。
5. 机器人:具备《杰森一家》级别潜力,配送和自动化将率先落地
- Haas 基本认同,机器人在不同任务和环境中的泛化能力正在提升,但还没有实现大规模部署。Robotics 1.0 时代强调专用化:新建一条汽车生产线或其他设备,可能意味着要拆掉现有产线。能够从训练过程或所见内容中学习、配合机械结构的通用化和成本下降后,机器人的应用范围可能彻底改变——“几乎像《杰森一家》里的东西”——覆盖建筑、基础设施、服务和安保。
- 他预计,人形机器人和专用机器人会并行发展。一些工作围绕约6英尺高的人体形态和现有工具进行优化,但另一些应用会更适合任务专用型设计。
- Haas 表示,Arm 将遍布机器人系统,包括实时传感、感知,以及手指端的微处理器。他还称,目前人形机器人中所见的大多数“大脑”都运行在 Arm 上,并以 NVIDIA 及 Qualcomm 的相关工作为例。
- 他提醒,机器人商业模式尚未被验证,而目前的价格也高到让直接购买变得困难。配送中心是明确的早期应用,未来甚至可能把配送环节也纳入自动化。Elad 还补充了工厂自动化、配送和分拨,包括自动驾驶卡车;他认为自动驾驶卡车“某种意义上也算机器人”。
6. 领导层的底层逻辑——以及 CPU 如何驱动 token 流转
- Haas 以美国公民和半导体老兵的身份回顾了1980年代美国应对 Japan Inc. 激进内存定价的过程。当时美国通过 SEMATECH 重新加固本国半导体产业。他认为,出于国家安全和供应链多元化考虑,美国需要建设更多晶圆厂;英国也应朝同一目标努力,只是由于体量更小,力度可以相对弱一些。
- 谈到出口管制,Haas 将限制芯片、阻止中国“赢得这场竞赛”的做法定义为一场没有赢家的无限游戏。他警告,美国最终可能反而陷入关键技术不再掌握在美国的局面。Elad 回应称,这在国家安全和经济层面都不是好事,并指出技术领先还会带来围绕技术形成的完整生态。
- 谈到数据中心遭遇的阻力,Elad 指出背后存在有组织的媒体影响。Haas 认为,反弹主要源于人们担心 AI 意味着失业,并称这种恐惧“完全没有扎实依据”;他还说,一些关于数据中心的说法——例如虚构的“水会被污染”担忧——只是为了制造恐惧而编造出来的。Sarah 则提到,电工工会要求不要禁止数据中心,因为数据中心会创造技术型就业。
- Elad 引用了战后底特律汽车产业的类比:周边州和公司都从这一产业生态中受益。Haas 表示,数据中心的逻辑类似——能源、液冷和其他基础设施都会创造就业,即使数据中心本身看起来并不需要很多员工。他从第一性原理出发的结论是,成为技术领导者没有 downside;落后者则会被别人把整套剧本写好。
- 在结尾的 CPU 讨论中,Haas 表示,ChatGPT 爆发后,市场注意力大幅转向加速器,CPU 被忽视了。但每一个计算问题仍在使用或可以使用微处理器。随着工作负载从训练转向强化学习和推理,总得有东西负责编排、仲裁并决定 token 的去向:“把 token 运走、交给用户的卡车在哪里?这就是 CPU 的工作。”
- 他将系统概括为 CPU、加速器和内存三部分,适用于数据中心、汽车、机器人、手机和可穿戴设备。Arm 在更小的设备形态上尤其占据优势:边缘 AI 需要本地处理,而一块50瓦的 GPU 不可能直接放在人头上。