我们正逼近芯片的物理极限

摘要

• AI领域值得投资的瓶颈如今集中在电力、内存、散热和数据传输。 Adam梳理了这些约束，Stephen表示，硬件组件很难在一夜之间完成迭代。Micron、SK hynix和Samsung占据内存市场95%的份额，超大规模云厂商大举采购、吞噬供给，推动内存价格今年上涨700%。
• 摩尔定律在晶体管持续缩小数十年后正逼近物理平台。 Stephen表示，晶体管尺寸已接近1纳米，约为人类头发直径的1/100,000，这迫使硬件方案变得“更具创造性”。
• 这场表面上的硬件复兴，反映的是软件当前仍依赖“蛮力”。 Adam认为，软件市场仍不成熟：硬件正在占据金字塔底部，而与新架构深度耦合的软件应当创造更多价值。
• 规模越来越大的模型可能正接近其实用终点。 Stephen称，开源模型Kimi K3的参数量已经超过人脑，但运行它所需芯片的能效却低约100万倍；内存瓶颈应会推动开发者走出“规模化假说”。
• 光子学是同时缓解多项基础设施约束的主要候选方案。 Stephen指出，光电转换是瓶颈；Adam则认为，光可以同时改善功耗、散热和数据传输。未来5年内，光学链路预计将从集群之间的互连，转向GPU旁的“共封装光学”。
• 当下的LLM时代最终可能像拨号上网：具有变革性，但回头看十分原始。 Adam预测，5–10年后“我们会嘲笑今天的AI有多老派”。他还偏好招聘和投资于这样的人才：兼具欧洲学术与技术训练、美国经历和商业头脑。

精读

1. 摩尔定律撞上物理学

• Stephen称IMEC是半导体行业“最不为人知的隐形宝石”：其独特的比利时洁净室用于开发的芯片，可能要到7年、8年甚至10年后才会上市。
• IMEC已运营40年，参与制定了芯片研发路线图；在Stephen看来，全球几乎每一款芯片都在某种程度上有它的参与。
• 硬件开发需要5–10年，不是“30秒”。晶体管尺寸已接近1纳米——约为人类头发直径的1/100,000——继续提升性能，需要的硬件方案远比单纯缩小尺寸更具创造性。

2. 稀缺性正将价值集中到实体基础设施

• Adam的瓶颈地图覆盖能源、内存、散热和数据传输。Stephen认为，当前首要问题是内存：Micron、SK hynix和Samsung占据95%的市场，超大规模云厂商的采购推动内存价格今年上涨700%。
• Stephen表示，瓶颈在于能否生产合适的组件，而不一定是芯片公司数量；他特别提到TSMC，并预计未来会出现许多不同设计。未来5–10年，Adam预计冷却液会更靠近GPU，从而让“相当大一部分价值”转向制造环节。

3. 硬件复兴并不意味着软件上行空间消失

• 主持人将当下描述为一场“铁器时代式的复兴”：芯片经济性增强之际，AI和token成本正侵蚀软件利润率。
• Adam反驳称，这种表面上的倒置，反映的是软件市场仍不成熟，依旧在依靠计算“蛮力”。硬件正在填充金字塔底座；与硬件深度耦合的软件应当跟进，并创造更多价值。

4. 模型规模化正让位于专业化

• Stephen以包括Kimi K3在内的最新开源模型为例，称其参数量已超过人脑，但运行Kimi K3所需芯片的能效却低约100万倍。
• 在5年内，参数量已从1750亿增至约10万亿，Stephen预计，不断扩大模型规模的路线将停止。更多样的算法需要更多元的硬件，而不只是增加GPU；内存瓶颈正促使公司走出“规模化假说”。

5. 光子学可能同时缓解多项瓶颈

• Stephen指出，铜之所以仍然方便，是因为它完全采用电信号和数字化传输，但光子学的瓶颈在于光电转换。Adam认为，光子学既能降低功耗和散热需求，也能解决数据传输约束；他称这是最有可能胜出的技术。
• 未来5年内，光学器件应会从集群之间的线性互连，转向GPU旁的共封装组件。
• Stephen将这一判断与人脑高效的3D结构联系起来：软件可能沿着世界模型、强化学习等路径走向多元化，但每一条看似可行的AI路径都仍需要巨量数据搬运。
• Adam最大胆的预测是，5–10年后，今天的LLM看起来会像拨号上网：一种早期、主要依靠“蛮力”的方法，届时人们会带着调侃回看。他承认自己可能有偏见，但仍偏好招聘和投资于兼具欧洲学术与技术教育、美国经历和商业头脑的人才。