朱亦博
前沿洞察
朱亦博的核心研判在于：AI Infra已跃升为大模型决胜底牌，算力利用率的毫厘之差直接决定千万级生死成本。他警示，缺乏自研协同、仅居中间层的Infra厂商必陷价格战红海。唯有摆脱通用硬件依赖，推进“硬件-模型-系统”极致的深度Co-design，结合多模态推理与国产芯片适配，方能筑起算力经济性与技术自主的不可替代壁垒。
观点集合
关于 AI Infra 的一切 | 对谈阶跃星辰联创朱亦博
- 🗓️ 日期：
2025-08-02｜ 🎙️ 节目：42章经
大模型让AI Infra进入模型竞争核心，1万张GPU利用率提升10%每月约节省或多创造1,000万元，自建团队的经济性取决于规模。夹在通用硬件与模型之间的厂商容易陷入价格战，长期壁垒更可能来自硬件、模型与系统的深度co-design；阶跃正以视觉推理模型和国产芯片适配验证这一路线。
查看访谈对话精读提要
大模型把 AI Infra 从后台降本工具推到了模型胜负的核心位置，这是朱亦博眼中“十年、二十年才有一次”的行业窗口。 搜索引擎曾因海量数据与计算需求让 Google 成为一家 Infra 公司，大模型正在重复这一过程；只是底层主角从 CPU 变成 GPU，计算、通信、存储都要围绕模型极致定制。
AI Infra 的投入回报高度可量化，规模越大，自建团队的经济性越确定。 朱亦博给的账是：1 万张比较贵的 GPU 月租约 1 亿元，利用率提升 10% 就能每月节省或多创造 1,000 万元；规模较小时则可使用云厂商的通用 baseline，甚至百万 DAU 也未必值得自建完整 Infra。
独立 AI Infra 厂商若只夹在通用硬件与通用模型之间，长期很难建立技术壁垒。 单项优化可能领先几个月，但“没有一项技术是几个月后追不上的”，最终容易滑向价格战；真正的出路是向硬件或模型延伸，以独家算力、第一方模型或深度 co-design 构造类似 PS5 独占游戏的黏性，“你就不要去做夹在中间那个人”。
在朱亦博看来，o1 与强化学习把行业第一指标从训练 MFU 推向了 decoding 速度和成本，但业内认知尚未完全统一。 DeepSeek 早期选择为低推理成本优化，训练 MFU 反而偏低，2024 年上半年基模也未必领先；但 2024 年 9 月 o1 带来 test-time scaling 后，低成本推理直接转化为快数倍的强化学习速度，成为其率先做出 R1 的关键条件。“最重要的事情永远是方向选择。”
模型竞争不是算法团队的单项赛，而是算法、系统与数据的“铁三角”。 同样用 5,000 张卡训练三个月，Infra 若提升 20% 效率，在其他条件相同的假设下，模型就能多学习 20% 数据并可能改善最终效果；朱亦博进一步主张，模型结构关系到运行成本，系统团队应深度参与设计，数据团队负责效果，算法团队聚焦训练方式。
阶跃星辰试图用视觉推理模型与国产芯片形成双向垂直整合。 朱亦博称其新模型应该是国内首个可由第三方商用的几百 B 级视觉推理模型，可直接看图拆解任务而非先转文字；阶跃将向所有国产芯片提供免费商用授权、共享权重并协助适配，同时通过架构创新把国产卡上的推理成本压到可与英伟达方案竞争。
下一轮范式突破可能来自多模态理解与生成的统一，但专用能力和 Agent 应用仍存在阶段性窗口。 朱亦博以大约两年一次作粗略判断，继 2022 年 GPT-3.5、2024 年 9 月 o1 后，下一次也许要到 2026 年；Claude 靠代码数据投入形成差异化，而 Agent 公司与模型厂商则处于“有共生，但是又在互相杀伤”的状态。长期不变的判断来自《The Bitter Lesson》：“最终最能利用计算的方法，长远来说才是赢家。”
🔗 原始收听与视频来源： 关于 AI Infra 的一切 | 对谈阶跃星辰联创朱亦博