对话Modal的Erik Bernhardsson：推理市场谁将胜出？

摘要

• Modal 年化经常性收入已达10亿美元，但扩张算力仍令现金流为负。 Stebbings 披露，Modal 完成由 Accel 领投的7.5亿美元融资，估值157.5亿美元；Bernhardsson称，公司损益表口径已盈利，但仍在为GPU容量投入资金。过去12个月增长15倍，月增速仍维持在30–40%；他希望再过一年，收入能“远超”40亿美元。
• 推理业务的毛利率空间，来自销售一整套平台产品。 单卖“代币换美元”容易导致客户切换，最终陷入“逐底竞争”；沙箱、训练、强化学习和工作流则能增加客户留下来的理由。Bernhardsson认为 Modal 毛利率最终可能达到40%、50%甚至60%，但不认为软件业能回到90%毛利率，因为客户支出需要覆盖多层基础设施。
• Modal 汇集供给、聚合需求，把难以预测的客户工作负载变成更可管理的整体需求。 公司从25家新云厂商采购容量，提前预留资源，再按GPU秒向客户收费，客户因此不用签多年期承诺。GPU采购周期为3到4个月，增长意味着要按预测需求的约2到3倍提前备货；硬件价格最终会“像重力一样”下跌，但 Bernhardsson 无法判断眼下的涨势会持续一年还是五年。
• Nvidia 的生态比 CUDA 本身更重要。 Bernhardsson认为 CUDA 的护城河“有些被夸大了”，真正关键的是框架、内核和推理引擎都优先支持 Nvidia。他预计专业芯片厂商和 Nvidia 都会继续增长，也承认自己过去15年来不断预测非 Nvidia 加速器即将崛起，却一再判断失误。
• Bernhardsson 不认同开源推理已经见顶。 他认为未来12个月，开源模型和前沿模型的使用量都可能增长“5倍、10倍、20倍”，因为两者对应的定制、控制和性能需求不同。他还看好一家估值可达1000亿美元的专业模型推理公司，并表示自己当时会以85亿美元投资节目讨论的那家专业厂商。
• 沙箱业务说明，基础设施需求可能在产品发布很久之后才真正到来。 Modal 于2023年推出沙箱，直到2025年夏天，随着模型编写代码、构建完整应用的能力提升，需求才加速增长；目前该业务年化收入达3亿美元，约占总收入的三分之一。Bernhardsson希望新推出的训练产品能在6到12个月内达到1亿美元年化收入。
• 强化学习最明确的优势，体现在反馈可验证、周期相对较短的任务上。 编程和数学符合这一条件；工程决策的后果往往数月后才显现，可能暴露强化学习的局限，但 Bernhardsson 多次承认自己也可能判断有误。他仍非常看好软件工程需求：生产力提升会扩大软件需求，也会让工作更多转向理解人的需求。
• 他几乎确信股市会出现20–30%的回撤。 但这不改变他对长期机会“巨大得离谱”的判断。另一个方面，他会谨慎看待依赖持续股权融资的公司；他的经营原则是每轮融资都“当作最后一轮来融”，同时确保有真正通往商业化和收入的路径。

精读

1. Modal 的资金需求已从日常运营转向GPU容量

• Bernhardsson 大约在1992年、8岁时开始写代码，但直到36–37岁才创办 Modal，部分原因是缺乏信心。他创业的动力仍是做产品，而不是套现退出：“我不想卖掉这家公司，因为我转头就会去创办 Modal 2。”他不认同把创业形容为“嚼碎玻璃”，希望能在 Modal 工作20年、30年、40年，甚至50年。

• Stebbings 介绍，Modal 年化经常性收入已达10亿美元，此前公司完成由 Accel 领投的7.5亿美元融资，估值157.5亿美元。Bernhardsson区分了经营盈利和现金消耗：Modal损益表口径已盈利，但由于容量需要预先投入，现金流“相当负”。大约到去年之前，公司每月烧钱只有几百万美元；现在融资资金能提供帮助，但他不愿把资金称为护城河。

• 融资主要靠关系，而不是路演材料。讨论条款之前，他已经和 Accel 的 Rich、Gonzalo 谈了一年多。对于早期创始人，他建议不要只盯着估值：VC往往愿意投的钱超过公司所需，反而造成不必要的股权稀释。少融一些、估值低一些，既能保住持股比例，也能“让VC对下一轮融资保持饥饿感”。

2. 初创公司建立结构性防御之前，速度和个性更重要

• Bernhardsson对随意谈论护城河持保留态度，依据的是更严格、接近 Seven Powers 的定义：“早期根本没有护城河。”他更喜欢 Ben Thompson 对 Snap“姜饼人策略”的描述：“他们只是跑得更快”（They just run faster）。Stebbings提出自己的投资标准——顶尖1%的团队、快速做产品决策和品牌；Bernhardsson大体认同，但仍不愿把这些称为护城河。

• 在 Bernhardsson看来，Modal 的品牌从开发者体验和自下而上的采用开始。他在 Spotify 的经历影响了 Modal 的B2B产品设计：官网、视觉识别和首次使用体验都要让人印象深刻。他认为 Modal 的社区热情高于 Baseten 和 Fireworks，同时强调自己“对竞争非常警惕”，密切关注外界对这些公司的讨论。

• 他用一个令人印象深刻的标准来形容创始人：愿意穿着“该死的粉色皮草大衣”上台。个性不是复制功能就能复制的。Stebbings反问，Modal 并没有同等规模的创始人个人影响力；Bernhardsson接受了这个批评。早期增长靠的是他在 Twitter 上大量联系用户、请他们试用产品，其中一些用户后来成了天使投资人。“要把自己的长处发挥到极致。”

3. 推理服务搭配周边工具，价值才更高

• Bernhardsson称推理是“新的云”，但认为只做推理还不够。后训练、沙箱、智能体工具、低延迟服务和批量推理应该配套提供。否则，供应商只是在做“代币换美元”的生意，客户几乎没有切换成本，行业也会陷入“逐底竞争”。他表示，打造支撑一整套产品的基础设施并不容易，但明确补充说，这“不是护城河”。

• Stebbings问，行业毛利率大约在25–40%，是否有机会升至70%。Bernhardsson认为 Modal 可能达到40%、50%甚至60%。他的逻辑“几乎像拓扑学”：客户花出去的一美元会流经应用、模型、基础设施、云和 Nvidia，各层都要分走一部分毛利。“90%软件毛利率的生意已经消失了。”但他认为，市场仍留有充足的赚钱空间。

• 在 Stebbings 质疑产品线专业化是否与平台扩张矛盾时，Bernhardsson表示，推理市场比他预期大“10倍甚至100倍”，足以容纳面向延迟、吞吐量、批处理、音频模型和训练的不同产品。Modal 可以在同一平台上承载多种专业产品。他还预计会出现新的技术和硬件，以更少资源完成任务，而不是永远沿用今天的推理架构。

4. 聚合GPU供给和客户需求，是 Modal 的运营优势

• Bernhardsson说，在 Nvidia 3月的 GTC 大会上采购GPU，场面像“露天毒品市场，只不过交易的是GPU”：数百家供应商、不断谈容量。Modal 与25家新云厂商合作，替客户处理采购。他的长期目标是汇集更多全球算力，同时聚合需求，再高效地统筹两者。

• Modal 自行搭建了文件系统、容器运行时和调度器，没有采用 Kubernetes 和 Docker。Bernhardsson说，这使公司能够把分布式算力视为一个统一资源池。单个客户的需求会突然起落，但数千家客户合在一起，需求曲线就平稳得多。客户获得的不只是GPU：“你甚至不必做容量规划。”

• 有个客户一夜之间在 Modal 上线，“我们当时甚至不知道这件事”；平台自动提供了所需GPU。客户可以随时扩容或缩容，按GPU秒付费，不必一次性承诺固定容量、连续使用3年。

• 采购仍然离不开预测。GPU交付周期约为3到4个月；Modal 根据月增速推算整体需求，过去一年月增速一直在30–40%。Bernhardsson说，这意味着要提前锁定约为预测需求2到3倍的容量。客户多元化后，整体需求比任何单一客户的需求更容易预测。

5. 算力价格终将下跌，但时间无法预知

• Bernhardsson不认同容量“根本买不到”的说法：Nvidia正大规模出货，愿意出更高价格的买家可以买到GPU。Modal 的GPU多头敞口高于空头敞口，预留容量的期限更长，再以较短期限出租。他认为，底层价格上涨可以反映到客户价格上，因为客户的支付意愿也在上升。

• 被问到 H100 价格走势时，他的回答格外直接：“老兄，我完全不知道。”从长期看，硬件价格会下跌，“就像重力一样”（like gravity）；但供应短缺推高了价格。价格可能再涨一年、两年，甚至五年；他不知道。供需最终趋于平衡，并不能给投资者提供明确时间表。

• Stebbings认为未来5年内不可能出现产能过剩；Bernhardsson回答“大概不会”，没有给出绝对判断。Stebbings提到，Instinct据称目前还没有收费或收入；Bernhardsson则把它作为未来可能实现商业变现的例子。公司可能在开始赚取收入前就消耗大量GPU，这段时间差可能成为限制因素。

6. Nvidia 生态和新云厂商融资，各自考验不同能力

• 在 Bernhardsson 看来，专业芯片厂商的出现并不意味着 Nvidia 会受损。他预计 Nvidia 会继续增长，Cerebras 和 Etched 等公司也能找到自己的市场。Stebbings问 Cerebras 为什么跌了30%，他没有给出股价解释：“我不知道。”他主要被动投资指数，不花时间追踪个股。

• CUDA 本身是“相当令人头疼的编程模型”；真正的防御来自周边生态，包括经过优化的内核、框架支持，以及 vLLM 和 SGLang 等推理引擎。“今天所有东西都优先支持 NVIDIA。”Bernhardsson过去约15年来一直预测非 Nvidia 加速器会迎来突破年，也承认：“我总是判断错。”Trainium、TPU和 AMD 都在进步，但他仍认为它们落后。

• 新云厂商既是合作伙伴，也可能成为竞争对手。Bernhardsson对它们转向推理业务持怀疑态度，因为 Modal 花了5年打造的工程能力很难复制：每分钟部署数百万个沙箱、调度数千张GPU、同时处理数十万个任务。他尤其敬佩 CoreWeave 和 Nebius 的财务工程能力——拿下客户合同，以合同为基础融资购买芯片、交付算力，再在后续几年偿还债务。

7. 开源模型可以与前沿模型供应商一同扩张

• Stebbings提出 Jason Lemkin 的看空逻辑：前沿模型越来越便宜，加上美国企业不愿使用中国模型，开源推理的使用量可能已经见顶。Bernhardsson称这是“固定蛋糕大小”的思维。他认为未来12个月及以后，两类模型的使用量都可能增长“5倍、10倍、20倍”；Stebbings再次确认时间范围，他回答：“没错，当然。”

• 开源模型仍能满足客户对微调、参数控制，以及特定延迟和吞吐特性的需求——“这就像 Windows 和 Linux。”Bernhardsson还表示，开源模型供应商正转向能获取更多价值的授权模式。在他看来，这些收入可以用于打造更好的模型；开源开发并不必然输给越来越便宜的专有模型。

• 他希望欧洲和美国能出现更多模型，与他所尊重的中国实验室并存。值得一提的是，他明确收回了自己最初暗示欧洲缺乏人才的说法：欧洲拥有“多得惊人”的人才。真正短板在于把人才聚集到一家企业，并筹集大规模资本。他认为 Nvidia 赞助美国开源模型公司，是对自身生态的一项明智投资。

• 市场规模也足以支撑更窄的专业模型。在他看来，节目讨论的分类与回归模型专业厂商拥有出色的品牌和社区；若回到当时，他会以85亿美元投资。他更广泛的看多逻辑是：“有机会打造一家1000亿美元的公司，专注于多种专业模型推理。”退出或上市只是可能的结果，并非承诺。

8. 沙箱业务受益于早期基础设施投入和时机

• Modal 的无服务器函数产品于2021年推出，并在2023年借生成式AI推理迎来强劲需求；Stable Diffusion 并非公司预料中的爆款应用。沙箱于2023年推出，但直到2025年夏天都无足轻重。Bernhardsson初步将需求拐点与“Sonnet 4.5，或者类似的模型”联系起来：模型开始擅长编写代码、构建完整应用。

• 沙箱业务目前年化收入达3亿美元，约占 Modal 总收入的三分之一。过去12个月，整体收入增长15倍；Bernhardsson称月增速仍为30–40%，没有放缓。他希望再过一年，收入能“远超”40亿美元。Stebbings以假设收入40亿美元、净利润12亿美元为基础，论证公司估值便宜。

• Modal 在资源配置上的失误，是低估了开源大模型推理的重要性。公司最初认为这只是商品化的逐底竞争；DeepSeek让事情变得紧迫。Bernhardsson回忆，当时的反应是：“糟了。”随后12个月里，团队从1、2个人扩至约30人。他现在称 Modal 是排名前三的供应商之一。

• 训练产品刚刚推出，他希望6到12个月内能做到1亿美元年化收入。批处理、强化学习和其他相邻业务都很有吸引力，但 Stebbings质疑，产品线扩得太宽，会不会重蹈 Bernhardsson 批评新云厂商的过度扩张。Bernhardsson承认资源配置很难：“必须极其果断”，在合适的时机只做1、2个方向。

• Bernhardsson说，基础设施公司需要相信自己的直觉，判断哪些基础能力真正有用：要观察工程师需要什么，但不能有求必应。他的做法是先打造好的基础模块，等需求到来时让它们“爆发式增长”。他还希望客户体验更完整，提供更多产品，增加前线部署工程师（FDE）和销售人员，主动帮助客户，比如提供蛋白质折叠等生物领域示例。

9. 强化学习可能受限于更长的反馈周期

• Bernhardsson认为，后训练适用于反馈机制“相当明确”的任务。代码可以在沙箱中运行——已有实验室使用 Modal 完成这类工作；数学可以用 Lean 验证。网络安全也是有潜力的方向；法律领域“在一定程度上”也可以设计有效评估。当前重点反映的是智能体已经能够处理的一些人类任务，并不代表所有任务都适合同一种方法。

• 他对边界的初步判断是，智能体可能先自动化能在24小时或一周内完成的工作，而工程任务的反馈周期通常长得多。他“有种感觉”，强化学习在这类任务上会遇到局限。但他也保留了反面可能：“这么多年来我一直判断错。”也许最终强化学习能胜任人类要花6个月完成的任务。

• 他认为，软件工程从来不只是把英语翻译成代码；它还包括理解需求，并在人类需求、流程和技术系统之间做协调。从汇编语言、COBOL、C++、Python到如今的智能体，人与技术的交互界面不断上移。智能体是他30年来见过的最大变化，但历史上的生产力提升让他非常看好软件工程需求。Stebbings据此推断，未来10–20年工程师的饭碗无虞；Bernhardsson并没有给出这一时间范围。

• Modal 的150名工程师每月在编程智能体上花约50万美元。Stebbings认为支出应该增加10倍；Bernhardsson表示“也许”，并称工程师，包括他自己，已经大量使用智能体。至于推理成本下降会不会威胁供应商收入，他的回答是效率提升会催生更多应用：“它一下就能释放出5种新用例”，从而扩大总需求。

10. 掌握智能能力有条件，独立工具则面临平台化压力

• Bernhardsson不接受 Stebbings提出的“每家公司都需要拥有自己的智能能力”这一说法。微调开源模型可以获得很强的性能和稳定基础，不必担心模型突然变化或消失。但延迟、成本、性能、可改造性和周边服务同样重要。Modal既服务于 Runway 等使用专有模型的公司，也支持基于开源模型构建业务的客户；是否拥有模型只是考量因素之一。

• 对一个想创造现金流的20岁年轻人，他会考虑向前沿实验室销售编程环境：“这里有太多钱可以赚。”他担心的不是当下需求，而是融资模式：“你想不想踏上风投跑步机？”长期业务韧性仍不确定。Stebbings认为，加入实施、评估和监控服务能改善毛利率、延长业务寿命；Bernhardsson认同这个方向，但仍认为长期来看这门生意不好做。

• Bernhardsson认为，模型路由现在可以做成成功的独立业务，但最终可能会并入包含评估、微调和性能控制的更广泛产品套件。作为 OpenRouter 的天使投资人，他认为公司发展得很好，但当时会建议继续独立经营：高速增长、收入和品牌的分量，足以盖过“500个其他竞争对手”。他长期看好平台模式，但这并不抹杀独立产品眼下的机会。

11. 市场回撤风险、融资纪律与员工股权

• Bernhardsson“几乎确信”股市会出现20–30%的回撤，随后就会有人宣称AI时代结束。但这不会动摇他的长期乐观。他没有指出哪个板块过热，不过会避开依赖持续股权融资的公司：“每轮融资都当作最后一轮来融”（Raise every round as if it’s your last round），并确保公司真正有通往商业化和收入的路径。

• 他自己很少出售老股，因为已经有足够的钱，但支持在设定边界的前提下允许员工出售，提到上限可达10%。这样做有明确的招聘目的：让员工知道股权是“真金白银”，而不是账面数字。员工获得流动性的先例，也能让未来候选人更直观地评估薪酬，同时保留继续建设公司的动力。

• 人才竞争异常激烈：Modal曾输给一些实验室，错失非常优秀的应届毕业生，对方开出的薪酬是“2000多万美元”，但没有说明对应的薪酬周期。Bernhardsson希望 Modal 的薪酬能达到市场约第95分位，同时承认少数实验室会付得更多。他的替代方案是提供有竞争力的薪酬、员工股权流动性，以及他认为更大的股权上行空间，而不是逐一匹配所有实验室的报价。