先锋 趋势 方法 投研 作者
SF Compute:将算力商品化,永久解决 GPU 泡沫
返回节目精读

SF Compute:将算力商品化,永久解决 GPU 泡沫

摘要

  • GPU 云无法继承 CPU 云的软件利润率,因为每增加一块加速卡都可能改进模型或带来收入,使买方对价格极度敏感。 假设机群规模为10亿美元,10%的溢价就是1亿美元;Conrad认为,客户即使花5000万美元重做这套软件,仍然划算。“他们根本不在乎你的软件。”

  • CoreWeave 的胜出模式更接近银行或房地产,而不是传统云计算:先与信用可靠的客户签下长期合约,再廉价融资购买硬件。 swyx表示,Microsoft和OpenAI合计贡献了CoreWeave收入的77%,让贷款方更有信心,也降低了CoreWeave的资本成本。把这些金融属性视为糟糕云业务的证据,恰恰误解了Conrad的观点:“GPU完全不是那样。”

  • 经济上更稳定的行业结构,是将 GPU 所有权与其上层软件分开。 CoreWeave可以作为“一家非常、非常优秀的房地产公司” prosper,Modal则无需拥有底层算力也能发展;Conrad对同时经营两类业务的公司的警告非常直接:“把这两种业务混在一起,就会被一枪爆头。”他怀疑,超大规模云厂商转售NVIDIA GPU也会亏钱,因为它们的资本有更高毛利的替代用途。

  • SF Compute 把僵化的 GPU 承诺变成可以转售闲置时段的现货市场,将健康机群的利用率推向100%。 买方可以预订数千张H100一个小时,持续按小时续订,也可以支付合约价与市场价之间的差额,取消更长期的承诺。公司将自己称为“GPU融资的电动工具”,让买方能够组合出自己需要的成本、期限和中断特征。

  • H100 过剩反映的是供给同步涌入,而不是 GPU 需求崩塌;Conrad 初步预计,冬季前后市场可能重新进入短缺状态。 基础设施瓶颈曾让机群延期,随后又集中解决;与此同时,测试时推理可能让算力消耗远超此前由少数消费级模型供应商主导的市场。他反复强调,预测取决于下一代芯片的铺货速度:“我认为自己接近市场,但也只是一个模糊的投机者。”

  • SF Compute 的终局,是建立现货价格指数,支持现金结算的 GPU 期货,让数据中心对冲价格,而不是把风险转嫁给初创公司和VC基金。 Conrad强调,SF Compute目前只是现货市场;未来的期货市场有望降低资本成本,减少对庞大且僵化客户合约的依赖。没有这种对冲,他认为算力义务推高了尚未产生收入公司的估值,并助长了AI融资泡沫:“期货是让整个行业冷静下来的方式。”

  • 让算力具备交易属性,需要的是运营标准化,而不只是一个金融界面。 SF Compute会用Linpack对机群进行约48小时至7天的压力测试,运行主动和被动检查,取得BMC访问权限,执行SLA,并推进自动退款和替代容量机制。这些物理层面的复杂性,也是Conrad不看好点对点GPU网络的原因:如果架构不变,“光速限制真的很难突破”。

精读

1. GPU scaling laws destroy the CPU-cloud pricing playbook

  • Conrad首先区分了Web应用服务与模型训练的不同。Gusto或Rippling这样的公司只需购买足以满足需求的CPU,之后再增加一台服务器也“真的一分钱都赚不到”。它们的容量曲线先上升、随后趋于平坦,因此软件服务能够支撑云业务的利润率。

  • 模型开发者面对的激励恰恰相反。训练存在边际收益递减,但Conrad表示,“总会有收益”:再增加一块GPU,可能改进模型;测试时推理则可以运行更久、提升性能、服务更多客户或降低延迟。因此,每增加一块GPU,都有一条合理路径通向新增收入。

  • 这让采购逻辑从“我怎样才能尽可能便宜地买到所需CPU”,转变为“在固定预算内,我能塞进多少GPU”。结果是,客户相对于自身规模会采购异常庞大的数量,却会对单价更加敏感,而不是更不敏感,因为每节省1美元,就能买到更多有用算力。

  • Conrad给出的数字样本是10亿美元的GPU硬件。10%的软件溢价就是1亿美元,足以花5000万美元内部重做一套替代方案,并把剩余资金留下。GPU云因此不能假设服务会带来CPU基础设施熟悉的50%以上利润率:“只要做得到,他们会立刻关掉它。”

2. CoreWeave monetized credit quality rather than software lock-in

  • Conrad对CoreWeave成功的压缩式解释是:“卖出有锁定效应的长期合约,短期业务基本什么都别做。”理想客户要么预付款,要么足够可信、能够按期付款,从而在硬件融资前消除利用率和折旧的不确定性。

  • swyx表示,Microsoft和OpenAI合计贡献了CoreWeave收入的77%。这种客户集中度带来战略层面的疑问,但也形成了可融资的应收账款:Microsoft不太可能违约,而Microsoft的背书以及OpenAI展现出的增长势头,都让OpenAI的信用状况明显好于一家种子轮前、尚未产生收入的初创公司。

  • 主持人用“它是一家银行”和“它是一家房地产公司”来概括,这在Conrad的框架里并不是贬义。CoreWeave不应被当作转售NVIDIA GPU的高毛利SaaS业务来评价。把它视为拥有大量资本、并与租户签订合约的资产方,其经济模型就更容易理解,也仍然可能是一门“很棒的生意”。

  • Conrad的风险图表以GPU能否卖出和折旧敞口为两条轴,融资成本则横跨两者。来自低风险客户的长期预付承诺处于最佳区域;客户可能违约的长期合约次之;短期限、低价格、且延后收款的销售,则落在利息最高、利润空间最受挤压的位置。

3. Short-term GPU sellers are squeezed from both sides

  • 失败的云业务策略是:前期把价格定得足够高,以覆盖后期折旧,再用软件留住买方。Conrad用每小时5美元的售价对比约1.50美元的GPU底层成本来说明:前期利润必须抵消竞争最终把收入压到成本以下的阶段。

  • 实际上,价格敏感的客户会“一次次把你往下压”,而超大规模云厂商仍有足够的资产负债表空间进一步压低利润率。高价短期业务因此被摧毁,供应商被迫转向低价短合约——恰恰是现金回款下降、融资压力上升的结构。

  • Conrad怀疑Microsoft、AWS和Google转售NVIDIA GPU可能会亏掉一大笔钱,不过他明确将其作为直觉判断。它们可以从小规模实验客户身上赚钱,也可以效仿CoreWeave签长期承诺,但把同样的资本投入自有模型、产品或竞争性芯片,可能获得更高利润率。

4. NVIDIA benefits from a financing intermediary it does not control

  • 当被问及NVIDIA为何不直接创办CoreWeave时,Conrad给出了带有保留的战略解释:NVIDIA会因此与购买其芯片的云厂商竞争。他也提出,控制过多层级可能引发反垄断问题,但明确表示这只是猜测,并认为客户冲突才是更有力的理由。

  • Microsoft理论上可以把这一角色内化,但Conrad推断,NVIDIA不会希望某一家超大规模云厂商吞下过多供给。如果Microsoft、Google、Amazon和Oracle基本成为唯一买家,它们的集中度就会形成买方垄断,让少数客户对NVIDIA定价拥有越来越大的影响力。

  • 更广泛的GPU云群体能让买方彼此竞争资源分配。因此,CoreWeave对NVIDIA的价值不只是转售商,也是另一股需求来源,避免硬件市场收缩成4到5个占主导地位的采购关系。

  • 同一套逻辑支撑着Conrad最尖锐的行业主张:将硬件所有权与软件服务分开。CoreWeave可以靠GPU房地产赚钱,Modal则可以在不拥有机群的情况下构建软件。对于两者合一的运营商,他援引“死神敲响隔壁房门”的说法:能抵消十亿美元硬件敞口的十亿美元软件增值业务,实在太少。

5. SF Compute emerged from an audio lab’s recurring solvency crisis

  • SF Compute最初的目标是训练通用音频和音乐模型,而不是搭建交易所。团队没有筹集通常用于首次训练模型的约5000万美元pre-seed轮融资,因为估值、稀释以及下一轮融资的负担看起来可能致命——尽管Conrad现在认为,当时或许应该融这笔钱。

  • 他们原本预计可以按需或按月租用数千张A100,却被告知供应商要求至少承诺一年。Conrad起初非常愤怒,后来理解了原因:如果客户可以轻易取消,供应商就会独自承担庞大库存和折旧风险。

  • 他们的解决方案是消耗一年合约中的1个月,再转租剩余11个月。问题在于,这几乎是生死线:公司大约每30天要支付50万美元,而银行账户里约有50万美元。“如果我们不能把机群卖满,就会直接破产。”

  • 熬过第一年后,公司意识到自己掌握了一项能力。它开始充当GPU房地产经纪商,把需要6个月的买方撮合进供应商的1年承诺,运营裸金属机群并抽成。这些定制交易积累了买卖双方,最终演变成真正的市场,拥有买价、卖价和交易引擎。

6. Resale liquidity makes otherwise irrational GPU durations possible

  • SF Compute可以把数千张H100报价到低至1小时,尽管没有理性的资产所有者会围绕1小时客户来融资建设机群。这类容量通常来自某个客户先买下更长期限,随后因为代码失败或需求变化,转售未使用的时段。

  • 同一机制也服务于SF Compute曾经面对的那类客户:需要大机群运行1个月,却不愿为接下来的11个月承保。市场汇聚了“零散的流动性小块”,把即将到期或暂时闲置的承诺转化为可用的突发容量,而不要求每个供应商自行承担取消风险。

  • Conrad表示,健康机群的利用率会接近100%,因为价格会持续下降,直到库存出清。InfiniBand网络、交换机、NIC或其他物理组件故障时,实际利用率可能更低;但只要硬件正常运行,闲置时段就有出清价格,而不会继续被困在资产负债表上。

  • 对GPU云供应商来说,SF Compute可以在继续寻找理想长期租户的同时填满闲置机群。长期租户出现后,短期预订就转移到别处。长期买方也可以支付合约价与转售价之间的差额取消合约,在获得灵活性的同时,不把底层风险退回给供应商或贷款方。

7. Today’s H100 glut may precede another conditional shortage

  • Conrad拒绝接受对H100价格下跌的单一、确定性解释。在快速扩张期间,瓶颈并不只在芯片本身——InfiniBand线缆、NIC、发电机或数据中心容量都可能拖延交付,导致承诺的机群错过上线日期。限制因素一旦同时解除,大量机群集中上线,市场便从短缺转为过剩。

  • swyx提到过度下单和初创公司倒闭,但Conrad保留了一个重要区分:供给过剩不等于需求下降。“GPU需求显然比以往任何时候都大”;只是市场增加供给的速度更快。

  • 他的预测刻意保守:市场可能“到冬季前后”重新接近短缺状态,但高度取决于未来芯片的铺货速度。接触到更多市场数据后,他的判断不是更确定,而是更模糊:“我认为自己掌握的信息比很多人更多,而这让我成为一个更模糊的投机者。”

  • 测试时推理可能成为需求加速器。swyx估计,开源AI的规模约为闭源AI的5%;Conrad则回忆,OpenRouter中除Anthropic、Google Gemini、OpenAI等供应商之外的部分,当时只有约10个H100节点。测试时推理可能扩大算力消耗,但最终价格影响仍取决于新芯片供给。

8. Physical locality limits decentralization, while markets widen access

  • Conrad“极度怀疑”家庭或广泛分布式GPU能击败使用InfiniBand或其后继技术、且完全互联的机群。加密货币或许能降低支付摩擦,或补贴冷启动,但代币激励最终会耗尽;它们无法消除延迟,也无法把分散的显卡变成一台紧密耦合的超级计算机。

  • swyx给出了最有力的反例:架构可以通过细粒度混合专家路由、块注意力,或许还有分布在不同硬件上的200个专家来适应。Conrad承认,重新设计的模型可能更适合跨空间并行,但如果算法不变,“光速限制”仍然难以绕开。

  • 灵活的集中式供给,受益者包括传统GPU云最不愿服务的客户。研究生会毕业,资助会到期,项目也会不断更替,但一个拿到10万美元资助的研究者,可能负担得起一次大型突发算力使用,即使无法承受一整年。Conrad提到Standard Intelligence、Phind和Schmidt Futures受资助者,都是这类用户的代表。

  • VC提供的机群解决了类似的信用问题。初创公司很难直接借到5000万美元,而拥有约10亿美元资产的基金或资本合作方可以做到;因此,以股权换算力本质上是信用风险套利。Conrad认为Andromeda据称价值1亿美元的机群时机不错,但称这是一项一次性的优势,如今已经被竞争压平,并不建议盲目复制。

9. Hourly reservations let buyers engineer their own spot exposure

  • 一周价格高于一天或一个月的反常曲线,反映的是当前正在到期的容量。Conrad把即时算力比作过期牛奶:某个时段一旦过去,容量就无法再出售,因此闲置区块会不断降价,直到有人出清。起始日期在一周之后的曲线则更符合常规。

  • SF Compute不把这称为可抢占算力。每个小时都被牢牢预订,但自动化程序可以重新购买下一个小时,并持续重复这一过程。只有当下一小时的价格超过买方设定的上限时,工作负载才会失去容量;中断因此成为明确的定价规则,而不是云供应商不透明的政策。

  • Conrad的例子把最高价格设为4美元,同时以市场远低于这一水平的出清价购买。采用这种策略的历史均价接近每小时1美元,有时约为0.80美元;耐心的任务可以只在低于0.90美元时出价,并优先安排在夜间运行。买方接受价格不确定性,以换取显著更低的平均成本。

  • swyx将这些工具与批量推理联系起来。运营商不必接受一个“半价、24小时内返回”的单一产品,而是可以围绕预期现货供给,金融化设计4小时或8小时的服务水平。这种中间方案可能适合后台代理:任务具有弹性,但仍需在一个工作日的部分时间内完成。

10. GPU futures are intended to hedge risk, not amplify speculation

  • Conrad反复纠正术语:SF Compute目前是线上现货市场,“非常明确地不是期货”或衍生品交易所。最终计划是形成可信的指数价格,再支持现金结算期货,让数据中心锁定收入,而不要求实际交付GPU。

  • 他的经济学判断是,风险构成了算力边际成本的很大一部分。对冲可以稳定数据中心收入、降低融资利率,并减少对刚性客户合约的依赖。“期货是让整个行业冷静下来的方式”,只有在把衍生品单纯理解为投机杠杆时,才显得自相矛盾。

  • 没有期货,数据中心就通过长期承诺把价格和利用率风险转嫁给初创公司;初创公司再通过巨额融资需求把风险转嫁给VC。Conrad认为,这有助于制造巨额的收入前估值,而这些公司不可能全部为LP带回资本:“这就是一个迟早会彻底破裂的泡沫。”

  • 现金结算层仍需要可信的物理交付作为底座。“这些是超级计算机,不是大豆”:现货市场必须运营机群、审计性能,并证明标准化算力确实可用,之后其价格才能成为风险管理工具的锚。

11. Operational standardization is SF Compute’s real exchange infrastructure

  • 机群验收从压力测试开始,通常使用Linpack,可能持续48小时,也可能长达7天。这是对整个组装系统的集成测试,而不只是检查一张NVIDIA显卡。Conrad回忆,曾有一座机群在Linpack测试下发生电压骤降,这立即说明它无法安全承载生产工作负载。

  • 压力测试后,SF Compute会运行贴近真实场景的性能测试,并进行主动和被动监控。被动检查观察线上工作负载,并标记硬件供之后下线;主动检查则利用空闲时段进行侵入式测试。自动退款只能部分奏效,因为“总会出现新的狗屁问题”,未被捕捉的故障模式仍需人工调查。

  • 公司通常会取得BMC访问权限,从而可以远程重启和重装系统,而不是充当被动转售商。其工程师会加入客户的Slack频道,凌晨2点也可能协助排查故障;严格的供应商SLA会传递给买方,随着公司扩大,替代容量和自动按比例退款也会逐步实现。

  • 标准合约对存储及其他可变组件采用“这一规格或更好”的要求,并以硬件白名单提供支持。公司自定义的UEFI shim,可以理解为现代BIOS层,负责下载并启动客户镜像,随后支持Kubernetes、虚拟机或其他软件栈。向上控制裸金属,才能让异构机群足够相似,从而实现审计、定价和交易。

12. An anti-hype culture grew from years of founder volatility

  • SF Compute刻意采用稀疏的自然主题品牌,设定克制的预期:用户看到的是一张朴素页面,随后获得一台“便宜了几百万美元”的超级计算机。Conrad想要的,是与华丽的AI网站相反的体验——后者最终往往只是一个普通SaaS应用,尤其是在SF Compute早期产品本身还很粗糙的情况下。

  • 唯一的例外是旧金山本身。Conrad热情推介雾、桥梁、周边乡野以及“巨量的乐观主义”,用这些意象反击那些只围绕Tenderloin或苦干文化的城市叙事。因此,平静的画面既是产品定位,也是对公司名称所指向城市的真诚推介。

  • 这种克制来自一段充满挫败的创业经历。Quirq运转起来时,心理健康留存率接近于零;Room Service则面对着自行搭建分布式系统的客户;“别死掉”的建议让Conrad在4年里尝试了约40个产品。他说,放弃电子邮件并不是因为问题无解,而是因为自己已经筋疲力尽,而Intercom已经拥有理想的客服客户群。

  • SF Compute最后的招聘介绍映射出其混合型业务。公司正在招聘底层Linux工程师,代码库以Rust为主;同时,一名偏金融科技的工程师负责账本、报告,并承担“别把钱全赔光”的任务。更好的金融基础设施最终意味着更好的供应商和买方价格,也让一个只有10万美元经费的研究者能够短暂参与实验室级别的算力竞争。