EP55 Token 价格因模型迁移而下跌:Silicon Data & Compute Exchange CEO Carmen Li
摘要
- Li 将 Token 价格下跌归因于客户转向更便宜的模型。 Silicon Data 跟踪 300 个开源/开放权重模型及闭源模型的消耗情况,观察到“token-mixing 时代之后,人们正从高端模型转向更便宜的模型”。Doug 提出,工作流路由可能解释这一变化,但 Li 看不到客户的具体使用场景,也没有确认这一机制。
- 全球新云市场的 B200 按需价格约为每 GPU 小时 5 美元,但其隐含远期曲线仍然向上。 去年向下倾斜的曲线已转为正价差结构;最近,A100 和 H100 曲线趋平。这些曲线来自预留合同,早于期货交易。Li 明确提醒:“市场有周期。”
- 老一代 GPU 的盈利能力可能超过简单折旧年限所暗示的水平。 Li 仍看到为 A100 签订的 3 年期合同,尽管这一架构已有约 4 至 6 年历史;她还提到二手市场上每张 GPU 售价为 4,000 至 9,000 美元。Doug 质疑这反映的是持久的经济价值还是单纯的物理寿命;Li 提及散热限制、设备更换延迟和工作流适配性,同时提醒:“我不是说每张 A100 都能用 9 年。”
- 算力对冲针对的是长期融资承诺与较短客户合同之间的期限错配。 GPU 融资期限可能长达 5 至 7 年,而预留合同只有 3 至 5 年,后续租赁收入因此面临风险。CME 期货可覆盖前 36 个月,更长期的对冲则需要场外交易;目标是让运营商锁定“生产成本”,使融资更容易通过承销评估。
- Silicon Data 的商业机会,取决于可信基准能否嵌入算力融资。 Li 称 CME 将在“未来几周内”推出 H100 和 B200 期货,已有 4 只 ETF 提交申请,其中包括 1 倍反向产品。她所说的成熟期 30 万亿美元衍生品市场,指年度名义交易额,并非数据授权收入预测。
- 芯片设计公司增多,并不意味着算力供给约束会自动消失。 Doug 强调晶圆制造产能正在扩张;Li 则指出,晶圆制造、封装、基础设施和审批都必须同步扩张。否则,产出仍会受增长最慢的环节限制;专用推理芯片可能补充 Nvidia,而不是取代其全部作用。
- Li 对 AI 最终由哪一层获取价值仍持开放态度。 Doug 提到互联网平台凭借客户和分销渠道占据优势,而 Nvidia 目前获取了可观的经济租金。Li 称 AI 还是“一个巨大的婴儿”:基础设施、模型、工具链和应用仍在发展,她并未声称知道未来哪一层会诞生最大的赢家。
精读
1. 固定价 AI 收入催生算力对冲需求
Li 从 DRW 的能源期权交易和 Bloomberg 数据集成业务转向创业,起因是 2024 年客户遇到的一项难题:AI SaaS 公司按月收取固定收入,按需 GPU 费用却从每 GPU 小时 3 美元波动到 9 美元甚至 16 美元。客户增加,未必能扭转负毛利率。她用航空公司打比方说明:“押注 GPU 周期不是他们的工作。”运营商应锁定生产成本,把精力放在产品上。
她的两家公司承担不同职能。Silicon Data 提供指数、估值和风险管理信息,定位为“算力的裁判层”,不提供 GPU 或 Token 访问。Compute Exchange 则通过算力、GPU 和 Token 的长期及远期合约,以及服务器二级市场交易提供流动性。Li 将两家公司的关系分别比作 Bloomberg 和 Nasdaq。
Li 预计,最先需要对冲的自然是 GPU 敞口集中的参与者,包括新云厂商、超大规模云服务商,或在资产负债表上持有服务器的融资方。她举例说,GB300 采购可能以 7 年期融资,而对应的预留合同只有 3 年、4 年或 5 年;即使已经锁定首批客户,之后的租赁收入仍暴露在市场风险之下。
Doug 的融资逻辑是,锁定未来收入可能让债权人更愿意为尚未签约的采购提供资金。Li 表示认同,同时强调对冲工具不等于无限流动性:CME 期货仅覆盖 36 个月。第 4 至第 7 年通常需要大宗或场外交易,交易定价可参考期货曲线,但期货曲线本身不会自动提供这部分流动性。
2. 基准的可信度支撑数据授权机会
录制时,Li 称 CME 将在“未来几周内”推出 H100 和 B200 算力期货;她预计之后会有期权,但当时没有宣布相关计划。基于这些期货的 4 只 ETF 已提交申请,其中包括 1 倍反向产品。她认为这一进展来得很早:按她的经验,发行方通常会先观察期货流动性,再围绕它推出 ETF。
B200 这个名称并不代表标准化服务器。Li 称,市场上约有 50 种配置,CPU、RAM、硬盘和地理位置都可能不同。Silicon Data 会将这些配置标准化到基础配置,并每日跟踪价格关系的变化;地区溢价可能反映对延迟敏感的需求。其数据每天约有 25 万行,授权安排可以包含独家权利或付费客户关系。
Doug 追问利益冲突,包括 DRW 的投资以及指数套利机会。Li 表示,按设计,DRW“并未参与”。她称自己不在指数计算委员会任职,因为研究主管和指数主管更适合承担这项工作;她也会与外部学术顾问合作。她还表示,指数提供商应建立经第三方审计的合规计划,并将指数计算职能分开,做到这些的参与者寥寥无几。她的核心原则是保持中立:“不能既参与交易,又同时当裁判。”无论竞争对手多少,一旦指数不再反映供需,它就失去了用途。
Doug 询问数据本身能带来多少收入。Li 没有给出收入数字,而是提出一个有条件的市场规模框架:NVIDIA 现货市场的名义交易额目前可能每年达到 1 万亿至 3 万亿美元;成熟后的算力衍生品交易额可能达到现货市场的 10 倍,上限为 30 万亿美元。她认为,交易越活跃,市场对细分基准、区域敞口和风险工具的需求就越大,但没有相应估算授权收入。
3. A100 合同挑战统一折旧逻辑
Doug 提出 Michael Burry 相关的看空论点:延长服务器的使用寿命可能导致盈利被高估。Li 给出的反例来自实际交易:A100 问世已有约 4 至 6 年,她仍看到市场签订 3 年期合同。她称,维护良好的设备若先后签下 6 年和 3 年合同,累计现金盈利期可能至少达到 9 年,但明确限制了这一推论:“我不是说每张 A100 都能用 9 年。”
Doug 的反驳值得保留:能否物理运行,与是否仍有经济价值并非一回事;新芯片可能凭借生产效率和能耗节省,足以证明更换设备是合理的。Li 认同新架构效率更高,也能支持更大的模型。但散热系统、楼板承重、可用资本和交付周期都会限制设备更换;买家可能要等 6 个月或更久才能拿到新设备,二手设备却“明天”就能到。
Li 提到,A100 二手价格为每张 GPU 4,000 至 9,000 美元。她另称,H800 残值一直在下降,但仍高于按 5 年直线折旧计算的水平。她要表达的是盈利尾部更长、且分布不均,并不是说老硬件不会折旧,也不是说所有服务器都应采用相同的会计使用年限。
软件也会改变硬件的经济性。更大的模型可能超出老 GPU 的显存容量,但更好的优化或量化技术,或许能让这些模型重新部署到老芯片上。这会改变需求和定价:GPU 层的价值,部分取决于其上方的软件和模型层如何发展。
4. 远期曲线已经改变了对周期的判断
Li 表示,大部分 GPU 消耗仍发生在超大规模云服务商内部;但新云厂商已从两年前的寥寥数家扩展到全球 300 多家,而且每天都有新服务商出现。供应商增加,客户选择更多,基准也更难被操纵;交易数据还可以来自客户账单,从而在服务商自有账户数据之外进行核验。
过去 30 天里,大多数芯片价格趋于稳定,全球新云市场的 B200 按需价格约为每 GPU 小时 5 美元。Silicon Data 的隐含远期曲线汇总预留合同,涵盖 36 个月和 5 年期等期限。去年曲线向下倾斜;今年转为正价差结构。最近,A100 和 H100 曲线趋平,B200 仍处于正价差结构。
Doug 的说法是:“关于远期曲线,我唯一知道的就是它总会出错。”Li 认同曲线反映的是当下共识,并不代表掌握了未来现货价格。被问到 B200 年底价格是否高于 5 美元时,她说:“我确实不知道。”作为指数提供商,她也不提供前瞻指引或持有交易敞口。
5. Token 价格反映消耗变化,而非模型质量
Silicon Data 的 Token 指数估算,如果全社会是一个人,会愿意为 Token 支付多少。Li 跟踪 300 个开源和开放权重模型,以及闭源模型的消耗情况,并计入不同的输入与输出价格及用量。该产品衡量的是实际观察到的支出选择,不评判模型质量,也不只是复述高端供应商公布的价格。
Li 强调的机制是模型迁移:“token-mixing 时代之后”,人们正把至少一部分工作流转向更便宜的开源和开放权重模型。Doug 提出,工具链可能会将较简单的任务路由到前沿模型之外。Li 对此保留条件:“我们实际上不了解客户的使用场景。”她举例说,摘要任务可能不需要最强的模型。
Li 将 Token 指数与山寨币收入图表作比较,称它“几乎是一个领先指标”。指数开始上升时,山寨币收入也随之上升;后来指数跌至约 1 美元左右,收入也开始停滞。她将指数解释为支付意愿;她没有证明两者存在因果关系,也没有说明每位客户转用其他模型的原因。
Token 服务仍主要采用按需计费,不像 GPU 有预留定价。Li 提醒,供应商可能在没有明确披露的情况下更改价格或精度。Doug 希望设置限制,避免智能体带来意外账单;Li 补充,用户还会考虑质量、截止时间、延迟、安全性和地理位置偏好。拥有或租用 GPU 则是另一种消耗方式:在硬件容量范围内运行模型。不过,正如 Doug 提醒她的:“折旧是真实存在的。”
6. 芯片竞争仍受制于物理瓶颈
Doug 询问超大规模云服务商自研芯片会带来溢价还是折价。Li 回忆 AWS 曾宣布下调 Trainium 等型号的价格,但没有给出数值化的价格差异。她从功能上区分两类产品:一些专用推理芯片旨在补充 Nvidia 的应用场景,另一些则试图在特定推理工作负载上取代 Nvidia。不同芯片并不能互换,也无法覆盖所有任务。
Li 举例说,原本为 Nvidia 生产 100 颗芯片的工厂,可能改为生产 80 颗 Nvidia 芯片,再为另外两家设计公司各生产 10 颗。设计公司增加本身并不会提高总产量。Doug 强调工厂正在扩张;Li 表示认同,但封装或其他扩张较慢的环节仍可能限制最终交付能力。设计公司增加的速度,可能快于实体产能扩张。
监管暂停也是潜在约束之一。Li 提到暂停审批的风险时,Doug 表示没听说过她描述的广泛情形;她则举例称,纽约州表示未来几年不会建设数据中心,同时承认政策可能改变。她也不认同期货推出本身就是泡沫信号:期货让看空的参与者能够做空,也有助于价格发现,而现货市场原本主要由多头敞口主导。
7. AI 最终赢家尚未定局,市场基础设施仍在发展
Doug 询问投资者应如何在晶圆制造、硬件、Token、数据和应用之间布局。Li 回顾互联网基础设施的发展,以及最终获取价值的平台。Doug 提到 Google 和 Meta 拥有客户,并补充了 Amazon 的分销能力。这些历史经验并不能确定哪些 AI 企业会重现同样的路径。
Li 称 AI 是“一个巨大的婴儿”:规模已经很大,但仍处于早期发展阶段。Doug 指出,Nvidia 当前获取了可观的经济租金;Li 则认为,基础设施仍在建设之中,模型、工具链和应用都建立在其上。未来或许会出现另一层赢家,但她的回答仍是:“我不知道。”
同时经营两家公司,也让经验迁移没有想象中容易。Li 形容数据业务和交易市场有着不同的文化、利润率和获客路径,就像性格各异的女儿。她给创业者的建议由此而来:选择一件足够有吸引力的事,才能支撑持续学习,并应对意料之外的障碍。
Li 对 Compute Exchange 的具体目标,是把采购周期从“2 个月”缩短到“3 小时”,既服务较小买家,也满足 20,000 个节点的采购需求。Silicon Data 的对应目标,是为各层算力建立可信的估值和基准,让参与者每日评估敞口、了解融资成本,并据此决定如何对冲。