AI token demand
摘要
金尚浩的核心判断是，市场把 AI token demand 错算成若干可枚举场景的总和，而企业真正上线前必须持续 post-train，因此算力需求被系统性低估。 空头用“1 万亿 IT 支出 × 30% 被 coding agent 替代＝3000 亿美元”来封顶需求，但他的实测结论是：“挂知识库和直接使用模型，并不是一回事。”企业要把私有数据标注、评估、训入模型，并随着新业务数据反复重训。
决定 AI 产出的不只是模型，而是程序、agent、agent 的任务拆分、模型与算力共同作用。 他重构约 45万—50万行交易级代码时，之前一天消耗约 2000—3000 美元 token，并把 Claude Code 的分工方式迁到自己的平台；Opus、DeepSeek、Soul 等模型混用后，效果往往好于押注一个最聪明的模型。“一个比较大的任务会调 70、100 个 agent”，因此 GPU、CPU、带宽与连接都随并行度水涨船高。
通用模型在企业私域里仍是“一个大鹦鹉”，真正值钱的是各公司独有且不断更新的数据闭环。 网络小说、教培、客服、销售、医药和跨境电商的共同点，是成功与失败记录不公开、同行间也不互通；最终服务模型可以很小，但 teacher model、数据标注和持续 post-train 仍会消耗高阶模型与大量算力。“公开能找到的数据只有 10%”之外，企业过去积累的大部分经营数据尚未被真正使用。
Muse 一类 To C agent 的胜负手可能不是准确率，而是响应率、互动感与流量入口。 金以豆包为例：哪怕答案准确率只有约 60%—70%，只要总能回应、交互顺畅，仍可能优于用户自己搜索；“模型弱没有关系，只要响应率高”。他不确信 Meta 能按当前路径迅速赚钱，却认为这类产品最可能先侵蚀 Google 搜索，而不是完整取代旅游、购物本身的乐趣。
AI 造成的大规模失业尚未出现，不是替代逻辑失效，而是企业还没有把模型训练成可用的员工。 他估计 AI-sensitive 行业目前对 payroll 的影响约 1万—1.5万人，又被数据中心建设部分抵消；科技、香港投行和资管招聘变弱，但通用 agent 仍不能稳定接管业务。“现在裁员还远远不够”，一旦企业完成数据整理、post-train 和流程匹配，裁员才可能集中爆发。
Anthropic 与 OpenAI 的 ARR 没有在开源模型和云厂入场后明显掉下去，本身就是需求强度的证据。 两家公司过去两年约消耗 27% 的算力，却曾承接主要变现；如今 Google、Amazon、Microsoft 也能借开源模型赚钱，原来的店仍然“还是满的”。云厂中他更看好 Microsoft 的企业确定性、Amazon 的短期报表表现，对 Meta 企业业务则保留意见：“有算力就一定能做成企业业务，这件事情是不一定的。”
半导体的核心预期差不是 backlog 有没有，而是市场给 backlog 打了多大的需求折扣。 金认为 post-training 与多 agent 利好 GPU，CPU 和光连接同样不可缺；DRAM 因全行业开始优化存储、价格又高，短期相对没那么乐观。组合层面，他仍认可 Microsoft、Nvidia 的风险收益，而 AVGO 即使业绩无虞，也会因接近 70% 的毛利、强势云厂客户和更低毛利的新市场而持续遭遇 multiple 压缩。
短期风险资产环境并不舒服，但与高仓位、高估值时期的脆弱结构不同。 利率、high-yield spread、Goldman Financial Conditions Index 与市场波动指标同时恶化，另有约 320 亿的 pension rebalance 卖盘；不过市场仓位和 forward PE 较低，半导体需求又存在预期差，所以他的判断是“会有负面影响，但不是毁灭性的”。十年美债短期已明显超跌，长期仍受 higher for longer 和 GDP 增长牵引，真正压制买盘的是柴油、crack spread 与整个 energy supply chain disruption。
精读
1. 实际烧掉的 token 改写了他对需求的判断
金尚浩不是从演示产品推演需求，而是从重构高频交易系统的消耗出发：三个月形成约 45万—50万行交易级代码，要求“没有容错”，之前一天花约 2000—3000 美元 token，另有两个 Max Plan。
他把 Claude Code 中原有的程序重新精炼，重点改造“怎么分任务”，再让 Sonnet 或其他模型完成复杂工作。自己的 code platform 本质上不是再造一个基础模型，而是把有效的 agent 编排迁移到别的平台，包括 Codex。
这段使用经历也修正了他的旧判断。3、4 月间，他看到 Anthropic 和 OpenAI 的模型在算力不足时“变蠢”，一度认为 coding 模型的 ARR 会掉；现在反而认为，企业真正使用模型前要做的工作远比想象中多，而且是持续支出。
他的总框架由四部分组成：自己的程序、agent、agent 如何拆任务，以及模型本身；算力主要与模型结合在一起。市场最容易只盯模型和基础设施，却可能把决定可用性的 agent、任务分工和 post-training 漏掉。
2. Agent 编排经常比单一模型的智力更重要
在他的 coding 工作流里，Opus 仍是主力，DeepSeek 参与执行，Soul 有时负责 planning；Astro 按原话更擅长“3D”。关键不是选出唯一赢家，而是让 agent 在恰当步骤调用不同模型。
Claude Code 看起来很强，部分原因是平台已经替用户完成收敛、分工与任务分发。金的判断是，许多人把 agent 层的能力误认成模型本身的能力：强的是 agent，不等于底层模型能独立完成整项工程。
他把 Claude Code 的任务拆分模式蒸馏到其他平台的设想，是如果能组织出更好的 agent，放到 Codex 等平台上，使用效果会非常好；代价是 KV cache 的成本仍是问题。模型越多、上下文越多，数据调度的重要性也越高。
3. 未经 post-train 的通用模型仍是“大鹦鹉”
在几十万行、零容错的交易代码里，模型会犯“简直不可思议”的低级错误。单个模型无法把一个大型任务从头做到尾，必须不断收敛目标、检查结果，再拆成更细的模块。
Coding 之所以显得成熟，是 Anthropic、OpenAI 等模型厂已经替用户做了大量场景化 post-train，并把工作流优化进模型。PPT 等常见任务也类似，不能据此推断所有企业场景都能直接开箱使用。
金的原话是，模型离开这些优化后“往往就是一个大型的鹦鹉”。它会复述、模仿，也能在有限结构内生成，但不会自动掌握某家公司的成功标准和容错边界。
因而企业问题不是“买到 token 就完成部署”，而是怎样定义结果、标注历史、建立评估，再把规律训回模型。知识库连接只能提供材料，不能替代行为塑形。
4. 网络小说实验把 post-train 的必要性暴露得最清楚
金试过让 Soul、Astro、Fable[?] 等模型直接写网络小说，也试过把热门作品段落、结构和上下文喂进去；结果要么文风“非常文艺”，要么严格沿着既定架构收敛，无法在该发散处发散。
他的可行方案是训练一个较小的 Qwen 27G 模型。最终执行模型不必最强，但要读取起点等平台的大量文章，并结合每页阅读结果，把段落表现转成可训练的标签。
标注可以由人完成，也可以让 AI 完成；他实际采用后者。teacher model 先读几十篇乃至约 300 篇文章，再评价执行模型发散生成的几千篇文本，看哪些结果的向量更接近 teacher model。
即使最终只是 27G 小模型，训练仍不轻：他估计两台 512 GB 的 Mac 可能要跑一两天；若换成 MoE model，“一定要去用英伟达的卡”。小模型并不等于小算力链条。
5. 所谓自我迭代，本质是不断加速数据闭环
金对“ASI”的解释并不奇幻：新文章或新章节发布后，系统更快读取这些内容、更快标注，再由 AI 自动 post-train。迭代速度来自反馈进入模型的速度，而不是模型凭空创造更好的自己。
这个闭环要求新数据、teacher model、生成样本和评价标准同时存在。teacher 读约 300 篇，执行模型写几千篇，再用相似度和标签筛选结果，才形成下一轮训练材料。
最终面向用户的模型可能便宜、轻量，却仍要借助类似 Fable[?] 的更强模型做理解和评判。因此，先进模型的需求不会因为企业采用小型开源模型而消失，只会从前台推理移到后台教学、标注与验证。
6. 企业真正的护城河是无法公开获得的数据
金估计，网上可公开找到的数据只占约一成；更关键的是，各公司过往经营数据里理论上“99% 都用不起来”。AI 的价值是降低人和数据库交流的带宽成本，把沉睡记录整理成模型可执行的规律。
销售是最直观的例子：即使两家公司卖同一种产品，成功与失败案例、话术和客户反馈也不同。每出现一次新成交或新失败，数据分布就变化，模型需要继续训练，而不是一次部署永久有效。
教培同样无法被通用模型直接吞掉。新东方等机构掌握不同学生的提分曲线、考卷、出题方法与教学反馈；未来可能少一些手工授课老师，却要新增整理考卷、分析曲线和 post-train 模型的团队。
客服、医药、跨境电商和广告投放亦然。交易流、退货、财务及客户行为数据彼此关联，且常涉及本地部署；“把知识库挂上去”不能自动把这些材料变成合格员工。
7. 用 coding 市场封顶 token demand 会漏掉连续训练
市场常见算法是：coding 里面有约 1 万亿美元 IT 支出，其中 30% 工作被 coding agent 替代，于是 Anthropic、OpenAI 的可服务市场约 3000 亿美元；AI for Science 再按研发费用另算一块。
金认为这套算法低估需求，因为它只统计已经被产品化的垂直场景。Coding 是“王冠上的明珠”，价值高到模型厂必然亲自优化；而单家公司独有的数据和业务标准没人会替它统一训练。
企业 AI 因此是 continuous process：员工要持续培训，模型也要持续 post-train。公司数据更新、竞争者数据不同、业务标准变化，都会带来新的标注与训练，而不是一次性购买。
他听到的云端反馈是，corporate AI 并不等于 corporate coding；post-training 订单已经堆积在 backlog 中。开源模型让企业可以自己买卡训练，本地部署则可能继续利好 Dell，以及围绕 Dell 企业设备的“小弟”。
8. 多 Agent 把 CPU 和数据搬运重新推到前台
金对 scaling law 的粗略体感是约为 X 的 1/10 次方，但他明确表示“不太确定”，需要硅谷从业者验证。即使模型会持续变聪明，复杂工程也不会靠一个超级聪明的人串行完成，而要靠分层拆解。
过去可能是一个 agent 串行干几件事；使用 Claude Code 时，一个大任务会调用约 70—100 个 agent，其中相当部分并行运行。任务越复杂，所需 agent 数量越多。
他的比喻是云端发车：一辆车可以装许多 request，但一个用户同时启动多个 agent，就像“一上来买了 20 张车票”。调度 request、发送数据和搬运上下文，都需要 CPU，而非只消耗 GPU。
光连接的扩产可能从 2024 年开始，随后是存储，CPU 则跟随真实 agent 需求扩张。每个 agent 都带着 CPU、算力与带宽，因而并行化使整个硬件环节同步放大。
9. 算力是一条环，不是一张孤立的 GPU
金反复强调，从连接、CPU、GPU 到存储构成同一需求环：“你不可能说只有 GPU 没有 CPU。”只押某一个环节、假设其他环节不增长，是他认为最偏颇的看法。
Post-training 与多 agent 都利好 GPU；即使 GPU 已不像之前那样极端短缺，市场对其后续定价可能仍偏低。企业订单最终完成 post-training、进入正式使用后，算力需求才会进一步释放。
他对 DRAM 相对没那么乐观，因为价格已高，整个行业都开始做存储优化；任务分散后，存储使用相对会减少。他同时承认长期存储需求仍会增加，只是短期赔率不如市场最紧张时直观。
半导体目前的折价来自同一个疑问：云厂给出的 backlog 很大，但投资人用眼前可见的 coding 收入给未来订单打 discount。金认为这个 discount 没充分计入企业 post-training、私域数据和持续训练。
10. Muse 的运营数据可能很好，但未必按当前方式赚钱
金下载并试用了 Muse，判断其流量和运营数据可能持续漂亮，却不确定利润是否同步出现。Meta 拥有大量未被充分变现的算力，而 Microsoft 等厂商已经把更多算力投入企业业务，这解释了为何产品首先出现在 Meta。
他把 Muse 归入“非严肃工作”：To C 用户不一定要求完成复杂代码，更在意产品总能回应、交流自然。模型好坏不是第一指标，响应率才是运营核心。
豆包的典型互动是，给错商场楼层后会说：“不好意思，被你发现了，我犯了一个错误。”这种反应并没有提高事实准确率，却提供了情绪价值，避免以“我不知道”结束对话。
金估计此类产品即使准确率只有 60%—70% 也可能成立，因为普通用户自己搜索也会出错。“模型弱没有关系，只要响应率高”，足以把大量用户先吸入聊天和搜索入口。
11. To C Agent 更可能先抢搜索，而不是包办生活
金不认同“AI 管家会完整替代旅游和购物”的简单叙事。做旅游攻略、浏览商品本身就是消费体验里快乐的一部分，用户未必愿意把全过程交给 agent。
更现实的切口是比较商品、做最终比价、缩短支付路径。Muse 可以把邮件、应用和入口连起来，但日常高频使用仍可能主要是聊天与问答。
因而他认为 Muse 更可能侧面挑战 Google 搜索。过去 Meta 做 social、Google 做搜索、Microsoft 做企业服务，边界相对清楚；agent 把入口打通后，竞争进入“战国混战”。
Apple 也可能凭设备和应用入口加入。To C 单用户的 token 消耗未必很大，但各家都会投入，渗透率会提高；“流量就是钱”可能最终兑现，只是不应高估当前模式立刻产生的收入。
12. 就业冲击被企业准备工作的滞后暂时遮住了
金估算，目前 AI-sensitive 行业对 payroll 的影响约为 1万—1.5万人，又被数据中心建设带来的就业部分补回，所以总量数据尚未显示严重失业。
招聘收缩已经先出现：科技行业从业者体感明显，香港投行、资管和研究岗位也“不太会招人”。但少招人和大规模替代不同，后者要求 AI 能稳定完成实际业务。
当前企业“随便用 agent”还不能直接替人，因为通用模型在非 coding 场景仍是鹦鹉。只有整理私有数据、完成 post-training，再把模型接入业务流程，替代能力才会形成。
他的判断带有明确时序：现在裁员数量还远远不够。大量企业准备完成后，裁员可能集中爆发；这既是社会风险，也是判断 post-training 是否真正落地的滞后指标。
13. Anthropic 的 ARR 韧性比单月增速更重要
金称 Anthropic 与 OpenAI 过去两年合计使用了约 27% 的算力，因为它们是模型公司，变现和盈利曾集中在它们那里。大部分算力其实不在它们手上；它们有很多算力，但不是全部算力。
开源模型让 Google、Amazon、Microsoft 都能开始变现，但 Anthropic 的 ARR 并未明显下降。他用餐厅作比：“旁边开了三五家店”，原来的店仍然满座，这对全行业需求反而是利好。
开源模型代表云厂买家的利益：有了替代品，四大云厂不必完全受制于单一闭源模型。金也不认为这种趋势容易被政治力量彻底限制，因为云厂的利益规模足够大。
对 Anthropic 上市，他区分公司质量与交易路径：大量融资会抽走市场流动性，CEO 反复讨论产品带来“10% 灭亡概率”也是估值风险；但他自己的 P/E 买入价较低，因此不太担心本金层面的亏损。
14. Microsoft 胜在企业黏性，Amazon 胜在短期报表纯度
Post-training 扩张会同时利好 Microsoft 与 Amazon。若必须比较，金认为 Microsoft 的确定性更高；Amazon 更纯粹，短期业绩数据可能更好看。
Microsoft 的优势不是一段可复制的程序，而是完整 SaaS 服务体系和客户关系。“SaaS 不是能手搓出来的”，企业部署、支持、反馈和续约共同构成黏性。
企业更可能购买带有可测 ROI 的云厂 token。客服部署后退货率是否下降、成本是否减少，都能在既有 SaaS 和商业系统中追踪；直接购买模型 token 时，企业需要进一步确认投入与收益。
对 Meta 企业业务，他没有同等信心：“有算力就一定能做成企业业务，这件事情是不一定的。”否则 Oracle、neocloud 等同样可以自然胜出；Meta 缺的是企业服务基因，而非又一个更大模型。
15. 短期市场设置偏弱，但不像高仓位时那样危险
金观察到利率上升、single-stock vol 没同步上升、Goldman Financial Conditions Index 转差、high-yield spread 与 equity vol 走高。这套组合对当周风险资产并不友好。
另有约 320 亿 pension rebalance 卖盘：按其口述，约 100 亿属于 weekly rebalance、在周五前完成，约 220 亿属于 monthly rebalance、在周二或周三前完成；原话未明确币种。
但他认为 fundamental setup 与此前高风险阶段不同：市场整体仓位不高，躲避 Anthropic 上市的人不少，forward PE 也不高，低估值主要来自半导体订单被打折。
所以结论不是立刻给出精确买点，而是“会波动，但是还好”。卖盘究竟能砸多少无法预知，真正可交易的中期变量仍是市场预期与实际算力需求之间的差。
16. Momentum 是量价策略，不负责解释 post-training
面对 SPMO、MTUM、VFMO 等 ETF，金先指出 SPY 本身也是一种长期 momentum：它保留约 500 家较好的公司，不断剔除变差者；道琼斯则不完全符合这一机制。
Momentum 是否值得配置，取决于选股、单票上限和再平衡方法，最终看 Sharpe，而不是名称。Momentum 和 SPMO 的 Sharpe 大约在 1 左右；他自己的二三十只股票策略约为 1.2，略高于约 1.1 的 SPMO 口径。
减少股票数量可以把 vol 提到约 30%—40%；若 Sharpe 仍接近 1，预期收益可能达到约 40%—50%，代价是 drawdown 更大。因此一些产品的高收益，本质是提高风险预算，不是发现免费 alpha。
此前 momentum 踩踏严重，是因为策略持股少且都拥挤在半导体。常用风险控制包括止损和 vol control；后者主要降低仓位及 drawdown，对 Sharpe 的改变未必很大。
17. Tesla 靠信任，Microsoft 与 Nvidia 靠风险收益
对 Tesla，金给出的不是估值答案，而是人格判断：“取决于你相不相信 Elon Musk。”他的所有东西听上去都很 promising，但估值高到难以用常规框架约束，持有者还要计算错过其他标的的 alternative cost。
对 SpaceX，他的回答更简短：公司和云部署能力“很强”，但公司强不等于任何价格都该买，“跌完之后可以买”。这与 Tesla 的区别仍落在进入价格和对 Musk 执行力的信任上。
Microsoft 与 Nvidia 则被他视为约 30 vol 框架内性价比很好的持仓。若投资者愿意承受 100 vol，当然会寻找 AEHR、FORM 等更高弹性标的；保守投资者卖掉大盘核心仓，也未必真能承担替代品的风险。
他认为 AI 产业最终要从“卖铲子”占盈利，过渡到云厂及使用 AI 的下游公司吃到更多利润。云厂当前 free cash flow 被资本开支压住，像“奶妈要扛伤”；现金流释放后，市值台阶不应被今天的绝对规模限制。
18. AVGO 的业绩没坏，问题是客户迟早会压毛利
AVGO 过去能拿接近 70% 的毛利，是因为相关芯片原本不是 Google 的核心生产资料，Google 不太在意供应商赚多少钱；如今 TPU 越来越接近收入驱动力，节省的每一分钱都会进入 Google earnings。
若相关 AI chips 或相邻市场达到约 2T 规模、毛利只有约 40%，市场会推断 AVGO 不可能永久维持 70%。这不代表毛利立刻崩塌，而是 multiple 会提前按更低的长期利润率定价。
金仍认为 AVGO 的业绩、连接能力和近期供货没有问题；正因基本面未坏，成为 AI momentum 的 consensus short 后，也可能在做空拥挤到头时反弹。
更长期的风险是客户本身太强。四大云厂今天可能没有 AVGO 做得好，但不能断言它们永远设计不了芯片；仅这种可能性，就足以让市场持续给供应商估值折扣。
19. 零部件机会取决于需求兑现时点和供应瓶颈
金把 Wolfspeed 描述为“从底部的垃圾变成不是那么垃圾”，同时提醒中国天岳等产能增长很快。800V、SiC 的需求可能很大，但兑现时点由原先预期延至今年 Q4 或明年 Q1 初，按原话具体季度仍有不确定性。
Nokia 在光连接、scale across 方向已有约一年半 backlog，需求上来后可能向两年延伸；Ciena 是主要比较对象。大型数据中心遭遇阻力、规模被迫缩小时，跨区域及跨数据中心连接仍是需求环节的一部分。
Coherent 与 Lumentum 的基本面 correlation 在他看来“等于 1”，两者都严重缺货；阶段性估值高低不必被解释成结构性分化。Google 若推出口述中的“Pro 4”模型并继续加大投入，相关光产业链都会受益。
对 Micron，他认为毛利率可能处于相对高点，但不代表业务量见顶；存储已被市场算得很透，按供需定价。若必须在存储内部选择，他可能更偏向 NetApp，认为其周期可能稍长；但不预测财报日前后的情绪波动。
20. 光电量产会把瓶颈从组装推向 testing
主动对准需求不会消失，天孚通信等环节也不太可能简单被替代；但 TSMC 方案、Intel OCI 等大规模量产路线，需要把 PIC 与 EIC 两片 wafer 通过被动对准和 bonding 结合。
原来 pluggable 产品可以较多依赖人工“手搓”，wafer-level mass production 则不能容忍错位和隐性缺陷。组装效率提高后，质量瓶颈自然移动到测试端。
FormFactor 对应 wafer-level testing，可以在一个 wafer 上通过许多窗口直接测试，而不只是从边缘测试；AEHR 则覆盖早期失效和 burn-in。金强调两者不是二选一，而是不同阶段都必须存在。
Testing 的投资逻辑因此不是某一家独占全部价值，而是量产路径越标准化、规模越大，每一层验证的重要性越高。“在不同的阶段去做测试，这些测试本身的重要性会很高。”
21. 十年美债有长期上拉力，短期却已明显超跌
金不认同十年美债必须机械等于 GDP 增速，但认为市场可能把约 6.5% 的 GDP 增长当作收益率上限参照；只要美联储不限制，十年端仍存在向上的长期拉力。
三十年端更像纯 supply-demand 市场：insurance 与 pension 暂时不愿出手，拍卖需求也偏弱。即使 5.1%—5.2% 已让长线资金看到很多 value，买盘仍可以等待更便宜的价格。
当前压力不只是原油，而是柴油价格被说到约 100、crack spread 很高所代表的 energy supply chain disruption。欧洲缺 refinery、通胀约束更强，日本也在重新定价；市场由此转向全球 central bank 的 higher for longer。
战争及能源冲击令央行和长久期买家同时犹豫，欧洲与中国承担的实际成本更大。十年期收益率短期上冲过快、债券明显超跌，但其 vol 会迫使 hedge fund 调整仓位、传导至股票；两三年维度，他仍认为约 1.5% 的 efficiency growth 会支撑更高利率中枢。