66.直击GTC现场:与姚欣、季宇盘点英伟达的野望,与2026 AI Q1季报
摘要
- 姚欣把2026 Q1定义为“后极点时刻”:AI已经跨过需求拐点,推理与Agent正把token消耗推入井喷。 他以谷歌半年token增长超过13倍、部分模型与算力服务公司一两个月收入超过过去一年半为证,认为更便宜的模型并未削弱算力需求,反而通过杰文斯效应释放了百倍级总量;scaling也已从pre-train移到test-time、inference,再后移到Agent网络。
- 英伟达的增长叙事已从卖GPU升级为输出整座“AI工厂”,并试图掌握五层蛋糕中能源之上的芯片、互联、云基础设施与模型服务。 Rubin时代可能不再有独立加速卡,而以NVL72一类超节点交付;姚欣认为这会催生更多NCP、主权AI与全球能源争夺,形成“蛋糕都做好了,奶油铺好了,樱桃你们来点”的生态控制力。
- 光互联是姚欣在GTC前最确定的产业链判断,因为制程、堆叠与机柜密度的边际增益正在收窄,架构和互联仍可能释放更大的空间。 2纳米走向1.6纳米可能只提升约20%,而NVLink、NVSwitch从铜走向光,既能降低能耗和部署复杂度,也能把分散GPU虚拟成更大的算力与显存池;他不敢判断英伟达会否短线上涨,却直言光相关公司肯定会涨。
- 能源仍是AI基础设施最硬的上限,行业的核心计量正在从卡数变成“一度电到底能产生多少token”,甚至多少可替代的人类工作。 姚欣称美国30MW以上机房已难找,常规训练中心至少约200MW,新建百兆瓦设施需18—24个月;北美未来两三年的本土供给可能无法满足需求,算力销售与部署将继续向能源丰富地区扩散。
- Groq的LPU是本届GTC最具争议的新增件:姚欣把它视为英伟达推理武器库的高端特化方案,季宇则认为当前系统安排存在明显错配。 LPU以片上SRAM换取极高带宽,却牺牲容量;英伟达让它承担decode FFN/MoE,而把更吃带宽、但KV Cache会动态膨胀的attention留给GPU。季宇的结论是,这可能是“为了把LPU用起来”而设计的勉强可行方案,机柜间弱互联和海量并发还会进一步放大问题。
- 姚欣认为推理“一超多雄”已经成形。 他看到AMD、Google TPU、博通定制芯片、Cerebras和国产GPU共同扩张,认为关键是Feynman能否把领先维持到2028年;季宇则称英伟达仍是没有明显短板的“六边形战士”,真正的做空逻辑不是谁能造出更强超算,而是它是否正在重演IBM大型机的封闭、高门槛路线。
- OpenCloud“小龙虾”被姚欣视为AI时代OS的雏形,因为它把可替换模型、长期记忆、MCP、skills与computer use统一成面向应用的调度层。 他预计未来两三年会形成一开源、一闭源的双OS格局,并转述硅谷早期投资人的剧烈反应:“过去两年白投了”,许多项目准备围绕OpenCloud生态推倒重来;Agent组织也正从单人提效走向一人调度几十乃至上百个AI员工的“超级个体”。
- 全场最重要的分歧不是AI需求会不会指数增长,而是这些需求最终应由少数巨型AI工厂集中供给,还是由更便宜、本地化的个人算力普惠。 卫诗婕总结Agent至少会走向本地化、个人化、私有化和个性化;姚欣认为英伟达仍有三至五年基础设施狂欢,并将受益于全球token与AI劳动力市场扩张;季宇则用IBM与Intel作对照,警告“全世界只需要几座AI工厂”很像“全世界只需要五台计算机”,而OpenCloud恰恰显示用户想拥有自己的、私有化和个性化的AI。
精读
1. 同一期节目用会前押题与会后校准拆开了英伟达叙事
卫诗婕在3月17日GTC开幕前约一个半小时与PPIO创始人姚欣录制第一部分;现场换证件据称要排两小时,资本市场和参会者的高预期,已与一年前DeepSeek冲击后的紧张气氛明显不同。
姚欣的会前判断是,今年时间轴正式来到Agentic AI,黄仁勋不再像去年那样匆忙从训练切向推理,而是“沉稳拿捏”此前给出的Agent AI、Physical AI路线,真正悬念变成他会为Agent放出什么产品。
黄仁勋演讲后,卫诗婕再请国产GPU创业者季宇复盘。姚欣从云、模型服务和产业资本观察需求爆发,季宇从芯片架构与系统经济账质疑方案;两人同看多AI增长,却给“AI工厂”截然不同的估值含义。
2. 姚欣认为AI已经跨过“后极点时刻”
姚欣说,短短一年市场已经经历“一个春夏秋冬”:去年第四季度起,不只是GPU,存储、硬盘、内存等传统元器件都进入涨价周期,因为它们过去只按每年约3%—5%的节奏扩产,无法追上AI需求。
对DeepSeek之后杰文斯效应的担心,现实给出的答案是单位推理越来越便宜,总推理量却可能增长百倍乃至更多。姚欣举出的重磅样本是,谷歌这种巨无霸“半年时间的token增长都超过13倍”。
他还从自身业务与模型公司看到更陡的拐点:有企业一两个月的营收已超过过去一年半。“我们已经完成了基点跨越”,需求不再只是长期想象,而开始以短周期业绩兑现。
这也改变了产业链的风险偏好。过去被诟病的循环投资没有消失,反而越来越多,因为巨头“宁愿加杠杆,宁愿去加大投入,甚至是在冒风险也要去加大投入”,试图提前锁定未来算力。
3. Scaling从预训练一路后移到了Agent网络
姚欣沿用上期的比喻:如果训练是“一池水”,推理已经成为“汪洋大海”。模型效率提升并未封住计算需求,因为scaling先从pre-train转到test-time与inference,如今又进入Agent侧的scaling。
Agent并不是一次模型调用,而是长时间、多步骤地观察、调用工具、检查结果和继续行动;稳定复现整套操作,还需要大量后训练与强化学习,因此所谓Agent能力本身也以推理算力为底座。
他的判断是,行业不只是指数进步,而在经历“加速的指数级进步”。去年黄仁勋路线图里似乎还要两三年才到来的Agentic AI,今年已经提前爆发,“未来已来”不再只是口号。
4. 2026年的模型竞争压在长程、个性化与全模态三条线上
第一条主线是long-horizon tasks。Anthropic的Claude Cowork、桌面接管、Excel处理,以及OpenCloud“小龙虾”替普通用户独立完成任务,都在把Agent从聊天界面推向长时间工作的执行体,并触发“SaaS软件末日论”。
第二条是personal intelligence:模型要读取个人邮件、对话和历史上下文,给每个人不同的结果。姚欣以Gmail一月推出的个性化能力为例,认为它既提高黏性,也直接服务广告和其他商业化尝试。
第三条是多模态甚至全模态,把文字、图像、音频和视频混合处理;他以字节Seedance带来的新一轮浪潮为例,预期混合模态推理可能在今年催生一批杀手级应用。三条线都指向更长上下文、更大显存压力与更多token。
5. 推理不是一个市场,而是一组价格和性能完全不同的市场
姚欣用同一模型的两种需求说明分化:普通聊天可以容忍百毫秒级延迟,核心诉求是足够便宜;AI coding则要求可靠性、速度和吞吐极高,即使价格贵十倍、一百倍,用户也可能接受。
因而GPU的通用性既是优势也是冗余。GPGPU里的GP是general purpose,CUDA要覆盖几十个行业;面向极端推理场景的专用架构,则可能用更高成本换取从85分、90分到99分的性能。
姚欣据此理解英伟达收购Groq:不是简单放弃通用GPU,而是补充一件以SRAM和LPU服务超低延迟、高稳定性、高价格场景的武器,同时继续与ASIC等定制芯片建立互联,尽量吃下“百花齐放”的推理市场。
6. Rubin把独立GPU卡推向整机柜超节点
姚欣把H到B的变化概括为开始堆叠:B200已可理解为在板卡层把两块能力拼到一起;但密度、能耗和互联要求继续上升后,Rubin时代可能不再强调单独AI加速卡,而直接出售NVL72一类超节点。
过去IDC或AIDC像集成商,要分别找电、网络、机架和服务器再“攒”起来;英伟达的AI Factory则把机柜内服务器、互联、调试和部分基础软件预先完成,交付后近似“插上电就可以跑起来”。
这会冲击既有IDC与渠道分工,也让英伟达获得更多系统利润。姚欣特别想在GTC现场询问NCP:当技术集成门槛下降、能源获取成为核心能力,原来替英伟达囤货和出货的云与IDC厂商将如何重新定位。
7. AI工厂令NCP和主权AI变成能源代理人
姚欣预计NCP数量反而会增加,但其核心竞争力将从系统集成转成在当地拿到电。能源天然分散在全球,最了解本地能源设施的企业,会成为新一代主权AI建设者。
黄仁勋此前把算力类比石油,主张每个国家都应拥有自己的“挖掘厂”;Rubin乃至Feynman若按整线设备交付,各地可能只需建机房、接入电力,能源之上的系统由英伟达一站式打包。
姚欣因此不再把英伟达视作GPU公司,而称它正在成为“AI工厂的设备出口厂商”:它卖的不只是工厂里的一台车床,而是整条生产线,最终产物也从算力进一步贴近token与智能。
8. 光互联是制程和堆叠放缓后的下一根增长曲线
姚欣的会前半导体关键词只有一个字:“光”。制程从2纳米试向1.6纳米,按他的估算只是约20%的改善;从56、72继续堆到更高密度,也越来越难看到过去那种翻倍提升。
机柜扩张的真正瓶颈是GPU之间的数据移动。普通局域网与芯片级互联相差多个数量级,英伟达多年通过收购和研发推进IB、NVLink、NVSwitch,力图让多机通信接近GPU—GPU本地连接。
铜互联会发热;光纤更轻、更薄,部署也更方便。上万卡集群的线缆累计可能极长,换成光以后,能耗、重量和布线成本都可能下降,而光通道还可通过光模块和架构升级继续扩容。
最终目标是把不同机器里的GPU连接成一颗虚拟超大GPU与超大显存。MoE模型把大中小专家分布到多台机器,推理也从单机、8卡、16卡走向数百卡并行,直接放大光模块、光通信和高速互联需求。
9. “一度电的智能产出率”取代卡数成为终极指标
姚欣认为英伟达无法直接解决能源危机,只能提高同样能源投入下的产出:更先进制程、堆叠、光互联与软件优化,即使单项性能增益有限,也能改善每度电的算力与token产出。
AI工厂最朴素的账是“一度电到底能产生多少token”;更进一步,红杉等机构已开始问一度电能完成多少真正的人类工作。芯片、模型压缩、服务调度的共同目标,都是把能源变成更多可售智能。
需求端却比人类使用软件更激进。Agent可24小时执行任务,不需要吃穿住行;机器互相调用后,消耗和迭代速度都高于人类亲自使用token,能源压力会随AI劳动力扩张同步放大。
姚欣在美国寻找算力时看到,30MW以上机房已非常稀缺,常规训练中心至少约200MW;新建百兆瓦设施往往要18—24个月。连强调清洁能源的马斯克都曾以柴油发电机给xAI训练集群供电,正是供需矛盾的缩影。
10. 地缘冲突正在把算力调度变成全球可靠性工程
姚欣称,中东部分节点因空袭、能源设施受损或电力不稳而短期下线,原本承载的workload只能切到其他地区;但在全球数据中心接近满负荷时,临时迁移会造成推理延迟和网络波动。
他用5%算力下线解释放大效应:若接收区域原来承载10%的负载,再增加5个百分点,相当于短时间提高50%,闲置资源通常无法立刻补上。他把Gemini此前的故障也理解为这一类区域冲击的连锁反应。
某模型服务甚至尝试鼓励程序员在北美凌晨使用,把高峰需求移到东半球夜间资源。所谓“西数东算”意味着全球推理已成为一张网络,能源、战争与区域节点故障都会传导到所有用户。
11. 五层蛋糕是英伟达吞吃上下游的联盟战略
姚欣的直白解读是:“英伟达不再是一家GPU公司,而是要吞吃它的上下游。”它投资new cloud、NCP、模型与应用,却避免直接复制AWS或Google Cloud,而以资本和生态伙伴形成自己的云联盟。
他以英伟达再投20亿美元给Nebius为例,称硅谷多家算力服务竞品都拿到英伟达投资。芯片公司给云和模型公司资本,后者再采购芯片与服务,关联交易与循环投资由此成为锁定生态的手段。
英伟达还通过开源模型合作,把模型装入整套服务,逐渐从交付硬件走向交付token。卫诗婕的概括很形象:“蛋糕都做好了,奶油铺好了,樱桃你们来点。”应用层百花齐放,底下三层则尽量受英伟达影响。
12. 基础设施正三角最终仍可能倒向应用与劳动力市场
姚欣沿用“正三角、倒三角”:他认为随着应用需求不断爆炸,今天的正三角最终仍可能变成倒三角,成熟后的应用需求侧蛋糕最大,底层相对更小。
即使翻转,AI底座也可能超过人类历史上全部IT投入之和。真正更大的上层不只是SaaS或消费互联网,而是黄仁勋所说的“工具使用市场”——其可替代对象是劳动力,而非已有约6000亿美元的软件收入。
他给英伟达基础设施狂欢期约三至五年,同时把2010—2015年的手机硬件潮作类比:当硬件增长趋稳,下一代抖音、TikTok才成为重心。OpenCloud和数字员工可能正是AI应用周期的早期信号。
13. 长程任务把token时间从15分钟拉向数天
姚欣认为模型、部署与Agent组合仍可在未来三至五年给最终结果带来每年约十倍的改善。提升不只发生在单模型,而来自多模型调用、多智能体协作和更长执行时间。
去年Deep Research或Manus式任务可能运行15分钟;现在已有任务跑一小时,他预计到年底可能出现跑三天、五天才交付结果的任务。token消耗会因此成百倍、上千倍增加,但可靠性也可能达到可直接采纳。
这正是AI劳动力开始成立的条件:模型不再回答一次问题,而是接管一个工作周期。姚欣甚至提出“狂妄的断言”,CEO工作今年可能开始被部分替代,并提到有人正实验由AI策划、组织和赚钱的“零人公司”。
卫诗婕没有把替代叙事全盘接受为焦虑;双方最后落在人的新能力上——能否指挥一个由5个、10个、100个AI员工组成的矩阵,正在比亲自完成每项任务更重要。
14. Agent延长了循环投资被证伪的周期
姚欣判断,英伟达、云公司和模型公司的循环投资今年还会增加。OpenAI、英伟达与Oracle式“星际之门”联盟曾因巨额亏损承压,但OpenAI再融资1100亿美元、Anthropic估值上升,又给产业链续上资本。
投资者原先担心,模型公司每年投入千亿美元基础设施,最终可能需要数千亿甚至数万亿美元收入,而全球软件业总收入也只有约6000亿美元。单按软件公司估值,这套账很难闭合。
Agent把可服务市场从软件预算扩到劳动力支出,且覆盖过去软件无法服务的工作场景,于是万亿级收入重新显得可想象。姚欣的比喻是,AI连续剧不是从30集走到结局,而是突然扩成50集,“原来的想象根本不是大结局”。
15. “AI没有泡沫”与“估值会回调”可以同时成立
姚欣并不否认泡沫;他把泡沫定义为阶段性估值偏高,而不是需求不存在。技术每次提前一两年兑现,投资者就会上调预测曲线斜率;一旦暂时看不见未来,又会重新审视股价是否过贵。
一级市场更愿意先相信逻辑再等待财务兑现,可忍受云与SaaS式十年亏损;二级市场则“先看到了,我再相信未来”,更依赖收入、利润和公司层面的确定证据,因此中美二级市场未必共享硅谷的乐观。
VC还通过同时投资多家头部模型公司来押赛道而非单一赢家。只要模型和Agent总体市场成立,即使某一家失败,组合仍可能回报;这也是一级市场敢继续支持高投入与循环交易的原因。
16. 会前最可交易的判断落在光、存储和传统元器件
姚欣拒绝给英伟达短期股价下确定结论。它长期趋势仍可能向上,但基数太高,任何不及预期——例如中国市场增长偏低——都会形成冲击;未来更像“直线涨幅放缓、波动不断加大”。
相比之下,他对光互联更确定:Rubin、Rubin Ultra一旦披露每台机柜所需光器件,投资者很快就能据出货量画出未来三年的需求曲线。此前CES披露新系统的硬盘用量,也曾直接带动SanDisk等NAND相关标的。
他把未来一两年的机会扩展到电力、存储、硬盘、内存和各类半导体元件。这些行业过去按低个位数扩产,GPU却按AI节奏翻倍;整条IT供应链都要补课,其景气确定性在他看来甚至高于英伟达本身。
17. OpenCloud让“AI时代的OS”第一次有了具体形状
姚欣长期不认为单一大模型能成为OS,因为模型可替代、迭代快,各家只在特定能力上领先;真正的OS应调度异构底层资源,让上层开发者不必为每种硬件和模型分别适配。
OpenCloud的第一项OS特征是模型可选;第二项是个性化、长期记忆,不只是传统数据库;第三项是MCP、skills与computer use组成的工具调用层。底层提示词和模型切换被隐藏,用户只关心要获得什么能力。
Skills尤其像移动互联网时代的App Store:装上不同skills,同一个Agent可以变成财经分析师、会议助手或其他角色。“智能手机有多智能,取决于你下什么app”,如今Agent能力取决于它调度什么模型和skills。
这类统一层降低开发门槛,作用类似iOS和Android结束塞班时代逐机适配。姚欣本人做过塞班适配,因此强调:只有OS成熟,应用开发者才可能从手工整合走向大规模商业爆发。
18. AI OS大概率重演“一开源、一闭源”的双轨格局
姚欣回看Windows与Linux、iOS与Android,发现每代通常都有商业机构主导的闭源OS,以及最大化接纳生态的开源OS。OpenClaw被称为GitHub上增长最快的系统级应用,并拥有大量生态,暂时更像开源侧底座。
但政府、工业和大型企业对OpenCloud提出安全、审计与合规限制,给闭源企业级OS留下空间。Anthropic的Claude Cowork正逐步加入桌面访问、任务调用与受控审计,Genspark Cloud、Manus等也在争夺这一位置。
他给格局两三年演化期:终局可能仍是一开源、一闭源,但赢家未定,OpenCloud和Anthropic都未锁定席位;中国还会基于本地互联网习惯与合规要求,形成自己的开闭源竞争。
19. 硅谷创业者已开始围绕Agent OS推倒重来
姚欣观察,OpenCloud在硅谷早期创业者、YC和VC圈的热度不低于中国。有投资人直接说“过去两年白投了”,因为旧项目往往垂直整合自有模型与服务,如今准备围绕OpenCloud生态重新设计。
大厂反应反而可能慢于小团队。此前一些国内巨头担心豆包读取私域数据,第一反应是封锁;面对开源“小龙虾”,却迅速推出微信、飞书等兼容能力,显示开源生态降低了平台的防御心理。
AI Native组织正在两极分化:普通人借工具提高三到五倍产出,而少数超级个体可达到几十人、上百人的效果,因为他们不是把OpenCloud当一个员工,而是搭出一整家公司与多Agent协作系统。
YC合伙人Gary Tan亲自发布skills,是姚欣眼中颇具象征性的样本:“投资人都给自己来写skills了。”这轮创业竞争的稀缺能力,正从招更多人转向把Agent矩阵组织起来。
20. 推理“一超多雄”已经从预测变成现实
姚欣列出的多雄包括AMD、博通定制芯片、Google TPU、Cerebras以及国产GPU。Cerebras以整片晶圆集成形成不同路线;AMD在大厂采用中增长,TPU则经近十年迭代,已覆盖训练、推理和模型优化。
Google开始更积极开放TPU服务,OpenAI等模型公司也希望拥抱TPU,因为同等情况下推理成本可能低于GPU。TPU与GPU都使用较常规的外部内存体系,路线差异小于完全转向片上SRAM的LPU。
“一超”仍是英伟达,但问题已经从有没有多雄,变成是否会出现第二个“超”。姚欣认为要看Feynman能否把领先延续到2028年;季宇则强调生态、通用性与面面俱到仍给GPU巨大加分。
21. 季宇看完GTC只记住了“琳琅满目的各种各样的机柜”
季宇的会后第一感受不是某颗GPU,而是CPU、GPU、网络以及不同组合都被做成高密度机柜。过去机柜围绕GPU,如今CPU、GPU、CPU+GPU、不同GPU组合都形成独立产品,令人“眼花缭乱”。
他同意五层蛋糕体现英伟达寻找新增增长点的需要:GPU已接近绝对垄断,若要继续用“T”级单位讲营收,必须从GPU之外取得CPU、互联、存储、基础设施、机房与能源相关利润。
但季宇把这种景象类比上世纪80年代IBM大型机:操作系统、计算、存储乃至打印都由昂贵专机组成,技术顶尖、令人叹为观止,却封闭且难以普及。英伟达越成功地造AI工厂,这个类比反而越强。
22. LPU用SRAM换带宽,也把容量问题写进了架构
季宇解释,普通GPU用外部DRAM或HBM保存权重与运行数据;片上SRAM与逻辑电路融合,访问带宽极高,但容量通常只有几百MB量级,且单位成本昂贵。季宇还提到,英伟达去年以200亿美元收购Groq。
Groq LPU走的是极激进路线:抛弃传统大显存,以片上SRAM消除计算与存储之间的狭窄入口,再用数百颗LPU组成定制系统,拼出足够容量。好处是推理速度极快,代价是系统规模和静态约束。
大模型不仅有千亿、万亿参数权重,还会因每个用户的上下文产生动态存储。请求越多、对话越长,KV Cache越大;但LPU容量难以临时扩展,容易从性能问题直接变成“根本放不下”。
若减少用户来控制上下文,又会出现另一笔经济账:数百颗芯片组成的昂贵系统只服务少量人,利用率和回报难以成立。季宇把这种两难概括为“充满矛盾”。
23. Attention、MoE、prefill与decode需要的是四种不同资源组合
Attention处理上下文关系。每生成一个token,都要读取此前上下文形成的KV Cache,因此它高度访存密集:原材料送不进来时,再多计算单元也只能瞬间干完一点活后继续等待。
FFN后来特化为MoE,把一个万能层拆成许多专家。单个请求只激活少数专家,但当几百、几千乃至上万用户并发,每个专家后都排满请求,算力便能被充分利用,MoE会转成更算力密集的工作。
Prefill处理一次性输入,例如模型同时读入一万个token,可以并行执行,权重加载一次就处理大量内容,因而更偏算力密集;decode逐token输出,既牵涉attention读KV Cache,也要调度MoE专家,系统行为更复杂。
输入、输出成本差异也来自这里:输入token通常更便宜,输出token更贵。Agent又改变比例,因为它不断读网页、文档和工具结果,只输出很短的调用指令,工作负载不再像Chatbot那样输入输出大致平衡。
24. 英伟达给LPU安排的decode FFN任务没有打中其最强项
GTC图示把GPU机柜用于prefill和decode attention,把LPU机柜用于decode FFN,也就是MoE专家层。季宇认为这恰好错配:LPU最大的优势是带宽,MoE在高并发优化后却更吃算力。
他引用图中约300P算力、40P带宽作直观说明:每份数据进来只做很少计算便可能把带宽吃满;而算力密集任务每份数据可能要进行数百次计算,并不需要为此配置如此昂贵的带宽。
真正吃带宽的是attention,但它的KV Cache与用户数、上下文长度动态相关,正好命中LPU容量太小的短板。把attention放进去,系统可能不是效率低,而是运行中突然没有空间。
季宇推测,固定模型权重至少可以预先塞进LPU机柜,确保不会动态爆仓,所以英伟达选择让它放专家层。这是一个“勉强能work”的静态方案,却更像“强行为了把LPU用起来”,而非最优资源匹配。
25. 机柜间互联和海量并发进一步削弱LPU故事
英伟达的强项是机柜内部NVLink,但两个机柜之间没有同等级别的互联。若一个模型被拆成GPU与LPU两半,每生成token都在两柜间往返几十次,中间带宽可能成为新的总瓶颈。
Groq被收购前以云服务展示极高的每秒输出token速度,视觉冲击很强;季宇强调,单次速度不等于能否大规模上量,海量用户、动态上下文和跨柜流量才决定商业系统是否成立。
“养龙虾”也不能替LPU找到个人场景。即使只有一个本地用户,一颗LPU仍放不下模型,必须用几百颗组成上百万乃至上千万元级系统;为一个人建设这种超算,经济上首先就不成立。
26. Agent把芯片需求从输出思考再次推回海量输入
季宇提醒,专用芯片最怕工作负载变化。早期dense模型每生成一个token都要唤醒全部参数,偏带宽密集;MoE转为稀疏后,需求已经不同,按上一代模型定制的极端架构可能迅速失配。
Chatbot时代,用户问一句、模型答一句,输入输出大致平衡;O1式思考令输出token暴增,因为内部思考也计为输出;Agent则不断检索文档、网页和工具结果,重新把输入token推到压倒性位置。
季宇统计自己的Claude Code使用,输入token约为输出的150—200倍。Agent可能只输出几字工具调用,却把工具返回的大段内容再次读入,这要求推理系统保持“四平八稳”,而非只优化单一token路径。
因此GPU、TPU仍是更稳妥的通用方案;LPU可以在极端低延迟场景提供价值,但要成为海量Agent推理底座,当前容量、互联和并发问题都尚未被英伟达讲清楚。
27. “到处建AI工厂”与“人人拥有AI”是两种互斥终局
黄仁勋的路线是全球建设大型AI工厂,为手机、手表、耳机、汽车、机器人持续生产token;季宇接受需求会指数增长,却不认同只有巨型工厂才能经济地满足需求。
他的历史类比是IBM与Intel:IBM把计算技术推到高峰,Intel却用便宜的x86个人电脑和服务器把成果交给普通人,也让早期Google等公司能以低门槛硬件搭建互联网服务。
“全世界可能只需要五台计算机”没有成为计算机产业终局;季宇认为“全世界只需要几座AI工厂”给他同样感受。真正普惠不是让少数超算更强,而是让更多个人、高校和企业买得起、部署得了高质量模型。
OpenCloud提供了个人AI的全景图:今天Mac mini式设备仍依赖云端token,但用户已经表现出拥有本地、私有、个性化AI的愿望。若高质量模型能直接进入消费设备,其意义不是补充AI工厂,而是另一套产业结构。
28. 英伟达的高端路线提高性价比,也同步抬高绝对门槛
季宇承认英伟达每代机器的单位性价比在进步:价格涨了,性能涨得更多;它不计成本追求最高算力、带宽和互联,是几乎没有短板的“六边形战士”。
问题在于绝对投入一代比一代高。十年前,个人、实验室和普通公司还能购买消费显卡或计算卡参与深度学习;如今GTC展示的大量机柜“跟我已经没有任何关系了”,核心客户已经变成Hyperscaler。
他多年观看GTC,正是想确认黄仁勋会不会转向普惠产品,但看到的信号反而不断强化AI工厂。大型机与个人机并非可同时最大化的市场:一旦便宜标准设备足够好,客户就不会继续为封闭大型机买单,英伟达也很难主动“革自己的命”。
29. CPX消失与Vera绑定暴露了路线图背后的商业选择
CPX原本试图用较便宜的GDDR取代HBM,把高算力与低成本存储组合成更优性价比;但去年9月后存储全面涨价,GDDR与其他存储的价差缩小,异构方案的经济优势可能被抹平,因此本届路线图中淡出。
季宇借此提醒,GTC展示不等于产品已经finalize。英伟达会先发布方案、观察市场和供应链,再调整形态;LPU下次可能讲出更合理的故事,也可能像CPX一样逐渐消失。
Grace之后的Vera CPU同样服务系统绑定。纯Vera服务器没有使用常规可插拔内存条,而把非标内存颗粒平贴在板上;季宇认为CPU本身不是利润大头,借CPU绑定非标内存,才是更值得关注的商业目的。
他把英伟达的销售逻辑概括为“胡萝卜加大棒”:胡萝卜是非标系统带来的增量性能,大棒是想买GPU就搭配CPU、互联和内存。GB200绑定反馈若不理想,又会倒逼出B200、B300等不捆Grace的形态。
30. Feynman仍是期货,真正分歧落在英伟达会不会成为下一个IBM
Feynman位于Hopper、Blackwell、Rubin之后,连Rubin产品都还没有完全看到,本届披露有限。季宇说它当然会被称作“为Agent而生”,因为英伟达总会让产品匹配上市时最热的需求;GB200也曾从“为Scaling Law训练而生”改讲成“为推理而生”。
姚欣相信英伟达仍有三至五年提升期,Feynman、光互联、Agent scaling与全球能源扩张足以维持AI基础设施繁荣;季宇则认为真正的空头理由不是英伟达技术不够强,而是“它跟IBM的思路太像了”。
两人的最大共识是AI需求远未见顶,最大分歧是供给结构。姚欣看到一座座AI工厂把电变成token,季宇看到“困在大型机里的AI产业”;黄仁勋戴上“token king”的自信背后,既是英伟达的野望,也是未来数年最需要验证的系统经济账。