AI进入生产阶段之后， 智能、算力、芯片 会走向哪里？

摘要

• Agent 正在把 AI 的交付单位从“答案”改成“跑完的任务”。 业界共识已从单看 Model 转向“Agent＝Model＋Harness”：模型决定智能上限，Harness 负责上下文、路由、工具、记忆、执行、安全与评测。企业竞争也从“是否部署 AI”转向能否规模化、安全化、可治理地运行 Agent。

• Token 需求不是线性增长，而是任务次数、单任务消耗和多智能体协同三个乘数相乘。 IDC 预计任务执行量由 2026 年的 2800 亿次升至 2030 年的 415 万亿次，复杂任务又把单次消耗从数十 token 推到数十万 token；其预测的同期全球 token 消耗复合增长率高达 4822.6%。“大家看得见的是 Agent 的应用，但看不见的是对底层算力基础设施的巨大需求膨胀。”

• 算力供需缺口可能长期扩大，不能简单押注 2028 年基建投放后短缺自然消失。 IDC 给出的算力满足度从 2026 年的 74%降至 2027 年的71%，此后虽回升至约75%-77%，但2030年绝对缺口仍可能达到3809亿美元。企业扩产意愿、电力约束、存储涨价和更短的调价周期，共同指向“物理世界的限制会成为常态”。

• 下一代智能不能只靠数据和算力堆叠，还要解决小样本推理、持续学习与灾难性遗忘。 郑庆华以约860亿神经元、20-23瓦功耗及约4%神经元同步激活的人脑作参照，提出从大模型走向“机器记忆智能”。目标是在有限算力、存储、数据和时间下，兼顾时效性与开放泛化，逼近“有限性、时效性、开放性”的不可能三角。

• 生产级 AI 的核心 benchmark 将从静态得分变成全链路可靠性与成本。 蒋佩航提出把测评对象从单模型扩展至系统级 Agent，把静态测试变成动态持续测试，把结果分数扩展为执行轨迹、权限调用、异常恢复、推理成本与 TCO。“每一个 token 是否对得起它的成本”，将与准确率、幻觉和鲁棒性一起纳入考量。

• 智算系统将分成“突破智能上限”和“扩大智能供给”两条轨道。 能力型算力追求十万亿参数级模型所需的低延迟、长周期稳定运行和更大的有效计算域；容量型算力则面向商业推理，以异构协同、动态调度和“token 工厂”提高单位投资产出。浪潮信息给出的产品指标包括5.85毫秒 token 生成时延，以及同等投资下 token 产能提升10倍。

• 芯片价值不仅取决于制程和峰值算力，还取决于数据搬移与软件适配两道瓶颈。 吴华强的存算一体路线以“数据在哪里，计算就在哪里”降低带宽和功耗，28纳米试验中算力由150 TOPS升至600 TOPS；FlagOS则试图成为多芯片的“万能插座”，让单个模型一天内适配12款芯片。生产阶段真正比拼的是：“谁能让每一个任务跑完。”

精读

1. Agent 的上限由模型决定，生产能力却由 Harness 决定

• 庄明浩把大会形成的共识压缩成“Agent＝Model＋Harness”。Model 的变量包括推理与上下文长度、多模态、工具调用、成本及任务专长，模型路由因此要按任务类型、用户意图和负载动态选择。

• Harness 负责把模型输出组织为可执行流程：上下文管理、模型路由、工具连接、状态与记忆、执行控制、安全，以及可观测与评测。它使智能变得“可运行、可治理，并能恢复”，而非停留在一次回答。

• IDC 将 Agent 分为功能型 AI、个人 Agent、单流程 Agent、多 Agent 协同和监督下闭环五阶段。庄明浩判断行业正从第二阶段迈向第三阶段，前沿厂商已在试探跨角色协作与持续运行。

• 当前成熟度最高的仍是专业服务类 Work Agent 与软件、IT 领域的 Coding Agent；教育、科研、医疗、金融、能源、制造和零售尚未达到同等水平。“Work Agent 加 Coding Agent”，是他对2026年阶段性共识的概括。

2. 三个需求乘数把算力短缺变成结构性问题

• IDC 预计截至2031年，AI累计创造的全球经济价值为22.5T；到2030年，全球活跃 Agent 可达22.16亿。庄明浩以约126T的全球GDP作参照，但保留地说“如果我没记错”，22.5T已接近其六分之一。

• 第一个乘数是任务次数：从2026年的2800亿次增至2030年的415万亿次。第二个是复杂度，单任务消耗可从数十 token 上升到数十万 token，不再是简单问答的量级。

• 第三个乘数来自多智能体协同：一个需求被拆成多个并行子任务，Agent 之间还要传递上下文、汇总结果并维持长程任务。三者相乘，IDC 给出的2026至2030年全球 token 消耗复合增长率是4822.6%。

• 算力满足度预计由2026年的74%降至2027年的71%，2028年回到75%，2029至2030年约为76%-77%；比例改善并不代表缺口收窄，2030年绝对缺口仍可能达到3809亿美元。

3. 投资扩张、价格信号与能源约束同时指向长期紧平衡

• IDC 调研称97.3%的企业有扩大投入意愿，37.7%计划增加推理投入；价格调整周期已缩短到半年内，庄明浩观察到最紧缺的存储芯片甚至按季度或月度调价。

• 他认为全年30%-50%的涨幅可能只是平均值，部分核心板块远高于此；但瓶颈不只有产能，还有能源与电力。“物理世界的限制会成为常态”，因此不能仅以新增机房或芯片产量外推供需拐点。

• 需求侧真正的变化，是计算从单次调用转向持续协同。AI 也从内容生成工具变成可独立承担生产任务的运行单元，算力因而被推向国家关键基础设施的高度。IDC还将中国智能体部署渗透率领先全球列为趋势之一。

4. 机器记忆智能试图摆脱单纯依赖 Scaling 的路径

• 郑庆华的核心判断是，智能的下一步突破“不能只依赖数据和算力规模的拓展”，而要在知识和资源有限、环境持续变化时仍能学习和推理，把数据驱动与知识引导结合起来。

• 现有大模型的约束包括算力消耗高、数据依赖强、缺乏人类式抽象、黑箱不可解释、学习新任务时出现灾难性遗忘，以及难以用少量样本完成复杂推理。这些问题直接限制关键、多变场景中的可靠落地。

• 人脑提供了另一种参照：约860亿个神经元，功耗仅20-23瓦，平均约4%的神经元同步激活即可解决许多问题；它还能在噪声中纠偏、通过联想恢复记忆，并灵活切换状态。

• “机器记忆智能”追求结构化组织和压缩知识，以稀疏机制、协同与联想实现强推理。它要同时面对有限资源、限定时间输出，以及动态吸收新知识并泛化三个目标，而非只扩大参数规模。

5. 可靠性评测必须从模型分数覆盖到完整执行轨迹

• 蒋佩航指出，单点指标亮眼并不足以证明系统可用：政务、工业和民生对延时、能耗、稳定与安全的要求各不相同，试点中完成一次多步骤任务，也不等于高并发生产环境能够持续完成。

• 新体系要求五类迁移：测评对象从单模型到系统级 Agent，方式从静态到动态持续测试，边界从模型扩至整个技术栈，力度从只看结果转为检查全流程轨迹，标尺则加入价值、成本和 ROI。

• 评测内容要覆盖工具调用、权限使用、任务迭代和异常恢复，并纳入推理成本与 TCO。庄明浩的归纳是：系统要“可证明、可控制、可承受、可复现”，同时做到行为可预测、异常可察觉和可处置。

• 这套框架从芯片的算力、带宽、能效，延伸到整机互联、集群故障恢复、框架算子、模型幻觉与鲁棒性、数据归属溯源和应用安全退出。会上，工信部电子第五研究所联合智源、浪潮、摩尔线程等20多家产业链单位，正式发布了面向 Agent 时代的可靠 AI 评测体系。

6. 能力型智算追问智能能有多强

• 浪潮信息刘军的定义是：“Agent让智能第一次可以像计算和电力一样被规模化生产。”智算因此分为能力型与容量型两轨，前者突破认知边界，后者扩大商业推理与普惠供给。

• 能力型算力面向前沿模型研发。庄明浩在这一部分提到，当前开源模型如 Kimi K3 已达2.8T，传闻中的 Cloud“应该”约为10T；当 Agent 运行从数小时走向数天，任何计算、通信或软件故障都可能让长周期任务整体中断。

• 系统要求因此变成紧跟模型演进、极低延迟和长周期稳定运行，落到工程语言就是“装得下、跑得快、跑得稳”。关键指标不再只是单芯片性能，而是单个智能实例能够高效调用多大范围的“有效计算域”。

• 对应技术路径是超节点：把更多服务器组织成一台更大的计算机，为十万亿参数级模型提供统一、稳定的计算域。这条轨道解决的是“智能究竟可以跑到多强”。

7. 容量型智算追问单位投资能生产多少智能

• 容量型算力服务海量、高并发终端，极度重视动态调度和减少闲置。其理念是“由负载定义算力”：推理并非一种固定计算，而是让不同芯片承担各自最擅长的负载。

• 多元算力协同、高密度负载结构和推理机组，把系统从“一台计算机”改造成“智能生产的工厂”，也就是 token 工厂。这条轨道关心的不再是峰值能力，而是每单位资源能持续交付多少智能。

• 浪潮信息为两条轨道分别发布元脑 SD200 Ultra 与元脑 HC2000：前者称可将 token 生成时延压至5.85毫秒，并支撑十万亿参数规模；后者面向异构推理，可在同等投资下把 token 产能提高10倍。

8. 存算一体与开放软件生态共同决定芯片能否变成产能

• 吴华强把传统架构的主要瓶颈归结为处理器与存储器之间反复搬运数据：高频传输同时吞噬带宽和功耗。存算一体让存储阵列直接参与计算，实现“数据在哪里，计算就在哪里”。

• 这一路线基于物理模拟、减少搬运，并试图用成熟制程获得性能跃迁。其团队从130纳米推进到28、22纳米并探索7纳米；在28纳米试验中，算力由150 TOPS升至600 TOPS，约为同制程传统结构的4倍。

• 它还可能服务低功耗常时唤醒、汽车本地毫秒级处理和 IoT 超长待机。吴华强将其上升为“换道超车”的路径：降低对先进制程的依赖，以底层架构创新挑战硅基能效限制。

• 林勇华补上软件侧的最后一公里：约90%的新型 AI 芯片架构被挡在既有生态之外，兼容压力又迫使创新架构向旧标准妥协。FlagOS 以框架插件、开源算子和底层编译三层协同，提供8800多个算子，试图成为“万能插座”。

• FlagOS 称可让一个模型在一天内适配12款不同 AI 芯片，并在72小时内触达数十种算力；生态已有100多家伙伴，培训覆盖50多个国家。其定位不是再建一堵封闭高墙，而是铺设“共享土壤”。

• 庄明浩最终把生产级 AI 归结为需求、可信与供给三层协同：Agent 制造需求，可靠评测约束交付，系统、器件和生态承接规模。“AI进入生产阶段，比的是谁能让每一个任务跑完。”

• 他还用金字塔概括这套生态：性能层实现可信运行，效率层建立软件生态与评测标准，稳定性落实在算力、系统和数据中心，安全则落实在底层、芯片和硬件。