Satya Nadella谈开放与封闭模型：谁会胜出？

摘要

• Nadella对齐立场的转变，令外部安全控制成为部署强大智能体的关键，但它不能替代AI安全。 他不再认为对齐会随着规模扩大自然出现，而是认为它必须体现在训练中，甚至可能要从预训练阶段开始，就嵌入模型权重；他不认为开发者能靠 RL 把模型训到对齐。对于风险控制，他主张建立“经工程化设计的零信任环境”，配备身份认证、防篡改日志和行为监控。封闭模型提供商若隐藏推理过程，反而可能促使客户转向开放权重模型。
• Nadella判断，大多数 token 用量最终会商品化，但前沿市场仍将长期存在。 稳定任务可以转向开放权重模型或更便宜的封闭模型，尤其是在客户用自己的轨迹数据训练之后；他没有给出未来24个月的市场份额预测。Microsoft 的 MAI 路线是“授权权重”，因此客户控制权是一个独立于权重是否开放的考量。
• Nadella预计，私有评测基准将成为企业的核心知识产权。 他提出的“反向信息悖论”是，买家不仅可能通过数据泄露价值，也可能通过使用反馈泄露价值。他希望企业通过把知识沉淀在权重、上下文或评测中，留住更多 AI 使用创造的剩余；他设想，如今先进的 AI 实践5年后可能就会成为常态。
• 企业级 AI 落地催生了兼具商业咨询与技术交付的工作。 Unilever 展示了一条路径：起初使用前沿模型，之后将所有贸易费用申报业务切换为成本更低的 MAI 模型，同时获得控制权，并能用自己的轨迹数据训练。FDE 协助厘清业务问题、评测方案和系统架构；如今内部 IT 团队已接手管理，而“传统系统集成将成为新一代 FDE 工作”。
• Nadella如今认为，AI领域不太可能由单一的垂直整合赢家通吃。 他看到“技术栈的每一层竞争都在加剧”，并设想封闭模型和开放权重模型阵营中各自会有5到6个竞争者，应用则根据任务路由到最合适的模型。他希望每一层都有多个赢家，但主导架构会是什么仍不确定。
• 1000亿美元训练项目的经济逻辑，取决于 AI 能否推动营收和全球 GDP 增长。 Nadella将训练视为研发的一部分，并指出研发密集型企业会将15%或20%投入研发；营收足够，才支撑得起训练开支。电力和硅片的供给周期都很长，供需何时匹配仍是未知数：“今天坐在这里的我们任何一个人，都只能是在猜。”
• AI加速编程，并不能证明知识工作各领域的需求都同样富有弹性。 Nadella认为，把编程领域的进展扩展到可验证奖励之外“似乎要难得多”，尽管联络中心和供应链等领域已有部署，科学研究“可能也有同样的弹性”。他更广泛的增长判断务实且有条件——例如 NHS Copilot 能否在降低成本的同时改善患者结果；理想情况下，AI 应优先用于岗位替代最少、收益最大的领域。他希望技术扩散至全球南方，让「所有人都能受益」（“everyone gets lifted”）。

精读

1. Nadella将智能体安全与尚无定论的对齐问题分开

• 模型能力不断增强，规模定律也在发挥作用，但 Nadella 不再认为对齐会随着规模扩大自然出现；对模型机制的理解仍未突破。他认为，对齐必须体现在训练中，甚至可能要从预训练阶段开始，就嵌入模型权重。“不能指望靠 RL 把模型训到对齐”（“I don’t think you can RL your way to alignment."）。
• Stebbings 认为所需架构尚不存在，Nadella随即纠正：“不，这种架构已经存在。”他以 Agent 365 和 Perception 为例，介绍了智能体身份、防篡改日志——覆盖活动、工具调用、模型调用和思维链——以及策略和行为监控。安全围堵可以在模型外部通过工程手段实现，但 AI 安全问题仍未解决。
• Stebbings追问思维链是否可靠，Nadella承认：“确实不可靠。”他认为，隐藏不忠实的推理只会让问题更严重。他希望至少向可信合作伙伴提供标准化思维链原文，以便用多个模型进行检查和审计。封闭模型即便能力更强，若不透明性促使客户转向开放权重，也未必能守住优势。

2. Token商品化不决定开放与封闭之争

• 被问及未来24个月开放模型与封闭模型的流量占比，Nadella没有给出比例：“我认为，token 用量大部分会成为商品化用量。”当任务表现趋于饱和，更便宜的封闭模型或开放权重模型就可能够用；如果问题本身不变，用企业自己的轨迹数据训练，也会减少对最新模型的需求。但对于评测标准持续提升的任务，客户仍可能愿意为前沿模型付费。
• 前沿需求会持续存在：“总会有新东西出现”，科学研究就可能是其中之一。Stebbings担心开放模型主要来自中国会带来安全风险；Nadella回应称，一个未对齐的中国模型也可能攻击中国，同时表示他很高兴看到西方开放权重模型取得进展。
• Nadella表示，Microsoft 的 MAI 模型“不会开放权重”，而会采用“授权权重”。他更倾向于将其定位为“简单直接的软件业务，而不是依赖网络效应的智能业务”；客户能否使用并控制模型，将决定其采用意愿。

3. 私有评测将成为企业的核心知识产权

• Nadella从 Hayek 关于分散隐性知识的论述谈起：企业必须沉淀智能，而不是把它泄露出去。他提出的“反向信息悖论”，是将 Kenneth Arrow 关于卖方的信息问题转到了买方身上：即便只是点赞或点踩，也会为模型提供商创造价值。AI 应用带来的更多剩余，需要留在企业内部。
• 所有权不一定意味着拥有模型权重；上下文和评测同样承载知识。Nadella预测，“每家企业都会有自己的私有评测基准，那就是它的核心 IP”，模型则会以这套基准为目标不断优化。被问及5年后什么会成为常态，他说：“我认为，企业本身会成为一个 AI 基准。”
• Stebbings质疑这是否只适用于成熟的 AI 公司。Nadella回忆，基于 PC 的预测工具可能花了10年才普及；他设想，如今 AI 原生企业的做法，5年后就会显得相当过时。
• Unilever 的智能体系统瞄准订单到回款自动化和贸易费用申报业务。起初使用前沿模型后，Unilever 将全部贸易费用申报业务切换到 MAI 模型，因为成本更低，也能获得控制权；企业还可以用自己的轨迹数据训练。FDE（前沿部署工程师）协助厘清业务问题、评测方案和系统架构，如今 Unilever 的 IT 团队已负责管理该系统。Nadella预计，系统集成将演进为结合商业与技术咨询的 FDE 工作。

4. Nadella看好组合式架构，而非单一垂直整合赢家

• Stebbings问，从芯片、模型到应用都由同一家企业掌握，是否会成为行业标配。Nadella过去曾认为单一的垂直整合赢家可能出现，如今却觉得这种可能性不大，因为技术栈各层的竞争都在加剧。“谁也说不准，”他提醒，主导架构仍未定型。
• 他设想封闭模型和开放权重模型阵营中各自有5到6个竞争者，应用则把任务路由给最合适的模型。他还谈到智能体群和多个子智能体，其中可以包含本地模型。他希望实现“横向专业化，让每一层都有多个赢家”，从而让客户自行组合系统。

5. AI支出最终需要经济增长来支撑

• Stebbings提到 Mustafa Suleyman 提出的1000亿美元训练项目，并询问基础设施能否跟上。Nadella将支出与营收和 GDP 增长联系起来：训练属于研发的一部分，而研发密集型企业会将15%或20%投入研发。电力和硅片供给周期都很长；虽然各方都在建设，供需何时匹配仍不得而知。归根结底，必须有足够的营收来支付训练成本。
• 对于 Stebbings 提出的全球经济年增长约2%的基准，Nadella认为 AI 能够提升增长，也希望它确实做到。他以 NHS 为例提出一个有条件的判断：如果 Copilot 能改善患者结果并降低医疗成本，就有助于英国 GDP 增长。在稳定状态下，企业损益表最终仍取决于营收、成本和利润。
• Stebbings称 Factory 排名第五却仍在胜出，以此质疑自己只投排名前1、2名项目的风投规则。Nadella将编程领域的进展归因于 RL 和可验证奖励，但认为攻克知识工作“似乎要难得多”。他提到联络中心、供应链、营销和报价到收款等 AI 有望落地的领域；科学研究的需求弹性可能与编程相当。硅片研发也在变化，流片速度更快，仿真能力更强。
• Nadella认为，AI 最适合用于经济中岗位替代有限、潜在收益显著的领域。他希望 AI 能扩散到各行各业和全球南方，带来趋同式增长，让「所有人都能受益」（“everyone gets lifted”）。他的父亲是一名发展经济学家；这份愿景是让增长不止于清点赢家和输家。