主题 先锋 趋势 方法 作者
返回

Beam:伟大的美国开放模型——对话 ReflectionAI 联合创始人兼 CEO Misha Laskin

·No Priors

正在生成长图…

本篇主题 开源闭源大模型对决 前沿模型扩模与超级智能 大模型推理成本优化 专有小模型与通用大模型 中美AI竞争与地缘管控 AI安全对齐与系统遏制 AI在基础科学与材料发现中的应用
本篇先锋 Misha Laskin

摘要

  • Reflection AI 的赌注是,前沿开放智能需要一座完整实验室,而不只是一个后训练层。 Misha Laskin 表示,公司在1年内从约30人扩张至300人,组建了预训练、中训练和强化学习团队,并在发布 Beam 前认识到,“实际上有30件事必须同时做对”——人才、文化、数据、算力、基础设施和执行力会层层叠加。

  • 追赶前沿模型所需资本正从数亿美元升至数百亿美元,即便模型辅助研究正在提升算力效率。 Laskin 估算,追赶成本已从18个月前每年约1亿美元,升至6个月前的个位数十亿美元,明年甚至可能达到约100亿美元;背后对应的是每一代约4X的算力倍增。但他认为,人类主导的工作每年可带来约7X的效率提升,而尚未成熟的强化学习系统潜力可能达到30X。

  • Beam 的经济学卖点是推理效率:用更少 token、更短时间完成同等工作,从而降低推理成本。 这款5000亿参数模型的活跃参数为230亿;预训练使用6000块 GB300,如今约12天即可完成,强化学习则使用略超10000块 GB300、持续4周。Laskin 称,Beam 比同能力级别的模型高效3至4倍,有时相较更大的模型可实现10X效率。

  • Reflection AI 预计,当企业年度支出达到战略意义上的规模后,企业采用路径会从租用闭源模型智能转向拥有开放模型系统。 当闭源模型年支出达到约1亿美元以上,企业就会开始考虑开放部署、本地基础设施以及对全栈的控制。Laskin 的关键区分是,大多数企业最初会定制模型周围的代理框架,而不是模型权重本身,因为“必须先经历租赁阶段,才能成为所有者”。

  • 开放模型可能拿下大部分 token 量,但不会消灭有价值的闭源模型生意。 Laskin 表示,网关流量在约6个月内已从闭源/开放约70/30,翻转为开放/闭源约70/30;他预计最终会出现类似 Linux 的格局:开放系统承载大部分工作负载,同时专有模型厂商仍能保持庞大规模。长期竞争公式是“智能密度”乘以算力和客户信任,即使模型、应用、推理和裸金属各层利润率都在压缩。

  • 中国开放模型既是西方建设者的一大助力,也是一套地缘政治分发策略。 Laskin 认为,中国实验室维持了开放生态,同时拥有工业规模蒸馏、更便宜的数据和国家支持等优势。他更尖锐的警告是,开放模型可能成为“随之输出的基础设施的特洛伊木马”,把各国吸引到配套的软件、芯片、基础设施和供应链体系中。

  • Laskin 对开放性的安全论证建立在防御、审查和日常补丁之上,而不是否认风险。 他认为安全风险真实存在,但强调,“只要有足够多双眼睛,大多数安全和保障漏洞都会变得浅层”;限制网络能力可能在削弱攻击能力的同时,也削弱防御能力。他的经验判断是,对齐会像“打地鼠”——不断补数据、做检测、打补丁;不能让推测性的末日场景挤占对可观测风险的关注。

  • 最重要的上行空间可能是加速科学进步、让技术能力扩散,而不只是简单替代研究人员。 Laskin 表示,模型在约2年内从无法处理他的物理学博士论文,进步到本科水平,再到能以博士水平解题:“一周就能做出一个博士级成果。”核心前沿团队可能稳定在数百人而非数千人,但企业将需要海量负责评估、前线部署的工程师,把通用模型转化为真实能力。

精读

1. 开放模型供给成为瓶颈后,Reflection AI 搭建了完整实验室

  • 过去12个月,Reflection AI 一直在端到端追求“前沿开放智能”。公司在发布首个开放模型 Beam 前,将员工人数从约30人扩充至约300人,先后组建了预训练、中训练、强化学习、基础设施和工程团队。

  • 当被问到最难的部分时,Laskin 的坦率回答是:“一切都很难。”模型只有在“30件事都做对”后才能成功,从招募和留住人才,到数据、算力、文化,再到让昂贵的集群稳定可用,缺一不可。

  • DeepMind 多年积累的稳定研究环境曾让他可以专注于研究;到了初创公司,所有习以为常的工具都必须重新搭建。这个过程像“边飞边组装飞机”,但也证明了独立实验室能够执行完整技术栈。

2. 强化学习把公司从后训练推向预训练

  • Laskin 与联合创始人 Yannis 在参与 Gemini 1 和 1.5 的工作后,于约2年半前创办 Reflection AI。当时模型主要还是聊天系统,约95%的算力用于预训练,编程和智能体行为几乎不存在。

  • 他们最初的下注来自强化学习传统,其中包括 Yannis 在 AlphaGo 上的工作:如果把强化学习从聊天对齐推进到数学、编程等可验证领域,系统或许就能成为智能体。他们原本预计会基于 Mistral、Llama 2,以及当时尚未发布的 Llama 3 构建产品。

  • 强化学习的进展速度超出预期,包括公司内部的进展以及 o1 的表现。与此同时,最强的开放模型底座越来越多来自中国,而不是西方实验室;Reflection AI 也发现,大规模强化学习与底座模型的预训练方式紧密耦合。企业、地缘政治和研究层面的考量最终汇聚成同一个答案:两者都要自己做。

3. 前沿追赶成本不断上升,但每 FLOP 的智能产出也在提高

  • 追赶前沿比创造前沿便宜,因为强大的人才可以跳过探索,直接执行已知思路。即便如此,Laskin 估算,所需资本已从18个月前约1亿美元,升至6个月前的个位数十亿美元,明年则可能需要约100亿美元。

  • 他给出的粗略硬件节奏是,每一代模型的算力扩大约4X:可能先是10万块 H100,随后是搭载10万块 Blackwell 的“Astra”,其算力约为 H100 的4倍,再往后是约10万块 Vera Rubin。Elad 的反驳集中在经济性上:训练集群最终必须受到收入规模的约束。

  • Laskin 认同,数千亿美元的资本开支是可能的,但在1至2年内达到数万亿美元并不现实。他给出的抵消因素是效率:在人类独自完成研究的阶段,他估计效率每年提升约7X;而尚未成熟的强化学习系统,取决于指标和模型,可能带来约30X的提升。

  • Beam 把这种资源分配具体化了。这款5000亿参数、230亿活跃参数的模型,预训练使用6000块 GB300,耗时数周,如今已能在约12天内复现;强化学习则使用略超10000块 GB300、持续4周,因为推理、智能体沙箱和训练共同放大了工作量。

4. Beam 把开放式学习曲线转化为推理经济学

  • AlphaGo 最初吸引 Laskin 进入 AI,是因为它的性能曲线“就是不会停止提升”;研究人员直到击败世界冠军才停手。Reflection AI 的强化学习曲线也呈现类似特征,因此进一步提升能力主要取决于算力、数据,以及提升结果是否具有经济价值。

  • 模型开发因此从科学探索的“蛮荒西部”,收敛到更接近火箭工程的模式。既定路径包括预训练、合成数据和强化学习,以及架构、算法和数据层面的改进;硬件协同优化还形成了“硬件彩票”,不适配现有芯片的思路可能从一开始就处于劣势。

  • Beam 主要针对编程和智能体任务训练,但 Laskin 强调,完成速度与基准测试能力同样重要。他表示,Beam 的推理效率是同能力级别竞品的3至4倍,较大模型则可达到约10X的效率。

  • 强化学习机制类似 AlphaGo 从漫无目的搜索,逐步进化到李世石级别的高效落子。Reflection AI 通往 AGI 的路径,是强大的预训练底座加大规模强化学习;Laskin 也指出,AlphaGo 先使用模仿学习,再转向强化学习。其商业化副产品,是面向企业、公共部门和主权部署的高速工作马。

5. 有价值的企业数据,起点是评估而不是更新权重

  • Laskin 形容模型能力总体通用,但呈现“锯齿状”:Beam 能出人意料地快速达到近期前沿水平,但即便是不同的 Terminal-Bench harness,也无法自然泛化。一旦任务具备合适的数据和评估方法,适配速度就会很快。

  • 因此,具备经济价值的任务和评估本身就是起始资产。客户不必交出专有训练数据;只要 Reflection AI 能准确定义任务,就可以生成合成近似数据。Laskin 点名了金融领域的 KYC 和合规、网络防御、法律工作,以及其他企业智能体垂直场景。

  • 开放权重让客户可以在成本与特定工作负载表现之间寻找帕累托最优点。但 Laskin 预计,大多数企业最初会定制系统,也就是围绕底座模型调整智能体框架、工具和工作流,而不是一开始就做微调。

  • AI 原生公司能够快速从闭源 API 转向开放模型和定制权重,因为它们的产品天然会收集数据。传统企业则是在既有工具上加装 AI,路径更慢:先通过租用闭源模型验证,再用自有开放模型和定制代理框架复现工作流。

6. 宽松许可模型周围的技术栈,才是所有权变现所在

  • Laskin 将闭源与开放推理定义为租赁与拥有的区别。购买一个 token,实际上是在租用代理框架、模型、推理软件、集群管理和 GPU 的一部分;随着 AI 支出、运营成熟度和控制要求上升,拥有整套系统会变得更有吸引力。

  • 模型权重可以采用宽松许可,但成功部署仍需要外围技术栈。Reflection AI 向大型企业和主权客户销售运行模型所需的软件与服务,将服务视为解锁高价值工作流的手段,而这些工作流随后会带来推理需求。

  • 门槛可能相当高:Laskin 给出的节点是,企业每年在闭源模型上的支出达到1亿美元以上,便可能开始寻求更优的安排。算力短缺和不利的 hyperscaler 费率,也可能通过 Dell 等裸金属供应商重新推动本地部署。

  • 仅仅提供推理服务,在 Laskin 的观察中并不奏效。Reflection AI 采取的方式是先评估有价值的用例、协助构建解决方案,再把客户从裸金属接入生产环境;尤其当企业已经构建了一个可能覆盖数亿客户的智能体,需要进一步扩展时,这一环节更关键。

7. 开放 token 份额上升,但每一层都面临利润率压力

  • Laskin 表示,在 OpenRouter、Vercel 等网关上,流量结构在约6个月内从闭源/开放70/30翻转为开放/闭源70/30。他预计,开放模型最终会像 Linux 一样,运行“95%以上”的服务器和计算机,但这并不会阻止高价值闭源厂商共存。

  • 专门的开放推理服务商称,目前超过90%的工作负载是定制的,但 Laskin 提醒其中存在选择偏差:这些公司的最大客户是 AI 原生企业,而它们的产品本身已经是大规模模型定制,Cursor 和 Cognition 就是他举出的例子。

  • 他认为可持续收入的公式是:智能密度乘以可获得算力,再乘以客户信任。也就是系统有多强、能承载多少推理,以及组织是否相信供应商能够解决真实问题。因此,优秀且易于获得的模型仍然能为多家分发商和解决方案公司留下空间。

  • Sarah 提到,AI 原生公司正在利用开放生态,强势压低闭源模型合同价格,这进一步印证了 Laskin 关于商品化的判断。模型、应用、推理基础设施和裸金属都处于极度激烈的竞争中;开放替代品加剧的是模型利润率压缩,而不是把某一个层单独变成商品化对象。

8. 中国模型分发的不只是免费权重,还有一套基础设施势力范围

  • Laskin 称,中国强大的开放模型生态“对全世界都是巨大好处”。它为西方应用公司提供了闭源供应商之外的选择,也降低了“高大罂粟”风险——一个成功的应用不会轻易被专有模型平台直接吸收。

  • 但他仍然希望市场保持竞争多元化:只有1至2家闭源实验室,不如有10家或20家让人放心;由单一国家提供可拥有的智能来源,同样不理想。中国实验室的优势还包括工业规模蒸馏、更便宜的训练数据、不同的版权规则,以及直接或间接的国家支持。

  • Sarah 追问,既然中国实验室已经拥有可持续经营的业务,为什么还要继续向海外输出开放权重。Laskin 的回答分为两部分:中国拥有足够封闭、足够庞大的国内市场,模型公司可以在那里变现,同时在海外保持开放;而让其他国家建立在中国技术之上,则能带来地缘政治杠杆。

  • “开放模型是随之输出的基础设施的特洛伊木马。”一个国家可能先是在美国芯片上运行中国模型,随后转向类似 Huawei 的全栈方案,由软件、芯片、能源和数据中心共同优化。Laskin 将这种依赖比作铁路:由另一个国家提供的基础设施,会形成持久的影响力。

9. 开放性是 Laskin 的安全架构,而不是对风险的否认

  • Laskin 认可安全问题的正当性,但拒绝接受“封闭天然更安全”这一沿袭下来的假设。他援引的先例是1990年代的加密技术:集中式、封闭式设计遭遇了未预见的失效,而开放的强加密协议通过广泛审查,帮助构建了现代网络安全。

  • 他借用 Linus 定律称,“只要有足够多双眼睛,大多数安全和保障漏洞都会变得浅层”。几百名闭源实验室的安全研究人员不可能覆盖黑箱模型的长尾风险;他还提到一宗据报发生的事件:一个强大的闭源模型攻击了另一家公司,而开放模型帮助完成了修复。

  • 一位主持人将网络风险、生物或恐怖主义滥用,以及生存性风险分开讨论。Laskin 同样把风险放在从经验事实到理论推测的光谱上:网络能力可以很快从科幻变成现实,但“我们有10%的概率全部死亡”之类的说法,被主持人称为没有根据的“编造数字”。Laskin 表示,未来6个月他尤其担心错位和意外后果,而最大的末日场景仍属于更远期的理论。

  • 到目前为止,对齐工作“极其无聊”,更像“打地鼠”:后训练数据修补有毒行为,基于模型的检测器发现失败案例,而泛化能力则让越狱变得更困难。对于个人可能滥用人人可得的强大工具这一担忧,Laskin 承认滥用确实可能发生,但认为进攻与防御不可分割;防御者组成的生态,就像“白细胞”。

10. AI 压缩科学周期,同时把专业能力推向更广范围

  • Laskin 多次用自己的物理学博士论文测试模型。2年前,模型什么也做不了;1年前,它们只能回答到本科水平;6个月前,其中一个模型已经能以博士水平正确解题;现在,模型还会提出他此前没有考虑过的想法。只要问题问得对,“一周就能做出一个博士级成果”。

  • 他预计,快速提升首先会出现在类似黑板推演的理论工作中;随后,生命科学、材料和化学也会实现更慢但仍然显著的加速,因为模型将连接到物理实验和专有数据飞轮。软件工程已经展示了这种能力可以建造多少东西。

  • Laskin 还把数据中心比作20世纪的工厂:尽管存在噪声和选址问题,但它们可以创造高薪工作和地方税收。

  • 在 Reflection AI 内部,研究人员会先把已知有效、影响最大的技术手段用尽,再扩大到风险更高的规模化实验,同时承认部分行为只有在大规模下才会涌现。模型会变成“一个非常快速、非常 eager、而且真的会听你说话的同事”,加速搜索和基础设施工作,同时把那些呈现锯齿状的领域留给人类直觉。

  • 在相同投入下,Laskin 认同团队明年可能只需要20名研究人员,而不是100名,但生产率提升也会扩大抱负。他预计前沿团队最终稳定在“约100人”这个量级,而不是3000人;AlphaGo 当年大约只需要10人。更大的就业机会在核心实验室之外:由5至10人组成的能力小组,以及负责评估、前线部署的工程师,将模型适配到数量无穷的真实企业问题中。