先锋 趋势 方法 投研 作者
99: MiniMax 创始人闫俊杰:做大模型,千万别套用移动互联网的逻辑
返回节目精读

99: MiniMax 创始人闫俊杰:做大模型,千万别套用移动互联网的逻辑

摘要

  • MiniMax 将公司的核心目标从收入、增长和用户规模转向技术迭代。 闫俊杰认为,更好的模型可以催生更好的应用,但更大的应用规模不会反过来直接提升模型能力;ChatGPT 的 DAU 可能是 Claude 的 50—100 倍,但模型能力并没有强 50—100 倍,过多用户还可能拖慢研发和迭代。
  • MiniMax-01 首次开源,主要为了缩短研发反馈链路并开始建设技术品牌。 公开模型会让优点和问题更快暴露,也有助于吸引足够好的人。闫俊杰复盘称,如果重新创业,开源应该从“第一天”开始;他也不认为有必要长期藏着一个更强的版本,因为模型保鲜期很短。
  • MiniMax-01 的核心架构是把 Transformer 的 softmax attention 改为 linear attention,以支持更长的上下文。 这为单 Agent 的长期记忆和多 Agent 通信提供了计算基础,但工具使用、planning 等能力还没有优化好;闫俊杰也明确表示,下一版不能据此推断已经达到 o3。
  • “技术驱动”意味着在资源冲突时优先跨越能力台阶,而不是修完所有局部问题。 海螺视频面对页面粗糙和功能缺失时仍选择“听算法的”;海螺文本则被他归因于一度没有坚持技术驱动。产品、运营和算法都应服务于技术能力的持续提升。
  • AI 产品不能简单套用移动互联网的用户增长、买量和广告逻辑。 闫俊杰认为,依赖推广的产品大概率还不够成立;产品应先证明自身价值,成熟业务可以看留存和 LTV,而海外 AI 产品目前更容易用付费用户和订阅转化衡量。
  • MiniMax 2024 年未达到产品和收入目标,问题不在目标定得太高,而在于用移动互联网增长曲线制定目标。 2025 年改为先判断研发能达到什么能力、会带来什么产品变化,再安排业务、收入和预算,而不是先定业务目标再倒推技术。
  • 组织调整围绕同一套取舍展开:每个人都应 hands-on、能提方案,并基于当前事实而非前公司经验决策。 闫俊杰承认人员调整曾被拖延、目标一度在收入和增长之间摇摆;他把个人成长归因于放下 ego、承认错误和及时取舍。当前最大的组织挑战是持续吸引好的人,2025 年能否在部分专业领域达到专业人士水平仍是未知。

精读

1. 产品认知与技术品牌仍是短板

  • MiniMax-01 发布后,海外用户首先追问声音、视频和音乐模型何时更新。这说明 MiniMax 的其他模态在海外更有认知,也暴露出文本模型此前尚未建立起海外技术品牌。
  • 国内反馈分成两类:算法和学术领域的人第一次看到非标准 Transformer 架构也能做到较大规模;合作伙伴和朋友则认为 MiniMax 开始意识到技术品牌的重要性。
  • 闫俊杰认为,技术品牌是过去两三年做得不够好的地方,也是这次开源的重要背景。

2. 开源首先是缩短研发反馈链路

  • 闫俊杰判断,过去两年技术进步很快,未来至少两年也可能如此。真正重要的不只是当前模型做得怎样,而是进步速度怎样。
  • 开源会让优点得到鼓励、缺点更快暴露,反馈链路甚至可能比把闭源模型放进产品、等待用户反馈更高效。
  • 另一个原因是技术品牌。算力、数据和资金是硬条件,足够好的人是重要的软条件;开源是 MiniMax 开始建设技术品牌的起点。
  • 被问到为什么没有更早开源时,闫俊杰说,如果重新选择,更早开源会更合理,甚至应该从“第一天”开始。

3. 没有刻意保留更强的闭源版本

  • MiniMax 内部已经使用 MiniMax-01,并没有另外藏着一个更强的版本。开源后,基于开源版本仍会继续修改,但没有必要一定保留更好的版本。
  • 闫俊杰的理由是模型保鲜期很短,所有模型一年之后都可能落后,藏着当前更强的版本没有长期意义。
  • 他还认为,开源在客户合作中可以减少闭源模型带来的安全和处理包袱,更容易满足客户需求,并进一步表示:“如果我是 OpenAI,我也应该开源。”
  • 他认为 OpenAI 的核心优势更接近 ChatGPT 的品牌和用户心智,而不是 GPT-4o 必然比 Claude 3.5 更好;相近模型由 OpenAI 发布,也更容易成为潮流。

4. DeepSeek 带来的启发是品牌与聚焦

  • MiniMax 意识到技术品牌重要时,DeepSeek 还没有开源 V3,因此开源并不是直接追随 DeepSeek V3。
  • 闫俊杰很早认识梁文锋,认为幻方可能是口碑最好的“一两家”量化公司之一,梁文锋对品牌价值的理解给他很大启发。
  • DeepSeek 早期没有产品,可以把精力集中到模型上;但闫俊杰也指出,DeepSeek 后来已经有 App,因此不能简单说它只做模型、不做产品。

5. 用户规模不等于模型智能水平

  • 闫俊杰用 ChatGPT 和 Claude 举例:ChatGPT 的 DAU 可能是 Claude 的 50—100 倍,但模型能力显然没有强 50—100 倍,两个模型的能力是接近的。
  • 他认为中国的通义和豆包也说明,用户数量与模型智能水平没有简单关联。过去行业的误区是认为用户越多、反馈越多,模型进步越快,于是把大量资金用于买流量。
  • 模型能力提升确实会催生 AI Coding、视频生成等新产品,但这些能力并不是先有大量用户反馈,再逐步迭代出来的;很多方向是先定义目标和 benchmark,再围绕目标训练。
  • 因此,用户多可以带来产品价值,却不会自动让模型变得更聪明,过多用户甚至可能限制研发和迭代速度。

6. 推荐系统方法不能直接迁移到 AGI

  • 推荐系统面对内容时,往往无法提前判断什么是对、什么是错,因此通过大量内容、实验和 A/B 指标逐步筛选,是相对有效的方法。
  • 把这套方法搬到大模型中,就会变成把场景分成许多类别,逐类补数据、修 case 和做 A/B test。闫俊杰认为,这可以修补局部体验,却不是提升 AGI 上限的方式。
  • 他主张先定义能力等级、训练数据、推理过程和 reasoning 复杂度,再通过技术手段逼近目标。
  • 他观察到,一些公司推出好模型、获得用户后,开始围绕用户需求做迭代,研发速度反而变慢,随后被新的模型超过。

7. 模型与产品不是双向飞轮

  • 闫俊杰在 2024 年 3、4 月间想清楚,技术和产品不应混为一谈。技术的职责是持续抬高能力上限,并可能改变原有产品或催生新产品。
  • 产品的职责是满足用户需求并形成商业化行为;产品存在后,并不会自然让模型变好。
  • 因此他的总结是:更好的模型可以导致更好的应用,但更好的应用或更大规模的应用,不会直接导致更好的模型。

8. 技术驱动意味着优先跨越能力台阶

  • 当产品上线后出现大量不满意的 case,团队可以选择修完这些局部问题,也可以暂时容忍它们,集中精力跨越更大的能力台阶。
  • MiniMax 的选择是后者。闫俊杰以海螺视频为例:按访问量,它可能已经是全球最大的视频生成产品,但页面粗糙,早期甚至没有英文页面;海外用户提出了 Runway 的功能、可灵的 App 等问题,团队仍选择“听算法的”。
  • 他的判断是,一旦技术不再领先,产品可能就没有了,因此产品、运营和算法都应帮助算法能力提升。
  • 星野等娱乐化产品也需要复杂算法。2023 年团队有时会纠结,2024 年已经更少犹豫。

9. 海螺文本是没有坚持技术驱动的例子

  • 闫俊杰认为,海螺文本没有做起来,核心是当时没有坚持技术驱动;他曾在面对用户问题时考虑补 corner case,而不是寻找真正的能力提升方式。
  • 他表示,海螺文本在 3 月时体验不如对手,5 月时已经不是这样。曼祺认为那时海螺已经失去品类心智,闫俊杰对此表示“不是”,但说自己当时已经判断豆包会赢,因为豆包体验明显更好。
  • MiniMax 最终没有像其他公司一样疯狂投放,原因是用户数量与技术能力提升没有特别强的关联,产品则应作为独立业务来思考。
  • 对于海螺向已有用户频繁推送的问题,他承认这是没有那么坚持技术驱动时产生的结果,并把当时的摇摆部分归因于顾虑团队成员的感受。

10. “追热点”的叙述忽略了时间顺序

  • 有人把 MiniMax 描述为从虚拟人转向 Character.AI 方向、Kimi 火后重启海螺、Sora 出现后加码视频,再追随 DeepSeek 开源。闫俊杰认为这套叙述对公司有很多误解。
  • Glow、星野等产品与 Character.AI 大致同期,移动端还更早;海螺两年前就推出,只是前一年多没有做起来,后来 Kimi 表现更好,外界才以为海螺是重新启动。
  • 视频项目最初来自让 Talkie 中的角色动起来的想法,Sora 出现后,团队意识到这件事比原来想象的更大,于是把它做得更通用。
  • 他概括的长期路径是:大模型先带来休闲娱乐类应用,再逐步带来更高效率的应用;开源则与技术品牌和研发反馈有关。

11. AGI 是方向性的长征

  • 闫俊杰认为,目前没有人有能力准确规定什么是 AGI。MiniMax 墙上写的是“Intelligence with everyone”,公司能确定的是智能水平有意义并且可以持续提升。
  • 他把这比作长征:不一定知道最终目的地,但知道更高的智能水平大概率有价值。
  • 每个阶段积累的技术、产品、数据和能力,都应该帮助公司进入下一阶段。创业公司资源比海外公司和中国大厂少,不可能预先铺好全部道路,只能一步一步争取。

12. Scaling law 遇阻不是放弃理由

  • 对“行业从相信 scaling law 到怀疑 scaling law 只用了一年”的说法,闫俊杰并不太认同。他认为把公司或技术提升 10 倍本来就很难,不会自然发生。
  • 字节可以同时尝试多个方向并通过赛马筛选,创业公司犯错机会少;但资源有限也会逼迫创业公司在算法、组织、业务或方向上创新。
  • 他的观点是,不应看到 scaling law 撞墙就放弃,而应寻找让技术继续提升的方法。无论这个方法是否仍叫 scaling law,关键都在于延续进步。
  • 他也保留了失败条件:如果最终找不到方法,确实应该关闭;但在还有机会时,应该继续寻找。

13. “信念”要体现在资源配置上

  • 曼祺质疑“信仰”是否是一年就能兑现的东西,讨论最后落在长期方向与短期投放之间是否一致。
  • 曼祺举 OpenAI、Anthropic 等公司为例,认为它们主要把钱花在算力和人才上,而不是大规模营销。闫俊杰认同资源配置应体现技术优先。
  • 他更愿意使用“信念”这个词:一是相信技术可以持续提升,二是在资源有限时,选择真正能推动技术进步、同时让公司持续发展的事情。

14. Agent 的标准是处理复杂任务

  • 闫俊杰从两条路径理解 Agent:技术上,AI 变强后应能处理更复杂的任务;社会价值上,AI 不应只即时回复,而应执行更长时间并交付完整结果。
  • 多步任务可以由 o1 式的一次推理完成,也可以拆成预先定义的 workflow,或由多个 Agent 协作。
  • 他用母亲交代任务作比喻:即时回复是一种形式,花两天准备后再交付结果则更接近复杂任务处理。
  • 他对复杂任务的标准是:在专业领域达到专业人士的水平。目前 MiniMax 主要做比特世界,并非认为 Agent 不应进入物理世界,而是暂时没有能力进入。

15. MiniMax-01 只完成了 Agent 的架构前提

  • Agent 需要很长的记忆和上下文,多个 Agent 之间也需要交换大量信息。闫俊杰认为,MiniMax-01 在架构层面已经具备处理长上下文的条件,并称其“应该也是目前全球唯一能够这样做的架构”,保留了“应该”的限定。
  • 能力层面仍有明显工作要做,例如工具使用和 planning 还没有优化得特别好。
  • 因此“开启 Agent 时代”主要指计算架构已经铺好,不等于当前模型已经能够完成专业级 Agent 工作。
  • 下一步是围绕这些能力建立 benchmark,在提升分数的同时保证泛化;他把路线分成“底层计算架构”和“各方面能力足够好”两步。

16. Linear attention 是 Transformer 的大型变体

  • MiniMax-01 仍可理解为 Transformer 的一个较大变体,但把 attention 从 softmax attention 改为 linear attention。
  • Google 的优势在于 TPU、训练框架和算法可以协同;MiniMax 不能定制 TPU,只能在标准硬件上修改算法和软件,因此实现更复杂。
  • Google 的实现是闭源的,闫俊杰只能猜测其可能使用了 sliding-window attention。MiniMax 不是滑动窗口,而是通过近似算法仍把内容计算进去,以提高效率。
  • 他认为 linear attention 不是强行业共识,并把它与 DeepSeek V2 的 MLA 相比:不同路径可能都成立,关键是结合自身条件选定一条并持续走下去。

17. 长上下文处理的是时间与记忆

  • 闫俊杰认为,比“长文本”更准确的说法是“长上下文”。人能感受时间流逝,AI 则需要解决如何处理不断增长的记忆。
  • 单 Agent 不应只被看成一次对话,而应被看成时间轴上持续接收输入、产生输出的过程,甚至是一场“无限的对话”。
  • 多 Agent 除了要求单个 Agent 足够强,还要求不同 Agent 能够高效通信。闫俊杰提到 MCP,并指出通信内容可能很长。
  • 因此,多 Agent 的基础能力包括单体能力、协同能力和高效处理长上下文的能力。

18. Benchmark 是能力路线图

  • 闫俊杰认为,推动 AI 能力大幅提升的很多目标来自学术界定义的 benchmark。
  • 他以 SWE-bench 为例,记得一年前分数大约只有 10 分,现在已经达到 70 多分;这说明代码能力的提升来自明确目标和训练方法,而不是单纯来自更多用户。
  • 对下一代模型,MiniMax 会加强 Coding 和 planning,并继续面对多模态 Agent 的复杂 benchmark。
  • 架构决定计算 pattern,能力则是按照这个 pattern 学到的具体参数。判断架构上限既依赖认知,也依赖大量实验和团队协作。
  • 他衡量研发能力提升的一个标准,是在探索空间很大的情况下,团队的实验设计是否比几个月前更好。

19. 不急于用蒸馏换一个 o1 标签

  • 闫俊杰认为,做出“看上去像 o1”的东西并不难,蒸馏几千套 o1 数据就可能做到;MiniMax 内部做过相关实验,近期也有不少相关论文。
  • 但公司当前业务并不依赖是否拥有一个 o1 模型,没有必要靠蒸馏出一个模型再发布文章或新闻稿。
  • 他更重视把训练、能力提升和泛化过程做扎实,至少目前不需要号称做出了 o1。
  • 他把架构与能力解耦:架构提供计算条件,o1 代表的推理能力属于能力 benchmark,而 benchmark 的提升可能也要求训练方法变化。
  • 对下一版是否达到 o3,他明确否认,只说会加强 Coding 和 planning,并强调能力判断取决于具体 benchmark。

20. 早一个月还是晚一个月并不重要

  • 公司不可能在所有方向都第一个发布,因为能力和资源有限。过去两年最终做得最好的公司,往往也不是最早开始,而是把方向做得最扎实、充分发挥自身长处。
  • 因此他不认为早一个月、晚一个月是核心问题。跳过基础工作可以更快出成绩,但可能无法做到最好。
  • inference scaling 也不是 o1 才出现。best of n、重复采样、batch 和 tree structure 等方法早已存在;o1 的主要进步是把多步搜索做成端到端模型,以便进行整体优化。
  • 当曼祺问是否把记忆和多模态放在更前面时,闫俊杰强调不能因为后面的事情更快出成绩,就跳过前面的基础工作。

21. 蒸馏是一条路径,是否是捷径并不确定

  • 闫俊杰认为,中国公司跟进 o1 更快,部分原因是公司更多,也更普遍认为蒸馏是可行路径;如果 Google 或 Anthropic 选择蒸馏,速度也可能很快,但他猜测它们有自己的判断和路线。
  • 对“蒸馏是不是捷径”的问题,他没有接受这一确定性判断,只说蒸馏肯定是一条路径,是否算捷径则见仁见智。
  • 讨论潜在代价时,他举了文本模型中的“对齐税”为例:如果把模型对齐到 GPT-4 的结果,模型能力可能受到限制。他没有进一步断言 o1 蒸馏一定会产生同样代价。

22. 多模态是专业级 Agent 的必要能力

  • 如果 Agent 要完成医生的工作,就需要看;如果要做几何题,也需要理解图形。多模态可以原生存在于模型中,也可以后接,但无法绕开。
  • 对“视频生成对智能提升不如继续迭代语言基座”的观点,闫俊杰没有给出绝对判断,只说不同人对智能的理解不同;在他的理解中,生成内容本身就是智能的一部分。
  • 他用 Cursor 说明 Coding Agent 不必依赖 o 系列模型:Cursor 早期成功主要基于 Claude 3.5,GitHub 集成 o1 后,体验也没有因此明显超过 Cursor。
  • 海螺视频工作日使用量远大于周末,且有用户愿意付费,说明它已有生产力价值;但画质、物理一致性和生成速度仍有很多问题,当前只是刚达到实用状态。

23. 信息获取可能是 Coding 之后的 Agent 场景

  • 闫俊杰认为,Coding 是较早落地的 Agent 场景,另一类很快出现的应用可能是信息获取。
  • 他举例说,用户可能想每天看到某领域最好的 10 篇论文,或想知道周杰伦是否在中国开演唱会;Agent 可以持续追踪这些明确需求,而不是等用户打开内容平台。
  • 对“像新的今日头条”的比喻,他提醒不要用移动互联网产品的方法论思考 AI。AI 可能同时承担分发和供给,模型能力和获得供给的方式也会持续变化。

24. 过度依赖推广可能说明产品还不够成立

  • 闫俊杰说,海螺视频在海外没有花过推广费用,在中国也没有推广;他真正强调的是,如果产品特别依赖推广,大概率说明产品还不太对。
  • 他把 Glow、海螺、星野和 Talkie 的推广经历视为认知变化:早期不知道如何推广,后来学习大厂方法,再逐渐认识到大厂经验并不适用于所有公司。
  • 对自己的产品,留存和 LTV 可以帮助判断经营方式;但如果创业公司只能依赖这些成熟指标,可能说明创新还不够。
  • AI 产品与移动互联网产品的增长逻辑不同,因为模型能力、产品形态和供给方式都在变化。

25. 对齐方式决定模型的特点

  • 在 Copilot 与 Agent 的讨论中,闫俊杰认为两类产品的方法确实不同。ChatGPT 更像帮助用户完成任务的助手,Claude 有时更像具备情商的朋友。
  • 他举例说,让模型在 1 到 100 之间选一个数字,再告诉它接下来相应天数不聊天,Claude 可能请求再给一次机会并改报更小的数字,而 ChatGPT 可能不会理解其中的人际含义。
  • 他把 Claude 的特点与 Anthropic 从价值观、宪法到对齐数据的体系联系起来;模型不一定被直接训练成这样,但整套宪法和对齐方法会导出相应表现。
  • 他认为中国多数模型仍主要对齐 OpenAI 的输出,豆包则开始形成自己的特点,例如写诗时给用户三首供选择。MiniMax 也在努力先定义模型应具备什么特点,再针对不同产品做不同对齐。

26. 模型公司与应用公司都可以成立

  • 闫俊杰不认为现实中存在完全只做模型、不做应用的公司,Claude 也有一些应用;但只做应用、不做模型的公司当然存在,他举了 Polaris、Kessler 等例子。
  • MiniMax 的特点是,通常先做出某个模型,产品再由技术变化催生出来。不同技术阶段可能对应不同产品,但产品规模不会反过来让模型变好。
  • 他把公司分为基于现有技术做产品、和基于未来技术做产品两类,认为两种方式都有意义,MiniMax 更适合发挥后者的能力。

27. 2025 年从业务目标转向技术与组织迭代

  • MiniMax 2024 年的产品和收入没有达到年初目标。闫俊杰认为,问题不是目标定得太高,而是当时仍用移动互联网早期增长曲线来制定目标。
  • 2025 年的逻辑改为先判断研发能做到什么程度、会带来什么产品变化,再据此安排业务、预算和收入,而不是先定业务目标再倒推技术。
  • 组织上,基本标准不是等待汇报、替别人做选择,而是每个人都能提方案、掌握细节,并根据当前事实做判断,而不是复制字节、拼多多等前公司的经验。
  • 闫俊杰承认人员调整曾被拖延,公司目标也一度在收入和增长之间摇摆;现在更统一地把技术迭代放在首位。
  • 他把个人变化概括为放下 ego、承认错误、及时修改和敢于取舍。当前最大的组织挑战是持续吸引好的人;2025 年能否在部分专业领域达到专业人士水平,他认为可能实现一部分,但并不确定。