锐评国模与 Neo Lab,畅谈 RL 人生与 RLaaS | 对谈 Mind Lab 首席科学家骁腾
本篇先锋
马骁腾
摘要
- 马骁腾对国模“短期悲观,长期乐观”,但把新范式的落差视为比算力不足更危险的风险。 防蒸馏加强会拖慢追赶,他仍看好“明年”国产算力达到能用的状态,以及中国组织数据生产的能力。产业应用主要发生在1T以下、常用模型约300B至500B,但如果领先者突破了持续一周的reasoning等新范式,而国内没有跟上,前沿科研的差距可能扩大。
- 大厂可能输掉模型技术竞争,同时通过算力和股权赚钱。 马骁腾认为,集团会不断比较训练账单与ROI,创业公司则是“做不出来就死掉”,投入强度与数据积累因此不同。曲凯用腾讯招人、给钱给卡和独立性的做法反驳;他的回应是,这能追赶,却不能保证成为最好,半年做出今天的模型也不等于追上半年后的对手。
- 公开数据之外,企业真实场景和可交互环境成为后训练的重要增量。 马骁腾的判断是“数据就是用完了”,指公开互联网数据,而非所有潜在数据;新增价值在企业、真实生活与To C产品中。没有标准答案时,交付物也从示范数据变成能让模型尝试、验证和学习的环境,但他承认,独家数据究竟值多少,收购方自己也未必知道。
- 海外他更看好OpenAI,国内显著看好DeepSeek,也认可智谱的数据生产体系。 他认为OpenAI在pre-training阶段调整了harness与reasoning结构,而Anthropic目前看尚未跟进。DeepSeek的优势则是model与infer的紧耦合:推理更便宜,带来更多使用与数据,也让RL训练更快;智谱的特点是务实、重数据,“希望这个模型是最实用、最好用的一个模型”。
- 在马骁腾的标准里,Neural Lab必须证明商业闭环,RSI也不能替代真实需求。 “只有有用是重要的”:先用产品prototype获取真实数据,在研究跑通后再扩大场景和增长,而不是拿新架构到处找用途。他把RSI理解为可验证领域里的自动化数据构建与训练循环,仍不相信模型迭代最终完全不需要人,因为reward取决于人需要什么,私有数据与现实实验也不会自动出现。
- 后训练服务最适合已有PMF、拥有自身benchmark,并开始追求效果或成本优化的企业。 后训练既能提高现有模型在业务中的表现,也能把相近表现迁移到更便宜的模型;按他的经验,frontier模型一次训练迭代约几万元,完整项目可控制在人民币几十万至100万元。门槛是“你要有自己的benchmark”,之后的主要摩擦包括数据访问、本地部署要求,以及企业是否愿意购买服务。
- LoRA把有限算力转成了大模型定制与大量差异化模型的机会。 团队在2025年3月从约4台H800起步,后来沿着做大base model、缩小adapter、扩大LoRA数量三个方向推进。他称团队在4月做了一个单个base model支持100万个LoRA推理的系统,但把由此形成“agent的society”保留为一种可能性。
- 持续学习缺少的可能是存放长期记忆与state的轻量单元,而不只是更多上下文。 马骁腾用读过300多篇论文后的“我就悟了”说明:人保留下来的是判断力,并非每篇论文的全部细节。他不担心更强模型本身,愿意为不同模型拥有不同偏好、服务不同人的未来工作——“我认为我应该为了第二种情况而奋斗”。
精读
1. 业务外形在变,MindLab的研究主线始终是后训练
- 马骁腾介绍,自己2017年在清华直博,2023年毕业后继续做博后,2024年与谢扬创业做浏览器,2025年10月与陈凯杰、Andrew创办MindLab。他贯穿这些经历的目标,是做强化学习与post-training,而不是某一种固定形态的应用。
- 浏览器原本是收集GUI数据、开展后训练的入口,但他发现,应用公司的资源有限,还要不停追逐最好模型的表现,很难持续做模型研究。离开浏览器公司、组建后训练实验室,是为了把资源重新放到这条主线上。
- 面对马卡龙及公司争议,他认为创业不必回避讨论;应用与RL服务业务的实质,都是通过大模型RL改善具体任务。他把post-training比作推荐系统这样的“基础技术”:上面长出西瓜视频、抖音还是今日头条,不是他作为研究者现阶段最关心的问题。
2. RL人生的三个原则,是探索、知行合一与有限的长期主义
- 马骁腾用早期Atari训练解释探索:即使只有10%的随机动作,看似低效,也可能是跳出局部最优的必要条件。生活中他因此选择“九十分主义”,做到90分后,把剩余精力用于探索新事物,而不是一直沿着既定路径优化。
- 曲凯的反问是,个人可以接受90分,创业却需要某个点达到100分甚至更高。马骁腾认可这个矛盾:自己承担探索,Andrew与陈凯杰补足商业化,让整个团队达到100分;这也是他选择共同创业的原因。
- “知行合一”对应policy与value的一致:判断某件事有价值,就要行动、收集经验,再用结果修正判断。他强调,不是先拥有一套永不改变的价值观,而是持续更新价值观,并检查实际策略是否与之匹配。
- “长期主义”也有边界。他用折扣因子0.99、约100步的视野作解释:太小会短视,太大会受远期噪声干扰而不收敛。创业更符合这个学习循环,因为能获得较完整的真实反馈;大厂的信息与探索空间往往更局部,所以“创业是一种生活方式”。
3. 没进过AI Lab,不等于没有大规模训练经验
- 对于为何没有在主流AI Lab任职却能训练模型,马骁腾先承认:“首先我肯定不知道,因为我没在厂子里训练过模型。”随后给出自己的经验来源:2018年左右参与一个5000万元项目,在1万核CPU、100张V100的集群上做对战训练,Ray还处于0.2、0.3版本。
- 他认为今天的困难与读博时具有连续性:每天仍在处理reward hacking、simulator、reward设计与benchmark,只是网络更大、表达能力更强、实验更贵。这种经历让他较早接触了RL训练的完整链条与基础设施,而非只研究算法的一小部分。
- 面对“早年坚持冷门RL”的叙事,他反而说:“那个时候我们哪知道它不火呢。”最初是导师项目带着走,训练小车、小人又像打游戏,很有意思;论文难发则是真实痛苦。他也不接受国内缺少优秀RL研究者的简单判断,认为更大的差别是缺少让RL、CV等方向混合的“熔炉式”环境。
- 多方向经历是他的另一项资产:从传统RL、理论bound到实际项目,甚至风险敏感RL对后来线性RL工作的启发。老师给他的解释是,不同经历会产生不同想法,聪明人也不能做完所有research;这进一步影响了他对AI的期待——经历应该塑造不同的AI,而非只塑造一个统一答案。
4. 国模的追赶仍在原范式内,真正风险是范式发生变化
- 马骁腾认为,1T以下模型的预训练和后训练已经形成standard recipe,“只要给我卡我都能做”。竞争更多转向数据规模、模型效率与更大规模训练;在这些方向上,他认为OpenAI和Anthropic存在明显领先。
- 曲凯的体感是,国内过去几年追近了,但“5.5X”等发布后,差距似乎重新拉开。马骁腾给出“短期悲观,长期乐观”:防蒸馏加强后追赶速度会放慢,但如果核心技术范式没变,仍有追赶空间。
- 长期乐观来自两个条件:他预计“明年”国产算力虽然仍落后于最先进的N卡,却会达到能用的状态;同时,他认为中国组织数据运营的能力很强。更危险的条件是,领先者采用新范式,实现持续一周的reasoning、挑战菲尔兹奖级数学证明,而这种范式没有被突破。
- 他把产业与前沿科研分开看:多数实际应用在1T以下,常用的是约300B至500B的Flash类模型,已能处理绝大多数办公任务。若关注制药等frontier领域,他承认与美国会有差距;不能把这一差距直接等同于所有产业应用的处境。
5. 数据没有凭空增长,增量正在转向私有场景与环境
- 曲凯追问,传闻中“30T”量级的数据究竟从哪里来。马骁腾的回答是,公开互联网数据确实已经用完;当前预训练乃至中训练的数据,很大部分仍来自已有数据、模型蒸馏,以及把模型自己产生的轨迹再训回去。
- 专用领域仍能组织新数据,但他更关注Anthropic通过收购获取未公开企业数据的做法。他同时保留不确定性:“这些数据的价值到底有多大”,Anthropic自己也未必知道;能确认的是投入决心。企业、真实生活和To C应用中的数据,也不一定最终流向预训练厂商。
- 数据正在被重新表述为“环境”:有高质量标准答案,可以蒸馏、做SFT;没有答案,就必须提供一个题目与可尝试的空间,让模型通过SFT或RL学习。这类环境构建需要更多投入,也是他认为目前相对被忽视的环节。
6. 大厂的资源优势,可能被集团账单与组织惯性抵消
- 马骁腾以千问为例:团队此前处于公认第一梯队,并不意味着技术或资源明显落后,但巨额账单摆到集团面前后,就必须回答ROI、转化与财务优化。他认为这会发生在所有大厂;旧业务与组织自身的向心力,也会限制突破性创新。
- 他的判断很强:“最后不一定是大厂做出最好的模型。”创业公司做不出来就会死,必须all in;长期数据积累与清洗也可能让动作慢的大厂持续落后。但商业输赢是另一回事:大厂能通过算力、股权等方式从创业公司的发展中获利。
- 曲凯用腾讯提出反例:看清方向后,把最好的人招来,给钱、给卡、给独立性,理论上应能快速追平。马骁腾认可腾讯的魄力与混元的进展,但强调“不能说混元现在是最好的模型”;腾讯最终要选的是适合微信等未来业务的模型,并不只是在争论谁实现AGI。
- 对“从各家抽出80至90分人才,半年造出同水平模型”的思想实验,他承认“很有可能”。问题是成本显著高于直接使用现成模型,半年后对手又会领先多少无法确定;卡、生态支持与运营也不是把人拼在一起就自动具备。
7. 他偏好的模型公司,分别在结构效率与数据体系上下注
- 海外若只能选一家,马骁腾目前更看好OpenAI。他认为,OpenAI在pre-training时对harness与reasoning结构做了调整,“目前看”Anthropic尚未在这方面调整或跟进;这是他给出的技术理由,而不只是对现有产品表现排序。
- 国内他“显著看好DeepSeek”,尤其是model与inference的co-design。他把encoder、decoder分离理解为面向混合算力的设计苗头:未来可能用国产卡做prefill、NVIDIA卡做decoding,以效率弥补算力不足;另一个竞争方向,是组织数据团队攻克最强模型也难解决的科学任务。
- DeepSeek的紧耦合,在他们加LoRA时也能感受到:adapter可能破坏原有最佳平衡点,但他补充,这也可能是团队尚未做到极限。他还举mHC从四路减到一路的变化,强调推理设计的系统结果:价格低、支撑更多token使用、获得更多数据,RL训练也更快。
- 对智谱,他的评价是务实、好用,数据生产线在他们接触的几家中最完善、质量最高;Kimi则更喜欢创新。曲凯将其概括为智谱把每件事扎实做好、DeepSeek强在基础设施、Kimi更fancy,马骁腾基本认可这种区分。
8. 产品化的时机,也是模型公司分配注意力与算力的选择
- 马骁腾批评MiniMax“信仰不够坚定”:曾有linear attention这条有特色、后来被广泛使用的路线,却又放弃、回到传统技术。曲凯指出,它一开始就更重产品和应用,与DeepSeek的路径相反;马骁腾认为,先营收、先上市会消耗大量attention,影响模型竞争。
- 他主张技术、工程、商业化、产品化与推广应形成顺序和反馈循环,而不是只停留在技术里。DeepSeek模型做好后再招产品团队,在他看来是“顺水推舟”;MindLab也是先让LoRA技术达到可商业化状态,再推进服务,同时探索下一轮研究。
- 曲凯用Seedance的成功挑战“大厂做不好模型”的判断。马骁腾归因于数据、明确场景与足够算力,并强调机会成本:按他的叙述,字节切出卡做视频,OpenAI则放弃Sora、把卡投入语言模型;他不能说这一定解释了字节语言模型的处境,但认为它“肯定是其中一个因素”。
9. Neural Lab的标准是研究与产品闭环,而非一个新标签
- 马骁腾把Neural Lab与传统论文、基金循环区分开来:它是拿投资人真金白银、最终需要交付商业价值的公司。MindLab的口号是“Research Product Co-design”,用实际场景反推research,再看研究究竟有没有用,而非以论文发表作为最终评价。
- 曲凯提出不同排序:OpenAI、Anthropic先是模型绝对好,赚钱是结果。马骁腾追问“什么定义了模型好”,直到双方落到能解决真实coding问题、进入实际应用;他由此强调“只有有用是重要的”,警惕研究者“拿着锤子去找钉子”。
- 另一处分歧是先模型还是先产品。他先说一定先research、再产品,曲凯反问,没有用户需求如何确定研究方向。马骁腾随后给出更完整的路径:先有prototype,推向市场收集真实数据,但不做大规模增长与投流;研究跑通后再扩场景,发现下一轮问题。
- 对外讲Neural Lab、内部却不强调标签的矛盾,曲凯也直接指出。马骁腾说,他们更关心扎实工作、自动训练与部署、减少模型训练的摩擦;对投资人的提醒则是,看故事里“到底有没有商业闭环的逻辑”。
10. RSI可以自动化数据循环,但人类需求与数据边界不会消失
- 马骁腾认为,RSI目前很大程度是“宣传口号”,类似从prompt engineering到context engineering、harness engineering,强调重点在变。实际内容是AI在模型迭代中的比重增加:在高速、可验证的环境里,自动找数据、构造、验证,再返回训练,“没有什么复杂的trick”。
- 他不相信模型迭代最终完全不需要人,因为reward设计要回答人究竟需要什么。写作是他的例子:模型很难自行判断文字是否对人友好,写作能力“可能越来越差”,仍需要人把它拉回来;这类能力很难完全RSI化。
- 即使自动迭代成立,也没有解决数据从哪里来。某家制药公司的机密数据不在公开网络,模型又没有办法自己做实验,就不可能凭空获得相关经验;除非公司真正开放数据、让AI操作并进行迭代,自动化训练循环本身无法跨过这道边界。
11. AI service的研究价值,在于接触公开语料里没有的真实问题
- 马骁腾不把帮企业训练模型视为业务转型或单纯外包:材料研发中的真实数据、金融医疗每天新增的query,以及用户负反馈,都是可研究的环境来源。问题是如何从这些流式任务里持续构造环境、训练模型;交付不了商业价值,他就认为research无效。
- 对数据、infra、训练等中间层公司逐渐聚合,他的解释是“模型即服务,模型即产品”。前端与harness在他看来差异较小:他们“从来没有记住一副名鞍”,记住的却有赤兔;围绕模型的部署、训练、LoRA与benchmark因此都得有人完成,只是哪些自做、哪些外包。
- 国内暂时更大的阻力,他认为是理解和购买服务的意愿,而非拿卡:后训练比预训练少用很多算力,甚至不必使用最新卡。这个判断也对应他对中美SaaS差异的理解——国内接受此类服务仍需要一个较长过程。
12. 客户先能判断好坏,后训练项目才有明确终点
- 筛选客户的第一道门槛是“你要有自己的benchmark”。没有自己的评价体系,既无法判断训练是否有效,也难以创建合适环境;有benchmark至少意味着企业知道要往哪个方向优化,而不只是刚开始尝试agent、模型调用或RAG。
- 最理想的一类客户是已经实现PMF的创业公司:用frontier模型能服务用户,接下来追求更好效果、更贴合用户与更低成本。它们经常需要比较新模型,通常也已有自己的benchmark;技术理解与业务收入,是他观察客户的两个维度。
- 传统或垂直行业中,符合条件的企业较少,MindLab更看重真正落地、确实有价值的头部客户,不愿为了PR做模型。他的判断是,头部公司验证方案后,行业可能跟随;反过来,若头部公司都没有理解post-training的意义,“大概率这个行业不需要post-training”。
13. 后训练同时改善效果与成本,项目价格并非唯一门槛
- 马骁腾把企业决策画成两轴:纵轴是自己的benchmark,横轴是模型成本。可以继续提高当前模型的表现,也可以把相近表现训到更便宜的Flash版本;他举的型号是Gemini 5.3及Gemini 5.3 Flash,目标是让“斩杀线”向上或向左移动。
- 收费通常按token,与数据量和算力消耗相关。他给出的经验量级是:最frontier模型一次迭代约几万元,一个完整项目可控制在人民币几十万至100万元,小模型更便宜。曲凯认为,对已融到B轮、融资一两千万美元的企业,拿约10万美元尝试很值得;马骁腾同意。
- 满足资金和benchmark条件后,核心摩擦是data access。有些高速增长企业愿意以效果为先,他指出,它们调用模型厂商服务时数据本来也会流过去;另一些要求本地部署,MindLab可以支持,但成本会高于service。
- 曲凯追问,既然方法标准化、成本又不高,客户为何不自建团队。马骁腾强调大模型训练底层工程的成本:多种parallel要协同,还得训对、训快、训便宜,并持续适配新模型;他也承认会有自建团队,若业务只需很小的模型,则不必找他们。
14. LoRA从算力约束起步,走向百万级差异化推理
- 马骁腾说,开始做LoRA“完全是因为卡少”:2025年3月左右,约4台H800上开始尝试DeepSeek的LoRA训练。后来大概去年9月,他们看到Thinking Machines发布《LoRA Without Regret》,提出LoRA在很多情况下可以接近全量训练,与他们的观察一致,让团队很振奋。
- 他们参考Tinker做出服务Mint,随后沿三个方向推进:skill up,在更大的base model上训练以获得更强智能;skill down,把每个LoRA做小,降低成本、加快迭代;skill out,在此前提下训练更多LoRA。
- 他用人类基因差异作比喻:即使差异在“千分之五以下”,乃至打趣他与曲凯可能在“千分之二以下”,行为、声音和长相仍可不同。固定base model承载大部分共同能力,小adapter则改变behavior;这是他理解模型差异化的直观方式。
- 他称,团队尝试在4月做了一个系统,可以在一个base model上挂载100万个LoRA进行推理。由此提出的仍是设想:未来一个system挂着大量不同behavior的LoRA,可能像“agent society”,产生新的互动;并未把这种社会形态说成已经实现的结果。
15. 持续学习需要存下判断力,而非记住每个细节
- 马骁腾最近最关心的是,standard recipe之外还能有什么突破。AI一天能读300多篇论文,但能否形成insight?他自己的经验是,读到一定数量后“我就悟了”,看到新论文能迅速识别重点、判断对下一项研究的贡献,却并不记得此前论文的每个细节。
- 他认为这种被压缩的state需要存放之处,而当前模型缺少这样的机制。持续学习可能需要“一个轻量可迭代的单元”,也许类似LoRA,但还需要新的更新方式,承载更长期的记忆、提高学习效率;这是研究问题,尚不是他给出的定型方案。
16. 通用模型可能更强,但他选择为多样化的未来工作
- 曲凯最后提出威胁:更强通用模型会不会把具身、personal agent乃至MindLab所做的事情一起泛化解决?马骁腾回应,即使有人轻视personal agent,Anthropic负责采购数据的人仍会采购大量这类数据;他认为产品是获取真实数据的最好方式。他举Claude Code为例:Anthropic领先OpenAI约半年,做出Claude Code并积累大量数据,使其这段时间的coding表现领先;OpenAI过了很久才真正追平。曲凯则明确说,模型最终泛化解决问题与当前采购数据“没矛盾”,双方没有完全达成一致。
- 对物理世界,他承认,更大的通用模型很可能比专用具身模型理解得更好;但“GPT-6”理解世界,与直接部署到具身系统是两回事,还要处理因果、延时和本体交互。他设想的可能路径,是先由强模型提供能力,再蒸馏成适合驱动本体的VLA,而非跳过工程环节。
- 面对“当前工作会不会归零”,他提出两种情形:若真出现全知全能AI,工作、职业乃至社会秩序都可能被重洗,现有价值一起归零;若并非如此,就会是模型百花齐放,各有taste、preference与擅长任务,服务不同个人和行业。
- 他没有断言第一种情形不会发生,而是说“我认为我应该为第二种情况而奋斗”。比起把社会压成单一答案,他希望AI让世界更“多姿多彩”;短期可能有人失业,也会有人借新技术找到更有意思、自己想做的事情。