AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员
本篇先锋
李磊
摘要
- 数据公司的长期价值,取决于能否持续补上模型的新短板。 李磊认为,需求会持续存在;如果数据公司不能持续产出高质量数据,模型自身产数能力提升会让成本降得很低、竞争更加激烈。能识别能力缺口、组织专家并规模化交付的pipeline,优势反而可能扩大。模型公司购买数据,也是购买推进智能前沿的时间;他称“时间是不可逆的资源”。
- 李磊预期RSI在明确任务上的进展会非常迅速,关键缺口仍是决定研究什么。 搜索更好的参数、算法以及生成数据,都可以通过增加compute推进;但“什么问题是重要的”、下一阶段该解决什么,目前仍主要由研究员判断。他尚未看到特别令自己兴奋、形成充分共识的RSI benchmark。
- 小米的后训练直播把大规模RL的训练动态与成本推到了公众面前。 李磊称,团队早期训练时看到大规模RL能带来“非常全面”的能力提升,希望借MiMo V2.6的Pro、Flash两款模型,给行业做RL的信心。国内反馈集中在费用,海外反馈更关注透明度;近乎公开TensorBoard,也让研究者获得分析训练dynamics的“金矿”。
- 在李磊参与的招聘中,论文已从重要筛选标准退为“nice to have”。 他更看代码和数据是否开源、issues有没有维护,以及模型是否有人使用;声称SOTA却每月只有数十次下载,“可能”意味着问题没那么重要。Koji追问这些指标能否被hack,他承认可以,评价体系始终存在reward hacking。
- 论文供给激增后,研究传播本身成为影响力的一部分。 一个会议从几百篇论文扩到四五千篇,读者越来越依赖推荐与社交媒体;李磊把这称为“attention is all you need”的显化。他有2.4万小红书粉丝,但给PhD的建议是利他、坚持、做自己,用持续输出找到相同research taste的人。
- PhD是否值得读,首先取决于你希望用这段时间回答什么问题。 李磊不认为进入大公司必须先拿学位:“他做得牛,所以他能去。”他看重的是相对完整、可以满足好奇心的研究旅程;选择时,导师和课题组的差异远比Top 30与Top 50的学校标签更值得调查。
- 研究效率来自充分选题、尽早验证,再快速执行“难而正确”的问题。 李磊曾花半年多调算法,最后发现假设本身错误,如今会先抽出minimal hypothesis做小实验。Koji质疑难题意味着慢,他的回答是:重要问题哪怕只推进一点,也可能获得很大影响力,关键是找到可靠切面。
精读
1. 读PhD的价值取决于你想回答什么问题
- 李磊同时是港大在读博士和小米后训练研究员。2023年11月入学两个月时,他参加了自己的第一个会议;他说自己当时有一篇工作,师弟的论文也拿了Best Paper。这让他觉得是“巅峰开局”,同时也担心会不会“出道即巅峰”。
- 真正推动他读博的,是想到十年后躺在床上,可能仍会后悔没有这段经历。他承认工业界待遇让机会成本变大;到了final year,同学们除了学术,聊得最多的也包括package,但他仍希望留出时间研究自己想做的事情。
- 对“为了进大公司而读博”,李磊认为没有必要,Jason Wei等研究员的路径说明:“他做得牛,所以他能去。”另一种期待则值得:用相对完整的时间满足好奇心、补知识、训练研究与传播能力。“人活八十岁”,其中五年可以是一段特殊旅程。
2. 选题慢一些,验证和执行要快
- 李磊把选题拆成difficulty与importance:问题不够难,competitors会很多,也容易被beat掉;问题足够重要,即使只能“make a little bit of the progress”,也很有可能获得很大影响力。他强调的是找到一个切面,给出可靠的部分解释或实验分析。
- Koji的追问值得保留:难题做得慢,怎么及时得到正反馈?李磊认为两者可以兼容——大家知道问题难,对完整解决的要求反而没那么苛刻,一小段扎实进展就可能成为后来者的重要milestone。
- 对超过一百位老师、研究员发起的“慢研究”倡议,他理解其重点是:不把发表论文作为唯一筛选标准,要求学生打牢基础,讲清做了什么、为什么做、怎么做。它不是说不要做科研,而是要平衡课业和科研投入,做重要的事并逐步推进。
- 他曾花半年多调一个算法,最后发现假设错了。现在会先抽出minimal hypothesis,用小实验尽早验证;方向确定前密集读论文、找研究者讨论,确定后则提高GPU利用率、数据处理速度,用AI帮助并行推进。“快和慢是相对的。”
3. 模型的“锯齿状”能力让研究空间继续存在
- 李磊观察到,PhD的焦虑有三层:先满足publication和毕业要求,再担心发出的工作有没有意义,最后考虑能否顺利进入职场。Astra等系统出现时,一些做具身研究的人会感觉自己的整个domain被颠覆。
- 他的应对是回到实验:“真的坐在电脑面前”,去coding、设计harness、跑数据,观察模型具体怎么表现。大模型是“锯齿状”的智能,有些地方非常强,也有能力完全缺失;social media容易放大可见成果,剩余问题需要亲手检查。
- Koji猜测OpenAI持续采购具身数据,可能解释相关能力的来源,李磊只回应“我们猜测可能是这样”。他明确说自己不是具身专家,但能力从哪里泛化而来、simulator与真机之间有没有gap,都仍值得研究。
4. 论文系统承压,录用结果承载不了全部评价
- 作为审稿人和Area Chair,李磊看到工作量从两三篇增到大约十篇,DDL下判断的随机性可能上升。他提到NeurIPS有三个会场;社区也在尝试限制投稿、增加资深审稿人的责任、引入AI辅助。比如CHAIR-AI要求两位senior SPC讨论后再做决定。
- 对Koji提出的“用SOTA模型写一百篇、靠概率中稿”,他直接称其为对系统的“DDoS攻击”。论文的目的本来是分享有意思的研究,关键问题是:“他真的把这些东西弄清楚了吗”,有没有实验或理论支撑所提出的hypothesis。
- 他也保留另一种可能:如果人加AI确实提出一百个有价值的问题,并给出solid答案,投不投稿都无所谓。只是批量产出并没有消除验证成本,仍需要大量human effort确认结果。
- 在候选人筛选中,paper已经更接近“nice to have”;开源贡献也可能被AI生成的PR包装。因此他会继续检查代码、数据是否开放,issues有没有维护。“大家不要把这个accept or not作为最终的一个reward。”
5. 影响力来自真实使用,也需要主动分发
- 李磊会看Hugging Face下载量:如果模型自称SOTA,上个月却只有数十次下载,可能没有解决那么重要的问题。Koji追问下载量能不能hack,他承认可以,但认为下载、存储等成本会让操作代价更大。
- 学术分发方式也在变。过去ACL录用论文只有几百篇,可以按关键词和熟悉的老师筛选;如今一个会议四五千篇,读者不可能逐一浏览,只能更多依赖推荐。在这些系统中获得权重,能够“amplify你工作的价值”。
- Koji提到他有2.4万小红书粉丝,李磊也分享过citation超过一万的笔记。他认为社交媒体的直接价值是反馈快,并能找到research taste相近的同学;“大粉理论”则把粉丝、点赞超过citation,视为“attention is all you need”的显化。
- 他的运营建议是“利他”“坚持”“做自己”。早期持续发论文notes,增长很慢,后来一篇讨论引用与粉丝关系的内容才带来跃升;他分享On-Policy Distillation等研究笔记,也是在表达真实兴趣。争议观点容易吸引评论,却未必让人觉得内容和作者本人有关。
6. 博士训练要从独立研究走向带人和产业协作
- 李磊划出的第一个阶段,是掌握完整研究基本功。即使AI能辅助,也值得自己从头实现基础算法;他提到用NumPy、MATLAB等实现SVM,以及学习吴恩达的Coursera课程,泛化、overfitting等概念至今仍在发挥作用。
- 独立完成研究还包括写作、设计实验、justify hypothesis,以及把知识传播出去。AI可以充当reviewer或老师,帮助完善假设;开源、博客、软件和分享则帮助maximize impact。能够独立做好paper并获得一定影响力,才算跑通pipeline。
- 第二阶段是leadership:从“generator”转向“critic”,把方法教给更junior的同学,并case by case调整指导强度;self-motivated的人可能只需少量引导,另一些人需要更密集的supervision。第三阶段是进入工业界,面对更现实、更多维度的竞争,他说自己也还在学习。
7. 冷启动靠作品累积,也靠进入关键网络节点
- 李磊大二升大三时发过大约十封cold email,只收到一封回复。孙旭老师给了他进组实习的机会,随后才有顶会工作和保研。他认为今天教授邮箱更拥挤,工业界又受算力与HC约束,主动reach out依然必要。
- 低算力条件下,可以做GitHub项目、harness或有意思的应用;偏研究的路径,则是把fundamental理清,写好research blog,用小实验论证想法。他举苏剑林早期以推导为主的博客、后来提出RoPE并成为Kimi研究员,说明作品可以先于资源。
- 没有回复会很常见,但输出本身也是学习过程,要把想学、想创造的东西呈现成作品集。他把这个过程比作“冒泡排序”:持续积累,慢慢被看见。自己最早获得的金山实习机会,也来自对方看到了他的博客。
- 他转述《巴拉巴西成功定律》中的两个发现:诺奖得主也难预测哪篇会成为代表作,因此要持续创造;艺术品进入某些不算著名的市政博物馆后,却更容易被大馆借展,因为它们是关键节点。Koji说“只要一直build就有好事发生”,他补充:“聪明地build。”
8. 导师匹配比学校标签更需要实地验证
- 李磊把选导师的优先级放得远高于选学校。他认为Top 30与Top 50可能没有本质区别,顶尖名校的名字确实能带来识别度,但组与组之间的variance更大。PhD仍很像师徒制,长期相处方式直接影响成长。
- Google Scholar、CSRankings和公开演讲,只能提供公开信息。他更建议私下联系在读生和毕业生,同时看成果与精神状态:有人著作等身却非常痛苦,不能只用产出来判断一个组是否适合自己。他举港大NLP和北大计算语言学研究所为氛围轻松愉快的组。
- 他在上海AI Lab实习时认识现在的co-supervisor孔令鹏,合作大约半年后才觉得风格match。RA因此是推荐路径:既能实际体验合作,也能融入学生群体,了解课题组情况。导师选择是“双向匹配”,一些差异需要半年甚至更久才能看清。
- 地域判断同样有条件:内地更方便接触工业界,但要筛选能平衡项目压力与学生成长的组;香港与内地联系紧密,老师profile在他看来更有活力,也有生活压力。美国部分他明确说不太了解,只转述朋友对签证、CPT和实习困难的反馈,同时承认更接近硅谷及美国学术圈。
9. 教授创业能放大资源,也会传导出资方的要求
- 李磊认为,科技导向的融资环境把前沿researcher和professor推到创业前台。公司形式可以更灵活地买卡、招工程师、采购数据,突破部分学校funding限制,让更大的project更快聚齐要素,起到“杠杆加速”的作用。
- 另一面是拿钱之后会有要求,压力可能层层传给学生,带来学术以外的“dirty work”。他把它视为硬币两面:使用更多资源需要付出代价,学生应按自身阶段权衡需求,不能只看资源增加这一侧。
10. Agent与大规模RL构成他2026年的两次震动
- 回顾2026年,李磊最看重agent范式走到前台。他最早研究的是句子positive还是negative,后来模型能翻译、写作文,如今加上tools和脚手架,可以自动完成很多事情。他期待这些能力下一步从digital world走向physical world,产生新的火花。
- 另一个aha moment来自团队早期训练:李磊觉得它有点像R1,并认为大规模RL能带来非常全面的能力提升。把后训练拿出来直播,也是在面对一些不利于中国大模型形象的rumor时,给行业一个正向信号:这件事可以做,效果也很好。
- Koji提到直播涉及MiMo V2.6的Pro、Flash两款模型。李磊强调RL对infra和数据要求都高,团队希望用透明方式建立信心,配套开放该开源的内容,也通过直播吸收feedback,修正不足、放大做得好的部分。
- 国内观众最关心费用,页面上直接显示金额,形成“人民币在燃烧”的感受;李磊转述,海外评论更惊讶于透明程度,有人称其为首次工业级直播。近乎展示TensorBoard,使训练dynamics成为外部研究者可以分析的“金矿”。
11. 数据公司的生意要随着模型边界不断升级
- 对数据公司的高估值,李磊先说明自己并不特别了解估值,但不认为明显过分:算力、数据、人才都贵,数据生产复杂度和质量要求也已上升很多个量级。他把好数据视为智能的源头,同时强调还需要扎实算法与好的infra。
- 持续需求来自模型“锯齿状”的能力边界。数据公司要找到缝隙,组织专家、设计激励、规模化交付;模型公司也能做,却会分散精力和算力。“时间是不可逆的资源”,所以模型公司愿意花钱购买数据。
- “高质量”始终相对于特定模型:数据太难,能力不足的模型也学不会。供应方需要判断难度、评估模型,并source expert;还要平衡两种价值——让demo酷炫的PR价值,以及模型真正学会能力后产生的经济价值。
- 他对可持续性给了明确条件:能持续生产高质量“燃料”的公司,会持续产生新价值;做不到,生意就肯定做不下去。因为模型自身生成数据的能力会提高,成本就会降得很低;拥有持续升级的规模化pipeline,优势才可能被放大。
12. RSI正在推进执行环节,研究方向仍由人把关
- 李磊认为RSI的信号“越来越强烈”,但提醒定义很宽。广义上,模型生成数据帮助自身改进,已经算self-improvement;更具体的讨论则包括自己训练自己、探索post-training分支,以及寻找更好的参数和算法。
- 他预期这些环节的progress会非常迅速,因为问题well-defined,模型擅长搜索,还能通过scale compute找到更好的路径。在训练过程中,模型的PPL会不断下降,研究员也能让模型协助数据、训练等环节的改进。
- 更前面的缺口是:“什么问题是重要的”,下一阶段需要解决什么。只有具备这类能力,研究员才能放心交出端到端研究;目前他还没看到这里有很好的提升。被问最有影响力的RSI benchmark,他也没有给出推荐,认为领域仍早期,尚未形成良好共识。
13. 好的benchmark必须增加一个真实能力维度
- 李磊用自己参与的Video-MME举例:当大家还在评估六秒视频理解时,他们把时长拉到一个多小时。随着agent变强,看懂电影、长期分析视频会变得重要,因此六秒到一小时测量的是一个“new dimension”,而非简单延长题目。
- 第二个要求是问题来自use case,数据质量足够高。过于artificial的任务容易被模型捕捉,形成“它知道你在测试它”的表现,最终与真实用户体验拉开很大gap。
- 第三个要求是impact和易用性:做好“一键启动、一键测评”,适配主流测评套件,并让别人复现分数。生态整合之所以重要,是它直接节省采用者的时间,让别人更有可能adopt这个benchmark。
14. 专业红利会变化,持续学习和身心状态更值得守住
- Koji提出,MIT大一新生选择机械工程成为最热门专业,美国四年制本科CS入学人数同比下降8.4%。李磊先保留“可能会有很多别的因素”,再判断如此大规模下降,可能包含junior coding需求被AI吃掉一部分的影响:“一代版本一代神。”
- 他仍认为,人们即使不主修CS,也应通过一两门课建立general理解,并能在AI辅助下coding。面对“给高三弟弟推荐什么专业”的假设,他不选具体专业,建议与自己比较、持续进步,在一行维持相对前20%—30%的水位,不必执着于top 1%。
- 对AI与非AI人群的分化,他承认自己幸运,也认为鸿沟中有很多“梯子”。ChatGPT、DeepSeek、MiMo提供了丰富知识,各领域的人可以用工具改变效率和工作范式,也能贡献专业能力帮助模型进步;关键是意识到变化并积极拥抱。
- 漫长博士阶段里,他认为身心健康始终是第一位的,也提到“搏击理论”和换换脑子。最后的祝福很直接:“paper迟早会中的,饭还是得吃,觉还是得睡。”没有什么大不了的。