先锋 趋势 方法 投研 作者
149. 亲历中美neo labs资本狂潮,和清华刘子鸣聊:AI for AI、机制可解释性和Max Tegmark
返回节目精读

149. 亲历中美neo labs资本狂潮,和清华刘子鸣聊:AI for AI、机制可解释性和Max Tegmark

摘要

  • 中国neo labs资本狂潮已至:2026年一批有科研背景、首次创业、还没有产品的老师和学生以数亿美金估值融资,资本最活跃的两个方向是世界模型与Auto Research(AI for AI)。 刘子鸣三月回国、五月底参与融资,体感"就太疯狂了"——一级市场处于formal状态,“大家都在相互打探消息,投项目的动作做得非常快”,融资打法是"种子轮加加轮再加加轮,可以无限地加下去"。
  • 核心call:下一个Transformer不该由人拍脑袋发现。 KAN一作刘子鸣的非典型AFAI路线是训练"元模型"——输入模型+数据集+优化器、输出训练曲线,“世界模型预测下一个state,语言模型预测next token,我们预测next curve”——让筛选100个架构从100次实验变成100次前传。信念源自一场60天人体实验:他每天在实验前预测训练曲线,四五十天后"突然grok了",连跨模态都能预测准,由此相信元模型存在。
  • LLM是反bitter lesson的(引赛宁):成功点在语言这个被人类演化预压缩的模态,不在模型;Transformer"中了硬件的彩票",“它牛不是因为它叫Transformer,它牛是因为能在上下文上有高效的信息传播”。 投资含义:大语言模型收敛已清晰,架构设计的价值在没被压缩好的模态(视觉/世界模型)——正是当前范式辐射不到、new lab有机会的地方。
  • 与田渊栋RSI正交而非对撞:Recursive做"更勤奋的AFAI"(coding agent提一百个想法一个work),他做"更聪明的AFAI"(提三个有一个work),最终会在某处整合。 危机感直白:“如果他们的路线最后变得和我比较相似,那就一定是田渊栋做的。”
  • 数据是真正的瓶颈:research不像coding有GitHub级结构化语料,“大家把展现思维链当做一种耻辱——‘这是我梦到的,不是我推出来的’"。 解法是OPHIS方法论加自建思维链采集系统:20人每天各采10条、两个月一万条,“差不多开始够用”,即可蒸馏出能替他给学生反馈的"子鸣model”。
  • 商业化终局是vibe training autopilot:用户只说需求和预算(“我这里只有一百块钱”),系统端到端设计、训练、部署、交付模型,“不是自己做一家OpenAI,而是孵化各行各业垂直领域的OpenAI”。 Roadmap:6-12个月research驱动不可跳过,一年节点启动产品化;中美温差鲜明——美国投资人给他博后老板三年免商业化,“国内投资人恨不得你当天就能盈利”。
  • 机制可解释性被重估:Anthropic的neuron级路线"有一些wishful thinking"(换个随机数种子故事就不成立),但放进AFAI框架,原以为要几百年的方向"三到五年之内有可能达到"——这也解释了唐杰说智谱要投万亿级别资源为何不再荒谬。 AFAI的标志性路标:在一个垂直领域提出碾压性新架构、像ResNet当年高出第二名10个点——“用拳头把敌人打晕”。

精读

1. 2026年的中国neo labs:一级市场进入formal状态

  • 现象本身:有研究背景的老师和学生成为一级市场新宠,普遍年轻、名校科研出身、第一次创业,没有产品就能以数亿美金估值融资;资本涌入最活跃的两个方向是世界模型和Auto Research(即AI for AI)。
  • 刘子鸣的时间线是最好的体感样本:三月回国、四月底入职清华、五月底参与融资,“这个过程我的体感是——就太疯狂了”;一级市场是一个非常formal的状态,“大家都在相互打探消息,投项目的动作做得非常快”。
  • 融资结构也变了:“从种子轮到后面就是种子轮加加轮加加轮再加加轮,可以无限地加下去”——上一轮没进来的投资人,下一轮再开一轮。而投资人的分类是粗放的:AI for science、AI for AI、auto research"都算一堆",创业者和投资人"脑子里就不是一个事儿",之所以套用cliche word,“是因为投资人他要得听懂”。

2. 从物理到AI:盛宴已过

  • 出走物理的动因是高能界那句"盛宴已过"——留给年轻人的问题没那么多了;他自述"被理论物理和实验物理双重毒打":理论比不过本科就发两篇PRL的偶像姚舜宇,实验做磁流体"搞得满手和满脸都是",“我进了实验室只会把事情变得更加混乱”。
  • 2017年大二撞见GAN:“这个东西特别戳我的兴奋点,数学上没那么难,做的东西又非常fancy”;但不愿轻易放弃物理背景,先做AI for physics(高能唯象),一做五年。
  • 2022年底ChatGPT出来后角色互换:“物理里面没有那么多像ChatGPT一样sexy的东西值得去做”——从AI for physics翻转为physics of AI:用物理学的方法论去理解和设计AI。

3. Max Tegmark:鸟人招鸟人

  • 2020年申MIT物理博士,研究计划里写"我接下来要做AI for Physics",“只有Max看到了我的材料,他说我要招这个人”——Max Tegmark从2012年就宣传AI for physics,2022年底又最早宣传机制可解释性,都是超前布局。
  • 用Freeman Dyson的鸟人蛙人之分定位师徒二人:鸟人"每个领域都懂一点,能看到不同领域之间的结构性相似,把一个领域的方法搬运到另一个领域";Max是ENTP,“跟他聊一个小时可能涉及五到十个topic”,也是平行宇宙理论的提出者之一。

4. KAN诞生记:回应1989年的警告

  • KAN起初是Max不同意的side project:Max甩来Tommaso Poggio 1989年的论文——Kolmogorov-Arnold定理在worst case下找不到严格光滑表征、没法变成真算法。刘的物理式回应:“我们不关心最坏的情况,我们关心一般的情况……我们人能生活在这个宇宙里,这个宇宙就不是最坏的宇宙”;再加一句"all models are wrong but some are useful"。
  • 两周做出原型,Max仍不满意:“你还是造了一个黑盒子出来”;又花一周手搓可视化(“那时我还是一个不相信coding agent的人……现在可能一个小时就够了”),Max看到结构图后被说服:“this is awesome,我们居然能够看到这个网络它的脑子里面到底在想什么。”
  • 更深的起点是执念:从2021年就在想能否构造一个"既是神经网络、同时又是符号公式"的东西,类比量子力学的波粒二象性;方程写出来几天后才后知后觉——这就是1957年Kolmogorov和Arnold写出的方程,万能逼近定理反而成了理论背书,“把我一直以来的执念给close掉了”。

5. KAN之后:该scale的是模型设计本身

  • KAN对他是例子而非产品:“看成功之后,我想的不是怎么把它应用到不同场景,而是怎么复现’我能提出新架构’这件事”;“设计模型本身应该是一门科学,不应该像现在这样:Transformer拍脑袋拍出来的、GAN拍脑袋、ResNet拍脑袋、KAN拍脑袋。”
  • 由此得出他的纲领:“我们不应该scale compute或者data,我们应该scale AI模型设计”——把自己乃至世界上顶尖AI研究员的"脑回路"蒸馏到模型里,“甚至产生比最顶尖的人类科学家更好的东西”。

6. Transformer中了硬件彩票,LLM是反bitter lesson

  • 面对"新架构能否适配当下硬件"的追问,他反而借力:“这更说明Transformer在算法上没那么厉害,它是中了硬件的彩票”;并认同谢赛宁的判断——“大语言模型是反bitter lesson的,它成功的点在于语言,不在模型:语言是人类演化百万年的馈赠,你做什么样的模型,只要能把这个馈赠吃下去,它就是好模型,平行宇宙里可能是另外一个模型。”
  • 对架构祛魅的通式:“它牛不是因为它叫Transformer,它牛是因为能在上下文方向上有高效的信息传播;ResNet牛不是因为它叫ResNet,而是能在深度方向上有高效的梯度传播。”
  • 后LLM时代模型设计反而更重要:视觉等模态没有被压缩好,需要能学抽象表征的模型——人类因进化"特别擅长识别海量信息里最重要的部分:那里有个果子摘下来今天就不会饿死,那里有只老虎不能被它发现",而"这恰恰是现在的AI还不具备的抽象能力"。

7. 一条主线:嫁接神经与符号

  • 他后知后觉总结的科研主线:“如何嫁接神经和符号这两个世界”——AI for science是用neural补足过于symbolic的科学;science of AI是反过来,“我不满意AI是一个黑盒,我要用符号的东西去描述、理解、改进、设计我的神经的东西”。
  • 引Elias Askever的"Intelligence is compression":符号是极致压缩的体现。但他坦陈认知在演化:“去年问我,我觉得最后一定是符号化的;做得越多我意识到,可能做一个预测器出来就好了——物理最后的目的也是预测,这个预测器可以就是一个neural network,只要它在某些场景预测得还不错。“符号"so far还是我个人的一个执念”。
  • 他的AFAI因此与主流不同:“绝大多数人想的是直接用AI去提升AI,但我说stop,中间还有一步——我的AI for AI全称应该是AI for physics of AI for AI”:先要physics of AI帮助设计AI,而人肉(“古法科研”)做physics of AI太慢,所以要用AI来自动化它。

8. 天文学三阶段:AI可能连第谷时代都没到

  • 他最爱的类比:第谷记录星辰数据→开普勒拟合出椭圆轨道等经验定律→牛顿用引力公式把三大定律再压缩。“对应到AI,我们大体处于1.5阶段:有大量实验,但经验规律不多——scaling law是为数不多的几个,它跟开普勒定律的地位类似。我们还远远没有到AI的牛顿。”
  • 更悲观的版本是0.5:“第谷好说歹说把望远镜对准了星空;我们过早收敛到Transformer,盯着一片星区,‘这片星区实在太美妙了’,失去了探索其他架构的motivation……我们的数据只对很少几种模型有效,远没到能看到整片星空的阶段。”

9. 孔乙己的长衫:MIT的保守与Stanford的开智

  • 2024年的MIT同温层:“大家都觉得湾区那些人搞的agent都是在骗钱”;直到2025年5月拿到清华offer,他的mindset仍是"我要在学术界做更有影响力的工作,不要跟工业界同流合污”——“现在看来太naive了,还没有脱下孔乙己的长衫。”
  • MIT的信仰值得存档:“用五年时间写出AI的物理学,然后会发现现在投入这么多资源完全是在浪费,因为可以从第一性原理推导出最优架构”;他自嘲当时的乐观:“靠几个聪明的脑子就可以把AI的物理学写下来,然后save the world,or kill the world,I don’t know。”
  • Stanford六个月"像开智了一样":好友高文浩(现做AI for chemistry)到湾区两周就说"子鸣我要创业了",从每周吃饭聊学术变成教他创业。刺激的机制他说得很诚实:“你特别相信跟你风格很像的peer——当你看到他做出你之前觉得危险、觉得做不到的事,你就会想:是不是我不够激进,是不是我太在舒适区里面了。”

10. 导师转型:pure scientist变entrepreneur

  • 博后老板Andreas Tolias(“全球做neuroscience foundation model最顶尖的几个人之一”)的new lab从秘密筹划到announce,他全程目睹:路线是neuro for AI——用猴子、老鼠脑中的表征和结构去约束人工神经网络。
  • 转型原因"很简单":养猴子做实验需要很贵的仪器,公司里做的事和学校差不多;投资人的承诺是"三年之内你们不用考虑商业化,安安心心做R&D"——采数据就是要人养猴子,周期避免不了。
  • 他婉拒了加入邀请:“有点寄人篱下的感觉——这个技术的想法得是我原生的想法”,并自我剖析这是"学术圈的人的控制欲",“或许过一段时间之后会发现,这也是一种长衫”。

11. neo labs成因:不当大头兵,打范式打不到的痛点

  • 人才选择论:顶尖人才无非三条路——学界、去大厂模型厂"当大头兵"、自己单干;new lab大量涌现,正是范式逐渐收敛过程中"人才不太希望去大厂当大头兵"的结果。
  • 第二个条件是当前范式有明显打不到的痛点,且早期需要大量research而非"上来对资源、对工程":auto research——research不像coding有GitHub这种高质量结构化数据,“我们还在说研究直觉、研究品味,说这些词就默认了研究没被结构化;一旦一个东西可以被结构化、标准化、规模化,大家就会对它祛魅”;世界模型——需要设计新颖架构;主持人概括其本质是"给机器人训练个脑子",即for robotics赛道。这正是当下资本涌入最活跃的两个方向。

12. OPHIS:先为research发明一门语言

  • 他的三步论:结构化research→收集结构化数据→训练research language model。方法论缩写OPHIS:Observation(观察到什么现象)、Problem(预示系统有什么问题)、Hypothesis(假设)、Intervention(下一步操作)、Speedup(是否真带来训练提升)——“所有research paper都应该按这种结构去结构化”;真实科研会在节点间来回跳,“但没关系,所有的东西至少要标注它是O、是P、是H、是I还是S”。
  • 愿景:“一旦我们有了research的语言,就可以像训大语言模型一样训一个research language model,research就能被自动化、被规模化。“方法论与初步结果的博客即将release。

13. 回国逻辑:要带小天才

  • 为什么不留在美国创业?“auto research需要高人才密度……我在MIT带过二三十个本科生,平均水平远不如清北的本科生。我们这个事情需要小天才加入,我需要很多的小天才。”
  • 于是加入清华,“顺便也能从北大那里薅一些学生过来,相当于能聚集不是全国而是全世界最聪明的学生”;目前在期智研究院带十几个"非常非常顶级的学生”。

14. 与田渊栋RSI:更勤奋的AFAI vs 更聪明的AFAI

  • 基于RSI(Recursive)新发博客的判断:他们偏coding agent改进,是"更勤奋的AFAI——超强的行动力,不停地迭代”;自己要做"更聪明的AFAI——之前coding agent提一百个想法只有一个work,我们希望提三次想法就有一个work"。两者正交,“最终会在某一个地方对两个approach进行整合”。
  • 危机感说得罕见地直白:“田渊栋本人是挺支持science of AI的……如果他们的路线最后变得和我比较相似,那就一定是田渊栋做的”——两人此前就grokking研究有过交流,“taste其实非常相近”。
  • 对RSI路线的技术批评:猜测他们强调auto research系统要维持好的memory(昨天调五次学习率全失败,今天记住不再调),“但你不理解背后为什么失败,之前的经验不一定对——可能昨天失败是A原因,今天其实是B原因,这时调学习率反而是对的”——经验驱动与机制驱动的分野。

15. 60天人体实验:把自己当成模型训练

  • 元模型的信念来自今年年初的闭关:“我每天随机拉一个数据集、一个模型,做实验之前先问自己:你来预测这个训练曲线会长成什么样。日复一日做了大概六十天”,博客高频更新、“有时一天两更”;起初"连趋势都预测不对",四五十天后"我突然grok了,突然顿悟了"——甚至前几天做language实验、今天换vision实验也能预测准。
  • 怎么做到的?他的诚实非答案值得保留:“我不知道……可能是一种视觉的reasoning,可能在潜空间有些reasoning,但我说不清楚。“这场"近似于苦行僧式的修行"让他相信元模型存在——“只要你能预言之后会发生什么,你就一定掌握了某种世界模型”,一种"先知的能力”。

16. 元模型:预测next curve

  • 定义一句话说清:“世界模型预测下一个state,语言模型预测next token,我们预测next curve”——输入是模型(加数据集、优化器),输出是训练曲线,“一种关于模型的世界模型”。
  • 动机是自我外化:“我没办法把know-how写下来,这些知识以某种脑电波的形式存在我脑子里……我要把自己给拷贝一份。人的带宽一天最多做一两个实验,但模型一个batch可以见几千组东西”;“这个元模型不像我需要睡觉、需要吃喝、会有情绪”。他四五十次就grok了,元模型抽象能力差些"可能需要四五百次,但多消耗一点计算资源也无所谓”。
  • 用途直指AFAI瓶颈:一百个架构不知道试哪个?“用元模型前传一百次做一百次预测,这是非常便宜的事情”,事前排序哪个想法更promising——“对筛选想法这件事,帮助AFAI的迭代系统更快地迭代想法”;当然最后还是要真做实验。

17. 训练配方:数据就是模型本身,目标是逃出局部最优

  • 配方有点绕但关键:“我们的训练数据是模型”——训练一批模型、拿到(模型,训练曲线)pair,用监督方式训元模型;需要不少算力但"不像大模型需要很大的集群和卡间communication",因为做的是大量小模型。
  • 小模型不是Transformer的缩小版而是强调多样性:“要让元模型见过很多看起来非常奇怪的架构——或许就是这个架构能帮我们跳出Transformer现在的local minimum”;终极目标:“下一个Transformer不是人拍脑袋发现的,而是元模型给我们预测出来的。”
  • 中间目标遵循Rich Sutton的bitter lesson逻辑:“短期数据不够时需要引入结构,长期数据多了就不需要”——research结构化数据偏少,所以短期务实路线是结构化、采数据、训research模型;长期元模型才是端到端的北极星。他自嘲这与行业潮流相反:“有点像短期做world model、长期做VLA……但不重要,重要的是最终做成AFAI,中间路径边探索边往前拱”——路线"每周在改,甚至每天在改。这个采访如果上周发生,我就不会讲这一趴"。

18. 思维链是最稀缺的数据,而展示它曾是耻辱

  • “可能百分之一的AI论文结构化做得不错”——范例是朱泽园的Physics of LMs,“观察到什么、决定做什么,做实验的reasoning chain非常清晰”;99%的paper没有。文化根源他说得尖锐:“很长一段时间,大家把展现思维链当做一种耻辱——你要显得不可琢磨,直接把公式写下来,说’这是我梦到的,不是我推出来的’,那样别人觉得你最牛。”
  • 解法是自建采集系统(device/software):强制流程——“做下一个实验之前,必须写一段话评价之前干了什么、得出什么结论,才能进入下一个实验”;这个采集器同时是环境,“类似我的世界科研版”,之后做next action prediction:学生卡住时调用"子鸣model",“不需要我在场就能获得我同样水平的反馈”。
  • 数据量估算(他自注"这是我瞎说的,还没开始采"):20个学生员工×每天10条=一天200条,两个月一万条,“差不多开始够用,可以开始训练模型来蒸馏我们自己”。

19. 国内AFAI图谱:与paper agent划清界限

  • 图谱一览:孙天祥很早开始做,belief是"language基本上就是整个世界",其FARS(音)系统是自动生产paper的paper agent,最近去了百度做大模型;清华AI院的陈永超也在做AFAI,现路线也更像paper agent;RSI则如上——路线上"目前还不清楚他们science of AI到底什么样子"。
  • 他与paper agent划清界限的理由带着自嘲:“我博士期间就是个paper machine,我知道这些paper真正有价值的就那么几个点……研究的第一性原理是拓展自己的知识图谱,paper只不过是知识图谱足够大、脑子装不下时溢出来dump出去的副产物。“他们要积累的是AI物理学的insight知识库,“帮助我们未来系统和科学地设计更好的模型架构”。

20. Physics of AI三分法与相图:没人回答trick在什么相里work

  • 他把physics of AI拆成三个"看得更细”:空间上——不止看端到端行为,像解剖一样看内部神经元和表征;时间上——看演化而非只看终态,“nothing in biology makes sense except in light of evolution”;平行宇宙间——即控制实验、扫相图(phase diagram),承袭朱泽园的方法论,也致敬Max的平行宇宙理论(“对一个培养皿里的细菌来说,另一个培养皿就是平行宇宙”)。
  • 相图直指行业乱象:no free lunch定理说没有trick在所有任务上都更好,“我们现在之所以很混乱,是因为所有人都在说我的trick work,但没有人回答我的trick在什么相里面work”——理清每个trick、每个架构的适用条件,“这才是一种做科学的态度,而不是做出来一个东西就在那里卖”。

21. Anthropic机制可解释性:先祛魅,再重估

  • 批评有一手经验背书——他们组2022年底就用同一approach做了大量工作,学生后来去了Anthropic(Claude"怎么做加法"的研究就是他们组paper的延伸):“SAE、transcoder想把superposition的表征升到高维稀疏空间、抽出原子概念,我个人觉得有一些wishful thinking……你换一个随机数种子,这个故事就完全不对了”;neuron级解释"非常具体,但不一定鲁棒”。
  • 但AFAI框架带来重估:机制可解释性像"AI的生物学",古法要发展几百年,“之所以需要几百年,是因为我们没有办法自动化;一旦能自动化,进展可以很快”——“半年前看到唐杰老师说智谱要投万亿级别的资源到机制可解释性上,我会觉得这是在干嘛?但现在放到AFAI框架下,那些看起来非常遥远的北极星,有可能在三到五年之内达到。”

22. 里程碑:用拳头把敌人打晕,但AGI还缺一块

  • AFAI的标志性路标:“在一个垂直领域——都不需要很通用——提出一个新架构,不是涨百分之一的点,而是涨百分之十”;参照系是何恺明:“ResNet当年在ImageNet上比第二名高百分之十。你要么用拳头把敌人打晕,打不晕就需要口舌以理服人。”
  • 清醒的边界:AFAI是necessary但不充分——真正的AGI还缺对数据做抽象的能力,“人有持续学习能力是因为人会做抽象,现在的AI仍然不会;如果它能,最多是因为数据本身已经被抽象好了,比如自然语言”。针对主持人"左脚踩右脚就上天了"的质疑,他把AFAI定义收窄为"在垂直领域提出好架构"——这个目标不需要解决持续学习。

23. 产品:vibe training与模型平权

  • 商业化答案是training autopilot(短期是copilot):用户只说需求,“我这里只有一百块钱,你要在经费允许的情况下尽可能deliver一个好的模型”,系统端到端设计、训练、部署、交付——“现在是vibe coding,未来会是vibe training”。
  • 生态构想直接对标平台:“我们不是自己做一家OpenAI,而是孵化各行各业各个垂直领域的OpenAI”——如同LLM统一了NLP的各种任务,终极系统能设计出各垂直领域的"Transformer"。对"人人训模型有什么用",他罕见地不装:“我实话实说,我也没有想太清楚——当技术便宜到一定程度,有些需求它自然会涌现”,并举家用电脑之问(“怎么会有household想在家里放一台巨大的电脑?")与训练陪伴机械狗的例子。
  • 平权的前提是成本:“当physics of AI理清之后,训练成本也会下来——我们现在不是最优的recipe,很有可能还有很大的优化空间。”

24. New lab的本质:先是lab,grok之后才是公司

  • 对new lab的定义是全场最干净的一段:“之所以起一个新名字,是因为它既不是lab也不是公司——6到12个月按research institute的方式运转,一旦grok了、顿悟了,就应该按公司的方式运转”,即"前OpenAI时代和后OpenAI时代”;这段研究驱动期"不能被跳过",“不能为了短期交差过早投入到一个其实不那么好的方向”。
  • 中美投资人温差:美国投资人给Tolias"三年不用考虑商业化";主持人称"国内投资人恨不得你当天就能盈利",刘子鸣回答"当天还是不行"。他的roadmap:六个月内侧重R&D和demo,“一年这个时间节点肯定会开始产品化跟商业化”;现金流靠持续募资。值得注意的转变——一年前他还认为需要3-5年R&D,是元模型可行性的自我确认让他提速。
  • 创业几个月的状态:“基本上除了睡觉都是在工作”,要按几年后的目标倒推路径,“有一点out of my distribution”;professor和entrepreneur只能选一个?“我都要。如果非要选,再看吧。”

25. 研究品味是遮羞布 + 快问快答

  • 对"顿悟时刻怎么训进模型"的回答先拆掉神话:“我一开始也挺相信研究品味、研究直觉,现在祛魅了——研究品味其实是一个遮羞布:我们聪明到可以提出一个想法,但没聪明到能用语言说出我是怎么提出的”;“善战者无赫赫之功——最牛的人提想法跟呼吸一样简单”。他刻意训练自己追问"我是怎么提出好想法的",结论是:“只要拷问得足够深,你总能说出点什么”;另一条路是直接测脑电波,但那要等脑科学和伦理问题解决。
  • 快问快答的存档价值在最后两条:改变人生的书是《人类简史》——“我们的社会其实就是故事驱动的,不仅技术重要,背后的叙事也非常重要”(对照他正身处的融资叙事游戏,几乎是自指);影响他最大的论文是GAN(“为我打开了AI世界的大门”);基于当下认知最关键的but:“AI for coding之后,下一个会是AI for research——但是需要用physics of AI的方式去做。”