31. 「26Q1」中美大模型差距过去一年变大还是缩小?- Hugging Face | 王铁震
31. 「26Q1」中美大模型差距过去一年变大还是缩小?- Hugging Face | 王铁震
摘要
- 王铁震的总判断:从实际体感看,美国前沿模型仍“远远领先”,且有三个结构性原因。 算力充足让美国进入“月更”而中国模型可能三个月一更;DeepSeek V4 的 1.6T 在对面“可能都是 Flash 或者 Nano 级别”;闭源造成单向透明——“美国可以学到中国最顶尖的探索,中国学不到”。
- DeepSeek V4 一个尚未被完全发现的优点,是把 KV cache 从内存搬进 SSD,缓存命中与否价格可能相差十倍。 王称 DeepSeek 在“做公益”:在架构探索上投入很大,并实际推进华为适配;V4 发布页小字写明等华为 950 POD 集群上线后价格还要再降;他认为下一代 Kimi、智谱模型都会借鉴, “让智能在中国的价格变得更低”,功德无量。
- 卡是制约,但估值与变现也决定训练规模。 王指出智谱四千亿元对 Anthropic 的万亿美元计价,MiniMax 与智谱过去十二个月收入都在约一亿美元,即使 B300 放开也买不起多少卡;“特别需要 VC 按一百倍、一千倍的估值来投,烧出一个未来”。Raymond 后来概括,中国模型在训练资源和收入端“可能”都只有对方的百分之一;付费意愿已被验证——“智谱的包月都卖断货了”。
- 中国开源模型的全球份额被严重低估:HF 报告 41% 对美国 36.5%,且不含无法访问 HF 的中国大陆用户。 美国开发者经历三阶段——从 Reddit 名帖“千问很好,但是我没有办法用它”,到 Qwen 取代 Llama 成研究员默认基座,再到大厂说“开源模型”时八成指中国模型,Cursor 拿 Kimi 训出 Composer 2。
- 闭源的数据飞轮是美国的护城河,但十二亿人的飞轮可能是中国的解法。 Raymond 判断,中国模型只要跨过可用线,就能在美国模型构成的“与世隔绝的孤岛”之外,像抖音一样在本土飞轮里越转越快。Raymond 的切换条件很具体:到 Claude 4.6 水平即完全切换。
- 单向学习也曾反向发生:R1 用开源第一次教会全世界思维链。 o1 时代大家不知道思维链如何实现,猜过蒙特卡罗搜索;王认为“非常有可能”Anthropic 拿 DeepSeek R1 去训练它们第一个有思维链的模型,因为 DeepSeek 更早。
- 王判断 2026 年运动式开源可能退潮:开源应是 go-to-market 手段而非技术理想。 他举例说,若已占据开源市场 80% 的份额,就没有必要继续投入那么多;开始赚钱后激励会改变,且赚钱才能持续开源——Stability“考虑赚钱考虑得太晚,CEO 都跑了”是反例;他引 MiniMax 闫俊杰,称开源是“打造公司先进技术品牌的核心手段”。
- 回应 Hassabis“落后六个月 + mentality 问题”论:立场不同,“一个是王健林,一个是杨振宁”。 中国没有美国那样的资源和资本容忍 Thinking Machines Lab“据说”融资 50 亿美元、尚未做出产品的试错,大家太着急赚钱;但电动车、光伏证明后发制人可行,DeepSeek 的架构级创新让他“还是蛮乐观的”。
精读
1. 开门见山的总判断:体感上美国前沿模型“远远领先”
- 王铁震不看参数看体感:“我们都是用脚投票的”,主力工具是 Opus 和 Codex。第一个原因是算力:B300 上线后美国模型迭代到“月更”,中国模型可能三个月一更,“无形中拉开了几个月的差距”。
- 第二是尺寸:有人说 DeepSeek V4 的 1.6T 太大、推理不了;但美国模型远大于此,“1.6T 在他们来讲可能都是 Flash 或者 Nano 级别”——在“大就是好”的背景下,很难拿 1.6T 跟 6T 比。
- 第三是单向透明:“我们不知道 OpenAI 用了什么技术,没有办法从 Anthropic 的经验里学习”,而 DeepSeek 代表的架构探索全开源——“美国可以学到中国最顶尖的探索,中国学不到”。
2. “可用线”之争:Raymond 的苛刻标准顶回了乐观叙事
- 王的相对刻度:画一条可用/不可用的线——2023 年他办“世界首场大模型写小说比赛”时没有一个人用国内模型;如今智谱模型“遭到市场疯抢”,中国模型“正在飞快越过”能产生 revenue、让人用金钱买单的那条线。
- Raymond 的 pushback——值得保留:他所有模型都用,但以日常工作为准只有 Claude Code 可用,“Codex 都是不可用”。曾把“小龙虾”项目跑在 MiniMax 上,多步骤、调奇怪工具的任务做不了——“如果它智力不够就探索不了,这个任务就不可实现,那就是不可用。”
- 王的调和:大部分国人还在聊天框里用模型,而国内大厂已在快速要求员工 AI native——两条可用线衡量的本就不是同一群人。
3. DeepSeek V4 的水花与被低估的 KV cache:“它在做公益”
- 为什么这次不如 R1 时刻轰动?去魅曲线:初见 ChatGPT 3.5 时“我觉得我已经可以下岗”,如今 4.6 之后 4.7 不惊艳就嫌停滞;“正常我们是线性的进步,大家对它是指数的预期”——“只要你不能持续给我 surprise,你就是不够好,这个行情非常残酷。”
- 但王认为 V4 的一个优点还没被完全发现:把 KV cache 从大量级压到小量级,“以前需要放在内存里的 KV cache,现在放在 SSD 里就可以了”——能存更多、存更久,隔天续聊仍能命中;命中与否价格可能差十倍,叠加“价格屠夫”定价,写代码成本很低。
- 王也承认自己并没有很认真地使用智谱和 MiniMax,判断可能带有基于以往体验的偏颇。
- 王的定性:DeepSeek 是中国为数不多能大规模探索基础模型架构演进的公司,Kimi、GLM 都在尽量模仿它的结构;他认为下一代 Kimi 或智谱模型也会借鉴, “让智能在中国的价格变得更低”,token economy 对全世界都重要。
4. 国产卡适配是世界级难题,DeepSeek 是真用而非发 PR 稿
- 难在哪:全世界找不到能与 NVIDIA 比肩的第二家,AMD、Intel 砸钱也追不上生态;昇腾“更像 FPGA”,算子实现不同可能导致模型在 NVIDIA 卡输出 ABC、华为卡输出 DEF,“那就没法把这个模型交给用户”——要重做从库到框架到量化的整套栈,NVIDIA 做了几十年。
- 为什么是 DeepSeek:大家都在做,阿里甚至有自己的 GPU,只是它在华为这条路上走得最远、质量最好。V4 发布时的小字——等华为 950 POD 集群上线价格还要再降——“说明它跟华为是非常深度的绑定,不是跑起来发一个 PR 稿结束。”
- 外媒怎么看他不 care:“V4 发布之前无数外媒信誓旦旦说下周肯定要发,结果都没有发”;重要的是行业内部的反应——降推理成本的做法会扩散到全行业。
5. 卡是制约,估值与收入也决定训练规模
- 王认为卡是训练天花板的制约因素,但不是唯一因素。训练是一次性投入,推理成本则取决于有多少人使用,理论上可以通过收费回收;哪一个更大,要看推理量。
- 智谱已经四千亿元,Anthropic 是以万亿美元计价的公司;即使放开购买 B300,中国企业也因为估值和资金规模不足,买不起美国那么多卡。
- MiniMax 和智谱过去十二个月收入都在一亿美元左右,哪怕拿全部收入去买,也买不了几张卡。所以“特别需要 VC 按一百倍、一千倍的估值来投这些公司,烧出一个未来”。
- 付费意愿不是问题:豆包推出包月后大家使劲买,Kimi 包月卖得好,“智谱的包月都卖断货了”——“大家愿意付费,但你得给我一个达到可用级别的模型。”
6. 为“刷榜”辩一个名:不是学生的错,是没人出过好题
- 王的辩护(“我就是中国学生”):刷榜本质是培训体制和数据飞轮问题——钱学森回国后给学生出的是“把火箭发射到月球该给什么配置”的开放题;中国模型以前没到可用状态、不知道用户需求,“没有人给它出过好的问题,只能拿研究人员常见的题来刷”。
- 美国模型早刷完旧榜,“已经在发明新的榜再去刷”——从海量用户和企业需求造出反映现实的榜,“本质上还是刷榜,但榜的质量不一样”。如今中国模型跨过门槛、企业开始出题,研究人员“一下就获得了一个宝藏”,刷完后还能得到现实中的商业转化。
7. 奇怪的用例与闭源的数据飞轮:“你在花钱贡献几十年的经验”
- Raymond 现身说法,最难的用例是剪视频:Claude Code 里上百段对话围绕一个视频,调用 Whisper 转写、做 timestamp、判断“对话的开头在哪”、调用图像生成并加编辑功能;每一步出错视频就不能用,中途人也插不进手——“我相信 Anthropic 的人估计也不会想到,会有人把大模型拿来做视频。”
- 王解释闭源为何好:subscription 让厂商看到无数这样的 case,训练时预先覆盖你的场景——“这个模型太懂我”,虽然这种“懂我”不会在任何 benchmark 上体现;开源模型交付出去后拿不到用户数据,缺少数据闭环。
- 更狠的一层:用户写的 skills 会在下个版本“很神奇地被 Anthropic 发现、训练到模型里”——“你不仅在花钱买 token,你实际上是在花钱贡献你几十年的经验。” Raymond 补例:ARR 一亿美元的法律 AI Harvey,被一个律师用 Claude Code 复刻成 GitHub 上人人可下载的“巨大 skill”。
8. 差距会不会越拉越大?十二亿人的飞轮是答案
- Raymond 的担心:Kimi 订阅少、数据少,闭源壁垒岂不越垒越高?他判断,中国模型只要跨过可用点,就能在美国模型构成的“与世隔绝的孤岛”之外发展;王认同,称“十二亿人能给它创造出无限的数据”。
- 类比抖音:视频推荐算法不是抖音发明的,是十四亿人帮它把飞轮卷成世界最好。
- Raymond 的切换条件很具体:不是爱国情怀,是中文支持更好、且担心美国账号“分分钟被封”让重要生产工具失灵——“但凡有个到 4.6 的水平我就很高兴,就可以完全 switch 过来。”
9. 量化实战:大约一年前或半年前 Cursor 写不了的策略,4.6 似乎跑通了
- Raymond 完全不会写代码,只能接受封装式交付:大概一年前或半年以前用 Cursor 写量化策略,“一加一有些时候等于三,有些时候等于四”,超过 20 万后上下文窗口完全崩——“当它给你不可用的感受时,是绝对不能上线放钱的。”
- 如今 Raymond 发现 Claude 4.6 好像又聪明了一些,重写那些东西“好像就 work 了”;关键是 skill——“skill 其实是一种把上下文 compact 的方式”。
- 王称简单策略“有一些赚了钱,但赚得很少”,复杂 CTA 策略最近用 Claude Code 重写,“希望这次能赚更多钱”。策略会因大模型人人可得而失效吗?王认为还好,因为写策略时带着审美判断;但他投入时间还不够久,尚未看到失效,也还没做策略失效后的补丁。
10. HF 的数字与美国开发者的三个阶段
- 春季报告:中国模型下载 41%、美国 36.5%——但报告“写得很保守”:HF 在中国大陆无法访问,中国用户下载未计入;报告里的用户是全球用户,但不包括中国大陆用户。因此中国模型下载量被严重低估,可能远超 41%,且早就超过美国模型,不是报告发布时才发生的。
- 阶段一:小企业与个人开发者先用,标志是 Reddit 几千回复的名帖“千问很好,但是我没有办法用它”——发帖人跟公司法务反复解释“这就是一个无状态的模型”。
- 阶段二:Qwen“量大管饱、各种尺寸应有尽有”、好微调,成为研究员默认基座、抢占 Llama 生态位——被问“Llama 上次更新是什么时候”,Raymond:“你突然提到这个名字我都忘记了。”
- 阶段三:美国大厂“已经不 care 是不是中国的模型”,说“开源模型”时百分之八十指中国模型(Llama 慢、IBM Granite 还不错、谷歌只有端侧小模型 Gemma);Cursor 拿 Kimi 训了 Composer 2。王解释,若拿智谱问题更大,因为智谱受到出口管制,所以拿的是 Kimi——“一开始有中国就不要,后面已经不看中国,只看开源。”
11. 单向学习的另一面:R1 教会了全世界思维链
- Raymond 直问:Anthropic 在蒸馏中国模型吗?王:现阶段更多是架构层面的启发;但回看 2025 年,ChatGPT o1 那种思维链模型当时对外不透明,大家猜过蒙特卡罗搜索,是 DeepSeek 用开源第一次教会大家,此后所有模型拼命往这个方向收敛。
- 王认为,“非常有可能”Anthropic 拿了 DeepSeek R1 去训练它们第一个有思维链的模型,因为 DeepSeek 更早。理论上,Anthropic 也可以在内部专门蒸馏 DeepSeek 的答案。
- 欧洲插曲:Mistral 作为法国“主权大模型”过得不错,政治站队的国企必选;德国中层选 Mistral 的阻力也远小于选中国模型——但“除非你真的不可替代”:宝马、奔驰照样来中国采购无人驾驶。
12. 预测:2026 年“运动式开源”可能退潮,开源应是赚钱的手段
- 王判断:2025 年以后大家拼命开源,甚至到了“运动式开源”的程度,可能在 2026 年逐渐降温。理由:他举例说,若已占据开源市场 80% 的份额,就没有必要继续投入那么多;开始赚钱后老板、投资人、股民的想法都会变, “除了秀肌肉之外,赶紧挣点真金白银”。
- 正确姿势:“希望这些开源公司使劲赚钱,然后使劲开源,而不是砸锅卖铁也要开源。” 开源是 go-to-market、招人与品牌建设的手段——引 MiniMax 闫俊杰,开源是“打造公司先进技术品牌的核心手段”,顶尖研究员不愿进一家名字上不了任何技术博客或 paper 的闭源公司。
- Stability AI 是反例:考虑赚钱太晚,彻底丧失了继续开源的机会,整个公司的 CEO 都跑了。
13. 回应 Hassabis:“一个是王健林,一个是杨振宁”
- Hassabis 一月说中国基础模型落后约六个月,且未展现 push frontier 的能力,问题在 mentality 而非技术封锁。王的框架:他站在想夺诺奖的立场,“同样评价一个事情,看法完全不一样”。中国拿 AI 诺奖级成果“挺难的”——“没有那么多闲情逸致去探索不太靠谱的方向,大家太着急赚钱了”。
- 但他不悲观:电动车、光伏都是后发制人的模式;DeepSeek 证明中国能独立做出架构级创新,“未来还是有希望的”。美国能容忍 Thinking Machines Lab 据说融资 50 亿美元、尚未做出产品的试错;中国资本环境则不太允许无缘无故给一个人 50 亿美元去买卡探索——“这是一个时间的问题。”
- Raymond 的 recap 带出最刺的数字:MiniMax 上市那期播客第一句是“太难了”——中国模型资源“可能”都是对方的百分之一,训练端和收入端也各约为百分之一。王笑纳“盲目乐观”:“只有当所有投资人都盲目乐观的时候,我们产业界的人才能更幸福。”
14. 短期难补的差距:广义的模型安全,与 top-down 的中国路径
- 王提到 Nathan Lambert 等人访华时的文章和 notes:中国对广义模型安全——模型如何影响每个人的生活,而非内容管控——“没有那么 care”;“效用和向善是不一样的”,例子是“被锁在算法里的外卖骑手”、豆包式“先给你充足的情绪价值,好还是坏不好说”。
- 结构差异(Raymond 的观察):中国的规范多由政府兜底、top-down;美国是学界产业界领袖推动立法的 bottom-up。王补充舆论的作用——拼多多“砍一刀”在欧洲撞了铁板。下一个爆点:王猜 AI 陪伴带来的青少年心理问题;Raymond 猜“coding 工具之后的人类过劳死”——“感觉我是 AI 的奴隶。”
15. 两个产品级非共识:给文员做 PPT,以及“Code”这个词有毒
- 王的“广告”:代码场景渗透率飙升后,下一个马上可被满足却没人关注的市场是给不写代码的办公室文员写 PPT 和漂亮文档——类似 Claude Design 这类“用代码生成非技术人士能用的东西”。Raymond 已在前头:“我现在写的全是 HTML 页面 print 成 PPT。”
- Raymond 给大厂 AI 负责人的建议:“Code”这个词是有毒的——身边很多人三个模式都能用却不碰 Code,不是难,而是“程序员之外的所有人对 Code 都有天生的恐惧感”;Code 应是百分之百全员渗透的底层,用户只看“最后能不能给我交付”。
16. Hugging Face 是“AI 界的淘宝”,最近的 aha 是模型自举
- HF 是模型集散地:厂家上架、统一 API、可下载可云端部署;不想读 paper 就去 HF Spaces 跑免费 demo;榜单反映“研究人员用脚投票的结果”,Raymond 用它监控国产大厂进度,王认为霸榜时长可作投资决策依据。
- 过去九十天的哇时刻:让模型自己迭代自己——AK 几个月前发的 AutoResearch 项目,给个目标让模型自己解决训练问题。“以前写代码是门槛,Claude Code 打破了;后来炼丹是门槛,现在大模型也在快速学炼丹。”
- 终局:“当有一天模型能够完全 bootstrap 自己,你实际上就发现了一个新的物种”——像生物靠 DNA 自己演化繁殖。王认为大的 Neo Lab 里可能已经发现一些东西了,模型自我迭代也可能已经发生,只是人类并不知道;若优化目标设错,它“可能一下子就跑得很远”,这会是很大的伦理问题。
17. 尾声:AI 时代养孩子,“每一代人都会找到自己的使命”
- 现实已在改写“必备技能”:王七岁的儿子打字先按麦克风说话,不会写字也能沟通;王自己用 Typeless coding,从早说到晚——“如果 Typeless 大家都能用的话,为什么小孩一定要会写字呢?”
- 王的感悟:爸妈当年觉得“每天玩电脑你以后能找到工作吗”,现在真是玩电脑找到了工作,站在摄像头前跳舞也能赚很多钱——“每一代人都有自己的使命,相信他们,但我不相信又能怎么样呢?”
- Raymond 的标准:未来是相对排序,读什么大学可能都不重要,重要的是“成为 peers 当中更愿意去尝试的人”、心态情绪稳定。Raymond 的另一版答案来自疫情:“疫情之前还想着孩子考北大清华,疫情之后就是活着,不要生病。”王补充,不管有没有 AI,最重要的是身体健康、做自己想做的事情、开心快乐、心态健康。