134. 【数据的综述】和谢晨聊,新时代的石油、历史、版图、数据金字塔、定价与Recipe
摘要
谢晨的核心判断是,具身数据不是“少一点”,而是结构性荒漠:若把一百万台机器人回来的数据视作一个60分起点,今天甚至没有一万台机器人能提供足够的真实、仿真或人类数据,“可能连0.6分都不到”。 真机数据最准确,却最贵、最难跨场景规模化;真正能把量推上 scaling law 的底座,将是仿真与人类第一视角这两类本体无关数据。对投资者而言,价值池因此未必沉淀在拥有最多机器人的公司,而可能流向大模型商、数据引擎、硬件商和场景方构成的生态。
机器人大脑当前最紧的卡口不是再多采一批训练素材,而是建立足够难、可重复且可规模化的评测。 自动驾驶有 shadow mode,大语言模型有真实用户交互,机器人却无法在一千个家庭、成千上万个任务中每天重复测试;BEHAVIOR 的100道长程任务目前最高成功率约26%,说明学术 benchmark 尚未被完全打穿,但产业还需要更大规模的版本。“没有仿真,就没有办法做大规模评测。”
谢晨反对把“数据即模型”当作终局判断:现阶段任务分布里没有某类数据,模型往往确实做不成,但长期零样本泛化必须由模型架构与数据规模共同推动,数据量也可能要达到足够规模后才会出现泛化。 最近六个月,大模型团队开始把机械臂当作标准化试验台,用本体无关数据和大规模仿真检验 zero-shot;机器人公司则更关心轮式、足式、灵巧手及具体酒店、工厂、光伏场景的交付。双方从同一起点分叉成“冲泛化”与“做落地”两条资本和产品路径。
高质量数据最反直觉的配方不是完美示范,而是“先失败再成功”的纠错轨迹。 做披萨时蘑菇没抓牢、掉到桌上,再捡起放回去,比一路无误更能教会模型恢复;拿瓶子的姿势分布、长程任务中的局部成败和精确评价也同样重要。具身数据每小时价格可从几十元到数千元,高质量部分约数百至上千元,价格差异来自物理真实性、轨迹专业度和评价结构,而非单纯时长。
具身版图不会简单重演特斯拉:自动驾驶若有90%以上的数据来自本体,就会遵循特斯拉或 Waymo 的逻辑;机器人面对的任务、物体和物理交互则复杂得多。 谢晨据此判断,机器人的“特斯拉式一体化霸权”较难成立,大脑更可能由拥有大语言模型、世界模型、VLA、强化学习基础设施和几万张卡的模型公司提供,本体商负责量产与部署。“如果没有数据金字塔下面的仿真和人类数据,具身的通用智能就出不来。”
世界模型、VLA 与大语言模型正在形成共生栈,而不是立刻相互替代:世界模型偏物理理解与预测,VLA偏端侧行动,大语言模型提供数字世界能力和基座。 同一套 BEHAVIOR 评测体系已被用于评价 VLA 和世界模型,意味着两者长期可能合一;眼下,世界模型需要仿真的物理 grounding,仿真又可借世界模型扩大生成与泛化。可交易的基础设施不只包括模型和算力,也包括将物理世界、行动轨迹、任务及成功条件持续闭环的数据系统。
大厂对机器人大脑的投入已明显转强,谢晨点名了字节、阿里、OpenAI、DeepMind、英伟达,并把 PI 视作 Frontier Lab 型竞争者。 中国的优势仍偏本体与量产,宇树的边界最清晰,智元则重视上下游打通;但千问等基座能力、人才密度和基础设施,使中国大脑团队“很有可能追回来”。终局更像多个强大脑、数据引擎、本体与场景方协作,而非一家模型公司通吃。
精读
1. 谢晨用反复试错找到了“能成为产业前提”的工作
- 谢晨本科读北大物理,最初年级约110名,三年里常到凌晨两点、寒暑假不回家,最终进前五;这段经历同时教会他“努力确实可以做得更好”,也让他承认天赋仍是决定上限的因素。
- 从哥伦比亚商学院量化金融博士,到电商动态定价、产品经理、自动驾驶仿真,他不断 pass 掉缺少创新、社会贡献、技术难度或商业闭环的方向。最终找到的区分度是:“基于一个更加颠覆性的技术打造产品,并且用这个产品真正支撑一个产业。”
- 这种寻找并非纯职业规划:本科时他组织海外交流项目;博士时为患心脏病的巴哥犬“土豆”自学设计和编程,下载约500个 App,做出北美排名前三左右的狗友社交应用。
- 狗友项目做了约三年,也拿到过硅谷 VC 的 term sheet,但因没有想清商业模式、又不愿浪费投资人的钱而关闭。张小珺由此概括他一直在排除不适合自己的事,谢晨认可:“我可能没有那么幸运,花了很长时间才发现自己擅长什么。”
2. Cruise 让仿真从投资人 Demo 变成可训练的数据源
- 谢晨2018年加入 Cruise 前,那里的仿真更像“一个玩具”或给投资人看的 Demo:游戏引擎生成了大量看似真实的数据,但感知团队使用后,模型效果不是上升而是下降。
- Cruise 当时的 CEO Kyle 给了他约三个月解决问题。谢晨没有先追求画面更逼真,而是先建立仿真评价准则,再把生成式 AI、仿真和算法迭代结合,直到合成数据真正带来模型提升。
- 这次验证改变了他的信念:“仿真以及合成数据并不是一个玩具。”他最早把仿真称作“时间机器”——没有它,自动驾驶可能要15年;有了它,或许5年便能达到目标。
- 但自动驾驶的主要数据仍来自真实车辆,仿真更多补 corner case、提供可重复的回归测试,因此它在汽车里首先是加速器,而非不可替代的前提。
3. 英伟达与蔚来补齐了供应商和主机厂两种视角
- 谢晨离开 Cruise 去英伟达,是为了 challenge 自己:Waymo、Cruise 路线尚未收敛,仅凭一家公司的实践不能证明自己做法最好;供应商视角能同时观察多个客户如何使用仿真。
- 2021年加入英伟达后,他发现车端 Orin 芯片最大的客户不是 Waymo、Cruise,而是“蔚小理”。这个冲击让他判断,自动驾驶下一阶段可能在中国,于是入职仅六个月便携家回国。
- 在英伟达内部,他第一次真正看懂公司不是“游戏卡公司”,甚至不只是 GPU 公司,而是“加速计算的平台公司、全栈公司”。他不后悔离职,但保留了这一硬科技判断。
- 回国后,他在蔚来从主机厂角度搭建仿真数据闭环,覆盖合成数据训练、大规模评测和落地;供应商、L4 公司与 OEM 三种位置,也帮助他回答“为什么必须在外部做”。
4. 具身仿真只有成为外部基础设施,才可能吸引最强人才
- 谢晨2023年与杨海波成立光轮智能,出发点不是再做一家自动驾驶仿真供应商,而是成为机器人产业的数据基建和数据引擎。
- 他的组织判断是:足够难、市场足够大的基础设施更适合独立存在。Cruise 最好的算法人才通常流向感知或预测,Waymo 最好的数据人才也未必进入数据基建;独立公司则能把顶级算法、物理和数据人才集中到同一问题。
- Scale AI 是他的类比:只有当数据生产本身足够复杂,外部平台才有机会形成跨客户的流程、反馈和飞轮。若仿真仅服务单一自动驾驶系统,独立公司的必要性反而没有那么强。
5. 数据正在从静态教材演变成针对模型的教育系统
- 谢晨以教育类比数据:ImageNet 时代是一次性买教材,数据是静态图片、真值标注和固定评测集,近似“填鸭式教育”。
- Scale AI 将其推进到工厂化阶段,通过工具链、人力运营、质检、效率和交付时间,把自动驾驶标注变成可工业化生产的“量贩式教育”。
- 大语言模型时代,互联网预训练数据接近用尽,重点转向后训练与评价;工程师、物理学家、数学竞赛金牌、律师和医生像高阶教师一样出题、评分、发现弱点,再针对弱点提供经验。
- 因而他给数据的更广义定义是:“能够帮助你学习的信号,以及相应的经验传授。”数据商也从被动接单者变成理解模型状态、主动评价并刺激新需求的老师。
6. 数据工作已从画框标注升级为高价专家的原生反馈
- 传统自动驾驶链路包括传感器数据清洗、切片、画框、类别与时序标注,再由自动标注和人在环质检逐步替代纯人工。谢晨估计,整个市场上可能仍有十万到几十万人参与这一产业。
- 新一代供应商如 Mercor、Surge,则为模型提供题目、答案、比较和 RLHF 反馈;参与者往往是高阶专业人士,时薪可在100美元以上。
- 关键变化是,他们不再只在既有数据上附加标签,而是直接生成问题、示范和评价。以编程为例,同一任务可能有十种写法,专家要指出哪些好、哪些差、哪些模棱两可,并解释其中逻辑。
- 与机器视觉追求唯一正确答案不同,大语言模型和具身学习需要保留人的多样性、分布甚至错误;“严格的正确”和“严格的完美”反而不再是唯一目标。
7. “先失败再成功”比完美做披萨更有教学价值
- 光轮最初收到的需求,是让机器人在仿真中完美完成长程任务:从冰箱取饼底、放配料和奶酪、送入烤箱并按键,只有全程正确才算有效数据。
- 与顶尖具身客户共同迭代后,团队发现更有效的是纠错轨迹:蘑菇切好后没抓牢、掉到桌上,再捡起放回披萨。这类“负样本”或修正数据能教会模型恢复,而不仅是复刻成功路径。
- 谢晨把变化归因于泛化能力提高:“模型更可以从错误中去学习。”张小珺指出这更接近人的学习过程,谢晨直接认同。
- 同理,拿同一个瓶子时,抓取方向、位置和动作分布越丰富越有价值;数据配方从单一标准答案转向多路径、局部失败和可解释修正。
8. “数据即模型”描述了现状,却不能替代架构问题
- 张小珺转述的观点是:模型分布里没有某类任务,任务便难成功;只有数据被模型“压缩过”,能力才会出现,因此“数据即模型,模型即应用”。
- 谢晨承认这准确描述了当前泛化不足:具身模型若没见过做披萨,哪怕见过切菜、做汉堡,也未必能 zero-shot 完成披萨;现阶段需要什么任务成功率,就常要补什么任务数据。
- 他的反对落在长期:一个架构上不具备零样本迁移能力的模型,不是真正通向通用智能的模型。数据量可能要达到足够规模后,才能看到泛化能力出现,但算法架构仍决定能力能否涌现。
- 他用人的学习作类比:普通人与马斯克接收的信息可能相似,后者更擅长从第一性原理、广博知识和实践中迅速迁移;模型本身的泛化能力仍需要提升。
9. 最近六个月,大模型团队开始把 zero-shot 当作首要目标
- 谢晨观察到,约六个月前,大模型客户和机器人客户对数据量及定义还较接近;最近六个月出现“质的变化”,前者开始集中验证零样本泛化。
- 这些团队相信足够有效的算法、足量高质量的本体无关仿真与人类数据,再配合大规模仿真评测,能够让标准机械臂迁移到没见过的任务。
- 他们刻意选择机械臂和夹爪,而非轮式、足式或人形,并非想做硬件,而是为了减少维护、调试和本体差异,把实验变量集中在大脑能力上。
- 目标也不是马上拧好某颗螺丝,而是在训练过10种或100种任务后,能否完成另外5种未见任务;“泛化”本身就是产品。
10. 机器人公司正在沿相反方向深入本体与具体场景
- 与大模型团队不同,机器人客户越来越关注轮式、足式、手部传感器等本体复杂度,以及酒店、汽车车间、商超、沙漠光伏板维护等明确业务。
- 他们要解决的是具体任务能否稳定执行、成本能否成立,而不是先证明抽象 zero-shot;这使两类客户从相似的数据采购者,分化为“冲 scaling law”和“做场景交付”。
- 大模型团队更偏好易获得的家庭、商超和部分工厂数据,以扩大通用认知;机器人公司则围绕自己的首个落地路径定制数据。
- 谢晨的措辞保留了阶段性:他认为具身 zero-shot 已“逐步开始出来”,因而乐观,但并未宣称泛化问题已经解决。
11. LLM、世界模型与 VLA 构成同一公司的三层协作栈
- 多数公司把大语言模型、世界模型和 VLA 分成不同团队,但谢晨认为它们“极其共生”:VLA 可复用自家基座,世界模型补足物理预测,VLA 又把行动结果反馈给世界模型。
- 没有强基座的机器人团队只能接入千问等开源模型;拥有全球前列大模型能力的公司,则能同时共享数据理解、纠错经验和训练基础设施。
- 资源差距尤其体现在卡与 RL infrastructure:机器人公司有几千张卡已很多,大模型团队可能有几万张卡,至少相差一个数量级。
- 大规模并行强化学习基础设施很难为单个具身项目从头自研;大模型公司可把已有系统迁移到 VLA fine-tune,这构成其进入机器人大脑的现实壁垒。
12. 世界模型偏预测,VLA偏行动,两者的评价标准正在趋同
- 谢晨将世界模型视作可能的云端大脑:它理解并预测物理世界;VLA 更像端侧大脑,要求精确、有效、高效地行动;大语言模型则已在数字世界具备部分世界模型能力。
- 同一底座上增加 action head,世界模型便可能进入 VLA 任务;反过来,VLA 的落地反馈又能验证世界模型是否真正理解物理。
- 他举 BEHAVIOR 为连接点:这套由李飞飞团队推动的仿真 benchmark 包含困难长程任务,参加榜单的不只有 VLA,也有从世界模型加 action head 出发的团队。
- 另一家公司 Inact 又基于类似标准评价世界模型。谢晨的推断是:“如果评价系统越来越一致”,两者长期可能合二为一,但短期仍相互依赖。
13. 具身版图将由大脑、本体、数据和场景四方共同构成
- 特斯拉 data engine 的前提,是特斯拉当时可能已经有上百万辆车持续回传司机数据,云端大脑提升后再部署到端侧,从而由本体公司同时掌握最多数据和最好模型。
- 机器人没有百万级设备全天运行,也没有可低成本规模化的人工遥操作,因此大部分数据不会由本体产生;谢晨据此判断,具身领域的特斯拉闭环“底层就不太会成立”。
- 大模型商将利用本体无关数据冲泛化,再把大脑交给本体商微调和部署;数据商负责评测、反馈和经验供给,场景公司则掌握工厂、医疗、农业等真实需求。
- 场景方可以在 A、B 硬件之间选择,甚至像 OEM 一样自研机器人,因此拥有较大的选择权;它对量产、质量、稳定性和成本的理解,使其不只是末端客户,而是生态中的第四方。
14. “系统级能力”比知识或数据本身更接近模型的本质
- 张小珺追问,若不能说“数据即模型”,那什么才是模型?谢晨的回答不是“知识即模型”,而是持续提升的系统能力。
- 小孩读画本,成熟专家接受更针对性的高阶信号;每次学习能力升级,都会生成新的数据需求。因此更强模型不会简单减少数据,而会改变数据的层级和形态。
- 他接受“私教”类比,但强调私教必须以系统为中心,而不是无限堆人,只有这样才能规模化地提供“言传身教”。
15. LLM约在60分,具身数据按同一尺度可能不到0.6分
- 大语言模型的互联网预训练数据已接近“到顶”,问题主要转向后训练和评测:找更高阶的人、出更难的题、提供更精细反馈。
- 谢晨勉强用百分制估算,LLM 数据现状可能约60分,但后训练与评价仍有很长空间;他同时提醒,人的学习无止境,“一百分”本身很难定义。
- 对具身,他把一百万台机器人产生的数据仅视为60分起点;真实、仿真和人类数据合计连一万台等价量都可能没有,因此“0.6分都不到”。
- 差距不只是量:具身数据收集需要同时处理物理场景、可交互资产、行动经验、语言定义和评价信号,相关难度可能比大语言模型高几个数量级。
16. 自动驾驶和 LLM 都有近乎免费的影子模式,机器人没有
- 自动驾驶可把新算法部署在车端 shadow mode 中,不真正控制车辆,只把模型输出与司机操作比较;差异既是廉价评价信号,也是人类示范。
- 大语言模型上线后与用户的交互本身就是一种免费反馈。用户使用模型时,也在以不同方式示范和反馈,帮助模型提升。
- 机器人尚未大规模部署,真实世界又无法安全、低成本地让未成熟策略并行试错,因此缺少同类评价闭环。
- 谢晨认为唯一可规模化替代是仿真:让大脑在平行物理世界里接受重复测试、获得成败信号,再把反馈送回训练。
17. 数字 Agent 与物理机器人面对的是同一种学习结构
- 张小珺指出,LLM 从 chatbot 进入 agent 后也没见过真实人类工作,数据问题开始接近 robotics;谢晨概括:“机器人就是物理世界的 agent。”
- 两者都需要环境、经验传授和评价。数字 Agent 使用 RL env——虚拟滴滴、京东、购物或编程环境——根据成功条件反复试错并 fine-tune。
- 物理 Agent 最终也会在仿真环境中,围绕定义好的任务、场景和成功指标做强化学习;区别只是一个环境模拟网页与软件,一个模拟物理交互。
- 但谢晨把优先级排得很清楚:具身当前仍先缺预训练基座与规模化评价,RL 后训练虽已开始,暂时是“次优问题”。
18. BEHAVIOR 的26%成功率揭示了评测仍有真实坡度
- 其他学术级具身 benchmark 已被谢晨服务的顶尖大模型客户基本“打爆”,难以继续区分模型;BEHAVIOR 可能有100道长程任务,谢晨给出的当前最高成功率约26%。
- 这套标准重要,不只因为分数低,也因为它提供困难、可复现、难以真机大量采集的任务,使模型能力可以被持续比较。
- 学术级 BEHAVIOR 仍不等于产业评测。大模型团队需要千级场景、千到万级任务以及持续更新的成功条件,才能评价家庭等开放场景中的泛化。
19. 数据产业随学习范式经历了教材、工厂与反馈引擎三次迁移
- 李飞飞与 ImageNet 定义了训练集兼评测集的静态数据形态;Scale AI 随自动驾驶兴起,把标注变为能管控质量、效率和时间线的工业产线。
- 谢晨把 Scale 的 data factory 定位理解为类似晶圆厂:真正的 secret sauce 是流程、规范、know-how 和 process,而非简单人海。
- 他把下一阶段定义为评测驱动:数据商先帮助模型发现问题,再刺激新需求、交付针对性经验,并用模型反馈迭代生产链。
- 谢晨提到 Scale 约在2021—2022年进入他所称的“GPT-2、RLHF”数据阶段;重点是客户关系从甲乙方转向 partnership。
20. 专家数量没有因模型变强而减少,需求反而可能继续上升
- 尽管单个数据贡献者的时薪大幅提高,行业参与人数并未下降。谢晨原先也设想学习效率提升后会少用专家,但现实暂未支持。
- 他类比 test-time scaling:DeepSeek 出现时,有人推断预训练和英伟达卡需求会下降,结果更多 Agent 与应用反而刺激算力消费。
- 同样,“越有能力的人越爱学习”,模型能力越强,可能要求更多、更高阶的知识,而非更少数据;如果 AI 最后达到诺贝尔奖水平,可能几乎无人能继续直接教它。
- 届时学习形态才会从外部教师转为自我比较:系统需要环境、不断更新的成功标准与 RL,让“今天比昨天进步”。
21. 对机器人而言,仿真不是加速器,而是必备条件
- 谢晨给出明确结论:“没有仿真这件事肯定做不成。”机器人无法靠真实本体采回足够规模的数据,而大规模评测又找不到仿真之外的可行来源。
- 十台、二十台机器人可以做实验室测试,却不可能在一千个家庭、成千上万个任务里每天重复多轮,精确比较每一版算法。
- 人类第一视角可以补训练示范,却不能替代可控、可复现的规模化评测;因此仿真在训练端是金字塔中层,在评价端则几乎是唯一规模化基础设施。
22. 原本坚持真机的 Frontier Lab 已因评测瓶颈转向仿真
- 光轮早期客户多是坚定的 simulation believer;另一些最顶尖团队明确表示,知道光轮仿真能力强,但“现在还没有到这个时间点”。
- 谢晨称,过去约三个月,这些团队陆续主动找来,主要原因是无法规模化评测。
- 家庭机器人团队可能已经会叠衣服、做家务,下一步需要的是一千种家庭、持续变化的任务和评价标准,这无法靠真机获得。
- 机器人公司早已在 locomotion、full-body control 上使用小规模 RL 仿真,但那常在一台本地机器上完成;新需求是数据与评测的工业级规模化。
23. 中国的“真机派”既有技术判断,也受商业模式约束
- 张小珺观察,中国机器人团队似乎真机派多于仿真派,常声称真机数据更易泛化。谢晨的第一解释是:“屁股决定脑袋。”
- 很多公司的商业模式仍是卖本体或“素材中心”:客户买机器人来采数据。若公司公开主张仿真足够有效,便难以说服客户继续购买大量采集本体。
- 他不否认真机数据必要,甚至认为当前规模再增十倍也可能合理;争议在于它最终占数据金字塔多大比例,而非要不要真机。
- 真机素材中心自身也常在做“现实世界的仿真”:固定桌面、IKEA 式场景、假香蕉和假苹果。问题是场景变换慢,很难覆盖广阔且多样的真实世界。
24. Sim-to-Real 是域差异,不等于泛化能力本身
- 张小珺引用谭杰的区分:仿真数据带来的是 Sim-to-Real 问题,泛化则应通过极大量仿真数据解决。谢晨明确同意。
- 在预训练中同时混合大量仿真与真实数据,模型通用能力提高后,仿真—真实 gap 可能逐渐缩小;不能把当前 gap 直接证明成仿真缺乏泛化。
- 谢晨认为,很多机器人公司其实并没有真正训练预训练级大模型;如果目标只是特定本体和任务,需要的数据自然较少,也不构成对本体无关 scaling law 的反证。
25. 可复现、可干预和物理准确共同构成仿真的边界
- 谢晨给仿真下了较严格的定义:在足够物理准确的环境中,可复现、可修正地执行行动,并观测其结果。
- “物理准确”不只是几何和视觉相似,还包括摩擦力等参数;“可复现”不是绝对100次一致,但应达到95或99次同样条件下结果相同。
- 更重要的是可干预:保持环境和初始状态不变,只改变行动,系统应可靠地产生不同结果。只有这样,数据才可用于对行动结果进行可靠比较和大规模评测。
- 普通视频生成模型多是下一帧预测,往往难以复现,也缺少足够准确的 action control,因此目前不能笼统称为仿真。
26. 世界模型不会消灭仿真,两者更可能相互增强
- 世界模型的生成能力更强,可覆盖广泛而相对真实的世界预测,也可能逐步接入机器人行动;因此谢晨认为它未来有机会成为“一类仿真”。
- 但世界模型要提升物理 grounding,仍需要仿真提供准确物理、真实交互和贴近人的行动;否则生成结果未必满足可控与可评价要求。
- 反向看,世界模型可帮助仿真扩充场景、改善生成效果和泛化。光轮与世界模型客户形成的关系是:“他们在用我们的数据,我们在用他们的模型。”
- 张小珺试图把仿真归为世界模型的一种手段,谢晨没有接受:两者都不是对方的子集,共同目标才是为智能提供更好的学习能力。
27. 机器人不会简单复刻 Waymo 与特斯拉之争
- 自动驾驶的任务相对单一:车辆与地面的物理关系较简单,面对杯子只需避开;机器人却要判断材质、尺寸和抓握力度,再选择不同动作。
- 自动驾驶可能靠大量本体相关数据和模仿学习,把较低上限的智能压进 VA;去掉 language 后,谢晨认为智能水平会“大幅降低”,但开车本身或许仍能成立。
- 另一条路线是更通用的 VLA 同时学会开车和其他任务。谢晨没有断言哪条会胜出,反而保留“两条路线都能通”的可能。
- 具身所需数据主要来自本体无关层,因而不能直接套用特斯拉或 Waymo 的组织形态;即便 Optimus 走一体化,本体与大脑也可能分别落在 Tesla 和 xAI。
28. 垂直机器人可以成功,但更像 Waymo 而不是通用大脑
- 张小珺提出,机器人或许能像自动驾驶一样,在单一垂类收集大量真机数据、先把场景训好;谢晨承认这条路径存在,并把它类比 Waymo、Cruise。
- 他亲历 Cruise 先在旧金山落地:仅第一个城市就极难,迁到第二个城市仍要重新采数据、训练并大规模评测;这不是强泛化路线。
- 垂直机器人也可能把一两个场景做厚,形成商业模式和壁垒,矿山自动驾驶就是他认可的范例;但平移到另一场景可能“伤筋动骨”,模型架构和数据都要变化。
- 因而他认为市场低估了垂直落地难度,也低估了落地后跨域迁移的难度;通用大模型的泛化能力可能反而更早出现。
29. 数据金字塔把真机放在顶层,而不是最大底座
- 这套由李飞飞学生朱义可教授提出的概念分三层:顶部是真实机器人遥操作数据,中层是仿真数据,底部是互联网和人类视频。
- 真机数据最准确、最好用,却难以扩充机器人数量和场景;仿真能规模化,但需处理 Sim-to-Real;人类第一视角规模最大、与本体无关,却需要重建行动和物理。
- 谢晨引用的证据包括 BEHAVIOR Challenge、使用大量仿真数据的英伟达 GR00T,以及 Generalist 使用约27万小时、由人操作五指夹爪采集的数据。
- 他认为这些结果已显示具身数据 scaling law 的端倪;过去几个月,光轮也从“刺激客户需求”转为需要规模化团队真正交付客户需求。
30. 金字塔每一层内部仍要在质量与规模之间再分层
- 仿真层顶部可由人遥操作,优点是示范质量高且不依赖真实机器人,缺点是规模仍受人力约束。
- 再往下是模型或算法驱动的自动采集,人的介入较少,规模显著提高,但质量通常低于直接人类示范。
- 人类数据也分主动与被动:随手佩戴眼镜的大规模被动数据量大但质控弱;更专业的硬件和流程能提高质量,却牺牲规模。
- 数据金字塔因此不是“哪类数据绝对最好”的排行,而是在真实性、行动质量、覆盖度、成本与可扩展性之间配置组合。
31. 真正的数据闭环可能以仿真和评测为中心旋转
- 谢晨修正了静态金字塔的印象:三层并非彼此独立,更像一个以仿真为中心、评测驱动的闭环。
- 要建立可信仿真评测,必须从真实世界取得场景、物理、人的轨迹、任务和评价标准;仅靠仿真团队闭门造车无法定义什么才算现实中的成功。
- real-to-sim 把视频中的场景、物体、任务和标准重建进平行世界;仿真结果再回到真机,与真实遥操作和真实评测对标。
- Sim-to-Real 因而同时服务训练与评测:不仅要让策略能落地,还要证明仿真分数和真实表现具有相关性。
32. 人类第一视角数据把“人”当成规模最大的机器人群
- 大模型追求跨本体能力时,人本身也可被视作一种机器人;把人的第一视角行动加入训练,相当于“把人当车了”。
- 摄像头越接近眼睛越好。胸前设备或头顶相机都会偏离人的真实视觉—行动关系,因而智能眼镜是更自然的采集终端。
- 谢晨认为,人类数据公司不应自造小众硬件,因为难以做到消费级;消费级意味着可能达到百万甚至更大的出货量,真正的爆点是基于消费者本来就愿意佩戴的设备,通过 SDK、API 或 App 设计采集流程。
- Meta Ray-Ban 是他认可的产品思路:先是一副外观足够好的日常眼镜,再叠加摄像头和 AI 助手。理想状态不是“为了数据戴眼镜”,而是喜欢眼镜后顺便贡献数据。
33. 真机数据被高估,仿真评测和人类数据仍被低估
- 谢晨首先判断,真实机器人数据“肯定被高估了”;行业变化已部分验证这一点,原本的真机派开始采购仿真数据、仿真评测和人类数据。
- 仿真训练的价值正在被看到,但规模化评测的价值仍未普及。大模型团队已经感到痛点,很多机器人公司则要等任务、场景和版本数量扩大后才会遇到。
- 人类数据同样被低估,不过它单独看壁垒不高;在谢晨的体系里,其价值是为以仿真为中心的闭环补充真实世界、人的经验和评价标准。
34. 具身数据定价取决于学习价值,而不是生产成本本身
- 谢晨认为数据总体“越来越贵”,因为从静态标签到高阶反馈,给算法带来的边际价值完全不同。
- 预训练数据更接近标品,应由全球若干模型公司分摊成本,因为它提升的是通用基础能力;后训练与评测高度针对单个模型,价值和价格更高。
- 他给出的市场区间很宽:结构化具身数据每小时可从几十元到数千元人民币,高质量部分大致在数百元到上千元。
- 一条数据至少包含物理场景、行动与语言经验、成功失败等评价三要素。长程任务还要标出局部步骤的成败,不能只给终局标签。
35. 高质量数据要同时满足物理、轨迹与评价三种真实性
- 场景要足够多样,物体交互需符合真实物理;只看起来逼真而摩擦、柔性或接触错误,无法支撑可靠训练。
- 轨迹要专业且自然,包括流畅操作、合理失误与随后修正。披萨制作中掉菜再捡起的片段,可能比完美视频更贵。
- 评价与语义标注必须准确,尤其长程任务要拆出细粒度状态;人类视频还要求手部和全身 tracking 足够真实。
- 电影和普通视频不是无用,而是 ROI 较低:二维画面需要额外标注,消耗大量算力后,对智能的提升可能有限。
36. 游戏数据更适合世界模型,但不必然是最高价值链
- 游戏可提供三维环境与大量可执行轨迹,世界模型团队甚至会购买版权,让 Agent 自动打游戏并回收数据。
- 问题是 cross-domain:游戏世界的物理规则、资产和任务可能偏离现实,因此有用不等于效用最高。
- 谢晨把当前预训练 ROI 较高的组合放在算法驱动、有人在环的仿真数据,以及高质量人类第一视角数据;数据金字塔很大,供应商不必覆盖每一种原料。
37. 光轮更愿意把自己称作 data engine,而不是 data factory
- data factory 在谢晨看来仍是流水线隐喻:标准化生产、反馈弱、技术与系统升级有限;data engine 则由评测发现问题,再反馈驱动下一轮数据。
- 光轮约有一百名全职成员,主体为工程技术人员。其内核不是单一标注团队,而是物理仿真、自动化测量、算法采集、语义标注和真实评测组成的全栈系统。
- 刚体资产较容易,线缆等非刚体插拔则需要自研物理解算器和资产联调;团队还用机械臂自动测量真实物体的力学信息,再写回仿真资产。
- 谢晨不接受“AI完全为自己生成数据”的永动机逻辑:系统仍须取得准确世界、真实任务和人的经验,技术的作用是放大这些外部信号。
38. 从人类遥操作到自动采集,系统可能把经验放大约两个数量级
- 光轮一条管线让人遥操作仿真机器人,既可使用不同本体,也可用标准化的自定义形体采集高质量示范。
- 在此之上,自动化算法大规模采集轨迹,仅在少数环节让人介入;随后由大模型完成语义标注,再以人在环质检守住质量。
- 另一条评测管线从人类视频和真实任务出发,重建物理、提取任务与成功标准,再放入规模化仿真世界。
- 若完全以人为中心,谢晨估计最终可能需要千万到上亿参与者;系统与仿真的放大效应可让所需人力可能少100倍左右。
39. 评测工程的难点是既要足够难,又要能规模化复制
- 固定场景里叠衣服的 Demo 无法检验泛化;真正评测可能需要千级平行场景、千至万级任务及明确成功条件。
- 场景与物理可通过仿真和 real-to-sim 扩充,更难的是从真实世界提取任务及评价标准;若评价与现实脱节,规模越大也越没有意义。
- 光轮同时维护真实机器人和真实评价基建,不是为了替客户做少量真机测试,而是验证同一算法在真实与仿真中的表现是否相关。
- 只有建立这种相关性,仿真评测才不是“自己出题、自己得高分”,而能成为客户每天比较模型版本的可信仪表盘。
40. 数据商与模型商必须共同寻找 Recipe,而不是相互甩锅
- 谭杰指出的扯皮真实存在:数据商说模型没训好,模型商说数据不行。谢晨把当前阶段类比 Scale AI 与 OpenAI 早期共同摸索数据配方。
- 大方向已逐渐明确——仿真、人类数据、评测——但细节仍在变:从完美轨迹转向纠错数据,从单一抓法转向分布更广的动作。
- 世界上真正能验证预训练级具身数据配方的团队可能只有约五个;光轮与其中多个合作,并和约两个团队持续验证数据金字塔。
- 这种实验需要几万张卡,才能比较各层配比、预训练与 RL 后训练的衔接,以及仿真、真实数据和评测如何组成整体 Recipe。
41. 数据公司的 secret sauce 越来越像教育学
- 谢晨最反直觉的认知是,数据不再有唯一标准答案;能让模型看见错误、理解修正并从多种解法中形成自己的结论,才更接近有效学习。
- 一个老师逐题示范未必最好,把每个同学都当老师、观察同题不同做法,可能更能形成泛化。数据的分布和因果结构比单条“完美答案”重要。
- 他因此说:“终局的数据公司可能跟教育公司长得很像。”当前具身仍需不少模仿和示范,未来则要更多挑战、物理交互和针对性评价。
42. 大厂 VLA 与世界模型团队正在向本体无关路线收敛
- 谢晨把一类玩家称为“大模型派”:大厂的 VLA 和世界模型团队最看重 zero-shot,不太在意先把本体做复杂,而用标准化机械臂验证上层能力。
- 这类团队相信仿真、人类数据和仿真评测,也更早尝试大规模 RL;逻辑直接继承自大语言模型的 scaling law。
- 张小珺质疑,大厂是否仍会把资源优先给 LLM。谢晨承认这在约三到六个月前、甚至今年以前较真实,但随着语言模型趋势相对明确,团队开始腾出资源进入机器人。
- 他随后又把时间窗口修正为“过去接近一年”,并强调转折来自行业逐步确认:若核心数据本体无关,机器人大脑天然属于大模型公司的机会。
43. 五家大厂和 PI 正在加速角逐机器人大脑
- 被问到谁变得更激进,谢晨依次点名了字节、阿里、OpenAI、DeepMind 和英伟达,并称“绝对更激进”。
- 他还把 PI 归入同类:虽是创业公司,但定位更像 Frontier Lab,而非卖本体的机器人公司。
- 这些玩家的共同筹码是强基座、世界模型、VLA、强化学习基础设施和几万张卡;共同目标则是先证明通用大脑的泛化。
- xAI 也有机会,但谢晨认为其大语言模型之战尚未打赢,Tesla 又要先发挥 Optimus 的硬件优势,两边暂未完全汇合。
44. 本体公司的优势在量产边界,而不是硬做统一大脑
- 谢晨看好宇树的理由,是其定位清晰:坚定做好足够稳定、可量产的硬件,不与大脑公司争夺同一价值层。
- 当大厂大脑需要进入现实场景时,宇树可能成为高优先级合作本体;“知道自己的 boundary”本身就是竞争力。
- 他认为智元从 day one 就重视上下游打通,商业化和量产推进较好;具身当前仍可能是供给驱动市场,先做出量才能带动供应链与产业能力。
- Figure 希望成为具身领域的特斯拉,兼做硬件、量产、落地和大脑,但谢晨认为难度极高、场景仍模糊,“还很远”。
45. 终局更可能是生态协作,而不是一家机器人大脑垄断
- 若最多数据牢牢绑定某一本体,拥有最大部署量的公司可能形成特斯拉式霸权;但具身数据以本体无关层为主,这个闭环前提被削弱。
- 因而谢晨预计,最终会有最好的大脑公司、数据公司和机器人硬件公司强协作,再服务掌握真实需求的场景公司。
- 某些场景方可能同时成为优秀硬件商,但大模型公司仍难单独形成霸权。大脑竞争更像今天的大模型行业:曾以为 OpenAI 会一家通吃,后来并未如此。
- 对创业公司,他认为从头训练统一大脑“不太合理”;垂直任务、硬件、数据基础设施或场景落地,反而更符合资源约束。
46. 中国的大脑差距可能追回,但路线仍未完全收敛
- 美国目前偏机器人大脑,中国偏本体与量产;谢晨仍判断中国“很有可能追回来”,理由是千问等基座能力、人才密度、基础设施和大厂投入决心。
- 他列出的潜在领先者包括 OpenAI、DeepMind、英伟达,以及国内字节和阿里千问;OpenAI 原有 robotics 团队也“不应小觑”。
- 路线尚未收敛:本体无关数据已出现 scaling law 端倪,但大脑架构、世界模型如何进入 VLA、泛化怎样进一步提升,仍是研究问题。
- 他区分几个常被混用的概念:Physical AI 指能在物理世界行动的自动驾驶与具身模型;空间智能偏三维重建、生成和预测;世界模型偏物理理解与预测,但未必具备行动。
47. 当前最值得解决的单一问题是规模化评测
- 若只能解决一个具身数据问题,谢晨选择评测,而不是继续扩大普通素材采集:本体无关预训练的通路与 scaling law 已出现,衡量智能进步的仪表盘却仍是卡口。
- 解决方案必须是物理可信、足够困难、可重复、可扩充的仿真评测,并持续从现实任务和标准更新,而非一次性 benchmark。
- 对大语言模型,他同样把瓶颈放在评测和后训练:模型越强,就越需要能力更高的人、难度更高的题和更有效的评价指标。
48. 数据不会消失,它会从产品变成模型自我修炼的环境
- 谢晨过去曾认为15或20年后数据可能不再重要,现在改变了看法:智能越强,对知识和反馈的饥渴程度可能越高。
- 变化在于学习对象——从向别人学习,转为与昨天的自己比较;从读取标准教材,转为在真实或虚拟环境中实践、受挫并获得反馈。
- data factory 这种量贩式、标准化知识生产或许会较快过时,但 RL env、仿真世界、成功条件和评价系统仍是第一性需求。
- 他想象的终局是:“可能跟马斯克说的,咱们人就在一个仿真里头。”AI 在设定好的环境与指标中反复训练内功,数据供应商则转型为环境和反馈系统。
49. 爱因斯坦的思考实验解释了仿真为何可能长期存在
- 张小珺问,足够强的 AI 还需不需要教育系统。谢晨的答案从“老师”退到“环境”:无论数字还是物理智能,自我提升仍需要背景、约束和成功定义。
- 爱因斯坦并非只靠外部教材,而是在已有物理认知和定理上构建思考实验;谢晨把这种在大脑中设置前提、反复推演和试错的过程视为一种仿真。
- 高级智能所需的不是无限标准答案,而是足够多的环境、物理知识和限制条件,使其能自行生成实验并检验结论。
- 回到个人选择,谢晨确认仿真就是自己长期寻找的方向:它是具身学习的基石和前提,但不是唯一答案;终局仍是“以仿真为中心、并非仿真唯一”的数据金字塔。