Google DeepMind 领衔研究员谈 Genie 3 与构建世界的未来
摘要
- Genie 3 的意义不止于生成更好的视频:它是一类全新的模型,能根据几句话实时生成可交互的世界。 1分钟的空间记忆、逐帧一致性和即时控制,把被动观看的视频变成可探索的环境——“实时性确实有某种魔力”(there is something magical about the real-time aspect)。目前仍是研究预览版,团队希望扩大访问范围,但没有给出具体时间表。
- 这次跃迁来自 Genie 2、Veo 2 和 GameNGen 此前各自分散的能力实现合流。 团队选择了最激进的交集:在同一个模型里同时实现更高分辨率、实时生成和“1分钟以上的记忆”,尽管这些目标彼此冲突。最终成果在约7个月后问世,市场反响也超出了创作者预期。
- 空间持久性是明确设计的目标,但最终质量仍让研发团队感到意外。 Genie 3 不依赖显式 NeRF、Gaussian splatting 或其他固定的3D表示,而是逐帧生成;团队认为,这一选择是模型能够跨环境泛化的关键。目前的设计可保留1分钟记忆,但 Shlomi 表示这“没有根本性的限制”。
- 规模和更广泛的训练数据正在带来越来越可信的物理行为,但研究人员仍不愿将其称为类似 LLM 的推理。 在示例中,角色进入水里通常会游泳,滑雪下坡会加速、上坡会减速或停下,走近一扇门时门可能会打开;一些风暴、光照和水面的效果,甚至会让非专业人士误以为是真实场景。模型更难处理的是低概率指令,同时维持世界的一致性——比如在雨天穿人字拖。
- Genie 3 与 Veo 3 仍然分开,因为交互性和电影级生成对应着不同的技术优先级。 Genie 支持导航和行动,但通常没有音频;Veo 3 追求更高的视觉质量门槛,而智能体训练更看重快速的第一人称交互,而非电影级输出。Shlomi 将模态、生成速度和可控性视为彼此正交的维度,而不是注定汇聚到单一模型的路径。
- 一条有希望的路径,是为智能体和机器人提供合成经验。 Anjney 提到一种可能的组合方案,参与其中的智能体名称似乎是 SIMA;Jack 则表示 Genie 3 是环境而非智能体,其他智能体可以通过模拟经验在其中学习。这有望把真实世界数据的逼真度与模拟环境的规模和安全性结合起来,兼得“双方最优”。但模拟仍无法解决执行、运动决策或更广泛的物理响应闭环。
- 团队一方面称 Genie 3 比此前预期领先数年,另一方面也强调它距离准确的世界模拟器仍相当遥远。 Jack 表示,能生成带记忆、持续1分钟的照片级真实世界,在2-3年前看起来还是5年目标;Shlomi 则提醒,真正把人或智能体放进一个忠实还原的世界,还需要大量工作。由于“我们处在一个加速的时间线上”,团队对日历时间的预测仍刻意保持谨慎。
精读
1. Genie 3 将多条研究路线合并为实时交互环境模型
Jack Parker-Holder 表示,团队此前并不确定外界反响会有多大,但一直认为实时环境生成“早就该来了”。Shlomi Fruchter 回忆,系统快到可以让人立即走动时,真正的转折点出现了:“天啊,我真的可以在里面走动。”为了在发布时传达这种体验,团队邀请熟悉的测试者参与,并加入叠加层,展示世界发生了什么,以及如何用键盘控制它。
Jack 将这次跃迁追溯到3项并行工作:Genie 2 的交互式3D环境、Veo 2 的高质量视频生成,以及被称为 Doom 论文的 GameNGen。内部讨论显示,这些能力彼此互补,于是研究人员尝试了“这个联合项目最激进的版本”。
Genie 2 能生成全新的世界,但合成感仍然明显;Genie 3 则加入了更强的渲染和物理行为、直接文本控制以及逐帧一致性。Jack 表示,如今一些风暴、水面和光照效果,已经达到“非专业人士”可能觉得真实的程度。
2. 空间记忆是目标设计,而非偶然出现
Erik Torenberg 举出的关键例子是:一个角色在墙上刷漆,走开后再回来,原先的油漆仍然完好。Jack 不得不反复播放、冻结画面并进行对比,因为“我当时其实不确定是不是模型生成的”。
这一能力在设计上“完全是有意为之,但实际效果仍然极其令人意外”。Genie 2 只有几秒钟且并不完美的记忆;对 Genie 3 来说,团队将1分钟以上的记忆、实时运行和更高分辨率设为核心目标——这些彼此冲突的要求,最终在约7个月内实现了合流。
团队有意避开基于 NeRF、Gaussian splatting 的显式3D表示,也没有假设世界会保持静止。Jack 表示,Genie 3 改为逐帧生成;团队认为,这对模型跨环境泛化很重要,而不是只在同一个重建场景内保持一致。
当前设计支持1分钟的这类记忆。Shlomi 表示“没有根本性的限制”,而 Jack 将这一上限描述为实时性权衡,对当前版本已经足够。
3. 规模提升了世界理解和物理行为,但不是 LLM 式推理
Shlomi 不愿把世界模型的规模化与 LLM 智能直接画等号:“我不确定‘推理’是不是合适的说法。”真正显现出来的是更好的世界理解——走近一扇门可能会让它打开,而物体、光照和运动越来越符合预期。
更广泛的训练数据带来了基于地形的行为,而不是依赖专门编写的规则。在滑雪示例中,下坡速度很快,而转向上坡时速度会变慢甚至无法前进;角色进入水中通常会游泳并溅起水花。Jack 还以水坑旁的 Wellington boots 为例,说明模型需要捕捉的正是这类符合世界规律的行为。
关键矛盾在于一致性与指令遵循之间的平衡。一个符合常识的世界会让人在下雨时穿着合适的衣物,但提示词可能要求角色穿人字拖;模型必须进入这种“低概率”空间,同时不破坏整体一致性,因为用户往往希望生成的世界比自己的房间更不寻常。
讨论还提到了一个狗的例子:仅凭文字描述,而不是照片,模型就生成了与真实狗狗几乎一模一样的形象。Jack 表示,借助 Veo 团队的经验“让进展获得了涡轮加速”;如果 Genie 团队“孤立工作”,这一过程会花更长时间。
4. Genie 与 Veo 仍然分开,因为优化目标并不相同
Shlomi 将模型设计拆分为彼此正交的几个维度:模态、生成速度和控制程度。即使是音频,也可进一步分为语音和音乐,因此拥有共同血统并不意味着所有能力都应放进同一个模型;“工程是我们研究的重要组成部分”。
Genie 3 支持导航和行动,但通常没有音频;Veo 3 则达到更高的质量门槛,服务于不同的优先级。立即把两者合并在技术上很困难,也未必是两个项目下一步的最佳方向。
智能体训练需要高频行动、第一人称视角和能够完成任务的世界,不一定需要电影级输出;电影制作关注的是另一套质量标准。一位参与者反驳说,Justine Moore 用 Genie 3 也能拍出惊人的电影,促使她简短地提出要求:“给我访问权限。”
5. 能力研究先于杀手级应用
Jack 在2022年启动 Genie,出发点是强化学习的瓶颈:2016年,算法已经在围棋上展现出超越人类的能力;3年后又在 StarCraft 上取得类似突破,但研究人员仍然需要用代码自行设计下一个环境。文生图的进展让团队看到一种更长期的答案——让模型能够生成近乎无限的环境。
Shlomi 列出的方向包括娱乐、智能体训练、帮助智能体理解世界,以及教育,但没有对它们排序。“我们确实想到了一些应用,但这不是推动研究的东西”;目标是继续提升质量、速度和可控性,再让应用自然跟上。
两人都预计,用户会发现团队此前没有预料到的用途,Genie 3 已经出现了这种情况。Jack 仍然把具身智能体放在优先位置,但也承认:“说实话,我真的无法告诉你1年后最大的应用会是什么。”
扩大访问范围正是这一发现过程的一部分,但 Genie 3 目前仍是研究预览版,而不是已经发布的产品。团队“绝对”希望让更多人使用它,但没有给出具体时间表。
6. 合成经验可能填补机器人数据缺口
Anjney 提到一种可能的组合方案:让一个他记得叫 SIMA 的智能体与 Genie 交互。Jack 表示,Genie 3 的定位是环境,而不是能够思考和行动的智能体,因此它可以成为通用模拟器,让其他智能体在其中通过经验学习。
Jack 提到的先例是 AlphaGo:自我对弈和强化学习让它能够测试行动、吸收反馈,并发现第37手这样的棋步。物理智能体也需要同样的经验闭环,但现实世界的数据采集成本高,需要不断重置,而且可能存在安全风险。
现有机器人技术面临一个令人不适的选择:费力收集的数据与下游任务相似,而 MuJoCo 等模拟器允许在仿真中学习,却始终与现实存在距离。Jack 表示,即便所谓“真实”数据,通常也只是受约束、灯光明亮的实验室环境,而不是遛狗、过马路,还要对受惊的行人或手里拿着球的人作出恰当反应。
Genie 的承诺是“兼得双方最优”:构建一个由真实世界数据驱动的模型,让智能体把它当作模拟环境进行探索。Marco Mascorro 指出,机器人技术不只是视觉问题;执行、运动选择以及对环境的响应,仍是未来研究需要填补的空白。
7. 今天的突破距离忠实的世界模拟器仍很远
Jack 给出的“非常笼统”的判断刻意包含两面。带记忆、持续1分钟的照片级真实世界已经足够有吸引力,而且在2-3年前看起来还是5年目标;但普通现实仍然比隔着电脑屏幕观察生成世界丰富得多。
Shlomi 同样认为,模型距离让人进入其中并完成任意行动还很远,但他提醒,“远”不一定意味着日历时间上的遥远。他设想未来可以用模拟环境帮助那些害怕上台或参加播客、或者害怕蜘蛛的人;能否抵达这一目标,取决于是否能准确模拟一个世界,并把人放进其中。
Jack 表示,进展也可能来自叠加在规模化之上的新思路,就像语言模型曾经发生的那样,因此他预计未来还会出现更多重大跃迁,而不是简单触及平台期。