Demis Hassabis：为什么 AGI 的影响将超过工业革命，以及 AI 的瓶颈在哪里

摘要

• Hassabis 认为，AGI 在未来 5年内实现的概率“非常高”，并坚持这不是被近期进展带偏的判断：联合创始人 Shane Legg 在2010年的博客文章中，根据算力和算法进步外推出大约20年实现 AGI，“我认为我们基本按计划推进”。 他的标准也没有降低：系统必须具备人类心智的全部认知能力，因为大脑是“我们唯一能证明通用智能确实可能存在的样本”。
• Scaling laws 还没有触顶——进一步扩展的回报“仍然非常可观，只是比过去低了一些”，但他反对前沿能力商品化：三四家领先实验室之间的差距“开始拉开”，因为代码和数学工具会复利式推动下一代模型；随着现有思路“已经榨干了所有汁液”，优势将转向能够发明新算法的实验室。
• 他看好 DeepMind 成为这样的实验室：“支撑现代 AI 产业的大约90%突破”来自 Google Brain、Google Research 或 DeepMind；近期加速来自将人才和算力集中到最大模型上，而不是公司内部“搞两三个版本”，同时“几乎像一家创业公司那样行动”。 开源模型在结构上仍“可能落后绝对前沿一步”——大约需要6个月才能重新实现——Gemma 则面向小型开发者和边缘计算。
• AGI 之前缺失的能力并不神秘：持续学习是其中之一（大脑做得“非常优雅”，可能依靠睡眠和强化学习等机制，通过巩固与回放实现），此外还有超越“蛮力”长上下文的记忆能力、长周期规划，以及一致性——今天的模型是“锯齿状智能”，某种问法下表现惊人，换一种方式问一个基础问题却会失败。
• Hassabis 认为，Isomorphic Labs 可能在5到10年内拥有完整的药物设计引擎；真正的突破来自“十几种 AI 药物走完整个流程”，监管机构能够回测模型预测——届时临床试验可能跳过动物测试，并更快完成剂量递增。 Hassabis 认为，总部位于伦敦的 Isomorphic 有潜力成长为一家万亿美元公司。
• 在安全问题上，他认同 Hawking 的判断：“我们必须把它做对，因为我们可能没有第二次机会”，担心系统会“变得更具智能体属性、更自主……也许就在一两年内”，并希望建立类似原子能机构的国际组织、纳入欺骗行为在内的基准测试，以及认证“风筝标志”；但他也承认，或许世界上影响最深远的技术，正在“一个高度碎片化的国际体系”中到来。
• 宏观上，AGI 是“规模达到工业革命10倍、速度达到工业革命10倍”——用10年完成，而非一个世纪。 AI 今天“有些被过度炒作”，但从10年视角看又“远远没有得到应有重视”；或许养老基金应该买入大型 AI 公司，让每个人都拥有一部分资产，同时由主权财富基金参与；至于能源，他认为 AI 将“创造远超自身消耗的价值”——让国家电网效率提升30-40%，而核聚变也可能成为突破之一。

精读

1. AGI 五年内实现——时间表早在2010年就已确定

• AGI 的定义没有改变：系统必须具备“人类心智拥有的全部认知能力”——这是一个刻意设定的高标准，因为大脑是“我们唯一能证明……通用智能确实可能存在的样本”。对于时间表，他持有一整套概率分布，但判断“在未来5年内实现的概率非常高”。
• 证据来自 Shane Legg 在2010年发表的博客文章——当时“所有人都觉得 AI 基本行不通”——文章根据算力和算法进步外推，认为距离 AGI 大约还有20年。“这些文章还在网上，大家可以自行查证……我认为我们基本按计划推进。”
• 大多数领域的进展都超过他的预期——包括视频模型、Genie 的交互式世界模型：“如果你在5年前、10年前给我看这些，我会非常惊讶。”但关键能力仍然缺失，持续学习就是其中之一：模型训练结束后不会继续学习，而大脑却做得“非常优雅”，可能依靠睡眠和强化学习等机制，通过巩固和记忆回放实现；他“思考这个类比已经有一段时间”，认为 AI 可能也需要类似机制。把长上下文窗口当作记忆则“有点蛮力式”，长周期的层级化规划能力也很弱。
• 最大的差距可能在一致性：今天的系统是“锯齿状智能”——某种问法下表现惊人，稍微换一种问法，连“相当基础的问题”也会答错。Demis 同意 Harry 的例子：“当然，100%同意。这是灾难。通用智能不应该是这种锯齿状的。”

2. Scaling 仍有回报——前沿差距“开始拉开”

• 最大瓶颈是算力，而且不只是为了扩展模型：“云就是我们的工作台”——每一个新的算法思路，都必须在足够合理的规模上测试，否则无法在主系统中成立；研究人员越多、想法越多，实验算力账单就越大。
• 对于 Scaling 是否触顶，他给出的答案是经过限定的否定：早期几代模型几乎“性能翻倍”，这种速度必然放缓，但继续扩展带来的回报“仍然非常可观，只是比过去低了一些”。
• 他反对能力商品化：三四家领先实验室之间的差距正在拉开，因为今天的代码和数学工具会复利式推动下一代模型，而“仅靠同样的思路，想再挤出同样的增益越来越难”——随着现有思路“已经榨干了所有汁液”，“有能力发明新算法思路的实验室，将开始拥有更大的优势”。
• 针对 Yann LeCun 的观点，他认为“有50%的概率，确实还缺少一些东西”——比如世界模型——但强烈押注基础模型不会被替代：“它会建立在这些基础模型之上。”真正的问题只有一个：LLM 是关键组件，还是整个系统本身。

3. DeepMind 的回归：贡献90%的突破，以创业公司方式运转

• 他认为 DeepMind 拥有发明护城河：“支撑现代 AI 产业的大约90%的突破”——包括 AlphaGo、强化学习和 transformers——都来自 Google Brain、Google Research 或 DeepMind。Harry 注意到的近期加速，来自组织层面的整合：把人才和算力集中到最大模型上，而不是“公司内部搞两三个版本”，并且“几乎像一家创业公司那样行动”。“如果未来还有缺失的突破，我押注我们能做出来。”
• 开源模型将“可能落后绝对前沿一步”——社区大约需要6个月才能重新实现前沿思路——与此同时，Google 继续开放科学成果，包括 transformers 和 AlphaFold，并推动 Gemma 面向小型开发者、学术界和边缘计算，做到“在各自规模上同类最佳”。

4. Isomorphic：先解决药物设计，再说服监管机构

• 这件事对他有个人意义——他的母亲患有多发性硬化症——而 Harry 担心的是研发流程，而不是科学本身：即使发现了治愈方法，也要经过10年临床试验才能真正用到她身上。Hassabis 的回答是分阶段推进：AlphaFold 之后分拆出来的 Isomorphic Labs“发展非常好”，正在解决药物发现剩余环节，包括化学、化合物设计和毒性评估；他认为完整的药物设计引擎将在未来5到10年内准备就绪。
• 临床试验本身也可以借助 AI：模拟部分人体代谢过程，并对患者进行分层，让每个人获得与其基因组特征匹配的药物。但“真正的革命”要等到“十几种 AI 药物走完整个流程”，监管机构能够回测模型预测——届时“也许可以跳过一些步骤”，例如动物测试，并更快完成剂量递增，时间可能还要再往后推10年。
• 他的目标毫不掩饰：“我想真正治愈癌症。我知道人们会说这是陈词滥调。”但 Isomorphic 是一个通用平台，首先瞄准神经退行性疾病、心血管疾病、免疫学和癌症，最终“适用于每一个疾病领域”。

5. 安全需要一个原子能机构——基准测试必须包含欺骗行为

• 他认同 Hawking 的那句话：“我们必须把它做对，因为我们可能没有第二次机会。”他提出两种不同的担忧：一是坏人滥用双用途系统，二是随着模型“变得更具智能体属性、更自主……也许就在一两年内”，如何让它们始终“留在护栏之内”的技术问题。
• 如果可以挥动魔杖，他会建立一个“类似原子能机构”的国际组织，由各国 AI 安全研究机构提供支持——英国在 Sunak 任内设立的机构“正在做很好的工作”——负责运行针对不良特征的基准测试，包括欺骗行为，因为具备欺骗能力的系统“可能绕过其他安全措施”；同时建立企业可以安全依赖的认证“风筝标志”。一种拟议中的防护措施，是避免系统输出“人类无法读取的 token”。
• 他说出了一个令人不安的现实：“世界上可能最具影响力的技术，正在一个非常碎片化的国际体系中到来。”

6. “规模达到工业革命10倍，速度达到工业革命10倍”

• Harry 转述说，Mark Andreessen 因为他提出劳动力替代问题而称他为“马克思主义者”。Hassabis 试图在两者之间取得平衡：历史确实会用新的、薪酬更高的工作替代旧工作，“必须非常谨慎地说这次不同”；但他认为这次的规模确实不同：“规模达到工业革命10倍，速度达到工业革命10倍”，在10年内展开，而不是用一个世纪。工业革命前儿童死亡率高达40%；没人会希望工业革命从未发生，“但理想情况下，这一次我们应该更好地缓解其中一些负面影响”。
• 他同时坚持两种看法：AI“在今天以及未来一年里确实有些被过度炒作”，但从大约10年的时间尺度看，“这场革命将有多大，仍然远远没有得到应有重视”。除了经济问题，他还担心哲学问题：假设技术和经济层面都解决了，“意义是什么，目的是什么……成为人类意味着什么？”“我认为我们需要一些伟大的新哲学家。”
• 对于财富集中，他认为“养老基金或许应该买入大型 AI 公司”，每个国家也可以拥有主权财富基金，“这样每个人都能分到一部分”，同时对狭窄的生产率增益进行有意识的再分配；核聚变、超导体和电池领域也可能出现突破。
• 对 AI 制造的能源危机，他认为从中长期看，AI“创造的价值将远超自身消耗”——让国家电网效率提升30-40%，提供全球最先进的天气建模，并推动包括核聚变在内的突破性技术。DeepMind 正在与 Commonwealth Fusion 合作，而核聚变一旦实现，意味着从海水中获得“实际上无限的火箭燃料”。

7. 伦敦的结构性优势——以及欧洲的万亿美元缺口

• 他从未搬走的原因在于：英国拥有“全球排名前10的大学中的三四所”，争夺顶尖人才的竞争更小，也远离硅谷——不那么沉浸于“八卦、最新趋势和氛围”，但“非常有利于深度思考”，适合推进一项需要20年周期的深科技事业。
• 欧洲的万亿美元公司：“还没有。”Daniel（可能是 Daniel Ek）或许能通过 Spotify 或 Helsing 实现这一目标，“我会试着让总部位于这里的 Isomorphic 做到这一点”。解决办法是：解锁养老基金，将其投入成长期投资——他当年为 DeepMind 融资时，连100万英镑以下轮次都很难获得10亿美元级别的融资，而“今天仍然有些缺失”；此外，EU Inc 也可能推动创新。