No Priors 第120期｜与 Google DeepMind 的 Pushmeet Kohli 和 Matej Balog 对谈
摘要
AlphaEvolve 将算法发现转化为迭代式代码搜索：Gemini 模型生成候选方案，用户提供的评估器负责筛选，进化搜索则保留多样化种群，而不是过早押注单一路径。 它既可以从零开始，也可以改进已经高度优化的现有方案，产出代码已运行在 Google 的关键基础设施中。其核心机制是把“大语言模型的创造力”与“评估函数的严格性”结合起来，而不是写出更强的一次性编程提示词。
这条脉络从 AlphaGo 的“第37手”延伸到2022年的 AlphaTensor、FunSearch，最终走向对程序的通用搜索。 Pushmeet 的判断是，曾经探索巨大围棋空间的能力，如今可以进入“算法的超人区域”；矩阵乘法是关键验证，因为 Strassen 那个反直觉的改进已经存在了50多年。Matej 不接受自满：这些问题曾被“最顶尖的人”反复攻关，这反而强化了 AlphaEvolve 确实找到了困难且全新的东西这一证据。
AlphaEvolve 最核心的规模化主张，是能够持续改进，而不会像常见的自主编程代理那样很快触及平台期。 简单问题可能“几乎立即”解决，存在数十年的科学问题或对 Google 具有高价值的系统则值得更长时间搜索；所需迭代轮数无法预先判断，因为看似简单的问题可能极难，反之亦然。更多搜索时间和计算资源，可以支撑更长的搜索并带来更好的结果。
评估器既是瓶颈，也是解锁器：精准的目标函数可以推动发现超越顶级开发者的方案，而不完整的自然语言规格会让普通代理无法确定答案究竟正确还是幻觉。 Pushmeet 说，AlphaEvolve 可以“利用幻觉来实现有益目的”，把出人意料的想法当作候选方案，再通过逐步增加实例数量对其进行压力测试。嘉宾并不认为精确评估器构成概念上的上限：相关性模拟器、辅助信号、LLM 评议和证明代理都可以扩展搜索，只是较弱的信号可能需要更多迭代。
有限形式的自我改进已经出现，但认知能力的提升尚未得到验证。 Sarah 提到训练基础设施某个环节提速23%，“如果我没记错的话”；Pushmeet 表示，目前得到的结果是计算效率提升，Matej 则将这一反馈回路描述为训练下一代 Gemini 可能需要“以月计”的时间。收益究竟是一次性的、逐渐减弱并趋近上限，还是会“不断累积、不断上升”，目前仍是明确的开放问题。
数学和计算机科学是近期最适合的领域，因为自动评估往往“基本免费”即可实现；生物和化学则需要模拟器或预测模型来评估分子等候选方案。 Pushmeet 将科学概括为搜索——寻找正确的想法、构造和候选药物——并预计系统化评估会让代理成为科学家的“超能力”。人类仍需负责目标和约束，包括药物设计中最直接的一条要求：治疗不能杀死患者。
AlphaEvolve 产出的是可部署、可检查的代码，因此比不透明的神经网络决策器更具协作性，也更容易审查。 数学家可以逆向拆解其构造，而不只是接受一个答案；此前与 Jordan Ellenberg 合作的 cap-set 工作发现了数学家此前并不知道的“有趣对称性”。Google 的案例覆盖数据中心效率、硬件和软件，而受信任测试者项目则在评估器和算力需求都很高的情况下，为更广泛的发布策略提供依据。
精读
1. AlphaEvolve 搜索代码，而不只是预测代码
Pushmeet 给出的简洁定义是：这是一个“AI 编程代理”，能够为开放性科学问题发现算法，同时产出已经部署在“Google 自身基础设施关键部分”的实用代码。它设定的标准，是把科学新颖性与生产环境性能结合起来。
Pushmeet 将这套方法追溯到 AlphaGo：如果神经网络代理能够高效探索庞大的围棋局面空间，最终发明“第37手”，同样的理念也可能用于搜索算法空间。2022年的 AlphaTensor 将其应用于矩阵乘法，为“算法的超人区域”提供了证据。
Sarah 追问，是否只是因为研究人员自满，才让有价值的解法长期未被发现。Pushmeet 更强调那些结构复杂、反直觉、埋藏在巨大搜索空间中的构造；Matej 补充说，他们特意选择了“最顶尖的人”研究多年的问题，已有结果经受了异常严格的审查。
AlphaTensor 是专门为矩阵乘法打造的。FunSearch 随后进入“程序空间”，产出了 Pushmeet 所称的第一个由 LLM 带来的科学发现；AlphaEvolve 则把这条路线扩展为更通用的代理。
2. 评估器定义目的，进化过程寻找路径
以数据中心调度为例，用户提供评估函数，例如一个能够衡量算法调度任务效果的现有模拟器。在 Pushmeet 的表述中，用户定义“要做什么”，AlphaEvolve 填充“怎么做”，既可以从零开始，也可以从高度优化的现有方案出发。
Gemini 模型提出有创造性的代码修改，评估器将有效想法与失败方案分开，进化算法则维持一个多样化种群。它不会“过早押注一种非常具体的解法”，而是可以把多个强候选方案中的想法组合起来，再交由工程师考虑部署。
每一代都会从此前的候选方案中筛选，并引入组合或新想法，因此种群理论上会变得更强。在这个层面上，进化类比是字面意义上的：被变异和筛选的有用单位，就是可执行代码。
难度决定搜索预算：意外简单的问题可能“几乎立即”解决，存在数十年的开放性问题则可能需要长时间探索。Matej 强调，在不触及平台期的情况下持续改进本身就很难；迭代次数无法提前预测，因为看似简单的问题可能极难，反之亦然。
3. 评估器把幻觉转化为有用探索
Pushmeet 将 AlphaEvolve 与仅接收不完整自然语言规格的普通编程代理作对比。模型会犯错，没有可靠测试时，用户无法判断答案是否正确；而 AlphaEvolve 可以“利用幻觉来实现有益目的”，把出人意料的提议当作候选方案，而不是最终结论。
评估也决定搜索深度。一个新想法可能只值得在几个实例上测试，也可能值得在“1000个不同实例”上测试，或接受更强的压力测试后再影响后续迭代；如何在低成本筛选与彻底验证之间取得平衡，决定哪些创造性分支能够存活。
Pushmeet 认为，严格评估是最容易切入的方向，而不是“概念上的限制”。LLM 可以评议自然语言提案，不完美的模拟器和辅助目标也可以在与“真实信号相关”的情况下引导进化；这可能需要更多迭代，但能够填补精确评分与主观判断之间的空白。
Pushmeet 指出，即使是模拟器，测试的也只是特定分布，而不是证明普遍行为，因此要获得保证，可能还需要证明代理。反过来，多代理 AI 科学家会用 LLM 评估假设的新颖性、重要性和影响力，相比基础模型单独工作，能得到“好得多、好得多、好得多的结果”。
4. 有限形式的自我改进已经出现，但曲线仍未知
Sarah 询问，训练基础设施某个环节提速23%——她补充说“如果我没记错的话”——是否算递归式自我改进。Pushmeet 回答“在某些意义上，是的”，但将已经展示的改进限定为缩短计算时间；Matej 则表示，目前的反馈回路是在加速下一代 Gemini 模型的训练。
让训练变快，还不等于让模型“在某些认知任务上变得根本更强”。Pushmeet 认为，只要评估器能够识别有益的训练改动，就没有理由认为后者无法实现，但评估器本身以及由此带来的能力提升仍需验证。
Matej 补充说，目前这条回路“可能以月计”。未来收益可能是一次性的，也可能在逐渐缩小并趋近上限的同时继续增长，或者不断累积；究竟哪条轨迹成立，是团队目前无法回答的“重大开放问题”。
5. 科学家仍需负责目标、约束和理解
数学和计算机科学之所以率先应用，是因为评估器普遍存在，有时甚至“基本免费”即可获得。生物或化学也可以沿用同一架构，只要模拟器或预测模型能够对候选分子评分；未来版本的 AlphaEvolve 还可能进一步放宽今天的要求。
Pushmeet 更广泛的观点是，科学的很大一部分工作，都是寻找正确的想法、构造或候选药物。随着材料和药物发现变得更加系统化，代理可以把这些评估当作“超能力”，但人类仍需将疗效、副作用和递送机制等属性编码为目标或硬约束。
Matej 形容实际使用过程“出乎意料地协作”。AlphaEvolve 发现的是一个构造解法的算法，而这个算法可能比最终答案更重要，因为数学家可以检查其中的想法如何组合；它生成的代码看起来像人类写的，却也会让人追问：“你会想到要一模一样地这样写吗？”
在此前与 Jordan Ellenberg 合作的 cap-set 工作中，生成的程序揭示了“数学家此前并不知道的有趣对称性”。同样的可检查性也让生产工程师能够在部署前审查代码，这与信任不透明的神经网络“完全不是一个层级”；与此同时，受信任测试者会在评估器和算力需求都很高的情况下，为更广泛的应用提供信息。