摘要

LLM 可以把算法设计从手工试错转化为可规模化的搜索过程，充当“非常强大且智能的变异算子”。 DiscoPOP 让模型提出简短的偏好优化目标、进行测试，再将结果反馈进上下文；它以代码、数学、物理等领域提供的结构化探索，替代跨数百万参数的随机扰动。结果可能形成一层自动化研发能力，把资金和算力转化为有用的算法洞见。
这套经济逻辑并不要求机器研究员在单次表现上超过最优秀的人类。 Robert Tjarko Lange 认为，即便系统“比人类能做到的差50%”，也可能凭借大得多的吞吐量胜出；Chris Lu 目前将这些模型的水平定位在本科生或博士一年级。人类仍是监督者和品味筛选者，负责选择重要问题，并从海量技术上成立但缺乏吸引力的结果中做取舍。
DiscoPOP 最值得玩味的结果，是一种非凸偏好损失函数，其不连续性可能使其更能抵御噪声数据。 Chris 推测，局部最优可以吸收错误观测，而全局最优处理其余部分，但他强调这一点很难严格证明。最终产物仍只是约5–8行可读代码，其中一个异常的指数项单独看效果有限，却可能在组合中发挥作用。
模型坍缩确实值得担心，但几位嘉宾并不认为递归式AI研究必然耗尽创造力。 他们提出的防线包括人类生成的输入、随机配对无关领域、进化交叉、质量—多样性方法，以及不断扩大的“垫脚石”档案，主动注入“外部熵”。瓶颈将转向多样性机制、选择、评估，以及维持高效搜索分布。
专门化的小模型或许能拿下优化市场中相当一部分需求，同时避开前沿模型的推理成本。 Lange 的黑盒实验显示，较小的 Llama 2 和 PaLM 2 有时表现出人意料地好；该方法也能处理约50维以内的无梯度问题。分词和表示方式影响巨大：整数离散化起初优于浮点输入，不过较新的前沿模型已经在削弱这一限制。
Automated Design of Agentic Systems 把搜索范围从单个损失函数扩展到了完整的软件组织。 Cong Lu 的系统可以发现包含初始求解器、精炼器、专门化批评者、辩论、工具和代码的长链路、反直觉工作流；一个用 GPT-3 在数学任务上低成本优化的智能体，后来迁移到了 GPT-4、其他数学领域，甚至文学任务。其上限在于通用编排，但运行时间、API成本、退化循环和基准过拟合必须成为明确目标。
The AI Scientist 证明了可以串联创意生成、编码、实验和写作，但还不能替代成熟的科学判断。 它当前的流程过于线性：即使结果为负，也可能只做一次消融实验就开始写论文；而 Lange 认为人类科学更接近80%的假设淘汰和20%的结果整合。下一次能力跃迁，取决于保留失败实验、修正因果假设，并从论文未披露的、规模大得多的“冰山一角”中学习。
如果“资金、算力和API调用等于一篇论文”，稀缺资产就会从论文生产转向可信筛选。 几位嘉宾设想了纯AI会议、模型评审、辩论，以及漏斗顶端的人类验证，同时质疑会议接收是否仍是衡量贡献的合适单位。他们更偏好的指标接近思想随时间的扩散：一个想法是否改变了后续工作，同时考察验证、可复现性、评估和面向人的接口。

精读

1. 偏好优化研究变成可执行的搜索循环

Chris 的电梯式介绍始于一个令人不适的观察：偏好算法理论上应由专家凭借数学判断设计，但实际过程很大程度上是“大量试错”。LLM 吸收了数学直觉，也能编写代码，因此可以在更宽广的搜索空间中进行多得多的尝试。
Lange 将这一循环描述为进化式黑盒优化器。模型命名并解释一个候选 PyTorch 风格目标函数，系统用它训练并评估下游偏好表现，再把结果送回上下文，让下一次提案建立在此前成功或失败的基础上。
早期元进化工作把损失函数编码成神经网络，在数千规模的种群中随机扰动数百万个参数。大多数扰动都没有产生有用结果；相比之下，LLM 的提案带来“结构化得多的探索”，因为预训练为可能成立的程序提供了先验。
最终的模型不只是代码生成器，而是 Lange 所说的“一种非常强大且智能的变异算子”。它可以组合平滑、正则化，以及来自机器学习、物理、化学或经济学的其他概念，而不是只围绕某位研究者的阅读经历进行局部搜索。

2. 创造力可能是在人类无法搜索的超大空间中进行插值

主持人质疑，一个受训练分布约束的模型能否提出范式级的新想法。Lange 以 Picasso 为例回应：他是“他那个时代的孩子”，在一个包含 Salvador Dalí、Joan Miró 等艺术家的“凸包”中找到了立体主义。
Lange 的意思并不是 LLM 能够无限外推，而是：在一个规模极大、维度极高的语料空间中进行插值，已经足以连接单个研究者从未同时接触过的概念。“在这个阶段，插值本身……已经足以创造大量我们能带给社会的价值。”
Chris 补充说，可以通过温度、束搜索或其他采样选择，更有意识地鼓励创造力，不过 DiscoPOP 并未充分探索这些方法。系统已经在进行序列化推理：尝试一个想法、检查失败、形成解释，再把幸存的组件混入下一个候选方案。

3. DiscoPOP 找到了一种可能被传统品味否定的奇怪损失

Chris 纠正主持人的描述，强调 DiscoPOP 并非凸函数：它包含不连续点、局部最优和全局最优。大多数手工设计的损失函数偏好一个干净的最优点，而这种结构恰恰是自动化搜索能够绕开主流直觉发现的结果。
他们的假设是，局部最优可能吸收噪声或错误的偏好数据，其余部分则继续向全局解优化。Chris 保留了不确定性：论文提供了一些证据，但“真的很难严格证明这一点”。
他们此前的 Discovered Policy Optimization 工作也出现过类似的非凸特征，当时进化同样产生了作者最初无法理解的行为。它的重复出现值得研究，但不能证明非凸性普遍负责带来性能提升。
最终目标函数只有约5–8行可读代码。Chris 说，其中一个异常的指数损失单独使用时并不算特别有效，但与其他项结合后会变得有用；这说明搜索可以发现逐项评估难以识别的互补关系。

4. 机器吞吐量把人类角色从发明者改成了监督者

Lange 不接受“自动化系统必须先匹敌顶尖研究者的创造力才有意义”这一前提。即使自动化发现系统“比人类能做到的差50%”，其可规模化的吞吐量也能让研究者把“资金和算力转化为真正有用的下一代AI洞见”。
Chris 目前将这些系统比作本科生、博士一年级学生或非常年轻的研究者。人类监督者仍可以识别重要问题、排除糟糕策略、设定优先级，并决定哪些输出值得深入推进，就像教授指导实验室一样。
这种筛选功能并非附属环节。Chris 认为，过了某个阶段，论文生产“更像艺术而不是科学”：新颖性、实用性和社群兴趣难以由单一目标函数表达，就像图像和视频生成最终仍需要有品味的人从大量输出中作出选择。

5. 递归发现需要可再生的熵来源

主持人询问：如果反复用 LLM 发现更好的损失函数、用它训练下一代模型，再不断循环，系统会无限改进还是最终坍缩？Lange 区分了损失函数对训练的间接影响，以及直接教模型复现自身既有输出的做法，因此反馈的严重程度取决于什么内容进入循环。
Lange 承认自己并不确定互联网规模的合成数据坍缩会如何发展，但指出，今天的系统已经在创造大量价值。即便恶化在5年内出现，他认为届时社会拥有的工具也会比现在强大得多。
Chris 认为熵是产生新想法的必要条件，但外部来源仍然存在：人类会继续提出意料之外的问题，或者系统可以随机抽取两个领域并要求它们建立联系。这是在主动引入“外部熵”，而不是只从单一的自生成分布中反复采样。
主持人援引研究称，约4代合成数据就会耗尽分布熵；Chris 的反驳是，这类实验可能没有纳入真实的人类输入。Lange 又将答案扩展到进化交叉、质量—多样性算法和文化重组：复杂性可能同样存在于模型的使用方式之中，而不只存在于权重内部。

6. LLM 可以在没有梯度的情况下优化抽象数值问题

Lange 的 Large Language Models as Evolution Strategies 项目，源自一项让 LLM 改进 CartPole 策略的工作：该策略仅由整数序列表示。如果模型能够从这类抽象字符串中识别进展，他推断，模型或许可以充当通用黑盒优化器。
提示词包含过去的候选参数及其适应度，并按照从差到好的顺序排列。模型从这条不断改善的序列中推断有效的变化，提出下一次评估方案，在无法访问梯度的情况下平衡探索与利用。
在部分测试设置中，该方法可以超过传统黑盒算法，目前可扩展到约50维的中等规模问题。Lange 明确指出，进化搜索不适合优化 Transformer 规模的参数空间；它的适用场景是无法获得梯度的领域。
对 Lange 来说，这削弱了“随机鹦鹉”的质疑：从抽象数值序列中识别进步，需要进行超越复述熟悉散文的模式推断。他的限定性判断是，只要问题能够表示为结构化字符串，LLM 就可能从上下文中提取有用模式，不过某些领域仍会由手工算法表现更好。

7. 表示方式的影响可能超过参数规模

在 GPT-4、Llama 2 和 PaLM 2 的比较中，团队发现较小模型在许多黑盒任务上出人意料地有竞争力，GPT-4 是明显更强的大模型例外。Lange 推测这可能与过度训练、训练不足，甚至 GPT-4 内部存在更小的专家模型有关，但他明确称这些只是推测。
用教师优化器生成的轨迹进行微调，可以改善部分任务，但并非全部。结果体现出一种反复出现的张力：把算法偏置明确写入训练，可以增强目标行为，却也可能削弱通用模型原本能够自行发现的创造力。
分词带来了具体的数值伪影。在被引用的 Llama 2 分词器中，数字1–50以及1950–2020年间的许多年都有独立 token，而其他浮点数会以不均匀方式拆分；因此，标准化的整数离散化更容易让模型推断模式。
更新的前沿模型已经开始具备直接处理浮点数的能力，因此 Lange 预计部分结论很快会过时。较小的专门化模型可以降低算力需求，但移除看似无关的预训练知识，也可能同时删掉日后被重新用于某次“扰动”或类比的材料；这正是 Sakana AI 相信“学习某种意义上总是更划算”的原因。

8. 进化可以在不以超大规模运行的情况下产生超大规模方法

Lange 将主流模型训练本身重新定义为集体进化：几代博士生共同发现默认超参数、优化器和工程实践，为每一次新训练提供种子。他认为，如果 Adam 从未发表，即便是超大规模训练公司从零开始，也会处在完全不同的位置。
LLM 引导的搜索不需要维持自然界规模的种群。DiscoPOP 可以评估一个智能候选方案，把适应度送回上下文，再重复这一过程；更早的工作也曾在小规模、低维任务上进化算法，并将其迁移到更难的高维设置。
有潜力的目标包括数据混合比例和能够诱导思维链推理的合成课程。可以先让小模型学习由外层算法生成的任务，再针对下游上下文推理优化任务生成器，最后测试发现的配方能否迁移到更大的系统。
Lange 表示，Sakana AI 刻意避开语言模型预训练竞赛，寻找其他公司不会重金投入的想法。他将当前局面诊断为“元科学局部最优”：规模化训练是残酷的工程问题，但概念上仍是线性的——筹钱、训练一个最先进模型，然后几周后看着它被另一个模型取代。

9. 集体智能可能释放单体规模化无法获得的能力

自然进化仍是几位嘉宾所知唯一产生通用智能的过程，但 Lange 警告不要照搬生物学。机器拥有不同的能力边界：例如 Sakana 的 Sensory Neuron 工作研究了像素发生变异的表示上的策略，人类很难适应这类表示，但 Transformer 可以学会。
Lange 借鉴 Alison Gopnik 对儿童发展的讨论，认为智能部分取决于社会结构。父母会保护儿童免受现实中压倒性部分的冲击，同时让他们接触可管理的因果实验；这种安全性和信息不对称，使儿童能够进行孤立智能体无法复制的聚焦学习。
这意味着要通过集体系统实现终身适应，而不只是把单个模型做得更大。Lange 想象个性化助手和合成式进化，同时承认机器可能最终形成不同于人类的认知结构，而不是落入生物进化为人类设定的局部最优。
主持人的兴奋伴随着工程层面的质疑：一个执行多层嵌套元优化的“有生命、会呼吸的系统”，听起来像软件噩梦。Lange 没有保证一定能跨过这道门槛，只是认为不断增加的算力和新架构，已经让这个方向足够可信，值得测试。

10. 智能体设计把完整软件工作流变成可搜索对象

Cong 的 Automated Design of Agentic Systems 始于一个观察：AI Scientist 是经过数月手工打造的痛苦产物，而 Cursor 类工具和文献助手同样是 LLM 智能体系统；关键在于，这些系统本质上都是 Python 代码。随着 Claude 3.5 Sonnet 和 GPT-4o 出现，这类系统如今已经可以发现数百行长的代码。
搜索空间包括提示词、思维链结构、辩论、检索、工具、代码执行，甚至包含加载其他神经模型的程序。由于生成代码是图灵完备的，搜索可以覆盖超越纯 LLM 调用的工作流，包括编写或训练另一个模型的代码。
Cong 不愿在代码生成和直接转导之间做绝对二选一。算术、网页搜索、可复用的多步骤操作和组合式工具天然适合代码；神经组件仍可以在同一个进化系统中处理感知或直觉步骤。
被发现的工作流经常复用档案中的模块：一个智能体生成初始预测，另一个进行精炼，二者都可能源自更早的候选方案。档案保留了偶然发现的垫脚石，而不是强迫每一次发现都改进同一条单一谱系。

11. 进化出的组织可能比公司更古怪，也更扁平

探索来自大规模采样、变异、要求使用相邻领域的提示词，以及像 OMNI 一样近乎无限的档案。Cong 报告称，有些运行持续超过5,000代，但 LLM 评审仍认为后期产物明显不同，说明上下文熵可以支撑长期搜索。
这些系统的迁移能力好于基准过拟合论所预期的水平。一个强大的外层编码智能体，在数学任务上优化一个低成本的 GPT-3 内层智能体，但发现的推理循环后来迁移到了 GPT-4、其他数学领域，并“令人震惊地”迁移到了文学任务。
辩论是反复出现的模式，但进化出的变体会变得十分复杂：不同专家分别批评效率、可读性和准确性，再通过额外轮次进行整合。有些工作流包含约20次串联调用，让 Cong 忍不住问：“我到底要怎么……开始想出这些结构？”
运行时间限制和成本目标可以约束无限循环，而进化则决定如何组织可能多达1,000个行动者。人类层级结构反映了工作记忆和沟通瓶颈；如果拥有 Gemini 规模、数百万 token 的上下文，理论上就能整合1,000份报告，从而压缩人类公司所需的层级。

12. 开放式搜索最终必须放弃固定基准

主持人引用 Kenneth Stanley 的警告：高带宽协调可能制造巨型单体，而真正的新颖性或许要求智能体沿着各自感兴趣的梯度前进。Lange 表示，当前系统仍受基准驱动，尽管提示词要求它“跳出框框思考”。
Cong 偏好的下一步，是让智能体与任务提出者共同进化，由后者不断发明更难的挑战，持续切换目标，而不是永远优化一个分数。这样的循环可以积累一棵“技术树或技能树”，追踪通向类似完整 AGI 能力的开放式文化轨迹。
元智能体还可以改进搜索程序，而该搜索程序再改进任务求解器，呼应 STOP 和 Gödel-machine 式递归。Lange 对递归自我改进叙事有所保留：系统最终可能只是“从石头里榨血”，受底层模型限制，不过梯度更新仍可能进一步优化搜索发现的内容。
Cong 无法预测终点；10年后，积累起来的创新或许会看起来像“魔法和巫术”。关键特征不是掌握一个冻结的基准，而是持续生成新的目标、产物和垫脚石，让后续能力成为可能。

13. 模型对“有趣”的嗅觉可以替代脆弱的探索规则

Intelligent Go-Explore 建立在2017年的 Go-Explore 算法之上：保存有潜力的状态、重新访问它们、采取探索行动，并在成功轨迹稳健化之前保留有用发现。其弱点在于，需要手工设计一个函数来决定哪些状态有趣。
Montezuma’s Revenge 过去需要一些直觉规则，例如下到更低层级、收集钥匙、保留行动能力；Cong 澄清说，他的团队尚未测试这款游戏。他们的贡献，是在其他困难探索环境中，用基础模型对“有趣”的嗅觉，替代类似的手工启发式。
当环境反映人类熟悉的概念时，这种先验能够发挥作用；但如果一个科学领域在10年后才被发明出来，就可能需要新的抽象和重新训练。Cong 表示，一旦找到新问题所需的正确抽象，辩论等通用结构仍可能迁移。
该方法如今既能接受视觉网格世界中的图像，也能处理文本，并在 VLM 智能体之上增加缓存有趣状态的高层循环。Cong 也直言其中的风险：如果模型偏爱绿色物体，搜索就可能放大绿色轨迹，因此需要奖励过滤器、纠正数据、人类监督和持续监控。

14. The AI Scientist 把瓶颈从写作转向认识论判断

Robert 用一句话概括 The AI Scientist：“我们尝试用 LLM 写出新的论文，希望最终对整个社群有帮助。”DiscoPOP 已经提示了这条路径——被发现的损失函数和实验本身已经接近一项贡献，剩下的创意生成、实现、执行、解释和写作可以串联起来。
Chris 说，Cong 将其描述为科学生成式AI的“GPT-1时刻”，并称当前阶段是“寒武纪大爆发”，而不是一个已经完成的科学家。创意生成、编码、评审和前沿模型的独立进步可以重新组合；Lange 则表示，尽管作者曾在某些生成结果面前“着迷”，最终影响仍有待观察。
主持人的 Google Maps 类比解释了为什么这些论文看起来颇有说服力：一次性零样本生成整篇论文很平庸，而反复缩放可以把算力分配给实验、表格和局部修改。系统正在自动化这种精炼过程，但当前论文在 polished 表面之下仍然存在缺陷。
最深层的限制是线性实验。一个想法变成消融实验，然后变成论文，即使结果令人失望也不例外；Lange 自己的工作流大约80%的时间用于淘汰假设，只有20%用于整合结果。下一项必需能力是迭代式因果建模，而不是更流畅的文字。

15. 科研日志和AI会议可能比论文更重要

面对“研究者通过构建、失败和争论来学习，而不只是阅读论文”的质疑，Cong 完全认同。AI 科学家可以生成缺失的经验：广泛探索、失败实验，以及关于什么可能有效的直觉，让远低于已发表“冰山一角”的知识暴露出来。
Cong 认为，这些日志最终可以喂给那些针对代码、数学、扩散模型或 NLP 基准进行优化的系统，就像 R1 等系统在正确性可度量的地方学习一样。这个设想仍然是推测性的，目标是把失败实验和假设检验知识纳入未来的 AI 科学家。
论文仍然是面向人类的可读接口。除此之外，AI Scientist 也会产出代码和可复现实验结果；但 Lange 认为，一旦“资金、算力和API调用等于一篇论文”，会议接收就不再足以定义贡献。一个只有两行的想法，例如残差连接，之所以重要，是因为它会扩散到后续工作中。
Lange 想象纯AI会议：生成式投稿、根据 ICLR 2022 决策进行验证的评审、辩论、领域主席判断，以及最佳论文奖，之后再接受人类验证。机器形成异质的亚文化仍然可能发生，但望远镜的类比提供了一种折中：如果仪器能通过人类可理解的抽象呈现结果，人类不必拥有与它相同的分辨率。

Grok 3、AI 记忆与语音、中国、DOGE、公开市场回撤｜BG2 与 Bill Gurley、Brad Gerstner 中美关系：历史、文化与 AI 竞争——Noah Smith，来自 Econ 102