摘要

Agüera y Arcas 的核心判断是字面意义上的：“DNA 是一段计算机程序”，因此生命是智能的一个子集，因为可遗传的自我复制需要一台通用计算机。 Von Neumann 在分子生物学为其提供组成部件之前，就已预见这套堆栈：DNA 是图灵机磁带，核糖体是构造器，DNA polymerase 是复制器。大脑和文化是更快的计算层，但细胞搭起了最底层。
他的 BFF 实验表明，目的性可以通过一次剧烈的相变，从随机代码中自发涌现。 由1,000条随机64字节磁带组成的“汤”，每条平均只有约2条指令，在数百万次两两互动中几乎始终处于惰性状态；随后熵突然坍缩，重复的复杂程序出现，逆向工程显示它们能够繁殖。某种东西之所以变得有功能，是因为它现在可以被破坏：扰乱代码，它复制自身的“目的”就会消失。
真正改变他进化论判断的意外是：当突变率从每次互动约万分之一降至0时，涌现仍在继续。 这让解释重心从突变转向合并：能够独立复制的元素可以组合成更复杂的整体，而其组装历史本身会成为信息。因此，内共生有助于解释复杂度为何会沿方向持续上升，而普通的突变—选择机制无法完整解释这一点。
这种合并逻辑既适用于线粒体进入古菌，也适用于技术和生物机制的再利用。 Agüera y Arcas 举例称，病毒原本具备的细胞膜融合能力，后来被用于胎盘形成。在 BFF 中，即便2个原始复制器究竟以 AB 还是 BA 的顺序合并，也会成为持久信息：“最终，合并树恰好成为最终基因组所编码的信息。”
在 Google，他带领的约50人 Paradigms of Intelligence 团队明确试图在利用当下成功模型之外，“重新装满桶”，补回基础性洞见。 促成这一转向的思想催化剂，是他在2020年之后得出的结论：大规模序列模型似乎已经具备一般智能。讨论重点包括组合、合作、多智能体组织，以及持久记忆等研究方向。
他的功能主义认为，基质不是生命或意识的本质：肾脏就是任何履行肾脏功能的东西，即使实现方式不同。 他强烈反驳 Anil Seth 和 John Searle 偏向基质的直觉，认为如果用功能等价的部件替换神经元，意识不会在无声无息中被“调低”。生物学接口湿润而复杂，但“多重实现性与再利用性”正是生命的本质。
他将 AI 视为人类集体智能的延伸，而不是一种截然分离的外星智能，但仍担心极化、虚假信息，以及20年后可能已不再适用的政治经济系统。 “AI 从一开始就是人类智能”，因为通用模型是在吸收人类语言后涌现的；Scarfe 更尖锐的反驳——单个产物可能超越全人类——仍基本悬置。对于当前的 transformer 系统，Agüera y Arcas 认为最大的缺口不是组合能力本身，而是“叙事记忆”，尤其是能够维持长期自我的持久记忆。

精读

1. 大规模序列模型迫使人们重新思考智能

Agüera y Arcas 将《What Is Intelligence?》描述为一次始于2020年前后的思想冲击记录：大规模序列模型似乎具备“普遍智能”，迫使他追问，如果接受这一观察，它对进化、心智以及人类自身意味着什么。该书的开篇章节也以《What Is Life?》为名单独发布，主张生命属于更广义的智能范畴。
他目前所在的机构是 Google 的 Paradigms of Intelligence 团队，约有50人，研究重点是基础问题。团队承认当前范式有效，但希望“用新的洞见和新想法重新装满桶”，而不是只集中于利用现有模型。
Scarfe 提出 DNA 适应缓慢，而神经系统和文化以“光速”进化；Agüera y Arcas 明确承认这一点，但没有因此改变结论。DNA 只是最底层：一旦通用计算存在，生命就会“用计算机构建计算机，再用计算机构建计算机”，不断叠加细胞、神经、文化和社会层。

2. 自我复制要求生物体内部存在一台计算机

Von Neumann 的思想实验从一个乐高机器人开始：它从池塘里收集散落的零件，组装出一个后代。机器人需要一条指令带、一个读取指令带的通用构造器，以及一个把自身指令交给后代的复制器——其中也包括构造构造器和复制器的指令。
生物学后来提供了惊人的对应关系：DNA 是指令带，核糖体负责构造，DNA polymerase 复制指令带。可遗传改变之所以重要，是因为改变基因组会改变后续后代；Agüera y Arcas 的结论是绝对的：“不可能成为一个活的生物体，却不是字面意义上的一台计算机、一台通用计算机。”
元胞自动机让计算获得实体形态。传统图灵机中，磁带、读写头、规则和符号在概念上彼此分离；而在元胞自动机中，每个位置都遵循宇宙的局部“物理定律”，使机器能够打印出自身的物理机体——“一台既是笔记本电脑又是3D打印机、还能打印出另一台笔记本电脑的机器”。
Scarfe 对生化机制的质疑仍然成立：Conway’s Game of Life 是二维且确定性的，而物理生命依赖三维空间和热随机性。因此，Agüera y Arcas 引入随机图灵机，同时强调大规模并行与嵌套结构：细胞内部运行着数以10^18计的核糖体，细胞嵌套于生物体之中，人又嵌套于社会之中。

3. 随机代码跨过相变边界，涌现出目的性

BFF 从1,000条随机磁带开始，每条长64字节，使用一种由 Brainfuck 衍生出的7条指令、自修改语言。随机字节中约31/32是 no-op，因此每条磁带只剩约2条指令。每次迭代随机将2条磁带拼成一个128字节程序，运行后再将其拆开，放回这锅“汤”中。
数百万次互动几乎什么都没有发生；随后“某种看似神奇的事情发生了”。熵骤降，原本不可压缩的“汤”变得高度可压缩，复杂程序以大量副本出现。重复出现暴露了它们的功能：它们已经成为复制器，因此生命的涌现同时也是“目的性的涌现”。
目的性是操作层面的，而非神秘属性：改变一个关键字节，程序就会停止复制，说明它具备一种可以被破坏的功能。Scarfe 提出架构偏置问题，Agüera y Arcas 也承认语言会塑造最终程序；但 Z80 汇编中出现的类似涌现让他相信，这一现象本身具有普遍性。

4. 合并，而非单靠突变，为进化提供复杂度棘轮

从随机到有序的表面逆转依然符合热力学。借助 Adi Pross 的“动态动力学稳定性”概念，Agüera y Arcas 认为稳定性可以是循环的：反复制造 DNA 的脆弱 DNA，可能比只会不断侵蚀的花岗岩存在更久。从这个意义上说，“进化就是第二定律在发挥作用”。
他最初在 BFF 中以每次互动约万分之一的概率加入随机突变，假设达尔文式的“偶然与必然”驱动了结果。但当突变率降至0时，复制器仍然出现，这改变了他的看法：目的性、生命起源以及复杂度增长，都无法完全用纯粹的达尔文机制解释。
在他的框架中，内共生为后续复杂度提供了机制。他描述了一个真核生物的形成过程：线粒体进入古菌体内；由此产生的复合体比任一组成部分都更复杂，就像长矛比木棍和石尖更复杂。把既有部件组合起来，能够让进化在之后产生更精密的系统。
Scarfe 将同一逻辑延伸至信息：合并保留了谱系、复用、路径依赖，以及部件如何组装的历史。Agüera y Arcas 表示，他“完全”接受这一框架，并展示了 BFF 中合并树本身如何成为最终基因组中的信息。

5. 组合将偶然性转化为可复用结构

Scarfe 将合并与谱系、路径依赖、复用和沟通化联系起来。Agüera y Arcas 表示自己“完全”接受这一框架，同时通过 Dan Everett 对 Pirahã 的研究强烈批评 Chomsky 的语言理论。他指出，Pirahã 语言不符合 Chomsky 的要求，包括递归或中心嵌入，而且没有数字以及过去时和将来时。
他对 Chomsky 更深层的反对，是自上而下的形式主义：语法和程序路径催生了“老派 AI”，他认为这是导致多轮 AI 寒冬的一次错误起点。Scarfe 反驳称，Chomsky 的自动机和计算思想在堆栈更底层处与这一论点相似；Agüera y Arcas 则回应，Von Neumann 和早期人工生命研究者 Nils Aall Barricelli 已经具备了关键机制。
W. Brian Arthur 的灯泡例子解释了发明为何会聚集出现。一旦玻璃吹制、真空技术、灯丝和电流都已存在，多名发明者就可能独立组合出同一类产品；灯丝、灯座直径或螺纹方向等偶然决策，随后会约束之后建造的一切。
BFF 在最小尺度上暴露了这段历史：弱小的单字节复制器相遇，有时会作为一对持续存在，并在结合后表现更好。它们以 AB 还是 BA 的顺序合并，就是新增信息，因此“合并树”成为最终基因组。更高层次的感知则更平滑：即使规则被破坏，人类也能识别出古怪的自行车，这更支持神经网络和梯度下降，而不是手写的圆形检测器。

6. 功能可以跨越基质变化而延续

Agüera y Arcas 认为自己最接近功能主义者。Scarfe 以肾脏为例：物理学或许能够完整描述原子，但肾脏由过滤尿素这一功能定义，因此，只要一种截然不同的人工装置履行同一功能，它仍可被称为人工肾脏。讨论将功能视为一种关系属性，只有在由其他功能构成的生态中才具有意义。
多重实现性被视为功能的标志：不同路径都可以制造 ATP，昆虫翅膀和蝙蝠翅膀也以不同方式实现飞行。Scarfe 更强的质疑来自历史维度：替换天然肾脏或植物现在可能有效，却可能破坏生态未来的演化轨迹，因为替代物带着另一套来源进入系统。
Agüera y Arcas 将这一质疑转化为对内共生的支持：生命不断引入、再利用并平行改造那些原本服务于其他功能的机制——“没有任何智能设计者，智能设计也可以发生”。他的例子是细胞膜融合能力：它最初与病毒有关，后来被纳入胎盘形成过程。
因此，他强烈反对 Seth 和 Searle 的基质本质主义：用功能等价的神经元替换原有神经元，不会抹去意识，尽管湿润的生物学接口使这种等价远比替换软件例程困难。“多重实现性和再利用性”对他而言正是生命的本质。

7. 意识是一种合作技术

在 Agüera y Arcas 的功能主义框架下，哲学僵尸——行为与人完全一致、却“内里已死”的实体——没有看上去那么自洽。意识既不是惰性的副现象，也不是特定物质的特权；它存在于生成行为的关系之中，并在其中发挥功能。
他的 Paradigms of Intelligence 团队通过多智能体强化学习研究这一功能。合作先于内共生，而合作智能体需要心智理论：每个智能体都必须对一个包含博弈、自身内部状态、另一个智能体内部状态，以及“我的微笑意味着快乐，所以你的微笑大概率也意味着快乐”这类对应关系的世界进行推断。
对自我、他者、他者对自我的模型，以及更深层嵌套模型进行建模，会形成类似 Hofstadter 的“奇异环”。现实中的智能体受计算能力限制，其心理表征仍然像卡通画；Agüera y Arcas 说，这种递归建模最多只能达到约第6阶。
划船提供了体验层面的类比。在“同步摆动”中，8名桨手完全同步，以至于“船获得了灵魂”，当彼此分离的目的合而为一，船的速度也会提升。Scarfe 将此联系到招聘时同时寻找能动性和协同性：有时，最合理的意向边界应当包住整个协同群体，而不是其中任何一个成员。

8. 自我是一个带有“内在律师”的协商边界

连体双胞胎 Abby 和 Brittany Hensel 展示了流动的能动性：2个独立的大脑和脊髓分别控制一只手臂和一条腿，但终身的行为交叉提示让她们能够驾驶、运动、写字，并经常同步说话。她们可以作为一个协调系统行动，同时保留不同意见。
裂脑患者则呈现相反情形。外部观察者可以通过实验看到2个半球接收不同信息、控制不同的手，但患者坚持自己仍是一个人。Agüera y Arcas 拒绝接受一个唯一的特权答案：自我是关系性的，即便一只手在扣纽扣、另一只手在解纽扣，也可能只被体验为一种不便。
Petter Johansson 的选择盲实验揭示了连续性是如何被制造出来的。受试者被要求解释自己对某张脸的吸引力选择，却常常拿到自己刚刚拒绝的那张脸；他们很少察觉，并以不变的流畅度和反应延迟为其辩护。“内在律师”编造出一套叙事，甚至可以改变未来选择；大脑中分布式的各个部分彼此遮掩，因为它们“都在同一条船上”。

9. AI 延伸集体人类智能，但记忆仍是缺口

Agüera y Arcas 担心极化、虚假信息，以及政治经济制度在20年后是否仍然适用，但不担心 Eliezer Yudkowsky 讨论的那些情景。他的理由是本体论层面的：单个人类并没有显著超越其他灵长类；文明中的数百万人和数十亿人协作，才共同制造出器官移植和太空飞行。
因此，AI 更像既有集体过程的延伸：“AI 从一开始就是人类智能”，因为通用 AI 是通过在海量人类语言上训练模型实现的。Scarfe 反驳称，单个产物可能超越全人类的总和；这一问题并未得到正面解决。Agüera y Arcas 转而强调，个体经常把社会分布式知识误认为自己的知识，自行车绘画失败就是例证。
今天的模型在架构、训练、接口和模态上显然不同于大脑，但其内部表征与人类之间可以在 Brain-Score 一类测量中出现令人意外的趋同；即便只有语言输入的系统，也能复现感知结构的某些方面。模型组合出非寻常场景的能力，削弱了“它们没有组合能力”的说法。他认为最明确的缺陷是“叙事记忆”：能够维持一个自我的持久长期经验。
Scarfe 所说的“肤浅冒牌货”担忧，集中于模型在轻微逻辑变化下给出脆弱答案。Agüera y Arcas 的回应是方法论上的：先运行人类基线，因为除非刻意放慢速度并形式化推理，人类往往也会表现出同样的框架效应和逻辑错觉。Transformers 不会系统性地搜索所有图灵机程序；无论系统是大脑还是 transformer，可计算的归纳都必须依赖捷径。

E210｜日本“失去的30年”，炼成了中国餐厅排队王？2025 AI 现场：我们这一年的目击与狂想