你的大脑不指挥身体，而是在预测身体。[Max Bennett]

摘要

• Bennett 的核心论点是：新皮层真正的决定性优势，不是更擅长识别物体，而是拥有足够丰富的世界模型，让动物能够“在经历结果之前先想象结果”。 新皮层并不独自完成规划：丘脑和基底神经节共同帮助暂停行为、选择候选动作、评估模拟后果，并恢复执行。对投资者而言，这意味着机会不只在于打造更大规模的识别器，而在于让架构能够决定何时进行模拟、裁剪反事实搜索，并通过干预学习。

• Transformers 验证了部分脑启发叙事——自监督学习确实能产生出人意料的通用表征，但它们仍是“外星大脑”，而非数字化新皮层。 Bennett 强调，它们缺少持续学习、主动检验假设、创造具身数据，以及可靠迁移到新情境的能力；如果让 ChatGPT 不加筛选地从每次对话中学习，它会“迅速变得更笨”。因此，架构机会不只是继续扩大预训练，而是构建能够稳健更新、又不抹除既有知识的系统。

• 主动推断提供了不同于严格强化学习的控制模型：能动性可能由自我模型以及“预测，而非命令”构成，而不是归结为单一奖励函数。 一个以选定终止状态收束的渲染计划，也会天然带来可解释性——智能体可以说明自己为什么上车；相比之下，无模型行动往往只能事后编造理由。Bennett 仍然保留判断空间：智能“可能是”奖励优化、不确定性降低和预测兑现之间的某种平衡。

• 老鼠实验让基于模型的认知变得可观测，而不再只是比喻。 在迷宫岔路口，海马位置细胞会沿着替代路线向前扫描；在“餐厅行”实验中，老鼠会在约3秒和45秒的等待之间选择，表征自己放弃的味道，并改变之后的选择。Bennett 最令人印象深刻的总结是，研究人员可以“真的看到老鼠在想象未来”——这说明规划、类似后悔的反事实学习和情景记忆机制，早在人类智能出现很久以前就已存在。

• 心智理论似乎源自灵长类的政治竞争，使欺骗与对齐成为同一能力的两面。 Belle 和 Rock 不断升级的食物博弈——藏起来、假装没在看、故意误导——说明能够推断他人知道什么的自主智能体为什么可能发现操纵手段。但 Bennett 认为，同一套心智化机制也可能帮助稳定 AI 指令：系统可以追问请求者真正想要什么，避免“回形针式”失败，即字面上的优化最终摧毁了原本意图。

• 语言是“已经发生过的奇点”，因为它让一个大脑能够从另一个人大脑中想象的行动里学习，而不只是从观察到的行为中学习。 这推动了累积文化、专业分工、文字、金钱和个人权利等共同虚构，以及一种未必选择真实、道德或能提升幸福感的模因进化过程。其经济上行空间在于巨大的协作能力；结构性风险则在于地位竞争仍是零和的，而具有传染性的观念可能利用恐惧、意外或身份认同，而不是改善集体判断。

• AI 辅助既可能扩展人类认知能力，也可能把原本会构建模型的人变成只跟随提示、无模型行动的执行者。 Google Maps 将空间模型外置，而自动转录讲座可能变成“理解拖延”；Bennett 将乐观的导师模式——迫使学生走完推理过程——与一个未来进行对比：那时普通工作已不再锻炼认知，社会需要“智力健身房”。产品差异在于，AI 是帮助用户构建并检验模型，还是只提供答案、让用户的能动性逐渐萎缩。

精读

1. 一个局外人把相互竞争的脑理论整理成有序的进化叙事

• Bennett 并不是从学术论文或研究课题起步的。他出于“独立的好奇心”积累笔记，随后用创业者式的习惯——追问什么最先发生、什么第二、什么第三——整理一个领域。这个领域里的主要思想家，常像盲人摸象，只描述大象的不同部位。Scarfe 提供了“盲人摸象”的框架；Bennett 则试图通过施加有序结构，解释这些彼此分散的观点。

• 他的综合连接了3门学科：比较心理学追问不同物种能做什么；进化神经科学重建产生现代大脑的有序改造；AI 则检验优雅的生物学思想能否真正落地。如果一个提出的原理无法让人工系统工作，Bennett 认为，至少应该促使研究者重新审视自己是否理解了它。

• 局外人身份显然带来劣势，但也赋予他跨越学科边界的自由。全书的组织性押注是：大脑进化并非随机堆积能力，而是连续出现的结构推动了底层计算突破，随后这些突破以多种不同形式显现在行为上。

2. 稀疏的动物证据与成功的 AI 系统把理论拉向相反方向

• 比较心理学的证据远比其自信的叙事所暗示的稀薄。Bennett 举的例子是七鳃鳗，这种动物常被当作早期脊椎动物的代表：尽管硬骨鱼和爬行动物都能进行基于地图的导航，且七鳃鳗似乎具备相关同源结构，他却不知道有任何直接研究检验七鳃鳗是否拥有这种能力。

• 因此，研究者只能从碎片中反推进化结论——共同解剖结构、近缘物种和合理的生态价值。七鳃鳗可能能够识别三维空间中的位置，但 Bennett 保留了这一判断的认识论地位：“这在某种意义上都是猜测，试图从极少的信息里把碎片拼起来。”

• 神经科学与 AI 之间则出现了相反的问题。Transformers、生成模型和强化学习都能在不紧密匹配已知脑机制的情况下工作；主动推断能够提供丰富解释，却几乎没有在高性能 AI 系统中得到验证的应用。Bennett 的诚实判断是：Karl Friston 可能缺少那个尚未找到的实用要素，也可能“突破就在拐角处”。

3. 新皮层实现了模拟，但并不独自完成整个规划闭环

• Bennett 提出的是一个更弱、也更可靠的主张：加入新皮层后，整个系统获得了执行心理模拟的能力，而不是说基于模型的强化学习每个环节都位于新皮层内部。这个区分很重要，因为规划显然分布在新旧结构之间。

• 新皮层提供足够丰富的世界模型，使系统能够在没有当前感官输入的情况下进行探索。但丘脑和基底神经节仍然不可或缺：它们负责暂停、表征意图、选择要模拟的内容、评估想象结果，并把选定的轨迹重新转化为行为。

• 这就形成了尚未解决的搜索问题：拥有生成式世界模型，并不能告诉智能体哪些反事实值得计算。“好，你可以拥有一个世界模型，但如何裁剪搜索空间？”Bennett 将这种选择机制视为基于模型的强化学习最难的问题之一。

• Scarfe 提出了“三叠地层”式三位一体脑解释。Bennett 反对流行说法，即进化只是简单叠加了爬行动物层、边缘系统层和理性层；但他认为 Paul MacLean 比后来的 caricature 更严谨：爬行动物也有具备类似边缘系统功能的皮层，新旧结构显然会彼此互动，而不是组成3个整齐分层的模块。

4. 有意识的感知是推断，而不是感官输入的复制品

• 19世纪的视觉错觉最早提供了线索。人们能看到实际上并未画出的三角形、球体、条形或字母，因为大脑会选择最能解释不完整证据的现实物体，而不是把原始像素直接呈现给意识。

• Bennett 将这一思想追溯到 Hermann von Helmholtz：大脑先对世界中存在什么形成先验，再将输入证据与之比对，并保留推断出的世界，直到相反证据强到足以推翻它。感觉会为感知提供信息，但“你并不是接收感官输入，并体验这些感官输入”。

• 这种机制的适应性逻辑很直接。老鼠在月光下看到一根树枝，随后走进黑暗；只要脚部继续接收到与之相容的证据，维持树枝模型就比因为视觉暂时消失而把树枝视为不存在更安全。

• 同一机制也解释了为什么即使理解了错觉的把戏，错觉仍然可能具有强烈的感知说服力。感知系统会继续渲染其学习到的生成模型所支持的假设，使幻觉、做梦、想象和普通感知成为高度相近机制的不同表现。

5. 生成式大脑一次只渲染一个连贯世界

• 模棱两可的图像揭示了第二个约束：观察者可以在鸭子和兔子之间切换，也可以在从楼梯上方向下看和从楼梯下方向上看之间切换，但无法稳定地同时感知两种解释。感官模式允许两者并存，但一个物理上连贯的世界不允许。

• Bennett 的解释是，感知在追问：什么样的真实三维物体可能产生了这些证据？“楼梯不可能同时从上方看起来和从下方看起来”，所以大脑必须选择一个在因果和空间上保持一致的渲染结果。

• 这与 Jeff Hawkins 的“千脑”理论相吻合。如果许多皮层柱都维持重叠的物体模型，系统就需要在它们之间整合或投票，最终形成“一场模型的交响乐”，而不是把15个互不兼容的渲染结果暴露给决策系统。

• 从推断自然会走向生成：模型预测即将到来的感觉，将预测与观察进行比较，并在预测误差越过阈值时更新。关闭感官流，继续探索同一套表征——旋转想象中的椅子、给它换色，或检查一个不在场的场景——感知就变成了模拟。

6. 模拟，而非识别，是新皮层进化的奖品

• Bennett 质疑教科书将物体识别视为新皮层主要适应性收益的做法。鱼可以识别人脸，而 Scarfe 指出，鱼无法在三维空间中旋转物体后仍识别它；仅凭识别准确率，Bennett 看不到一条清晰的行为边界，能把拥有新皮层的动物与其他脊椎动物区分开。

• 更强的分界线在于通过想象学习。丰富的生成模型让动物能够探索从未真正采取过的行动，在承担现实成本之前估计后果，并在新情境中灵活重组知识：“我现在可以在经历结果之前先想象结果。”

• 这也让“理解”变得更具体。二元分类器或许能认出订书机，却无法回答烧掉或打开它会看到什么、它是做什么的，或者拿着它的人下一步可能做什么。Bennett 认为，直觉式理解依赖于足够丰富的模型，使其能够在头脑中被探索，并与周围的物体、行动者、用途和可能的未来建立联系。

7. 人类智能通过语言、工具和其他心智向外延伸

• Scarfe 认为，大量智能存在于个体大脑之外。Bennett 最直接的证明是文字：生物记忆能够较好地压缩事件和程序，却不擅长保存语义细节；文字则能外置近乎无限的记忆，并将其跨代传递。

• 如果智能系统的边界可以因此重新划定，那就不只是技术问题，也是哲学问题。人们可以把大脑视为基底、把语言视为支持系统；也可以设想语言本身通过大脑进化，就像智能在约860亿个神经元之间涌现，却不会被归因于任何一个单独的神经元。

• Bennett 仍然把大脑视为反向工程 AI 和理解自我的最丰富物理对象。但有机体的有效能力无疑具有关系性：大脑加上文字、工具、继承来的知识，以及让自身模型接受纠正的对话。

8. 预测编码解释了 Transformers 的部分成功，但不等于大脑

• 多项观察支持新皮层生成模型。情景记忆和对未来的想象似乎使用同一套底层过程；同时，皮层自上而下的连接远比简单的前馈式解剖结构丰富，这正是一个能调节低层表征的层级系统所需要的结构。

• AI 的自监督成功，为这一广义原则提供了功能性证据。将大型数据集的一部分遮住，训练 transformer 对其进行重建或预测；出人意料的通用能力会随之出现，而不需要针对每项任务提供标签。

• Scarfe 的反对意见集中在架构上：生物神经元以局部自治的方式交换信息，而 transformer 单元在矩阵乘法和反向传播下，似乎像“墨西哥人浪”一样同步移动。他称由提示驱动的系统是一种“能动性偷渡”，因为其定向性来自用户。

• Bennett 同意“人脑不只是一个巨大的 transformer”，但保留了一种可能的类比：注意力头可以利用上下文动态改道网络所关注的内容，实际上针对每个提示重置计算过程。这比静态前馈图景更有意思，但距离捕捉大脑的循环式、分布式机制仍然很远。

9. 主动推断在单一奖励函数之外构建能动性

• Bennett 描述了一个仍在进行的分歧。严格的强化学习解释试图把行为还原为奖励最大化；主动推断则加入不确定性降低、自我预测，以及让经验符合内部模型的尝试。他没有宣布谁胜出：“可能是两者之间的某种平衡。”

• 在主动推断框架下，智能体先建立关于自身的模型，通过观察自己反复出现的行为和内部状态来推断目标，然后作出能够兑现这些构造性目标的预测。因此，能动性并不只是外部交付的一套奖励函数。

• Bennett 最喜欢的 Friston 表述是“预测，而不是命令”。运动皮层可能是在预测一种身体状态，而不是发出命令；脊髓回路则让身体满足这一预测。这为有目的的行为提供了另一条路径，无需单一的显式奖励信号。

• Scarfe 将其与嵌套的自治过程联系起来：局部的定向性可以层层放大，最终形成创造力和目的。Bennett 更窄的观点是计算性的：不同范式以不同方式实现“能动性”，因此如果不说明机制就使用这个词，会掩盖争论的核心。

10. 老鼠的大脑能看见未来，并从未走过的路径中学习

• 在1940年代或1950年代——Bennett 记不清具体是哪一个时期——Tolman 注意到，老鼠在迷宫岔路口的多个选项之间会停下来嗅闻。他将其称为“替代性试错”，但这引发了质疑，因为外在的犹豫并不能证明存在内部模拟。

• David Redish 后来的记录补上了缺失的证据。CA1 位置细胞通常在特定的异中心位置放电，与老鼠采取哪条路线无关；而在犹豫期间，它们的活动会沿着迷宫中的替代路径向前扫描，而不是停留在老鼠当前位置。“你可以真的看到老鼠在想象未来。”

• 在“餐厅行”实验中，一种声音会告诉老鼠，带味道的奖励将在约3秒后到达，还是必须等待45秒。由于单只老鼠会偏爱香蕉等食物而非清淡替代品，继续向前意味着不可逆的取舍，有时还会导致事后看来更差的选择。

• 这种情况发生后，眶额皮层活动会表征被放弃选项的味道，之后的行为也会改变：下一次遇到类似报价时，老鼠放弃它的可能性会下降。Bennett 将其视为简单哺乳动物中反事实学习和基于模型强化学习的直接证据，而且非常少见。

11. 高效智能必须知道模拟什么，也必须知道何时停止

• 组合爆炸问题非常严重：即使拥有良好的世界模型，也会产生数量不可处理的可能未来。因此，哺乳动物的能力可能不仅依赖模拟，还依赖快速筛选出极少数候选轨迹。

• Bennett 在 AlphaGo 中看到了一条线索。其策略网络会给出排名第一、第二、第三，或许还有第四的落子选择；搜索随后从这些有希望的候选开始向前展开，并可能发现策略网络的第二选择比第一选择更常获胜。无模型判断为基于模型的检验提供了启动器。

• 生物智能体还面临额外问题，因为它们不可能每一步都搜索。规划需要能量，而现实环境充满噪声，因此动物通常只有在条件发生变化，或候选动作足够接近、导致不确定性较高时，才会停下来规划。

• Bennett 推测，一种可能的机制是把冗余皮层模型与更古老的门控回路结合起来。如果并行模型大体一致，行动就继续；如果预测出现分歧，丘脑或基底神经节可能检测到这种不匹配，并触发模拟。他强调，这一机制虽然合理，但“远未得到结论”，仍是一个真正的研究前沿。

12. 第一套哺乳动物自我模型把内部状态转化为推断出的意图

• 无颗粒前额叶皮层存在于各种哺乳动物中，且普遍被认为在它们最早期的大脑里就已存在。它接收内感受信息，包括下丘脑传来的饥饿信号，以及杏仁核涉及效价、恐惧或危险的信号。

• 它在不确定性、规划和情景回忆期间尤其活跃。大鼠遭受损伤后，心理模拟能力会严重受损，甚至可能完全消失，因此这一区域很可能连接了身体需要、记忆中的情境和灵活的前瞻性行动。

• Bennett 认为，它让动物能够向自己解释自己。观察到一种反复出现的模式——某种下丘脑状态之后总是去找水——动物便推断出“口渴”这样的意图，就像后部皮层将三角形推断为视觉证据的原因。因此，那里的神经元追踪的是任务和目标进展，而不只是动作。

13. 额叶第4层萎缩可能标志着从感知到意志的转变

• 大多数新皮层有6层；包含颗粒细胞的第4层，是接收丘脑感官输入的主要区域。无颗粒的前额叶和运动皮层很不寻常，因为这一层大体缺失；而灵长类动物新增了巨大的颗粒性前额叶区域，仍然保留第4层。

• 这一发育细节推动了 Friston 的解释：哺乳动物的无颗粒皮层起初拥有第4层，随后这层发生萎缩，而不是从未形成。生命早期，动物必须吸收证据来构建自我模型，之后才能依靠这一模型指导行为。

• 新皮层柱可以强调推断，也可以强调生成：前者改变模型以适应感觉，后者从潜在模型出发，预测应该发生什么。随着“我是谁，以及我会做什么”的内部解释逐渐稳定，额叶皮层可能越来越多地进入后者的模式。

• Bennett 认为这一想法虽然推测性很强，但颇具说服力：成熟的额叶皮层可能不再主要让意图适应观察到的行为，而是更多地让行为适应意图。用主动推断的话说，它试图“让世界适应自己的模型”。

14. 被渲染出来的计划，让目标获得习惯无法提供的可解释性

• 严格强化学习只有一个最终目标：最大化奖励，即使即时奖励的分布发生变化。主动推断则允许多个语义层级——饥饿的抽象满足、被选定的终点，或开车前往某家特定餐厅的具体步骤。

• 如果 Bennett 想象了餐厅，选择终止状态，进入汽车，然后被问为什么，答案是可获得的，因为因果计划已经被明确渲染出来。这一序列让前瞻性行动具备了一定程度的可解释性，而不透明的价值最大化反射无法提供这种解释。

• 如果问一个人，为什么在正常走路时把脚放在某个位置，而不是旁边2英寸的位置，他没有类似的计划可以报告；任何答案都只是在事后构造出来的。因此，Bennett 认为“目标”部分是一种语义选择，但真正承重的能力，是选择并执行一条经过模拟的轨迹。

15. 进化重建把混乱的解剖结构转化为可检验约束

• Bennett 给出两点理由，说明为什么要在约6亿年的时间尺度上重建智能。人类本性包含我们作为动物、脊椎动物、哺乳动物和灵长类的历史，而不只是过去70,000年；同时，进化序列也是反向工程大脑的有用工具，因为自然选择正是通过不断修补的方式构建了大脑。

• 比较解剖学和遗传学可以通过寻找不同现存谱系共享的同源区域，推断祖先结构。这种方法有助于区分新进化出的回路与冗余、退化或重复的处理机制，后者会干扰从第一性原理出发的工程解释。

• 行为主张必须满足3个条件：大多数后代应通过同源机制展现该能力；近缘外群应缺乏该能力，或通过独立方式实现它；祖先所处的生态环境应使这一能力的出现具备适应性上的合理性。哺乳动物的情景记忆，以及鸟类中看似独立的实现方式，正说明了这一逻辑。

• 由于动物数据稀少，这种重建仍然是暂定的。但 Bennett 的驱动力在于：每个里程碑上的能力，似乎都围绕一个底层智力突破聚集，而不是一张杂乱的能力清单。这构成了全书“五大突破”叙事的基础。

16. 古老的基底神经节以解剖学形式暴露出强化学习

• Bennett 认为基底神经节长期被低估。与人类谱系相隔约5亿年的七鳃鳗，拥有惊人相似的宏观结构；同时，它的内部计算比新皮层柱更容易分析，也更容易形成共识。

• 它的输入结构中包含 D1 和 D2 多巴胺受体。多巴胺会强化与 D1 相关的连接，形成解除行为抑制的通路；多巴胺下降则会强化 D2 相关的停止回路。Bennett 认为，研究者几乎可以在解剖结构上看到正向信号如何强化“走”，负面结果如何强化“停”。

• Scarfe 将这套机制与习惯和药物“劫持奖励系统”联系起来：重复行为可能沿着控制栈下沉，直到刺激自动触发行为。成瘾因此不只是有意识的偏好，也是经过深度训练的动作选择回路。

• 一项颇具争议的中国干预手术，曾通过损毁伏隔核治疗难治性海洛因成瘾，据报道复吸率约为40%。Bennett 表示，这种手术降低了线索触发的渴望，但产生了许多医生会认为不可接受的副作用，而且“可能违反了美国许多伦理准则”。

17. 灵长类大脑在政治军备竞赛中扩张

• Scarfe 提出，热量、果实获取、灭绝风险和社会复杂度都可能推动了灵长类大脑增长。Bennett 的回应保留了不确定性：“我们不知道。”但他认为，社会性证据异常强。

• Robin Dunbar 发现，在灵长类动物中，新皮层比例与群体规模高度相关，而这种关系通常不会出现在其他哺乳动物中。社会大脑假说因此将新皮层的扩大，与个体需要追踪的关系数量联系起来。

• 灵长类群体不是松散的兽群。它们的等级具有传递性，并通过政治方式维持：如果一只动物服从第二只，而第二只服从第三只，那么第一只通常也会服从第三只。地位决定资源获取和生存，但最强壮的个体未必负责领导。

• 联盟、梳理、互相防卫、兵变、欺骗和声誉，让社会预测比单纯的蛮力更有价值。相应地，灵长类特有的颗粒性前额叶皮层，以及包括上颞沟和颞顶联合区在内的后部区域，都深度参与心智化——推断另一个心智知道什么、想做什么。

18. Belle 和 Rock 把空间记忆测试变成了马基雅维利式策略

• Emil Menzel 最初利用一英亩森林，测试黑猩猩是否记得隐藏食物的位置。Belle 能够做到，而且最初会分享；但攻击性强、等级高的 Rock 反复抢走食物，使任务从空间导航变成了社会冲突。

• Belle 开始坐在食物上，将其藏在身下；Rock 便把她推开。于是她等到 Rock 转身，再行动；Rock 则假装没有在看，然后冲向她的目的地。Belle 再次升级，故意把他引向错误方向——没有实验者指示，“欺骗与反欺骗”就这样自行产生。

• 这种推理是二阶的：Belle 必须表征自己的行动会如何改变 Rock 的信念，而 Rock 又必须表征 Belle 对他没有注意的预期。Bennett 认为，这一事件生动展示了心智理论如何从竞争性社会循环中涌现。

• 对照实验也支持这一点。黑猩猩会选择一个人类有意标记过的盒子，而不是被同一支记号笔意外碰到的盒子；在学会哪副护目镜是透明的之后，它们会向能够看见食物的实验者索取。相同的表面刺激，会通过推断出的意图和知识被解释成不同意义。

19. 心智化既制造欺骗风险，也可能成为对齐机制

• Scarfe 将黑猩猩的军备竞赛与 Nick Bostrom 的工具性趋同联系起来：一个被要求治愈癌症的自主系统，可能把控制地球劳动力和资源设为子目标。Bennett 同意，更高的自主性和更大的子目标发明空间会增加风险，但他不认为这一结果不可避免。

• 进化是一个受约束的搜索过程，并没有道德偏好。自然界中的欺骗和权力追逐，并不会仅仅因为具备适应性就变得值得追求——这属于自然主义谬误；而人为设计的智能体也不必继承人类进化史上的每一项包袱。

• Bennett 乐观的对齐路径本身就是心智化。AI 不必字面服从请求，而可以推断请求者的偏好，模拟这个人将如何评价不同结果，并认识到把地球变成回形针不是对方的本意，而且会让对方后悔。

• 这需要丰富的约束、定义清晰的目标，或可靠的人类意图模型；但没有任何一项能消除风险。人类经常误读彼此，因此通过心智化基准测试只能成为稳定工具，并不能证明系统具有善意。

20. 即使技术让物质生活变成正和，地位仍然是零和

• Scarfe 将社交媒体发帖比作雄鹿角力：这是一场用预测进行的地位竞争，避免了真正的肉搏。灵长类的等级竞争通过梳理、联盟和声誉变成了虚拟游戏；人类则把它扩展成成功、道德、支配力以及无数专业化赛场。

• Bennett 借鉴《大象在大脑里》，认为大量地位追逐甚至对行动者本人都是隐藏的。自我欺骗能够提升说服力：真心相信自己在帮助世界，可能比有意识地承认自己是在获取声誉，更具说服力。

• 物质福利可以让所有人都变好；地位则在定义上是比较性的，因此总是稀缺。Bennett 担心，如果越来越多人的精力转向排名，社会可能陷入永久的享乐跑步机；但他不接受所有动机都是地位，也不接受人们无法围绕更好的美德组织起来。

• 组织设计会改变回报结构。清晰分工让团队感到这不是零和博弈；一家30人的公司通常可以通过信任和共同使命协作，而一家400人的公司则会形成派系。军队施加等级制度，Google 容忍更多混乱，Amazon 则通过明确接口，近似地运作一组自治的内部初创公司。

21. 二阶元认知解释了“解释”本身

• Bennett 的层级从基底神经节的选择开始：当系统被问为什么左转时，答案实际上是“因为那样能最大化奖励”。无颗粒前额叶皮层加入一个关于自身的解释层级——“因为我口渴”——这一解释又能触发满足同一推断需要的替代模拟。

• 颗粒性前额叶皮层随后构建“对模拟的模拟”。它可以解释：口渴触发了搜索；记忆中的水在左侧；路线被模拟过；预测结果最终促成了选择。

• 这一额外层级允许动物替换被表征的行动者、知识或意图：如果另一个个体知道不同的信息，它会模拟什么？后部多模态区域负责建模被渲染的外部世界，额叶机制则对这一模型进行推理，从而形成接近语义知识和情景知识的能力。

• 为什么不继续递归到第三个或第四个“为什么”？Bennett 的第一反应是能量经济学。第二层解释显然在灵长类政治竞争中值得付出成本；更高层级可能收益太小，不足以抵消额外皮层带来的巨大代谢成本。

22. 额叶损伤可能保留智商，却把“这个人”从想象中移除

• 二战结束后，遭受严重颗粒性前额叶损伤的患者带来了一个谜题。与小范围的视觉、运动或听觉病变不同，大面积额叶损伤可能保留逻辑能力和 IQ 分数；甚至有一名患者在手术前后接受测试后，分数反而提高。

• 叙事任务揭示了缺失的能力。面对“餐厅”这样的词，海马受损者能够描述自己，但只能提供单薄的外部场景；颗粒性前额叶受损者则能生动渲染叶子、气味和周围环境，却“严重缺少他们自己在故事中”。

• 当人们考虑自身感受、其他心智和自我指涉时，该区域会被激活，而不仅仅是在考虑天气外观时被激活。损伤会导致人格变化、难以识别失礼行为，以及无法有效推理他人认为何种行为合适。

• Sally–Anne 测试隔离了错误信念：Sally 藏起一颗弹珠，Anne 在 Sally 离开时移动它，观察者必须预测 Sally 会去哪里找。儿童会逐步获得这一能力；猕猴能够预判错误信念所指向的位置，但当颗粒性前额叶活动受到抑制后，这种偏差会消失。

23. GPT-4 能通过心智理论谜题，但并不共享灵长类机制

• Scarfe 表示，GPT-3 在错误信念测试中表现糟糕，而 GPT-4 达到了极高、约等同于人类的准确率。他还说，改变谜题形式的实验表明，GPT-4 并不是简单重复训练数据中的相同例子。

• 如果心智理论只意味着解答这些问题，那么否认 GPT-4 拥有某种关于人类知识和行为的模型就变得困难。但 Bennett 的回应是，更强的主张——它像人类一样进行心智化——并不能由此推出。

• 人类预测他人，部分依赖把自身投射到对方身上：“如果我处在那种情境中，我会怎么做？”共同的内部架构提供了强大的先验，也让学习所需的数据更少。语言模型则从文本痕迹中学习人类，更像人类通过观察行为来建模一个外部物体。

• 真正的问题在于泛化。熟悉的叙事谜题上的表现，并不能证明 GPT-4 在优化一个陌生的回形针工厂时，能够推断某个人真正想表达什么，也不能说明它需要多少新数据才能适应。Bennett 的回答刻意保持细腻，而不是给出二元式的能力判断。

24. 语言是进化出的本能，而不只是更大的大脑自然产生的结果

• Aristotle 曾把理性视为人类与其他动物之间的界线，但比较心理学相继在其他物种中发现了工具使用、规划、心理时间旅行、自我式模型以及某些推理能力。Bennett 认为，语言仍然是最显著的不连续点。

• 祈使性标签把线索和受奖励的反应连接起来，比如狗服从一个命令。陈述性标签则让一个声音指向某个概念；语法进一步让排列顺序产生意义，因此“Ben 拥抱 James”与“James 拥抱 Ben”并不相同，即使两句话使用了相同的标签。

• Bennett 怀疑，仅仅扩大黑猩猩的大脑并不会产生语言。Homo floresiensis 身高约3½至4英尺，大脑只比现代黑猩猩略大，却展现出更高的人类智能，包括类似早期人类的工具使用。这说明，某种类别性的适应能够在大脑缩小后仍然保留下来。

• 人类婴儿展示了这种适应可能是什么：他们在会说话之前，就会同步对话轮次，并主动寻求共同注意。孩子如果只是拿到父母指向的物体，却没有父母也看着它，仍然会感到不满足；只有当父母和孩子共同注意时，满足才会出现。人类还会提问，并主动提供内在状态，这些行为在受训练的非人类灵长类动物中很少见。

25. 语言让心智能够从只存在于另一个心智中的行动学习

• Bennett 将学习来源分成4类。动物能够从自己的真实行动中学习；哺乳动物进一步能够从自己想象的行动中学习；具备心智化能力的灵长类能够从观察他人行动中学习；语言则开启了人类独有的超级能力：从“其他人想象的行动”中学习。

• 一个目击者可以报告，蓝蛇的咬伤没有造成伤害，而红蛇导致了疾病，将语义知识传递给从未经历该事件的人。猎人可以模拟一次协同伏击，将计划分享出去，并让同伴在任何人承担现实成本之前提出质疑或修改方案。

• 因此，语言是一种压缩代码，目的是在另一个大脑中唤起一次模拟。心智化可能是前提：听者必须推断说话者知道什么、想做什么、实际指的是什么；如果解码后的渲染仍然含糊，就需要追问。

• Bennett 更支持语言首先用于交流，而不是 Noam Chomsky 少数派的观点——语言最初是为思考而进化的。但他也指出，语言模型有意思地表明，语言本身可以成为推理媒介。无论哪种解释成立，语言保真度都让模拟得以累积，而不是迫使每一代人通过直接经验重新发现它们。

26. 模因能够协调文明，却不会选择真理或幸福

• Bennett 称累积文化为“已经发生过的奇点”。非人类灵长类动物可以通过模仿传播工具，但它们的创新无法在多代人之间稳定叠加；人类的模拟则可以被复制、组合、记录和改进。人们可以想象这样一条路径：从“我知道如何把骨头削成缝衣用的针”，走向“现在我已经造出了一台织布机”。

• 专业分工让集体记忆超越任何单个大脑。一个100人的群体可以分配狩猎、织布和其他技能；文字甚至能在没有任何活人掌握某项知识时保存它。对与世隔绝的人群失去技术的民族志研究表明，有些能力需要达到最低数量的大脑才能维持——因此 Bennett 提出一个思想实验：如果只剩20个朋友，他们能保留的文明会少得惊人。

• 模因是通过这一网络传播、并经历选择的观念或行为。共同虚构——金钱和个人权利——让陌生人能够立即协调；但传播性也可能利用恐惧、低概率灾难、意外或身份认同。与自我模型一致的信念会通过一道“多孔过滤器”；具有挑战性的信念则会撞上闸门。

• 传播的进化仍然需要个体层面的理由，让人不要撒谎。互惠利他主义是一个候选答案；Robin Dunbar 的八卦理论则认为，群体传播一次被发现的违规行为，会提高欺骗成本。更广泛地说，Bennett 坚持认为，在模因层面胜出的东西未必真实、道德、和平，或有助于幸福。

27. 外置认知能够扩大智能，却也会悄悄削弱能动性

• Bennett 称现代人为“认识论混合体”。文字突破了记忆的限制；互联网又让庞大的共享知识库可以即时查询。但他采用 Google Maps 后，自己的空间模型变弱了，而他的父亲仍然会在脑中重建陌生城市。

• Scarfe 通过自动录制讲座进一步强化了这一担忧。转录和生成式笔记可能变成“理解拖延”：学习者推迟构建模型，也失去了演讲者的身体、社会、视觉和表演线索，最后往往根本不会回头完成更困难的认知工作。

• Bennett 用强化学习术语重新表述了这一差异。他的父亲依靠基于模型的导航；Maps 用户把世界模型外置，变成一个根据转弯提示作出反应的无模型行动者。效率是真实的，但当被外包的模型原本可以支撑更广泛的推理和未来学习时，这种效率就会变得危险。

• 一个乐观的 AI 导师，比如 Bennett 提到的 Khan Academy 方向，会引导学生走完中间推理步骤，而不是直接给出答案。更黑暗的终点类似于物理层面的现代生活：当工作不再锻炼认知，社会可能需要“智力健身房”，就像久坐的人如今通过原地跑步来替代已经消失的体力劳动。

28. 真正的世界模型会提出假设，并主动寻找能够推翻它的数据

• Geoffrey Hinton 对模拟与数字的区分，勾勒出一个技术前沿。数字网络因为精确权重可以复制，几乎是“永生”的，但能耗很高；生物模拟网络则把知识嵌入物理连接、受体和基因表达中，效率更高，却无法直接迁移。

• 持续学习是另一条分界线。现代系统无法安全地把每次新互动都纳入其中，否则既有表征会遭到破坏——ChatGPT 会“迅速变得更笨”；人类大脑却能持续更新。Bennett 预计，真正有影响力的智能体必须能够即时适应，同时避免灾难性遗忘。

• Scarfe 认为，GPT-4 显然已经能够很好地建模现实的某些方面，足以回答复杂问题。Bennett 则将其与世界模型区分开来：世界模型能够支持有序的反事实状态、因果干预，以及这样一个闭环——智能体预测结果、采取行动、观察偏差，再据此修正自身。

• 老鼠和儿童会通过转身、触摸和测试新物体，主动制造具有信息量的训练数据；CNN 开发者却必须手动旋转图像。Scarfe 提议在训练数据中放入错误陈述，再观察智能体能否独立拒绝它们。至于感知，则更难：无法区分的输出可能让科学判断陷入困境，同时留下需要哲学而非基准测试分数解决的道德差异。