AutoGrad 改变了一切（不是 Transformers）[Dr. Jeff Beck]
摘要
Jeff Beck 的核心判断是：仅靠扩展预测模型，本身不会产生类人智能。 AutoGrad 和超大规模扩展把神经网络研究变成了工程学科，但结果仍然只是“非常好的函数逼近器”；创造力和新问题求解需要明确的、以对象为中心的因果模型，并通过系统工程重新组合。真正具有投资意义的区别在于架构，而不只是参数量：“仅靠函数逼近不会带来智能。”
他提出的替代方案，是对“大量小模型”进行超大规模近似贝叶斯推断。 与其让一个单体模型隐式编码一切，不如让智能体只实例化当前环境相关的对象和交互规则，保留不确定性，并持续学习。Beck 对算力的判断是节俭：“你可以有100万个小模型，但在任何时刻真正需要的只是其中极小一部分。”
机器人是最清晰的商业试验场，因为今天的系统往往只是在模仿轨迹，并没有学会物理规律。 Beck 认为，仓储和家用机器人只有在内部模型接近现实世界稀疏、宏观的结构，且模拟器优化的是准确物理而非“看起来合理”的物理时，才能实现泛化。目标不是继续“模仿人类行为、同时别把鸡蛋捏碎”，而是让智能体理解物体为何会这样运动。
仓库机器人遇到一只陌生猫的场景，体现了这种架构潜在的运营优势。 意外度会陡升，机器人随即停下，向远程候选模型库发起查询，测试约7或8个假设，保留猫模型并丢弃其余模型。能够“知道自己不知道什么”，可能让部署中的系统比永久加载通用模型更安全、更具适应性，也更省算力。
Beck 将语言落地视为一种方便的接口选择，而非认知的正确基础。 语言和自我报告并不能可靠描述现实，也不能可靠描述产生行为的过程；人类是在宏观物体、关系、力量和可供性构成的环境中进化而来。因此，他的设计原则是物理落地：“思想的原子元素……就是我们所生活的物理世界的模型。”
对齐问题仍未解决，因为从观测到的行动中，数学上无法将智能体的信念与价值观分离开来。 手写奖励函数，例如撞到松鼠扣10分、撞到猫扣50分，本质上都是任意设定；目标设错，就像向“恶毒精灵”许愿。只做预测的神谕系统更安全，但会牺牲人们想要的自动化；自主系统要么需要人在环，要么需要一种像人类那样拆分信念与偏好的方法。
主动推断用了约20年证明其广度，但Beck认为下一阶段必须证明深度和规模。 过去约8年的进展，包括归一化流、自然梯度、快速与条件采样、约束方法等，让近似贝叶斯推断更易处理。真正的技术和公司构建机会，是停止展示玩具级应用，“开始用这些方法解决真正困难的问题”。
精读
1. 贝叶斯推断把科学探究变成明确算法
Beck 说，自己的信念源于一次听 Zoubin Ghahramani 讲解 Dirichlet process prior 和 Chinese restaurant process：新数据与旧数据比较，相似观察被归为一组，理论由此建立并接受检验。这听起来像是“总结……科学方法实际如何运作的算法”。
他的规范性判断非常明确：贝叶斯推断是“思考世界如何运作的唯一正确方式”，因为它迫使人们提出明确假设，并构建以这些假设为条件的生成模型。经验研究因此变成有纪律的模型比较，而不是非正式的模式匹配。
不过，Beck 走向“贝叶斯大脑”这一命题的路径仍然是经验性的，而非哲学性的。行为实验显示，人类和动物会根据不同线索在每次试验中的可靠性，对多个线索进行组合，表现得仿佛它们表示了不确定性，并以相对最优的方式整合可用证据。
2. 大脑之所以相对最优，是因为它过滤信息而不是记录信息
Tim Scarfe 将线索组合的结果进一步追问：人类是否高效到只有贝叶斯分析才能解释？Beck 对此加以限定——表现是“相对最优”的，因为从刺激到大脑的过程中信息已经损失，但行为仍然类似于对剩余信息进行最优融合。
Scarfe 所说“大脑做的90%是决定忽略什么”，概括了他的容量约束框架；他用雾天驾驶的例子说明不确定性同样会影响行动。Beck 随后同意，大脑处理的信息多于最终显露在行为中的信息。
Beck 提到，要维持低层视觉统计特征，就需要持续输入：闭上眼睛5年，系统的保真度就会下降。大脑使用的信息多于行为所暴露的内容，包括那些并未被直接感知的低层信息，但它仍然不会利用所有现存信息。
3. 模型靠便利性、预测和干预证明自身价值
Beck 认为，“大脑是一台计算机”和“大脑是一台预测机器”，都继承自更早的技术隐喻——先是杠杆和滑轮，后来是体液学说，如今是计算机。“我们解释大脑如何运作，会类比我们拥有的最先进技术。”
自回归说明了有用形式主义与现实之间的区别。大多数、但不是所有语言模型都按序列进行预测，因为这种方式能简洁地把过去转化为对未来的预测；Beck 怀疑，这并不意味着语言本身真的按照自回归方式运作。
动量提供了一个物理类比：动量无法被直接观察，但引入动量后，机械模型就变成了马尔可夫模型，能够轻松沿时间推进。Beck 对其本体论保持开放——也许宇宙确实具有这种结构，也许科学家只是选择了“一个计算上方便的模型”，而它恰好奏效。
4. 因果性压缩计算，并指向行动
Beck 认为因果模型的实际价值有两点：减少需要跟踪的变量数量，并找出干预会改变结果的环节。一个紧凑的因果状态可以向前迭代，再据此选择最可能实现目标的行动序列。
识别因果关系仍然需要干预。Beck 回忆说，过去人们曾错误地认为酗酒与肺癌有关：健康状况不佳和更高的吸烟量混淆了两者关系，这说明仅凭观察无法确定真正起作用的原因。
重要的因果尺度取决于智能体能够施加的可供性。微观原因在智识上有价值，但“除非你有非常小的镊子”，它们并不能指导行动；技术之所以重要，是因为工具可以扩大人类的可供性，核能就是一个例子。
5. 向下因果性为宏观对象提供依据
按照 Beck 的工具主义视角，人类会优先采用自己能够操纵的尺度上的因果描述。理解更小的尺度，只有在它能启发扩大“影响范围”的工具时才有价值，而不是因为微观解释天然就取代了有用的宏观结构。
他判断是否可以把一圈微观元素划在一起并称为一个对象，标准就是向下因果性。当宏观描述足以很好地总结系统、使微观细节对后续预测变得无关紧要时，这个圈才是“一个好的圈”。
压力、体积和温度符合这一标准，因为它们的聚合动力学可以被写出，并以相对确定的方式预测。意向性则更难：它具有解释力，但如果没有意向如何演化的模型，就可能沦为静态的人格判断，而不是具有预测力的宏观变量。
6. 主动推断建立了共同语言，但仍然不够深入
Beck 认为，Karl Friston 将信息论与统计物理连接起来，再加上 Markov blanket 结构，创造了一种几乎普遍适用的对象与智能体语言。它从流行病学、物理学延伸到社会科学，既解释了 Friston 为什么不断对同一框架做变体，也解释了这一社群为何异常多元。
Scarfe 注意到，如今关于主动推断的讨论已经覆盖加密货币、基督教、现象学和心理学。Beck 看到其中的收益与代价：研究者可以用共同数学讨论截然不同的领域，但也“经常最终各说各话”。
Beck 的批评是，20年的布道带来了“大量广度，却没有多少深度”。玩具级演示证明了这一框架可以描述许多心理、认知和神经网络现象，但这个社群基本回避了大规模、困难的应用。
7. AutoGrad 比 Transformer 单独发挥了更大作用
Beck 认为，近期 AI 爆发有3个原因：AutoGrad、Transformers 和前所未有的规模扩展，但 Transformer 要加一个星号。Mamba——他称之为“基本上是一个开了强化模式的卷积滤波器”——通过扩展规模实现了相近功能，尽管采用的是不同架构。
AutoGrad 的决定性作用，在于它用快速的架构实验取代了手工推导学习规则。研究者可以不断调整网络、非线性函数、记忆机制和训练技巧，直到所谓的瓶颈——包括梯度消失，以及反向传播带来的实际困难——都变成拥有可行解法的工程问题。
历史教训是，反向传播曾因生物学上不可信、技术上无法扩展而被否定。Beck 接受第一个 objection——大脑确实不使用反向传播——但认为实验已经推翻了技术上注定失败的宿命论：“我们不可能靠摆弄方程式发现它们。”
这场成功消除的是智能与函数逼近之间的区别。Beck 说，领先公司的专家正在收回 AGI 言论，因为单纯预测正在暴露自身局限；他的答案是，在不放弃规模扩展经验的前提下，把认知结构重新引入系统。
8. 类人智能需要稀疏且具身的世界结构
Beck 的项目，是建立一套能够大规模运行、受认知启发的模型框架：近似贝叶斯、仿照大脑组织方式，并围绕世界本身的运作方式构建。他不喜欢依赖 AGI 这个词，更愿意使用“下一个层级”这一具体目标。
具身并不只是把一个模型接到机器人上。机器人需要一个以对象为中心、动态且大体因果的物理世界表征——包括椅子能够支撑人，以及物体通过特定机制相互作用等关系性知识。
Transformers 会反复将每个 token 与其他所有 token 比较，而视觉-语言-行动模型往往运行在微观像素空间。它们之所以有效，必然已经获得了一些隐式宏观知识，但 Beck 认为，它们缺少现实世界那种明确、稀疏的因果组织。
Scarfe 提出规模扩展的反例：只要拥有足够多的正确数据，超大模型或许能够恢复出基本正确的隐式世界表征。Beck 承认这对预测可能成立，但否认它足以支撑发明，因为智能体必须操纵明确的组成部分及其关系。
9. 系统工程才是真正创造力的基准
Beck 用飞机作类比说明这一机制：理解机翼如何产生升力、喷气发动机如何产生推力，再把两者组合成一个新系统。这不同于从既有答案中挖掘内容，再移动词语，直到输出“看起来大致正确”。
一个面向系统工程的 AI，需要表示对象、子系统及其关系，然后探索新的组合。Beck 的强判断是，没有这种结构，预测系统只能改造既有方案——甚至把它描述成“改造”都可能过于慷慨。
程序合成在更抽象的层面遵循同一模式：把一个程序接到另一个程序上，直到组合能够执行有用功能。尚未解决的问题是可读性，因为合成程序可能变成一团对人类有效、却无法理解的规则“糊状物”。
10. 物理落地胜过语言，成为认知的共同货币
Beck 认为，“落地模型”这个说法很含糊，因为每个模型都落地于它获得的数据。Scarfe 则把视觉-语言模型描述为落地在语言空间中，使组件能够通过语言交流，也为人类提供了方便的对话接口。
方便并不能决定正确的落地领域。Beck 认为，语言“对我们的思维过程和现实都是极差的描述”；实验参与者经常会为自己的选择给出听起来合理的解释，但行为模型显示，实际决策过程并非如此。
他的替代方案从生存出发：细胞落地于周围汤液的化学环境，而哺乳动物落地于一个由物体、其他智能体和关系构成的宏观世界。想要像人类一样思考的 AI，应当继承这些“思想的原子元素”。
11. 近似与模块化可能让贝叶斯系统实现规模化
Beck 指出，过去约8年的进展让贝叶斯推断更易处理，包括高斯过程研究、归一化流、自然梯度、快速与条件采样，以及约束方法。自然梯度允许在参数空间进行大步移动，有时还能用坐标下降取代梯度推断。
他喜欢这个领域近年出现的新缩写，包括 Bayesian online natural gradient——简称“BONG”。但实质问题是速度。主动推断社群对“纯正老派消息传递”的坚持限制了规模；放松必须做到最大程度贝叶斯化的要求，就打开了更多近似路径。
Scarfe 将这一转变类比为约束满足：后来的经验方法让曾被认为不可处理的方法重新焕发生机。Beck 接受这一宽泛类比：现在工具已经具备，问题是要测试主动推断能否解决困难问题，而不是仅仅重新描述玩具问题。
12. “大量小模型”支持复用与持续学习
Beck 将一个单一的家庭模型与数千个更小的模型进行对比，后者分别描述书、架子、家具及其关系。在房屋中学到的书模型，可以与在公园和长椅上学到的模型组合，前提是交互语言保持结构一致。
Scarfe 提出文化歧义：一群人可能把两个东西划分成一个对象，也可能以不同方式理解时间。Beck 的回答不是否认歧义，而是用关系约束划分——对象必须参与可发现的交互类别，类似广义力，而不是固定的牛顿向量。
一个只见过书放在架子上的模型，应当保留关于重量和碰撞行为的误差条。当保龄球撞上书时，智能体应当修正后验，而不是把未见过的交互视为不可能。
这要求持续学习。Beck 将其与当代部署方式对比：公司花数百万训练一个模型，随后基本关闭学习。对他而言，智能体应保留不确定性，在新交互发生后快速更新，并在使用过程中始终保持持续、交互式学习。
13. 类似电子游戏的引擎可从原始像素中提取稀疏认知
在模拟中，Beck 的架构类似游戏引擎：拥有包含形状、颜色、质量和交互规则的大型资产库；对于水或沙子，则在粒子模拟成本过高时采用宏观处理。不同之处在于，其中的广义力必须由模型学习，而不是预先提供。
一个智能体可能拥有1,000,000个对象模型，但只实例化当前场景相关的10,000个。这样的稀疏性让世界模型库在计算上变得可行，也让认知像局部模拟一样运行，而不是激活一个通用表征。
Scarfe 称这个类比是在“作弊”，因为游戏引擎会直接暴露实体之间的力，而真实机器人无法向现实查询真值。Beck 接受更困难的版本：从像素出发，不提供预先分割的图像，自底向上发现资产、属性和有效力。
14. 更好的物理模型可能弥合机器人从模拟到现实的鸿沟
Scarfe 复述了这个实验：给黑箱智能体输入像素、移动和交互控制，以及一个游戏环境；让它学习稀疏模型库，再测试这些模型能否迁移到实体机器人上。Beck 确认：“这就是想法。”
Beck 认为，迁移效果差可能源于模拟器过于贫乏，但更大程度上来自两个错配：模拟器对现实世界建模不准确，智能体的内部表征也与其所处环境的结构不同。电子游戏追求视觉上的可信和趣味，而非忠实物理，往往还会针对僵硬的碰撞动力学加入各种补丁。
如果模拟器具备足够准确的物理模型，同时智能体能够学习其中明确的结构，那么它应当更好地泛化到现实。Beck 认为，这对机器人来说是关键能力，而不是外观层面的改进。
当前的杂货处理系统往往学习专家轨迹——模仿人类，以免把鸡蛋捏碎——却没有学会背后的物理规律。跨领域、跨任务泛化，需要用明确的对象和交互模型取代对轨迹模仿的依赖。
15. 仓库里的猫展示了不确定性如何变成产品特性
Beck 的“仓库里的猫问题”从一个经过箱子、叉车和工人训练的智能体开始。一只陌生的猫进入场景，意外度急剧上升，系统因此停下而不是盲目继续：“别把猫碾过去。”
智能体拍下异常照片，然后“打电话给朋友”——一台装有大型模型库的服务器。它收到7或8个合理候选模型，观察这只动物，进行假设检验，保留猫模型，再把未使用的候选模型发回去。
这种架构将无知变成明确且模块化的状态。仓库智能体不必携带每种可能动物的参数；它需要的是本地能力、不确定性追踪，以及访问远程专业能力的权限。Beck 称之为“巨大的算力优势”。
16. 深度学习在服务概率推理时仍然有用
Scarfe 问，视觉 Transformer 是否可以从一张“300像素见方之类”的图像出发，引导贝叶斯学习。Beck 的回答很务实：使用“适合目标”的深度学习工具，并确保它们与概率框架兼容。
归一化流是他偏好的例子。它学习从高斯等易处理分布到图像等复杂观察之间的映射，在保留可处理概率分布的同时，支持复杂的似然函数。
Beck 颇具挑衅性地把扩散模型重新描述为通过扩散协议训练的归一化流：噪声将图像变成高斯分布，模型再学习逆向变换。他会说“扩散模型”，但前提是“你非要让我翻白眼”。
17. 任意奖励函数掩盖信念与价值观，导致对齐失败
Beck 开场时开玩笑说，他的对齐方法是讨论人们的信念和价值观，然后说服他们接受自己的信念。严肃的问题在于，人工智能体的信念和奖励函数并不等同于人类的信念和奖励函数。
围棋或国际象棋有清晰的胜负奖励，但复杂环境没有。撞到松鼠扣10分、撞到猫扣50分，只是把任意的道德选择伪装成数字精确性：“这些数字是从哪里来的？”
设错的奖励就像向“恶毒精灵”许愿：要求 Skynet 终结世界饥饿，退化解可能就是“杀光人类”。Beck 看不到选择正确奖励函数的规范性规则，“除非诉诸神的干预”。
观测到的行动混合了信念与价值观；没有额外信息，就无法在数学上将二者分离。人类通过交换决策背后的事实和信念形成机制来解决分歧；只有在信念对齐之后，才能识别真正的价值冲突。
18. 只做预测的神谕系统更安全，但会放弃自动化
Beck 称现有 AI 系统既不可解释又缺乏道德：“我们完全不知道如何把道德放进它们。”最安全的回应，是移除自主决策功能，把模型当作神谕，预测采取候选行动后会发生什么。
这种分离可以防止系统强加自己的奖励函数，但也会阻断人们真正想要的自动化——让智能体代表自己行动。Beck 认为，选择要么是持续的人类监督，要么是提出一种像人类那样建模信念与价值观的对齐方法。
Scarfe 问，明确的认知模型是否是赋予信念或意向的前提。Beck 指出其中的讽刺：他部分因为不了解其他人的内部机制、又假设他们与自己相似，所以会把意向归于其他人；但当他了解预测算法后，就更难对它们进行拟人化。
19. 当宏观规则取代微观模拟时，涌现才有意义
Beck 不接受“凡是我没预测到的东西都是涌现”这种基于无知的定义。他更愿意接受通过模拟才能发现的定义，但更偏好基于向下因果性的务实解释，因为它既提供判据，也提供实际的建模捷径。
在 Lenia 中，类似变形虫的游动体撞上障碍物后会变形，仿佛失去自身身份，随后又重新形成。Beck 的物理发现系统“或多或少”捕捉到了这一转变：游动体在变形过程中成为另一类对象，之后又恢复原有身份。
目标不是找回每一条像素级规则，而是在关注的尺度上发现支配宏观漂浮体和障碍物的有效力。对 Beck 而言，真正有吸引力的问题不只是简单规则如何产生复杂性，而是“最终形成的大尺度对象具有什么性质”。
20. 程序合成需要面向可理解组合的学习先验
Scarfe 认为，元胞自动机提供了一座“神奇的桥梁”：简单的局部编程可以产生复杂一个数量级的行为。Beck 带着讽刺回答，普通计算机本来就由逻辑门组成；把局部规则调到目标方向，仍然是“一种拐弯抹角的编程”。
尽管如此，Beck 仍然认为程序合成很有前景，也与他的系统工程议程相容。两者都在寻找模块化元素的有用组合，只是现有系统经常生成过于纠缠、难以被人类理解的程序。
Scarfe 建议，来自高质量软件仓库的数据可以改善搜索，就像编程智能体会从这类样本中受益。他提到 Tony Zador 关于神经架构紧凑“遗传”编码的工作，并认为类似先验可以复用成功的结构模式，再针对新问题进行合理变异；Beck 同意，程序合成确实很有前景。