摘要

AI真正的护城河，可能会从单一架构转向能够利用现实世界既有结构的系统。 Moore 猜测，几年后研究者或许会得出结论：transformer 确实有效，但“几乎任何足够丰富的架构都能奏效”（almost any sufficiently rich architecture will work），因为真实数据既不是对抗性构造出来的，也不是随机的。更深层的机会，在于把对象、部件、文本和图像所构成的层级关系数学化，从而让预测变得可处理。
人为设计的谜题，暴露出流畅型基准测试可能掩盖的能力缺口。 Moore 认为，Sakana AI 可能参与了一个项目：让 AI 阅读以英语写成的现代数独规则，并解出由此产生的谜题；他上次查看时，结果仅限于几个4×4例题，可能还有一道6×6题，他称之为“惨不忍睹”。数据集中有8道谜题来自 Moore。缺失的能力不是暴力搜索，而是发明有用的表征、发现全局约束，并在局部解之间流畅切换。
系统层面的机会，正越来越多地集中在工具使用、多模态工作空间，以及对外部记忆的学习型控制上。 人类通过选择纸张、纸堆、图表、模拟器、Mathematica 和物理原型，弥补有限的大脑容量；Moore 预计，AI 也会在能够类似地说出“我需要一种可以让我轻松压入和弹出的数据结构”时取得进步。关键区别不在于 transformer 是否形式上图灵完备，而在于它能否识别自身局限，并构造或操作缺失的支架。
更具创造性的采样，不能替代生成—判断闭环。 提高 temperature 只会触及分布尾部，并可能产生垃圾；艺术家和数学家则会生成、检查、否定、修改，并把作品“放到火上烤”。能够建立观众认知边界模型的系统——让每个揭示都“刚好超过”预期，却不至于引发无聊或拒斥——解决的是比单纯风格新颖更困难的能力问题。
Moore 并不把图灵完备性视为区分智能与非智能的清晰分界线。 他认为，“我也是有限状态机”，但人类会借助工具进行实用递归，并用可复用部件构建技术。语言可能让符号递归成为可能，但形式推理仍是一层“薄薄的外壳”：人类只在特定场景中启用它，而不是把它作为日常思维或语言的默认模式。
计算极限依然真实存在，但经典的困难性结果，对结构化的真实世界数据并没有直接而充分的约束力。 在随机推断问题中，中等信噪比区间可能包含可恢复的真实解：穷举搜索能够找到它，而高效算法却被困在能垒之后的“无定形糊状物”中。现实世界的结构可以提供逃生路线，因此表征方式的重要性不亚于算力规模。
当社会看重正当程序，而不仅仅是预测准确率时，不透明 AI 会带来特殊风险。 Moore 可以接受黑箱电影推荐，也可能接受经过独立验证的癌症诊断，但拒绝将专有不透明工具用于刑事司法：“我不认为我们应该使用不透明的专有工具，去做影响人基本人权的决定。”对于高风险用途，他要求独立测试、可质疑性；涉及基本权利时，则应提供一切可能形式的透明度。

精读

1. 青蛙视角区分了理论困难与现实难度

按照 Freeman Dyson 的分类，Moore 形容自己“更像一只青蛙”：他是触觉型思考者，会反复用自己能够想象或拿在手里的具体例子，检验抽象证明。最初接受物理学训练后，他因阅读《哥德尔、埃舍尔、巴赫》转向理论计算机科学，随后进入网络和机器学习领域。
计算机科学吸引 Moore，是因为它提供了两顶都富有成效的帽子：先寻找高效算法；如果失败，再尝试证明问题很难。困难性甚至可以成为密码学中的资源，包括他接触过的后量子密码学工作。
但这里的限定条件至关重要：传统意义上的困难性意味着存在经过巧妙对抗性设计的例子，而统计物理学的结果往往讨论随机生成的合成实例。“真实世界的数据不是由对手设计出来、专门把难度推到最高的”，它也远非随机；文本、图像、生物体和人造环境都携带着可以利用的结构。

2. 相变揭示了信息与高效恢复之间的鸿沟

Moore 用磁铁作类比，让推断阈值变得直观。在临界温度之上，原子排列会消失；同样，当噪声把真实解从数据中冲刷掉时，“你真的什么都做不了”了。信噪比高时，PCA、谱方法、置信传播及相关算法都能快速奏效。
最耐人寻味的是中间区间：信息足够多，穷举搜索可以恢复真实解，但研究者相信不存在任何高效算法能够成功。候选拟合形成高维、玻璃态的景观，梯度下降、蒙特卡洛和消息传递可能都会在能垒之后的“无定形糊状物”中停留指数级长的时间。
但这套理论讨论的仍然是随机问题。Moore 更广泛的猜想是，研究者最终可能会认为，面对一个有结构的世界，架构选择没有那么决定性，因为“几乎任何足够丰富的架构都能奏效”；LLM 的成功最终或许会教会我们，如何把现实世界中对象与部件的层级关系数学化。

3. Moore 自己的谜题，成为推理缺失的基准

现代数独变体加入温度计、和框、骑士步限制等规则，并用日常语言表达。Moore 认为，Sakana AI 可能与 Cracking the Cryptic 的 Mark 和 Simon 合作，搭建了一个要求 AI 阅读规则并解题的基准；他上次查看时，连小型4×4题、可能还有6×6题的结果都被他形容为“惨不忍睹”。
他的诊断部分涉及感知方式。Token 模型从一维文本出发，而人类可以用眼睛扫描行、列或3×3宫格，并在空间中调度注意力；早期 ChatGPT 系统甚至连 N 皇后问题这类简单的二维数组都很难处理。
把每道谜题都转化成布尔可满足性问题，当然可以调用暴力搜索工具，但那会错过 Mark 和 Simon 真正采用的方式：推导出高层次启发式或全局约束，用它来引导搜索。数据集中有8道 Moore 的谜题；他预计 AI 会取得进展，但等到 AI 解出这些题时，他会“非常兴奋，也有点恼火”。

4. 智能始于发明正确的变量

出题者不是对手，而是“一位充满挑战、但最终仍然慈悲的老师”。理想体验从一种面对指数级巨大空间的“眩晕感”开始，随后通过一个洞见将空间压缩；穷举搜索既无聊，也是人类不擅长的事情。
经典搜索启发式会询问：哪个预先定义的布尔变量出现在最多约束中，因此应该最先赋值。人类解题者做得更复杂：面对五连方块时，他们会在“哪块拼片能放进这里？”和“这块拼片能放到哪里？”之间流畅切换——这是对同一任务的两种不同参数化方式。
数独解题者同样会按需创造部分知识：某个格子可能是2或7；某个宫格中的3必须占据3个位置中的一个；两个未知格可以标成蓝色，因为它们必须相同；另外3个格子可能只知道彼此不同。数值答案尚未确定之前，表征方式已经发生了改变。
Moore 把这种灵活性直接联系到科学研究：与生物学家或社会科学家合作时，“90%的工作是数学化”。一旦选定正确结构，模拟或证明可能就很容易。他最接近的复杂性类比，是一个已知属于高效可解子类的实例——真正的挑战，是为这个实例发现算法。

5. 当关键点在于统计上的异常时，落地尤为重要

数独保证存在唯一真实解，并会告诉解题者任务何时完成。现实问题没有这种保证；Moore 说，LLM 从互联网中知道的是“一个世界”，但它并不等同于物理世界，而且可能恰恰遗漏最重要的部分。
他的朋友 Henry Farrell 曾让一个系统总结一篇文章，文章的核心贡献与熟悉的论证路径存在偏移。系统的总结把它“庸俗化了”，复述了该主题中最低公分母式的观点，却漏掉作者独特的主张——它没有识别出“哦，这是一个有意思的观点”。
Moore 认为，推荐系统也存在同样的失败：它们只会返回更多用户已经喜欢的东西。一个好朋友可以告诉你，尽管你不喜欢科幻小说，Gene Wolfe 可能仍然符合你的文学标准；“给我点不一样的东西，挑战我一下。”
外部工作空间可以缩小这道鸿沟。AI 可以运行并调试代码、绘制函数图像、操作三维或七维对象，或形式化检查证明，而不是生成看起来像证明的“胡扯”。Moore 的柏拉图主义直觉来自共享感知：两个人想象一个立方体时，可以互相纠正，并就8个顶点和12条边达成一致。

6. 创造力需要苛刻的判断，以及对受众的建模

主持人提出的挑战是：创造力或许只需要纹理和语言上的有意义变化，并不要求一个宏大的世界模型；但单纯提高采样 temperature，往往只会进入充满垃圾的分布外尾部。Moore 引用 Martin Amis 的《反陈词滥调战争》回应：熟悉的表达应该是经过有意选择后出现，而不是仅仅因为概率高。
新颖的并置只是开始。艺术家和数学家随后会把作品“放到火上烤”，揉皱草稿，向朋友或评论家请教，再修改或放弃。Moore 的博士导师 Philip Holmes 写诗，并称写诗比数学更难；Moore 强调，艺术“不是这种松松垮垮的东西”，而是一种苛刻、反思性的实践。
主持人把编辑描述为渐进式披露：一层层揭示复杂性，把每件作品放在略超出观众预测边界的位置，既不让他们被劝退，也不让他们感到无聊。Moore 认为，隐藏在背后的操作，是持续的心理建模——不断想象这一特定受众会注意到什么、理解什么。
谜题美学把主观约束与看似客观的洞见混在一起。Moore 不喜欢“分离组”数独，因为它违背了他的视觉感知系统；他只是“2磅肉，配一台1赫兹处理器”。但出题者普遍会区分质量与难度：漂亮且无聊的谜题都可能容易或困难，因为这两个维度彼此正交。

7. 不可约性更容易被怀疑，而不是被证明

在没有封闭解的混沌动力系统中，预测未来可能要求对每一个中间状态进行数值积分：“你必须把这项工作做完。”一些元胞自动机，例如 Rule 150，“某种程度上是线性的”，大致可以在模2意义下处理，因此允许捷径；另一些则看起来要求逐步模拟。
对于 Rule 110，Wolfram 观察到了类似粒子的碰撞；随后 Matthew Cook 加入进来，并与 Wolfram 一起完成了通用性的证明。Moore 也提到 Damian Woods 后来对效率的改进。这与 NP 完全性证明相似：通过编码其他问题来展示困难性，本质上是在“用这个东西造出一台计算机”。
许多系统仍然呈现非线性和不可约性，却没有产生可控部件。Moore 借用了朋友对“熔岩”的描述：像太阳等离子体一样的混沌活动短暂形成又迅速消散，没有任何研究者知道如何利用的清晰导线、门、存储位或粒子。
因此，复杂性不同于可编程性：流体可以通过管道和阀门实现计算，但没有导流的水更难控制。不可判定问题不一定图灵完备，也不一定因为停机问题可以归约到它们而变难；如果 P 不等于 NP，正如 Moore 认识的几乎所有人都相信的那样，那么中间问题应该在不属于 NP 完全的情况下保持低效——但完全性仍然是证明困难性的标准路径。

8. 可扩展性比给模型贴上图灵完备标签更重要

主持人提出了一位共同主持人的论点：transformer 是有限状态系统，而强大的智能体需要能够控制图灵级过程、扩展记忆并进行递归的算法。Moore 的直接回应颇为出人意料：“我也是有限状态机”，由有限数量的神经元和粒子组成。
人类能力来自工具使用。Moore 可以加入泥板、白板、算盘或计算机，扩展自己的工作空间——实质上是在延长纸带；而他很难把词语倒过来重复，则说明他并没有一个天然可用的内部栈。“如果我需要它，我可以造出来。”
共同主持人进一步修正了自己的主张：只有一部分有限状态算法能够控制这种可扩展记忆，而随机梯度下降无法穿过这部分算法的空间。Moore 称这是“一个有意思的主张”，但没有表示认同；他指出，猿类能够导航、制造石器，并通过手势教学，却不具备人类语言完整的模块化结构。
LLM 以语言为先，而不是以触觉、视觉或生存能力为先。由于语言携带递归，观察者期待它会立即跃迁到形式数学；但日常语言只是 Token 生产，形式推理不过是一层“薄薄的外壳”，人类只在认知边缘启用它，而且往往要借助纸张、符号或专门软件。

9. 通用性的最深一步，是让系统作用于自身

Moore 在教学中并不把物理图灵机架构放在中心位置。图灵机、布尔电路族、计数器机、带两个栈的有限状态自动机、元胞自动机、Church 的 lambda 演算以及部分递归函数之所以令人震撼，是因为这些不同架构最终收敛到了同一个可计算类。
现代学生可能会觉得停机证明有些虎头蛇尾：把一个假设存在的停机判定器输入它自己的程序，然后反转它的答案——“就这样？”历史上的突破在于自指本身。Gödel、Church 和 Turing 跨越了一个此前将数字、函数和泛函彼此分隔的层级；如今，编译器和编辑器让程序操作程序成为“我们呼吸的空气”。
另一种相关抽象，是把无限状态图转换成有限的高层描述：栈或图灵机拥有无限多种可能配置，但只需要一套紧凑规则。Moore 希望人工伙伴能够识别下一个层级——“一次性捕捉一个对象的无限集合”——在他看来，这似乎不只是识别统计规律并据此预测。

10. 计算是有启发性的透镜，但不是完整本体论

Moore 对“我们需要更多算力”这句话感到不适——“这在我耳朵里听起来不对”——但他确实经常使用计算透镜：研究一个系统如何存储、传输和变换信息。核糖体和 DNA 纠错机制显然适合用这个视角理解；行星轨道也可以被称为计算，但这个标签可能没有带来多少启发。
生命起源理论暴露了这副透镜的局限。复制体优先的故事强调符号串如何复制自身；代谢优先的故事强调热力学梯度、化学反应，以及为自由能提供通道的机制——“自私的代谢”可能构建了基因组，而不是基因组构建了代谢。Moore 更倾向于根据现象切换透镜；同样，对于伦理等问题，他也认为进化解释并不奏效。
Moore 对物理本体的结论仍然带有保留。他倾向于接受物理 Church–Turing 论题：任何能够被建造的设备，都可以用有限资源模拟，也许由量子计算机完成；他还怀疑最小尺度上存在某种“离散倾向”。但不可访问的模拟精度、黑洞、闭合类时曲线和假想的超计算，都意味着这一主张取决于宇宙实际如何运行。

11. 权利要求超越预测准确率的透明度

Moore 将不透明性视为取决于应用场景的连续谱。如果他喜欢这部电影，他可以接受黑箱电影推荐器；经过独立测试的专有癌症诊断工具也可能可以接受，因为他想活下去。但监禁、定罪、监控和宪法权利属于另一端。
在他的例子中，刑事司法系统明确关心的不只是准确率。如果警方栽赃给一个确实犯了罪的人，社会仍可能让这个人逍遥法外，因为政府必须遵守关于调查和举证的规则。被告必须能够面对指控者、盘问证人，并质疑证据。
概率基因分型软件说明了制度上的鸿沟：降解 DNA 可能混合了多名访客的样本，不同产品可能得出不同结果，而有些产品此前从未——或者至少直到最近仍未——接受独立测试。人们不清楚能否把软件当作专家证人，也不清楚应该盘问其程序员还是生物信息学家，更不清楚法官或陪审团该如何比较相互冲突的输出。
相比可解释性，Moore 更偏好“透明度”，因为这个概念包含独立验证、核实供应商声明，以及必要时检查系统内部机制。有些不透明源于真正的科学困难；另一些则源于知识产权选择，而对于后者，他“并不太同情”。凡是影响基本权利的决定，社会都应要求“一切可能形式的透明度”。

Dave Hone：T-Rex、恐龙、灭绝、进化与《侏罗纪公园》｜Lex Fridman Podcast #480 非共识投资被高估了吗？