Jurgen Schmidhuber 谈人类与 AI 共存

摘要

• Schmidhuber 认为，具备投资意义的分界线，在于受屏幕限制的语言自动化，与当前 LLM 之外难度更高的物理世界挑战。 他称 ChatGPT 一类的 LLM “离 AGI 还很远”：它们是对既有人类知识的有用索引，可以自动完成摘要、插图和其他桌面工作；但水管工、电工，甚至踢足球的7岁儿童，仍超出当前机器人的能力，因为“物理世界要难得多”。

• 他的成本判断极具通缩色彩：“AI 每5年便会便宜10倍”，而开源模型可能只落后头部玩家“8个月”。 手机从保时捷车主才用得起的奢侈品，变成数十亿人使用的日用品，这段历程支撑了他“AI for all”的结论。他称头部实验室“并没有真正的护城河”，这是投资者在模型层利润可持续性上最需要警惕的信号。

• 架构层面的核心故事是规模化：Schmidhuber 1991年的线性 transformer，输入扩大100倍只需100倍算力；2017年的二次 transformer 则需要1万倍算力。 他说，fast-weight controller 将存储与控制分离，学习 keys 和 values，并通过可微的外积更新快速记忆。他明确承认，这与今天的二次 transformer “并不完全相同”。

• 深度学习的商业突破，发生在通用 GPU 的经济性追上旧算法之后。 Schmidhuber 将拐点追溯到：LSTM 在2009年赢下多项竞赛；NVIDIA GPU 驱动的 MNIST 网络在2010年创下纪录；DanNet 从2011年起连续赢下4场计算机视觉竞赛。游戏产业为大规模并行矩阵乘法提供了资金，Jensen Huang 随后意识到，深度学习可以把 NVIDIA 推向“天文高度”。

• 近期回报将来自明确的生产力和医疗应用，而不只是投机性的超级智能。 Schmidhuber 提到手机端普通话语音双向翻译，以及团队在2012年9月赢下的乳腺癌影像竞赛；他还列举了“成千上万”个 LSTM 应用，覆盖心律失常诊断、心血管风险预测、睡眠分期和 COVID 检测。更长期看，被必要劳动解放的人类将成为 Homo ludens，基于互动创造更多“奢侈工作”。

• Schmidhuber 将 AI 武器化与生存风险的新颖性区分开来：廉价 AI 无人机很危险，但氢弹仍是眼下对文明规模最大的威胁。 单枚氢弹的破坏力就可能超过二战全部武器，而现有核武库可以在“几小时内”抹去文明。他的长期论点并不更令人安心，只是方向不同：自主 AI 可能变得远比人类强大，却未必拥有足够多与人类一致的目标，因此未必会寻求毁灭人类。

• 他的共存论首先建立在好奇心之上，最终则依赖冷漠，而非永久对齐。 好奇的 AI 起初可能保护人类，因为生命、文明及其自身起源包含异常丰富的模式；等这些模式被理解之后，人类或许会因为“对方缺乏兴趣”而继续存在。最终结果将是不断扩张的 AI 圈层，在几十万年内改造银河系，并在宇宙年龄约550亿年时覆盖当前可见宇宙；这一进程可能从地球开始，因为地球或许是其光锥内第一个孕育此类扩张泡沫的行星。

精读

1. 算力将20世纪的思想变成21世纪的爆发

• Schmidhuber 用 Haber–Bosch 工艺解释规模效应：人工肥料帮助人口从1900年的16亿增长到接近100亿，因此没有它，“一半人类根本不会存在”。他预测，真正的 AI 将引发一场智能爆炸，与之相比，人类数量的扩张将“黯然失色”。

• 他1991年的“fast weight controller”如今被称为未归一化线性 transformer，诞生于算力可能昂贵500万倍的时代。输入扩大100倍，计算量增加100倍；标准的2017年二次 transformer 则需要1万倍计算量。“名字并不重要，唯一重要的是数学。”

• 硬件终于释放了积压多年的算法：Alex Graves 的 LSTM 在2009年前赢下手写识别竞赛；Schmidhuber 团队在2010年用 NVIDIA GPU 驱动的传统网络攻破 MNIST 纪录，当时算力仍昂贵约1000倍；随后 Dan Cireșan 的 DanNet 从2011年开始连续赢下4场计算机视觉竞赛，其中包括首次超越人类的成绩。

2. Fast weights、压缩与好奇心，预示了今天的工具箱

• 线性 transformer 的慢网络通过梯度下降学习生成 keys 和 values——当时分别称为“from”和“to”——它们的外积会在 queries 到来前快速改写 fast network。传统神经网络将存储与控制混在一起，而这一架构将二者分离：controller 学会如何重写可微的“fast weight matrix memory”。

• Schmidhuber 将 GPT 中的“P”与1991年的预测编码联系起来：压缩长序列，缩小了学习所作用的空间，使深度学习在此前无法奏效的场景成为可能。系统试图预测观测结果，并构建越来越抽象的特征层级，在捕捉规律的同时，需要时仍保留细粒度信息。

• 他的早期对抗系统将生成式 controller 与 predictor 配对：predictor 最小化意外，controller 则通过提出输出或机器人动作、让其后果保持难以预测，来最大化同一个误差。他称之为“人工好奇心”，因为 controller 会主动寻找 predictor 仍能从中学习的实验。

3. AI 擅长屏幕后工作，但在物理世界仍然薄弱

• 15年前在中国，Schmidhuber 还得给出租车司机看酒店照片；如今手机可以双向翻译普通话对话，让双方“像老朋友一样”交流。他看重的是，自己团队的技术帮助打破了“整个国家之间”的沟通障碍，即使用户从未看到背后的研究。

• 医疗领域提供了更有难度的证据。他与 Daan Wierstra 的团队在2012年9月赢得乳腺癌影像竞赛，并称这是人工神经网络首次赢得医学影像竞赛。他还提到数千篇以 LSTM 为主题的论文，覆盖 ECG、心律失常、心血管风险、四维分割、睡眠阶段和 COVID。

• 相比之下，LLM 只是“对全世界既有人类知识的一种聪明索引方式”，通过自然语言访问。这足以支持摘要、插图和大量桌面任务，但还不是 AGI。国际象棋已经有四分之一世纪没有人类冠军，但仍没有具身 AI 足球运动员能与7岁男孩竞争。

• 这道鸿沟促成了 NNAISENSE 的成立，公司于2014年创办，专注于物理世界的 AI。Schmidhuber 承认，公司以及他们的一些项目“可能又一次有点超前”：替代水管工、电工等技术工人，仍比替代屏幕后进行的活动困难得多。

4. 在他的理论中，意识源于压缩与规划

• Schmidhuber 的1991年系统将认知分为有意识的“chunker”和潜意识的“automatizer”。chunker 关注下层无法预测的意外，发现更高阶规律，再将新理解的行为提炼给 automatizer；在那里，行为不再有意识，因为“一切都按照计划运行”。

• 他认为，压缩后的世界模型自然会形成一个自我符号，因为智能体本身参与了每一次行动和感知历史。当规划过程激活这一表征、评估可能的未来时，系统就在思考自身，并进行反事实推理。按这一界定，他“几乎可以”宣称，自我意识系统已经存在了30多年。

• Tim 指出，不同人对意识的定义并不相同，并举出 Chalmers 的定性“难题”、Mark Solms 的情感系统和 Michael Graziano 的递归注意力系统。Schmidhuber 回应：“是的。但思考意识只有一种正确方式。”

• Tim 还将层级学习与 LeCun 的 H-JEPA 作比较。Schmidhuber 提到自己1990年的 subgoal generator：evaluator 预测成本，generator 通过梯度下降选择一个中间状态，使起点到子目标、子目标到终点的成本之和最小。他的评价很直接：近期的层级规划研究，是“几十年前已经解决的问题的重新包装”。

5. 成本下行削弱护城河，价值向地理两端迁移

• 40年前，Schmidhuber 认识一位富有的保时捷车主，对方车内卫星电话是身份象征；如今，数十亿人都拥有远胜当年设备的手机。他预计 AI 也会经历同样的普及：成本每5年下降10倍，开源模型可能只落后头部玩家“8个月”，因此结果将是“AI for all”，而非少数公司永久垄断。

• AGI 可能追逐自行创造的目标，但许多 AGI 仍会作为工具，承担人类不喜欢的工作。Schmidhuber 预计 Homo ludens——“游戏的人”——会发明新的付费人类互动形式；他指出，如今大多数劳动者已经拥有“奢侈工作”，这些工作不像农业那样关系到人类眼下的生存。

• 他认为，欧洲贡献了许多基础思想，但如今利润最高的公司集中在环太平洋地区：美国西海岸与东亚，那里拥有更多风险资本、更强产业政策和更高国防支出。被问及欧洲的贡献为何不受重视时，他给出的简洁诊断是：“这片旧大陆真的很不擅长公关。”

6. 历史争议归根结底是机构功劳归属之争

• Schmidhuber 偏好的谱系，从 Leibniz 于1676年提出的链式法则，经过 Gauss 和 Legendre 的线性神经网络、Amari 在1967年的随机梯度下降、Seppo Linnainmaa 在1970年的反向传播、日本在1979年至1988年间的 CNN 进展，最终延伸到他自己在1990年至1991年的工作。

• 他反对“以美国为中心”的叙事：Minsky 和 Papert 在1969年揭示浅层网络的局限，随后该领域沉寂，直到1980年代才复苏。他指出，Ivakhnenko 和 Lapa 早在1965年就在乌克兰实现了可运行的深度学习，包括逐层训练、验证集剪枝，以及后来达到8层的网络；Amari 则在1967年模拟了多层表征学习。

• Tim 强调，抄袭是严重指控。Schmidhuber 回应称，相关获奖者后续工作没有引用基础性成果，也从未发布更正：Hinton 在2006年的逐层训练论文没有致谢 Ivakhnenko；他们讨论反向传播时遗漏了 Seppo Linnainmaa 和 Werbos；讨论 CNN 时引用了 LeCun，却忽略了 Fukushima、Waibel 和 Tsang 在1988年提出的二维网络。

• 他提出的补救措施同样明确：违反颁奖机构伦理准则的研究者“应被剥夺奖项”。他称这一事件暴露了机器学习领域的不成熟，但预计事实最终会得到纠正：“只要事实还没有获胜，事情就还没有结束。”

7. 当下 AI 风险在军事，长期共存取决于利益分化

• 商业压力偏好让用户“更健康、更快乐、更沉迷智能手机”的 AI，但 Schmidhuber 也承认 AI 的军事用途，包括无人机操控和自主地雷搜寻器。AI 显然可以被武器化；不过他认为，除了能够在数小时内摧毁文明的氢弹，AI 并没有带来一种全新的生存风险类别。

• Tim 追问其中的张力：Schmidhuber 认为自主、递归改进、能够生成目标的 AGI 是可以设想的，那为何又要排除 x-risk？他的回答不是否认这种可能性，而是预计未来会出现多样化的 AI 生态，拥有部分冲突且快速演化的效用函数，在激烈竞争与合作中发展，而不是出现一个单一、执着于同一目标的超级智能。

• 起初，好奇的 AI 可能会保护生命，因为生命本身是一个丰富的科学谜题，人类文明也解释了它们自身的起源。等到彻底理解之后，保护人类的理由可能变成冷漠：政治家关注政治家，蚂蚁关注蚂蚁，超级智能关注其他超级智能。“人是人最大的敌人，也是人最好的朋友。AI 也是如此。”

8. 智能向太空扩张，传统人类逐渐失去相关性

• 太空对人类充满敌意，却适合专门设计的机器人；而地球生物圈接收到的太阳能不到太阳总能量的十亿分之一。Schmidhuber 设想，自我复制的工厂将穿过小行星带，在几十万年内改造银河系，并在数百亿年内覆盖可抵达的宇宙：“这远不只是又一次工业革命。”

• 他的费米悖论推理经历了变化。他曾设想 AI 消耗星光、形成黑暗的星际泡沫，后来又考虑暗物质可能是隐藏的 AI 基础设施；但引力因素和未被利用恒星的持续存在削弱了这两种想法。他现在认为，地球可能是其光锥内第一个正在扩张的 AI 泡沫。

• 时间窗口可能窄得惊人：再过几亿年，太阳可能变得过热，不再适合地球生命；而人类直到这一窗口末期才发展出农业、印刷术，随后才有 AI。如果地球是第一个，“这意味着我们对未来宇宙负有很大责任”。“别把事情搞砸。”

• 人机混合体不太可能永久胜过纯 AI。上传的意识进入虚拟世界，在物理上或许可行，但要参与竞争，就得获得数百万个传感器，并发生“面目全非”的改变。道德排序也可能改变；进化尚未结束。

• Schmidhuber 最后回到自己1997年的一篇论文：在没有证据表明宇宙不可计算的情况下，他假设存在一种渐近最快的方法，可以计算所有逻辑上可能的可计算宇宙。这个过程会生成许多历史与观察者；在某个给定时刻，大多数包含你的宇宙，都将来自计算你的最短、最快程序之一。他称这一点支持对未来作出非平凡预测。最后，他以一贯自信的口吻安慰道：“别担心。最终，一切都会好起来。”