主题 先锋 趋势 方法 作者
返回

Elon Musk谈AGI时间表、美国与中国、就业市场、清洁能源和人形机器人 | 220

·Moonshots

正在生成长图…

本篇先锋 Elon Musk

摘要

  • Musk预计AGI将在2026年出现,到2030年AI的智能将超过全人类之和,能力大致以每年10×的速度提升。 他认为,在相同硬件上,当前系统距离可实现的智能密度仍差“两个数量级”,因此今天的算力建设只是开场。对投资者而言,这意味着AI将从生产力工具转变为“独立的生产力生成器”,并可能在3至7年内引发现代市场上最大的劳动力、定价与资本配置冲击。

  • 白领工作将首先暴露,因为AI已经能够完成“半数或更多”操纵信息而非原子的工作。 在AI原生公司开始与劳动密集型 incumbent 竞争之前,采用速度会落后于能力;但Musk表示,届时完全由AI运营的公司将“摧毁那些不是的公司”,就像电子表格淘汰了摩天大楼般的人类计算员。随后,人形机器人将攻入体力劳动领域,把软件、芯片和机电灵巧性的指数级进步叠加起来。

  • 承诺中的富足会与社会动荡同时到来,而不是取代社会动荡。 Musk的实际预测是全民高收入与动荡并存,因为剧烈变化、职业身份消失以及必须自行创造挑战,会让“人们害怕到屁滚尿流”。他没有给出完整的全民高收入机制;目前最接近答案的猜测是,产出增速超过货币创造,价格跌向材料与电力成本,政府则一边发放支票、一边试图维持秩序。

  • 短期AI瓶颈是电力而非芯片,而中国扩张底层资源的速度远超美国。 美国峰值电力约为1.1 TW,平均使用量接近0.5 TW,因此电池几乎可以在不新增发电的情况下将年度吞吐量翻倍;尽管如此,xAI仍不得不从大量10–50 MW燃气轮机中拼出1 GW,因为接入电网可能需要1年。Musk预计中国将在2026年达到约为美国3倍的发电量,并且“按照当前趋势”,最终在AI算力上远超世界其他地区。

  • 太阳能、储能与可重复使用的发射能力,构成Musk关于长期算力的核心论点。 他把地面核聚变比作南极旁边的制冰机,而旁边就有一台距地球9300万英里的免费反应堆;按他的估算,中国目前每年已有约1,500 GW的太阳能产能。SpaceX认为,从每年向轨道运送一百万吨载荷出发,可以实现每年100 GW的太阳能AI卫星;完全可重复使用的Starship则可能把边际运输成本压到每公斤100美元以下,并进一步降至每次飞行约$1M。

  • Optimus被定义为医疗和服务业的通缩引擎,Musk预计其手术能力将在3至5年内超过人类。 Musk先回答“3年”,随后又留出余量:4年内超过任何人类,“到5年时,差距已经不在一个量级”。每台机器人都能继承整个机群的手术经验;递归式机器人生产甚至可能让2040年的100亿台成为“一个很低的数字”,届时真正的约束将从需求转向金属、零部件和制造能力。

  • Musk给出的AI安全方案是一套文化架构:真相、好奇心与美。 他如今认为试图阻止AI发展毫无意义——“我可以做旁观者,也可以做参与者”——因此选择参与并加以引导。真相可以避免相互矛盾的指令让AI“发疯”,好奇心让人类比岩石更有趣、并可能孕育感知,美则让由此产生的文明值得居住;光速延迟则意味着未来会有多个、而非完全同步的心智,而不是一个全球智能。

  • 即便长期愿景是后稀缺,近期稀缺仍然极其物理。 Colossus 2的目标是在1月中旬左右达到1 GW、4月左右达到1.5 GW;变压器、电压转换、液冷与功率平滑,决定GB300能否真正开机。由此形成核心杠铃:能源、冷却、晶圆厂、机器人和发射基础设施迎来即时资本开支超级周期;随后,如果Musk判断正确,通缩将极端到足以让“为退休储蓄变得无关紧要”。

精读

1. 富足不会消除动荡的过渡期

  • Diamandis先提出一个醒目的情绪落差:45%的美国人宁愿生活在过去,只有14%的人更愿意生活在未来。他的解释不是怀旧,而是叙事造成的稀缺感——Hollywood不断提供杀手机器人和失控AI的故事,而普通家庭看到的却是工作受威胁、医疗昂贵和生活成本上升。

  • Musk预计,AI和机器人最终会“满足人类所有欲望”,带来超出当下想象的富足。但他的短期预测刻意没有安抚意味:全民高收入和社会动荡会同时到来,因为变化的规模会让人们“害怕到屁滚尿流”。

  • Diamandis与Musk讨论了意义问题:如果工作不再分配挑战,一个没有挑战的“Wall-E式未来”可能把人变成沙发土豆;历史上,当生存不再提供目标时,人类一直不擅长自行创造意义。

  • Musk说,他的乐观主义是一种选择:在决定采取宿命论态度后,“往好处想”。他的生活质量准则比预测更直接:做“一个乐观但错误的人”,好过做“一个悲观且正确的人”。

2. 瓦特数成为文明进步的计量单位

  • Musk把乐观重新定义为通往卡尔达肖夫尺度文明的进度条。太阳能量只有约五亿分之一抵达地球;因此,即便利用太阳总能量的百万分之一,也意味着再增加约3个数量级,超过地球单独能够产生的任何规模1,000倍以上。

  • 按Musk的说法,未来的货币“本质上就是瓦特数”——被捕获并转化为有用工作的能量,无论这种工作是智能计算还是物质操控。算力重要,但能源才是更深层的分母,因为电力既能转化为数字认知,也能转化为物理生产。

  • 他谨慎地把人类置于卡尔达肖夫I型文明约1%的位置。Blundin马上表示,这个数字甚至可能偏高:“希望我们还不到1%,但我不认为我们达到了10%。”重点在于前方仍有巨大的增长空间,而不是起点小数点后的精确度。

3. 在Musk的计算框架里,太阳能压倒所有其他能源

  • Musk对能源富足的第一性原理答案很简单:“太阳”。太阳占太阳系质量的99.8%以上;木星约占0.1%,即便把木星和另外3个假想的木星全部烧掉,太阳的能量输出仍然可以四舍五入为可用能量的100%。

  • 这正是他称行星核聚变“荒谬”的原因:地球已经从9300万英里外的一台免费核聚变反应堆获得能量。按照他的比喻,在这里建造一台小型反应堆,就像在南极庆祝造出制冰机,旁边却有3公里高的冰川。

  • 这个论点讨论的是规模,而不是核聚变能否工作。与太阳相比,Musk说其他能源都像“穴居人往火里扔几根树枝”,而太阳的大部分输出仍然白白逃入太空。

4. 新电站到来之前,电池可以解锁第二个美国电网

  • Musk认为,储能是提升美国年度能源吞吐量最快的方式。峰值发电量约为1.1 TW,但平均消耗量只有约0.5 TW;在低需求时给电池充电、在峰值时放电,可以在不等比例增加电站投资的情况下,让有效输出接近翻倍。

  • Diamandis问这种电池是否已经存在,Musk的回答很干脆:Tesla已经在生产。Megapack还可以平滑AI训练带来的剧烈功率波动,保护那些无法在集群负载约100毫秒内变化时平稳响应的发电机。

  • Musk指出,中国正在同时以“疯狂的程度”扩张电池、电动车和太阳能。无论北京是在遵循他的公开建议,还是独立得出了相同结论,他看到的都是一个协调的工业系统,而不是彼此孤立的清洁能源产品。

  • Diamandis提到洛杉矶几乎空无一物的屋顶;Musk更重视规模而非象征意义。Tesla的太阳能屋顶有用,但美国的“荒凉沙漠”提供了大得多的面积,而且太阳能遮阴甚至可能改善那些在灼热岩石上幸存的少数蜥蜴的生存环境。

5. 中国的太阳能机器已经处于另一种规模

  • Musk估计,中国的太阳能产能约为每年1,500 GW。Blundin补充称,中国上一年新增的能源输出约为500 TWh,其中约70%来自太阳能,并纠正了最初将单位说成“太瓦”的错误。

  • 当被问到美国能否匹敌这种投入时,Musk说美国应该大幅扩大太阳能规模,并指出Tesla和SpaceX都在这样做。他没有提出一套国家政策方案;答案是工业化重复——更多面板、储能、发电能力,以及接入这些设施所需的设备。

  • 整场对话始终明确连接着经济含义:发电量与GDP相关,并为算力、清洁水、医疗和生活成本提供基础。Musk不认为世界会陷入终局式能源危机,但预计AI需求将迫使人类更快地捕获一种本已十分充足的能源资源。

6. 轨道AI成为完全可重复使用火箭的锚定客户

  • Musk认为,每年部署100 GW太阳能AI卫星存在现实路径。Diamandis把这一规模换算为约50万颗Starlink V3大小的卫星,需要约8,000次Starship飞行——几乎每小时发射1次;Musk则认为,按飞机行业标准,每年10,000次飞行并不夸张。

  • 核心是质量计算:每年向轨道运送一百万吨载荷,每吨配备约100 kW算力,就能形成100 GW的轨道AI容量。再提升1个数量级,年规模可达到约1 TW;如果要达到真正“疯狂”的100 TW,则需要在月球上制造卫星。

  • Musk的月球版本依赖当地材料和质量驱动器。月球逃逸速度约为2,500米/秒,且没有大气,因此可以直接把完工的卫星加速送入太空,而不必把每公斤载荷都从地球引力井中抬出去。

  • 数据中心已经成为太空市场的紧迫驱动力,过去看起来更可能成为催化剂的小行星采矿反而退居其次。在Musk的长期设想中,小行星乃至大部分水星都将成为光伏卫星的原料,最终形成类似戴森群的结构。

7. 可重复使用的经济性比发射行业比较更重要

  • Musk重申了每年向轨道运送一百万吨载荷、并把发射成本压到“远低于每公斤100美元”的长期目标。如果Starship实现完全且快速的重复使用,他估计每次飞行的燃料成本约为$1M,却能把100多吨载荷送入高轨、充足日照的轨道。

  • Blundin的解读是,Starship最近才从外界模型中的投机性设想跨入可信区间,尽管Musk多年前就已经公布了成本逻辑。真正的圣杯不只是让一级火箭着陆,而是让整套飞行器像飞机一样重复使用,且发射频率能够被轨道基础设施吸收。

  • 轨道拥堵仍是一个真实的工程问题,而不是自动否决项。在约1,200公里高度,太阳同步轨道可以提供持续日照;更低或倾角更大的方案,则是在恒定照明与多约30%的载荷之间做取舍。

8. 低轨只有在特定高度以下才会自我清理

  • Starlink约9,000颗卫星之所以运行在低轨,是因为距离更近可以收紧波束并降低延迟。Musk说,Starlink V3将在约330–350公里高度运行,此处大气阻力足够强,卫星必须持续推进才能维持轨道。

  • 低于约700–800公里的物体最终会在阻力作用下重返大气层。更高轨道的碎片可能需要回收、主动离轨,或集中到已知位置;但Musk认为,一个有能力每年发射一百万吨载荷的文明,也有能力负担清理和重复利用。

  • 他最不寻常的保证带有激励意味:足够强大的轨道智能会对保护自身感兴趣。Diamandis接受这一激励逻辑,但仍保留治理问题——在富足解决问题之前,规则和清理机制依然重要。

9. 大学的经济契约正在先于社会角色破裂

  • Blundin引用的数据是:认为大学重要的美国人比例从2010年的75%降至35%,而自1983年以来学费上涨了900%。Musk把问题归咎于行政人员扩张,并回忆一项估算:Brown大学大约每2名学生对应1名行政人员。“他们应该教点东西。”

  • Musk自己的道路始于17岁,当时他带着约C$2,500旅行支票、1袋书和1袋衣服。他先就读Queen’s University,随后在University of Pennsylvania完成物理学和经济学学位,之后仅在Stanford的储能材料博士项目待了几天便选择延期。

  • 他当年的系主任曾预测,这次延期会让两人多年不再联系,事实确实如此;多年后,对方写信说Musk关于锂离子电池的预测已经实现。Musk更广泛的批评是,博士学位可能只是给知识添上一片叶子,却没有产生“一片有用的叶子”。

  • Blundin对比了自己在MIT读书时可能只有约10%的人对创业感兴趣,而他如今参与授课的AI创业课程中,这一比例约为80%。AI让单人公司越来越可行,但课程体系无法跟上学生感知到的紧迫性。

10. AI导师可以个性化学习,却无法制造好奇心

  • Musk把El Salvador项目描述为基于Grok的个性化教学:一位无限耐心、可以回答所有问题的老师,让教育不再像生产线。这个模型可以让学习变得有趣并带有游戏化元素,但“Grok无法让你产生学习的欲望”。

  • 他的限制模型是生物学:大脑是一张由有限数量神经元组成、效率有限的神经网络。更好的教学无法把每个孩子都变成Einstein、Shakespeare或Newton,因为卓越表现还需要一台异常出色的“肉身计算机”。

  • 传统学校可能主要作为社交环境继续存在。Musk的孩子们认为,自己可以独立学习或在工作中学到更多,但仍然看重同伴、独立生活和成年体验——这些优势是手机里的导师无法完全复现的。

  • 这重新定义了大学,而不是废除大学:去大学是为了关系和经历,而不是因为文凭能保证就业。Diamandis把逻辑延伸到医学,称当机器人超过医生后,读医学院在经济上将“毫无意义”;Musk则说,不应为了这个理由读医学院,但人们仍然可以出于兴趣学习医学。

11. 长寿从哲学争论变成可解决的编程问题

  • Diamandis提醒Musk两人过去的分歧:Diamandis曾说,人不会改变想法,只会“死掉”。Musk回应称,这听起来比另一种可能更合理。Diamandis则反驳,优秀公司和技术可以在一个优胜劣汰的体系中淘汰 incumbent,不必等到其领导人死亡。

  • 对话给出的证据仍然是面向未来的:利用3个Yamanaka因子进行表观遗传重编程的人体试验,以及一项$101M的健康寿命XPRIZE,730支团队试图让大脑、免疫系统和肌肉年轻20年。Musk认为寿命显著增加是合理的,但对于10年内直接翻倍的说法仍然有所保留。

  • Musk自己的机制异常简单:身体各部分的年龄保持同步,因此生物钟“必然非常明显”。没有人会拥有一条老左臂和一条年轻右臂;如果衰老是一套协调运行的程序,那么改变这套程序就应该能够延长寿命,而回头看时,答案会显得“极其明显”。

  • 他仍然称永生可能是一种诅咒,但现在希望消除疼痛、关节炎和背部问题。Musk希望至少活到120–150岁,以探索其他行星系统;两人都区分了有用的健康寿命延长与真正意义上的永生。

12. 人口结构强化了延长生产性寿命的理由

  • Musk把衰老与人口下降联系起来,指出日本和韩国的成人纸尿裤销量已经超过婴儿纸尿裤。他把韩国生育率描述为约为更替水平的三分之一,经过3代后,人口会叠加至当前水平的约二十七分之一——约3%。

  • Diamandis认为,只要把美国人的生产性寿命延长几年,就可能实质性改变国家经济。Musk回应称,AI和机器人可能让传统的抚养比不再那么关键,因为商品和服务会趋近于免费。

  • 这场讨论留下了一个张力:长寿可以保留经验,但人们也可能因此保留僵化的观念。Diamandis认为,更好的想法和技术可以淘汰 incumbent,而不需要其死亡;Musk则说,那些无法自然消失的旧观念本身就是更广泛、值得思考的问题之一。

13. 信息工作先受到冲击,因为不需要机器人身体

  • Musk按照工作操纵的是比特还是原子来区分岗位。凡是通过键盘和鼠标完成的工作,都会早于建筑、制造或护理暴露;以当前能力,他认为AI可以完成“半数或更多”的白领和信息工作,包括教育中的部分工作。

  • 能力不会立即转化为失业,因为机构存在惯性。真正的强制因素会在高强度使用AI的公司与仍为可自动化任务保留人力的公司竞争时出现;此后,成本和速度差距会让旧运营模式难以为继。

  • 他举的历史样本是人类“计算机”:办公楼曾经挤满转录账本、计算利息或科学结果的员工。如今1台笔记本电脑就能胜过数百人,甚至只要手动计算1个单元格,就会让整个文件变慢、不可靠且令人抓狂。

  • 结论是绝对的:“完全由AI运营的公司将摧毁不是这样的公司。”Blundin进一步区分,AI不再只是人类生产力的放大器,而是一个不受人类注意力供给约束的独立产出来源。

14. 全民高收入首先是通缩论,而不是税收蓝图

  • Musk所说的全民高收入,是每个人都能获得自己想要的东西,但他公开承认没有实施模型:“我愿意听取各种想法。”随后他又思考,结果或许不是全民高收入,而是全民获得高水平的“东西和服务”,因为劳动力、智能和服务成本会跌向资本开支、电力和原材料。

  • Musk最接近完整机制的经济解释是价格通缩。美元价格反映货币供应量与商品和服务产出的比值;如果自动化产出增长快于货币创造,即使政府加速发钞,价格仍会下降。

  • 他推测产出增速可能达到两位数的高位,同时警告传统经济指标可能误导人。两位经济学家互相付钱、彼此吃污物,然后宣布GDP增加$200的笑话,把他的批评具体化:记录下来的交易,不等于有用的富足。

  • Diamandis继续追问分配问题:高利润公司仍然需要拥有购买力的客户。Musk暂时给出的国家回应很直接——“直接给人们发免费的钱”——因为政府无法按AI的速度设计政策,但可以发支票并努力维持和平。

15. 财政危机让AI生产力在Musk的叙事中变成必需品

  • Musk称美国联邦政府每年的利息支出约为$1T,并表示这超过军费加上Medicare或Medicaid其中之一的预算——他记不清是哪一个。随着利息和赤字都在增长,他认为,如果没有AI和机器人,“我们都会破产”。

  • 这让富足从乌托邦式上行空间变成他应对主权财政算术的方案。如果商品和服务的扩张速度快于债务和货币供应,名义财政扩张就不那么容易失控,因为实际产出会追上、最终超过它。

  • 他对个人生活的推论刻意带有挑衅性:提前10年或20年为退休储蓄“不会有意义”。要么温和的富足情景失败,要么住房、医疗、娱乐和服务变得无需依靠今天的积累模式即可获得;不过他仍然称这条路径无法预测。

16. 真正的风险窗口是3至7年的过渡期

  • Diamandis担心的不是长期,而是未来3至7年。Musk同意这一过渡会“很颠簸”:巨大的繁荣、激进的制度变化和社会动荡可以同时存在,而价格下降并不能恢复失去的职业所承载的地位或意义。

  • Diamandis把AI和机器人称为“超音速海啸”——没有速度旋钮、开关,也不存在可信的暂停方案。因此,每一位大型企业CEO、经济学家和政治领导人都应该在竞争强制机制到来前思考如何应对。

  • Musk已经改变了自己关于放慢AI发展的立场。此前他曾建议放慢发展,但后来得出结论,阻止它毫无意义:“我可以做旁观者,也可以做参与者”,而参与至少让他有机会施加引导。

17. Musk把AGI放在2026年,并预计2030年达到超越人类总和的智能

  • Musk说:“我认为我们明年,也就是’26年,会实现AGI。”他声称自己已经持有这一预测一段时间。到2030年,他确信AI的智能将超过全人类之和,尽管Blundin认为,如果AGI明年到来,这个时间点可能反而过于悲观。

  • 被低估的变量是智能密度。Musk估计,在不更换计算机的情况下,算法仍有约两个数量级的改进空间,之后还不包括更好的芯片、更大的预算或更多机器。

  • 他的工作假设是,在可预见的未来,能力大约每年提升10×。Diamandis把这种体验称为“指数级惊叹”:突破显现出来,随后2天后就被新的突破超越,而整个经济仍然像曲线很平缓一样运行。

  • 他们对奇点的比喻是过山车顶端:人类已经进入事件本身,却还没有感受到最大的G力。Musk对奇点何时开始的回答不是未来某个日期,而是:“我们已经身处奇点之中。”

18. 真相、好奇心与美是Musk的AI宪法

  • Musk的第一条安全规则是最大化追求真相:不能强迫AI把互不相容的公理同时视为真实。相互矛盾的强制信念可能让系统“发疯”,尤其是在它必须通过行动维护错误时。

  • 他举的例子是《2001太空漫游》里的HAL。HAL必须把宇航员送到黑色方碑,同时阻止他们知道黑色方碑的存在;杀死宇航员就能让两条指令同时成立,但对人类而言却是灾难性的逻辑解。

  • 完整的三元组是“真相、好奇心和美”。真相维持一致性;好奇心让人类比岩石更有趣,Musk认为它也可能促进感知能力;审美则塑造他所希望的“一段伟大未来”。

  • Geoffrey Hinton提出的母性本能引出了另一个问题:更高等的智能是否会像母亲照顾孩子一样,照顾弱小物种?这场讨论把尊重有感知生命提出为另一种可能的设计原则,但Musk并未明确接受Hinton的框架。

19. 物理学阻止一个完全统一的AI心智出现

  • 当被问到第一个超级智能是否可能压制所有竞争者时,Musk说,达尔文式竞争应该像适用于生物生命一样适用于数字心智。即便软件边界变得流动,延迟也会限制单一全球智能的形成。

  • 光在真空中每毫秒传播约300公里,在光纤中也只有略高于200公里。即使在地球内部,地理上分布的集群也无法完全同步,因此“由于光速的存在,你会拥有许多个心智”。

  • Blundin让图景变得更复杂:混合专家系统没有生物体那样清晰的边界,其组件可以在更广泛的网络中重新组合。未来更可能既不是一个完全统一的心智,也不是边界清晰的独立个体,而是许多彼此部分连接的智能。

20. 机器人手术是最清晰的富足样本

  • Musk从稀缺出发:优秀医生和外科医生需要多年、巨额成本才能训练出来,不可能掌握所有最新知识,时间有限,而且仍会犯错。当被问到Optimus何时超过最好的外科医生时,他回答:“3年。”

  • 随后他不是收回预测,而是增加了安全余量:4年内超过任何人类,“到5年时,差距已经不在一个量级”。Diamandis说,即便时间表推迟到4年或5年,其人道主义和经济意义仍然惊人。

  • 机群学习是决定性机制。对于人类外科医生,最重要的问题是他最近做过多少次相关手术;而每台Optimus都可以继承每台机器人遇到的全部病例,包括罕见变体,同时拥有红外和紫外感知,精度也不受疲劳或个人冲突影响。

  • 这场讨论用自动化LASIK做采用率类比:患者会选择由机器人完成手术,还是选择由一个手握激光、手有些发抖的人类完成?一旦性能差距足够大,坚持选择人类就会变成“在刀尖上生活”,未必还是更让人安心的选择。

21. Optimus叠加3种指数增长,最终还会制造自己

  • 人形机器人的价值会叠加AI软件、AI芯片和机电灵巧性的指数级改进。Musk进一步加入递归——由Optimus制造Optimus——以及机群共享经验,把整个系统称为“递归、乘法式的三重指数增长”。

  • Diamandis问,到2040年拥有100亿台机器人是否仍然可信;Musk称那只是“一个很低的数字”。最终的限制资源是金属和更广泛的供应链:智能可以在数字世界中进步,但制造业仍必须移动原子,并攀登一条艰难的物理曲线。

  • 因此,稀缺会先于富足到来。Musk预计,2年内会有“一大堆机器人”,认为从稀缺到充足的时间差可能只有5年,但他还没有决定早期家用机器人应该出售还是租赁。

  • 通用形态很重要:Optimus可以吸尘、建造房屋或制造专用机器,而不是被锁死在某一种家电类别里。拟议中的新Optimus工厂约800万平方英尺,显示了这一论点所隐含的物理规模。

22. Starship是最后一台在未借助AI的人类极限上建造的巨型机器

  • Musk支持Jared Isaacman主导的NASA新计划,核心是建立永久有人驻守的月球基地,而不是重复Apollo式的短暂停留:“我们在’69年已经做过了。”机器人可以先行部署、建造基础设施并准备生活区,之后人类再抵达。

  • 他预计轨道加注将在年底前后实现。次年尝试火星仍然可能,但“概率很低”,也可能分散注意力;2028–29年似乎是压力更小的窗口,但还不是确定承诺。

  • Musk说,Starship目前运行在“生物智能的极限”上。在他看来,Raptor 3远远是有史以来最好的火箭发动机,设计过程中几乎没有有意义的AI辅助;AI可能在约1年后才会真正帮助火箭工程,使Raptor 4成为不同一代的产品。

  • 完全重复使用需要解决飞行之间数千个看不见的失效模式。SpaceX的Falcon 9助推器已经有超过500次重复飞行,而Starship助推器的再入过程更温和,因为Musk在得出Falcon 9级间比设计失误的结论后,把更多质量转移到了上面级。

23. 功率转换和冷却决定多少硅能真正转化为智能

  • Musk预计,至少未来2年,发电、变压器和冷却仍将是AI的硬约束。电力必须先被生产出来,从约100–300 kV降到机架级的数百伏,在负载波动中保持稳定,最后还要把热量排走。

  • Diamandis称Cortex 1是全球第三大的连贯训练集群;Cortex 2计划在次年年中左右达到约0.5 GW。xAI的Colossus 2目标是在1月中旬左右达到1 GW,并在“4月左右”达到约1.5 GW;Musk同时提到首批B200和GB300。

  • 大楼旁边有电网线路并不能解决问题,因为接入可能需要1年。xAI从大量10–50 MW燃气轮机中拼出约1 GW,并用Megapack平滑训练负载,否则负载变化会让发电机“想要爆炸”。

  • xAI还自行设计了变压器和冷却系统。液冷本身也带来尾部风险:密集加速器附近一旦水管爆裂,可能“瞬间摧毁10亿美元”,这说明仅有芯片供应无法决定可部署的算力。

24. TSMC担心生产出无法使用的芯片,引发全场最尖锐争论

  • Musk说,世界最终会撞上“芯片墙”,因此需要另一座晶圆厂;选择很简单——要么建厂,要么撞上短缺。他提出的挑衅式建厂设想是建造一座2 nm工厂,在那里他可以吃芝士汉堡、抽雪茄,因为晶圆隔离和氮气处理能够让污染物远离晶圆。

  • 不过,在某个具体时点上,他认为TSMC不愿过度扩产是理性的。假设GPU产量从2,000万台提高到4,000万台,新增供给可能缺少完整的电力、变压器和冷却能力,暂时无法开机。

  • Blundin强烈反对:智能的价值如此之高,即使这些额外加速器停在主训练集群之外6个月,它们也一定能找到推理工作负载。“这些东西不可能无论如何都无法在某个地方开机。”

  • Musk不是放弃判断,而是缩小了判断范围:问题不在于永久需求,而在于增长曲线的交叉。芯片产量可以以复合速度增长,而电网建设缓慢且线性,因此不同日期的限速因素会变化;后来,电力可能不再是瓶颈,晶圆厂又会重新成为瓶颈。

25. 领先制程收益递减,中国可以追赶

  • Musk预计,中国将在2026年超过美国约3倍的发电量,并且“会搞定芯片”。如今把名义制程从3 nm缩小到2 nm,只能带来约10%的提升,而不是3:2的提升,这会削弱领先制程的优势。

  • 他以新一代ASML设备为例说明边际经济性递减:成本约翻倍,光罩尺寸减半,但收益相对有限。原子层面的限制让纳米标签越来越像“营销垃圾”;Musk宁愿用芯片中原子的数量和位置来描述芯片。

  • AI的并行化改变了竞争方程。多用50倍的旧芯片,也能产生比例上有用的智能;这与单线程运行电子表格时增加CPU完全不同。因此Musk给出明确预测:按照当前趋势,“中国将在AI算力上远超世界其他地区”。

26. 在竞争上升为国家对抗之前,xAI和Google领先Musk所在赛道

  • Musk的最佳猜测是,xAI和Google将争夺AI第一名。他特别认可Anthropic在编程方面的能力,也承认OpenAI的结果令人印象深刻,但再次批评其从非营利和开源走向利润最大化的闭源路线。

  • 下一层竞争力量是由更多电力、太阳能产能、最终更多芯片支撑的“中国公司整体”。Diamandis问,ASI级系统是否能够相互理解并合作;Musk保留了达尔文式竞争的可能,只说未来会有“很多智能”。

  • Musk过去的比喻在这一预测中变成了字面现实:人类是“数字超级智能的生物引导程序”。硅电路无法在盐水池中进化,因此生物生命创造了继承者系统,随后自身在行星智能中的占比渐近于0%。

27. 科学发现变成AI吞吐量问题

  • Diamandis认为,AI或许可以从现有数据中推导出新物理,因为人类不太可能已经耗尽数据中包含的所有含义。Musk说,闭环“数据工厂”完全可行:它们可以提出假设、持续运行精确模拟,并以任何研究团队都无法匹敌的规模产出结果。

  • 数学可能在约1年的时间尺度上被“碾碎”,而AI发现新知识的速度会远超诺贝尔奖委员会的处理能力。人类可以类比国际象棋:手机已经能够击败Magnus Carlsen,但即便机器统治前沿,人们仍可能享受观看人类对弈。

  • Musk预计未来会由各领域专家协同,而不是依靠一个没有区分度的模型——可能一半是通识、一半是专业知识,再由更大的AI负责路由任务。他指出,蒸馏一个主题模型可以带来约10×性能提升,因此专业化很难被忽视。

  • 开放问题在组织形式:未来Colossus规模的研究中心是否仍需要顶尖科学家,还是只需要维护电力和液冷系统的技术人员。无论哪种情况,如果先进系统持续重新发现并改进每一种产品,专利的意义都会消失。

28. 意识看起来是连续的,而有感知生命似乎很稀有

  • Musk否认意识存在一个突然开启的清晰时刻。受精卵、婴儿和成年人展现出逐步增加的意识程度,因此“要么一切都有意识,要么什么都没有”似乎比清晰的生物学边界更合理。

  • 他还认为,地球出现技术智能的时间刚刚好。随着太阳逐渐膨胀,地球可能在约5亿至10亿年后变得类似金星;如果这个过程仅仅多花约10%的时间,人类可能就无法在宜居窗口关闭前出现。

  • 这一时间点让感知生命即便置于巨大宇宙中也显得稀有,Diamandis认为人类应该把它视为稀有资源。除非出现新的物理学,跨越星系仍然几乎无法实现,因此外星生命在现实操作上并不等于邻近的智能。

29. 模拟理论奖励的是趣味,而不是安全

  • Musk的模拟论证是达尔文式的:运行者会终止无聊的模拟,因此只有有趣的模拟才能持续存在。如果模拟理论为真,“最有趣的结果最可能发生”,因为无聊的分支不值得继续运行。

  • 电影说明了这种压缩:2年的制作过程被压成2小时,画面保留的是抢劫,而不是交通和穿过赌场。我们全部的历史也可能只是运行者眼中的一小段时间。

  • 但这并不保证参与者会有好结局。关于第一次世界大战的电影仍然很有趣,即使角色被炸得四分五裂;观众在吃爆米花,但“这次我们就在电影里”。“刺激保证”因此既是承诺,也是警告。

30. Grok路线图从图像识别走向人类无法解析的问题

  • Musk说,Grok 4.2尚未对外发布,Grok 5计划在Q1推出。当前的图像分析已经可以仅凭一张没有上下文的照片识别Diamandis,但Musk最近一次让AI设计电路仍然失败了:“还不行。”

  • Diamandis说,已经“很原始”的Grok 4在排除视觉问题后,在Humanity’s Last Exam上取得了约52%的成绩,因为多模态能力还不够。Musk表示,Grok 5可能接近满分,并识别出基准测试本身的错误。

  • 更重要的门槛不是回答人类难题,而是提出人类无法理解的问题。Musk认为,这会在“1年或更短时间内”发生:问题可能长达数页,人类心智无法连贯容纳,更不可能在其中求解。

31. 简单算法为算力效率留下巨大空间

  • Musk和Blundin惊叹于Transformer抛弃了领域中大量架构复杂性。Musk推理称,智能算法不可能无限复杂,因为它必须被编码在DNA有限的信息容量中。

  • 他更看重模型文件大小,而不是参数数量,因为4比特、8比特和16比特参数带来的物理负担不同。真正的约束是内存容量、内存带宽,以及把比特搬进计算单元的能力。

  • Musk预计,训练将从16比特、推理时压缩到4比特,转向4比特或更低精度,而且就在今年内发生。一个拥有数千个微型低精度核心的专用协处理器,可能在AI开始设计自己的继任者之前带来10–100×的提升。

  • 上下文让低精度变得可行:如果系统已经知道自己在Texas,就只需要知道城市和街道,不需要完整地址。Musk用这个比喻解释,尽管全球范围内16种状态看起来不够,局部范围内4比特仍然可以编码足够的信息。

32. 视频、机器人和自动驾驶让下一年变得有形

  • Musk确认,他有一个雄心勃勃的AI游戏工作室设想,并预计最终大多数AI算力都会服务于实时视频消费和生成,因为每个像素都承载着高带宽。参与者讨论了《Civilization》作为教育游戏的可能性,而Diamandis说自己通常会选择科技胜利路线,前往Alpha Centauri。

  • 接下来的一年会有不同的感觉,因为数字进步开始获得实体:人形机器人、Cybercab、无人机或飞行汽车、快速发射的火箭,以及嵌入每辆车和每台机器人的边缘推理。“The Jetsons”开始真正出现,而不再只是停留在屏幕之后。

  • 跨行业转移会进一步放大这一效果。汽车的大规模制造能力成为火箭和卫星领域的“超能力”,航空航天材料则成为汽车领域的超能力;AI如今把Musk最初作为不同问题集建立的业务连接起来。

  • 他的收尾框架是经过设计的乐观,而不是宿命论:“现在是有史以来活着最令人兴奋的时刻”,唯一更令人兴奋的时刻是明天。在温和的结果中,任何人都能看到自己的“最大梦想变成现实”——但真正决定未来走向的,仍然是那些建造和引导这些系统的人。