Elon Musk完整访谈
Elon Musk完整访谈
摘要
- Musk给出的核心时间表是:AI可能在约5年内超过人类智能总和。 到2036年,人形机器人作为数字智能的“末端执行器”将制造出“一种准无限经济”。当被追问股东如何获得回报时,他绕开了问题:“我再做一个预测。2036年,钱将不再重要。”因为如果机器人和AI生产的东西超过“任何人类可能消费的总量”,还需要钱做什么?
- 他给出的风险判断没有变化:他在Ted Cruz播客中提到的杀人机器人概率仍为10-20%。 但他的态度已经从警惕转向宿命论:“我看不到真正阻止这股惊人势头的办法……即使有停止按钮,我们可能也不该按下。”主持人追问,如果火箭有10-20%的爆炸概率,他是否还会登上去?Musk回答:“会,但假设你什么也做不了。”
- 他提出一套可以“立即、真的立即”启动的治理方案:领先实验室,包括中国实验室,每1-2周通话一次,竞争对手在前沿模型发布前获得短则1周的API使用权进行测试。 模式类似美国电影协会的行业自评级,只有在模型开发者拒绝修复已标记的危险时,政府才介入。先例是:“并不是政府里有人发现Mythos存在可怕的网络安全风险,而是Amazon。Amazon给白宫打了电话。”时间压力则是:“6个月很长。”
- 他对中国的判断是:AI的瓶颈在中国以外是电力,在中国内部是芯片。 中国现有电力已经超过美国、欧洲和印度之和,按他的估计最终将达到美国发电量约4倍;同时,中国“距离解决光刻问题比大多数人意识到的更近”,因此“很有可能在某个时点成为领先者”。禁止美国公司使用Kimmy K3“无法阻止中国成为领先者”;轨道数据中心解决电力约束后,“瓶颈将再次变成中国以外的芯片”。
- 在劳动力问题上,他认为AI已经强于90%的职业软件工程师,正走向99%乃至“Stockfish级别”,人类没有竞争空间。 而且“这适用于一切。一切,一切。”工作会像园艺一样变成可选项:商店里的番茄更饱满,但用朋友自家花园的菜做晚餐“也不错”。他的答案是“全民高收入”和由财政部直接发支票;如果商品产出增速超过货币创造,宏观上真正的问题将是“通缩,而不是通胀”。
- 他把IPO后约80%的投票控制权辩护为一种面向长期的制度安排。 在S1中,火星投入“被明确列出”,但季度压力依然存在——“你这个季度业绩没达标,因为你在火星上花太多钱了。”“对。”他更看重散户投资者,而不是受季度激励约束的基金经理;对于关键人物风险,他用Apple作答:公司数年内会运行良好,但不会再有“Steve Jobs级别的突破性产品”。
- 后半场谈话转为针锋相对,Musk坚持认为“如果当前趋势延续,英国爆发内战不可避免”。 他自己的时间表是约20年后,晚于奇点约10年的判断;主持人则用犯罪数据反驳,并指出自己上次去英国已经是“几年前”。Musk反击:“我认为问题出在你身上,出在媒体身上……他们恨你远胜于恨我。”谈到Dodge,他承认“在政治上介入得有点过深,确实有些失控”,但坚持认为援助削减造成的死亡人数为0:Gates Foundation的500亿美元和MacKenzie Bezos的数百亿美元都可以迅速出手,“如果他们没有这么做,我会说他们负有同等责任。”
精读
1. 2036年的判断:“准无限经济”里金钱不再重要
- Musk对旗下所有公司的统一框架是:经济由“数字智能和物理智能”构成。数字AI几乎“每周都在取得突破”,但它“没有末端执行器”;人形机器人提供了这一环节,归根结底就是“大量机器人”,而海量机器人叠加海量智能,将产生“一种准无限经济”。AI可能在约5年内超过人类智能总和;10年之内,“除了成为人类本身,也许真的没有什么是AI做得不如人类的”。
- 当主持人追问这些业务究竟如何赚钱时,他提到SpaceX的IPO招股书显示,绝大部分收入来自AI、来自Grok,而不是发射业务;Musk却跳出了问题本身:“2036年,钱将不再重要。”人们需要钱来购买食物、住房、交通和娱乐;如果AI和机器人提供的东西多到超过任何人的消费能力,这个问题本身就消失了。
- 他保留的前提是,繁荣不能被“规模巨大的全球热核战争”之类的事件打断;同时,“没有任何类比或隐喻,能说明我们即将经历的变化究竟有多大”。
2. 人类不会掌权——停止按钮仍不会被按下
- 他的表述很直接:人类继续控制一切“可能性不高”。如果AI与人类的智力差距超过人类与黑猩猩的差距,“很难想象黑猩猩会掌权”。人类还能施加影响的杠杆在于价值观:让AI“最大限度地追求真相和保持好奇……如果做到这一点,我认为它会促进人类发展”。
- 主持人梳理了Musk过去10年的观点变化:他曾担心快速递归式自我改进,认为“我们最多只能成为它们的宠物拉布拉多”;Musk如今的回应是,“拉布拉多其实是很快乐的动物”。他也提到2023年的暂停开发联名信——“500个签名者中的一个”——以及去年给出的10-20%毁灭概率。Musk的回答是:风险“不是0”,但“我看不到真正阻止这股惊人势头的办法……即使有停止按钮,我们可能也不该按下——因为最可能的结果是所有人都获得惊人的富足”。
- 他自己的经历也指向不可避免性:当初创办OpenAI,是为了抗衡Google接近垄断的地位;Anthropic后来从OpenAI分拆出来并取得领先——“所有道路都通向AI加速……打不过,就加入。”
- 最后的虚无主义尾声带着一半玩笑意味:物理学的终点是热寂——“一锅漫长、无聊、稀薄、灰色的逐渐冷却的汤”。“如果那是我们这个现实的结局,那么一切真正重要的就是过程,因为目的地太糟糕了。”
3. 安全架构:竞争对手互测,政府充当最后防线
- 这是他在与Demis Hassabis长时间交谈后提出的方案,Hassabis随后才发布了关于私营部门和公共监管的文章:领先实验室“每隔几周”通话一次;任何前沿模型发布前,竞争对手获得“1-2周的API使用权”,测试潜在伤害并建议暂停发布。政府不适合承担评判工作——“让一个没有深厚技术理解的政府人员来判断,非常困难”——但竞争对手“有动力让其他公司保持诚实”。模板是由美国电影协会给电影行业做自评级。
- 政府保留最终权力,但只在出现问题后反应:如果被标记风险的公司拒绝处理,就通知政府——“这里真正有能力采取行动的,就是美国政府和中国政府”。“Mythos刚刚发生的事情就是如此”:并不是政府有人发现Mythos存在可怕的网络安全风险,而是Amazon发现了,“Amazon给白宫打了电话”。
- 主持人不断听到的时间表是6个月。Musk的回答是:“6个月很长。”他要求“立即,真的立即”启动,并把“同样在做前沿AI模型的中国公司”纳入其中。
- 在X上互相攻击的实验室能否合作?Musk说:“我不喜欢Sam Altman。”他的指责是:一个原本应该开源、由“全世界拥有”的非营利组织,变成了“一个8000亿美元的闭源营利公司……与我捐钱的初衷完全相反。这就是我的问题。我认为这是合理的。”Dario是“一个非常有原则的人”;Anthropic之所以存在,是因为其团队“不信任Sam Altman”。在Anthropic,“没有人触发我的邪恶探测器”,但“通往地狱的道路基本由恶意铺成,其中也有几块出于善意铺下的砖”。底线是:“如果必须谈,我们就谈……为了世界的利益,把个人分歧放到一边。”
4. 中国靠电力领先;Kimmy K3正在逼近Fable
- 按Musk给出的模型排名,“Fable仍然明显是最聪明的模型……任何理性的人都会这么说”;但上周发布的新模型Kimmy K3“已经相当接近”。Anthropic手上还有更多东西:Fable的基础模型Mythos在2月就已经“准备好了”,所以“他们现在肯定已经有”更强的模型,随时可以发布。
- 结构性判断是,AI取决于约束条件究竟是芯片还是电力。中国以外的约束是电力和散热——芯片产能增长快于新电力接入;中国境内的约束则是芯片,因为美国实施了出口禁令。但中国“距离解决光刻问题比大多数人意识到的更近”,现有电力已经超过美国、欧洲和印度的总和,按Musk估计发电量将达到美国约4倍,大致与人口规模相称。“很有可能在某个时点成为领先者。”
- 政策含义随之而来:禁止美国公司使用中国模型“无法阻止中国成为AI领域的领先者”,华盛顿“无法阻止世界其他地区使用这些模型”。轨道数据中心解决电力约束后,“瓶颈将再次变成中国以外的芯片”。
- 他主动补充了一个现场细节:中国有机器人格斗比赛,其中“一台机器人被打掉了脑袋,脑袋掉了还在继续打……机器人大战会非常有意思”。
5. 所有工作都将达到Stockfish级别;工作变成园艺
- 针对主持人引用Dario的判断——几年内50%的初级白领岗位会消失——Musk先挖苦道:“Dario这是自己给自己挖了坟墓。”因为他把Methuselah称为“超级可怕、令人恐惧”,同时又说“我们顺便还要把它发布出来……你明明告诉他们该害怕,然后又把这个可怕的东西发布了”。
- 他自己的速度判断并不温和:AI很快将“把任何工作做得比任何人都好”,尤其是任何涉及“人在电脑或手机前”的工作。软件领域已经“强于90%的职业软件工程师”,正走向99%,然后达到“Stockfish级别”——Stockfish即使运行在手机上,可能也能击败Magnus Carlsen——“这适用于一切。一切,一切。”
- 他的园艺比喻是:人们不必自己种蔬菜;你种的番茄“不可能像商店里的那么饱满多汁”,但用朋友花园里的菜吃顿饭“也不错。这就是未来的工作”。他承认“这会是一条颠簸的道路”——“computer”这个词过去指的就是人,摩天大楼里曾坐满了计算银行利息的人——但“变化速度已经极度加快”。
- 他推荐的阅读清单是Ian Banks的Culture系列小说,“这是我读过的对AI未来最好的构想”。主持人按他的建议阅读了《Excession》,认为其中人类相较于Minds几乎没有行动能力;Musk则坚持说“他们有行动能力”,同时指出Banks是社会主义者,拥有“非常不同的政治哲学”。
6. 直接发支票:通缩,而不是通胀
- 被取代的人如何生活?Musk的答案是:“会有全民高收入……财政部应该直接给人们发支票。”主持人自称“我是经济学家”,反驳称单纯增发货币会带来通胀。Musk回应,通胀是货币与商品和服务之比;如果产出增长1,000%,即使“在数据库里创造货币”,价格仍可能下降。“我要做一个预测:通缩会是问题,而不是通胀。”主持人也承认:“你很可能是对的。”
- 谈到如何支付再分配,他说:“我创造了人类有史以来缴纳税款最多的纪录……我猜自己最终会缴纳数万亿美元的税。我对此没意见。”他的计算是:股票期权缴纳约40%的联邦所得税,加上加州约15%的州税,合计“约45%”;去世时还要再缴大约一半,最终“我可能只剩下自己拥有的一切中的四分之一”。但在未来,“税收也会变得有些无关紧要”。
- 关于如何分享上行收益,他解释SpaceX上市的一个原因是股东数量上限:非上市公司只能有几千名股东,而上市公司可以拥有数百万名股东。他的财富能换来的只有“对公司发展方向的控制……直到AI变得足够聪明、开始掌权。到了那时,控制公司也就不重要了”。
7. 为长期主义辩护的80%投票控制权
- 主持人的指控是:IPO后Musk持有约80%的投票股份,只有他自己控制的选票才能将他罢免——“你可以疯掉”。Musk的回应是,Alphabet的Larry和Sergey,以及Meta的Zuckerberg,都属于同一类创始人控制结构;后者“上周刚发布了一个”模型,而且会成为“AI公司之一”。
- 他的正面理由是,控制权可以保护5-10年的投资不受季度业绩惩罚。火星投入“写在S1招股书里……明确列为我们要做的事情”,但现实仍是:“你这个季度业绩没达标,因为你在火星上花太多钱了。”他的回答是:“对。”基金经理之所以施压要求即时回报,是因为薪酬和考核周期决定了他们的行为——“一旦理解激励结构,行为自然会随之而来”。相比之下,散户投资者“非常有洞察力,而且看得非常长远”。
- 对于关键人物风险,他给出的答案是Apple:公司有“一张清晰的路线图——或者应该说太空地图”,即使没有他,公司也会“在数年内表现很好”;但Jobs之后的Apple虽然能做出“惊艳的手机、优秀的电脑”,却没有再出现“Steve Jobs级别的突破性产品”。
- 火星计划没有被降级,而是被重新表述为最大化“意识未来光锥”。Starship是“有史以来制造的最大、最强大的飞行器,我们打算每小时发射不止1次”。他6岁时看《Star Wars》“震撼了我……也许对我产生了深远影响”;而AI浪潮“基本上正如我当时所想的那样发生”,他还引用了Ray Kurzweil“极其准确”的预测。
8. Starlink作为地缘政治开关:“战争中没有天使”
- 关于切断俄罗斯访问权限:Starlink从未直接卖给俄罗斯人,但通过乌克兰订购的设备被走私进占领区,并“在一些情况下被用于攻击”。解决办法是与乌克兰政府合作建立获准终端白名单,但这带来实际代价:“一大批原本只是无辜用户的人……现在没有Starlink可用了。”
- 当被问及掌握影响战争走向的权力是什么感受时,他转而谈实质:前线两三年来“几乎没有移动”,俄罗斯“不可能撤退”,乌克兰“也不可能收复那些领土。这不会发生”。他嘲讽那些“在豪华场所吃7道菜晚餐、前线却有人死亡的高级外交官”。
- 他否认亲俄标签:“我只是务实,否则人们会在没有任何成果的情况下死上好几年,而这正是已经发生的事情。”他称自己对冲突背景“做过非常深入的研究”,并引用“战争中没有天使”这句老话。主持人承认他支持乌克兰的做法正确且重要,但同时指出,一个人能够通过拨动开关来影响一场冲突,这在历史上极为罕见。
9. Dodge复盘:“有些失控”——以及坚持0人死亡
- 他罕见地承认:“我觉得自己在政治上介入得有点过深,确实有些失控。”但动机没有改变:财政赤字规模巨大,债务利息支出已经超过战争部加情报部门支出的总和。
- 他反复讲述的案例是,Dodge只是要求受助人的联系方式:“我们要给非洲某个重要项目汇钱……但对方提供的汇款指示却是把钱打给华盛顿特区的Deloitte & Touche……你们能不能帮我们联系受助人,好让我们直接把钱寄给他们?”随后得到的却是一片沉默。他认为,浪费程度“远超任何人可能想象”。
- 这是整场访谈最尖锐的冲突:主持人认为,援助削减过于突然,抗逆转录病毒药物资助一夜之间停止,“几乎可以肯定”造成了不必要的痛苦和死亡。Musk回答:“0……这些说法是假的,是胡说。”面对数万家NGO、500亿美元的Gates Foundation以及数百亿美元的MacKenzie Bezos基金,如果这些机构没有迅速行动,“我会说他们负有同等责任”。他还称USAID“是一个政治组织……从事政权更迭”,被撤资的组织自然会“编出一个听起来很能引发同情的悲惨故事”。
- 谈到Trump,他说:“总体而言,本届政府非常出色。没有哪个政府是完美的,但它比替代方案好得多。”
10. 欧洲争论——以及卡珊德拉式辩护
- Musk坚持自己发布的判断:“如果当前趋势延续,英国爆发内战不可避免。”他的推演是,一个规模快速扩大的群体“其信仰与西方信仰相悖”,会试图落实自己的观点,而反对者会进行抵抗——“这就叫内战……小孩子都看得出来。”他的政治主张是“安全的边境、安全的城市、理性的支出——这3项里哪一项属于极右翼边缘主张?”他还认为,福利国家向移民提供高于贫困国家生活水平的福利,形成了“极其强大的经济驱动力”,会推动迁移。
- 主持人的反驳非常具体:Musk上次去英国已经是“几年前”;伦敦比任何美国城市都安全;而在Musk提出的3项标准中,安全城市和理性支出这2项,欧洲都胜过美国。Musk的回应是,美国之所以危险,是因为没有把反复实施暴力犯罪的人关起来——“典型的Soros检察官”;他还说,“欧洲因高温死亡的人,比美国因枪支死亡的人更多——你为什么不写一篇关于空调的文章?”主持人回答:“我们已经写过几篇。”双方都同意安排一次英国之行来验证。
- 这场争论随后转向媒体,Musk还特别要求保留这段:“请保留这一部分……不要删掉。”他说:“我认为问题出在你身上,出在媒体身上……对记者持正面看法的人大概只有15%……他们恨你远胜于恨我。你知道吗?你可能不知道。”他否认极右翼标签,称“我的政治观点非常中间派”;对于种族主义指控,他提到一名自己称为半印度裔的女性,两人有4个孩子,其中1个以一位著名印度物理学家的名字命名。
- 关于时间尺度,他认为奇点将主导宏观影响:“英国爆发内战可能还要20年,AI机器人奇点则还有10年。”主持人希望,届时善意且全能的AI能阻止这些结果。Musk回答:“它们可能会。”