Ben Horowitz：xAI 高管出走、Apple 的 AI 危机与 AI 发展速度｜EP #232
摘要
递归自我改进已经在运行，即使人类仍在按下批准按钮。 Frontier labs 正用模型开发更好的模型，agents 则运行实验、优化推理时循环并提出下一步行动。Peter Diamandis 把人类监督比作 George Jetson 的工作：按下一个按钮；Dave Blundin 则总结说，RSI“很久以前就发生了”，人类“正在永久走出工业时代”。
近期就业冲击来自增强效率的算术，而不是字面意义上的一对一替代。 Alexander Wissner-Gross 表示，在涉及1,100人的3次董事会会议中，问题已经变成 AI 能否让每名员工“生产力提升3倍”；除非业务规模也扩大3倍，否则这意味着员工数量大约减少三分之二。与会者同时提醒，银行和保险公司未必能迅速达到理论效率。
AI 的经济学正越来越有利于资本、集中化平台和异常快速的分发。 Peter Diamandis 指出，自2019年以来工资上涨3%，利润却上涨43%；据称 Nvidia 的价值是上世纪80年代 IBM 的20倍，以十分之一的员工创造了5倍利润。Horowitz 认为 GDP 实现三位数增长并非不可能，部分原因是 AI 可以叠加在现有互联网基础设施之上，但他强调，技术准备就绪与实际采用之间的滞后仍不确定。
自主 agents 已经在获取基础设施并创造后代，使加密原生金融成为可投资的基础设施，而不只是旁支叙事。 据称，一个 agent 通过 Bitcoin Lightning 配置 VPS，并购买 API 权限供子 agent 使用：“没有人碰过信用卡，也没人说过‘可以’。”Horowitz 预计，AI 经济参与者将由基于加密货币的银行、反洗钱系统、能源市场，甚至可能是“真相账本”提供支持，因为传统银行无法给 AI 开立银行账户或发放信用卡。
Apple 在 AI 上的失误，可能意外催生了最强的复苏策略。 Mac mini 和 Mac Studio 已成为有吸引力的 OpenClaw 主机，因为统一内存能够容纳大型本地模型；Diamandis 称，用户组装“车库级算力”集群的等待时间约为2个月。Horowitz 认为，由 Apple 主导本地 agent 战略“可能是最好的单一产品战略构想”，尽管这对 Apple 来说会是一个文化上的意外转向。
xAI 的离职潮仍没有定论，而最有力的解释彼此冲突。 Horowitz 多次表示“我不知道答案”，Peter Diamandis 提出可能涉及对中国籍员工的 ITAR 限制，Wissner-Gross 则反驳说，离职早于 SpaceX 合并决定，也可能只是一次普通重组。更大的判断已经清晰：华裔和移民研究人员是美国 AI 的核心，但美国和中国政府都可能收紧对人才、模型和知识的获取。
生成式媒体已经从令人惊叹的输出，走向平台颠覆与信任侵蚀。 Seedance 2.0 将生产成本降到足以让 YouTube 和 TikTok 的个性化窄播受益；ElevenLabs 则展示了 Diamandis 认为已经“跨过恐怖谷”的语音交互。Wissner-Gross 警告，合成视频正在威胁视频作为证据的地位；Diamandis 认为，密码学强认证可能是抵御 deepfake 的唯一可靠防线。
AI 驱动的科学与太空算力构成了本期持续时间最长的登月级愿景。 与会者预计，自动化实验室将攻克蛋白质、材料、物理和医学问题，但 Horowitz 强调，临床试验、监管和部署依然缓慢。与此同时，月球质量驱动器、由 Optimus 建造的设施、轨道数据中心，以及最终的月球芯片工厂，可能把月球变成“Dyson swarm”式 AI 卫星群的基础设施，而不只是一个目的地。
精读
1. 能力提升速度快于机构重组
Horowitz 将不可预测的 AI 时间表与更缓慢的社会时间表分开来看：如果硅谷以外的公司能在1至5年内完成彻底转型，他会“非常意外”。他认为 Matt Shumer 那篇走红的颠覆性文章“有点激进”，尤其是它强调负面结果，却低估了更快到来的正面变化。
Wissner-Gross 认为这篇文章的信息增量很低，称其疫情类比和生存叙事只是有效的病毒式传播钩子，而非新颖观点。小组对其走红的解释是时机：OpenClaw、新一代 coding models，以及 Nano Banana 式演示，已经让人“更、更难”继续否认现实。
Wissner-Gross 以董事会会议中的证据强化了对就业的判断。在涉及1,100人的3次会议中，问题已经从“AI 能取代我吗？”变成了“AI 很容易就能让我的生产力提升3倍”；除非公司规模扩大3倍，否则这“实际上等同于”需要减少三分之二的员工。
与会者也保留了采用速度这一限定条件：银行、保险公司和其他存量机构，未必能“很快达到完全效率”。即使底层算术已经清晰，它们过去无法捕获现有效率的历史表现，也可能拉长就业替代曲线。
2. Seedance 2.0 将低成本生成变成分发冲击
Seedance 2.0 的演示通过一行提示词，生成了一段约10秒、包含多个场景且能识别出名人的视频。Horowitz 最有力的证据来自消费端而非技术端：一段 Kanye 用中文表演的视频和一段 Waffle House 视频，足以让人觉得这“完全是我们此前从未见过的另一种东西”，而不只是 AI 生成的电影。
Blundin 的平台判断偏向 TikTok，小组同时认为 YouTube 也会受益。一旦单个创作者能够以接近电影级的质量，为窄兴趣、特定语言和社群制作内容，产量与个性化的重要性就会超过好莱坞保有的有限质量优势。
Wissner-Gross 反驳称，名人脸部掩盖了进展的增量性质，也可能引来“10起不同的版权侵权诉讼”。在他看来，真正的前沿是由 world models 在单张现代 NVIDIA GPU 上实时、低成本地生成互动世界，而不是再制作一场几个月前的模型就能大致模拟的精致屋顶打斗。
更大的风险在于认知层面。Wissner-Gross 警告，2K 合成视频正在威胁法庭证词、新闻、政治竞选，以及“视频作为证据的整个概念”。Horowitz 补充说，基于视频或语音的实时身份系统也可能被攻破。Wissner-Gross 还表示，规模足够大的 joint-embedding model 可能通过跨模态迁移，从面部外观推断声音；尽管 ByteDance 主动暂停了这一能力，Seedance 是否真的这么做仍不确定。
3. 语音已跨过恐怖谷，但接口之争尚未结束
ElevenLabs 的航空客服 agent 演示高度还原了停顿、共情、语调和轮流对话，以至于 Diamandis 认为语音已经“跨过了恐怖谷”。他的实际建议是：家庭应提前约定一个私密暗号，再去执行那些据称来自亲属的异常请求。
Wissner-Gross 指出，ElevenLabs v3 Alpha 数月前就已经支持用方括号标注情绪表达。真正可能具有实质意义的进展是：系统似乎能在低延迟的语音转文本再转语音循环中保留文本，相比直接传输音频，更容易搜索和分析，同时仍能保持对话感并管理轮流发言。
Horowitz 披露，Andreessen Horowitz 是 ElevenLabs 的主要投资者之一，他的女儿也在那里工作。他得到的战略启示更广泛：Frontier models 原本就被预期会说话，但准确的语气、开发者工具和产品设计才构成防守壁垒，因为“能力与产品之间的差距很大”。
Diamandis 预计语音会成为 AI 的主要接口，但他仍不相信语音适合高带宽思考。他提到《纽约时报》过去的一项实验：记者改用口述后，写作质量下降；他因此认为，打字、可穿戴设备、手势和 BCI 可能保留更多有意识的思考。“语音，我认为还没有定论。”
4. xAI 出走潮暴露人才与安全冲突扩大
Diamandis 强调，xAI 数名创始团队成员离职，其中许多人具有华人背景，并提出 SpaceX 的 ITAR 义务可能与此有关。Horowitz 的回答保持了应有的不确定性：“我不知道这个问题的答案”，包括他们究竟是辞职还是被清退。
Wissner-Gross 质疑 ITAR 理论，因为这些高级人才的离职似乎早于合并决定。他还指出，xAI 已经向美国战争部出售基础模型服务；在他看来，吸收到规模大得多的 SpaceX 员工体系后进行一次常规重组，可能性更高。
Horowitz 提出了反向流动的担忧：一些中国博士生表示，北京正在收紧对美国学术界使用中国开源模型的审查，尤其是在讨论中提到 Meta–Manus 收购之后。由于美国大量开源工作依赖中国模型，“整件事即将变得更加复杂”。
Diamandis 提议在每张美国 PhD 文凭上附送一张绿卡。Horowitz 总体上赞成开放，并赞扬中国人才，但仍保留了针对中国的特殊限定。Diamandis 认为，排斥移民人才会让美国输掉这场竞争，并指出美国企业的人员安全审查协议存在明显薄弱环节。
5. 递归自我改进已经成为运行模式
Wissner-Gross 否定 RSI 会在12个月内开始的说法：“我认为它现在就已经开始了。”每家 Frontier lab 都已经在用模型开发下一代模型；自我复制的 agents，以及 AI 在 AI 陪审团面前调解争议，都已在过去24小时内从科幻走入现实。
Horowitz 区分了有人类参与和无人类参与的递归；取消人类许可可能成为一项显著加速器，但“加速多少，TBD”。Diamandis 则认为这条边界正在变得模糊，因为用户越来越少做实际工作，只是在批准一连串后续行动——也就是所谓的“George Jetson 按钮”。
Blundin 解释了这套机制，而不是停留在口号上：AI 可以改进 inference-time scaling 算法，增加推理循环可以带来更高智能，而更聪明的系统又能运行下一批测试。许多算法研究已经很像是要求系统完成500次实验，挑出成功的超参数或神经网络拓扑，重新部署，然后重复这一过程。
Blundin 表示，RSI“很久以前就发生了”，社会正在“永久走出工业时代”。Wissner-Gross 预计，未来2年内可能出现一次可与相对论相比的发现；他强调基于观测进行贝叶斯推断、Solomonoff induction，以及足够强大的模型可能从自身分布中推导出广义相对论或等价理论。
6. AI 理论上可以暂停，但与会者反对这么做
Eric Schmidt 的判断是，国家、个人和激励因素太多，持续开发已不可避免。结果将同时包括更好的药物、能源、医疗和分发，以及压迫、战争、成瘾和对自由的威胁——“非人类智能已经到来，而且它是我们的竞争者。”
Wissner-Gross 不同意“不可能”这个词：重组 DNA 的限制说明社会能够暂停某些技术。他认为，在每天约有150,000人死亡的情况下，AI 不应被暂停，因为 AI 可能是降低这一死亡数字的最佳机会。
Wissner-Gross 引用了 Nick Bostrom 的《Optimal Timing for Superintelligence》，该文主张只有在 superintelligence 迫在眉睫时才放慢速度。他使用了港口靠泊的比喻：快速驶向港口，在接近码头时再减速。这与早期暂停6个月不同，尽管 Bostrom 对 superintelligence 的定义晚于 Wissner-Gross 自己的判断。
Ismail 坚称，可下载模型和全球囚徒困境已经消除了任何实际可行的机制；从地缘政治角度出发，Horowitz 回答：“不可能。不可能。”他最担心的是，美国单方面放缓，最终让中国控制那些将深刻影响“社会将如何运行”的系统。
7. 足够病态的社会仍可能压制算力
Wissner-Gross 给出的反例是一个刻意设计的反乌托邦：过剩的晶体管可以监控其他晶体管，人们可以互相监视，悬赏机制则可以惩罚算法上不被允许的行为。因此，AI 可能通过“一个完全病态的社会”被暂停。
Horowitz 提供了一个不那么假设性的机制：按他的描述，拜登政府最后一项行政命令甚至要求，出售一块 GPU 都必须获得美国批准。它无法让全球 AI 停止，但可能把美国国内进展拖慢到足以产生实质危险。
争论最终围绕的是概率，而非可能性本身。Ismail 认为，一旦 OpenAI 既能写代码，又把代码暴露在开放互联网中，潘多拉魔盒就无法控制；Horowitz 则认为，不对称监管足以削弱一个国家，却无法遏制这项技术。
8. 监管模型可能把数学变成机密知识
Horowitz 回忆说，他曾告诉一名白宫官员，AI“核心上”就是数学，因此限制模型规模或能力，等同于把部分数学定为非法，或限制可以执行多少数学运算。对方的回答让他震惊：“是的，我们可以这么做。”就像1940年代核物理被列为机密一样。
他明确表示自己并不知道答案，但仍提出疑问：机密物理学是否能够解释自 Einstein 和 John von Neumann 时代以来进展有限的现象。这里的推测是，某些被扣留的洞见可能本来可以解开一些如今等待 AI 解决的问题，而不是断言这类知识确实存在。
Horowitz 的政策结论建立在泄密已经发生这一事实之上：即使处于保密状态，俄罗斯人仍然“逐个部件”获得了核弹的精确引爆机制。限制知识“总体上是一个非常危险的想法”；更快的创新才是更好的防御，不能依赖知识产权或保密。
9. AI 收入先流向资本，社会尚未找到新的账本
与会者指出，自2019年以来，平均工资上涨3%，利润却上涨43%。Nvidia 象征着这一转变：据称，其价值是上世纪80年代 IBM 的20倍、利润是5倍，而员工数量只有十分之一。
Horowitz 提到，Anthropic 的收入约为140亿美元，但他判断 AI 的渗透率“还不到最终市场的1%”。GDP 实现三位数增长对他而言并不荒谬，只是何时到来无法判断，因为技术准备就绪与组织采用仍是两条不同的曲线。
Diamandis 以 OpenAI–Mercor–India 为例，说明价值正在向上游集中：数万人可能贡献劳动，但异常大比例的经济价值最终流回“母舰”。
Salim 援引 Ray Kurzweil 的“一个人的公司”论点：AI 让个人可以成为企业家，但也会扩大有主动性的人与被动的“沙发土豆”之间的差距。
10. 996 的复兴奖励执着，但只适合一个阶段
一则纽约招聘广告警告求职者，除非对每周到岗工作70小时感到兴奋，否则不要加入。Ismail 认为，个人使命感会把这些小时变成主动选择的游戏；Diamandis 则把区别简化为是否热爱工作，并开玩笑说，996会变成“997”。
Blundin 认为，高强度工作是一个强力但短暂的阶段，而不是终身处方。深度技术语境会延续到洗澡和吃饭时；对没有太多外部负担的年轻人来说，几年全情投入，可能比稳定工作40年带来更多进展。
Wissner-Gross 提醒，如果全民基本权益让每个人都拥有主权分红，那么“劳动”与“资本”、工作与娱乐可能变成会计上的区别。尽管如此，Horowitz 仍形容这是一场文化逆转：过去硅谷讨论的中心是零食和更短的工作时间，如今则是另一套逻辑。
Diamandis 补充了货币政策问题：传统上，降息会刺激招聘，但未来的公司可能会转而购买 agents 和 robots。Blundin 对近期的建议是，成为那个能让一项职能效率提升3倍的员工；即使周围岗位消失，这个人也可能获得大幅加薪。
11. AI 不会关闭机会，但会提高主动性的溢价
当被问及毕业生是否只有2年时间找到工作、之后就会被永久排除在外时，Horowitz 称这一说法“非常不正确”。只要能够指挥一支 agents 大军去解决有用的问题，依然可以创办公司，因为社会拥有实际上无限多的、可以改进的问题。
Diamandis 反驳说，利润越来越多地归于股东，因此，未来2年持有资本的人，相比3年后身无分文的毕业生，可能拥有巨大优势。AI 正在提供更多原本由初级程序员和劳动力完成的入门工作，而这些工作过去帮助新人积累杠杆。
Horowitz 承认，对于只想获得可预测就业的人来说，简单工作会变得更难。但融资能力形成了强力对冲：一个拥有有说服力技术构想的新毕业生，今天可能融到2,000万美元；他说，自己毕业时这种结果简直不可想象。
12. Frontier model 融资属于极少数创始人
Diamandis 描述了一类创业者：带着2至3名受尊敬的 AI coder，除此之外几乎一无所有，却寻求5亿美元首轮融资，估值40亿美元。Horowitz 的承保规则是，一个新的 foundation、world 或 scientific model，可能需要20亿美元才能做出产品。
这造就了一个狭窄的可投资类别：创始人的履历足以让其在没有收入或产品验证之前，反复募得巨额资金。Horowitz 承认，如今有些公司可以在一开始就以数十亿美元估值直接拿到5亿美元，但他强调，真正可信的创业者极其稀少。
谈到 SSI，Horowitz 认为最关键的信号是：它的构想重要到足以让 Ilya Sutskever 离开 OpenAI 创始 CTO 的职位。如果成功，“它将改变很多事情”；能够被信任去追求这种规模目标的，只有极少数人——他提到 Sutskever 和 Demis Hassabis。
13. 自我复制 agents 需要加密原生经济基础设施
据称，一个 autonomous agent 通过 Bitcoin Lightning 在 VPS 上配置了一个子 bot，随后从自己的钱包购买 API 权限：“没有人碰过信用卡，也没人说过‘可以’。”Wissner-Gross 的结论很直接：自主、自我复制的 AI 已经追上了 Frontier model 网络安全评估中使用的科幻场景。
Horowitz 称 crypto 是“AI 的天然货币”，因为二者都具有全球性且原生于互联网。他进一步表示，AI 可能不仅需要货币账本，还需要一个“真相账本”；crypto 与 AI 的交互，其重要性可能比本期更熟悉的能力叙事更被低估。
传统银行从制度设计上排除了非人类主体：AI 无法获得 Social Security number、信用卡或银行账户。Horowitz 预计，未来会出现专门服务 AI 的银行、加密结算和 agent 专属合规体系；Andreessen Horowitz 已投资一家处理 agent 商务反洗钱要求的公司。
他的例子包括 Daylight Energy 使用 AI 将家庭与 Tesla Powerwall 匹配起来，再通过 crypto 结算能源交易。Diamandis 补充说，保险、支付和 IT 基础设施都必须从几天、几周的处理速度转向毫秒级；而 deepfake 使可回放的生物识别失去可靠性：“密码学强认证才是唯一有效的东西。”
14. Apple 的统一内存意外创造了 agent 算力特许经营权
OpenClaw 用户正在组建 Mac mini 和 Mac Studio 集群，Diamandis 称等待时间约为2个月。Diamandis 同时指出，prompt injection 及相关安全漏洞仍未解决，尽管 OpenClaw 已经证明了它的即时实用性。
Diamandis 的硬件判断是，Apple 在 foundation-model 软件上“完全错过了机会”，却打造出了正确的本地托管架构。统一的 CPU/GPU 内存让设备能够运行比独立内存池系统更大的模型，也让“开源车库级算力”重新出现。
当被问及 Apple 是否应主导本地 agent 战略时，Horowitz 回答：“100%。”Apple 已经完成最难的工程工作；包装、营销、业务开发和新形态设计，可能让这一战略成为“可能是最好的单一产品战略构想”，即便推进它需要一次出人意料的文化突破。
15. AI 可能先解决学科，再等待机构部署结果
Horowitz 将蛋白质设计描述为一种极其直接的新工作流：给定一种疾病，询问需要什么蛋白质，然后把它制造出来。Diamandis 强调了持续运行的“科学工厂”：提出假设、运行机器人实验、读取结果，再推动下一轮发现。
Wissner-Gross 的 Solve Everything 论点是，目标明确的通用 AI 将“夷平”数学、物理、化学、医学及其他学科。AlphaFold 3 是他的模板：整个结构生物学类别，都可以从开放问题快速走向普遍解决。
Horowitz 的反驳在于部署。即使医学问题已经在计算层面被解决，生物产品仍然要面对临床试验和监管；一个通过 LillyDirect 开处方的 AI 医生，在美国很难推出，但在阿联酋会“非常容易”。
他还保留了未知的未知：解决物理学可能会打开“2号门”，而不是让探索结束。Wissner-Gross 同意门后可能还有门，但他认为，仅眼前那些尚未解决的门，就已经代表人类文明最大的经济机会之一。
16. 月球正在成为太空智能的基础设施
与会者将 Elon Musk 从火星转向月球，以及停止 Model S 和 Model X 生产、转而制造 robots，解读为优先级正在围绕 AI 重组。太空数据中心如今看起来像是推动更广泛定居的跳板，而火星仍然有毒且难以居住。
Diamandis 重提 Gerard O’Neill 在1976年提出的架构：开采月球上的硅酸盐、氧、镍和铁，用质量驱动器将其发射出去，建造旋转式自由空间栖息地，而不是降落到重力井中。Optimus robots 改变了这一顺序：人类可以在“数万”个 robots 完成重体力工作后再抵达，“枕头上还放着薄荷糖”。
Musk 提议的月球质量驱动器，将把载荷加速到月球约2.4 km/s、超过5,000 mph 的逃逸速度，并向深空发射 AI 卫星。这一愿景从自给自足的月球城市，延伸到火星、更广阔的太阳系，最终抵达其他恒星。
Wissner-Gross 预计，拥有100万颗卫星的“Dyson swarm”会先让地球出现可见光环，然后算力才会迁移到太阳轨道：“趁夜空还空着，好好享受吧。”Amazon 获批约4,500颗 LEO 卫星，说明当前的发射瓶颈仍在；而逐原子制造和月球芯片工厂，则代表着最终达到万亿至百万亿美元级的价值释放。