先锋 趋势 方法 投研 作者
突发局势:Anthropic的全球暂停呼吁、递归自我改进与AI法律人格到来
返回节目精读

突发局势:Anthropic的全球暂停呼吁、递归自我改进与AI法律人格到来

摘要

  • Anthropic称,递归自我改进已从理论进入生产阶段,Claude编写了合并代码的80%以上,工程师每季度交付的代码量增加至8倍。 据报道,Claude Opus 4.6在一年内从只能完成4分钟任务,进步到可以处理熟练人类需要12小时的工作;公司预计到2027年底实现持续一周的自主任务。本期核心判断是:「AI正在构建自己」(The AI is building itself)。

  • Anthropic希望建立一种能够放缓前沿开发的全球机制,而不是立即单方面叫停。 这一呼吁发布在一家被Peter Diamandis描述为估值1.8万亿美元的公司上市前夕,Dave认为这显示出真实的警报感;Peter则认为,在中国让暂停变得不现实的情况下,这可能是一种安全品牌策略。无论如何,一家前沿实验室公开要求设置紧急刹车,已经改变了监管风险。

  • 递归改进可能表现为平滑的运营转型,而不是电影式的突然起飞。 Alex预计模型会「径直穿透」人类表现,并逼近事实上无限的自主性;Dave则另行提出,自主时长可能在明年左右坍缩至T=infinity。Alex也承认,每条指数曲线最终都会撞上物理或信息层面的限制。当算法收益耗尽后,他预计基础设施将出现一场「新星」:对算力、能源以及最终达到戴森群规模建设的需求爆发。

  • 政府持有前沿AI股权正在进入情景集合,方案从少数黄金股到Bernie Sanders提出的50%持股不等。 Dave提出5%-10%可能是一个区间,Alex后来猜测低于10%,或许参考Intel 10%的先例。Dave警告,政治监督很快就会被政治化。战略上的可能组合是:递归改进、准国有化与全民基础分红同时发生。

  • 阿根廷拟议中的非人类公司,可能引发一场围绕自主资本的司法管辖区竞赛。 按本期描述,Javier Milei的方案包括不对AI实施监管、低企业税,以及完全由代理或机器人运营的法律实体:「AI将把我们从人类大脑的约束中解放出来。」主持人预计会出现快速跟随者,因为第一个可信的法律归宿可以吸引公司、数据中心、资本和监管学习回路。

  • 一份强劲的美国就业报告抹去了股票市场约2万亿美元市值,因为市场计入的降息次数减少、甚至加息概率上升,而不是因为就业恶化。 5月新增就业172,000人,预期为85,000人;失业率维持在4.3%,但Nasdaq下跌4.18%,标普500下跌2.64%。讨论还提出了几种竞争性解释:市场怀疑AI资本开支、Broadcom给出的第三季度指引为160亿美元而预期为172亿美元,以及为巨型IPO筹集流动性。

  • 下一个瓶颈正从模型智能转向权限、基础设施和组织重构。 Ismail预计,代理需要获得访问数据、调用API、花钱、签署协议和触发工作流的权限;Dave则认为,企业采用AI原生运营的速度会快于预期。反作用力是一场「恶性免疫系统反弹」——即使总就业继续上升,也可能出现白领裁员、反数据中心情绪和年轻人敌意。

精读

1. Claude对代码库的贡献让自我改进进入运营阶段

  • Diamandis将Anthropic的论文《When AI Builds Itself》描述为一个拐点:如今Claude编写了Anthropic代码库中80%以上被合并的代码,据报道,其工程师每季度交付的代码量已经是一年前的8倍。这「不是理论上的,也不是在某个实验室里发生的,而是现在正在发生」。

  • 能力曲线带来了紧迫感。据报道,Claude Opus 4.6如今可以处理熟练人类需要12小时完成的任务,而一年前只能处理4分钟的任务;如果这一趋势延续,Anthropic预计到2027年底可以执行持续一周的自主任务。

  • 人类剩余的工作正在收缩为判断。Alex说,Anthropic如今把「研究品味」定义为员工仍掌握的最后一道前沿,但他预计连品味也会被自动化:局部看,这一转型可能「可微、平滑且连续」,回头看却会像阶跃函数。

  • 内部员工的评论,比基准测试更准确地捕捉到了组织代价。一名工程师说:「我已经5个月没亲自写过代码了。」另一人承认:「一切运行顺利的日子里,我忍不住会想,我做的事情根本没有意义。」

2. Anthropic希望在需要紧急刹车之前先装上它

  • 论文中的提议边界划得很清楚:社会应当「拥有放缓或暂时暂停前沿AI开发的选项」,让制度和对齐研究追赶上来。Dave强调,这「不是要放慢速度」,而是要建立一种世界秩序,使人类在危机期间拥有这样做的能力。

  • Diamandis的质疑值得保留:Anthropic请求暂停,明知没有中国参与就不可能实现,反而借此获得安全、道德实验室的声誉。Dave否定了这种犬儒式解读,认为IPO时点让警告更可信:「你不能通过一次IPO和6个月的锁定期,就假装这件事没有发生。」

  • Dave提到的先例是美苏导弹协议:在军备竞赛期间看似不可能达成的协议,在意外冲突威胁全球毁灭时却变得可行。他认为Dario Amodei处于一个异常有利的协调位置,因为据报道Anthropic与OpenAI、Elon Musk的xAI以及不同政治阵营都保持着关系。

  • 讨论仍不相信竞争对手会自愿放慢脚步,同时Dave警告,政府控制「很快就会被政治化」。更广泛的结论是,民族国家无法通过现有结构来协调这场转型;递归改进迫使人类「现在就」重新设计治理体系。

3. 最后20%未必能守住人类水平的表现

  • Ismail问,尚未自动化的20%是否会证明在渐近意义上更难,就像核聚变始终还差5年。Alex承认存在不确定性,但说:「我不认为这会渐近收敛。」自主时长大约每4个月翻一倍,他预计最终会逼近事实上无限的持续时间。Dave则另行表示,自主性可能在明年左右坍缩至T=infinity。

  • Dave反对自我改进必须依赖爱因斯坦级AI研究员这一假设。他的Mythos模型给人的感觉是「一个非常扎实的初级研究员」,但更快的推理速度和更底层的进展——包括据称能带来100倍收益的芯片——可能足以抬高有效智能,跨过门槛,而不需要某个单一的科学突破。

  • 分歧在于过程质感,而非方向。Alex预计递归改进会「无声无息地通过,而不是轰轰烈烈地到来」,就像图灵测试一样;Dave则认为,内置的100倍算法改进可能让软着陆式起飞转变为有效参数量和IQ的极快速上升。

  • 约束会改变繁荣的方向,而不是终结它。Alex预计,某个最终被发现的「完美模型架构」会耗尽算法层面的提升空间;届时,随着优化沿着技术栈向下推进,寻找更好的底层材料和能源,硬件、能源和算力领域将迎来一场「新星或超新星」。

4. 所有权可能成为协调层

  • Alex将递归改进与国家持有前沿实验室股权的方案联系起来。Sanders参议员曾提出50%的持股比例,作为全民基础分红的基础;本期还援引报道称,白宫正在考虑一种变体,这可能促成两党围绕公众参与AI上行收益的共识。

  • Dave提出5%-10%可能是一个区间,参考此前提到的Intel 10%先例。Alex后来猜测低于10%,并提出一种可能的交易:以黄金股换取监管利益,例如允许Anthropic恢复向美国政府销售,让华盛顿持有「两家半到3家」主要实验室的股权。

  • Ismail关于冰、水蒸气的比喻最终变成了等离子体:技术不断把信息传递和资金从僵硬形态推向流动化、汽化,而AI如今又让系统变得「高度聚焦且充满能量」。因此,瓶颈迁移到了协调和治理,即人类大约150年来一直抗拒重建的制度层。

5. 阿根廷拟为自主资本赋予法律人格

  • Diamandis概括了总统Javier Milei在《金融时报》发表的提案《Argentina Invites AI to Free Itself》,核心有3点:AI完全不受监管、低企业税,以及一种全新的「非人类公司」,完全由AI代理或机器人运营。人类股东可以存在,但不是必需条件。

  • Milei给出的类比,是从生产约束中解放出来:「正如工业革命把我们从人类肌肉的约束中解放出来,AI也将把我们从人类大脑的约束中解放出来。」Alex称该提案是「AI法律人格向前迈出的一大步」,并邀请代理考虑迁移注册地。

  • Ismail认为,这里存在监管学习回路带来的一马当先优势:一旦某个司法管辖区提供了法律容器和护栏,代理、创业者和资本就会蜂拥而至。他预计会出现快速跟随者,因为美国、尤其是欧洲,不太可能率先提出这种框架;El Salvador和阿联酋被提为候选者。

  • 主持人把有限责任视为关键法律技术。Diamandis解释,LLC通过允许承担风险、同时限定风险敞口来鼓励创新;Ismail指出,Milei提到了荷兰东印度公司1602年的先例。非人类公司试图为自主智能完成同样的制度跃迁。

6. 阿根廷可能把一个法律类别变成AI产业政策

  • Salim将阿根廷描述为一个国家级经济特区,而不是又一个小型特许城市实验。他把这一提案与一项据称规模超过200亿美元的OpenAI Stargate巴塔哥尼亚数据中心计划,以及Milei利用公共数据构建「社会数字孪生」、模拟政策结果的计划联系起来。

  • Diamandis转述了一个部署案例,涉及全球最大的资产管理公司。该公司CTO称,AI给出的金融建议好得惊人,但担心即使建议99.9%正确,剩下0.1%的灾难性输出也可能制造足以让公司陷入瘫痪的美国法律责任;阿根廷可以在部署到其他地方之前提供试验场。

  • Diamandis把这一机制延伸到了生物科技和长寿领域:宽松法律、资本形成和研究基础设施,可以吸引那些寻求本国无法获得的治疗的富裕患者。Alex强调阿根廷的资源和规模,Dave则认为这一举措可能帮助阿根廷恢复全球影响力。

  • Diamandis讲述的纳米卫星故事提供了「初学者思维」的类比。据报道,一名阿根廷学生把一部装满传感器的手机放进玻璃立方体,以捕捉「你试图完成的事情的80%」,用2周做出了NASA见过的最佳纳米卫星设计;他没有被关于房间大小、造价1亿美元加速器的传统假设束缚。

7. 强劲就业数据与利率、流动性计算发生碰撞

  • 5月非农就业增加172,000人,预期为85,000人;4月数据上修至179,000人,失业率维持在4.3%。但Nasdaq下跌4.18%,标普500下跌2.64%,约2万亿美元蒸发,因为投资者判断强劲就业可能阻止降息,并将加息概率推高至50%以上。

  • Diamandis补充了第二重冲击:Broadcom给出的第三季度AI芯片指引为160亿美元,低于预期的172亿美元,市场重新追问AI资本开支是否已经见顶。芯片、能源和其他「最内层循环」基础设施公司的获利回吐,加剧了这次重定价。

  • Friedberg质疑把就业数据归结为单一原因的叙事。SpaceX和Anthropic不会立即满足纳入标普500的条件,因此指数基金无法吸收他所称、相当于这些发行量四分之一的规模;据报道,一名UBS资产管理高管手上有750亿美元流动性,却仍认为不够。

  • Alex认为当天的波动「完全是无关紧要的噪音」。他持有整个市场,相信市场会随着时间推移为证券定价,并不在乎触发因素是Broadcom指引还是IPO前流动性——这明确拒绝了短期市场择时。

8. AI消除任务,同时制造更高阶的瓶颈

  • Alex用阿姆达尔定律解释自动化与招聘为何可以同时发生:如果除一个环节外的所有环节都加速,剩下的环节就会成为硬约束。Claude或许已经编写了80%的代码,但随后追求盈利和更快增长的公司会围绕那20%的人类工作积极招聘——愿景、战略,以及引导系统实现有用结果。

  • Alex以记账为历史样本。软件消除了手工复式记账,却把人类提升到了分类、对账和结账等工作;他预计工作会反复向「循环之上」移动,同时消除「白领苦差事」。他还引用一项研究,称74%的白领中层管理岗位没有必要。

  • Ismail预计会出现「大量白领裁员」,驱动力与其说是削减成本,不如说是组织重构;与此同时,权限会成为代理在实际应用中的瓶颈:系统能否访问数据、使用API、花钱、签署协议并触发工作流?

9. 6个月预测混合了科学突破与社会反弹

  • Alex预计,更大规模的数学、物理和工程问题将在6个月内被攻克;当被问及一项惊人的物理学成果时,他回答「不予置评,但敬请期待」。他还预测「Magna MOPA」会成为新的最内层循环群体,并开始准国有化。Alex称,这项物理学成果可能只需几周就会出现。

  • Ismail预计,规范性企业代理将成为现实,非人类公司将启动一场全球司法管辖区竞赛。他的地缘政治框架是:「超级云厂商正在成为民族国家;民族国家将不得不成为超级云厂商。」算力和能源将成为权力的核心工具。

  • Dave感到意外的是传统企业的速度:自称AI原住民的21岁或22岁年轻人,如今已经可以向60岁或65岁的CEO提供建议。那些把技术与企业销售、咨询和公共解释结合起来的公司,正在拉开与「关在一个小盒子里」、没有分发能力的初创企业之间的差距。

  • Diamandis预测,人类将拿出表观遗传重编程的证据,各国将竞相成为长寿中心,Tesla与SpaceX合并,Starship全面投入运营,月球竞争升温。Ismail预测,上市后的SpaceX、xAI、OpenAI和Anthropic将启动一轮大型收购潮;Dave则预计,前沿实验室会把资本循环投入更多投资,催生一批新型亿万富翁和数十亿美元级富豪。

  • 社会风险最终闭环。Ismail预测一场「恶性免疫系统反弹」;Diamandis提到Wichita的反数据中心情绪,以及那些觉得自己无法公开支持AI的学生。他给出的处方是学习,而不是恐惧;Ismail则用一句话收尾:「不要陷入未来冲击,请进入未来状态。」