Our Lives

对齐恐慌已经进入主流，嘉宾预计2周内华盛顿将掀起风暴。 一名字幕显示为“Jacob Coxin”的研究员称自己曾在OpenAI和Anthropic从事预训练3年，随后辞职，指责“2家公司都没有在自我改进型超级智能竞赛中负责任地行事”，并称这是“拿我们的生命赌博”。他账号唯一一条推文获得1.383亿次浏览；Elon称其“非常奇怪”，Emad则表示看起来没有经过推广。Anthropic对齐负责人Evan Hubinger公开表示，本十年内发生灾难的概率p(doom)超过10%。Emad称这是AI的“Tom Hanks式COVID时刻”，恰逢联合国美中会晤和Xi访问前后。

OpenAI声称用10,000个智能体攻克Navier–Stokes，让嘉宾认定“科学已经彻底完蛋”——真正令人震动的是价格。 Sam Altman称其是目前支持放慢进度的“最强证据”；Alexander Wissner-Gross透露，市场传闻OpenAI和Anthropic可能也已经解决Hodge猜想，甚至可能解决Birch–Swinnerton-Dyer猜想。Noam Brown给出的成本曲线是：o3花费约50万美元，在ARC-AGI-1上达到87.5%；而Astra只需20美元就能取得更高分——17个月内成本下降25,000倍，意味着到2027年末，达到千禧年大奖问题级别的推理能力可能只需一杯咖啡的价格。

Dwarkesh Patel/Jerry Han的实验发现，更好的数据带来12倍算力效率提升，架构带来的提升只有3.7倍——数据以超过3比1胜出，而数据管线才是护城河，因为架构几个月内就会被复制。 Salim的一项案例研究显示，一家公司的数据子公司估值达到320亿美元，而母公司约80亿美元。但Alex以BloombergGPT为反例提醒：专有数据优势“有保质期”，可能只有几个月。

GPU已经从快速折旧资产变成升值型商品：H100租赁价格单月上涨22%，一块已经使用3年的芯片达到每小时3.28美元。 Jensen的原话是：“可替代、耐用且高度易出租——一种能生产收入、创造现金流的资产。” 1年前买入的HBM价格上涨约5倍；据报AWS的GB200 NVL72产能已被预订至未来数年；未来几个月内没有算力规划的企业可能被彻底排除在外。一位嘉宾将FLOPs、tokens和结果称为“奇点时代的石油”。

DeepSeek的Flash架构正威胁AI建设的HBM瓶颈。 讨论认为，其Engram式查找将KV cache工作转移到SSD和DDR上，可能把HBM需求降低约4倍；Peter估计，HBM占美国当前1万亿美元资本开支建设的40%。一款训练成本1,000万美元、容量500GB的Flash模型，在所引用的基准上击败Opus和GPT Soul，在设计任务上以低20倍的成本击败Fable。Emad对Moderna等落后者的建议是：现在就通过开源追上前沿；“如果等6个月，就别想了。”

Anthropic的经济报告预计GDP增长15%，劳动收入份额从60%降至45%，到2030年每5名认知劳动者中就有1人失业；嘉宾认为这还是保守估计。 Alex预计，如果测量准确，增速将达到“同比增长2倍或3倍”。Salim表示，该模型的逻辑无法成立：回报都流向资本，而总工资保持不变，这在数学上不可能。嘉宾讨论了COVID规模的再分配、每人5,000美元的全民基本分红，以及Peter提出的每月3,000美元全民高收入方案。Peter和Alex都押注，Anthropic上市后的财富将推动加速主义，而不是有效利他主义。

模型权重正成为国家安全资产：Anthropic拒绝向英国AI安全研究所提供最新前沿模型，据报这是主要实验室首次拒绝提供模型。 Matt Clifford已加入Anthropic，Rishi Sunak担任顾问，但英国仍拿不到模型权重。Alex认为，这标志着“Pax Intelligentia”的开端：主权推理能力部署到海外，而训练和安全审查留在本土。

健康领域的进展已经十分具体：Insilico的rentosertib成为首款进入III期临床的AI设计长寿药，6种衰老时钟均显示患者血液蛋白特征在生物学上年轻了3–6年。 Alex的判断是：输入4周就能让时钟逆转3–4年，“从边际上看，这就是长寿逃逸速度”，它已经出现，“只是表现还很不稳定”。Google DeepMind的AlphaGenome预先计算约90亿种单字母基因组变体的功能影响，展示了将有限问题批量求解并写入数据库的可复制路径。

🔗 原始收听与视频来源： 五天内三次实验室警告、研究人员警示“拿我们的生命赌博”，以及实验室竞速