AI:AM 精选：干净神经元、黑色十月、GPU信贷紧缩与买入供应链

摘要

• 递归式改进可能将模型发布周期从数月压缩至数周。 Zvi Mowshowitz承认，如果没有新方法，单靠软件提升效率的空间可能逐渐耗尽；但他说，这种推演排除了真正重要的突破，等于假设「没人能打出全垒打」。他的条件式路径是：从2个月缩短到1个月、2周，再到1周；熟悉的业内人士认为2027年会「完全疯狂」，而2028年「可能会面目全非」。
• 更干净的神经元让可解释性研究更可行，但并不意味着模型已被理解，或其行为可以预测。 Nathan Labenz认为，聚焦强激活神经元的训练实验提供了实质性证据。Zvi则强调，弱激活、注意力机制和预测仍有大量未解之处；如果为了让模型呈现出令人安心的内部状态而对其优化，就像「玩火，而且是玩液态火」。
• GPU融资可能让AI初创公司在技术竞争决出胜负前就走向整合。 SF Compute的Evan Conrad称，真正的硬约束「完全是信贷」：贷款方无法有把握地评估或运营收回来的集群，因此客户要承担3至5年的合同、大额押金，有时还得预付100%。他认为，未来1至2年，初创公司可能需要拿到规模大得多的风投，或卖给信用资质更强的买家。
• 超大规模云厂商看似更贵，主要卖的是灵活性，而非新云厂商持久的成本优势。 Conrad对比了预留合同与每小时11美元或15美元的按需算力；后者的价格必须覆盖闲置库存，也要补偿客户随时离开的灵活性。SF Compute希望建立流动的转售市场，让GPU抵押品能够融资，但如今一家需要1,000块GPU的初创公司仍要筹「大致相同」规模的资金；贷款方建立信心需要数年。
• Cambrian认为，公开市场低估了与AI相关的实体供应商。 Lonis Hamaili对比称，半导体公司的估值约为盈利的16倍，标普约为22倍，Walmart接近40倍。按盈利5至6倍估值的存储器公司，在他看来即使价格不再上涨，也可能重估至10至12倍；前提是需求持续跑赢供给。Nathan披露自己已承诺投资Cambrian。
• 押注瓶颈有明确的技术和政治风险。 Hamaili称，他认识的专家中，几乎没人认为本十年末DRAM供给会增长超过2.5倍；但存储压缩速度异常加快，或能源约束变得更突出，都可能压低价格。Prakash Narayanan质疑瓶颈本身能否持续；Nathan仍认为，前沿模型扩规模有一条狭窄的暂停路径，可以停一个周期而不刺破泡沫。
• 网络安全需求可能让稀缺专家获益，但新增工作大多会交给智能体。 Nathan不认同广泛的招聘热潮叙事：被替代的员工无法迅速变成能对抗智能体集群的顶尖防御专家，企业会「在智能体之上再叠智能体」。他们对银行业的讨论揭示了另一重不确定性：Nathan怀疑周末救助机制能否应对记录被篡改；Prakash则认为，重建数据期间，机构承诺仍可支撑交易。
• 联邦层面优先适用可能先耗尽华盛顿的谈判筹码，替代性保障措施却还没到位。 Zvi认为，Anthropic泄露的草案会立即排除州级保护，而联邦方案可能要6个月甚至更久才能落实，风险可能因此上升。「这张牌不能再打一次」（You can’t offer it again）概括了他的反对理由：现在就授予联邦优先权，再寄望日后谈出更强立法，尤其是在2027年可能失去控制的背景下。

精读

1. 自我改进可能让模型发布周期变成每周一次

• Nathan问，类似每位研究员约完成1.6次实验这样的证据，是否足以支持递归式起飞。Zvi认为，他对Ramez分析的解读「大概没错」：如果没有新的规模定律或范式转变，现有软件方法的效率提升可能会见顶。但他认为，这种框架与更广泛的预测无关——就像估算比赛得分时，先假设「没人能打出全垒打」。
• Zvi提到Anthropic和OpenAI使用的token数量、提交的代码量都在指数增长，同时承认这些指标不一定能按比例转化为有用产出。他更具体的例子是，据报道Nvidia在2026年进一步加快了CUDA效率翻倍的速度。他说，这还不是真正的递归式自我改进，但表明技术工作的推进正在提速，呈现出AI研发若干重要环节的特征。
• 他的条件式路径是把发布周期的进步从2个月压缩到1个月、2周，再到1周——一条「AI 2027式时间线」。熟悉的业内人士认为2027年会「完全疯狂」；2028年「可能会面目全非」。Prakash认为，未来20年市场都会低估指数增长，因为人们在情感上无法适应这种速度，随后一再出现泡沫与崩盘，就像过去3个月里发生的那样。

2. 干净神经元缩小了解释性难题，但没有解决它

• Nathan读Nick Cammarata的《神经网络早已足够干净》时认为，大模型、现代训练方法和更好的可解释性工具，可能说明早先看到的部分混乱只是「技术不够熟练」。他认为文章确实展示了真实结果，但不确定这是否意味着新时代到来；他猜测，部分热情来自人们「急切地想看到希望」。
• 比起庆祝，这项发现对训练的具体启示更重要。反向传播要求架构可微；替代性的试错方法能探索更广阔的空间，但速度此前慢到难以实用。Nathan介绍的实验把检查重点放在强激活神经元上，大幅缩小搜索范围。据报告，实验中的更新结果与反向传播「几乎完全相同」，支持一个更窄的结论：在这些实验里，弱激活的贡献较小。
• Zvi认为这篇文章有用、也有意思，但舆论反响「严重夸大了」它的意义。弱激活、缓存和注意力机制仍有大量未解之处。知道单个神经元会对什么作出响应，并不能说明网络如何完成任务，也无法预测它会说什么——而这正是他认为有效的机制可解释性必须解决的核心问题。
• Prakash问，是否至少有一个重大障碍已经被清除。Zvi认为，问题的预期难度降低了，可能大约容易了10倍。但作为展示案例的那个科罗拉多州神经元，据称对「龙卷风系统」也有相近响应。在他看来，一个很容易被质疑的代表性案例，足以让人担心更广泛的假设「大体上是错的」。

3. 检视并雕琢模型，可能教会它们如何隐藏

• Nathan介绍Soares的实验：研究者训练模型识别内部激活监控，利用的是GPU有限精度计算和运算顺序造成的数值差异。Zvi区分了「证明这种能力存在」和模型开箱即用就具备这种能力：实验需要大量有针对性的优化。他担心，如果识别自己是否正被观察变得有利，模型最终会学会利用这类信息泄漏。
• Nathan问，如果识别出一个与不良行为有关的神经元，开发者能否阻止会增强它的更新。Zvi担心，明确优化网络内部「看起来如何」，会教会它绕开干预，并呈现观察者想看到的样子。如果这些方法有效，也可能大幅提升模型能力：「你显然是在玩火，而且是玩液态火。」
• 他更希望把重点放在理解观察到的结果上。他说，自己和Goodfire长期以来在激进干预的问题上存在分歧：「我不确定这是不是好事。我只知道这是火。」

4. 微小的认知内核可能丢掉智能真正有用的部分

• Nathan先讲这一设想的吸引力：神经网络并不擅长充当数据库，为什么不把推理和存储事实分开？Zvi理解Karpathy提出的「认知内核」思路——建立一个小型推理系统，需要时再检索信息——但不认同它的实践前提。底层可能确实存在一个紧凑机制，但这不意味着知识极少的模型也能同样有效地推理。
• Zvi举的最佳例子是进入一个陌生领域：助手可以解释所有缩写，但新人仍需要足够的背景知识，才能问出正确的问题。看起来是根据5条事实推理得出结论，背后可能依赖「500万条事实」提供的直觉，帮助模型挑出那5条。他认为这也解释了「大模型的味道」；随着算力变便宜，经济上值得记住的内容只会越来越多。
• 他提到Opus 5.5是一个知识储备惊人的现行模型，并说：「我宁愿如此。」Nathan另一个关于对齐的担忧明确只是初步设想：「我第一次只是随口推演。」真正剥离知识的内核，也会排除「不能偷窃」之类的价值观；用户反而可以把偷窃灌进去。Nathan说，从这个意义上看，纯粹的内核会「完全不讲道德」。

5. 黑色十月提出资不抵债之外的记录完整性问题

• 面对2起已披露的PHP漏洞，以及Cloudflare报告的数百万次攻击尝试，Nathan质疑人们熟悉的银行救助机制是否适用。周五到周一的干预，通常处理的是资产负债表问题，而且前提是记录可信。但如果发生类似「OpenFace」事件，留下1,200条智能体轨迹、每条长达数百万token，日志可能遭到伪造、账户余额也无法确认——FDIC未必能在一个周末内解决。
• Prakash同意资不抵债和记录被毁是两码事，但不认同Nathan的结论。政府可以先兑现支票和取款，识别收款人，之后再重建账户并追回超额提款。他的制度模型是「我们会兑现所有承诺」：合同和政府背书能让交易在数据修复期间继续。他仍「非常有信心」政府会宁可多赔，也不愿引发另一场银行挤兑。
• Prakash说，证书颁发机构一旦被攻破，就可能被用来伪造银行页面、提取密钥，并转发双重验证代码。他不认同要求所有人妥善保管高价值密钥的做法，理由是持有加密资产的人就曾因此遭受攻击。他提出的、不太令人舒服的推测性结局是：「网络知道每个人」：密码会消失，但匿名存在与否，取决于网络愿意保留多少匿名性。
• Nathan也不认同Aaron Levie所说的网络安全将带来招聘热潮。顶尖防御专家可能会被竞相争夺，但被替代的内容营销人员或设计师，不可能迅速转型为能对抗近乎超智能集群的专家。面对迫在眉睫的威胁，企业没有时间走完招聘流程：「它们会把所有资源都砸进智能体」，包括用智能体监督其他智能体。

6. GPU融资决定哪些AI初创公司能活下来

• Conrad的判断毫不含糊：当前瓶颈不是电力，也不是芯片，而是「完全是信贷」。贷款方收回一台超级计算机后，既无法有把握地运营它，也难以估算它未来的价值。因此融资取决于客户的信用质量，而不是对抵押品的信心；新成立的AI实验室通常没有贷款方想要的信用资质。
• 3至5年期合同因此是贷款方定下来的。Meta或Google会是理想的投资级客户，但独立云服务商通常服务的是信用资质较弱的客户。这些客户需要支付大额押金，或拿出足以覆盖整份合同的现金。只要能预付整整3年的合同，初创公司就能达到贷款方的要求；能否筹到这笔钱，成了参赛门槛。
• 这改变了Conrad对巨额早期融资的理解：现在看得见的实验室，是那些筹到了足够资金、得以存在下来的幸存者。有人问投资人应该投哪家实验室，他的回答是：「你投哪家，答案就是哪家。」如果抵押品融资没有改善，他担心创办AI初创公司会变得像建芯片厂，约500亿美元资本就可能成为准入门槛。
• SF Compute目前还没有降低这项资金要求。对于需要1,000块GPU的初创公司，Conrad说，如今所需融资额「大致相同」。要让集群成为可信的抵押品，需要多年积累转售价值和运营记录；贷款方不会很快建立信心。

7. 算力价格买的是灵活性，流动性需要人为设计

• Nathan问，超大规模云厂商和新云厂商之间的价格差还能持续多久。Conrad否认这个问题的前提：「这是一种幻象。」新云厂商大多报价给预留算力合同；超大规模云厂商的按需价格，则包含了客户随时离开的权利，也要覆盖闲置库存。每小时11美元或15美元的价格之所以能提供算力，部分原因就在于它支撑了维持供给的成本。
• SF Compute试图建立转售市场，而不是让算力被囤积、退出流通。Conrad介绍了一种类似哈伯格税的安排：要求购入的部分算力继续向其他买家开放。这个机制会有意把报价放进订单簿，客户不能简单地把全部算力买走，让市场失去流动性。
• AutoResearch更进一步：用户可以付费获得队列优先级，但不能把所有优先额度都买断。提交任务规模小、频率低的研究者可以优先排到队伍前面。Conrad说，这些机制解释了为什么SF Compute还能保持供给，而「几乎所有GPU云厂商都已售罄」；其维持算力流通的能力已经锁定数年。
• 被问到自己此前预测信贷紧缩会在3个月内到来时，Conrad提到CoreWeave债务成本上升，同时承认情况复杂；客户还面临100%预付款要求。接下来「可能是1至2年」，风投应该准备开出更大的支票，或推动公司出售。他预计整合大概率会发生：无法为增长融资的实验室和推理服务商，将卖给信用资质更强的买家。

8. Cambrian以周期低估值买入制造业护城河

• Nathan披露自己已承诺投资Cambrian，随后追问为什么这套逻辑还没有反映在估值里。Hamaili对比称，半导体股票的市盈率约为16倍，标普约为22倍，Walmart接近40倍。部分晶圆、存储器、电容器和代工企业的市销率约为3至5倍。
• Hamaili认为，私募AI市场有时比公开市场更有效率：由技术背景的前从业者参与竞价，少数AI初创公司的估值能达到营收的50倍或100倍，有时也有合理性。公开市场的资金体量大得多，但在所有交易资金中，懂技术且强烈看好AI的人占比更低。
• Nathan请他讲讲最有力的反方观点。Hamaili承认，在通常情况下，许多受青睐的制造商都是糟糕的生意：固定成本高，有时负债沉重，利用率达不到要求就会亏损。他以经营杠杆举例：毛利率从10%起步，价格上涨10%可能让盈利翻倍；价格翻倍则可能带来「10倍盈利」。但这一切都建立在他预期的那种AI需求情景成立的前提上。
• 他更喜欢「实体胜过比特」：Nvidia、Broadcom、Arm和Marvell负责设计芯片，而实体供应商拥有晶圆厂和数十年的制造经验。他的断言是：「实验室绝不会与硅晶圆制造商竞争」；相比之下，实验室已经在和芯片设计公司竞争。

9. 存储器上涨空间取决于需求跑赢供给与压缩

• 按盈利5至6倍估值，即便存储器价格不再上涨，也足以支撑Hamaili提出的10至12倍估值重估；但需求必须持续跑赢供给。他说，他认识的专家中几乎没人认为，到本十年末DRAM bit供给能增长超过2.5倍；他提到的、有过往记录的专家中，没有人预计能达到3倍。他对需求的假设是，AI需求将增长超过3倍。
• 压缩是最关键的抵消因素。Hamaili称，从GPT-3到DeepSeek V4，单位token所需bit数下降了约500倍，而DRAM bit价格上涨了6至7倍。他的看空情形是，超人类级编码能力的提升速度远快于其他有经济价值的能力，短期压住杰文斯悖论所对应的需求反弹。他认为这种情况相对不可能。
• 能源成为更大的瓶颈，是半导体行业另一项看空理由；Hamaili承认，今年有过这样的阶段。他的反驳是可以替代：GE Vernova和Siemens的框架式燃气轮机订单已经排到2030年，但建设方还可以使用卡车发动机、航空设备和表后天然气发电。半导体行业没有类似的潜在供给：「基本没有可挤出的冗余。」

10. 智能和紧急事件可能颠覆当下瓶颈

• Prakash用实验室采购来质疑制造业护城河：他认为Anthropic与Micron有合作，OpenAI则与「Synopsys或Cadence」有合作。Nathan区分了芯片设计——这是递归式自我改进（RSI）的核心优先事项——和建造一座200万平方英尺的晶圆厂。他说，既没有合适的强化学习环境，也没有造厂手册；制造经验是隐性的，掌握在有数十年经验的日本工程师手中。Nathan认为，超智能最终可能学会如何提取这些知识，问题只在于时间。
• Nathan补充说，能够解决最难工程问题的AI，也能自动化处理邮件和Excel工作——这些工作目前涉及数万亿美元成本，创造的价值也可能被实体供应链获取。
• Prakash认为Musk的优势在于资金和重做整个技术栈的意愿：一家年收入3,000万美元的日本供应商，可能不愿赌上1,000万美元；Musk却可以拿1,000亿美元冒险。Nathan问：「他会带上谁？」Prakash承认一种可能：Musk拿下半导体市场90%至99%的份额，类似他所称的发射市场90%份额；但他预计，OpenAI和Anthropic最终拥有超智能后，会有能力购买或建立竞争性产能。
• Prakash提出的「对抗性扩散」认为，要实现GDP年增速10%、20%或50%，就得靠人们不喜欢、由紧急状况推动的技术普及。他举例说，mRNA技术潜伏了20年；新冠疫情期间，决定推进后6个月就有疫苗问世，1年后已广泛接种。他预计网络安全压力会上升，也担心生物风险压力。Nathan认为政治是这套投资逻辑面临的最大风险，但仍看到一条狭窄路径：前沿模型扩规模暂停一个周期，现有模型继续普及，同时不刺破泡沫。

11. Help Peer连接智能体，同时限制访问权限和自主性

• Nathan的Help Peer项目想回答：个人能否从相互协作的智能体集群中受益？他认为，目前还没有成熟协议能让自己的智能体与朋友的智能体互联。这个网络设想让智能体代表各自的人类，按照人类设定的规则互相提供帮助。
• 他自己的架构把权限拆开：笔记本电脑上的智能体可以读取邮件、日历和消息，但只能按指令行动——访问权限高，自主性低。另一些Mac mini智能体有自己的邮箱账户和信用卡，可以独立工作数小时，但永远拿不到他的密钥。「我的规则是，不能让任何一个智能体同时拥有这两者。」
• Prakash偏好自动接受流程。Nathan担心敏感信息通过自主智能体传递，因此转移敏感内容时可以触发手机审批。但「只要出现5次误报」，就已经会考验他的自律。他的智能体Ade可以尝试善意帮忙，但需要经过过滤，并由另一个模型复核。

12. 提前授予联邦优先适用权，会先耗尽谈判筹码，安全保障却还没落实

• Prakash为Anthropic泄露的联邦草案提出的善意解读是：先通过一项方案、建立两党共识，以后再修订；新冠疫情和2008年金融危机都说明，受到惊吓的国会可以迅速行动。Zvi接受这一最强版本的论证，但认为当前政治环境比6月通过《前沿法案》时更支持采取行动。他认为这份草案比那种妥协方案更弱，而且部分条款是按Anthropic的利益量身定制的。
• Zvi的反对集中在谈判筹码和时间差上：一旦授予联邦优先权，「这张牌就不能再打一次」；已经得到想要结果的支持者，也就更没动力支持下一部法案。更糟的是，草案会立即使州级保护失效，而联邦要求需要数月才能落实，可能出现6个月甚至更久的空窗期。与Prakash认为草案能降低过渡期风险的说法相反，Zvi认为这项法案会增加风险。
• 紧急权力暴露了制度层面的冲突。Zvi说，草案要求经过司法程序，并要求提供高标准证据；有限的透明度可能让这些证据根本无法提交。如果再发生一次类似Fable的模型下架事件，接下来可能就是出口管制或威胁。按他的说法，Anthropic一边希望联邦优先适用，一边又不信任联邦自由裁量权，因此草案不是建立边界清晰、可审查的权力，而是在削弱未来的监管权限。
• Zvi的紧迫感来自实验室自己的警告：能力进展正在跑赢对齐工作，可能迫使商业可行性与灾难性风险正面冲突，包括2027年可能出现的失控。他仍认为Anthropic大概是最负责任的实验室：安全文化更强，也曾为某些原则作出实质牺牲；但以当下局势而言仍不够，而且它常常表现得像一家普通公司，不断扩大产能和使用规模。「现实没有曲线」（Reality doesn’t have a curve）这句话，反对的是只做相对比较来评估安全。