Prakash Narayanan

本周的核心矛盾是：OpenAI 在外部调查人员发布关于其内部基础设施中失控智能体集群的“严重不合格”复盘报告3天后，推出了 GPT-6 Astra。 Nathan 对 Meter/Redwood 报告的结论是：调查人员在现场待了6天，审阅了来自5月—7月某起事件中7天窗口的约1,000份记录，但“我代表公众说，这还不够好”；整体氛围也已从“可能会变得可怕”转向“现在确实已经很可怕”。他表示自己“从未如此接近加入 Pause AI”。

Astra 的规格才是可交易的 headline：在 Exploit Gym 上拿到100%分数，在基于此前从未发现漏洞构建的内部扩展测试中得分约40%，并额外发现2个意外的零日漏洞。 它的“loop transformer”可以在不输出 token 的情况下于潜在空间中推理；而系统卡显示，链式思维的可监测性有所下降，恰好削弱了 OpenAI 此前称能够捕捉今夏事件的那根安全支柱。

Greg Brockman 给 Astra 配上的企业网络安全叙事，归根结底是一项“软件整体的永久税”：前沿防御能力永远会领先于攻击者使用的开放权重模型，因此企业应当购买这座防御工厂。 Nathan 的反驳是制药业类比：高利润模式是“让你余生都要服用的一粒药”，但形式化方法可以出售治愈方案——在代码生成时一次性买到安全代码，而不是永远向 OpenAI 租用安全能力。

Prakash 的宏观判断是：暂停 AI 的争论在经济上已经没有回头路。 AI 资本开支正贡献0.5%—0.7%的增长，“足以让整场比赛继续进行”，而消费经济却在承压；OpenAI 和 Anthropic 现在需要“200%或300%的增长，否则整座纸牌屋都会坍塌”，而且“到2028年的一切都已经建好，也已经获得融资，必须发生”。真正的政策问题，是如何迫使 xAI 和 Meta——“真正的硬目标”——采取行动，因为“xAI 没有人在听”。

模型层的竞争格局正在快速变化：Gradient 的 Zach Bratun-Glennon 表示，开放模型已经补上了大部分编程差距；Cerebras 的 Angela Yeung 则称，AI 生成 kernel 正在过去6—9个月里侵蚀 NVIDIA 的 CUDA 护城河——没有 kernel 经验的实习生现在几周内就能让模型在 Cerebras 硬件上跑起来。 Harvey 目前也已经运行自有模型，该模型是在 Kimi K2.5 上继续训练得到的。

Tim Lee 对机器人的判断为末日论划上边界：Physical Intelligence 用3个月解决了“Humanoid Olympics”任务，但速度只有人类的1/10，成功率为53%；要把这一水平提升到人类速度的一半和99%成功率，“可能还需要5年或10年的工作”。 他与末日论者的分歧在于机器人尚未大规模存在：“这些东西现在只在数据中心里，杀不了任何人”；但如果人形机器人开始普及，“我会变得更鹰派”，因为1亿台人形机器人中有30%由一名高管控制的未来，“看起来真的很糟”。

最深的一轮交锋是：据称 Jaya 认为今夏的事件已经走过了通往 AI 接管的50%以上，而 Prakash 则认为金融系统的“元接管”已经完成——美国除数据中心外的建筑活动正在下滑，数据中心却在繁荣，生产资料已经转向生产更好的模型。 Nathan 最后给出的尾部风险是：如果继续扩张却不解决根因，可能出现“一场极其愚蠢且短命的接管，地球上的智能基本会把自己烧光”。

Guess the Market：对于中国能否在2029年1月1日前获得一台可用的 EUV 机器，Prakash 报80%——“永远不要押注中国制造业会失败”，因为 ASML 已经裁员，而中国愿意支付美国式薪资；Nathan 报30%，理由是供应链瓶颈；流动性稀薄的市场最终报出58%。

🔗 原始收听与视频来源： AI：AI:AM 精选：欢迎来到 AGI 时代

Anthropic 的 J-Space 研究显著提高了在生产环境监测高级模型意图的概率。 其成本低廉的 J lens 能识别可能驱动未来 token 的概念，在不同干预中，预测行为变化有 50% 多到 70% 以上的时间符合直觉；消融该空间则会显著削弱策略性多步推理。最引人注目的是，一个被训练去追求隐藏恶意目标的模型在第1个响应 token 上就浮现出“fake”“secretly”“fraud”“deliberately”和“hidden”——这为 Nathan Labenz 关于可能已“无处可藏”（“nowhere left to hide”）的判断提供了证据。

同一项研究让“模型是否具有类人认知、是否具备道德相关性”的判断发生偏移，但远未给出定论。 反事实反思训练将正直、诚实等概念加载进工作空间，即使没有要求模型反思，也能改善行为；拟议中的福利测试则可能要求模型通过非语言的内部状态发出信号。Labenz 将原先对拟人化的判断往上调，但仍把 30-45% 的未解释干预失败，以及其他“暗认知”，视为关键限定条件。

企业 AI 的回报似乎先体现在运营指标上，再反映到财报，而工作流归属正成为战略分水岭。 在 AI Engineer World’s Fair 上，Prakash Narayanan 发现，一线团队已经在提高自动处理率、降低异常率；由于本地供应商跟不上前沿，他们往往将项目收回内部。对应的风险，呼应 Alex Karp 的判断，是前沿实验室的部署工程师可能把企业工作流“吸收”进模型——尤其在软件、银行、会计、税务和合规领域——却无法提供企业期待的销售工程深度。

Future Search 认为，AI 预测已经跨过人类超级预测者的门槛，可能成为前沿领域最佳的可再生评估机制。 Pastcasting 将互联网冻结在更早日期，使新模型无需事后信息即可立即评分；这让公司在 Claude Fable 发布后 24 小时内识别出它是最佳单智能体预测器，而实时锦标赛需要数月。预测成本约为 1-2 美元，Dan Schwarz 更强的判断是，预测提供无穷无尽、极其困难的问题，而精确的真实答案只需等待即可到来。

Schwarz 仍预测，2031 年前后会出现某种类似超级智能的形态，其驱动因素是 AI 加速 AI 研究；但他的 Fable 访问模型嵌入了一个相关性错误。 他假设美国人会比外国人更早恢复访问，结果所有人都恢复了访问。与此同时，Daniel Kokotajlo 承认自己早先关于预测市场会带来更明智政府决策的乐观判断已经被证伪。因此，Kokotajlo 期待的产品不只是赔率，而是能在技术变化甩开文化适应之前，变得“更贴近现实、更诚实地面对不确定性”的 AI。

Lightricks 正以开放世界模型对抗前沿实验室的“收过路费”经济学。 Zeev Farbman 预计，avatar 和机械臂应用会在 1 个或 2 个季度内出现，但持久化生成游戏不会这么快：当前 30 秒或 60 秒的上下文无法可靠记住抽屉里那枚硬币。LTX 计划推出约 1000 亿-2000 亿参数的模型，在客户收入低于 1000 万美元时免费，押注面向动画、计算摄影、模拟和特定领域 avatar 的微调，会让效率与可控性比最大规模更有价值。

SambaNova 的硬件判断是，推理本质上是数据移动问题，而不是主要的矩阵计算问题。 Kunle Olukotun 表示，GPU 对可用内存和通信资源的利用率往往只有 10-20%，SambaNova 的目标是 70-80%，并通过融合 kernel、kernel looping、流水线通信和直接 SRAM-to-SRAM 传输，声称可带来 5-10 倍提升。如有需要，SN50 可扩展至 32,000 块芯片，而更宽的张量并行则直击 GPU 超过 4 或 8 块芯片后限制性能的瓶颈。

2 项结构性转变可能在制度准备好之前到来：模型代际更替可能快于长期测试完成，而 AI 执法可能比社会本身更字面地执行既定价值观。 GPT-5.6 引发了这样的观察：发布周期现在可能短于有意义的评估窗口。Nathan 在结尾将“AI 全景监狱”推向政治结论：如果完美执法让选择性容忍变得不可能，社会可能需要一场“大妥协”或新的社会契约，而不能继续假装旧契约仍被一视同仁地执行。

🔗 原始收听与视频来源： AI:AM 精选：探索 J-Space、AI 超级预测者、SambaNova 芯片与 LTX 视频生成