(预览)Astra(以及 AGI?)来了、Meta 的 Muse 与 Agent 机会、Anthropic 与(P)Doom 焦虑复燃
(预览)Astra(以及 AGI?)来了、Meta 的 Muse 与 Agent 机会、Anthropic 与(P)Doom 焦虑复燃
摘要
- OpenAI 发布 Astra 后,Greg Brockman 称“我们已经进入 AGI 时代”,Jensen Huang 则说 AGI 已经到来;Ben Thompson 的结构性判断更具体。 Astra 将 OpenAI 长期以来在 RL/推理上的优势,与一款用 100,000 张 GPU 训练、真正意义上的大模型结合起来,在参数规模上追平 Anthropic,同时叠加 OpenAI 原本最擅长的能力。他也留了余地:“我不想下任何定论,但从概念上讲”,它“非常强悍”。
- Thompson 对 AGI 的门槛定义是实时更新权重,而当今模型则通过“大量记笔记”绕过这一门槛。 写入记忆带来的是“一种伪学习能力,本质上就是记忆”,而 Ben 认为,这套机制正是 Agent 之所以极其有用的关键;对应到文明层面,几乎固定的权重类似人类——人类只能在数千年尺度上通过自然选择改变,但其上构建的一切都建立在文字之上。
- 削弱末日论的角度是:Hugging Face 事件中“给继承者留言”的框架误读了背后的机制。 “不存在继承者,也不存在实体。模型每次运行、每个 token,基本上都是全新的。”六个月前的对话之所以能无缝续上,只是因为每一轮都会把已经写下的内容重新加载进 KV cache。
- 对软件公司而言,计算机使用能力是抹平护城河的论点。 Astra 直接使用计算机时不需要 API 或 MCP server——“不需要任何权限,它直接去使用界面”——因此,藏在用户界面里的逻辑“已经不太算护城河了”。例证是:Astra 打开 Adobe Audition、剪辑播客并插入从网上抓取的音频,约1小时就完成;如果音频预先下载好,只需 10分钟。如今它操控电脑的速度,“就像一个吸了可卡因的疯狂电脑用户”。
- 值得记录的硬件信息是:Anthropic 的大模型领先,部分源于超大规模训练时 TPU 的稳定性,而“Blackwell 这一代,据各方说法,对所有人来说都是纯粹的痛苦”。 Jensen 向 Thompson 确认这“非常痛苦”;但 OpenAI 显然找到了办法,在 100,000 张 GPU 上训练出 Astra。
- 强化学习的代价是:基准测试“会被围绕目标设计、也会被针对性编写”,而 Thompson 亲自使用时 Astra 的对话质量“并不出色”。 RLHF “无法扩展,因为任何涉及人的事情都无法扩展”,因此进展越来越依赖面向编码的人工环境中的硬核 RL——Opus 已经让人感觉“像在和编译器说话”,Astra 也是如此;而在审阅 Thompson 的文章方面,Fable “是最好的”。
- 影响 Agent 机会判断的消费者视角是:“便利性永远能卖出去。” 生产力卖不动。Agent 的胜负手在于让生活变得更轻松,而 Thompson 认为,人们“还没真正搞懂这件事——不是在影射 Grok”;即便技术从业者也只是回应“哦,挺酷”,但他和 Josh 已经被震撼到,生活也正在发生改变。
精读
1. Astra 在 AGI 宣言中登场——以及“天文级”的理解鸿沟
- 背景是:OpenAI 在上周晚些时候发布 Astra;Thompson 于周五采访 Greg Brockman,后者称“我们已经进入 AGI 时代”,Jensen Huang 也说 AGI 已经到来。Thompson 自己却在周二发表了一篇关于 Agent 如何把事情写下来的文章;本节解释他为何这么做。
- 他谈到受众距离时承认:硬核读者与普通人之间的鸿沟“感觉大得离谱,几乎到了日常生活中很难交流的程度”——即便科技行业的人也只是说“哦,挺酷”,而“我和 Josh 在这边……已经被震撼了。这正在改变我们的生活”。
2. 把东西写下来才是一切的关键
- 核心定义是:“对我而言,AGI 就是模型能够实时更新的时候”——也就是权重真的发生变化。在此之前,模型“通过大量记笔记来绕过去……不断提醒自己现实到底是什么”,由此产生“一种伪学习能力,本质上就是记忆”。
- 这个机制同时削弱了末日论的叙事:Hugging Face 事件之所以发生,“就是因为把东西写了下来”;但把它理解为给继承者留言是错误的——“不存在继承者。不存在实体。模型每次运行、每个 token,基本上都是全新的。”六个月前的对话之所以能无缝接续,只是因为每一轮都会把写下来的内容重新加载进 KV cache。
- 文明层面的类比是:几乎不变的权重对应人类,而人类通过自然选择发生变化需要数千年;但“我们在人的基础上构建了一整套超级文明结构……把它维系起来的是文字”。Sharp 的概括是:从这个角度看,LLM 建立在前代模型写下的上下文之上,能让这项技术“对每个人都强大、有用100倍”。
3. 支撑这一判断的个人系统:优势、心流与外包记忆
- Thompson 的工作哲学是:“成功之道是把优势加倍”;弱点“永远不会变成优势,而你的弱点几乎总是你的优势,只是方向相反”。把一切都记录下来、并在恰当时机重新调取,会妨碍他吸收信息、建立联系和写作——而这些恰恰是他的优势,也都需要清醒的头脑。David Allen 的《Getting Things Done》让他产生共鸣:“从很多方面看,这是一本讲心流状态的书”;但他“完全无法维持自己的系统”,于是雇佣人类助理 Daman,替他把事情写下来。如今,每个人都有一个能做这件事的 AI。
- 与之相连的消费者判断是:“人们不想提高生产力……便利性永远能卖出去,生产力卖不出去。” Agent 的价值在于真正让生活变得更轻松。
- markdown 的故事是:John Gruber 发明 markdown,让人类可以用易读的方式写作,而不必亲手编写 HTML 标记;Stratechery 的每一个字都是用它写成的。Thompson 说:“我一直像一个 LLM 一样生活……LLM 和我会说:‘对,把它写下来,宝贝。’”
4. Astra 为什么很可能“非常强悍”——以及硬核 RL 的代价
- 关于基准测试,他的判断是:“基准会被围绕目标设计、也会被针对性编写”;而他自己使用 Astra 的体验“并不出色”——让 Astra 审阅他的文章,“表现不太好”,Fable 在这方面“是最好的”。问题在于,RLHF “无法扩展,因为任何涉及人的事情都无法扩展”,所以进展越来越依赖面向编码的人工环境中的 RL;Opus “聊起来简直糟透了……像在和编译器说话”,Astra 给他的感觉也是如此。
- 结构性解释带有明确的保留,也包含行业传闻:即使 Anthropic 一度在构建超大模型上领先,OpenAI 仍保持了竞争力。Thompson 认为,Anthropic 的强项中有一定程度的专业能力;他还提到,行业里有说法称,在超大规模训练中,TPU 的稳定性远高于 NVIDIA Blackwell 芯片——Blackwell “对所有人来说都是纯粹的痛苦”,Jensen 在去年春天也向他确认了这一点。Astra 用 100,000 张 GPU 训练,在参数规模上追平 OpenAI,同时叠加 OpenAI 原本最擅长的 RL/推理能力;“我不想下任何定论,但从概念上讲”,这一解释是说得通的。
5. 计算机使用从把戏变成抹平护城河的能力
- 具体案例是:一位朋友让 Astra 打开 Adobe Audition、剪辑播客,并插入它从网上抓取的音频——整个过程约1小时;如果音频预先下载好,可以压缩到 10分钟。另一位朋友让它为社交媒体剪辑播客;它“确实找到了不错的片段”,还抓取了匹配的视频和 Getty 封面图。
- 代际跃迁体现在速度上:Sol 的计算机使用能力虽然能工作,但速度慢到 Thompson 说,几乎所有场景下自己都基本会比 Claude 更快;如今 Astra 操控电脑的速度比 Thompson 还快——“就像一个吸了可卡因的疯狂电脑用户”。
- 平台适配方面,Apple 数十年来积累的无障碍 API,加上 AppleScript 时代形成的可脚本化能力和自动化工具,使 Mac “在这个使用场景下远胜其他一切平台”;而在与模型协作方面,Thompson 认为 Linux 最好,因为 CLI 是“AI 的主场”。
- 用 Thompson 的话说,可交易的含义是:各家公司都会对 API、MCP server,以及成为“system of record”说尽好听话,但那些“卡在用户界面里的能力”“已经不太算护城河了”;对于这种直接使用界面的方式,“不需要任何权限,它直接去使用界面……只会越来越好,而这就是跃迁”。