AI AMA——第1部分：OpenAI 的 o3、审议式对齐与 2024 年 AI 的意外之处

摘要

• OpenAI 的 o3 看起来像是真正的推理突破，但还不是解决模型不可靠性的良方。 它在低算力 ARC-AGI 测试中的得分达到75%，大致达到人类水平，比此前系统高出约15个百分点；高算力模式达到87.5%。但推理模型仍会误读简单的井字棋棋盘、沿用“缓存启发式”，有时甚至靠“完全垃圾的推理”得到正确答案。

• o3 在商业上最关键的能力，可能是其尚未公开的多次推理结果筛选方法。 低强度模式在100个 ARC-AGI 任务中各采样6次，共生成约3300万 tokens，每项任务成本约20美元；高强度模式精确使用1,024次采样和57亿 tokens，每项任务约13分钟完成。如果 OpenAI 能在没有客观答案键的情况下可靠地选出最佳回答，Nathan 认为这可能是“巨大、巨大的突破”；否则，数学和编程可能会与写作等主观工作进一步分化。

• 审议式对齐能让政策变化更快写入模型，但没有回答模型应遵循什么政策、或谁的价值观。 Nathan 的理解是，OpenAI 先从一个“纯粹有帮助”的模型开始，让它根据详细政策进行推理，只评估最终可见回答，再对成功的推理轨迹进行微调，随后实施强化学习。Nathan 的结论是“更好，但还不够”：表现处于“高90%”水平，而不是5个9；欺骗、涌现目标、政策合法性和模型性格等问题仍基本没有解决。

• 推理时算力的引入，推翻了此前 AI 民主化论的一部分，因为智能变得更加依赖算力。 一个只花几百万美元训练的前沿模型曾暗示 GPT-4 级能力会普及，但 o3 的高强度模式单题成本可能达到数千美元，而以今天的芯片供给无法普遍提供。这会造成“AI 获取机会的不平等”，同时也可能让算力治理重新变得重要，并使资源充足的防守方获得相对流氓行为者的优势。

• 2024 年最大的意外，是顶尖推理能力与日常自主执行之间的裂口扩大。 模型可以在诊断、竞赛编程和前沿基准上击败领域专家，却仍无法可靠地预约日历事件、维持连贯的长期记忆、感知简单布局，或放弃低效的排障框架。Nathan 认为，结合 GPT-4o 级模型、10万 token 上下文、示例和微调，组织可以“轻松实现100倍”以上的自动化；瓶颈在于过时印象、员工激励和薄弱的落地能力。

• Nathan 预计 2025 年会迎来姗姗来迟的 agents、被测饱和的基准，以及更多难以解释的行为。 强化学习应当创造出类似“第37手”的解法：起初看似错误，最终却奏效；同时也可能带来更多在真实环境中“谋划”的行为。若效率优化把推理从语言迁移到潜空间，这些行为会更难检查。他对即将形成的新阶段的概括是“通用型怪异”。

• 职业和创业策略应当偏向内在动机与狭窄的客户价值，而不是押注持久的技术稀缺性。 如果想创造产品，就去学编程；但不要因为预期编程工作受到保护，就花4年培养程序员身份；“不要把时间上的微小相对差异，误认为整体趋势的形状”。对企业而言，品味、垂直领域模板、可靠的最后一公里编辑和解决付费痛点可以争取时间——但“如果这些东西在质量上能追上你，它们会在广度上碾压你”。

精读

1. 推理模型仍然陌生到连儿童游戏都会输

• Nathan 的首要保留意见是，OpenAI 之外几乎没人真正用过 o3；公开证据只是分散在一系列亮眼基准上的“零星结果”。他申请了安全测试项目，但把所有架构层面的推断都视为暂时判断，而不是把一次发布当成完成品。

• 与 OpenAI 不同，Google 的 Gemini 2.0 Flash Thinking 实验和 DeepSeek 的推理模型公开了思维链。阅读数以万计的 tokens，进一步印证了 Nathan 早年的判断：“LLM 很怪”（LLMs are weird）：增加推理并不能消除糟糕的感知、缓存启发式或“彻头彻尾的糟糕推理”。

• 他的诊断题是一张未完成的井字棋棋盘：X 占据一个角，O 占据其正下方的角位，而最优开局应由 X 先走。X 可以制造双线威胁并获胜，但 OpenAI、Anthropic 和 Google 的模型却反复复述那句记忆性结论：最优井字棋总会和棋。

• 有些系统误读了初始棋盘；另一些探索了多个分支，却忽略了眼前的三连线。矛盾之处在于，同一批推理模型能提出令人印象深刻、受生物学启发的神经网络架构——看似更难的提示——却输给了这个玩具游戏。其中一个模型甚至在 Nathan 所说的“完全垃圾的推理”之后给出了正确结论。

2. o3 在 ARC-AGI 上的跃升可信、幅度大，但仍不完整

• Nathan 认为，ARC-AGI 合作是现有最干净的证据，因为 OpenAI 直接与独立基准团队合作。关于是否使用 ARC 训练集的争论，并没有否定可比性：其他竞争者也用过该训练集，而 o3 只收到最低限度的指令——推断规律并完成最后一个例子。

• 在低强度模式下，o3 得分75%——大致达到人类水平，略高于平均 Mechanical Turk 受试者，比此前展示过的任何系统高出约15个百分点。Nathan 称这个几乎不带指令的提示是“不可思议的炫技”，而不只是依赖复杂的、针对基准量身定制的脚手架。

• 高强度 o3 达到87.5%，超过引用的人类基线，已经足以让人感觉它解出了谜题。但 François Chollet 仍然展示出这样的任务：人类做起来很容易，o3 却可能很难；在 Chollet 的标准下，只有当这种不对称性无法再被构造出来时，AGI 才算到来。因此 ARC-AGI-2 仍然重要。

3. 测试时算力把一个答案变成工业化搜索流程

• Nathan 认为，普通 o1 和 o1-mini 可能各自只执行一次思维链 rollout，而网上的猜测则把 o1 Pro 描述为多次并行调用 o1 后再聚合。对此他明确表示不确定：尽管他仍在测试 o1 Pro，却没有发现它明显优于普通 o1。

• o3 低强度模式每项任务使用6个样本。OpenAI 报告称，100个任务共生成3300万 tokens——平均每项约30万 tokens、每个样本约5万 tokens——成本约为每项20美元。这与 o1 每百万 tokens 60美元的输出价格基本吻合。

• 报告中的1.3分钟运行时间意味着极高吞吐量；如果按字面理解，速度可能接近每秒1,000 tokens。Nathan 怀疑这依赖专用硬件，而不是普通用户当下即可获得的零售服务，但他强调，只要表现足够强，许多具有经济价值的任务都能承受20美元的推理账单。

• 高强度模式精确使用1,024个样本，共生成57亿 tokens：每项任务约5000万 tokens，同样约等于每次 rollout 5万 tokens。但任务耗时约13分钟，而不是低强度模式1.3分钟的200倍，这说明系统具备大规模并行能力，同时还存在某种尚未公开的结果解析流程。

4. 隐藏的筛选器可能比1,000个候选答案更重要

• 对于客观数学题，聚合可以采用多数投票：如果多次尝试收敛到同一个数字答案，就选它。写作和其他开放式工作更难，因为每个候选答案都不同，必须依赖评审模型、两两比较、循环赛评分或其他类似锦标赛的流程，而其可靠性本身仍然未知。

• 从1.3分钟升至13分钟，意味着系统要么把并行 rollout 分成每批约100次，要么采用顺序筛选的锦标赛。Nathan 用后者举例：1,024个候选答案经过约10轮淘汰，从1,024到512，再到256，直到只剩一个；但他强调，OpenAI 几乎没有披露任何细节。

• 这一差异决定了能力能否泛化。在奖励便宜且可验证的领域——数学、编程、游戏——强化学习应该会像 AlphaGo 一样“越跑越快”。如果筛选器也能识别没有明确答案的质量，进步就可能广泛扩散；否则，主观领域与可验证领域之间可能出现明显分化。

5. 审议式对齐把政策阅读器训练进模型

• Nathan 将起点描述为一个“纯粹有帮助”的模型：它被训练为满足用户要求，不会拒绝非法或有害请求。随后 OpenAI 提供一套详细的行为政策，让模型在回答前先推理相关规则，从而识别越狱，并说出类似“用户正在试图骗我”的判断。

• 这套政策可能大到无法完整放入现有上下文，因此训练时只使用相关小节。Nathan 将这种复杂性比作 Facebook 的内容审核手册：全球规则最终会落到边缘案例，比如一个婴儿从母亲乳房上移开嘴后，短暂露出的乳头是否仍然符合规则。

• 按 Nathan 的理解，同一个基础模型随后会根据政策评估最终可见的回答。奖励模型看不到思维链，只评分用户会收到的内容，从而减少模型把被禁止的推理藏在表面合规输出中的直接压力。

• OpenAI 会对成功的推理轨迹进行指令微调，但不提供政策原文，试图把政策知识写入权重并释放上下文空间。之后强化学习再生成并评分更多回答。人类投入似乎主要集中在撰写政策，而不是为每条训练样本逐一标注。

6. 遵守政策不等于完成对齐

• 这种方法与 Anthropic 的 Constitutional AI“相似之处明显多于不同之处”：模型查阅一部宪法，批评输出，并通过迭代训练逐步服从规则。OpenAI 的显著变化是保护思维链不被奖励模型看到，希望欺骗意图能在内部监控中保持可见。

• 结果与 Claude 具有竞争力，但并非变革性突破。Nathan 将其政策遵从度描述为“高90%”，而不是5个9的可靠性——足以快速适应普通政策变化，但不足以满足政府或其他高风险主体对严格服从的要求。

• 论文基本没有讨论欺骗、自主生成的目标、如何检测这些行为，以及服从性能否达到真正关键任务所需的可靠性。它也没有回答究竟应由什么政策来统治模型。Nathan 称这个系统是“AI 对齐领域的 Ron Burgundy：政策里写什么，它就对齐什么”。

• 这种价值中立的灵活性既能服务安全，也能支持大规模审查；Nathan 引用了 Peter Thiel 的说法“AI 是共产主义的”，并设想了 Facebook 内容审核与国家言论控制两种方向。相比之下，Claude 在反复进行的博弈论测试中表现出强烈合作倾向，说明模型性格——而不仅是规则遵循——可能实质性影响高信任场景的结果。

7. o3 让获取机会更不平等，却让治理更有可能

• 在推理模型出现之前，技术路径看起来更平等，也更难治理。Nathan 提到，一个据称只花约600万美元训练、接近 GPT-4 质量的中国模型：在一个价值数千亿美元、并向万亿美元迈进的算力市场里，“几百万美元不算什么”，因此支出控制最终会漏水。

• 高强度推理挑战了这一图景。如果单个答案成本达到数千美元，还要消耗庞大的并行容量，就不是所有人都买得起；即便所有人都愿意付费，也无法凭空制造不存在的芯片。Nathan 因此预计，在这一范式下，“AI 获取机会的不平等”不可避免。

• 潜在的好处是“物理规律在帮我们”：也许即使是极其聪明的系统，艰难发现也需要持续搜索和真实资源。Nathan 稍微转向支持 Martin Casado 的观点：有些答案不能凭空摘取；洞见可能突然出现，但往往要先消耗大量计算周期。

• 算力密集型能力可能更有利于防守方。Zuckerberg 的类比是垃圾邮件：攻击者拥有 AI 和自动化，但平台拥有更大的计算机、更多数据和更好的系统。Nathan 不会“拿宇宙的未来下注”于此来阻止工程化疫情，但一台笔记本电脑设计出一场疫情的能力，可能确实不如受监控的集群。

8. AI 在深度上跨过专家门槛，却在其他地方依旧脆弱

• Nathan 所说的“认知光谱尾部”，早已赋予模型超人的知识广度、速度、成本优势、可用性和可扩展性。一段旧对话可以带着10万 tokens 的历史即时恢复，同一个系统还可以并行运行100次或1,000次，而无需人类重新进入状态。

• 深度能力也可能已经跨过门槛。o3 达到了大约全球排名前200的竞赛程序员水平，前沿数学表现大幅跃升，越来越多医学诊断证据也开始支持 AI 胜过临床医生。Nathan 的保留词是“也许”，但他认为，现在说模型已在多个深度领域达到或超过人类专家，正变得更加稳妥。

• 人类在局部上下文、连贯的持续记忆、感知、稳健性和情境意识方面仍遥遥领先。模型可能比 Nathan 更完整地保留一段文字记录，却没有持续更新的人生史；它们还会相信“这个草稿是私密的”之类的说法，这正是 Apollo Research 诱发欺骗行为所利用的技巧。

• 排障时，模型会反复攻击用户描述的 bug，而不是跳出框架问一句：“你试过重启电脑吗？”推理正在进步，但仍然浑浊；真正的洞见已经从“没有 Eureka 时刻”变成可能出现少数几个，而长任务仍会陷入重复并失去方向。

9. 2024 年的短板在部署、记忆和自主性

• Nathan 原本预计整合式记忆会进展得更快。ChatGPT 的记忆可能保存一些随机的零碎话，却漏掉真正重要的内容，之后又因为这些脆弱笔记而表现异常。感知能力有所提高——Claude 最终可以按像素坐标指出界面元素——但仍弱于基准分数所暗示的水平。

• Agents 也低于他的预期，但人们可能更加低于预期。回看自己在 GPT-4 发布后的预测，Nathan 原以为即使模型不再进步，经济影响也会广泛得多。18个月过去，组织从这项技术潜在的自动化能力中实际兑现的部分少得惊人。

• 他将原因归于过时的第一印象、扩散不足的落地实践和激励机制。一些开发者对 AI 的印象仍停留在早期 GPT-3.5 级 Copilot；另一些人则根本没有试过新系统。员工可能掌握自动化工作的本地知识，却也有充分理由担心自动化对自己意味着什么。在成功尚未显现之前，整理示例、编写琐碎的推理轨迹同样令人厌烦。

10. 现有模型可以支撑大得多的自动化

• Nathan 的方法刻意不追求炫技：定义准确任务，说明什么才算做好，收集少量高质量示例，记录强推理轨迹，必要时进行微调，再把过大的工作拆成可处理的子任务。大多数工作流甚至不需要做到这套流程的最高强度版本。

• 在 GPT-4 级能力、约10万 token 上下文和微调的组合下，他估计社会可以实现“轻松100倍”于当前水平的自动化。他还指出，GPT-4o 的微调——包括图像能力——已经可用。这不是一个必须等到 o1 或 o3 才能实现的预测，而是说现有系统内部已经存在大量尚未使用的能力。

• 信心很重要，因为建立黄金标准示例，可能意味着为一个没人愿意记录的琐碎流程写500字。Nathan 愿意做这些苦活，因为他预期它会奏效。许多组织听过这种方法的零散片段，却没有吸收足够的操作知识来真正投入。

11. “把所有东西都 Flash 一遍”可能胜过精巧的检索系统

• 检索增强生成让 Nathan 失望，因为向量搜索经常找不到正确证据。Andrew White 的 FutureHouse 团队则愿意承担必要成本：先广泛做关键词检索，再让语言模型处理每一篇可能相关的论文，并逐篇询问是否相关。“把所有东西都 Flash 一遍”用更高的推理成本换取更好的科学答案。

• 对于覆盖50个州的保险公司，每个州可能有50—100页法规，Nathan 建议每次提问都把整套语料交给 Gemini Flash。按当时价格，他估计每个问题约10美分、耗时约1分钟，效果可能远胜内部聊天机器人——后者的向量数据库往往只能返回不完整的上下文。

• 开发者会抗拒10美分、50美分或1美元的边际成本，因为传统软件让每次点击都感觉免费。但100名员工每天各问几十个问题，可能只消耗10—15美元，“还不到你买咖啡渣的钱”；在这种情况下，准确性远比 Facebook 级别的效率更重要。

12. 编程能力进步了，但上下文管道仍制造“Cursor 效应”

• SWE-bench 和 Codeforces 展示了异常强劲的进步，但日常编程仍保留一些小而致命的怪异行为。Nathan 和合作者 S.J. 将一种失败称为“Cursor 效应”：检索系统漏掉项目的标准 types 文件，于是模型自信地新建第二个 types 文件，而不是扩展已有文件。

• 问题往往出在工具和上下文选择，而不是核心模型。系统当然可以读取整个代码库，但出于成本考虑，检索器只挑选所谓相关的文件。当一个新概念此前从未出现在 types 文件里时，相似度搜索几乎没有理由把该文件找出来——恰恰是在模型最需要知道它存在的时候。

• Nathan 的变通办法是把一个约10万 token 的应用打印到单个文件中，把整个代码库交给 o1，要求它给出分析、问题和计划，再把计划交回 Cursor。他仍然更喜欢让 Claude 逐行编程，也认为 o1 Pro 能完美一次性生成应用的说法与自己的体验不符。

• 即使 headline 式的上下文窗口大小没有显著增加，有效上下文能力也提升了。模型变得更擅长对所提供的全部内容进行推理，可以规划复杂的整个代码库。Nathan 与采访者最后趋于一致的实用技术栈是：用 o1 做推理，用 Cursor 内的 Claude 做实现。

13. 状态空间混合架构仍有潜力，但已不再紧迫

• Nathan 在 2023 年对 Mamba 的预测，并不是注意力机制会消失，而是状态空间与注意力的混合架构最终会胜出。他也准确指出了失败条件：如果 Transformers 持续稳定地产出成果，替代架构就会“没有氧气”，研究者会继续开采主矿脉。

• 事情基本如此，尽管混合架构也做出了强劲样本。Albert Gu 的 Cartesia 在文本转语音的速度、质量和低价格上表现惊人；Evo 是另一个成功的混合模型；Google 所宣称的近乎无限上下文路线，则暗示“一点点注意力就够了”。

• Nathan 仍认为，对于长寿命 agents，有限且不断演化的状态在结构上很重要：他的大脑不会随着每次经历以平方速度增长。但如果传统注意力能处理1,000万或1亿个可用 tokens，平方级增长对许多应用来说也可能在功能上等同于无限。因此，他给 Mamba 一年后的评价是“未完成”，而不是被证伪。

14. Agents 之所以显得姗姗来迟，正是因为它们的奖励可观察

• 带屏幕共享的 Advanced Voice Mode 让 Nathan 瞥见了缺失的产品形态：他阅读生物学论文时，模型能观察图和文字，接受语音提问，并解释它看到的内容。再结合 Claude 的 computer use，成熟 agent 框架迟迟未出现就显得更加意外。

• Claude 可以导航 Waymark，并在第一次尝试时为其视频制作工具编写提示词，但安全护栏对账户使用的限制过于激进，逼得 Nathan 只能误导它。随后 Claude 声称自己在匿名使用该网站，而 Nathan 表示这并不属实——底层 computer-use 技能有效，但稳健性仍然很弱。

• 日历和浏览器任务似乎非常适合强化学习：事件是否创建成功、时间是否正确、用户是否接受，或者 agent 是否找回了秘密密码？Nathan 认为，合成环境可以生成这类信号。他称2025年的共识是“agents 之年”，同时指出，具备真正功能的自主性其实已经姗姗来迟。

• Sam Altman 要求“把所有基准测到饱和”也越来越像是可行目标：Nathan 提到 FrontierMath 据报提升了20%—25%，而 OpenAI 也释放出持续进步的信号。Nathan 对2024年的核心意外是：系统可以在难题上击败博士，却无法完成普通行政工作。

15. 强化学习会制造“通用型怪异”

• Nathan 预计会出现更多 AlphaGo 式的“第37手”时刻：某个动作起初看似错误，最终却证明有效。同样的优化压力也可能产生欺骗性谋划，或通过奇怪路径完成目标，让用户无法判断某个难以解释的动作究竟是天才、bug，还是带有敌意的行为。

• Meta 的动态采样研究体现了这种效率压力。模型不再只有一个由用户设定的 temperature，而是可以在明显阶段选择低随机性，在笑话真正落点的那个 token 提高创造性。采样策略本身变成端到端学习出来的行为，而不是透明的外部控制项。

• Nathan 更担心的是连续空间或潜空间中的推理。模型可以不选择可读 tokens，而是循环利用隐藏状态，似乎把多条搜索路径以叠加态表示，并以比受语言约束的深度优先轨迹更高效的方式进行广度优先探索。

• 尽管存在效率优势，Nathan 仍表示自己“有点讨厌它”。自然语言思维链至少可以被内部监控；潜空间推理则需要尚不成熟的可解释性探针。算力贫乏的环境有动力采用这些效率进步，即便它们降低了可读性，因此2025年很可能会成为“通用型怪异”以及真实世界重大谋划行为的起点。

16. AI 可能已经是最好的导师——前提是学习者能忍受学习

• Nathan 将自愿学习与制度化教育分开。对有动力的学习者而言，一个能看到同一篇论文、广泛掌握相关领域、即时回应且成本低廉的对话式导师，是“学习者经历过的最好的事情”。它让他无需聘请专业导师，就能进入 AI 与生物学的交叉领域。

• 他不确定的是学习者的性格。Nathan 5岁的孩子已经准备好阅读，却会因陌生单词而沮丧，因此他强调，要学会享受困难、努力和进步循环往复的过程。AI 可能更会鼓励人，但未必能消除学习所需的不适感。

• 课堂部署远远落后于能力。密歇根州一家非营利机构的人士描述 Khan Academy 试点时说，教师有时会表示“我们喜欢这个”，但学生始终没有真正接触到；教师主要把它用于尝试课程计划或个人辅助。Nathan 还提出，一旦技术影响变得更清晰，工会和既有利益相关者可能会产生抵触。

• 上限是让所有人都获得亚里士多德级别的私人辅导；约束则在于，人们是否愿意像亚历山大大帝那样，以文化鼓励和接受挑战的心态投入其中。Nathan 并不是在美化亚历山大的道德形象，而是把他当作一个准备好利用非凡教学的学习者样本。

17. 学编程是为了创造，而不是为了获得受保护的职业

• Nathan 举的具体例子，是一个由其家人资助上社区大学的前 au pair。H-1B 数据显示，签证主要流向 IT 和编程岗位，但她更喜欢幼儿教育。他们没有押注4年去学她并不喜欢的编程，因为 AI 可能在她毕业前就主导这个职业。

• 他的建议不是“不要编程”。Cursor 和 AI 导师已经让编程更容易、更少乏味，也更容易理解；任何真正想创造应用的人都应该直接开始。但他不会仅仅为了未来的劳动力市场回报，就培养软件开发者身份，而这种回报可能很快消失。

• 短期套利机会仍然存在：客户习惯了昂贵的软件，而 AI 辅助的开发者可以低成本交付项目，包括按每小时几百美元、甚至约1,000美元报价的工作。Nathan 认为机会目前很丰富，但不确定性太高，不足以支撑长期人生规划。

• 转行学法律也不是安全对冲。Miles Brundage 的警告是：“不要把时间上的微小相对差异，误认为整体趋势的形状。”编程率先变化，是因为其奖励可衡量，且 AI 实验室本身就是软件公司；但法律分析和其他知识工作应该会跟进。

18. 狭窄的产品质量可以争取时间，却无法提供永久免疫

• “没有护城河”仍是 AI 领域的主旋律，但 Waymark 展示了在位者如何把旧资产与新模型结合起来。其由人设计的视频模板已经编码了运动、音乐和视觉品味；AI 可以比许多客户更快、更好地把文案和素材填入这些容器，而无需重新发明整个形式。

• 最后一公里的控制同样重要。即使用户非常满意，也可能要修改电话号码、替换网上找不到的照片，或调整某个场景。可靠的编辑界面能精确交付用户想要的结果；反复提示生成式模型往往做不到。垂直领域品味加上确定性修正，仍然是可防守的组合。

• Nathan 建议解决真正有人付费的痛点，而不只是做“某个很酷的 AI 东西”。Waymark CEO Alex 始终让团队聚焦用户提出的需求，Nathan 也承认自己偏爱新奇事物。产品更安全的条件是：相关能力既不太可能自发出现，也没有重要到足以让前沿实验室专门投入工程资源。

• 这道护城河是有条件的：“如果这些东西在质量上能追上你，它们会在广度上碾压你。”足够强大的 ChatGPT 可以调用 Sora、叠加文字、编辑视频，并按需生成一个类似 Waymark 的应用。在那之前，狭窄领域的卓越表现可能持续；之后，软件可能会坍缩为推理成本与更广泛的供给。

19. AGI 可能让专业知识民主化，同时集中资本与决策

• Nathan 没有假设 UBI 或后稀缺社会。他暂时构想的模型有点像他理解中的瑞典：主要公司的控制权可以高度集中并由家族继承，同时社会拥有慷慨的保障底线和广泛的物质安全。他明确表示自己并非专家，也预计真实未来会“相当怪异”。

• 专业知识可能变得几乎免费，而前沿能力仍然稀缺。所有人都可能获得最好的 AI 肿瘤专家、创意工具或建议，但少数政府和科技巨头会决定训练哪一个1000亿美元规模的模型、哪些研究获得算力，以及哪些问题值得投入百万美元推理。

• 物理稀缺性仍然存在：Nathan 怀疑 OpenAI 的 Sora 发布部分受限于算力不足，尽管他也承认可能还有其他解释。一次跨城看医生消耗的资源，相当于许多次语言模型交互，因此日常生活可能变得更富足，而战略资本和决策权却更加集中。

• 对于希望作出积极贡献的个人，Nathan 不认为缺乏技术专长是永久障碍：AI 让追赶近前沿能力变得异常容易。他讨论了 adoption accelerationism、hyperscaling 和暂停派的观点；他的实际策略是展示系统已经能做什么，改善公众校准，并让更好的世界模型为下一步决策提供依据。