Helen Toner

短期内最清晰的 AI 生物学商业机会，不是发明更多分子，而是在临床瓶颈上挽救价值：Abhi Mahajan 表示，肿瘤学试验的失败率高达97%，但其中一些患者往往确实会产生响应。 Noetik 将病理学、16-plex 空间蛋白组学、覆盖19,000个基因的空间转录组学和外显子组测序结合起来，寻找潜在“非人类可读”的响应生物标志物。Mahajan 预计，未来几年人类模拟公司至少能改善几项试验，但对 AI 是否会迅速发现全新靶点仍远不如确定。

生物学不太可能重演软件的智能爆炸，因为其中最有价值的奖励缓慢、模糊且昂贵，而不是可以低成本验证。 毒性可能在几秒或几年后出现，可能随剂量和物种变化，也可能在不杀死动物的情况下造成认知或心脏损伤；一次干净的肝细胞检测或许能节省数月时间，却仍然回答不了决定性的体内问题。即使某个模型在困难的临床前基准上让“Alpha 3”提升一倍，也不能证明患者结局更好，因为“这个领域已经充斥着很多真正优秀的临床前资产”。

中国的生物科技优势更像操作系统优势，而不是已经得到证明的 AI 模型领先。 Mahajan 认为，这一优势从仿制药延伸到强大的 CRO 生态，再进入本土创新药研发，依靠更低的试验成本，以及设计人员与湿实验室工作人员之间更紧密的反馈；他尚未在中国生物 AI 中看到“DeepSeek thing”。Jeremie Harris 则认为芯片出口管制确实形成约束，引用了 DeepSeek 在 R1 之前的抱怨和 H200 积压需求，同时否认 Nvidia 销售会让中国放弃战略性的国产技术栈。

自动化 AI 研发是一台制造战略意外的机器，因为知情专家对短期会发生什么大体一致，却对最终是递归、锯齿式加速还是平台期存在分歧。 Helen Toner 的研讨会参与者对2026—2027年可能看到的情况高度一致，却无法就此后会发生什么达成共识；关键问题在于，AI 是否会替代人类的全部贡献，以及物理、组织和采用瓶颈会多快“咬住”这条循环。一个尚未充分讨论的情形是：能力超越人类但受到边界约束的平台期，足以重排经济，却不会变成不可理解的奇点。

前沿实验室竞赛正在跑在评估和治理之前，但“不可避免”并不会抹去有意义的设计选择。 讨论提到，Anthropic 和 OpenAI 明知难以评估意识或长时程自主性，仍在发布模型，同时区分了人类主导下的 AI 研发与让数百万个智能体启动、却“完全不知道发生了什么”。Toner 的政策主张也从发布日文件转向持续的内部风险测量、独立审计，以及在网络、生物和认知安全上的社会加固。

被忽视的 AI 交易是物理底座，而 Harris 认为，破坏它可能抹平模型层面的全部优势。 TSMC 是极其脆弱的集中点；与中国有关联的零部件和人员会让数据中心建设出现“单向门”；电网变压器则可能给对手带来远超窃取模型的杠杆。Harris 将安全建设、供应链审查、电网冗余和可信的进攻选项视为购买选择权，同时把失控概率刻意放在“10%到90%”这一宽泛区间，并认为2027年、2030年具有合理可能性，2035年则相对没那么像。

即使能力曲线平滑，采用也可能呈现断点，因为最后1%的改进就可能把玩具变成生产系统。 Harris 表示，播客剪辑在6个月前还无法完成，但在节目播出前3到4周已经实现端到端运行；Nathan Labenz 认为智能体也存在类似阈值，不过当前模型仍会在应该“直接阅读文档”时过度使用代码。正在形成的技术栈——深度个人上下文、每月将300,000个 token 压缩成10,000个 token、可能的持续学习，以及以“判断力迁移”为目标的模型——被讨论为保留更多个人经济杠杆的路径。

🔗 原始收听与视频来源： 正在逼近 AI 事件视界？第2部，与 Abhi Mahajan、Helen Toner、Jeremie Harris、@8teAPi 对谈

Toner 的基准情景不是超级智能即将到来，而是文明尺度的转型已经足够可能，值得现在就开始准备。 2016年，“短时间线”意味着未来20年内或一生之内出现先进 AI；到2025年，它可能意味着2020年代结束前就出现超级智能，因此即便是“通往先进 AI 的长时间线也已经短得离谱”。对投资者而言，这指向的是对评估、韧性和政府能力的持续需求，而不是相信一个5年倒计时。

**OpenAI 最新、最明确的披露是：Q*并未触发董事会2023年的决定。**Toner 表示，董事会知道后来以 o1 和 o3 发布的推理研究正在进行，但没有收到所谓突破性信件，也没有据此采取行动：“那整篇 Reuters 报道完全是假的。”由于保密义务和法律责任，治理折价仍难以量化，完整公共记录无法形成。

当前沿 AI 员工能够指出哪条规则被违反时，前沿 AI 监督的效果会好于仅凭主观担忧获得保护。 Toner 倾向于要求披露安全与安保计划、能力和风险评估，以及建立清晰标准、供员工援引的内部流程。这些员工现在可能拥有最大的议价能力，因为他们“正在积极地替代自己”，而机构性失灵可能以“温水煮青蛙”的方式到来，没有一个显而易见的危机节点。

适应性缓冲，是应对 AI 市场的战略答案：前沿开发成本越来越高，而昨日的前沿能力却在迅速商品化。 DeepSeek 只落后部分美国系统1到2个月就匹配了推理能力，基础模型能力则约落后6到9个月，且成本更低，使永久性的非扩散控制越来越侵入性强、也越来越脆弱。实际应对方向转向疫苗产能、疫情监测、网络修复，以及在能力扩散前分发防御工具。

只要发布不太可能造成严重且不可逆的伤害，迭代式部署才仍然有用。 Toner 更偏好附条件的“如果—那么”闸门——在具备指定理解或缓解措施前不得推进——而不是固定暂停或基于投入的速度上限；后者既需要目前不存在的立法，也会立刻遭遇“中国怎么办”的质疑。在全面制度尚未出现的情况下，透明度、测量科学、可解释性、对齐研究和政府技术人才，是现实可行的基础设施。

“击败中国”同时充当了地缘政治论点和 AI 行业在华盛顿的最短游说路径。 Toner 将竞争置于权力转移、海上通道和国际规则的背景下，谈话也涉及台湾。她表示，这一叙事恰好支持“资金”“政府合同”“不监管”和免于承担责任。因此，即便没有解决根本的战略问题，中国叙事仍会实质影响 AI 公司的经济利益。

军事 AI 应按具体使用场景评估，而不能被包装成通用型战场伙伴。 用于视域测绘、医疗分诊、舰船运动异常检测或数据库检索的边界明确工具，与让 LLM 生成“3个不升级冲突的行动方案”有根本区别。Toner 与 Amelia Probasco 提出的框架——范围、训练数据以及人机交互——把可靠性和对抗鲁棒性置于演示流畅度之上。

“军队版 AlphaGo”不是可信的近期均衡，因为真实战争无法被装进一个干净的模拟环境。 战场、后勤、经济、政治和公众态度相互作用，而对手还会主动攻击模型的假设。Toner 的诚实结论是，她不知道超级智能之下民族国家、民主制度或中国共产党会变成什么；核心事实是战略不确定性，而不是某种已经确定的作战 doctrine。

🔗 原始收听与视频来源： Helen Toner：OpenAI 反思、适应性缓冲与战争中的 AI