OpenAI 总裁 Greg Brockman：重塑网络安全与 AI 驱动的科学
摘要
Greg Brockman 认为，OpenAI 最新的数学成果表明，AI 已能创造真正的新知识，尽管它“还没有创造出完全全新的理论”。 模型正在解决百年前的问题，如今已有近400个重要开放问题被解决；其中不少来自出人意料的思想组合，数学家认为这些结果具有启发性，而不只是可由机器核验。更广泛的含义在于，他强调，借助这些工具的人可以做到此前不可想象的事情，同时学习足够多的知识来评估并推进这些工作。
药物研发是 Brockman 认为最明确的 AI 科学颠覆候选领域，因为神经网络或许同样适合处理“生物学的语言”和人类语言。 主持人将当前药物研发流水线概括为约15年、每种药物15亿美元，其中临床前阶段约投入5000万美元，试验阶段超过14亿美元。AI 可以加速文献检索、监管文件撰写、模拟和实验迭代，但生物数据稀缺，以及必须观察长期人类结果，仍是现实约束。
Brockman 预计，现有科学工作流不会被一次通用突破整体改写，而是会按瓶颈逐一拆解。 有些环节可能更容易提速，包括准备时间可达约1年的监管文件；但实验室数据生成、模拟、疗效预测和毒性预测都需要不同的技术进展。他给出的保留式预测是，“可能做到的事情中，有80%”会很快到来，即使完全替代临床证据目前仍只是可以设想的可能。
Dots 这样的主动式代理，正在把模型智能变成工作中的常驻操作层。 Brockman 那只猫头鹰形的 Dot 会监控他的收件箱、Slack、日历、承诺和项目，在没有被明确要求的情况下，主动提示尚未兑现的承诺或日程冲突：“你停止工作，他还会继续。” OpenAI 方面称，其优势在于覆盖12亿 ChatGPT 用户，同时拥有领先的编程和企业业务，使消费端与职场助手趋于融合，主要差别在算力预算和管理控制。
AI 产品的终点是“最好的界面就是没有界面”，只有在任务需要时才临时生成界面。 GPT-6 可以先快速回答，再继续思考并给出更完整的答案；智能界面则能实时组装定制化的订机票页面，或一次性生成自行车组装应用。这意味着软件可以按需生成，并针对用户当下的具体场景定制。
网络安全正在进入一个暂时性的“防守者窗口期”，先进模型可以帮助加固系统，而防守方尚未被击败。 OpenAI 已承诺投入10亿美元支持一线防守者，通过 Daybreak 提供模型，并暂时调配约25%的生产工程师投入安全工作，用最强模型探测基础设施，直到修复该模型能够发现的全部漏洞。Brockman 预计，每出现更强的模型，这一演练都要重复一次。
Brockman 最重要的经济判断是，网络安全支出应“远超软件支出”。 当 AI 让代码接近免费，稀缺价值就会从生产软件转向证明软件可靠、安全且值得信任；形式化验证、依赖扫描和默认安全的代码生成将成为核心。他承认“也许我错了”，但互联网级技术债、脆弱的开源供应链，以及长期资源不足的安全团队，都支持这一判断。
即使模型在特定领域超过人类，OpenAI 的治理原则仍是人类自主权。 Brockman 将未来用户比作 CEO 或董事会成员：身边的专家可能知道得更多，但最终仍须服从人的意图——“你满意吗？这就是你想要的吗？” 只有当人始终“坐在驾驶位上”，技术扩展人的能力而不是替人决定目标时，AGI 才会真正造福人类。
精读
1. AI 已从解决问题迈向创造知识
Brockman 用骑自行车来比喻 OpenAI 的运行状态：“事情不会变得更容易，你只是变得更快”（It never gets easier, you just get faster）。每一次看似抵达影响力顶峰，都会暴露出更高的顶峰；而本周的数学成果，标志着重点从更好的软件转向更快的科学发现。
他给出的绝对判断是，现在已经“根本无法否认”AI 能够创造新知识。限定条件同样重要：模型还没有发明完全全新的理论，但已经能够解决有百年历史的数学问题。
OpenAI 已公布近400个如今得到解决的重要开放问题，专业人士还发现了出人意料的思想迁移——“等等，为什么这里用了这个结果？” Brockman 将此与四色定理中那些由机器核验的案例作对比：产品不只是正确性，而是可复用的洞见。
更大的承诺，不是一个输出不透明答案的神谕，而是一个配备这些工具的人。数学家、生物学家或小企业主，都可以获得针对其领域调校、并服务于自身目标的智能。
2. 机器能力越强，人类监督越要扩容
Guo 和 Gil 提出的挑战是，能够评估高级定理的专家群体极其有限。Brockman 的回答是，更强的心智理论能力或许能让模型理解学习者已经掌握什么，再引导其抵达新的思想，从而让人类知识与机器能力同步扩张。
对于难以直接核验的工作，可以通过辩论和迭代式强化来完成监督。如果一个 AI 总结了一本书，另一个 AI 可以指出决定性段落，揭示前者遗漏的情节转折；人类不必重读全书，也能判断这一具体反驳是否成立。设计目标是让人始终“坐在驾驶位上”的监督机制。
3. 生物学可能被突破，但其瓶颈并不长得像数学问题
Brockman 将模型进步归结为：“算力、数据和算法带来能力，能力带来结果。” 数学和理论物理拥有大量数据，也有充分的验证机会；生物学更依赖数据，因此突破取决于低数据量方法、新的实验室信息和更好的模拟能力。
主持人保留了那组不舒服的经济数据：一种药物可能耗时15年、成本15亿美元，其中约5000万美元投入临床前工作，超过14亿美元投入临床试验。改善分子结合能力，只能覆盖前段2-3年，解决不了后续12年。
Brockman 仍称药物研发是最有可能被“彻底改变”的领域。人类适应了语言和日常互动，却“极不擅长生物学”；从第一性原理看，他找不到神经网络应当更擅长自然语言、却不擅长破解生物学自身语言的理由。
近期收益不必等到新疗法出现。某些患者可能已经有一种能够治愈其特定病症的药物，只是埋在文献之中；AI 可以将论文与病症匹配、并行推进工作，并起草目前需要约1年才能完成的监管材料。材料科学也可能获得同样的科学加速。
4. 如果 AI 证明底层现实不同，监管也可能改变
主持人的反驳是，临床试验之所以越来越昂贵，是因为安全性证据必须不断扩充，而监管机构提出这些要求有充分理由。如果长期人类结果仍然需要真正漫长的观察期，单纯增加智能并不能抹掉已经流逝的时间。
Brockman 的类比是自动驾驶：如果自动驾驶系统最终比人类驾驶安全10倍或100倍，那么围绕人类驾驶者建立的交通规则就应重新审视。同样，如果疗效预测或毒性预测被证明明显优于人类，药物研发要求也应随之改变——但“我们还没走到这一步”。
不同监管体系的推进速度可能不同；临床试验已经在向更适合运营方方法的司法辖区迁移。Brockman 预计，“可能做到的事情中，有80%”或许会很快实现，但承认验证长期预测仍可能至少需要一次真正长期的观察期。
5. 代理正在抹平软件、消费端与企业端的边界
Dots 是 Brockman 用来说明形态本身如何成为突破的案例：这是一个“始终在线、始终工作”（always on, always working）的代理，他将其比作 Astro 级别的模型。他的 Dot 了解收件箱、Slack、日历、项目和优先级，每天早上列出他忘记兑现的承诺，或提醒他必须提前离开某场会议。
消费端助手追求免费或极低成本服务；职场产品则可以在生产率收益足以覆盖成本时使用更多算力。OpenAI 拥有12亿 ChatGPT 用户，同时拥有领先的编程和企业业务，这支撑了 Brockman 将其定义为“一条战线的竞争”，而不是消费端与企业端的两场独立竞争。
他的界面论断很直接：“最好的界面就是没有界面”（The best interface is the lack of one）。用户应通过语音、Slack、iMessage 或其他渠道接触 AI；但企业管理员仍需要安全策略、版本发布控制，以及在职场设置关闭某项功能时收到通知。
生成式界面填补了剩下的缺口。GPT-6 可以先快速回答，同时继续推理，再构建任务所需的可视化工具——例如订机票页面或自行车组装应用。过去，这类工具可能需要开发者花1个月制作，却从来不值得专门定制。
6. 当软件趋近免费，安全成为稀缺层
Brockman 将当下称为“防守者窗口期”（defender’s window）：各家模型提供商的网络攻击能力都在扩张，早期影响已经包括韩国出现模型辅助的银行攻击。通过 Daybreak 和10亿美元承诺，OpenAI 正试图在窗口关闭前，把先进智能交到防守者手中。
这一诊断早于 AI：互联网安全一直是“后加上去的”，基础设施建立在审计不足的开源依赖之上，而没有哪个 CISO 会觉得自己的资源太多。AI 暴露了积累的技术债，也让形式化验证和漏洞发现更可行，并可以扫描开源软件供应链。
OpenAI 的内部应对是暂停项目，让约25%的生产工程师转向安全工作；公司将最强模型对准基础设施，对系统进行红队测试，并修复该模型能够发现的一切。问题在于结构本身：下一代模型会发现更多漏洞，因此这一循环必须重复。
主持人指出，安全过去通常只获得 IT 预算中个位数的低位百分比，并追问现有网络和终端工具是否会过时。Brockman 反而预测，市场将发生倒转：软件变得近乎免费，可靠的软件成为有价值的资产，因此网络安全支出应“远超软件支出”。
这一转型需要生态，而不是一家模型厂商。主持人提到 Socket 用于开源供应链扫描，Brockman 则提到 CrowdStrike 是合作方。长期看，AI 生成的代码可以从默认安全出发训练，使防守者有机会保持领先，而不只是勉强追平日益强大的攻击者。
7. 人类自主权仍是判断 AGI 是否有益的标准
Brockman 通过“人类”一词定义 OpenAI 的使命：人类应当掌控未来，AI 则应增强人的能力，即使模型在某些领域超过人类。他指出，即便 GPT-4 掌握的知识也远超任何单个人类。
他的物理隐喻来自 Steve Jobs：Jobs 给 iMac 加上一支笔，让用户感觉自己控制着机器，并且原则上可以把它扔掉。AI 也需要建立同样的关系：由人类的判断和价值观决定目的地，即使机器提供了更强的专业能力。
人类未来可能更像 CEO 或董事会，负责指挥一支知道得更多、甚至经常提出更好想法的团队。但不可转交的问题仍属于人类：“你满意吗？这就是你想要的吗？这是否让你的生活变得更好？” 对 Brockman 而言，技术应当以这些标准提升人类文明。