AI 安全强势回归 + 与 Nikesh Arora 共谈 Mythos 乱象 + Hot Mess Express
摘要
Claude Mythos 将危险的网络能力从假设变成现实,迫使华盛顿迅速掉头重做安全政策。 传闻中的行政命令将建立类似 Biden 时期的模型发布前审查机制,而 Trump 重返白宫首日就取消了这套机制,此前共和党曾批评相关测试反创新。Casey Newton 的结论是:本届政府的世界观“经不起现实的检验”。
政府仍缺乏连贯的模型开放策略,芯片、承包商、中国和盟友网络安全都面临政策风险。 五角大楼一边推动将 Anthropic 认定为供应链风险,一边安装 Mythos 扫描漏洞;Trump 正在研究向中国开放 Nvidia 芯片,但政府尚未决定是否向中国开放 Mythos。结果是,本届政府“同时在安装和卸载 Anthropic”。
网络防御的时间尺度已从以天计的响应问题,变成以分钟计的基础设施竞赛。 Palo Alto Networks 发现26个关键漏洞利用,涉及75项问题,而通常基线不到5个;Mozilla 4月发布了423项修复,远高于2025年每月约22项的平均水平。Nikesh Arora 表示,传统防御“是按天设计的”,企业必须彻底改造系统,做到“用 AI 对抗 AI”。
Mythos 的威力来自持续算力对多个弱点的串联,但它既不是自动运行的,也并非不会出错。 Arora 称其误报率约30%,只有在 Palo Alto 提供代码用途、预期行为,以及过去5年1万次攻击产生的威胁情报后,模型表现才有所提升。Mythos 与 GPT-5.5 Cyber 找到的问题并不相同,而 Mythos 高度消耗算力的“ultra mode”则让持续试错和“漏洞串联”更加有效。
短期经济账更偏向攻击者,而大规模修复周期需要有规模的网络安全厂商和系统集成商参与。 防守方必须100%正确,攻击者只需要找到1个可用漏洞;防火墙可以提供“临时脚手架”,但开源依赖和无人管理的终端仍然难以及时修补。Arora 预计,企业将经历一轮持续3-6个月的漏洞积压“清理”,IBM、PwC、Deloitte 和 Accenture 等公司将参与其中。
最暴露的,是业务依赖技术、但核心能力在其他领域的企业。 相比资源充足的金融机构,Arora 更担心医院、小企业、工业运营商和诊所——这些“95%在做别的事”的公司往往没有工程师。他以 Change Healthcare 遭遇的攻击为例,说明一次事故如何让整个医生生态停摆。消费电子邮件和电信服务商也需要加强前置拦截,因为 AI 很快会让钓鱼攻击变得明显更逼真。
AI agents 恰恰因为足够有用、能够持有凭证并自主行动,扩大了攻击面。 Arora 称 OpenClaw“从安全角度看很可怕”,因为它可以被授予跨账户行动所需的权限和凭证;他把 OpenClaw 安装在隔离环境中,无法访问日历或邮箱,因此“完全没用”。能力需要访问权限、访问权限又制造风险,这一取舍将决定企业如何部署 agent。
Arora 预计,AI 带来的生产率提升会先扩大工程产出,而不是先消灭工程需求。 功能积压已经排到6-12个月之后,因此30%-60%的效率提升可以用于开发更多功能;已宣布的7%、15%或20%裁员,也可能是在为具备新技能的人腾出空间。他更广泛的判断是,企业将经历“持续10年的转型”,财务等职能的效率提升将为 token 和新增 AI 算力买单。
精读
1. Mythos 颠覆华盛顿“让它先跑”(let them cook)的共识
Kevin Roose 开场提供的证据,是一份传闻中的行政命令:成立 AI 工作组,并可能要求前沿模型在发布前接受政府审查。它与被 Biden 撤销的框架高度相似;此前,类似测试曾被斥为“共产主义”、反创新,甚至会让美国输掉与中国的 AI 竞赛。
Casey 对因果关系的解释非常直接:Mythos 似乎能在大量程序中发现新颖且可利用的弱点,因此本届政府的放任立场“经不起现实的检验”。当官员看到一个模型如果被广泛发布、可能造成“巨大的伤害”时,现实问题就变成政府如何阻止这种伤害。
这场机构争斗,一边是 CAISI——更名后的 U.S. AI Safety Institute——另一边是 NSA 等情报机构;同时也是前 AI 沙皇 David Sacks 的“让它先跑”理念,与新近愿意把模型能力视为国家安全威胁的共和党官员之间的对撞。
Casey 认为,Trump 的立场一直比共和党整体意见更窄:共和党和民主党都对 AI 持强烈怀疑态度,共和党州议员早已争相监管 AI。Mythos 只是让联邦层面奉行“油门踩到底、不踩刹车”(all gas, no brakes)的派系不得不面对现实账单。
2. 安全监管仍有执行缺口,也存在审查风险
CAISI 专门招聘研究人员来评估日益危险的模型,其中包括一些即便对服务本届政府有所顾虑、仍选择加入的人。Casey 认为,机制上的缺口仍然存在:如果评估人员认定某个模型过于危险,但开发商以“商业需要”为由坚持发布,政府该怎么办?
Kevin 提出的反驳值得保留:监管可能演变成政治胁迫,就像社交媒体监管曾经出现的情况。Casey 同意,发布前审查可能构成事先限制,官员可能会禁止某个模型,“不是因为它真的危险,而只是因为它看起来很 woke、很 gay”;最终可能需要通过诉讼解决。
两人暂时的权衡仍偏向干预。Casey 目前宁愿听到这样的话:“那个疯狂的网络模型,不要把它给所有人。”Kevin 则对政府终于承认这项技术可能需要采取行动表示欢迎:“能拿到一点小胜利,我就拿一点。”
3. 芯片、模型与盟友撞在一起,暴露出混乱的对华策略
Trump 与 Jensen Huang、Elon Musk、Tim Cook 以及 Meta 的 Dina Powell McCormick 一同前往中国,据报道,与 Xi Jinping 的 AI 会谈也在议程之中。Kevin 认为其中存在内在矛盾:一边向中国出售构建 Mythos 级系统所需的 Nvidia 硬件,一边试图拒绝向中国提供今天的 Mythos。
五角大楼内部也存在同样的矛盾。它正在为将 Anthropic 认定为供应链风险进行辩护;这一认定源于 Anthropic 拒绝在合同中允许任何“合法使用”。但与此同时,在 Anthropic 技术据称正被移除的这段时期,五角大楼又在部署 Mythos。
一名中国智库代表在新加坡接触 Anthropic,寻求模型访问权限;德国则提出建立自己的 CAISI 类机构,并要求获得最先进模型。Casey 倾向于加强西方合作:修复互联网范围内的漏洞可能需要“我们能获得的所有帮助”。毕竟,美国实际上是在告诉盟友自己已经赢了,盟友要么“喜欢”,要么学会接受现实。
Kevin 表示,一旦模型能够找到零日漏洞,且军方和情报机构开始围绕模型改变行为,“AI 只是普通技术”的立场就无法维持。他更悲观的预测是,矛盾将持续下去,直到“某个重大事件”迫使官员真正警醒。
4. 网络攻陷已从按天计缩短至按分钟计
Arora 以7年的对比界定了转折点:过去,攻击者进入系统后还需要几天才能窃取组织的“核心资产”;有了 AI,这段时间已压缩到几分钟。为人类响应速度设计的防御体系,现在需要在同样的时间尺度内自动发现并采取行动。
Palo Alto 披露了26个关键漏洞利用,涉及75项问题,而正常基线不到5个,约为通常发现速度的5-7倍。Arora 将这次覆盖所有产品、由数百名工程师参与的行动称为一次“彻底清理”,目标是处理长期积累的“技术债或漏洞债”。
这一模式并不只出现在 Palo Alto。Mozilla 4月推送了423项安全修复,而2025年平均每月约22项;Google 的威胁情报团队发现了首个利用其认为由 AI 开发的零日漏洞的攻击者;Canvas 攻击则迫使公司停运,并就被盗数据展开谈判。
Arora 提醒,不应假设7倍增幅会永久持续;这次集中审计应能清理 Palo Alto 相当一部分积压。但每家企业现在都必须判断,自己的旧代码中有多少存在类似弱点,而开源组件通常会比专有软件更慢得到修复。
5. Mythos 是极度依赖上下文的能力倍增器,不是魔法扫描器
Arora 对 Mythos 的第一印象没有那么惊艳,因为它会标记太多问题:约30%的发现属于误报,每一项都需要人工验证。随着工程师解释代码原本要实现的功能,以及正常行为应是什么样,Mythos 的实用性才逐渐提升。
Palo Alto 随后提供了自己的专有威胁数据库,其中包含过去5年约1万次攻击所采用的技术,并要求模型判断已知方法能否适用于新的上下文。Arora 形容,这是把“过去全部的人类训练”交给模型,用来构建未来的防御体系。
Mythos 和 GPT-5.5 Cyber 发现了不同的弱点,这表明它们的训练数据和落地方式带来了互补覆盖,而不是由某一个模型给出唯一且终局的答案。对 Arora 来说,这种差异意味着“还有很多东西会被找出来”。
这些系统识别的不只是有缺陷的代码,也包括配置错误。Arora 举的最清晰例子是:一个产品控制面板为了方便远程操作而暴露在互联网上、没有关闭。“如果我能找到它,其他人也能找到它。”
6. 补丁周期跟不上自动化攻击
Casey 以 Palo Alto 的发现挑战传统90天负责任披露窗口:AI 辅助攻击者可能在25分钟内取得初始访问权限并外传数据。Arora 同意窗口会进一步缩短,但“究竟会缩短多少”仍没有定论。
SaaS 是相对容易的场景:软件可以集中调查、修补和部署,Palo Alto 已在2-3周内完成。笔记本电脑、服务器、交换机和路由器则需要组织自行行动,因此 Arora 预计,随着积压被清理,企业将经历3-6个月异常密集的更新周期。
IBM、PwC、Deloitte 和 Accenture 等系统集成商正在调动修复资源。如果无法立即修补,Palo Alto 可以把已知的脆弱路径编码进边界防火墙特征中,搭建“临时脚手架”,在企业修复后端代码的同时阻断攻击。
攻击者与防守者的竞争仍具有结构性不对称:“我们必须100%正确,坏人只需要正确1次。”即使拦下4个漏洞、仍有1个漏洞被成功利用,防守方得到的结果依然是“零”。因此 Arora 认为,当前攻击者从相当的模型能力中获取了更多价值。
7. 限制 Mythos 访问权限只能为防守方争取时间,无法带来永久优势
Arora 肯定 Anthropic 和 OpenAI 在防守方仍有时间反应时,试图负责任地展示“可能做到什么”。他说,两家公司“大体上做对了大部分事情”;它们在发布过程中各自搞砸了一些环节,但不存在简单的模型分发政策。
Mythos 的差异化能力在于消耗算力的“ultra mode”,它可以持续远长于已发布模型通常使用的“flash mode”。这种持续性让模型能够尝试多种技术并串联成功步骤,因此算力成本和风险更多取决于持续搜索,而不只是基础能力。
Arora 因此倾向于先给企业时间修复系统,再让同等能力普遍开放。如果攻击者获得 Mythos 级工具,勒索软件和国家级经济破坏仍会是熟悉的结果;改变的是攻击的“速度和规模”,而不是其基本性质。
4-6周的评估窗口让防守方得以研究模型行为,并在 Arora 所说的“AI 攻击海啸”到来前构建 AI 驱动的传感器。真正的竞赛在于,这些防护和补丁能否赶在国家、开源行动者或第三方复现相关能力之前到位。
8. 资源不足的行业与消费者构成薄弱层
Arora 最担心的是那些业务“95%在做别的事”、只有5%与技术相关的组织:医院、小企业、工业制造商、基础设施运营商和诊所。金融机构拥有更深的工程能力;而 Change Healthcare 这样的上游事故,就可能让一家医生诊所陷入瘫痪。
消费者得到的保护弱于企业,因为他们缺少有效的统一守门人。企业防御系统可以在一个客户处观察到钓鱼邮件发送者,再在其他地方将其拦截;个人邮箱和电信服务商则需要针对冒充攻击加强控制,这类攻击对“在做 AI”的公司而言本应很容易识别。
Kevin 提出的消费者常规防护方案是使用强密码和多因素认证,Arora 则强调服务商层面的控制,并敦促用户安装软件更新。Kevin 每天收到假冒 X 的密码重置邮件,正说明了即将到来的问题:他预计,6个月或1年内,同样的诱饵会变得逼真得多。
9. 自主 agent 把有用的权限变成安全负债
Arora 称 OpenClaw“从安全角度看很可怕”,因为它可以获得凭证和权限,随后跨用户账户行动。一次晚餐上,一名热心用户展示了名为 Zara 的 agent,旁边的人则反应道:“我靠,这简直是安全噩梦。”
他自己的 OpenClaw 运行在一台隔离设备上,与日历和邮箱断开连接,因此“完全没用”。机制很简单:没有访问权限的 agent 无法预订会议或回复邮件,而拥有访问权限的 agent 则可以代表用户采取行动。
工程师们同时感到兴奋、过劳和恐惧。在 Palo Alto 9,000多名技术人员中,Arora 看到了各种情绪:眼下的工具很有前景,但它们在未来2-3年的影响仍然极不确定。
10. AI 会先扩大积压工作,再压缩技术就业
Arora 否定了30%、40%、50%或60%的生产率提升必然意味着工程师减少这一推论:“我需要更多工程师。”产品路线图已经排到6-12个月之后,原因是团队缺乏产能,因此第一轮效率提升应投入长期搁置的功能和测试。
宣布裁员7%、15%或20%的公司,可能是在“重塑”组织,而不是永久缩小规模,从而腾出空间招聘具备新技能的人。整个企业中,财务、人力资源和其他职能的效率提升,可能是支付 token 费用的资金来源。
他对宏观趋势的概括是“一场转型意愿的海啸”,以及持续10年的商业转型。CFO 或 HR 负责人并不关心抽象的 AI;他们要的是更高效的运营,无论具体形式是自动化评估、面试,还是内部工作流。
Kevin 认为“AI 测评官”会带来糟糕的候选人体验,但 Arora 认为,它评估领域技能的能力可能强于对话。对于求职者声称自己熟悉 AI,他偏好的测试方式是看实际产出:“给我看看。”一个根据菜谱生成购物清单的 agent,并不能证明真正的能力。
11. Hot Mess Express 展示了采用潮与信任危机的碰撞
Venmo 开始测试新用户默认仅对好友可见,试图修补一项长期存在的隐私问题:平台公开交易记录曾帮助记者识别涉及 Joe Biden、J.D. Vance 和 Matt Gaetz 的账户或付款。主持人认为这是迟来的清理工作:它“过去真是一团乱麻”,如今这条容易被调查追踪的路径终于要被关闭。
据报道,Amazon 员工生成了不必要的 Meshclaw 活动,以增加 token 消耗,让自己在管理者面前看起来表现更好。Casey 引用了 Goodhart 定律:“当一个指标变成目标,它就不再是一个好的指标。”他将结果戏称为“hot mesh”。
University of Central Florida 的艺术与人文学科毕业生对 AI 是“下一次工业革命”的说法报以嘘声;Kevin 看到的学生中,约80%会说:“我讨厌这个。”Casey 为现场观众辩护,而 Kevin 则要求任何曾在学业中使用 ChatGPT 的人,在起哄前先披露这段经历。
Grindr 的 Madonna 广告播放了“嗨,Grindr,我是 Mother”,即使用户手机音量已关闭也可能继续外放,导致用户在家人身边被迫出柜;Casey 称这是危险的混乱,不只是营销失误。其他消息包括:Dua Lipa 就 Samsung 包装问题索赔1500万美元;eBay 将 GameStop 那份资金明显不足的550亿美元报价斥为“既不可信,也没有吸引力”;证词还显示,Elon Musk 曾考虑将 OpenAI 的控制权交给自己的孩子。