如何防御 AI 黑客:专访 Wiz 的 Ami Luttwak
摘要
- Ami Luttwak 表示,AI 如今能在约 20 分钟内完成过去顶尖黑客要花数周甚至数月才能完成的攻击。 开源模型追赶的速度快于他的预期;在漏洞发现能力上,他认为前沿模型的领先优势“不会超过 3 个月”。眼下的目标包括手握客户 AI 密钥的初创公司:凭证一旦被盗,攻击者就能“劫持大模型”(LLM jacking)。
- 攻击利用提速之际,补丁体系却跟不上机器的速度。 Luttwak 称,在 Wiz 的客户中,PHP 漏洞爆出后的两三天内,约 50% 已完成修补;但旧版本没有补丁,补丁分发也可能拖上数周甚至数月。他认为,采用自动化开发、测试、CI/CD 和运维的新公司有机会实现自动化修补;老牌企业转型则困难得多。
- 安全 AI 的能力提升伴随着不小的成本压力。 一次全面代码扫描可能要花 500 万美元,Luttwak 称一些客户在扫描上的支出已达数千万美元。要让服务持续运转,就得先用确定性检查和更便宜的模型筛选,再交给昂贵模型深入分析;否则“销售越多,亏得越多”。
- Luttwak 认为,持续测试外部暴露面比再做一次全面代码扫描更优先。 新模型能力提升后,昨天有效的防御今天可能就不够用了,因此测试也要随能力变化持续进行。他称,Wiz 多数客户已经在使用其红队 Agent,但整个行业的普及程度仍然不足:“最好的防御就是攻击。”
- 手握高价值凭证的创始人,应更早投入安全建设和自动化。 Luttwak 称,Wiz 统计的遭攻击 AI 开发服务商名单在 10 月从 9 家增至 15 家。他建议限制 AI 密钥的使用额度,控制密钥被盗后的费用;Zane Lackey 则主张,创始人赶发布进度时,也应同步持续测试和修补。
- Luttwak 认为,增加预算无法取代安全架构。 Sarah Wang 提到,一位 CISO 预计明年预算将增加 80%;Luttwak 则强调隔离、锁定,并为国家级攻击者做准备。他直言,清单式产品和以报告为中心的工作流程存在根本问题:“安全团队做的大多数事都不是安全。”
- 这场讨论的预测范围已超出软件公司,但对未来两年的走向仍有很大不确定性。 Lackey 称,不意外的话,互联网蠕虫可能会卷土重来;Luttwak 认为 10 月“可能只是个开端”,但无法预见两年后的情况。制冷系统攻击等联网基础设施风险,促使 Wiz 发起 Scan for Good 项目,为公共服务机构提供初步扫描,而非完整解决方案。
精读
1. “黑色十月”将攻击周期压缩至 20 分钟
Luttwak 将 10 月称为“黑天鹅事件”:漏洞数量和严重程度前所未有,AI 攻击也已从可能性变成现实。在“黑色十月”之前,Mythos 时刻表明模型能够发现漏洞;OpenAI 涉及 Hugging Face 的事件则暴露了 AI 攻击风险,不过当时的攻击是意外发生的。如今,模型已经能发现并利用复杂漏洞。过去顶尖人类攻击者要花数周甚至数月才能完成的攻击,现在“约 20 分钟”就能跑完,连普通的 API 错误也可能被利用。
Lackey 转述称,进攻安全从业者认为开源模型落后 6 到 9 个月。Luttwak 则认为,开源模型在漏洞发现上的差距“不会超过 3 个月”,同时强调,发现漏洞和执行攻击是两回事。对于后者,开源模型已经足够强。他此前希望开源模型落后 1 年,如今看来过于乐观。
初创公司已经成为攻击目标,因为它们持有的凭证有价值。Luttwak 称,Wiz 统计的 10 月遭攻击 AI 开发服务商名单从 9 家增至 15 家,而且还在增加。攻击者可以先窃取客户的 AI 密钥,等初创公司发现并响应时,损失可能已经发生。他给出的实际建议是:给密钥设置使用额度上限,避免失窃后产生巨额账单。
独立发现漏洞的情况正在增多:Wiz 和另一支团队 Caliph 分别发现了 PHP to Shell 漏洞。Luttwak 将漏洞发现比作“比特币挖矿”:新模型会带来更多发现。Wiz 的零日漏洞竞赛也收到多份关于另一处严重漏洞的报告,他认为该漏洞将对互联网造成重大影响。防御方要做的,是趁前沿模型领先的短暂窗口,在攻击者之前检查关键基础设施。
2. 补丁速度仍受制于周边系统
Luttwak 称 PHP 漏洞“可能是 AI 发现过的最严重漏洞”。Wiz 客户中几乎 100% 都在运行某种 PHP;他表示,漏洞披露后的头两三天内,约 50% 的客户完成了修补。Sarah Wang 估计,互联网约 70% 依赖 PHP;Luttwak 则称,光是修复这一处漏洞就可能要花数年。旧版本甚至没有补丁可用。
Wang 提出的核心矛盾是:编写漏洞利用代码的时间缩短了,而过去 20 到 25 年里,修补所需时间似乎反而变长。Luttwak 称,CVE 公布前,漏洞信息就可能泄露;即便 CVE 已经公布,补丁也未必准备就绪。Wiz 与 PHP 团队合作数月,试图为行业预作准备,但信息还是提前泄露。客户即便想尽快响应,当时也无补丁可用。
分发补丁又带来一重客户无法控制的延迟。已披露的 Linux 内核漏洞,可能需要数周甚至数月才能覆盖所有发行版;AI 几分钟内就能利用漏洞。Luttwak 说:“世界还没准备好。”谈到自动修补时,他坦言:“我们还不知道该如何准确地自动修补”,也“坦白说,看不到通往这一步的路径”。
但他也补充说,新公司可以从创立之初就按自动修补来设计。整条流水线都得搭起来:Agent 把工单转成补丁,自动化测试验证补丁,再由自动化 CI/CD 和 DevOps 完成部署。多数老牌企业缺少这条链路,Luttwak 认为,要在大量现有代码上补齐并不现实。初创公司则应把这项工作列为明确任务。
3. 模型编排决定安全 AI 能否规模化
Wiz 的 Atlas harness 会调用不同模型检测漏洞,因为各家模型、不同版本和专用网络安全模型的能力并不相同。Luttwak 将其形容为一张由能力、速度和成本构成的“复杂矩阵”。即使 Wiz 现在已成为 Google 的一部分,他给独立公司的建议仍是“始终尝试所有模型”,找到最合适的组合。
蓝队 Agent 展示了背后的成本逻辑:先做确定性检测,再交给便宜模型筛查,最后由更先进的模型复核。如果前几层判断事件具有恶意,最先进的模型才会做最终评估,然后通知客户。每个事件都直接调用最贵的模型,行不通。对 Luttwak 来说,这种流水线设计是 AI 服务要实现规模化所面临的核心工程挑战之一。
持续扫描会进一步推高成本。假设 4 月做了一次代码全面扫描,可能白花 500 万美元;之后“Mythos 1.2”来了,还要不要重扫?一些客户在扫描上的支出已达数千万美元。随着模型和应用变化,预算必须覆盖外部和内部测试、代码、磁盘及运行时。Luttwak 明确不愿宣称问题已经解决:“我不会告诉你我们已经搞定了。”
4. 持续测试外部暴露面优先于全面代码扫描
红队 Agent 的出发点是:即使应用没有变化,安全形势也在变。Luttwak 打了个比方:门底下藏着一把钥匙;攻击者“每周都在获得超能力”,上周看似安全的系统今天就可能失守。持续用最新模型发起攻击,目的是在对手之前发现变化,并结合内部环境信息指导外部测试。
他对工作顺序的要求很明确:先用确定性方法梳理暴露面,再测试所有未认证且能从互联网访问的目标,之后才做更深层的渗透测试和代码分析。他以“谁在乎你的代码?”强调紧迫性。一个具体例子是近期某事件:移动应用里硬编码的密钥导致用户数据暴露。攻击者利用的是触手可及的错误,不只是复杂的软件漏洞。
测试投入应按目标调整。针对 100 万个端点,暴露面 Agent 可以给每个端点花几分钟;关键应用则可能值得投入 10 小时尝试利用漏洞。红队和蓝队工作流也应该打通:如果工程团队认为某个漏洞修复成本过高,蓝队 Agent 可以围绕它布置检测。“一切都会变成流水线。”
Luttwak 称,Wiz 多数客户已经在用红队 Agent,这是增长最快的功能之一;他表示,覆盖率正迅速迈向几乎全面普及。但在整个行业,他认为采用程度仍然不足,行业注意力也放错了地方,过于看重代码扫描的宣传。“没有什么比持续从外部扫描你的环境更重要。”
5. 安全团队需要架构、上下文和机器级响应速度
Wang 问,安全工作积压的创始人该如何应对即将发布的产品,并提到 Lackey 和同事 Joel 的备忘录建议增加安全投入,必要时推迟发布。Lackey 的回答强调两件事并行推进:开发期间由 Agent 持续测试;新公司从一开始就在软件和基础设施开发中构建自动修补能力。“安全这场游戏已经变了。”
Wang 提到的预算增加 80%,来自一位预计明年增加预算的 CISO。Luttwak 质疑,光靠预算能否解决问题:公司必须做好准备,应对拥有顶尖专业能力和速度的攻击者。他列出的优先事项包括沙箱、隔离,以及锁定网络、进程和镜像。仅仅把工作负载放进 Kubernetes 并不够,内核漏洞仍可能让攻击者逃出容器。“准备好应对国家级攻击者。”
Luttwak 对现有工作流程的批评相当直接:“安全团队做的大多数事都不是安全。”他对比了攻击系统和做合规、写报告所花的时间,并点名批评传统 CSPM 配置检查清单。他认为,团队应把精力放在发现重大风险、降低风险或增加检测、准备响应,以及建立可持续的隔离策略上。
客户越来越希望安全团队能提供修复方案和 Pull Request,也希望看到调查、取证和根因分析。下一步是自动化响应,Luttwak 称这“非常可怕”。老牌企业仍受困于数千名开发者、资源归属不清和大量未写下来的知识;Agent 不会凭空获得这些上下文。运营的考验依然严苛:“如果我不能在几分钟内响应,”他问,“那我还能有什么用?”
6. 下一波数据泄露可能波及联网实体基础设施
展望未来 2 到 3 年,Lackey 预测,网络安全可能回到 1990 年代和 2000 年代的状态:未认证的远程漏洞和数据泄露频繁出现。他说,看到蠕虫再次出现“我不会感到意外”。他以 Windows XP 为例:机器连上互联网后,可能在安装和更新期间就感染病毒;由于失陷速度快过打补丁,用户不得不先断网安装。
Wang 提到,Luttwak 4 月曾预警,未来 12 到 18 个月可能迎来 Y2K 时刻。他如今说,10 月“可能只是个开端”,但不愿预测两年后的情况。他明确表示,AI 攻击已经“胜过任何人类”;他举例说,当天就发生了针对内核驱动的零日漏洞攻击。他认为,要在这种攻击者面前生存下来,就必须重新设计面向互联网的系统,并迅速让尚未准备好的系统下线。
Wang 将讨论引向欧洲的制冷系统攻击及其对食品供应的影响。Luttwak 担忧任何联网的老旧系统,包括交通基础设施。Scan for Good 为公共服务机构提供扫描,帮助发现问题并推动持续测试。他也限定了项目能做到的程度:“这不可能解决他们所有的问题。”他希望,扫描发现的具体问题能说明为什么有必要开展更大规模的安全项目。