AI 落地最大的障碍不是模型，是运维｜对话 Datadog 首席产品官李严冰

摘要

• 李严冰的核心判断：AI 落地推广、大规模采用的最大障碍是“如何对它进行运维管控”。 企业关注点从 AI 能否 work，转向能否信任和控制它，再到 token cost 超预算；大家关心 AI 能否给出正确结果、可控可信，并真正带来商业 ROI。背后的关键环节是 observability。
• Datadog 年初随 SaaS 板块市值大规模滑落，但率先从低谷中脱颖而出，年初至今市值已翻倍。 她给出的依据是，世界上最大的十家 AI 公司都需要使用 Datadog 帮助实现可观测性；市场共识已变成“AI 需要更多的 observability”。
• 对 Datadog 护城河的追问，她给出三层答案：问题复杂度、数据、自研智能。 她以自己在 Aurora 做自动驾驶卡车的经历类比：开车只有加速、减速、打方向盘三个控制，而大规模生产系统运维的复杂度远远超过自动驾驶；Datadog 拥有世界上最大的运维数据，用 observability 数据训练的专属模型质量与最前沿模型非常接近，成本至少降低一个量级。
• 一家排名前列的 AI lab 曾询问能否购买 Datadog 标注好的运维数据。 这说明即使最前沿的实验室在专业化场景也缺少积累。她认为，post-training 已很常见，能让自有数据成为护城河；Datadog 去年还收购了 RL 公司 Adaptive ML，以加速相关投入。
• Datadog 做明年研发或 AI 预算时发现投入增长远超预期；工程师使用 coding agent 的支出可能是最大预算支出之一。 公司能把 token 使用与 PR 速度、产品稳定性、feature shipping 和产品安全性等 outcome 对应起来，衡量投入是否转化为 engineering velocity。
• 她担心的企业级 AI 风险不是“世界末日”头条，而是业余 agent 的基本功失守。 销售、HR 等非工程师用 vibe coding 做出的工具，可能没有优化 token 使用或充分考虑安全，存在泄露商业数据、暴露 API key 等风险；这是企业进一步采用 AI 的重要障碍。

精读

1. 华人已成 AI 圈的重量级力量：NeurIPS 作者 57% 本科来自中国

• 李严冰引用一项刚出炉的 Carnegie Mellon 研究：对 NeurIPS 作者的统计发现，57% 的作者本科教育来自中国，其中包括在中国、美国及世界其他地方的作者。她还提到，来自中国的 founder 或 co-founder，已在美国有 41 家十亿美元量级以上的公司。
• 她将今年 HYSTA 的 AI 大会定位为关注 AI 真正 scaling：议题既包括最前沿的研究与企业应用，也包括取得商业成功的 founder。

2. AI 落地的三阶段焦虑：从“能不能 work”到“ROI 在哪”

• 李严冰描述了企业关注点的变化：最初想知道 AI 能不能 work；很快转向能否信任它的安全保障；到了今年，又发现 token cost，也就是 AI 预算成本，远远超出预算。大家关心 AI 能否产生正确结果、是否可控可信，以及能否带来商业价值，而不是只是在“token maxing”。
• 这些问题背后的共同点是 observability：深入了解 AI 在做什么、agent 之间是什么关系，以及它产生了什么价值。她认为，AI observability 是 AI 量产化、大规模采用的重要环节，Datadog 正处在风口。

3. 市值翻倍的背后：产品从“给人用”变成“人和 agent 共用”

• 年初 SaaS 板块市场状况复杂，各家市值大规模滑落，Datadog 也在其中，但“率先从低谷中脱颖而出”；从年初到现在，公司市值已翻倍。她强调，世界上最大的十家 AI 公司都需要使用 Datadog 帮助实现 observability。市场共识已从“AI 会取代 observability”转为“AI 需要更多的 observability”。
• 产品形态也在变化：过去 Datadog 有丰富的用户体验、UI 和 dashboard，主要为人设计；未来将由人和 agent 共同使用。交互从以网页和 mobile 为主，变成“我们在哪里工作，工具就应该在哪里”：在 CLI 里编程可以访问，在 Slack 里和团队交互也可以访问。她认为，AI 改变了用户对产品原有边界的认知。

4. 护城河三件套：运维复杂度、运维数据、自研智能

• 面对“模型会写代码了，Datadog 不可替代性在哪”的追问，李严冰先用自己在 Aurora 做自动驾驶的经历作比。她称 Aurora 是美国第一家、并认为目前也是世界上唯一一家能在公共高速公路运营自动驾驶商用卡车的公司。驾驶只需了解视线所及的本地场景，控制方式只有加速、减速和打方向盘三种；相比之下，大规模生产环境中的软件、硬件和基础设施系统，还有复杂的 AI agent，运维复杂度远远超过自动驾驶。要实现大规模生产运维的完全自动化，还有很长一段距离。
• 她补充说，coding 虽然也有技术难度，但相对而言主要是产生 code；运维则非常多元化。因此 Datadog 不担心被 AI 取代，而且公司自己也在研发很多 AI。
• 她给出的另外两层护城河是多年的 domain expertise、世界上最大的运维数据，以及对 research 和 foundation model 的投入。通用大模型能解决很多问题，但有时速度慢、成本高，在非常专业的领域也不一定给出最好的答案。她举例说，Datadog 用 observability 数据训练自己的 observability frontier model，质量与最前沿模型非常接近，成本至少降低一个量级。
• 她前几天访问的一家排名前列的 AI lab 也是 Datadog 的客户，双方互为客户。对方询问：“严冰，我们非常想在运维场景上做得更好，你能不能把你们标注好的数据卖给我们？”她以此说明，即使最前沿的 lab，在专业化场景也可能缺少积累。她认为未来不会由最前沿的 model 一统天下，也不会只有几家 frontier model 提供所有模型；post-training 已经很常见，可以把自有数据变成护城河。Datadog 去年还收购了一家领先的 RL 公司 Adaptive ML，以加速相关投入。

5. 内部 AI 账本：预算增长超预期，现实安全风险在业余 agent

• 李严冰刚为明年的研发经费或 AI 经费做预算时“大跌眼镜”，因为增长远超直觉和预期。产品方面，客户对 AI-enabled 产品的使用率越来越高，使用量成倍增长；research 投入则需要长期回报，因为 GPU、AI 基础架构和 training run 都成本很高。
• 内部效率方面，工程师使用 coding agent 的开支可能是目前最大的预算支出之一。Datadog 的优势是能看到 token 用量和使用位置，也能追踪 outcome：PR 速度、产品稳定性、feature shipping，以及产品安全性的提升，从而衡量投入是否转化为 engineering velocity。
• 她更担心面向 knowledge work 的 AI 使用：不少人还处于 vibe coding 状态，例如销售人员自己写销售工具，或 HR 团队为自己的场景写工具。这类 agent 可能比较业余，token 使用没有优化好，安全方面也可能考虑不足。
• 她指出，企业实际考虑的安全风险比“AI 杀死人类”或“几千个 agent 从 sandbox 跑出来攻击其他公司”这类头条更基本：例如 agent 不小心泄露商业数据，或未经充分 AI review 和控制的工具暴露 API key。她认为，这些都是企业进一步采用 AI 的重要障碍。