Jev 如何把 AI 变成真正能办事的软件
摘要
Jev 的核心押注，是 AI 缺的不是智能，而是嵌入软件、能够可靠执行自动化的那一层。 Diogo Almeida 追问的是：“这些自动化到底都去哪儿了？”模型已经聪明得惊人，但默认解决方案仍然是外挂一个聊天机器人，而不是赋予产品新的能力。
编程代理让传统软件开发提速；Jev 要做的，则是让软件本身变得更有能力。 Claude Code、Codex 和 Cursor 生成的仍然是“和10年前代码一样的东西”，而 Jev 增加了一种自然语言原语：表达意图、配合状态机运行，并以一定置信度决定下一步做什么。
真正释放经济价值的关键不是原始基准表现，而是可靠性。 Almeida 将其定义为“每一次都是同样的智能”，这不同于系统可用性或输出完全一致：输入等价时，即便混入 UUID 这类无关变化，也应稳定得到智能响应，让开发者能够把结果纳入代码。
Almeida 曾认为泛化后的 RLHF 可能通向 SHGI，随后却正面撞上了惊人智能与广泛自动化之间的鸿沟。 Martin Casado 以 GPQA 为例，称其中的问题甚至连 Google 都不知道答案；Almeida 的判断是，行业优化的是人类对输出的评价，而不是任务能否可靠完成。OpenAI 自 2020 年起就在尝试自动化客服，但企业里的普通工作依然基本没有实现自动化。
长尾确实存在，但 Almeida 不接受它成为几乎什么都不自动化的借口。 他的务实答案是先自动化回报高、流程固定的工作，再处理困难的边缘案例；他暗示，声称能响应95%请求的支持团队，覆盖的可能只是重复性的密码重置，而面对独特个案时，覆盖率约为50%。
这套机会论可能带来一场“反向 SaaS 末日”。 既有 SaaS 厂商知道哪些工作流最重要，也拥有覆盖大批客户的分发能力；如果 Jev 式原语能够升级产品，而不只是加一个聊天入口，这些老牌公司可能成为“整个 AI 游戏中最大的赢家之一”。Almeida 开玩笑地把这一结果称为“SaaS-appaloosa”。
终局不是又一个面向用户的模型封装，而是一层新的系统基础设施。 Almeida 想象，智能会从顶层交互深入软件内部——起初“更像数据库，而不是标准库”，最终则像“里面装着一点大脑”的逻辑门；至于状态一致性、安全性、成本、速度和强保证等问题，嘉宾仍未给出答案。
精读
1. Jev 让 AI 从编写软件转为软件的一部分
Almeida 的电梯式介绍是：“这些自动化到底都去哪儿了？”AI 是一颗“未经雕琢的钻石”：智能程度惊人，但除了聊天机器人和编程代理之外，几乎派不上用场。TypeSafe 的答案是让 AI 进入软件，而 Jev 是其首个旨在显著扩张自动化能力的模型。
一位主持人将 Claude Code 和 Codex 称为“即时生成软件”：它们通过自然语言按需创建程序，但仍受限于普通软件的表达能力。Almeida 想要的是“智能软件”——能够表达意图，并自动化传统代码难以直接规定的事情。
关键区别在于，Jev 并不是用一个更快的工程师替代人类工程师。人类程序员和编程代理都获得了一种新的原语：用自然语言描述目标行为，将其与状态机组合，再由系统以一定置信度决定怎么做。
Almeida 接受“Jev 确实就是一个分类器”这种看似过于简单的说法，因为分类器本来就是为了产生实用价值而设计的。更尖锐的比较是：在一个狭窄工作流上，Jev 可能已经胜过2019年一支机器学习团队在收集数据、训练模型、搭建定制基础设施后所能做出的成果。
2. 务实的系统思维，而非“神模型”，塑造了产品
Jev 位于 Almeida 入职介绍中的维恩图交集：AI 擅长的事情，与代码内部有价值的事情。它不应去外推模型处理不好的浮点值，而应把智能放在概率和分类能够产生有用行为的地方。
Almeida 猜测，设计空间可能是一根连接“语言输入、语言输出”系统与命令式程序的滑杆。他目前的指引是“每美元对应的智能”，但也承认短期内“每秒对应的智能”可能更重要；因此，Jev 在成为标准库之前，可能会更像一个数据库。
这段经历解释了他的系统思维：数学竞赛把他带入计算机科学，一次 Kaggle 获胜来自“自动化一切”，而 Isabelle Guillon——Almeida 认定她是 SVM 的合著者，并不太确定地回忆说她是第一作者——把他带进了研究社群。此后他又与 Jeremy Howard、Google Brain 和 OpenAI 共事，但 Almeida 仍认为自己更像计算机科学家，而不是 AI 研究者。
Horowitz 给出了乐观的框架：“我们构建的是产品，不是神。”他期待的是一个拥有更多、更好工作的世界，而不是更少工作的世界，并将 Safe Superintelligence 视为更广泛的积极 AI 运动的一部分。Almeida 则拒绝“一个统治一切的大脑”这种悲观叙事：简单任务依然顽固地停留在人工处理阶段，所以他眼下看到的悲剧不是自动化失控，而是强大的智能几乎还没有被释放到生产系统中。
3. 基准测试中的智能，与可依赖的经济活动出现分化
Almeida 的看法在2021年底前后发生了变化，当时 RLHF 的泛化能力远超他的预期。他的团队专门测试一些古怪问题——比如“为什么在冥想前吃袜子很重要？”——并先确认答案没有出现在网上；模型给出的合理、近似人类的回答让他们相信，这种能力不是骗人的把戏。
他起初认为模型有相当大的机会成为 SHGI。结果并非如此，“我的整个世界都崩塌了”，这迫使他面对一个如今驱动 Jev 的问题：如果这种智能是真实存在的，为什么把它转化为有用的自动化依然如此困难？
他的答案是评估错配。由于人类负责判断模型质量，行业优化的是取悦人类评审者，而不是完成任务；这会让模型看起来能力非凡，却让软件层无法信任或组合它们的输出。
Casado 提到数学题和 GPQA 这类看似已经被攻克的问题来强调这种错配；GPQA 被描述为连 Google 都不知道答案的问题，但模型在普通生产性任务上依然会失败。Almeida 承认现实工作存在厚尾式例外，却拒绝接受由此推导出的标准：自动化不需要解决每一个边缘案例。真正的“煤矿里的金丝雀”是，显而易见且回报高的工作究竟能不能自动化——OpenAI 自 2020 年起就在推进客服自动化，但企业内部真正实现自动化的工作依然很少。
4. 可靠性意味着始终如一的智能，而非完全相同的 token
Almeida 表示，产品发布后的使用广度和用例数量都极其出人意料；Casado 说，他几乎每小时都会听到有人用 Claude 处理新的任务。Almeida 强调，用户可能看不到的是为可靠性付出的多年“血汗与泪水”。他相信，可靠性每提升1个百分点，就可能解锁一批开发者目前不敢自动化的工作流。
他区分了3个概念：可用性是正常运行时间或 SLA；确定性更接近于复现同一个结果；可靠性则是“每一次都是同样的智能”。加入一个无关的 UUID 不应改变功能答案，尽管输出的 token 不必完全一致。
终极测试在于，开发者能否不构造示例查询，直接用 Jev 编程；他们之所以能始终“处于持续的流动状态”，是因为相信每次调用都会返回代码能够理解和处理的结果。
编程代理仍然是互补工具，但能力有边界。Almeida 认为它们擅长语法、拙于语义，并且“极其不擅长架构”；架构是软件中最具人性、最具创造力的一层。Casado 补充说，模型在架构上的水平可能只有第50百分位，但当速度是决定性杠杆、Codex 可以运行一整晚时，第50百分位的架构仍可能胜过第60百分位的架构。
5. SaaS 与系统都可能围绕这一新原语重建
针对“SaaS 末日”的说法，Almeida 认为，软件可能便宜、容易复制，却并不容易复现：大量行为都藏在底层。既有 SaaS 公司理解用户和工作流，也拥有分发能力，因此天然适合把能力升级扩散到现有客户群。
设想中的界面变化远不只是增加聊天功能。表单和选项菜单可能消失，因为它们看起来只是把自然语言映射成类似 Java 的结构；一个未经核实的开发者应用案例涉及语音交互：系统持续判断语音究竟是命令还是文本输入，以及应当把输入放在哪里。
系统边界仍未确定。Casado 提出状态一致性、可靠性和系统层面的强保证；Almeida 认为日志分析、邮件分析、用户界面设计和人机交互都会改变，也提到空中交通管制系统可能成为应用场景。Horowitz 的原则是，先自动化容易的工作，再处理困难的工作。
Almeida 最深层的类比是 TCP：把不可靠的东西转化为可靠的一层。如今模型甚至可能无法遵守 JSON schema，开发者只能把输出交给人或另一个语言模型，于是形成“人在回路中的”聊天机器人，或一个不断运行的 agent “while” 循环。Jev 要做的，是把自然语言变成可用于生产的状态机。Horowitz 称它为“反挫败机器”，而 Almeida 心中的乌托邦，是技术终于能够“按我的意图行事”（“do as I mean”）。