先锋 趋势 方法 投研 作者
AI 代理的未来|Jesse Zhang 访谈
返回节目精读

AI 代理的未来|Jesse Zhang 访谈

摘要

  • Decagon 是 AI 客服代理,而 Jesse Zhang 对这一场景为何最具企业生成式 AI 落地势头的解释,才是可交易的洞见:ROI 已被预先量化(现有聊天机器人/IVR 只能“解决”15–20%的请求;AI 可将这一比例提升至50–80%,也就是“我要把总成本砍掉60%”),而转人工机制已内置于呼叫中心基础设施中,从而降低上线风险。 企业通常先接入5%的流量,待解决率、CSAT 和准确率达标后,“几周内”扩展至全部流量。
  • Zhang 的劳动力光谱框架是:AI 代理存在的目的就是替代人力,因此应按这部分人力的成本来划分场景——AI 从光谱两端同时吞噬劳动力。 工程师成本最高,通常会被增强而不是直接裁掉,因为“工程工作是无限的”;外包的一线、二线支持处于低薪端,则确实可能被替代。BPO 并不担心,因为人员流动率本来就高,员工会转向 AI 还做不了的任务,比如数据标注。
  • 创始方法可以复制:用“创始人的方式提经典销售资格审查问题”——你到底愿意付多少钱、谁的上级会审批、你会如何向管理层解释 ROI。 大多数想法在大公司报出“每月100美元订阅费”时就夭折;Decagon 真正建立信心,是因为汇总后的付费意愿“比其他任何想法高出一个数量级”——即便“非常聪明的资深创始人”都警告这个想法过于显而易见,最终会被 incumbent 赢走。
  • 语音是前沿阵地,但还没有被解决:语音到语音模型的幻觉率“可能高出约8倍”,因此企业目前采用语音→文本→语音,并增加检查环节。 机会巨大——《财富》100强企业的客服90–95%依赖语音;门槛也极高,因为口语是拥有约15万年历史的用户界面,而键盘只有约60年历史。
  • 护城河的核心判断是:如今 LLM 会读取每月100万段对话中的每一段(而过去只有20人的抽样团队),标记其中出问题的2%,并起草修复方案——因此一年后,“你的代理是否已经持续变得更好……好到其他代理很难进来达到同样水平?” 最终,代理会成为品牌的前端,作为“数字礼宾”彻底取代 App 和网站。
  • 关于单位经济学:在应用层,“现在你的利润率其实没那么重要”——成本在指数级下降,因此应优先争夺市场份额和心智份额——但企业合同不能持续失血,Decagon 的唯一原则是不接受负毛利。 他的可颂类比是:真正解决问题的最后一步拿走最多利润,这也是为什么“wrapper”只是懒惰的批评,以及为什么随着 API 商品化,实验室会继续向应用层推进(“你只需要改一行代码”)。
  • 他从内部观察到融资市场的狂热:“融资似乎太容易了”,而 Decagon 每轮融资后几乎“立刻”就被提前抢投——“光这一点就不可能是对的。” 他的筛选标准包括:利用投资人想投但尚未投资的窗口期进行测试(他们此时的帮助程度,是投后行为的代理变量);关注“原始智力吞吐量”;警惕专家电话的噪音——“很多人会在客户电话里直接撒谎”,包括那些声称使用 Decagon、但公司从未听说过的人。
  • 他的逆向判断包括:在超大市值公司中看多 Google,因为消费者触达是新数据的来源(Anthropic 缺乏消费者端优势是长期风险);他的5个私募持仓名额属于 Cognition、Cursor、Etched、Pika 和 Chai。 前置部署工程师的热潮被过度炒作了——在可能指向 Palantir 的模式中,FDE 服务的是“1000万–2500万美元”的合同,客户规模或收入大约要达到100万美元才合理;996“并不那么健康”,而且在中国盛行,部分原因是雇主拥有议价权。

精读

1. 为战争而生的文化——“没有无法击败的敌人”

  • Decagon 墙上的一句话是:“没有无法克服的挑战,也没有无法击败的敌人”——Zhang 的父亲告诉他,Huawei 那种出了名强硬的文化,据称把这句话的中文版本用大红字挂在办公室里。Patrick 的观察为这个时代定调:3年前,创始人谈“暴力”和“侵略性”可能会带来大麻烦;如今,人才反而主动聚集到那些谈论击败敌人的文化中。
  • Zhang 对这种高强度文化的逻辑是:“任何值得投入的领域……都会充满竞争”——Databricks 对 Snowflake、Ramp 对 Brex——而如今创业和融资都变得容易,文化就成了持久优势:“很难复制”,而且能够长期存在。
  • 他学到的团队动员机制是:始终保持“一根视线范围内的旗杆”,并利用健康竞争——“当人们感觉自己正在打一场战役,而且敌人清晰可见”——来凝聚团队。去年收入里程碑的奖励是 Decagon 夹克,可能是 Arc’teryx:相比工资成本,这点支出微不足道,但“大家就是会感觉在朝着共同目标一起努力”。
  • 招聘也是同一套打法:“对于任何你想招的人,都需要整个团队围绕他发动攻势”——了解候选人的家人和伴侣,围绕他们想要的事情设计岗位。应用层的竞争没有 Meta/OpenAI 抢研究员那么极端,但旧金山的 Harvard/MIT/Stanford 人才池是有限的,这也是 Decagon 刚刚在纽约开设办公室的原因之一。

2. 给数学竞赛生做指数

  • Patrick 的铺垫是:如今足够多数学竞赛校友(Cognition 的 Scott Wu、Zhang 自己)正在创业中胜出,“如果你能以某种方式给这群人做指数,表现一定会非常好”。Zhang 的解释是,竞赛训练了竞争意识和解决问题的能力,而这些能力可以应用于模糊问题——“问题可能是如何建立一家成功的公司”——同时结果是客观的,因此“会持续获得改进的动力”。
  • 他的天才套利论是:这批人过去通常会选择交易或学术道路,因为这种背景与“风险偏好稍低……取得好成绩,然后沿着既定轨道走”相关。把这批人才引向创业,是他对未被挖掘潜力的核心判断之一。
  • 对他而言,别人做过的最善良的事,就是他的成长起点:5–13岁时,父母对他实施“极高强度的纪律”——每天练钢琴3–4小时,之后全力投入数学;成长过程中没有电视、没有电子游戏,“基本也不怎么度假”。他们“把一个懒惰、只想玩耍的孩子,硬生生打磨成了一个极其、极其有驱动力的人”——而令人意外的是,高中后他们“彻底放手”,不再对他的职业选择发表意见。“我现在拥有的很多东西,都来自那段经历。”

3. 用创始人的方式提销售资格审查问题

  • 他的创伤记忆来自一家可能叫 Lowkey(听起来像“Loki”)的公司——为游戏玩家提供视频片段捕捉软件,2021年在“一个非常幸运的时点”退出。团队在一个“显然没有市场”的方向上苦干了3个月,随后两位联合创始人都精疲力竭并退出,只剩他一个人:“比我们现在做的任何事都难得多……你根本不知道未来还有没有希望。”如今的困难只是工作量太大——他这周在纽约每天只睡4–5小时。
  • 第二次创业时,他和联合创始人可能是 Ashwin(听起来像“Ashman”,本人也是连续创业者)把想法筛选流程系统化:与资深运营者开放探索——COO 处拿到多个使用场景,VP 处只拿一个——现场形成产品假设,然后强制追问钱的问题。“如果我们为你做出这个产品,你到底愿意付多少钱?你的老板需要审批吗,还是老板的老板?你会如何向管理层解释 ROI?” 因为你是创始人,“感觉没那么像销售”,而销售人员问同样的问题会让人不适。
  • 付款问题是强制筛选器:模糊的热情(“哦对,这太棒了”——人们在电话里会觉得自己欠你一个肯定)最终会落到数量级现实上,通常是每年2万美元,用来替代5个人中的1个。大多数练习最后都让人如释重负:“还好我没继续做这个……说实话,真正好的想法没有那么多。”
  • 突破口来自旁敲侧击:运营负责人(其中包括 Ripling 的 Matt McInness,以及一家可能是 Oura 的可穿戴戒指客户)会先估算那个小想法的价值,然后主动补充:“顺便说一句,我们有一个500人的客服组织。” 所有人——“包括非常聪明的资深创始人”——都说这个场景过于显而易见,现有公司很快就会把它加上。但汇总结果并非如此:整体付费意愿“比其他任何想法高出一个数量级”,单笔报价甚至达到六位数的低段至中段,而客户只是“一支随机的2人团队”。

4. 为什么客服是企业 AI 的滩头阵地

  • 第一项特征,事后看显而易见:ROI 已经被量化。企业本来就会跟踪对话量,也知道现有聊天机器人/IVR 只能“解决”其中15–20%的请求。“如果你能把这个比例提升到50%、60%、70%、80%——那就是巨大的 ROI……我要把总成本砍掉60%。”
  • 第二项特征被低估了:上线容易。许多生成式 AI 项目都卡在这里,因为模型具有非确定性,没有人希望管理层追问“你为什么这么做”。客服场景在现有呼叫中心基础设施中原生拥有升级转人工路径,因此企业可以先把一个入口的5%流量交给 AI,知道任何出错的问题都能直接转给人工。
  • 一旦信任建立,扩张速度很快:“即使是大型企业,也能在几周内完成”;一个500人的组织每年大约处理几十万到接近100万条对话,等解决率、客户满意度和人工复核准确率达标后,“确实没有理由不把它全面铺开”。

5. AI 从两端吞噬劳动力光谱

  • 值得保留的框架是:代理存在“本质上就是为了替代人力”,因此应按人力成本来绘制使用场景。编程位于昂贵端——工程师足够复杂,能够有效利用 AI,所以 Zhang 认为他们通常会被增强,而不是直接裁掉(“我不知道有哪家公司会说,我想直接裁掉一批工程师……工程工作是无限的”)。支持位于低薪且已外包的一端,替代可以真正发生。
  • 就连 BPO “也并不太担心”:人员流动率本来就高,因此企业让员工数量“自然减少”,员工则转向“AI 还做不了的下一个层级任务——可能是数据标注”。
  • 对想用 AI 却不知道从何开始的 CEO 来说,如今每项 AI 计划都来自自上而下的董事会级指令,因此必须获得 C-suite 支持,而使用场景必须通过半句话测试——“我们在哪里可以节省一大笔钱,或者创造一大笔新收入……如果他们说不出‘我省下了1000万美元’,这个项目就不会被优先考虑”。
  • Patrick 针对编程 ROI 的反驳是:一项未具名研究发现,自报生产率与实际测量的生产率相矛盾。Zhang 只是坦率地耸耸肩:“我确实没有观点……但这其实也不重要,对吧?如果整个工程团队都说,嘿,我们喜欢这个,它让我们的生产率提升了50%,”CEO 就会把这件事报告给董事会,投资也就获得了正当性。感知本身就是购买信号。

6. 最长的木板:先对“什么算好”达成一致

  • Zhang 最大的部署经验是,瓶颈在于“对什么叫做好达成一致”——语气、品牌规范,以及没有任何一个人完全掌握的答案,因为在大型组织里,“没人能说,我知道所有这些问题该怎么回答”。做法是设计流程,从各自负责一部分问题的 CX 负责人那里提取答案,让他们就评估标准达成一致,再运行模拟测试套件——1万项测试,每项持续运行5次——直到“不断建设、不断建设”,围绕一个可量化的分数持续改进。
  • Patrick 的框架得到了 Zhang 的认可:企业内部由此形成了一个封闭式强化学习过程——不是模型训练意义上的 RL,而是把评估和护栏编译成一套机制,让代理持续变好。
  • 最佳失败案例是这样的:一家票务平台客户找不到自己的票,于是宣布自己会“去活动现场,从城里找8个无家可归的人,把他们带来和我一起参加”;代理回复:“天哪,你想为社区做点好事,真是太棒了。”设计难题本质上是一条光谱:受监管流程需要完全严谨(“这3个步骤必须始终按这个顺序执行”),基础账户问题则需要保留自由发挥的人性。
  • 意外的上行空间来自信任修复,衡量指标是用户多频繁地连续输入“agent agent agent”以逃往人工。在可能对应 Oura 的案例中,过去每3个客户就有1个什么都不说,只是不停输入“agent”直到接通代表;改变开场体验后,这一比例降至20个客户中的1个。

7. 语音是前沿——语音到语音的幻觉率高出8倍

  • 这场争论的核心是:约15万年来,“语言一直是每个人的用户界面……直到最近60年,我们才拥有键盘”。人类大脑经过进化,能够识别不对劲的地方,因此恐怖谷很宽——ChatGPT Voice 和 Sesame “开始让人觉得非常惊艳,但只要聊得足够久,你肯定能发现它不是人类”。
  • 技术权衡很清楚:语音到语音能捕捉节奏、语气和“你有多生气”,还能降低延迟——“主流观点是,如果你真的想让它与人类无法区分,就必须采用语音到语音。” 但音频意味着每句话包含更多 token,而“token 越多,出错就越容易”——幻觉率“可能高出约8倍”。因此企业目前采用语音→文本→语音并增加检查,产品设计还包括一些人类式技巧,比如 API 确实需要10秒时说一句“稍等,我查一下”。
  • 关键 stakes 在于:Decagon 的业务量大致一半来自聊天、一半来自语音,但 Fortune 100 的传统企业客服“90%、95%都是语音”。对话难度分为几层:静态问答;实时数据推理,比如为什么我只拿到2倍积分而不是5倍——因为你是通过旅行社预订的,而不是直接通过航空公司;再到实际执行,包括补办丢失信用卡、确认地址、锁卡和欺诈检查。“真正让它成为代理的,就是这一层。”

8. 护城河会复利,终局是前端

  • 对话数据一直有价值,也一直被浪费:过去的做法是让20名全职员工按照评分标准,从每月100万段对话中抽样。如今“你真的可以让一个语言模型读取每一段对话”,标记其中2%的糟糕案例,包括领导层可能看不到的原因,并起草修复方案——代理会随时间自动变好。
  • 他对代理护城河的定义是:“如果你已经和一个客户合作了一年,你的代理是否通过从数据中学习而持续变得更好……好到其他代理很难进来达到同样水平?” 他特别指出,这不同于用这些数据训练模型。
  • 终局是代理成为“产品的新 UI”——一个统一、经过身份验证、拥有记忆和上下文的“数字礼宾”,可以帮你订机票、升级座位,让用户“甚至不需要打开你的移动 App……永远不用访问你的网站”。Patrick 关于网站的类比很准确:“它就是一个前端……只不过不是视觉 UI,而是对话 UI。” 短期内,预算分开意味着代理分开;长期则会统一。
  • 部署做得好的关键是:“第一重要的事情,就是给 AI 使用的 API——如果你有这些 API,首月就已经知道体验会很好。” 之后是文档、品牌规范(培训人工客服时本来就有)以及把 SOP 转换为 Decagon 所称的 AOP——“代理操作流程……就是 SOP,只不过是给 AI 的”。

9. 现在利润率不重要——“wrapper”忽略了价值所在

  • 市场高估的是从演示到企业落地的速度,因为非确定性以及他所称的可能存在的 Waymo 效应:新技术会被人通过寻找错误来评判,而不是从整体成功率来评估;在后者意义上,AI 的成功率可能超过并不完美的人类。市场低估的是:“事情正在以指数速度改善,而没人擅长理解指数究竟意味着什么。”
  • 因此才有了利润率异端论:在应用层,“现在你的利润率其实没那么重要……真正重要的是拿到市场份额和心智份额”。成本在指数级下降,公司本可以“花一个月时间大幅改善利润率”,但不应该这么做——先追求质量和增长,之后再优化。企业端的例外是,合同周期长、预期会变化,因此“通常不希望持续失血”;Decagon 唯一明确的原则是不接受负毛利。
  • 应用层为何仍能保留经济价值,可以用可颂来类比:在任何供应链中,“真正解决某个人问题的最后一步,通常就是最能获取利润的地方”。客户“完全不在乎 Decagon 的成本是多少——我们在乎的是业务 ROI”。
  • “ChatGPT wrapper”作为贬义词,部分正确:薄应用会消亡,文案工作也容易被用户直接问 ChatGPT 取代。但“代理不只是模型——你必须设计它、加上护栏、教会它新东西”,还要配套大量非 AI 软件,包括可观测性、告警、QA 和对话单元测试。真正的威胁反而来自另一边:实验室会继续向应用层推进,因为 API 收入正在商品化——“从 AWS 换到 GCP 非常困难,但从 OpenAI 模型换到 Anthropic 模型,你只需要改一行代码。”

10. 模型策略、投资人狂热与 FDE 迷因

  • 微调的判断已经反转:2年前,主流论述基本是“微调没用”,模型变化太快,不值得投入。如今成熟应用已经明确每个模型的位置,小型微调开源模型可以处理路由等低智能步骤(“这个模型不需要擅长数学或编程”),改善性能和延迟;前沿模型则处理最高智能要求的工作。在超大市值公司中,他“其实非常看好 Google”:消费者触达是“所有新数据的来源”,而 Anthropic 缺乏消费者端优势是长期风险。他的5个私募组合名额是 Cognition、Cursor、Etched、Pika,以及朋友 Josh 的 Chai(医疗基础模型)——或者可能是 Physical Intelligence。
  • 关于融资:“可能有点过于兴奋了……融资似乎太容易了。” Decagon 每轮融资后几乎都会立刻被提前抢投——“光这一点就不可能是对的”,因为上一轮估值不应影响基于第一性原理的判断。“感觉确实有一点狂热。”
  • 他给创始人的建议是:利用投资人想投但还没投的窗口期——“那是他们最愿意帮忙的时候”,而他们当时的帮助程度,是判断投后会提供多少帮助的代理变量。应关注“原始智力吞吐量”,而不是模式匹配(“通常不希望投资人只是说,我见过这种情况很多次”)。同时要给专家电话打折:他的客户“可能已经从专家电话里赚了很多钱”,但“很多人会直接撒谎”——包括那些声称是 Decagon 客户、而公司“完全没听说过”的人。
  • 2个迷因被拆穿了。996:“我其实不觉得996那么健康……它在中国发生,原因之一是那边没人有工作,所以雇主拥有议价权。” 前置部署工程师也一样——在可能对应 Palantir 的模式里,FDE 意味着一笔“1000万–2500万美元的合同”,并配备接近专职的人员;创业公司却把它与普通的深度服务混为一谈。他认为只有当客户规模或收入大约达到100万美元时,这种模式才合理——低于这个门槛,为一个5万美元客户配一个人“会阻止你规模化。没人能那么快招到足够优秀的人”。