主题 先锋 趋势 方法 作者
返回先锋
Ed H. Chi
研究员 1 场深度对话收录

Ed H. Chi

正在生成长图…

观点集合

模型能力终将普及,AI 的终局是能力与成本之比|对话 Google DeepMind 研究副总裁 Ed Chi

硅谷坐标 Silicon Valley Vector

Ed Chi称模型或渐趋普及但非全部;价值或转向应用体验与 token factory 成本。Google全栈或最低成本供 token、成潜在护城河;助理受权限、可靠性限制,与 AI Mode Search 界面关系或在6个月至1年明朗。

查看摘要(7段)
  • Ed Chi 的判断是,模型能力可能逐步普及(commoditize),但并非所有能力都会如此;当能力普及后,竞争关键在 capability over cost。 Google 作为 full stack 公司,涵盖模型、application、hyperscaler、token factory、chip 和能源;他称 Google 有能力以最低 cost 提供 token,这“可能会成为未来最重要的护城河”。“所有经济问题最终都是 capability over cost,这是毋庸置疑的。”
  • 模型能力差距变小后,value creation 可能往 application 和 token factory 两端走——这是他给创业者的方向判断。 application 端的护城河是用户 lock-in、stickiness 和体验;hyperscaler 端则涉及成本问题:能源用量、chip design、memory 与 computation 的关系、多少跑在 on-device 上。“这些都还是 open questions,非常 exciting。”
  • 通用助理仍处极早期,他预测六个月到一年内,通用助理与 AI Mode Search 的 interface 关系会更清楚。 Instinct、Muse Spark 这类产品想从问答走向代办(订机票、买东西),但受制于权限与 reliability——人们担心把信用卡交给通用助理后,它到处乱买东西;confirmation 层面的新 data 还没真正看到。他的 “Grandma Test” 是:当奶奶指着机器人骂“你怎么这么笨”,通用助理的时代才真的到了。
  • 开源模型追上闭源模型的原因之一,是他与合著者写的 Chain of Thought 论文;开源模型用 CoT 方法发掘并复制推理方式,而大厂正尝试把思维链藏起来,降低被复制的可能。 他认为这件事还不能说成定论:部分能力确因蒸馏而变得更 commoditize,但 multimodality 等能力目前还看不出会 commoditize。
  • DeepMind 近期发表的小模型主要服务应用,大模型仍在开发;Google 放弃模型开发“完全不可能发生”。 用户期望 Google 拥有自己的技术,有一种技术 sovereignty 的意味;大小模型的资源分配“连大厂内部都是难题”。他提到湾区 “AGI-pilled” tech bro 对 ultra-size model 的热爱——他们相信 software took over the world、做好 coding 就能 take over the world;他个人不希望应用完全依赖 ultra-size model,因为运算所需能量太高。
  • Memory 是尚未被想清楚的 bottleneck:Transformer 的 context buffer 目前大约可做到 100 万或 200 万 token,在他看来完全不够。 他的核心框架是:memory 不只是存储与提取,也是 ranking 问题(说 Paris 时,想起哪些记忆是排序,而非所有相关内容一齐涌出);从认知角度看,memory 也是用来 program AGI machinery 的 program。面对主持人提到的 DRAM、NAND、HDD 可能短缺,他认为 memory 与 computation 可互相转换;有长远投资计划,就比较不会担心一时的 memory 短缺。
  • 泡沫是局部性的而非整体性的:physical intelligence 可能有不切实际的预期,很多模型的 visual reasoning capability 也“非常糟糕”。 若你相信 agent 解决 software 就解决一切,他刚才讲的很多东西就不适用;若不信,“我们还有很多戏可以唱”。推理能力三四年间从小学数学(当年 accuracy 仅 33%)发展到解决 Navier–Stokes 方程;下一个更 exciting 的变现机会,他看好 consumer 崛起——consumer services 一直是 Google 的强项,也是他留在 Google 的原因。

读精读全文 →

收听完整访谈 →