两名哈佛辍学生融资8亿美元，向 NVIDIA 发起挑战

摘要

• 开场几秒就把核心论点摊牌：「推理将成为全球最大的市场。 谁产出最多 token，谁就会成为全球最具生存力的公司。」 Etched 创始人认为，整个半导体栈都「建立在缓冲之上」——从 EDA 默认芯片运行在冰点温度，到其他面向通用场景的假设，纯推理公司可以逐层剥离，再把「这里20%、那里50%、这里2倍」的优化叠加起来，最终打造出他们声称不是强10%，而是「强10倍」的系统，超越现有 AI 芯片。
• 这套设计完全押注于2个技术方向。 Prefill 阶段采用低电压推理——利用 Dennard scaling（功耗与电压的平方成正比），以「低于任何其他 AI 芯片一半的电压」运行，在增加 FLOPS 之前先解决热降频；decode 阶段采用集群级内存——在二层以太网之上完全定制互联，将芯片间延迟相对 Blackwell 约4,000纳秒的跳转降低「超过5倍」，让整个 scale-up 集群的 HBM 和 SRAM 像一个内存池一样工作。
• 护城河不仅来自架构，也来自极限垂直整合：「最好的供应商就是没有供应商」。 Etched 自建机架、在台湾设厂，并通过「预取」推进交付：700块 FPGA 跑完整芯片，机架在没有芯片的情况下提前运往客户数据中心，用热仿真芯片验证冷板。结果是从芯片回片到机架内完成推理只需40天；一家「非常知名的 AI 芯片公司」公开披露的周期则是10个月。
• 真正险些送命的是资金：2024年初，公司账上只有1500万美元，但未来12个月需要1亿美元，「硅谷每一家主要投资机构都立刻拒绝了」。 他们最终拼出一轮1.03亿美元、以软承诺为主的 A 轮融资，债务提供方、以多年期条款提供 Synopsys 仿真器的供应商，以及 TSMC 都伸出援手——当时22岁的 Gavin 在一场会议晚宴上与一名 TSMC 高级副总裁讨论张量数学，赢得了后者的支持。早期投资人 Patrick 打破第四面墙：「你多少得诅咒一下基准概率。」
• Etched 相对超大规模厂商自研芯片的结构性优势，在于生死攸关的专注度：「Google 不会因为 TPU 失败而倒闭……OpenAI 不会因为 Jalapeño 失败而倒闭」。 Rob 还称，实验室和超大规模厂商的芯片，其「FB8 × FB8」FLOP 密度低于「Blackwood B300」（听辨如此），因为「他们没必要承担这个风险」。供应方面，Etched 认为双方是增量关系：采用4纳米工艺和不同于 Rubens 3纳米方案的 HBM，因此客户谈的是「2吉瓦」，而不是二选一。
• 这些未来判断既激进，也有明确时间表。 Rob 预测，2027年将是知识工作中 agent 数量超过人类的一年，生产率将以「每兆瓦多少个 agent」衡量，单个价值1万亿美元的数据中心「只是时间问题」。Gavin 的模型判断是：数学成本下降速度快于内存成本，因此未来模型应大手笔消耗算力——拥有10亿 token 上下文、把「人类写过的每一本书都放进短期记忆」、由巨型分布式 MoE 组成的「大脑」。

精读

1. 共识认为21岁的人造不出芯片——答案是整个行业「建立在缓冲之上」

• Patrick 先给出尽调结论：半导体公司通常由40-50岁、已经交付过多代芯片的人创立；「2个21岁的人不可能做到这件事」。Gavin 的回应是，这个反对意见编码了过时约束：「要相信自己能造出比历史上所有其他 AI 芯片都更好的芯片，需要一定程度的天真……而我们确实足够天真。」
• 承担核心重量的洞见是：整个半导体和数据中心栈都「建立在缓冲之上」——从 EDA 工具到电源模块，每一层都面向通用场景。具体来说，时序签核的 corner 默认芯片运行在冰点温度；「我从没见过结冰的 AI 数据中心」，但推理芯片从来不会低于80°C。砍掉这些无效约束，收益会层层叠加：「这里20%、那里50%、这里2倍。」
• Rob 判断早期信徒的标准，是看一个人依赖经验法则，还是追寻事实。典型代表是 Mark Ross，前 Cypress Semi CTO，该公司后来以90亿美元出售。他先说「不行，做不到」，随后要求一份白皮书和功能仿真；两次看到结果都感到意外：「嗯，这东西能跑」。他建议公司至少融资300万美元，最终公司融了500万美元，并从顾问变成半职顾问，最终成为全职 CTO。

2. 推理两个阶段押注两件事：低电压 Prefill 与热设计优先的 FLOPS

• 产品并非一颗芯片，而是一套完整的机架级推理方案：芯片、电力输送、板卡、互联，以及「真正意义上，生产就是产品」。推理分为 Prefill（读取文本、建立模型 KV cache）和 Decode（生成 token），Etched 将两者拆分到不同集群；Patrick 将其概括为「装子弹，再开枪」，Gavin 表示认同。
• Prefill 阶段真正重要的指标是实际 FLOPS，而不是宣传口径的 FLOPS：GPU 的 MFU 只有20%-50%，而且不可能达到100%，因为芯片会因温度过高而自我降频。所以「如果我现在只是给 GPU 增加更多 FLOPS……它只会热降频」——必须先解决散热，再增加 FLOPS。
• 机制来自 Dennard scaling——功耗与电压的平方成正比（「电压翻2倍，功耗就增加4倍」）。他们向数十名半导体老兵询问如何在低于 GPU 的电压下运行，得到的答案都是「做不到」；这很难令人满意，因为「Bitcoin 矿机运行电压不到 GPU 的四分之一」。Etched 的新型供电机制低电压推理，运行电压「低于任何其他 AI 芯片的一半」。Gavin 表示：「我们认为，未来所有 AI 芯片都会是低电压芯片。」

3. Decode 是一场内存竞赛——真正该问的是集群带宽，而非芯片带宽

• Gavin 重新定义了问题：人们问「你的芯片有多少内存带宽」，但真正应该问的是整个 scale-up 集群有多少带宽。Blackwell 的芯片间点对点跳转约为4,000纳秒，因此8路 tensor parallel 每位用户每秒的 token 产出，提升幅度「远远低于8倍」。
• Etched 打造了一套完全定制的互联栈——「二层以太网以上的所有东西，全部完全定制」——将延迟降低「超过5倍」，使整个集群的 SRAM 和 HBM 像单一内存池一样工作，也就是「集群级内存」。随着 world size 扩大，每个 token 所需时间按比例下降。
• 对现有厂商的诊断毫不留情：「这些架构都是在 ChatGPT 出现之前设计的」——如果针对现代工作负载重新设计，FLOP 组织方式、电压域、电源平面、封装、板卡设计和互联都会不同。物理上限仍然极高：数学意义上的延迟极限是光速，只有「2、3纳秒」，而今天是4,000纳秒。「底部还有很大的空间。」

4. 为什么这是本十年的瓶颈：Token 还没有经历规模经济

• Gavin 的宏观判断是，真正的 AI 已经存在，当前约束变成了并发量和速度：「不可能让10亿人同时使用这些模型」。如今付费 AI 计划的用户只有几百万人，「仅占全球人口的1/1000」。更快的 Decode 还能压缩墙钟时间：一个需要消耗一年推理时间的 agent 任务，可以压缩到1个月。
• Patrick 用 iPhone 做了标志性类比：对于 iPhone，「更多钱并不能真正买到更好的 iPhone」——亿万富翁和普通美国人买的是同一部。Token 还没有走到这一步：「一个相对小的通用系统，仍在手工制造这些 token……就像文艺复兴时期制造螺丝一样。」他希望 token 制造也获得 iPhone 级别的规模经济。
• 现实影响在于，一些产品（例如 coding 模型）低于特定 tokens/秒阈值就无法使用。因此今天的选择是：「要么让世界上很多人无法使用这些东西，要么所有人的体验都会变差」——这正推动硬件从晶圆到瓦特、从晶体管到 token 全面重做。

5. 起源故事：GPT-4V 一眼识别肿瘤，以及17岁的 kernel 工程师

• Rob 的动机来自切身经历：高中二年级末被诊断为四期骨癌，生存概率低于30%，经历2年化疗并重新学习走路。GPT-4V 发布后，他上传了一张背部肿块的诊断前照片，模型立刻说「这可能是肿瘤，去做 MRI」——真实医生花了他6个月才得到这个答案。随后系统弹出「你今天的图像额度已用完」的通知。「天啊……我们显然没有服务它所需的基础设施。」
• 他的另一个切入点来自运营 Prod 孵化器：Cursor/AnySphere 等早期公司都在其中。他看到每家初创公司都把融资烧在算力上，于是判断软件 COGS「以后不会再是零……它会成为推理的函数」——推理成为全球最大市场，将经历一场「长达10年的行军」。
• Gavin 17岁时在 Xnor 做 kernel 开发，年纪太小甚至无法签合同；之后加入 ExaNous（被 Altera 以2亿美元收购）和 OctoML（被 Nvidia 以数亿美元收购——节目中听到的名称是「Octo」）。Kernel 工作带给他的经验是：「数学相对容易……真正重要的是数据搬运」——这正是集群级内存要解决的问题。

6. 机器人竞赛模板：2个人、不做外联，只管赢

• 在 FTC 机器人竞赛中，Gavin 和搭档 Sanford 放弃了标准的20人团队模式，以及围绕文档和外联建立的文化：「除了造一台得分最高的机器人，我们什么都不做」，每3个月重做一次。他们一度保持世界最高分，并按 OPR 排名世界第三。
• Patrick 追问时指出，「你们选择不做任何沟通」；Gavin 承认，这「完全就像机器人队」。迁移到 Etched 的方法论就是：速度、速度、速度——「赢的方法就是不断交付」，并相信相比拥有20,000人的现有厂商，少得多的人也能「做出世界上最好的产品」。

7. 「最好的供应商就是没有供应商」：同时造机架、建工厂、做芯片

• Rob 将「最好的零件就是没有零件」延伸为从芯片、板卡、冷板、互联到生产的垂直整合：「我们是现在唯一一家同时自建机架和自研芯片的初创公司……而且是同时进行。」他们招募了曾经打造 Nvidia 全部 HGX 和 DGX 系统的机架负责人——这些系统贡献了 Nvidia「大约80%的收入」——Bryan Loyler（听辨如此）。
• 在芯片回片前，他们先用带有预期热点、规格完全一致的热仿真芯片进行验证，并不断给冷板加压，直到其爆裂：「从那以后我们一次漏液都没有」。他们还运营着一家台湾工厂，在办公室复制测试站，地面上部署一个2 MW 数据中心，并通过昼夜两班、7×24小时推进开发。
• 整合边界由规模经济决定：「自然边界在芯片侧的底部，以及模型层的顶部；中间的整个空白我们都会填满。」他们目前刻意不建数据中心：「那实际上并不能帮助我们更快上线容量。」

8. 人才：「传奇人物」加上「肩上有刺」——加入公司得「脑子有病」

• 对于尚未解决的问题，他们采用双轨方法：通过「项目制招聘」找到全世界真正最强的人——梳理历史上最难解决的技术问题，找到完成从0到1的人，然后持续追踪。「第一次谈话后愿意答应的人很少，但聊到第20次，答应的人数会出奇地高。」Brian 的价值最终兑现：「这是我学到的价值10亿美元的经验」——指的是在错误重演前，就把经验沉淀下来。
• 另一种模式是「肩上有刺的人，才能把芯片装进数据中心」（“chips on shoulders put chips in data centers”）。Sanford 就是代表：他被要求在一周内造出一块冷板——「任何热工程师都会觉得你完全天真，这种东西需要几个月」——但他仍然先把关键电源问题去风险。真正的化学反应来自组合：不清楚「尸体埋在哪里」的天真、第一性原理型冒险者，与熟悉规模化的老兵共同工作。
• Rob 的招募话术原封不动：「你得脑子有点问题才会加入我们……搬到 San Jose，加入一家由2个、现在应该是24岁的人运营的半导体公司……对抗全球最大的公司，而我们的设计不是比他们好10%左右，而是好10倍。你得有点问题，才会做这种事。」他的担忧是，随着规格公开、公司逐渐获得共识，这种逆向筛选机制可能会减弱。

9. 花钱买速度：Bangalore、预取，以及40天对10个月

• 临近流片时，一家物理设计供应商落后了1年；2个显而易见的选项都意味着再损失1年，于是他们选择第三条路：把数十名顶尖工程师派到 Bangalore 工作6个月，Gavin 在那里住了4.5个月，每天早上到岗，凌晨1点离开，并在每天上午8点和晚上8点进行12小时的美方交接。与同一家供应商、处在同一阶段的其他芯片，直到今天仍未完成流片。
• 烧钱加速的逻辑是：「最大的风险是不承担风险」。在一个每天创造超过10亿美元收入的品类里，「我们每晚一天交付，就会把大量机会留在桌面上」。因此他们进行「预取」：700块 FPGA 跑完整芯片和十几个模型，机架在没有芯片的情况下提前运到客户数据中心，用于先行调通软件，生产线也在芯片回片前就准备就绪。
• 最终结果是，一家「非常知名的 AI 芯片公司」从芯片回片到在机架内完成推理用了10个月——这一数字已公开披露给投资者。Etched 做到了40天，「因为芯片回来时，其他一切都已经变得无聊」。公司超过一半员工住在办公室旁边。至于轮班工资问题，Rob 的回答是：「看不见的手很有用。」

10. 最黑暗的2周：50皮秒、离职者，以及「谜题开始了」

• FPGA 能验证数字逻辑，却无法验证模拟逻辑。因此芯片回片后，跨时钟域的背压故障导致 attention 结果错误。唯一解决办法，是让芯片上的2个时钟信号彼此对齐，误差控制在50皮秒以内——即「50万亿分之一秒」——每颗芯片每秒重复20亿次。「有人辞职了……有人真的说，这个问题无解，祝你们好运。」
• 解决方法是：「第一步，先假设问题可以解决」。他们设计出一种能够以皮秒级改变时钟相位、再将其锁定的机制。大约2周后问题解决了——「非常恐怖的2周」。Gavin 将其总结为普遍规律：当一切看起来毫无希望的时刻，「恰恰是最应该投入精力的时刻」。
• 伴随而来的另一段战争故事发生在凌晨2-3点的首次晶圆测试，他们与 TSMC 通电话，屏幕上每颗 die 都从绿色变成红色。芯片验证负责人向后靠去：「谜题开始了。」实验哲学也贯穿始终：30次板卡实验中只有3次成功，但每次都「价值连城」。「人们来找我说，Gavin，你的实验几乎没有一次成功。我会说，我只需要幸运一次。」

11. 险些死亡的融资： 「硅谷每一家主要投资机构都立刻拒绝了」

• 2024年初、A轮之前，架构已经验证，但仅物理设计阶段就至少需要4000万-5000万美元；巨型 MoE 模型又意味着必须把整个集群搭出来，而公司账上只有1500万美元，未来12个月需要1亿美元。Gavin 诚实地回忆：「你坐在那里，心想，天啊，我们付不起这笔钱……回哈佛有多难？」一份30页的技术备忘录耗时100小时；每一家主要投资机构都拒绝了他们，理由是「2个刚从哈佛毕业的孩子，还没流片……未来都会是训练……这一切可能都是泡沫」。当时半导体行业最大的 A 轮融资规模约为4000万-5000万美元。
• 生存模式启动后，他们先设计了一套由债务提供方支持的3000万美元「从吃拉面活到流片」方案，随后开始逐一打电话：「我们需要1亿美元，你认识愿意激进下注的人吗？」直到一次董事会会议上，表格显示已有1.03亿美元软承诺。「我们互相看了看，说，那就接下这笔钱。」此后公司又完成了近6轮融资，其中很多投资人进一步加码，金额翻倍甚至翻3倍。
• 供应商比资金更早相信他们：Synopsys 以多年期条款延长仿真器租用，本质上是一笔大额贷款；TSMC 则是在一次 SEMI 会议晚宴后决定合作。当时22岁的 Gavin 是现场唯一一名30岁以下的演讲者，偶然坐在一位 TSMC 高级副总裁旁边；2人都是数学专业，餐桌上直接在纸上讨论每个 tensor 的模型机制。第二天收到邮件：「Gavin，想和 Etched 合作吗？想办法让它发生。」Rob 对 TSMC 的总体评价是：技术最好，但「真正的价值全部在服务里」。Etched 提议后，TSMC 自掏腰包做了良率实验，随后将方案推广到整条产线。「如果我去钢铁厂说改变钢材成分，他们会让我滚蛋。但 TSMC 不会。」
• Patrick 打破第四面墙：「我是 Etched 的大投资人……我有严重偏见。」他反思逆向投资：专家们「用非常合乎逻辑的方式解释为什么这件事不会成功」，而经验教训是，「你多少得诅咒一下基准概率」——因为总有指数基金可买。Gavin 观察到，真正相信他们的人要么相信市场和团队，要么技术极端扎实——高频交易公司会一路审计到 RTL；如果处在两者中间，「你就是无法理解它」。

12. 软件押注：Kernel 优先、不到100个模型，以及相对超大规模厂商芯片的生死优势

• 3年前，他们在图编译器（开箱即用、性能较差）和 Kernel 优先编程之间做选择；Etched 选择后者，押注「真正重要的模型不会超过100个」，不提供任意 PyTorch、CUDA 或 ONNX 支持。跳过编译器「为我们节省了大量时间」；最早相信他们的只有高频交易公司——「他们也都讨厌编译器」——其中数十名工程师后来加入了 Etched。
• 随着 AI 开始吞噬 Kernel 编写，这一押注正在获得回报：工具围绕模型未来的使用方式设计。在一次内部实验中，「Codex 只根据我们的文档，就完全自主地让 GPT-OSS 从零运行起来……一夜之间完成」。
• 市场结构层面的论点来自一名被 Etched 从招聘中途挖走的人：他原本是某前沿实验室芯片项目的架构师，一周内被以「Uno reverse card」的方式招入 Etched。他说：「对我的公司来说，这款产品赢不赢从根本上都不是生死攸关的事。Google 不会因为 TPU 失败而倒闭。Meta 不会因为 MTIA 失败而倒闭。Microsoft 不会因为 Maya 失败而倒闭。OpenAI 不会因为 Jalapeño 失败而倒闭。」Rob 提供了佐证数据：实验室和超大规模厂商芯片的「FB8 × FB8」FLOP 密度低于「Blackwood B300」（听辨如此）——「他们不需要承担这个风险，只要造出足够相似的产品，不必支付 Nvidia 税。」
• 供应方面，Etched 将其设计成正和博弈：第一代产品采用4纳米工艺和不同于 Rubens 3纳米方案的 HBM，因此大规模部署客户看到的是「2吉瓦」，而不是替换关系。最终原则是，设计阶段就要把供应链纳入考虑，因为「如果你的产品性能最好，却造不出来，那你就只是一档播客」。

13. 未来：巨型分布式大脑、每兆瓦 agent 数量，以及万亿美元级 Token 工厂

• Gavin 的模型判断始于「机器的思考方式和人不同」——飞机也不是像鸟一样飞行。对芯片而言，加载数据昂贵，而数学计算便宜；「数学成本下降的速度，快于内存成本下降的速度」。因此未来模型应该大举消耗算力：运行大量并行副本，让巨型专家横跨多个机架，并使用10亿 token 上下文。「我很想和一台能把人类写过的每一本书都放进短期记忆的机器交谈。」Rob 补充说，近期架构主题将是动态性——按 token、按用户控制算力和内存；ChatGPT 之前的硬件只能用「蛮力」处理这些问题。
• Noam Brown（如今是天使投资人）从墙钟时间角度解释速度的重要性：6个月的 agent 任务还没等到评估，下一代模型可能已经发布；而正如单个人无法造出火箭，agent 工作也需要团队协作——可能是10个，也可能是100万个——这要求巨大的共享内存和 FLOPS。Cursor 的 agent 已经能在一周内从零造出浏览器，「很快这会压缩到不到1小时」。
• Rob 最激进、也最有时间表的判断是：推理将沿着「全球性行军」发展，最终占据全球 GDP 的大多数，可能需要超过10年；生产率将重新定义为「每兆瓦多少个 agent」；「今年是人类占劳动力多数的倒数第2年——2027年，做知识工作的 agent 数量将超过人类」。对于单个价值1万亿美元的数据中心，他的回答是：「当然。只是时间问题。」规模经济不会在价值400亿美元的晶圆厂停下，同样也适用于「生产 token 的工厂」。
• Patrick 要求「聪明的外星人」做最后总结。Gavin 的答案是：思考有价值，每家公司都依赖思考，因此必须有人为「面向10亿人、同时运行的未来千万亿参数模型」铺设路线图。Rob 的答案是：生产智能的成本远低于智能本身的价值，「我们正处在这些 token 供给短缺的多年、很可能数十年时期」。节目最后回到「别人为你做过的最善良的事」：Rob 16岁时被要求在手术（活下来，但可能永远无法行走）和放疗之间做选择，后来仍不得不接受放疗；当时世界上只有少数几台设备能完成治疗，其中一台在 Boston，于是他的父母放下一切，陪他搬到了那里。