Andrej Karpathy——“我们在召唤幽灵，而不是建造动物”

摘要

• Karpathy 的核心判断是：智能体是一个持续 10 年的项目，“智能体之年”只是对行业过度预测的纠偏。 Claude 和 Codex 已经是令人印象深刻的日常工具，但真正的测试是：你是否愿意把它当员工招聘——“它们就是还不能用”：不会持续学习，多模态能力弱，“认知能力存在缺陷”。他给出 10 年估计，是因为过去 15 年里，他不断看到业内可靠人士把时间表判断错，而问题虽然“可处理、可克服，但依然困难”。
• 递归自我改进论，正遭到刚刚亲自尝试过这一过程的人直接反驳。 在构建 nanochat 时，编程智能体“净价值为负”——它们让代码膨胀、误解定制代码，而且“不太擅长处理从未写过的代码”，而这恰恰就是 AI 研究。Karpathy 承认，这正是“为什么我的时间表比 AI-2027 风格的预测更长”，并称当前的智能体热潮是“垃圾……也许他们是在试图融资”。
• 按当前实践，强化学习已经坏了：“你是在用吸管吸监督信号。” 结果奖励会把一次幸运轨迹中的每个 token 都加权，包括走错的路径——“这既愚蠢又疯狂。人类绝不会这么做”；过程监督也没有解决问题，因为 LLM 裁判可以被攻破：像“dhdhdhdh”这样的乱码拿到了 100% 的奖励。他预计这一领域还需要“三四次，或者五次”重大的算法更新。
• AI 不会以 GDP 曲线的拐点形式出现。 “我们已经处于智能爆炸之中，而且持续了几十年”——计算机和 iPhone 在 GDP 中几乎不可见，因为扩散过程把一切平均进了同一条指数曲线。面对 Dwarkesh 关于 20% 增长和 AGI 就是劳动力的反驳，他强力回击：“我们把上帝装进了盒子里……但事情不会呈现为那样。”
• 自动驾驶展示了部署的标准模板：一场“9 的长征”，每多一个 9 都意味着持续不断的工作。 他在 2014 年见过一次完美的 Waymo 驾驶；Waymo 至今仍不具备经济性，Karpathy 认为人类参与度可能高于预期——“我们其实没有移除那个人，只是把他移到了你看不见的地方”——而且他一直明确表示，Tesla 的路径更具可扩展性。生产级软件承担着自动驾驶级别的失败成本，因此也会经历同样漫长的苦战。
• 尽管如此，他并不认为算力存在过度建设：按当前扩产速度，1—2 年内可用算力会扩大 10 倍，到本世纪末将超过当前的 100 倍，他仍说：“我不知道这算不算过度建设。” “我认为我们会把正在建设的东西全部消化掉”——一年前 Claude Code 和 Codex 还不存在。他承认铁路和电信泡沫是前车之鉴，但“其实很乐观”，反对的只是时间表，因为误判会带来“地缘政治后果”。
• 关于模型规模，他给出了一个反共识判断：20 年后，“认知核心”可能只有约 1B 参数，因为互联网预训练数据“完全是垃圾”，今天的万亿参数模型主要在存储记忆，而不是进行认知；他希望减少记忆、增加认知。 前沿进展会在所有方向上渐进式推进：“没有任何一项能力占主导，一切都是加 20%。”
• 他的下一步项目 Eureka，是在押注后 AGI 时代的人类仍会继续自我提升。 “前 AGI 教育有用，后 AGI 教育有趣”——学校会变成健身房；而另一种结局是 WALL-E 或《蠢蛋进化论》式的失能社会，那样的话，“我甚至不在乎有没有 Dyson spheres”。

精读

上游暂未提供，后续同步将继续补齐。