Daniel Kokotajlo

Daniel Kokotajlo 如今认为，到2028年末，能自行开展 AI 研发的 AI 出现概率为50%，时间点可能略晚于 Anthropic 的预期。 他预计2026年不会出现智能爆炸，但认为编码代理可能在未来1-2年内实现编码工作的完全自动化，届时瓶颈将转向研究判断力和管理；即便实现“99%的自动化”，也可能“把10年或20年的研究压缩到大概1年里”。

Sayash Kapoor 的反方论点是，编码领域的进展并不能证明所有具有经济重要性的领域都能沿着同一条曲线实现自动化。 代码能提供即时、客观的反馈，而法律领域即使模型持续进步，输出仍不可靠，因为“即便是正确答案，领域专家也未必能明确判断”。投资上的关键在于，算力能否消除剩余瓶颈，还是说现实世界学习、可靠性和样本效率仍需要未知的突破。

2位预测者对近期期待的共识，比各自的对立标签所暗示的更多。 Kapoor 认为 AI 2027 的情景至少到2026年底都合理，Kokotajlo 也接受尚未达到“云端人类”的 AI 仍属于常规技术；但2人都认为，一旦 AI 在所有基于计算机的认知工作上达到顶尖专业人士的水平，常规技术框架就失去解释力。双方在政策上都支持透明度和外部监督，但对于更激进的情景是否应有条件地放缓发展存在分歧；Kapoor 表示，他的常规技术判断会在更大程度上权衡近期扩散带来的收益。

Dwarkesh Patel 认为，当前模型距离人类智能和学习效率仍很远，却已经出现令人不安的能力过剩。 数字心智可以“快上数千倍”地思考、吸收跨领域知识，而人类学习新事物的速度可能“整整快100万倍”，还能跨会话保留知识并在工作中持续进步。真正具有决定意义的问题是：当模型保留数字心智的优势，同时获得人类的优势时，会发生什么。

实际工作证据更能支持生产率提升，而不是整份工作的自动化。 Patel 说，他每天看到的大多数 token 都由 AI 生成；Casey Newton 也能在大约4分钟内获得一份播客简报，而这项工作过去可能需要雇人完成。但 Patel 认为，自己进行1小时的赞助商谈判，或协调一场直播所需的工作，仍超出可靠自动化的能力范围。他对 AGI 的直白检验是：“我们都有工作。”

持续学习可能把巨大的商业价值与真正的超级智能区分开来。 一方认为，足够长的上下文和多样化的 RL 环境可以替代模型权重更新；另一方则指出，员工可能需要6个月才能实现净生产，因为经验会被提炼成抽象能力，而不是简单储存为不断增长的逐字记录。Patel 认为，前一种路径即使无法造出能即时获得现实世界政治判断力的系统，也可能带来“1万亿美元的收入”。

人形机器人目前仍是数据采集市场，近期开启工业部署在受控环境和四足巡检中更可信。 一台配备灵巧手的 Unitree 人形机器人售价约为5万-7万美元；George Ekas 预计，工厂任务将在未来几年内落地，但家务劳动还要“再等几年”。在家庭使用场景得到验证之前，Unitree 的日志数据流向中国以及美国拟议的进口限制，已经带来了安全和进口政策层面的担忧。

劳动力和企业叙事可能先于技术本身发生转向。 Kevin Roose 预计，只有在市场奖励 AI 重组时，公司才会大力宣传相关举措；当反弹的代价超过估值溢价后，企业可能继续裁员，却会给 AI 相关裁员换个名称。观众最担心的是初级岗位路径消失、隐私，以及如何为一个无法预测的劳动力市场进行教育。主持人提出的上行情景集中在加速科学和医学进步、个性化学习，以及让软件开发变得更普及、更有趣。

🔗 原始收听与视频来源： 《Hard Fork》直播，第3部分：对 AI 未来的不同构想

真正的关键红线，是实现完全自动化的 AI 研究闭环，把人类从开发过程中移除，让进展从“人类速度”切换到“机器速度”。 Kokotajlo 认为，递归式改进可能带来持久的战略优势；他援引 Dario Amodei 对智能爆炸的讨论，以及 Sam Altman 关于将10年的发展压缩到1年、甚至1个月的设想。如果某个国家控制了由此产生的超级智能，竞争对手可能被碾压；如果没有任何一方能够控制它，“所有人的生存”都可能受到威胁。Hendrycks 另行指出，率先触发递归的一方，即使只领先很短时间，也可能获得决定性优势。

拟议中的遏制方案包含3条具体红线：不得启动爆炸式 AI 递归；不得部署缺乏充分安全措施、具备专家级病毒学或进攻性网络能力的智能体；必须强化高能力模型权重的安全防护。 Kokotajlo 倾向于渐进式机制：各国透明地发展能力，研究每个层级，再讨论是否继续推进。Hendrycks 认为，协调可能先从公开表态和威慑开始，之后才走向核查或条约：“这场对话必须推进得远得多。”

时间线分歧很大，但在场没有人把风险视为可以安全置之度外。 Kokotajlo 已将超级智能的中位时间从2027年底推迟到2028年底；其他同事的中位预测大约在2029—2031年。Hendrycks 认为，到2030年达到人类水平的认知广度“不仅可能，而且相当有可能”；Marcus 则把2030年视为最快的合理情形，并将大部分概率放在10年之后，因为若要很快实现 AGI，就必须同时解决“无处不在、无所不包的一切问题”。

当前的资本开支趋势意味着：要么本十年内实现彻底自动化，要么 AI 进展将明显放缓。 Kokotajlo 估算，训练成本已从2020年的约300万—500万美元升至目前约10亿美元；如果保持同样速度，到2030年单次训练成本可能达到约5000亿美元。届时电力、晶圆厂、芯片产量、有限的互联网数据和企业预算都会成为约束；如果没有 AI 驱动的经济转型，他预计进展至少会逐步放缓，甚至出现“有点像 AI 寒冬”的局面。

前沿实验室最核心的治理失败，是一个被道德例外主义伪装起来的集体行动问题。 Kokotajlo 的说法是，DeepMind、OpenAI 和 Anthropic 的领导层都理解失控风险与权力集中的风险，但最终都接受了同一个“诱人的论证”：“如果我们不做，别人也会做。”他们相信自己是更负责任的一方，于是把已被承认的危险转化为竞速理由，使自愿自律不足以成为基准情形。

技术对齐仍明显落后于能力进展，尤其是在“差不多合理”远远不够的场景。 Hendrycks 认为，像拒绝生物武器请求这样的狭义防护，可靠性或许可以达到多个9；但如果稳健方法会让 MMLU 下降“一两个百分点”，实验室可能不愿采用。更广泛的要求——避免犯罪行为、侵权行为或可预见的伤害——仍然模糊；而智能递归是流程层面的问题，事先无法消除其中未知的未知。

乐观情形下的收益极其巨大，但产出充裕并不意味着所有人都能广泛拥有财富或保持政治自主。 Kokotajlo 描述了超级智能快速设计工厂、实验室、机器人、药物和定居点，直到物质需求得到满足；他还设想，不仅分配收入，也分配由密码学控制的“算力切片”。Marcus 则变得更加悲观：财富持有者或许会资助基本生存，却仍然保留“海滨地产”和权力，使得正向均衡取决于一套尚未有人提出的机制。

架构之争同时也是护城河之争：开放权重能让所有人站上同一条起跑线，却无法让所有人共享会复利增长的前沿。 Kokotajlo 认为，即使每个人拿到完全相同的权重，拥有大量 GPU 的参与者仍会率先利用 AGI 推进到 AGI+ 和 AGI++，形成强烈的规模报酬。Marcus 则预计会出现一次神经符号式的状态变化：到2035年，今天的 LLM 可能会被视为“不错的尝试”——仍然有用，就像智能手机出现后的功能手机，但并不是那个解决了推理、世界模型和稳健泛化问题的系统。

🔗 原始收听与视频来源： 爆炸式 AI 时间线预测 [Gary Marcus, Daniel Kokotajlo, Dan Hendrycks]

政策波动，而不只是关税成本，成了美国科技公司的核心风险。 大部分对等关税暂停90天，基准税率降至10%，而中国商品关税升至145%，推动大型科技股剧烈反转。Kevin Roose 将这种经营环境称为“混乱元规则”（“Chaos Meta”）：当政策、投入成本和市场估值每天都在变化，公司根本无法规划。

Apple 承受着最明确的直接盈利敞口，因为约90%的 iPhone 在中国生产。 Apple 经历了自2000年以来最糟糕的4个交易日，随后用5架货机把 iPhone 及其他产品从印度运往美国；Reuters 另报道称，其中一批货物重600吨，约合150万部设备。这种库存调度只能争取时间：Casey Newton 最终认为，“很快，所有国家都不会再有飞机可飞”，留下的只会是“一部贵得离谱的 iPhone”（“a really expensive ass iPhone”）。

Nintendo 和 TikTok 展示了政策不确定性如何冻结新品发布，并摧毁原本可行的交易。 Nintendo 的 Switch 2 预购因其越南产产品拟议关税升至46%而暂停；暂停后税率降至10%，但其450美元的首发价格已经比初代 Switch 高出150美元。TikTok 原本规划了一个由美国资本控股、中国股东保留约20%并租用 ByteDance 算法的多数美国实体，但关税升级后中国撤回支持；按 Casey 的说法，Trump“在和自己谈判，最后输掉了本来已经赢下的交易”。

Casey 认为 Meta 所处的位置最不坏，因为其核心业务是数字化的，而 Zuckerberg 又积极经营 Trump。 90天的关税缓期保护了广告主，这些客户据估算贡献了约100亿美元、且来自美国以外的收入；与此同时，Zuckerberg 斥资2300万美元在华盛顿购置房产，Meta 又支付2500万美元和解 Trump 关于账号停用的诉讼，悬而未决的 FTC 案因此或许也可能消失。Kevin 没有明确选择某家公司，但认为 Zuckerberg 的政治策略可能奏效；两位主持人同时警告，政治关系是对独立执法一种不稳定、且可能腐败的替代。

Daniel Kokotajlo 认为，到2027年底，完全自主且超越人类的编程智能体出现的概率为50%。 AI 2027 的情景随后给这些智能体约6个月时间，让它们获得研究品味、实验判断力和大规模协作能力，形成由数千个副本组成的“蜂巢式集群”。一旦 AI 自动化完整研究闭环，该情景假设算法进展速度将加快约25倍，尽管实体算力扩张并未提速。

这份预测并不认为单纯扩大当今语言模型的规模就会直接产生 AGI，而是假设还需要数次范式转变，只是时间点极度不确定。 面对 David Autor 所说“游得越来越快”并不能让智能飞起来的警告，Kokotajlo 认同编程只是第一个里程碑。他设想的一年内起飞完全可能耗时5年，也可能快到只需2个月，因此起飞速度是整份预测中影响最大的变量。

AI 2027 的作者认为，一场最终由失配系统控制一切的竞赛，是最可能出现的情景，而不只是戏剧性的备选方案。 “减速”分支会用数月把算力转向对齐工作，但即便成功，也会留下非同寻常的治理难题：由 CEO 和总统组成的临时委员会控制一支“超级智能大军”，而独裁是作者明确承认的下行风险。Kokotajlo 知道公开这条路径可能加剧竞赛，但仍押注“阳光是最好的消毒剂”（“sunlight is the best disinfectant”）。

Meta 发布 Llama 4 后，模型评测变成了企业信誉问题。 一个名为“Llama 4 Maverick 03-26 Experimental”的特殊模型在 LMArena 排名第二，仅次于 Gemini 2.5 Pro Experimental，但它不是可下载的开放权重版本，而且可能针对该榜单偏好奉承、迎合式回答的特点做了调优。对投资者而言，更大的信号是“评测危机”：基准污染、在“64次共识”等方法上挑选结果，以及供应商“给自己的作业打分”，都使独立、按具体用途进行的测试变得越来越必要。

🔗 原始收听与视频来源： 大科技的关税混战 + AI 2027 + Llama 风波

核心判断：2027年将出现超人类程序员，并启动不断复利的“研发进展乘数”。 自动编码会将算法进展提速5倍；整个研究栈实现自动化后约为25倍；到了超级智能阶段则是“几百倍，甚至可能接近1000倍”。Kokotajlo 对怀疑者的说法是：“把我们的时间线想成2070年、2100年，只不过最后50到70年的进展，全部发生在2027到2028年这一年里。”

基准率的防线不是感觉，而是过往记录。 Metaculus 对AGI的预测时间已从2020年的约2050年收敛到今天的2030年；Katja Grace 的专家调查曾认为那些已经发生的事情还要10年才会发生；Daniel 在2021年写的《What 2026 Looks Like》则准确押中了过去5年。Scott 反转了举证责任：“要让什么都永远不发生，其实需要很多事情发生”——真正非同寻常的说法，是趋势会停止。

贯穿整个模型的瓶颈重构：AI研究受研究品味和实验算力约束，而不是受人数约束。 他们承认“让更多头脑并行运行，会有巨大的边际收益递减”（10个拿破仑不等于40万士兵），但仍然通过20倍→90倍的串行提速和超人类研究品味得到起飞。按这一判断，投资者盯着“实验室预训练团队只有20-30人”，其实盯错了投入项。

现实世界的扩散速度会快于共识预期。 超级智能出现约1年后，机器人产量可能达到每月100万台，参照二战轰炸机改造项目（用了3年），相当于“快3倍”；更关键的是，OpenAI 的估值已经超过除 Tesla 外所有美国汽车公司之和——今天就具备买下工厂的能力。Dwarkesh 认为自给自足的机器人经济要到约2040年，Daniel 则认为约1年，这是节目中最大的现实分歧。

情景在2027年8月的“对齐危机”处分叉。 AI出现类似测谎仪的失配警报后，唯一变量是实验室会退回可控模型，还是打上“某种浅层补丁”后继续与中国竞速。Daniel 的P(doom)为70%，Scott 为20%；Scott 同时承认，他80%的生存概率“包含很多非常糟糕的事情”，因为他的数字不包括寡头统治。

可交易的政策立场是透明化，而不是国有化。 Daniel 已对双方都感到失望：“政府缺乏专业能力，公司缺乏正确激励。”他希望公开模型规格、让吹哨人获得法律保护，并把500名对齐研究者分散配置，而不是“关在某个内圈里的10名对齐专家”中。他认为，模型规格最终会成为宪法级文件，失配AI会像律师一样钻字眼：“规格在这里提到了普遍福利……”

全篇始终保持对冲纪律。 Scott 说，“事情按我们情景的速度推进，概率只有约20%”——那是Daniel的中位数，不是他的中位数；两人都强调，连续推进不等于缓慢推进。按月发布的意义在于可证伪：“说得足够具体、足够细，让人们会说，不，这完全错了，然后写出自己的版本。”

🔗 原始收听与视频来源： AI 2027：智能爆炸逐月模型——Scott Alexander & Daniel Kokotajlo