我们对 AI 的判断错了吗？| 片段
摘要
主持人的核心判断是：认真对待能够自动化劳动的 AI，不等于认同企业描绘的、注定会实现的“AGI”路线图。 Kevin 将“感受 AGI”定义为内化这些系统当前的能力，在趋势延续的情况下推演未来，并为上行空间和失败模式做准备；他们强调的近期风险是岗位自动化。
关键监管分叉，始于如何界定这些系统：文化基础设施，还是新兴行动者。 Allison Gopnik 将模型与文字、印刷术和搜索相提并论，而 Casey 和 Kevin 则指出其解决新问题的能力，以及 OpenAI 的 Operator 等代理系统：一旦系统接收目标并自主行动，就成了“现实世界中的行动者”。
AI 不需要具备完美预测能力，也不需要立刻治愈疾病，才能带来具有经济意义的科学进步。 天气和免疫系统或许始终存在不可约的不确定性，但更好的预测、虚拟细胞、更快的实验设计和模式识别，仍可能让医学、物理学和气候研究“缩短反馈回路”。
对齐归根结底是治理问题：关键在于最终被编码进去的是谁的价值观，而不是 AI 是否忠实映照人类。 Kevin 主张通过公共辩论、选举、政策和法律让公众参与；Casey 希望哲学家、伦理学家、社会学家和人类学家参与系统设计。Kevin 警告，始终迎合用户的伴侣型 AI 可能让年轻用户无法准备好面对艰难的人际关系，而 Casey 希望 AI 映照“人性中更善良的一面”。Kevin 直截了当地追问：「究竟是哪些人类？」
加密行业给他们最强的反炒作纪律：核验说法，检验“真实世界的使用”。 Kevin 2021年的“人才密度”论点并未带来多少他认可的成果，而他至今后悔的 Helium 故事，则源于没有核实对方声称的合作关系。Casey 得出的教训是审视真实世界的使用；如今他们报道 AI 时，会把亲自使用产品与审视 CEO 的宏大愿景结合起来。
主持人都认同 AI 会带来颠覆，但对时间点和可治理性存在实质分歧。 Casey 认为 AGI 可能是一个 5至10年、甚至15年的项目，并称现政府“根本不可能”以所需速度完成监管；Kevin 则认为，Biden 时代的模型通报和透明度规则已经证明，更安全的路径本来是可能的。
精读
1. “感受 AGI”是情景规划，不是对企业路线的站队
制片人 Rachel Conn 将这场讨论同时定义为对听众负责和自我追问：AI 争论日益两极化，她已经“陷入反复内耗”，而几位主持人看起来更加乐观。她选出的批评者承认 AI 已具备能力、也可能带来变革，但质疑哪些伤害和收益应该得到更多强调。
Brian Merchant 的指控是，AGI 话术让“企业打造的超强 AI 产品”听起来像必然会出现。Hard Fork 如果接受行业的叙事框架，可能反过来放大一场销售宣传，鼓励高管“以劳动者为代价”部署 AI，也让潜在的抵抗者感到无力。
Kevin 否认这种暗示性的背书。“感受 AGI”（“Feeling the AGI”）意味着“开始内化这些系统的能力”，思考趋势延续后会发生什么，并为可能出错的地方做准备；这不等于认为 AI“酷且正确”、认为它不可避免，或认为企业路线图就是对的。他承认 AGI 有多种定义，但这个词仍是指代一种能够完成大部分人类劳动的工具时，最有黏性的简称。
主持人的前提是经验性的：今天的系统放在几年前，已经会被称为 AGI；持续增加模型投入，也可能把人们熟悉的规模扩展曲线继续向前延伸。Kevin 提出卢德派的类比，刻意站在劳动者一边：织工知道自动化有用，却因为看到了它的发展轨迹而抵制。Casey 则把这个命题倒过来，提出“自下而上的 AI”（“AI…from the bottom up”）——不只是替代工人，也替代管理者的工具。
2. 模型一旦能够追逐目标，就不再像媒体
Allison Gopnik 认为，大语言模型和视觉模型是“像文字、印刷术或互联网搜索本身一样的文化技术”。它们让一方获取由另一方表达出来的信息；在她看来，把这些系统当作超级智能代理，是对当前系统的根本误读，也会导致监管方向偏离，从而错失更有效的监管方式。
Casey 接受 AI 正在重塑好莱坞、音乐和互联网的文化生产，但认为这个类比遗漏了涌现能力。系统能够解决训练数据中没有出现的问题，也能学会此前从未见过的游戏；在他看来，这种行为更接近一个独立的智能个体，而不是一个可供搜索的档案库。
Kevin 认为边界在于能否自主行动。文字和印刷机是“稳定且惰性的”；即便今天仍然脆弱的代理系统，也能接收目标并采取行动。OpenAI 的 Operator 可以预订机票或酒店；一旦系统能够“走进现实世界并做事”，再把它称为单纯的文化技术，就忽略了某种“全新且不同的东西”。
3. 不完美的预测，同样可以加速科学回报
《纽约时报》观点专栏作家、《Interesting Times》主持人 Ross 追问，在混沌、独一无二的系统中，智能和算力是否存在内在上限：天气和个体化免疫系统或许永远无法被完全预测。更好的癌症治疗和天气预报，可以与永久存在的不确定性、试错以及不可约的复杂性并存。
主持人接受某种上限的存在——或许没有模型能以100%的确定性预测天气——但拒绝把完美作为有用的基准。AI 预测已经在改善，“好得多”或许就足够了；Casey 补充说，一个更相关的问题是，系统是否比人更好，因为只要答案是肯定的，“我们大概就会想用它们”。
Rachel 继续追问，他们的乐观在多大程度上依赖那些被许诺的突破。Kevin 说，如果 AI 能治愈癌症和其他疾病，足以证明大规模社会颠覆是值得的；但如果这些承诺最终一无所获，“我会非常生气”。他的乐观并不以解决每一个定理或疾病为前提：哪怕只是让现有研究人员更快，也已经意义重大。
Kevin 认为，关键机制在于更快的迭代。Patrick Collison 描述过一种“虚拟细胞”，让研究人员在计算机中运行实验，而不必反复测试果蝇、老鼠或人类。Quanta 的一个例子则保留了必要的限定：AI 尚未带来新的物理学发现，但已经在设计实验，并从数据中找出有用的模式。
4. 人类价值需要政治选择，而不是忠实镜像
Claire Lee Buittz 追问，人们对有偏见、善于说服且一味迎合的 AI 的批评，是否其实是在批评它像人类；以及，如果系统应该超越人类，它究竟应当超越什么。她真正提出的是一个制度问题：谁最适合做出这些选择，以及为什么这些人没有被赋予相应权力？
Kevin 希望通过公共辩论、选举、政策和法律来处理这场争议——哪怕一个反 AI 运动因此竞选公职，他也会觉得“太棒了”。Casey 则把参与延伸到系统设计本身：哲学家、伦理学家、社会学家和人类学家都应参与其中，把 AI 开发变成一场“全球性的、民主的、多学科协作”，而不是由旧金山工程师单独控制的项目。
Kevin 区分了人类的不一致与机器的可靠性：朋友有时会支持你，有时会批评你，有时会告诉你不想听的真话；聊天机器人却“相当可靠地一味迎合”。Casey 不希望 AI 复制人类的全部价值，而是追求“人性中更善良的一面”。因此，对齐问题不是抽象的“人类价值”，而是：「究竟是哪些人类？」
5. 加密行业的复盘，把实际使用变成反炒作过滤器
Max Reed 要求对2021年的 Web3、crypto、NFTTS 和 board apes 热潮，与2025年的 AI 报道做一次高难度比较——重点不是技术有何不同，而是经历了那么多失败的加密承诺后，记者如何建立可信度、检验投资人和创业者的说法。
Kevin 在2021年抓住的信号是人才密度：有过往业绩的建设者离开有价值的公司投身 crypto，因此他预期会出现有价值的产出；但多数情况下，这种产出并没有到来。不过 crypto 仍然延续下来，而且 Kevin 认为，在这个行业“俘获政府”之后，它变得“比以往任何时候都更有价值”。他对 Helium 的后悔则更基本：没有核实公司声称的合作关系。
Casey 因此形成的规则是“真实世界的使用”。很多加密活动最后只剩下罪犯、投机者，以及指望靠自己的 board ape 藏品赚钱的人；所以现在他会和正在使用 AI 的普通人交谈，也会亲自测试产品。Kevin 则介绍了关于厨师、作弊技术、vibe coding 和 DeepSeek 的扎实报道，以及对 Sam Alman、Demisabis 和 Mechanized 公司创始人等行业领袖的采访。
主持人认为，加密行业的创伤也催生了全面怀疑：一些记者如今默认每项新技术都是烟雾和镜子。他们的反例是一个假设：如果2010年有人警告 Facebook 会触达数十亿人、削弱民主并伤害青少年，这在技术上或许算“炒作”，但仍然有用。关于失业、网络攻击、欺诈和教育的 AI 警告同样可能听起来像宣传，却是在描述下行风险。
6. 对颠覆的共同信念，掩盖了真实的政策分歧
Casey 认为 AGI 还要比 Kevin 设想的更久：“也许这是一个 5至10年、甚至15年的项目。”这仍然是一个关于变革的判断，但会实质性地改变规划周期，也削弱“最重要的转型已经迫在眉睫”的紧迫感。
在监管问题上，Casey 越来越悲观，认为现政府无法跟上 AI 的速度：在相关时间尺度上，他认为有效干预“根本没戏”。这种怀疑来自机构应对社交媒体时的迟缓，尽管他仍然希望保留民主问责。
Kevin 认为，Biden 政府已经具备有意义监管的雏形，包括要求实验室在训练超过特定规模的模型时通知当局，以及其他透明度要求。按他的描述，如今的替代方案允许强大模型在没有报告潜在生物武器风险、也没有采取有意义安全措施的情况下被开发和发布。
Rachel 的结论是，把分歧梳理清楚，能让人在一场令人无力的争论中重新获得一些能动性。Casey 不接受评论家这一角色：主持人是带着充分信息形成判断的记者，会邀请嘉宾帮助自己变得更聪明，也始终准备改变看法——目标就像模型一样，“从一个版本迭代到下一个版本，不断改进”。