Balaji Srinivasan：AI 将如何改变政治、战争与金钱
摘要
Srinivasan 的核心宏观判断是“多神教 AGI”：不是一个单一智能无限起飞，而是美国、中国和去中心化开源模型不断分化，形成具有各自文化特征的系统。 每个互联网原生社会都可能把 AI 作为概率式“神谕”、把加密货币作为确定性法律，再以社交网络充当连接组织，构成网络国家的“反应堆核心”；相比押注某个 AGI 胜者，模型的多元化与定制化更值得关注。
AI 末日叙事把柏拉图式理想误当成了受计算、混沌、湍流和密码学约束的软件。 Casado 强调，今天的模型是真实运行的计算机系统；Srinivasan 则指出，快速起飞并未发生，当前 AI 也缺乏设定目标、具身行动、繁殖和独立行动能力——不过他把自我复制视为“今天”的约束，并不认为这必然永久成立。
正在形成的 AI 经济是“中段到中段”：人类通过提示词提供方向，再承担昂贵的验证工作。 提示词就像给高速飞船设定的高维航向，而自主反馈之所以脆弱，是因为模型“不知道自己知道什么”，并且“被优化成伪装得像知道”。Srinivasan 预计，企业支出和就业将转向提示、监考和验证；Torenberg 则把更广泛的验证负担类比为 KYC。
短期价值会最快流向视觉、前端和无状态工作，因为这些工作的质量几乎可以即时检查。 图片、视频和界面以很低成本呈现整体观感；后端代码、法律语言和数学则需要缓慢的 System 2 审核，而有状态软件可能在计算上不可约。Srinivasan 说，“AI 让一切都变得虚假”，因此验证工具会成为产品的一部分。
AI 看起来更可能放大专业能力，而不是抹平专业优势。 Casado 表示，早期编码数据已经显示，资深开发者获得的相对生产率提升更大，因为他们会提出更好的问题、理解权衡，并拒绝糟糕的输出；Srinivasan 将其称为“放大的智能，而非代理式智能”。AI 可以让“每个人都成为 CEO”，但更准确的说法是，它往往“接替上一个 AI 的工作”。
市场和政治仍是 AI 难以征服的领域，因为它们不断变化规则、时刻变化，并且具有对抗性。 一旦竞争者采用某种策略，该策略就会失效；而且“对手也在用 AI 对付你”，因此 CEO、意见领袖或创作者仍是解读环境变化的实时传感器。Srinivasan 仍把 StarCraft 视为一个真实的反例：它使这条边界变得复杂，但并未抹去边界。
加密技术可以为数字历史提供认证，但 Casado 的反驳是，它本身无法证明物理世界的输入是真的。 Srinivasan 的回答从区块浏览器验证 FTX 转账延伸到 Farcaster 帖子、加密身份，以及在采集时就把摄像头或测序仪输出哈希并上链的工具。这会带来更强的来源证明和协同认证，以及“并非不可能”的抗伪造能力。
最具体的“杀手级 AI”已经是无人机，其后果将波及边境、监控和政治反弹。 Srinivasan 预计，随着远程系统能够控制辖区内的机器，数字边界会逐渐硬化；AI 也会让过去无法检索的监控档案变得可查询。劳动力压力进一步加剧政治冲突：在他的示例中，一名西方专业人士的收入从20万美元向2万美元靠拢，同时一名2000美元的海外工人收入提高10倍。
精读
1. AGI 还没成神，先开始多元化
Torenberg 的开场把话题引向一段思想史：Srinivasan 于2005—06年前后获得 Stanford 博士学位，曾通过基因组学教授机器学习和计算统计，创办 DNA 测序公司，并全职从事机器学习约10年，直到加密货币在2010年代初深度学习转向期间吸引了他。
Srinivasan 坦率修正了自己的判断：尽管他一路跟踪 ImageNet、扩散模型、风格迁移、GPT-2 及相关语言模型，却曾预计语言生成会一直停留在“类似马尔可夫链”的水平。2022年初的 GPT-3 和 DALL-E 已是信号，但 ChatGPT 的连贯性仍是“一次巨大跃迁”；就连预测下一个 token 的系统和 double descent，也走得远远超出他对经典机器学习的直觉预期。
在他的描述中，一神教式 AGI 叙事隐含追求的是一种走向无限的单一智能：一半是亚伯拉罕诸教的上帝，一半是末日升天，另一半则像生产回形针的复仇者。他提出的替代图景是“诸神之战”：许多在不同文化中训练出来的超人类系统，拥有不同的价值观、限制，以及对可接受言论或图像的不同定义。
2022年，Srinivasan 预计至少会出现美国 AI、中国 AI，以及“如果我们足够幸运”，还会有去中心化开源 AI。如今 DeepSeek 和几乎每周出现的强大开源模型，让多元化变得更加清晰：每种文化最终都可能把自己的 AI“神谕”与加密货币和社交网络结合，形成互联网原生社会的“反应堆核心”。
2. 软件边界刺破上帝隐喻
Casado 最关键的区分，是思想实验与已实现系统之间的区别。Nick Bostrom 的超级智能之所以能够递归自我改进，是因为前提设定赋予了它这种能力；4年后把这些假设移植到 LLM 上，反而掩盖了计算机模拟在边界、时间、精度和算力方面的已知限制。
Casado 用几个例子为柏拉图式理想辩护：图灵测试通过 Lovelace test 和 CAPTCHA v0，从思想实验走向了应用系统；中文房间是另一个与实现方式无关的思想实验；社交网络也让“六度分隔”在现实中成为事实。他们共同的结论是方法论层面的：思想实验可以保留，但必须明确它何时已经不再描述真实软件。
预测本身存在硬边界。湍流和混沌系统会在有限精度的预测下迅速失真，而类似 MD5 的哈希会把一个字符的变化放大成完全不同的结果；Srinivasan 给出的物理思想实验是：在投球前先引入湍流，让决策路径变得无法无限期预测。
Casado 通过进化论意义上的“均衡”解释运动能力悖论：空间导航与一个大约400万年前形成的哺乳动物系统竞争，而负责语言学习和创造力的前额叶皮层只有约25万年历史。Srinivasan 仍对语言包含如此多的世界结构感到惊讶；Casado 的限定是，人类或许先构建了这个世界模型，再把它缓存进文本。
3. 自主 AI 仍无法解决方向与反馈
Srinivasan 把自我复制视为当前限制，而非永久定理。今天的 AI 缺乏具身能力、独立设定目标、繁殖，以及建造自己的矿山或数据中心的能力；他用意识作类比：动物逃避捕食者时，会判断自己的身体能否钻过一根树枝下方。
提示词是“一个非常高维的方向向量”。即使是接近光速的飞船，也必须通过2个坐标和连续的航点来瞄准；AI 接收的是丰富得多的符号坐标，因此速度或智能都无法消除选择目的地的必要性。“提示词是微型程序”，但它们调用的是一个隐藏、未文档化、且容错性极高的 API。
Casado 补充了更难的问题：如何闭合控制回路。模型生成下一条指令时可能走出分布，因为它“不知道自己知道什么，也不知道自己不知道什么”；把这种输出再次输入系统，可能导致误差累积。模型可以列出自己的薄弱区域——实时事件、细分领域、付费墙后的研究、地方信息、人类意图和专有系统——但无法保证自主行动是安全的。
4. 生成削减的支出，最终流向验证
Srinivasan 对商业模式的概括很简洁：“AI 不是端到端，而是中段到中段。”人类仍在开头提供提示、在结尾进行验证；他与 Andrej Karpathy 的一次交谈让他预计，正因为模型能够极低成本地生成看似可信的伪作，监考和验证领域将出现“数量庞大的工作”。
视觉输出具有结构性优势：来自 Vercel 的 v0 或 Replit 等工具的图片、视频和界面，几乎可以依靠人类感知和现有 GPU 立即判断。后端代码、法律语言和方程式则需要逐行进行 System 2 推理；AI 从生产环节移除的成本，可能只是重新出现在检查环节。
Casado 将这种差异进一步拆分为无状态系统和有状态系统。图片基本暴露了自己的全部状态，而一段简短的后端程序可能隐藏着复杂的运行时状态机；有些行为必须实际执行，因为它们在计算上不可约。形式化验证适用于小型、高价值的智能合约，却不适用于通用软件。
他们设想中的 AI 用户体验，会让内部故障变得可感知：把音频转换成声谱图，用声音呈现模型行为，让异常听起来像汽车发出的陌生轰鸣，或者按置信度给文本上色。系统层面的含义是，工具调用可以让模糊模型调用确定性软件；Srinivasan 认为这说明传统系统仍在完成精确工作，而 Casado 则没有排除实用型混合系统最终实现这一目标的可能。
5. 现实进入系统后，加密技术为历史提供认证
Srinivasan 的配对口号是：“AI 让一切都变得虚假，加密技术再让它恢复真实。”概率式生成无法伪造 Bitcoin 私钥、有效数字签名或链上 NFT；加密方程式提供了生成文本、图像和身份所缺乏的硬边界。
他用 FTX 说明这一点：Perplexity 对2022年黑客攻击的总结可以引用区块浏览器，让读者自行核验转账、签名、哈希和时间戳。随着区块空间扩容，Farcaster 式帖子和加密身份可以把这种引用从金融数据扩展到社交主张和防篡改元数据。
Casado 的反驳值得保留：问题在于数据如何进入系统。链上签名记录可以证明某个密钥在某个时间戳做出了某项声明，却不能证明所声称的照片、地点或物理事件是真实的。加密技术能够在“数据进入系统之后”提供端到端保证，但不会自动让系统扎根于现实。
Srinivasan 给出的部分答案是“加密仪器”：在摄像头数据或 DNA 测序 TIFF 文件被采集的同时对其哈希、上链并加盖时间戳，再与预注册试验和真人证明结合。协同造假会变得更困难，但“并非不可能”；Casado 也认同，激励不断增强，最终应会提高输入信息的真实性。
6. 市场与政治抵抗冻结模型
静态映射——猫的标签、国际象棋规则、跳棋或围棋——适合训练—测试方法。市场和政治则不然：它们“随时间变化，尤其是规则不断变化且具有对抗性”，同一笔交易最终会变成亏损，竞争者也会部署 AI。因此，Torenberg 将 CEO、意见领袖或创作者视为读取实时激励和人性的传感器。
Casado 把这条边界与非线性、混沌系统联系起来，在这类系统中，外推本身就很困难。Srinivasan 接受这种联系，但保留了一个棘手的反例：AI 在 StarCraft 上表现良好，尽管它比国际象棋更具对抗性、时间变化也更强，但规则并没有真正变化。这个区分是一条工作假设，而非普遍定律。
7. AI 复利放大专业能力，模型之间也在互相竞争
“AI 意味着放大的智能，而不是代理式智能”，因为更强的写作者、工程师和领域专家能够提出更好的指令，并验证结果。Casado 表示，编码生产率数据已经显示，资深开发者获得的提升甚至在相对意义上更大：他们理解权衡，能够高效使用形式化语言，也知道哪些内容应该丢弃。
Srinivasan 在管理层面的延伸是：“AI 意味着每个人都是 CEO。”只要给出清晰的书面指令并审查执行结果，管理实验性项目的成本就会大幅下降。但每家公司也会为图像、文本和编码模型建立固定席位，因此新的 Claude、Grok 或 ChatGPT 往往会“接替上一个 AI 的工作”。
专业用户和普通用户市场可以共存。程序员可以在不了解设计的情况下要求生成一个够用的 3D 资产，而专家则能通过领域词汇提取更好的结果；同样，Lovable 服务于普通用户建站，Cursor 则把 AI 嵌入专业开发者的 IDE。普通人的能力提升，并不会抹平专家在精致度上的优势。
Casado 通过快速蒸馏挑战多神教图景：领先模型会教会竞争对手，甚至在同一个据称随机的数字上趋同。Srinivasan 设想存在一根共享的“脊柱”，其上方再进行文化分化；他也指出，预训练广泛提升了模型能力，但当前讨论和数据表明，领域特定的 RL 并不会以同样方式泛化，甚至可能“拆东墙补西墙”，围绕根本性权衡持续催生专业模型需求。
8. 无人机把 AI 从影响舆论变成领土力量
Srinivasan 对安全讨论的直接修正是：“杀手级 AI 已经存在，它就叫无人机。”Casado 对此高度认同。图像生成器和假想中的“超级说服者”吸引了大量注意力，但每个国家都在推进武器自动化；话术从安全转向击败中国，但两种框架都可能被用来证明控制的合理性。
因此，数字边界可能变成硬边界。中国已经把 Great Firewall 描述为分组层面的主权，而远程控制无人机或人形机器人，会让“云空间”变成物理空间；乌克兰使用数公里长、由线缆控制的单向无人机，说明武器可以绕过干扰。Casado 的反驳同样关键：一架被输入目标图像的完全自主无人机，可能根本不需要接收任何数据包。
Srinivasan 将可防御领土与“加密国家”相对比。地图上勾勒出的国家可以被瞄准，而 Bitcoin 没有一张完整且实时的所有持有人或矿工地图；分散化提供了一定程度的“通过隐蔽实现安全”。未来的主权可能分裂为两类：一类是执行硬数字边界的司法辖区，另一类则是其资产无法按地理位置完整枚举的网络。
9. AI 反弹演变为劳动力与权力斗争
Srinivasan 的中国轶事给出了监控的基准：他在一次通话中讲述自己的行程，反复掉线，直到他说出“Tiananmen Square”。Srinivasan 认为，AI 会改变规模，把多年的视频和通信变成可检索的历史；过去“山高皇帝远”的状态，将让位于 Torenberg 所说的“长臂”和 Srinivasan 所说的“无限长臂”。密码学、抗没收的财产和退出机制，可能成为制衡手段。
Torenberg 认为，反弹已经制度化。媒体工会正在起草合同，禁止所有者或编辑使用 AI；Srinivasan 认为，这会让既有机构面对 AI 赋能的竞争者时变得脆弱；艺术家论坛则分裂为支持者和反对者。Casado 指出，AI 艺术家也可能通过不同工具投入相当的劳动，而 Torenberg 把这种社会反应类比为19世纪工匠面对大规模生产时的处境。
全球劳动力套利提供了现实层面的怨气来源。Srinivasan 的例子是一名年薪20万美元的西方律师或医生，与一名年薪2000美元的印度或菲律宾工人相对；AI 加上人的能力，可能让两者在2万美元附近收敛，使海外工人的收入提高10倍，同时让西方人的工资降至原来的十分之一，并扩大消费者剩余。
Srinivasan 说，或许有些愤世嫉俗地说，政治是由精英为客户阶层服务，再选择能够推动客户行动的声音片段。Torenberg 补充道，赞助人可以理解复杂性，却会刻意把它简化，这让 AI 成为左右两派都能使用的强大政治工具。
Casado 最后把这场颠覆归纳为：AI 进入媒体，加密货币重塑金钱，机器人接管制造业，无人机改变军事力量。他也看到加密货币在货币、AI 约束和链上无人机控制平面上的潜在作用，同时指出，神一般的 AI 触及了人类核心的不安全感，而这种不安全感已经存在于神话和传说中3000年。合在一起看，他们把反 AI 斗争放在更广泛的反科技反弹中，而不只是把它视为一场围绕聊天机器人的争论。