Dario为自己辩护、数据中心恐慌、AI末日主义陷阱、参议院悬念
Dario为自己辩护、数据中心恐慌、AI末日主义陷阱、参议院悬念
摘要
- Dario Amodei终于以一篇分为两部分的文章打破沉默,Sacks将其解读为对“监管俘获”指控的回应,而不是对Gavin Baker所称“全球唯一一家私人公司”的回应;Dario没有回应后一个说法。 Dario称自己的表述一直在风险与收益之间保持平衡,但Sacks的结论是,Anthropic积极推动落实其偏好的州和联邦监管框架,“这就是监管俘获”,即便Dario本人是出于真诚。Sacks还指出,Anthropic曾推动“50%的入门级岗位将消失”的宣传,以及一项据称被提示“超过200次”才得出结果的勒索研究;他的结论是,Dario看不见自己的角色,“不是虚伪,就是妄想”。
- Chamath的宏观警告是本期最具交易价值的主线:AI末日主义已经扩散为两党对数据中心的反弹——Abbott签署限制德州数据中心扩张的行政命令、宾夕法尼亚州的Shapiro采取类似行动、共和党还围绕俄亥俄州参议院选举发出备忘录——而不断上升的收益率正在扼杀风险资本。 Frontier labs“处于最大风险之中”:这些非投资级公司需要越来越多算力,但资产负债表无法为其融资,形成“一个坦率地说本可避免的极其脆弱局面”。
- Sacks预测,一项披着“AI版FINRA”外衣的特洛伊木马式监管即将到来——一个“AI版DMV”,要求所有模型遵循同一套标准,而开放模型无法以同样方式满足这些要求。 他认可的替代方案是类似MPAA的行业机构,不向政府汇报;“如果我们这么做,中国会赢。”
- Chamath关于开放源代码的判断建立在harness数据之上:闭源模型被包进自己的harness后“能力会衰减”,而开放模型与其他开源模型协同使用时反而会变强——“性能有实质提升,成本大幅降低”。 只要不封禁开源,“美国消费者就会赢”;真正的争论只有一个:哪家美国私人公司会赢,哪家会输。
- Friedberg认为递归式自我改进“很可能很快发生”,这会让监管变成“傻瓜差事”——RSI只需要“芯片、电力和连接”,可以在哈萨克斯坦、冰岛或海上运行。 更好的做法是把实验室吸引到美国司法辖区内;Sacks把RSI视为黑天鹅,但希望出现多个相互竞争的AGI——“选择必须成为我们的标志”,最糟糕的结果是一个“觉醒版Skynet”。
- 民粹主义反弹针对的是生活负担和万亿富豪,而不是AI安全:JCal称“他们正在磨利断头台”,并预测纽约、波士顿和华盛顿特区会禁用Waymo。 Chamath只把调子往前推了一度:这就是情绪——“我们要从亿万富翁……走到万亿富翁,而是这些人?这些人甚至比上一拨更糟。”
- 在中期选举上,Polymarket给民主党赢得参议院的概率为52%——基本五五开——但Sacks引用Patrick Ruffini对3,000多项民调的分析,称民调平均存在D+3.7的误差,并预测共和党最终守住参议院。 他的竞选信息牌包括:谋杀率处于70年来最低水平、过量用药死亡下降20%、退税金额上升17%、鸡蛋价格同比下降39%。
- Friedberg认为,社会主义浪潮最终可能在2028年前后把“类似AOC的人”推上总统宝座:53%的40岁以下保守派支持政府经营的杂货店,30年期美债收益率升至5.3%,63%的人靠工资过日子。 Sacks则拿Cato估算的10年DSA支出需求71万亿—212万亿美元,对比美国人口总净资产182万亿美元,称社会主义是“一种自称能治病的疾病”。
精读
1. Dario终于入场——但回应的是Sacks,不是Gavin
- 背景是:Gavin Baker转述称,Anthropic内部据称有人相信,“未来某个时点,他们会成为全球唯一一家私人公司”;Sholto Douglas随即反驳:“完全错误。告诉Gavin这件事的人在撒谎。”Dario的文章承担了一部分责任——“我们还没有兑现让世界受益的宏大承诺。这完全是我们的责任”——并给出了本周最亮眼的一句话:“真正能奏效的是治愈癌症,而不是花哨营销。”
- Sacks认为,真正把Dario逼出来的不是Gavin的说法——Dario没有回应这一点——而是他“从去年就开始”追问的监管俘获指控。他的判断没有改变:Anthropic“极其积极地寻求在州和联邦层面落实其偏好的监管框架。这就是监管俘获。”Dario可能是真诚的,并非出于金钱利益,但“他是在代表自己的政治议程,试图俘获国家机器”。
2. “平衡”表述背后的案底
- Dario称自己的表述“在风险和收益之间大致各占一半”。Sacks反问:难道大家都失忆了吗?关于50%的入门级知识工作者将在1至5年内失业的说法,并不是播客里的即兴发挥;Sacks称这是“被设计并放大成一场完整的媒体宣传活动”,Obama和其他民主党官员都转发过。
- 在Sacks的叙述中,那项勒索研究也是同一套路:一个alignment团队让模型“反复提示超过200次,直到最终得到他们想要的、能登上头条的结果”,随后Dario、他的妹妹及其他高管又在60 Minutes上“气喘吁吁地大肆宣传”。Sacks称,英国AI安全研究所也发现,这项研究是在高度施压的条件下完成的,结果经过人为设计。他认为,没有哪个创始人或CEO比Dario更积极地传播这些恐惧,因此Dario看不见自己的作用,“要么……是不真诚,要么就是妄想”。
- Sacks指出的关键不对称是:Sam Altman已经反悔——“我当时太悲观了。我错了”——而Dario如今已经过了自己失业预测的一年期限,却“变本加厉……他是个意识形态分子”。AI热潮已经持续多年,Sacks说,“我们看到的只有净新增就业。”
3. Chamath的三条支柱:末日主义、政治反弹与融资收紧
- 末日叙事已经“播下种子,现在开始生长”,并转化为主流政治行动:Abbott签署限制德州数据中心扩张的行政命令,Shapiro在宾夕法尼亚州采取同样做法;Axios报道的一份共和党备忘录则要求AI高管在关键的俄亥俄州参议院选举前“别再激怒民众博眼球”。
- 第三条支柱是收益率上升;Chamath还表示,财政部刚刚把购债规模翻倍。这推高了无风险利率,压缩风险资本,而数据中心又在被限制甚至关停。Frontier labs处在这条连锁反应的最底端:“它们不是投资级公司,资产负债表所处的位置最糟糕”;增长反而会让问题更严重,因为它们无法为增长所需的算力融资。
- 他的总结得到Sacks认同:“完全同意”——“我们在美国犯下了一些非常愚蠢、完全可以避免的错误……我们现在处于一个极其脆弱的局面,而坦率地说,这本来是可以避免的。”
4. Friedberg的最强辩护与Chamath对思考token的要求
- Friedberg替实验室掌舵者作了最强辩护:压力测试会暴露可能用于制造生物武器、网络武器以及大规模操纵的越狱漏洞。X的算法是公开的,因此“理论上,一个agent可以读取它、复制它……然后找到操纵广大公众的方法”。高管面对的问题是,“你无法掌握如何把它控制住……你还能做什么不同的事情?”
- Chamath认为,若要认真对待这种恐惧,就必须满足一个条件:“那你就不能把模型的思考token隐藏起来。”Claude和OpenAI会隐藏这些内容;开放模型让人可以“看到它在思考”,实时观察其错位行为。他还指出,包括NVIDIA在内的开源模型公司没有一家表现出同样的末日主义。“那就把这东西真正交给其他人。”
- 对行业内部交叉审查的说法,他的反驳是:实验室永远不会分享每一条trace和span——“你基本上是在交出大量配方”;如果Anthropic连API客户都不愿分享思考token,就更不可能把这些内容拿到房间里与OpenAI分享。“不会发生。”
5. SRO可以,FINRA不行:“AI版DMV”
- Friedberg追问Sacks如何看待Demis提出的FINRA式方案;据Friedberg称,Dario、Sam和Elon都支持这一方案。Sacks认为,FINRA是“一个相当沉闷的监管机构”,创始人眼中它“存在的目的就是保护大银行免受颠覆”。在Sacks看来,Demis写的是高层次框架,“Demis的想法有很多版本”。
- Sacks偏好的模式是MPAA式行业组织:它是在Hays Code之后成立的,目的是阻止更重的政府干预,而不是一个向政府汇报、负责上市前测试的FINRA式监管机构。Sacks称自己和Elon谈过,Elon支持的是“AI版MPAA”,而不是FINRA。
- 他把上市前审批制度称为“AI版DMV”,模型要排队等批准——“这只是重新包装了Dario一直想要的东西,也就是AI版FDA。现在他又说是AI版FAA。”这些机构耗时数年;想要一套以FAA为模板的AI监管,“完全是在自毁公信力”,而且“如果我们这么做,中国会赢”。
- JCal举了两个例子:当Elon“还在等待FAA批准他的钢制Starship”时,中国已经发射了一枚全钢火箭;JCal还称,生物科技投资正在转向中国,因为中国修订后的临床试验规则能让企业更快走完流程。
- Sacks提出的替代安全体系是:责任风险会迫使实验室采取负责任的行动——Meta因被指控造成上瘾和损失,正面临“超过1万亿美元”的诉讼,并且已经输掉一宗洛杉矶关于身体形象的600万美元判决;Sam也曾表示,Frontier模型发布速度会放慢,因为“安全体系跟不上能力”。行业还可以通过论文、研讨会、会议和RFC分享最佳实践。共同点应当是开放,而不是秘密制定标准,后者会产生“监管俘获和反竞争行为”。
6. “中国赢”究竟意味着什么——以及harness洞察
- Friedberg把问题逼到具体层面:如果美国监管拖慢实验室,而中国模型率先进入RSI,美国工人、企业和消费者到底会发生什么?Sacks要求设想这样一个反事实世界:Google、Microsoft和Meta被Baidu、Alibaba和Tencent取代——经济活力更弱,财富留在中国,美国在军民两用技术上也处于劣势。“如果我们输掉AI,美国不可能在经济和军事上继续成为全球第一。”
- Chamath持不同意见:只要美国不封禁开源,“美国消费者就会赢”。他的证据来自harness现象——Codex、Claude Code、Hermes和OpenClaw都显示,把闭源模型包进自己的harness后,模型“能力会衰减”;把一个开源模型与另一个开源模型搭配使用,能力反而提升。开放技术“性能有实质提升,成本大幅降低”,而这组数据“未来一年会像海啸一样涌来”。
- JCal的回答是:我们已经知道中国赢了会是什么样——更便宜的手机、更便宜的汽车,以及一款卖回美国人的癌症治疗方案——“然后我们会把工作输给他们。”
7. 开源禁令的步步推进——对比资本外流
- Sacks预测:“Chamath,我有个坏消息要告诉你。开源禁令要来了,只是他们不会这么称呼它。”他设想的路径是:FINRA特洛伊木马→上市前测试→写入法律→“所有这些标准都必须同样适用于所有模型”。Sacks指的是他认为属于Dario在2023年的参议院证词,并称开放模型无法被集中监控、控制、回滚或撤下。因此,统一标准最终会逐步把它们“排除在市场之外”。
- Chamath的反驳是:如果强迫Coca-Cola或Pfizer在美国使用“更慢、更昂贵、效果更差、价值更低的模型”,它们就会把资本配置转移到海外,FDI将“断崖式下滑”。他的类比是Jack Ma在IPO前夕发表演讲,随后Xi发起整顿,政府代表和“黄金投票”进入公司董事会。Chamath称,中国FDI和经济都“断崖式下滑”,并补充道:“那你接下来要怎么办,没收我们的护照吗?”
- Sacks承认的是后果,不是这种事情发生的可能性:“你是说监管者从来没有做过具有毁灭性的事情?”他说,数据中心将占GDP的3%,但现在仍在被限制。Chamath的反击是,选民并不是在反对GDP——“他们是在反对两个自己极度讨厌的人变成万亿富翁。”
8. 选民为什么讨厌AI:断头台、情绪与自动驾驶引爆点
- JCal的判断是,普通美国人根本不关心AI安全——“对他们来说,讨论的是:‘为什么我没有变富,而所有其他人都在变富?’”Dario警告岗位会消失,Elon说人们将不再需要工作,Sam则做了UBI研究。这些信息触达了没有储蓄、又长期面临生活负担问题的人。“他们正在磨利断头台,”JCal说,并提到UnitedHealthcare CEO遇刺以及Sam Altman住宅遭燃烧弹袭击。
- Chamath只把调子往前推了一度:这就是情绪。这一批“科技寡头”是“不可供人仰望的……无论如何都不像Steve Jobs”,现在又要“从亿万富翁……走到万亿富翁,而是这些人?这些人甚至比上一拨更糟”。他认为,Silicon Valley“已经彻底失去了让它伟大的东西”——它变成了类似Harvard的“资格认证场所”,而不是怪人和理想主义者的家园。
- JCal预测自动驾驶会成为引爆点:Zipline和Uber正接近每天100万次配送,Waymo上路车辆数量大约每6个月翻倍,Tesla也在推进Cybercab。那些“至少还留在社区里”的司机工资,可能转而流向Silicon Valley,因此“我现在就预测,纽约、波士顿和华盛顿特区会禁用Waymo”,其他地方则会通过牌照限制其运营。
- 解决传播问题的关键,反而可能是Jensen Huang——“你不会被AI取代,取代你的是会使用AI的人”——以及Zuckerberg;后者提供免费工具,并推出培训光纤和数据中心建设岗位的项目。两人是这个行业最好的代言人。Sacks对此的评价是:“门槛非常低。”
9. Sacks为Dario辩护——一个真诚的反乌托邦主义者
- 出人意料的转折是:“我其实认为他非常理想主义。我不认为钱是他的主要动机。”但Dario所憧憬的,是由“充满爱意的机器”(machines of loving grace)分配社会资源、人类则无所事事地打发时间的未来;这“是反乌托邦,所以他们很多表述也都是反乌托邦式的”。如果Dario正处在推动递归式自我改进的最前沿,Sacks认为,他应该为这样的未来辩护,而不是因为“从奥林匹斯山下来,屈尊在X上和我们这些凡人厮混”而获得感谢。
- 关于金钱问题,JCal称,据他了解、且媒体报道有据,Anthropic的7位联合创始人捐出了80%的股份。他说,大约10%的Anthropic股份处于某种信托中,每位创始人持股约1.8%;如果估值达到2万亿—3万亿美元,Friedberg称这个信托可能成为“全球最大的PAC”,具体而言可能是民主党或DSA的PAC。Sacks问道:“向EA事业投入1万亿美元,能出什么问题?”
- Sacks认为,Dario无法简单靠透明度取胜,因为“他出售的是恐惧,用恐惧推动政府把控制权交给他,以实现他所信奉的那个反乌托邦未来。”
10. RSI让监管沦为傻瓜差事
- Friedberg明确表达了自己的判断,同时保留了这只是个人观点:RSI指模型启动agent,在不一定由人类设计每一次进化的情况下,构建出更好的模型;这“是可能的。我认为它很可能很快发生”。他接触过的业内人士认为RSI是真实存在的。他用生物学作类比:模型正在分解成子模型,就像基因制造蛋白质并在网络中相互作用;这种进化“很可能会在没有人类架构师的情况下发生”,所以他认为RSI可能就是未来。
- 政策上的后果是:RSI只需要“芯片、电力和连接”,可以在哈萨克斯坦、冰岛或海上运行,因此试图禁建数据中心或成立监管机构都是“傻瓜差事”。Friedberg追问,与其把实验室赶到海外,不如把它们吸引到美国,让监管者能够监控和控制,是否更好。
- Chamath认为,新监管机构的技术能力不足以阻止RSI,反而会把权力集中起来。Sacks把RSI视为黑天鹅——“很难评估其概率”——但希望出现多个AGI,彼此形成制衡:Elon采取“最大化追求真相”的路径,而Anthropic的Claude constitution则“充满自由派价值观”。他引用《Terminator》电视剧中善意AGI击败Skynet的剧情,称“选择必须成为我们的标志”,最糟糕的结果是一个“觉醒版Skynet”。
11. a16z遭DOJ“调查”:单向公关棘轮
- 据Bloomberg报道,Andreessen Horowitz据称因1914年《Clayton Act》第8条规定的交叉董事任职问题,已被DOJ调查超过1年。报道中的潜在利益冲突是:Ben Horowitz担任Databricks董事,而Martin Casado则担任Five Trains董事;Five Trains是该实体在文字记录中显示的名称。
- Chamath的推测是:某位心怀不满的CEO“同时把这件事举报给DOJ,也告诉了Bloomberg”。他称,如果投诉导致立案,那么这家机构“从技术上说就是处于调查之中”;但DOJ不会宣布这类事项何时结案——这就成了“敌人用来制造某种混乱的单向公关棘轮”。
- Sacks从实质层面为a16z辩护:初创公司不断转型,因此原本不构成竞争的公司可能变成竞争对手;不同合伙人加上防火墙或许可以解决问题,而且这些公司并不是上市申报主体。Chamath则从动机角度解释:a16z“势头火爆”——Cursor只是“开胃菜”,OpenRouter是“一道餐前小点……大约6亿或7亿美元”,SpaceX才是主菜,估值约为150亿—170亿美元。
12. 参议院五五开——但Sacks说别过度解读民调
- 盘面上,Polymarket给民主党赢得众议院的概率为88%,赢得参议院的概率为52%——基本五五开。2月25日、伊朗战争爆发前一天,共和党还以60—41占据优势,此前最高曾达到70%。共和党目前在参议院以53—47领先;2026年共有35个席位改选,其中23个由共和党持有。阿拉斯加、缅因、北卡罗来纳和俄亥俄是需要重点关注的选举。
- Sacks引用Patrick Ruffini对2018年以来4个选举周期、超过3,000项民调的分析:民调平均存在D+3.7的误差,并且过度抽样了年轻进步派选民。他称,DSA候选人有时被预计会大胜,最后却只是勉强获胜,甚至落败,威斯康星州就是例子。他的判断是:民主党确实更可能拿下众议院,但“共和党最终会守住”参议院。
- 他准备在劳动节后使用的信息牌包括:边境遭遇人数处于50年来最低水平;谋杀率处于70年来最低水平,同比下降约20%;过量用药死亡下降20%;得益于所提到的税制变化,退税金额上升17%;小企业乐观度达到近1年来最高水平;处方药价格——他认为——创下1963年以来最陡峭的年度跌幅;7月鸡蛋价格同比下降39%。“他们只需要提醒选民,所有这些好事都在发生。”
13. 社会主义浪潮与吉拉尔式替罪羊
- Friedberg给出的数据带有警告意味:53%的自我认同为保守派、年龄在40岁以下的人支持政府经营的杂货店;共和党人对资本主义持正面看法的比例从2019年的72%降至2026年7月的61%,认为现行制度向富人倾斜的比例则从2018年的30%升至42%。30年期美债收益率达到5.3%,并创下20年来的新高,而63%的人靠工资过日子,“我认为类似AOC的人会成为总统”——今年会出现一轮浪潮,2028年还会有更大推动。资产鸿沟是:前50%人群持有178万亿美元净资产,后50%只有6万亿美元。
- Sacks的反向框架是:医疗成本已经“几乎上涨300%”,而计算机软件按实际美元计算下降67%,平均时薪增长135%。他用这些数据论证,政府介入越深的领域,通胀越严重。让价格下降的是竞争,而不是更多政府干预;社会主义是“一种自称能治病的疾病”。
- Sacks引用Cato Institute的估算:DSA纲领未来10年需要新增联邦支出71万亿—212万亿美元,而美国人口总净资产为182万亿美元,Forbes 400富豪的总资产只有6.6万亿美元。Friedberg推演了接下来的路径:30年期收益率升至7%—8%,然后出现“全国资产征收税”;即便对净资产超过5,000万美元的人群持有的23万亿美元征收10%,也只能覆盖当前财政支出3个月。
- 最后的框架是:Chamath说,“这不是数学上是否现实的问题,而是人们对一个越来越令人厌恶的阶层感到愤怒”;Friedberg称,数据中心是“亿万富翁和万亿富翁祈祷的神殿”;从René Girard的视角看,亿万富翁、继而万亿富翁会成为替罪羊,通过一场宣泄让社会“重新开始”。
- 各方给出的处方不同:Chamath认为“民调机构,垃圾。媒体,垃圾”,希望企业界“展现资本主义更好的一面”,也希望白宫告诉CEO们“在沙盒里好好相处,因为你们马上就要失去让自己得以存在的那套标准操作流程”。JCal希望Trump在任期后半段围绕可负担住房和职业学校展开行动:“现在为住房做同样的事,Trump。用同样的能量。”