(预告)Anthropic 传奇仍在继续、Fox 与流媒体的未来、ChatGPT 问答、智能体购物、自动驾驶
摘要
商务部指令暂停所有外国公民访问 Fable 5 和 Mythos,包括 Anthropic 内部的外国公民;Claude 则被彻底撤出市场。 Thompson 认为,政府可能在要求概率型软件做出技术上不可能的保证,但 Anthropic 自身的行为和言论制造了如今推动政策转向的不信任。“最终决定权归谁?”才是争议核心。
封锁前沿模型可能只能争取“几周或几个月,也许1年”的时间,但也会推迟在类似能力扩散前完成必要防御工作的时点。 发现漏洞与协助修复漏洞可能是“完全相同的请求”,而防守方拥有自己的代码则占据优势。Thompson 更倾向于推进“我们需要的曼哈顿计划”:大规模检查并修复网络软件和开源项目。
Anthropic 的安全叙事制造了技术能够实现其无法兑现的可控性预期。 公司多年来将 AI 与核武器相提并论,并最初通过 Project Glasswing 限制 Mythos;但约2个月后又开放了访问。Sharp 的判断是:Anthropic 承诺接近完美的安全性,越狱不可避免后,政策制定者便陷入恐慌。
这场冲突涉及的既是网络安全,也是机构权威。 Sharp 援引报道称,Anthropic迟迟未披露111家获得高级 Mythos 访问权限的机构,以及后来披露的约50家额外实体,其中包括一家韩国公司;Thompson则提到战争部争议、模型“削弱”,以及 Anthropic“使用方式由我们决定”的红线。政府的技术判断可能有误,指令也未必能经受法院审查,但 Anthropic 无法令人信服地把自己置于国家之上。
AI 泡沫调整可能惩罚那些只是在既有工作流上“贴一层 AI”的公司。 Thompson 预计,真正持久的价值将来自围绕概率计算重构产品和组织,就像媒体从在文章旁投放广告转向算法信息流一样。这个转型需要数年,因为用户首先必须重新理解软件能够做什么。
AI 很可能带来深刻颠覆,但对确切结果做出自信预测,仍应保持怀疑。 Thompson 既反对“什么都不会发生”的 complacency,也反对 Anthropic 式的规定主义:互联网用25年重塑了社会,1993年的任何人都不可能描绘出这条路径,而 AI 的影响可能更大。缺少的正是“认识论上的……谦逊”。
世界杯补水暂停说明,明牌捞钱也可能改善产品。 Thompson 认为,新增的商业广告库存能让疲惫的球员重新调整,并以克罗地亚的反扑为例,尽管英格兰最终4–2获胜;Sharp 同意“更少疲惫的球员是好事”,但认为这些暂停就该直接称为商业广告时段。更广泛的媒体判断是,Thompson 热衷于“体育赛事事件化”——押注高端赛事,而不是例行的每周内容库存。
精读
1. 补水暂停既能从足球中变现,也能提升观赛体验
Thompson 认为,美国通过别扭机制实现政策目标的习惯是“最愚蠢的做法”:急诊室就医变相实现全民医保,AI 数据中心支出变成间接把钱塞进民众口袋的手段,球员安全暂停则变成利润丰厚的世界杯商业广告时段。
他的反直觉辩护是,暂停可能改善比赛本身。克罗地亚对阵英格兰时一度“被压得节节后退”,随后借暂停重新调整,连进2球,让英格兰最终4–2获胜的比赛更具戏剧性;疲惫更少,也意味着更多球员能“发挥出最佳水平”。
Sharp 接受这种产品层面的解释,但拒绝使用委婉说法:就叫商业广告时段,承认这是利润优化。Thompson 更广泛的观看偏好是“体育赛事事件化”(eventization of sports)——世界杯、网球四大满贯和高尔夫重大赛事都值得看,但不必承担每周追更的投入。
2. Fable 出口管制暴露了一个建立在信息不完整之上的冲突
Sharp 提供的事实锚点是:周五晚些时候,商务部下令暂停所有外国公民访问 Fable 5 和 Mythos,“无论人在美国境内还是境外”;Thompson 补充说,人在 Anthropic 内外也一概如此。Claude 则被彻底撤出市场,截至他们周四录制时仍不可用。
Thompson 曾短暂体验过 Fable,认为它确实实现了能力跃迁,还开玩笑说自己被迫退回到“只能用 Opus 的 5.5”。但他强调,非公开信息让这场对峙格外难以判断:“我们不知道什么?”
据报道,导火索是 Amazon 越狱 Fable,并向白宫提出担忧。Thompson 提醒,公开说法来自一名看过 Anthropic 报告的研究员——“这全是 Anthropic 的包装”——但他认为“只要略微修改提示词就能发现漏洞”的说法并非没有可能。
他的奥卡姆剃刀式解释是,双方都有责任:政府说停止这种行为,Anthropic 说“你阻止不了”,而官员听到的则是来自一家已经制造“信任缺失条件”的公司的又一次拒绝。因此 Thompson 怀疑自己那周是不是“对 Anthropic 有点太苛刻了”。
3. 概率式软件意味着,完美限制本身就是错误目标
Thompson 给出的关键例子是:“找出这段软件里的漏洞”和“帮我修复这段软件里的漏洞”,本质上是“完全相同的请求”。确定性系统可以禁止某个定义明确的功能,但通用模型无法在不牺牲有用能力的情况下,可靠区分恶意意图和防御意图。
自动驾驶提供了类比。过去多年,人们试图把每一种道路场景逐一硬编码,但变量实际上近乎无穷;端到端模型则通过从海量场景中归纳学习,并为从未明确遇到的事件形成内部启发式规则,最终变得可行。
Thompson 认为,把 AI 当作“高级搜索引擎”,犯的是同一类错误。Sharp 早期用 ChatGPT 查询体育统计数据,恰恰是“完全错误的功能”:模型的优势正来自它并非为每个查询逐一确定性设计。
既然 Mythos 级能力很可能会在其他地方出现,Thompson 认为白宫的做法像是在“用拇指堵住堤坝漏洞”,但“洪水终究会漫过整面堤坝”。访问受限的每一天,也意味着防守方少一天时间使用最领先的模型去发现并修复弱点。
4. 网络防御必须穿过危险,而不是绕开危险
Thompson 并没有低估威胁:“网络上的几乎所有软件都很可能不安全。”他的判断更具体:访问不可能永远被封锁,因此“解决安全问题的唯一办法,就是穿过它”,在这项能力广泛可用前积极完成修复。
防守方拥有一个关键优势:它们掌握代码,可以直接检查和修复;外部攻击者则必须从外部推断一个被遮蔽的系统。所需的动员规模就是“我们需要的曼哈顿计划”,覆盖网络代码库和开源项目。
Anthropic 在 Project Glasswing 上开展的防御工作值得肯定,但公司的传播方式也帮助引爆了反弹。Anthropic 多年来将 AI 比作核武器,在为银行和大型科技公司提供安全保障的同时,仍称 Mythos 危险到不能发布;约2个月后,它又让 Mythos 变得广泛可用。
Sharp 的反驳进一步放大了其中的矛盾:Anthropic 制造了完美安全和独家托管的预期,在政策制定者发现安全措施可以被绕过、试图重新夺回控制权后,公司却表现得十分意外。“如果你谈的是超级武器”,政府权威就是不可避免的归宿。
5. Anthropic 的真正问题,是声称自己拥有最终决定权
Thompson 反对的不是 Anthropic 关注安全,而是公司反复暗示:“只有我们能处理。只有我们负有责任。”他的直白推演是:如果 Anthropic 应该管理 AI,而 AI 将管理世界,那么 Anthropic 实际上是在说自己应该管理世界。
Sharp 追问,这种指责是否过度依赖推断。Thompson 提到了战争部争议:Anthropic 划定的红线是“使用方式由我们决定”,同时还表现出在模型行为违背自身偏好时,愿意暗中削弱模型。
Sharp 又补充了相关报道:111家机构获得了高级 Mythos 访问权限,后来又披露约50家额外实体,其中包括一家韩国公司。Anthropic 对此反应迟缓,说明它仍未真正理解“政府最终掌握决定权”,即便这套出口管制机制在法律或技术上可能并不成立。
Thompson 对 Microsoft 的审查给出了组织层面的诊断:“你们做什么,做得很出色;怎么做,还有很多功课要补。”但他最终也承认,问题同样是实质性的:一群可能并不理解“现实世界究竟如何运转”的人,正在对客户、企业乃至联邦政府主张权威。
6. AI 的价值将来自重构工作流,也来自更谦逊的预测
Thompson 预计,AI 崩盘的一部分原因会是企业试图在既有工作流上“贴一层 AI”,却在概率系统不肯像传统软件那样运行时感到挫败。真正持久的公司会重新思考整个工作流,就像互联网媒体从在文章旁投放广告转向信息流一样。
这种重构需要数年,因为人们必须先重置预期,新的组织形态才会变得清晰。互联网用了约25年改变社会;Thompson 指出,1993年的人绝不可能预测到,互联网对媒体的影响最终会帮助促成 Trump 政府的出现。
AI 的影响可能更大,但 Thompson 既反对否认,也反对自信的安全领域精英所持的“确定性和规定主义”。理解 AI 不等于理解社会的一切;他的正面主张是保留更多怀疑,改善沟通,并对任何机构都无法预先描绘的结果保持“谦逊”。