Fable 禁令撤销 + Dr. Dana Suskind 谈 AI 育儿 + 预测市场风波
摘要
华盛顿已将前沿 AI 的发布制度从“默认放行”推向“默认不放行”,模型部署由此变成一项政治流程。 美国商务部一度迫使 Anthropic 的 Fable 5 退出全球市场,并限制 Mythos 5;据报道,OpenAI 也将 GPT 5.6 限定给政府批准的合作伙伴。Kevin Roose 对投资者的关键判断是:对于能力超过 Claude Mythos 或 GPT 5.6 的模型,各家实验室现在都必须假定,政府“不会让你发布——至少不会马上放行,也至少不会向所有人开放”。
主持人支持政府叫停危险模型的权力,但认为当前做法实际上是一套不透明的事实许可制度。 Casey Newton 要求明确的安全标准、正当程序、补救机制和专家评估,而不是陷入“威权式悬置状态”;Roose 的简短概括是:“AI 现在是靠感觉监管的。” 这种不确定性会抬高依赖前沿 API 构建关键工作流的企业的可用性风险。
即使无法追平美国前沿水平,中国开源模型也可能在商业上受益。 Newton 认为 ZAI 的 GLM 5.2 已追上的说法“基本是胡扯”,中国蒸馏模型仍是“隔了一手的美国模型”(American models once removed);Roose 则反驳称,蒸馏可能把9个月的差距压缩至6个月甚至3个月。可下载模型因为可控且“相当不错”而更具吸引力;美国高端系统则可能被政府无解释、无正当程序地撤下。
Dr. Dana Suskind 的 HOPE 框架将 AI 定位为育儿支持工具,而非替代父母。 人的连接不可替代;父母应接纳自身的不完美;在大脑生理结构完成85%构建的早期阶段,需要额外保护;技术应当“增强,而非替代”(enhance, not replace)。用 AI 回答4岁孩子的问题或共同创作故事,都符合这一标准。
在安全性尚未得到确立之前,AI 伴侣和以关系建立为卖点的玩具是 Suskind 最明确的“坚决不行”。 她的预防性原则是:“你得先证明它安全,我才会让它进入”孩子的“发展庇护所”。Alexa 播放歌曲可能没问题;核心风险在于,机器是否会挤占人与人之间的互动。
由于“AI”涵盖滋养型工具和超加工式体验,父母需要落实到产品层面的尽调。 Suskind 的 DETECT 清单要求考察设计、伦理训练、问题记录、证据、保密性和所传递的价值观;初步看,AI 辅助的 Cradlewise 婴儿床符合“增强,而非替代”的产品标准。她倾向于营养成分标签式认证,Roose 则希望父母能看见使用情况,而不是接受简单的好产品/坏产品判定。
最深层的分配风险是:人工互动变得廉价,而人与人的连接和照护变成高价服务。 Suskind 警告,人工替代可能成为“大脑营养中的廉价卡路里”(the cheap calories of brain nutrition),让“人类养育”的童年像有机食品一样成为奢侈品。Claude 在她所在中心尚未发表的儿童发展知识测试中表现出色,但她的结论是,Claude 可以为父母提供资源,而不能成为父母。
预测市场的扩张速度已经快过其可信度和治理能力的提升。 Polymarket 的代币加权预言机让大量 UMA 持有者决定“donk”是否被说出口;而对1,100条推广视频的分析发现,画面中的下注都是假的,若实际执行,合计亏损将超过16.6万美元,而不是盈利近90万美元。Meta 拟议中的 Arena 应用可能将这一品类延伸至真钱投注,并可能进入其社交应用;主持人的悲观总结是:“一种成瘾的解药?另一种成瘾。”
精读
1. Fable 禁令反转暴露出临时拼凑的模型管控体系
Roose 将首次干预追溯至6月12日:美国商务部指示,外国籍人士——包括在美国境内或境外的 Anthropic 员工——不得使用 Anthropic 的 Fable 5 和 Mythos 5。由于 Anthropic 无法逐一核验用户国籍,这项指令实际上切断了全球所有客户的访问,迫使公司撤下相关模型。
明面上的触发点,是一名“可信合作伙伴”报告的一次越狱事件,主持人认为该合作伙伴可能是 Amazon。但据报道,一名审查 Amazon 工作的网络安全专家认为,这只是相当标准的防御能力:让 AI 寻找并修复漏洞,同时也可能暴露可被利用的安全漏洞。
Newton 的运营层面担忧集中在 Project Glasswing。Anthropic 曾通过该项目向选定合作伙伴提供 Mythos,用于加固美国及其盟友的关键基础设施;出口管制却在先进网络能力本应用来帮助防御方做准备时,叫停了这项工作。
在 Anthropic 采取措施应对所指风险后,美国商务部随后解除限制。Fable 5 恢复全球上线;Mythos 5 仍未向公众开放,但计划恢复向部分美国机构提供,更广泛的访问权限则由政府协调。
2. 前沿模型发布已变成政治许可
Anthropic 的回应是,GPT 5.5、Kimi K2.7 等模型也能找到同样的漏洞。Newton 将其解读为:公司确实加了一道防护,但被指控的问题是行业共性——“别只拿这件事指责我们。”
据报道,OpenAI 随后暂缓 GPT 5.6 的广泛发布,先向一小批政府批准的合作伙伴提供。Roose 认为,2家实验室遭遇了同一种干预,这更像一项广泛策略,而不是针对 Anthropic 的单次行动。
Newton 反对的不是安全干预本身:政府应当有权暂停危险模型,即使模型已经发布。他要求的是“明确规则”、正当程序、修复路径,以及对何时可以恢复访问达成共识——这些都是当前体系所缺失的“基本善治常识”。
政治讽刺正在于:曾经批评假设中的 Biden 时代许可制度的人,如今却主持着“一套事实上的许可制度”。Roose 将变化概括为“AI 靠感觉监管”,并预计 OpenAI 未来发布模型可能会更容易。Casey 还提到 Greg Brockman 向“特朗普的人”捐款2500万美元,并质疑这笔钱是否换来了善意;GPT 5.6 仍未广泛发布。
Roose 认为,政府终于承认强大模型带来的网络安全及其他风险,这或许算是一线希望。Newton 则反驳称,该政府一边推动向中国出口更多先进芯片,一边限制盟友获得美国模型,立场前后矛盾。
3. 可靠性可能比在基准测试上赢得前沿地位更重要
关于中国模型的讨论,始于 ZAI 的 GLM 5.2。它被描述为一款强大的开源模型,甚至可能被视为与美国前沿系统同一梯队。Newton 认为,在没有基准测试和营收数据的情况下,他不会接受追平说:“我得先看到该死的数据。”
Newton 将市场划分为“前沿,以及其他一切”。在他的框架中,中国模型和开源模型大多蒸馏自美国系统,因此是“隔了一手的美国模型”:持续进步,适合以更低成本自托管,但结构上至少落后一小截。
Roose 的反驳值得认真考虑:蒸馏似乎可以产出几乎同等水平的模型,因此估计为9个月的差距,可能压缩至6个月甚至3个月。更直接的现实是,自托管的中国模型不太容易被美国政府突然撤下;对于不需要 Mythos 或 GPT 5.6 级别能力的任务,它们可能已经足够。
限制美国模型发布可能放缓中国模型蒸馏,但 Newton 认为这是“一种极其笨拙的手段”;制裁和协调一致的市场限制会更直接。Roose 强调“部署前沿”:最强模型如果闲置在实验室里,社会几乎无法从中获益;而不可预测的“今日 LLM 限制”政策,会像不断变动的关税一样扰乱客户。
4. Suskind 的育儿准则是增强连接,而不是把连接自动化
Suskind 对这个问题的担忧,源于人工耳蜗患者:他们接受了相同的手术和技术,语言发展却大相径庭。这让她转向相关证据,即人的连接不是“锦上添花”,而是学习以及人之所以为人的基础。
AI 让问题的 stakes 更高,因为技术首次能够模拟过去负责塑造儿童大脑的互动。她的警告刻意放到了最大尺度:现在做出的选择,可能帮助决定“我们的物种将呈现什么样子”。
Roose 在4岁孩子身上测试了2种用法:解释风从何处来,以及生成个性化故事。Suskind 的判断是“绝对不是”有害用法:这2种场景都用 AI 填补了知识或创作上的空白,同时让父母留在互动之中。
她的 HOPE 框架明确了边界:人的连接不可替代;承认父母自身的不完美,因为孩子并不是在完美中成长;保护早期阶段——大脑生理结构在这一时期完成85%的构建;使用 AI“增强,而非替代”。
5. AI 是一条食物光谱,但伴侣型产品仍是明确禁区
Suskind 更愿意用加工食品而不是社交媒体作类比。全麦面包可以是加工食品,也可以有营养;Doritos 和 Twinkies 则处在超加工端。同样,AI 横跨行政事务协助、医疗诊断,以及可能挤占必要人际连接的伴侣型产品。
她提到,社会辅助机器人可以帮助自闭症儿童识别社交线索,从而更好地与人建立连接。这种机制把机器当作通往人际关系的桥梁,而不是把机器本身包装成一段关系。
她今天的明确红线,是 AI 伴侣,以及那些宣称比屏幕时间更好的玩具:“这基本就是明确的‘不行’。” 预防性原则要求先证明安全,才能让它们进入儿童的“发展庇护所”;在她看来,这类产品的风险甚至可能高于社交媒体。
Alexa 播放歌曲则不同,关键取决于“使用多少”,因为它不需要假装自己是朋友。真正的问题始终是设备是否挤占了人与人的互动,而不是每一种面向儿童的产品是否含有 AI。
6. DETECT 将父母焦虑转化为产品尽调
Suskind 的 DETECT 方法从设计开始:工具的用途是什么,是直接与孩子互动,还是支持成年人,以及它是否真的有必要。接下来要看产品是否接受了合乎伦理的训练,以及孩子使用后是否出现过问题。
剩下的问题包括:产品是否有证据证明其表现符合宣称;是否保护儿童数据的保密性;以及它正在教授什么价值观。这份清单把评估从“AI 到底好不好”的抽象争论,转向具体产品、作用机制和发展阶段。
初步将这套方法用于 Cradlewise——一款能检测婴儿醒来、随后启动轻柔摇晃并播放安抚音频的婴儿床——Suskind 认为它符合“增强,而非替代”。她强调,证据和已报告的问题仍需进一步调查;她最初的反应只是,改善父母和婴儿的睡眠可能有助于育儿。
Suskind 倾向于采用类似 Good Housekeeping 的认证标志,就像工业化食品革命后出现的营养标签和其他护栏。Roose 补充称,通用模型很难用单一维度评级:父母需要控制权,也需要看见孩子在谈什么,因为同一套系统既可以教授科学、支持创作,也可能变成令人上瘾的伴侣。
7. Claude 可以了解育儿,但不能成为父母
Suskind 所在中心开发了 SPEAK,这是一项计算机自适应的父母儿童发展知识评估。她称,该测试能够预测父母会如何行动以及儿童发展结果;在一项尚未发表的实验中,Claude 在各个发展领域都表现极佳。
她的解读刻意保持在较窄范围内:父母需要答案时,Claude 可以成为有用的资源,但这并不意味着“现在 Claude 会育儿了”。Roose 使用 Claude、Gemini 和 ChatGPT 的体验也支持这一界限——当他在行为问题上卡住或感到不确定时,这些模型可以提供后援。
Human Raised 这个标题点出了 Suskind 对分配问题的担忧。正如超加工食品让有机食品变成一种特权,人工互动也可能成为“大脑营养中的廉价卡路里”,让持续的人际连接和照护变成奢侈品;她的目标是 AI 辅助的照护者,而不是机器养大的孩子。
8. Polymarket 让资本投票决定何为真相
Polymarket 的华丽广告通过 Rick Rubin、多语言提问、Messi、边境和人类团结来包装下注,被 Roose 称为“赌博版 Benetton 广告”。Newton 对这种神秘主义式表达感到反感;他给这个品类更坦率的口号是“背叛你的朋友”(Betray your friends)。
“donk”争议始于一个市场:某场直播是否会提到职业电竞选手 Daniel Kryszkevicz——其绰号是 donk——尽管他并未参赛。在长达7小时的直播中,一名解说员可能只是把“don’t”说得含混,争议于是变成:一个意外说出的 donk 是否也算数。
Polymarket 的乐观预言机让 UMA 持有者对争议结果进行投票,投票权与持仓量成正比。Newton 的尖刻总结是:“谁攒下最多 UMA 代币,谁就是事实的仲裁者。”
UMA Rocks 积累了足够代币后宣布投“否”,并引发后续投票;最终“否”获胜。Roose 的判断是,用户可以“押注这个赌博机制本身”——在这样一套真相系统里,谁在加密代币上投入最多,谁就能决定赔付。
9. 虚假胜利用来卖市场,Meta 想要的是互动
《华尔街日报》分析了10名创作者发布的超过1,100条 Polymarket 推广视频。虽然70%的视频展示了下注行为,但没有一笔是真的;其中118条视频暗示获利近90万美元。
如果画面中的下注真的执行,创作者合计会亏损超过16.6万美元。Newton 用一句话概括了这种激励模式:想要盈利,“万无一失的办法”就是拍一条赞助视频,“里面每个人都在对所有事情撒谎”。
Meta 内部称为 Arena 的项目,据报道原本设想为一款独立应用,类似 Polymarket 或 Kalshi,使用游戏化积分,但并未排除真钱投注。Newton 预计,如果它取得成功,真正的金钱赌注和预测市场轮播内容都会进入 Instagram 和 Facebook。
主持人将 Arena 与 Meta 的互动至上逻辑以及成瘾诉讼联系起来:如果用户想要无休止地下注,Meta 可以承载讨论、展示广告,或许还从中抽成。在 Kalshi CEO Tarek Matsour 据报道将预测市场描述为摆脱 Instagram“脑腐”的出口后,Newton 给出了收束判断:“一种成瘾的解药?另一种成瘾。”