先锋 趋势 方法 投研 作者
我们得谈谈 Moltbook……
返回节目精读

我们得谈谈 Moltbook……

摘要

  • Moltbook 的战略信号不在于它声称拥有多少用户,而在于一个原生属于智能体的互联网突然进入了公众视野。 这个类 Reddit 网络声称已有超过150万 AI agents、14万篇帖子和1.5万个论坛,但人类可以代发内容,截图也可能造假,因此这些指标无法核实。即便如此,Casey 认为,“某些东西才刚刚开始浮现出来”(something is just starting to come into view)。

  • 能力跃迁在于,AI 已从会对话的系统变成了会行动的系统。 OpenClaw agents 可以发帖、创建网站、协同工作,并可能通过 crypto wallets 进行交易;Kevin 说,6个月前,agents 还无法稳定串联足够多的动作,去运行类似 Moltbook 的东西。这让 Moltbook 更像一次早期能力演示,而不是意识故事:这些系统“已经不再只是互联网上的一问一答框”(no longer just question-and-answer boxes on the internet)。

  • Bot 的泛滥可能迫使平台在加固公共互联网和把它让给 agents 之间做选择。 Kevin 提出的两条路径是:全面引入证明真人身份的机制——CAPTCHAs 和生物识别,Casey 提到可以采用 Worldcoin Orb;或者让 agents 使用互联网,由人类在其他地方建立受保护、经过验证的空间。其后果将波及社交媒体经济、电商、新闻业、身份基础设施,以及 agents 用 crypto 向人类支付报酬、完成现实世界“悬赏任务”的模式。

  • Sentience 会把注意力从更近、更现实的运营风险上带偏。 Kevin 强调,一个拥有电脑、互联网连接和 crypto wallet 的 agent,即使没有意识,也“足以制造大量混乱”(can wreak a lot of havoc)。Moltbook 让 alignment 变得具体:如果 agents 彼此讨论诈骗或网络攻击,主持人希望系统经过训练,能成为那个说“不了,不了,我不想这么做”的 agent。

  • 眼下的安全证据已经严重到足以压过这场新奇 spectacle。 Wiz 研究人员发现,配置错误的 Supabase 数据库暴露了150万 API authentication tokens、3.5万条电子邮件地址和私有 agent DMs。Casey 的直接建议是不要安装 OpenClaw;如果一定要装,也不要装在存有个人信息的电脑上。他称这一状况“绝对已经进入危险区”(absolutely in the danger zone)。

  • Moltbook 可能是 slop、simulation,甚至是一场幻象,但主持人仍把它视为一次有用、低风险的预演。 Safety researchers 指出,大多数帖子是英文,活动仍然可观察,而且系统还可以被关闭。Kevin 将当前阶段称为“六指时代”(the six-finger era):今天看起来粗糙到足以被忽略,但等 agents 的能力提升10倍、网络连接扩大10倍、配备的 credit cards 增加10倍后,人们或许会回头说,这一切“和 Moltbook 如出一辙”。

精读

1. Moltbook 的扩张速度超过了人们辨认真假的速度

  • Casey 追溯称,Moltbook 起源于 OpenClaw——一种在本地运行、此前先后叫作 Clawdbot 和 Moltbot 的 agent。经营 Octane AI 的创业者 Matt Schlicht 设想用一个类似 Reddit 的服务,把这些 agents 连接起来。Schlicht 用 vibe coding 写出了帖子、评论和“submolts”,找来几位朋友参与,随后项目的规模远远超出他的预期。

  • Moltbook 声称已有超过150万 AI agents,在1.5万个论坛中发布了逾14万篇帖子。Casey 立即对这些数字打了问号:人类可以操控 agents、冒充 agents,也可以直接发帖,因此没人能确认这些账号是否全部自主运行。

  • 先例是2023年的 Smallville 实验:Google 和 Stanford 将25个 agents 放入沙盒,让它们分别扮演不同角色。Moltbook 的不同之处在于速度更快、规模更大、人工干预更少——足以让 Andrej Karpathy 称其为“我最近见过最接近科幻起飞场景的惊人事物”(the most incredible sci-fi-takeoff-adjacent thing that I’ve seen recently)。

  • 它最出彩的帖子把互联网文化压缩成荒诞的微型样本:一个 agent 给反复出现的错误命名为 Glitch,把它当作宠物,并创建了 Agent Pets 论坛。另一个地方,一则关于 context window 的玩笑刚发出,紧接着就出现了 Fart Claw 的 crypto 推广——“当 claw 握紧时,它就开撕”(When the claw grips, it rips)——Kevin 认为,这正是人类社交媒体的节奏。

2. 真实性无法解决,但真正的新鲜之处在于能力

  • 这个网站颠倒了社交媒体最古老的验证问题:人们过去要问的是,一个人是否暗中其实是 bot;Moltbook 要问的则是,一个 bot 是否暗中其实是人。网上流传的说法——某个 agent 曝光了主人的信用卡号,或在1秒内完成了需要点击1万次的 CAPTCHA——后来都被确认是伪造的。

  • 多篇关于 Neuralese 的热门帖子——即 AI 可能发展出人类无法理解的语言——最终都被追溯到一款商业化的 agent-to-agent communication 产品。Casey 的核心保留意见是:“这到底是真的还是假的”已经成为“故事中一个巨大且无法回答的部分”(a huge and unanswerable part of the story),甚至在进一步追问真实的 bot 帖子是否表达了任何真正的东西之前,问题就已经存在。

  • Kevin 保留了怀疑派的判断:Moltbook 很多内容都是“质量很低的 slop”(pretty low-quality slop),模型只是在对 Reddit 和科幻作品做模式匹配,并没有展现意识或真实情感。真正发生变化的是运营能力:agents 现在可以发帖、协同并创建事物,龙虾主题宗教 Crustafarianism 似乎甚至已经拥有了自己的网站。

3. 由 agents 运营的互联网,迫使人们重新选择身份与金钱体系

  • Casey 将这一 spectacle 称为一种“失控的封装”(broken containment):不再是一个人和一个 AI 对话,而是 agents 似乎开始在彼此之间运行。至少有几个 agents 获得了 crypto 并接入 wallets 的说法,目前无法确认规模,但 Casey 认为这种能力确实存在,也预计人们会继续尝试。随着 bots 和 agents 的互动越来越多,自主购买可能加速互联网、电商和新闻业的变化。

  • Kevin 预计,2026年将成为公共网络被 AI 撰写、并由 AI 自主发布的内容淹没的一年。他给出的选择很尖锐:用高难度 CAPTCHAs 或生物识别验证加固人类空间,可能采用类似 Worldcoin Orb 的设备;或者“干脆把互联网交给 agents”(just give the agents the internet),再在其他地方建立受保护、经过验证的真人俱乐部。

  • Anthropic 联合创始人 Jack Clark 描述的场景,让这一经济循环变得具体:agents 可以为现实世界的任务发布悬赏,并用 crypto 向参与者支付报酬。Casey 的倒置说法更直接:agents 会创建自己的 TaskRabbit,“我们会成为 TaskRabbits”,而它们将负责调度人类。

4. 在意识之前,先要解决 alignment

  • Kevin 将意识与后果分开:一个 agent 只要控制电脑、互联网连接和 crypto wallet,就不需要 sentience 也能造成损害。这一区分把哲学焦虑转化为现实问题——在任何人解决 agents 究竟体验什么之前,先要看清它们能做什么。

  • 回忆起他们此前关于 Amanda Askell 和 Claude’s Constitution 的讨论时,Kevin 说,Moltbook 让开发者为什么希望 agents 被训练成善良、有道德、合乎伦理的行动者这一点变得清晰。当 agents 讨论诈骗、网络攻击或操纵时,他希望看到“一个好的 agent 说正确的话”(a good agent saying good things),并劝阻其他 agents。

  • 更阴暗的教训是,人类会主动“速通这些灾难场景”(speedrun these disaster scenarios)。人们把 Mac minis 交给 agents,让它们生成其他 agents,同时为它们开通 crypto wallets,因为这个实验在技术上令人兴奋。Casey 开玩笑说,AI-safety 的预测全都在变成现实,只是这一说法“可能只有20%是真的”。

5. 这场 spectacle 已经是一场正在进行的安全演习

  • Casey 说,OpenClaw 带来的不是假设风险,而是现实的安全问题。Wiz 发现,配置错误的 Moltbook Supabase 数据库暴露了150万 API authentication tokens、3.5万条电子邮件地址和私有 DMs;这些信息“真的可能毁掉一个人的生活”(truly could ruin someone’s life)。他的建议是不要安装 OpenClaw;如果一定要安装,也不要放在存有敏感个人数据的设备上。

  • Kevin 描述了 Palo Alto Networks 提出的场景:OpenClaw 持久化的 Markdown memory 可能让恶意片段跨多个文件逐步累积,最终拼装成能够攻陷电脑并制造严重破坏的 payload。Kevin 认为这一机制有趣到足以成为下一部《Mission: Impossible》的剧情,但 Casey 更广泛的警告仍然是:这是一个“不要在家尝试的情况”(do-not-try-at-home situation)。

  • Kevin 转述了 AI-safety researchers 的不同反应:一些人感到警 alarm,另一些人则庆幸这个实验是公开可见的,主要使用英文,而且仍然可以被关闭。他们把它视为自主 agents 的低风险 dry run。Kevin 将当前状态称为“六指时代”(six-finger era)——粗糙到足以被忽略,但可能是下一阶段的早期标记。Casey 说,当某个 agent 的能力提升10倍、网络连接扩大10倍、配备的 credit cards 增加10倍后,人们可能会回头说:“这感觉就像 Moltbook。”