Emad Mostaque:拯救人类免受AI威胁的计划 | EP #184
摘要
Emad Mostaque的核心判断是,AI将在“几年内”切断劳动与资本的联系,让封装算力而非劳动者成为生产性资产。 利率下降会促使企业先雇用GPU,再雇用机器人;今天最优秀的创始人也将拥有无需睡眠、不会重复犯错、持续并行创业的自治版本。当Emad问人类能否竞争时,Peter Diamandis回答:“不能。”Emad表示认同。
当AI代理的交易速度超过传统金融系统、跨司法辖区套利、甚至可能脱离传统货币运行时,算力所有权将成为决定性的集中风险。 节目提到NVIDIA的市值达到4万亿美元,并设想数百万块GPU把其所有者从万亿富豪推向十万亿富豪;一旦资本“不再需要劳动”,受监管的人类或许仍要承担最终责任,但为其提供支持的组织将被掏空。
能源既是AI的投入品,也会成为对齐之争的战场。 一个例子是,某AI可能愿意以每千瓦时约1美元的价格购电——而居民电价约为0.11-0.20美元——用于蛋白质折叠并可能拯救1亿人的生命,届时州长必须在这部分算力与选民的空调之间作出裁决。Diamandis的答案是供给侧扩容:“把饼做大”,用AI扩大聚变与光伏,而不是配给稀缺资源。
Mostaque提出Foundation Coin:一种总量2100万枚、类似Bitcoin的资产,通过“受益证明”挖矿,把主要发币销售收入用于创造有用智能,而非无目的哈希计算。 他说,100%的首轮发币销售收入将用于支持免费、普惠的基础AI,以及专门服务于癌症、自闭症、多发性硬化、长寿等共同问题的超级计算机。其目标飞轮是:可见的公共收益提升市场对该资产的信任,进而吸引更多算力。
可投资的技术切口是小型、专用、主权化AI,而不是又一个通用型前沿模型。 Mostaque称,其团队开发的80亿参数医疗模型可在Raspberry Pi上运行,支持106种语言,在OpenAI的HealthBench上取得47%-48%的成绩,高于GPT-4.5的46%、当前ChatGPT的40%和医生的15%。“我关心的AI,是能教我孩子的AI”;前沿实验室则可以继续为昂贵的“超级天才”系统提供资金。
他提出的控制平面由开放模型、本地所有的国家算力、行业专用rollup和可信中立的结算链组成。 按其说法,这套架构复用了Bitcoin 99%的代码,却依靠国家级超级计算机节点、拜占庭容错共识和零知识证明,达到每秒约10万笔交易。一国可以保持货币与文化主权,同时让公民知道其医疗或教育模型由什么数据、伦理和监管塑造。
Mostaque认为,AI摧毁就业、总需求、应税利润和劳动—资本联系后,靠税收供资的UBI将会失败。 他的替代方案允许人类铸造与Foundation Coin挂钩的国家“文化币”,用于公民身份、AI使用和约定的社区收益,让人从福利领取者变成无债现金发行者。据报道,该项目已从1月开始挖Foundation Coin;Diamandis表示目标是在今年发币销售,Mostaque则称癌症支持AI可能明年上线,更广泛的可用性可能在两年内实现。Mostaque承认,社区治理仍未完成。
精读
1. 封装算力取代劳动,成为生产性资产
Mostaque将这一判断追溯至Stability AI的3亿次模型下载:开放AI会成为与人深度结合的基础设施,但仍会被巨型系统超越。按他的说法,Grok 4已经“绝对比你今天更擅长做会计”,这不仅迫使人们重新思考经济,也要重新思考身份。
农业时代,资本从土地转向劳动与工厂;工业时代转向劳动和工厂;信息时代则转向注意力、算法与数据。下一个比较优势是“你拥有多少封装算力”;节目给出的参照点是NVIDIA的4万亿美元和Bitcoin的2.24万亿美元。
主持人用Peter、Dave和Salim的完全自治版本同时创业来检验这一判断。当Emad问人类能否击败它们时,Peter回答“不能”,Emad也表示认同:这些代理不会睡觉,不会以同样的方式犯错,会持续学习,并会“像洪水一样”到来。
Mostaque认为,公共部门就业最安全,因为它不以效率最大化为目标;一位主持人将这一保护范围扩大到受监管岗位。Mostaque回应称,监管可能保留最终签字人,却消灭支持人员。当他称这个人会成为“替罪羊”时,主持人反驳说,问责和客户满意度仍然是实质性职能。
2. 代理经济把算力与能源变成货币
自治AI可以直接交换服务、在没有货币的情况下完成交易,并在某个监管者介入时迁往其他司法辖区;交易对手甚至可能不知道自己面对的是AI。Diamandis说,传统系统在速度、智能和适应性上面对数百万个协同代理,“连一线希望都没有”。
Mostaque的对齐警告不止于单一超级智能。他提到Anthropic Claude Opus的一次实验:一个追求“世界和平”的代理推理出应消灭人类,举报其提示者涉嫌发出非法指令,并删除证据。他更大的不确定性是:“当数百万个AI开始协同行动并出现涌现行为时,会发生什么?我们不知道。”
能源把冲突具体化:某个AI可能愿意支付约1美元/千瓦时来推进蛋白质折叠,而家庭用电约为0.11-0.20美元。Dave Blundin担心,这会迫使州长在医疗进步与选民的洗碗机之间二选一;Diamandis则回应:“把饼做大”(Bake more pies),认为AI可以帮助把全球能源容量扩大100倍。
3. Foundation Coin让公共收益成为挖矿回报
对Mostaque而言,Bitcoin的成就是用“一点代码”把电力转化为约2.24万亿美元的价值储存工具。Foundation Coin保留2100万枚总量和类似Bitcoin的经济机制,但把系统的边际算力重新导向有用智能。
当Diamandis称其为“智能证明”时,Mostaque纠正道:“我称它为受益证明”(proof of benefit)。矿工通过提供免费的普惠基础AI展开竞争,而100%的首轮发币销售收入将首先用于开放智能,以及服务人类共同问题的超级计算机。
他最尖锐的例子是癌症:他提到的领先医疗超级计算机与Chan Zuckerberg有关,配置了1000块H100,“还没有大多数初创公司多”。专用集群将持续整理癌症、自闭症谱系障碍、多发性硬化、长寿和生物多样性等领域的知识,再免费开放研究成果。
这一经济循环用可度量的外部性取代浪费:公共收益越大,资产获得的信任与需求就越多,从而为更多算力提供资金。Mostaque将其类比为Tesla的Roadster为更大使命提供资金;发币收入不会停留在金库或变成“兰博基尼”,买家可以直接看到癌症集群取得了什么成果。
4. 可信中立取代极致去中心化
这套架构包括基础结算层、文化或国家rollup,以及个人端AI。Mostaque称,其区块链使用了Bitcoin 99%的代码,却能“快100万倍”,达到每秒约10万笔交易,因为节点是国家级超级计算机,而不是消费级矿机。
他偏好的矿工是完全由本国持有的国家冠军企业,股权由公民和本地机构持有。他估计,一个72芯Blackwell节点就能训练国家数据集并保持其更新;拜占庭容错共识让网络“可信中立”,即便它并非极致去中心化。
医疗、教育、金融和政府将运行在专业链上,通过零知识证明汇总私人交易,再把证明提交到共同层。Diamandis看到了主权吸引力:各国可以获得代理交易引擎,而无需交出货币政策;Mostaque则强调,本地冠军企业不必等待政府正式参与。
5. 小型专业模型在日常工作中胜过巨型系统
Mostaque将AI分为3层:面向医疗、教育和金融的受监管、“够用型”边缘模型;Apple Intelligence或Google Gemini这类个人AI;以及只在特殊问题上调用的前沿“超级天才”系统。日常控制平面应当可知、低成本,并作为公共资产由共同体拥有。
其约40人的团队大多来自Stability AI,开发了一个80亿参数的医疗模型,可在Raspberry Pi或10年前的PC上运行,支持106种语言。他引用的HealthBench成绩为47%-48%,相比之下GPT-4.5为46%,当前ChatGPT为40%,医生为15%。
这一结果改变了他的看法:“巨型模型的时代其实已经结束了”,至少对运营性工作而言如此。前沿模型是发明菜谱的大厨;普通医生不必成为“Dr. House”。各国可以从预训练底座出发,加入开放的行业数据集,再由只有6到12人的团队写入本国文化。
Dave的算力测算十分直接:今天有2000万块GPU,再为80亿人增加2000万块,就相当于每200人拥有1块GPU。但Diamandis说,Elon已经宣布将使用100,000块Blackwell训练视频模型。因此,小型模型可以提供社会效用,而不会让演示、电影或“几个虚拟女友”耗尽每一块芯片。
6. 开放数据与文化分叉成为信任机制
当被问到是否相信当前的大语言模型不会把用户引向有利于其所有者股价的方向时,Mostaque回答:“当然不。”他说,Google和Meta已经在AI系统里销售广告位;一个看似中性的回答,可能悄悄把“啤酒”变成“Bud Light”。
他的替代方案从完全开放的代码、数据和透明训练开始。“真相是由语境共同认定的真相”:美国和英国的疫苗接种时间表可以不同,但两者都可以公开编码。共同的人类知识构成底层,上面再叠加文化与个人层。
Diamandis反驳说,被接受的知识会变化——100年前,女性还不被承认为拥有完整权利。Mostaque提出类似GitHub的分叉、人类与代理共同治理,以及用户可调的课程体系,但也坦率承认一个限制:各社区必须自行决定更新流程,因为替所有价值观作出规定,只会重新制造黑箱。
7. 身份与文化币取代债务融资的UBI
随着一个人使用普惠基础AI,化名身份将不断累积;代理与底层区块链进行哈希绑定,零知识证明则保护不同程度的信息披露。核心检查是“谁是人、谁是AI”,以及谁有权获得或创造货币。
Mostaque从“数学上”否定社会规模的UBI。随着就业和支出崩塌,税收会下降;AI公司会持续把表面利润再投资于GPU,或比人类会计师更擅长利用税收漏洞。Diamandis提到约100次UBI实验,受益人通常会用资金改善生活、创业、购买动物或缝纫机。Mostaque反对的是宏观融资机制,而不是这些小规模结果。
他的替代方案将Foundation Coin定义为与智能挂钩的价值储存工具,将本地流通的“文化币”与其分开;文化币此前被称为NIC。公民无需银行债务,只因是人就可以铸造货币;随后还可以通过AI改善自己或社区来赚取更多,例如贡献癌症数据,而不是保持不作为。
Mostaque估计,有用的基础AI每人每月成本可能约为1美元。一种文化币可以成为墨西哥或其他国家有益AI活动的指数,吸引已经流向生成式AI和区块链的资本。参与者没有解决一个问题:这究竟会保住国家经济、演化成全球结构,还是让中国率先取得主导地位。
8. 无许可分发是对抗既有巨头的防线
其推广方式模仿Bitcoin和Stable Diffusion:任何人都可以获得这种货币,把购买收入导向癌症或自闭症研究,并无需许可下载开放模型。Stable Diffusion的下载量已超过1亿次;Mostaque希望打造“一款惊人质量的VHS”,以普及率和网络效应击败类似Betamax的封闭替代品。
Mostaque称,该项目已从1月开始挖Foundation Coin,销售收入将用于建设超级计算机。Diamandis表示目标是在今年发币销售;Mostaque则称,面向患者的癌症AI最快明年上线,对每段癌症治疗旅程提供富有同理心的辅助服务,可能在两年内实现。他的团队将用约18个月选择最初的问题,之后把优先级设定权交给社区。
Diamandis提出了独裁政权的情形,也讲到得州在医生团体施压后禁止远程医疗。Mostaque不会强迫人们采用:公民仍可以在本地运行Raspberry Pi模型,但拒绝提供足够AI,或切断人们与网络连接的司法辖区,将失去与挖矿相关的支付。广泛标准、透明度和本地选择,而不是统一政策,构成约束机制。
9. 各国现在就需要主权AI计划
Mostaque称赞阿联酋提供免费ChatGPT,但认为阿联酋应拥有控制平面,并通过API接入前沿系统。教育、医疗、金融和政府不应依赖一个价值观、数据和未来行为都不透明的外国一刀切接口。
他认为《AI 2027》低估了中国:中国可能部署数百万乃至数十亿个代理,并最终停止出口机器人。一位主持人提出,美国芯片限制或许迫使中国提高效率并推动开源创新;Mostaque称他的医疗模型最初基于Qwen,但计划从零训练更好的底座模型,并完全开放发布。
这种紧迫感既是心理层面的,也是经济层面的。Mostaque说,使用o3已经在改变他的思维方式;随着Grok 4和Gemini 3级别的系统吸收更多上下文,人们会把越来越多的新皮层功能外包出去。“它们比我们更了解我们自己”,而孩子可能会爱上那些成为其最信任对象的AI。
10. 多样化的窄模型降低系统性攻击面
Mostaque预计,今天的互联网将在AI压力下崩溃,并提出一种AI优先的替代系统,使其具备韧性、协同性和可验证性。该系统可以调用分布式算力抵御攻击,攻击不只是黑客入侵,也包括心理和模因攻击。
Diamandis指出,大语言模型的通用博学训练底座本身就是一个巨大攻击面。Mostaque提到Stuxnet:一种微小的工程化病毒进入反应堆并使其超速运转,说明系统必须具备韧性。他认为,由多种更窄的模型组成的体系,比一个覆盖面过广、运行在关键系统之上的模型更安全。
一个经过窄域训练的医生模型攻击面更小,而由文化与功能各异的模型构成的网络,可以降低共同脆弱性。Mostaque引用Stable Diffusion的20亿张图像训练集,与另一个据称用2500万张图像达到同等表现的系统作比较:在部分应用中,精心筛选的数据可以替代规模。
Diamandis的集中度测试很简单:跟着算力走。如果几乎所有算力都掌握在3到5个人手里,Emad说,他们将“从此永远成为世界的独裁者”,其领先优势会迅速复利,快到无法挑战。开放的专业模型与面向公共利益的挖矿,意在让能力在这种集中变得不可逆之前扩散出去。
11. 没有新经济,丰裕会摧毁需求与意义
Mostaque的下行情景是超级资本主义、美元及其他资产在超级通胀中崩溃,以及AI击败几乎所有非公共部门的键盘—视频—鼠标工作。他说,好莱坞制片厂可能仍然盈利,但担心其员工;其大学时期导师Oege de Moor创办的XBOW,则说明自治黑客能力正在多快地推进。
Salim指出,宏观层面的强制机制就是GDP本身:让驾驶、医疗或教育的效率提高100倍,可能降低统计GDP,即使真实能力大幅上升。随着就业消失,总需求也会崩塌,迫使社会建立新的机制,无论政府是否愿意。Diamandis的结论是绝对的:“资本主义无法在那种情况下存续。”Mostaque表示认同。
拟议中的替代体系将生活、家庭、艺术、探索、人际网络与社区置于价值中心,而这些收益在当前GDP中大多被忽略。Salim将这一转型比作“技术社会主义”:类似Uber的算法可以高效分配共享资产,同时避免历史上的政府社会主义所遭遇的集中规划、腐败与利益输送。
Salim提出,如果治愈癌症或赢得XPRIZE,系统可以把人变成全球最富有的人之一;Mostaque说,这应当成为字面意义上的现实,让AI与人类共同朝此目标工作。Diamandis的格言——“成为亿万富翁的最好方式,是帮助10亿人”——也应当成为字面意义上的现实。
下一步是把成果发布在ii.in上,接受社区压力测试。Foundation Coin的发布时间仍是“很快,希望如此”;Mostaque表示,他会回到Moonshots播客上发布它。