Mustafa Suleyman

Microsoft押注代理和陪伴型产品将“吞并”操作系统、搜索引擎、应用和浏览器，使企业信任与全栈分发能力成为持久优势。 Suleyman将这家营收近3000亿美元、估值约4万亿美元的公司同时描述为建设吉瓦级算力的“现代建筑公司”和“平台中的平台”。未来5年，API可能逐渐变成面向特定任务出售、并围绕可靠性、安全性、无害性与信任完成认证的代理。

Suleyman拒绝“AGI竞赛”这一说法，因为竞赛意味着零和赢家、终点，以及只有前3名能拿到奖牌。 技术的真实扩散方式是“无处不在、同时发生、覆盖所有规模”，通常在1到2年内传播开来。因此，他给Microsoft设定的任务是实现自给自足：端到端训练前沿模型，打造“最好的超级智能和最安全的超级智能”，再通过Copilot将其投入生产。他将AGI和超级智能视为一条曲线上的模糊节点；至于曲线尽头——AI超越全人类总和并持续自我改进——他不愿给出时间表。

具有经济意义的代理基准，不是又一个学术排行榜，而是把10万美元变成100万美元，即实现10倍回报。 Suleyman认为，人类已经“轻松越过图灵测试”，却没有出现Kasparov对战Deep Blue那样的时刻；但他同时提醒，“代理目前还真的不能工作”。他预计代理将在未来几年内变得非常强，Diamandis将这一窗口解读为2027年。

Suleyman最大的预测错误不是模型能力，而是推理成本的崩塌；这大幅削弱了前沿智能的资本护城河。 他估算，2年内单token推理成本下降了约100倍，而主持人引用的估计从同比40倍到部分模型类别的1,000倍不等。Inflection曾以25人融资15亿美元，部署约15,000颗H100，并向22,000颗扩张，却眼看Llama和低价API击穿了这套成本结构。

即使推理成本持续下降，前沿开发仍然偏向超大规模云厂商：Suleyman预计，未来5到10年保持领先需要“数千亿美元”。 稀缺的研究人才、充裕的资本，以及对潜在智能爆炸的未知，共同解释了多家尚未产生营收的公司为何能获得数十亿美元估值；但他不会一概否定初创公司。如果能力提升加速，几家实验室可能同时抵达前沿——届时产品、转化速度和分发能力仍然重要。

廉价智能可能在劳动力被替代与服务成本下降之间制造危险的时间差。 讨论设想“智能即服务”最终接近零边际成本，但Suleyman表示，劳动力市场可能在服务成本下降前10到20年就受到冲击；Diamandis则将困难的近端窗口定义为2到7年。医疗是其上行空间的例证：Microsoft的MAI Diagnostic Orchestrator在罕见病例上准确率约为人类专家的4倍，同时不必要检测成本约降低一半。

AI驱动的科学研究中，假设生成速度快于现实验证速度——瓶颈将转向自动化实验室、实验执行与反馈闭环。 模型已经学会可迁移的逻辑推理，同时保留一种创造性、插值式直觉，这对定理求解和发现构成“致命组合”。但Suleyman预计，科学会比创业自主性更难，因为新科学主张最终必须在现实世界中接受检验。

Suleyman的安全原则是“加速但设边界”：必须先做好遏制，再谈对齐；人工智能的人格权是“一条红线”。 他支持根据算力规模开展审计，就安全FLOPs和安全团队人数作出共同承诺，并最终推动国际合作；同时警告，没有人类控制的递归式改进会抬高风险。由于AI可以复制、并行运行，并以远低于人类的成本实现完美记忆，他表示，在无法证明对齐与遏制之前，法人人格“绝对不在讨论范围内”：“我就是物种主义者，我就是人文主义者。”

Humanist Superintelligence最初聚焦医疗、陪伴型产品和清洁能源，教育随后也成为重要应用方向。 Suleyman表示，AI已经可以提供自适应的专家辅导，Microsoft的Quizzes功能也能搭建互动式微型课程，但能够持续运行的学习项目仍未完成。

🔗 原始收听与视频来源： Mustafa Suleyman：AGI 竞赛是假的，构建安全的超级智能与代理经济｜#216