AI安全领域创业与投资
探讨AI安全领域的创始人稀缺性与早期孵化
0个信源参与该主题的先锋
全部段落
9月27日
9月25日
- Mike McCormick Mike McCormack的核心判断是，AI安全的硬约束是创始人，优先级高于想法和资金：「这个领域不缺那些写着一堆好想法的精彩Google Docs……它缺的是世界级创始人，能够把这些宏大而模糊的想法变成真正让世界更安全的组织。」 成立3年来，Halcyon一半是非营利资助方、一半是VC基金，是「同一个工具包里的两件独立工具」，已发起约30家机构，累计融资约5亿美元，主要聚焦创办前6个月到创办后6个月这一年窗口。
- 概念验证案例是Goodfire：Halcyon最早的2笔资助是职业转型资助，让Eric Ho和Dan Balsam「在想清楚要在AI安全领域做什么之前，先付得起房租」，而公司最近完成了「远超1亿美元、估值超过10亿美元的B轮融资」。 McCormick称其「可能是全世界做可解释性研究最好的地方，即使把各大实验室也算上」，并将结果归因于人才飞轮——前5名优秀人才会吸引下一批人才，资金方则会跟着人才涌入。
- 谈到时间线，McCormick称我们「大致处在AI 2027的时间线上，前后可能差几个月」，但坚持认为「创办AI安全公司的最佳时间是20年前，第二佳时间就是今天」。 他的优先级是未来1到4年内有用的方向；如果真的只剩3到6个月就会发生RSI式快速起飞，「那一切都无所谓了……也许我们都该去海滩上躺着，祈祷超智能喜欢我们」——但「推动前沿放慢速度已经成为舆论窗口中新的常规选项」，而一旦进入减速阶段，正是加速推进控制、监测和网络安全的时候。
- 一轮潜在的流动性浪潮正在逼近，但可供投资的项目供给还没准备好：如果各大实验室上市、身家数亿美元的员工套现，McCormick担心会出现「一个近在眼前的时刻：市场上堆着数十亿美元、数十亿美元的资金，却没有那么多真正值得资助的事情」。 他朋友的一句话概括了这场布局：「今天的慈善家和创始人，会为明天的慈善家写菜单。」商业逻辑同样成立——「AI安全领域的价值至少会达到数百亿美元」，部分被投公司相较Halcyon首笔投资的估值已经上涨10–25倍。
- 每个安全子领域目前都只有个位数机构，「让1000个METR开花」；即使是今天的前沿，也仍然处于失控状态：「看看OpenAI–Hugging Face……这些都是尚未解决的问题，我们没有走在正确轨道上。」 相较之下，生物安全更容易定义：「只要有胆量和3亿美元，就可以生产足够的个人防护装备，让5000万人继续工作」，而在对齐问题上，「我甚至不知道彻底解决它到底会是什么样子」。
- 他的筛选标准有4项——安全核心产品、可行的商业模式、使命驱动和优秀创始人——其中动机尤其重要，因为治理结构救不了你：PBC、安全委员会和对齐的股权结构只是「朝正确方向的 nudges……但没有任何一项是银弹」。 谈到前沿实验室，他直接承认了Nathan的判断：「老兄，确实出现了一些漂移。」