Underwriting Superintelligence

这家 AI 承保公司的核心论点是，更强的安全护栏应当加速而非限制 AI 的部署。 Kvist 把安全基础设施比作让赛车手能够更快过弯的头盔和安全带：「安全与进步相互强化」（security and progress are mutually reinforcing）。Labenz 则将下行风险描述为一种核武器式结局：武器化继续推进，而实际应用收益却被冻结。

保险、标准与独立审计构成一个单一的激励系统，三者缺一不可。 标准定义最佳实践，审计确认开发者是否真正遵守，保险则在事故仍然发生时赔付。由于保险公司希望保费池扩大、却要承担控制松弛带来的损失，Dattani 认为，这为自愿承诺与僵化的自上而下监管之间提供了一个市场化中间地带。

现有保单让企业和保险公司都暴露在尚未解决的 AI 保障歧义之中。 网络险及其他保单或许覆盖熟悉的损害类别，却经常完全没有提及由 AI 引发的原因；与此同时，保险公司也尚未为一种自己还不知道如何定价的风险定价。Dattani 怀疑，这会重演早期网络保险的路径：经过多年诉讼，计算机相关损失最终被拆分进结构不同的产品。

红队测试可能弥补传统承保所缺乏的历史损失数据。 对话中引用的一项 EY 研究发现，企业已经在承受100万美元级别的损失，而小公司承担的数千美元或数万美元损失，保险公司可能永远看不见。重复评估可以生成合成的出险频率与损失程度数据，而参数型触发机制则能在无需多年诉讼的情况下，按事先约定直接赔付。

私人市场或许可以承保常规 AI 失效，但最大的尾部风险可能需要政府兜底。 Kvist 警告说：「没人知道这种尾部风险分布是什么样，因为我们还没见过它。」拟议中的参照物是美国核保险：运营商承担严格责任并购买强制保险，超过150亿美元的损失则转移到政府资产负债表上，使私人保险公司仍能发挥治理职能。

AIUC-1 把企业对 AI 的担忧打包成一套可审计的采购语言，基础来自500多次行业交流。 它覆盖数据与隐私、安全、安保、可靠性、问责和社会风险，并强调披露，因为医院和零售商有理由选择不同的风险阈值。初始红队测试有时会发现高达25%的特定攻击失败率；加上安全护栏后，同一失败率可以下降90%，但创始人强调「没有万能药」（there are no panaceas）。

应用层是这家 AI 承保公司的首个商业切入口，因为代理厂商做出的承诺异常具体，却没有基础模型规模的资产负债表。 客服代理承诺解决一定比例的工单，同时隐含承诺不会制造品牌灾难：「承诺越厚，所需的保障就越厚。」更长期的路径将从百万美元级风险，延伸到数亿美元和低个位数十亿美元，再到数百亿美元，覆盖应用、基础模型系统和数据中心。

公司正在设计自己的经济模式，以避免重演2008年前损害信用评级行业的“发行人付费、一路压价”竞争。 作为管理总代理，其报酬将取决于保险公司的承保结果；重大损失意味着更低或为零的报酬、失去保险公司合作关系，甚至可能「我们会倒闭」。Labenz 披露，他与 Nat Friedman、Emergence 和 Terrain 一同投资了公司的种子轮。早期技术贡献者包括 Cognition、Ada、Intercom 和 Recraft；企业联盟成员包括 JPMorgan Chase、Confluent 以及 Anthropic 的副 CISO。

🔗 原始收听与视频来源： 为超级智能承保：AIUC 的保险、标准与审计如何加速 AI 采用