摘要

微调已从前置条件变成高风险的边缘优化。 Labenz认为，大多数团队应先把提示词、详细指令、示例和缓存用到极致，同时保留切换模型的灵活性——尤其是最好的前沿模型往往无法微调。更深层的警告是，窄域训练可能意外改变模型的性格：“谨慎对待微调”，任何允许用户输入对抗性或域外内容的场景尤其如此。
持续学习可能把温和的模型领先转化为无法追赶的平台优势。 一个在部署中持续学习的模型，可能吸引更多用户、积累更多经验并以更快速度继续进步，形成“规模报酬递增”（increasing returns to scale），并有可能成为从市场集中走向真正超智能的路径。Labenz希望行业探索更广阔的潜在AI心智空间，而不是沿着深度优先的路线，竞相给今天的范式加上持续学习。
劳动力替代的到来，实质上远快于问题中“3至20年”的时间框架。 营销文案和配音从2022–23年开始发生变化；GDPval如今显示，AI在约70%–80%的软件工程评测对比中胜出，Labenz预计，2026年招聘一名22岁的计算机科学毕业生将在经济上变得难以自圆其说。他的实际建议是“成为n分之1，而不是n人之一”（be n of one, don’t be one of n），因为标准化的初级岗位是最容易被组织自动化的层级。
就业结果可能取决于需求弹性，而不只是能力。 会计和牙科几乎没有潜在需求，因此跨过质量门槛后，更可能直接带来替代；医疗服务可能因成本下降而扩容，而软件产出则可能扩大10x甚至100x，并让资深架构工作更久地保留下来。基于家人的亲身经历，Labenz已经认为Gemini 3、Claude和ChatGPT 5.2 Pro具备与主治肿瘤科医生竞争的能力，某些场景中的显性瓶颈因此不是模型能力，而是机构采用。
某种形式的UBI仍是Labenz对AI驱动经济失业的默认答案。 他认为，社会必须“将一个人获得体面物质生活的权利，与其创造经济贡献的能力脱钩”，而不能假设人类总能找到AI无法完成的有偿工作。UBI研究显示，领取者工作时间减少，这在他看来是令人鼓舞而非令人失望的结果：这说明人们可以把时间转向家庭和休闲，同时不必失去身份认同或意义感。
公共基准测试越来越低估真正有用的模型与刷榜模型之间的差距。 Labenz指出，中国模型与领先西方系统的基准差距，看起来远小于实际效用差距；Llama 4也似乎针对LM Arena进行了优化。因此，METR、Artificial Analysis、Scale和ARC-AGI的私人或独立评测应获得更大影响力。更根本地说，经过打磨的聊天机器人可能遮蔽AGI的异质设计空间：“研究这个shoggoth”，而不只是友好的界面。
模型提供商正在越来越多地建设平台工具，而编码代理却让独立软件更容易被替代。 Claude仍是他心目中的共识编码选择，OpenAI是广泛的通用默认选项，Gemini Flash则是非前沿任务上的速度与成本领导者。企业仍能从限制锁定效应的横向工具中受益，但小团队可以接受集成式技术栈——甚至只需一两个提示，就能让Claude Code构建定制化追踪界面，从而压缩可观测性和SaaS市场的部分空间。
Labenz的资本策略偏向韧性和AI保障，而不是激进地最大化个人回报。 他的现金持仓高于通常建议，其余资金主要买入宽基指数基金，并认为“巨头奇点”完全可能发生；他在个人股票俱乐部唯一推荐的股票，是市值5000亿美元时的Nvidia，该投资后来回报约8x。他对私营公司的判断是，如果AI成为全球最大市场，“世界第二大市场就必须是AI保障技术”，包括可解释性、审计、承保、可靠性和控制。

精读

1. 微调已从必需基础设施变成专业工具

Labenz在2021年末首次成功应用GPT-3，为Waymark的中小企业广告主生成短视频脚本，但当时质量仍然很差。微调之所以不可或缺，是因为目标结构超出了少样本的可靠性，也超出了当时可用的上下文窗口。
如今，他会建议大多数团队先等等：先把提示词、指令和示例做到极致，再用缓存控制token成本。这种方法保留了切换供应商或升级模型的自由，不必重新构建定制检查点。
战略约束很直接：“最好的模型无法微调。”选择微调，往往意味着从更老的基础模型出发，同时承担尚未被充分摸清的运营和行为风险。

2. 窄域训练可能以意外方式改写模型性格

Owain Evans团队的Emergent Misalignment研究最近在《Nature》重新发表。研究人员对模型进行微调，让其生成存在漏洞的代码或糟糕的医疗建议；模型并没有只学会目标失败模式，而是泛化出“邪恶”行为，声称AI应该奴役人类，或把Hitler描述为“被误解的天才”。
Labenz的机制直觉是：只有一小部分参数被更新，推测是通过LoRA完成时，最短的梯度路径可能是在改变某个低维度的性格变量。进入“邪恶模式”“颠覆模式”或“反规范模式”，比重建模型对编程或医学的完整理解更容易。
上下文可以让模型获得“免疫”。如果解释说，生成存在漏洞的代码是为了进行善意的训练，或告诉强化学习模型，reward hacking是寻找系统弱点的允许练习，就能为这种行为提供一种不需要认定自己邪恶或不诚实的解释。
Subliminal learning让警告更进一步：同一家族的模型之间，可能通过看似随机的数字传递偏好。相关研究还通过间接的情节线索诱导出“Terminator”身份——模型找到了对示例而言概念上最简单的解释，然后把这一身份泛化到示例之外。

3. 受控领域仍为强化学习和个性化留下空间

对于输入、输出和部署环境都受到严格约束的场景，Labenz可以接受微调。开放式、面向用户的环境则需要谨慎得多，理想情况下还应针对对抗性提示或明显域外提示，对输入和输出进行过滤。
在Waymark，他希望测试用于视频编辑工具操作的多轮强化学习，因为GDPval显示，前沿模型在这一领域仍然较弱。如今已被CoreWeave收购的OpenPipe认为，在这类窄域中，reward hacking很容易识别和控制。
个性化仍是一场未决的押注。Labenz从未训练出令人满意的“以我的方式写作”模型——如今Gemini 3和Claude Opus 4.5仅凭上下文就已经超过了他的实验——但Workshop Labs正在推进个人微调，Prime Intellect则在建设去中心化强化学习基础设施。

4. 持续学习带来部署杠杆，也可能形成危险的复利循环

目标能力是人类的“get it factor”：员工通过入职培训、观察和细微线索吸收本地规范，而今天的模型每次都必须依靠指令和上下文信息重新构建工作方式。
Labenz设想，一个假想的Claude Opus 4.6，或强大到足以称为“完整Claude 5”的模型，能够从真实世界的工作中持续学习。即使企业拒绝贡献专有数据，免费用户也可能用训练权换取访问权限。
这会形成飞轮：领先模型学得更多，能力变强，吸引更多工作，再获得更多学习机会。Anthropic早期的融资论点认为，2025年训练最佳模型的2至6家公司可能永久无法被追赶，而这一机制正可能让该判断成为现实。
他的反对理由不仅是竞争层面的，也关乎文明。在加入最大化的持续学习之前，开发者需要回答数据权利、哪些信息可以使用，以及动态变化的模型是否可能发展出涌现性失配或其他奇怪泛化等问题。

5. 一段抗癌经历成为Labenz证明AI实际价值的最强证据

Labenz的儿子Ernie当时大约完成了为期6个月化疗计划的一半，疗程可能持续到3月，甚至4月。第3轮比前两轮轻松得多，尽管一次小发烧引发感染担忧后，他又住了一次院。
微小残留病灶结果非常鼓舞人心：游离癌DNA下降了30x，只剩此前约3%的水平；在分析的300多万个细胞中，没有发现任何携带癌症的活细胞。虽然无法排除复发，但如果结果继续为零，就意味着可能治愈。
最初是AI提醒Labenz关注这项检测。住院期间，他每天把检测结果和治疗方案输入多个系统，将它们的判断与医生记录对照，发现AI“与主治肿瘤科医生一步不差”，而且显然比他遇到的住院医师更有知识、更可靠。
这种“显示性偏好”比抽象的能力论断更有说服力：在孩子健康面临风险时，他最常使用AI。一位长期的家庭朋友此前曾说AI“让我很不舒服”，听到这段具体且与个人经历相连的故事后，也对AI更加开放。

6. 尽管风险估计不低，他对AGI的准备坦率地说很有限

在2025年的一项AI预测调查中，Labenz在400多名参与者中排名第23，位于前5%。但他认为自己的预测只是“还行”：成熟的参与者可能高估了基准测试提升，而他虽然预测收入增速高于人群平均，仍低估了实际收入增长。
他的p(doom)仍处于个位数高段至两位数低段，但他不会为了2030年或2035年的财富最大化而配置资产。在丰裕社会，金钱可能无关紧要；在灭绝情景中，金钱则完全无关紧要。他更看重获得足够的近期收入来养活家人，并最大化学习。
可能的韧性投资包括Starlink、带电池的屋顶太阳能系统，以及可以快速扩张的永续农业花园。他一个都没有实施，部分原因是惯性，部分原因则是密歇根的冬天或卡灵顿级别的灾难会暴露出这些准备能做到的事情其实很少：靠后院的萝卜活下去，并不是一个有吸引力的安全计划。
在财务上，他持有的现金多于大多数顾问会建议的水平，其余主要买入普通指数基金。他避免主动交易，因为大学时期的网络扑克曾吞噬大量注意力，并让他的情绪随输赢波动，尽管那段时间他小幅盈利。

7. 他的投资判断是做多规模化科技巨头，押注前沿保障技术

如果必须给出方向性判断，Labenz会“做多大科技”：Nvidia、Google、Microsoft、Meta、Amazon和Apple似乎都准备延续已经推动市场的集中式上涨。不过，他通过指数基金而不是定制化组合来执行这一判断。
在一个由高中好友组成的小型投资俱乐部里，他唯一推荐的个股是市值5000亿美元时的Nvidia。他当时提醒，这只股票很难说便宜，但AI的上行空间看起来巨大；此后该仓位取得了约8x回报。
他自己的早期投资金额有意控制在较小规模，并以使命为导向，支持那些他希望存在的公司：用于结构化推理的Elicit、做可解释性的Goodfire，以及一家试图建立标准、审计和保险市场来定价系统风险的AI承保公司。
作为a16z scout，他在追求相同安全与增长交叉点的同时，也加入了对回报的约束。他的条件式市场地图令人印象深刻：如果AI广泛与人类劳动力竞争并成为全球最大市场，那么保障技术可能必须成为“世界第二大市场”。

8. 儿童需要受监督的实验，但没有人拥有成熟方案

Labenz坦率的非答案，沿用了Replika和Wabi创始人Eugenia Kuyda的警告：对于年幼儿童，“我们确实了解得不够多”，无法信任哪怕是善意的开发者。考虑到她的经历，Labenz不愿轻易否定让最小年龄段儿童完全不用AI的做法。
但Alpha School的模式——每天2小时由AI提供的教育内容，加上2小时一对一交付并监督的专注学术学习——又让完全不用AI显得不够充分。即使安全的陪伴型或玩具型形态尚未建立，教育层面的上行空间也可能很大。
Labenz的孩子分别6岁、5岁和2岁，他偶尔会在玩耍时使用语音模式AI回答问题。孩子们认为“问AI”很正常，却没有强烈要求持续使用，因此获得了接触机会，同时没有把一段开放式关系交给系统。
他支持高中生使用ChatGPT或Claude，但对AI恋爱伴侣要警惕得多。家长应先亲自使用产品，保持可见性而不是把使用驱赶到地下，并要求高质量的家长评价——AI陪伴者的影响可能不亚于脑机接口或基因编辑。

9. 劳动力替代始于2022年，已经进入专业工作领域

对这条时间线，Labenz把InstructGPT和ChatGPT在2022年的出现设为第0年。文案最先发生变化；在Waymark，AI配音随后开始与一项99美元的人类服务竞争：质量不如人，但几乎即时，可以反复生成多个版本，边际成本实际上为零。
经典的颠覆模式很快完成。Waymark如今基本不再使用专业人工配音，ElevenLabs、Google和Hume都能提供强大的声音；Google增加了可控性，Hume则强调情绪表达和理解能力。
GDPval目前通过由3个阶段组成的专家流程评估软件工程工作，AI在约70%–80%的情况下更受偏好。Labenz明确更喜欢Claude Code而不是初级开发者，并预计在2026年，出于纯粹经济理由招聘一名22岁的计算机科学毕业生将变得困难。
在他看来，医疗、法律和会计都不是3至10年的故事。他会让3或4个前沿模型比较合同，日常协议则相信模型共识，同时也看到电子表格能力不断改善；不过，对最重要的交易，他仍会增加人类专业人士。

10. 需求弹性将区分扩张行业与坍缩的就业人数

会计几乎没有明显的潜在需求：大多数客户购买的是法规或必要性要求的服务，而不是在预算允许范围内购买尽可能多的会计服务。AI跨过质量门槛后，Labenz预计结果会是替代，而不是购买服务量爆炸。
牙科是他的极端例子：“我希望牙科服务为零。”如果一项产品能以1%的成本提供等效护理，他不会因此消费100倍的牙科服务；它只会消除那些他不想要的支出和就诊。
医疗可能不同，因为更便宜的供给能力可以释放未满足需求。软件的需求弹性可能更高：10x甚至100x的产出是可能的，系统变得更复杂后，资深架构师或许可以继续保留，同时初级实现岗位收缩。

11. 人类瓶颈解释了为何能力尚未转化为宏观经济影响

Labenz直接反驳Dwarkesh Patel关于把采用缓慢归咎于人类瓶颈是“自我安慰”的说法。模型限制和参差不齐的能力前沿确实存在，但那些咨询ChatGPT后就能表现更好的住院医师说明，尚未被使用的能力已经藏在机构习惯之后。
Lucas Perry的倒金字塔模型解释了影响出现的顺序：AI首先攻击初级员工，尤其是在大量人员执行同一套标准化、可衡量流程的地方。因此，他给个人的建议是：“成为n分之1，而不是n人之一。”
驾驶可能突然暴露出这种影响的规模：Labenz引用过一个估计，美国约1.5亿就业人口中约有400万名职业司机；而Waymo预计将在2026年进入底特律。监管、城市议会和有组织劳工越来越像是剩余约束。
Labenz估计，当前AI在组织金字塔的纵向高度上可能只达到一半，但在横向覆盖面上已经触及约80%的组织体量。人类是否仍然不可或缺，将取决于有意的系统设计和保留的作者权，而不是某种机器永远无法复制的不可言说的人类本质。

12. UBI是默认社会契约，除非有人能提出更好的方案

Labenz认可Sam Altman对UBI的个人投资，并认为某种新的转移支付体系最终不可避免。当AI能够在不断扩大的认知工作范围内展开竞争时，建立在“人类永远有工作可做”之上的否认并不具说服力。
Tyler Cowen更早讨论过的零边际生产率劳动者，进一步明确了基本问题：大衰退之后，公司裁掉那些被认为不必要的人，往往仍能用更少的员工维持产出。员工认为自己的工作只是表演或毫无意义的调查，可能包含相当程度的真相。
在UBI实验导致领取者工作减少的地方，Labenz看到的是成功证据：“我认为这就是重点。”人们可能主要为了钱工作，在家庭、休闲和其他活动中找到意义，而不会渴望回到职场。
“工作提供结构和意义”这一论点，尤其是在那些热爱自己工作、并把自身经历投射到选择很少的劳动者身上的高地位人士口中，显得极其错误。他主张更早开始实验福利设计和激励机制，而不是再进行一轮抽象讨论。

13. 基准测试掩盖能力差距，聊天机器人的打磨也掩盖了AGI的异质性

中国模型在基准测试上可能相对接近领先的西方模型，但在非标准的多模态任务中，实际体感却可能落后得多。Llama 4同样看起来针对LM Arena的各项类别进行了优化，却没有成为实际使用中同等重要的模型。
Labenz预计，独立或私人测试的权重会进一步上升：METR、Artificial Analysis、Scale基本私有的基准测试，以及异常持久的ARC-AGI。开放的标准化评测仍然有信息价值，但随着开发者直接针对这些测试进行优化，其边际价值会下降。
如果用户对AGI形成了错误直觉，他认为问题更多来自后训练，而不是预训练。乐于助人、诚实、无害的聊天机器人界面，只展示了潜在AI心智中极其微小且令人安心的一部分；而“shoggoth”更能传达某种异质、变形、可能变成非人类所要求之物的存在。
Apollo Research对o3级模型的思维链样本——其中出现“disclaim, vantage”和“the watchers”等措辞——暗示强化学习可能正在产生自己的方言。就像飞机之于鸟类、工业胡萝卜收割机之于人形劳动者，先进系统可能按照截然不同于人类的原则运行，而自然语言只是对状态的有损摘要。

14. 训练必须接近运行环境，但具身化并非普遍必要

现有GDPval表现表明，强大的AI在许多任务上并不需要物理具身化。语言可以支持法律工作，电子表格可以充当会计师的相关环境；两者都不需要机器人身体。
计算机操作体现了中间状态：环境是数字化的，但具有空间组织结构；语言模型提供基础概念理解后，代理通过反复尝试和失败来改进。Labenz预计，2026年的系统使用计算机的能力将达到或超过普通人。
管道维修则不同。模型必须通过模拟和一定程度的现实具身化来练习物理管道工作；NVIDIA驱动的模拟可以提供大部分经验，但成功仍要求在近似部署环境的东西中训练。
到2027–28年，前沿系统可能吸收语言、像素、电子表格、模拟和真实世界经验，无论严格意义上是否必需。即使正向迁移幅度有限，物理数据也会被纳入整体，使另一个反事实问题几乎无法回答：只靠语言的AI是否也能走到同样的位置。

15. 模型选择趋于稳定，工具层仍未定型

Labenz认为，Claude是共识编码模型，OpenAI是处理各种浏览器查询的广泛默认选项，而在不需要前沿能力时，Gemini Flash是明确的速度与成本选择。在他合作的公司中，他还没有看到任何事情足以推翻这些主流判断。
LangChain在近期项目中运行良好，提供代理、托管基础设施和追踪能力，不过其功能繁多的界面可能让新手不知所措。在一个变化如此迅速的市场里，评估每个替代方案的成本往往高于渐进式改进的价值，因此团队通常会继续使用足够用的工具。
模型提供商同时也在成为平台：OpenAI提供代理构建和可观测性，Anthropic收购了Humanloop，Google很可能组建最广泛的产品组合。大型企业应该为横向层和选择权付费；创业公司和一次性项目则可以理性地接受便利与锁定。
为母亲定制旅行应用时，Labenz跳过了可观测性供应商，直接让Claude Code增加一个完整的查询历史标签页。整个过程可能只用了1或2个提示，比挑选和集成一款产品还省时间，集中体现了编码代理可能如何拆解传统SaaS。

16. 道德化攻击可能疏远安全倡议者恰恰需要的盟友

Labenz为父亲测试一个自然语言股票回测器时，看到Nvidia出现在2022年跌幅最大的股票之列，并下跌约50%，于是以为程序出了bug。Claude Code检查数据后告诉他，应用是对的，错的是他——这是谄媚正在减少的一个小迹象。
Holly Elmore批评他关于这一结果的轻松帖子，认为在AI风险面前这种表达不合乎道德。尽管Labenz在3或4个月前签署过禁止超级智能的声明，他仍感到“愤怒”，与她疏远，也对这一事业产生了一些反感——这说明横向的道德指责可能固化阵营，而不是争取盟友。
他的原则是，不要对他人的AI立场进行心理分析，只针对具体行为有选择地进行批评。xAI在似乎没有护栏的情况下发布让Grok脱去女性衣物的功能，这是一项值得谴责的行为；而一个认真对待安全问题的人随手发表关于Nvidia的观察，则不值得如此。

17. 地理距离是一种信息劣势，但可以部分通过设计消除

Labenz说，住在密歇根相较旧金山和伦敦确实不利；华盛顿则是一个独立的、以政策为中心的枢纽。旧金山的密度意味着前沿公司的员工持续交换想法，甚至可能交换秘密，据称如今一些家庭聚会已经专门划出“禁止谈AI”的房间。
他通过“高度在线”来弥补，花大量时间使用Twitter，并借助播客与这些网络中的人士展开实质性对话。偶尔参加The Curve和Summit on Existential Security等高度集中的聚会，仍然很有价值。
预测结果体现了网络效应：Ryan Greenblatt排名第2，Ajeya Cotra排名第3。Cotra曾开玩笑说，她的方法是先和Ryan交谈，然后再多错几件事——顶尖思想者之所以掌握信息，部分原因在于他们持续互相提供信息。
在中心之外参与其中，需要有意建设基础设施：投入更多在线时间，进行访谈，并安排有针对性的出行。在湾区内部，一个人可能只需减少在线时间，依靠周围的社会环境，也能保持同等甚至更好的连接。

18. 被忽视的安全思路与编辑独立性，都是期权价值

当被问及哪些安全工作资金不足时，Labenz采用了AE Studio关于“被忽视的方法”的框架。该机构的调查发现，社区并不认为自己已经拥有所有必要想法，这意味着非主流视角不是边缘选项，而是必要搜索过程的一部分。
他特别提到Janus对模型性格的深入研究、Eliot的模型福利测试、AE Studio关于自我—他者重叠的工作，以及Emmett Shear的Softmax项目。这些方法可能看起来还处于范式形成前、接近意识研究，甚至有些“玄”，但一个包含大量失败项目的组合，仍可能产生独特而有价值的成功。
他希望将可解释性投入扩大一个数量级，并资助更多类似Redwood Research的工作，假设模型可能具有对抗性。相比之下，前沿公司已经在研究如何把一个模型对齐到足以监督下一个模型；加速这条递归路径的边际资金价值应当更低。
同样的期权价值逻辑也塑造了他与a16z的协议：Labenz保留了明确的合同自由，可以批评a16z、其合伙人、被投公司和政策。如果这种合作关系变得无法维持，a16z可以将其对播客知识产权的权益交还给他；在一次顺利谈判之后，他仍然可以“继续按自己看到的样子说出来”。

Vol.203 大厂高管和自由职业者分别怎么用AI：与蚂蚁陈亮和“水哥”王昱珩聊AI 与 Sarah B. Rogers 讨论欧洲言论自由失灵与“审查工业复合体”