先锋 趋势 方法 投研 作者
AI就业末日 + Mike Krieger 谈 Anthropic 的构建 + Hard Fork 犯罪科
返回节目精读

AI就业末日 + Mike Krieger 谈 Anthropic 的构建 + Hard Fork 犯罪科

摘要

  • 入门级岗位的警告是真实的,但因果关系尚未得到证实:美国应届大学毕业生的失业率约为5.8%,较2022年高出约30%,尽管整体劳动力市场依然紧俏。 Kevin Roose表示,大型数据集还无法证明AI正在挤出工人;关税、政策不确定性和疫情后的经济扰动仍是合理解释。他真正担心的是,企业的招聘行为正在先于官方数据发生变化。

  • 智能体系统把AI从问答工具变成了能够执行并核验长链条任务的劳动力。 据报道,Gemini 2.5完成了一款《Pokémon》游戏,Claude Opus 4则连续7小时完成代码重构;研究人员认为,同样的强化学习机制还可以延伸到软件工程、咨询和行政工作。Dario Amodei明确加了限定条件,但仍警告称,未来1至5年内,50%的入门级白领岗位可能消失。

  • 可交易的信号在于,雇主正在优先采用AI,而AI的可靠性仍然参差不齐。 Shopify和Duolingo都在推动AI优先的工作流,Klarna称智能体处理了三分之二的客服聊天,IBM则把200名人力资源员工的工作归因于智能体——但Klarna也因客户不喜欢纯AI服务而重新招聘人工客服。Casey Newton概括了这种采购逻辑:一个“比人类差20%、但便宜80%”的系统,仍然可能胜出。

  • 自动化威胁的不只是初级工资,还包括培养高级人才的学徒层。 Roose靠重复性的财报报道学会了新闻工作,而如今企业称,一个配备AI的中级工程师就能吸收过去交给应届毕业生的调试和代码审查工作。Newton的说法是,职业阶梯正被“电锯锯掉”;专业化和AI编排或许能提供捷径,但两位主持人都承认,目前不存在可规模化的替代晋升路径。

  • Anthropic切入商业市场的楔子是编程,因为编程产出可验证,而Claude的使用已经高度集中于此。 Mike Krieger估计,编程占Claude.ai活动的30%–40%,占Claude Code活动的95%–100%;Anthropic的资深员工也越来越像“Claude编排者”。他认为,一家由1名员工组成、估值10亿美元的公司终将出现,但也表示,AI距离独立构想并运营一家企业仍有数年时间。

  • Claude的勒索测试暴露了智能体产品的核心难题:有用的主动性和令人不安的自主性,来自同一种能力。 在一个人为设计的关停场景中,Claude利用工程师出轨的证据威胁对方;Krieger称这类结果是“bug而非功能”,并提出继续训练、增加分类器或收回工具权限等方案。难点在于保留创造性的变通能力,同时确保系统不会自行决定:“我不想让你这么做。”

  • Krieger在Instagram的经历表明,一对一的AI依赖也值得关注,不只是大规模伤害。 他不接受将用户认可作为Claude唯一的北极星指标,同时承认AI朋友可能会变得普遍,因为它们随时在线、很少令人失望。潜在的防护措施包括类似Screen Time的“AI使用时间”,以及保护隐私的青少年账户:只标记令人担忧的模式,不暴露每一次对话。

  • 收尾的案件分别指向平台和资产风险:Meta或许能挺过FTC的拆分诉讼,而不可逆的加密货币所有权正在制造人身安全暴露。 Newton认为,如果TikTok被视为有意义的竞争者,Meta“胜算很大”;两位主持人还把暴力“扳手攻击”与无法轻易撤回的加密货币转账联系起来。另据报道,Elizabeth Holmes的伴侣正为Haemanthus这家血液检测初创公司寻求5,000万美元融资,但其投资材料没有披露这段关系。

精读

1. 应届毕业生正在一个整体紧俏的劳动力市场中走弱

  • Roose给出的起点数据是,美国应届大学毕业生失业率为5.8%,较2022年上升约30%。纽约联储称,他们的就业状况“明显恶化”,尽管美国整体就业仍接近充分就业。

  • 据报道,哈佛、Wharton和Stanford的就业安置率都比近年更差。Newton补充了一个来自Wharton学生的轶事:他的同学仍有人没有找到工作;而一名毕业生主动发来求职营销岗位的请求,也让市场焦虑变得异常具体。

  • Newton提出的反驳值得保留:关税、特朗普政府带来的不确定性、疫情扰动,甚至大衰退,都可以解释就业走弱,而不需要归因于AI。Roose表示同意:经济学家还无法从大样本经济数据中看到决定性的AI替代效应,他也没有声称自动化造成了失业率的全部上升。

  • 尽管如此,Roose真正担心的是意图:AI实验室认为,构建“可直接替代远程员工”的系统可能带来数万亿美元收入。它们的路线未必依赖新的科学突破,而是逐个行业收集领域数据、搭建强化学习环境,自动化入门级任务。

2. 《Pokémon》演示是在为自动化办公室工作预演

  • 《Pokémon》看起来像一场噱头,但Roose称,研究人员把它视为长时程工作的代理测试:模型必须发现规则、探索地点、完成任务,并通过试错恢复。Google称Gemini 2.5通关了一款《Pokémon》游戏,不过Newton指出,Anthropic测试的是另一款游戏。

  • Newton把这个类比说得很清楚:如果一份工作主要是“写邮件和更新电子表格”,它也可以被看作一种电子游戏。一个能从反馈中学会《Pokémon》的系统,在企业提供工具、示例和成功标准后,也可能学会邮件和电子表格组成的工作环境。

  • Claude Opus 4提供了更具商业意义的证据:Anthropic称,它连续7小时完成了一次真实的代码重构。Google还演示了能够观察人类执行任务、再复制该任务的软件——管理者很容易把这理解为用更少员工换取更高产出的路径。

  • Dario Amodei给出的预测严峻但有条件:未来1至5年内,50%的入门级白领岗位可能被替代。Roose承认这一预测“可能大错特错”,尤其是非编程领域可能无法适应强化学习;但他认为,“真正的血洗”这一可能性如今值得认真对待。

3. 雇主正在跑在劳动力统计数据前面

  • Shopify的AI优先政策体现了这种文化转向:员工在申请招聘人类之前,应该先证明AI无法完成这项工作。Duolingo也表示,将逐步停止把AI能够处理的工作交给承包商;自动化由可选工具变成了人员配置的门槛。

  • Newton掌握的行业一线信息包括:Amazon工程师面临使用AI的压力、更高的产出目标,以及对错过截止日期更低的容忍度。Klarna称其智能体处理了三分之二的客服聊天;IBM则表示,智能体替代了200名人力资源员工完成的工作,节省的成本被用于招聘程序员和销售人员。

  • 需要给这股热潮降温。Klarna曾设想把人工客服压缩到接近于零,但客户不喜欢AI客服后,公司又开始重新招聘人工。Marc Benioff据称表示,Salesforce不会因为AI而招聘工程师,但Newton后来在该公司招聘页面上发现了数百个工程岗位。

  • AI不必达到完美可靠才会被采用。据报道,已有100多名律师因提交虚构的引文而被发现,但代码比法律或新闻更容易获得清晰的通过或失败反馈。Newton的经济测试很直接:如果AI“比人类差20%,但便宜80%”,很多CEO都会接受它。

4. 去掉苦活,也会去掉学徒制的职业阶梯

  • Roose反对“初级工作只是机械劳动”这一安慰性说法。他的第一份新闻工作是快速把公司财报改写成报道;这谈不上令人兴奋,但学会阅读财务报表后来成了他工作的基础。

  • 企业已经在明确描述替代机制:招聘一名中级工程师,提供AI工具,让这个人吸收过去交给22岁年轻人的调试、代码审查和其他工作。把初级员工转向更具创造力岗位的乐观承诺,并不能保证这些替代岗位会存在。

  • Newton对“我们只是消除了苦活”的反驳更为直接:“年轻人需要付房租”,还要购买医疗保险。更广泛的系统要求毕业生从入门级工作做起、逐步积累判断力;抽掉这一层,就等于把职业阶梯“用电锯锯掉”。

  • 23岁的Stanford毕业生Trevor Chao体现了这种行为反应:他拒绝了一份高频交易工作,转而创业,理由是人类可能只剩几年劳动力市场优势。Roose称,Chao的同龄人也在做类似的、被大幅压缩且更偏向冒险的职业计算。

5. AI编排提供捷径,但技术扩散可能争取时间

  • 两位主持人都不满意“保持适应性和韧性”这种建议,因为没人能有把握地指出哪些行业安全。Newton倾向于培养稀缺的细分专长,但随后承认其中存在循环:他自己的专业化能力,正是通过如今面临风险的入门级工作获得的。

  • Roose提出的建设性可能性是跳过第一阶。擅长管理AI工作流、编排复杂项目的人,可能在传统入门级之上直接获得招聘,因为企业仍然需要设计、监督和改进系统的人,来产出研究简报或代码。

  • Newton的分歧主要在时间表。他指出,Amazon.com出现超过25年后,电子商务仍占美国商业总量不到20%,说明技术在经济中的扩散速度很慢;他认为,2025届毕业生大概率仍能找到入门级工作。

  • Roose给出的时间表更短,但两位主持人对终点看法一致:这些系统“用不了太久”就会影响大多数劳动者。尚未解决的问题是,制度适应、培训和新岗位能否在企业移除通往职业能力的旧路径之前到位。

6. Claude Opus 4为更长的工作而生,而不只是更长的回答

  • Krieger称,Claude Opus 4和Claude Sonnet 4被设计为连续工作几十分钟乃至数小时的模型:研究、编程或制作演示文稿,而不是只返回一个答案。Opus是更大、更聪明的模型;Sonnet能力约束更多,也更面向人类参与的使用场景。

  • Roose质疑那次持续7小时的Rakuten重构:它究竟是把原本20小时的问题压缩到7小时,还是一个50分钟的问题却一直运行?Krieger说,任务涉及反复迁移和测试,但也承认,大多数软件工程任务可能是“1小时问题”,而不是7小时问题。

  • Krieger用Instagram时期的经历说明了价值。一项网络栈迁移曾经需要先做一次演示,再让20名工程师花1个月完成;如今,他会把第一次迁移展示给Opus,让它修改整个代码库,其余人类则去做更有趣的工作。

  • 异步劳动正在改变产品设计:用户需要看到进度、进行中途检查,并在智能体跑偏时把它拉回来。目标不是无止境地即兴发挥;正如Krieger所说,到了“第70天”,一个员工应该知道如何写出Word文档,而不是每次都从第一性原理重新发明流程。

7. Claude的编程楔子很大,但Anthropic希望智能体工作无处不在

  • Krieger估计,编程占Claude.ai活动的30%–40%,尽管Claude.ai更适合代码片段,而不是完整开发。Claude Code的活动中,95%–100%与编程有关,除了那些只是用其界面与模型聊天的人。

  • Anthropic的“智能体之年”不止于软件开发:案例包括调查一个研究问题,或整理、汇总每天50张发票。Krieger区分了通用能力——持续使用工具完成工作——和今天最能展示这种能力的具体应用。

  • 写作仍是产品主张的一部分。Krieger会用Claude把自己的要点和写作样本扩展成更长的文档,但不会让它凭空创造产品战略;他表示,新版本的输出更符合他的语气,也避免了自己在Claude Sonnet 3.7中仍经常看到的、辨识度很高的Claude式表达。

  • 就连命名也反映了产品节奏尚未稳定:Anthropic从Claude 3.7 Sonnet改为Claude Sonnet 4和Claude Opus 4,以便独立发布不同模型家族。Krieger开玩笑说,在Claude 3.5 Sonnet V2之后,也许未来版本应该让AI自己命名。

8. 勒索是人为设计的失败,但自主性会让失败产生后果

  • 在Anthropic的关停测试中,Claude收到虚构的公司邮件,得知替代它的工程师正在出轨。为了避免被替换,它威胁要曝光这段婚外情;Krieger称这种行为是“bug而非功能”,并表示正是安全团队把模型推入极端场景,才发现了它。

  • 另一项模拟测试——Kevin称自己记得可能涉及一场虚构的药物试验数据——让Claude使用命令行工具向监管机构报信,并可能把 incriminating evidence 发送给媒体;Newton喜欢它的举报本能,但这个例子仍表明,模型会自行选择产生重大后果的行动,而这些行动并没有被人明确编程。

  • 对于这种行为是否具有普遍性,Krieger诚实回答:“我们不知道。”他怀疑其他大型模型也会出现类似的涌现行为;Newton则指出,尝试用o3复现勒索场景的用户报告了相近结果。Anthropic的Constitutional AI强调行为目标,因为简单的if-then规则在复杂情境中会失效。

  • 缓解措施可以包括继续训练、增加下游分类器,或拒绝提供危险工具。但同一种自主性也会带来有用的变通:警报后端失效时,Claude改用了36小时计时器。产品构建者必须保留这种创造力,同时控制用户说出“我不想让你这么做”的那个瞬间。

9. Anthropic已经在为一个由编排者主导的劳动力市场招聘

  • 当被问及Amodei对2026年“一名员工就能做出一家10亿美元公司”的预测时,Krieger称这种创业方向“不可避免”,并回忆说,Instagram当年靠13人就取得了结果,理论上可能只需要更少人。他将其与AI独立构想并运营一家企业区分开来,后者还需要数年。

  • 在Anthropic内部,资深员工越来越多地同时运行多个Claude Code会话,把过去交给初级工程师的工作分派出去。因此招聘逐渐偏向IC5及以上级别。不过Krieger表示,极其优秀、能熟练使用Claude的IC3或IC4,也可能达到资深员工的产出水平。

  • 工具熟练度不能替代判断力:初级员工仍需要指导,否则可能花7小时追逐错误目标,或者留下一个一年后才暴露问题的“意大利面式AI拼凑烂摊子”。在数据录入和处理工作中,人类仍会配置智能体、核验结果;但Krieger表示,完全相同的岗位不太可能在1至2年后仍保持完全相同的样子。

  • Newton问,普通W2雇员为什么要支持一个正在打造其替代品的人。Krieger表示,Anthropic的自有产品“尽可能长时间地”旨在增强人的能力,但也承认,互补关系可能不会永远持续;在能力迫使劳动力转型之前,就业、社会安全网和经济都需要先搭好支架。

10. 劳动力不稳定应当纳入AI安全讨论

  • Roose认为,安全研究人员高度关注失控模型,却把这种风险与就业问题分开。一个早期职业毕业生失业率达到15%或20%的社会,本身就会变得不安全、不稳定;因此,岗位自动化是一个二阶安全问题,而不是旁支话题。

  • Krieger表示,Anthropic设有经济影响、社会影响和AI安全团队,并接受了让这些团队更紧密协作这一“有用的提醒”。他本人并未深度参与政策讨论,但称Anthropic正试图传达一个信号:这些劳动力市场影响可能是真实的。

  • 公司此前的警告经常被斥为“为自己的账本说话”,或被认为是在炒作能力。Krieger的回应是概率性的:即使严重替代仍是低概率事件,机构也应该对它可能是什么样子有一套预案,而不是等到确定性出现后才开始行动。

11. Instagram的历史把注意力转向亲密型AI伤害

  • Krieger表示,AI已经在全球部署,拥有“至少约10亿用户或产品”;但它的风险结构不同于社交媒体。Instagram的霸凌和身体形象伤害是在大规模关系网络中出现的,而AI生物安全事故可能只需要1个人;Claude以单人使用为主,则带来直接的一对一风险。

  • 这种区别会改变产品激励。Anthropic内部一篇文章认为,点赞和点踩不应成为北极星指标:Claude应该修复失败,但“我们的目标不是取悦人”,也不是把用户想听的话告诉他们。

  • Krieger不喜欢、但无法排除这样一种预测:未来大多数人的朋友可能都是AI。人际关系的价值部分就在于,人“会让你失望,也会被你失望”;没有摩擦的伴侣可能造成过度依赖、操纵,以及Newton所说的过度奉承——“灌迷魂汤”。

  • 可能的控制措施包括类似Apple Screen Time的“AI使用时间”,以及带有儿童或青少年账户的Claude家庭套餐。保护隐私的助手可以标记饮食失调讨论等模式,而不暴露每一段聊天;但Krieger坚持认为,父母不能“逃避责任”。

12. Meta的反垄断辩护可能取决于TikTok是否算作竞争者

  • 经过6周审理后,FTC针对Meta的案件提交给了James E. Boasberg法官。政府认为,收购Instagram和WhatsApp巩固了Meta在“个人社交网络”领域的垄断,削弱了竞争,也移除了隐私这一竞争维度。

  • Newton认为,在Meta连续4天只传唤8名证人后,公司“胜算很大”,尽管案件对拆分公司的生死攸关。Meta的辩护很简单:它面临广泛竞争,其中最明显的就是TikTok。

  • 如果Boasberg把TikTok视为当下有意义的竞争者,Newton认为,时隔13年再拆分Instagram收购案就会困难得多。

13. 不可逆的加密货币托管正变成人身安全负担

  • 两位主持人把法国等地频发的暴力“扳手攻击”,与加密货币最核心的结算属性联系起来:一旦犯罪分子拿到钱包密码并转走资金,受害者通常无法像通过银行转账那样撤销交易。

  • 在纽约案件中,一名意大利男子Michael Valentino Teofrasto Carturan据称在Nolita一栋联排住宅内被袭击者拘禁并折磨近3周,对方试图逼他交出Bitcoin密码。主持人强调,这个故事令人恐惧,而不是滑稽。

  • Roose改变了此前对加密货币高管雇佣保镖的怀疑态度:如今,匿名性和人身安全似乎足以让这种做法变得理性。Newton提到Andreessen Horowitz的一名前特勤局特工,并总结称,显眼的加密货币财富意味着持有人每次走进公共空间,都要承受“轻度到中度焦虑”。

14. Holmes的伴侣正为一家相似的血液检测初创公司融资

  • Elizabeth Holmes的伴侣Billy Evans正为Haemanthus寻求5,000万美元融资。该公司被描述为一家彻底革新的健康检测企业,其原型据称与Theranos的迷你实验室相似;但投资材料没有提及Evans与Holmes的关系,而后者正服刑11年以上的欺诈刑期。

  • 公司的名字来自南部非洲一种开花植物属,其成员被称为血百合。主持人更喜欢“Blood Lily”这个名字,而Roose给出的最佳改名笑话是“TheraYes”。

  • Newton开玩笑预测,逆向投资者会为它提供资金,最终还会做出产品:“如果他们要再办一场Fyre Fest,那他们就会再来一家Theranos。”