先锋 趋势 方法 投研 作者
43.独家对话夸克:「大模型+高考」,AI 落地千万级用户的一次漂亮实验
返回节目精读

43.独家对话夸克:「大模型+高考」,AI 落地千万级用户的一次漂亮实验

摘要

  • 夸克高考志愿大模型今年生成了超过1,000万份免费志愿报告,6月25日单日峰值为200多万份。 问答产品和原有志愿工具约每天上亿PV;蒋冠军确认,25日是夸克有史以来的最高峰。夸克内部可用GPU全部投入仍不够,又向阿里集团借卡,服务高考的GPU约有几万张,高考因此相当于夸克的“双11”。“全行业唯一做志愿报告生成”是主持人卫诗婕的判断,蒋未直接确认。
  • 为什么今年各家都更重视高考? 蒋冠军给出的原因是:社会对高考的重视度和关注度提升,志愿填报师这一新职业出现,且需求足够垂直,各家公司都能通过资源组合服务这一场景。卫诗婕补充观察称,今年Agent成为趋势、模型底座能力更成熟,技术正从尝试走向应用;去年大模型结合RAG仍以尝试为主,幻觉、推理和回答质量尚不理想。
  • “四个9”不是模型准确率,而是高校、专业及分数数据的覆盖比例。 主持人提到三千多所高校、两千个专业的数据,蒋确认数据侧做了大量整理;学校、专业和历年招生分数来自志愿工具,只有录取概率是预测的,并会人工核对。历年数据可留档复用,每年主要做招生计划、新专业、新学院的增量整理。
  • 个性化比准确性更难。 当志愿填不满时,补充的学校和专业未必完全符合用户需求,团队要在地域、专业、就业、考研等优先级之间取舍,再结合用户特点做综合平衡,并通过多维度打分迭代。报告策略“不激进,也不保守”;蒋强调夸克是辅助决策,不替用户做最终决定。去年一例投诉中,蒋称报告本身没有问题,考生因填报志愿较少而滑档。
  • 项目的初心是整合分散信息、逐步升级服务。 蒋回溯称,约在2018、2019年,夸克就希望成为个人智能助手,并发现高考信息分散、考生难以据分数和需求选择学校专业,于是从信息服务发展到筛选和概率预测工具,再到今年用大模型生成免费报告。超过50%的报告来自三线以下考生;“信息平权”等表述主要来自主持人的观察。
  • 高考报告依赖数据、模型和专家的反复协作。 项目筹备三个多月,涉及好几百位专家、外包数据清理人员以及内部算法和工程团队。模型先生成结果,专家评审并提出建议,团队再迭代数据和模型,使输出接近专家经验。报告输入很长、输出约一万字,还包含规划、搜索、反思、决策和执行过程,因此非常耗GPU。
  • 夸克与通义千问是基座与应用场景的协作。 千问提供通用能力较好的基座,帮助节省算力;夸克围绕问答、RAG等业务能力做持续预训练和优化,并把应用中的问题、数据和技术方案反馈给千问。主持人将其称为“阿里兄弟打群架”,蒋表示“可以这么算”。夸克从2023年底的焦虑,到2024年从零预训练约半年后形成方法论,再持续迭代基础效果。
  • 大模型让应用门槛降低,却提高了个人能力要求。 蒋认为,应用侧因训练框架、基础模型和实现方式不断开源而更容易,但要做出差异化体验,算法人员需要更准确地判断模型能力、补数据、调训练方法。AI写作是一个无标准答案场景,夸克通过模型学习和结构调整开展大规模RLVR,最终效果有显著提升;RLHF则通过专家标注,让模型对齐人类偏好。
  • 面对人人都想做超级助手,夸克选择自己的路径。 蒋用“到罗马的路有很多”“一百个哈姆雷特”形容不同路线,夸克会围绕工作、学习、生活三类场景,以大模型串联原有工具和能力,把用户过去手动完成的链路改造成一条指令驱动的过程。高考报告就是需求升级的例子。商业化方面,蒋没有给出明确方案,只说高考场景不适合广告和卖货,“还没有想清楚”如何商业化。

精读

1. 千万份报告:夸克的年度算力峰值

  • 夸克问答产品和原有志愿工具约每天上亿PV,今年新推的免费志愿报告刚超过1,000万份;6月25日单日生成200多万份,蒋冠军确认这是夸克有史以来的最高值。卫诗婕随后概括为“每年高考都是这一年的峰值最高值,但是今年的峰值又是历史以来的峰值”,蒋表示确认。
  • 卫拿到的一份样本有几十页、上百行志愿栏,包含AI推荐的志愿排序、录取概率和专业介绍。她将其定位为Deep Research深度与具体场景结合的高难度案例,并认为夸克虽不能直接替用户填报志愿,但已经提供了大量决策信息和辅助判断。“全行业唯一一家做志愿报告生成”是卫的提问和判断,蒋没有直接确认。
  • 与往年相比,今年的变化不是简单调用大模型,而是用大模型帮助用户完成一份相对专业的志愿报告,并邀请许多高考专家共同迭代。

2. 超过一半报告来自三线以下考生:从信息整合到免费报告

  • 1,000万份报告中超过50%来自三线以下考生的需求。卫引用一份调研称,许多考生,尤其是三线以下考生,在填报时缺少辅助决策的信息,家长和老师也未必了解相关学校与专业;她还提到“暖芒行动”中有孩子甚至不知道该问什么。
  • 卫引用一位高考专家的说法称,从分数公布到填报完成只有4天。她据此将免费报告理解为帮助考生获得信息、实现辅助决策和信息平权;这些“信息平权”的价值判断主要来自卫的补充。
  • 蒋回溯称,约在2018、2019年,夸克希望成为个人智能助手,并看到高考信息分布分散,考生不知道该填什么学校、不了解专业和行业,也未必能据分数选到合适的学校。夸克凭借搜索能力先整合基础信息,之后做筛选工具和概率预测,再在大模型出现后生成免费志愿报告。
  • 对低线地区的高考咨询服务,卫指出收费较贵且很多人并不知道这一职业,因此认为免费报告可以提供更多信息来源;蒋没有对“获客抓手”作出表述。

3. 为什么是今年:社会需求、垂直场景与技术成熟

  • 蒋对腾讯、微博等公司同时加大投入的解释有两层:一是社会对高考的重视程度和关注度提升,志愿填报师这一新职业的出现反映了家长和学生的需求;二是高考需求足够垂直,各家都能通过自己的资源组合来服务它。
  • 蒋补充,前几年也有公司在做高考,只是投入的资源没有今年多。对竞争,他的态度是各家参与会带来迭代,用户也能通过更多渠道获得更准确的信息。
  • 卫补充自己的观察:今年Agent成为趋势,模型底座能力进入更可用的阶段,技术开始从尝试走向应用场景的精耕细作。高考是需求集中、高频且密集的社会事件,类似淘宝的“双11”大练兵场,可以检验产品、团队和运营能力。蒋认同高考是整合团队、锻炼能力的好场景,但没有把“深度思考”作为他对各家入场原因的双重解释之一。

4. 从专项模型到深度思考

  • 过去6年,夸克的高考信息问答和录取概率预测使用的是传统专项模型;当时还没有“高考大模型”这一概念。去年各家开始尝试把大模型与RAG资料结合起来回答问题,但主要仍是尝试,模型的幻觉和推理能力尚未达到理想水平,数据和回答质量也不够理想。
  • 蒋认为今年应用层面的本质变化来自深度思考能力:深度思考会在更多场景中应用,模型的规划能力更强,也能反思和判断自己过去的行为。Deep Research和Agent等方向都基于这些能力发展起来。
  • 卫将其概括为深度思考、规划和反思三个要素,蒋确认这些能力都体现在高考大模型中。
  • 在蒋举的例子里,考生输入分数、省份、学科、就业目标、地域偏好和考研需求后,模型先规划符合需求的城市,再调用搜索工具或搜索引擎获取学校、专业等信息,随后反思是否遗漏并检查结果,最后整合生成报告。卫认为这就是Deep Research。

5. 数据工程是地基:“四个9”是覆盖率

  • 卫提到夸克整理了三千多所高校、两千个专业的分数信息及各地录取政策,蒋确认基础数据侧做了大量工作:整理权威网页资源、剔除低质量内容并交叉验证;获取网页上找不到的专业数据;收录教育部、省教育厅、学校等不同来源的分散录取数据。
  • 对“准确度达到99.99%”的说法,蒋明确纠正:这不是模型准确度,而是全国高校、专业和分数数据的覆盖比例。志愿表来自原有志愿工具,其中学校、专业和历年招生分数是准确的,录取概率则是预测值。
  • 蒋确认数据会人工核对,但没有把“99.99%”表述为单靠人工核对达成。历年录取分数、人数和分数线区间等数据可以留档复用,每年主要整理当年的招生计划、新专业和新学院,再做对齐。
  • 卫认为持续迭代会形成有厚度的能力积累,蒋确认积累既包括数据,也包括对用户需求的理解。

6. 与几百位专家反复迭代

  • 在模型侧,夸克会加强高考相关专业知识,使模型内化的知识更强,并让专家评审模型先生成的结果、提出不足,再反复迭代数据和模型,使输出接近专家经验水平。
  • 项目筹备约3个多月,人力难以准确统计:外部力量包括好几百位专家和参与数据清理、专业资料整理的外包人员,内部还包括算法和工程团队。
  • 蒋印象较深的一类摩擦是专家觉得要求苛刻,且技术人员和专家使用的语言体系不同。卫举例说,与一位志愿填报专家的访谈可能持续两三个小时,并将这种过程视为对耐心、细心和线下沟通能力的考验;蒋的回答是“耐心沟通”。

7. 几万张GPU与线上保障

  • 志愿报告有很长的输入、约1万字的输出,中间还包含多次反思、决策和执行,因此非常消耗GPU。夸克把内部能够使用的GPU全部投入高考项目仍不够,又向阿里集团借了很多卡,约有几万张GPU服务于高考。
  • 蒋称高考时段是夸克每年资源消耗最大的时段,相当于夸克的“双11”,核心是集中需求对峰值的考验。
  • 工程团队针对高考各环节做了大量压力测试、工程和系统优化,尽量保证填报几天的线上服务保持相对平稳。卫观察到作战室挂着横幅,桌面还留有同事们集中投入项目的痕迹。

8. 从焦虑到“心里有底”

  • 蒋将夸克的大模型发展分为几个阶段:2023年底,整个中国互联网都感到焦虑;到2024年中旬,夸克从零开始做预训练,约半年后虽然模型效果仍比较一般,但已经掌握了方法论,知道持续迭代可以获得更好结果。
  • 2024年底到2025年初,团队主要迭代模型的基础效果,大模型也开始逐步在夸克端上线。夸克希望成为个人助手,因此需要围绕大模型改造原有产品和业务。
  • 卫将夸克在此过程中形成的能力概括为大模型全栈能力,蒋表示认同。

9. “原有业务加大模型”与“以大模型为核心”

  • 通用搜索排序仍使用原有技术体系,但大模型可以生成样本、进行语义判别,优化原有业务的各个环节,这属于原有业务加大模型。
  • 深度搜索则直接向用户输出答案,检索链路和Query CoT都要围绕大模型改造,属于以大模型为核心。
  • “超级框”有其历史原因:早期AI多为专项模型,一个工具对应一个模型,一个搜索也对应一个模型,因此夸克积累了许多垂类模型。如今用户可以输入文本、语音、图片、视频和文档,核心趋势是多模态输入、多模态输出。
  • 对未来是否把垂类模型整合进一个基础模型,蒋先确认“会有很多垂类模型”,随后强调以大模型为核心串联已有工具和能力,形成一个能覆盖不同需求的超级框;原文并未明确确认“整合成一个基础模型”。

10. 个性化比准确性更难

  • 志愿工具主要按概率呈现,用户自行筛选;志愿报告则可能要给出80到100个志愿。填不满时需要补充,但补充的学校和专业未必百分之百符合用户需求,于是团队要在地域、专业、就业和考研优先之间取舍。
  • 蒋认为个性化更难。准确性可以依靠数据和原有资源工具积累优化,但不同考生的偏好不存在一条绝对正确的路径。团队会结合用户特点,例如偏理工科的考生可能推荐理工科更强的学校和专业,再从多个维度给报告打分,迭代出分数最高的版本。
  • 卫回忆,作战室几乎每天都在争论:做出一版后发现“不太行”,不同成员再去和不同专家沟通,回来继续调整;“专家也是不同意的”是卫对这一过程的描述。
  • 对去年一例投诉,蒋称报告本身没有问题,考生因填报志愿较少而滑档。夸克遵循相对平衡的策略,不激进也不保守;它不是替用户做决定,而是提供更专业、准确的参考,由用户自行作最终判断。

11. 与通义千问的分工

  • 卫提到这次使用通义千问基础模型并继续预训练,蒋随后解释,通义千问可以提供通用能力较好的基座,帮助夸克节省算力;夸克把围绕产品和业务的训练放在持续预训练阶段,并优化问答、RAG等能力。
  • 夸克也会把应用场景中的问题、需求、基础数据和模型优化方案反馈给千问,使千问能够从具体场景中抽象基座模型需要改进的工作。
  • 卫将这种协作称为“久违且振奋人心的阿里兄弟打群架”,蒋回应“可以这么算”。

12. 细节与创新:RLVR、RLHF及应用门槛

  • 蒋认同“模型大家都能训练,好坏在细节”的判断:应用要做好,需要在数据、RLVR和RLHF样本、训练方法、策略以及产品需求匹配等细节上持续打磨。但基础模型能力要实现较大突破,不只是精细化,还需要新方法、新结构、创新实验和经验积累。
  • AI写作是一个用户规模较大的场景。传统RLVR适合有标准答案的问题;在写作等没有标准答案的场景,夸克尝试通过模型自身学习、训练和结构调整,实现大规模RLVR,最终效果取得显著提升。蒋也强调,这不是夸克独有的做法,其他公司也会做。
  • 蒋解释,RLVR让模型针对有标准答案的问题生成多个答案并与正确答案比对,通过自动化强化学习提升;RLHF则由专家或资深人士在多个都基本正确的答案中标注更符合人类阅读习惯的版本,例如“总—分—总”结构,从而实现人类偏好对齐。

13. 算法变简单了还是更难了?

  • 蒋认为,从应用角度看,大模型降低了门槛:训练框架、基础模型和实现方式大量开源,小团队也能快速搭建有创意的产品。但个人能力要求反而更高,否则难以做出差异和体验优势。
  • 技术人员的工作方式没有太大变化,核心仍是把产品设计语言翻译成技术可实现的范围,说明什么能做、什么暂时做不到,以及如何通过增加数据、调整训练方法来增强能力。最终是产品能力和技术能力取最大公约数。
  • 团队管理上,蒋强调两点:面对快速变化的技术,要有定力,区分模型基础能力和宣传,统一团队究竟聚焦预训练、PPO还是业务适配;同时要有明确的实验路径,知道如何验证、什么算成功,因为任何单点技术投入都可能无限扩大。
  • 团队情绪方面,蒋说夸克“好像不太需要”专门管理情绪。团队相对稳定,成员之间以及产运和技术之间信任度较高;从2018年开始做个人助手的大目标也比较统一,因此虽然会辛苦,但专门安慰情绪的情况较少。

14. 超级助手的不同路径与后续计划

  • 面对Agent和超级助手热潮,蒋用“到罗马的路有很多”“一百个哈姆雷特”形容不同路径。夸克会围绕工作、学习和生活三类场景,依托原有工具和产品积累,把用户过去手动串联功能的过程,改造成由大模型根据一条指令完成中间链路。高考报告就是需求升级的例子。
  • 被问及未来几年是否商业化,蒋没有给出明确计划,只说大模型时代的商业逻辑应发生变化,而高考场景不适合广告和卖货,“还没有想清楚”如何商业化。卫提出可以考虑类似打赏的模式,蒋表示可以内部讨论。
  • 高考用户留存比较不错:部分年轻用户在填报前已经使用夸克的学习产品,进入大学后又可能使用学习资料产品。蒋认为这是围绕用户不同生命周期持续提供场景的可能性。
  • 对明年,蒋认为今年只是围绕更复杂决策做了初步实践,距离全面解决用户的志愿填报需求仍有很大差距。下一步要更好引导那些不知道如何提问、相关知识和信息接近空白的考生,改善模型交互,提供更专业的经验,生成真正更个性化的报告,从而减少内部在志愿取舍上的反复争论。卫将其概括为“一年一年迭代”,蒋表示认同。