清华和中科院团队造出"AI奥数团队"：像人类专家一样学习积累经验，解题能力直逼顶级AI

这项由美国加州大学洛杉矶分校的萨尔曼·拉赫曼教授、康奈尔大学的穆德·基肖尔·莫罗尔博士以及卡塔尔计算研究所的穆德·里兹万·帕尔韦兹博士共同领导的研究于2025年6月发表，论文编号为arXiv:2506.14234v1。感兴趣的读者可以通过访问https://kagnlp.github.io/xolver.github.io/获取完整的代码和数据。

当你还在为数学竞赛题目抓耳挠腮时，研究团队却在思考一个更深层的问题：为什么现在的AI虽然很聪明，但每次解题都像是第一次见到这类问题，完全不会从之前的经验中学习？就好比每次做菜都不记得上次的调味心得，每次都要重新摸索一遍。

现实中的奥数高手可不是这样工作的。他们就像经验丰富的侦探，会记住之前破过的案子，积累各种破案技巧，还会和队友互相学习，甚至在比赛现场都能从其他类似的题目中获得灵感。但现在的大语言模型却像患了健忘症的侦探，每次都要从零开始分析案情。

研究团队意识到这个问题后，决定打造一个全新的AI系统——Xolver。这个名字听起来像是"solver"（解决者）的升级版，而它确实是对传统AI解题方式的一次彻底革新。

Xolver的核心思想简单而巧妙：让AI学会像真正的专家团队一样工作。当你看到奥数竞赛中的顶尖选手时，他们绝不是单打独斗的孤胆英雄。相反，他们背后往往有一整套支持系统——经验丰富的教练提供指导，队友们互相讨论启发思路，还有大量历年真题和解题技巧作为参考资料。更重要的是，他们会在解题过程中不断调整策略，从失败中学习，在成功时总结经验。

研究团队决定把这种人类专家的工作模式完全复制到AI系统中。他们设计了一个多智能体框架，就像组建了一支AI版的奥数梦之队。这支队伍里有专门的规划师负责整体战略，有各种专业角色的解题专家（比如代数专家、几何高手、程序设计大师），还有严格的评判员负责检查答案质量，甚至还有专门的验证专家确保最终答案正确无误。

但真正让Xolver与众不同的是它的"记忆系统"。传统的AI就像是没有记忆的金鱼，每次解题都是全新开始。而Xolver却拥有两套完整的记忆体系，就像人类专家的大脑一样。

第一套是"长期记忆"，类似于专家多年积累的经验库。这里存储着大量的经典题目、解题方法和成功案例。当遇到新问题时，Xolver会先在这个经验库中搜索相似的例子，就像经验丰富的老师回忆起曾经教过的类似题型。

第二套是"工作记忆"，这更像是解题过程中的草稿纸和思维导图。在解决每个具体问题时，不同的AI专家会在这个共享空间里记录自己的思路、尝试的方法以及获得的反馈。随着解题过程的推进，只有质量最高的想法和方案会被保留下来，就像团队讨论中最终采纳的都是最有价值的建议。

更神奇的是，Xolver的学习能力是动态的。在解决一道新题目的过程中，不同专家会轮流发表意见，评判员会对每个方案打分，整个团队会根据反馈不断改进方案。这个过程可能要进行好几轮，直到找到满意的解答或者达到预设的尝试次数。解题结束后，整个过程中的精华部分会被存入长期记忆，成为未来解题的宝贵资源。

为了验证Xolver的实际效果，研究团队进行了大规模的测试，涵盖了数学和编程两大领域的多个知名测试集。这些测试包括小学数学应用题（GSM8K）、高难度数学竞赛题（MATH-500）、美国数学邀请赛真题（AIME 2024和2025），以及动态更新的编程挑战赛（LiveCodeBench）。

测试结果简直让人惊叹。即使使用相对较小的基础模型（比如32B参数的QWQ模型），Xolver的表现也经常超越那些参数量是它7倍多的巨型模型。在美国数学邀请赛的题目上，Xolver取得了平均91.6%的正确率，比基础模型提升了18.5个百分点。在编程挑战方面，提升幅度更是达到了惊人的21个百分点。

当研究团队使用更强大的基础模型时，Xolver的表现更是达到了新的高度。在各项测试中，它分别取得了98.1%（GSM8K）、94.4%（AIME'24）、93.7%（AIME'25）、99.8%（Math-500）和91.6%（LiveCodeBench）的成绩，这些数字甚至超越了当前最先进的专有AI模型。

一、AI团队的精妙组织：每个成员都有专门角色

Xolver的工作方式就像一个训练有素的专业团队。当面对一道新题目时，首先登场的是"规划师智能体"。这位规划师就像团队的教练，会仔细分析题目的特点，然后从一个庞大的专家库中挑选最适合的团队成员。

这个挑选过程颇有讲究。规划师不会满足于随便找几个人凑数，而是会先生成比实际需要更多的候选专家角色，然后从中精挑细选出最合适的组合。比如面对一道几何题，它可能会选择几何专家、代数专家和数值分析师的组合；遇到编程题时，则可能组建算法设计师、数据结构专家和调试专家的团队。

选定团队后，真正的解题过程就开始了。每个专家智能体都会发挥自己的专长，从不同角度分析问题。他们不是各自为战，而是会参考之前存储的经验案例，就像查阅参考书一样。第一轮解题时，他们主要依靠从经验库中检索出的相似案例；从第二轮开始，他们还会参考团队在当前问题上已经积累的想法和尝试。

在这个过程中，有一个特殊的角色发挥着关键作用——"评判智能体"。这位评判员就像严格的考官，会仔细检查每个专家提出的方案，给出详细的评价和分数。对于数学题，它会判断解答是否正确；对于编程题，它会检查代码是否能通过各种测试用例。更重要的是，评判员还会提供改进建议，指出方案中的问题所在。

整个团队的智慧通过"共享工作记忆"汇聚在一起。这个记忆空间就像团队的作战指挥室，记录着每一轮讨论的精华内容。随着讨论的深入，质量较低的想法会被淘汰，最优秀的方案会被保留和完善。这个过程确保了团队的集体智慧能够不断积累和提升。

当需要进行计算或验证时，团队成员还可以调用外部工具，比如Python代码执行器。这就像给侦探配备了各种高科技设备，让他们能够更准确地分析证据。最后，还有专门的"验证智能体"负责最终的答案提取和格式整理，确保输出结果符合要求。

整个过程会持续进行多轮，直到团队达成共识或者达到预设的最大尝试次数。这种迭代式的协作模式真正模拟了人类专家团队的工作方式，让AI也能享受到集体智慧的力量。

二、双重记忆系统：像人脑一样存储和调用经验

Xolver最令人印象深刻的特性之一就是它的双重记忆系统，这套系统的设计灵感完全来自人类专家的认知方式。

第一层是"情节记忆"，就像专家大脑中储存的所有历史经验。这个记忆库包含两个部分：外部知识库和内部参数记忆。外部知识库就像是一座巨大的图书馆，里面存放着大量的经典题目、标准解法和成功案例。当遇到新问题时，系统会使用先进的检索技术（类似于图书馆的智能索引系统）找出最相关的历史案例。

内部参数记忆则更加神秘，它存在于AI模型的神经网络权重中，就像人类的直觉和潜意识经验。即使没有外部知识库，Xolver也能够从自己的"潜意识"中调出相关的解题思路。这种能力被称为"自我检索"，虽然效果稍逊于外部检索，但在没有参考资料的情况下仍然非常有用。

第二层是"中间共享记忆"，这是Xolver的创新之处。这个记忆系统专门服务于当前正在解决的问题，就像团队讨论时的白板或者侦探破案时的线索板。在解题过程中，每个专家的想法、尝试的方法、得到的反馈都会被记录在这里。

这个共享记忆的管理方式特别巧妙。它的容量被限制为团队成员的数量，比如三个专家就只能保存三条记录。但这不是简单的先进先出，而是优胜劣汰的淘汰机制。每当有新的想法产生时，系统会把新旧所有方案放在一起比较，只保留质量最高的几个。这样确保了共享记忆中始终存储的都是当前最有价值的信息。

更有趣的是，这两套记忆系统会相互配合。长期记忆为解题提供历史经验和灵感，短期记忆则负责整合当前的思考过程。当一个问题成功解决后，整个过程中的精华部分会被提取出来，加入到长期记忆中，成为未来解决类似问题的宝贵资源。

这种记忆机制的效果是显著的。研究发现，拥有跨问题记忆能力的Xolver版本比只能处理单个问题的版本平均提升了3.5个百分点，在编程任务上的提升更是达到了7.7个百分点。这证明了经验积累对AI解题能力的重要作用。

三、渐进式推理过程：从粗糙想法到完美方案

Xolver的推理过程就像一场精心编排的协奏曲，每个乐章都有其特定的功能和节奏。

第一阶段是"初始化与经验调用"。当收到一道新题目时，规划师首先会组建最适合的专家团队。接着，系统会从长期记忆中检索出最相关的历史案例，就像给每位专家提供了一份"参考资料包"。这些资料不是随机选择的，而是通过智能匹配算法精心挑选出来的最相关案例。

第二阶段是"协作推理与经验积累"。这是整个过程的核心，可能会进行多轮迭代。在每一轮中，所有专家都会同时工作，基于当前掌握的信息（包括检索到的历史案例和共享记忆中的内容）提出自己的解决方案。这个过程特别有趣的是，专家们不是孤立工作的，他们能够看到队友的想法和之前轮次的尝试结果。

每轮推理结束后，评判智能体会登场。这位严格的裁判会仔细评估每个方案的质量，不仅给出分数，还会提供详细的反馈意见。对于数学题，评判标准是逻辑的严密性和答案的正确性；对于编程题，则会检查代码的功能完整性和测试通过率。

基于这些评价，共享记忆会进行更新。质量最高的方案会被保留，而表现较差的想法则会被淘汰。这种机制确保了团队的集体智慧在每一轮讨论后都能得到提升。

迭代过程会持续进行，直到满足收敛条件（比如找到了完美解答）或者达到预设的最大轮数。研究发现，增加迭代轮数通常能够显著提升解题质量，但也会相应增加计算成本。在实际应用中，通常2-3轮迭代就能取得很好的效果。

第三阶段是"答案验证与经验存储"。当推理过程结束后，专门的验证智能体会对最终答案进行格式化和最后检查。对于编程题，系统甚至会调用外部调试工具来确保代码的正确性。最后，整个解题过程中的精华部分会被提取出来，存入长期记忆，为将来的类似问题提供参考。

这种渐进式的推理方式特别适合处理复杂问题。研究团队通过大量实验发现，多智能体协作比单一智能体的表现要好得多，而多轮迭代则比单次推理更加可靠。更重要的是，这种方式让AI获得了类似人类专家的"元认知"能力——不仅会解题，还知道如何反思和改进自己的解题过程。

四、实验验证：在各个领域都展现出色表现

研究团队为了验证Xolver的实际效果，设计了一系列严格的测试实验，就像对新药进行临床试验一样全面和细致。

测试覆盖了从基础数学到高级编程的广泛领域。在数学方面，他们选择了GSM8K（小学数学应用题）、Math-500（涵盖多个数学分支的综合测试）以及AIME 2024和2025（美国数学邀请赛真题）。这些测试集就像是数学能力的"体检套餐"，从不同角度考察AI的数学推理能力。

编程方面的测试更具挑战性，使用的是LiveCodeBench v5，这是一个动态更新的编程挑战平台。选择这个平台的原因很巧妙——它会定期发布新题目，确保AI不可能提前"见过"这些题目，从而避免了"背题"的可能性。

为了确保结果的可靠性，研究团队采用了多次运行取平均值的方法。对于具有挑战性的测试（如AIME和LiveCodeBench），他们进行了16到32次独立运行，确保标准差控制在1%以内。这种严格的统计方法就像是科学实验中的多次重复验证，确保结果不是偶然现象。

实验结果令人印象深刻。即使使用相对较小的基础模型（32B参数的QWQ），Xolver也展现出了惊人的能力提升。在AIME测试中，从基础的78.1%提升到了89.9%，提升幅度达到11.8个百分点。在编程挑战方面，从63.4%跃升到76.2%，提升了12.8个百分点。

更令人震惊的是与其他先进系统的比较结果。Xolver不仅超越了其他专门的推理框架（如Search-o1、OctoTools和CheatSheet），甚至在很多情况下超过了参数量远超自己的大型模型。比如，使用中等规模基础模型的Xolver在AIME'24上达到了93.8%的准确率，而某些顶级商用模型的表现仅为93.4%。

当研究团队使用更强大的基础模型时，Xolver的表现更是达到了新的巅峰。在所有测试中都创造了新的最佳记录：GSM8K达到98.1%，AIME'24达到94.4%，AIME'25达到93.7%，Math-500达到99.8%，LiveCodeBench达到91.6%。这些数字意味着Xolver在大多数情况下都能给出正确答案，接近了人类专家的水平。

特别值得注意的是，研究团队还测试了Xolver的不同版本。结果显示，具备跨问题经验积累能力的版本（Xolver+）始终优于只处理单一问题的版本（Xolver-），平均提升3.5个百分点。这直接证明了经验学习对AI性能的重要作用。

五、深度分析：解密成功背后的关键因素

为了理解Xolver为什么如此有效，研究团队进行了详细的组件分析，就像拆解一台精密机器来研究每个零件的作用。

他们发现，多智能体协作是最关键的因素之一。当移除这个功能，让系统退化为单一智能体时，性能下降最为明显，平均降幅达到23.7%。这证明了"三个臭皮匠顶个诸葛亮"的道理——即使是AI，集体智慧也远胜过个体能力。

迭代推理的重要性同样不容忽视。当系统只能进行一轮推理时，性能平均下降7.3%。这个发现很有启发性：好的解答往往不是一蹴而就的，而是通过反复思考和改进得来的。就像写作一样，初稿很少是最佳版本，需要多次修改才能臻于完美。

评判智能体的作用也很关键，移除后平均性能下降16.4%。这说明了客观评价和反馈在学习过程中的重要性。没有评判员的团队就像没有教练的球队，缺乏必要的指导和纠错机制。

有趣的是，外部工具（如Python执行器）的贡献相对较小，移除后性能仅下降2.9%到5.6%。这表明Xolver的核心优势在于推理能力的提升，而不是对外部工具的依赖。这一点很重要，因为它意味着该方法具有广泛的适用性，不局限于特定的工具环境。

研究团队还专门分析了不同数量的智能体和迭代轮数对性能的影响。结果显示，增加智能体数量（从1个到4个）能够持续提升性能，但收益递减。同样，增加迭代轮数（从1轮到3轮）也有明显效果，但超过3轮后提升就不太明显了。这为实际应用提供了很好的指导：通常3个智能体进行2-3轮迭代就能取得很好的效果。

特别有价值的是对推理模式的分析。研究团队发现，Xolver在面对不同难度的问题时会自动调整策略。对于简单问题，它更多依赖直接推理；面对复杂问题时，则会增加自我评估和新方法探索的频率。这种自适应能力正是人类专家的重要特征。

成本分析也很重要。Xolver的计算开销大约是传统方法的1.5倍，这主要来自多智能体的并行计算和多轮迭代。但考虑到性能的显著提升，这个成本是完全合理的。研究团队指出，这就像是用稍高的成本换取了大幅提升的质量，在大多数应用场景中都是值得的。

六、技术创新：突破传统AI的局限性

Xolver的技术创新不仅体现在表面的性能提升上，更重要的是它突破了传统AI系统的几个根本性局限。

首先是"经验孤立"问题的解决。传统的大语言模型就像患有短期记忆丧失症的专家，每次面对问题都要从零开始思考。Xolver通过双重记忆系统彻底改变了这种状况，让AI也能像人类一样从经验中学习和积累智慧。这不仅提升了解题效率，更重要的是让AI获得了"成长"的能力。

其次是"单一视角"限制的突破。一个人的思维总是有盲点，即使是最聪明的专家也不例外。Xolver通过多智能体协作机制，让不同"性格"和"专长"的AI专家从各自角度分析问题，大大减少了思维盲区。这种多元化的思考方式往往能发现单一视角下难以察觉的解决方案。

第三个重要创新是"动态适应"能力。传统AI系统的推理过程是固定的，无法根据问题的复杂程度或者中间结果来调整策略。Xolver的迭代机制让系统能够根据每轮的反馈动态调整方向，就像人类专家在解题过程中会不断反思和调整思路一样。

技术架构上，Xolver采用了模块化设计，每个组件都有明确的职责和接口。这种设计不仅提高了系统的可维护性，还为未来的扩展提供了很好的基础。比如，可以很容易地添加新的专家类型或者更换不同的评判标准。

特别值得一提的是Xolver的"元学习"能力。系统不仅会解决具体问题，还会学习如何更好地解决问题。通过分析成功和失败的案例，系统能够逐步优化自己的推理策略和协作模式。这种能力让Xolver不是一个静态的工具，而是一个能够不断进化的智能系统。

在实现层面，Xolver还展现了很好的通用性。它不依赖于特定的基础模型，既可以使用开源的小型模型，也可以使用商用的大型模型。这种灵活性让它能够适应不同的应用场景和资源约束。

七、应用前景：改变AI解题的游戏规则

Xolver的成功不仅仅是学术研究的胜利，更预示着AI应用领域的一次重大变革。这种技术突破的影响可能比我们想象的更加深远。

在教育领域，Xolver可能会彻底改变个性化学习的实现方式。传统的AI教学助手只能提供标准化的答案，而Xolver却能展示完整的解题思路和推理过程。学生不仅能看到最终答案，还能理解专家团队是如何协作找到解决方案的。更重要的是，系统会记住学生的学习历程，为每个学生建立个性化的知识图谱。

科学研究领域的应用潜力同样巨大。复杂的科学问题往往需要跨学科的专业知识，而Xolver的多智能体协作机制正好适合这种需求。比如在药物发现过程中，化学家、生物学家、计算机专家需要密切合作，Xolver可以模拟这种跨领域的专家协作，加速科学发现的进程。

在工程技术领域，Xolver可以成为强大的问题诊断和解决工具。当复杂系统出现故障时，往往需要多个专业领域的专家共同分析。Xolver能够快速组织相关专家，并基于历史案例提供诊断建议，大大提高问题解决的效率。

商业决策是另一个有前途的应用方向。企业面临的很多问题都具有多面性，需要从财务、市场、技术、法律等多个角度综合考虑。Xolver的多智能体协作机制能够模拟这种多维度的决策过程，为企业提供更全面、更可靠的决策支持。

值得注意的是，Xolver的开源特性为其广泛应用奠定了基础。研究团队将所有代码和数据都开放出来，这意味着全世界的开发者都可以基于这个平台进行创新和改进。这种开放模式有助于形成一个活跃的技术生态，加速相关技术的发展和应用。

当然，技术的普及也面临一些挑战。首先是计算成本问题，Xolver需要比传统方法更多的计算资源。其次是技术复杂性，系统的配置和优化需要专业知识。但随着硬件性能的提升和技术的不断优化，这些问题都会逐步得到解决。

八、未来展望：通向通用人工智能的新路径

Xolver的成功为我们展示了一条通向更高级AI的可能路径。这不仅仅是性能数字的提升，更重要的是展现了AI系统可以具备的新能力特征。

从技术发展的角度看，Xolver开创了"经验驱动的AI"这一新范式。传统的AI主要依靠大规模数据的统计学习，而Xolver则更像是通过模拟人类专家的认知过程来获得智能。这种方法的优势在于它更接近人类的思维方式，因此在处理复杂推理任务时表现更好。

多智能体协作机制也为AI系统的设计提供了新思路。与其追求单一模型的无限扩大，不如让多个专门化的智能体协同工作。这种方法不仅更高效，也更符合现实世界中专业分工的原则。未来的AI系统可能会更多采用这种"团队作战"的模式。

记忆系统的创新同样具有深远意义。Xolver展示了如何让AI系统具备真正的学习和成长能力，而不仅仅是参数的静态存储。这种动态的、可进化的记忆机制为AI获得更高级的认知能力提供了可能。

不过，研究团队也坦诚地指出了当前系统的局限性。首先是计算效率问题，多智能体协作和多轮迭代确实需要更多的计算资源。其次是对基础模型质量的依赖，Xolver的表现很大程度上受限于底层语言模型的能力。

此外，目前的系统主要在数学和编程领域进行了验证，其在其他领域的表现还有待进一步测试。研究团队计划将这个框架扩展到更多领域，包括科学推理、常识问题解决等。

从更宏观的角度看，Xolver代表了AI发展的一个重要趋势：从追求模型规模的简单扩大转向系统架构的创新。这种趋势可能会重新定义AI能力的边界，让我们重新思考什么是真正的人工智能。

研究团队还提到了一些有趣的未来研究方向。比如如何让不同的AI系统之间进行经验共享，如何设计更好的专家选择和组合策略，如何让系统自动发现新的推理模式等。这些问题的解决可能会带来AI能力的进一步跃升。

更重要的是，Xolver的成功证明了开源合作的价值。通过将研究成果完全开放，研究团队为全球的AI研究者提供了一个强大的基础平台。这种开放精神不仅加速了技术进步，也确保了AI技术的发展能够惠及更多人。

说到底，Xolver最大的贡献可能不是创造了一个更强大的解题工具，而是为我们展示了AI系统可以具备的新型能力——学习、协作、成长和适应。这些能力让AI不再只是一个静态的工具，而是一个能够不断进化的智能伙伴。随着这类技术的不断发展和完善，我们有理由期待一个更加智能、更加有用的AI未来。

Q&A

Q1：Xolver是什么？它跟普通的AI有什么不同？ A：Xolver是一个模拟人类专家团队工作方式的AI系统。与普通AI每次都从零开始解题不同，Xolver会像人类专家一样积累经验、多人协作、反复改进，让多个AI专家组成团队共同解决问题，还能从之前的经验中学习。

Q2：Xolver会不会取代人类专家？ A：目前不会。Xolver更像是一个强大的辅助工具，能帮助专家更高效地解决问题。它在数学和编程方面表现出色，但仍需要人类的指导和监督，特别是在创造性思维和跨领域创新方面。

Q3：普通人能使用Xolver吗？怎么获取？ A：可以。研究团队已经将Xolver完全开源，代码和数据都可以在https://kagnlp.github.io/xolver.github.io/免费获取。不过使用它需要一定的技术基础和计算资源，目前更适合研究者和开发者使用。