帝国理工、牛津、香港中文大学联合研究：让一个"小模型"当总指挥，调度顶级AI共同攻克最硬科学难题

这项由帝国理工学院、牛津大学、香港中文大学、上海交通大学、上海人工智能实验室等多所机构联合开展的研究，以预印本形式于2026年6月发布，论文编号为arXiv:2606.15872。感兴趣的读者可通过该编号在arXiv平台查阅完整原文。

一、顶级AI们的"集体失灵"

科学研究向来是人类智慧的最高战场。当你拿着一张来自天文望远镜的图像，或者一幅描述材料微观结构的扫描电镜照片，要求AI系统像真正的科学家那样进行深入分析、得出有效结论，这件事到底有多难？

现有最强大的商业AI模型给出了一个令人警醒的答案。以谷歌的Gemini-3-Pro为例，这款当前公认综合能力最强的商业AI，在一个名为"SGI-Reasoning"的前沿多模态科学推理测试集上，准确率仅为42%。换句话说，面对这批覆盖天文学、化学、地球科学、能源科学、信息科学、生命科学、材料科学、神经科学和物理学九大学科的高难度题目，即便是最强的AI，每两道题里就会答错超过一道。

不过，如果你仔细观察这些AI的答题情况，会发现一个颇为微妙的现象。不同的AI在不同题目上各有胜负——Gemini-3-Pro在生命科学上表现最好，Claude-Sonnet-4在天文学题目上遥遥领先，o4-mini则在地球科学和物理学上表现突出。更关键的是，如果把三款最好的AI模型（Gemini-3-Pro、Gemini-2.5-Pro和GPT-4o）的正确答案合并起来，即只要有任何一款AI答对了某道题就算通过，整个测试集的覆盖率一下子跳到了74%，几乎是最强单模型准确率的两倍。而如果把所有评测过的模型的正确答案全部合并，这个数字更是攀升到89%。

这意味着，真正的突破口不在于把一个AI模型训练得更强，而在于如何聪明地把多个AI的优势叠加起来。

二、三种"组队打怪"的方式及其各自的局限

面对单个AI能力不足的困境，研究者们并不是没有尝试过"组队"解决问题，但已有的方法各有各的硬伤。

第一类方法叫做"自洽性投票"，思路是让同一个AI对同一道题回答好多遍，然后投票选出出现最多的答案。这就像你同一道数学题算了五遍，选出出现三次及以上的结果作为最终答案。这个思路的问题在于，同一个AI重复回答，仍然带着同样的知识盲区——你让一个不懂天文学的学生做同一道天文题算十遍，它依旧不会。

第二类叫"多智能体辩论"，让几个AI互相看对方的答案，然后修改自己的回答，经过几轮交流后得出共识。但每轮交流都要消耗大量资源，而且不管题目难易、学科特点，每次都要经历固定的流程，既不灵活，成本也会直线上升。

第三类是"路由方法"，用一个小模型判断这道题最适合交给哪个大模型来做，然后直接把问题扔给那个大模型。这比前两类聪明了一些，但它只能做一次判断，没法随着解题过程的推进动态调整策略，也无法把一道复杂的综合题拆开、分别交给最擅长的模型处理不同的部分。

三、SciOrch：一个懂得分工协作的"总调度员"

研究团队提出的解决方案叫做SciOrch，核心思路可以用一个生活场景来理解。

回到科学题目，如果你是一个聪明的团队组长，手下有几位各有所长的专家：一位擅长看图像、一位擅长做计算、一位博学多才。你不会把整道题丢给其中一个人，而是先把问题拆解：读图的部分交给看图专家，计算的部分交给计算专家，综合判断再由自己来做。这就是SciOrch的工作方式。

SciOrch由一个相对轻量的8B参数视觉语言模型（基于Qwen3-VL-8B）担任"总指挥"，它的工作不是直接回答科学问题，而是负责将问题分解、调度，并最终综合各路答案给出最终结论。它可以动用的"专家团队"是一个包含16个商业API接口的模型池，涵盖OpenAI的GPT系列（包括GPT-5.4、GPT-5、GPT-4o、o3等九个版本）、Anthropic的Claude系列（Sonnet-4.5、Sonnet-4、Haiku-4.5三个版本）以及谷歌的Gemini系列（Gemini-3-Pro、Gemini-3-Flash、Gemini-2.5-Pro、Gemini-2.5-Flash四个版本）。这个池子特意混合了旗舰级和轻量级的模型，目的是让总指挥也能学会在精度和成本之间做取舍。

在解题过程中，总指挥在每一步都面临两个选择：要么把当前需要解决的某个子问题，以及指定调用哪个模型的指令，一起打包发出去（称为"委托"动作）；要么宣布自己已经收集到足够的信息，提交最终答案（称为"提交"动作）。每次委托都会得到一个来自外部API的回复，这个回复会被记录下来，成为下一步决策的参考依据。整个过程就像侦探逐步收集线索，每收集一条线索都在缩小嫌疑范围，直到证据充分才宣布结案。

委托动作还包含一个任务类型标签，总指挥需要声明这个子问题属于"计算类"、"科学推理类"还是"视觉解析类"，以便系统根据类型将任务路由到最适合的模型。

四、训练这位"总指挥"的难题：每次练习都要花真钱

如果说设计出SciOrch的框架是第一步，那么真正让这个总指挥变聪明则是更大的挑战。

通常的做法是用"强化学习"来训练这类决策系统——让AI反复尝试、从错误中学习，像训练一个下棋机器人那样逐渐掌握调度策略。但SciOrch面临的问题是：它的每一次"尝试"都需要调用真实的商业API，每调用一次就要花真实的钱，而且每次调用都有网络延迟。如果按照传统强化学习的思路，需要产生大量的尝试样本，API费用和等待时间会失控到完全无法承受的程度。

研究团队用蒙特卡洛树搜索（MCTS）来解决这个问题。简单来说，MCTS是一种"探索路径"的方法，它把解题过程想象成一棵不断分叉的树——从树根出发，每一步可以走不同的路，最终走到某片叶子意味着得出了一个答案。

传统的强化学习是让AI沿着某条路走到底，得到反馈，再走另一条路，反复如此。MCTS的聪明之处在于，它让多条路共享公共路段——从根到某个分叉点的路段只需要走一次，从那个分叉点出发的多条支路可以并行探索，大量减少了重复的API调用。一棵树可以产生数十条训练样本，而无需每条样本都从头到尾走一遍完整的流程。

研究团队将MCTS分成三个阶段来执行。第一阶段叫"多样化滚出"，目的是在树的初始建立阶段就让不同分支尽量走不同的路。具体做法是：在每个决策节点，用两种不同的模型池配置各生成若干候选动作，然后从中挑出"差异最大"的两个作为左右两条分支。这里的差异是用语义相似度来衡量的——两个委托动作在语义上越不像，就越可能代表两种截然不同的解题策略，就越有价值。

第二阶段叫"信号驱动扩展"，目的是把有限的探索预算集中在最有教育意义的节点上。一个节点是否值得深入探索，取决于它的子节点之间的"收益差距"——如果在这个节点选择不同的动作，最终得到正确答案的概率差异很大，那这个节点就很有训练价值，应该优先扩展。同时引入一个深度惩罚，避免树变成一条细长的单链而缺乏横向多样性。

第三阶段叫"剪枝"，把无用的分支去掉。当某个节点的子节点太多时，只保留最有价值的若干个，具体是保留那些平均期望回报最高的子集，其余删除。这样既控制了树的大小，也去掉了那些"全对"或"全错"的无效节点——因为这两种节点对模型学习毫无帮助，它们无法告诉模型哪个动作更好。

五、从树到模型：如何从搜索结果中提炼训练信号

收集到了一棵包含大量节点的搜索树之后，如何用它来更新总指挥的参数，是另一个技术关键。

研究团队没有采用"把整条路径作为一个训练样本"的直觉做法，而是为树上每一个非叶子节点单独构造一个训练样本。原因在于，路径级别的训练信号容易自相矛盾——同一个早期动作，可能因为后续路径不同而出现在一个正确答案的轨迹里，也出现在一个错误答案的轨迹里，模型会收到互相冲突的信号，导致训练不稳定。

节点级别的训练方式是这样的：对于树上每个节点，计算它选择当前动作之后的子节点的平均期望回报，再减去这个节点所有探索过的子节点的平均期望回报，得到一个相对优势分数。这个分数代表"当前这个选择，相比同一情境下的其他可能选择，到底好多少或差多少"。正分意味着这个选择比平均水平好，应该被强化；负分意味着比平均水平差，应该被抑制。

在此基础上，研究团队还加入了KL散度惩罚项，确保模型在学习过程中不会偏离它的初始状态太远。然后用类似PPO（近端策略优化）的方法对梯度进行裁剪，防止单次更新幅度过大造成训练崩溃。这整套方法在文中被称为REINFORCE++风格的训练，是对经典强化学习算法的改良版本。

整个训练过程是迭代进行的：用当前版本的总指挥跑一批MCTS，收集节点级别的训练样本，更新模型参数，再用新版本的总指挥跑下一轮MCTS，如此循环。梯度更新完全在离线状态下进行，不占用API调用的时间窗口，有效缓解了延迟问题。

六、数据集：如何为这场实验搭建考场

为了验证SciOrch，研究团队构建了一个覆盖240道题的测试集，同时用176道题进行训练。

训练和测试数据来自两个来源。第一个是SGI-Reasoning，包含291道题，涉及九个科学学科，每道题都需要解读真实的科学实验图像。团队按学科比例将其拆分为145道训练题和146道测试题。第二个来源是Scientists' First Exam（简称SFE），这是一个覆盖天文学、化学、地球科学、生命科学和材料科学五个领域的双语视觉问答数据集，原始包含830道题。

从SFE中选题需要经过严格筛选。研究团队首先只保留英文的多项选择题，筛出281道候选题；然后对每道候选题用五个顶级模型（GPT-5.4、GPT-4o、Gemini-3-Pro、Gemini-2.5-Pro和Claude-Sonnet-4.5）分别作答，只有至少一个模型能答对的题才会被保留——那些所有模型都答错的题，通常是标注有误或题目本身有歧义，而不是真正超难。最终从SFE中选出125道可用题，分为31道训练题和94道测试题。

七、实验结果：数字背后的故事

最终结果呈现在一张详尽的对比表格里。

先看独立模型的表现。Qwen3-VL-8B这个开源模型在直接作答模式下平均准确率只有27.52%，即使通过监督微调（SFT）提升到31.24%，或者通过GRPO方法提升到29.10%，也依然远远落后于任何一个商业模型。这表明，在这个难度级别的科学推理任务上，仅仅依靠强化训练一个8B规模的开源模型，无法缩短与顶级商业模型之间的差距。

三个商业模型的直接作答成绩分别是：GPT-5.4平均50.83%，Gemini-3-Pro平均52.92%，Claude-Sonnet-4.5仅38.33%。自洽性投票和多智能体辩论对这些模型的提升都非常有限——GPT-5.4用自洽性投票只提升了0.42个百分点，多智能体辩论甚至让它下降了2.08个百分点，而API花费却膨胀了5倍。基于提示词特征进行路由的P2L方法更差，平均只有37.70%，连任何一个商业模型的直接作答都比不过。

SciOrch的成绩是：SGI子集49.30%，SFE子集68.10%，加权平均56.66%。这比最强单一商业模型Gemini-3-Pro高出3.74个百分点，比最强的多智能体基线高出3.33个百分点，同时在两个子集上都实现了最高准确率——这意味着SciOrch不是只在某个领域偏科优秀，而是真正形成了跨学科的综合优势。

成本方面的数字同样值得关注。SciOrch在整个240题测试集上的API总花费为10.42美元。相比之下，GPT-5.4的自洽性投票方法花费24.73美元，Gemini-3-Pro的自洽性方法花费14.36美元。SciOrch不仅在精度上领先，在成本上也低于主要竞争基线的一半。

八、细节之处：提示词工程与系统设计

研究团队在附录中完整公开了SciOrch的提示词模板，这些设计细节揭示了系统有效运转的内在逻辑。

总指挥的提示词明确要求它担任"路由决策者"而非"直接解题者"，并规定了严格的"提交门槛"——在宣布最终答案之前，必须满足三个条件：第一，决定性的关键事实必须有至少一个委托步骤的回复作为支撑，而不能仅凭总指挥自己的推断；第二，如果某次委托的回复置信度在0.9以上，要么需要有独立的交叉验证（比如用不同方式重新推导这个关键值，或者读取图像的不同区域），要么必须能够说明为什么不需要验证；第三，不能存在任何尚未核实的、可能推翻当前结论的反例。这套机制有效遏制了AI系统常见的"过度自信"问题。

路由规则也相当具体：视觉解析类任务优先送往擅长图像理解的视觉模型池；高难度计算或科学推理任务送往旗舰级模型；中等难度任务分配给强通用模型；简单查阅或一步算术任务则交给轻量级模型。这种分层路由让系统在控制成本的同时最大化了每次调用的价值。

专家模型的提示词则要求被委托的模型只回答总指挥提出的那个子问题，不做整道题的综合判断，并且要给出自己对子问题答案的局部置信度，同时被要求独立于总指挥的当前推断方向进行推理，避免被总指挥的错误方向带偏。

说到底，SciOrch讲述的其实是一个关于分工与协作的故事。在那些最难的科学推理题目上，没有任何一个AI是全能的——就像没有任何一个人是全能的科学家一样。真正的进步不是把一个模型训练得无所不能，而是学会识别每个模型的擅长领域，然后在对的时候把对的问题交给对的专家。

一个只有8B参数的"小模型"，通过学习如何聪明地调度那些比它大得多的模型，最终取得了超越所有成员单打独斗的成绩，而花费却更少。这个结果对整个AI行业的启示在于：系统设计本身就是一种可以被学习的能力，协调智慧可以在一定程度上弥补个体能力的不足。

当然，这项研究也存在清晰的局限。测试集只有240道题，跨越九个学科，每个学科的题目数量相对有限，难以对单个学科做出可靠的统计结论。此外，整个系统目前只适用于多项选择题格式，因为只有这种格式才能提供明确的对错信号用于训练——现实中的科学研究往往需要开放式的推导和论证，如何把SciOrch扩展到自由格式的科学推理，仍然是一个待解的开放问题。

对SciOrch体系感兴趣的读者，可以通过arXiv编号2606.15872查阅完整论文，代码也已在GitHub（llexieguo/SciOrch）上开源。

Q&A

Q1：SciOrch和传统多智能体辩论方法相比，核心差异在哪里？

A：传统多智能体辩论是让同类模型互相交换答案、达成共识，流程固定、成本随轮数线性增长，而且多个相同模型仍然共享相同的知识盲区。SciOrch的差异在于它会把一道题主动拆解成若干子问题，按子问题的类型选择最合适的模型来回答，决策是动态的，可以根据已有回复随时调整方向，整体成本也低于自洽性投票和辩论方法。

Q2：为什么用蒙特卡洛树搜索训练SciOrch，而不是普通的强化学习？

A：普通的在线强化学习每产生一条训练样本就需要调用一次完整的商业API流程，费用和延迟都会失控。MCTS通过树状结构让多条路径共享公共前缀，一棵树可以产生数十条节点级别的训练样本，同时梯度更新在离线状态下进行，不占用API调用时间窗口，大幅降低了训练成本。

Q3：SciOrch的8B总指挥模型最终有没有学会真正的"路由策略"，还是只是在随机调用模型？

A：从实验结果来看，SciOrch确实学到了有意义的路由策略。它在SGI和SFE两个测试子集上同时取得最高准确率，而不是偏科优秀，说明它能够根据题目的学科特点和子问题类型做出有针对性的委托决策，而不是随机分配。此外它的API花费仅10.42美元，低于盲目多次调用所产生的成本，也侧面印证了其路由决策的有效性。