NVIDIA用三个AI模型互相"打架"，在2026年国际数学奥赛拿了金牌

2026年9月的一个晚上，如果你恰好在关注国际数学奥林匹克竞赛的AI战况，可能会看到一条不算特别轰动，但足够让业内人士坐直身体的消息：一个完全没有用形式化证明工具、没有联网、没有调用任何外部搜索的AI系统，在IMO 2026上拿到了30分（满分42分），超过金牌线一分。

这事儿听起来平淡，但你得知道背景。

**去年也就是2025年，Google的Gemini Deep Think和OpenAI的一个实验性模型第一次用纯自然语言的方式拿到了IMO金牌**，这在当时是个大新闻，因为在那之前，AI要在奥数题上拿高分基本靠的是把问题转换成形式化语言（比如Lean），再让符号验证引擎去暴力搜索证明路径。这条路径的代表是Google DeepMind的AlphaProof和AlphaGeometry 2，它们在2024年的IMO上离金牌只差一分，靠的是符号系统的严谨性，但也被这套系统的局限性捆住手脚——形式化转换本身就是个瓶颈，很多题目转换过去就已经面目全非了。

自然语言证明的突破意味着AI开始能像人类学生一样，直接读懂题目、直接写出证明过程，不需要一个中间翻译层。这是范式的转变。

但2025年的成功案例，无论是Gemini还是OpenAI的模型，都是闭源的，外界看不到具体怎么做的。NVIDIA这次做的事情，是把整套流程摊开给所有人看：训练数据、训练代码、推理代码、提交的证明原文、甚至连每一步用了多少GPU小时都写清楚了。这篇论文与其说是一个成果发布，不如说是一份"配方公开"。

那么问题来了：这套系统到底是怎么运作的，它凭什么能达到金牌水平？

一个模型不够用，那就训练出三个性格不同的模型

NVIDIA这次没有从零训练一个全新的大模型，而是站在了自家Nemotron 3 Ultra这个5500亿参数（其中激活550亿）模型的肩膀上。

**混合专家模型（MoE）**：一种模型架构，简单说就是模型内部有很多"专家子网络"，每次处理一个输入时只激活其中一部分，这样能在保持模型总容量很大的同时，降低实际计算成本。

他们从这个基座模型出发，训练出了两个"性格"完全不同的专家版本。第一个叫Nemotron-3-Ultra-SFT，用的是监督微调，说白了就是喂给它大量高质量的解题范例，让它照着学。第二个叫Nemotron-3-Ultra-RL，用的是强化学习，让模型自己去尝试解题，做对了给奖励，做错了不给，靠试错来进化。

这里有个细节值得说一说：SFT模型的训练语料不是随便抓来的题目，而是专门挑选了AoPS（Art of Problem Solving，一个数学竞赛社区）里那些通过率很低的难题，一共15879道，然后用DeepSeek-V4-Pro去生成初始解答，解不出来的还要经过最多三轮"返工"，每一轮都基于之前的尝试和验证反馈去改进。整个数据构建流程还顺带生成了验证者轨迹和元验证者轨迹，教模型不仅会做题，还会判断一个证明对不对，甚至判断"判断者"判断得对不对。最后筛选出41万多条高质量样本。

**强化学习（RL）**：一种训练方式，模型通过反复尝试并根据结果获得奖励或惩罚来学习策略，而不是直接被告知正确答案。

如果你只用一个模型来解题会怎样？论文里的实验数据很直白地回答了这个问题。在30道题的开发集上，单独用基座模型（GA）跑完整套流程，最终能拿到162分（这是30题总分，不是单题分数）；单独用RL模型能拿180分；单独用SFT模型是165分。而把三个模型混在一起组成集成系统，能拿到188分。

这就好比你请了三个不同背景的会诊医生看同一个疑难病例。一个医生擅长按经验开药方（SFT，照着范本学出来的），一个医生擅长根据病人反馈不断调整治疗方案（RL，靠试错进化出来的），还有一个是没受过专门训练的全科医生（GA，基座模型）。如果只请其中一个，你会漏掉另外两个人能看出来的东西。如果只让最擅长的那个医生看三倍的病人（也就是给RL模型三倍的生成次数），效果提升也很有限，因为医生的知识盲区还是那些盲区，重复问诊解决不了认知边界的问题。真正管用的是三个背景不同的人一起会诊，因为他们各自的知识盲区不重叠。

论文里专门做了个实验验证这个直觉。他们测试了"把生成次数翻倍" vs "把生成预算分给不同模型"这两种策略。结果是，把RL模型的生成次数从128次翻倍到256次，只多解出1道题；但如果把这多出来的预算分给SFT模型（也就是RL 128次+SFT 64次的组合），能多解出2道题，且总分从87分（仅接受的证明）跳到98分。这说明模型之间的差异不是噪音，而是真正互补的能力盲区。

谁来当裁判：验证环节的精妙设计

有了三个能生成证明的模型还不够，因为AI写出来的证明质量参差不齐，你得有一套机制去判断"这个证明到底对不对"。

这个系统里的验证逻辑其实挺有意思，它没有用外部的形式化验证工具（比如Lean），而是让同一批Nemotron模型自己当裁判。具体做法是：每个候选证明会被RL模型和SFT模型各判定8次，一共16次独立判断，只有当这16次判断全部给出满分（1分）的时候，这个证明才算被系统"接受"。

为什么非要这么严苛？论文里做了一个精细的审计实验来回答这个问题。他们从30题开发集里抽出300个证明样本，分别用GA、RL、SFT三个模型单独当裁判，看它们的判断准确率。结果发现，GA模型作为裁判太"宽容"了，它会接受审计集里将近三分之一的错误证明（误判率31.6%）；SFT模型是最"挑剔"的，误判率只有4.5%，但它也会拒绝很多其实正确的证明（漏判率高达69.1%）；RL模型介于两者之间。

**假阳性（False Accept）与假阴性（False Reject）**：在这个场景里，假阳性指裁判把一个错误的证明误判为正确并接受了它；假阴性指裁判把一个正确的证明误判为有问题而拒绝了它。

这两种错误的代价完全不对等。一旦系统误把一个错误证明当成正确答案接受了，那这道题的搜索就直接停止了，不会再有后续尝试去纠正它，这是致命的。而如果系统误拒了一个其实正确的证明，问题不大，因为这个证明依然会保留在候选池里，排名靠前，后续还有机会被选中提交。这就好比机场安检，你宁可让安检员多拦下几个无辜的旅客重新过一遍（假阴性），也不能让一个真正带违禁品的人蒙混过关（假阳性），因为后者的后果是不可逆的。如果安检标准放宽到"随便扫一眼就放行"，效率是提高了，但漏掉的风险谁来承担？

正是基于这个不对等的代价考量，系统选择了让两个最"挑剔"的模型（RL和SFT）组成验证小组，并且要求全票通过才能接受。论文数据显示，这个组合下的假阳性率只有1.1%，比单独用SFT（4.5%）还低，原因是SFT自己会漏判8个错误证明，但RL能从中揪出6个，两者形成互补的纠错关系。加入宽松的GA模型反而没什么帮助，因为它很少会否决RL和SFT都已经通过的证明，实际测试中它只多剔除了2个证明，而这两个还恰好是正确的，等于帮倒忙。

这套16票全通过的机制不是没有代价的。论文坦诚地写道，在审计的25个被接受的证明里，有23个确实拿到了独立评审团（一个由GPT-5.5、Gemini 3.1 Pro、Claude Opus 4.8组成的外部评委团）给出的满分，但有1个只值0分，因为它的论证依赖一个错误的排列对称性假设，存在反例可以直接推翻这个结论。而三个模型全都给了这个错误证明满分判断。这说明当前的模型验证机制存在一个共同的"盲区"，不是靠加更多裁判就能解决的，因为它们可能犯的是同一类错误。

生成、验证、修改：一个不断打磨的循环

搞清楚了谁来生成、谁来验证，接下来要看这套系统是怎么把两者串起来，形成一个能够自我迭代改进的流程。

论文把这套机制称为"生成-验证-修改"循环，灵感来自DeepSeekMath-V2。具体流程是这样的：第一轮，三个模型（GA、RL、SFT）分别根据8种不同的解题策略提示词，各生成16次尝试，一共384次首轮尝试。

这8种提示词各有侧重，比如有的要求模型"先证明引理再组装成完整证明"，有的要求"对比至少三种不同解法路线后选出最靠谱的一种"，还有的专门要求模型"主动寻找自己论证的反例来攻击自己的证明"。这种做法很像团队头脑风暴时故意分配不同的思考角色，有人负责发散、有人负责挑刺、有人负责验证边界情况，避免所有人都从同一个角度想问题导致思路撞车。

如果这8种提示词的多样性不存在会发生什么？论文虽然没有单独做这个消融实验，但从"多提示词分散生成"这个设计初衷能看出来，如果所有384次尝试都用同一个提示词模板，那模型很可能会反复陷入同一种思路的死胡同，因为提示词本身就在框定思考路径。多样化的提示词相当于给了模型8个不同的"起跑姿势"，即便终点一样，路径的差异性能显著提高至少有一条路线能走通的概率。

**验证-精炼循环**：生成候选答案后进行验证打分，再根据打分反馈对候选答案进行修改，如此循环，直到达到质量标准或用完预算轮次。

如果第一轮没有任何证明被判定为"接受"，系统会从全局证明池里挑出排名最高的最多16个证明，针对每一个构造一条精炼提示，附上之前的验证批评意见，再让三个生成模型分别输出4个新版本，凑成192次精炼尝试。这个过程最多循环8轮。

这里有个"提前收工"的设计：一旦某个生成模型对某道题已经产出了被接受的证明，这个模型就不再对这道题继续生成新尝试了，但其他模型还会继续跑完当前这一轮。这意味着一道题最终可能会留下最多三个"决赛选手"，分别来自三个不同的生成模型。

真正决定命运的最后一关：高成本的终选

搜索阶段的验证器，设计初衷是给出反馈帮助后续修改，它相对宽松，只要求16票全过。但最终要提交给IMO赛事的答案，需要一个完全不同标准的裁决。

于是系统还设了第二个独立阶段，叫"最终候选人筛选"。这一阶段会重新用三个模型（GA、RL、SFT）各自独立打分16次，一共48次判断，用的是一套完全不同的评分标准，模仿IMO官方阅卷的0到7分打分制，而不是搜索阶段简单的0/0.5/1三档评分。

**IMO评分标准**：国际数学奥赛的官方评分惯例，每道题满分7分，按证明建立了多少个必要的"里程碑"（关键论证步骤）来给分，即便证明不完整，也能按已完成的部分给部分分。

为什么要单独搞一套更细致的评分体系？因为搜索阶段的验证器只需要回答"这个证明能不能过关"这种二元判断，方便快速迭代；而最终提交决策需要的是"在多个候选人里，哪一个质量最高"这种更精细的排序问题。这两个问题看似相似，实际上对评分粒度的要求完全不同，就像招聘时的初筛面试（只看是否合格）和终面排名（要在多个合格候选人里选出最好的一个）需要不同的评估工具。

最终，每道题的所有决赛证明会按这48个分数的均值排名，均分最高的证明胜出提交。如果打平，则优先选文本更短的证明。

论文里有一张图表画出了整个比赛过程中，内部估算分数和真实赛果之间的对比曲线，两条线在整个4.5小时的比赛时间里贴合得相当紧密，这说明搜索阶段的验证器确实是一个可靠的实时代理指标。但在比赛截止那一刻，内部估计和外部评委团都给出了大约32分，比官方最终结果30分高出2分，这个差距完全来自第3题和第6题，这两道题的证明都被模型评委团（不管是内部还是外部）误判为更高的分数，而官方阅卷只给了1分。论文很坦诚地指出，这似乎反映的是模型验证机制的一个共同盲区，而不是某个具体验证器的偶然失误。

时间紧迫下的资源账本

这套系统跑一次到底花了多少钱、多少时间？论文给出的资源核算相当详细。

六道题目全部找到提交证明，一共消耗了大约7.07亿个生成token，累计1464个GB200 GPU小时。如果算上所有已经在跑的轮次跑完，整场比赛消耗了23.1亿个token，4784.6个GPU小时。

有意思的是，四道满分题（第1、2、4、5题）的提交证明在比赛开始后的76分钟内就已经通过了终选面板，剩下两道题也在100分钟内定案。之后整整4个小时，搜索基本处于停滞状态，直到4.5小时的比赛截止线到来。这说明这套系统的"爆发力"集中在前一个多小时，后面大部分时间是在原地打转，没有实质性突破。

比赛结束后，研究团队没有停手，让系统继续跑了第6题。8小时25分钟后，系统真的找到了一个新解，内部验证器没有接受它，但它的评分比比赛提交的版本更高。研究者请独立的人类数学家专家团队来评审，这次评审给出了4分（满分7分），比原本提交的1分高了不少。这需要额外6.1亿个token和890个GPU小时，代价不算小，而且这个评分是没有官方阅卷标准参照的非正式复核，不能算作官方成绩。这个细节挺诚实地展示了一件事：给足够的时间和算力，模型确实还能挖出更好的答案，但边际成本在急剧上升，8小时25分钟的额外投入只换来了一道题3分的提升。

那些试了但没成功的思路

科研报告里最容易被忽略、但往往最有价值的部分，是那些"我们试过但没用"的实验。这篇论文专门用了一整个附录来记录这些失败尝试，这种坦诚在学术论文里并不常见。

第一个是"跨证明上下文"的想法。原本的精炼流程只用单个证明及其对应的验证反馈来做修改，团队想，如果能让模型看到同一道题所有历史尝试提炼出来的经验教训，会不会修改得更快？他们专门设计了一套流程，先从每个尝试里提取"这个思路哪里有用、哪里出了问题"的经验，再汇总成一份"共享经验报告"提供给后续的精炼提示词。结果呢？确实在早期轮次进展更快，但最终42个问题里只解出了42个（相比基线的44个），反而更少了。

第二个是换一种给证明排序的规则。原本的排序主要依据验证器打分的均值，团队观察到有些证明虽然均值不错，但某几次判断给了0分，这些0分判断里往往藏着被均值掩盖的实质性漏洞。于是他们设计了"零分优先"规则，优先处理零分判断较少的证明。这个规则在早期也表现得更好，但到第9轮时和基线打平，都是44题。

第三个是从多个不同证明里综合提炼出一个新解，而不是只精炼单一的"父证明"。团队让模型先分析4个风格迥异的候选证明各自的核心思路、有用步骤、失败步骤，再让模型综合出一个新的自包含解答。测试结果是，两种方法都解出了47题里的22题，其中21题是重合的，但各自还独有1题是对方没解出来的，等于是把问题的分布挪了个位置，总量没变。

第四个也是最有教训意义的一个，叫"分诊路由"。这个想法是为了省验证成本：与其对每个首轮候选都跑满64次完整验证，不如先用3次初步判断做个"分诊"，只把排名前32的候选送去精炼，把验证预算从64次砍到3次，理论上能省下95.3%的计算量。但当团队把这套分诊逻辑接到一个固定的候选池上重放测试时，发现有44%原本能走到"被接受"结果的正确证明链条，在分诊阶段就被直接淘汰了。他们还专门请人类专家去复核这些被淘汰但原本能走通的证明，14个里有13个是完全正确的。这个发现直接否决了分诊路由的想法，因为省下的计算成本，代价是丢掉将近一半本该成功的正确路径，这笔账怎么算都不划算。

这些"失败的实验"共同传递了一个信息：更复杂、更聪明的设计不一定带来更好的结果，有时候简单直接的机制反而更稳健，因为复杂机制往往在优化某个局部指标（比如早期进展速度、计算成本）的同时，悄悄丢掉了对最终结果更重要的东西（比如某条本该成功但被过早砍掉的证明路径）。

一份公开的"配方"

这篇论文最值得称道的地方，或许不是30分这个数字本身，而是它选择把整个系统毫无保留地摊开。两个后训练出来的模型检查点、训练数据、训练和推理代码、提交给IMO的原始证明文本，甚至连一个名为Nemotron-IMO-Bench、包含200道从未公开过的奥数级别题目的全新基准测试集，全部放到了Hugging Face上供任何人下载复现。

这个基准测试集是团队和知名数学教育家、奥数命题人Titu Andreescu合作创建的。因为这些题目此前从未发表过，所以不存在"模型提前见过答案"的数据污染问题，这对于评估AI真实的解题能力来说是很关键的一点。团队从这200题里精心挑出30题作为开发集，覆盖代数、组合、几何、数论四大领域，并按难度分层，方便后续研究者做快速迭代实验而不必每次都跑全部200题（跑一遍全套高成本管线太贵了）。

论文最后总结说，单纯堆更多的生成次数是不够的，真正带来提升的是三个方向的协同：互补的后训练专家模型、能在多轮之间保留有潜力候选的验证驱动式精炼机制，以及在最终评选阶段投入的大量计算。而那些看起来更精巧的路由和筛选策略，反而经常在没有提升最终覆盖率的同时，改变了早期搜索的行为方式，甚至激进的筛选还会误删掉后来能走通的正确候选。

Q&A

Q1：Nemotron 3 Ultra是什么？

A：Nemotron 3 Ultra是NVIDIA开发的一个5500亿参数的混合专家大模型，本次IMO竞赛系统就是在它的基础上训练出两个专家版本（SFT和RL）后组合使用的。

Q2：这套系统在IMO 2026上具体表现如何？

A：系统总共拿到30分（满分42分），超过金牌线1分，其中第1、2、4、5题拿到满分7分，第3、6题各拿到1分，整个过程不使用形式化证明工具、外部工具或联网搜索。

Q3：为什么要用三个模型一起解题，而不是一个更强的模型？

A：实验数据显示单独使用任何一个模型效果都不如三者组合，因为不同训练方式（监督微调和强化学习）让模型形成了互补的能力盲区，混合使用能覆盖更多题目，而单纯增加同一模型的生成次数收益有限。