浙江大学、腾讯、北京大学联手破解AI推理"算力浪费"难题：当大模型学会"量力而行"

这项由浙江大学、腾讯HY团队与北京大学联合完成的研究，发表于2026年第43届国际机器学习大会（ICML 2026），会议地点为韩国首尔，收录于PMLR 306论文集。感兴趣的读者可以通过论文编号arXiv:2606.03092查询完整论文。

一个真实的困境正在每天发生：当你向AI提出一道简单的小学数学题时，系统给了它8000个"思考步骤"的预算；而另一个用户提出的竞赛难题，也只拿到同样的8000步。结果是，前者花了大量时间在无聊的重复验证上，后者却在最关键的推理还没展开的时候就被强制截止了。这不是AI变笨了，而是资源分配出了问题。

来自浙江大学、腾讯HY团队和北京大学的研究人员，把这个问题当成一道经济学题来解——既然算力是有限的"货币"，那就该像精明的投资者一样，把钱花在刀刃上。他们由此提出了一套名为CLEAR（Constrained Latent-utility Equilibrium Allocation for Reasoning，约束潜在效用均衡推理分配）的方法，核心思想是：对没有希望的问题"理性放弃"，把省下来的算力集中投入到那些"再加把劲就能解出来"的问题上。

**一、为什么AI推理也存在"资源浪费"**

要理解这个问题，先设想一个场景：你是一家饭店的厨房主管，今天有500桌客人同时点餐，但厨房的燃气总量是固定的。你有两种选择：给每桌分配完全一样的燃气量，或者根据每道菜的烹饪需求灵活调度。如果一刀切地平均分配，炖一锅需要三小时慢火的牛肉汤，和快炒一盘只需两分钟的青菜，用的燃气完全一样——这显然既浪费又低效。

大模型推理面临的正是这种困境。当前主流的部署方式，是给每个问题设定一个统一的"最大生成token数"（可以理解为AI最多能写多少字的思考过程）。这个设定暗含了一个假设：所有问题对计算资源的需求是差不多的。但研究团队通过实验发现，现实完全不是这样。

研究人员使用Qwen2.5-Math-7B这个数学推理模型，在三个难度差异极大的测试集上做了实验：简单的小学数学GSM8K、中等难度的MATH500，以及极难的竞赛题AIME。他们让模型用不同的token预算来解题，记录下准确率随预算变化的曲线。结果出现了一个非常规律的S形曲线，可以清晰分为三段。

第一段是"严格期"（Strict phase）：给的token预算很少时，几乎无论给多少，准确率都接近零。这就像你让一个厨师用只够煮半熟的燃气去炖牛肉，燃气多给一点点，牛肉还是半生不熟，白费了。第二段是"激增期"（Surge phase）：一旦预算超过某个关键门槛，准确率会急剧攀升，每多一点算力都能带来巨大的收益。这是"投资回报率"最高的黄金区间。第三段是"充裕期"（Ample phase）：预算继续增加，准确率的提升越来越缓慢，边际效益快速递减，就像蛋糕已经烤好了，继续加热只会让它焦糊。

关键在于，不同难度的题目，这三个阶段的分布位置截然不同。简单题的"激增期"出现得很早，困难题需要大量算力才能越过"严格期"的门槛。在固定总预算下，给简单题分太多就是浪费，给难题分太少则是徒劳。

**二、把推理问题变成一道经济学题**

意识到这个结构性问题之后，研究团队做了一个优雅的转化：把AI推理的资源分配问题，用经济学的语言重新表述。

他们首先为每道题建立了一个"潜在效用函数"，用来描述"花多少token，能获得多少解题价值"的关系。这个函数被称为"移位激增函数"（Shifted Surge Function），数学形式上是在超过某个门槛τ之后，效用先快速上升然后指数衰减。这个函数有三个参数：门槛τ代表题目需要的最低思考量，初始速度α代表一旦进入有效推理阶段效用上升的初始斜率，衰减率β代表效用开始减弱的速度。

接下来，他们把整个推理系统想象成一个"计算资源市场"。市场上有有限的"货币"（总token预算），N道题目都在竞争这些货币，目标是让整体收益最大化。用数学语言说，就是在总token数不超过预算上限的约束下，最大化所有题目的效用之和。

这是一个带约束的优化问题，通常很难直接求解，尤其是因为每道题的效用函数不是简单的线性关系。研究团队借用了经济学中的"拉格朗日乘子法"来分析这个问题，由此引出了整个研究的核心概念——影子价格（Shadow Price）。

在经济学里，影子价格是指在资源受限的情况下，多获得一单位资源所能带来的边际收益。研究团队证明，在最优分配方案下，每道被"激活"（即被分配了资源）的题目，其最后一个token带来的边际效用，应该恰好等于这个全局影子价格λ。换句话说，市场上所有活跃参与者的"投资回报率"在均衡时应该相同——高于均衡收益的投资值得追加，低于均衡收益的投资应该削减，而完全没有收益希望的则应该彻底放弃。

这个原则在经济学中有个著名的名字，叫"帕累托最优"。研究团队把它引入到AI推理的token分配问题中，得出了一个干净利落的结论：对那些最大可能收益都无法覆盖成本的题目，最优策略是直接分配零资源——这就是论文所说的"理性放弃"（Rational Abandonment）。

**三、用数学推导出精确的分配公式**

有了经济学原理作为框架，研究团队接下来要解决的是：在给定影子价格λ的情况下，每道题应该具体分配多少token？

他们把每道题的净收益定义为：效用减去机会成本（即这些token若分给其他题可能带来的收益）。要找到最优分配点，就需要对这个净收益函数求导并令其等于零——这是微积分里的标准操作，相当于找到净收益的"山顶"。

问题在于，对移位激增函数求导后得到的方程是一个超越方程，不能用普通的代数方法求解。这就像要解一个方程"x乘以e的x次方等于某个常数"，直接解x是算不出来的。

研究团队发现，这个方程可以通过换元变形，转化成兰伯特W函数（Lambert W function）的标准形式。兰伯特W函数是数学中一个有明确定义的特殊函数，专门用来解"w乘以e的w次方等于z"这类方程。通过这个函数，他们推导出了一个精确的闭合形式解，也就是说，给定任意影子价格λ和题目参数，都能用一个公式直接算出最优token分配量，而不需要数值迭代。

这个公式的结构很直观：最优分配 = 门槛τ + 基于兰伯特W函数计算的额外推理量。额外推理量的大小，完全由影子价格λ与题目参数的比值决定。当影子价格很低（资源充裕）时，每道题都能拿到接近其最优推理长度的分配；当影子价格很高（资源匮乏）时，分配量压缩到接近门槛，甚至因为不满足盈利条件而变成零。

**四、CLEAR系统如何在实践中运作**

理论推导完成了，但真实部署中还有一个关键挑战：我们并不知道每道题的门槛τ是多少。研究团队设计了CLEAR系统，通过三个步骤把理论落地。

首先是"门槛预测"。他们用一个轻量级的语言编码器模型DeBERTa-v3-base（约8600万参数）来预测每道题的推理门槛。这个模型被训练来根据题目的文本内容，预估模型需要生成多少token才能进入有效推理区间。训练目标是让预测的对数长度尽量接近真实解答的对数长度。值得一提的是，这个预测器的训练数据只用了GSM8K和MATH的训练集，而最终评测的题目来自完全不同的数据集，这意味着预测器需要具备一定的泛化能力。

预测得到门槛之后，系统还需要确定两个全局参数：初始速度α和衰减率β。研究团队做了一个简化假设：α和β不随具体题目变化，而是刻画整个LLM骨干模型的平均推理动态特性，把题目间的差异主要归结到门槛τ上。α被设定为一个固定的超参数（实验中为2.0），而β则根据当前批次的预算情况自适应计算：具体公式是β=1/max(ε, 平均预算-平均门槛)，也就是说，如果预算相对于平均门槛宽裕，β就小（衰减慢，允许更长的推理）；如果预算紧张，β就大（衰减快，推理要更聚焦）。

第二步是"影子价格发现"。系统用二分搜索来找到满足总预算约束的最优影子价格λ*。搜索区间的下界是0（对应无限预算的情况），上界是α（超过这个价格，所有题目的净收益都会变为负，全部被放弃）。每次迭代时，取区间中点作为候选价格，用兰伯特W公式计算所有题目的分配量，累加总消耗。如果总消耗超过预算，说明价格太低、需求太旺，就把区间下界上移；反之则把上界下移。经过40次迭代（精度10的负6次方），就能找到精确的市场出清价格。

第三步是"最优分配执行"。找到λ*后，对每道题分别套用兰伯特W公式计算分配量，同时检查每道题的净收益是否为正。净收益为负的题目分配零token，即触发"理性放弃"机制。对于被分配正数token的题目，还需要检查是否超过物理上下文长度限制，并取两者中的较小值。

整个过程不需要修改底层LLM的任何参数，是一个即插即用的推理控制包装器。计算开销方面，二分搜索和兰伯特W函数的计算量相比实际的自回归文本生成可以忽略不计。

**五、理论预测的三种"市场状态"**

这套框架还揭示了一个有趣的系统级规律：随着全局预算的变化，整个分配系统会经历三种截然不同的"市场状态"。

当预算充裕时，影子价格λ*趋近于零。此时兰伯特W项趋向消失，每道题的分配量都接近其效用曲线峰值，也就是"激增期"与"充裕期"的过渡点。这相当于买家口袋里钱多，大家都能买到心仪的商品。

当预算紧张时，λ*上升，每道题的分配量被压缩，接近各自的门槛τ。系统优先保证那些刚刚进入"激增期"、边际回报最高的题目能得到足够资源，放弃那些还在"严格期"里消耗预算的题目。这相当于资金有限的投资者，只追逐那些马上就要开花结果的项目。

当预算极度稀缺时，λ*超过了初始速度α。此时没有任何题目能产生足够的净收益，所有题目都进入"放弃"状态，系统实际上选择不在任何题目上浪费有限的资源。这在实际应用中虽然很少见，但理论上是存在的极端情况。

这三种状态的转换不是突变，而是连续平滑的过渡，由影子价格λ*作为唯一的"市场温度计"统一调控。

**六、实验结果：省下来的算力有多值钱**

研究团队在几个精心设计的评测场景下验证了CLEAR的效果。他们构建了一个混合难度的题库，包含MATH-500、AMC-23、AIME-24、AIME-25、Minerva和OlympiadBench六个数据集，然后模拟了四种现实中可能遇到的"流量模式"：题目难度均匀分布的"均衡流"，以简单题为主的"易题流"，以难题为主的"难题流"，以及简单题和难题都多而中等题少的"U形流"。每种流量模式各抽取500道题，在不同的每题平均预算（256、512、1024、2048个token）下分别评测。

最引人注目的结果出现在预算最紧张的每题256token场景下。在均衡流中，CLEAR相比均匀分配方法准确率提升了11.6个百分点（从3.0%提升到14.6%）。在易题流中，提升幅度高达24.0个百分点（从9.0%提升到33.0%）。在难题流中提升了5.2个百分点，在U形流中提升了14.2个百分点。随着预算增加，各方法的差距逐渐缩小——当每题预算达到2048时，所有方法都基本收敛到接近的准确率，说明CLEAR的核心价值确实集中在资源匮乏的场景。

与其他竞争方法的对比同样说明问题。纯粹按预测门槛比例分配的"预测器"方法，在低预算下表现甚至不如均匀分配——因为它把大量资源给了难题但难题仍然解不出来，同时简单题也没获得足够支撑。TALE-EP方法同样表现平平。而CLEAR的两个简化版本（启发式截断版和拍卖贪心版）虽然也比均匀分配好，但都不及完整的兰伯特W版本。

从分配可视化图中可以直观看到原因：在256token的严苛预算下，均匀分配让每道题都只拿到远低于其真实需求的资源，结果是大部分题目都处于"严格期"，算力全部打了水漂。而CLEAR显式地放弃了一批"无论给多少都解不出来"的难题，把算力集中给了那些"再多一点就能解出来"的题目。

研究团队还把CLEAR推广到代码生成任务，使用Qwen2.5-Coder-7B在HumanEval+、MBPP+和BigCodeBench三个代码基准上测试。在保持相同总token预算的前提下采用best-of-4采样协议，CLEAR在三个基准上分别比均匀分配高出6.3、6.5和3.6个百分点。这说明这套分配原则并不局限于数学推理，在代码生成这类同样具有S形效用曲线特征的任务上同样适用。

**七、系统有多稳健，超参数敏感不敏感**

一个实用算法必须接受"如果预测不准怎么办"的追问。研究团队专门测试了预测器噪声对CLEAR性能的影响，方法是向门槛预测值中注入不同强度的对数正态噪声。结果显示，虽然准确率随噪声增大而下降，但在相当大的噪声水平下，CLEAR仍然显著优于均匀分配基线。这种鲁棒性来自一个重要的机制：全局影子价格λ*作为归一化因子，能够自动吸收预测中的绝对误差，关键的是预测器能正确地排出题目难度的相对顺序，而不需要每道题的绝对精度。

超参数方面，衰减率β的影响经过了系统性分析。固定β值在低预算和高预算场景下的最优选择是矛盾的：低预算需要高β（快速衰减，让分配更聚焦在门槛附近），高预算则需要低β（缓慢衰减，允许更长的推理探索）。自适应β机制能根据当前批次的预算与平均门槛之差自动调整，在所有预算水平下都落在帕累托前沿上，无需手动调参。

初始速度α展现出一种有趣的"尺度不变性"：把α乘以任意常数，准确率几乎保持不变。背后的原因是分配公式依赖的是λ/α的比值，当α变化时，市场出清价格λ*也等比例变化，两者之比保持稳定。这意味着α这个参数在实践中几乎不需要调整，研究团队将其固定为2.0，在所有实验中表现稳定。

**八、换个效用函数形状，还管用吗**

为了验证CLEAR的核心价值是否依赖于移位激增函数这个特定形式，研究团队还测试了两种替代效用函数形状。一种是"三角形效用"，即在门槛之后线性上升到峰值，然后线性下降到零。另一种是"二次曲线效用"，即在门槛之后形成平滑的抛物线形峰值。两种替代形式保留了相同的"有门槛、有峰值、会衰减"的定性结构，但改变了具体的曲线形状。

在每题256token的严苛预算下，三角形和二次曲线版本的准确率与完整兰伯特W版本非常接近，都大幅领先于均匀分配基线。这说明CLEAR的性能提升主要来自两个机制——全局预算出清和理性放弃——而不是依赖于特定的效用函数参数化选择。换句话说，只要你认同"推理效用有门槛、有峰值、会递减"这个基本结构，不同的具体形式都能给你带来类似的好处。

此外，研究团队还在更大的Qwen3-30B-A3B-Instruct模型上做了额外实验，验证框架对不同规模模型的适用性。在这个更强的模型上，由于基础准确率本身更高，各方法之间的绝对差距缩小，但CLEAR仍然在1024token预算下取得最高2.4个百分点的提升，显示出一致的有效性。

---

说到底，这项研究揭示的是一个很朴素的道理：当资源有限时，不应该平均主义，而应该让钱花在最值得的地方。AI推理领域长期以来默认用一刀切的token预算处理所有问题，这套做法在资源宽裕时还能接受，一旦进入紧缺状态就会产生严重的效率损失。研究团队把这个问题用经济学的语言精确地表达出来，再用数学推导出了一个闭合形式的最优分配公式，最后设计出了一个无需修改底层模型、即插即用的实用系统。

对于使用AI服务的普通用户来说，这项研究意味着同样的算力可以服务更多的用户，或者在同等成本下得到更准确的回答，尤其是在服务器资源紧张的高峰时段。对于AI系统的开发者和运营者，这套框架提供了一种有理论依据的新型资源调度思路，可以直接影响服务质量与成本之间的权衡。

当然，这套方法目前还有改进空间——门槛预测器的精度、效用函数形式的选择、对不同类型任务的适配，都是未来值得深入的方向。研究团队也坦率地指出，与理论上限的"神谕分配"相比，CLEAR仍然存在差距，而弥合这个差距需要更准确的效用建模。对这个方向感兴趣的读者，可以通过arXiv:2606.03092获取完整论文和代码。

---

Q&A

Q1：AI推理中的"token预算"是什么意思，为什么会影响答题准确率？

A：token可以理解为AI生成文字时的基本单位，大约相当于半个到一个汉字或英文单词。token预算就是AI被允许"思考和写出"的最大字数。准确率受影响是因为复杂问题需要足够长的推理过程才能得出正确答案，如果预算不够、推理被强制中断，答案就会出错；预算太多则会导致计算资源浪费。

Q2：CLEAR方法中的"理性放弃"机制会不会导致某些问题完全得不到回答？

A：会的，这正是CLEAR设计的核心机制之一。当全局资源紧张时，CLEAR会主动判断哪些问题在现有预算下根本无法解出（即给再多token都还在"严格期"里），并对这些题目分配零资源。省下来的算力会集中给那些"多一点就能解出来"的题目，从而提升整体准确率。被放弃的题目在资源宽裕时会重新获得分配。

Q3：CLEAR系统部署时需要重新训练大语言模型吗？

A：不需要。CLEAR是一个即插即用的推理控制包装器，只需要额外训练一个轻量级的门槛预测器（基于DeBERTa-v3-base，约8600万参数），底层的大语言模型完全保持不变。实际运行时，CLEAR在生成开始前通过二分搜索快速算出每道题的token上限，然后交给原模型正常生成即可，额外计算开销可忽略不计。