大型语言模型的"笨鸟先飞"策略：威斯康星-麦迪逊大学揭示超量训练如何让AI更聪明

在人工智能快速发展的时代，一个有趣的现象引起了研究人员的注意：为什么有些看似"笨拙"的AI模型，通过更长时间的学习，最终能够在实际应用中超越那些参数更多的"聪明"模型？威斯康星-麦迪逊大学与斯坦福大学的研究团队在2026年发表的这项研究（论文编号：arXiv:2604.01411v1），为我们揭开了这个谜题的答案。

现有的AI训练指南，特别是著名的Chinchilla缩放法则，就像一个标准的烹饪食谱，告诉我们如何平衡模型大小和训练数据量来制作出最佳的AI"蛋糕"。然而，这个食谱有个重要缺陷：它只考虑了如何做出蛋糕，却没有考虑顾客实际会如何品尝这个蛋糕。在现实世界中，当AI需要解决复杂问题时，它往往需要尝试多次才能找到正确答案，就像考试时我们可能需要多次验算才能确定答案一样。

研究团队发现了一个颠覆性的现象：当我们允许AI进行多次尝试来解决问题时，那些经过"超量训练"的较小模型往往表现得比按传统方法训练的大模型更出色。这就好比一个勤奋练习了很久的学生，虽然天赋可能不如天才学生，但在需要反复思考的考试中，往往能取得更好的成绩。

这项研究的创新之处在于首次建立了一套完整的"Train-to-Test"（T?）缩放法则，它像一个更智能的烹饪指南，不仅告诉你如何制作蛋糕，还会根据顾客的品尝习惯来调整配方。研究团队通过对100多个不同规模的AI模型进行系统性测试，横跨从500万到9亿个参数的范围，验证了他们的理论发现。

一、传统训练方法的盲点：为什么标准食谱不够用

要理解这项研究的重要性，我们需要先了解传统AI训练方法的局限性。目前主流的Chinchilla缩放法则就像一个固定的蛋糕制作配方，它建议每增加一个参数就对应增加约20个训练数据点。这个比例在过去几年里指导了大部分大型AI模型的训练，包括我们熟知的GPT系列和其他语言模型。

然而，这个传统配方存在一个根本性问题：它假设AI模型在实际使用时只会尝试一次就给出答案。现实情况却截然不同，特别是当AI面对复杂的推理任务时，比如数学问题、编程挑战或科学推理，它往往需要多次尝试才能找到正确答案。

考虑这样一个场景：你有两个学生准备参加一场重要考试。第一个学生天赋异禀，大脑容量大（相当于参数多的大模型），但只学习了基础课程。第二个学生虽然大脑容量较小，但进行了大量的刷题练习（相当于超量训练的小模型）。当考试允许多次验算和修正时，第二个学生往往能够取得更好的成绩，因为他通过大量练习培养了更可靠的问题解决能力。

传统的训练方法还有另一个盲点：它没有考虑推理成本的问题。在实际应用中，让一个大模型运行一次的计算成本可能等同于让一个小模型运行多次。如果小模型通过多次尝试能够达到甚至超越大模型一次尝试的效果，那么从成本效益的角度来看，选择小模型显然更划算。

这种传统方法的局限性在现代AI应用中变得越来越明显。以代码生成为例，程序员使用AI助手时，很少会满足于第一次生成的代码，他们通常会要求AI多次改进和优化。在这种使用模式下，一个经过充分训练的较小模型可能比一个参数更多但训练不够充分的大模型表现得更好。

研究团队注意到，虽然有一些研究开始关注推理时的计算投入，但大多数工作都将预训练的模型视为既定事实，没有考虑如何调整训练策略来适应这种多次尝试的使用模式。这就像是在知道客人会品尝多次的情况下，仍然使用为单次品尝优化的烹饪配方，显然不是最优选择。

二、革命性的T?缩放法则：重新定义AI训练的游戏规则

威斯康星-麦迪逊大学的研究团队提出的T?（Train-to-Test）缩放法则就像是一个全新的烹饪哲学，它不仅考虑如何制作食物，更重要的是考虑食客会如何享用这道菜。这个方法的核心思想是将训练阶段和测试阶段的计算资源作为一个整体来优化，而不是像传统方法那样只关注训练阶段。

T?方法的巧妙之处在于它提出了两种互补的建模策略。第一种策略直接对任务损失进行建模，就像一个经验丰富的厨师通过观察食物的外观和气味来判断烹饪效果。第二种策略则专注于准确率的建模，更像是通过品尝来直接评判味道。虽然这两种方法的出发点不同，但研究发现它们得出了remarkably一致的结论：当允许多次尝试时，较小但训练更充分的模型往往表现更优秀。

这个新方法的数学基础建立在对"pass@k"指标的深入分析上。Pass@k指标衡量的是AI在k次尝试中至少成功一次的概率，这更贴近现实世界中AI的使用方式。传统的方法只关注单次尝试的成功率，就像只测试学生做单选题的能力，而pass@k更像是允许学生有多次机会来解决一个复杂的应用题。

研究团队通过对Beta分布的巧妙运用，成功地模拟了不同难度任务在模型中的分布情况。这个分布反映了一个重要现实：并非所有问题的难度都相同，有些问题对AI来说相对简单，有些则极其困难。通过理解这种难度分布，T?方法能够更准确地预测模型在多次尝试下的表现。

更重要的是，T?方法引入了推理成本的考量。在实际部署中，计算资源是有限的，我们需要在训练成本和推理成本之间找到最佳平衡点。这就像是在预算有限的情况下，我们需要决定是购买昂贵的高端厨具做一道菜，还是用普通厨具多做几道菜来满足客人。

研究结果显示，当考虑到推理阶段的多次尝试时，最优的策略是训练较小的模型，但给予它们远超传统建议的训练数据量。具体来说，传统方法建议每个参数配20个训练token，而T?方法建议的比例可能达到数百甚至上千个token per parameter。这种"超量训练"策略初看可能违反直觉，但从整体效率的角度来看，它实现了更好的性价比。

三、实验验证：从理论到实践的完美印证

为了验证T?理论的正确性，研究团队设计了一套comprehensive的实验体系，就像一个严格的品酒师会从多个维度来评估酒的品质一样。他们构建了一个包含106个模型的大规模测试集，这些模型的参数数量从500万到9亿不等，训练的数据量从5000万到1200亿个token，涵盖了三个数量级的计算规模。

实验设计的精巧之处在于它同时涵盖了真实世界的任务和专门设计的合成任务。真实世界的任务包括LAMBADA语言理解测试、ARC-Easy科学推理、SciQ科学问答以及OpenBookQA开放式问答，这些任务就像是AI能力的综合体检，从不同角度检验模型的理解和推理能力。

合成任务的设计则更具针对性，包括简单的知识回忆、多步算术推理、常识因果推理和空间推理。这些任务就像是为AI量身定制的训练项目，每一个都专门测试某一方面的能力。比如，多步算术推理任务会给出这样的问题："我有5个玩具，送走2个，还剩几个？"并要求模型逐步解释计算过程。

研究团队采用的评估方法也相当巧妙。他们不仅测试模型在单次尝试下的表现，更重要的是测试在多次尝试下的累积成功率。这就像是比较两个射箭手，不仅要看他们单箭的准确率，更要看在相同的箭数限制下，谁能更稳定地命中目标。

实验结果令人印象深刻。在所有八个测试任务中，按照T?方法训练的较小模型在允许多次尝试的情况下，consistently outperformed了按传统Chinchilla方法训练的较大模型。更重要的是，这种优势在经过后期微调（fine-tuning）后依然保持，这证明了超量训练的效果不仅仅是表面现象，而是深层次的能力提升。

研究团队还进行了一个particularly重要的外推验证实验。他们使用标准的Chinchilla缩放数据来拟合T?模型，然后预测超量训练模型的表现，最后通过实际训练这些超量训练模型来验证预测的准确性。结果显示，T?模型的预测误差仅为2.8%到8.4%，这种预测精度在机器学习研究中已经相当出色。

更令人惊讶的是，研究团队发现T?方法推荐的超量训练策略在后训练阶段（包括标准微调和监督微调）同样有效。虽然超量训练的模型在微调时稍微难以调整，但经过微调后，它们仍然保持着相对于传统训练模型的优势。这就像是一个基本功扎实的学生，虽然在学习新技能时可能需要更多时间来调整，但最终掌握的技能会更加牢固。

四、深度解析：为什么"笨鸟先飞"在AI世界同样有效

要理解为什么超量训练的小模型能够超越传统训练的大模型，我们需要深入探讨AI学习的本质机制。这个现象背后的原理就像是教育学中一个well-established的发现：通过大量练习掌握基础技能的学生，在面对复杂问题时往往比天赋异禀但练习不足的学生表现更稳定。

从统计学习理论的角度来看，模型的泛化能力不仅取决于其容量（参数数量），更取决于它在训练数据上学到的patterns的稳定性。超量训练就像是让学生反复练习基础题目，虽然每个题目本身可能不复杂，但通过大量的练习，学生能够形成更稳定的问题解决直觉。

研究团队的分析显示，超量训练的效果主要体现在两个方面。首先，它提高了模型对每个单独问题的基础成功概率。虽然这个提升可能很小，但在多次尝试的累积效应下，小的基础概率提升会带来显著的整体性能改善。这就像是投篮训练，即使每次训练只能提高1%的命中率，但在整场比赛的多次投篮中，这个微小的提升会带来明显的得分差异。

其次，超量训练还改善了模型对不同难度问题的处理稳定性。通过大量的训练数据接触，模型能够更好地识别问题的难度模式，对于简单问题能够快速给出正确答案，对于复杂问题也能保持一定的基础成功概率。这种稳定性在多次尝试的场景下特别重要，因为它确保了模型不会在某些类型的问题上完全失败。

从计算效率的角度来看，这个发现也有重要意义。大模型虽然单次推理能力强，但每次推理的计算成本也很高。相比之下，小模型的单次推理成本较低，即使需要多次尝试，总的计算成本也可能更优。这创造了一个有趣的trade-off space，在这个空间中，时间换算力的策略成为可能。

研究团队还发现，这种效应在不同类型的任务上表现出不同的强度。对于需要复杂推理的任务，超量训练的效果特别明显，因为这些任务通常需要模型能够稳定地执行多步骤的逻辑推理过程。而对于简单的事实回忆任务，传统训练方法和超量训练方法的差异相对较小。

更深层次的分析显示，超量训练实际上改变了模型内部知识的组织方式。通过大量的训练数据暴露，模型不仅学会了更多的事实，更重要的是学会了更稳定的推理模式。这些推理模式就像是思维的"基础设施"，在面对新问题时能够提供更可靠的支撑。

五、现实应用：重塑AI部署的经济学

T?缩放法则的发现不仅仅是学术研究的突破，它对整个AI产业的实际部署策略都有深远的影响。在当前的AI服务市场中，计算成本是一个关键的考量因素，而T?方法为我们提供了一个全新的成本优化视角。

考虑一个实际的AI服务场景：一个代码生成助手需要帮助程序员解决编程问题。传统的部署策略会选择一个大模型，期望它能一次性给出高质量的代码。然而，在实际使用中，程序员很少会完全满意第一次生成的代码，他们通常会要求多次修改和优化。在这种情况下，部署一个经过超量训练的较小模型，让它进行多次迭代优化，可能会提供更好的用户体验，同时降低服务提供商的计算成本。

这种策略的经济学原理很直观：如果一个大模型的单次推理成本是小模型的10倍，但小模型通过5次尝试就能达到大模型一次尝试的效果，那么选择小模型显然更economical。而T?研究显示，在很多情况下，这个倍数关系是有利于小模型的。

研究团队的成本分析基于实际的计算FLOP（浮点运算次数）来衡量推理成本，这是一个相对公平和准确的计算资源衡量标准。他们设置了一个标准的推理预算，大约相当于使用70B参数的Chinchilla模型进行一次前向推理的计算量。在这个预算约束下，T?方法consistently推荐使用参数更少但训练更充分的模型，并允许它们进行更多次的尝试。

更有趣的是，这种策略还具有更好的可扩展性。在云计算环境中，横向扩展（使用更多的小实例）往往比纵向扩展（使用更少的大实例）更灵活，也更容易实现负载平衡。一个基于超量训练小模型的服务可以更容易地根据需求波动来调整计算资源的分配。

研究结果还显示，即使在考虑了后训练成本（如微调和人类反馈优化）之后，T?策略仍然保持其优势。这意味着这个发现不仅适用于基础模型的部署，也适用于那些需要定制化和个性化的AI应用。

对于AI模型的开发者和部署者来说，这个发现提供了一个重要的策略选择。与其投入大量资源训练一个巨大的模型，不如专注于训练一个适中大小但训练非常充分的模型，然后在部署时允许它进行多次尝试。这种策略不仅可能提供更好的性能，还能带来更低的总体拥有成本。

六、超越传统：T?方法的技术创新详解

T?方法的技术创新不仅体现在概念上的突破，更在于其精巧的数学建模和实现方式。研究团队设计的两种complementary建模方法各有巧思，就像是用两种不同的镜头来观察同一个现象，最终得到了一致而robust的结论。

第一种方法采用了损失函数建模的策略，它巧妙地将传统的Chinchilla缩放法则扩展到了多次尝试的场景。传统的Chinchilla法则使用一个相对简单的公式：L(N,D) = E + A/N^α + B/D^β，其中N是参数数量，D是训练数据量。T?方法在此基础上添加了一个新的项：G/k^γ，其中k是尝试次数。这个看似简单的扩展实际上蕴含着深刻的数学洞察。

这个新增项的设计基于一个重要的理论发现：在合理的假设下（任务难度遵循Beta分布），多次尝试的收益确实遵循幂律衰减模式。这就像是投硬币的概率理论，单次成功的概率固定时，多次尝试至少成功一次的概率增长确实遵循可预测的数学模式。

第二种方法更加直接地对准确率进行建模，这需要更sophisticated的数学技巧。研究团队使用Beta分布来模拟单个问题的成功概率分布，这是一个particularly elegant的选择。Beta分布不仅能够很好地描述概率的概率（这听起来有些绕口，但在统计学中是一个重要概念），还具有数学上的便利性，使得多次尝试的成功概率可以用闭式解进行计算。

具体来说，如果我们假设单次尝试的成功概率p遵循Beta(a,b)分布，那么k次独立尝试中至少成功一次的概率可以精确地计算为：1 - B(a,b+k)/B(a,b)，其中B是Beta函数。这个公式的美妙之处在于它不需要任何近似，可以给出exact的理论预测。

研究团队还解决了一个关键的技术挑战：如何将基于单次尝试优化的损失函数与基于多次尝试的准确率指标联系起来。他们使用了一个参数化的sigmoid函数来建立这种联系，并通过Beta回归来捕捉不同模型和任务组合下的统计关系。

在推理成本的建模方面，研究团队采用了一个简化但实用的模型：推理成本与模型参数数量和尝试次数的乘积成正比，即Cost ∝ 2Nk。虽然实际的推理成本可能受到很多其他因素影响（如内存访问模式、并行化效率等），但这个简化模型捕捉了最主要的计算瓶颈，为实用的决策提供了有用的指导。

优化过程本身也展现了研究团队的technical sophistication。他们使用了多重随机重启的L-BFGS-B算法来避免陷入局部最优解，同时采用了inverse-variance weighting来处理不同计算规模下数据点的heteroscedasticity问题。这些technical details虽然不起眼，但对于获得稳定可靠的拟合结果至关重要。

七、实验设计的精妙之处：如何科学地验证理论

T?研究的实验设计展现了现代机器学习研究的高水准，其systematic性和thoroughness为结论的可信度提供了强有力的支撑。研究团队构建的实验框架就像一个精密的科学仪器，能够从多个角度precision地测量和验证他们的理论预测。

实验设计的第一个亮点是其规模的comprehensive性。106个模型的训练涉及从1.25×10^16到2.56×10^19 FLOPs的计算范围，跨越了三个数量级。这种规模的系统性实验在机器学习研究中相当rare，需要enormous的计算资源投入和careful的实验管理。每个模型都需要从头开始训练，确保实验条件的一致性和结果的可比性。

任务选择的多样性是另一个重要的设计考量。研究团队carefully选择了四个真实世界的benchmark和四个synthetic任务，这种组合确保了实验结果的generalizability。真实世界的任务（如LAMBADA、ARC-Easy等）提供了ecological validity，证明发现不仅仅是实验室curiosity。而synthetic任务则提供了更controlled的测试环境，能够isolate特定类型的能力并进行targeted分析。

特别值得注意的是synthetic任务的设计。研究团队使用GPT-4和Claude Opus来生成这些任务，这种approach既确保了任务的quality，又避免了human annotation的bias和scalability问题。每个synthetic任务都针对特定的认知能力，如简单知识回忆测试的是记忆能力，多步算术推理测试的是逻辑推理能力，空间推理测试的是抽象思维能力。

实验的evaluation methodology也相当sophisticated。研究团队不仅测量了传统的单次尝试准确率，更重要的是systematically地测量了不同k值下的pass@k性能。这种multi-dimensional的评估方法能够全面地characterize模型在不同使用场景下的表现，为理论验证提供了rich的数据支撑。

Cross-validation策略的使用进一步增强了结果的robustness。研究团队将模型分为training set（用于拟合T?参数）和test set（用于验证预测准确性），这种approach避免了overfitting的风险，确保了发现的generalizability。特别是他们专门训练了21个"超量训练"的模型来验证T?在extreme overtraining区域的预测，这种targeted validation展现了严谨的科学态度。

Post-training实验的加入更是增加了研究的practical relevance。现代AI系统很少直接使用base model，通常需要经过fine-tuning或其他形式的post-training。研究团队验证了T?发现在post-training后的persistence，这对于实际应用具有重要意义。

八、数据背后的故事：令人惊讶的实验结果

当研究团队开始分析实验数据时，结果的consistency和强度超出了他们最初的预期。在所有测试场景中，T?方法推荐的超量训练策略都显示出了显著的优势，这种universality本身就很remarkable。

最引人注目的发现是overtraining的推荐程度。传统的Chinchilla方法建议每个参数对应约20个training tokens，而T?方法在某些情况下推荐的比例超过了1000个tokens per parameter。这种extreme overtraining初看似乎违反直觉，但实验结果consistently支持这个反直觉的建议。

在具体的performance比较中，结果更是dramatic。以OpenBookQA任务为例，在固定的计算预算下，T?推荐的37M参数超量训练模型达到了1.40%的pass@k准确率，而传统Chinchilla方法推荐的901M参数模型仅达到了0.30%。这种近5倍的性能差异在机器学习研究中是相当significant的。

类似的pattern在其他任务上也consistent地出现。在LAMBADA任务上，超量训练的37M模型达到了49.90%的准确率，远超455M传统模型的27.30%。在推理密集的任务如Simple Reasoning上，差异更加明显，超量训练模型的57.90%准确率几乎是传统模型18.40%的三倍。

更interesting的是，这种优势在post-training后不仅preserved，在某些情况下甚至amplified。虽然研究团队观察到超量训练的模型在fine-tuning时稍微更difficult to adjust（这与其他研究的发现一致），但经过proper的post-training后，它们仍然maintain相对优势。

Extrapolation实验的结果提供了T?方法predictive power的strong evidence。当使用standard Chinchilla数据来拟合T?参数，然后预测extreme overtraining区域的性能时，两种T?方法的relative error分别只有2.8%和8.4%。这种prediction accuracy在machine learning中已经相当impressive，特别考虑到这是在extreme extrapolation的context下。

研究团队还发现了一些subtle但重要的patterns。不同类型的任务对overtraining的responsive程度不同，reasoning-intensive的任务显示出更强的positive response，而简单的factual recall任务的improvement相对modest。这个发现provide了useful insights for practitioners关于什么时候应该adopt T?策略。

九、理论意义与实践价值：重新审视AI优化的基本范式

T?研究的significance远远超出了技术层面的改进，它实际上挑战了我们对AI系统优化的fundamental assumptions，并提出了一个更holistic的优化框架。这种范式转变的重要性就像是从局部优化转向全局优化，从static优化转向dynamic优化。

从理论角度来看，T?方法揭示了一个深刻的truth：单独优化训练阶段或推理阶段都是suboptimal的，真正的最优解需要joint optimization。这个insight对于理解AI系统的efficiency frontier具有重要意义。传统的approach就像是separately优化汽车的发动机和传动系统，而T?approach则是holistically优化整个动力系统的performance。

这个发现也为scaling laws research开辟了新的方向。过去的研究主要focused在pretraining compute和model performance之间的关系，T?方法则引入了deployment compute作为一个equally important的维度。这种multi-dimensional的scaling analysis提供了更complete的picture，对于understanding AI systems的fundamental limits具有重要价值。

从实践角度来看，T?方法为AI practitioners提供了一个powerful的决策框架。在resource allocation decisions中，这个方法帮助回答了一个critical的问题：给定总的计算预算，如何在训练计算和推理计算之间进行optimal allocation？这个问题在实际的AI product development中经常encounter，但之前缺乏systematic的指导原则。

对于AI服务提供商来说，T?发现provide了一个competitive advantage的机会。通过adopting超量训练策略，他们可能能够以更低的cost提供更好的service quality，或者在相同的cost下提供significantly better的user experience。这种cost-performance的improvement对于commercial AI applications具有directly的economic value。

研究的findings也对AI safety和robustness具有implications。超量训练的模型通过extensive exposure to training data，可能develop更stable的reasoning patterns，这对于safety-critical applications是desirable的。虽然本研究没有directly address safety issues，但improved reliability through overtraining是一个值得进一步investigation的direction。

从educational的角度来看，T?研究demonstrate了interdisciplinary approach的power。这个工作结合了statistical learning theory、optimization theory、和practical systems considerations，展示了现代AI research需要的broad perspective。对于学生和researchers，这是一个excellent example of how theoretical insights can lead to practical innovations。

十、未来展望：开启AI优化的新纪元

T?研究虽然提供了important insights，但它也opens up了numerous exciting research directions和practical opportunities。研究团队自己也acknowledge了current work的limitations，并outline了promising的future directions。

首先，scaling to larger models是一个natural和important的next step。Current research focused在models with up to 1B parameters，而现代的production AI systems通常have tens or hundreds of billions of parameters。Validating T? findings at these larger scales will require substantial computational resources，但the potential impact也proportionally larger。

更sophisticated的inference cost modeling是另一个重要的improvement direction。Current研究使用了简化的linear cost model（cost ∝ 2Nk），but实际的inference cost受到many factors影响，including memory bandwidth、parallelization efficiency、和hardware-specific optimizations。Developing more accurate cost models will make T?方法在practical applications中更precise。

The interaction between T? principles和modern post-training techniques也deserve deeper investigation。While current研究showed that T? advantages persist after basic fine-tuning，the landscape of post-training techniques is rapidly evolving。Understanding how T?strategies interact with techniques like reinforcement learning from human feedback (RLHF)、constitutional AI、和other advanced post-training methods将是valuable。

从methodological的角度，extending T?方法beyond the current pass@k framework是interesting。Current work focused在tasks where success can be clearly defined，但many practical AI applications involve more nuanced quality judgments。Developing T?analogs for these scenarios will broaden the applicability of the approach。

另一个promising direction是exploring task-specific overtraining strategies。Current research showed that different types of tasks respond differently to overtraining，suggesting that customized training strategies for different applications might be beneficial。This could lead to specialized training recipes for coding assistants、scientific reasoning systems、creative writing tools等等。

The implications for AI democratization也值得考虑。If smaller、超量训练的models can achieve performance comparable to much larger models（when allowing multiple attempts），this could make high-quality AI capabilities accessible to organizations with limited computational resources。This democratizing effect could accelerate AI adoption across different sectors和geographical regions。

说到底，T?研究代表了AI optimization思维的一个重要evolution。它从single-shot optimization转向了lifecycle optimization，从resource-agnostic optimization转向了resource-aware optimization。这种thinking的shift对于developing truly efficient和practical AI systems具有fundamental importance。随着AI systems变得increasingly complex和ubiquitous，这种holistic optimization approach将变得even more critical。

Q&A

Q1：T?缩放法则是什么？

A：T?（Train-to-Test）缩放法则是威斯康星-麦迪逊大学提出的一种新的AI训练方法，它同时考虑训练成本和推理成本来优化模型。与传统只关注训练阶段的方法不同，T?方法认为应该训练较小但训练更充分的模型，然后在实际使用时让它们多次尝试来解决问题。

Q2：为什么小模型通过多次尝试能超越大模型？

A：就像一个勤奋练习的学生虽然天赋不如天才学生，但在允许多次验算的考试中往往表现更好。超量训练让小模型通过大量练习形成了更稳定的问题解决能力，在多次尝试的累积效应下，小的基础概率提升会带来显著的整体性能改善。

Q3：T?方法在实际应用中有什么价值？

A：T?方法为AI服务提供了更经济的部署策略。如果一个大模型单次推理成本是小模型的10倍，但小模型通过5次尝试就能达到相同效果，选择小模型显然更划算。这对代码生成、问题解答等需要多次迭代的AI应用特别有价值。