明尼苏达大学最新研究颠覆认知：训练AI大模型，只需动其中一层就够了？

这项由美国明尼苏达大学、北京大学与亚马逊联合开展的研究，以预印本形式发布于2026年7月，论文编号为arXiv:2607.01232v2，有兴趣深入阅读的读者可通过该编号检索完整原文。

**一个出乎所有人意料的发现**

当你买了一台新电脑，想对它进行升级改造时，大多数人的直觉是：零件换得越多越好，全面升级才能带来全面提升。负责训练AI大语言模型的工程师们也长期持有类似的直觉——要让模型变得更聪明，就应该对整个模型的所有部分同时进行训练和调整，让每一层神经网络都参与这场"学习运动"。

然而明尼苏达大学的研究团队发现，这个看似天经地义的直觉，很可能是错的。

他们做了一件乍听上去有些荒唐的实验：把一个拥有数十层结构的AI大模型，每次只训练其中的一层，其余层全部冻住不动，然后观察这个"只改动一个零件"的模型最终表现如何。结果让研究团队自己都感到震惊——在某些层上，单独训练一层的效果，不仅能追上完整训练整个模型的成绩，甚至还能超越它。

这个发现就好像你在为一支足球队备战，教练组原本认为必须让全队二十多名球员都系统训练才能赢球，但实验发现：只让中场的几名核心球员集中训练，球队的整体表现反而更好。其余球员上阵，非但没有帮上忙，反而可能拖了后腿。

**一、什么是"层"，为什么它那么重要**

要理解这项研究，先得弄清楚AI大模型的基本结构。现代大语言模型，比如能写文章、解数学题、编代码的那些AI，本质上是由一层一层的"变换器层"（Transformer Layer）叠加而成的。你可以把它理解成一栋多层建筑：信息从底层的"地基"输入，一层一层往上传递，经过每一层的加工和处理，最终从顶层的"屋顶"输出答案。

每一层都有自己的一套"加工参数"，也就是那些决定这一层如何处理信息的数字。传统的训练方式是让整栋大楼的每一层参数都同时更新，就像同时给每一层楼的装修工人都下达改造指令。

这项研究要做的，是一次彻底的"拆解测试"——每次只允许一层楼进行改造，其余各层保持原样不动，然后检验改完这一层之后，整栋楼的"居住性能"提升了多少。

研究团队还专门设计了一个量化指标，叫做"层贡献度"（Layer Contribution）。计算方法很直白：把只训练了这一层之后模型性能的提升幅度，除以完整训练全部参数后性能的提升幅度，得到一个比值。如果这个比值是1.0，说明单独训练这一层就已经完全复现了全面训练的效果；如果超过1.0，说明单独训练这一层的效果甚至比全面训练还要好；如果接近0，说明这一层对训练结果几乎没有贡献。

**二、实验的规模：七个模型、三种算法、多个任务**

为了确保这个发现不是偶然，研究团队进行了极为系统和全面的实验验证。他们选取了七个不同的AI模型作为研究对象，覆盖了两个主要的模型家族，分别是Qwen3系列和Qwen2.5系列，规模从15亿参数到80亿参数不等。

在训练方式上，他们选用了三种不同的强化学习算法——GRPO、GiGPO和Dr. GRPO。这里需要解释一下"强化学习"是什么。如果说传统的模型训练是让AI死记硬背标准答案，那强化学习更像是让AI通过反复"做题——得分——改进"的循环来提升自己，就像学生通过刷题和得到反馈来进步，而不是单纯背课本。这种方式近年来在让AI学会数学推理、编程和执行复杂任务方面效果显著。

任务领域上，他们覆盖了数学推理（让模型做竞赛数学题）、代码生成（让模型写程序）以及"代理决策"（让模型在模拟家庭环境中完成取物、清洁等多步骤任务）三个截然不同的方向。

实验的核心步骤是：针对每个模型，逐一对其中每一层进行单独训练，保持其他层不变，记录每层训练后的性能表现，与完整训练整个模型的结果进行对比。为了保证比较的公平性，研究团队对全参数训练的学习率（可以理解为"每次调整参数的幅度"）进行了仔细调优，确保全参数训练的基准线尽可能强，然后让单层训练使用相同的超参数设置，避免某层因为参数设置占了便宜。

**三、最核心的发现：RL增益高度集中在少数几层**

研究团队把七个模型的层贡献度数据绘制成图，呈现出了一个高度一致的规律，令人印象深刻。

以最主要的实验对象Qwen3-1.7B（拥有28层结构）为例。在全部28层中，层贡献度最高的是第10层，其贡献度达到了1.14，也就是说单独训练第10层，能够获得全参数训练所带来提升的114%，不仅完全复现，还略有超越。类似地，第12层的贡献度是1.12，第9层是1.04，第2层是1.03，共有5层的贡献度超过了1.0。

而在另一端，贡献度最低的第24层只有0.28，意味着单独训练这一层，只能获得全参数训练效果的28%，不到最优层的四分之一。这两端的差距是如此悬殊，以至于研究团队用"戏剧性"来形容。

更大规模的模型展现出了类似的格局。在拥有36层结构的Qwen3-4B上，层贡献度从第2层的0.66到第16层的1.06，跨度同样巨大；在同样36层的Qwen3-8B上，最优层（第16层）贡献度达到1.07，而第0层（第一层）的贡献度竟然是-0.51，也就是说单独训练这最底层，会让模型性能反而低于原始未训练的模型，比什么都不做还要糟糕。

这些数据揭示了一个此前从未被认识到的规律：在强化学习后训练过程中，模型性能的提升并不均匀地分布在所有层上，而是高度集中在其中少数几层。

**四、中间层的法则：结构比位置更重要**

研究团队注意到，那些贡献度高的层，并非随机散布在模型各处，而是呈现出清晰的位置规律——它们几乎无一例外地集中在模型整体深度的40%到60%这个区间，也就是网络结构的"中间地带"。靠近输入端（底层）和靠近输出端（顶层）的层，贡献度普遍偏低。

回到之前"多层建筑"的比喻，这就好比说在一栋30层的高楼里，对整栋楼整体性能影响最大的，恰恰是12楼到18楼这个区间的楼层，而1楼和29楼的影响相对有限。

这个"中间层高贡献"的规律在所有七个被研究的模型上都成立，横跨两个不同的模型家族、三种不同的强化学习算法、以及三种截然不同的任务类型。即便是在一个由DeepSeek-R1蒸馏得到的7B模型（Qwen架构）上，同样观察到了完全一致的结构——第16层以1.05的贡献度超越全参数训练，而第24层只有0.33。

**五、跨数据集、跨任务的一致性：这是模型自身的特性**

一个合理的质疑是：这种层贡献度的排名，会不会只是针对特定数据集的现象？换个题目训练，排名会不会全乱掉？

为了回答这个问题，研究团队在固定使用Qwen3-1.7B模型的前提下，分别用三个不同的数据集进行了单层训练实验：NuminaMath-CoT（数学竞赛题）、DeepScaleR（另一套数学推理题）和DeepCoder（编程题）。

结果显示，用数学竞赛题训练时得到的层贡献排名，与用另一套数学题训练时得到的排名，斯皮尔曼相关系数（一种衡量排名相似程度的指标，满分为1.0）达到了0.76，统计上非常显著。更令人关注的是，即便把任务从数学换成截然不同的编程，层贡献排名的相关系数仍然保持在0.59，依然在统计上高度显著。

换句话说，哪些层贡献大、哪些层贡献小，这件事主要由模型本身的结构和预训练权重决定，而不是由训练任务或数据内容决定。这意味着一件极有实用价值的事：你可以用一个相对容易获取的数据集来"探测"每一层的贡献度排名，然后把这个排名用于指导在另一个目标任务上的训练——探测结果是可以迁移的。

研究团队还额外验证了一件令人欣慰的事：在数学任务上贡献度高的层，在提升代码能力、推理能力和语言能力等"考试范围以外"的能力时，同样表现突出。这说明高贡献层捕捉到的是真实的、广泛的能力提升，而不是对特定考题的死记硬背式过拟合。

**六、为什么不是"参数变化越大就贡献越大"**

一个直觉上很容易产生的联想是：贡献度高的层，是不是就是那些在全参数训练过程中参数改变幅度最大的层？如果真是这样，这个发现就有些"平淡无奇"——当然是改变最多的部分贡献最大。

研究团队特意检验了这个假设，结果是否定的。他们测量了全参数训练结束后每一层参数改变的L2范数（一种衡量参数变化量的数学工具），发现在全参数训练中，各层的参数变化量是相当均匀的，大约都在0.5到0.8这个范围内波动，并没有哪些层明显比其他层改变更多。

然而，那些在单独训练时贡献最高的中间层，并不是在全参数训练中改变幅度最大的层。这说明层贡献度反映的是某一层"参数空间对捕捉强化学习改进信号的有效性"，而不仅仅是参数的变化幅度。

研究团队还观察到另一个有趣现象：在单层训练中，被训练的那一层参数改变幅度，要明显大于在全参数训练中这同一层的改变幅度。这可以理解为：当所有责任都压在一层身上时，这一层会"努力伸展"，在参数空间里走得更远，以弥补其他层不参与的缺失。然而，高贡献层和低贡献层在单独训练时，参数改变的幅度是相近的——它们走的距离差不多，却到达了截然不同的地方。这再次证明，关键不在于走多远，而在于走的方向是否正确。

**七、不同层训练出的模型，解题思路各有不同**

研究团队还做了一个颇有洞察力的后续分析。他们注意到：在贡献度较高的那些层中，不同层训练出的模型在整体成绩上比较接近。以Qwen3-1.7B为例，贡献度排名前七的层训练出的模型，在OlympiadBench（奥林匹克数学竞赛题库）上的准确率都在23%到28%之间，差距不大。

这引出了一个有趣的问题：这些成绩相近的模型，是不是都在解同一批题？研究团队通过Jaccard相似度（衡量两个集合交集大小的指标）分析了不同层训练出的模型各自"新解出了哪些题"，发现两两之间的相似度平均只有34.1%——也就是说，这些成绩相近的模型，解出的题目集合有超过六成是不重叠的。比如第10层训练的模型和第13层训练的模型，准确率分别是27.3%和28.3%，但它们新解出的题目中只有31.9%是重合的。

这意味着不同的层捕捉到的是强化学习改进的不同"侧面"，它们的知识是互补的，而非冗余的。

正因如此，研究团队尝试了一个简单的集成策略：让贡献度排名前七的层分别训练出七个独立的模型，然后对它们的答案进行"多数投票"——七个模型中超过半数给出同一个答案，就采纳这个答案。投票后的集成模型在OlympiadBench上达到了33.6%的准确率，不仅远超任何单一层训练模型的28.3%，也超过了全参数训练模型的26.9%，还超过了让同一个全参数模型独立回答七次再投票所得到的31.3%。这最后一个对比特别说明问题：用七个不同层训练出的多样化模型进行投票，比用同一个模型多次重复作答效果更好，因为前者提供的是结构性多样化，后者只是随机波动。

**八、实用策略：如何把这个发现变成更好的训练方法**

发现层与层之间的贡献差异，最直接的用途是指导实际训练。研究团队提出了几种具体的改进策略，并在Qwen3的三个规模上进行了系统验证。

第一种策略是"调高精英层的学习率"。仍然训练全部参数，但给贡献度排名靠前的那些层分配更高的学习率，让它们"学得更快一些"，其余层维持原有学习率。研究团队将贡献度最高的5层或10层的学习率从默认的0.5×10??提升至1×10??，其余层保持不变。在Qwen3-1.7B上，这一策略让数学平均分从50.82提升到53.7，相当于在全参数训练带来的总提升量之外，又额外获得了43%的增益。在8B规模上同样稳定提升。作为对照，给贡献度最低的几层提高学习率，结果反而变差，这证明改进来自于策略本身的方向性，而非单纯提高学习率。

第二种策略是"只训练精英层，冻住其余层"。彻底抛弃对低贡献层的训练，只更新贡献度最高的5层或10层参数。在Qwen3-4B上，只训练最优5层达到了65.87的数学平均分，相比全参数训练的62.97提升了2.9分，代表了超过全参数训练总增益27%的额外提升。在8B上，只训练最优10层达到了69.11，比全参数训练的66.43高出2.68分，代表额外32%的增益。在这两个较大规模的模型上，精英层选择性训练不仅超过了全参数训练，还超过了第一种"调高学习率"的策略，研究团队认为这说明在较大模型上，低贡献层的参数更新不仅无益，还会干扰优化过程。

第三种策略是"中间层启发式规则"。前两种策略都需要先做一轮单层扫描实验来确定哪些层贡献最高，这在实际使用中依然需要额外计算成本。研究团队于是提出了一个零成本的启发式方案：对于一个拥有L层的模型，直接选取最中间的5层进行训练，完全不做任何预先探测。对于28层的1.7B模型，这对应第11至15层；对于36层的4B和8B模型，对应第15至19层。实验结果表明，这个完全不需要额外工作量的简单规则，在三个规模上均超过了全参数训练：1.7B上高出0.53分，4B上高出1.83分，8B上高出1.76分。虽然成绩略低于基于精确层贡献排名的最优策略，但已经能获得其大部分好处。

**九、研究的局限与未解之谜**

研究团队在论文中坦率地承认了两项主要局限。其一，在第八节中提到的改进训练策略，目前只在数学推理任务上进行了系统验证，是否同样适用于代码生成和代理决策任务，仍有待进一步检验。其二，也是更深层的问题：为什么中间层在强化学习后训练中的贡献如此突出？这背后的理论机制至今仍是一个开放问题。

研究团队能够描述这个现象，能够测量它，能够利用它——但目前还不能从第一原理出发完整解释它。正如物理学家在发现电磁感应规律之后，很长时间内才发展出完整的电磁场理论一样，这里的"为什么"还等待着更深入的理论探索。

说到底，这项研究最令人兴奋之处，不只是它的方法有多精巧，而在于它用极为简洁的实验揭示了一个此前几乎被完全忽视的现象：大语言模型在接受强化学习训练时，绝大多数改进都集中在极少数关键层上，而这些层的位置具有高度的稳定性和可预测性。这意味着多年来业界默认的"全层平等训练"做法，可能并非最优选择，甚至存在低贡献层干扰高贡献层学习的风险。

一旦接受了这个视角，训练AI的方式就可能需要重新思考：与其让所有层参与一场大合唱，不如先弄清楚谁是真正的主角。而找到主角的方法，可以像研究团队所展示的那样，通过逐层测试来精确定位，也可以干脆利落地遵循一条朴素规律——中间层，几乎总是最重要的那几层。

---

Q&A

Q1：强化学习后训练中的"层贡献度"是怎么计算的？

A：层贡献度的计算方式很直接：先冻结模型中除目标层之外的所有参数，只训练目标层，然后记录模型性能的提升幅度。这个提升幅度除以完整训练全部参数时的性能提升幅度，就得到该层的贡献度。比值为1.0意味着单层训练完全复现全参数训练的效果，超过1.0意味着单层训练效果更好，接近0则说明这一层几乎帮不上忙。

Q2：中间层为什么在强化学习训练中贡献最大？

A：目前研究团队自己也承认这是一个尚未解决的理论问题。实验清晰地展示了这个现象的稳定性，但具体为什么中间层的参数空间对捕捉强化学习信号特别有效，背后的机制仍不清楚，是论文明确列出的未来研究方向之一。

Q3：只训练少数几层，模型会不会过度拟合训练数据？

A：研究团队对此进行了验证，发现高贡献层在提升数学成绩的同时，也同步改善了代码、推理和多语言理解等与训练数据无关的能力，总体提升与全参数训练高度一致，说明单层训练捕捉到的是真实的广泛能力改进，而非针对特定数据集的过拟合。