更多选择，更少决定：当AI评分模型拿到14个选项，却只敢用4个

先说一件挺怪的事。

有个叫JEV的AI评分模型，专门用来给文本打标签、做评测，速度快，输出整齐。研究者让它去做一个叫ANLI的自然语言推理任务，这个任务有三个选项：蕴含、中立、矛盾，而且这三个选项在真实数据里几乎是三三分，一碗水端平。

正常情况下，你会期待模型的预测结果也大致三三分。但事实是，JEV把38.8%的预测都给了"中立"这个选项，而在它犯的错误里，更是有51.3%都和"中立"有关。它的整体准确率其实还不低，74.95%，看起来是个合格的模型。但这个"偏爱中立"的毛病,和数据没关系,因为数据是平衡的；和选项出现的位置没关系，因为研究者专门检查过，中立选项无论放在第一个、第二个还是第三个位置，被选中的比例都差不多。

这就是这篇论文想讲的故事的起点：一个模型可以在表面上看起来很准，但它骨子里悄悄地只用了手里牌的一小部分。

这件事如果只发生在ANLI这一个任务上，可能只是个例外。但研究者们把目光投向了更大范围的测试，一共36个"有序"任务，比如打分、评级、质量判断这种有明确等级关系的任务，结果发现这不是个例，而是一种普遍存在的、系统性的毛病。

问题到底难在哪：选项之间是否有"远近关系"

要理解这篇论文在说什么，得先弄清楚一个区分：候选项是无序的，还是有序的。

无序候选项*：几个选项之间没有谁更接近谁的关系,比如"猫、狗、鸟"这种分类，选错了就是选错了，不存在"选狗比选鸟更接近猫"这种说法。

有序候选项*：选项之间存在等级或者距离关系，比如一个从1到10的打分，7分和8分比1分更接近。错得"近"和错得"远"是两种不同程度的错误。

这个区分很重要，因为有序候选项天然携带了一种额外信息:相邻等级之间的语义距离很近。如果一个模型完全理解了这种结构，它应该能够根据文本内容，在整个等级范围内灵活地给出判断，而不是无论遇到什么文本，都挤在某几个固定等级附近打转。

论文测试了JEV 1.13，以及三个开源的、建立在Qwen3.5模型基础上的KEV系列模型（KEV-0.8B、KEV-4B、KEV-9B）。结果显示，在36个有序任务上，这些模型的最终决策只用到了"黄金标签"（也就是真实正确答案分布）里大约67%到76%的有效支持范围。而在4个无序任务上，这个数字是87%到102%，几乎完全覆盖，甚至有的还超过了。

这中间差了至少十个百分点，有的任务差得更夸张。比如RealToxicity Continuation这个任务，一共有14个毒性等级，JEV 1.13把66.2%的预测都砸在了"等级01"这一档上，导致它的"有效利用率"只有25%。换句话说，模型手里明明有14把椅子可以坐，它却死死地坐在同一把椅子上不挪窝。

这里要讲清楚一个核心的度量工具，论文管它叫"有效支持"。

有效支持*：用信息论里的"熵"这个概念，衡量一个分布实际上覆盖了多少个"有效选项"。如果一个模型的预测几乎平均分散在所有选项上，有效支持就接近选项总数；如果预测高度集中在少数几个选项上，有效支持就会很小,即便表面上模型"支持"所有候选项。

"黄金相对利用率"（论文里写作R）*：拿模型预测的有效支持，除以真实标签的有效支持，算出一个比例。如果这个比例是100%，说明模型用的"选项多样性"和真实答案的多样性是匹配的；如果低于100%，说明模型在"压缩"自己的决策空间，明明有很多种可能的判断，它却只用了其中一小部分。

研究者还专门用了一个倒推的方式来确认：这个压缩现象，到底是不是因为模型准确率低、或者数据本身不平衡、或者选项摆放位置有问题造成的假象。他们一项一项地排除了这些解释。

换个摆法试试：打乱选项顺序会不会治好这个毛病

如果模型的毛病只是因为它偏爱某个固定的摆放位置,比如无论选项是什么，它总是倾向于选第一个或者选最后一个,那么把选项顺序打乱，这个毛病应该就能被打散、被稀释掉。

研究者在六个有序任务和三个无序任务上，针对每一条数据生成了两个不同的候选项排列顺序，然后对比原始顺序和打乱顺序下模型的表现。

结果很有意思：打乱顺序之后，模型的个体预测变化很大。在有序任务上，两次打乱给出同一个答案的比例只有58%到75%左右（KEV系列大约59%，JEV 1.13大约74%），而在无序任务上，这个一致率高达95%以上。这说明，候选项的摆放顺序，确实会让有序任务里的模型"心神不定"，经常改主意。

但奇怪的是，尽管单条数据的预测变来变去，整体的准确率几乎不受影响,打乱顺序前后，准确率的变化幅度每个模型都不超过0.55个百分点。这就像一群人在玩抢座位游戏，每一轮座位怎么分都在变，但最后站着没抢到座位的人数始终差不多。

这个发现非常关键，因为它说明：顺序敏感性和"选项利用率低"是两件不同的事情，它们可以同时存在,打乱顺序确实能让有效利用率有所回升（比如KEV-4B在有序任务上的R从55.3%回升到73.9%），但即便打乱之后，有序任务的利用率仍然远低于无序任务（无序任务稳定在98%以上）。换句话说，打乱顺序能缓解一部分问题,就像把拥堵的车流分散到不同车道能让车速稍微快一点,但真正的拥堵根源，不在于车道的分配方式，而在于别的地方。

这里就得引出一个生活化的类比了。

想象你去一家只提供预制套餐的快餐店，菜单上写着从"微辣"到"特辣"一共十四个辣度等级供你选择。但不管你点的是清蒸鱼还是红烧肉，厨房里的师傅永远给你端上同一个辣度,"微辣"。你换个座位坐，换个点餐方式，师傅依然给你端"微辣"。这时候如果有人说"你看，菜单上辣度等级的排列顺序变了，顾客选择也跟着变了一点点",这确实是真的，但这不代表厨房真正理解了十四个辣度之间的区别。如果厨房真的理解辣度的层次，它应该根据你点的菜,麻辣香锅还是清蒸鱼,给出合理的、分散在不同等级上的辣度判断。只调整菜单摆放方式解决不了厨房"只会做微辣"这个根本问题。

把尺子刻得更细：选项越多，模型反而越"缩手缩脚"

接下来研究者做了一个更巧妙的实验,他们没有去找新的任务，而是拿同样的一批数据（1400条，来自三个连续打分来源：RealToxicity、Civil Comments Toxicity毒性评分、STS语义相似度评分），把这些数据的真实分数切割成不同精细程度的等级，K值从2一直加到14。

这里的K*：指候选项的个数，比如K等于5，就是把一个连续的分数区间切割成5个等级供模型选择。

研究者特别小心地控制了两个变量:一个是切割方式，用了"等频切割"确保每个等级里的真实数据量大致均衡；另一个是候选项呈现位置,正确答案落在每个位置的次数被均匀分配。这样一来，如果模型的利用率随着K增大而下降，就不能再归咎于"数据不平衡"或者"位置偏好"了，因为这两个干扰因素都被摁死了。

结果非常清晰：从K等于2到K等于14,所有四个模型的利用率都在下滑。JEV 1.13从95.9%掉到54.5%，KEV-0.8B从77.3%掉到26.5%，KEV-4B从97.9%掉到68.4%，KEV-9B从96.1%掉到74.9%。这个下滑幅度，少则21个百分点，多则快51个百分点。而同一时期，真实标签的有效覆盖率始终稳定在97%以上,也就是说，不是数据变得更难分了，是模型自己在精细刻度面前变得更谨慎、更退缩了。

更有意思的是，研究者还发现，模型内部存储的"候选概率"（也就是模型给每个选项打的分，还没有做出最终决策之前的那个概率分布）其实并没有坍缩得那么严重。像KEV-4B和KEV-9B，在K等于14的时候，概率分布的软利用率依然保持在96%以上，说明模型心里其实知道这十四个等级都"有点道理"。但是，当它要做出最终决定的时候，排在第一名和第二名的候选项之间的差距（论文里叫"top-1边际"），从K等于2时的50多个百分点，骤降到K等于14时只有4到6个百分点。

这个现象说明了什么？说明模型并不是真的"不懂"这十四个等级之间的区别，它是知道的，只是在最后要拍板做决定的那一刻，它变得优柔寡断,十四个选项看起来都差不多可能，于是它干脆退回到自己最熟悉、最保险的几个老地方。

论文还设置了一个对照组：DBpedia，一个无序分类任务，同样给到14个候选类别。结果模型在这个任务上几乎是满分表现，准确率98.9%以上，利用率接近100%，第一名和第二名之间的差距始终保持在96个百分点以上。这就排除了"候选项多了模型就犯怵"这种简单解释,毕竟DBpedia也有14个选项，模型照样游刃有余。真正的罪魁祸首，是当候选项彼此语义上紧密相邻、构成一个连续谱系的时候，模型在决策边界上开始模糊和退缩。

这里可以用另一个场景类比一下这个现象。

设想一个验钞机，它的任务是给纸币的新旧程度打分，从1分（崭新）到14分（破烂不堪）。如果验钞机内部的传感器数据其实能够区分出纸币的细微磨损差异,只是它最后输出判断的那个决策逻辑，图省事，习惯性地把所有"看起来有点旧又不算太旧"的纸币都归到同一档。如果不改进这个决策逻辑，验钞机会一直在十四档里只认准那么两三档，哪怕传感器拼命地在收集更丰富的信息。问题不在传感器（概率分布），问题在拍板的那一下（最终决策）。

这个毛病能治吗：针对性训练后发生了什么

诊断完毕之后，论文接着问了一个更实际的问题:这种"选项压缩"的毛病，是模型天生的、改不了的架构缺陷，还是说只是训练过程中学出来的一种习惯，可以通过后续训练去纠正？

研究者选用了一种叫BA-LoRA的训练方法去调整KEV-0.8B和KEV-4B这两个模型。

LoRA*：一种给大模型"打补丁"式的微调技术，不需要重新训练整个模型，只在模型内部插入一些小规模的、可训练的参数模块,就像在一台大机器上加装几个可调节的小零件，而不是把整台机器拆了重装。

BA-LoRA*：论文作者团队提出的一种"偏差缓解版"LoRA，在普通微调目标基础上，额外加入了几种约束,让模型在学习正确答案的同时，也被鼓励保持输出分布的多样性，避免重新走回"偏科"的老路。

研究者挑选了八个"问题比较严重"的训练来源，涵盖了从5档到14档的不同等级规模，内容包括毒性评分、词汇具体性评分、翻译质量评分、仇恨言论检测、文本毒性续写评分、葡萄酒品质评分、论证质量评分、以及对话回复的正确性评分。总共凑了3.2万条训练样本，用这些数据去调整模型。

经过这一轮针对性训练，效果相当明显。在这八个训练来源对应的、训练过程中没见过的测试数据上，KEV-0.8B的利用率从47.4%猛涨到86.8%，KEV-4B从46.4%涨到85.6%。分布差异（TVD）也大幅下降，准确率同时提升了13到15个百分点。所有八个任务，在准确率、利用率、分布匹配度上都实现了同步改善，没有出现"拆了东墙补西墙"的情况。

这里有个细节值得专门说一下:训练之后，模型的"软利用率"（也就是概率分布本身的多样性）变化很小,只提升了不到7个百分点，但"硬利用率"（最终拍板的决策结果的多样性）却暴涨了38个百分点左右。这说明，训练并没有强行把模型的概率分布拉平，让它变得"什么都觉得差不多可能",而是精准地调整了模型做最终决策那一步的习惯，让它更敢于把心里本来就存在的那些次优选项，真正地选出来。

不过，这次训练带来的改善，在扩展到训练时没见过的新任务上，表现出了明显的规模差异。对于4B这个相对大一点的模型，它在28个未参与训练的有序任务上，利用率也从73.2%提升到了81.3%，呈现出正向的迁移效果。但对于0.8B这个更小的模型，同样的28个任务，利用率反而从75.0%轻微下滑到72.7%。小模型学会了"听话地在训练过的任务上表现好"，但没能把这种"该用的选项就要用"的习惯，泛化到陌生的任务上去；大模型则表现出了更强的举一反三能力。

这给了我们一个很值得琢磨的推论:模型的"容量"不仅决定了它能记住多少知识，似乎也决定了它能否把一种行为习惯的调整，真正内化成一种可迁移的能力，而不只是在特定考场上临时抱佛脚。

这个毛病为什么重要，又该怎么揪出来

把所有这些结果串起来看，论文想强调的核心观点是：准确率这个单一指标，正在悄悄掩盖一种真实存在的、系统性的可靠性问题。

一个模型可以在准确率上拿到不错的分数，同时在决策分布上严重偏科。而这种偏科，又不是那种一眼就能看穿的"模型总是选第一个选项"或者"模型总是打低分"这种简单偏见,论文发现，不同的模型，在不同的任务上，偏爱的"安全区"是不一样的。在36个有序任务里，有的任务上模型喜欢扎堆在低分区，有的喜欢扎堆在中间，有的甚至扎堆在高分区，没有一个统一的方向。这意味着，如果只是简单地给模型的输出结果打一个"校正系数"，试图把它往某个方向拉一拉，是治不好这个病的,因为病灶在每个任务上长的位置都不一样。

论文给出的建议是:在评估一个评分类AI模型的时候，光看准确率是不够的，还应该同时报告利用率和分布差异这两个指标，并且专门测试一下在候选项顺序被打乱之后、以及候选项被切得更细之后，模型的表现是否稳定。

这件事放在更大的背景下想一想，其实挺有警示意义的。

我们现在越来越依赖AI模型去给内容打分、做评级、做自动化审核,从内容毒性检测到翻译质量评估，再到各种打分系统。如果这些系统表面上看起来准确率很高，但骨子里只敢在几个固定档位之间打转，那么它们给出的分数，其实携带着一种隐藏的"刻板印象",不管输入内容实际处于什么水平，它都倾向于把判断拉回到自己熟悉的那几个安全区。这种偏差一旦被大规模部署到实际的评分系统里，可能会在用户完全不知情的情况下，持续地给出偏颇的判断。

Q&A

Q1：这篇论文说的"有序量表偏差"到底是什么意思？

A：指AI评分模型在面对像打分、评级这类有等级关系的任务时，最终做出的决策只集中在少数几个选项上，没有真正用到候选项提供的全部范围，即便模型准确率看起来不低。

Q2：为什么打乱候选项的顺序没能解决这个问题？

A：打乱顺序确实会让每条数据的预测结果发生变化，并能部分提高利用率，但整体准确率几乎不受影响，而且有序任务的利用率依然远低于无序任务，说明顺序偏好只是问题的一部分，不是根本原因。

Q3：针对性训练能不能彻底解决这种压缩现象？

A：在训练涉及的任务上效果很明显，利用率能从不到50%提升到85%以上，但泛化到没训练过的新任务时，效果和模型规模有关，大模型（4B）表现出正向迁移，小模型（0.8B）则没有，说明这种偏差是可以后天调整的，但不是一次训练就能彻底根除的。