AI在做空间推理时，为什么总在关键一步"猜错"就全盘皆输？

你有没有玩过那种找不同的游戏，画面里有两个一模一样的红球，一个悬在半空，一个落在椅子上。题目问你，红球相对于椅子在哪个方向。你的大脑会怎么处理这个问题？

大概率是这样的：先把两个候选项都记在脑子里，一边往下想，一边琢磨到底哪个才是题目说的那个球。直到最后一步，你才真正拍板。

但现在的大型视觉语言模型不是这么干的。

它们在推理的每一步都要"选"一个词，选完就往下走，不会回头。如果某一步选错了候选对象，后面的推理全都建立在这个错误假设上，像多米诺骨牌一样倒下去，最后给出一个听起来很有逻辑、但压根站不住脚的答案。

这篇论文想解决的，正是这个问题。

**核心问题：机器为什么不能"悬而不决"**

先说说现在主流的做法。

大型视觉语言模型（LVLM）*：能同时理解图片和文字，并进行对话式回答的AI模型，比如GPT-4V、Gemini这类能看图说话的系统。

它们做复杂推理时，通常会用一种叫"思维链"的技术，先在心里（其实是在输出里）把推理过程一步步写出来，再给最终答案。

思维链（CoT）*：Chain-of-Thought的缩写，指AI在给出最终答案前，先生成一系列中间推理步骤，就像人做数学题时打草稿一样。

问题出在哪儿？思维链的每一步，模型都要从词表里挑一个具体的词（token）往下接。这篇论文把这种方式叫做"硬思考"（hard thinking）。硬就硬在，它必须在每一步都做出非黑即白的选择，哪怕此刻其实有好几个候选都挺合理。

论文开头举的例子特别形象：问红球相对黄椅子在哪，模型在思维链里可能先写"椅子上的物体是红球"，但其实悬在半空的那个红色物体才是真正的球。一旦这个错误的判断被写进了思维链，后续推理就会顺着"球在椅子上"这条错路走下去，最后答案是"在椅子上面"，而正确答案其实是"在椅子前方"。

这不是模型笨，是机制本身有问题。早期武断地选定一个词，错误就没法再被纠正了，论文管这叫"过早离散化"（premature discretization）。

这让我想起一个生活场景：你在拼图，拼到中间发现有两块看起来都能插进同一个位置。如果你硬逼自己马上决定用哪一块，粘上胶水固定住，等拼到后面发现选错了，整幅图就废了，得从头再来。但如果你当时先把两块都轻轻搭在那个位置，继续往下拼别的部分，等看到更多线索后再决定用哪块，犯错的代价就小得多。人类的思考方式更接近后者，而硬思考的AI更接近前者。

那有没有办法让AI也能"先搭着，晚点再定"？

**从离散到连续：软思考是什么**

答案是有的，这就是"软思考"（soft thinking）的思路。

核心想法很简单：与其在每一步强行选一个词，不如把几个候选词的词嵌入按概率混合起来，形成一个连续的、模糊的"状态"，再拿这个混合状态继续往下推理。

词嵌入（token embedding）*：AI把每个词转换成的一串数字（向量），模型实际计算时用的是这些数字，而不是人类能读懂的文字。

举个例子，如果模型在某一步认为"stopped"（停下）概率是45%，"waiting"（等待）概率是32%，"moving"（移动）概率是15%，软思考不会强行选"stopped"，而是把这三个词的向量按45%、32%、15%的比例加权混合，生成一个新的"软状态"，带着三种可能性一起往下走。

这就是本文框架的起点，但光有软思考还不够。因为软的程度（也就是"混合多少个候选"）在不同推理步骤上，其实应该是不一样的。

**问题的真正难点：软到什么程度才合适**

这里要讲一个容易被忽略但很关键的点。

软思考听起来很美好，保留多种可能性，不急着下结论。但论文作者发现，一味地"软"也会出问题。

想象你在整理一堆文件，有些文件内容相近，混在一起没关系，反正后面还能分开看。但有些文件内容是互相矛盾的，一份写着"周三开会"，另一份写着"周三休息"，你要是把这两份强行叠在一起当成一份文件去理解，反而会读出一堆语无伦次的信息，比你直接选错一份还糟糕。

这就是软思考的代价所在。如果不做任何调节，固定一个"软度"（也就是混合的集中或分散程度），在那些候选项本身就互相矛盾的推理步骤上，混合反而会制造出"四不像"的干扰信号，让后续推理更乱，而不是更准。

所以论文提出的研究问题是：LVLM应该如何动态地控制表示的软硬程度？

这就引出了整篇论文的核心设计，一个叫AdaptSoft的控制器。

**AdaptSoft：让AI自己判断该软还是该硬**

AdaptSoft的工作原理，是在推理的每一步，用两个信号来决定这一步该有多"软"。

第一个信号是隐藏状态（hidden state），可以理解成模型此刻"脑子里装的东西"，也就是到目前为止积累的推理上下文。第二个信号是预测不确定性，用的是候选词分布的"香农熵"。

香农熵（Shannon Entropy）*：信息论里衡量不确定性的指标，候选项概率越分散（比如三个选项都接近33%），熵越高，说明模型越犹豫；如果某个候选项概率接近100%，熵就接近0，说明模型很确定。

AdaptSoft把隐藏状态和这个熵值一起喂进一个小型神经网络，输出一个叫"温度"（temperature）的参数，用来控制混合的集中程度。温度低，混合会更集中在得分最高的那个候选上，接近硬思考；温度高，混合会更分散，多个候选的权重更接近。

这个设计的精妙之处在于，它不是靠人工规则去判断"这一步该软还是该硬"，而是让模型自己从当前的推理状态和自身的犹豫程度里学出这个判断。

打个比方，这就像一个经验丰富的医生看诊。遇到症状典型、一眼能确诊的病人，医生会很快下判断，不会拖泥带水地罗列一堆可能性吓唬病人。但遇到症状模糊、几种病都说得通的病人，医生会先把几个可能的诊断方向都记下来，继续问诊、做检查，直到信息足够了才下结论。如果医生对每个病人都用同一套死板流程，要么对简单病例浪费时间瞎猜一堆可能性，要么对复杂病例过早下错误诊断，两种情况都会让误诊率升高。AdaptSoft要做的，就是让模型学会这种"看情况调整判断节奏"的能力。

**怎么训练这个"软硬开关"：梯度对齐学习**

设计出AdaptSoft这个控制器只是第一步，更难的问题是：怎么训练它？

这里面有个麻烦。模型最终是靠任务奖励（比如答案对不对）来学习的，但这个奖励只在整个回答结束后才给出一次。如果你只用这一个总分去调整几十个推理步骤里每一步的"软硬程度"，模型根本分不清哪一步该软、哪一步该硬，因为所有步骤共享同一个奖励信号，没法细分责任。

论文提出了一个叫"梯度对齐"（gradient alignment）的学习目标来解决这个问题。

简单说，它的思路是：把一批采样出来的推理轨迹分成两部分，一部分当参照组，用来算出一个"参照梯度"（代表一个大致正确的更新方向），另一部分当训练组，看训练组里每一步产生的梯度跟这个参照方向是不是对得上。如果某一步的梯度方向跟参照方向一致，说明这一步的软硬调节是"帮了忙"的，给它正向信号；如果方向相反，说明这一步可能添乱了，给它负向信号。

这种做法相当于把一个模糊的总体评分，拆解成了对每一步的具体打分，而且不需要人工标注每一步"应该软还是应该硬"这种中间过程的标签。

这让我想起团队协作的场景。一个项目最后成功了，老板发奖金，但不会说清楚具体是谁的哪个决定起了关键作用。如果公司想激励员工做出更好的决策，光靠"项目成了就发钱、项目黄了就不发"这种笼统的奖惩，员工根本学不会哪个具体动作是对的、哪个是错的。但如果能把每个人每一步的工作跟最终那个"标杆项目"的成功路径做对比，看谁的工作方向更贴近成功路径，就能给出更精准的反馈。梯度对齐做的正是这件事，用一个"参照组"的成功方向，去校准每一步的具体贡献。

**配合GRPO训练整个系统**

整个框架的训练用的是一种叫GRPO的策略优化方法。

GRPO（Group Relative Policy Optimization）*：一种强化学习训练方法，对同一个问题采样多条回答，根据这些回答相对彼此的好坏（而不是绝对分数）来计算奖励信号，不需要额外训练一个独立的打分模型。

GRPO本身不需要标注"标准推理过程"，只需要知道最终答案对不对，这降低了训练数据的门槛。但论文在把GRPO用到软思考场景时遇到一个技术难题：GRPO需要计算"当前策略"和"采样时策略"在每一步的似然比，可软状态是多个词嵌入的混合，不是单个具体的词，没法直接套用传统的"选中某个词的概率"这种计算方式。

论文的解决办法是借用了Gumbel重参数化技巧，把采样过程中加入的随机噪声记录下来，反过来推导出两个策略在这个具体采样点上的概率密度，再拿这两个密度的比值当作似然比。这个技巧的细节比较数学化，但核心思想不难理解：既然软状态是由一组带噪声的分数决定的，那就直接比较这组分数在两个策略下出现的概率，而不是比较某个具体词被选中的概率。

**实验结果：软硬之间差了多少分**

说了这么多设计思路，实际效果怎么样？论文在三个空间推理基准上做了测试。

OmniSpatial*：一个涵盖超过8400道题目的空间推理测试集，分成动态推理、空间交互、复杂逻辑、视角转换四大类，细分出19个任务子类别，是本论文训练和评测的主战场。

在OmniSpatial上，研究团队做了一组很干净的对照实验：相同的骨干模型（Qwen3-VL-8B-Thinking），相同的训练流程，只是分别用硬思考、固定软思考、以及自适应软思考（也就是完整的AdaptSoft方案）来训练。

结果显示，硬思考训练后平均准确率是45.92分，固定软思考涨到46.93分，只多了1分左右。而加上AdaptSoft的自适应软思考，直接跳到49.68分，比固定软思考又多了2.75分。

这个差距在某些细分任务上特别明显。比如几何推理（Geometric Reasoning）这个类别，硬思考和固定软思考得分都是25.00，一模一样，但自适应软思考拿到34.84分，整整高出近10个百分点。运动分析（Motion Analysis）这一项，固定软思考是55.85分，自适应软思考涨到62.14分。

这说明什么？说明单纯"保留多个候选"本身不一定有用，关键是要知道在哪些推理步骤上保留、保留多少。几何和运动这类任务里，经常会出现互相冲突的空间构型假设，固定软度没法应对这种此消彼长的需要调节的场景，而自适应软思考能做到。

更有意思的是零样本迁移能力的测试。

SpatiaLab*：一个专门用来测试模型在没见过的真实场景图片里做空间推理能力的基准测试集，覆盖3D几何、遮挡关系、方位判断、相对位置、尺寸比例、空间导航六大类问题。

在SpatiaLab这个模型完全没训练过的测试集上，Soft Spatial Reasoning拿到48.71分，超过此前最强的开源软思考模型LVR 2.93个百分点。同样做对照实验，自适应软思考比固定软思考又多了1.85分，而固定软思考比硬思考只多了0.65分。这个模式和OmniSpatial上观察到的一致：自适应能力带来的收益，比单纯引入软思考本身的收益要大得多，而且这个优势能迁移到陌生场景里。

MindCube*：一个专门测试"空间心理建模"能力的基准，要求模型通过有限的几个视角图片，推断出未被直接观察到的空间关系，比如物体转个方向后会是什么样子。

这是个更烧脑的任务类型，要求模型做类似人类"脑补"的工作，脑子里转个圈想象画面之外的东西。在这个任务上，Soft Spatial Reasoning拿到38.13分，比它自己的基础模型高出4.51分，是所有参与对比的非商业模型里最高的。

论文还做了消融实验，把AdaptSoft拆开来一块一块地测试哪个部件最重要。结果发现，去掉梯度对齐这个训练目标，换成只用整体任务奖励，平均准确率掉了4.07分，是四种消融里降幅最大的，其中"假设性推理"这一子类直接掉了6.52分。这说明梯度对齐提供的逐步反馈信号确实是整个框架的核心支撑，光靠一个笼统的最终分数没法精细地训练出该软该硬的判断力。

去掉隐藏状态这个输入，只留预测不确定性，掉了3.53分；反过来去掉预测不确定性只留隐藏状态，掉了2.11分。两者都重要，但隐藏状态似乎分量更重一些。

**论文里一个很直观的例子**

论文里给了一个具体案例，很能说明AdaptSoft到底在做什么。

题目问：按下"前进"按钮，从机器人自己的视角看，它会往哪走？

模型的思维链大致是这样推理的：先回忆机器人学里"前进"方向通常指的是机器人朝向的方向，再判断图里机器人的朝向，最后得出结论。

论文把这段推理过程里每个词对应的"软硬温度"画了出来。结果显示，"operator"（操作者）和"robot"（机器人）这两个词对应的温度比较高，也就是软一些；而"press"（按下）和"forward"（前进）这两个词温度比较低，也就是硬一些。

这其实挺符合直觉的。"操作者"和"机器人"这类名词在句子里可能有多种指代方式或修饰角度，留点余地让多种表达方式共同影响后续推理是合理的。而"按下"和"前进"这类动作和方向性的词，一旦模糊了反而会造成歧义，所以模型倾向于把它们钉得更死一些。

这跟人说话时的停顿习惯有点像。你描述一件事的时候，提到某个具体人名或者专有名词，可能会含糊地说"那个谁谁谁"，留着后面再补充细节；但说到关键动作或者方向性的指令，比如"往左转"还是"往右转"，你不会模棱两可，因为这种地方一旦含糊，后面的理解就全乱了。AdaptSoft学到的，正是这种"哪里该留余地，哪里该一锤定音"的分寸感。

论文还观察到一个现象，AdaptSoft在训练过程中学会的"软硬调节"，主要体现在同一条推理链条内部的变化上，而不是不同题目之间的变化。具体数字是，单条推理链内部的温度变化幅度中位数是0.235，而不同推理链之间温度中位数的差异只有0.093，前者是后者的2.5倍左右。这说明AdaptSoft真正学到的是"在一次推理过程中动态调节"，而不只是给不同难度的题目设一个固定的软硬档位。

**这篇工作建立在什么基础之上**

这不是凭空出现的想法。

让语言模型用连续状态代替离散词进行推理，更早的工作比如Hao等人2024年提出的让大型语言模型在连续潜空间里思考的方法，已经证明了这条路径在纯文本领域是可行的。Zhang等人2026年提出的Soft Thinking工作，进一步把软思考形式化成了混合词嵌入的方案，这也是本论文软状态构造方式的直接来源。

在视觉语言模型这个方向上，此前的工作要么只在视觉表示层面做软化处理，文字推理链条还是老老实实一个词一个词往外蹦，要么虽然把软思考用到了思维链本身，但用的是固定不变的软化程度，没有考虑不同推理步骤其实需要不同的处理方式。这篇论文填的，正是"如何让软硬程度随推理步骤动态变化"这个空白。

往后看，这篇论文提出的梯度对齐思路，本质上解决的是强化学习里一个很常见的难题：怎么把一个粗粒度的最终奖励，拆解成对每个中间决策的精细反馈。这个思路或许能被迁移到其他需要逐步决策、但只有最终结果可评估的任务里，不只局限于空间推理。

**写在后面**

读这篇论文时，有个细节让我反复琢磨：AdaptSoft调节软硬程度的依据里，只用了语言模型自身的隐藏状态和预测熵，完全没有用到视觉侧的不确定性。

这意味着，如果一张图片本身很模糊，比如物体被遮挡了一半，看不清到底是红球还是别的什么东西，AdaptSoft目前是感知不到这种"视觉上的不确定"的。它只能看到语言生成这一侧的犹豫程度。论文作者自己在结尾也坦白承认了这个局限，并把它列为未来可以改进的方向。

这让我想到一个问题：如果真的把视觉不确定性也纳入软硬调节的依据里，模型是不是能在"图片本身看不清"和"文字推理本身在犹豫"这两种不同性质的不确定性之间做出区分，用不同的策略去应对？这两种不确定性造成的错误，修复的方式其实可能完全不一样，一个该多看几眼图片（或者对视觉特征也做软化处理），一个该多保留几个语言候选。目前的工作只解决了后者。

还有一点挺有意思，论文里提到正确答案和错误答案对应的推理链条，内部软硬变化的幅度几乎一样（中位数0.233对0.237）。这说明软硬调节这件事本身，不是"答对了就软硬调得好，答错了就调得差"这么简单的因果关系，软硬调节更像是一种普遍存在的推理策略，而不是成功的直接标志。那它真正起作用的机制到底是什么，这篇论文给出了实验证据，但完整的解释可能还需要更深入的分析。

Q&A

Q1：Soft Spatial Reasoning是什么？

A：Soft Spatial Reasoning是一种让大型视觉语言模型做空间推理时采用"软思考"的后训练框架，推理中间步骤不再死板选一个词，而是用多个候选词嵌入的混合状态往下推理，同时用AdaptSoft控制器动态调节每一步该有多"软"。

Q2：AdaptSoft是怎么决定每一步推理该软还是该硬的？

A：AdaptSoft会结合两个信号来判断：模型当前的隐藏状态（代表已积累的推理上下文）和候选词分布的预测不确定性（用香农熵衡量），把这两个信号喂进一个小型神经网络，输出一个控制混合集中程度的温度参数。

Q3：这个方法效果到底好不好，有数据支撑吗？

A：在OmniSpatial基准上，自适应软思考比固定软思考高2.75分，比传统硬思考高3.76分；在陌生场景的SpatiaLab测试集上也比同类最强开源模型高出2.93个百分点，几何推理、运动分析等任务提升尤其明显。