让大模型在脑子里"思考"而不说出来，靠谱吗？

你有没有想过一件事：当你心算一道数学题的时候，脑子里到底在发生什么？

你大概率不是在脑子里一个字一个字地默念"4乘以5等于20，3乘以7等于21，20加21等于41"。更可能的情况是，某种模糊的、不成句子的思维活动在你脑海里一闪而过，然后答案就冒出来了。语言只是你事后用来向别人解释的工具。

现在的大语言模型恰恰相反。它们解题的时候，必须把每一步都写成完整的句子，一个词一个词地往外蹦，这个过程叫链式思考。

链式思考（Chain of Thought，简称CoT）：让AI像写作文一样，把解题的每一步用自然语言完整写出来，再给出最终答案的技术。

这套做法确实好用，但代价也摆在那里。生成的文字越长，花的时间和算力就越多，而且很多文字其实是"水分"，比如"让我们来分析一下这个问题"之类的过渡句，对解题本身没什么贡献。更麻烦的是，模型一旦把某几个字写出来了，就相当于把自己锁死在这条路上了，想换个思路得重新从头生成。

于是一群研究者开始琢磨：能不能让AI也学会"闷头想"，把思考过程藏在一种连续的、不说出口的状态里，只在最后才开口说出答案？

这就是本文要讲的研究，来自三星AI剑桥团队的论文《What Matters for Latent Reasoning with Flow Matching》。他们没有满足于提出又一个"潜在推理"方法，而是做了一件更较真的事：先定义清楚什么样的"沉默思考"才算真正有效，然后一项一项地做对照实验，把那些真正起作用的设计细节挖出来。

沉默思考，到底难在哪

潜在推理（Latent Reasoning）：让模型在连续的数值空间里完成中间推理，而不是用离散的文字token一步步生成，最后只把答案用语言表达出来的技术路线。

在这篇论文之前，已经有不少团队尝试过这条路。2024年提出的Coconut把每一步的隐藏状态直接当成下一步的输入，让模型在embedding空间里"传话"；CODI做了类似的事情，但用了自蒸馏的方式训练；PCCoT则借鉴了雅可比迭代的思路，让一批"思考槽位"同时反复修正。这些方法听起来都挺聪明，但作者们在实际测试中发现了一个扎心的事实：很多所谓的"潜在思考"根本没在思考。

具体怎么验证的？研究者设计了一个"双胞胎测试"：拿一道题，改一个数字，生成一道新题，这道新题的思路一样但答案不同。然后把新题的"思考结果"硬塞进原题里，看模型会不会跟着这个思考结果走、给出新题的答案。

如果模型真的依赖思考内容来解题，那它应该大概率跟着走。但实验结果是，Coconut只有7.3%的情况会跟随注入的思考，CODI是31.8%，PCCoT是27.7%。换句话说，这些模型的"思考"更像是摆设，真正决定答案的，很大程度上还是问题本身背后的那层权重记忆，而不是那个所谓的潜在思考向量。

这就好比你请了一个保镖，说是专门负责分析危险情况再做决策，但你偷偷把危险警报换成另一次完全不同的警报，结果他还是按老样子出手了。这说明他压根没在看警报，他只是凭经验条件反射。如果不做这个替换测试，你根本发现不了这个"保镖"其实是摆设，表面上看起来他每次都"有思考"，实际上思考和行动之间根本没有因果关系。

作者据此提出，一个真正合格的潜在思考，必须同时满足五个条件：有用、多样、可解释、可精炼、高效。接下来文章的核心内容，就是围绕怎么把这五条真正做出来。

把"思考"编码成一段密码：潜在空间是怎么建出来的

要让AI在连续空间里思考，第一步得有这么一个空间存在。研究者选择了流匹配（Flow Matching）这条技术路线，这和近几年很火的扩散模型（Diffusion Model）同宗同源。

扩散模型：一种生成模型，核心思路是先把数据一步步加噪声直到变成纯随机噪声，再训练一个网络学会把噪声一步步还原成数据，常用于图像生成（比如Midjourney、Stable Diffusion背后的技术）。流匹配是扩散模型的一个变体，直接学习从噪声到数据的"流动速度"，推理时用更少步数就能生成。

整个流程分两步走。第一步，训练一个变分自编码器（VAE），把一段完整的思维链压缩成一个很小的"密码"，这个密码在论文里叫latent code，只有8个槽位，每个槽位512维，比原本动辄几十上百个token的文字链条小得多。第二步，训练一个流模型，让它学会从一团随机噪声出发，根据问题一步步"去噪"，最终还原出这个密码，这个密码就是模型的"思考"，随后模型再根据这个思考生成最终答案。

变分自编码器（VAE）：一种神经网络结构，由编码器和解码器组成，编码器把复杂数据压缩成一个低维的"码"，解码器再把这个码还原回原始数据，常用于学习数据的紧凑表示。

这套流程说起来简单，但作者们在实验中踩了无数坑，发现大量看似合理的设计选择其实根本不work。

第一个反直觉的发现是，VAE把原文重建得越准，不代表下游表现越好。研究者测试了66个不同配置的VAE，发现重建准确率和最终解码出来的答案准确率之间的相关系数只有负0.12，几乎没有正相关，甚至有点负相关的意思。他们举了个具体例子：把思考槽位从8个增加到32个，重建准确率从96.8%涨到99.4%，但下游直接读取答案的准确率却从47.1%暴跌到25.4%。

为什么会这样？

因为密码压缩得越精细，流模型生成的时候需要还原的细节就越多，稍微有一点偏差，整个密码就对不上号了，解码出来可能就是乱码。这就好比你给朋友留了一张纸条当暗号，如果暗号越复杂越详细，别人传话的时候越容易传错，哪怕只错一个字，对方也可能完全理解错你的意思。如果暗号足够简单模糊，哪怕传的人记得不是那么精确，对方大致也能猜出你想说什么。密码的精细度和它的"可生成性"之间，存在着一种天然的紧张关系。

第二个关键发现是，光靠重建准不够，密码所在的空间还得"平滑"。

研究者给训练过程加入了三种人为的干扰：把输入的部分词替换成随机词（30%的概率）、给采样出来的密码加入一定比例的噪声、以及对密码做随机丢弃（dropout）。这三招加在一起，虽然会让VAE的原文重建准确率从99.8%掉到96.8%，但下游的直接读取准确率反而从43.8%涨到47.1%，解码读取准确率从49.4%涨到53.2%。

这背后的逻辑是，如果不加这些扰动，相邻的两个密码点可能会被解码成完全不同的两段文字，这意味着流模型生成的思考只要稍微偏离一点点"标准答案"的位置，解码出来的内容就可能牛头不对马嘴。加了扰动之后，整片区域都会被训练成"读出同一个意思"，哪怕生成的思考落在这片区域里稍微有点偏，解码出来的内容依然大体靠谱。这就像给一片地图上的某个地标标注了一圈缓冲区而不是一个精确坐标点，哪怕导航稍微有点误差，你照样能找到那个地方，而不是因为差了几米就走进另一个完全不相关的建筑。

第三个重要选择，是思维链该用什么"文体"来编码。

研究者对比了两种版本的思维链：一种是自然语言写的，比如"迈克花了4乘以5等于20美元买气球，又花了3乘以7等于21美元买水瓶，所以总共花了41美元"；另一种是符号化的，只保留关键的算式，比如"4*5=20"、"3*7=21"、"20+21=41"。

结果非常明确，符号化的版本更适合压缩进这个密码空间。同样是8个槽位，符号版本几乎能完美重建每一条测试样本，自然语言版本却只能重建不到一半。而且用符号版本训练出来的流模型，下游表现要比自然语言版本好出10到17个百分点。原因也不难理解，自然语言里充斥着大量对解题本身没有帮助的修饰性文字，比如"所以""因此""接下来"，这些词占用了宝贵的编码容量，却没有传递核心信息。

这给我们一个挺有意思的启发：当你想把一件事情浓缩进一个很小的容器里时，先把信息密度提纯一遍，往往比直接硬塞原始材料更有效。

不过符号化也有代价，就是丢失了细节，比如具体的数字单位、题目里的实体名称等等。为了弥补这一点，研究者设计了双路解码器：同一个密码既能单独解码还原出符号链条，也能结合原始问题解码还原出自然语言版本的解释，这样既保住了压缩效率，又保留了可读性。

有了密码本之后，怎么训练这个"猜密码"的流模型

密码本建好了，接下来要训练一个模型，让它看到问题之后，能从一团随机噪声里"猜"出正确的密码。这一步的几个发现同样很反直觉。

首先是训练时间点的选择问题。流匹配的训练过程本质上是让模型学会在不同"噪声程度"下，预测去噪的方向，这个噪声程度用一个时间变量t表示，t接近0表示几乎全是噪声，t接近1表示几乎是干净的密码。

直觉上，你可能觉得训练时均匀覆盖所有噪声程度是最公平的做法。但实验发现，均匀分布的效果反而是最差的，只有把训练重点大幅偏向"噪声侧"（也就是t接近0的区域），模型才能学得好。这是因为推理的时候，模型永远是从纯噪声开始去噪的，如果训练时大部分精力都花在"几乎已经是答案了，只需要微调一下"这种简单情形上，模型遇到真正困难的"从零开始"场景时反而会手足无措。

这就像考前复习，如果你只刷那些已经会做80%、只差最后一步的题，等真正考试时让你从零开始独立解一道完全陌生的题，你大概率会懵。真正有效的训练，应该把大部分精力花在"从头思考"这件最难、也最接近真实考试场景的能力上。

另一个关键细节藏在"回答环节"的设计里。模型生成完思考之后，还要用同一个模型根据这个思考生成最终答案，这个环节作者称为答案通路。问题是，训练答案通路的时候，应该喂给它什么样的思考内容？

如果只喂干净的、没有任何噪声的标准密码，模型学会的是"如何读一份完美的答案"，但它在真实推理时读到的往往是带有误差的、不完美的生成结果，这种训练和实际使用场景不匹配。实验证明，最佳方案是让答案通路一半时间读取带噪声的密码，另一半时间读取模型自己生成的一步预测结果，而且这个自我生成的结果必须"断开梯度"，也就是不让它反向影响流模型本身的训练，否则两个损失函数会互相打架。

这里还有一个容易被忽略但很重要的发现：每道题目只配一条标准思维链是不够的，必须有多条不同的解法。

研究者专门找了一个大模型，给GSM8K数据集里的每道题生成了16种不同的解题过程，只保留验证过正确性的那些。加入这些"多样解法"之后，模型在直接读取和解码读取两个指标上都有明显提升。原因是，如果一道题永远只对应一个标准答案的编码，那么流模型很容易陷入死记硬背模式，就是机械地记住"这道题该对应哪个点"，而不是真正学会从不同的随机起点出发，探索出不同但同样正确的路径。这背后涉及的其实是扩散模型里一个广为人知的现象，训练样本如果每种条件下只有极少数几个甚至一个目标，模型就容易记忆化而不是泛化。

这个道理放到人类学习上同样成立。如果你学数学的时候，一道题永远只看一种标准解法，考试时稍微换个数字、换个问法，你可能就不会了。但如果你见过同一类问题的好几种不同解法，你对这类问题的理解会更灵活，更容易举一反三。

最后一个关键步骤，是让模型对自己生成的、不完美的思考，也要学会好好利用，而不是依赖训练时见过的理想情况。

作者发现，即便前面所有步骤都做对了，模型"解码出来读到正确答案"的比例，依然明显高于"自己直接利用这个思考给出正确答案"的比例，这中间存在一个落差。为了补上这个落差，论文设计了第二阶段训练，专门让模型在推理的真实条件下，也就是从纯噪声开始、走完整条去噪路径之后，再去训练答案生成，并且把反向传播的梯度一路打通整个去噪链条，而不只是打一个补丁。

这一步带来的提升是实打实的，直接读取准确率从55.3%涨到59.1%，解码读取准确率从61.3%涨到62.6%。而且作者通过消融实验验证，如果去掉这个"端到端打通梯度"的设计，换成只是让梯度在生成结果上断开，效果会掉回接近第一阶段的水平，说明这一步确实是关键所在，不是装饰性的调优。

这一整套训练流程被作者命名为FLaRe（Flow-based Latent Reasoning），翻译过来大概是"基于流的潜在推理"。

五条标准，逐条验证

前面说过，作者认为一个合格的潜在思考，必须同时做到有用、多样、可解释、可精炼、高效这五条。这部分他们没有空谈，而是针对每一条都设计了具体的测试方法，拿FLaRe和Coconut、CODI、PCCoT三个基线方法逐一对比。

有用性方面，前面提到的双胞胎注入测试显示，FLaRe第一阶段的跟随率是39.7%，第二阶段是37.3%，虽然比不上显式思维链的97.2%，但远超Coconut的7.3%、PCCoT的27.7%、CODI的31.8%。而且在那些模型本来就能答对两道题的"干净样本"里，FLaRe的跟随率能冲到91.4%（第一阶段）和76.1%（第二阶段），说明只要思考内容本身是正确的，模型确实会依赖它。

多样性方面，研究者给每道题生成16次不同的思考（靠不同的随机噪声起点），统计pass@16，也就是16次里至少有一次答对的比例。FLaRe解码读取的pass@16比单次贪婪解码高出16.6个百分点（第一阶段）和14.7个百分点（第二阶段），而几个基线方法最多只能提高5个百分点左右，而且多数情况下"多数投票"反而不如单次贪婪解码准确，说明它们生成的多个样本之间根本没有真正意义上的差异化，更像是在原地打转。

可解释性方面，研究者检查解码出来的思考里，是否按顺序包含了参考答案里的每一个中间计算结果。FLaRe达到46.0%（第一阶段）和48.6%（第二阶段），高于CODI的38.5%、Coconut的19.1%、PCCoT的7.8%。同时作者还做了一个更严格的"忠实性"测试，把双胞胎题的思考注入原题后，检查解码出来的内容是否真的反映了双胞胎的数值变化，FLaRe的表现是CODI和PCCoT的两到三倍。

可精炼性方面，测试的是增加推理时的计算预算（比如更多去噪步数）能否持续带来准确率提升。几个基线方法都明显卡在了训练时设定的预算上限：Coconut超过两步思考就不稳定，CODI在六个潜在token时见顶，PCCoT超过三次迭代反而开始掉点。FLaRe因为训练时覆盖了各种噪声程度，解码读取准确率能从一成算力预算一路涨到半成，增幅达到18到24个百分点。

效率方面，在同一块GPU上单题测速，FLaRe第二阶段用两步去噪就能达到显式思维链97%的准确率，耗时只有显式思维链的四分之一。

这几组数据放在一起看，FLaRe几乎在每一条标准上都明显优于已有的潜在推理方法，这也验证了前面那套设计决策确实是有的放矢，不是为了凑篇论文随便加的花活。

实际效果：和其他方法摆在同一张桌子上比

光有理论标准还不够，这套方法在实际的数学题测试集上表现如何？

论文在GSM8K这个经典小学数学应用题数据集上做了对比，同时测试了跨数据集的泛化能力（GSM8K-Hard、SVAMP、MultiArith）。在三种不同规模的模型骨干（Qwen2.5-0.5B、Llama-3.2-1B、Llama-3.2-3B）上，FLaRe第二阶段在GSM8K上的表现均领先于所有潜在推理基线方法，比如在0.5B规模上，比此前最强的KaVa方法高出6.9个百分点，在1B规模上高出2.6个百分点，在3B规模上基本持平。

更有意思的对比对象是LaDiR，这是另一个同样走"潜在空间去噪"路线的方法，在推理和规划任务上也用VAE加流匹配的思路。即使只用FLaRe的第一阶段，在和LaDiR完全相同的训练数据下，准确率依然高出10.7到21.0个百分点。这说明差距不是来自数据量的多少，而是来自前面那一整套训练细节的打磨，比如符号化编码、噪声侧训练、多条解法、端到端答案训练等等。

SVAMP数据集上FLaRe的表现相对弱一些，作者分析原因是SVAMP里接近一半的题目故意加入了干扰数字，而这种"陷阱题"在GSM8K-Aug训练数据里很少见，属于分布外的挑战。这也算是一种诚实的自我批评，没有回避方法的局限性。

写在后面

读完这篇论文，最触动我的其实不是FLaRe这套方法本身有多巧妙，而是那个"双胞胎测试"揭露出来的事实。

如果没有这个测试，你很难从单纯的准确率数字上发现Coconut和CODI这些方法存在严重的"思考空心化"问题。它们的最终答案准确率看起来还不错，但那更可能是因为模型通过大量训练把题目模式直接记在了权重里，而不是真的依赖那个所谓的"潜在思考向量"去推导。这提醒我，很多看似成功的AI能力展示，背后可能藏着一套完全不同于表面叙事的运作机制，不去主动设计针对性的反事实测试，你根本不会意识到这一点。

另一个让我反复琢磨的细节是，重建准确率和下游效果之间那个负相关的发现。这在直觉上太违反常理了，按理说一个编码器把东西记得越准，后面用起来应该越方便才对。但这篇论文的解释提示了一个更普遍的道理：当你设计一个要被另一个系统"重新生成"的表示时，这个表示的目标不该是无损还原原始信息，而应该是在生成难度和信息完整度之间找一个平衡点。这个思路或许能迁移到很多别的场景里，比如设计API接口、设计数据库schema，甚至是写文档的时候，有时候保留一点"模糊性"反而比追求绝对精确更利于被正确使用。

这篇论文也坦承了自己没解决的问题，比如变长思考（根据题目难度动态调整思考槽位数量）在GSM8K这种题目普遍较短的数据集上没看出效果，作者猜测在思维链长度差异更大的数据集上可能会有用，但没有验证。还有SVAMP上的失利，说明这套方法在面对"干扰信息"时的鲁棒性还有待加强。

所以下次当你看到一个AI系统宣称自己"在后台默默思考"的时候，或许可以多问一句：它的思考，真的参与决策了吗，还是只是一个看起来很忙的摆设？

Q&A

Q1：FLaRe是什么？

A：FLaRe（Flow-based Latent Reasoning）是三星AI剑桥团队提出的一套训练方法，让大语言模型通过流匹配技术在连续潜在空间里完成推理，只在最后用语言说出答案，而不是像传统链式思考那样逐字生成每一步推理过程。

Q2：潜在推理和链式思考有什么区别？

A：链式思考是模型把每一步推理都写成完整的自然语言句子；潜在推理是让模型在一个压缩的连续数值空间里完成中间计算，不生成中间文字，只在最后把答案用语言表达出来，理论上能更快、更省算力。

Q3：现有的潜在推理方法有什么问题？

A：论文通过"双胞胎测试"发现，Coconut、CODI、PCCoT等方法生成的"思考"很大程度上没有真正参与决策，模型更像是靠记忆题目模式给答案，而FLaRe在这方面的依赖程度明显更高。