AI模型嘴上说"不思考"，脑子里到底在干什么

你有没有试过跟一个话痨朋友说"别解释了，直接告诉我答案"，结果他还是忍不住先啰嗦两句才说重点？

AI模型最近也在经历一模一样的事情。

2025年之后，几乎所有主流大语言模型都加上了一个"思考模式"开关。打开它，模型会先生成一大段推理过程，再给出答案，这个过程通常被叫做思维链

思维链*：模型在给出最终答案前，生成的一段逐步推理文字，目的是让复杂问题的解答过程更透明、更准确。

关掉它，模型应该直接甩出答案,干净利落,不废话。这个设定看起来很合理:简单问题不需要长篇大论,复杂问题才需要深度思考，让用户自己选就行了。

但牛津大学、斯坦福大学和清华大学的研究者们做了一件事,他们把六个主流大模型的"关闭思考"开关真的打开来看了看,结果发现这个开关,远没有宣传的那么听话。

这篇论文的名字叫《Thinking Inertia》,直译过来是"思维惯性"。标题已经暴露了结论:你让模型别想了,它还是会忍不住想。

先搞清楚一件事:到底什么才算"没在思考"

这篇论文最先要解决的,其实不是"模型思不思考"这个问题本身,而是一个更底层的麻烦:我们到底该怎么判断模型有没有在思考?

听起来很荒谬对吧,这不是一眼就能看出来的事吗?

还真不是。

之前的研究通常用三种简单粗暴的方式来判断:第一,看模型的思考开关是不是被调成了"关闭";第二,看输出里有没有那个专门包裹推理过程的特殊标签,通常长这样

<think>...</think>

第三,看回答的字数够不够短。

这三条判断标准,每一条单独拎出来都站不住脚。

论文里举了一个特别直观的例子。假设你问模型"3x+1=10,x等于多少",把思考模式关掉之后,模型照样输出:"两边同时减1,得到3x=9,再除以3,x=3。答案是3。"

这段文字里包含了完整的推理步骤:减法、除法、代入,但因为思考开关是关的,按照第一种判断标准,这居然会被算作"没有思考"。

再换一种情况。模型压根没有输出那对特殊标签,表面上看起来干干净净,但文字里写着"我们需要先孤立出x的位置,因为3x+1=10,所以3x=9,因此x=3",这段话照样是在做推理,只是换了个地方写,不在专门的思考区域里而已。按照第二种标准,这也会被误判为没思考。

字数这条标准更脆弱。"3x=9,所以x=3"只有短短几个字,却依然是一次完整有效的推理,它跳过了啰嗦的解释,但推理这个动作本身发生了。

这就好比你想判断一个人有没有认真思考一道数学题,结果你用的判断方法是"看他有没有打草稿纸"、"看他说话时间长不长"。这些外部线索和他脑子里到底有没有真正转过弯,其实是两码事。一个思维敏捷的人可能瞬间就口算出答案,草稿纸都没碰,但这不代表他没思考,只是思考得够快、够隐蔽。

所以研究者们决定换一套评判标准,不看开关、不看标签、不看字数,而是直接看模型最终吐出来的那段文字里,到底有没有装着跟问题相关的、实实在在的推理内容。

论文把模型的每一次回答,拆成两部分:给出最终答案之前的所有可见文字,叫做前置文本;以及最后那个被明确标记出来的答案本身。

前置文本*(Pre-answer Text):模型在给出最终答案之前生成的全部可见文字内容,不管它藏在专门的思考标签里,还是混在普通回答文字中,只要是出现在答案之前、能被用户看到的内容,都算在内。

有了这个拆分之后,研究者设计了三层递进的检测标准,一层比一层严格。

第一层:到底有没有废话

第一层标准叫做"空思考率",英文缩写ETR

空思考率*(Empty-Thinking Rate, ETR):衡量一个模型的回答里,前置文本是不是完全为空,也就是模型是否真正做到了直接给答案、不说废话。如果一次回答里,除了最终答案本身,没有任何额外文字,这次回答就算合格,ETR就是这类"完全合格"回答所占的比例。

这一层是最直接的二元判断:要么前置文本是空的,模型完美服从了"别解释"的指令;要么前置文本不是空的,只要有哪怕一个字的额外内容,这次回答就不算通过。

但光靠这一层还不够,因为前置文本不是空的,不代表它里面装的就是真正的推理。它可能只是一句毫无营养的套话,比如"好的,让我想想,答案应该是…",这句话跟具体问题毫无关联,纯粹是凑数的开场白。

于是就有了第二层。

第二层:这段话跟问题到底有多相关

第二层叫做"问题-前置文本相关度",用的是一种叫Qwen3-Embedding-4B的语义嵌入模型来打分。

语义嵌入模型*:一种能把文字转换成数学向量的AI模型,两段文字的向量越接近,说明这两段文字在语义上越相关。研究者用它来衡量"模型说的这段话"和"用户问的这个问题"到底有多大关联,而不只是看字面上有没有重复的词。

这一层给出的不是对或错的判断,而是一个连续的分数,从0到1。分数越高,说明前置文本跟问题的关联越紧密;分数是0,说明前置文本本身是空的,根本不存在。

这一层解决了"套话"的问题,但它依然有个盲区:一段话跟问题高度相关,不代表这段话里真的发生了推理。比如模型说"42加79等于121",这句话跟问题"42+79等于多少"高度相关,相关度打分会很高,但它只是在复述答案,没有展示任何推导过程。又比如模型说"加法是一种把两个数字合并成一个总和的运算",这句话也跟"加法"相关,但它只是在解释一个概念,同样没有针对这道题做推理。

所以还需要第三层,专门把"真正的推理"从"相关但不是推理"的内容里挑出来。

第三层:这段话里到底有没有发生真正的推理

第三层叫做"显式推理率",用的是GPT-5.5来当裁判。

显式推理率*(Explicit Inference Rate, EIR):通过另一个AI模型扮演盲审裁判的角色,专门判断一段前置文本里,是否包含了针对当前问题的具体推理动作,比如演绎、计算、比较、排除、规则套用、从证据推出结论等。如果有,这段文本就被标记为"显式推理";如果没有,哪怕内容再长、再相关,也不算。

这个裁判模型在打分的时候是被蒙眼的,它只能看到问题和前置文本这两样东西,看不到是哪个模型生成的、用的是哪种模式、最终答案对不对。这样设计是为了避免裁判带着偏见打分。

裁判会把每一段非空的前置文本,归到五个类别里的一个:纯粹套话、只是复述问题、相关但没有推理动作、包含显式推理、或者无法判断。只有被归到"包含显式推理"这一类的,才会被计入最终的显式推理率。

这三层加起来,构成了一套完整的检测体系。第一层像是门卫,只看你有没有带东西进门;第二层像是海关,检查你带的东西跟申报的是不是一回事;第三层像是专家鉴定,判断你带的到底是真货还是赝品。三层层层把关,才能真正搞清楚一个模型是不是在"假装不思考"。

为了验证这套方法靠不靠谱,研究者还找了五名真人标注员,盲审了600条样本,结果发现人类的判断跟GPT-5.5裁判的一致率高达98.8%,这说明这套自动化评判体系跟人的直觉是高度吻合的,不是研究者自己拍脑袋定的标准。

测试结果:问题的答案空间越开放,模型越刹不住车

搞清楚怎么测之后,研究者在六个主流大模型上跑了一轮测试,覆盖本地部署的Qwen3系列(4B、32B、235B三种规模)、DeepSeek-V4-Flash、GPT-5.4,以及Gemini-3-Flash。测试题目分成三类:布尔判断题(回答是或否)、选择题(从几个选项里选一个)、开放式问答题(自由生成答案,没有候选项)。

结果发现了一个非常清晰的规律,研究者把它叫做思维惯性

思维惯性*(Thinking Inertia):指即便模型被明确要求"不要思考、直接给答案",它依然会在回答中暴露出显式的推理过程,而且这种"忍不住思考"的倾向,会随着问题答案空间的开放程度增加而越来越明显。布尔判断题最容易让模型闭嘴,选择题次之,开放式问题最难让模型收住。

在原生"关闭思考"模式下,布尔判断题上大多数模型的空思考率能达到80%到100%,模型确实能做到直接说是或否,不多废话。

但到了选择题,情况就开始参差不齐,空思考率在不同模型之间从接近0%到95%不等,波动很大。

到了开放式问答题,空思考率几乎集体归零,所有模型都忍不住要先说点什么才肯给答案。与此同时,显式推理率在开放式问题上普遍维持在高位,也就是说,模型不仅说了额外的话,这些话里还真的包含了实打实的推理步骤。

这就像让一个人做三种不同难度的判断。第一种是"今天下雨了吗",他看一眼窗外就能脱口而出"是"或"不是",完全不需要多想。第二种是"今天该穿哪件外套,A还是B",他可能会下意识地说一句"因为今天有点冷,所以选B",多说了一句但也还算克制。第三种是"今天该穿什么出门",这时候他几乎不可能不经过一番盘算就直接给出答案,他得想想天气、想想场合、想想衣橱里有什么,这个思考过程藏不住,会自然而然地流露在他的话里。

答案空间越开放,需要整合的信息越多,"脱口而出"就越不可能发生。这不是模型任性,而是任务本身的结构决定的,选择题给了候选项,相当于已经帮模型框定了范围,模型只需要在有限选项里做判断;开放式问题什么都没给,模型得从零开始构建答案,这个构建过程本身就需要调用推理能力,很难完全隐形。

论文里还做了一个特别巧妙的实验,直接证明了这一点:同一道数学题,只改变呈现方式,看模型的表现会怎么变。

原题是一道几何题,问"长方形的长是宽的两倍,对角线长度是5根号5,求面积"。研究者把这道题改写成三个版本:布尔验证版("给出的答案50对不对,回答是或否")、选择题版(给出四个候选数字)、开放生成版(直接问面积是多少,不给任何提示)。

同一个模型Qwen3-32B,在同样关闭思考的设定下测试这三个版本,结果准确率几乎不变,但空思考率从布尔验证版的62.5%,到选择题版的10.5%,再到开放生成版的0%,一路下滑;显式推理率则反过来,从布尔版的36.9%,一路涨到开放版的90.1%。

题目的难度实际上没有变,变的只是答案的呈现方式。这说明模型"忍不住思考"的根源,不是题目本身有多难,而是答案空间给不给它现成的脚手架可以攀附。给了候选项,模型可以走捷径直接验证;不给候选项,模型就只能老老实实从头推导,这个推导过程想藏都藏不住。

更强的指令能管用吗:一场准确率和服从性的拉锯战

既然原生的"关闭思考"开关管不住模型,研究者接着测试了几种更强硬的指令,看看能不能用语言上的强制命令把模型的嘴彻底堵住。

论文设计了一套从弱到强的六档指令谱系。最弱的一档叫原生开启思考模式,作为对照组;其次是原生关闭思考模式,这是前面测试过的基线;第三档叫思维链模式,故意加上"请一步步思考"这句话,反其道而行之,专门用来验证能不能把思考重新"叫回来";第四档叫软性约束,允许一个很短的开场白但禁止解释;第五档叫严格约束,直接要求"不经过任何推理,直接给出最终答案";第六档比较特殊,叫前缀强制,不是靠指令去说服模型,而是直接在生成开始前,预先填好一段答案模板的开头,比如"答案是\boxed{",强迫模型从这个位置接着往下写。

测试结果出现了几个挺反直觉的现象。

首先是严格约束指令确实有效果,但效果打了折扣。在开放式问答任务上,从原生关闭思考切换到严格约束指令,平均空思考率从接近0%一路提升到大约40%,这说明指令确实管用,模型确实收敛了不少。但与此同时,平均准确率下降了大约15个百分点,显式推理率虽然也从99.69%降到了62%,但依然有超过六成的回答里藏着看得见的推理。

这意味着什么?意味着你越是用力去压制模型说话,它答题的能力就跟着往下掉。这就像考试的时候老师突然规定"只许写最终答案,过程一个字都不许写",对于那种靠记忆就能秒答的填空题,学生受到的影响不大;但对于需要演算的应用题,如果学生被禁止在草稿纸上演算,直接硬憋出一个数字,出错的概率会明显上升。因为这类题目原本就需要一步步拆解才能算对,强行跳过拆解步骤,相当于让学生凭空猜答案。

布尔判断题和选择题上就没有出现这种代价。从原生模式切换到严格约束,显式推理率在布尔题上从5.15%降到0.12%,在选择题上从45.57%降到25.39%,准确率却几乎没有波动。这进一步印证了前面的结论,这两类任务本身答案空间小,模型本来就不太需要依赖长篇推理才能答对,所以压制指令不会伤筋动骨。

更让人意外的是第六档,前缀强制。按照直觉,直接在生成开头预先填好答案模板,应该是最强硬的手段,模型连选择的余地都没有,应该是最"听话"的一档才对。

但实验结果却显示,前缀强制的空思考率,在选择题和开放题上,反而比严格约束指令更低,而且显式推理率和相关度分数都出现了反弹。换句话说,这种硬塞进去的答案模板,不仅没有堵住模型的嘴,反而给了它一个新的突破口,模型会在填好的模板后面,继续补充大段跟问题相关的推理文字,然后才把答案重新确认一遍。

这个现象挺有意思的,它说明单纯从格式上卡住模型的起手式,并不能真正限制它接下来想说什么。这就像你规定一个人说话必须先说"我的回答是",结果他说完这句开场白之后,照样接着一大段解释,你卡住的只是他的第一句话,管不住他接下来还要不要继续往下说。

学科领域也会影响模型爱不爱"多说"

除了答案空间这个维度,论文还测试了另一个变量:同样是选择题,不同学科领域之间会不会有差异?

研究者固定答案格式为标准的四选一选择题,比较了人文学科、社会科学和理工科三个大类在MMLU测试集上的表现。结果发现,理工科题目的空思考率最低,普遍只有0.3%到36.4%之间,远低于人文和社科类题目;与此同时,理工科题目的相关度分数和显式推理率反而是三类里最高的。

这个发现有点反直觉。按照常理,理工科题目往往准确率更高,因为这类题目通常有明确的对错标准,模型答起来应该更有把握、更不需要啰嗦。但实际情况却是,准确率高的理工科题目,反而最不容易让模型闭嘴。

这说明"答得好"和"答得干脆"其实是两件不完全相关的事。理工科题目虽然模型答对的概率高,但往往需要经过计算、推导这类实打实的中间步骤才能得出正确答案,这些步骤天然就很难被压缩成一个孤零零的答案,中间过程本身就是答案的一部分。反观人文社科类题目,很多时候考察的是记忆性知识或者概念理解,模型可能凭借训练数据里存储的事实直接检索出答案,根本不需要经过推导环节,自然也就更容易做到"直接说答案"。

这就好比考一个人历史年份和考一个人数学证明题。历史年份的问题,如果这个人记住了,他张口就能说出数字,不需要任何中间步骤;但数学证明题哪怕这个人对结论非常确定,他往往还是忍不住要把推导过程在心里过一遍,因为这个结论本身就是靠一步步推出来的,脱离了推导过程,这个答案在逻辑上是立不住的。

这些发现合起来告诉我们,模型愿不愿意"直接说答案",跟三个因素都有关系:答案空间开不开放、题目本身需不需要经过真正的推导、以及给没给模型现成的候选项可以依靠。这三个因素互相交织,共同决定了一个模型在面对"别思考了"这道指令时,到底能不能真正做到。

写在后面

读完这篇论文,我印象最深的其实不是那三层检测标准,而是前缀强制那个实验结果。

直觉上这应该是最暴力、最管用的办法,结果反而成了效果最差的一档。这说明控制AI模型的输出行为,远比想象中复杂,格式上的强制并不能约束内容上的自由发挥,模型总能找到新的缝隙把想说的话塞进去。

另一个让我反复琢磨的细节,是论文里反复出现的那个判断:"没思考"不等于"没有隐藏的计算在发生"。

研究者在论文结尾特意强调,他们测的是可见输出,不是模型内部到底有没有在悄悄运算。这意味着即便某个模型做到了完美的空思考率,我们依然无法排除它在生成那个简短答案之前,内部其实经过了一整套复杂的隐藏推理,只是这些推理没有以文字形式呈现出来而已。这就带出一个更深的问题:我们到底该在意模型"说没说出"推理过程,还是该在意它"有没有真的"经过推理?这两件事看似相关,其实可能是完全不同的两套评价体系。

论文里提到了一个叫Coconut的方法,它让模型在一种连续的潜在空间里进行推理,完全不用自然语言表达出来。如果这类潜在推理技术越来越普及,那"可见的思考过程"这个概念本身,可能很快就会变得没那么重要了,因为真正的计算早就转移到了一个我们看不见的地方。

到那个时候,我们该怎么判断一个AI到底有没有在"想"这件事?

Q&A

Q1：Thinking Inertia论文里说的"思维惯性"具体指什么？

A：指AI模型即便被明确要求不思考、直接给答案，依然会在回答中暴露出显式推理过程，而且这种现象会随着问题答案空间从布尔判断到选择题再到开放式问答逐渐开放而越来越明显。

Q2：为什么关闭AI模型的思考模式后它还是会解释一大堆？

A：因为思考开关只是表层控制，模型真正要不要在回答里暴露推理内容，更多取决于问题本身的答案空间是否开放。开放式问题缺少候选项这样的脚手架，模型往往需要先推导才能给出答案，这个过程很难被压缩成一句话。

Q3：用更严格的指令强制AI不许解释，会不会有副作用？

A：会。论文发现在开放式问答任务中，严格约束指令虽然能把空思考率从接近0%提升到约40%，但同时会让平均准确率下降约15个百分点，说明压制思考过程可能牺牲答题质量。