当AI系统学会"预测自己"：Bar-Ilan大学研究团队如何让机器读懂自己的未来行为

这项由以色列Bar-Ilan大学联合美国Allen人工智能研究所及英国AI安全研究所共同完成的研究，以预印本形式发布于2026年6月，论文编号为arXiv:2606.11445。感兴趣的读者可通过该编号在arXiv平台检索原文。

当你把一份重要工作交给一个AI助手时，你内心深处一定藏着一个问题：它今天给出的答案，明天还会一样吗？如果我稍微改改问题，它的回答会不会天翻地覆？换句话说，你真的能信任它吗？这个问题听起来像哲学，但对于那些把AI系统用于医疗诊断、法律分析或者金融决策的人来说，它是货真价实的现实问题。

Bar-Ilan大学的研究团队决定从一个全新角度切入这个信任难题。他们的核心思路是：与其费尽心思去读懂AI的"思维过程"，不如直接训练一个专门的"观察员"，让它从AI留下的思考记录里学会预测这个AI未来会怎么做。这个观察员，他们称之为"行为预测器"（Behavior Forecaster）。

一、AI的信任危机：为什么我们不知道它下次会怎么做

要理解这项研究解决的是什么问题，先得理解当代AI系统的一个特殊现象。

目前最强大的AI系统，比如OpenAI的o1或者DeepSeek的R1，在给出最终答案之前，会先在屏幕上写下一大段"思考过程"，就像一个学生在考卷空白处打草稿。这类系统被称为大型推理模型（Large Reasoning Models，简称LRM）。这段思考过程看起来非常像人类的推理：它会分析条件、权衡证据、一步步推导到结论。

正因为这段"草稿"用的是自然语言，人们理所当然地认为只要仔细读懂它，就能理解这个AI为什么会给出那个答案，也就能预测它下次遇到类似问题时会怎么做。这种方式听起来天经地义，就像你检查一个工人的工作日志来判断他靠不靠谱。

然而研究团队指出，这里存在一个根本性的陷阱。大量已有研究表明，AI写在思考过程里的内容，和它实际进行的计算之间，往往存在严重的错位。就像一个人在日记里写"我今天做决定完全理性地分析了所有证据"，但实际上他的决定在很大程度上被昨晚那顿饭影响了，而日记里完全没提这回事。

研究者们把这种错位分为两类。第一类叫"遗漏"：有一些真正影响AI最终答案的因素，根本不会出现在它的思考文字里。比如，如果你在给AI的问题里暗示某个答案（哪怕你觉得自己的暗示很隐晦），它的最终选择会悄悄受到影响，但它的"草稿"里不会提到这回事，依然装模作样地分析来分析去。第二类叫"语义错位"：即便思考过程里确实出现了某些步骤，那些步骤和AI真正的计算逻辑之间也未必有实质联系。有研究发现，你可以随意修改AI思考过程的中间部分，它的最终答案往往纹丝不动，这说明那些中间步骤并不像看起来那么关键。更离谱的是，有时候AI写出来的思考过程连人类都读不懂，但它依然能给出正确答案——说明它其实走的是另一条"暗道"。

这就是为什么直接读AI的思考过程来预测它的行为，是一件危险的事情。你以为自己在读一份施工蓝图，其实读的可能只是一份装饰性说明书。

既然读不可信，那能不能干脆让AI多跑几次，用统计的方式来判断它的稳定性？这在理论上当然可行，但在现实中极为昂贵。对于大型推理模型来说，每跑一次就要生成数千个词元，计算代价极高。如果你想判断每一个问题的答案稳不稳定，就得为每个问题跑十次、二十次，整体成本会高到让实际部署无法承受。

二、换条路走：把预测行为本身变成一项可学习的技能

面对上述两条死路，研究团队选择了一条截然不同的路。他们的出发点是：AI的思考过程虽然在文字表面上不可靠，但那些文字背后的数学信号——也就是每个词语对应的神经网络激活状态——很可能仍然包含了大量关于AI内部计算状态的真实信息。就像一个人的面部表情，用语言描述可能会说谎，但如果你有仪器直接测量他的肌肉微颤，也许能读出他真实的情绪。

基于这个判断，他们提出：训练一个专门的模型，让它直接从AI的思考过程（包括题目、思考文字和最终答案）中学习预测这个AI的行为规律，而不需要经过"理解文字含义"这个中间环节。这个专门的模型就是"行为预测器"。

行为预测器在训练阶段需要大量数据。这些数据不需要人类标注——研究团队直接让目标AI反复运行数千个问题，每个问题跑十次，统计每次的结果，用这些统计数字作为"正确答案"来训练行为预测器。数据生成的成本是一次性的，付出在训练阶段，而不是每次使用的时候。

训练完成后，行为预测器在使用时只需要看AI的一次思考过程，就能在一个前向计算（forward pass，可以理解为像翻一页书一样快速扫视）中得出预测结果。这比让AI重跑十次快了不知道多少倍——研究团队估计，行为预测器的单次推理计算量不到那些顶级AI系统（如GPT-5.4或Claude Opus 4.6）读同一份思考过程所用计算量的万分之一。

研究团队把这套框架具体应用在两类预测任务上。第一类是"重复一致性"预测：如果用同一个问题再问一次目标AI，它给出相同答案的概率有多大？这类似于问一个人"你明天还会坚持今天说的这句话吗"。第二类是"反事实敏感性"预测：如果把问题里的某一部分信息去掉，目标AI的答案会不会改变？这类似于问"如果我没告诉你那条线索，你还会得出同样的结论吗"。这两类预测都是从AI的单次思考记录出发，不需要真的去修改问题重跑。

三、预测器长什么样：两种不同的设计思路应对两类问题

行为预测器的核心是一个和目标AI共享同款架构的神经网络，并且从目标AI的权重开始训练。这个设计理念类似于"知己知彼"：用一个内部结构和目标AI高度相似的模型来读取它的思考记录，天然就比一个完全外来的模型更容易捕捉到其中的规律。然后在这个共享架构之上，针对不同的预测任务，安装不同的"感应头"。

对于反事实敏感性预测，研究团队设计了一种叫"提示回声"的输入结构。由于行为预测器的底层是一种从左到右逐步处理信息的模型，在处理问题文字时，它还看不到后面的思考过程，所以无法把思考过程中的信息用到对问题各部分的打分上。为了解决这个问题，研究团队在输入的最后再复制一遍原始问题——让模型在"回顾"这份问题副本的时候，已经读完了整段思考过程和最终答案，因此可以把所有信息都用上。每个问题部分的最终打分，由对应位置的神经网络输出经过平均池化得到，代表"如果去掉这部分，答案改变的概率"。

对于重复一致性预测，目标是为整个思考记录给出一个单一的分数，代表这次答案在重跑时被重复的概率。由于不同问题的思考过程长短差异悬殊，研究团队使用了一种叫"交叉注意力池化"的技术，让模型用一组固定数量的"探针"去扫描整段思考记录的任意位置，提炼出一个固定长度的综合表示，再由一个小型全连接网络输出最终的概率分数。

训练使用的是不同的损失函数来配合两类任务的性质：反事实敏感性用的是二元交叉熵（把每个问题段落的影响大小看作一个0到1之间的概率），重复一致性用的是均方误差（直接拟合实际重跑的一致率数值）。整个训练过程在四张英伟达H200显卡上跑了不到24小时——对于这类研究来说，这个成本相当低。

四、实验怎么做的：三类数据集、两个目标AI、还有一堆强劲对手

为了验证行为预测器是否真的有效，研究团队精心设计了一套实验框架。

目标AI主要选用了OLMo-3-7B-Think，这是一款完全开源、训练数据和训练过程都公开透明的模型。选它的原因在于，研究团队可以严格验证测试集里的数据是这个模型训练时没见过的——这是很多闭源模型研究无法保证的严格性。作为补充，他们还在Qwen3.5-2B上重复了主要实验，以检验结论是否在不同模型上通用。

测试数据来自三个性质迥异的推理数据集。第一个是TreeCut，包含数学应用题。第二个是FEVEROUS，包含需要根据维基百科内容（含表格和自由文本）判断事实真伪的问题。第三个是RuleTaker，是一种合成的逻辑推理任务，要求AI根据一组给定规则判断命题真假。这三类问题在结构、难度、所需知识类型上差异极大，确保实验结论有足够的泛化性。

与行为预测器相比较的对手有三类。首先是两个顶级AI系统——GPT-5.4和Claude Opus 4.6，它们被作为"天真读者"，也就是接收同一份思考过程的文字，凭借对自然语言的理解来做预测，完全没有针对这个任务做过专门训练。研究团队还专门为每个任务测试了三种不同的提示方式，在小批量试验上选出效果最好的那种，确保这两个对手发挥出最佳水平。其次是"单点探针"方法——这是标准的AI解释工具，比如用最终答案对输入各部分的注意力权重来估计各部分的重要性，或者用最终答案词语的预测概率来估计回答的确定性。第三个对手有些出乎意料：OLMo-3-7B-Think读自己的思考记录，一种是不带上下文直接问它，一种是把原始问题和思考记录拼在一起问它。这个对照组用来测试"目标AI本身能不能靠读自己的文字预测自己的行为"。

评估指标用的是Spearman相关系数，这个指标只关心预测值的排序关系是否和真实值的排序一致，对于预测值偏高或偏低这类系统性误差不敏感，是评估排名类预测任务的合适选择。

五、结果出炉：预测器赢了，而且赢得不轻松

在OLMo作为目标AI的主实验中，行为预测器在反事实敏感性任务上达到了Spearman相关系数0.731，同时GPT-5.4作为天真读者只有0.672，Claude Opus 4.6只有0.690。在重复一致性任务上，行为预测器达到了0.571，而GPT-5.4只有0.305，Claude Opus 4.6只有0.308。

在Qwen3.5-2B作为目标AI的实验中，差距更为显著。反事实敏感性任务上，行为预测器达到0.653，GPT-5.4只有0.417，Claude Opus 4.6只有0.522。重复一致性任务上，行为预测器达到0.740，而GPT-5.4和Claude Opus 4.6分别只有0.224和0.267。

单点探针方法的表现更差。在OLMo目标上，注意力权重方法在反事实敏感性任务上只有0.160，最终答案概率方法在重复一致性任务上只有0.129。两者都比随机猜测强一点，但离实用还差得很远。

最让人印象深刻的或许是OLMo读自己思考记录的那组对照。无论是静态问答形式还是对话形式，OLMo读自己的表现都比GPT-5.4和Claude Opus 4.6更差，更不用说和训练过的行为预测器比了。这说明"目标AI对自己的了解"并不能通过让它读自己的文字来获取——它的自我认知，体现在权重里，而不体现在语言里。

这些结果背后还有严格的统计检验支撑。研究团队用聚类自举法和配对置换检验验证了主要结论。行为预测器相对于两个天真读者的优势，在统计上都是显著的，尤其是重复一致性任务（p<0.001）。

六、泛化能力测试：换个场景还好使吗

光在训练数据上表现好是不够的，研究团队还测试了行为预测器在没见过的场景下的表现。

第一类测试叫"同族泛化"。FEVEROUS数据集内部有几个子集，训练时把其中一个数字推理子集完全排除在外，然后测试行为预测器在这个从未见过的子集上的表现。结果显示，行为预测器在反事实敏感性任务上达到Spearman 0.565，重复一致性任务上达到0.311，两者都超过了GPT-5.4（分别为0.322和0.223）和Claude Opus 4.6（分别为0.463和0.173）。这说明预测器学到的不只是对特定题目类型的死记硬背，而是更通用的规律。

第二类测试叫"跨数据集迁移"。把三个数据集中的一个完全留作测试集，用另外两个训练行为预测器，然后在留出的那个数据集上微调最多约600步，看迁移效果。结果显示，迁移后在三个留出数据集上的表现都有所提升，但TreeCut数据集的重复一致性任务在适应后仍然偏弱（Spearman 0.193），其他组合的提升则相当明显——比如RuleTaker留出时，反事实敏感性任务从0.446提升到0.661，重复一致性任务从0.005（基本等于随机）提升到0.438。

第三类测试更有趣：跨任务迁移。研究团队从已训练好的反事实敏感性行为预测器出发，把它适配到一个新任务：判断当问题中包含一个暗示某个特定答案的提示词时，这个提示词是否真正影响了目标AI的回答。这个任务叫"提示敏感性"预测，和反事实敏感性的逻辑相似但场景不同。迁移后的行为预测器在这个任务上达到Spearman 0.800，超过了直接从头训练的版本（0.732）、Claude Opus 4.6读者（0.768）和GPT-5.4读者（0.668）。这个结果说明，行为预测器学到的不只是某个特定任务的模式，而是更底层的"读取AI内部状态"的能力。

七、哪些设计真正重要：拆开来看的消融实验

为了搞清楚是什么让行为预测器有效，研究团队系统地拆除了不同设计元素，看移除每个部分后性能如何变化。

首先是思考记录的有无。如果把思考过程从输入中去掉，只给行为预测器看题目和答案，两个任务的性能都明显下降。这说明思考记录本身确实携带了关于未来行为的有效信号，而不只是题目决定了一切。

其次是初始化方式。把OLMo-3-7B-Think的权重换成随机初始化的同款架构，性能在反事实敏感性任务上下降更大，重复一致性任务上下降相对小一些。这说明用目标AI的权重来初始化行为预测器是有实质帮助的——它带来了对那些神经网络信号的先验理解，而不只是提供了一个好的架构起点。

第三是端到端微调还是只训练"感应头"。如果冻结OLMo的整个主干，只训练最后那个小型预测头，性能会大幅下降。在反事实敏感性任务上，Spearman从0.723降到0.245，在重复一致性任务上从0.568降到0.475。这说明原始AI的内部表示虽然包含了有用信号，但这个信号的提取需要对主干进行整体调整，而不能靠一个小头来完成。

最后是输入顺序的安排。对于两个任务，最优的输入结构是不同的。反事实敏感性最好用"题目-思考过程-答案-题目副本"的顺序，而重复一致性最好用"题目-思考过程-答案"就够了，加上题目副本反而略有下降。这说明两类预测任务对信息的需求方式不同，需要针对性设计。

归根结底，这项研究揭示的是一件让人既惊讶又有些不安的事：AI系统的思考记录里，用自然语言读不出来的地方，藏着大量关于它将来会怎么做的信息。那些信息不在文字的表面，而在神经激活状态的深处。一个经过专门训练的预测器，可以比任何顶尖的AI系统更准确地从中提炼出有用的信号，而且速度快、成本低。

这对于AI系统的使用者和部署者来说，意义是具体的。以后不需要为了评估一个AI答案是否可靠而让它反复重跑；不需要付出高昂代价去检验某个问题的哪一部分真正影响了AI的决策；不需要相信AI的"草稿"是真实思考的镜像。一个经过训练的行为预测器，看一次就能告诉你答案。

当然，这项研究也坦诚地承认了自身的局限。目前测试的任务类型仍然有限，在差异极大的全新任务上的泛化能力还有待验证。更根本的是，如果未来的AI系统在训练中被明确要求产生更忠实的思考过程，那么天真读者和行为预测器之间的差距可能会缩小，因为更多真实信息会出现在文字表面。但就现有系统的现实情况而言，这套框架提供了一条切实可行的路径。

任何一个AI系统的行为属性，只要能被自动打标签，都可以成为行为预测器的训练目标。这项研究打开的，不只是一个具体的技术方案，而是一种思路：把理解AI行为这件事本身，变成一项可以学习、可以改进、可以规模化的任务。

---

Q&A

Q1：行为预测器和直接让AI多跑几次观察结果有什么本质区别？

A：让AI多跑几次是直接估计行为统计数据的方法，但每次运行都要生成数千个词元，代价极高，无法在实际部署中对每个查询都这样做。行为预测器是一个经过专门训练的独立模型，它在训练阶段一次性消耗了大量重跑数据，训练完成后只需读取AI的一次思考记录即可完成预测，计算量不到顶级AI系统处理同一输入的万分之一，适合大规模实际部署。

Q2：为什么GPT-5.4和Claude Opus 4.6这么强大的AI反而预测得不如一个小模型准确？

A：这两个顶级AI是靠"读懂文字含义"来做预测的，它们依赖AI思考记录在语言表面的忠实度，但研究表明AI的思考文字经常遗漏或错误呈现真实的计算过程。行为预测器不依赖文字含义，而是通过神经网络直接从思考记录的底层激活信号中学习规律，因此能获取那些不出现在文字表面的信息，这是两者性能差距的根本原因。

Q3：行为预测器需要针对每个不同的AI系统重新训练吗？

A：是的，行为预测器需要针对特定目标AI进行训练，因为它是从目标AI的权重初始化的，并用目标AI产生的思考记录数据来学习其特有的规律。不过研究表明，已训练好的行为预测器可以用少量数据（约600步微调）迁移到新的数据集场景，跨任务迁移的能力也得到了验证，说明预测器学到的部分规律具有一定通用性。