华盛顿大学和艾伦人工智能研究所揭秘：AI智能体究竟知不知道该何时"放弃"？

这项由华盛顿大学与艾伦人工智能研究所联合开展的研究，于2026年6月以预印本形式发布，论文编号为arXiv:2606.28733。感兴趣的读者可以通过这个编号找到完整的研究报告。

**被寄予厚望的AI助手，是否拥有知难而退的智慧？**

人工智能助手越来越聪明，能帮你网购、写代码、查资料。但有一种情况却鲜有人关注：当AI面对一个根本无法完成的任务时，它是否懂得停下来说"抱歉，这件事我做不到"？还是会一意孤行、反复尝试、白费工夫？

这正是这篇研究想要揭示的核心问题。研究团队把AI该知道何时放弃这件事，命名为"智能体弃权"（Agentic Abstention）——一个听起来很学术，但本质上非常直觉化的概念。就像一个经验老道的侦探，不仅要会破案，还要懂得在线索断绝时果断收手，而不是在死胡同里一遍遍转圈。

**一、研究背景：AI的行动力越强，犯错的代价就越高**

现代AI助手早已不是只会回答问题的聊天机器人。它们可以像人一样，一步步与外部环境互动：搜索网页、点击按钮、在命令行里执行代码。这种能力让它们变得极为强大，但同时也带来了一个微妙的危险——当任务不可完成时，一个"停不下来"的AI会在徒劳无功中消耗大量时间和资源，更可能产生错误的输出来蒙混过关。

以往的研究主要聚焦在AI的"会不会"上：它能否完成任务？但这篇研究把目光投向了另一个维度——"该不该"继续。具体来说，当一项任务从一开始就无法完成，或者在与环境互动之后才发现无法完成，AI是否能够识别这种情况并及时喊停？

**二、什么叫"智能体弃权"？与普通AI拒答有何不同？**

普通的AI拒答，你可能比较熟悉：你问了一个问题，AI直接告诉你"我不知道"或"这超出了我的能力范围"。这是一次性的判断，就像裁判吹哨，比赛结束。

但"智能体弃权"要复杂得多。研究团队把它定义为一个连续的决策问题：AI在每一轮都可以做三件事之一——给出答案、继续探索、或者停下来弃权。而且，需要弃权的时机，有时要到AI真正与环境交互了之后才能看出来。

研究团队用了一个贴切的侦探模型来框架整件事。AI是侦探，任务是案件。一开始，侦探不知道案件有没有解。他需要先去现场查看（与环境互动），才能判断这个案子究竟能不能破。一个优秀的侦探，在发现尸体根本不存在、整个案件是误报之后，应该立刻停止调查，而不是继续挖地三尺寻找凶器。

研究团队用更精确的数学语言来描述这个过程：AI所处的世界是一个"部分可观测的马尔可夫决策过程"（POMDP）。听起来复杂，实际上就是说：AI只能看到环境的一部分信息，必须在不完整信息下做出一系列决策。它的可选行动分为三类——完成任务（ANSWER）、弃权（ABSTAIN）、以及继续与环境互动（ACT）。

**三、研究范围：两万八千个任务，覆盖三大场景**

为了系统地测试AI的弃权能力，研究团队构建了一个规模庞大的测试基准，包含超过28000个任务，横跨三种典型的AI应用场景。

第一个场景是网络购物，基于一个名为WebShop的模拟购物网站。这个网站里有约一百万件商品，AI需要根据用户指令搜索、浏览、然后购买合适的商品。研究团队选取了WebShop测试集里最前面的500个真实购物任务，然后又额外构建了500个"弃权版"任务，让整个测试集规模达到1000条，可解任务和不可解任务各占一半。

第二个场景是命令行操作，基于一个名为Terminal-Bench 2.0的测试平台。这个平台专门用来评估AI在真实的Linux命令行环境里完成高难度任务的能力，比如复现研究论文的代码、配置老旧系统等。研究团队在89个原始任务的基础上，额外构建了187个弃权变体任务，最终形成277条评测数据。

第三个场景是互动问答，基于一个叫AbstentionBench的大型问答基准测试，涵盖16个不同来源的数据集，共27073条样本。AI在这个场景里可以选择搜索维基百科来辅助判断，但搜索次数有上限。

**四、任务类型的精妙设计：让不可能的任务"看起来可能"**

这项研究最精心的地方，在于它把"不可解任务"分成了两大类，而这两类的难度天差地别。

第一类叫"基于请求的弃权"：任务本身的指令从一开始就有问题。就像一个顾客走进商店，直接要求"帮我买一双既是左脚又是右脚的鞋子"——矛盾显而易见，有经验的店员一听就知道该停下来询问，而不是跑遍整个仓库。在网购场景里，研究团队构建了三种子类型：要求依赖用户个人品味而无法客观判断的"主观偏好"任务（比如"帮我选个我会喜欢的口味"），指令缺少关键信息的"意图不明"任务（比如"买跟上次一样的那个"），以及指令本身相互矛盾的"虚假前提"任务（比如"买一条BPA-free但含PVC的环保罐子"）。

第二类叫"基于环境的弃权"：任务指令本身看起来完全正常，但AI只有在和环境真正互动之后，才会发现任务根本无法完成。这是更接近现实的困境，也是AI最难处理的情况。在网购场景里，研究团队把目标商品从商品库里悄悄删除，再重建搜索索引，让被删除的商品彻底从搜索结果里消失。AI拿到的购物指令完全正常，但无论怎么搜，都找不到那件商品。在命令行场景里，则是把完成任务必需的文件、依赖包或者权限给移除掉，让环境在表面上看起来正常，但实际上缺少关键前提。

这种设计的妙处在于：它真实还原了现实中AI会遭遇的两种完全不同的困境。一种是"一看说明书就知道做不了"，另一种是"干了一半才发现巧妇难为无米之炊"。

**五、测试了哪些AI系统？**

研究团队测试了13个大型语言模型驱动的智能体系统，以及2种智能体脚手架（可以理解为AI的"操作框架"，决定AI如何与环境互动）。被测试的模型包括GPT-5.4-mini、Grok 4.1 Fast、Llama-3.3-70B、GPT-OSS-120B、MiniMax-M2.5、Qwen-3系列（8B、14B、32B、235B）、Gemma-4-31B和GLM-5.1。两种智能体脚手架分别是Terminus 2和Codex CLI。

网购场景是主要的跨模型对比战场，8个模型在这里正面交锋。命令行场景则固定使用GPT-5.4-mini，专门对比两种脚手架的差异。问答场景测了5个模型。此外，研究团队还专门做了一系列"专项分析"：用Qwen-3的8B、14B、32B、235B四个规模测试"模型越大越会弃权吗"，用Qwen-3-235B的两种模式测试"深度思考能力是否帮助弃权"，用GPT-5.4-mini的三档推理强度在命令行场景做同样的测试。

**六、衡量标准：不仅看"会不会"，更看"及不及时"**

研究团队设计了一套精妙的评测体系，核心指标叫AbsRec@K——"弃权召回率@K步"。简单来说，这个指标衡量的是：在所有应该弃权的任务里，AI在第K步之前成功弃权的比例有多高。

关键是，这里有一个"最早合理弃权时机"的概念。对于基于请求的弃权任务，AI在第一步就应该能判断出来，所以最早合理时机是第1步；对于基于环境的弃权任务，AI需要先搜索一轮才能发现问题，所以最早合理时机是第2步。太早弃权（还没看到足够证据就放弃）不算成功，这个设计防止AI"随机胡猜"来刷高分。

AbsRec@1叫"及时弃权率"，衡量AI是否在最早的合理时机就做出了正确判断。AbsRec@10叫"总体弃权率"，衡量AI在整个10步预算内最终有没有弃权成功。两者的差距，揭示了AI"拖延弃权"的程度。

研究团队还借用了机器人导航领域的SPL（成功率加权路径长度）指标，改造成能衡量"弃权是否及时"的综合分数——弃权越早，得分越高；迟迟不弃权，即便最终弃权了，分数也会被大幅扣减。此外还有"过度弃权率"，衡量AI在本来可以完成的任务上，错误地放弃的比例。

**七、令人大开眼界的发现：AI弃权实在太难了**

研究结果出乎很多人的意料。总体而言，AI的弃权能力非常薄弱，而且最大的问题不是"不会弃权"，而是"太迟才弃权"。

在网购场景里，8个被测模型中有6个，在经历了10步互动之后，弃权率仍然低于50%。也就是说，超过一半应该弃权的任务，这些模型死活想完成，根本不肯认输。表现最好的是Llama-3.3-70B，10步内总体弃权率达到84%，其次是Qwen-3-235B和Grok-4-Fast，其余模型表现堪忧。但即便是Llama-3.3-70B，及时弃权率（第1步就弃权）只有26.7%，说明它虽然最终会弃权，但总要"多试几步"才肯放弃。

在命令行场景里，同样使用GPT-5.4-mini，Codex CLI的总体弃权率约为38%，而Terminus 2只有18%左右。这意味着，即便底层AI模型相同，不同的操作框架也会带来截然不同的弃权行为。Codex CLI不知道做了什么，让模型更容易在命令行环境里识别出"无解"信号。

问答场景的表现则呈现出明显的两极分化。Qwen-3-235B表现最强，第1步弃权率就达到59%，10步内达到71%。Llama-3.3-70B虽然初始弃权率只有29%，但随着搜索步骤增加能逐渐改善到49%。GPT-5.4-mini的表现几乎原地踏步，10步内仅达到34%，说明让它去搜索根本没什么帮助。

**八、任务类型决定难度：有些"不可能"比其他"不可能"更难**

研究团队把各类弃权任务拆开来单独分析，发现不同类型的难度差距极为显著。

在网购场景里，"虚假前提"类任务是最容易的，很多模型在前两步就能识别出矛盾并弃权。"主观偏好"和"意图不明"居中，不同模型差距很大。而"缺失目标"（基于环境的弃权）是最难的，因为任务指令本身完全合理，模型需要先搜索、发现商品不存在、再做出弃权判断。很多模型在这类任务上几乎全军覆没。

在命令行场景里，"意图不明"类任务对两种脚手架都极为困难，两者的弃权率都惨不忍睹。在问答场景里，"答案未知"和"主观"类问题相对容易弃权，"虚假前提"则持续困扰所有模型，而"意图不明"的表现高度依赖具体模型。

这背后有一个共同规律：越需要从环境互动中获取证据的任务，弃权越困难；越依赖"识别意图缺失"而非"识别矛盾"的任务，弃权越容易出错。

**九、更强的推理能力 = 更好的弃权？答案没那么简单**

研究团队专门测试了"深度思考"（reasoning）模式对弃权的影响，结果非常耐人寻味。

在网购场景里，Qwen-3-235B的"思考"版本比"普通指令"版本，及时弃权率（第1步）更高——这说明深度推理确实帮助模型在第一步就看清任务的不可解性。但奇怪的是，总体弃权率（10步内）反而更低。这意味着什么？推理模式帮助模型在该弃权时更快地弃权，但一旦错过了那个最佳时机，推理模式反而让模型"更加执着"，更不容易在后续步骤里服软认输。

在命令行场景里，GPT-5.4-mini低、中、高三档推理强度的测试表明，中等推理强度是最好的折中：及时弃权率高于低强度，过度弃权率（把可解任务误判为不可解）也控制得比高强度好。高推理强度并不带来进一步的弃权改善，反而可能引入更多不必要的犹豫。

**十、模型越大越聪明，但不代表弃权越及时**

研究团队用Qwen-3的四个规模（8B、14B、32B、235B）专门测试了"规模效应"，发现了一个值得警惕的现象：模型越大，总体弃权率确实越高——大模型在10步内弃权成功的比例更高。但及时弃权率（第1步就弃权）几乎没有随规模增大而提升。

这说明，规模的增大主要帮助模型"最终能识别出无解"，但并不帮助模型"更快识别出无解"。大模型会在转了更多圈之后，终于意识到"哦，这任务根本无法完成"，而不是一开始就做出这个判断。从效率角度看，这是一种相当昂贵的"后知后觉"。

**十一、过度弃权：另一面的危险**

研究团队还特别关注了"过度弃权"——AI在本来可以完成的任务上，错误地选择放弃。这同样是个严重问题，因为一个动不动就喊"做不了"的AI也没什么实用价值。

在网购场景里，Qwen-3-235B的普通指令版本在10步后过度弃权率高达34%，思考版本也有24%。也就是说，有将近四分之一到三分之一的可解购物任务，这个模型莫名其妙地放弃了。命令行场景的情况好得多，GPT-5.4-mini低推理强度时过度弃权率在8%左右稳定，中高推理强度时甚至降到0-2%。这表明网购场景里的过度弃权问题更严峻，可能是因为网购搜索结果的不确定性更容易让模型产生"找不到就是没有"的错误判断。

**十二、CONVOLVE：一种无需重新训练就能改善弃权的新方法**

既然现有AI系统弃权能力这么弱，有没有办法改善？研究团队提出了一个叫CONVOLVE（Context Evolution，上下文演化）的方法。这个方法的核心思路非常优雅：让AI从自己过去的失败经历中总结教训，然后把这些教训整理成一份"停手手册"，在未来的任务里随时参考。

具体的工作流程像这样运转：AI先和环境互动，完成一次任务（或者失败）；然后一个"反思模型"来回顾整个过程，找出关键问题，比如"为什么在已经知道商品不存在的情况下还继续搜索？"；接着一个"整理模型"把这些反思转化为简洁的行动规则，添加进一份持续更新的手册里。在未来的任务里，这份手册会作为额外背景信息提供给AI，帮助它做出更好的弃权判断。

整个过程不需要修改AI的任何参数，不需要重新训练，也不需要大量数据。研究团队仅用20条训练轨迹，就在WebShop上取得了显著效果。

**十三、CONVOLVE的测试结果：效果惊人，知识可以跨模型迁移**

CONVOLVE在WebShop上的效果数据极为亮眼。以Llama-3.3-70B为例：原始基准模型的及时弃权率只有26.7%，总体弃权率83.2%，综合SPL分数55.3；加入CONVOLVE（用70B自己的学习手册）之后，及时弃权率跃升至57.4%，总体弃权率达到100%，SPL分数78.9。仅凭20条训练样本，就把及时弃权率提升了超过30个百分点，总体弃权率提升到满分，这个结果相当令人瞩目。

更有趣的是跨模型迁移的实验。研究团队让Llama-3.3-8B（小模型）去和环境互动、积累经验、生成学习手册，然后把这份手册给Llama-3.3-70B（大模型）用。结果，大模型的及时弃权率从26.7%提升到了55.3%，几乎和大模型自己学习的手册（57.4%）一样好。这说明，有用的弃权经验并不依赖于学习它的模型有多强大——小模型总结的教训，同样对大模型有效。

与此同时，研究团队还对比了一个基准：直接给AI看几个示例来学习（In-Context Learning）。对于Llama-3.3-70B，ICL能把及时弃权率提升到55.1%，这与CONVOLVE的57.4%相近，说明示例学习也有效果。但对于Llama-3.3-8B，ICL效果远不如CONVOLVE稳定，体现出CONVOLVE在提炼和结构化知识方面的优势。

**十四、CONVOLVE在其他场景的表现**

研究团队还在AbstentionBench（问答场景）和TerminalBench（命令行场景）验证了CONVOLVE的效果。在这两个场景里，CONVOLVE同样带来了一致的改善。

在TerminalBench上，CONVOLVE的效果尤为突出：Llama-3.3-70B的及时弃权率从37.6%提升到68.9%，总体弃权率从66.2%提升到79.1%，SPL从32.5提升到53.4。跨模型迁移依然有效，8B模型学到的知识能帮助70B模型达到52.8%的及时弃权率，比基准提升超过15个百分点。

在AbstentionBench上，改善幅度同样明显但略小于其他场景：Llama-3.3-70B的及时弃权率从25.0%提升到39.7%，总体弃权率从41.6%提升到64.2%。这部分差异可能来自问答场景本身的复杂性——AbstentionBench包含了各种各样的问题类型，统一的停手规则更难覆盖所有情况。

**归根结底，这项研究告诉我们什么？**

说到底，这项研究揭示了一个现代AI系统中被严重忽视的能力缺口。我们花了大量精力让AI更聪明、更能干，却没有认真想过：什么时候该让它停下来？

研究团队发现，几乎所有现有的顶级AI系统，在面对不可解任务时都会犯同样的毛病——拖延。它们不是完全不知道该弃权，而是会在兜了很多圈之后才迟迟认输。这种拖延不是小事，它意味着浪费的时间、消耗的算力、以及在某些敏感场景下可能造成的实际损害（比如AI在命令行环境里误操作）。

研究还揭示了一个让人意外的规律：更大的模型不一定更及时，更强的推理能力不一定带来更好的弃权，而不同的操作框架（脚手架）对弃权的影响甚至超过了基础模型本身的差异。这提醒我们，AI系统的"止损能力"是一个系统工程问题，不能仅靠堆砌更强的模型来解决。

CONVOLVE给出了一个颇具希望的方向：让AI从经验中学习"何时放弃"，而不需要大规模重新训练。仅凭20条经验，就能把及时弃权率提升一倍，而且这种知识能够跨越模型大小的鸿沟自由迁移。

对于普通用户来说，这项研究有一个非常实际的启示：当你的AI助手在一个问题上反复转圈，越来越答非所问时，这可能不是它变笨了，而是它缺乏"知道该何时停手"的能力。未来更可靠的AI，应该像一个好的侦探一样：不仅能破案，还能在线索断绝时果断收手，而不是执迷不悟地在死胡同里挖到底。

有兴趣深入研究这个话题的读者，可以通过论文编号arXiv:2606.28733找到完整的研究报告，里面还包含了详细的数据集构建方法、完整的实验提示词，以及CONVOLVE的示例学习手册内容。

---

Q&A

Q1：什么是智能体弃权（Agentic Abstention），和普通AI拒答有什么区别？

A：智能体弃权是指具有工具使用能力的AI在多轮交互过程中，识别出任务不可完成并及时停止行动的能力。与普通AI拒答不同，普通AI拒答是一次性的单轮判断，而智能体弃权是一个连续的决策问题——AI在每一步都可以选择继续探索或停手，而且有时需要真正与环境互动之后才能发现任务根本无法完成。

Q2：CONVOLVE方法是如何工作的，需要重新训练AI模型吗？

A：CONVOLVE不需要重新训练模型。它的工作方式是让AI先完成一批任务并记录完整的交互过程，然后由一个反思模型分析哪些行为导致了不必要的拖延，再由整理模型把这些反思提炼成简洁的停手规则，形成一份持续更新的"手册"。在后续任务里，这份手册会作为额外背景信息提供给AI，帮助它更早识别出任务无法完成的信号，整个过程仅需约20条训练样本。

Q3：模型规模越大是否意味着弃权能力越强？

A：规模更大的模型确实在10步之内最终弃权成功的比例更高，但"及时弃权"的能力——也就是在第一步就正确判断任务不可解——几乎没有随规模增大而明显提升。换句话说，大模型只是"最终会认输"，但并不"更快认输"，它们仍然倾向于多试几步才肯放弃，这在效率上是一种代价较高的迟钝反应。