微信扫一扫,关注公众号

  • 科技行者

  • 算力行者

见证连接与计算的「力量」

首页 ClawLoop:让智能体自己给自己出题,一个不需要老师的自我进化闭环

ClawLoop:让智能体自己给自己出题,一个不需要老师的自我进化闭环

2026-11-13 09:56
分享至:
----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.-
2026-11-13 09:56 • 科技行者

你大概见过这样的场景:一个刚入职的实习生,第一周被安排做报表,第二周还是做报表,第三周依旧做报表。三个月后他确实做得又快又准,但你让他处理一份跨系统的对账任务,他立刻卡住。问题不在于他笨,而在于带他的人只会出那一种题。

今天要讲的这篇论文,讲的就是怎么让智能体摆脱这种困境。它叫 ClawLoop,来自美团和北京大学的一个联合团队。它做的事情听起来有点反常识:让 AI 智能体自己出题考自己,做完之后自己批改,批改完再出更难的题。整个过程里没有一个更强的老师在旁边指导。

先说说这件事为什么难。

过去几年,大模型的训练范式基本是这样一个流程:找一个比目标模型更强的外部模型,让它生成任务、收集解题轨迹,然后拿这些数据去训练目标模型。这个流程有个天然的天花板,就是那个外部模型本身的能力上限。你做出来的学生,最好也就跟老师差不多。

更麻烦的是,这个流程通常只跑一遍。任务合成一次,模型训练一次,评测结果交给人类研究员看一眼,然后就没有然后了。研究员看完报告,写篇论文,这个循环就结束了。中间没有任何机制让评测结果回流到下一轮的任务生成里。

但现实里的真实工作场景早就变了。现在的智能体不再只是调用几个预定义的工具,它们被放进带 shell、文件系统、包管理器的沙箱环境里,可以直接操作真实文件、执行 shell 命令、跑脚本。这种环境叫 harness,可以理解为给智能体配的一整套工作台。

*harness*:沙箱执行环境,通常是一个 Docker 容器,里面提供 shell、文件系统、包管理器和网络访问,还带有工作区配置和轨迹记录的接口。

这种能力的代价是任务空间的爆炸。你没法用几个预定义工具的 schema 去覆盖一个能让智能体随便写脚本的环境。真实任务涉及文件操作的开放式组合、shell 命令、技能调用、多步推理,复杂度远超传统工具调用框架能表达的范围。

ClawLoop 团队提出的核心观察是:harness 本身已经提供了闭环所需要的全部基础设施。智能体能创建任意工作区,能执行轨迹,能通过代码检查和评分规则验证结果。缺的不是基础设施,而是一个机制,让智能体识别自己的弱点、生成针对性的练习、迭代改进。

*ClawLoop*:一个闭环的、无教师模型的迭代训练框架,把任务合成、模型训练和自我诊断统一成一个循环。

这个机制分三个阶段:任务合成与筛选、训练、诊断与反馈。三个阶段都在同一个 harness 里跑,形成完整的正反馈。

一个任务到底是什么

在讲怎么出题之前,得先说清楚这个团队眼中的"任务"长什么样。他们给任务下了一个很严格的定义,是一个五元组:自然语言指令、初始工作区状态、动作空间、状态转移函数、验证器。

前三个好理解。指令就是给智能体的提示词,工作区状态是初始的文件、环境变量、已装工具,动作空间是它能用的 shell 命令和文件编辑。

有意思的是后两个。状态转移函数由 harness 沙箱确定性地实现,验证器则是一个从最终工作区状态到零一之间的映射,判断任务是否完成。

这里有个细节特别值得说。他们强调这个任务定义和传统的工具调用任务不一样,因为 harness 引入了额外的复杂度:工作区状态里包含文件系统和已装技能,动作空间里包含 shell 脚本和编程语言。这就像让一个实习生不只是填表格,而是给他一台电脑和公司内网权限,让他自己想办法。

*验证器*:一个函数,输入最终的工作区状态,输出零或一,判断智能体是否完成了任务。

出题的两条腿走路

ClawLoop 的任务合成有两条互补的路线,这是整个框架的核心引擎。

第一条叫能力驱动的合成,从能力出发。团队维护一个能力目录,每条记录把一个工作流模式绑定到一个目标能力上。比如对账、跨源审计、多文档合并、领域计算。这些能力又分两类:一类产出结构化文档,另一类产出工作区的最终状态。

关键在于,同一个能力会被实例化到各种各样的领域里,包括那些很冷门的领域。论文里举的例子有养蜂场蜂箱清单、步道维护记录、业余无线电联络日志。

这种做法的用意是让智能体别偷懒。如果你只在财务领域训练对账能力,模型可能学会的是"财务表格长什么样"这些表面特征。换到养蜂场,它就懵了。但如果你让同一个对账能力出现在五十个不同领域里,模型就被迫去抓底层的流程逻辑,而不是表面的领域线索。

第二条路线叫领域驱动的合成,方向正好反过来。它从一个具体的专业领域出发,比如数据库管理或负载规划,这个领域自带一套领域专用工具,然后智能体把领域分解成技能,再从技能里诱导出具体任务。

这里用到一个叫可执行域的概念。

*可执行域*:一组带有暴露给智能体的 schema 的可执行工具,加上一个能完整描述该领域环境并支撑工具执行的数据库。

流程是这样的:团队用抽象语法树检查和 LLM 分析,抽出一张三方图,连接工具、工具消费和产出的原子参数与返回字段、以及工具读写的数据库表。基于这张图,工具被聚类成技能。聚类结果作为先验交给智能体,智能体可以推翻,但必须给出理由。

每个被接受的技能集群会被落地成一个可执行的命令行脚本,配上数据库访问逻辑、一份技能文档、以及从生成的代码而非文档里抽取的能力规格。

然后从这些技能构造任务,分两个阶段。第一阶段采样一个抽象任务图,节点代表知识状态,比如"订单详情现在已知",边代表让工作区从一个知识状态迁移到另一个的智能体动作。这个图里既没有业务内容也没有工具名,结构先于语义被确定。第二阶段把图落到具体领域上,用恰好够用的背景和参考数据填充初始工作区。

这里有个必须讲的细节:信息屏障。生成指令时,系统会把指令和金标准轨迹隔开,防止参考答案泄漏。指令只指定初始参数,提到背景记录但不复制其内容,要求智能体自己去检索。它定义目标状态,但隐去过程、执行顺序和分支条件。

生活里这个很像什么?像是老师给学生出题时,只告诉他"你要算出这家公司去年哪个季度出了问题",但故意把账本放在图书馆里,把计算规则写在另一本书里,而且不告诉他该先看哪本。学生必须自己规划路径。

*抽象任务图*:一张只描述知识状态和动作转移、不含业务内容和工具名的图,用来在语义之前先确定任务的结构复杂度。

让答案长在计算上

这两条路线里,能力驱动那条有一个设计决策特别硬核。团队明确规定:合成用的 LLM 永远不直接写任务数据。

它写的是一个可运行的生成器,一个 build 函数,输入随机种子,输出初始工作区、答案和一份答案契约。这个生成器在沙箱里跑,跑出来才有答案。

答案不是模型"断言"出来的,是代码"算"出来的。

这个区别为什么重要?因为语言模型会犯错。如果让模型直接编一个答案,你没法确定它编得对不对,训练时就在拿一个可能错误的目标去教模型。而生成器跑出来的答案是计算得到的,是确定的。

*答案契约*:一份声明式文档,明确列出那些无法从环境观察中恢复出来的隐含决策,比如过滤规则、取整约定、平局打破规则、连接键,同时规定交付物的格式和数值容差,但不含任何答案值。

契约这个东西解决的是一个更隐蔽的问题。光有答案键还不够,因为一道题可能有多个都说得通的解法,取决于你假设了哪条规则。比如遇到数值恰好等于阈值时归入哪一档,是先取整再算中位数还是先算再取整,这些规则环境本身不会告诉你。

生活化类比来了。这就像你让朋友帮你去超市买东西,光告诉他要买"三斤苹果"不够。如果不说清楚是买脆的还是面的,是称重还是论个,是红富士还是黄元帅,他大概率会买回来你觉得不对的东西。但你又不能怪他,因为你确实没说。如果不加这个契约,会发生什么?训练会惩罚一个其实完全合理的答案,模型会学到一条它无从知晓的隐含规则。

数据会告诉你这个代价有多大。论文的案例研究里,就因为一套明确的档位分类技能规定了"中位数恰好落在阈值上归入更高档""档位基于未取整中位数计算,只在输出时取整""没有有效订单的类别完全从汇总中省略",一道任务才从"有多个合理答案"变成了"有唯一正确解"。

把难度拧上去

种子任务有了,但论文坦承一件事:这些任务推理深度往往不够,智能体训完之后还是搞不定真实任务的复杂度。

所以有两个增加难度的手段。

第一个叫多跳抽取。它构造的工作区有三类来源:一个索引文件,列出实体标识符和对应文件名,但一个具体的值都没有;一组单实体详情文件,任何一份都不足以算出最终答案;还有至少一个横切的参考来源,比如一张费率表或阈值查找表。

解题必须读索引、取实体、跨三类来源做连接。工具调用次数和推理步数自然就上去了。注意,这种结构是被构造强制出来的,不是提示词里描述一句就完事。

*多跳抽取*:通过在索引、详情文件、横切参考表三类来源之间强制做信息连接,构造出天然需要多步检索的任务结构。

第二个叫脏数据注入。它往工作区里注入受控噪声:干扰项、缺失字段、schema 不一致、单位不匹配。约束条件是注入之后金标准解逻辑依然在扰动数据上良定义,保证任务尽管有摩擦仍然可解。

另外,交付格式在结构化 JSON、CSV、多文件输出和自由文本报告之间轮转。最后这种格式配一份机器可检查的边车文件承载评分标准,这样模型既学会了自由文本这种输出模态,每种格式又保持确定性可验证。

类比一下。这就像驾校考试。如果只在空无一人的大直道上考倒车入库,学员拿到驾照上路遇到雨天的窄巷子就傻眼。但如果你一上来就把他扔进早高峰的老城区,他可能紧张到连刹车油门都分不清。脏数据注入的比例就是在这个区间里找平衡点,加得不够,模型学不到鲁棒性;加得太多,金标准解本身就不成立了,训练信号全废。

*脏数据注入*:向工作区引入干扰项、缺失字段、格式冲突和单位错配等受控噪声,在保持任务可解的前提下提高难度。

出完题还得筛题

任务合成出来后要经过两道验证,这一步比想象中重要。

第一道是无智能体验证,包括两项。一个是 Oracle 检查,合成 LLM 写的参考解必须能跑通自己写的验证器。另一个是泄漏审计,确定性地检查指令没有泄漏答案键,验证器也不接受平凡解。

平凡解是什么意思?就是那些在当前状态下测试就已经通过的任务。这种任务会白白给出奖励却不要求智能体做任何工作,属于奖励分配里的假阳性,直接丢掉。

第二道是有智能体验证。当前的智能体被部署到沙箱容器里,对每道任务跑 N 次,只保留通过次数落在某个区间的任务。

这个区间是 ClawLoop 里最巧妙的设计之一。他们限制下界大于零、上界小于 N。下界设为零会保留智能体完全做不出来的任务,这些任务要么太难要么本身有矛盾。上界设为 N 会保留智能体每次都能做出来的任务,太简单。

*准入带*:任务被保留前,当前策略在其上通过试次数的允许区间,记为从下界到上界,用来筛掉太容易和太难的任务。

论文最终设定的区间是 1 到 5,总试次数是 8。也就是说,一个模型能做出 1 到 5 次的任务才留下。

这个设计的数学意义在于,全部做对或全部做错的任务,在组内奖励方差为零,优势估计为零,贡献不了任何梯度信号,只会白烧算力。只有结果不确定的任务才携带梯度。

而且这个区间是相对于当前策略定义的,所以它会随着智能体变强而移动。第 k 轮里有信息量的任务,到第 k 加 1 轮可能已经被一致解决了,就会被自动排除,不需要任何外部课程表。

训练:自己的经验蒸馏自己

拿到通过所有准入标准的任务之后,进入训练阶段。两种方法互补。

第一种是在自己生成的成功轨迹上做监督微调。每条轨迹连着结果奖励一起存下来,只有成功轨迹被保留。这叫自蒸馏,智能体从自己正确的行为里学习,而不是从外部老师的示范里学习。

这里有个技术细节值得说:多轮损失掩码。损失只在智能体自己的动作 token 上计算,环境的观察 token 全部被掩掉。

为什么这件事在 harness 场景下格外重要?因为单条 harness 观察可能长达数千 token,比如读一个大文件或者一份冗长的构建日志。如果不掩掉这些位置,损失会被环境输出主导,模型学到的是"预测文件内容"而不是"学会行动"。

另一个细节是轨迹被填充到最大序列长度而不是截断。截断一条 harness 轨迹会砍掉最后的验证轮次,而那些恰恰是团队最想教会智能体的行为。

*多轮损失掩码*:在多轮 agent 训练中,把环境观察位置的损失置零,只在智能体自己的动作 token 上计算交叉熵。

第二种是强化学习,用 GRPO 算法。理由是 SFT 本质上是模仿已有的成功,没法超越当前策略的最佳行为。GRPO 用基于结果的奖励把智能体推过 SFT 的天花板。

具体做法是复用在有智能体验证阶段收集的那 N 条 rollout 作为组,组内比较,优势相对于组均值计算。一套 rollout 同时承担三个用途:验证信号、SFT 的成功轨迹来源、GRPO 的优势估计组。这是让整个循环算力可控的关键。

*GRPO*:组相对策略优化,一种强化学习算法,在同一任务的多条 rollout 之间做相对比较来估计优势,不需要额外的价值网络。

这里还有个细节解释了为什么小模型受益主要来自 RL。27B 的循环模型在准入带上通过的任务够多,每轮能产出 892 到 1978 条成功轨迹,够 SFT 产生稳定梯度。小模型不行,成功率高的时候太少,SFT 见到的正样本太少,更新既嘈杂又偏向池子里最容易的任务。GRPO 能补偿,因为它从组内对比里提取信号,一个模型八次里成功一次的任务仍有可用的优势估计,而 SFT 只会留下那一条轨迹丢掉七条有信息量的失败。

诊断:让模型审视自己的失败

这是闭环的最后一环,也是论文最有野心的部分。更新后的智能体在留出评测集上跑一遍,失败的轨迹被送进智能体自己,让它总结。

*留出评测集*:从任务池里划分出来、不用于训练的那部分任务,专门用来诊断当前智能体的弱点。

每段失败轨迹产出一份结构化总结,包含三样东西:失败点,即轨迹偏离成功路径的具体动作或决策;根因,失败是源于误解任务、选错工具、编辑出错还是提前终止;缺失能力,智能体本该怎么做才不同。

这些总结不是奖励信号,是结构化的诊断证据。而且团队指出了一个重要观察:轨迹总结比解决原问题容易得多,因为它只需要对一段具体执行轨迹做事后分析,不需要开放式规划。

然后做模式聚合。逐轨迹的总结按技能类别分类,类别内再按根因聚类,最频繁的失败模式被浮出成诊断报告。

论文举了一个真实例子:在"多文件重构"这个能力下,他们观察到一个常见模式,智能体修改了目标文件但没更新依赖模块里的 import 语句。这类聚合出来的模式为下一轮任务合成提供可操作的指导,让合成阶段有针对性地生成攻击已识别弱点的任务。

生活化类比在这里很贴切。这像是一个职场新人的季度复盘。他做了五十个项目,失败十五个。如果只是笼统地说"我表现不够好",下次他还是会犯同样的错。但如果他把十五次失败摊开,发现其中九次是同一类问题,比如交付前没做完整性检查,那他就找到了一个可以针对性改进的点。而"分析自己的失败"这件事,比"做对一个项目"要简单得多,这恰恰是让自我进化变得可行的关键。

实验数据说了什么

循环用 OpenClaw 实现,智能体是 Qwen3.6-27B,跑三轮,每轮合成 1024 个新任务。每个任务 8 次 rollout,准入带设 1 到 5。评测用三个基准:SkillsBench、Claw-Eval-Live、ClawGym-Bench。

**SkillsBench 从 46.3 提升到 57.2,Claw-Eval-Live 从 69.3 提升到 76.9,ClawGym-Bench 从 67.6 提升到 68.4。**

这三个数字对应的对比方法都是 ClawGym,它在这三个基准上的成绩分别是 52.6、74.6、61.9。SkillsBench 上 ClawLoop 领先 4.6 个点,Claw-Eval-Live 领先 2.3 个点。

值得注意的是 ClawGym-Bench 这个基准,它的任务是和 ClawGym 训练任务用同一套流水线构造的,属于分布内测试。ClawLoop 在分布内的增益和分布外基准相当,这说明提升来自真实能力增长,不是针对特定分布的过拟合。

更有说服力的是迁移实验。团队把 ClawLoop 造出来的任务拿去训 Qwen3.5 的 4B 和 9B 模型,对比的是用 ClawGym 数据训练的版本,而 ClawGym 背后是 MiniMax-M2.5 加 GLM-5.1 这两个外部教师模型。

**4B 模型上,ClawLoop 数据训出的模型在 SkillsBench 拿到 8.4,Claw-Eval-Live 48.0,ClawGym-Bench 44.1;同规模用 ClawGym 数据加 SFT 的版本分别是 6.2、36.8、34.6。**

9B 上差距同样明显:10.8 对 6.7、71.7 对 64.3、43.6 对 35.3。

注意训练算法这一列。ClawLoop 数据训小模型用的是 RL,ClawGym 用的是 SFT。两种数据集里,ClawLoop 完全不用外部教师。

*SkillsBench*:一个不绑定特定 harness 的通用智能体基准,包含 86 道跨 11 个专业领域的任务,衡量智能体能否有效利用由领域知识构成的技能。

小模型在这张表里扮演的是数据质量的独立探针。因为小模型的提升不能归因于合成器自身的能力,所以它们的增益纯粹反映了任务数据本身的质量。

消融:两条路线各管一片天

两条合成路线是模块化独立的,去掉任何一条都会掉分,但影响不同的基准。

去掉能力驱动路线,Claw-Eval-Live 掉得最惨,从 76.9 掉到 73.2。去掉领域驱动路线,SkillsBench 和 ClawGym-Bench 受伤最重,分别从 57.2 掉到 55.9、从 68.4 掉到 67.8。

这个不对称和基准的性质对得上。Claw-Eval-Live 强调广泛的通用智能体能力,正是能力驱动路线要覆盖的。SkillsBench 和 ClawGym-Bench 更围绕具体技能类别展开,正是领域驱动路线瞄准的。

循环里发生了什么

论文附录里有一组数据特别有意思,讲的是循环内部的动态。准入率不是单调衰减的。

**第一轮 65.6%,第二轮暴跌到 45.8%,第三轮回到 55.4%。轨迹长度同步变化:平均轮数从 5.6 涨到 11.4 再落到 8.7。**

这是难度增长模块先过冲再修正的过程。第二轮时,合成器对智能体首轮增益反应过度,把难度拉得太猛,大量候选被推过准入带上界,准入率骤降,幸存下来的任务明显更长。到第三轮这种升级被压制,任务池落在一个智能体能有效应对的难度上。

论文把这种现象总结成一句话:循环是通过从两侧穿越来收敛到合适难度的,而不是单调逼近。

*准入率*:每轮合成的 1024 个候选任务中,最终通过全部验证、能进入训练集的比例。

另一组数据解释了为什么 K 等于 3 就饱和了。约束不在合成多少候选,候选数固定是 1024,约束在于多少能落进准入带里。只有 45.8% 到 65.6% 能通过有智能体验证,也就是说三分之一到一半的合成预算完全没有产生训练信号。这个观察指向难度控制器而不是迭代次数,才是真正的瓶颈。

论文还提到一个细节:第一轮是无智能体验证筛掉约 11% 的候选,这个比例在三轮里稳定在 89% 左右,说明合成例程的基础输出质量没有随着循环推进而退化。真正有选择性的是有智能体验证那一步。

一道难题和一道简单题

附录的案例研究把难度到底吸在哪说清楚了。两道题属于同一个任务家族,都要求智能体连接两份 CSV,在明确的业务规则下算分组统计,输出报告文件。

难的那道要求从订单账本和商品主表生成一组订单金额分布和类别档位报告,覆盖分布统计、四分位分析、退款指标、价值档位汇总、作废订单审计日志,输出多个 JSON 文件。要求写在 requirements.md,输出契约写在 task_spec.json。

简单的那道只要求连接订单和客户,为每个客户算一个消费画像,按净消费额分档,每档写一个 CSV,再加一个汇总表。

**难题用了 15 个智能体轮次,简单题 6 个。但工具调用只从 14 涨到 24,涨了 1.7 倍;shell 执行从 2 涨到 9,涨了 4.5 倍;推理 token 从 4067 暴涨到 67994,涨了近 17 倍。**

两道题的阶段结构完全相同,差异几乎全在验证阶段。难题把 15 轮里的 6 轮用于检查自己的输出,占 40%;简单题 6 轮里只用 1 轮,占 17%。

难题的验证内容值得单独说。智能体跑完脚本后独立重算全局营收汇总,得到一个看似和自己先前估计矛盾的数字,于是逐项重新求和,发现真实总额是 6984.997,确认取整后正好是报告里的 6985.00。接着它拿档位汇总和分布报告交叉核对,确认各分类营收之和等于档位总额。最后它审计排序顺序,发现有一组中位数相同的类别看起来违反了规则。检查之后它判断,是自己的检查脚本出了问题,因为它直接把中位数相等的情况判为违规,而没有去验证字母序的平局打破规则是否被正确应用,输出其实是对的。

这个最后一步是整段里最有价值的地方。智能体不是在重跑自己的解,而是在审计自己的审计,并且正确得出"解是对的、检查是错的"这个结论。

论文说,这正是准入带设计想要筛选的行为。第一次尝试就解出且不做验证的任务,产生的轨迹里几乎没有这类内容;完全解不出的任务一条都没有;介于两者之间的任务,才会激发出智能体必须自我检查的轨迹,而这些轨迹正是进入 SFT 集合的。

算力花在哪了

论文还公布了一轮循环的算力分解。全部跑在 32 张 H800 上。

任务合成 1,024 道花 15.98 小时墙钟时间,换算成 511 GPU 小时。验证 rollout 花 30.76 小时,984 GPU 小时。SFT 训练 8.03 小时,257 GPU 小时。GRPO 训练 18.52 小时,593 GPU 小时。诊断 rollout 只要 0.94 小时,30 GPU 小时。

**一轮总计 74.23 小时墙钟时间,2375 GPU 小时。其中光是验证 rollout 就占了约 41%,超过了 SFT 加 GRPO 训练时间的总和。**

这是 harness 原生训练的特征。每一个奖励信号都要求对真实环境执行一条智能体轨迹,而不是给一个静态输出打分。诊断阶段相对便宜,因为留出评测集是从训练池里分出来的小集合,只有一小部分任务需要重跑。

*harness 原生训练*:在每个奖励信号都需要在真实沙箱环境里执行完整智能体轨迹才能获得的训练范式。

写在后面

读到 ClawLoop 的时候,我有一个具体的想法被触发了。

整篇论文里我印象最深的不是它的三项基准成绩,而是准入带那个设计。它把一个很抽象的课程学习问题,翻译成了一句极其具体的操作语言:只留下那些结果不确定的任务。

这句话之所以让我停下来,是因为它和我对"练习"这件事的直觉不太一样。我们通常觉得,练习就是要多做、多练、覆盖面要广。但 ClawLoop 的实验数据显示,只有 45.8% 到 65.6% 的合成任务真正产生了训练信号,剩下三分之一到一半的预算打了水漂,而打水漂的原因恰恰是任务对当前策略来说要么太简单要么太难。

更微妙的是,论文里那个第二轮过冲的数据。第二轮准入率暴跌到 45.8%,不是因为合成器偷懒了,而是因为它太努力了,把难度拉过了头。这揭示了一个很反直觉的东西:在这个循环里,难度增长过快和训练不足造成的损失是一样的,都表现为准入率下降、有效信号减少。

这个思路的另一个值得单独拿出来的点是"审计自己的审计"那段。智能体发现自己的检查脚本有 bug,然后判断输出其实是对的。这是一个很不同寻常的能力声明。大多数关于自我改进的叙事都是模型发现自己的错误然后改正,但这里模型要做的是发现自己的"纠错机制"本身出了错,然后推翻这个纠错机制。这在逻辑上更难,因为它要求模型对自己构造的验证逻辑持怀疑态度。

论文还没解决的问题也值得追问。团队自己在附录里说得挺诚实:准入带的追踪不够精确。合成例程需要跟踪一个移动的策略,第三轮准入率回升到 55.4% 说明追踪是有效的,但第二轮那次过冲说明追踪还不够好。论文直接点出难度控制器而非迭代次数才是瓶颈,这意味着更大的收益可能来自一个能更精确预测当前策略能力的合成器,而不是跑更多轮。

还有一个我自己没想明白的事:那 4B 和 9B 小模型从来没有跑过自己的诊断阶段,它们继承的是 27B 模型弱点轮廓塑造出来的课程。论文把这个如实写出来,说这些小模型的增益应该读作课程质量的证据,而不是完整循环的实例。这留下了一个开放问题,如果让小模型自己也跑诊断,它们的瓶颈会不会和 27B 完全不同?如果是,那这套自我进化机制的规模依赖性究竟有多强?

下次你看到一个说自己"在持续学习"的 AI 系统,不妨问一句:它是真的在根据自己失败的地方出下一道题,还是只是把同样的题又做了一遍。这两件事在表面上看起来一模一样,中间隔着的就是那 41% 花在 rollout 上的算力,和那一轮从 65.6% 掉到 45.8% 的准入率。

Q&A

Q1:ClawLoop是什么?

A1:ClawLoop是美团和北京大学团队提出的一个智能体自我进化训练框架,它让智能体自己合成训练任务、自己收集轨迹、自己诊断弱点,全程不需要任何更强的外部教师模型。

Q2:ClawLoop为什么不需要外部教师模型也能训练?

A2:因为它的答案不是模型编的,而是由可运行的生成器在沙箱里算出来的。加上准入带只保留模型做过1到5次的任务,难度自动跟着当前策略移动,所以训练信号能自我维持。

Q3:ClawLoop的训练效果怎么样?

A3:用Qwen3.6-27B跑三轮,SkillsBench从46.3提到57.2,Claw-Eval-Live从69.3提到76.9。它的任务还能迁移给4B和9B小模型,成绩同样超过外部教师模型造的数据。

分享至
0赞

好文章,需要你的鼓励

推荐文章
----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.-