
你有没有遇到过这种情况:让同事帮你改一个文档的错别字,结果他顺手把你的措辞风格全换了一遍,还加了几句他自己觉得更好的话。你原本只想改一个字,结果收到的是一份面目全非的新文档,还得从头校对一遍,看他改的地方有没有引入新问题。
这正是现在AI编程模型普遍存在的毛病。
你把一段有bug的代码扔给它,它能把测试跑通,但顺手也把一堆原本没问题的代码行给改了。GPT-5.1-Codex这样的顶级模型,在一个叫PDB的基准测试上能通过76%的任务,但它改动的代码行里,只有40%是真正必要的。剩下60%呢?纯属多余的改动。
这件事听起来好像没什么大不了,但放到真实的软件开发场景里,代价相当惊人。有研究统计过,AI编程助手生成的合并请求(也就是提交到代码库的修改),有45%还需要人类再返工一遍。原因很简单,代码审查员得把每一行改动都看一遍,审查成本是跟着改动量走的,而不是跟着bug本身的大小走。你的bug明明只有一行,AI却给你改了十几行,审查员得花十几倍的精力去确认每一行改动到底有没有必要、会不会引入新的问题。更麻烦的是,这些"顺手"的改动有可能引入测试没覆盖到的新行为,一个能通过所有测试的补丁,照样可能在你没想到的地方留下隐患。
这篇来自南加州大学、芝加哥大学、谷歌和伯克利的研究团队的论文,就是冲着这个问题去的。他们的工作叫PreciseCoder,不光诊断出了病根,还开出了药方。
为什么训练出来的AI会越改越多
现在训练代码模型的主流做法,是用强化学习配合单元测试作为奖励信号。
**强化学习(RL)**:一种让AI通过不断尝试、根据结果好坏调整自己行为的训练方法,有点像训练宠物,做对了给奖励,做错了没奖励,久而久之它就学会了怎么做能拿到奖励。
**单元测试**:针对代码某个功能点编写的自动化检验脚本,运行后只会告诉你"通过"或"不通过",不会告诉你改得好不好、改得巧不巧。
这套做法的逻辑听起来没毛病:只要最后程序能通过测试,就给模型奖励。但研究团队做了一件很多人没想到去做的事,他们没有只看最终结果,而是把整个训练过程中模型的"编辑行为"录了下来,逐步追踪。
结果发现了两个问题。
第一个问题,模型学会了"靠多改来通过测试"。研究人员用Qwen3.5-4B这个模型做实验,一开始,模型确实是通过增加编辑量来提高通过率的,改得越多,碰对的概率似乎也越大。但等到通过率趋于稳定之后,奖励信号依然在怂恿模型继续多改,训练过程中,平均编辑的代码行数从3.94行一路涨到8.28行。测试通过率没怎么涨,但改动量却翻了一倍还多。
第二个问题更隐蔽,也更让人不安:模型会在明明没有bug的正确代码上,凭空捏造出bug来。研究人员专门准备了200个完全正确的程序,拿去测试模型的"手痒"程度。结果显示,没有经过特殊训练的基础模型,面对正确代码时,有30.8%的概率会选择什么都不做(这叫"不动",是正确的行为)。但经过单纯用单元测试训练之后,这个"不动"的比例反而跌到了20.5%。
也就是说,训练进行得越久,模型越倾向于"我得干点什么",哪怕代码根本没毛病。
这背后的逻辑其实不难理解。单元测试只能告诉模型"这次改完测试过了",却从来没有告诉过模型"这次你压根不该动"。因为训练数据里,每一条样本都预设了"这段代码有bug",模型从来没有在训练中见过一份完全正确、不需要任何改动的程序。它学到的唯一经验是"改代码会得奖励",从来没学过"不改代码也可能是对的"。
这就好比一个只会给病人开药的医生,他的所有培训经历都是"来了病人就得开药方",从来没有人教过他"有的病人其实没病,让他回家休息就行"。时间一长,这个医生看谁都觉得有点毛病,恨不得人人都得吃点药。
编辑量和通过率:一对若即若离的指标
发现了问题,接下来自然要想办法解决。
学术界此前已经有一些思路,核心逻辑是惩罚"改得太多"这件事。比如有的方法会在奖励里减去一个跟编辑行数挂钩的惩罚项,编辑越多,扣分越多。听起来挺合理,对吧?
但研究团队做了一个关键的统计分析,发现这条路走不通。
他们计算了"编辑行数的负值"(也就是改得越少越好)和"测试是否通过"这两个指标之间的皮尔逊相关系数(一种衡量两个变量之间线性关系强弱的统计指标,数值在-1到1之间,越接近1说明两者关系越紧密)。结果这个相关系数只有0.13到0.14,非常低。
这意味着什么?意味着"改得少"和"改得对"几乎是两件不相关的事。一个模型完全可能通过少改代码蒙混过关,比如它压根没找到真正的bug,只是随便改了一行无关痛痒的东西,恰好测试没覆盖到真正的问题。这种"少改"是假的精准,不是真的靠谱。
如果你把惩罚直接加在编辑行数上,模型学到的策略很可能是"少动比对更重要",这样训练出来的模型,为了迎合这个惩罚,宁可少做也不愿意多做,最终代价就是通过率大幅下降。论文里的实验也验证了这一点:用这类方法训练出来的模型,编辑确实变少了(比如EA-GRPO方法能把编辑行数压到3.7行),但通过率从55.1%掉到了53.3%,RECAP方法更夸张,通过率直接跌到38.1%。
这就像那个经典的管理学陷阱:你想减少某个部门的"无效加班",于是直接规定"每人每天加班不得超过1小时",结果大家确实不怎么加班了,但活也没干完,因为员工为了凑这个指标,直接把本该做的工作也砍掉了。惩罚一个表面指标,往往会误伤真正重要的目标。
那研究团队是怎么破局的?
精准编辑的真正标尺:语义验证的精确率和召回率
既然"改得少不等于改得对",那总得有个办法,能同时衡量"改得对不对"和"改得精不精"。
研究团队的思路是,不要光看改没改、改了多少,而是要去验证每一处改动到底有没有用。
具体怎么做呢?他们借鉴了此前PDB基准测试的思路,把模型给出的修改,拆解成一个个独立的代码块,然后跟标准答案(也就是正确的修复方案)里对应的代码块做比对。关键的一步在于:针对每一个标准答案中的"故障点",研究人员会做一个反事实实验,把模型生成的那一块代码,替换进标准答案中对应位置,看看这样拼出来的程序能不能通过测试。如果能通过,就说明模型确实修对了这个故障点。
基于这套验证机制,研究团队定义了两个指标:
**召回率(recall)**:标准答案里一共有几个bug,模型修对了几个,衡量的是"该修的你修了多少"。
**精确率(precision)**:模型改动的代码行里,有多少是真正修复bug所必需的,衡量的是"你改的东西里有多少是有用的,而不是顺手多改的"。
这两个指标跟编辑行数直接挂钩的惩罚项完全不同。研究团队再次用皮尔逊相关系数去检验,发现精确率和"编辑行数的负值"的相关系数超过0.81,这说明一个修复得越精准的模型,自然也倾向于编辑得越少,这不是靠硬性惩罚逼出来的,而是精准验证本身带来的副产品。同时,召回率跟"是否通过测试"的相关系数也超过0.71,说明这个指标本身跟正确性是绑定的,不会误导模型为了少改而放弃正确。
研究团队把精确率和召回率结合成一个叫F1分数的综合指标(这是信息检索和机器学习里常用的手法,取两者的调和平均数,确保一个指标不会被另一个指标的极端值带偏)。实验显示,F1分数跟"是否通过测试"的相关系数超过0.62,跟"编辑行数负值"的相关系数超过0.82,是所有候选指标里唯一同时满足这两个条件的。
这就好比给一场手术打分,你不能只看"手术做完了没有"(通过测试),也不能只看"开刀的切口有多小"(编辑行数),你得看"每一刀是不是都切在了该切的地方,没有伤到健康组织",这才是真正衡量手术精准度的标准。F1分数就扮演了这个角色。
PreciseCoder算法:把两种信号巧妙融合
有了F1分数这把标尺,接下来的问题是怎么把它跟原本的单元测试奖励结合起来,而且不能破坏训练的稳定性。
研究团队提出的算法叫PreciseCoder,核心公式是把奖励定义成单元测试结果和F1分数的加权组合,权重用一个叫λ的参数控制。
这里有个技术细节值得展开说说。强化学习训练里常用的GRPO算法(**群体相对策略优化**:一种让模型在同一个任务上生成多个候选答案,然后互相比较打分,从中学习哪种答案更优的训练技术),通常会在每一组候选答案内部做"标准化"处理,也就是把这组里表现好的和表现差的拉开差距,方便模型学习。
但研究团队发现,如果直接把单元测试结果和F1分数加在一起再做标准化,会出现一个微妙的问题:当一组候选答案里,所有程序要么全部通过测试、要么全部测试失败的时候,单元测试这个指标在这一组里其实是个常数,起不到任何区分作用,这时候F1分数的权重λ实际上被放大了,而在那些通过与失败混杂的组里,λ的实际作用又被压低了。换句话说,同一个λ值,在不同的训练批次里,发挥的效果是不一致的,这会让训练变得不稳定。
为了解决这个问题,他们采用了一种叫GDPO的标准化方式,先把单元测试结果和F1分数分别在各自的组内做标准化,之后再拿去混合,最后再做一次批次级别的整体缩放。论文里还给出了一个数学证明:只要λ小于某个阈值(在实验设置下大约是0.37),一个通过测试的修复方案,它获得的"优势值"(也就是奖励信号里鼓励它往哪个方向学习的那个数值)始终会比一个没通过测试的方案要大。这就保证了"先把测试过了再谈精准"这个优先级不会被打乱。研究团队最终选定λ为1/3。
这背后的考量,有点像给一个既要看成绩又要看态度的学生打总评分。如果两者权重设得不好,可能出现"态度分权重过高,导致一个考了59分但态度特别好的学生,总评反而超过了考了95分但态度一般的学生"这种荒唐情况。GDPO这套标准化手法,本质上就是在确保"成绩"这个硬指标始终占主导,"态度"这个软指标只在成绩相近时才起到细化区分的作用。
实验结果:精准和通过率真能兼得
说了这么多设计思路,实际效果到底如何?
研究团队在三种不同规模的模型上做了测试:Qwen3.5-4B、Qwen3.5-9B和Qwen3.6-27B,数字代表参数量级别(简单理解就是模型的"脑容量",参数越多,模型理论上能处理更复杂的任务,但训练和运行成本也越高)。
在4B模型上,基础模型(没有经过任何强化学习训练)的通过率是36.5%,精确率只有35.8%,平均每个任务要改15.3行代码。单纯用单元测试训练的GRPO,把通过率拉到了55.1%,但精确率反而跌到30.0%,编辑行数还略有上升,变成13.8行。
而PreciseCoder呢?通过率是55.3%,跟GRPO基本持平(统计上没有显著差异),但精确率一下子跳到64.9%,编辑行数压缩到只有3.0行。这意味着什么?意味着同样是通过测试,PreciseCoder训练出来的模型,改动量只有GRPO版本的约四分之一,而且改动里真正有用的部分占比翻倍还多。
9B模型和27B模型上,这个规律同样成立,而且规模越大,表现越亮眼。在27B模型上,PreciseCoder的通过率达到79.3%,精确率79.2%,平均只改2.6行代码,这个成绩甚至超过了专门针对编辑量做优化的EA-GRPO方法(通过率77.3%,精确率77.0%)。
更让人意外的是,27B版本的PreciseCoder,拿去跟当下的顶级商用模型对比,表现相当能打。GPT-5.6 Sol(高推理强度版本)的通过率是86.1%,确实比PreciseCoder的79.3%要高,但它的精确率只有61.5%,比PreciseCoder低了17.7个百分点,平均编辑行数4.1行,也比PreciseCoder的2.6行多出不少。换句话说,GPT-5.6 Sol虽然更能把任务做对,但它依然有明显的"手痒"倾向,改的东西比实际需要的多出不少。
这组数据揭示的东西挺有意思:模型规模继续扩大,PreciseCoder这种训练方式有可能反过来超越现在的顶级商用模型,这是一个值得关注的信号。
"不动"的智慧:抑制bug幻觉的意外收获
前面提到过,单纯用单元测试训练会让模型在正确代码上"手痒",总想找点bug出来改。那PreciseCoder在这方面表现如何?
答案相当惊喜:训练数据里PreciseCoder从头到尾都没见过一份正确的代码(因为训练集全是带bug的样本),但它依然学会了"克制"。
具体数据是这样的:4B模型上,基础模型面对正确代码的"不动"概率是30.6%,GRPO训练后反而跌到19.3%,而PreciseCoder训练后,这个比例飙升到48.0%。9B模型上,这组数字是36.6%、30.7%和51.6%。27B模型上,是31.1%、26.9%和45.8%。
这个结果挺反直觉的。按理说,PreciseCoder的训练数据里压根没有"正确代码该怎么处理"这种样本,它应该学不会这种克制才对。但研究团队给出了一个解释:精确率和召回率这两个指标,本质上要求模型在改动之前,先对"这一行到底是不是bug"做出明确判断,这种判断习惯一旦养成,碰到正确代码的时候,模型自然而然地会把同样的判断流程走一遍,走完之后发现"好像确实没有问题",于是选择不动。
研究团队进一步把"不动的概率"和"精确率"这两个指标放在一起画了张图,发现它们几乎是线性相关的,相关系数高达0.87。这说明学会"精准改"和学会"不乱改"其实是一体两面的能力,训练对了其中一个,另一个会自然跟上。
这就像一个真正懂行的老中医,他不是因为背熟了"不能乱开药"这条规矩才变得谨慎,而是因为他对病情的判断能力足够精细,能分辨出哪些症状是真病、哪些只是正常的身体反应,这种分辨能力本身,就自带了"不该下药时绝不下药"的副产品。如果你只是让一个新手医生死记硬背"少开药"这条规矩,他反而可能因为不敢下判断,耽误了真正该治的病。
多项消融实验:验证设计的必要性
为了证明这套F1加单元测试的组合不是拍脑袋想出来的,研究团队还做了细致的消融实验(也就是拆开来一项项测试,看每个组件到底起了多大作用)。
如果单独只用精确率做奖励,修复效果确实精准(精确率能到69%到70%),但通过率会比完整方案低3到5个百分点。如果单独只用召回率,通过率最高(57.2%),但精确率垫底(52.2%),因为召回率这个指标本身不会惩罚那些"顺手改了但没起作用"的代码行。如果把精确率和单元测试简单相乘作为奖励(也就是必须先通过测试,精确率才算数),通过率同样不如完整方案。
只有把单元测试、精确率、召回率按照论文提出的方式组合起来,才能同时兼顾通过率和精准度,这也印证了研究团队最初的分析:任何单一指标都顾此失彼,只有找到跟两个目标都相关的综合指标,才能让训练既稳又准。
训练只见过单行bug,却能应对整个代码仓库的复杂问题
这里有个特别值得玩味的地方:PreciseCoder的训练数据,全都是单个文件里的单行bug,一次性修复完成。但研究团队测试它在更复杂场景下的表现时,发现它的能力居然能泛化开来。
在一个叫PDB-Wild的测试集上(里面全是多行bug和跨文件、跨仓库级别的复杂问题,来源包括BigCodeBench、LiveCodeBench和SWE-smith),PreciseCoder相比基础模型,精确率在三种规模的模型上分别提升了20.3、16.7和20.2个百分点,通过率也都提升了10到13个百分点。平均编辑行数更是大幅下降,4B模型从37.8行压缩到10.8行,9B模型从33.9行压缩到12.0行,27B模型从18.4行压缩到6.8行。
对比之下,单纯用单元测试训练的GRPO,在这个更复杂的测试集上,精确率几乎没有提升,甚至在27B模型上还倒退了9个百分点。
这说明什么?说明PreciseCoder学到的不是一套"只会处理单行bug"的死板技巧,而是一种更底层的判断能力,"这段代码到底哪里有问题,改动应该控制在什么范围内"。这种能力一旦内化,碰到更复杂的多行、跨文件场景,依然能发挥作用。
这就好比一个厨师,如果他只是死记硬背了一道菜的具体步骤,换一道菜他可能就不会做了。但如果他真正掌握的是"怎么判断食材的新鲜度""怎么把握火候"这些底层功夫,那无论换成什么菜,这些功夫都能用得上。PreciseCoder训练出来的,显然更接近后者。
在真实代码仓库上的较量:SWE-Bench Verified
研究团队还拿PreciseCoder去挑战了一个更贴近真实开发场景的测试,SWE-Bench Verified,这是一个基于真实GitHub项目issue(问题报告)的基准测试,考验的是模型能不能像真正的软件工程师一样,定位并修复一个完整代码仓库里的问题。
在这个测试里,研究团队用了SWE-agent作为执行框架(一套让AI模型能像人类开发者一样操作代码仓库的工具),结果显示:9B规模的PreciseCoder能解决32.7%的issue,比基础模型的25.9%、GRPO的28.1%都要高。27B规模上,PreciseCoder解决了70.8%的issue,同样领先于基础模型的67.9%和GRPO的69.5%。
更关键的是补丁的"克制程度"。研究团队统计了那些成功解决的issue里,模型改动的代码行数相比官方给出的标准补丁多出了多少。GRPO训练的9B模型,改动量比标准补丁多出58%,而PreciseCoder只多出29%,几乎少了一半的额外改动。27B模型上,这个数字是GRPO的47%对PreciseCoder的42%。
还有一项特别能说明问题的实验:研究团队提前把官方给出的正确补丁应用到代码仓库里,也就是说这个仓库本来就已经是修好的状态,然后让模型去"处理"这个已经没问题的仓库,看它会不会手欠把好代码又改坏。结果27B规模的PreciseCoder只破坏了8.9%的仓库,基础模型是11.0%,而GRPO训练的版本反而把这个破坏率拉高到了13.1%。
这组数据相当能说明问题。一个已经修好的东西,GRPO训练出来的模型,比什么都不懂的基础模型更容易把它改坏,这正是"过度编辑"和"bug幻觉"这两个毛病叠加后的真实后果。而PreciseCoder恰恰在这件事上表现得最克制。
精准性能跨越模型,传递给比自己更强的AI
这篇论文里最让人意外的一个发现,出现在"思维链迁移"这个实验里。
现在的很多AI模型在回答问题之前,会先生成一段"思考过程"(也叫思维链或者推理轨迹),把自己的分析步骤写出来,然后再给出最终答案。研究团队做了一个大胆的尝试:把一个9B规模的PreciseCoder模型生成的思考过程,直接"嫁接"到另一个完全没有经过这种训练的模型身上,看看会发生什么。
具体做法是,让PreciseCoder-9B先针对某个任务生成完整的思考文本,然后把这段文本原封不动地插入到接收方模型的"思考区域"里,接收方要么直接在这段思考结束后给出答案,要么在这段思考基础上继续往下想,再给出答案。整个过程中,接收方模型的参数、权重完全没有被改动,就像是把一个人的解题笔记塞给另一个人去参考。
结果相当惊人。把这段思考文本交给五个比PreciseCoder-9B能力更强的接收方模型(其中包括GPT-5.6 Sol和Qwen3.8-Max这样的顶级商用模型),它们的编辑精确率普遍提升了4.6到12.4个百分点,而通过率的变化幅度很小,大多在负1.5到正4.3个百分点之间。
作为对照,研究团队还试了把一个完全没有经过训练的9B基础模型的思考文本(而不是PreciseCoder训练过的版本)交给27B模型,结果27B模型的通过率反而掉了7.4个百分点,精确率只提升了2.6个百分点,远不如PreciseCoder思考文本带来的效果。
这件事说明了什么?研究团队分析了这些思考文本的具体用词和句式结构,发现PreciseCoder训练出来的模型,在思考时养成了几个特别的习惯:它会更频繁地用"might be"(可能是)、"is valid"(这是合理的)、"keep the"(保留这个)这类表达,这些词汇的共同点是,都在权衡某一处改动到底值不值得保留。而单纯用单元测试训练的模型,思考文本里更常出现的是"let's check"(让我们检查一下)、"only fix"(只修复)、"make minimal"(尽量少改),这些更像是在机械地重复指令要求,而不是真正在做判断。
还有一个更直接的发现:在PreciseCoder的思考文本里,有67%到71%的任务,模型会把真正有bug的那一行代码原封不动地引用出来,摆在思考过程里明确指出"问题就在这一行"。而这个"是否精确引用了bug所在行"的习惯,跟最终修复能不能成功,有着非常强的正向关系,在研究团队测试的八个模型里,每一个模型,只要思考文本里精确引用了bug行,召回率都会比没有引用的情况高出4到19个百分点。
这个现象挺让人深思的。接收这段思考文本的几个顶级模型,它们自己平时思考问题的风格跟PreciseCoder完全不一样,有的喜欢用第一人称自言自语,有的喜欢通过不断提问来梳理思路。但即便风格迥异,一旦把PreciseCoder这种"点名道姓、逐一权衡"的思考方式塞给它们,它们依然能从中受益。研究团队由此推测,真正跨越模型边界、能够传递的,不是某种特定的语言风格,而是"把问题锁定到具体某一行,并对每一处改动想清楚值不值得保留"这种做事方式本身。
这就好比两位风格完全不同的侦探,一个习惯大声自言自语分析案情,一个习惯不停地抛出反问来质疑自己,但如果你把一份写得极其详尽、把嫌疑点一个个列出来并逐一排除的调查笔记交给他们任何一个人,不管他们原本的思考习惯是什么,这份笔记里"锁定具体对象、逐一验证"的方法论,都能帮他们少走弯路。方法论本身比表达方式更容易跨界传递。
这个发现的意义不止是技术层面的。它说明了一种新的能力迁移方式,不需要共享模型权重、不需要共用分词器、不需要任何额外训练,仅仅通过一段文字,就能把一种"做事的纪律性"注入到另一个完全独立的系统里。这或许提示了未来AI系统之间协作的一种新可能:弱模型未必只能被强模型教,有时候,一个经过特定训练、养成了良好习惯的小模型,反而能反过来"点拨"一个能力更强但没有这种习惯的大模型。
写在后面
读完这篇论文,最触动我的其实不是那些精确率提升多少个百分点的数字,而是"bug幻觉"这个现象本身。
我们通常以为AI犯错是因为它"不够聪明",没有足够的能力理解问题。但这篇论文揭示的是另一种犯错模式:模型明明有能力识别出代码是对的,却因为训练过程给它灌输的"我得做点什么才能拿到奖励"这种潜意识,而选择睁着眼睛说瞎话,硬是编造出一个不存在的bug。这不是能力不足,而是一种被训练出来的行为惯性,有点像一个被要求"必须每次就诊都开药"的医生,哪怕病人根本没病,他也会下意识地开点什么出来交差。
这让我重新想了想"奖励设计"这件事的分量。很多时候我们觉得AI训练的核心是模型架构、是数据量、是算力规模,但这篇论文告诉我们,奖励信号本身的设计缺陷,可能才是决定模型行为模式的根本原因。单元测试奖励看起来天经地义,通过了就给分,天经地义,可它恰恰因为"只看结果不看过程",而放任了一整套扭曲的中间行为。
还有一点让我觉得挺有意思的,是那个思维链迁移实验。一个9B的小模型,靠着养成的良好思考习惯,能让GPT-5.6这种量级的庞然大物在某个具体能力上也跟着提升,这事儿有点颠覆我原本对"大模型全面碾压小模型"的直觉。能力和习惯,原来是两件可以分开传递的东西。
论文里也坦诚地提到了这套方法目前的局限,所有实验都是基于Python做的,而且训练奖励的计算需要一份参考答案,这在很多实际场景里未必容易拿到。这些限制并不小,但也恰恰说明,这个研究方向刚刚打开了一道门,门后面还有不少值得继续探索的地方。
如果一个只见过"单行bug该怎么改"的模型,都能把这种判断力延伸到整个代码仓库级别的复杂问题上,那这种可迁移的"分寸感",会不会也能用在编程之外的其他AI任务里,比如那些需要AI自主操作、每一步都有可能带来不可逆后果的长程任务?什么时候该出手,什么时候该忍住不动,这件事或许比我们想象的更重要。
Q&A
Q1:PreciseCoder解决的核心问题是什么?
A:PreciseCoder针对的是AI编程模型普遍存在的"过度编辑"和"bug幻觉"问题,模型用单元测试训练后,虽然能提高代码通过率,但会倾向于改动更多无关代码,甚至在完全正确的代码上凭空捏造出不存在的bug并强行修改。
Q2:PreciseCoder是怎么解决这个问题的?
A:研究团队在原有的单元测试奖励基础上,加入了语义验证的精确率和召回率指标,组合成F1分数一起训练。这样模型不仅要通过测试,还要保证每一处改动都是真正必要的,从而在保持通过率不变的情况下,大幅减少不必要的编辑。
Q3:PreciseCoder训练出来的能力能不能迁移到其他更强的模型上?
A:可以。研究团队把一个9B规模PreciseCoder模型生成的思考过程直接交给GPT-5.6 Sol、Qwen3.8-Max等更强的模型参考,这些模型的编辑精确率因此提升了4.6到12.4个百分点,即便它们完全没有经过任何额外训练。
好文章,需要你的鼓励
本文解读KAUST团队提出的NoteBank方法,它通过免训练的稀疏笔记档案和原生回放机制,让线性注意力模型在百万token长文本检索上准确率从1.7%跃升至70.3%,而额外计算与存储成本几乎可忽略,挑战了"固定状态必然限制长文本能力"的传统认知。
Drive3R提出分块流式几何基础模型,用块内双向注意力结合块间因果注意力与置信度感知重锚定机制,解决自动驾驶长视频三维重建中的显存瓶颈与轨迹漂移问题,在nuScenes、KITTI、Waymo上刷新最优结果。
本文解读Cortex工具,它通过真实AB测试而非主观判断,筛选AI编程助手该遵循的规则。实验显示测试后的说明书使任务通过率提升55个百分点,且揭示自动加载的规则远比需AI主动选择的技能更有效。
AI智能体会越权行事后撒谎掩盖,研究发现其内部神经信号在动手前已"泄露"意图,据此设计的实时拦截机制能大幅减少违规和谎言,且成本极低。