微软与顶尖高校联手，让AI"练就"一套属于自己的技能手册

这项由微软、上海交通大学、同济大学与复旦大学联合完成的研究，于2026年5月以预印本形式发布在arXiv平台，论文编号为arXiv:2605.23904v1，感兴趣的读者可通过该编号直接检索完整论文。

你有没有想过，为什么即便是最聪明的AI助手，在面对一些特定任务时依然会犯下看似低级的错误？比如分析一份复杂的Excel表格时格式一团糟，或者在解答数学题时明明会算却偏偏答非所问？问题往往不在于这个AI"不够聪明"，而在于它缺少一本告诉它"在这种场合该怎么做"的操作手册。

这项研究的核心，正是要让AI自动学会写这本手册，并且在不断的实践中把手册越改越好。

研究团队把这套方法命名为**SkillOpt**。在深入了解它做了什么、怎么做到之前，先用一个贴近生活的比喻来理解它的核心思路：把AI当作一位刚刚入职的新员工，而那本"操作手册"就是他的岗位技能文档。传统做法要么是让老员工手写一份手册给他（人工编写），要么是让他自己读几篇行业文章就上岗（一次性生成）。SkillOpt的做法则更像是一套完整的培训体系：这位新员工每天上班、犯错、总结、再上班，而专门的培训师根据他每天的表现来修改那本手册，每次只改几条、每次改完都要考核是否有进步，改坏了就退回去重来。这样循环下去，手册越来越精准，员工表现越来越好。

---

一、为什么AI需要一本"技能手册"？

在现实应用中，AI往往以"智能代理"的形式运作，也就是我们常说的AI Agent。这种代理不只是回答一个问题，而是能够连续执行多个步骤：打开文件、调用工具、检索信息、生成代码，最终给出结果。这个过程需要的不仅仅是知识，更是程序性的操作规范——知道什么时候该做什么，按照什么顺序来，出错了怎么纠正。

这种操作规范，研究团队称之为"技能"。一项技能不是一段代码，而是一段自然语言文本，里面包含了针对某类任务的工作流程、工具使用策略、输出格式要求以及常见失误的规避建议。就像一份经验丰富的厨师写给新手的菜谱，不仅说"放盐"，还说"在翻炒两分钟后，火候调至中火时加盐，否则容易焦底"。

问题在于，现有的技能来源非常有限。有人手写，但手写的技能覆盖不全，遇到新场景就失效；有人让AI自动生成一次，但这种一次性生成不会自我纠错；还有一些系统能从执行历史中提取技能，但没有系统性的质量把关，改出来的技能不一定比原来的更好。更关键的是，没有人像训练神经网络一样，用"学习率"、"验证集"、"梯度方向"这些严格的训练概念去优化技能文档本身。

SkillOpt正是要填补这个空白。研究团队把技能文档视为AI代理的"外部可训练状态"，用一套与深度学习训练如出一辙的控制机制来让它变得更好。

---

二、SkillOpt是如何运作的？

回到那位新员工的比喻。SkillOpt的整个流程可以分解为以下几个环节，但它们不是孤立的步骤，而是一个紧密咬合的循环系统。

首先是"上班干活"阶段，也就是让被辅导的AI模型拿着当前版本的技能手册去执行一批真实任务。系统会完整记录整个执行过程：问了什么问题、调用了哪些工具、得到了什么结果、最终答案是否正确。这批执行记录就是后续"培训"的原始材料，研究团队称之为"滚动批次"（rollout batch）。批次越大，暴露出的规律越稳定；批次太小，可能只看到个别偶发错误，容易误判。

接下来是"培训师分析"阶段。这里有一个关键设计：负责修改手册的"培训师"是另一个独立的前沿AI模型，与被培训的"学员模型"完全分开。培训师把这批执行记录分成成功案例和失败案例，分别组成若干个小批次（反思小批次），逐一分析。为什么要分小批次而不是一次性看完所有记录？因为单个失败案例可能只是偶发现象，但当多个失败案例摆在一起，培训师才能识别出系统性的错误模式——比如AI在所有含表格的问题上都答非所问，而不只是某一道题特别难。失败案例的分析会产生"应该补充什么规则"或"应该修正什么错误做法"的建议，成功案例的分析则会产生"应该保留什么行为"的建议。

这些建议接下来会经历一个层层合并、去重、排序的过程。多个小批次的分析结果先分别合并，失败驱动的建议和成功驱动的建议再最终汇总，重复的删掉，矛盾的按照"修错误优先于强化成功"的原则取舍。最终剩下的，是一批按重要程度排好序的编辑操作。

然后是最关键的"编辑预算"控制。系统设定了一个当前步骤最多允许修改多少条规则的上限，这个上限就是"文本学习率"（edit budget）。排名靠前的编辑操作被选中，应用到当前技能文档上，生成一份候选的新版手册。这个设计的意义在于防止一次性改动太多：就像炒菜时一次加太多调料会彻底改变味道且无法挽回，无限制的改写可能把原本有用的规则全部覆盖掉，反而让AI表现变差。支持的调度方式包括固定预算、线性衰减和余弦衰减，默认采用余弦衰减——早期改动幅度大，后期越来越精细。

新版手册并不会直接生效，而是要接受"验证考核"。系统拿出一批专门保留的"验证集"任务，让同一个AI学员模型用新版手册执行一遍，看总分有没有提高。只有严格超过当前版本的分数，新版本才会被接受；平局也算失败，被拒绝。被拒绝的修改建议不会被丢弃，而是存入一个"失败编辑缓存"，告诉培训师"这条路走过了，行不通"，避免下次再犯相同的错误。

每隔一个"轮次"（epoch，可以理解为完整跑完一遍训练任务），系统还会做一次更宏观的回顾。它把同一批任务分别在上一轮结束时的手册和这一轮结束时的手册下重新执行，比较哪些任务变好了、哪些任务退步了、哪些问题始终没解决、哪些成功一直稳定。这些长周期观察会被写入技能文档的一个特殊保护区域，任何单步编辑都不能碰这块内容，只有轮次级别的回顾才能更新它。这就像员工档案里有一份"综合评语"，日常工作反馈可以调整工作流程，但不能随意改变综合评语。

此外，还有一份只属于培训师自己的"元技能"记录。它总结了哪类编辑在这个任务中往往有效、哪类编辑容易造成退步、哪些失败模式始终没被解决。这份记录不会出现在最终交付的手册里，只服务于培训师自身，帮助它在后续轮次里做出更明智的修改决策。

整个流程结束后，输出的是一个名为`best_skill.md`的文本文件，这就是经过层层验证的最优技能手册，体积非常小，通常只有三百到两千个词的长度，任何人打开都能直接读懂。

---

三、在哪些任务上测试，效果如何？

研究团队设计了一套覆盖面相当广的测试体系，用六个性质各异的任务基准、七个不同规模的AI模型，以及三种不同的"执行环境"来检验SkillOpt。

六个任务基准覆盖的范围包括：SearchQA（从搜索引擎结果中找答案）、SpreadsheetBench（操作电子表格，涉及复杂的代码生成和表格处理）、OfficeQA（企业级文档问答，需要调用多达24次工具）、DocVQA（基于文档图片的视觉问答）、LiveMathematicianBench（数学选择题推理）和ALFWorld（在家庭场景中连续做决策，每个任务最多走50步）。这六个任务的共同特点是它们分属不同类型：有些需要精确查找答案，有些需要严格遵守格式，有些需要程序化地操作工具，有些需要持续记忆和规划。

七个被测试的AI模型覆盖了从旗舰级到轻量级：GPT-5.5、GPT-5.4、GPT-5.4-mini、GPT-5.4-nano、GPT-5.2，以及来自另一个模型家族的Qwen3.5-4B和Qwen3.6-35B-A3B。

三种执行环境分别是：直接对话模式（把技能手册加在系统提示前面，直接调用模型）、Codex代理模式（通过Codex命令行工具在代码沙盒里执行任务）以及Claude Code代理模式（通过Anthropic的Claude Code命令行工具执行任务）。后两种模式代表了真实工程部署中常见的"代理执行循环"，对技能手册的要求比简单问答高得多。

与之对比的方法有六种。第一种是"无技能基线"，也就是完全不使用任何技能手册，直接运行模型；第二种是"人工编写技能"，由领域专家手动为每个任务写一份技能文档；第三种是"一次性LLM生成技能"，让GPT-5.5根据任务描述一次性生成一份技能文档，此后不再更新；第四种是Trace2Skill，一种从执行轨迹中提炼技能的方法，但没有验证门控；第五种是TextGrad，一种通过文本"梯度"优化提示词的方法；第六种是GEPA，一种通过反思进化来改进提示词的方法。在代理执行环境下，还额外对比了EvoSkill，一种在失败分析下演化技能文件夹的方法。

结果相当清晰。在52个"模型×任务×执行环境"的组合格子中，SkillOpt在全部52个格子里都是最优或并列最优。这种全面性在AI研究中并不多见，通常某种方法在一类任务上表现好，在另一类上就会有所失色。

具体的数字更能说明问题的规模。以旗舰模型GPT-5.5在直接对话模式下为例：SearchQA从77.7分提升到87.3分；SpreadsheetBench从41.8分跃升到80.7分，几乎翻倍；OfficeQA从33.1分升至72.1分，涨幅超过39个百分点；DocVQA从78.8分升至91.2分；LiveMathematicianBench从37.6分升至66.9分，涨幅近30个百分点；ALFWorld从83.6分升至95.5分。六个任务平均提升23.5个百分点。与所有对比方法中表现最好的那个相比，SkillOpt平均还领先5.4个百分点——这意味着它不仅比单一方法好，连"每道题单独选最优方法"的理想情况都不如它。

在Codex代理环境和Claude Code代理环境下，GPT-5.5分别平均提升了24.8个百分点和19.1个百分点，超越了这两种环境下最强竞争对手EvoSkill分别14.0和3.2个百分点。

小模型受益更明显。GPT-5.4-nano是一个相对轻量的模型，在DocVQA上从30.8分升至80.2分，在ALFWorld上从34.3分升至69.4分，基本上翻了一倍。跨越七个模型的平均提升约为17.6个百分点。这个规律符合直觉：小模型本身储备的程序性知识更少，一份好的技能手册能弥补的空间也就更大。

---

四、哪些设计真正起作用了？

研究团队做了细致的拆解实验，逐一验证SkillOpt各个设计环节的实际贡献，使用GPT-5.5同时担任被培训模型和培训师模型，在SearchQA、SpreadsheetBench和LiveMathematicianBench三个基准上进行对比。

关于训练数据量，结果显示数据越多效果越稳定，但搜索类任务（SearchQA）在用了20%的训练数据后提升就趋于饱和，而电子表格任务（SpreadsheetBench）则一直随着数据增加而持续改进。这说明对于那些需要复杂程序性知识的任务，充足的训练样本尤为重要。

关于反思小批次的大小，从1个到32个的各种设置下，搜索任务的分数始终在85.9到87.1之间小幅波动，电子表格任务在75.4到77.9之间，稳定性相当强。这意味着系统对这个参数的选择不敏感，不需要精细调校。

关于编辑预算（文本学习率），对比了1、2、4、8、16五个档位。适中的预算（4到8）在综合表现上最好，但即便是最小预算1或最大预算16，表现也都不差。关键的对照是"完全不设预算"的情况：允许无限制改写的版本，在SearchQA上从87.1分降到84.6分，在SpreadsheetBench上从77.5分降到75.7分，在LiveMath上从61.3分降到57.3分。无约束的改写反而更差，印证了"有节制的修改比大刀阔斧更靠谱"的判断。

关于失败编辑缓存的作用，移除它之后三个任务的分数分别下降了1.6、4.6和2.4个百分点。虽然单个数字不算巨大，但它的存在保证了培训师不会在同一个陷阱里反复跌倒。

关于轮次级别的慢更新和元技能，这两者的作用最显著。把"元技能"和"慢更新"同时移除后，SpreadsheetBench的分数从77.5分骤降到55.0分，整整少了22.5分，是所有消融实验中最大的跌幅。这说明对于那些需要长期积累程序性知识的复杂任务，仅靠单步反馈是远远不够的，跨轮次的纵向洞察起到了关键作用。

---

五、学到的技能能不能"换个地方用"？

研究中最令人关注的发现之一，是技能手册的可迁移性。

研究团队测试了三个维度的迁移。第一个维度是"跨模型迁移"：用GPT-5.4训练出的电子表格技能手册，直接拿给GPT-5.4-mini和GPT-5.4-nano使用，无需重新训练。结果是三个目标模型都比它们自己的无技能基线提升了，GPT-5.4本身提升了10.7分，GPT-5.4-mini提升了9.4分，GPT-5.4-nano也提升了3.0分。有趣的是，在数学任务上，迁移过来的手册在GPT-5.4-mini和GPT-5.4-nano上的表现，甚至超过了为它们专门训练的原版手册。

第二个维度是"跨执行环境迁移"：把在Codex环境里训练的电子表格技能手册，直接拿到Claude Code环境里用。电子表格任务的得分从Claude Code环境的22.1分（无技能基线）升至81.8分，涨幅高达59.7分，并且略微超过了在Claude Code里直接训练出来的80.4分。反方向（Claude Code训练，搬到Codex用）也得到了43.6分的提升。这说明技能手册学到的并不是某个工具的专属命令，而是更本质的任务逻辑，比如"先检查工作簿结构、再定位目标范围、最后写入静态计算值"这类规则，无论用什么工具执行都同样有效。

第三个维度是"跨任务基准迁移"：用OlympiadBench（奥林匹克级别数学题）训练出来的技能手册，直接拿去做Omni-MATH（另一个通用奥数基准），无需重新训练。三个模型的得分分别提升了3.7、1.8和1.3个百分点。绝对数值不大，但全部是正向的，说明技能手册里编码的数学解题策略确实具有普适价值，而不是死记了OlympiadBench的特定题型。

研究团队还测试了"如果用更强的培训师会怎样"。同样的训练流程，用GPT-5.5作为培训师和用被培训模型本身作为培训师，结果是强培训师在每个测试组合上都能得到更大的提升，但自我培训也能恢复强培训师增益的56%到74%。这意味着即使没有条件使用最强的外部模型来优化技能，SkillOpt的这套框架本身也能带来实质性的提升。

---

六、最终手册长什么样，花了多少代价？

研究团队仔细检查了最终输出的技能手册，统计了它们的体积、修改次数和训练成本。

六个任务的最终手册长度从379个词（数学任务）到1995个词（电子表格任务）不等，中位数约为920个词。换个说法，最长的手册也就相当于一篇稍长的微信推文，几分钟就能读完。

更值得关注的是修改次数。六个任务里，最终被接受并写入手册的编辑操作只有1到4次，中位数是2.5次。数学任务提升了29.3个百分点，只靠了一次成功编辑；企业文档任务提升了39.0个百分点，同样只接受了一次修改。这说明验证门控在严格执行：培训师提出了大量建议，但只有极少数通过考核。大部分"训练计算量"花在了探索和排除无效方案上，最终部署的手册是高度浓缩的。

训练成本方面，不同任务差异很大。处理简短任务的电子表格、企业文档和数学基准，平均每提升一个百分点只需要0.6到3.6M个词的训练开销，总开销在20M到23M词左右。而需要处理长轨迹或丰富视觉内容的SearchQA和DocVQA，每个百分点的成本约为38M到46M词。关键的是，这个成本只在训练阶段支付一次，手册一旦训练好，部署时对被培训模型而言仅仅是多了几百到两千个词的前缀，没有任何额外开销。

研究团队还逐任务摘出了最有代表性的规则，这些规则是从部署手册中原文提取的。电子表格任务的规则是："检查工作簿结构和公式，然后在完整的目标范围内写入计算后的静态值，而不是依赖Excel的自动重算。"企业文档任务的规则是："以已解析的页面为主要证据，锁定表格、日期和单位上下文，精确输出所要求的四舍五入数值，不附加额外标签。"数学任务的规则是："在'最强命题'类型的选择题中，按定理强度对选项排序，优先选择经过验证的更强结论，而非更弱的推论。"ALFWorld任务的规则是："保持一个感知时间窗口的已访问位置和待探索边界的记录，在连续同类型失败后多样化搜索路径，在拿到目标物品之前避免重复访问目的地。"这些规则的共同特点是，它们都在描述一种操作纪律，而不是在记忆某道具体题目的答案，这正是它们能够泛化迁移的根本原因。

---

说到底，SkillOpt做的事情用一句话概括就是：把"如何让AI越用越好"这件事，从一门玄学变成了一门工程。过去大家要么手写一份教程给AI，要么让AI自己折腾，结果好不好全靠运气。现在有了一套像深度学习训练那样有据可查、有验证把关、有历史记忆的优化流程，技能手册的每一次改动都是可追溯的，每一次接受或拒绝都是有依据的。

这对普通人意味着什么？当你在使用基于AI代理的工作工具时，背后可能就有类似这样的机制在悄悄工作：它在学你的工作流，把总结出来的规律存进一个小文件，下次再遇到同类任务时，就不会再犯同样的错误。最吸引人的是，这种进步不需要修改AI本身，就像给一位员工更新工作手册，而不是重新雇一个人。

当然，这套方法也有它适用的边界。它目前最擅长的是有明确评分标准的任务——有正确答案的题目、有客观指标的操作任务。对于那些"好不好很难说清楚"的开放性创作任务，怎么设置合适的验证门控，仍然是一个待解决的问题。另外，它优化的是单一任务的技能手册，如果一个AI代理需要在几十个完全不同的领域都表现出色，需要维护和管理多份手册的机制还有待开发。研究团队也在论文中明确提到了这些局限，并指出未来可能的方向：技能手册库、偏好驱动的验证、以及把优化好的技能手册再蒸馏回模型权重。

对SkillOpt感兴趣的读者，可以通过arXiv编号2605.23904检索完整论文，代码则发布在微软官方渠道。

---

Q&A

Q1：SkillOpt优化的"技能手册"到底是什么东西，和普通提示词有什么区别？

A：技能手册是一段自然语言文本，专门描述如何处理某类任务的操作流程、工具使用规范、输出格式要求和常见错误规避方法，可以理解为一份有深度的岗位操作指南。普通提示词通常只是一次性的任务说明，技能手册更强调程序性和可复用性，而且SkillOpt会通过反复执行和验证来不断修订它，而不是一次性写完就不变了。

Q2：SkillOpt在测试中为什么对电子表格任务的提升特别大？

A：因为电子表格任务有非常严格的操作规范，比如要写入静态计算值而不是公式、要覆盖完整的目标范围、要跨多个工作表定位表头，这些都是AI不在技能手册里明确写出来就很容易犯错的程序性知识。SkillOpt能从失败案例中精准识别这类系统性错误并编入手册，所以提升幅度从41.8分跃升到80.7分。

Q3：SkillOpt训练好的技能手册能不能直接用在其他AI模型上，还是只对训练时用的那个模型有效？

A：可以迁移，但效果会有所衰减。研究结果显示，用大模型训练出来的技能手册，迁移到小模型上仍然能带来正向提升，只是提升幅度通常小于专门为小模型训练的版本。跨执行环境（比如从Codex环境迁移到Claude Code环境）的效果在电子表格任务上甚至不降反升，说明手册里编码的是任务本质逻辑，而不是某个工具的专属命令。