SHARE：一种基于小型语言模型的分层行动修正助手，助力文本到SQL转换

近日，香港大学、北京智源研究院和香港中文大学（深圳）的研究团队联合发表了一项突破性研究，为文本到SQL查询的自动修正提供了全新解决方案。这项名为"SHARE: An SLM-based Hierarchical Action CorREction Assistant for Text-to-SQL"的研究由葛曲、李晋阳、秦博文、李小龙、霍楠、马晨浩和郑仁昌共同完成，于2025年5月31日发表在arXiv预印本平台（arXiv:2506.00391v1）。有兴趣深入了解的读者可以通过该论文链接获取完整研究内容。

想象一下，你正试图用自然语言向数据库提问。比如，你想知道"请列出1985年1月1日之后出生并且有正常类风湿因子的患者的疾病"。你的助手需要将这个问题转换成数据库能理解的SQL语言。但有时候，这个转换过程会出错，比如使用了错误的函数（如YEAR()）或选择了错误的数据库列。

当前解决这类问题的方法主要有两种：一种是"自我调试"，即让大型语言模型（LLM）根据数据库执行的反馈自行修改SQL；另一种是"自我纠正"，让模型在没有外部反馈的情况下自行检查并修改自己的输出。但这两种方法都存在明显缺陷：前者需要直接访问数据库（这在很多隐私敏感的场景中是不允许的），而且数据库的错误提示通常过于简洁；后者则往往需要多次调用昂贵的LLM，计算成本高昂，而且LLM对自己的输出有一种"自我增强偏见"，往往无法有效识别自己生成的SQL中的错误。

香港大学团队提出的SHARE框架巧妙地解决了这些问题。想象一下，SHARE就像是一个由三位专家组成的小型顾问团，每位专家各司其职，协作完成SQL修正任务。这三位专家分别是基础行动模型（BAM）、模式增强模型（SAM）和逻辑优化模型（LOM），它们都是经过特殊训练的小型语言模型（SLM），参数量不超过8B。

这个顾问团的工作流程非常清晰：首先，BAM将原始SQL查询转换为行动轨迹，就像是将一道复杂的菜谱分解成一系列简单的步骤；然后，SAM检查并修正这些步骤中与数据库结构相关的错误，就像是确保菜谱中提到的每种食材都能在你的厨房找到；最后，LOM优化这些步骤的逻辑关系，确保它们能够正确地组合在一起，就像是确保烹饪步骤的顺序正确无误。

研究团队还创新性地提出了"层次化自演化"训练策略，大大提高了模型训练的数据效率。传统方法通常需要反复向教师模型（如GPT-4）请求生成新的训练实例，而SHARE则充分利用已训练好的BAM来合成和增强特定任务的训练数据，针对文本到SQL转换的不同方面。这种方法不仅降低了注释成本，还保持了较高的性能表现。

实验结果令人印象深刻。在BIRD和SPIDER等四个多样化的文本到SQL基准测试上，SHARE显著提升了SQL生成准确率。例如，当与GPT-4o配合使用时，SHARE-8B在BIRD上的执行准确率相对提高了14.80%，在SPIDER上相对提高了11.41%，而且只需要一轮修正。更令人惊喜的是，SHARE的修正能力表现出很强的泛化性，它不仅适用于各种复杂度的查询，也能在低资源环境中保持良好表现，甚至能适应各种生成器模型，包括闭源和开源的LLM。

这项研究为我们展示了一种全新的协作方式：小型语言模型可以通过精心设计的分工合作，高效地辅助大型语言模型完成复杂任务。这不仅降低了计算成本，还提高了任务准确率，特别是在像文本到SQL这样对隐私和准确性要求都很高的应用场景中。

一、SHARE：分层行动修正的新思路

想象一下，我们正在教一个智能助手如何将我们的日常问题转换成数据库查询语言。这就像是教一个外国朋友理解我们的请求并帮我们从图书馆找书——我们用自然语言表达需求，而他需要理解并按图书馆的编目系统找到正确的书籍。

在这个过程中，有时会出错：我们的助手可能听错了我们要找的书名，或者弄混了图书馆的分类方法。当前解决这类问题的方法有两种：一种是"自我调试"，即让助手去图书馆试一试，如果找不到书，根据图书管理员的反馈再调整；另一种是"自我纠正"，让助手在出发前先自己检查一遍，看看有没有理解错误。

然而，这两种方法都有问题。"自我调试"要求我们的助手必须能进入图书馆（这在某些私人图书馆可能不被允许），而且图书管理员的提示可能很简单（如"没有这本书"），不够具体。而"自我纠正"则需要我们的助手反复思考，这不仅耗时，还可能因为助手对自己的判断过于自信而忽视错误。

香港大学的研究团队提出了一个创新解决方案：SHARE（基于小型语言模型的分层行动修正助手）。这就像是给我们的助手配备了一个由三位专家组成的顾问团，每位专家各司其职，共同确保助手能准确理解我们的需求并找到正确的书籍。

首先，我们有基础行动模型（BAM）。它的工作是将复杂的请求分解成一系列简单的步骤。比如，当我们说"找一本关于二战的历史书，作者是英国人，出版于2000年后"时，BAM会将其分解为：1）找历史类书籍；2）筛选主题为二战的书；3）筛选英国作者的书；4）筛选2000年后出版的书。

其次是模式增强模型（SAM）。它负责确保每个步骤中提到的信息在图书馆的编目系统中是存在的。比如，检查"历史类"是否是图书馆的一个有效分类，"作者国籍"是否是可查询的属性等。

最后是逻辑优化模型（LOM）。它确保这些步骤的逻辑关系正确，能够组合成一个有效的查询。比如，确保先按主题筛选，再按作者筛选，最后按出版日期筛选，而不是搞混顺序。

这三位专家协同工作，形成了一个高效的修正流程：BAM将原始请求转换为行动轨迹，SAM修正其中的模式相关错误，LOM优化逻辑关系，最终产生一个准确的查询方案。

研究团队还创新地使用了"层次化自演化"训练策略。传统方法通常需要不断向一个大型语言模型（想象成一位资深专家）请教，为每个新场景生成训练实例。而SHARE则是让BAM在学习了基本知识后，自己生成训练数据来教导SAM和LOM，这大大降低了对资深专家的依赖，节省了资源。

通过在多个基准测试上的实验，SHARE展示了显著的性能提升。当与GPT-4o配合使用时，在BIRD数据集上的执行准确率从55.87%提高到64.14%，相对提升了14.80%；在SPIDER数据集上从77.10%提高到85.90%，相对提升了11.41%。而且，SHARE只需一轮修正就能达到这样的效果，计算成本仅为传统方法的十分之一。

更令人惊喜的是，SHARE表现出强大的适应性和泛化能力。它不仅能处理各种复杂度的查询，还能在低资源环境中保持良好表现。即使只使用50%的训练数据，它也能超越当前最先进的方法。此外，它还能适应不同的SQL方言（如MySQL和PostgreSQL），即使没有针对这些方言进行专门训练。

二、技术原理：三位专家的精妙配合

要理解SHARE的工作原理，我们可以把它想象成一个修理汽车的团队。当你的车出了问题，你可能会用日常语言描述："车子启动时发出奇怪的声音，加速时有点抖动。"而专业修理工需要将这个描述转换成具体的检查和修理步骤。

在SHARE框架中，有三位专家协同工作，将我们的自然语言问题转换成数据库能理解的SQL语言，并在这个过程中发现并修正可能的错误。

首先登场的是基础行动模型（BAM）。它就像是修车团队中的接待员，负责理解客户的描述并将其转换为一系列检查步骤。在SHARE中，BAM接收原始SQL查询（可能含有错误），将其转换为行动轨迹——一种类似pandas API的步骤序列。这些步骤清晰地展示了SQL查询背后的推理过程，使得错误更容易被识别。

例如，当我们问"列出1985年1月1日之后出生且有正常类风湿因子的患者的疾病"时，初始SQL可能写为： ``` SELECT p.Diagnosis FROM Patient p JOIN Laboratory l ON p.ID = l.ID WHERE YEAR(p.Birthday) >= 1985 AND l.RA IN ('-', '+-') ```

BAM会将其转换为行动轨迹： ``` df1 = df.where(element = Patient.Birthday, filter = 'YEAR(Birthday) >= 1985') df2 = df1.where(element = Laboratory.RA, filter = "IN ('-', '+-')") res = df2.select(Patient.Diagnosis) ```

这种表示方式清晰地显示了查询的每一步操作，使得错误（如使用不支持的YEAR函数）更容易被发现。

接下来是模式增强模型（SAM）。它就像修车团队中的零件专家，负责确认每个检查步骤中提到的零件确实存在于该型号的汽车中。在SHARE中，SAM专注于识别和修正与数据库模式相关的错误，如表名或列名错误、缺少必要的表连接等。

SAM先将行动轨迹中的模式相关部分替换为掩码（[MASK]），然后根据数据库结构信息重新填入正确的模式。在上面的例子中，SAM可能发现YEAR函数在该数据库中不支持，应该改用直接比较日期的方法：

``` df1 = df.where(element = Patient.Birthday, filter = '>= 1985-01-01') df2 = df1.where(element = Laboratory.RA, filter = "IN ('-', '+-')") res = df2.select(Patient.Diagnosis) ```

最后登场的是逻辑优化模型（LOM）。它就像修车团队中的首席技师，负责确保所有检查步骤的逻辑顺序正确，能够高效地解决问题。在SHARE中，LOM专注于优化行动轨迹的逻辑结构，确保查询的条件组合、排序和筛选等操作正确无误。

LOM会检查行动轨迹的逻辑完整性，确保所有必要的操作都包含在内，并按正确的顺序排列。在复杂查询中，这一步尤为重要，因为逻辑错误可能导致查询返回错误的结果或者执行效率低下。

这三位专家通过层次化的流程协同工作：BAM首先将SQL转换为行动轨迹，SAM修正模式相关错误，LOM优化逻辑结构，最终产生一个准确的行动轨迹，可以被转换回正确的SQL查询：

``` SELECT p.Diagnosis FROM Patient p JOIN Laboratory l ON p.ID = l.ID WHERE p.Birthday >= '1985-01-01' AND l.RA IN ('-', '+-') ```

为了训练这三个模型，研究团队创新性地提出了"层次化自演化"策略。想象一下，这就像是师傅先教会徒弟基本技能（BAM），然后让这个徒弟去教其他两位徒弟（SAM和LOM）更专业的技能，而不是师傅亲自教所有人。

具体来说，研究团队先使用GPT-4o生成高质量的行动轨迹来训练BAM。然后，BAM生成训练数据来训练SAM，通过创建模式掩码变体和提供正确的填充方式。最后，BAM还通过动作扰动策略生成带有各种逻辑错误的行动轨迹，用于训练LOM识别和修正这些错误。

这种训练方法不仅降低了对昂贵大型语言模型的依赖，还使得整个训练过程更加高效和针对性强。实验表明，这种策略能够有效地训练出三个高性能的专家模型，它们协同工作，大大提高了SQL查询的准确性。

三、实验结果：全面的性能提升

SHARE的表现如何呢？研究团队在多个数据集上进行了全面测试，结果令人印象深刻。就像是一支高效团队在各种比赛中都取得了优异成绩。

首先，研究团队在BIRD和SPIDER这两个主流跨域文本到SQL基准测试上评估了SHARE的性能。BIRD是目前最具挑战性的大规模跨域文本到SQL基准，而SPIDER则是一个更标准的跨域文本到SQL基准。在这两个数据集上，SHARE展示了显著的性能提升。

当GPT-4o作为生成器模型时，加入SHARE-8B（基于Llama-3.1-8B构建）辅助后，在BIRD数据集上的执行准确率从55.87%提高到64.14%，相对提升了14.80%；在SPIDER数据集上从77.10%提高到85.90%，相对提升了11.41%。而且，SHARE只需一轮修正就能达到这样的效果，计算成本仅为传统方法的十分之一。

这种性能提升是全面的，无论是简单查询、中等复杂度查询还是高度复杂的查询，SHARE都能提供一致的改进。这说明SHARE不仅能处理基本情况，还能应对各种复杂的查询场景。

更令人惊喜的是，SHARE的泛化能力非常强。研究团队还在DK和REALISTIC这两个SPIDER的变种数据集上进行了测试，这些数据集要求模型具备域知识推理能力或处理更接近真实场景的问题。在没有任何额外训练的情况下，SHARE-8B在DK上将GPT-4o的准确率从64.10%提高到75.30%，在REALISTIC上从73.40%提高到81.50%。这表明SHARE学到的修正能力可以泛化到各种不同的数据集和任务场景。

SHARE的适应性也非常强。它不仅能与GPT-4o配合，还能提升各种不同生成器模型的性能，包括专有闭源模型（如Claude-3.5-Sonnet）和开源替代方案（如Llama-3.1-70B）。例如，SHARE-8B将Claude-3.5-Sonnet在BIRD上的准确率从49.41%提高到63.56%，相对提升了28.64%；将Llama-3.1-70B的准确率从53.91%提高到61.93%，相对提升了14.88%。这表明SHARE的修正能力不局限于特定模型的错误模式，而是能够理解和修正SQL生成过程中的一般性错误。

在低资源环境下，SHARE同样表现出色。研究团队进行了低资源训练分析，使用10%、20%和50%的训练数据进行实验。结果显示，即使只使用50%的训练数据，SHARE-8B辅助的GPT-4o也能达到60.71%的准确率，超过了目前最先进的MAGIC方法（59.53%）。这对于有数据隐私约束的文本到SQL应用尤其有价值。

SHARE还展示了跨SQL方言的泛化能力。主流文本到SQL基准主要使用SQLite作为目标SQL方言，但在现实应用中，MySQL和PostgreSQL等方言因其许可限制和专有属性更为常用。尽管没有针对这些方言进行专门训练，SHARE在MySQL和PostgreSQL上仍展示了有效的性能，这归功于SHARE专注于学习低级推理路径修正，使其能够泛化到各种高级SQL方言。

最后，研究团队还进行了SQL错误修正的定量分析。他们将观察到的错误分为两类：基于模式的错误和基于逻辑的错误，每类又细分为三个具体子类型。结果表明，SHARE能有效减轻两类错误，尤其是属性过度分析（下降18.61%）、模式矛盾（下降7.24%）和子句滥用（下降7.54%）。这表明SHARE的分层修正方法能够有效地识别和修正各种类型的SQL错误。

四、创新价值与应用前景

SHARE框架的提出标志着文本到SQL自动修正领域的一个重要突破。它像是在汽车行业引入了一种全新的生产线，不仅提高了产品质量，还降低了生产成本。

首先，SHARE创新性地将SQL修正任务分解为三个互补的步骤：行动轨迹生成、模式增强和逻辑优化。这种分层设计使得每个子模型可以专注于特定类型的错误，提高了整体修正的精确性和效率。就像是将汽车检修分给不同的专家：一位负责识别问题，一位负责检查零件，一位负责确保修理步骤的正确性。

其次，SHARE提出的行动轨迹表示法为SQL查询提供了一种更加结构化和可解释的形式。这种表示法将声明式SQL查询转换为步骤式操作序列，清晰地展示了查询背后的推理过程，使得错误更容易被识别和修正。这就像是将复杂的烹饪食谱分解成一系列简单的步骤，使得每一步都可以被独立检查和调整。

第三，SHARE的"层次化自演化"训练策略大大提高了模型训练的数据效率。传统方法通常需要反复向昂贵的大型语言模型请求生成新的训练实例，而SHARE则充分利用已训练好的基础模型来合成和增强训练数据，这不仅降低了训练成本，还使得训练过程更加针对性和高效。

SHARE的实际应用前景非常广阔。首先，它可以直接集成到各种文本到SQL系统中，提高这些系统的准确性和可靠性。特别是在那些不允许直接访问数据库（如出于隐私考虑）的场景中，SHARE提供了一种不依赖执行反馈的有效修正机制。

其次，SHARE的低计算成本使其非常适合部署在资源受限的环境中。与需要多次调用大型语言模型的传统方法相比，SHARE只需要一次调用生成器模型和三个小型专家模型，大大降低了计算负担和运行成本。

第三，SHARE的模块化设计使其易于扩展和适应不同的应用场景。研究团队展示了SHARE可以与各种不同的生成器模型配合使用，包括专有闭源模型和开源替代方案，这为不同预算和需求的用户提供了灵活的选择。

最后，SHARE的方法可能不仅限于文本到SQL领域，其基本思路和架构可以推广到其他代码生成任务，如文本到Python、文本到Java等。通过适当的调整和训练，SHARE的分层修正方法可能为各种代码生成任务提供类似的性能提升。

总的来说，SHARE不仅是一个强大的文本到SQL修正助手，更是一种新型的协作范式：小型语言模型可以通过精心设计的分工合作，高效地辅助大型语言模型完成复杂任务。这种范式不仅降低了计算成本，还提高了任务准确率，为未来的人工智能系统设计提供了宝贵的启示。

研究团队已经开源了SHARE的代码，有兴趣的读者可以通过GitHub（https://github.com/quge2023/SHARE）访问，这为更广泛的研究社区和实际应用提供了便利。