六只蜜蜂翻译模型：当一个语言模型学会用答案而不是对照句来学翻译

你有没有想过，一个翻译软件把中文问题翻译成英文时，到底是在"理解"你问的是什么，还是只是在机械地替换词语？

这个问题听起来有点抽象，但2026年一篇来自伊朗科技大学的论文，用一个挺巧妙的办法回答了它。他们训练了一个叫HexaBee-4B的翻译模型，专门处理阿拉伯语、中文、英语、希伯来语、波斯语和西班牙语这六种语言之间的互译。有意思的不是这六种语言本身,而是他们怎么训练这个模型的。

先说结果。在三万六千多条测试样本上，这个4B参数（也就是40亿参数）的小模型，翻译质量的chrF++评分达到73.75分，而同样大小的Gemma 3 4B IT基础模型只有57.11分，甚至比参数量是它三倍的Gemma 3 12B IT（66.83分）还要高出将近7分。

一个小模型打赢了比自己大三倍的模型,这事儿听起来有点反常。要搞懂为什么,得先弄明白翻译这件事到底难在哪儿。

**翻译不是查字典,是在两种语言里讲同一件事**

很多人对翻译的直觉理解,停留在"把A语言的词换成B语言的词"。但如果真这么简单,我们早就不需要专门训练翻译模型了,一本词典加语法规则就够了。

真正的难点在于,翻译要求模型做两件同时发生的事：读懂原文在说什么,然后用另一种语言,把这个意思原原本本地表达出来，同时还得遵守"必须用目标语言回答"这条硬性规则。

**谷歌在2017年就提出了多语言神经翻译的一个核心设计原则：模型必须显式地知道要生成哪种语言的文本,这个信号不能含糊。**

这听起来像废话，但实际操作中很容易出问题。设想一个场景：你让一个语言模型用西班牙语回答"红色星球是哪颗行星"。如果模型只是单纯学过"回答问题"这件事,它完全可能用英语作答,因为它脑子里存储的事实大概率是英文维基百科学来的。模型知道答案，但不知道"这次必须用西班牙语说"这件事有多重要。

这篇论文的作者们意识到一个关键区别：**一个问题和它的答案,完全可以用不同的语言。**

这句话听起来简单,但分量不轻。它意味着"用西班牙语回答一个英文问题"和"把一段英文翻译成西班牙语"，虽然看起来风马牛不相及（一个是问答,一个是翻译）,但其实可以共享同一个目标：都是要生成一段地道的西班牙语文本,表达同一个意思。

论文里给了一个具体例子。假设有个英文问题"哪颗行星被称为红色星球",系统要求用西班牙语回答,模型的任务是直接生成"Marte es conocido como el planeta rojo"（火星被称为红色星球）。另一边,如果给模型一句英文答案"Mars is known as the Red Planet",让它翻译成西班牙语,目标输出是一模一样的西班牙语句子。

**问答任务*：给模型一个问题，要求它用指定的语言回答，考验的是模型能不能把脑子里存的知识用对的语言说出来。**

**翻译任务（MT）*：给模型一段文本，要求它翻译成另一种语言，考验的是模型能不能在不改变意思的前提下换一层语言外壳。**

两个任务输入不同、指令不同,但如果设计得巧妙，它们可以指向同一个西班牙语答案。这就是这篇论文的核心设计思路：用共享的多语言答案文本，把问答训练和翻译训练拧在一起。

这就好比你在教一个刚学外语的朋友说话。如果你只教他"把这句中文翻译成英文",他学会的可能只是逐字替换的本领，遇到稍微绕一点的问法就露馅。但如果你同时让他用英文回答各种问题，又让他做翻译练习，而且这两种练习最终落脚点都是"说出同一句地道的英文"，他对这门语言的掌握会更扎实，因为他是从"表达意思"这个角度在学，而不是从"替换符号"的角度在学。如果跳过这一步，直接硬喂翻译语料，模型很可能学会了句式的对应规律，却没真正建立起"意思优先于语言形式"这种更底层的理解。

**三阶段训练：从读百科全书到做双向翻译**

搞清楚了核心设计思路,接下来看这个模型具体是怎么一步步炼成的。整个训练过程分三个阶段,每个阶段解决不同的问题。

**第一阶段：维基百科持续预训练**

模型起点是Gemma 3 4B IT，谷歌开源的一个40亿参数的指令微调模型。

**LoRA*：全称Low-Rank Adaptation（低秩适配），一种给大模型做微调的省钱办法。不用把模型所有参数都重新训练一遍（那样太贵），而是只训练一小部分额外插入的参数，训练完再把这部分参数"合并"回原模型里。

第一阶段用英语、波斯语、阿拉伯语、中文和埃及阿拉伯语的维基百科文本,对模型做"持续预训练"。这一步不涉及问答或翻译，纯粹是让模型多读百科全书式的文本，适应这种百科全书的语言风格和词汇用法。原始数据有1139万多行文本，处理后用于训练的是340万条样本，训练了一轮。

为什么要先做这一步？因为后面两个阶段要用到大量维基百科衍生的问答数据，如果模型对这类文本的语言风格还很陌生，直接上手问答和翻译训练，效果会打折扣。这就像让一个人去翻译医学论文之前，先让他读一阵子医学科普书，熟悉一下这个领域的说话方式，总比直接扔给他一堆专业术语要好。

**第二阶段：多语言问答与答案翻译联合训练**

这是整个方法里最核心的一步。研究者从202万多条维基百科衍生的问题行出发,先用波斯语内容做起点,再用Gemma 3 27B IT（一个更大的275亿参数模型）当"翻译老师",把这些内容扩展成多种语言的问题和答案版本。

具体流程是：波斯语先翻译成英语和阿拉伯语，再以英语为中转站，翻译成中文、希伯来语和西班牙语。这意味着部分语言对是通过英语"中转"生成的，不是每种语言两两之间都直接互译。

最终这个阶段保留了3015万多条训练记录，其中1945万多条是问答记录（576万条是跨语言问答，也就是问题和答案用不同语言），1069万多条是答案文本之间的互译记录。问答部分占了整体的64.5%，翻译部分占35.5%。

**系统指令（system instruction）*：训练数据里给模型下达的"任务说明"，比如"请用西班牙语回答"或者"请把这段话翻译成阿拉伯语"。这个指令本身写的是哪种语言，和它要求模型输出哪种语言，是两件独立的事。研究者特意在构造数据时保留了这个区别，没有想当然地认为"指令是英文写的，回答就该是英文"。

这个阶段训练完的适配器会和Gemma 3 4B IT合并，产生一个"多语言检查点"，供第三阶段继续使用。

**第三阶段：双向翻译专项训练**

前两个阶段打的是基础，第三阶段才是真正针对翻译任务做的"冲刺训练"。

这部分数据来源完全独立，用的是DeepSeek-V3.1生成的合成语料，覆盖不同主题、体裁、语域和难度等级，总共36.57万对文本，每对原文都配一个翻译成另一种语言的版本。其中32.91万对用于训练，3.66万对留作测试。

有个细节挺聪明的：每一对原文和译文,研究者让它产生两条训练记录，一条是正向翻译（原文到译文），一条是反向翻译（译文翻回原文）。这样不用再调用一次翻译模型，白捡了一倍的训练数据，总共65.8万多条记录。

这一步相当于什么呢？如果说前两个阶段是让模型打好语言基础、学会"用不同语言表达同一个意思"这件事，那第三阶段就是专门针对"翻译"这个具体任务做最后的精装修。用建筑来打比方，前两个阶段是打地基、砌墙，第三阶段是精装修、刷漆。如果没有这最后一步专项训练，模型可能对"回答问题"这件事很熟练，但未必能把"精确对应原文、不多不少地转换语言"这个翻译特有的严格要求练到位。毕竟问答任务允许一定的表达自由度,翻译任务却要求亦步亦趋地贴合原文。

**六边形评测：数字说话**

说完了训练过程,看看成果到底怎么样。

研究者在三万六千多条测试样本上，覆盖了六种语言之间全部30个翻译方向（比如中文到阿拉伯语、希伯来语到英语等等），用了五种自动评测指标。

**chrF++*：一种基于字符和单词重叠程度的翻译质量评分方法，分数越高说明翻译和参考答案越接近。

**BLEU*：另一种经典的机器翻译评分指标，衡量生成文本和参考译文之间n元词组的重合度。

**TER*：全称Translation Edit Rate，翻译编辑率，衡量把模型的翻译改成参考答案需要多少次编辑操作，这个指标越低越好。

**COMET*：一种基于神经网络训练出来的翻译质量评估模型，比单纯数词语重合更能捕捉语义层面的准确性。

在这几项指标上，HexaBee-4B全面胜出。BLEU从基线的40.70分提升到62.03分，TER从51.40降到30.05（记住TER是越低越好），COMET从85.88提升到89.86。而且这个提升不是某一个翻译方向特别突出撑起来的平均值，而是在全部30个方向上，相比两个对比模型都有正向提升。

其中提升最大的方向是中文翻译成波斯语，chrF++分数比基础的4B模型高出27.09分。提升最小的是英语翻译成西班牙语，也有6.64分的提升。这说明这个方法的效果不是局限在某一对特别"投缘"的语言上，而是覆盖了不同文字系统之间的转换。

不过研究者也诚实地指出了一个例外：中文翻译成希伯来语这个方向，HexaBee-4B的TER指标（90.09）反而比基础4B模型（88.40）还差，尽管BLEU和chrF++都更高。这说明不同指标有时候会"打架"，不能只看一个数字就下结论，这也是论文里特意强调的一点,体现了研究者没有选择性地只展示对自己有利的数据。

除了这些自动指标，研究者还用DeepSeek这个大模型当"裁判"，对300条匹配样本（每个方向10条）做了人工评分式的打分，涵盖语义准确性、术语使用、流畅度、上下文连贯等八个维度。结果同样支持HexaBee-4B领先：满分100分的综合评分里，HexaBee-4B拿到92.92分（有参考答案时）和94.10分（无参考答案时），基础4B模型只有80.32和81.43分。特别值得一提的是，术语使用这一项，HexaBee-4B从75.60分跃升到90.42分，目标语言的遵守程度从82.88分提升到96.15分，这恰好印证了前面说的核心设计思路：教会模型"必须用指定语言说话"这件事，效果是实打实的。

**这个方法到底解决了什么根本矛盾**

退一步想,这篇论文真正有意思的地方,不是具体的分数提升了多少，而是它提出的这套"问答和翻译共享答案目标"的思路，触及了一个更根本的问题：怎么让一个语言模型真正"理解"跨语言的意思转换，而不是停留在表面的符号替换上。

传统做法往往是直接喂给模型大量平行语料（原文和译文成对的句子），让它死记硬背这种对应关系。这种做法的问题在于，模型学到的可能更像是一种"句式映射表"，遇到训练数据里没见过的说法容易卡壳。而这篇论文的做法是，先让模型在"回答问题"这个更灵活、更需要理解内容的任务上，反复练习用不同语言表达同一个事实，然后再让它专攻翻译这个更严格的对应关系。相当于先教会一个人"用多种语言理解和表达一件事"，再教他"精确地把一种语言转换成另一种语言"，后面这一步会变得容易很多。

当然研究者自己也坦率承认了局限性：这个研究没有做"控制变量"式的消融实验，也就是说，没法确定到底是三个阶段里哪一个阶段的贡献最大，三者加在一起的效果和单独某一个阶段相比到底差多少，这些都还不清楚。测试数据也完全是合成的，裁判模型又和生成数据的模型（DeepSeek家族）师出同门，这可能让评测结果偏向于"像老师风格"的输出，未必能完全代表在真实人类撰写的文本上的表现。

写在后面

读完这篇论文,我印象最深的其实不是那个73.75分的跑分，而是"问题可以用一种语言问，答案可以用另一种语言答"这个看似简单的观察。

这让我想起小时候学英语的经历。老师教语法的时候，我们是在"分析句子结构"；但真正能用英语脱口而出表达想法，是在用英语讨论一件具体的事情，比如聊一本书、辩论一个观点的时候。前者是在学规则，后者是在学"用这门语言思考"。这篇论文做的事情，有点像是把语言模型的训练，从"学规则"往"用语言思考"上推了一把。

还有一处细节挺打动我，论文附录里专门披露了数据构造过程中的一些瑕疵，比如有1961条记录的系统指令要求模型用英语回答，但记录本身被归类成了"西班牙语目标"的训练数据，这是一个实实在在的标注错误。研究者没有把这个问题藏起来，而是用了一整节篇幅去讲清楚这个错误是怎么发生的、影响了哪些具体数据、占比是多少。这种把"脏数据"摆在台面上讨论的做法，在很多论文里是很少见的，往往大家都倾向于把实验结果打磨得尽善尽美。

这篇论文留下的一个开放问题是：如果把这套"问答驱动翻译学习"的思路，用在更多语言、更大模型上，会不会出现边际效益递减？毕竟六种语言和575万条跨语言问答数据，已经是个不小的工程投入，这套方法能不能真的推广到几十种甚至上百种语言的翻译系统里，论文本身没有给出答案。

Q&A

Q1：HexaBee-4B是什么？

A：HexaBee-4B是伊朗科技大学团队基于Gemma 3 4B IT训练的六语言翻译模型，支持阿拉伯语、中文、英语、希伯来语、波斯语、西班牙语之间的互译，训练分三个阶段：维基百科持续预训练、多语言问答与翻译联合训练、双向翻译专项训练。

Q2：HexaBee-4B翻译效果比参数更大的模型还好吗？

A：是的，在30个翻译方向的测试中，40亿参数的HexaBee-4B的chrF++得分为73.75，超过了参数量三倍的Gemma 3 12B IT（66.83分），也远超同体量的Gemma 3 4B IT基础版（57.11分）。

Q3：HexaBee-4B的核心训练思路是什么？

A：核心思路是让问答任务和翻译任务共享同一个多语言答案目标，比如用西班牙语回答一个英文问题，和把英文答案翻译成西班牙语，最终目标是同一句西班牙语文本，以此让模型更深入理解跨语言表达，而不只是死记硬背句子对应关系。