印度尼西亚有718种地方语言，它们的翻译软件在哪里？印尼日惹高校让AI学会"小众"语言的实验

这项由印度尼西亚日惹市日惹加达玛达大学（Universitas Gadjah Mada）计算机科学与电子系团队开展的研究，于2026年6月10日以预印本形式发布，论文编号为arXiv:2606.11786。研究聚焦于一种名为"古邦马来语"（Kupang Malay）的低资源语言，提出了一种名为Lius的翻译模型，通过设计特殊的语言学指令以及一套连续指令微调训练方法，大幅提升了大语言模型在低资源语言翻译任务上的表现。

打开手机上的翻译软件，输入一句英语、法语、日语，几乎都能秒出结果。但如果你输入的是印度尼西亚东努沙登加拉省（East Nusa Tenggara）居民日常说的古邦马来语，几乎所有翻译软件都会直接"罢工"——不是给出一堆乱码，就是干脆报错。

这不是个别现象。全球有数千种语言，绝大多数都处于这种"被遗忘"的状态。AI翻译模型的核心问题在于，它们需要用大量的双语对照文本来"喂养"——就像一个孩子学外语，靠的是大量听说读写练习。英语、法语的练习材料铺天盖地，但对于一个只有几百万人说的地方语言，哪来那么多材料？

这就是日惹加达玛达大学研究团队面对的难题，也是他们这项研究试图回答的核心问题：当训练材料极度匮乏时，能不能换一种方式教AI学翻译？

一、被"遗忘"的七百多种语言与翻译AI的尴尬困境

印度尼西亚是语言多样性极为丰富的国家，境内已记录的地方语言超过718种。光是爪哇语就有约8400万人使用，但在国际最大的平行语料库OPUS中，爪哇语的双语对照句对只有约1200万条。对比一下：荷兰语在同一库中有超过4亿条。这种悬殊的资源差距，直接决定了哪些语言能被AI"学会"翻译，哪些语言只能被晾在一边。

古邦马来语是一种以马来语为基础、经过克里奥尔化演变的语言，主要通行于帝汶岛西部，是东努沙登加拉省各族群之间的通用语。尽管使用人口估计约530万，但在OPUS、WikiMatrix、CCMatrix等主流多语言数据集中几乎找不到它的踪影。现有的古邦马来语数字资源极为有限，仅有Taxi1500、PanLex和Bhinneka Korpus等少数几个数据集，且覆盖面都相当有限。

这种局面不只是技术问题，背后还有现实困境：找到合格的古邦马来语标注人员本就不易，语言内部还存在方言差异（如Air Mata方言、Alor Malay方言和Basa Kupang方言），书写规范也不统一。这些因素叠加在一起，使得构建高质量双语语料库的难度远高于主流语言。

大语言模型（LLM）的兴起，本来给这个问题带来了一线希望。以GPT-3为代表的大语言模型在海量多语言文本上训练，理论上具备一定的跨语言能力，甚至在零样本场景下也能和传统翻译系统一较高下。然而现实并不乐观——这些模型在预训练阶段严重依赖英语文本，对于低资源语言，往往只是在"猜"，词汇和语义的把握都大打折扣。

正是在这样的背景下，研究团队提出了一套全新的解题思路：既然平行语料稀缺，能不能充分利用现有的双语词典，通过精心设计的"教学指令"，让模型更好地理解低资源语言的词汇和语义特征？

二、把词典变成"教材"：指令语言学方法的诞生

研究团队的核心创新，可以用一个贴近生活的比喻来理解：普通翻译AI的学习方式，就像让学生死记硬背大量例句；而这个团队的方法，更像是给学生配了一位懂教学法的老师，用词典、例句、语音规律和词语分组这四种不同的教学方式，轮番对同一个知识点进行强化训练。

这套方法被称为"指令语言学"（Instructional Linguistics），灵感来自教育学领域的几种成熟理论——包括由Engelmann和Wesley Becker提出的直接教学法（强调明确、系统地传递知识），以及Stephen Krashen的第二语言习得理论（强调可理解输入的重要性）。把这些教育学理念"迁移"到AI训练上，正是这项研究的独特之处。

在具体实现上，每一条训练数据都会经过一个句子表示提取的预处理步骤。研究团队借助KeyBERT方法，结合印度尼西亚语BERT模型（IndoBERT），从每个输入句子中提取出最具语义代表性的核心词。操作方式是：先获取整个句子的向量表示（通过BERT模型的特殊[CLS]标记输出），再获取句子中每个词的向量表示，然后计算每个词与整个句子在语义空间中的"相似度"（用余弦相似度衡量），相似度最高的那个词就被选作这个句子的"语义代表词"。这个代表词随后成为生成各类指令的起点。

有了这个核心词之后，四种不同类型的教学指令就可以分别生成了。

第一种是基于上下文的指令。研究团队会先在古邦马来语双语词典中找到核心词对应的古邦马来语翻译，再从词典中检索出若干包含这个词的古邦马来语例句，把这些例句嵌入指令中，让模型在真实语境下感知这个词的用法。这有点像语言老师在教新词时，不只给出单词解释，还配上几个完整的例句，帮助学生理解词汇在实际交流中的位置。

第二种是基于语义映射的指令，受到Ghazvininejad等学者研究的启发。在找到核心词的古邦马来语对应词后，研究团队用在古邦马来语单语语料上训练的FastText词向量模型，在古邦马来语词汇空间中找出与这个词语义最相近的若干邻居词，再把这些邻居词和它们对应的印度尼西亚语翻译一并放入指令。这就像是在教"苹果"这个词时，顺便告诉学生"梨"、"橘子"、"香蕉"也是相关的水果词汇，帮助模型建立词汇间的语义网络。

第三种是基于语音的指令，灵感来自Atkinson和Raugh在1975年提出的关键词记忆法。古邦马来语和印度尼西亚语在语音上有一定规律性的对应关系（比如某些辅音或元音在两种语言中系统性地互相对应），研究团队从双语词典中提取出这些语音转换规则，然后用序列匹配算法在古邦马来语词汇库中找出与核心词发音相似的其他词，把这些语音相近的词及其例句放入指令。这类似于学英语时发现"night"和"knight"发音相同，通过这种语音联系帮助记忆。

第四种是基于分组标签的指令，受到Martha Rekrut在1996年提出的词汇教学策略启发。这种方法先提取出句子中最具代表性的若干词，对每个词在古邦马来语中找出语义最近的邻居词，再把这些词按语义类别分组并打上标签，形成一个类似词汇分类表的结构放入指令。这就像把词汇按"食物"、"动物"、"动作"等类别整理，帮助模型在翻译时建立更清晰的语义范畴感知。

三、连续指令微调：让AI在"轮番强化"中成长

有了四种不同类型的指令之后，研究团队面临的下一个问题是：该怎么用这些指令来训练AI？

传统的微调方式很直接：给模型一个输入，告诉它正确的输出，重复足够多次，模型就学会了。但这种方式只给模型提供了一种"视角"，对于低资源语言来说，每种视角都弥足珍贵。

研究团队提出的"连续指令微调"（Continual Instruction Tuning，CIT）方法，就是要让模型把同一个翻译任务从四种不同角度都学一遍。具体来说，对于同一个输入句子，会生成四套不同类型的指令（上下文型、语义型、语音型、分组标签型），每套指令都对应同一个目标翻译输出。模型先在"输入+指令1→目标翻译"这个组合上训练，然后接着在"输入+指令2→目标翻译"上训练，依此类推，直到完成第四套指令。

这种训练方式受到了课程学习（curriculum learning）和自我纠正机制等研究的启发。与普通微调相比，CIT本质上把每个训练样本的信息密度提升了四倍——模型不只是学到了"这句话怎么翻译"，还学到了"为什么这么翻译"的多种语言学依据。

为了防止模型在专注学习古邦马来语翻译的过程中"忘记"之前学到的其他语言能力（这是机器学习中常见的"灾难性遗忘"问题），研究团队还引入了"经验回放"（Experience Replay）技术：从Cendol模型原有的训练数据集中随机抽取1000条样本，混入新的指令数据一起训练，让模型保持对多语言通用知识的记忆。

四、用什么模型来训练？数据从哪里来？

研究团队选择了Cendol mT5作为基础模型。Cendol mT5是一个开源的多语言大语言模型，专门针对印度尼西亚语及18种印尼地方语言进行了优化，由Cahyawijaya等研究者于2024年发布。研究团队分别使用了该模型的三个规模：约3.5亿参数的小型版（mT5-small）、约5.8亿参数的基础版（mT5-base），以及约12亿参数的大型版（mT5-large）。

训练数据的来源相当多元。平行语料（即印度尼西亚语和古邦马来语的双语对照句对）从三个主要来源汇集而来：Bhinneka Korpus（一个专门为印尼地方语言构建的平行数据集）、BibleNLP（圣经多语言版本数据集）以及The Language Archive（语言档案库）。由于BibleNLP和The Language Archive中的原文是英语，研究团队先用Facebook的NLLB-200模型将英语翻译成印度尼西亚语，再通过"回译"（把翻译结果重新翻回去，与原文对比）来评估翻译质量，用SacreBLEU和BERTScore两项指标确保质量可控。

最终，研究团队汇集了共66521个句对，其中53217个用于训练，13304个用于测试。经过四套指令的生成，训练集扩展为212868条指令数据。在双语词典方面，他们整理了Jacob和Grimes于2003年编写的《古邦马来语入门词典》（Kamus Pengantar Bahasa Melayu Kupang），共约3200个词条，这本词典成为指令生成的核心语言学资源。

此外，为了训练用于语义映射指令的FastText词向量模型，研究团队还收集了一批古邦马来语单语语料，来源包括Tapaleuk新闻网站、雅加达外地站语料库、Taxi1500原始数据，以及古邦马来语诗歌和民谣集，合计约1.9万段文本。

所有训练实验都在一块40GB显存的A100 GPU上完成，评估和推理使用一块8GB显存的GeForce RTX 4060 Ti，整个训练和评估过程历时约13天，其中小型、基础和大型模型各耗时约两天。

五、与各路模型的比赛：Lius赢了多少？

研究团队对Lius模型进行了系统性的性能评测，对比对象涵盖了三大类：第一类是用标准指令（而非指令语言学指令）微调的同款Cendol mT5基线模型；第二类是各种多语言大语言模型，包括BLOOMZ-7B1-MT、mT0-XXL-MT、Sailor-7B-Chat、Aya-Expanse-8B、SeaLLMs-v3-7B-Chat、Cendol-LLaMA2-7b-inst和Cendol-mT5-XL-Inst；第三类是专门的多语言神经机器翻译模型Madlad400-3B-MT和Madlad400-7B-MT（谷歌出品，在100亿句跨419种语言的文本上训练，其中包含约25400条古邦马来语句子，全部来自圣经文本）。

评测指标采用了翻译领域的四个常用标准：SacreBLEU（衡量译文与参考译文的词汇重合度，分数越高越好）、chrF++（考虑字符级别的精确度，分数越高越好）、TER（衡量需要多少编辑才能将译文修改成参考译文，分数越低越好）、ROUGE-L（衡量最长公共子序列的覆盖率，分数越高越好）。

在与标准指令基线模型的对比中，Lius大型版在SacreBLEU上达到12.99，而最好的标准基线（大型版）只有8.97，差距约4个百分点；在chrF++上Lius达到32.01，基线为27.30；在TER上Lius为90.36，基线为97.13（越低越好，Lius更优）；在ROUGE-L上Lius为31.55，基线为25.94。即便是参数量最小的Lius小型版，在SacreBLEU上也以8.72超过了同等规模标准基线的6.62。

值得关注的是，即便把四种指令类型拆开来单独使用（不进行连续指令微调，只用某一种指令），每种指令也都比标准基线有所提升。例如，单独使用上下文指令的大型版，SacreBLEU达到9.47，单独语义指令达到9.21，均超过标准基线的8.97。这说明每种指令类型都有其独立贡献，而将四种指令联合进行连续微调后，效果进一步显著提升。

与多语言神经机器翻译模型的比较更加悬殊。谷歌的Madlad400-3B-MT和Madlad400-7B-MT在古邦马来语翻译上的SacreBLEU仅为2.22，而Lius大型版达到13.27（零样本设置），差距超过六倍。这个结果说明，仅仅靠"大"并不够——Madlad400虽然参数量远超Lius，但古邦马来语训练数据极少，而且全部来自风格单一的圣经文本，泛化能力相当有限。

对于各类多语言大语言模型，无论是零样本还是少样本提示，Lius的优势同样明显。BLOOMZ-7B1-MT在少样本设置下的SacreBLEU仅有1.13，mT0-XXL-MT为2.15，TER分别高达372.48和173.29——这些极高的TER值说明这些模型产出的翻译与参考译文差距极大，需要大量修改才能接受。SeaLLMs-v3-7B-Chat零样本时SacreBLEU为4.44，少样本时更低至1.12。Aya-Expanse-8B零样本时为3.35。相比之下，即便是Lius最小型版在零样本下也达到9.20，少样本下为8.72，优势相当突出。

六、模型的"额外技能"：多语言泛化与跨任务能力

一个有趣的发现是，Lius模型虽然只针对印度尼西亚语到古邦马来语的翻译任务进行了微调，却展现出超越预期的多语言泛化能力。研究团队随机抽取100个句子，测试了爪哇语、巽他语（Sundanese）与古邦马来语之间的双向翻译，结果相当令人意外。

以爪哇语到古邦马来语的翻译为例，Lius大型版的SacreBLEU达到10.17，chrF++为26.76，ROUGE-L为23.10。这说明模型在训练过程中确实内化了一些跨语言的通用语言学信号，而不仅仅是记住了固定的印度尼西亚语到古邦马来语的词汇对应关系。

此外，尽管Lius只被训练来做翻译，研究团队还测试了它在其他NLP任务上的表现，结果发现它具备一定的跨任务能力。在情感分析任务中，给模型一段爪哇语文本，它能准确判断情感极性为"negative"（负面）；在问答任务中，用巽他语提问，模型能正确回答；在主题建模任务中，给定一段混合地方语言和网络用语的文本，模型能准确归类其情感主题为"sad"（悲伤）。这些结果表明，经过指令语言学训练的模型不只是一个翻译工具，它在一定程度上具备了跨语言情感理解和语义推理的能力。

七、面对"破坏性输入"，Lius有多稳？

现实中的翻译请求往往不会是格式完美的文本，可能有拼写错误，可能有词汇缺失，也可能语序混乱。研究团队专门进行了鲁棒性测试，对输入文本施加三种类型的扰动，观察Lius的表现。

在拼写错误测试中，"dan"被改成"daan"，"bajunya"被改成"bjunya"，"kemudian"被改成"emudian"。模型基本上能理解这些噪声输入的含义，有时甚至能把变形词准确映射到对应的古邦马来语表达，例如将"emudian"对应翻译为古邦马来语中的"abis itu"（然后/之后）。在词汇删除测试中，删去部分关键词后，模型有时会产生幻觉，填入不相关的内容（例如插入"bini"（妻子）和"matua"（老人）等无关词汇），说明词汇缺失对模型的影响较大。在词序打乱测试中，模型大多仍能生成结构合理、语义连贯的翻译，展现出对句子整体语义的较强把握能力。

从chrF++分数的对比来看，原始输入下为32.81，词汇删除扰动后降至27.56，词序打乱后为29.63，拼写错误后为29.22。总体而言，模型在各类扰动下的性能下降幅度相对有限，表现出一定的鲁棒性。

八、"老师"评分：真人评估结果与标准化之痛

为了更全面地评估翻译质量，研究团队还邀请了古邦马来语母语者进行人工评估，评估维度分为"流畅度"（译文在语法、拼写和句子结构上是否正确）和"充分度"（原文的信息是否被完整准确地传达），每个维度按1到4分评分。

研究团队在约两个月的时间内（2025年1月21日至3月21日）通过自行开发的网页标注平台开展评估。参与评估者来自高校学生、讲师、高中教师、公务员及政府语言发展官员等不同背景，主要来自古邦（Kupang）、索埃（SoE）及萨武岛（Sabu Island）等古邦马来语流通地区。在40名注册评估者中，18人完成了完整评估，4人因为对所有样本给出了相同分数而被排除在外。

评估结果显示，大多数翻译的流畅度和充分度评分落在3到4分的区间，说明翻译质量整体上被认为较为良好，但充分度的分布较流畅度更为分散，表明准确传达语义在某些情况下仍是挑战。评估者之间的一致性用加权Cohen's Kappa系数衡量，充分度维度的Kappa值为0.2099，流畅度维度为0.1339，按照Landis和Koch于1977年提出的解释标准，两者均属于"轻度一致"（slight agreement），说明评估者之间存在相当大的分歧。

研究团队认为，这种低一致性并不完全反映模型质量的问题，更深层的原因在于古邦马来语至今没有被广泛认可的书写和语法规范。作为一种通过克里奥尔化形成的语言，古邦马来语在不同社区和说话者之间存在大量变体，母语者对于"什么是正确的翻译"本身就有不同的理解。这种标准化缺失，既是古邦马来语NLP发展的瓶颈，也是研究团队在人工评估环节遭遇挑战的根本原因。

九、训练过程中的那些细节：模型规模与效率的权衡

研究团队在训练过程中也做了详细的效率记录。从资源消耗来看，小型版Lius（3.5亿参数）训练时间约1小时9分钟，存储需求约1.13GB，推理时间约14.21秒；基础版（5.8亿参数）训练时间约3小时22分钟，存储需求约1.95GB，推理时间约22.24秒；大型版（12亿参数）训练时间约6小时35分钟，存储需求约3.4GB，推理时间约72.35秒。从小型到大型，训练时间呈现出近乎指数级的增长。

训练损失曲线显示，三个规模的模型均呈现稳定下降趋势，说明模型在持续学习和改进。大型版的初始损失较高，但随着训练推进，降幅最为显著；小型版和基础版收敛速度更快，这与参数量较少、需要调整的权重更少有直接关系。

研究团队还专门分析了"复制行为"（Copying Behaviour）——即模型直接把输入文本的词汇原样复制到输出中，而不是真正翻译。这种行为在翻译任务中会严重降低质量，例如把印度尼西亚语词汇不加翻译地输出到古邦马来语译文里。分析结果显示，随着模型参数量增大，复制准确率和复制率均呈下降趋势：小型版的复制准确率为23.62%，复制率为23.54%；大型版分别降至20.00%和19.38%。这说明模型规模越大，越倾向于"真正翻译"而非"照搬复制"。值得一提的是，某些词汇被准确"复制"是合理的，例如"Presiden"（总统）、"Jokowi"（印度尼西亚前总统）、"2023"（年份）、"Indonesia"和"Jakarta"这类专有名词，本来就不需要翻译；而"tahun"（年）被翻译成"taon"，"sebagai"（作为）被翻译成"sabage"，则是模型真实翻译能力的体现。

说到底，这项研究最有价值的贡献，不只是给古邦马来语造了一个翻译工具，更是提供了一套可以推广到其他低资源语言的方法论。当你手头没有大量双语语料，但拥有一本词典和一些单语文本时，是否仍然可以训练出一个像样的翻译模型？研究团队用Lius给出了一个相当肯定的回答。

当然，这条路还远未走完。人工评估中暴露出的低一致性问题，折射出古邦马来语标准化工作的迫切需要——没有公认的语法和拼写规范，连评价翻译好坏都变得困难重重，更遑论进一步提升翻译质量。此外，Lius目前的翻译分数（SacreBLEU约13分）在翻译领域的绝对水平上仍属初级阶段，距离流畅自然的高质量翻译还有相当大的提升空间。

但对于一个几乎没有数字资源支撑的语言来说，从零到有的跨越，本身就已经意义重大。印度尼西亚还有700多种类似处境的地方语言，它们的数百万使用者，或许正在等待着同样的突破。对这项研究感兴趣的读者，可以通过arXiv编号2606.11786查阅完整论文。

Q&A

Q1：古邦马来语是什么语言，为什么翻译软件不支持它？

A：古邦马来语是一种以马来语为基础的克里奥尔语言，主要在印度尼西亚东努沙登加拉省流通，使用人口约530万。翻译软件不支持它的核心原因是"没有足够的训练数据"——AI翻译模型需要大量双语对照文本才能学会翻译，而古邦马来语在主流多语言数据集中几乎没有记录，导致现有翻译工具直接"认不出"这门语言。

Q2：Lius模型和谷歌的Madlad400相比有什么优势？

A：谷歌的Madlad400虽然参数量更大（30亿到70亿），在419种语言的1000亿句子上训练，但古邦马来语训练数据只有约2.5万条，且全来自圣经文本。Lius在古邦马来语翻译上的SacreBLEU分数约为Madlad400的六倍，说明针对性的语言学指令设计和连续微调方法，在低资源场景下比单纯堆砌参数和数据量更有效。

Q3：连续指令微调和普通微调有什么不同？

A：普通微调就是反复给模型看"输入→输出"的例子，只提供一种学习视角。连续指令微调（CIT）对同一个翻译样本生成四种不同类型的指令（基于上下文、语义、语音和词语分组），让模型从四个不同角度学习同一个翻译任务，相当于用四种不同的教学方法强化同一个知识点，信息密度提升四倍，模型对低资源语言的词汇语义理解也因此得到更全面的覆盖。