中国科学技术大学等机构联合开发：让AI也能"学新忘旧"的革命性方法KORE横空出世

这项由中国科学技术大学、北京通用人工智能研究院、厦门大学等多所知名学府联合开展的突破性研究，发表于2025年10月的国际顶级学术会议论文集中，论文编号为arXiv:2510.19316。研究团队由姜凯林、江宏波、江宁等多位来自不同机构的专家学者组成，他们共同攻克了人工智能领域的一个核心难题。有兴趣深入了解的读者可以通过论文编号arXiv:2510.19316查询完整论文。

在日常生活中，我们经常遇到这样的情况：当你想教会一个聪明的孩子新知识时，他们往往会忘记之前学过的内容。现在的大型多模态人工智能模型也面临着同样的困扰。这些AI系统就像是拥有超强记忆力的学生，它们在训练过程中学会了海量的知识，能够看懂图片、理解文字、回答问题。然而，当我们想要教给它们一些全新的知识时，它们经常会出现"学了新的，忘了旧的"这种尴尬局面，这在学术界被称为"灾难性遗忘"。

研究团队发现，当前的AI模型虽然储存了大量知识，但这些知识都是静态的，无法跟上现实世界的快速变化。比如说，一个AI模型可能知道很多关于过去的历史事件，但对于昨天刚发生的新闻却一无所知。更让人头疼的是，当我们试图教给它新知识时，它往往会像一个装满水的杯子，新倒入的水会让原有的水溢出来。

为了解决这个问题，研究团队开发了一种名为KORE的创新方法。KORE的全称是"通过知识导向增强和约束来增强大型多模态模型的知识注入"，但我们可以把它想象成一种特殊的学习方法，就像是为AI设计的一套高效学习策略。

一、KORE方法的核心理念：像厨师一样精心烹制知识

KORE方法的精妙之处在于它采用了双管齐下的策略。如果把传统的AI学习过程比作简单的"死记硬背"，那么KORE就像是一位经验丰富的厨师，不仅知道如何精心挑选和处理食材，还懂得如何在烹饪新菜的同时保持原有菜谱的精华。

这种方法包含两个核心组件：知识导向增强和知识导向约束。知识导向增强就像是把简单的食材加工成精美的料理。传统方法往往只是把新知识直接"塞"给AI，就像把生菜叶直接扔进锅里一样粗暴。而KORE会把每一条新知识都精心"烹制"成多种形式，包括多轮对话、图像识别任务、图像描述任务等等。这样做的好处是让AI能够从不同角度、通过不同方式来理解和掌握同一个知识点。

比如说，如果要教AI关于某个新闻事件的知识，传统方法可能只是简单地告诉它"发生了什么事"。但KORE会像一位细心的老师，不仅会讲述事件的来龙去脉，还会通过问答的形式检验AI的理解，通过图片让AI识别相关场景，通过不同的表达方式加深AI的印象。这种立体化的学习方式让AI能够真正"消化"新知识，而不是简单地记忆。

知识导向约束则像是在厨房里设置安全装置，确保在制作新菜品的过程中不会破坏已有的菜谱。研究团队发现，AI模型的不同"思维回路"（在技术上称为神经网络层）之间存在着复杂的关联模式。他们通过数学方法分析了这些关联模式，找到了一种巧妙的方式，让新知识的学习过程尽可能不干扰原有知识的存储。

二、技术创新：从粗糙加工到精细雕琢

KORE方法的第一个重大创新在于它对知识的"精加工"过程。研究团队意识到，传统的数据增强方法就像是用同一个模具批量生产产品，虽然数量多了，但质量和多样性都有限。而KORE采用的知识导向增强则像是一位艺术家，会根据每个知识点的特性进行个性化的"雕琢"。

具体来说，当KORE遇到一条新知识时，它会自动将其转化为一个完整的知识树结构。这个过程就像是把一粒种子培育成枝繁叶茂的大树。原始知识就是树干，而通过自动化流程生成的多轮对话、视觉识别任务、图像描述任务等就是树枝和树叶。这样的结构化处理让AI能够从多个维度理解和掌握知识，大大提高了学习效果。

研究团队设计了一套完全自动化的流程来实现这种知识加工。这个流程使用了先进的GPT-4o模型来生成高质量的对话数据，使用Google搜索来获取相关图片，使用CLIP模型来筛选最合适的视觉材料。整个过程就像是一条高度自动化的生产线，能够将简单的知识原料加工成丰富多样的学习材料。

第二个重大创新在于知识导向约束机制。这个机制的核心思想是在AI的"大脑"中找到一个特殊的空间，让新知识在这个空间中安家落户，而不会干扰到原有知识的居住地。研究团队通过复杂的数学分析，发现了AI模型内部激活模式的协方差矩阵能够有效捕捉和存储之前学过的知识。

这个发现就像是找到了AI大脑的"记忆地图"。通过分析这个地图，研究团队能够识别出哪些区域已经被旧知识占据，哪些区域还有空间容纳新知识。然后，他们使用一种称为"零空间投影"的数学技术，为新知识找到一个既不会干扰旧知识，又能够有效存储的位置。

三、实验验证：在多个"考场"中的优异表现

为了验证KORE方法的有效性，研究团队设计了一系列全面的测试，就像是给AI安排了多场不同类型的考试。这些测试分为两大类：知识适应能力测试和知识保持能力测试。

知识适应能力测试主要检验AI学习新知识的能力。研究团队使用了EVOKE数据集作为测试平台，这个数据集包含了各种类型的新闻事件和实体信息。测试结果显示，使用KORE方法训练的AI模型在学习新知识方面表现出色，其准确率比传统方法提高了一倍多。具体来说，在覆盖精确匹配指标上，KORE达到了30.65分，而表现最好的传统方法只有15.49分。在F1分数指标上，KORE更是取得了41.26分的优异成绩，远超传统方法的19.42分。

知识保持能力测试则检验AI在学习新知识后是否还能记住旧知识。这项测试涵盖了12个不同的评估基准，包括综合评估、光学字符识别、多学科推理、指令遵循、多轮多图像对话理解、数学推理和幻觉检测等七个能力维度。测试结果令人振奋：KORE不仅在所有测试中都保持了良好的性能，还在某些方面超越了传统方法。

特别值得一提的是，KORE在不同规模和架构的AI模型上都表现出了优异的性能。研究团队在LLaVA-v1.5的7B和13B版本，以及Qwen2.5-VL的7B版本上都进行了测试，结果都证实了KORE方法的有效性和通用性。这就像是一种万能的学习方法，不管是应用到什么样的"学生"身上，都能取得良好的效果。

四、深入分析：为什么KORE如此有效

研究团队通过深入的分析揭示了KORE方法成功的关键原因。首先，知识导向增强的有效性在于它能够构建出结构化和全面的知识表示。传统的数据增强方法往往只是对原始数据进行简单的变换，就像是把同一句话用不同的语调重复多遍。而KORE的方法则像是把一个简单的故事扩展成一部完整的小说，包含了丰富的情节、对话和细节描述。

这种深度的知识加工让AI能够真正理解和内化新知识，而不是简单地记忆。研究团队的对比实验显示，相比于传统的文本增强和图像增强方法，KORE的知识导向增强在新知识学习方面有着显著的优势。在知识适应能力上，KORE比最好的传统增强方法高出了18.53个百分点。

其次，知识导向约束机制的成功在于它找到了一种巧妙的方式来平衡新旧知识之间的关系。研究团队通过详细的数学分析证明了协方差矩阵确实能够有效捕捉多模态知识。他们使用了一种称为CO-SVD的技术来验证这一点，结果显示这种方法在保持模型性能方面远优于传统的奇异值分解方法。

更重要的是，研究团队发现不同任务的协方差矩阵呈现出不同的模式。比如说，处理幻觉检测任务和处理常识推理任务时，AI模型内部的激活模式会显示出不同的特征。这个发现就像是发现了AI大脑中不同知识领域的"指纹"，为精确的知识管理提供了科学依据。

五、突破性贡献：重新定义AI的学习方式

KORE方法的意义远不止于解决技术问题，它实际上为AI的持续学习和知识更新开辟了一条全新的道路。在过去，要让AI学习新知识往往需要重新训练整个模型，这不仅耗费大量的计算资源，还可能导致原有知识的丢失。KORE方法则提供了一种更加优雅和高效的解决方案。

这种方法的另一个重要贡献在于它的可定制性。研究团队发现，通过调整知识导向约束的参数，可以针对特定的知识保持需求进行优化。比如说，如果我们特别希望AI记住某些类型的知识，就可以在训练过程中给这些知识更多的"保护"。这种灵活性让KORE方法能够适应各种不同的应用场景。

研究结果还显示，KORE方法在较大规模的AI模型上表现更加出色，这表明随着AI技术的不断发展，KORE的优势会变得更加明显。在13B参数的模型上，KORE相比传统方法的优势甚至更加显著，这为未来更大规模AI模型的训练提供了重要的技术路径。

六、实际应用：改变AI使用的游戏规则

KORE方法的成功意味着我们可能即将迎来AI应用的一个新时代。在这个时代里，AI系统将不再是静态的知识库，而是能够持续学习和更新的智能助手。这种能力对于很多实际应用来说都具有革命性的意义。

比如说，在新闻和媒体领域，AI系统可以实时学习最新发生的事件，同时保持对历史事件的准确记忆。在教育领域，AI教师可以学习最新的教学方法和知识，同时保持对基础知识的准确掌握。在医疗领域，AI诊断系统可以学习最新的医学研究成果，同时保持对传统医学知识的准确理解。

研究团队还发现，KORE方法在不同类型的知识上都表现出了良好的适应性。无论是新闻事件、人物信息、还是各种实体知识，KORE都能够有效地进行学习和保持。这种通用性让KORE成为了一种真正实用的技术解决方案。

更重要的是，KORE方法的自动化程度很高，这意味着它可以在实际应用中大规模部署。研究团队开发的整个知识加工流程都是自动化的，只需要提供原始的知识数据，系统就能够自动生成高质量的训练材料。这大大降低了技术使用的门槛，让更多的开发者和研究者能够受益于这项技术。

七、未来展望：向更智能的AI迈进

虽然KORE方法已经取得了显著的成果，但研究团队也诚实地指出了当前方法的局限性和未来的改进方向。目前的知识增强过程依赖于GPT-4o模型，这可能会引入一些误差或偏见。研究团队正在探索更加可靠和多样化的知识生成方法。

另外，当前的协方差矩阵提取过程需要一定的计算资源，特别是对于大型模型来说。研究团队正在研究如何通过识别最关键的模型层来降低计算成本，同时保持方法的有效性。

研究团队还提出了一些令人兴奋的未来研究方向。比如说，他们计划探索更加结构化的知识增强方法，可能会结合知识图谱和强化学习技术。这些方向有望进一步提升AI系统的学习能力和知识管理效率。

从更广阔的视角来看，KORE方法代表了AI发展的一个重要里程碑。它不仅解决了当前AI系统面临的具体技术问题，更重要的是为构建真正智能的、能够持续学习的AI系统奠定了基础。随着这项技术的进一步发展和完善，我们有理由期待看到更加智能、更加实用的AI应用出现在我们的生活中。

说到底，KORE方法的成功告诉我们，AI的学习过程不应该是简单粗暴的信息堆积，而应该是精心设计的知识雕琢。就像一位优秀的学生需要掌握良好的学习方法一样，AI系统也需要更加智慧的学习策略。KORE为我们展示了这样一种策略的可能性，让我们看到了AI技术发展的新希望。这项研究不仅在技术层面取得了突破，更在理念层面为AI的未来发展指明了方向。对于那些关心AI技术发展的人来说，KORE方法无疑代表了这个领域的一个重要进步，值得我们持续关注和期待。

Q&A

Q1：KORE方法是什么？

A：KORE是中国科学技术大学等机构开发的AI学习新方法，它能让AI在学习新知识的同时不忘记旧知识。就像给AI设计了一套高效学习策略，通过精心"烹制"知识和巧妙安排存储空间，解决了传统AI"学新忘旧"的问题。

Q2：KORE方法相比传统方法有什么优势？

A：KORE方法在学习新知识方面比传统方法提高了一倍多，同时还能很好地保持原有知识。它就像是把简单的死记硬背升级为立体化学习，通过多种方式让AI真正理解和掌握知识，而不是简单记忆。

Q3：KORE方法可以应用在哪些领域？

A：KORE方法可以广泛应用于新闻媒体、教育、医疗等多个领域。比如让AI新闻助手实时学习最新事件，让AI教师掌握最新教学方法，让AI医疗系统学习最新医学研究，同时都能保持对基础知识的准确理解。