中科院携手北大突破量子网络新边界：让AI像中国古筝一样"弹奏"复杂函数

这项由中国科学院物理研究所和北京大学联合开展的创新研究发表于2025年9月，论文题为《量子变分激活函数赋能柯尔莫哥洛夫-阿诺德网络》。研究团队包括来自台湾大学物理系的江君诚、台湾大学理论物理中心的官锡生教授，以及北卡罗来纳大学教堂山分校计算机科学系的黄昱超和陈天龙。这项研究成果已在arXiv平台公开发布，完整论文可通过https://github.com/Jim137/qkan获取相关代码和数据。

当我们谈论人工智能时，通常会想到那些能够识别图像、理解语言或者下棋的程序。但在这些看似神奇的功能背后，隐藏着一个基础而重要的数学问题：如何让计算机准确地"学会"复杂的函数关系。就像一位古筝演奏家需要精确掌握每根琴弦的张力和音调一样，人工智能系统也需要精确调节内部的"琴弦"——也就是激活函数——来产生准确的输出。

传统的人工智能网络就像一架固定调音的钢琴，虽然能演奏出美妙的音乐，但琴键的数量和音调都是预先设定的，缺乏灵活性。而这项研究提出的量子增强网络，则更像是一架可以随时调音的古筝，不仅琴弦数量可以灵活调整，每根琴弦的音调也能根据需要精确微调，从而演奏出更加丰富多样的"数学乐章"。

研究团队发现了一个令人兴奋的现象：当他们将量子计算的原理融入到一种称为柯尔莫哥洛夫-阿诺德网络的特殊AI架构中时，不仅大幅减少了所需的参数数量，还显著提升了系统的表达能力。这就好比找到了一种全新的演奏技法，能够用更少的琴弦演奏出更复杂的乐曲。更重要的是，这种方法不需要真正的量子计算机，而是可以在普通的计算机上模拟实现，这意味着这项技术具有很强的实用性和推广潜力。

一、量子世界遇见人工智能：一场奇妙的邂逅

要理解这项研究的重要性，我们需要先了解两个看似毫不相关的领域是如何产生交集的。在人工智能的世界里，有一类特殊的网络叫做柯尔莫哥洛夫-阿诺德网络，简称KAN。这个名字听起来很复杂，但我们可以把它想象成一个非常聪明的"函数翻译器"。

传统的神经网络就像一个巨大的加工厂，原材料（输入数据）进入后，经过一道道标准化的加工流程，最终产出成品（输出结果）。每道工序都使用相同的加工方法，比如都使用ReLU激活函数，就像所有工序都使用相同型号的机器一样。这种方法虽然有效，但缺乏灵活性。

柯尔莫哥洛夫-阿诺德网络则完全不同。它更像一个定制化的手工作坊，每个工位都有自己独特的加工方法。在这个作坊里，不同的"师傅"（激活函数）各有各的绝活，有的擅长处理曲线变化，有的专门应对急剧变化，有的则善于处理细微调整。这种个性化的处理方式让KAN能够更精确地学习和表达复杂的函数关系。

然而，KAN也有自己的烦恼。由于每个连接都需要一个独特的激活函数，就像每位师傅都需要一套专用工具一样，整个系统需要存储大量的参数。当处理复杂问题时，参数数量会急剧增长，就像工具箱越来越重，最终可能重到无法携带。

正是在这个背景下，研究团队想到了量子计算。量子世界有一个神奇的特性：量子叠加态可以同时表示多种可能性，就像薛定谔的猫可以同时处于生死两种状态一样。研究人员意识到，如果能够利用这种"同时性"，也许可以用一个量子电路来表达原本需要很多参数才能表达的函数。

这就好比发现了一种神奇的乐器，它只有一根弦，但通过特殊的演奏技法，这根弦可以同时发出多种音调，从而演奏出原本需要整个乐队才能完成的交响乐。在数学上，这意味着用很少的参数就能实现很强的表达能力。

更令人兴奋的是，研究团队发现他们不需要真正的量子计算机。通过巧妙的数学技巧，他们可以在普通计算机上模拟单个量子比特的行为，这就像在普通钢琴上模拟古筝的音色一样。这种方法被他们称为"数据重上传激活神经元"，简称DARUAN。这个名字来源于中国传统乐器"大阮"，寓意着这种方法能够产生深邃而富有表现力的"数学音色"。

二、魔法背后的科学原理：量子激活函数的奥秘

理解量子激活函数的工作原理，就像理解一位魔术师是如何让一枚硬币同时显示正面和反面一样神奇。在传统的计算机科学中，信息只能是0或1，就像硬币只能是正面或反面。但在量子世界里，一个量子比特可以同时处于0和1的叠加状态，这为我们提供了全新的计算可能性。

研究团队设计的量子变分激活函数本质上是一个精密的"量子乐器"。这个乐器的核心是一个单量子比特电路，可以想象成一根极其特殊的琴弦。与普通琴弦不同的是，这根"量子琴弦"可以通过特殊的"弹奏技法"产生指数级别的音调变化。

具体来说，这个量子电路包含两种基本操作：数据编码和参数化旋转。数据编码就像是确定琴弦的基础张力，而参数化旋转则像是演奏家手指的精细动作，通过微调手指位置来改变音调。最巧妙的地方在于，研究团队采用了"数据重上传"的技术，就像在一首乐曲中反复使用同一个主题，但每次都加入新的变奏一样。

这种重复上传的过程创造了一个数学上的奇迹：频谱的指数级扩展。简单来说，就是通过重复使用相同的输入数据，但每次都配以不同的量子操作，系统能够产生远比输入复杂得多的输出模式。这就像一位高手仅用几个基本音符，通过不断的变奏和重组，最终演奏出一首完整的交响乐。

从理论角度来看，研究团队证明了一个重要的数学定理：当使用他们提出的几何权重设置时，量子激活函数的表达能力可以实现指数级增长，而所需的参数数量仅以对数级别增长。用通俗的话说，就是"用很少的材料建造出很大的房子"。具体来说，传统的傅里叶级数方法需要Θ(ε^(-1/(k+1-m)))个参数才能达到误差ε，而他们的方法只需要Θ(log(1/ε))个参数，这是一个巨大的改进。

更令人惊喜的是，这种量子激活函数还具有自然的正则化特性。由于量子测量的输出天然地被限制在[-1,1]的范围内，就像一个内置的"音量控制器"，防止系统产生过于极端的输出，从而提高了模型的稳定性和泛化能力。

三、实验验证：从理论走向现实的精彩表演

理论再美妙，也需要通过实验来验证其实用性。研究团队设计了一系列精心构思的实验，就像为这个"量子乐器"安排了从独奏到协奏的全套演出。

首先是函数拟合的"独奏表演"。研究团队选择了费曼物理学数据集中的66个复杂数学函数作为测试对象。这些函数就像66首不同风格的乐曲，有的旋律平缓，有的节奏急促，有的和声复杂。为了增加挑战性，他们还在数据中加入了10%的噪声，就像在演出现场加入了背景杂音。

结果令人振奋：量子增强的柯尔莫哥洛夫-阿诺德网络在超过80%的测试函数上都取得了最佳性能，而且平均使用的参数数量比传统KAN少了30%。这就好比一位演奏家用更少的乐器演奏出了更动听的音乐。特别值得注意的是，在一些最复杂的函数上，QKAN的误差率甚至比传统方法低了一个数量级。

接下来是图像分类的"室内乐表演"。研究团队在MNIST手写数字识别、CIFAR-10和CIFAR-100图像分类任务上测试了他们的方法。在这些实验中，量子激活函数被嵌入到卷积神经网络的全连接层中，就像在传统乐队中加入了一件新的乐器。

实验结果显示，在MNIST数据集上，配备QKAN的网络达到了98.0%的top-1准确率，同时只使用了800个参数，相比之下传统KAN需要1500个参数。在更具挑战性的CIFAR-100数据集上，QKAN达到了41.2%的top-1准确率，超越了传统KAN和多层感知机。

然而，研究团队也发现了一个实际问题：当输出维度很大时，KAN和QKAN的参数数量会急剧增长，就像乐队规模扩大时需要更大的演出场地一样。为了解决这个问题，他们设计了混合量子柯尔莫哥洛夫-阿诺德网络（HQKAN），这是一种巧妙的"降维"策略。

HQKAN的设计思路类似于音乐中的"主题变奏"技法。它首先通过全连接层将高维输入压缩到一个较小的潜在空间，然后在这个"浓缩"的空间中应用QKAN进行处理，最后再将结果扩展回原始维度。这种方法就像先将一首复杂的交响乐简化为主旋律，在主旋律上进行精细的变奏处理，然后再将处理后的主旋律重新编排为完整的交响乐。

在CIFAR-100数据集上，HQKAN仅使用32,636个参数就达到了70.6%的top-5准确率，而传统MLP需要86,948个参数，传统KAN更是需要384,000个参数。这种参数效率的提升是革命性的，为实际应用铺平了道路。

四、语言模型的量子增强：让AI写作更智能

最令人兴奋的实验是将QKAN应用到大型语言模型的训练中。研究团队将他们的量子激活函数集成到GPT-2架构中，就像为一个已经很出色的作家配备了一支更精细的笔。

在WebText数据集上的训练结果显示，配备HQKAN的GPT-2模型不仅收敛速度更快，最终的困惑度（衡量语言模型质量的重要指标）也更低。更重要的是，HQKAN版本只使用了传统MLP版本三分之一的参数，训练时间也减少了30%。这就像一位作家用更少的笔墨写出了更精彩的文章。

为了验证可扩展性，研究团队还在更大规模的计算集群上进行了测试。在使用16个H200 GPU的配置下，批处理大小达到800时，HQKANsformer在内存使用和训练时间上都比传统MLP表现更好，内存使用减少了10%，训练时间缩短了10%。这种优势在大规模训练中特别重要，因为它直接关系到训练成本和效率。

五、知识传承：从量子到经典的智慧转移

研究团队还展示了一个特别有趣的功能：知识蒸馏。他们开发了一种方法，可以将训练好的QKAN的"知识"转移到传统的KAN中，就像一位大师将自己的绝技传授给弟子一样。

这个过程的工作原理是：首先训练QKAN直到收敛，然后分析每个量子激活函数学到的数学关系，接着用传统的B样条函数来近似这些关系，最后将这些近似函数加载到传统KAN中进行微调。在一个二元函数f(x,y) = sin(e^x + y^2)的测试中，经过知识蒸馏的KAN比从零开始训练的KAN测试损失降低了70%。

这种知识转移机制具有重要的实际意义。它允许用户在资源充足时使用QKAN进行训练以获得最佳性能，然后将学到的知识转移到更轻量级的传统KAN中进行部署，从而在性能和效率之间找到最佳平衡点。

六、理论基础：数学证明背后的深刻洞察

研究团队的理论分析揭示了QKAN优越性能背后的数学原理。他们证明了两个重要的定理，为整个方法提供了坚实的理论基础。

第一个定理扩展了柯尔莫哥洛夫-阿诺德表示定理，证明了基于傅里叶级数的逼近方法同样可以达到与B样条方法相当的逼近精度。这为使用傅里叶分析来理解量子激活函数提供了理论依据。

第二个定理是整个研究的核心，它量化了数据重上传机制带来的频谱扩展效应。定理证明，在没有可训练权重的基础版本中，频谱大小只能线性增长，但引入可训练的数据预处理权重后，频谱大小可以指数级增长。

具体来说，基础版本的频谱大小为2r（其中r是重上传次数），而带权重版本的频谱大小可达3^r-1。这种指数级的差异解释了为什么引入可训练权重对性能提升如此关键。

更重要的是，定理还证明了当采用几何权重设置（w_l = 2^(l-1)）时，系统可以达到指数级的逼近效率。传统傅里叶级数方法需要Θ(ε^(-1/(k+1-m)))个参数来达到误差ε，而QKAN只需要Θ(log(1/ε))个参数，实现了从多项式复杂度到对数复杂度的飞跃。

七、技术实现：从理论到实践的工程智慧

将理论转化为可运行的代码需要解决众多技术挑战。研究团队开发了一套完整的实现方案，巧妙地将量子计算概念转化为在经典计算机上高效运行的算法。

在软件实现层面，团队使用PyTorch框架构建了整个系统，将量子态表示为形状为(B,N,M,2)的复数张量，其中B是批处理大小，N和M分别是输出和输入节点数，最后一个维度编码单量子比特的幅值。量子门操作被实现为形状为(N,M,2,2)的复数张量，支持GPU并行计算。

为了提高训练稳定性，研究团队引入了基础激活函数机制，类似于残差连接的思想。输出被定义为φ(x) = w_b·b(x) + w_d·?0|U(x,θ)+MU(x,θ)|0?，其中b(x)是SiLU基础激活函数，w_b和w_d是可学习权重。这种设计确保即使在训练初期量子激活函数性能较差时，网络仍能保持基本的梯度流动。

考虑到量子测量输出的有界性，研究团队还设计了层扩展策略。这种策略允许在训练过程中动态增加数据重上传的次数，类似于KAN中的网格扩展。新增的参数被初始化为恒等操作，确保扩展过程不会破坏已学到的特征。

在分布式训练方面，QKAN的架构天然适合并行化。由于每个激活函数都是独立的单量子比特电路，不同的激活函数可以在不同的GPU上并行计算。这种特性使得QKAN能够很好地扩展到大型计算集群，支持大规模模型的训练。

八、性能优化：工程实践中的细节考量

在实际部署中，研究团队发现了一些有趣的优化机会。通过引入Flash Attention机制，HQKANsformer在内存使用和计算速度方面都获得了显著提升。在16×H200 GPU的配置下，批处理大小800时，相比传统MLP不仅内存使用减少了10%，计算时间也缩短了10%。

为了解决大规模应用中的参数膨胀问题，团队提出了混合架构（HQKAN）。这种架构在QKAN前后各加入一个全连接层，形成类似自编码器的结构。输入首先被压缩到对数级别的潜在维度，在这个低维空间中应用QKAN处理，然后再扩展回原始维度。这种设计充分利用了QKAN在低维空间中的高表达能力，同时避免了参数数量的二次增长。

在CIFAR-100实验中，HQKAN仅用32,636个参数就达到了与使用384,000参数的传统KAN相当的性能，参数压缩比达到了惊人的12:1。这种效率提升对于资源受限的应用场景具有重要意义。

团队还开发了专门的知识蒸馏算法，可以将训练好的QKAN转换为等效的传统KAN。这个过程包括三个步骤：首先在离散化的输入域上评估量子激活函数，然后使用样本点拟合B样条系数，最后将系数加载到对应的KAN中进行微调。这种转换机制为模型部署提供了更多灵活性。

九、应用前景：量子增强AI的无限可能

这项研究的应用前景极其广阔，就像发现了一种新的"数学语言"，可以更高效地描述和解决各种复杂问题。

在科学计算领域，QKAN特别适合处理那些需要高精度函数逼近的问题。传统的偏微分方程求解、信号处理、以及物理仿真等应用都可能从这种高效的函数表示中获益。由于QKAN能够用更少的参数实现相同的逼近精度，它在计算资源受限的场景中具有明显优势。

在机器学习的符号回归任务中，QKAN展现出了特别的潜力。实验表明，QKAN在噪声环境下的函数拟合能力优于传统方法，这对于从实验数据中发现潜在规律具有重要意义。研究团队在66个费曼方程的测试中发现，QKAN在超过80%的情况下都取得了最佳性能。

对于大型语言模型，QKAN的参数效率优势可能带来训练成本的大幅降低。在当前AI模型规模不断扩大的趋势下，任何能够减少参数数量同时保持或提升性能的技术都具有巨大的商业价值。HQKAN在GPT-2实验中展现的30%训练时间减少和67%参数压缩，预示着这种技术在大规模语言模型训练中的广阔前景。

更有趣的是，这项研究为量子-经典混合计算开辟了新的道路。虽然目前的实现基于经典计算机的量子模拟，但研究团队指出，当真正的量子硬件变得更加成熟时，这些算法可以直接移植到量子计算机上运行，可能获得进一步的性能提升。

在边缘计算和移动设备部署方面，QKAN的低参数特性使其特别适合资源受限的环境。知识蒸馏机制允许开发者在强大的服务器上训练QKAN模型，然后将学到的知识转移到轻量级的传统网络中，在移动设备上高效运行。

研究团队还探索了QKAN在多模态学习中的潜力。由于量子激活函数具有天然的非线性表达能力，它们可能特别适合处理不同模态之间的复杂交互关系，这在视觉-语言理解、音视频同步等任务中具有重要应用价值。

十、挑战与机遇：技术发展的两面性

尽管这项研究取得了令人瞩目的成果，但研究团队也坦诚地指出了当前技术面临的挑战和限制。

首先是可解释性问题。虽然KAN本身具有很好的可解释性，每个激活函数都对应一个具体的数学变换，但量子激活函数的内部机制相对复杂，需要更多工作来提高其可解释性。研究团队通过可视化学到的激活函数形状部分缓解了这个问题，但仍有改进空间。

其次是训练复杂性。量子激活函数涉及复数计算和三角函数操作，这增加了计算复杂度。虽然参数数量减少了，但单个参数的计算成本可能更高。研究团队通过各种优化技术缓解了这个问题，但在某些应用场景中仍需要权衡计算效率和表达能力。

另一个挑战是超参数调优。QKAN引入了新的超参数，如数据重上传次数r和几何权重设置，这些参数的选择会显著影响模型性能。研究团队提供了一些指导原则，但在不同应用中仍需要大量实验来找到最优设置。

然而，这些挑战也代表着机遇。随着量子计算硬件的不断发展，真正的量子优势可能在不久的将来变为现实。研究团队指出，当前的算法设计已经考虑了向真正量子硬件的迁移，这为未来的技术升级做好了准备。

在理论方面，这项研究为量子机器学习理论提供了新的视角。通过将量子电路视为激活函数而非完整的学习器，开辟了量子-经典混合算法设计的新思路。这种范式转换可能激发更多创新性的研究。

从生态系统的角度看，QKAN的开源实现为研究社区提供了宝贵的工具。研究团队已经在GitHub上发布了完整的代码库，这将加速相关技术的普及和发展。社区的反馈和贡献可能进一步推动技术的成熟。

说到底，这项研究就像在人工智能的花园里种下了一颗特殊的种子。这颗种子融合了量子世界的神奇特性和经典计算的实用性，在适当的条件下，它可能长成一棵参天大树，为整个AI领域提供新的养分。虽然现在还只是初春，种子刚刚发芽，但我们已经能够看到它未来的巨大潜力。

研究团队通过巧妙的数学技巧，将看似高深莫测的量子计算原理转化为可以在普通计算机上运行的实用算法。他们证明了量子启发的方法不仅在理论上具有优势，在实际应用中也能带来实实在在的性能提升。更重要的是，这种方法为我们展示了一种全新的思考问题的方式：不是简单地增加模型的规模和复杂度，而是通过更深入地理解数学原理，找到更优雅、更高效的解决方案。

对于普通人来说，这项研究的意义可能不会立即显现，但它就像互联网技术在早期发展阶段一样，正在悄悄地为未来的技术革命奠定基础。也许在不久的将来，我们使用的搜索引擎、翻译软件、甚至是智能助手，都会在某种程度上受益于这种量子增强的AI技术。而对于那些对科学前沿感兴趣的读者，完整的研究论文和代码已经在网上公开发布，任何人都可以深入探索这个fascinating的技术世界。

Q&A

Q1：量子变分激活函数QVAF到底是什么，它和传统激活函数有什么区别？

A：QVAF本质上是用量子电路来代替传统神经网络中的激活函数。传统激活函数就像一个固定的数学公式，而QVAF更像一个可以灵活调音的乐器。它通过模拟单个量子比特的行为，利用量子叠加态的特性，能够用很少的参数表达出原本需要大量参数才能实现的复杂函数关系。最关键的是，这种技术不需要真正的量子计算机，可以在普通电脑上模拟运行。

Q2：为什么QKAN能用更少参数实现更好性能，这在数学上是如何实现的？

A：这得益于"数据重上传"机制和几何权重设置。就像在音乐中反复使用一个主题但每次都加入新变奏一样，QKAN通过多次重复使用相同输入但配以不同量子操作，创造出指数级的频谱扩展。数学上，传统方法需要Θ(ε^(-1/(k+1-m)))个参数达到误差ε，而QKAN只需要Θ(log(1/ε))个参数，实现了从多项式复杂度到对数复杂度的飞跃。

Q3：QKAN技术现在可以实际应用吗，普通开发者能使用吗？

A：是的，QKAN已经可以实际应用。研究团队已在GitHub（https://github.com/Jim137/qkan）开源了完整代码，基于PyTorch框架开发，支持GPU加速。它已经在函数拟合、图像分类和语言模型等任务中得到验证，特别是混合版本HQQKAN可以作为传统多层感知机的直接替代品。不过目前还处于研究阶段，商业化应用需要进一步优化和测试。