卡利亚里大学与慕尼黑亥姆霍兹研究所联手：一种让AI"看病"时不再"偏心"的新方法

这项由意大利卡利亚里大学数学与计算机科学系联合德国慕尼黑亥姆霍兹健康AI研究所共同完成的研究，于2026年6月发布在预印本平台arXiv，编号为arXiv:2606.20027v1。感兴趣的读者可以通过这个编号查阅完整论文，论文还配套开放了代码库供研究者复现。

**一块病理切片背后的困境**

每当医生拿到一张病理切片，他们面对的不是一张简单的照片，而是数以万计的微小区域——有些藏着肿瘤细胞，有些则是完全正常的组织。要让AI帮助医生分析这张切片，工程师们必须先解决一个根本性的难题：AI究竟该"盯着"哪里看？

现有的主流解决方案叫做"基于注意力的多实例学习"，英文缩写为MIL。这个方法的思路听起来很合理——让AI自己学会分配注意力，把更多"目光"投向可能有病变的区域。然而，就像一个过度紧张的学生在考试时死盯着一道题不放，这类AI系统往往会把几乎全部注意力压缩到极少数几个区域，而忽略了其他同样重要的地方。研究者把这种现象称为"注意力集中"，或更形象地叫"注意力黑洞"。

这种偏心的注意力会带来严重后果。AI的预测变得过于自信却不够稳定，换一批切片、换一家医院的数据，表现就可能大幅下降。更糟糕的是，即便AI给出了正确答案，它聚焦的那几个区域也未必真的是病变所在，只不过恰好在训练数据中与标签存在相关性。这对于需要向医生解释"为什么"的临床场景来说，是一个致命的软肋。

以往的研究者也尝试过解决这个问题，思路大致分为三类：在训练过程中随机遮掉一些区域，强迫AI不能依赖单一位置；用自监督预训练来提升特征质量；或者用"老师-学生"蒸馏的方式来约束模型行为。这些方法虽然有效，但都需要在常规训练流程之外额外增加步骤，就像给汽车加装了辅助轮——能跑，但结构更复杂了。

卡利亚里大学与亥姆霍兹研究所的团队选择了一条不同的路：与其在外部给AI套上各种约束，不如从根本上重新设计AI的大脑结构，让它在架构层面就天然地不会产生"注意力黑洞"。他们把这个新设计命名为QG-MIL，全称是"Qwen Gated Multiple Instance Learning"，即"门控多实例学习"。

**灵感来自语言模型的"信息坍塌"研究**

研究团队注意到，注意力黑洞这个问题并不是医疗AI独有的。在处理长篇文章的大型语言模型中，研究者同样观察到类似的"信息坍塌"现象——模型的注意力会莫名其妙地集中在某些特殊的词元上，导致其他信息被淹没。而针对这个问题，语言模型领域的研究者已经找到了一些有效的架构层面的应对手段：门控机制和归一化处理。

QG-MIL的核心创新就是把这些来自语言模型世界的经验，系统性地移植到医学图像分析中。这种跨领域的借鉴并非简单的照搬，而是需要仔细思考哪些设计原则适合MIL场景的特殊性，比如医学图像中的实例数量可以从几百到几千不等，数据规模远比语言模型训练数据稀缺。

**四道"防偏心"的设计屏障**

QG-MIL的架构设计围绕四个相互配合的核心组件展开，每一个都在不同层面上抑制注意力的过度集中。

第一道屏障是RMSNorm预归一化。在数据进入注意力计算之前，先对每个实例的特征向量进行标准化处理。这就像在称量各个区域的重要性之前，先把所有特征数据统一换算成同一套单位，避免某些区域仅仅因为特征数值偏大就在初始阶段占据优势。RMSNorm相比传统的LayerNorm计算更简洁，但在实践中往往同样稳定。

第二道屏障是每个注意力头的QK归一化（per-head QK normalization）。理解这个设计需要先了解注意力机制的基本原理。每当AI"看"一张切片时，它会把每个区域的特征转化成两种向量：一个是"我在寻找什么"（Query，查询），另一个是"我能提供什么"（Key，键）。这两种向量之间的相似度决定了注意力的分配。如果某对QK的数值异常大，softmax函数——这个把原始分数转化为概率的操作——就会把几乎所有权重都压缩到这一对上，形成极端的注意力峰值。通过对Q和K都进行归一化，研究者把这种爆炸式的相似度拉回到合理范围，让注意力得以更均匀地分布。

第三道屏障是细粒度的注意力输出门控。这是QG-MIL最具特色的设计之一。在传统的注意力机制中，计算完成后所有信息都会直接流向下一层。而QG-MIL在注意力输出之后、融合之前，插入了一个"闸门"。这个闸门通过一组专门学习的参数来评估每个头的输出信息是否值得传递，用sigmoid函数产生一个0到1之间的控制值，相当于给每条信息流安装了一个调节阀。团队还提供了两种闸门实现：一种是"按头部"的粗粒度门控，对每个注意力头的所有特征统一打分；另一种是"按元素"的细粒度门控，对每个特征维度独立调节。

第四道屏障是SwiGLU风格的前馈网络。传统的前馈网络用简单的ReLU激活函数处理特征，而SwiGLU引入了一个乘法门控结构：特征经过两条并行的线性变换，其中一条经过激活函数，两条的结果相乘后再输出。这种结构让网络在更新特征时同样具备选择性，而不是把所有信息都无差别地处理。

这四道屏障的设计哲学是一致的：在数据流动的各个关键节点上，都给AI提供一种"自我审查"的能力，让它能够主动抑制那些过于突出、可能导致注意力失衡的信号。

**QG-MIL的完整工作流程**

把整个系统连起来看，QG-MIL的工作流程可以分为三个阶段。

首先，每张切片被切分成若干小块，每个小块通过一个预先训练好的特征提取器（比如专为病理图像设计的基础模型UNI2-h或Prov-Gigapath，或者专为血液细胞设计的DinoBloom）转化为一个高维向量。这些提取器在训练QG-MIL时是冻结的，只作为静态特征来源，这样做能确保不同研究之间的可比性，也降低了对大量标注数据的依赖。

其次，所有小块的特征向量一起送入若干个堆叠的"门控变换器"模块。每个模块内部，上述四道屏障按照预归一化残差结构依次发挥作用，让每个小块的特征在与其他小块的交互中得到精炼。这些模块可以堆叠多层，实验中团队主要测试了两层的标准版本和四层的深度版本。

最后，经过门控变换器精炼后的所有小块特征，通过"门控注意力池化"汇总成一个代表整张切片的向量。这个池化步骤本身也使用了门控注意力机制——不同于堆叠模块中用于信息交互的注意力，这里的注意力专门用于给每个小块打"综合重要性分数"，并据此加权求和。最终得到的这个切片级向量被送入一个简单的分类器，输出诊断或预测结果。

**六个战场，全面验证**

研究团队把QG-MIL放到了六个完全不同的医学影像基准数据集上进行测试，这种跨领域验证的规模在MIL研究中并不常见。

在病理学领域，团队使用了三个数据集。MSK乳腺癌数据集来自纪念斯隆·凯特琳癌症中心，共130张全切片图像，来自78名患者，其中36人有转移性癌症。LungHist700肺部组织数据集包含691张图像，涵盖正常组织和癌症两类。前列腺癌数据集则是一个更具挑战性的预后（即预测未来病情发展）任务：587份活检样本来自213名初始诊断为良性的患者，任务是预测谁会在30个月内发展为癌症，谁能在8年后仍然无癌。

在血液学领域，团队同样使用了三个数据集：AML-Hehr数据集包含129名急性髓系白血病患者，分5种亚型；APL-AML数据集包含106名患者，区分急性早幼粒细胞白血病和其他急性髓系白血病；cAItomorph数据集规模最大，包含2043名患者，横跨8种疾病类别。

病理学数据集的每张图像被多个顶级病理学基础模型编码，包括UNI2-h、Prov-Gigapath和CONCHv1.5，以及传统的ResNet50，以检验QG-MIL是否能在不同质量的特征下保持稳健。血液学数据集则使用专为白血球细胞设计的DinoBloom模型，提供大小两个版本的编码器。

评估策略同样考虑周全。每个数据集按患者分层划出20%作为固定测试集，剩余80%进行5折交叉验证，训练出5个独立模型。推断时对5个模型的预测概率取平均（集成推断），最终在固定测试集上汇报结果，同时报告5个模型之间的标准差来衡量稳定性。由于医疗数据中类别不平衡非常普遍，评估指标统一采用宏平均F1分数，这个指标对每个类别一视同仁，不会因为多数类别样本多就被拉高。

**数字说话：比竞争对手平均高出6.1分**

在乳腺癌诊断任务上，QG-MIL Deep（四层深度版本）配合CONCHv1.5特征提取器达到了98.97%的宏平均F1，这是所有模型中的最高成绩。标准版QG-MIL在多个编码器组合上的平均成绩（88.10%）也明显优于大多数基线方法。对比来看，综合表现最强的基线方法WIKG（一种基于图神经网络的方法）平均为88.51%，与QG-MIL家族中的最强变体基本持平，但在各编码器上的一致性不如QG-MIL家族。

在肺癌诊断任务上，QG-MIL no Gate变体（去掉门控的消融版本）在UNI2-h特征下达到93.34%，是所有模型中的最高值。值得关注的是，这个结果比此前文献报告的最高精度81.6%提升了将近12个百分点，体现出架构改进与特征提取器升级共同带来的复合效益。

前列腺癌预后任务是整个测试中最艰难的一关——毕竟要从良性活检中预测未来是否会发展为癌症，这几乎超出了当前病理学的诊断能力边界。所有模型的分数都在50%到61%之间徘徊，基线方法平均仅54.13%。QG-MIL LayerNorm（用LayerNorm替换RMSNorm的消融版本）在这个数据集上表现最佳，平均达到57.55%，高于所有基线。

在血液学三个数据集上，QG-MIL家族同样全面领先。急性髓系白血病亚型分类上，QG-MIL Deep达到83.00%，而基线方法中最强的标准Transformer为79.06%。急性早幼粒细胞白血病鉴别上，QG-MIL Deep达到69.51%，基线中最强的Transformer为64.44%。cAItomorph八分类任务上，QG-MIL Deep达到65.88%，比此前采用8层Transformer的最优结果提升了约3.7个百分点。

将六个数据集的结果综合来看，QG-MIL家族的最优变体在每一个基准上都超过了所有基线方法，平均提升幅度达到6.1个宏平均F1分数点。

**注意力不再"偏心"的证据**

数字以外，研究团队还专门分析了注意力分布本身，用两种严格的指标来量化"偏心程度"。基尼系数衡量不平等程度，越接近1说明注意力越集中在少数区域；熵衡量分散程度，越接近最大值说明注意力越均匀。

对比结果相当鲜明。传统的ABMIL（注意力基础MIL）展现出高度集中的注意力：基尼系数高达0.62，熵仅为0.90，而且在乳腺癌测试集上，前10%的实例吸收了高达54%的总注意力，也就是说大部分注意力都压缩在极少数区域。而QG-MIL的基尼系数仅为0.16，熵接近满分的0.99，前10%实例只承载了约15%的总注意力，与完全均匀分布相差无几。

从可视化的注意力热力图来看，这种差异更加直观。ABMIL在切片上产生的是"盐粒散布"般的注意力图——零散的几个高亮热点，周围大片区域几乎被忽视。而QG-MIL产生的热力图更像是一张经过平滑处理的温度分布图，重点区域高亮，但高亮区域之间的过渡自然连续。更值得关注的是，QG-MIL选出的注意力最高的四个小块，在形态上呈现出相似的组织结构特征，说明模型确实在寻找有生物学意义的规律，而不是随机地对某几个区域过度响应。

**消融实验：拆掉每一块积木**

为了搞清楚四个核心组件各自贡献了多少，团队系统地测试了一系列消融版本，每次去掉或替换一个设计元素。

去掉注意力输出门控（noGate版本）后，在肺癌诊断上反而略有提升，说明对于数据量较少的场景，门控引入的额外参数可能带来轻微过拟合。但在多个其他场景中，门控的移除明显损害了性能，尤其是在前列腺癌预后任务上，noGate的平均分数从55.80%骤降至53.03%。

去掉QK归一化（noQKnorm版本）后，在血液学任务上的表现相对稳健，但在某些病理学任务上出现了轻微下降，说明归一化对防止注意力极端化确实有贡献，但其效果受数据规模和任务难度的调节。

把RMSNorm换成LayerNorm后，模型在多个数据集上反而表现更好，尤其是前列腺癌数据集。这并不意味着LayerNorm本身更优，而是说两种归一化在不同任务特性下各有适应性，研究团队保留了两个版本供使用者根据实际场景选择。

减小隐藏层维度（Light版本，从512降至256，参数量从900万降至240万）在大多数场景下性能下降有限，这意味着QG-MIL存在相当的轻量化空间，对于算力受限的场景有实用价值。

增加层数（Deep版本，从2层增至4层）的效果取决于数据量：在样本充足的数据集（如cAItomorph的2043名患者）上，深度版本显著提升性能；而在样本稀少的数据集上，增加深度反而可能引入优化不稳定性，导致方差增大。这一观察与研究团队提炼出的通用规律完全一致：数据越多，越能支撑更复杂的架构。

**两个世界之间的桥梁**

QG-MIL能够在两类截然不同的医学影像任务上同时取得好成绩，这一点本身就值得单独讨论。全切片病理图像和血液细胞分析之间存在巨大的结构差异。一张全切片图像经过分块后可能产生数千个实例，每个实例是一个几十微米见方的组织碎片；而一个血液样本的"包"只包含数百个单细胞图像，每个实例是完整的单个细胞。

这两种场景对聚合模块提出的要求并不相同。全切片场景中，实例之间的空间关系非常重要，有价值的病变区域可能高度局部化，聚合模块需要能够在"大海捞针"的压力下保持对关键区域的感知。血液细胞场景中，每个细胞都是独立的形态单元，不同类型细胞在包内的比例和形态特征才是分类的关键线索，聚合模块需要能够捕捉整体分布规律。

QG-MIL在两种场景下都使用了完全相同的架构和超参数设置，没有针对任何一个特定数据集做专门调整，却都取得了超越基线的成绩。这种"通用性"是研究团队明确追求的目标，也是他们在论文标题中强调"领域无关性"的原因。

**诚实面对局限**

研究团队在论文中清楚地指出了QG-MIL的现实局限，这种坦诚值得关注。

完整的门控架构在小样本数据集上可能引入额外的训练方差，反而让去掉门控的简化版本更加稳定。这提示在患者数量有限（比如仅有一两百人）的应用场景中，使用者可能需要根据实际验证结果在不同变体之间做出权衡，而不是无条件采用全功能版本。

从计算资源角度看，细粒度门控和SwiGLU模块确实增加了训练时的内存占用和时间消耗，相比最简单的ABMIL会明显增加。不过研究团队也澄清，这种开销主要体现在训练阶段，推断阶段的计算量实际上比一些更复杂的基线方法（如RRT和TransMIL）还要低：对于512个实例的包，QG-MIL仅需约7 GFLOPs；对于1024个实例的包，约需18 GFLOPs。

另外，整个研究使用了固定的超参数（如学习率、dropout比率、嵌入维度等），没有针对每个数据集进行专门调优。研究团队的本意是为了公平对比，但这也意味着通过针对性调参，各个数据集上的绝对成绩应该还有进一步提升的空间。

说到底，QG-MIL解决的是一个医学AI中长期存在的结构性问题——不是用外部约束来强行纠正AI的偏见，而是从内部重新设计让偏见无从产生的条件。这种思路与其说是一次技术参数的优化，不如说是一次视角的转换：与其不断给一个容易迷路的人贴地图，不如改变他天生的导航方式。

对于从事医学图像分析的研究者和工程师来说，QG-MIL提供了一个可以直接替换现有聚合模块的即插即用方案，不需要修改数据处理流程或特征提取器，代码已经在论文对应的GitHub仓库中公开，并支持各组件的灵活配置。对于关注AI可解释性的读者来说，更均匀分布的注意力意味着更值得信赖的诊断依据——AI指出的重要区域，更可能真的是病理医生应该重点审查的地方，而不是统计噪声的产物。

此后的研究方向已经初具轮廓。团队计划探索能够根据数据集规模自适应调整复杂度的动态门控机制，让模型不再需要人为选择"深度版"还是"轻量版"，而是自己根据数据量决定用多大的力气。同时，将QG-MIL扩展到多模态临床场景——将图像特征与患者的基因数据、临床记录结合起来——也是一个自然的延伸方向，这可能为那些仅靠图像难以预测的疾病结局提供新的突破口。

Q&A

Q1：QG-MIL和普通的AI医学图像分析有什么不同？

A：普通的注意力MIL方法容易把目光死锁在少数几个区域，形成"注意力黑洞"，导致预测不稳定、可解释性差。QG-MIL通过四个架构层面的设计——RMSNorm预归一化、QK归一化、门控注意力输出和SwiGLU前馈网络——从结构上防止注意力过度集中，不需要额外的训练步骤或辅助损失函数，可以直接替换现有系统中的聚合模块。

Q2：QG-MIL需要医生提供每张切片的详细标注吗？

A：不需要。QG-MIL属于弱监督学习框架，医生只需要提供切片或患者层面的诊断标签（比如"有癌/无癌"），不需要标注每个小块区域是否病变。这大大降低了医疗AI对昂贵专家标注的依赖，这也是多实例学习方法在临床场景中最核心的实用价值之一。

Q3：QG-MIL在小医院样本量少的情况下还能用吗？

A：样本量确实会影响QG-MIL的最优配置选择。当患者数量较少时，完整的门控架构可能引入额外的训练不稳定性，研究团队建议在这种情况下考虑使用更简化的变体，比如去掉门控的noGate版本或参数量减半的Light版本。研究中已对此进行了专门的消融实验验证，代码库支持灵活切换各组件，方便使用者根据自身数据规模选择合适配置。