教AI叠蛋白质，结果它学会了看地图

2026年,上海交通大学的一个实验室发布了一篇论文,问了一个听起来有点离谱的问题:如果你教一个大语言模型去学蛋白质折叠,它会不会顺便学会别的本事?

这个问题的离谱之处在于,蛋白质折叠和你问模型"北京到上海怎么走"或者"这个化学反应会生成什么产物",看起来完全是两个世界的东西。一个是三维空间里氨基酸链条怎么盘绕成特定形状的物理问题,一个是语言和逻辑的问题。教模型前者,为什么会影响后者?

但研究者们真做了这件事,而且结果出乎意料地清晰。

这事得从一个长期被忽视的矛盾说起

现在训练大语言模型,基本思路就是喂人类写的文字。问题是,人类写的文字有个天生的缺陷:它只告诉你答案,不告诉你推理过程背后的空间逻辑。

你读到"地球是圆的",这句话本身不包含任何关于"为什么"的三维信息。你读到一道物理题的标准解法,也只是看到了别人已经把空间关系翻译成文字之后的产物,翻译过程中损失了大量原始的几何直觉。

这就引出一个很自然的猜测:如果有一种数据,它本身就是精确的、可验证的、充满空间结构的,并且不是人写出来的,而是从客观世界里测量出来的,会不会比纯文字数据更能锻炼模型的某种底层推理能力?

蛋白质结构恰好符合这个条件。一个蛋白质的三维坐标一旦被实验测定出来,就能衍生出成千上万条可以精确核验的陈述:这两个氨基酸残基是不是挨着、哪一段比另一段更靠近分子中心、某个局部的手性是左旋还是右旋。这些问题的答案不是靠人写出来的观点,而是直接从坐标算出来的几何事实。

研究者给这套数据起了个名字,叫FoldingCorpus

FoldingCorpus:一个从已知蛋白质结构自动生成的问答数据集,包含1200个蛋白质和14400条问答记录,覆盖12种不同的结构判断任务,比如判断两个残基是否接触、判断某段螺旋朝向哪个方向等等。

围绕这个数据集,他们设计了一套训练方法,叫Fold2Reason

Fold2Reason:一套后训练方法,让语言模型同时学习两类信号,一类是离散的结构问答(比如"是"或"否"),另一类是连续的三维几何坐标,两类信号共享同一套内部表示。

他们选了一个9B参数规模的模型Qwen3.5-9B做底座,用这套方法训练完之后,把蛋白质相关的一切输入全部拿掉,只留下被调整过的语言模型本身,拿去做十个跟蛋白质毫无关系的测试,包括空间推理、图结构推理、化学知识、还有综合逻辑题。

结果是,十个测试全部提升,平均分从45.09%涨到48.33%。

这事的难点在于证明"真的有用",而不是"看起来有用"

这里要先说清楚一件容易被忽略的事。模型在一种任务上训练后,在另一种任务上分数变好,这件事本身并不罕见,甚至可以说很容易伪造出一种"看起来有用"的假象。

比如说,如果训练数据恰好包含某种特定的答题格式,模型可能只是学会了"怎么老老实实按格式输出一个选项",而不是真的学会了什么推理能力。这种情况下,哪怕换一个完全不相关的任务,只要题目格式类似,分数也可能虚高。

这就好比一个学生,如果你反复让他做"把答案写在横线上"的填空题,他可能只是练出了填空的手感,哪怕给他的题目内容是胡编的,他也能照猫画虎填出一个看起来合理的答案。如果不做额外验证,你根本分不清他是真学会了知识,还是只是学会了"怎么填空"这个动作本身。

研究者显然意识到了这个坑,所以他们专门设计了三组对照实验,用来排除"格式学习"这种虚假提升的可能性。

第一组叫隐藏几何(Hidden Geometry),把蛋白质的真实提示保留,但是把所有答案替换成从一个完全随机生成的、不对应任何真实蛋白质的点结构里算出来的结果。第二组叫格式复制(Format Copy),直接给模型一个带着正确格式编码的"答案样板",让它学着照抄。第三组叫固定打乱(Fixed Shuffle),保留原始的蛋白质提示和问题,但是把标签替换成另一个蛋白质的固定答案。

测试格式和Fold2Reason

Fold2Reason:指使用真实蛋白质数据训练出来的最终模型,后文直接以此代指该方法训练出的完整模型版本。

结果出来后,差距非常明显。隐藏几何这一组带来的提升只有0.92个百分点,格式复制甚至是负的0.09个百分点,固定打乱则是负的0.27个百分点。而用真实蛋白质结构训练出来的Fold2Reason,提升幅度是3.23个百分点,是最强对照组的三倍还多。

这个对比说明了一件事:答案本身"长什么样"不重要,重要的是这个答案是不是从一个内在自洽、有真实物理约束的结构里推导出来的。

两条信号线,一条管大局一条管细节

Fold2Reason的训练设计里有个挺巧妙的地方,它没有只用一种监督信号,而是同时用了两条。

第一条是离散答案监督,就是前面说的那12类结构问答,比如"这两个残基接触吗",答案是"是"或"否",通过模型自带的语言输出头来学习。第二条是连续几何监督,通过一个冻结的坐标解码器,强迫模型内部的表示能够还原出真实的三维坐标和残基间距离。

这两条信号被安排在一个共享的工作空间里,研究者叫它workspace

workspace:一个训练时专用的中间层结构,把模型对每个氨基酸残基的隐藏状态压缩到256维,并在序列相邻和远程的残基对之间交换信息,最后输出两种结果,一种是逐残基对齐的表示,另一种是用16个可学习的查询向量池化出来的、固定长度的摘要表示。

这个设计的巧思在于,它强迫模型必须同时满足两种约束:既要能正确回答"这两个残基接不接触"这种分类问题,又要能让内部表示支撑起真实的三维坐标重建。这两件事其实是互补的,回答分类问题逼着模型抓大局逻辑,重建坐标逼着模型抓精确的局部几何。

打个比方,这就像同时让一个学生学两门课,一门是地理问答,考的是"这个城市在哪个方向""这条河流过几个省",答案是选择题;另一门是制图课,要求他把整个区域的地图画出来,每一条等高线都得准。如果只学地理问答,学生可能靠死记硬背蒙对选择题,但画不出一张真正立体准确的地图;如果只学画地图,他可能画得很细致,但说不出"哪个方向"这种更高层次的归纳判断。两门课一起上,学生才会既有大局观又有细节感。

消融实验证实了这个猜测。研究者做了个实验,把几何监督去掉,只留下答案问答训练,结果General-10的提升是2.93个百分点,说明大部分的广泛迁移效果来自答案问答这条线。而加上几何监督之后,额外多出来的提升集中在跟三维空间关系最密切的那几个测试上,比如FTB-Core这个内部构建的空间推理基准,几何监督单独贡献了1.26个百分点的提升。

换句话说,答案问答训练负责"学会怎么推理",几何监督训练负责"把局部的空间直觉打磨得更准"。两者分工明确,但缺一个都不行。

这套方法不挑模型,但也不是万能的

一个好的方法应该经得起换个底座模型的考验。研究者在Qwen3.5系列的三个不同参数规模上都做了测试,分别是2B、4B、9B,外加一个完全不同架构的多模态模型InternVL3.5-8B。

结果是,所有这些模型都出现了正向提升,从2B模型的5.41个百分点,到9B模型的3.22个百分点,InternVL也有1.53个百分点的提升。有意思的是,模型越小,提升幅度反而越大,这或许说明小模型本身的"底子"更薄,结构化训练能挖出的潜力空间更大。

但是,这套方法不是对所有模型都生效。他们测试了Gemma-4-12B-IT这个模型,结果提升几乎为零,只有0.07个百分点,三个训练种子里还有一个是负的。

这个结果挺重要的,因为它说明了一件事:蛋白质结构训练带来的迁移效果,和模型本身的架构、训练动态是有关系的,不是一个放之四海而皆准的万能药。研究者没有回避这个负面结果,反而把它写进了论文里,这种诚实的态度其实比到处宣称"我的方法对所有模型都有效"更有价值。

数据规模怎么调,效果怎么变

研究者还做了一个关于数据量的实验,从50个蛋白质一路加到4000个蛋白质,每次都用固定的三轮训练。

结果显示,General-10的提升幅度从50个蛋白质时的0.49个百分点,一路涨到2000个蛋白质时的3.70个百分点,之后在4000个蛋白质时略微回落到3.02个百分点。

这个曲线形状挺有意思,它不是一直往上涨,也不是突然饱和,而是先快速上升,然后在某个点附近达到峰值,再微微回落。

但更有意思的发现藏在另一个对照实验里:固定蛋白质数量不变(1000个),只改变每个蛋白质上附带的问答标签数量,从3条加到6条再加到12条。结果General-10的提升幅度分别是3.391、2.951、3.311个百分点,没有呈现出任何单调递增的规律。

这说明了一个容易被误解的点:提升效果不是靠"问更多问题"堆出来的,而是靠"覆盖更多不同的蛋白质"带出来的。这就像你想学会看地图,给你同一张地图反复出一百道不同的问题,和给你一百张不同的地图各出一道问题,后者显然更能锻炼你的通用读图能力。如果只是在同一片区域里反复提问,你学到的更可能是这片区域的特殊记忆,而不是读图这项能力本身。

折叠能力本身到底强不强

虽然这篇论文的核心卖点是"迁移到其他推理任务",但研究者也顺带报告了模型在蛋白质折叠这个老本行上的表现。

拿训练好的Fold2Reason去跟几个通用大模型(包括DeepSeek、Gemini、GPT、Claude的某些版本)直接比拼,在334个蛋白质结构预测任务上,Fold2Reason的TM-score(一个衡量预测结构和真实结构相似度的指标)达到16.88(乘以100后的数值),是未经训练的Qwen3.5-9B基座(4.55)的3.7倍左右,也超过了几个对比的通用大模型在该指标上的最好表现。

不过研究者很坦诚地指出,这个折叠质量放在真正的蛋白质结构预测领域,还远远达不到实用水平。他们管这个状态叫"结构可解码性",意思是模型的内部表示里确实编码了一些真实的结构信息,能被解码出来,但距离精准预测完整的蛋白质三维形状还差得很远。这个区分很重要,它提醒读者不要把这个研究成果误读成"又一个AlphaFold级别的折叠工具"。

数据会不会"抄近道"

任何涉及公开数据集训练的研究,都躲不开一个问题:会不会存在数据泄漏,也就是训练集和测试集之间有重叠,导致模型表现出来的提升其实是"背答案"而不是"学能力"。

研究者在这方面做了相当细致的审查。蛋白质数据集的三个划分(训练、开发、冻结测试)在聚类层面是完全互斥的,也就是说每个蛋白质家族只出现在一个划分里。但他们也坦承,这种聚类审查不是万能的,针对独立扩展实验所用的更大训练池,他们额外做了一次序列比对审查,结果发现确实存在一些训练数据和测试数据之间的模板来源重叠,具体是6个训练集里的蛋白质包含源自测试基准目标的模板接触约束信息。

这种诚实披露本身是值得称道的。研究结论没有因为这个发现而被撤回,但研究者明确标注了这是一个尚未完全解决的局限,提醒读者对相关的折叠质量曲线保持审慎态度。

这篇论文之后,接下来可能会发生什么

这项研究发表之后,能看到的是一整套开放的实验框架和公开的代码仓库,这意味着后续工作很可能沿着两个方向展开。

一个方向是扩展到更多科学领域的结构化数据,比如化学反应路径、材料晶体结构,这些领域同样具备"客观可验证、信息密度高、非人类撰写"的特点,理论上都可以复刻这套训练范式。另一个方向是深挖"为什么这套方法对某些模型架构有效、对另一些无效"这个问题,目前论文只是观察到了Gemma这个反例,但没有给出架构层面的解释,这其实是留给后续研究者的一个很有价值的开放课题。

写在后面

读完这篇论文,最让我意外的不是"蛋白质训练能提升通用推理"这个结论本身,而是研究者对负面结果的坦诚程度。Gemma模型几乎没有提升,这个结果如果换一个急于证明方法有效的团队,很可能会被悄悄调整实验设置,或者换个说法淡化处理。但他们直接把这个结果摆在表格里,还专门讨论了"架构依赖性"这个限制。

另一个让我反复琢磨的细节,是label density(标签密度)这个实验的反直觉结果。按照常识,给同一批蛋白质问更多问题,应该能学到更多东西才对,但实验数据偏偏打破了这个直觉。这提示了一个更深层的问题:对于结构化知识的学习,"广度"可能比"深度"更重要。这个结论如果放到更大的语境里想一想,其实跟人类学习的某些规律也挺像的,见识过100种不同类型的问题,可能比在同一类题目上刷100遍更能培养出迁移能力。

还有一处细节我印象很深,研究者专门花了大量篇幅去审查"模型是不是只是学会了输出格式",这种自我怀疑式的严谨,在很多追求亮眼数字的论文里是少见的。他们甚至专门统计了哪些任务的提升集中在"少数几道题目上",比如FTB-Core里有一个任务贡献了75%的净提升,这种拆解让整篇论文的可信度高了不少。

如果蛋白质折叠这种精确可验证的科学数据真的能喂养出更好的推理能力,那地球上还有多少类似的"沉睡数据",正等着被重新发现用途?

Q&A

Q1：Fold2Reason是什么?

A：Fold2Reason是一套后训练方法,让语言模型同时学习两类信号,离散的蛋白质结构问答和连续的三维几何坐标,训练完成后去掉蛋白质相关输入,发现模型在空间推理、图推理、化学推理等十个跟蛋白质无关的测试上都有提升。

Q2：教AI学蛋白质折叠真的能提升它其他方面的推理能力吗?

A：论文给出的证据显示确实如此,在十个通用推理测试上平均分从45.09%提升到48.33%,而且用随机数据、格式复制等对照实验排除了"只是学会输出格式"这种虚假提升的可能性。

Q3：这套方法对所有大语言模型都有效吗?

A：不是。研究在Qwen系列三个规模和InternVL上都看到正向提升,但在Gemma-4-12B-IT上几乎没有效果,说明提升幅度和模型架构、训练动态有关,不是普适性的万能方法。