ByteDance推出学术搜索神器：AI帮你轻松找齐论文，不再为文献调研发愁

当你打开Google Scholar搜索"非平稳强化学习中的UCB算法"时，是否经常感到无从下手？面对茫茫论文海洋，就像在图书馆里寻找一本特定的书却不知道它藏在哪个角落。如今，ByteDance的研究团队带来了一个革命性的解决方案——PaSa，一个能够像资深研究员一样自动搜索学术论文的AI助手。

这项由ByteDance Seed团队的何毅辰、黄冠华等研究人员以及北京大学的鄂维南教授共同完成的研究，发表于2025年1月。研究团队通过他们的官方演示网站https://pasa-agent.ai向公众展示了这一成果，而完整的论文资料和代码则可以在https://github.com/bytedance/pasa获取。

想象一下，当你准备写学术论文时，通常需要花费大量时间在文献调研上。传统的搜索方式就像用一把小铲子在矿山里挖金子——你知道金子在那里，但找到它们却异常困难。研究显示，学者们经常花费数周甚至数月的时间来收集相关文献，而且很容易遗漏重要的参考文献。更糟糕的是，现有的搜索工具往往只能处理简单查询，面对复杂的学术问题时就显得力不从心。

PaSa的出现彻底改变了这种状况。它就像一个经验丰富的图书管理员，不仅知道每本书的位置，还能根据你的需求主动推荐相关资料。更重要的是，它能够自动阅读论文内容，追踪引用链，发现那些隐藏在引用网络深处的珍贵文献。这种智能化的搜索方式让研究人员从繁重的文献搜集工作中解脱出来，将更多精力投入到真正的研究创新中。

一、传统学术搜索的困境：为什么Google Scholar不够用

我们先来看看传统学术搜索面临的问题。当你在Google Scholar中输入"多模态大语言模型的缩放定律"这样的查询时，搜索引擎会返回成千上万个结果，但这些结果往往存在几个问题。

首先是覆盖面不够全面。传统搜索引擎就像一个只会按照字面意思理解的助手，它只能找到标题或摘要中直接包含你搜索词汇的论文。但实际上，许多相关的重要研究可能使用了不同的表述方式。比如，研究"视频文本模型的扩展规律"的论文与你搜索的内容高度相关，但因为用词不同，传统搜索可能会遗漏它们。

其次是结果质量参差不齐。搜索引擎返回的结果就像一盘大杂烩，包含了各种不同质量和相关度的内容。你需要逐一点击查看，就像在一堆混合的豆子中挑选出优质的那些，既耗时又容易出错。

最关键的问题是，传统搜索无法进行深度挖掘。真正的学术研究往往需要追踪引用链条，发现那些被多次引用但不一定排在搜索结果前面的经典论文。这就像寻找一个谣言的源头，你需要从当前的信息出发，一步步追溯到最初的来源。传统搜索引擎在这方面几乎无能为力。

研究团队发现，即使是最先进的搜索系统，包括Google Scholar和带有GPT-4o增强功能的Google搜索，在处理复杂学术查询时的表现仍然不够理想。这就像用手电筒在黑暗的洞穴中寻宝，光束虽然明亮，但照射范围有限，很容易错过角落里的珍贵物品。

二、PaSa的智能架构：双剑合璧的搜索策略

面对这些挑战，研究团队设计了PaSa系统，它采用了一种全新的双重智能代理架构。整个系统就像一个配合默契的侦探团队，由两个专门的AI代理组成：爬虫代理（Crawler）和选择器代理（Selector）。

爬虫代理就像一个永不疲倦的探索者，它的任务是尽可能广泛地收集相关论文。当你提出一个学术查询时，爬虫代理首先会像经验丰富的研究员一样，将你的问题拆解成多个互补的搜索策略。比如，对于"分析多模态模型缩放定律的研究"这个查询，它可能会生成"多模态AI模型的缩放定律分析"、"视频文本模型缩放法则研究"、"图像文本模型扩展规律调研"等多个不同但相关的搜索词。

更有意思的是，爬虫代理不仅会进行网络搜索，还会深入阅读找到的论文。就像一个真正的研究者会仔细阅读参考文献一样，它能够理解论文的结构和内容，识别出哪些引用的论文可能与当前查询相关。然后，它会将这些新发现的论文添加到待处理队列中，形成一个不断扩展的搜索网络。

这种探索方式特别有趣，因为它模拟了人类研究者的真实工作流程。当我们阅读一篇论文时，经常会在参考文献中发现更多有价值的资料，然后循着这些线索继续深入研究。爬虫代理将这个过程自动化了，它可以在引用网络中进行多层深度搜索，发现那些埋藏在学术网络深处的珍贵论文。

选择器代理则扮演着严格评判员的角色。它的任务是对爬虫代理收集到的每一篇论文进行仔细评估，判断其是否真正符合用户的查询需求。这个过程就像一个专业的文献评审员，需要仔细阅读论文的标题和摘要，有时甚至需要了解论文的详细内容，然后做出准确的判断。

选择器代理的工作原理非常精妙。它不仅会给出"相关"或"不相关"的二元判断，还会提供详细的推理过程，解释为什么某篇论文符合或不符合查询要求。这种解释能力不仅提高了系统的透明度，也增强了用户对结果的信任感。

两个代理之间的协作机制也很巧妙。选择器不仅负责最终的筛选工作，还在训练过程中充当爬虫代理的指导老师。当爬虫代理找到一篇论文时，如果选择器认为这篇论文相关，爬虫代理就会得到正面反馈，这样它就能逐渐学会什么样的搜索策略更有效。这种反馈机制让整个系统能够不断改进和优化。

三、数据集的精心构建：从顶级会议中提取智慧

要训练出如此智能的学术搜索系统，研究团队面临着一个关键挑战：如何获得高质量的训练数据。毕竟，教AI如何搜索学术论文，首先需要大量优质的查询和论文配对数据。

研究团队采用了一个非常聪明的策略。他们意识到，最好的学术查询和答案其实就隐藏在已发表的高质量论文中。每篇优秀的学术论文都有一个"相关工作"章节，这个章节本质上就是作者对特定学术问题的深度文献调研结果。

基于这个洞察，他们从五个顶级人工智能会议收集论文：ICLR 2023、ICML 2023、NeurIPS 2023、ACL 2024和CVPR 2024。这些会议就像学术界的奥斯卡奖，能在这些会议上发表的论文都代表着该领域的最高水准。

数据构建过程就像一个精密的知识提取工程。对于每篇收集到的论文，研究团队使用GPT-4o来分析其"相关工作"部分，自动生成可能的学术查询，并将该部分引用的论文作为这些查询的标准答案。

举个例子，如果一篇论文的相关工作部分讨论了"使用分层神经网络捕捉手语视频时空特征的研究"，系统就会生成类似"能否提供一些提出分层神经模型来捕捉手语视频时空特征的研究？"这样的查询，并将该部分引用的相关论文作为答案。

这种方法的妙处在于，它确保了查询和答案之间的天然匹配关系。因为这些查询本质上来自于真实的学术研究场景，而答案也是经过同行评议认可的高质量论文，所以整个数据集具有很高的可靠性。

最终构建的AutoScholarQuery数据集包含了33,511个训练样例、1,000个开发样例和1,000个测试样例。为了验证数据质量，研究团队随机抽取了100个查询-论文配对进行人工评估，结果显示94%的查询是合理的，而在这些合理查询中，93.7%的对应论文确实符合查询要求。

除了合成数据集，研究团队还构建了一个真实世界的测试集RealScholarQuery。他们邀请真实的AI研究者使用PaSa演示系统，收集了50个真实的学术查询，然后邀请计算机科学领域的专业教授对每个查询的候选答案进行仔细标注。这个过程非常严格，平均每个查询需要审查76篇候选论文，标注成本高达每个查询304美元。

这种双重验证机制确保了训练数据和测试数据的高质量。合成数据集提供了大规模训练所需的数据量，而真实数据集则保证了系统在实际应用中的有效性。

四、强化学习训练：让AI学会像研究员一样思考

有了高质量的数据集，下一个挑战就是如何训练PaSa系统。这里面临的技术难题就像教一个学生学会复杂的研究技能，不仅要教会基本方法，还要让他学会在复杂情况下做出正确判断。

研究团队采用了一种创新的强化学习方法来训练爬虫代理。强化学习就像训练一个学生通过不断试错来掌握技能，每当学生做对了什么，就给予奖励，做错了就给予惩罚，让学生逐渐学会正确的行为模式。

在PaSa的训练中，奖励机制设计得非常巧妙。当爬虫代理找到一篇与查询相关的论文时，它会获得正面奖励。但这里有个技术难点：由于AutoScholarQuery数据集只包含了部分相关论文（因为论文的引用通常只列出最重要的几篇），如果严格按照数据集来判断，很多实际相关的论文可能得不到奖励，导致训练效果不佳。

为了解决这个问题，研究团队让选择器代理兼职当"老师"。当爬虫代理找到一篇论文时，除了检查这篇论文是否在原始数据集中，系统还会让选择器代理进行评估。如果选择器认为这篇论文相关，爬虫代理同样会得到奖励。这种设计大大丰富了训练信号，让系统能够学到更丰富的搜索策略。

训练过程中还有一个巧妙的设计叫做"会话级训练"。传统的训练方法需要处理完整的搜索轨迹，但一次完整的学术搜索可能涉及数百甚至数千篇论文，这样的轨迹太长了，计算机很难处理。

研究团队将长轨迹分解成多个短会话。每个会话要么是从查询开始的搜索过程，要么是从某篇论文开始的引用扩展过程。这种分解就像将一部长电影分成多个短片段来学习，既保持了内容的连贯性，又大大提高了训练效率。

训练过程分为两个阶段。第一阶段是模仿学习，就像让学生先观察老师如何搜索论文，学会基本的搜索步骤和策略。研究团队构建了约13,000个示范性搜索轨迹，教会系统基本的搜索技能。

第二阶段是强化学习，让系统通过实际操作来优化自己的搜索策略。在这个阶段，系统会尝试各种不同的搜索方法，根据找到相关论文的情况来调整自己的行为。训练过程就像一个学生在做大量练习题，通过不断的实践来提高自己的技能水平。

选择器代理的训练相对简单一些，主要采用监督学习方法。系统会学习如何准确判断一篇论文是否符合特定查询的要求，并学会给出合理的解释。训练数据来自于前面构建的高质量查询-论文配对，确保选择器能够做出准确的判断。

整个训练过程历时数周，使用了16块高性能GPU。最终训练出的PaSa-7B模型在保持高效率的同时，展现出了卓越的学术搜索能力。

五、实验验证：PaSa大显身手的时刻

为了验证PaSa的实际效果，研究团队进行了一系列全面的对比实验。他们将PaSa与目前最先进的学术搜索方法进行了全方位比较，结果令人印象深刻。

在合成数据集AutoScholarQuery上的测试中，PaSa-7B展现出了压倒性的优势。与Google搜索配合GPT-4o查询优化的组合相比，PaSa在recall@20指标上提升了34.05%，在recall@50上提升了39.36%。这意味着，在前20个搜索结果中，PaSa能找到的相关论文数量比最强的基线方法多了三分之一以上。

更令人兴奋的是在真实数据集RealScholarQuery上的表现。面对真实用户的复杂查询，PaSa-7B相比Google配合GPT-4o的组合，在recall@20上提升了37.78%，在recall@50上提升了39.90%。这种一致的优异表现证明了PaSa不仅在理论数据上有效，在实际应用中同样表现卓越。

特别值得注意的是与PaSa-GPT-4o的比较。PaSa-GPT-4o是研究团队用同样的方法但使用GPT-4o模型实现的版本，这个对比能够说明专门训练的重要性。结果显示，经过专门训练的PaSa-7B在recall指标上超越了PaSa-GPT-4o约30%，充分证明了针对性训练的价值。

研究团队还进行了详细的消融实验，分析系统各个组件的贡献。实验发现，引用扩展功能极其重要，移除这个功能会导致recall下降22.98%。这说明了深度挖掘引用网络对于全面搜索的关键作用，也证实了PaSa相比传统搜索引擎的核心优势。

强化学习训练的效果也很显著。相比仅使用模仿学习的版本，经过强化学习优化的PaSa在recall上提升了约6%。这个提升看似不大，但在信息检索领域已经是相当可观的改进。

选择器代理作为辅助奖励模型的作用同样不可忽视。移除这个功能后，系统性能下降了约4%。这证明了双代理架构设计的合理性，两个组件相互配合，共同提升了系统的整体性能。

实验还显示，系统的行为可以通过调整奖励参数来控制。当增加奖励系数时，爬虫代理会进行更多的搜索和扩展操作，虽然这会增加计算成本，但也能找到更多相关论文。这种可调节性让PaSa能够适应不同用户的需求，在搜索深度和计算效率之间找到平衡。

六、技术深度解析：PaSa的核心创新点

PaSa系统的成功不仅仅在于优异的实验结果，更重要的是其背后的技术创新。这些创新为学术搜索领域带来了新的思路和方法。

首先是多代理协作架构的设计。传统的信息检索系统通常采用单一模型处理所有任务，但PaSa将搜索和筛选分解为两个专门的代理，实现了专业分工。爬虫代理专注于最大化召回率，确保不遗漏任何可能相关的论文；选择器代理专注于提高精确率，过滤掉不符合要求的结果。这种分工就像工厂的流水线，每个环节都专精于自己的任务，整体效率得到显著提升。

引用网络的智能遍历是另一个重要创新。传统搜索引擎只能基于关键词匹配进行表面搜索，而PaSa能够理解论文的内容结构，识别出值得深入探索的引用方向。系统不是盲目地扩展所有引用，而是有选择性地探索那些最可能包含相关论文的引用分支。这种智能探索策略大大提高了搜索效率。

会话级强化学习方法也是一个技术突破。传统的强化学习方法难以处理学术搜索这样的长序列任务，因为一次完整搜索可能涉及数百个决策步骤。PaSa通过将长序列分解为多个短会话，既保持了决策的连贯性，又使得训练变得可行。这种方法为其他长序列决策任务提供了新的解决思路。

奖励机制的设计也很有创意。单纯依靠数据集标注来给出奖励信号往往会遇到稀疏奖励问题，因为真实的相关论文集合通常比数据集中的标注更大。PaSa通过让选择器代理提供额外的奖励信号，有效缓解了这个问题，使得训练过程更加稳定和高效。

系统的可解释性设计也值得称道。选择器代理不仅给出判断结果，还提供详细的推理过程，这对于学术搜索这样需要高度信任的应用场景非常重要。用户可以理解系统的决策逻辑，从而更好地利用搜索结果。

七、实际应用价值：改变学术研究的工作流程

PaSa的意义远远超出了技术层面的创新，它有望根本性地改变学术研究的工作流程。传统的文献调研工作往往需要研究人员花费数周甚至数月时间，而且很难保证搜索的完整性和准确性。

对于研究生和博士生来说，PaSa就像一个经验丰富的导师助手，能够快速帮助他们建立对某个研究领域的全面认识。新入门的研究者往往不知道从何处开始文献调研，也不清楚哪些论文是该领域的经典之作。PaSa能够自动发现这些重要文献，帮助新手快速建立知识基础。

对于经验丰富的研究人员，PaSa的价值在于帮助他们发现可能遗漏的相关工作。即使是在某个领域深耕多年的专家，也可能因为关键词的差异或引用链的复杂性而错过重要论文。PaSa的全面搜索能力能够有效弥补这种遗漏。

从更宏观的角度看，PaSa有助于促进跨学科研究。不同学科往往使用不同的术语体系，传统搜索方法很难跨越这种语言障碍。PaSa通过理解论文内容而非仅仅匹配关键词，能够发现不同领域间的相关研究，为跨学科合作提供桥梁。

系统的高效性也为大规模学术分析提供了可能。研究机构可以利用PaSa快速生成特定领域的全面文献综述，追踪研究热点的发展轨迹，识别新兴研究方向。这对于科研管理和政策制定都具有重要价值。

此外，PaSa的开源性质意味着全球研究社区都能受益于这项技术。研究团队将代码、数据和模型全部开源，允许其他研究者在此基础上进行改进和扩展。这种开放性有助于推动整个学术搜索技术的快速发展。

八、未来展望与发展空间

虽然PaSa已经展现出了卓越的性能，但研究团队也坦诚地指出了当前的局限性和未来的发展方向。

首先是领域扩展的挑战。目前的实验主要集中在机器学习和人工智能领域，虽然PaSa的方法具有普适性，但在其他科学领域的表现还需要进一步验证。不同学科的论文结构、引用模式和术语使用习惯可能存在差异，这需要针对性的调整和优化。

模型规模的扩展也是一个重要方向。当前的PaSa-7B模型已经展现出了impressive的能力，但更大规模的模型可能带来进一步的性能提升。随着计算资源的不断发展，训练更大规模的学术搜索模型将成为可能。

多语言支持是另一个重要发展方向。目前的系统主要处理英文论文，但学术研究是全球性的，很多重要研究成果发表在非英文期刊上。支持多种语言的学术搜索将大大扩展系统的应用价值。

实时性也是需要改进的方面。当前的系统主要基于历史论文数据进行训练，对于最新发表的论文可能存在滞后。如何快速更新模型以包含最新研究成果，是一个值得探索的技术问题。

用户交互体验的优化同样重要。虽然当前的系统已经能够处理复杂查询，但如何更好地理解用户意图，提供个性化的搜索结果，还有很大改进空间。未来可能会集成更多的用户反馈机制，让系统能够根据用户的使用习惯进行自适应调整。

集成更多数据源也是一个有趣的方向。除了传统的学术论文，会议演讲、技术报告、预印本等也包含大量有价值的学术信息。如何将这些多样化的信息源整合到统一的搜索框架中，是一个富有挑战性的问题。

说到底，PaSa代表了学术搜索技术发展的一个重要里程碑。它不仅解决了研究人员长期面临的文献搜索难题，更为整个学术研究生态系统的数字化转型提供了新的可能性。随着技术的不断完善和应用场景的扩展，这类智能学术助手有望成为每个研究人员不可或缺的工具，让学术研究变得更加高效和精确。

当然，技术进步也带来新的思考。当AI能够如此高效地进行文献搜索时，研究人员的角色会发生什么变化？如何平衡AI辅助和人类创造性思维？这些问题没有标准答案，但PaSa的出现无疑为我们思考学术研究的未来提供了新的视角。无论如何，有一点是确定的：PaSa让我们离"让每个研究人员都能站在巨人肩膀上"的目标又近了一步。

Q&A

Q1：PaSa是什么？它与传统学术搜索有什么区别？

A：PaSa是ByteDance开发的智能学术论文搜索系统，它最大的特点是能像资深研究员一样自动搜索论文。与Google Scholar等传统搜索不同，PaSa不仅能搜索，还能自动阅读论文内容，追踪引用链条，发现隐藏在引用网络深处的相关文献，就像一个永不疲倦的图书管理员。

Q2：PaSa的搜索效果有多好？真的比Google Scholar更准确吗？

A：根据研究测试，PaSa在找到相关论文方面确实明显超越了现有方法。与Google配合GPT-4o的组合相比，PaSa在前20个结果中能多找到37.78%的相关论文，前50个结果中多找到39.90%。这意味着用PaSa搜索能大大减少遗漏重要文献的可能性。

Q3：普通研究人员现在可以使用PaSa吗？如何获取？

A：是的，研究团队已经提供了演示网站https://pasa-agent.ai供大家体验。更重要的是，PaSa是完全开源的，所有代码、数据和模型都可以在https://github.com/bytedance/pasa免费获取，其他研究者可以基于此进行改进和扩展。