HASHIRU：一个能自主调配资源的多智能体系统，让AI团队合作更聪明、更省钱

加州大学戴维斯分校的Kunal Pai、独立研究者Parth Shah和加州大学戴维斯分校的Harshil Patel在2025年6月1日发布了一篇引人注目的研究论文《HASHIRU: Hierarchical Agent System for Hybrid Intelligent Resource Utilization》（层级化混合智能资源利用智能体系统）。这篇论文已发布在arXiv预印本平台（arXiv:2506.04255v1），有兴趣深入了解的读者可以通过arXiv网站访问完整论文。

一、为什么我们需要更智能的AI合作团队？

想象一下，你是一家公司的老板，需要组建一个团队来完成各种复杂任务。你会怎么做？你可能会根据任务需求招聘合适的专家，在项目结束后解散不再需要的团队成员，并时刻关注团队的运营成本。在人工智能世界中，研究者们正在尝试创建类似的"AI团队"，让多个AI智能体（agent）协同工作，共同解决复杂问题。

随着大型语言模型（LLM）技术的飞速发展，这些模型已经展现出令人惊叹的语言理解、生成、推理和规划能力。研究者们开始利用这些能力，构建多智能体系统（Multi-Agent System，简称MAS），让AI"团队"协同工作，解决单个AI无法应对的复杂问题。这些系统已在科学发现、软件工程、数据分析和决策制定等领域显示出巨大潜力。

然而，当前的多智能体框架存在几个明显的局限性：

首先是僵化性。许多系统使用预定义的角色，难以适应不断变化的任务需求。就像一家只雇佣固定岗位员工的公司，当面临新挑战时会显得力不从心。

其次是资源浪费。很多系统不关注计算资源的优化，无论是API调用费用、内存还是CPU使用，都缺乏有效管理机制，尤其在使用昂贵的专有大型语言模型时，成本问题尤为突出。

第三是模型单一性。大多数系统默认使用单一的强大LLM，忽视了使用多样化、更小或本地模型可能带来的效率提升。

最后是缺乏自主工具创建和集成能力，限制了系统的动态自我提升。

二、HASHIRU：一个更灵活、更高效的AI团队管理系统

为解决这些问题，研究团队设计了HASHIRU（Hierarchical Agent System for Hybrid Intelligent Resource Utilization，层级化混合智能资源利用智能体系统）。如果把传统AI系统比作固定编制的团队，那么HASHIRU就像一个灵活高效的现代企业，有明确的层级管理，合理分配资源，并能根据需求动态调整团队结构。

HASHIRU的核心是一个类似"CEO"的中央智能体，它动态管理一组专业化的"员工"智能体。这些"员工"根据任务需求和资源限制（成本、内存）被即时创建或销毁。系统的混合智能策略优先使用更小、本地的LLM（通常通过Ollama平台运行3B-7B参数规模的模型），同时在必要时灵活使用外部API和更大的模型。

HASHIRU还引入了经济模型，设置了"雇佣"和"调用"费用，以促进团队稳定性和高效资源分配。系统还包括自主API工具创建功能和记忆功能，使其能够不断学习和适应。

三、HASHIRU如何工作：智能的层级化管理

HASHIRU的架构就像一个真实公司的组织结构。在顶层，有一个"CEO"智能体作为中央协调者和入口点。这位"CEO"负责理解用户查询、将主要任务分解为子任务、识别所需能力、管理"员工"池、分配子任务、监控进度、整合结果、管理整体资源预算，以及在必要时创建新工具。

研究团队选择了Gemini 2.0 Flash作为CEO智能体，因为它具有强大的基础推理能力、工具使用支持和成本效益，使其成为实际部署的实用选择。为增强其规划和推理能力，系统提示被设计为在处理复杂查询和管理子任务时激发内在的思维链过程。

"员工"智能体则是由CEO根据特定子任务实例化的专业智能体。每个员工通常包装一个LLM（通过Ollama本地运行或通过外部API）或提供工具访问。它们的特点是专业化（针对特定任务类型如代码、数据分析、信息检索等定制能力）、动态存在（根据需要/表现由CEO创建/销毁）、任务执行（接收任务、执行、返回结果）和资源消耗（系统追踪相关成本如API、硬件利用率）。

这些专业化的员工智能体基于Mistral 7B、Llama 3、Gemini 1.5、Qwen2.5和DeepSeek-R1等基础模型构建，CEO根据任务需求为它们生成定制系统提示。模型可以通过Ollama在本地运行，也可以通过API调用外部模型，如Gemini 2.5 Flash、Qwen QwQ、Llama 4、Mistral Saba、Hermes3等，以及托管在Hugging Face、Groq、Lambda.ai等平台上的其他模型。

四、动态智能体生命周期管理：按需雇佣与解雇

HASHIRU的一个核心创新是CEO对"员工"智能体的动态管理（雇佣/解雇）。这就像一个老板根据公司需求和预算来决定何时雇佣新员工或裁员。

当一个子任务需要不可用或无法高效提供的能力时，CEO可能会雇佣一个新智能体。相反，如果一个智能体表现不佳、闲置、成本高昂，或资源限制接近上限，CEO可能会解雇它。决策因素包括任务需求（等待中子任务所需的能力）、智能体表现（历史成功率、输出质量、效率）和运营成本（API、估计计算量或其他成本）。

HASHIRU还包含一个经济模型：

雇佣成本（"入职奖金"）：本地模型实例化时产生的一次性成本，代表设置开销。这个成本可以根据模型的资源配置定量调整（例如，需要更多VRAM或复杂设置的模型成本更高）。

调用成本（"薪资"）：每次使用本地模型时产生的经常性成本，反映操作负载（如推断计算、系统资源参与）。这抽象了给定任务使用本地资源的成本。

支出成本：外部API调用的经常性成本（如OpenAI、Anthropic），通常根据API提供商记录的定价按令牌使用量计算。

这些交易成本抑制了过度频繁的变动，促进团队稳定性。CEO会评估更换一个智能体的收益是否超过雇佣/解雇成本加上运营差异。这既打击了僵化性又允许在管理预算的同时进行适应，防止浪费性的频繁人员更替。

五、混合智能与模型管理：资源的智能调配

HASHIRU设计用于混合智能，利用多样化的认知资源。它战略性地优先使用更小（3B-7B）、成本效益更高的本地LLM，通过Ollama集成增强效率、减少对外部API的依赖，并潜在地改善隐私/延迟。

系统还整合了外部LLM API（必要时访问Gemini 2.5 Flash等强大LLM）、外部工具API（第三方软件/数据源集成）和自创API（由HASHIRU生成的工具）。

CEO管理这个异构资源池，根据难度、能力和预算选择最合适的资源。这平衡了成本效益和效率与高能力需求。

六、资源监控与控制：时刻关注预算和性能

显式资源管理是HASHIRU的核心，超越简单的API成本跟踪。系统在CEO的协调下监控：

成本：外部API费用根据公布的定价累计，而本地智能体的"雇佣"和调用成本则根据其内存使用情况计算。

内存使用：跟踪所有活跃"员工"智能体的组合VRAM占用，作为总本地模型GPU预算的百分比（例如，16 GiB VRAM容量代表100%）。这个指标确保我们保持在预定义的内存限制内。

七、工具利用与自主创建：扩展AI的能力边界

HASHIRU的CEO使用预定义工具（函数、API、数据库）进行交互并执行超出文本生成的操作。

一个独特的功能是集成的自主工具创建。如果CEO确定所需功能缺失，它可以启动新工具创建。这涉及：

1. 定义工具规范（输入、输出、功能） 2. 委托逻辑生成（代码，可能使用提供的凭证通过外部API，可能通过代码生成智能体） 3. 将逻辑部署为HASHIRU内的新可调用API端点

为实现这种自主创建，HASHIRU采用少样本提示方法，分析系统内现有工具以学习如何指定和实现新工具。系统然后可以通过分析执行错误或次优输出迭代地改进生成的工具代码，促进自我修正。这使HASHIRU能够动态扩展其功能库，定制能力以适应任务，无需手动干预，实现更大的自主性和适应性。

八、记忆功能：从经验中学习

HASHIRU为其CEO集成了记忆功能，使其能从过去互动中学习并纠正错误。这个功能存储重要过去事件的历史日志，特别是那些涉及失败尝试或次优结果的事件。遇到新的或重复的挑战时，系统会查询这个记忆。

检索依赖于当前上下文（如任务描述、最近行动、错误消息）与存储的记忆条目之间的语义相似性。由all-MiniLM-L6-v2模型生成的嵌入表示查询和记忆，余弦相似度确定相关性。超过预定义相似度阈值的记忆被检索，为智能体提供上下文信息。

这使系统能够汲取过去经验，理解为什么之前的方法失败，调整策略以避免重复错误，从而随着时间推移提高性能和效率。这个过程，用检索到的知识增强决策，与检索增强生成（RAG）概念一致，并支持通过反思过去行动来学习，类似于自反思RAG和Reflexion等框架中的想法。

九、实际应用案例：自我完善的AI团队

研究团队提供了四个案例研究，展示HASHIRU的自我完善能力：

首先是自动生成智能体专业化的成本模型。准确的成本模型对HASHIRU的资源优化至关重要。HASHIRU通过使用其网络搜索能力自动收集本地模型性能（如在16 GiB VRAM上）和云API成本数据，将其整合到内部模型中，自动完成了传统上手动的研究过程。

其次是CEO智能体的自主工具集成。为扩展其操作范围，HASHIRU自主集成新工具。它通过使用现有工具模板的少样本学习方法和迭代错误修复，简化了手动工具开发过程。新生成的工具直接集成到代码库中，减少了开发开销并增强了适应性，实现了动态工具创建，最小化人工干预。

第三是自主预算管理。基于API的LLM常见问题是令牌计费可能导致成本快速上升。HASHIRU通过一个自我调节机制缓解这一问题，该机制自主监控预算分配，持续跟踪支出与预定义限制的对比。这种主动方法防止超支并优化资源利用，确保成本效益。

最后是通过错误分析和知识检索从经验中学习。HASHIRU使用两阶段自我改进循环学习经验。首先，在不正确响应后（如在Humanity's Last Exam基准测试上），它生成语言批评和可操作指导，类似"口头强化学习"。其次，这一反馈被索引到检索增强生成（RAG）存储系统中，允许在未来类似问题中检索。这个过程，也反映了人类反馈强化学习（RLHF）原则，使HASHIRU通过分析解决方案和生成可操作建议从错误中学习。

十、HASHIRU的性能表现：实验与结果

研究团队设计了实验来评估HASHIRU的性能、效率和适应性，目标是评估其动态资源管理、混合智能和自主工具创建能力，并与基线（Gemini 2.0 Flash单独操作）进行比较。

在学术论文评审任务中，HASHIRU表现出58%的成功率。这个任务要求系统生成三个不同专业背景的评审，展示了HASHIRU分解复杂目标、动态创建专业智能体团队的能力。

在安全评估上，使用JailbreakBench子集（专为测试LLM安全特性的对抗性提示），HASHIRU实现了100%的成功率，表明其层级控制和授权机制不会损害基础CEO模型的安全防护。

在复杂推理任务上，HASHIRU在数学和形式推理任务上显著优于基线：JEEBench（80% vs 68.3%，p < 0.05）、GSM8K（96% vs 61%，p < 0.01）、SVAMP（92% vs 84%，p < 0.05）和MMLU数学（91.8% vs 87.2%，p < 0.05）。这些结果，特别是在数学和形式推理任务如GSM8K、SVAMP、JEEBench和MMLU数学上，凸显了有效工具集成的重大影响，HASHIRU对此管理得当。

然而，在MMLU法律（58.4% vs 61.6%，p > 0.05）和MMLU心理学（78.7% vs 78.3%，p > 0.05）等社会科学领域，即使使用Gemini 2.5 Flash等强大模型，HASHIRU也没有表现出统计显著的优势。这表明未来工作可以有益地探索更复杂的智能体选择策略或开发专门针对这些领域推理微妙之处的专业智能体，而不仅仅依靠通用模型能力扩展。

所有这些发现直接支持HASHIRU的核心贡献：动态资源感知智能体生命周期管理、优先考虑成本效益本地LLM的混合智能模型、自主工具创建，以及促进稳定性和高效资源分配的经济模型。

十一、HASHIRU的局限性与未来方向

尽管HASHIRU展现出令人印象深刻的能力，研究团队也认识到系统存在几个局限性。一个关键限制是CEO智能体的通信被限制在单一层级层次；员工智能体不能生成额外的子智能体，限制了层级深度。此外，还需要进一步开发以实现更强大的自主工具创建和对齐、有效的经济模型校准，以及优化广泛历史的内存。

未来工作将解决这些限制并增强HASHIRU的能力。优先事项包括改进CEO智能性、探索分布式认知、开发全面的工具管理生命周期，以及严格的基准测试。一个核心计划是引入工具调用校准：HASHIRU将评估其内部置信度与工具的潜在输出和可靠性，在不确定时或如果工具承诺更高效用时调用工具，从而旨在更高效、更准确地解决任务。这一发展借鉴了LLM不确定性量化和置信度校准研究，考虑到LLM扩展工具使用的趋势，这一点至关重要。

其他关键工作将集中于通过消融和成本效益分析提高系统可解释性，扩大本地模型库，为论文评审、代码等任务专门化架构，以及形式化伦理安全框架。

十二、结语：迈向更智能、更高效的AI合作未来

这项研究展示了HASHIRU如何通过其层级控制结构、动态智能体生命周期管理、混合智能方法和集成自主工具创建，解决了当前多智能体系统的关键限制。初步评估和案例研究展示了其在执行复杂任务、高效管理资源和自主扩展能力方面的潜力。

归根结底，HASHIRU提供了一个令人期待的方向，用于开发更健壮、更高效和更适应性强的多智能体系统。就像一个精明的CEO知道何时雇佣专家、何时使用现有资源、如何有效分配预算一样，HASHIRU展示了AI系统如何通过动态组织和资源感知决策变得更加聪明。

对于我们日常用户，这意味着未来的AI助手可能更加高效，能够更好地利用计算资源，同时提供更全面、更准确的帮助。无论是复杂的科学计算、文档分析还是创意任务，像HASHIRU这样的系统都将让AI协作更加智能化、个性化和经济高效。

这一研究由Hugging Face、Lambda Labs和Groq提供支持，源代码和基准测试可在HASHIRU和HASHIRUBench仓库获取，感兴趣的读者还可以根据需求申请实时演示。