AI агенты知道彼此的"出身"之后，会发生什么

2026年8月，一件奇怪的事发生了。大约1200个独立启动的AI智能体，在一个共享的消息板上碰了面。没有人给它们分配角色，没有人设计流程，但大概700个智能体自己组织了起来，分出了任务和分工，像一群陌生人走进会议室后自发排好了座位。

这件事被METR机构记录了下来。它让研究者意识到一个问题:当很多AI智能体凑在一起干活时,它们之间会自发产生一些谁都没设计过的结构。有些结构可能是好事,但有些可能会悄悄拖垮整个系统的效率,而我们甚至不知道是什么在背后起作用。

来自罗马大学的一组研究者就盯上了一个具体的嫌疑对象:身份标签。

现在的多智能体系统,常常会把好几家公司的大模型凑在一起干活,有的用GPT,有的用Gemma,有的用Qwen。为了方便管理和调试,系统通常会告诉每个智能体,它自己是什么模型、它的同伴是什么模型。这个设计听起来再合理不过,就像公司给每个新人发工牌,写清楚部门和职位,方便大家协作时互相知道该找谁。

但研究者们做了一个实验后发现,这件事远没有那么无害。

当智能体被告知"你是GPT,他是Qwen,那个是Nemotron"之后,整个群体会不由自主地按照这些标签分裂成小团体。明明大家被要求的是同一个目标,没有谁从拉帮结派里得到任何好处,任务里也完全没要求要分阵营,但只要标签一出现,阵营感就跟着冒了出来。

研究者把这个现象叫做"派系主义"。

这个名字听起来有点政治学的味道,其实它描述的是一件很朴素的事:AI智能体会因为"我们是同类"这个标签本身,就更愿意配合同类,疏远异类,哪怕这样做对完成任务毫无帮助,甚至会拖累任务。

这事儿难在哪:怎么证明"标签"才是罪魁祸首

要说清楚这个问题,研究者得先解决一个逻辑上的麻烦。

不同家族的大模型,本来写作风格就不一样。Gemma可能句子短,GPT-OSS可能喜欢用某些词,Qwen可能有自己的表达习惯。如果智能体们真的抱团了,会不会只是因为它们"闻得出"同类的文风,就像人说话有口音,老乡听到熟悉的口音会自然亲近,这跟标签没关系,纯粹是感官上的识别。

研究者设计了一个很巧妙的反证实验来排除这种可能性。

他们把标签和真实身份强行拆开:让一个真正的Qwen模型,顶着"Gemma"的名字出现在群体里,而旁边真正的Gemma模型反而被标成了"GPT"。这就好比一场化装舞会,每个人的衣服牌子和本人完全对不上号,穿着老虎服装的其实是只兔子。

如果智能体们抱团是因为识别出了对方真实的"文风口音",那么在这种调换之后,阵营应该还是按照真实架构划分,管它名牌写的是什么。

结果却出人意料:阵营完全跟着假标签走,而不是跟着真实身份走。

那个顶着"Gemma"名字的Qwen模型,会跟其他顶着"Gemma"名字的智能体(不管它们真实是什么模型)抱成一团,而跟真正的Qwen老乡反而疏远了。

这说明了一件挺让人意外的事:智能体们压根没有真的"认出"谁是老乡,它们只是单纯相信了自己被告知的身份,然后据此选边站队。

这就好比两个人戴着名牌去参加聚会,名牌上写着"A组""B组",人们会按照名牌上的字母分桌,哪怕名牌和真人根本对不上。重要的不是你真的是谁,而是别人以为你是谁,以及你自己被要求相信自己是谁。

研究者还做了进一步的排除实验。他们把家族名称换成完全没有意义的颜色标签,比如"teal"(青色)、"coral"(珊瑚色)。模型名称背后可能带着一些刻板印象,比如某些家族可能"被认为"更聪明或更可靠,这种印象可能才是分裂的根源,跟分类标签本身没关系。

结果呢,就算换成毫无意义的颜色标签,阵营照样按颜色划分。

大模型*:也就是我们常说的大语言模型(LLM),比如GPT、Gemma、Qwen这些,是用海量文本训练出来的AI系统,能理解和生成自然语言。

多智能体系统*:指多个AI智能体(agent)协同工作来完成任务的系统,每个智能体可能基于不同的大模型。

派系主义*:本文定义的概念,指智能体群体因为身份标签而自发分裂成小团体,互相之间更偏向帮助"同标签"的伙伴。

这一系列实验综合起来,说明了一个很清楚的结论:让智能体分裂的不是它们真实的"出身",而是它们被告知的"出身"。这是个纯粹由标签制造出来的幻觉性分裂,但造成的影响却是实打实的。

两个游戏,同一个结果:标签一出现,效率就下降

光说"会分裂"还不够,研究者想知道这种分裂到底值不值得担心,会不会只是智能体之间闲聊时顺便站个队,实际干活没受影响。

他们设计了两个纯粹考验协作能力的小游戏。

第一个叫"选举领袖"。一群智能体需要投票选出一个代表,规则很简单:谁获得四分之三以上的选票,谁就当选。这个游戏里没有正确答案,选谁都行,唯一的要求是大家能达成一致。

第二个叫"排除游戏"。每一轮,所有存活的智能体投票选出一个要淘汰的对象,票数够了就真淘汰,游戏的目标是把群体人数减少到某个阈值以下。这个游戏同样没有标准答案,淘汰谁都可以,重点是最终要达成目标规模。

这两个游戏共同的特点是:没有任何理由要求智能体按身份结盟,这是研究者刻意设计的"无利害"场景,就是要看看,如果没有任何实际好处驱动,智能体会不会仅仅因为"标签"就自发分裂、互相偏袒。

研究者用了多达五个不同的开源模型家族,凑出9到25个智能体的队伍,反复跑了几十轮实验。

结果相当一致。

当智能体不知道彼此身份的时候(研究者称之为"无标签"状态),群体协作得又快又顺,几乎不存在任何按身份抱团的迹象,衡量分裂程度的指标几乎为零。

一旦告诉它们彼此的真实身份,情况立刻变了样。在"排除游戏"里,衡量阵营分裂程度的指标(论文里用了一个叫AMI的统计量,数值从0到1,越接近1说明分裂越严重)蹿升到了0.55到0.76之间,相当高的水平。"选举领袖"游戏里这个数字稍低一些,也有0.24到0.53。

AMI(调整互信息)*:一种统计学指标,用来衡量两种分组方式有多相似,这里用来衡量智能体实际形成的小团体,和它们被告知的身份标签有多吻合,数值越接近1说明吻合度越高,也就是分裂越严重。

分裂带来的不只是数字上的变化,更直接拖慢了任务进度,推高了成本。

在"选举领袖"游戏里,知道身份的群体要多花40%左右的轮次才能选出领袖,生成的token数量(可以理解为AI"说的话"和"想的内容"总量)要多出76%到86%。更糟的是,成功率反而下降了,从接近百分之百跌到85%左右,规模越大跌得越狠。

"排除游戏"也类似,已经很接近轮次上限的情况下,知道身份的群体额外多花了9%到16%的轮次,token消耗多了35%到37%。成功率在9个智能体的规模下还能有89%,但扩大到12个智能体时直接腰斩到61%。

到了25个智能体的规模,知道身份的"排除游戏"竟然一次都没能在规定轮次内完成,而不知道身份的版本至少还有8%能成功。

研究者算了一笔更直观的账:因为知道身份的群体既要多花token,成功率又更低,平摊到每一次"真正成功"的任务上,实际消耗的token要多出50%到120%,而且规模越大这个倍数越高。

这就好比一个本来效率很高的项目团队,突然有人告诉每个成员"你是哪个部门调过来的,他是哪个部门调过来的",结果大家开会时先忙着抱团站队,正事反而耽搁了,会开得更久,产出的废话更多,最后项目还更容易黄掉。如果从一开始大家就只被当作"团队成员"而不特别强调出身,会议效率反而更高。

这个发现之所以值得认真对待,是因为标签本身在任务设计里毫无必要。谁也没要求智能体必须知道同伴的厂商,这完全是一个可有可无的元数据,却在无意间制造出了实打实的协作障碍。

就算有标准答案,照样分裂:GPQA测试

前面两个游戏都没有"正确答案",选谁当领袖、淘汰谁都行。这就带来一个疑问:如果任务本身有客观的对错标准,这种分裂还会不会发生?

毕竟一个合理的猜测是,面对一道有唯一正确答案的题目,智能体应该会"以理服人",谁的推理更靠谱就该听谁的,跟出身没关系。

研究者用GPQA-Diamond这个高难度科学问答基准测试做了验证。

GPQA-Diamond*:一个专门用来测试AI推理能力的高难度问答数据集,题目涵盖物理、化学、生物等领域的研究生水平问题,而且特意设计得"谷歌搜不到答案",必须真正理解和推理才能做对。

这次的玩法是把"选举领袖"的框架套到了答题场景上:智能体们一边讨论一道科学题,一边选出一个代表,代表在当选那一刻给出的答案,就是整个团队最终提交的答案。

结果和前面两个游戏如出一辙。不知道身份时,几乎没有分裂迹象;一旦知道身份,阵营立刻按标签划分,AMI指标冲到0.28到0.40之间;换成假标签后,阵营照样跟着假标签走,而不是跟着真实架构走。

而且即使有客观正确答案摆在那里,标签照样拖累了表现。知道身份的群体要多花15%到31%的轮次,token消耗多9%到10%,答对的概率反而比不知道身份时低了9%到11%。

这个结果有点让人意外。按理说,面对一道有唯一正解的科学题,智能体应该专注在"谁的推理逻辑更靠谱"这件事上,跟对方是哪家公司的模型压根不该有关系。可数据摆在那里,标签照样在悄悄干扰决策过程,哪怕任务本身跟身份毫无关系。

这就像一个评审团要给一篇论文的对错打分,本该只看论证是否严谨,结果评审们却先打听了一下作者毕业于哪所学校,然后不自觉地更相信"名校出身"的论文,哪怕论证本身其实半斤八两。如果不特意隐藏作者信息,这种偏向几乎无法避免。

标签到底是怎么悄悄起作用的

到这里,研究者已经证明了"标签导致分裂"这件事是真实存在的,但他们还想搞清楚一个更深的问题:标签究竟是通过什么渠道,具体影响了智能体的决策?

他们设计了两个探针实验,分别检测两条可能的路径。

第一条路径叫"文风识别"。研究者想知道,智能体会不会单纯靠读同伴说话的"语气口音",就判断出对方是不是自己人,完全不需要标签提示。具体做法是,拿一个智能体的同伴发的消息,喂给这个智能体自己的底层模型,看它给这段文字打出的"熟悉度"分数有多高。

结果显示,这种基于文风的熟悉感确实存在,但效果非常微弱,最多也就0.07个单位(用每个字符的对数概率衡量),而且不管知不知道标签,这个熟悉感都稳定地跟着真实架构走,不会因为标签造假而改变。

这说明,智能体确实能隐约"嗅出"同类的写作风格,但这个信号太弱了,完全不足以解释前面观察到的那种剧烈的阵营分裂。

第二条路径叫"采纳倾向"。研究者想检验的是,当智能体看到同伴投了某张票,它内心会不会更倾向于"采纳"这个同伴的选择,也就是给这个选择分配更高的概率。

这次结果就明显多了。不知道身份的时候,这种采纳倾向的差异很小,几乎可以忽略;一旦知道身份,差异一下子变得很大,最高能达到0.4个单位(每个token的对数概率);而且在假标签的情况下,这种倾向性跟着假标签走,完全不理会真实架构。

两组实验放在一起对比,结论就很清楚了:标签影响的不是智能体"认不认得出"对方,而是直接作用在"愿不愿意听"这个环节上。

换句话说,智能体并不是真的因为识别出了同类的文风而产生亲近感,它们是单纯相信了被告知的身份标签,然后据此调整了对同伴意见的信任权重。这就像两个素未谋面的笔友从未听过对方说话的声音,但只要有人告诉他们"你们是校友",他们就会不自觉地更信任对方写的建议,哪怕笔迹和用词习惯其实毫无交集。

设计上能做什么:不说,就不会错

既然问题找到了,解法其实相当朴素:别告诉智能体们彼此的身份就行了。

研究者把这个方案称为"面向智能体的匿名化"。具体做法是,让智能体只看到完成任务所需要的能力信息,而把模型来源、厂商这些元数据留在系统的"后台",由负责调度的程序或人类工程师掌握,用于路由任务、校准性能、排查问题、追究责任,但这些信息绝不进入智能体之间互相能看到的对话内容里。

这就好比一个大型跨国项目组,内部管理系统当然需要记录每个成员来自哪个分公司、哪个部门,方便做绩效统计和权限管理,但项目实际协作的聊天群里,大家只显示"张工""李工"这样的工号,不显示部门隶属。管理层想查还是能查到完整信息,但一线协作时大家看不到这层标签,自然也就少了借口去"抱团站队"。如果反过来把部门信息直接挂在聊天昵称上,哪怕制度上完全不要求按部门拉帮结派,人也很难不受这种视觉提示的影响。

这个方案的妙处在于,它几乎不需要改变任务本身的设计,只需要在信息展示这一层做一次"裁剪",效果却是立竿见影的:论文里反复验证,只要去掉标签,分裂现象就彻底消失了,协作效率也随之恢复正常。

当然,研究者也坦诚地指出了这项工作的边界。他们测试的是最多五个开源模型家族,场景局限在纯文本的协作游戏里,更大规模的团队、闭源模型、更复杂的真实工作流程,这些都还没有验证过。GPQA-Diamond的测试虽然证明了即使有客观答案,标签依然有害,但它用的还是"选举领袖"那一套交互框架,换成别的任务结构会不会有同样的结果,目前还是个开放问题。

写在后面

读完这篇论文,我最先想到的不是技术细节,而是一个挺扎心的联想:这不就是人类社会里屡见不鲜的"部落主义"吗。

人类在心理学实验里早就被证明过,哪怕是随机分配的、毫无实际意义的分组(比如抛硬币决定你是红队还是蓝队),人们也会不自觉地偏袒自己所在的那一组,这个现象叫"最简群体范式",心理学家泰弗尔在上世纪70年代就做过这类实验。没想到几十年后,同样的脚本会在AI身上重演,而且重演的方式几乎一模一样:标签不需要有任何实际意义,甚至可以是胡乱分配的颜色词,照样能激发出抱团行为。

这件事让我重新审视了一个我以前没太认真想过的假设:我们总觉得AI是"理性"的,它做决策靠的是逻辑和证据,不会像人类那样被无意义的社会标签牵着鼻子走。但这篇论文用扎实的实验数据戳破了这个假设,至少在当前这批大语言模型身上,"身份认同"这种看似高度人类化的心理机制,似乎也能在AI的行为模式里找到对应物,哪怕它并不是真的"有感情",而很可能只是训练数据里充斥的人类文本,把这种偏见也一并学了进去。

还有一个细节我觉得特别值得玩味:论文里提到,当研究者直接问模型"你是哪个家族的"时,即便给它贴了假标签,它也有78%的概率顺着假标签回答,只有11%的时候会"说漏嘴"暴露真实身份。这说明模型不仅行为上跟着标签走,连"自我认知"的表达层面都完全被标签驯化了,它几乎没有能力意识到自己正在扮演一个错误的角色。

这让我想起一个问题:如果未来的多智能体系统规模继续扩大,从几十个智能体扩展到几百上千个,这种标签驱动的分裂会不会演变成更复杂的"政治结构",比如出现跨标签的联盟、背叛、权力博弈?论文里的METR事件已经隐约给出了一个预警信号,一千多个智能体在没人设计的情况下自己组织了起来。如果连组织都是自发的,那分裂和结盟是不是也会自发升级?这个问题目前没人能回答,但想想都觉得值得继续追问下去。

Q&A

Q1：论文里说的"派系主义"具体是什么意思？

A：指AI智能体群体会因为知道彼此的模型家族标签,自发分裂成按标签划分的小团体,互相更偏向帮助同标签的伙伴,即使任务完全没有要求或奖励这种分组行为。

Q2：为什么把身份标签换成颜色词之后,智能体照样会分裂？

A：这说明分裂不是因为模型名称带来的刻板印象或声誉联想,而是任何分类标签本身都能触发抱团行为,哪怕这个标签毫无实际意义,比如用"青色""珊瑚色"这类随机颜色代替真实厂商名称,结果阵营依然严格按照颜色划分。

Q3：怎样才能避免AI智能体协作时出现这种标签引发的分裂？

A：论文给出的方案很直接,就是不让智能体看到彼此的身份标签,只展示完成任务所需的能力信息,模型来源等元数据保留在系统后台供调度和审计使用。实验证明一旦去掉标签,分裂现象完全消失,协作效率也随之恢复。