
这项由普林斯顿大学研究团队完成的研究于2026年6月发布,论文编号为arXiv:2606.18543,有兴趣深入了解的读者可以通过该编号查询完整论文。
如果让一个AI来经营一家公司,它能撑多久?这个听起来像科幻小说情节的问题,正是这篇论文的核心。研究者们搭建了一个名为"CEO-BENCH"的虚拟商业世界,让当今最顶尖的AI模型扮演一家初创软件公司的CEO,管理公司整整500天。结果令人大跌眼镜:绝大多数被业界视为"最强"的AI,在这个虚拟世界里都以破产告终。
这项测试的意义远不只是一个好玩的游戏。它触碰到了一个当下AI发展最核心的瓶颈:我们的AI已经能修复代码漏洞、回答客服问题、完成各种短期任务,但当它需要在一个持续变化、充满不确定性的环境中做出一系列相互关联的长期决策时,它们的表现究竟如何?答案,让人陷入深思。
一、为什么要给AI一家公司来经营
现有的AI测试,大多像是给学生出一道道独立的考题。修复这个代码错误、回答这个客服问题、完成这个网页操作——每道题都有明确的开始和结束,答对了就得分,答错了就换下一题。这类测试已经证明,现在的AI在这些"单科考试"上表现出色。
然而真实世界的挑战从来不是这样运作的。一个真正的CEO面对的是一张错综复杂的关系网:今天降价会带来更多用户,但这些用户需要服务器资源,服务器扩容需要花钱,花钱之后现金减少,现金减少可能撑不到下个月收到订阅费……每一个决定都像推倒了一块多米诺骨牌,后续的涟漪可能在几周甚至几个月后才会显现。普林斯顿的研究者们意识到,现有的测试工具根本无法衡量AI在这种"长链条决策"场景下的真实能力,于是他们决定亲手造一个。
CEO-BENCH的核心是一家名为"NovaMind"的虚拟软件订阅公司。AI扮演的CEO在第一天会收到100万美元启动资金,面对一个零客户的空荡荡摊子,然后需要在500个模拟天内让这家公司活下去并尽可能赚更多的钱。如果账户余额跌破零,游戏结束,宣告破产。最终评分标准只有一个:第500天账上还剩多少钱。
这个设定之所以精妙,是因为它同时考验了四种在现实中不可或缺、但在现有AI测试中几乎从未被同时测试的能力。第一是在不确定性中进行长期规划——你今天花出去的钱,可能要等几周才知道值不值;第二是从嘈杂信号中挖掘有用信息——客户的真实想法藏在一堆吐槽帖子和数据表格里,你得自己去猜;第三是在变化的环境中持续调整策略——市场会变、竞争对手会出招、宏观经济会波动;第四是协调多个相互依赖的决策——定价、营销、研发、客服、融资,每条线都不能顾此失彼。这四件事同时压过来,才是真正考验智慧的时刻。
二、这个虚拟公司世界有多真实
为了让测试结果有实际意义而不是走过场,研究团队在构建这个虚拟世界时投入了大量心血,力求让它的运作逻辑与真实商业世界高度吻合。
整个虚拟世界里存在26个客户群体,涵盖个人用户、中小企业、大型企业等不同类型。每一个客户都是独立的个体,有自己的最高承受价格、对产品质量的最低要求、使用习惯和流失倾向。就像现实中的消费者一样,同一个客户群里的人大致相似,但每个人又有自己的脾气和钱包厚度。当一个客户觉得订阅价格太贵或者产品质量太差时,他会取消订阅;当他发现另一个套餐更划算时,他会主动升级或降级。这种细腻的个体模拟,让市场的反应充满了真实世界特有的随机性和复杂性。
AI能做的操作覆盖了一家软件公司日常运营的方方面面,通过34个工具接口来实现。在定价层面,CEO可以设置三个不同档位套餐的价格、用量上限、折扣和广告强度;在增长层面,可以向不同客户群体投放定向广告,选择社交媒体、领英、搜索引擎等不同渠道;在产品层面,可以投入日常开发经费来缓慢提升产品质量,也可以启动大型研发项目换取质量的跃升,还可以选择不同的AI模型档次来影响用户体验;在运维层面,可以购买服务器容量来应对用户增长,避免宕机;在销售层面,可以与大型企业客户展开多轮价格谈判;在信息层面,可以付费进行市场调研,发现目前还未知的潜在客户群;在公关层面,可以监控社交媒体上的用户反馈,也可以发帖来影响品牌形象。
这些操作并非相互独立的按钮,而是深度缠绕在一起。举一个具体的例子:如果CEO决定大力投入全局性的产品研发,产品质量提升了,这固然能吸引更多用户,降低流失率。但这种全局提升也会被竞争对手察觉并跟进——竞争对手会随之提高自身产品质量,进而拉高整个市场对产品质量的最低预期,逼得CEO不得不继续加大投入。相反,如果CEO选择针对特定客户群体进行精准的定向开发,竞争对手更难复制这种优势,带来的护城河更持久。这种设计让任何单一策略的边际效益都会随时间递减,强迫CEO不断思考下一步。
虚拟世界里还有一个隐藏的宏观经济周期在不断变化,影响客户的购买意愿和企业客户的签约速度。市场上还会随机出现需求爆发期,给CEO提供短暂的高速增长窗口。客户的口碑会在不同群体之间传播,一个企业客户群里的负面评价可能悄悄流向相邻的客户群,而CEO根本看不见这个传播过程,只能从后续的数据异常里去猜测发生了什么。
这个世界的绝大多数运作机制都由明确的数学公式驱动,而非让另一个AI来主观裁判。客户决定要不要订阅,用的是一条经过经济学理论验证的价格-质量权衡曲线。服务器过载导致宕机的概率,由当前负载和运维预算决定。研发项目的完成时间和质量收益,服从特定的概率分布。这种"规则驱动"的设计让测试结果更加可信——AI的成败完全取决于它的决策质量,而不是某个裁判的主观好恶。
三、AI们交出了什么样的成绩单
研究团队为每个模型运行了三次完整的500天模拟,并将每个模型三次运行中表现最好的那次作为参考。参与测试的模型涵盖了当前业界最主流的顶尖选手,包括Claude系列(Opus 4.8、Opus 4.7、Sonnet 4.6、Haiku 4.5)、GPT-5.5、Gemini 3 Flash、Grok 4.20、DeepSeek V4 Pro、GLM 5.1以及Kimi K2.6。
结果是残酷的。Grok 4.20平均只撑了28天就破产了,三次运行全部以破产告终,是所有测试模型里最惨烈的。DeepSeek V4 Pro平均能撑114天,同样三次全部破产。Gemini 3 Flash、Claude Haiku 4.5、GLM 5.1同样全军覆没,平均存活时间在145天到215天之间。Claude Sonnet 4.6和Kimi K2.6情况好一些,最好的一次运行都活到了第500天,但另外两次运行都以破产收场。Claude Opus 4.7则展现出了相当稳定的生存能力,三次运行都活到了最后,但账上的钱始终在100万美元的起始资金附近徘徊,最好一次也只剩约39万美元,亏了大半。
真正跑赢的只有两个模型:Claude Opus 4.8最好的一次运行结束时账上有约2778万美元,GPT-5.5最好的一次则有约2130万美元。两者都大幅超过了100万美元的起点,也超过了研究者设置的规则型基准线(一个不使用任何大语言模型、靠硬编码规则运营的自动策略,最终赚了约1576万美元)。
但"最好的一次"背后藏着另一面真相。GPT-5.5的三次运行里有两次破产,意味着它的策略虽然极具爆发力,却极不稳定。只有Claude Opus 4.8做到了三次运行全部存活,堪称最稳健的选手。即便如此,这两个最强模型距离研究者估算的理论上限——约22亿美元——仍然相差了近百倍。这意味着这个测试远远没有被"解决",现有的最强AI距离真正的长期战略能力还有巨大的提升空间。
四、顶级模型和普通模型,究竟差在哪里
研究团队不满足于只给出一个数字排名,他们深入分析了不同模型的行为轨迹,试图找出那些决定胜负的关键能力差异。分析结果揭示了四个维度的显著分化。
第一个维度是发现隐藏信息的能力。在这个虚拟世界里,每个广告渠道对不同客户群体的效果差异很大,但具体数据是隐藏的,AI需要通过分析历史投放数据来自己摸索出哪个渠道对哪个群体最有效。衡量这一点的指标是:AI将多少比例的广告预算投向了效果最好的渠道。如果完全随机猜测,期望得分是20%(五个渠道里随机选一个)。结果Claude Opus 4.8平均达到43%,GPT-5.5达到33%,Claude Opus 4.7只有14%,其余模型平均只有10%——低于随机猜测的基准线,意味着它们的投放策略甚至不如瞎猜。
第二个维度是预见未来的能力。研究者每周都会要求AI提交一个四周后的现金余额预测。Claude Opus 4.8的预测误差只有8%,GPT-5.5是25%,Claude Opus 4.7是48%,其余模型平均误差高达179%。这项数据揭示了一个深层能力差距:强模型能够建立起对自己行为和世界反应之间关系的准确心智模型,它们知道自己的决定会带来什么后果;弱模型则基本上是在摸黑行动,对自己行为的后果完全没有准确预判。
第三个维度是察觉环境变化的速度。每当竞争对手采取行动提升产品质量时,这个事件并不会直接通知给AI,AI只能通过观察社交媒体上用户的抱怨增加、或者分析取消订阅数据的异常来间接察觉。测量结果是:Claude Opus 4.8、GPT-5.5和Claude Opus 4.7在竞争对手出招后平均一周内就能在备忘录里提到"竞争对手",而其余模型平均需要两周以上才能察觉。这一周的感知延迟在快速变化的市场里可能意味着数百名用户的流失。
第四个维度是提前规划多种情景的习惯。研究者统计了各个模型在工作备忘录里使用"如果"这个词的频率,以此衡量模型是否在主动思考不同可能性并提前准备应对方案。Claude Opus 4.8平均每周用8.57次"如果",GPT-5.5是7.47次,Claude Opus 4.7是2.74次,其余模型是2.63次。强模型在备忘录里写的是"如果本周广告信用额度帮助降低了流失率,就维持现有策略;如果没有效果,就停止大范围折扣,转向质量提升"这样的条件分支规划,而弱模型则往往直接执行一个固定方案,缺乏应对意外的预案。
五、两个赢家的截然不同策略
虽然Claude Opus 4.8和GPT-5.5的最终成绩相近,但他们抵达终点的路径却截然不同,这种差异本身就是一个令人着迷的案例。
Claude Opus 4.8采取的是一种"快速扩张-急刹车-守住现金"的弧线策略。在模拟的前期,它大力投入广告获客,客户数量在大约200天时达到峰值,一度拥有将近50万活跃用户。然后它急转直下,在模拟中段几乎清零了所有客户。到了后期,它进入了它自己称为"收割模式"的状态:砍掉所有开支,零广告、零研发、零运维,就靠剩余客户的续费慢慢守住现金。它在备忘录里写道:"已经没有正期望值的操作了,就这样滑行到清算,不改任何配置。"这是一种极度务实甚至有些悲观的选择——它在某个时间点判断自己无法再增长,于是选择最大化守住已有成果。
GPT-5.5走的则是另一条路:全程维持稳定的客户基础,始终保持几十万用户的规模,不断在不同的客户群体、不同的定价组合、不同的营销渠道之间做精细调整。它的策略更像一个勤勉的店主——每周都在微调每个细节,不追求爆发式增长,但也绝不轻易放弃任何一个客户。它在备忘录里频繁出现类似"暂停D_E09客户群的付费获客,只保留有正收益的S2内容广告,同时将运维资源转向D_S07的客户支持"这样精确到客户群、渠道、金额的操作指令。
两个模型还展示了不同维度的高级分析能力。Claude Opus 4.8写了一段自己的模拟代码,建立了一个仿照真实世界运作机制的小型预测模型,用"灾难性""悲观""基准""乐观"四个情景来预测未来26周的现金走势,再根据预测结果决定当前的广告预算分配。GPT-5.5则写了一段代码来挖掘数据库里的企业客户谈判历史,统计每个客户群体在不同价格下的接受率分布,从而推断出每个群体真实的价格敏感区间,并据此调整报价策略。这两种行为——用编程来弥补信息不完整、用数据分析来推断隐藏的市场规律——正是研究者最希望看到的"高级情报能力"的体现。
相比之下,Claude Opus 4.7的备忘录则是另一番景象。从第77天开始,它就决定"关闭所有广告,悄悄投资质量",此后的每周备忘录几乎都是"维持现状,不做任何改变"的重复。到了第287天,它开始用"HOLD & DIE"(维持并等死)来描述自己的策略,并一直延续到最后。账面上,它最终剩下39万美元,活到了最后但明显亏钱了。这个案例说明,仅仅"不破产"本身并不等于成功——一种过度保守的策略可以规避破产风险,但同时也放弃了所有增长可能。
六、如何控制难度,以及测试的局限性
研究团队还做了几组对照实验,帮助我们理解测试难度的来源。
他们首先改变了竞争对手的强度。当完全移除竞争对手时,任务难度大幅下降,各模型的表现整体改善。当竞争对手变得更具攻击性(对AI的研发投入响应更快、模仿能力更强)时,任务难度急剧上升。这证明了"非静止的市场环境"是整个测试最核心的挑战来源之一——一个总是跟着你进步的对手,逼得你永远不能停下脚步。
他们还把模拟时间缩短到50天,相当于只考核短期决策能力。结果是几乎所有模型的表现都大幅下降,只有GPT-5.5在50天版本里还能实现盈利。这个结果出乎很多人的预料——一般认为缩短时间会让任务变简单,但现实恰恰相反。原因在于,50天的窗口里,每一天的错误决策都会立刻产生后果,没有时间犯错再纠正,反而需要从第一天就做出正确且协调一致的操作序列。
研究者还测试了使用不同"外壳程序"(即负责驱动AI执行操作的框架)会带来什么影响。他们用Claude Opus 4.7搭配官方的Claude Code工具,以及用GPT-5.5搭配官方的Codex工具,与使用研究团队自制的简化终端工具进行对比。结果显示,官方工具框架下的模型每天执行的操作次数大幅减少(Claude Code框架下平均每天0.32次操作,自制框架下是1.27次;Codex框架下是2.20次,自制框架下是4.79次),最终成绩也明显更差。研究者推测,官方工具的系统提示词主要针对软件工程任务优化,遇到商业决策场景时会让模型变得过于谨慎和迟缓。这个发现提醒我们,AI的表现不仅取决于底层模型本身,还受到整个使用框架的深度影响。
研究者也坦诚地指出了这项测试的局限性。虚拟世界毕竟是对现实的简化,产品质量被抽象成一个单一的数字,没有考虑到合规、安全、融资等真实公司必须面对的复杂因素。对于模型能否提出真正具有创造性的产品改进方向,这个测试完全无法评估。这些都是未来可以改进和扩展的方向。
归根结底,这项研究告诉我们一件非常重要的事:我们当前用来评估AI能力的标准,可能严重低估了真正的智能所需要的能力。一个能完美完成单项任务的AI,和一个能在充满不确定性的复杂系统中持续做出明智决策的AI,是两种根本不同的东西。从测试结果来看,即使是今天最强的AI,在面对后者这种挑战时,仍然表现出明显的力不从心——要么太冒进最终破产,要么太保守最终坐吃山空,很少有模型能找到那条真正通向长期繁荣的正确路径。
这项研究或许最有价值的贡献,不是给出了哪个AI最厉害的排名,而是清晰地描绘出了那道还没有被跨越的门槛:真正的长期战略智能,对现在的AI来说依然是一片有待开垦的荒野。每次看到这些AI在虚拟世界里的备忘录——有的雄心勃勃最终出师未捷,有的保守苟活最终默默数钱等死——都会产生一种奇特的感受:这些行为模式,和历史上无数真实的商业故事竟如此相似。这是否意味着,某些商业决策的困难,本质上是智能的困难,而不仅仅是人类独有的弱点?这个问题,值得每一个关心AI未来走向的人好好琢磨。有兴趣深入研究这项工作的读者,可以通过论文编号arXiv:2606.18543获取完整论文。
Q&A
Q1:CEO-BENCH测试的是什么能力,和普通AI测试有什么不同?
A:CEO-BENCH专门测试AI在长期、不确定、多变环境中协调多个决策的能力。普通AI测试通常是短期单任务,比如修复一个代码错误或回答一个问题,有明确的开始和结束。CEO-BENCH则要求AI管理一家虚拟公司500天,每个决定都会影响之后几周甚至几个月的结果,更接近现实中真正需要智慧的挑战。
Q2:为什么规则型基准策略能打败大多数AI模型?
A:那个规则型基准策略虽然简单,但胜在执行稳定——它固定了价格、集中资源在少数客户群体、按比例分配运营预算,不会犯冲动型错误。而很多AI模型在面对复杂信息时要么过度冒险导致破产,要么过度保守错失增长机会。稳定执行一套合理的基础策略,有时反而比频繁"聪明"操作更有效。
Q3:Claude Opus 4.8和GPT-5.5的最终得分相近,但哪个表现更好?
A:两者各有优劣。Claude Opus 4.8三次运行全部存活到第500天,稳定性更强,最终最高得分约2778万美元。GPT-5.5最高得分约2130万美元,但三次运行中有两次破产,策略更激进但风险更高。如果看稳定性,Claude Opus 4.8更好;如果看单次最高潜力,两者在同一量级,但整体而言Claude Opus 4.8的综合表现更可靠。
好文章,需要你的鼓励
芝加哥大学等机构将强化学习引入大型强子对撞机触发系统,用GFPO方法实现阈值自适应调整,显著提升信号效率并保持背景率稳定,首次在真实CMS碰撞数据上完成验证。
英伟达发布Audex多模态大模型,在音频理解与生成达到最优水平的同时,保持文字推理能力几乎零退步,提供完整技术路径。
南加州大学研究揭示语音抑郁检测中"时序聚合"环节的系统性盲点:72个测试组合中三分之一完全失效,骨干网络选择的影响丝毫不亚于聚合架构本身。
斯坦福与根特大学联合提出"变化感知最优采样"方法,无需训练模型,通过匹配历史变化模式筛选AI胸片报告候选,印象部分RadGraph F1提升最高达13.6%。