联邦国防军慕尼黑大学开发的"谎言识别器"：人工智能如何在百万条社交媒体帖子中揪出政治操控叙事？

这项由德国联邦国防军慕尼黑大学（University of the Bundeswehr Munich）研究团队完成的研究，于2026年5月以预印本形式发布，论文编号为arXiv:2605.14354，已提交至第18届社会网络分析与挖掘国际会议（ASONAM 2026）。研究团队来自该校系统科学学部通信系统与网络安全方向。

每天，数以亿计的人在刷X（前身是Twitter）、Reddit和Telegram时，其实正在被一些精心设计的故事悄悄影响着自己的判断。这些故事有时是彻头彻尾的谎言，有时却是把真实事件扭曲包装后的"有毒鸡汤"——它们的共同目标，是让你开始怀疑自己的政府、憎恨某一群人、或者拒绝支持某项政策。这种被称为"外国信息操控与干预"（FIMI，Foreign Information Manipulation and Interference）的现象，已经成为现代社会的一种隐形威胁。

然而，识别这类内容极其困难。一个人愤怒地批评政府的帖子，和一个受境外势力操控、专门制造对立情绪的帖子，读起来可能几乎一模一样。更棘手的是，操控性帖子往往并不造假——它们只是把真实事件装进一个别有用心的故事框架里。传统的谎言检测技术在这里完全失灵，因为它们只能判断"是否说谎"，却无法识别"是否在操控"。

正是为了解决这个难题，联邦国防军慕尼黑大学的研究团队设计了一套由大型语言模型（LLM）驱动的全自动流水线系统，在超过120万条社交媒体帖子中，成功识别并归类出41种不同类型的政治操控叙事。这套系统的核心思路，就像是训练一个经验丰富的情报分析师，让他不仅能读懂文字表面的意思，更能嗅出文字背后隐藏的操控意图。

一、从二战的黑色广播说起：操控叙事的历史与现状

要理解这项研究，得先明白什么叫"战略叙事"（Strategic Narrative）。国际政治学者米斯基蒙（Miskimmon）等人对此有过精准的定义：战略叙事是政治行为者构建一套关于过去、现在和未来的共同意义框架，用来影响国内外各方行为体的行动。换句话说，它不是一条孤立的谣言，而是一个完整的故事，有起点、有高潮、有终点，专门设计来改变人们的看法和行为。

历史上最经典的案例之一，来自二战时期的英国秘密广播电台"古斯塔夫·西格弗里德一号"。这个电台专门对德国士兵广播，但播出的不是公开宣传，而是精心伪造的"内部消息"——说什么党内高层在后方醉生梦死、挥霍无度，而前线士兵却在冰天雪地里浴血牺牲。这个故事构建了一套完整的叙事框架：过去德国军人是英雄，现在精英阶层却背叛了他们，未来只有无谓的死亡在等待。这套叙事成功瓦解了部分德国士兵的斗志。

时至今日，传播渠道变了，但操控叙事的基本套路几乎没有变化。道德反转、推卸责任、伪造精英背叛——这三根支柱依然是现代信息操控的核心工具。不同的是，今天的操控者不再需要广播电台，只需要社交媒体平台的算法推送，就能把精心设计的操控内容直接投放到目标受众的信息流中。

近年来曝光的几起重大信息操控行动，展示了这种威胁的具体形态。"多普尔根格"（Doppelganger）行动中，俄罗斯相关机构克隆了至少17家真实新闻媒体的网站，包括德国《图片报》和英国《卫报》的仿冒域名，以及一个山寨北约官网，用来散布看似权威的虚假内容。"风暴-1516"（Storm-1516）行动则更进一步，专门伪造发票、制作虚假视频来抹黑政治人物，制造出"有图有真相"的虚假丑闻。"欧洲之声"（Voice of Europe）则充当信息洗白的渠道，借助某些议员的公信力来放大不严肃的言论。这些行动有一个共同特点：它们传播的并非总是凭空捏造的谎言，更多时候是把真实事件套进一个操控性的故事框架。

研究团队在论文中专门区分了信息混乱的三种形式。"虚假信息"（Disinformation）是明知内容为假仍故意传播；"错误信息"（Misinformation）是无意中传播了错误内容；而"恶意信息"（Malinformation）则是最难对付的——它基于真实事件，却被用来达到伤害某方的目的。正因如此，这项研究明确放弃了"事实核查"的思路，转而聚焦于识别操控意图和修辞手法。

二、一套情报分析师的工作流程：研究团队怎么设计这个系统的？

研究团队面对的数据集规模相当庞大：1,255,895条来自X、Reddit和Telegram的短帖子，其中80%为德语，20%为英语。这些数据是在2025年1月至2月间、德国联邦大选前夕采集的，搜索关键词涵盖了所有德国联邦议院议员的名字。从数据分布来看，X平台贡献了最大份额，共829,191条推文，其中最受关注的是极右翼德国选择党领袖爱丽丝·魏德尔（占比26.26%），其次是社民党前卫生部长卡尔·劳特巴赫（16.61%），以及新任德国总理弗里德里希·默茨（7.64%）。Reddit上的362,753条帖子则呈现出更多左倾内容的特点，而63,951条Telegram消息则主要来自219个右翼阴谋论群组。

整套处理流程可以用"情报分析师破案"来理解。面对海量线索，情报分析师不会每条都深挖，而是先快速筛选出哪些线索值得重点关注，然后把这些线索归类整理，最后提炼出背后的完整作案模式。研究团队设计的四步流水线，正是遵循这个逻辑：先过滤、再嵌入、然后降维聚类、最后提取叙事标签。

第一步是"AI筛选官"的工作——提示词过滤。研究团队花了大量精力设计一套详细的提示词（Prompt），来指导大型语言模型识别哪些帖子包含操控性叙事。这个提示词不是简单地告诉模型"找谎言"，而是像给一个新入职的情报分析师做系统培训：告诉他FIMI的定义和特征，列举真实案例中出现过的具体操控手法（"多普尔根格"、"风暴-1516"等），同时特别强调哪些内容不能算操控——比如对政府政策的正常批评、对经济困境的个人牢骚、对某项政策的质疑。

这个区分"正常批评"与"操控叙事"的细节，是整个系统最核心、也最难拿捏的地方。研究团队在提示词中加入了一个关键机制，叫做"虚假正例约束"——明确告诉模型，对政府的普通批评、对政策的怀疑以及个人经济上的抱怨，都应该被判定为非操控内容，不能归入FIMI范畴。

为了让模型更好地"理解"这条边界，提示词还采用了"少样本学习"（Few-shot）的设计——提供若干真实的操控帖子样本和非操控帖子样本作为参考，让模型通过对比来掌握判断标准。整套提示词的开发过程是人机协作的：人类专家先定义战略叙事的特征并挑选典型案例，然后由Gemini等AI模型将这些知识重新格式化成结构化提示词，再经过反复评估和调整，直到效果达标。

执行这一过滤任务的模型，是Qwen3.5-122B-A10B-FP8——一个拥有1220亿参数的大型推理模型，采用专家混合（MoE）架构，每次推理时只激活约100亿参数。选择这个模型，是在推理能力和处理效率之间取得平衡的结果：它足够聪明，能够理解复杂的政治语境；同时由于采用了MoE架构，在单台多GPU服务器上也能以合理速度处理百万量级的帖子。模型输出被严格限定为标准JSON格式，包含一个布尔值（是否含有操控叙事）和一段推理文字，不合格的输出会被过滤掉。

三、让帖子"说出"自己的操控意图：嵌入技术的特殊改造

通过第一步过滤后，剩余的帖子需要被转化成计算机能够比较距离的数字向量——这个过程叫做"嵌入"（Embedding）。打个比方，如果说过滤步骤相当于把犯罪嫌疑人从人群中挑出来，那么嵌入步骤就相当于给每个嫌疑人的案情做一份详细画像，画像的格式是一个4096维的数字向量。

传统的嵌入方法，比如all-MiniLM-L6-v2这样的经典模型，会把文本映射到一个通用语义空间里——也就是说，意思相近的句子会聚在一起。但这对于识别操控叙事来说还不够精准。两篇帖子可能讲的都是"移民问题"（话题相同），但一篇只是在讨论政策利弊，另一篇却在暗示政府故意引入暴力分子来摧毁本国文化——这两者的操控意图截然不同，却可能在通用语义空间里靠得很近。

研究团队选用的嵌入模型是Qwen3-Embedding-8B，该模型的一个特殊能力是可以通过指定提示词来定制嵌入的"关注维度"。研究团队为嵌入模型指定的提示词是："识别以下文本中的战略叙事、操控意图和虚假信息动机。"这一简单却关键的调整，使得嵌入空间不再按照"话题相似性"来组织帖子，而是按照"操控意图相似性"来组织——同一类操控套路的帖子会自动聚集到一起，即便它们表面上说的是完全不同的话题。

生成嵌入向量后，每个向量会经过L2归一化处理，这相当于统一了所有画像的"比例尺"，确保后续的距离计算更加准确。

四、从万维空间到可见的叙事群落：降维与聚类的技术选择

拥有4096个维度的向量，对于直接聚类来说太过复杂。研究团队采用UMAP（统一流形近似与投影）算法对向量进行降维处理——这个名字听起来很吓人，但原理其实类似于把一张复杂的三维地形图压缩成一张二维地图。研究团队分别将数据压缩到二维（用于可视化展示）和五维（用于实际聚类），五维设置沿用了BERTopic框架的标准配置。

降维之后，就到了聚类这一步。研究团队选择了HDBSCAN算法（基于层次密度的空间聚类）。这个算法有一个非常适合本研究场景的特点：它不需要事先告诉它"要分几组"，而是根据数据本身的密度分布自动找出有意义的聚类，并且会把那些不属于任何密集群体的孤立点标记为"噪声"而不强行归类。

这个"噪声处理"特性，与前面提到的高召回率过滤策略形成了一个精妙的互补关系。过滤阶段宁可多抓几个"误报"（假阳性），也不能漏掉真正的操控帖子。那些被误判为操控的普通帖子，在聚类阶段自然无法与其他帖子形成足够密集的群落，就会被HDBSCAN划入噪声类别，相当于被"二次过滤"掉了。

为了找到最佳的聚类参数，研究团队系统测试了HDBSCAN中"最小聚类规模"这一关键参数的六个取值：100、200、400、600、800、1000。评判标准有两个：一是被归为噪声的帖子比例要尽可能低（意味着尽量少浪费有价值的数据），二是各个聚类所代表的叙事之间的语义距离要尽可能大（意味着每个聚类讲的是真正不同的故事）。

测试结果显示，当最小聚类规模设置为400时，效果最佳。此时噪声比例为29.73%，各叙事间的平均余弦相似度为0.3057——这个数值在所有测试配置中处于"噪声少且叙事足够差异化"的甜蜜点。在这一设置下，HDBSCAN共识别出41个独立的叙事聚类。

HDBSCAN中还有另一个重要参数"最小样本数"，它决定了一个点要成为聚类核心点所需的邻近点数量。研究团队将这个值固定设置为100——这个选择的逻辑是：太高会导致根本找不到聚类，太低会产生大量杂乱无章的小簇，100是一个能够聚焦于真正连贯叙事的合理门槛。

五、让AI读懂每个故事群的"潜台词"：叙事标签提取

识别出41个聚类之后，还需要知道每个聚类讲的究竟是什么故事。传统的话题模型会用"关键词"来描述一个聚类，比如"难民、边境、犯罪"——但这只告诉你话题，却没告诉你背后的操控意图。研究团队做了一个关键的改造：用专门设计的叙事提取提示词来替代传统的关键词提取。

具体做法是先用c-TF-IDF（基于类别的词频-逆文档频率）技术从每个聚类中提取出最具代表性的关键词，然后把这些关键词连同该聚类中的若干原始帖子一起提供给一个更大的推理模型。由于这一步骤只需处理41个聚类（而不是百万条帖子），研究团队使用了更强大的Qwen3.5-397B-A17B-FP8模型来完成这项工作。

这个叙事提取提示词要求模型必须从三个维度来分析每个聚类：核心指控是什么、被攻击的"敌人"是谁、具体采用了什么操控角度（比如"故意背叛"还是"系统性欺骗"）。同样采用了少样本学习设计，提供了完整的示范案例，展示如何从原始帖子和关键词出发，通过三步推理最终输出一句精炼的叙事标签，格式固定为"LABEL: "开头的一个句子。

这套机制的效果，就是把每个聚类从一堆数字变成了一个可读、可理解、可分析的具体操控故事。

六、系统到底有多准确？人机对比的实测结果

研究团队对过滤阶段的准确性进行了严格的人工评估。评估方式是随机抽取200条帖子——100条被模型标记为"含操控叙事"，100条被标记为"不含操控叙事"——由一位人类评估者在不知道模型判断结果的情况下独立打分。

人类评估者的标准非常具体：只有当一条帖子明确包含"社会撕裂"或"精英背叛"等阴谋论式叙事框架，且这种叙事明显超出了正常政治批评的范畴时，才算作操控叙事。对于真正模棱两可的帖子，评估者可以标记为"边界情形"，这些边界情形会被剔除并用新样本替换，直到200条样本全部得到明确判断。

评估结果揭示了一个有趣的性能特征：模型的F1分数为0.77，但这背后隐藏着明显的不对称性——召回率高达0.92，而精确率只有0.66。翻译成大白话就是：模型对操控内容的"嗅觉"非常灵敏，几乎不会漏掉真正的操控帖子（92%的操控帖子能被抓住），但代价是会"误伤"不少普通帖子（100条被模型标记为操控的帖子中，有34条其实并不是）。

这种"宁可错杀，不能放过"的偏向，是研究团队有意为之的设计选择。因为后续的HDBSCAN聚类算法会自动把那些"误伤"的普通帖子过滤掉——它们没有办法与其他帖子形成足够密集的操控叙事群落，自然会被划入噪声类别。两个步骤的组合，实现了既不漏掉真实操控内容、又能在最终结果中剔除误报的效果。

除了分类准确率，研究团队还单独测试了模型推理过程的质量：把模型给出的分类结论和推理文字一并展示给人类评估者，让他判断"模型的逻辑推理是否站得住脚"。结果是95.5%的情况下，人类评估者认同模型的推理逻辑。这个高度一致性与77%的F1分数之间的落差，揭示了这个问题的本质难点。

一个典型的"误伤"边界案例可以帮助理解这种落差：一条帖子写道（译文）："只有把#移民遣返纳入竞选纲领，我才会投你的票。"模型的判断是：该帖子利用了"移民遣返"这个口号来传达身份威胁和人口焦虑，契合"身份威胁→受害者叙事"这一操控框架，属于操控叙事。然而人类评估者的判断是：这只是一个普通公民在表达自己对移民政策的个人看法，用了一个激进的口号，但这并不意味着背后有外部势力协调的操控图谋。模型的推理逻辑无懈可击，但它缺少人类那种"这只是个人牢骚而不是有组织的操控行动"的直觉判断。

七、最终发现了哪些操控故事？41个叙事聚类的图谱

经过完整流水线处理后，研究团队从120万条社交媒体帖子中识别出41个独立的操控叙事聚类。按帖子数量排名，规模最大的五个聚类分别是：拥有15,379条帖子的"国家背叛叙事"（政府故意放任暴力移民入境并掩盖相关犯罪事件，危害德国儿童安全）；拥有10,450条帖子的"蓄意背叛叙事"（德国政府和西方精英为了游说团体的利益，牺牲国家和平来支持对俄罗斯的代理人战争）；拥有9,354条帖子的"腐败出卖叙事"（腐败的卫生官员和全球精英将人民出卖给制药公司，强迫人们接种危险的实验性疫苗）；拥有3,716条帖子的"叛逆精英叙事"（主流媒体和政治反对派被塑造为背叛德国人民的精英党仆，将面临革命性暴力清算）；拥有3,266条帖子的"锡安主义阴谋叙事"（西方政府和媒体之所以参与以色列种族灭绝和白人替代行动，是因为被一个恶意的锡安主义犹太阴谋所操控）。

这41个聚类，在内容上可以被手动归纳为四大主题支柱。第一根支柱围绕"大替换"展开，核心逻辑是把移民问题包装成政府故意针对本国居民的"存在性威胁"。除了上述最大聚类外，这一支柱还包括"文明替换叙事"（穆斯林移民和共谋精英正在蓄意伊斯兰化西方国家以抹除本土文化）以及"系统性背叛叙事"（内政部长法瑟故意纵容移民带来的"进口战争"，同时用双重标准迫害德国公民）。

第二根支柱是"代理人战争"叙事，把德国描绘为一个受美国控制的非主权国家，支持乌克兰只会让德国的繁荣化为乌有。相关聚类包括"占领叙事"（德国自1945年起就是美国殖民地，精英阶层已将国家主权出卖给华盛顿）以及"蓄意破坏叙事"（德国领导层和西方盟友通过切断俄罗斯天然气关系来蓄意破坏国家繁荣和能源安全，目的是为乌克兰代理人战争融资）。

第三根支柱是"气候独裁"叙事，把气候政策包装成"全球主义者"为了让公民更贫穷、更顺从而炮制出来的骗局。相关聚类包括"绿党定性为非法教派"（绿党被塑造为一个故意损害普通民众利益以服务精英意识形态的反德非法教派）、"哈贝克角色定位"（联邦经济部长哈贝克被塑造为一个表里不一、与共产主义对齐的反派，蓄意以无能和双重标准破坏德国经济）以及"蓄意破坏叙事"（政府和绿党在故意摧毁德国的能源安全和经济繁荣，以强制推行违背普通公民利益的意识形态议程）。

第四根支柱是"另类选择党（AfD）救世主"叙事，把传统政党塑造为腐败的深层国家，而右翼的AfD和外部行为者（如埃隆·马斯克）被描述为唯一的救星。相关聚类包括"独家救赎叙事"（现有政党和媒体维持着一套欺诈性民主来背叛公民，AfD是唯一能救国的政党）、"深层国家阴谋叙事"（一个全球主义网络控制着AfD以外的所有德国政党，从内部蓄意摧毁国家主权和公民自由）以及"外部救世主叙事"（马斯克和全球盟友在支持AfD以推翻腐败的德国建制派和主流媒体）。

八、这套方法比传统方法强在哪里？几个关键突破

研究团队总结了这套系统相对于传统方法的三个核心突破。第一个突破是"基于推理的分类"。传统的文本分类器是基于训练数据来学习规律的，它只会识别自己见过的模式，遇到新的操控手法就会失效。而这套系统使用的大型推理模型，能够把它从训练数据中积累的丰富世界知识主动运用到分类任务中。研究团队在分析过滤阶段的结果时，发现了一个很能说明问题的例子：模型正确识别出"rtde.media"这个域名是俄罗斯官方媒体"今日俄罗斯"（RT）的代理网站，并据此标记了相关帖子——而这个域名从未在提示词中被提及，模型完全依靠自身储备的公开情报知识做出了这个判断。

第二个突破是"意图驱动的嵌入"。通过在嵌入模型中注入操控意图导向的提示词，让相同操控逻辑的帖子在向量空间中自动靠拢，解决了传统话题模型"只看话题不看意图"的根本缺陷。第三个突破是"战略叙事提取"，用结构化的叙事标签（包含核心指控、攻击对象、操控角度三个维度）替代传统话题模型输出的简单关键词，使输出结果直接可用于情报分析和政策应对。

此外，整套系统还有一个重要的架构优势：无需预先定义操控叙事的类别。传统分类方法需要先人工定义所有可能的类别再训练分类器，这意味着它永远只能识别"已知"的操控叙事，无法发现新型操控。而这套系统基于无监督聚类，能够自动从数据中发现新出现的叙事群落，更接近真实的情报分析需求。

说到底，这项研究做的事情，是把"识别操控叙事"这件原本需要大量人工专家逐条审阅的工作，转化成了一套可以自动化大规模运行的流水线。它当然还不完美——那条"协调的操控行动"与"激进的个人意见"之间的边界线，连人类自己也无法总是划清楚，模型的精确率只有66%就是这个难题的体现。提示词的设计目前仍然依赖人类专家的直觉，缺乏系统化的优化方法。

但这套系统展示了一种极有价值的工作范式：不同模块的局限性可以通过互补设计来相互弥补。高召回的过滤器与能排除噪声的密度聚类算法结合，让整个系统的最终输出质量远高于任何单一模块单独运行的效果。在信息操控技术日新月异、传播规模指数级增长的今天，这种能够以机器速度、以情报专家的视角扫描海量社交媒体内容的系统，有可能成为捍卫公共信息环境的一道重要防线。

感兴趣的读者可以通过arXiv论文编号2605.14354查阅完整原文，研究团队也在GitHub上开放了完整的代码库，地址可在原论文中找到。

Q&A

Q1：FIMI（外国信息操控与干预）和普通谣言、假新闻有什么区别？

A：FIMI和普通假新闻的核心区别在于"意图"和"系统性"。普通假新闻可能是无意间传播的错误信息，或者只是孤立的谎言。FIMI则是有组织、有策略的行动，目的不一定是撒谎，而是通过操控故事框架来改变人们的行为——比如用真实事件构建一套"政府蓄意背叛人民"的叙事，让受众产生不信任感和对立情绪。欧盟对FIMI的定义明确指出它是一种"行为模式"，而非单条内容，这正是它比普通假新闻更难识别和应对的原因。

Q2：这套系统识别出的41种操控叙事，主要是针对哪些政治议题的？

A：在2025年德国联邦大选前夕采集的数据中，41种叙事主要围绕四大主题：一是"大替换"叙事，把移民问题包装成政府故意针对本国人的生存威胁；二是"代理人战争"叙事，把支持乌克兰描述为出卖德国利益、服务美国控制；三是"气候独裁"叙事，把气候政策塑造成全球主义精英控制公民的工具；四是"AfD救世主"叙事，把极右翼政党包装为腐败建制派的唯一替代品。这四类叙事共享一个核心套路——将当前局势塑造为精英蓄意背叛普通民众。

Q3：这套AI检测系统的准确率怎么样，能直接用来决定删帖或封号吗？

A：目前这套系统的F1分数为0.77，召回率0.92但精确率只有0.66，意味着它宁可多抓也不放过，会有约三分之一的"误报"。研究团队明确表示这套系统的设计定位是情报分析辅助工具，而非内容审核决策工具。直接用它来删帖或封号会有明显的过度审查风险，尤其是那些表达激进但属于个人政治观点的内容。更合适的用法是：先由系统自动识别和归类可疑叙事聚类，再由人类分析师对聚类结果做深度研判，从而把专家资源集中在最值得关注的内容上。