
2026年,如果你去看开源大模型的排行榜,会发现一个有点尴尬的事实:几乎所有能打的模型都来自中国和美国的实验室。DeepSeek、Qwen、GLM,还有OpenAI、Anthropic这些名字轮番刷屏。
那韩国在哪里?
这个问题不是韩国人自己没想过。事实上,韩国政府专门启动了一个战略项目,拨出GPU等计算资源,就是为了回答这个问题。LG AI Research借着这个项目做出了第一代产品,叫K-EXAONE,一个2360亿参数的混合专家模型。这次要讲的,是它的续作:**K-EXAONE 2.0**。
这篇技术报告读下来,你会发现它讲的不只是一个模型怎么变强了,更有意思的是,它讲的是一个国家级团队如何在"追赶frontier"这件事上,一步步把每个环节做扎实的过程。
从236B到750B,这不是简单地把模型调大
先说最直观的变化,参数规模。
K-EXAONE 2.0的总参数量达到了750B(也就是7500亿),是上一代236B的3.2倍。但真正每次推理会用到的参数,叫"激活参数",只有37B,比上一代的23B多了不到两倍。
**混合专家模型(MoE)**:一种神经网络架构,把一个大模型拆成很多个"专家"子网络,每次处理一个词的时候,只调用其中一小部分专家,而不是全部参与计算。这样可以做到"总容量很大,但实际计算成本可控"。
这个设计思路你可以类比成一家超大型医院。医院里有256个不同科室的专家(对应256个experts),但你去看病,不需要所有专家都给你会诊,系统会根据你的症状,精准派出8个相关科室的医生(top-8路由),再加上一个全科医生(shared expert)兜底。如果不这样设计,而是让全院医生都参与每一次问诊,医院的接诊效率会直接崩掉,这正是稠密模型(dense model)在参数规模上不去的根本原因。
更关键的是,K-EXAONE 2.0不是从零开始训练的。
团队选择了一条叫"**upcycling(模型升级重塑)**"的路,直接翻译大概是"废物利用"或者"升级重塑":拿旧模型K-EXAONE的权重当起点,把它的架构在深度和宽度两个方向上"撑大",然后继续训练。
为什么不直接从零训练一个750B的模型?报告里说得很直白:从零训练会"扔掉不仅是K-EXAONE已经学到的参数,还有开发过程中积累的计算资源、数据、训练经验"。这就好比你家已经装修好了一套房子,现在想要更大的居住空间,选择是把房子推倒重建,还是在现有基础上加盖楼层?加盖显然更省钱省时间,前提是地基够稳。
怎么把一栋房子"撑大"而不塌
模型的"撑大"分两个方向:深度和宽度。这两个操作听起来简单,实际做起来全是坑。
**深度扩展(depth up-scaling)**这边,K-EXAONE原本的结构里有一种叫"LLLG block"的重复单元:三层局部滑动窗口注意力(L),加一层全局注意力(G)。K-EXAONE 2.0没有逐层地插入新层,而是整块整块地复制这种LLLG单元,把原来12个block扩展到19个,而且是从堆栈中间选块来复制,而不是靠近输入或输出的位置。
团队做过实验,发现中间复制的效果最好。这个细节其实挺耐人寻味——如果你在网络最开始或最末端加内容,相当于在流水线的头尾加了工位,信息还没充分处理就被打断,或者已经处理完了才加进去,效果都打折。中间加,才是真正让新增的容量参与到核心的信息转换中。
**宽度扩展(width up-scaling)**这边更有意思。每个专家(expert)被复制一份,形成两个完全一样的副本。但如果就这样直接用,会出一个致命问题:这两个专家会收到完全相同的梯度,永远不会分化,加的这份容量就白瞭了。
团队的解决方案是加入"随机旋转噪声"(random rotation noise),给复制出来的专家加一点扰动,让它们从一开始就走上不同的道路,同时这个扰动是"范数保持"的,不会破坏原有的数值稳定性。
这个场景像什么?想象你复制了一个员工的所有工作习惯、性格、技能给一个"分身",希望分身能分担一部分工作。但如果这个分身跟原版完全一模一样,遇到任何情况都做出相同判断,那你实际上还是只有一个员工在干活,只是多花了一份工资。你必须故意让这个分身"有点不一样",哪怕只是随机地调整一下他做事的顺序,这样两个人才会真正在不同的场景里各自积累经验,最终变成互补的两个专家。
训练到一半,模型开始"发烫"了
扩容之后,训练过程中出现了一个技术问题:深层里少数专家的激活值开始离谱地飙高,远远超出同层其他专家的水平。
这背后的机制是**SwiGLU**这种激活函数的特性。
**SwiGLU**:一种在Transformer里常用的激活函数,把输入拆成两路(gate和up),一路做非线性变换,另一路做线性变换,然后相乘。当gate和up两个投影方向"对齐"的时候,输出值会指数级放大,即使权重本身的范数(norm)被weight decay压得很小,输出照样能炸。
报告里给了个具体数字:如果不加约束,峰值SwiGLU激活值会随着层数加深单调上升,到最后一层能飙到6862。这个数字在低精度训练(比如FP8)和低精度推理里是灾难级的,因为数值一旦超出表示范围,精度会严重损失,甚至直接导致训练崩溃。
解决方法是给SwiGLU的两个分支各加一个"夹子"(clamp),把数值限制在阈值7.0以内,只对最后16层MoE层生效。这样处理之后,峰值被死死钉在silu(7.0)×7.0=48.96,比不加约束时低了140倍。
这就像给一个总喜欢把音量拧到最大的老式音响加了限幅器。你不需要禁止它调音量,只需要设一个上限,声音超过某个响度就自动被压下来。如果不这样做,某天音响会因为过载直接烧掉喇叭,而这个"喇叭烧掉"对应的就是训练崩溃或者推理精度骤降。有意思的是,这个方案不是K-EXAONE团队独创的,报告里提到gpt-oss和DeepSeek-V4都用了同样的构造,说明这是这个规模的MoE模型几乎绕不开的一个坑。
推理加速:两条路都要走
模型大了,推理速度自然是个大问题。K-EXAONE 2.0用了两套"投机解码"(speculative decoding)方案。
**投机解码**:让一个小的"草稿模型"先快速生成一批候选词,再由大模型一次性验证这批候选词对不对,对的就直接接受,省去逐词生成的等待时间。整体思路类似"先让助理写初稿,你只需要审核修改",比自己从头写快得多。
第一条路是**MTP(Multi-Token Prediction,多token预测)**模块,这个模块跟着主干网络一起训练,本质上是训练模型不仅预测下一个词,还同时预测未来若干个词。这个模块从预训练阶段就存在,还在强化学习阶段前用了一种叫"total-variation loss"的方法做了专门优化,目的是直接针对"多步接受率"这个指标去优化,而不是绕道用交叉熵当替代目标。
第二条路是**DSpark**,这是模型权重定下来之后才单独训练的一个"起草模块"。它的核心构造是一个"block-diffusion"骨架,一次前向传播直接预测出整个草稿块,然后再用一个轻量的顺序模块从左到右做微调,把块内的依赖关系补回来。
数据很直接:同样的草稿长度设置(γ=7),DSpark在每一项指标上都超过MTP,接受长度提升32%到66%,端到端加速比从原来的1.27到1.77倍,提升到1.81到2.57倍。
这两条路径同时存在,某种意义上像给一辆车配了两套刹车系统。MTP是原厂自带的,训练成本低,够用;DSpark是后装的高性能版本,专门为生产环境的极限性能而生。如果只留一条路,遇到极端场景(比如生产环境对延迟要求特别苛刻)就没有备选方案,两条路并存才是稳妥的工程选择。
上下文长度冲到256K,靠的是分阶段"喂"数据
大模型现在流行卷"长上下文",谁能处理更长的文本谁就更能干复杂任务。K-EXAONE 2.0支持256K token的上下文,这个数字背后是一套叫"mid-training(中期训练)"的两阶段策略。
**Mid-training**:介于预训练(pre-training)和后训练(post-training)之间的一个训练阶段,专门用来做上下文长度的扩展和特定能力的强化,比如推理能力、长文本理解、agent操作等。
第一阶段(Mid-Stage 1)用400B token把上下文窗口从8K拉到64K,第二阶段(Mid-Stage 2)再用400B token继续拉到超过64K,最终到256K。
为什么要分两步走,而不是一步冲到256K?报告里提到一个细节:第二阶段专门加大了长文本推理、代码仓库级别数据、agent工作流的比例。这背后的逻辑其实很朴素,直接给模型灌256K长度的数据训练,模型很可能学不会怎么真正利用这么长的上下文,而是学会了"忽略远处的内容"。一步步拉长,配合逐渐增加的高质量长上下文样本,才能让模型真正学会在长文本里定位信息、跨段落整合证据。
验证的方法叫**Needle-in-a-Haystack(大海捞针测试,简称NIAH)**:往一段很长的文本里插入一句无关的"针"(一句关键信息),测试模型能不能在读完全文后精准找出这句话。
K-EXAONE 2.0在256K范围内的所有测试位置上,检索准确率都是满分。这个结果拿到实际场景里意味着什么?意味着你把一份几百页的合同、一整个代码仓库塞给它,它不会因为信息藏在文档中间就"看不见",这对法律文档审核、代码库理解这类真实任务至关重要。
知识怎么"喂"进模型:主动阅读法登场
预训练阶段有个挺有意思的实验,关于怎么让模型更好地吸收知识。
传统做法是把维基百科文档改写成"教科书风格"(textbook-style)的文本,让模型去学。K-EXAONE 2.0团队还试了另一种方法,叫**Active Reading(主动阅读,简称AR)**。
**Active Reading**:一种数据构造方法,不是简单地把原始文档改写成陈述性文字,而是模拟"一个人主动阅读并思考"的过程,生成的合成数据带有更多主动提取、总结、关联的痕迹。
团队做了个对照实验:从同一个K-EXAONE后期checkpoint出发,分别用30B token的原始混合数据(baseline)、40B token的AR增强数据、40B token的教科书风格数据训练三个独立模型,然后对比在ARC-C、MMLU、GSM8K、HellaSwag这几个基准上的表现。
结果很微妙:AR方法在ARC-C(一个考察推理和常识的题库)上取得最大提升,平均分涨了0.75,而教科书风格在MMLU和GSM8K(数学题)上表现更好,平均只涨了0.41。
这说明什么?不同的知识"喂养方式",适合不同类型的学习目标。团队最终选择的策略是"选择性使用",在知识密集型领域用AR,其他地方保留原有方法。这就像给孩子的教育选教材,死记硬背的教科书适合应试型知识(比如公式和固定答案),而带引导性思考的阅读材料更适合培养推理和联想能力。你不能指望一种教学法解决所有问题,混着用才是现实中的最优解。
韩语数据的取舍:制度来源还是开源来源
K-EXAONE 2.0特别在意一件事:韩语能力和对韩国历史文化的理解。
团队从韩国数据产业振兴院(K-DATA)、国家信息社会振兴院(NIA)、国立国语院、东北亚历史财团这些官方机构收集高质量韩语数据,同时也评估了开源的、教育价值高的韩语数据。
对比结果挺有代表性:机构来源的数据在"文化与历史"类基准上表现更好(68.23分对67.19分),而开源数据在"知识与推理"类基准上略胜一筹(47.21分对46.47分)。
报告给出的解释是,通用知识可以跨语言迁移,但国家特有的历史文化知识,必须依赖高质量的本地数据源才能真正学到位。
这个发现其实挺重要,某种程度上解释了为什么"通用大模型"再强,也很难在某个具体国家的历史文化细节上做到本土模型的精度。你可以让一个从没在韩国生活过的人,通过读大量英文百科了解韩国历史的大致框架,但如果想让他理解某个历史事件在韩国社会语境里的微妙分量,就得靠当地人的第一手资料和视角。知识的"通用层"和"本土层",需要不同的数据供给策略。
语言覆盖从6种扩展到10种
K-EXAONE支持韩语、英语、西班牙语、德语、日语、越南语六种语言,K-EXAONE 2.0新增了法语、意大利语、波兰语、葡萄牙语,总共十种。
数据来源主要是**FineWeb2**,一个大规模多语言网页文本数据集,团队通过内部过滤流水线为每种语言构建了高质量的有机语料,还专门设计了翻译数据和合成问答数据,来促进跨语言的知识迁移。
从结果上看,各语言之间的提升相对均衡,没有出现某个语言吃到全部红利、其他语言原地踏步的情况。比如在POLYMATH这个多语言数学推理基准上,K-EXAONE 2.0在意大利语上从55.2分涨到72.6分,在法语上从58.7分涨到74.0分,涨幅都在17分左右,很平均。
不过在WMT24++翻译测试里出现了一个有意思的现象:K-EXAONE 2.0在"英语翻译到其他语言"方向上的语言间差异(用±2.8表示)比K-EXAONE的±4.7更小,说明各语言的翻译能力更趋于均衡,波动更小了,虽然平均分本身略有下降。这提示我们,模型变强不一定体现在"某几门语言飙得特别高",有时候体现在"整体更稳"上,这种均衡性对一个真正想服务多国用户的产品来说,可能比某个单项的极限分数更有价值。
Agent能力:从工具调用到软件工程
这次报告花了相当大的篇幅讲agent(智能体)能力的构建,这也是K-EXAONE 2.0相比上一代提升最猛的领域。
**Agent(智能体)**:这里指的是能够自主使用工具、执行多步骤任务的AI系统,比如自动写代码、自动搜索信息、自动操作终端完成软件工程任务。
具体的训练数据构造分了几条线。
通用工具调用场景这条线,团队借助NVIDIA的Nemotron-Personas大规模人物画像数据集,为每个虚拟"用户画像"合成他可能会用到的MCP服务器(一种工具接口标准),再模拟这个用户和这些服务器交互的场景,让教师模型(更强的现有模型)生成完整的交互轨迹,用来训练K-EXAONE 2.0。
韩国本地API这条线,团队联合LG CNS,把交通、教育、金融、法律、公共行政这些韩国本地的公共API接入训练数据,让模型真正学会怎么用韩国特有的服务接口,而不是只会调用国际通用的工具。
Agentic Search(智能体搜索)这条线区分了两类查询:深度型查询,把明确的答案替换成间接线索,让模型学会通过属性、关系、时间约束反推答案,这种设计对标BrowseComp这个基准;广度型查询,要求模型找出满足条件的完整实体集合,还得去重、验证每个候选、判断搜索是否穷尽。
软件工程(SWE)这条线,团队从GitHub真实的pull request里提取issue描述、代码补丁、测试用例,构建可执行、可验证的编程任务,并用大模型搭建Docker环境反复验证任务的有效性。
终端环境(Terminal)这条线更狠一点,直接让agent在真实的多文件工作空间里跑任务,用观察到的成功率来筛选任务难度,太难或太简单的都会被过滤掉,同时把失败案例反馈回去改进任务库。
这一整套设计的核心逻辑是,训练数据不能只是"看起来像"真实任务,必须是可执行、可验证的。想象一下,如果你想训练一个厨师,只给他看菜谱和成品照片,他永远学不会真正的手艺;只有让他实际下厨,并且有人尝一口告诉他这道菜到底成不成,他才能真正积累有效经验。SWE-bench Verified这个基准上K-EXAONE 2.0从上一代的49.4分涨到68.2分,涨了18.8分,这个提升幅度背后正是"可验证任务"这套构造逻辑在起作用。
后训练:GROUPER和"保留思考"机制
后训练阶段分两步:先做**SFT(Supervised Fine-Tuning,监督微调)**,再做偏好学习(Preference Learning)。
SFT阶段用了350B token的数据,覆盖推理、世界知识、指令遵循、agent系统这几大目标领域。这个阶段有一个技术细节值得单独说,训练时冻住了路由器(router)参数,不让它变化。
**路由器(Router)**:在MoE架构里,决定每个token应该分配给哪些专家处理的那部分参数。
冻住路由器的意义在于,保留预训练阶段已经建立起来的专家分工模式。如果SFT阶段还继续调整路由决策,原本训练好的"专家分工体系"可能被打乱,相当于一个刚刚培训出各科专精医生的医院,突然又重新洗牌了谁看什么病,之前积累的经验就白费了。
另一个值得展开的细节是**Preserved Thinking(保留思考)**机制。在多轮agent对话里,模型每一轮都会先做一段"推理"(reasoning),再调用工具,最后给出答案。通常一轮对话结束后,这段推理过程会被丢弃,下一轮对话开始时模型得重新推导之前的结论。
保留思考机制选择把这些推理块完整地保留在上下文里,跨越轮次边界。报告里配了一张图说明这个机制的差异,没有保留思考的场景里,第二轮对话的输入是空白地带(之前的推理被虚化),有保留思考的场景里,这些推理块依然清晰可见。
这就像开会时,如果每次休息回来都要重新解释一遍之前讨论到哪了,效率会大打折扣,而且很容易出现前后矛盾的结论。把会议记录完整保留下来,后续讨论才能真正建立在之前的思考基础上,尤其是复杂的、需要多轮推理才能解决的长期任务。
偏好学习阶段用了一个叫**GROUPER(Group-wise SimPER)**的目标函数,具体细节报告没有展开太多,但提到它同时用于多任务偏好优化和安全相关的偏好优化两个阶段。安全这块特别提到,为了避免模型学会"钻空子"(利用回答长度这种表面特征来讨好评分机制),团队在挑选正负样本对时会控制两者的长度相近。
安全:不只靠技术专家,还请了46位老师
这部分是整篇报告里我觉得最特别的内容。
大部分公司做AI安全,思路基本是:找一批安全研究员,列一张风险清单,然后用红队测试(red teaming)去攻击模型,看它会不会说出不该说的话。
**红队测试(Red Teaming)**:主动尝试用各种手段诱导AI说出有害内容或做出不当行为,以此发现和修复安全漏洞的测试方法。
K-EXAONE团队走了一步不太一样的路。他们和联合国教科文组织亚太国际理解教育中心(**UNESCO APCEIU**,一个专注于全球公民教育的联合国机构)合作,组建了一个由46位教师构成的"安全教师顾问委员会"。这些教师都接受过UNESCO的全球公民教育(GCED)培训,并且正在自己的课堂上教这门课。
为什么找老师,而不是继续加派安全工程师?报告里有段话说得挺透彻:红队测试主要是在验证"已知风险能不能被诱导出来",但对于"没人想过、没人定义过的风险",这种方法几乎无能为力。团队的判断是,剩下的安全盲区,与其说是技术不够精细,不如说是发现风险的视角本身太单一。
这些老师的特殊之处在于,他们的职业本身就是"教学生怎么判断是非",而不只是"告诉学生什么是对的"。招募过程收到了几千名认证教师的报名,最终从四百多名合格候选人里,按性别、年龄、学校层级、教龄、学科、地区六个维度平衡选出了46人,其中76%有超过十年的教学经验。
具体的工作流程是四周一轮的闭环:老师们直接对模型做红队测试,提出对现有判断标准的修订意见和新的风险类别;研究团队整理这些建议,再返回给老师们做二次人工审核;采纳的修改会被纳入**K-AUT(Korea-Augmented Universal Taxonomy,韩国增强型通用安全分类体系)**,并应用到模型训练和评估中。
这套流程带来的成果是K-AUT从226个风险条目扩展到296个,新增了70个此前完全没有覆盖的风险类型,横跨"通用人类价值"、"社会安全"、"韩国敏感性"、"未来风险"四大领域。报告里给了一个具体的修订案例:关于多元文化背景下的"逆向歧视叙事"(比如把移民支持政策污名化为"逆向歧视"),一位教师的建议是,判断标准过度依赖韩国国内法律,应该纳入国际人权标准的框架,明确区分"批评的自由"和"煽动歧视与仇恨"的边界。这个建议被采纳,新增了专门的判断条款。
这里有个很朴素的道理:一群价值观训练有素、又深谙本地社会脉络的普通人,能看到纯技术团队看不到的盲区。就像你请一个律师来审查合同条款漏洞,他能挑出法律层面的所有风险点,但如果一份合同要用在完全不同文化语境的社区里,可能还需要一个真正在这个社区生活过的人,才能看出条款背后隐藏的文化冲突。技术能力和场景理解力,是两种不同的专长,而安全恰恰需要两者都在场。
处理意见分歧的方式也挺讲究:当老师们对同一个案例的判断出现分歧时,团队不是简单地取平均或者少数服从多数,而是把分歧本身当作信号,分歧越大,越说明这个问题本身有争议,越值得深入研究每个人的具体理由,最终由团队做出决定并承担责任。
最终的效果体现在**KGC-SAFETY**(一个内部的韩国全球公民安全基准)上:K-EXAONE 2.0在这个测试上的四个维度(通用人类价值、社会安全、韩国敏感性、未来风险)都做到接近满分,总分99.8,而对照的GLM-5.1只有69.3分,Qwen3.5是92.0分。这个差距,某种程度上正是"多了46位老师参与"这件事带来的可见成果。
拿到的成绩单:数字说话
说了这么多设计理念,最终还得看实测结果。
| 评测维度 | 代表基准 | K-EXAONE 2.0 | K-EXAONE(上一代) |
|---|---|---|---|
| 长上下文检索 | OpenAI-MRCR | **94.4** | 52.3 |
| 软件工程 | SWE-bench Verified | **68.2** | 49.4 |
| 终端能力 | Terminal-Bench 2.1 | **43.8** | 30.3 |
| 多语言数学 | PolyMath | **71.3** | 57.4 |
| 安全(内部) | KGC-SAFETY | **99.8** | 96.1 |
| 安全(外部对抗) | ROK-Fortress | **89.5** | 60.9 |
| 指令遵循 | IFBench | **72.6** | 67.3 |
最大的进步集中在agent相关任务和长上下文理解上,这两项恰好也是这次团队重点投入的方向,说明"想提升什么就真的提升了什么",训练资源的分配是有效的。而在纯数学推理(AIME 2026)和世界知识(MMLU-Pro)这类基准上,两代模型分数接近甚至略有下降,报告没有回避这一点,坦白说这是"没有明显退步,但也没有额外惊喜"的领域。
和同代际其他开源模型比,K-EXAONE 2.0在长上下文检索和安全两块的优势最明显。在AA-LCR(另一个长上下文推理基准)上,Qwen3.5拿到65.7分,K-EXAONE 2.0是56.2分,稍显落后;但在OpenAI-MRCR这个更偏检索的长上下文任务上,K-EXAONE 2.0以94.4分反超Qwen3.5的93.0分。这说明"长上下文能力"本身不是单一维度,检索型任务(找到信息)和推理型任务(整合信息做判断)需要分开看,K-EXAONE 2.0在前者更强。
写在后面
读完这份报告,最触动我的其实不是参数规模或者跑分,而是那个安全教师委员会的细节。
一个国家想做出真正"属于自己"的AI模型,光靠算力和参数堆砌是不够的。技术团队再强,也很难独立判断"这句话在韩国的历史语境里到底有多敏感",这种判断力来自长期浸泡在这个社会里的人,而不是训练数据本身能凭空生成的。
报告里那句"K-AUT从设计之初就不打算成为一个只在韩国有意义的'加拉帕戈斯标准'",我觉得挺关键。加拉帕戈斯群岛因为地理隔绝演化出了独特物种,但这些物种一旦离开那个孤立环境就很难存活。技术团队显然意识到,如果本地化做过头,做出来的东西只能困在本国市场里,出不去。所以他们把国际人权公约当地基,再往上叠加韩国特有的敏感层,这个顺序本身就是一种态度。
还有一个没细说但我觉得值得追问的问题:这70个新发现的风险类别,具体是通过什么机制被最终"翻译"成训练数据的?报告说了流程,但没有展开数据构造的具体技术细节。一个老师提出"这个回答有点危险",到变成机器能学习的训练样本,中间那一步的损耗和保真度,其实决定了这整套人文投入最终能不能真正落地到模型行为上。这个问题,恐怕要等下一份报告才能看到答案。
Q&A
Q1:K-EXAONE 2.0是什么?
A:K-EXAONE 2.0是LG AI Research开发的开源多语言基础大模型,通过升级重塑上一代K-EXAONE而来,总参数750B,激活参数约37B,支持256K长上下文和10种语言,遵循Apache 2.0协议开源。
Q2:K-EXAONE 2.0相比上一代提升最大的地方是什么?
A:提升最明显的是agentic coding(智能体编程)和长上下文理解。SWE-bench Verified从49.4分涨到68.2分,OpenAI-MRCR从52.3分涨到94.4分,安全类基准ROK-Fortress也从60.9分涨到89.5分。
Q3:K-EXAONE 2.0的安全机制有什么特别之处?
A:除了常规的技术性红队测试,团队还联合UNESCO组建了由46位教师构成的安全顾问委员会,通过教育专家的视角发现常规安全测试难以覆盖的社会文化类风险,并把韩国本土历史文化敏感性纳入安全评判标准。
好文章,需要你的鼓励
GeoVerse融合几何潜在扩散模型与Wan2.2视频生成先验,并引入全局空间记忆机制,实现了跨视角一致、生成质量高且推理速度快的新视角合成,在多个数据集上大幅超越现有方法GLD。
本文解读TT-VidT,一种通过分离外观锚点与动作令牌、结合Diff Compression训练目标的视频自监督方法。在24种架构目标组合的受控实验中,仅TT3D与Diff Compression搭配才能进入强动作敏感区,且计算量比同类方法降低近一半。
Q&A Q1:Imprint Reader是什么? A:Imprint Reader是上海人工智能实验室团队开发的模型,通过SMaRT训练方法学会读取另一个模型冻结的权重更新,把参数层面的变化翻译成自然语言描述,判断这次更新到底注入了什么知识或诱导了什么行为习惯。 Q2:MetaEdit能做什么? A:MetaEdit能把Reader对目标行为的梯度信号迁移到原始模型上,不需要任何目标任务的训练数据,只用一句行为描述就能定向调整模型参数,已经在安全性拒绝率调节、数学推理风格转变和工具调用能力提升上验证过效果。 Q3:Imprint Reader读权重更新的准确率高吗? A:目前还不高,知识类目标的Pass@100只有2%,行为类目标是16%,说明自由生成描述的可靠性有限,但相比原始模型完全答不出来的0%基线,已经证明了权重更新的自然语言读取是可行的。
统一多模态模型能看也能画,理论上该会自我修正。本论文提出UMM-Reflection,用整条轨迹的强化学习联合训练诊断和修图能力,GenEval提升12分,且迁移到多个未训练基准,揭示RL提升的是选择可靠性而非新能力。