智能体 AI(Agentic AI)正从云 AI 向边缘 AI 与物理 AI 延伸,开发者需要跨模型、运行时与硬件目标进行开发,复杂度持续攀升。Arm 计算平台覆盖这一 AI 计算连续体,并依托超过 2,200 万开发者构成的广泛生态,为开发者提供优化的 AI 软件支持。
开发 AI 应用,无需以数周的模型搜索、基准测试与优化工作为起点。开发者需要快速定位适合的模型并了解其性能表现,智能体同样需要清晰的信号指引,以发现对应的模型、工具及技术资源。
今日,Arm 正式推出 Arm AI Portal,为开发者与智能体提供统一入口,从而在 Arm 计算平台范围内完成 AI 软件的发现、优化及部署。开发者可查找面向特定任务的预优化模型,获取性能与准确率数据,对比延迟、内存占用和模型规模,并访问代码示例及部署工作流。
后续,Arm AI Portal 还将提供相关工具,支持开发者导入包括专有模型在内的自有模型,并在 Arm 平台上开展性能分析与优化。目前,面向智能体 AI 的资源已开放预先体验,正式版本将于后续推出。
依托 Arm 技术优化 AI,加速开发进程
Arm AI Portal 面向基于 Arm 架构的计算平台,支持语言、语音、视觉及神经图形等多类 AI 工作负载。首批预优化模型包括阿里巴巴通义千问、Google Gemma 及 Ultralytics YOLO,支持的 runtimes 涵盖 ExecuTorch、LiteRT 及 ONNX-RT。生态合作伙伴包括阿里巴巴、树莓派(Raspberry Pi)及 Ultralytics。
Arm AI Portal 适配开发者与智能体的现有开发环境,经 Arm 优化的模型可通过 Hugging Face 获取,Portal 相关资源则可通过模型上下文协议(MCP)供编程智能体访问。
经 Arm 优化的模型已实现显著性能提升:
· 采用单线程执行与混合量化配置,搭载 Q8_0 talker 与 code predictor 组合方案,Qwen3-TTS 在 vivo X300 上通过第二代 Arm 可伸缩矩阵扩展(SME2)的加速,实现了超过 4 倍的速度提升。
· Ultralytics YOLO26 在 vivo X300 上依托SME2 技术,单线程 FP16 相较 FP32 实现超 40% 性能提升;在树莓派 5 平台依托 NEON 技术,采用 FP16 与 INT8 混合量化方案,相比 FP32 同样实现超 40% 的性能提升。
在 Arm 计算平台全面释放 AI 潜能
Arm AI Portal 覆盖云 AI、边缘 AI 和物理 AI 领域的 Arm 计算平台,帮助开发者快速定位适配目标场景的优化模型。无论是机器人视觉模型、智能手机端的生成式人工智能(GenAI),还是运行于云 CPU 的任务专属大语言模型(LLM),开发者均可通过该平台获取。
Arm AI Portal 将SVE、SME 及神经网络加速能力等 Arm 技术与优化软件生态连接起来。以第二代移动终端计算子系统(Arm CSS for Mobile 2)为例,其模型可借助 SME2 和集成神经加速器的 GPU 实现加速,并可通过 AI Portal 获得支持。
数十年来,Arm 始终致力于软件生态系统的构建。如今,AI Portal 将这一投入延伸至 AI 时代,帮助超过 2,200 万开发者及其智能体发现并使用针对目标硬件优化的软件。
好文章,需要你的鼓励
GeoVerse融合几何潜在扩散模型与Wan2.2视频生成先验,并引入全局空间记忆机制,实现了跨视角一致、生成质量高且推理速度快的新视角合成,在多个数据集上大幅超越现有方法GLD。
本文解读TT-VidT,一种通过分离外观锚点与动作令牌、结合Diff Compression训练目标的视频自监督方法。在24种架构目标组合的受控实验中,仅TT3D与Diff Compression搭配才能进入强动作敏感区,且计算量比同类方法降低近一半。
Q&A Q1:Imprint Reader是什么? A:Imprint Reader是上海人工智能实验室团队开发的模型,通过SMaRT训练方法学会读取另一个模型冻结的权重更新,把参数层面的变化翻译成自然语言描述,判断这次更新到底注入了什么知识或诱导了什么行为习惯。 Q2:MetaEdit能做什么? A:MetaEdit能把Reader对目标行为的梯度信号迁移到原始模型上,不需要任何目标任务的训练数据,只用一句行为描述就能定向调整模型参数,已经在安全性拒绝率调节、数学推理风格转变和工具调用能力提升上验证过效果。 Q3:Imprint Reader读权重更新的准确率高吗? A:目前还不高,知识类目标的Pass@100只有2%,行为类目标是16%,说明自由生成描述的可靠性有限,但相比原始模型完全答不出来的0%基线,已经证明了权重更新的自然语言读取是可行的。
统一多模态模型能看也能画,理论上该会自我修正。本论文提出UMM-Reflection,用整条轨迹的强化学习联合训练诊断和修图能力,GenEval提升12分,且迁移到多个未训练基准,揭示RL提升的是选择可靠性而非新能力。