生成式AI的创新和发展速度前所未有,而这仅仅是一个开始。人们使用这项技术的方式、场景和原因将会非常广泛,甚至超乎想象。初步估计显示,生成式AI市场规模将达到1万亿美元。

生成式AI不仅有望改变人们搜索和创作内容的方式,还能够改善日常生活。借助生成式AI,智能手机能够成为真正的数字助手,让用户自然地沟通交流,并获得贴切的回答。PC用户可以利用这项技术阅读或撰写电子邮件、起草文档和自动创建演示文稿。在驾乘汽车时,对话式车内助手可以对汽车充电、购买停车券或在回家途中预订晚餐提供建议。商店的AI服务台和智能购物车能够根据每周特惠、预算金额和家庭偏好,帮助消费者拟定食谱。
为了释放这项技术的全部潜能并满足日益增长的需求,生成式AI既需要云,也需要数十亿能够以低功耗进行高性能AI计算的网联终端,如智能手机、PC和汽车。这就是混合AI。混合AI计算架构在云端和终端进行分布式处理,能够优化效率并提升整体用户体验。
生成式AI处理可以直接在终端侧运行,也可以按需发送到云端,或者将两者相结合——无论采取何种方式,对用户而言都是无缝实现的。
用户期望拥有与传统搜索类似的体验,那就是能够瞬间显示搜索结果。要满足这样的期望,还要保证服务质量,仅利用云端处理的成本太高,尤其是在需求高峰期,因此难以实现规模化。
数据中心能耗高且价格昂贵。据估计,每一次基于生成式AI的网络搜索查询(query),其成本是传统搜索的10倍。以每天超过100亿次查询计算,每年的增量成本可能达到数十亿美元。网络搜索只是生成式AI变革多个行业的众多方式之一。
除成本外,在云端进行全部推理处理还面临隐私、可靠性和性能方面的挑战。当请求进入云端、数据离开终端时,就会产生潜在的安全问题。事实上,由于收集和存储个人数据等监管和合规问题导致模型被禁用或暂时禁用的情况已经出现。
混合AI势不可挡。随着人们不断探寻使用生成式AI的新方式,对云基础设施的需求将激增。混合AI处理将是计算的下一次转型,正如我们所看到的从大型主机演进到台式机,再到今天云和我们手中的终端相结合的模式一样。
利用高性能、低功耗终端的处理能力,将能够高效推动生成式AI的规模化扩展。云端和终端将协同工作,通过强大、高效且高度优化的AI功能,打造下一代用户体验。
本文原载于Fortune.com:https://fortune.com/2023/05/15/qualcomm-ceo-ai-is-going-to-touch-every-corner-of-our-lives-devices-tech-cristiano-amon/
好文章,需要你的鼓励
Adobe研究院与UCLA合作开发的Sparse-LaViDa技术通过创新的"稀疏表示"方法,成功将AI图像生成速度提升一倍。该技术巧妙地让AI只处理必要的图像区域,使用特殊"寄存器令牌"管理其余部分,在文本到图像生成、图像编辑和数学推理等任务中实现显著加速,同时完全保持了输出质量。
香港科技大学团队开发出A4-Agent智能系统,无需训练即可让AI理解物品的可操作性。该系统通过"想象-思考-定位"三步法模仿人类认知过程,在多个测试中超越了需要专门训练的传统方法。这项技术为智能机器人发展提供了新思路,使其能够像人类一样举一反三地处理未见过的新物品和任务。
韩国KAIST开发的Vector Prism系统通过多视角观察和统计推理,解决了AI无法理解SVG图形语义结构的难题。该系统能将用户的自然语言描述自动转换为精美的矢量动画,生成的动画文件比传统视频小54倍,在多项评估中超越顶级竞争对手,为数字创意产业带来重大突破。
华为诺亚方舟实验室提出VersatileFFN创新架构,通过模仿人类双重思维模式,设计了宽度和深度两条并行通道,在不增加参数的情况下显著提升大语言模型性能。该方法将单一神经网络分割为虚拟专家并支持循环计算,实现了参数重用和自适应计算分配,为解决AI模型内存成本高、部署难的问题提供了全新思路。