微信扫一扫,关注公众号

  • 科技行者

  • 算力行者

见证连接与计算的「力量」

首页 MIT开发出神经网络芯片,功耗降低95%,适用于手机和物联网

MIT开发出神经网络芯片,功耗降低95%,适用于手机和物联网

2018-02-20 21:09
分享至:
----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.-
2018-02-20 21:09 CNET科技行者

如果没有神经网络,近年来人工智能取得的一系列突破——包括面部识别与自然语言处理系统等——将根本无法真正实现。

所谓神经网络,指的是能够摄取大量数据并对其内容加以理解的、众多紧密连接的处理单元。然而,此类神经网络的进一步扩展,则在硬件层面面临着严重制约——具体来讲,其对硬件资源的严苛要求意味着相关设备只能以远程方式存在于数据中心之内。

几乎任何设备都能够访问该硬件,数据将被上传至远端服务器,而后接受处理并将结果发送回客户设备处。之所以需要采用这样的方式,是因为神经网络往往需要巨大的电力供应,因此并不适用于智能扬声器或者工业传感器等低功耗智能手机及其它日常处理设备。当然,这种作法的弊端在于数据需要耗费一定时间才能完成由本地设备到云端的传输,这意味着,神经网络在相当一部分特定应用场景当中根本无法实现。

如今,麻省理工学院的研究人员们表示,他们可以使用一种新型芯片来解决这个问题——该芯片能够立足现场执行一切必要的数据处理任务。研究人员们于本周二宣称:“新芯片相较于标准处理器可实现95%的能源效率提升,因此可被集成至小型电池供电设备当中,以进行边缘网络计算。”

为了实现这一种显示的能源效率提升效果,负责领导新芯片开发工作的麻省理工学院电气工程与计算机科学研究生Avishek Biswas利用到了神经网络处理当中的所谓“点积”特性。

Biswas称,“通用型处理器模型是在芯片中的某一部分安置存储器,芯片的另一部分则设有处理器。当需要进行计算操作时,数据需要在二者之间往来移动。”而这种数据往来移动正是令神经网络功耗激增的主要根源。

“不过一种特殊运算确实能够对这些算法的处理过程加以简化,这就是点积运算(dot product)。我们的方法,本质是在思考能否在内存当中实现这种点积能力,从而避免数据的往来移动。”

Biswas和他的同事们构建起一款模拟人类大脑的处理器,其相较于以往设计能够更可靠地实现这一目标。其原型芯片可以同时计算16个点积,且与传统神经网络相比计算精度仅下降2%至3%。

IBM公司人工智能部门副总裁Dario Gil也参与到该项目当中,他表示这一实验结果“必然能够在未来实现在物联网当中使用更复杂的卷积神经网络,从而进行图像与视频内容分类这一重要目标。”

siliconangle.com

作者:MIKE WHEATLEY

编译:科技行者

分享至
0赞

好文章,需要你的鼓励

推荐文章
  • ReplaceMe:通过线性变换给大语言模型"瘦身"的突破性方法
    2025-05-07 10:33

    ReplaceMe:通过线性变换给大语言模型"瘦身"的突破性方法

    现代大语言模型就像一栋拥有数百个房间的豪华大厦,每个房间(或称为"层")都执行特定的功能,共同协作完成复杂的语言理解和生成任务。然而,这些模型的规模已经变得如此庞大,以至于只有拥有高端计算资源的机构才能负担得起它们的运行成本。这就像一辆耗油量极大的豪华跑车,普通人负担不起它的燃料费用。

  • FormalMATH:人工智能形式化数学推理的新标杆
    2025-05-07 10:32

    FormalMATH:人工智能形式化数学推理的新标杆

    想象一下,当你在解答一道复杂的数学题时,你不仅需要给出答案,还需要详细解释每一步推导的理由,不能有任何逻辑跳跃或假设——这就是形式化数学推理的严格要求。

  • Voila:开创真实自主交互与声音角色扮演新时代的声音-语言基础模型
    2025-05-07 10:29

    Voila:开创真实自主交互与声音角色扮演新时代的声音-语言基础模型

    想象一下日常生活中我们使用的语音助手,比如Siri或ChatGPT。它们通常是这样工作的:你问一个问题,它回答,然后安静地等待你的下一个指令。这就像是一个只会被动回应的服务员,永远等待你的呼唤。而Voila团队认为,真正高级的AI助手应该更像一个时刻准备着的好朋友或队友,能够自然地融入你的生活节奏中。

  • RM-R1:让AI评估变得更明智——将奖励模型转变为推理工具
    2025-05-07 10:27

    RM-R1:让AI评估变得更明智——将奖励模型转变为推理工具

    想象一下,你正在参加一场料理比赛,有两位评委。第一位评委只给你一个分数,而第二位评委会详细解释你的菜品在口感、创意和技巧上的表现如何,然后才给出最终评价。显然,第二位评委的反馈对于你改进厨艺更有帮助。伊利诺伊大学研究团队正是秉持这一理念,开发了能像第二位评委那样工作的AI评估系统。

----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.-