1 [译] [转]Maxim推出低功耗NN加速器芯片,AI边缘计算的“嵌入式革命”-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

[译] [转]Maxim推出低功耗NN加速器芯片,AI边缘计算的“嵌入式革命”

40°研究院 2020-10-10 09:33 次阅读

今天早上,Maxim Integrated发布了其最新产品,一种低功耗NN加速器芯片,希望将AI推向边缘。我们采访了Maxim Integrated Micros,安全和软件业务部执行总监Kris Ardis,以获取详细信息

人工智能物联网似乎是天造地设的一对,但要完美结合这两种技术还需要克服许多障碍。通常,物联网是一种低功耗,电池供电的技术。另一方面,人工智能,特别是卷积神经网络(对于机器视觉来说是必不可少的),在计算上非常昂贵。

边缘计算可提供实时数据处理。图片由计算理论提供

为了克服这些挑战,通常的做法是将计算卸载到云中。但是,这带来了大量延迟和安全性问题。例如,无人驾驶汽车需要尽快做出实时决策。它根本承受不起等待数据发送到云,进行计算并返回的费用。

但是嵌入式设备呢?Maxim Integrated Micros,安全性和软件业务部执行总监Kris Ardis认为,目前,小型嵌入式设备“没有进行AI革命的其余部分”。

“他们看不到也听不到,这比简单的单词要多得多,” Ardis解释说。“这就是我们要填补的空白:我们如何才能将更多的AI承诺带入嵌入式世界?”

一种新的解决方案:Maxim Integrated的NN加速器芯片

为了回答这个问题,Maxim Integrated转向了用于人工智能的低功耗,高性能芯片。今天早上,该公司宣布了其最新产品:神经网络加速器芯片,旨在在电池供电的IoT设备中实现AI

新芯片MAX78000包括两个超低功耗内核-ArmCortex-M4内核或RISC-V内核-一个基于FPU的微控制器和一个卷积神经网络加速器。Ardis评论说:“ RISC-V在那里,因为它是一种在进入加速器之前必要时对数据进行按摩的低功耗方法。”

从性能的角度来看,Maxim声称具有一些令人印象深刻的规格,特别是在功耗和延迟方面。

MAX78000的简化框图

MAX78000的简化框图。图片由Maxim Integrated提供

关于能源,该公司表示MAX78000提供:

  • 运行MNIST时的能耗降低1100倍

  • MNIST的延迟提高了400倍

  • 与低功耗Cortex M4F相比,关键字发现期间的能耗低600倍

  • 与96 MHz Cortex M4F相比,关键字发现的效率提高了200倍

让我们深入研究如何准确地达到这些规格。

MAX78000的核心:神经网络加速器

此SoC中最独特的功能是神经网络加速器,它是专用硬件,旨在最大程度地减少卷积神经网络(CNN)的能耗和等待时间。

根据Ardis的说法,所采用的体系结构是完全专有和新颖的。它的设计目标是最大程度地减少数据移动,众所周知,这是对片上能量的巨大负担,尤其是在处理CNN链中的复杂数学配置时。

此外,该加速器(支持TensorFlow和Pytorch等机器学习领域中的常用工具)旨在提高数学并行度,优化能源消耗并显着减少推理时间。

重要功能块概述

重要功能块概述。图片由Maxim Integrated提供

系统操作的另一个特征是微控制器的介入最少。一般而言,此架构中的MCU用于配置网络,加载数据并启动它。MCU完成其最初的工作后,它基本上就摆脱了阻碍。事实证明,这对于提高能源效率也极为重要。

该设备还可以在执行之前加载数据,从而消除了在推理过程中访问内存的需求,从而降低了能耗并改善了延迟。Ardis说:“不需要外部存储器,这实际上是我们节省能源的方法之一。所有存储器都在芯片上。”

物联网的游戏规则改变者?

随着对低功耗,高性能AI芯片的需求不断增加,这一消息在IoT领域似乎极为重要。

新的NN加速器的描述。图片由Maxim Integrated提供

根据Maxim Integrated的说法,该设备可能为系统提供了在边缘执行实时决策的能力(比基于云的计算更快),并且无需担心安全性。

通过将AI带到边缘设备,该设备可以启用新的应用程序,例如毫秒之内的面部ID或数据处理助听器。这样,MAX78000可能是“切断嵌入式设备电源线”的重要一步。

Ardis表示希望MAX78000能够朝着“嵌入式革命”的道路迈进,类似于嵌入式旋转微控制器的类型。他说:“在使用微控制器之前,没有人考虑过微控制器的所有功能。现在,我至少要戴两个。”

“这就是我们认为边缘技术的AI将会变成的东西,希望我们将成为引领潮流的人之一。”


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
收藏 人收藏

    评论

    相关推荐

    为何嵌入式控制首选ARMxy?深度解析

    嵌入式ARM控制是一种基于ARM架构的嵌入式系统控制,广泛应用于各种嵌入式系统中,包括工业物联网关、
    的头像 发表于 09-21 10:09 297次阅读
    为何<b class='flag-5'>嵌入式</b>控制<b class='flag-5'>器</b>首选ARMxy?深度解析

    AMD分析嵌入式边缘AI的发展

    延迟,对于需要实时响应的应用场景至关重要。此外,嵌入式边缘 AI 结构相对处理效率更高,通过优化算法和硬件设计,可以大幅降低系统处理所需的功耗
    的头像 发表于 09-18 09:30 312次阅读
    AMD分析<b class='flag-5'>嵌入式</b><b class='flag-5'>边缘</b><b class='flag-5'>AI</b>的发展

    西门子推出Catapult AI NN:重塑神经网络加速器设计的未来

    的需求,西门子数字化工业软件日前推出了一款名为Catapult AI NN的创新软件,旨在帮助神经网络加速器在专用集成电路(ASIC)和芯片
    的头像 发表于 06-19 16:40 704次阅读

    西门子推出Catapult AI NN软件,赋能神经网络加速器设计

    西门子数字化工业软件近日发布了Catapult AI NN软件,这款软件在神经网络加速器设计领域迈出了重要一步。Catapult AI NN
    的头像 发表于 06-19 11:27 849次阅读

    西门子推出Catapult AI NN软件

    西门子数字化工业软件日前推出Catapult AI NN软件,可帮助神经网络加速器在专用集成电路(ASIC)和芯片级系统(So)上进行高层次
    的头像 发表于 06-19 10:48 800次阅读

    西门子推出Catapult AI NN软件,加速神经网络在ASIC和SoC上综合

    在数字化工业的新浪潮中,西门子数字化工业软件再次引领潮流,日前推出了名为Catapult™ AI NN的革新性软件,旨在为神经网络加速器在专用集成电路(ASIC)和
    的头像 发表于 06-18 17:29 1104次阅读

    AI引爆边缘计算变革,塑造嵌入式产业新未来AI引爆边缘计算变革,塑造嵌入式产业新未来——2024研华嵌入式

    中国北京,2024年5月30日 - 2024年研华嵌入式产业合作伙伴会议在北京·中关村皇冠假日酒店成功举办,现场参会嘉宾逾300人。会议以“AI引爆边缘计算变革,塑造
    发表于 05-31 13:53 299次阅读
    <b class='flag-5'>AI</b>引爆<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>变革,塑造<b class='flag-5'>嵌入式</b>产业新未来<b class='flag-5'>AI</b>引爆<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>变革,塑造<b class='flag-5'>嵌入式</b>产业新未来——2024研华<b class='flag-5'>嵌入式</b>

    芯品#MAX78002 新型AI MCU,能够使神经网络以超低功耗运行

    人工智能(AI)需要超强的计算能力,而Maxim则大大降低了AI计算所需的功耗。MAX78002
    的头像 发表于 05-07 17:47 7395次阅读
    芯品#MAX78002 新型<b class='flag-5'>AI</b> MCU,能够使神经网络以超<b class='flag-5'>低功耗</b>运行

    Arm推动生成AI落地边缘!全新Ethos-U85 AI加速器支持Transformer 架构,性能提升四倍

    德赢Vwin官网 网报道(文/黄晶晶)在嵌入式领域,边缘与端侧AI推理需求不断增长,Arm既有Helium 技术使 CPU 能够执行更多计算密集型的 AI
    的头像 发表于 04-16 09:10 4587次阅读
    Arm推动生成<b class='flag-5'>式</b><b class='flag-5'>AI</b>落地<b class='flag-5'>边缘</b>!全新Ethos-U85 <b class='flag-5'>AI</b><b class='flag-5'>加速器</b>支持Transformer 架构,性能提升四倍

    AMD Versal SoC刷新边缘AI性能,单芯片方案驱动嵌入式系统

    与后处理集成于单器件中,能够为 AI 驱动型嵌入式系统提供端到端加速AI驱动型嵌入式系统的三个阶段 在
    的头像 发表于 04-11 09:06 3718次阅读
    AMD Versal SoC刷新<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>性能,单<b class='flag-5'>芯片</b>方案驱动<b class='flag-5'>嵌入式</b>系统

    AMD Versal SoC全新升级边缘AI性能,单芯片方案驱动嵌入式系统

    与后处理集成于单器件中,能够为 AI 驱动型嵌入式系统提供端到端加速。   AI驱动型嵌入式系统的三个阶段 在
    的头像 发表于 04-09 21:32 1063次阅读
    AMD Versal SoC全新升级<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>性能,单<b class='flag-5'>芯片</b>方案驱动<b class='flag-5'>嵌入式</b>系统

    Hailo获1.2亿美元新融资,首发AI加速器Hailo-10,助力边缘设备实现生成人工智能

    摘要:随着Hailo推出最新的人工智能加速器,其融资总额现已突破3.4亿美元。这款专为个人计算机和汽车行业打造的人工智能加速器,以出色的低功耗
    的头像 发表于 04-03 11:57 330次阅读

    瑞萨发布下一代动态可重构人工智能处理加速器

    瑞萨最新发布的动态可重构人工智能处理(DRP-AI加速器,在业界引起了广泛关注。这款加速器拥有卓越的10 TOPS/W高功率效率,相比传统技术,效率提升了惊人的10倍。其独特之处在
    的头像 发表于 03-08 13:45 766次阅读

    Tenstorrent将为日本LSTC新型边缘2纳米AI加速器开发芯片

    加拿大AI芯片领域的初创公司Tenstorrent与日本尖端半导体技术中心(LSTC)达成了一项多层次合作协议。根据协议内容,LSTC将采用Tenstorrent的世界级RISC-V架构和芯片IP来开发其新型
    的头像 发表于 02-28 10:49 668次阅读

    【2023电子工程师大会】ARM嵌入式AI边缘计算开发流程要点p

    【2023电子工程师大会】ARM嵌入式AI边缘计算开发流程要点ppt
    发表于 01-03 16:31 27次下载