拼命甩开“伪需求”污名的边缘AI-德赢Vwin官网网

电子发烧友网报道（文/周凯扬）作为用户，我们已经见证了人工智能从产品向功能的演化，而这股趋势正在蔓延至边缘端。然而边缘端由于功耗、算力要求严格，部分现有的方案效果不佳，边缘AI常常被冠以“伪需求”的污名，但对于无论是AI芯片厂商、IP供应商还是软件方案商，都在竭力证明自己的潜力。

换着法子追求低功耗

在不少人看来，AI芯片分为云端和边缘端，云端AI芯片面向服务器和HPC，自然要求做到高性能，但与此同时功耗自然不低，且往往将推理和训练分隔开。而边缘芯片的要求则恰恰与其相反，追求的首先就是低功耗。

旭日3/ 地平线

在当前的趋势下，由于边缘端设备涉及的范围太大，小到一个智能水表，大到自动驾驶汽车，所以对在对于算力和功耗的要求上各有不同，所以即便同属边缘AI芯片，也不好直接对比。比如有的是独立的AI芯片，有的是起到辅助作用的协处理器。以地平线的旭日3系列就是针对智能前视和边缘计算市场的边缘AI芯片，其中X3M可以提供5TOPS的AI等效算力，X3E可以提供3TOPS的AI等效算力，在台积电16nm的制程和地平线的芯片设计下，该系列的功耗已经做到2.5W。但即便是这样的低功耗，也不能说覆盖所有的边缘AI场景。

AML100 / Aspinity

今年年初，AI初创公司Aspinity发布了AML100 AnalogML芯片，一个主打vwin 机器学习的低功耗边缘AI芯片，最高支持4个模拟传感器。该芯片面向那些需要实时唤醒的边缘AI应用，比如智能家居中的安全监控、可穿戴设备上的智能语音控制、以及预防性和预测性维修中的异常检测等。这些应用都有着一个共通的特质，那就是离不开传感器。传统的实时唤醒结构将传感器的模拟信号传递给ADC，转换成数字信号后再发往数字处理器，如今这类方案已经可以实现极低的功耗。

传统架构与AML100架构的对比 / Aspinity

但在Aspinity看来，这种结构需要模拟和数字系统均保持实时在线，ADC对传感器输出的数据“来者不拒”，因此数字处理器承担了对所有数字信号的处理工作，如此一来功耗基本都在3000-5000µA的水平。而AML100的可配置模拟核心支持直接对模拟数据进行特定的信号处理，比如频谱分析、神经网络特征提取等，最终输出真正有用的传感器数据，最后再传给数字处理器。如此一来数字处理器不需要时刻处于唤醒状态，只需要在检测到必要数据时唤醒即可，而AML100组成的模拟系统功耗可以做到100µA以下。据Aspinity的说法，AML100可见电池寿命延长20倍。

模型带来的困扰

光靠AI芯片自然是不足以支撑起整个边缘AI的发展，大家也都知道模型是AI中不可或缺的一环。然而边缘侧的定义已经注定了跑不起那些大规模的AI模型，所以只能跑那些规模较小，并随算力扩展的机器学习模型，比如TinyML等，所以边缘端的软件栈同样挑战不小。此外，为不同的硬件调整AI模型也是边缘端部署AI的一大痛点。如此一来，虽然不少边缘AI芯片已经做到了足够的优异的性能，在软件生态尚未成熟之下，应用场景依然少之又少。因此，边缘AI的优化往往以缩小开销优化模型为主，使其适应边缘端这一应用场景，在低功耗也能实现绝对的优势。

最近又一家美国AI初创公司浮出水面，并获得了来自高通创投和FoothillVenture等公司的1000万美元种子轮融资。其初创团队包括深鉴科技（被赛灵思收购）联合创始人兼Deep Compression技术开发者韩松、前FacebookAI的技术主管Di Wu等。从几位创始人的履历来看，都在AI和深度学习上有着丰富的经验，而且都是清华电子工程出身的，考虑到FoothillVenture也就是改名前的清源创投，倒是不稀奇了。

OmniML的创始人 / OmniML

团队上就不过多展开讲了，毕竟阵容再豪华的初创公司也得拿实力说话，OmniML的王牌又是什么呢？单看几位创始人过去的成果，确实很擅长减少模型的压缩优化，尤其是他们也活跃于TinyML的开发社区。在OmniML官网的描述中指出，OmniML提供的软件方案可优化AI/ML模型，将它们轻易部署在边缘设备中，又不会损失性能和精度，与此同时，OmniML提供一种硬件感知的神经架构搜索，只需训练模型一次，就可以部署在任何硬件中，无论是GPU、AI芯片还是低功耗的MCU，即便是老的硬件设备也能在OmniML的助力下获得强大的AI/ML能力。

根据高通的说法，OmniML的神经架构搜索并不是单纯的压缩模型来做到优化，而是从一开始就创建一个高效的新模型，对于边缘硬件的客户来说，不仅可以降低时间和资金成本，还能有效提升精度。OmniML声称他们这种神经架构搜索已经用于亚马逊的AutoML和Meta的PyTorch深度学习框架中。

考虑到开发团队有着深厚的机器视觉背景，OmniML也首先面向自动驾驶和智能摄像头，他们展示了6车载摄像头传感器融合的3D检测方案、以及基于CortexM7 MCU的人体检测和人脸/口罩检测。

边缘AI的需求不算小众

在呈现的无尽潜力面前，边缘AI还是常常被人“边缘化”，但如果我们直接看应用市场的话，就会发现边缘AI的需求巨大。无论是TWS耳机的主动降噪，服务机器人的语音识别还是汽车的自动驾驶，边缘AI的发展必将为这些场景带来更大的功耗优势，节省成本的同时加快落地速度。

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

AI

AI

+关注

关注
87

文章
30728

浏览量
268875
人工智能

人工智能

+关注

关注
1791

文章
47183

浏览量
238213
AI芯片

AI芯片

+关注

关注
17

文章
1879

浏览量
34989

英飞凌发布边缘AI软件新品牌DEEPCRAFT™

随着边缘AI技术的日益普及，其在消费和工业应用领域的采用率不断攀升。作为全球功率系统和物联网领域的半导体领导者，英飞凌科技股份公司正在积极加强其AI软件产品组合。为此，英飞凌正式发布了边缘

发表于 12-18 14:03 •231次阅读

研华科技打造整体边缘AI服务器解决方案

近年来，在AIoT数据量快速成长、硬件效能提升、绿色低碳意识抬头等趋势影响下，边缘AI应用的系统架构也出现改变。随着越来越多企业将AI模型训练由云端转移至边缘端，

发表于 11-18 15:35 •216次阅读

研华科技边缘AI平台荣获2024年IoT边缘计算卓越奖

的 2024 年物联网边缘计算卓越奖。研华提供全栈式AI应用产品，以满足从边缘到云的工业 AI 应用的多样化需求，致力于推动工业

发表于 11-07 18:11 •437次阅读

AMD分析嵌入式边缘AI的发展

的全面落地。边缘 AI 的价值在于将计算和存储资源移动到网络边缘，缩短传输距离降低传输要求，大幅提升数据反馈的速度，降低了对系统云端计算能力的需求。

发表于 09-18 09:30 •311次阅读

NVIDIA IGX平台加速实时边缘AI应用

实时边缘 AI 对于医疗、工业和科学计算至关重要，因为这些任务关键型应用需要即时数据处理、低延迟和高可靠性，以确保作出及时准确的决策。这些挑战不仅涉及硬件平台上的高带宽传感器处理和 AI 计算，还需要企业级

发表于 09-09 10:14 •515次阅读

什么是边缘AI？边缘AI的供电挑战

RECOM 的 RACM1200-V 采用数字通信，可轻松集成到边缘 AI设计中。

发表于 09-02 11:52 •464次阅读

边缘AI需求爆发，边缘计算网关亟待革新

德赢Vwin官网网报道（文/吴子鹏）根据《全球与中国边缘AI芯片市场竞争建议及发展状况调研报告2024-2030》，2023年全球边缘AI芯片市场规模大约为2563.6百万美元，预计未来六年

发表于 06-20 01:04 •2733次阅读

基于RK3588核心板的AI边缘计算网关设计方案

基于RK3588的AI边缘计算网关设计，并辅以相关参考代码，以展现RK3588如何充分满足AI边缘计算网关的核心需求。

发表于 05-30 17:32 •1381次阅读

ai边缘盒子有哪些用途？ai视频分析边缘计算盒子详解

近年来，随着人工智能和边缘计算的发展，一种名为AI边缘盒子的新型设备正逐渐引起广泛关注。作为一种集成了边缘计算和AI算法处理能力的设备，

发表于 05-29 14:24 •971次阅读

risc-v多核芯片在AI方面的应用

得RISC-V多核芯片能够更好地适应AI算法的不同需求，包括深度学习、神经网络等，从而提高芯片的性能和效率，降低成本，使AI边缘计算晶片更具竞争力。再者，RISC-V的多核设计可以进

发表于 04-28 09:20

AIGC掀算力需求革命，边缘计算将不再“边缘”

AI算力瓶颈下边缘计算崛起

发表于 04-22 14:51 •345次阅读

NanoEdge AI的技术原理、应用场景及优势

NanoEdge AI 是一种基于边缘计算的人工智能技术，旨在将人工智能算法应用于物联网（IoT）设备和传感器。这种技术的核心思想是将数据处理和分析从云端转移到设备本身，从而减少数据传输延迟、降低

发表于 03-12 08:09

英特尔发布全新边缘平台，充分满足企业AI部署需求

英特尔发布两款全新芯片——Sierra Forrest 和 Granite Rapids-D，还宣布一个全新边缘平台全面上市。这些产品旨在满足运营商和企业在可持续发展和AI方面的需求。英特尔一亮

发表于 03-01 18:26 •979次阅读

什么是AI边缘计算，AI边缘计算的特点和优势介绍

随着人工智能的迅猛发展，AI边缘计算成为了热门话题。那么什么是AI边缘计算呢？简单来说，它是将人工智能技术引入边缘计算的新兴领域，旨在将计算

发表于 02-01 11:42 •879次阅读

边缘AI它到底是什么？能做什么？

边缘，减少了数据的传输延迟和依赖云端的通信需求。边缘AI能够在接近数据源的设备上进行实时决策和推理，这为许多应用领域带来了革命性的改变。边缘

发表于 01-11 14:44 •1288次阅读