通用Tensilica软件堆栈提供最佳边缘AI性能-德赢Vwin官网网

开发敏捷的软件堆栈对 AI 在边缘侧的成功部署非常重要。基于多种 AI 框架创建的新机器学习模型已经不再罕见，这些框架采用了最新的算子和最先进的机器学习模型拓扑。就像寒武纪生命大爆发一样，其快速发展源于富有创造性的开源社区对 AI 技术的广泛采纳，并在边缘侧不断推动机器学习模型的应用。

这些模型由学术界和工业界共同创建，使用了最尖端工具和概念；因此，在高性能、最新的 AI 软件堆栈上高效运行这些模型对任何组织而言都很复杂。

得益于多年的专业领域积累，Cadence 拥有业界领先的基础设计 IP，为全球的计算平台提供支持。Cadence 在 IP 市场的领先地位推动了现有客户和合作伙伴对人工智能计算需求的不断增长。过去二十年来，Tensilica 成功提供了可扩展、可配置的处理器 IP，被大量客户用于边缘侧的 SoC 设计。Tensilica IP 被广泛应用于音频、视觉、雷达、汽车和基于微控制器的子系统。

考虑到 Cadence 处理器 IP 被广泛使用，以及 AI 推理在各个细分市场的应用，我们致力于推出通用的“一站式”解决方案，为客户提供统一的、可扩展、可配置的 ML 软件堆栈。一站式工具理念是我们整体 AI 软件产品的核心。

一款通用的软件接口和工具将大幅缩短客户产品的上市时间，助其更好地为不断发展的 AI 市场做好准备。

从超低功耗、永远在线的使用场景到 ADAS 和自动驾驶等高端车载应用，在边缘侧可以看到各类用例。这些用例对 AI 的计算需求从每秒几千兆次运算（GOPS）到每秒数万亿次运算（TOPS）不等。

图1：适用于所有垂直市场的通用 AI 软件工具

我们的目标是在高性能机器学习编译器堆栈的各个方面改进我们的产品，包括统一的前端设计、通用的中间表示法、对混合精度量化格式的支持、无损压缩技术、图和张量优化等。

这些技术将在各类 AI 部署的场景中帮助客户，例如使用基于委派模式的框架进行提前编译、即时编译和/或运行时解释器框架。

图2：AI 软件堆栈支柱

客户可以在流片前进行 ML 工作负载的软件仿真并提取关键 KPI。在软硬件协同设计阶段，拥有这些准确的指标是非常有价值的。迭代各类 ML 模型，微调可配置参数以从硬件 IP 中获得最大性能是每个 SoC 架构师的基本目标。

图3：实现软硬件协同设计

利用开源工具实现 Cadence AI 软件堆栈的同时，我们也积极参与开放论坛，为开源社区做出贡献。作为嵌入式 IP 领域的市场领先者，Cadence 与全球各地的合作伙伴协作，致力于为细分市场提供领先的 AI 解决方案。

审核编辑：刘清

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

Cadence

Cadence

+关注

关注
65

文章
921

浏览量
142060
adas

adas

+关注

关注
309

文章
2183

浏览量
208627
自动驾驶

自动驾驶

+关注

关注
784

文章
13784

浏览量
166371
ai技术

ai技术

+关注

关注
1

文章
1266

浏览量
24284

原文标题：通用 Tensilica 软件堆栈提供最佳边缘 AI 性能

文章出处：【微信号：gh_fca7f1c2678a，微信公众号：Cadence楷登】欢迎添加关注！文章转载请注明出处。

英飞凌发布边缘AI软件新品牌DEEPCRAFT™

和机器学习软件解决方案的新品牌——DEEPCRAFT™。这一品牌的推出，标志着英飞凌对边缘AI市场潜力的深刻洞察，以及对为客户提供优质边缘

发表于 12-18 14:03 •230次阅读

边缘计算架构设计最佳实践

。边缘网关：作为中间层，聚合多个边缘设备的数据，执行初步处理与过滤，有时还承担设备管理、协议转换等功能。边缘计算平台软件环境：运行在边缘

发表于 10-24 14:17 •410次阅读

NVIDIA IGX平台加速实时边缘AI应用

实时边缘 AI 对于医疗、工业和科学计算至关重要，因为这些任务关键型应用需要即时数据处理、低延迟和高可靠性，以确保作出及时准确的决策。这些挑战不仅涉及硬件平台上的高带宽传感器处理和 AI 计算，还需要企业级

发表于 09-09 10:14 •515次阅读

堆栈和内存的基本知识

本文主要聊聊关于堆栈的内容。包括堆栈和内存的基本知识。常见和堆栈相关的 bug，如栈溢出，内存泄漏，堆内存分配失败等。后面介绍软件中堆栈统计

发表于 08-29 14:10 •442次阅读

华邦电子为边缘设备打造生成式AI性能

在以大模型为基础的云端 AI 广泛赋能各行各业后，边缘设备对于 AI 也释放出巨大需求，AI 也在从云端向边缘端加速落地，层出不穷的应用场景

发表于 08-19 16:14 •591次阅读

MWCS 2024 | 广和通荣获边缘AI计算最佳创新方案

2024世界移动通信大会·上海（MWCS 2024）期间，广和通端侧AI解决方案凭借卓越特性与极具潜力的商业价值斩获2024信息通信业“新质推荐”——边缘AI计算最佳创新方案，充分展现

发表于 06-28 18:22 •303次阅读

MWCS 2024 广和通荣获边缘AI计算最佳创新方案

2024世界移动通信大会·上海（MWCS 2024）期间，广和通端侧AI解决方案凭借卓越特性与极具潜力的商业价值斩获2024信息通信业“新质推荐”——边缘AI计算最佳创新方案，充分展现

发表于 06-28 18:21 •844次阅读

广和通端侧AI解决方案荣膺MWCS 2024边缘AI计算最佳创新奖

在近日举行的2024世界移动通信大会·上海（MWCS 2024）上，广和通凭借其卓越的端侧AI解决方案荣获2024信息通信业“新质推荐”——边缘AI计算最佳创新方案奖。这一荣誉不仅彰显

发表于 06-28 15:44 •741次阅读

NVIDIA 通过 Holoscan 为 NVIDIA IGX 提供企业软件支持

和部署边缘 AI 解决方案。 NVIDIA AI Enterprise-IGX 是一款全新产品，其为企业的边缘计算软件

发表于 06-04 10:21 •497次阅读

NVIDIA 通过 Holoscan 为 NVIDIA IGX 提供企业软件支持，实现边缘实时医疗、工业和科学 AI 应用

医疗、工业和科学计算领域的解决方案提供商利用企业级软件和支持来加快开发和部署边缘 AI 解决方案。 NVIDIA AI Enterpri

发表于 06-03 09:48 •301次阅读

ai边缘盒子有哪些用途？ai视频分析边缘计算盒子详解

的解决方案。AI边缘盒子的主要用途在于利用边缘计算和人工智能技术，在数据产生源头附近即时处理数据，提供低延迟和高响应性能。例如，在智慧工地上

发表于 05-29 14:24 •968次阅读

英特尔发布全新边缘平台，为AI应用软件扩展提供强大支持

在2024年世界移动通信大会的舞台上，英特尔带来了一个重大创新——其全新的边缘平台。该平台采用模块化、开放式的软件设计，为企业提供了一种便捷的方式来开发、部署、运行、保护和管理大规模的边缘

发表于 03-03 15:48 •898次阅读

英特尔发布全新边缘平台，为AI应用软件扩展提供强大动力

在2024年世界移动通信大会上，英特尔发布了全新的边缘平台，这一模块化、开放式的软件平台，让企业能够像在云端一样便捷地开发、部署、运行、保护和管理大规模的边缘和AI应用

发表于 02-29 18:14 •661次阅读

Supermicro全新系统产品组合将前沿AI性能推向边缘计算环境

远程边缘计算需要高性能AI和训练解决方案来支持高阶工作负载以提高生产力 Supermicro, Inc.（纳斯达克股票代码：SMCI）作为AI、云端、存储和5G/

发表于 02-24 09:10 •989次阅读

什么是AI边缘计算，AI边缘计算的特点和优势介绍

随着人工智能的迅猛发展，AI边缘计算成为了热门话题。那么什么是AI边缘计算呢？简单来说，它是将人工智能技术引入边缘计算的新兴领域，旨在将计算

发表于 02-01 11:42 •878次阅读