“从无处不在到无人不用”，大模型推动边缘计算变革的机遇与挑战-德赢Vwin官网网

《从云到端 AI触手可及》2024年芯原AI专题技术研讨会上，芯原执行副总裁、IP事业部总经理戴伟进作了“大模型推动边缘计算变革的机遇与挑战”的主题演讲，他介绍了目前大模型在边缘计算的变革的同时，也向行业介绍了芯原AI相关的技术演讲和IP产品系列。

图：芯原执行副总裁、IP事业部总经理戴伟进在技术研讨会上作演讲介绍大模型的技术发展趋势

戴伟进首先在发言中表示，AI已经从部署到每个地方，演进到布置到每个人，大模型应该进入到了边缘设备中。以语言为基础的多模态大模型（Multimodal)

2024年初OpenAI正式上线，全球各种GPT迅速跟进。2024年科技企业将大型人工智能模型要引入到嵌入式系统中落地，AI手机、AI PC和汽车的大模型边缘终的落地，并引发了广泛的关注。可惜目前在国内的AI大模型在边缘终端的落地还受政策影响中。

2024年初OpenAI正式上线，全球各种GPT迅速跟进。2024年科技企业将大型人工智能模型要引入到嵌入式系统中落地，AI手机、AI PC和汽车的大模型边缘终的落地，并引发了广泛的关注。可惜目前在国内的AI大模型在边缘终端的落地还受政策影响中。

戴伟进表示，GPT多模态的能已经能够处理图像和文本的输入，他预测在下一代的GPT-5中将加入视频处理模块。据最新的谷歌发布的大模型AI手机 Project Astra项目的演示中，基于Gemini大模型，视频处理模块的AI技术已经实现。2024年2月16日，OpenAI发布了首个视频生成模型Sora，支持60秒一镜到底的视频，包含高细致背景、多角度镜头以及富有情感的多个角色，所合成的视频内容与物理世界规律保持一致。谷歌则随即发布对标Sora的高质量视频生成模型Veo。

微软不久前的Copilot+PC的最新技术亮点则是把AI PC的产品新技术推到了新的高潮。三星Galaxy S24系列手机内置即圈即搜、通话实时翻译、笔记助手、智能修图和智能写作五大AI功能，国内一些品牌也随即宣布跟进。AI PC和AI手机成为今年行业最热产品词条。

可以说，AI PC的时代全面到来。受技术封锁的影响，国内的技术厂商急切需要有AI IP相关的技术厂商抱团共同跟进。

不过国内AI技术发展的挑战并不如我们想像中那么困难。戴伟进透露，芯原在AI IP早些年就已经布局，公司的NPU IP全球出货量超过1亿颗。GPU在全球累计出货量过去20年累计近20亿颗。

芯原的5纳米媒体加速器视频，即视频处理器AI Video在全球范围内处于领先地位。

且已经在边缘设计上运行大模型。包括在嵌入式设备、边缘服务器和数据中心，都有产品开始被客户采用。

从上图可以看到芯原的在嵌入式设备的相关NPU和GPU的IP产品。

芯原的AI计算软件与各种软件工具等平台的适配。

芯原在AGI领域，其NPU的性能处于全球领先的地位，LLaMA 7B能达到20 Tokens/s。

戴伟进最近也展示了Open Se Cura项目。该项目跟谷歌协作开发，可以在可穿戴低功耗的终端、AI手机以及云云计算大模型上部署。

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

边缘计算

边缘计算

+关注

关注
22

文章
3084

浏览量
48891
大模型

大模型

+关注

关注
2

文章
2423

浏览量
2639

19位国际顶尖学者联袂撰写《重新审视边缘人工智能：机遇与挑战》

发表于 11-27 01:04 •447次阅读

19位国际顶尖学者联袂撰写《重新审视<b class='flag-5'>边缘</b>人工智能：<b class='flag-5'>机遇</b>与<b class='flag-5'>挑战</b>》

安富利与意法半导体邀您共探边缘AI解决方案

边缘计算与AI的结合，正在开启一个全新的智能时代，我们正步入一个万物皆可识别、智能无处不在的新纪元。特别是视觉AI的发展，为智能制造、智慧城市、自动驾驶等多个领域带来了颠覆性的变革与前

发表于 11-07 14:18 •257次阅读

ACES变革带动EEA升级，汽车半导体面临前所未有的机遇和挑战

在汽车行业已经完全显现。 ACES变革蕴含着巨大的市场机遇，以近期热门的Robotaxi为例，其是ACES变革下的代表作。根据Frost Sullivan，德赢Vwin官网网制图当然，挑战

发表于 10-31 11:21 •1570次阅读

万物智联时代，OpenHarmony何以「无处不在」？

的超级融合能力，轻松实现教室设备的智能管控和智慧课堂教学……当设备学会感知环境、数据开始跨域流动，连接将变得无处不在，过去被认为是天马行空的许多构想，今天看来也已

发表于 10-31 08:04 •307次阅读

边缘计算的技术挑战与解决方案

边缘计算作为一种新型的计算架构，在带来诸多优势的同时，也面临着一些技术挑战。以下是对边缘计算的技

发表于 10-24 14:36 •440次阅读

人工智能技术跃进:英特尔引领AI无处不在新纪元

在人工智能（AI）技术日新月异的今天，从机器学习的初步探索到深度学习的广泛应用，再到如今生成式AI的蓬勃兴起，每一步都标志着AI向“无处不在”的宏伟目标迈进。近期，英特尔中国软件技术合作事业部总经理

发表于 09-04 14:59 •602次阅读

锐宝智联亮相2024英特尔网络与边缘计算行业大会

2024年7月23日至24日，“2024英特尔网络与边缘计算行业大会”在天津于家堡洲际酒店隆重举办。本届大会以“芯所及 AI无处不在”为主题，邀请了400余位企业高管代表参加。会议将聚焦AI、网络

发表于 07-25 17:54 •982次阅读

芯海科技edge BMC首秀2024英特尔网络与边缘计算行业峰会

7月23-24日，“2024英特尔网络与边缘计算行业大会”在天津于家堡洲际酒店热烈举行。本届大会以“芯所及 AI无处不在”为主题，汇聚全球网络与边缘

发表于 07-25 13:40 •194次阅读

芯海科技edge BMC首秀2024英特尔网络与边缘计算行业峰会

7月23-24日，“2024英特尔网络与边缘计算行业大会”在天津于家堡洲际酒店热烈举行。本届大会以“芯所及AI无处不在”为主题，汇聚全球网络与边缘计

发表于 07-25 08:16 •470次阅读

深圳特信电子｜4G5G手机信号放大器：告别信号盲区，信号无处不在

深圳特信电子｜4G5G手机信号放大器：告别信号盲区，信号无处不在

发表于 05-21 09:05 •561次阅读

边缘计算网关是什么？该如何选择？

随着物联网和云技术的发展，边缘计算网关作为物联网和云系统连接的重要桥梁起着关键作用。本文以苏州稳联科技有限公司为例，分析了边缘计算网关的概念、特点以及在工业物联网中的应用案例。

发表于 04-12 17:12 •1483次阅读

英特尔发布全新边缘计算平台，解决AI边缘落地难题

2030年，至少一半的边缘计算部署将纳入AI。英特尔全新商用边缘计算平台英特尔认为，我们已经进入了AI无处不在的时代，

发表于 03-12 09:06 •4324次阅读

高通持续推动终端侧生成式AI变革，推出高通AI Hub赋能开发者

高通现赋能终端侧AI在下一代PC、智能手机、软件定义汽车、XR设备和物联网等领域规模化商用，让智能计算无处不在。

发表于 02-26 16:46 •609次阅读

什么是边缘计算，边缘计算有哪些应用？

什么是边缘计算，边缘计算有哪些应用？边缘计算是一种将计算

发表于 01-09 11:29 •1863次阅读

边缘计算框架有哪些

边缘计算架构是一种将计算能力、存储和分析功能尽可能地靠近数据源的计算模型。它通过将计算任务从中心

发表于 12-27 15:01 •1466次阅读