1 研扬科技ARES-240AI/ARES-241AI,开启AIGC部署新时代-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

研扬科技ARES-240AI/ARES-241AI,开启AIGC部署新时代

研扬科技AAEON 2023-12-30 08:05 次阅读

随着ChatGPT的火爆,AIGC(生成式人工智能)这一新兴概念也备受瞩目。AIGC目前已经在很多领域得到了广泛应用,如新闻报道、广告创意、音乐创作等,它可以模仿人类的写作风格,甚至创造出全新的作品。然而AIGC的用途远非如此简单,随着AIGC通过海量数据训练的大规模神经网络模型(大模型)的模型层数、参数的增加,“思维方式”愈来愈趋向于人脑,使其在金融、制造、医疗等各领域的应用越来越广泛。

在训练过程中,大模型需要大量的计算资源来执行复杂的矩阵运算和其他计算任务。为了支持这些计算任务,需要使用高性能的计算设备。同时,还需要有效的算法和架构设计来优化模型的训练速度和效率。为提升整体算力效率和满足差异化需求,大模型一般需要万亿量级参数计算的“智算中心”。现阶段的“智算中心”通常采用云模式,通过共享、共融集结现有算力,万卡平台及配备高效网络交互机制构建大模型训练与推理平台。

可以看出,训练一个大模型代价是巨大的,且大模型落地部署的代价也极大,在工业界实际应用中不得不考虑部署的成本,模型轻量化是必不可少的。轻量化的其中一个方法是模型压缩,通过将通用大模型经过剪枝、量化和蒸馏,将大模型进行压缩得到轻量化模型,使其能够使用算力较小的设备进行训练推理,减轻应用单位的部署成本。

大模型通过不同的方法得到了有效的轻量化,还是无法阻止模型规模的增加,但是同时也刺激着各大芯片厂商在AI芯片上的研发投入,特别是受众面更广、性价比更高的AI系统化模块(SOM),其算力发展更是一年数倍级的提升。系统化模块(SOM)算力的提升,可处理大模型轻量化压缩后的小模型,有助于实现从基础大模型转向行业微调模型(通用2B),进而细化至场景结合模型(专用2B)的转换。而这些小巧的AI系统化模块是对空间、能耗、环境、安全、响应要求苛刻的边缘端设备的首选。在此过程中边缘端设备发挥着重要的作用来推动AI部署,网络边缘端比过去而言会受到更多重视,也将带来更大的市场。

研扬科技致力于为客户提供高质量、高性能的边缘端计算产品,是业界领先的边缘AI解决方案设计制造商。研扬作为英伟达Elite member of the NVIDIA Partner Network(合作伙伴网络精英成员),推出基于NVIDIA Jetson AGX Orin系统化模块(SOM)的两款紧凑型无风扇边缘盒子ARES-240AI和ARES-241AI。ARES-240AI和ARES-241AI将NVIDIA Jetson AGX Orin的超高性能与全新打造的强化耐用机壳相结合,32/64GB版本可选,提供了卓越的275 TOPS 的服务器级算力,在以往需要专业显卡支持才能运行的应用,比如自动汽车驾驶,现在凭借ARES-240AI和ARES-241AI的实时物体侦测、数据加速传输和强大的严苛环境耐受度等特性,可将整个操作移至边缘。这两款边缘盒子是重新定义自主边缘应用进行AI深度学习的理想载体。通过NVIDIA Jetson AGX Orin与其他 NVIDIA Jetson 模组、开发者套件获得同一 NVIDIA Jetson 软件栈的支持,这样您只需一次开发,即可在任意位置进行部署,从而加快产品上市速度。

NVIDIA Jetson AGX Orin

功能特点

01

ARES-240AI和ARES-241AI搭载的NVIDIA Jetson AGX Orin,拥有12核ARM v8.2 64位CPU和64 个 Tensor Core 的 2048 核 NVIDIA Ampere 架构 GPU,最高可达 275 TOPS的算力,提供了比Jetson AGX Xavier 高达8倍的AI性能。ARES-240AI和ARES-241AI还具有64GB内存,在W4A16量化中,可完美支持Llama-70B。借助NVIDIA TAO工具套件,以更小的体积在行人检测、3D姿态估计、DashCamNet、车牌识别等模型架构中提供与英伟达专业显卡T4相似甚至更高的推理性能,这将有助于机器人智能交通中对实时目标检测与多传感器的结合,同时大大增强定位和目标确认精度。

适用于严苛环境

功能特点

02

ARES-240AI和ARES-241AI坚固耐用,采用强固轻型铝合金材料外壳,传导被动散热,可在温度范围为-20°C ~ 55°C (-4°F ~ 131°F)下稳定工作,具有极端温度环境的耐受性,可以出色应对各类工业环境。此外,小巧的尺寸和轻巧的重量让其操作不受空间限制,非常适用于车载、工业AMR和自主采矿车等应用,其物体检测功能可应用于狭窄的、能见度低的工业环境,并提供智慧物流解决方案。

高度整合智能接口

功能特点

03

为了能完整发挥NVIDIA Jetson AGX Orin的强大计算能力,ARES-240AI和ARES-241AI搭载了许多可应用于垂直市场的功能。两款边缘盒子皆配备了多个USB 3.2接口,以及32/64GB LPDDR5x系统内存、64G eMMC并支持5GWi-Fi和NVMe的M.2 Key,确保外接硬件如摄影机和传感器等可进行快速的信息传输,使其成为理想的智慧零售解决方案。

ARES-240AI区别于ARES-241AI的2个GbE LAN,它具有电源与多功能性相结合的4个PoE LAN端口,可将系统部署在距离其电源更远的地方,并可以通过同一根线缆实现互联网连接和系统的远程监控,从而降低了安装的复杂性,非常适合各种工业自动化场景及自动驾驶领域。

接口展示

产品简介

01

29104a84-a6a7-11ee-9ee2-92fbcf53809c.png

功能 & 区别

产品简介

02

293147e8-a6a7-11ee-9ee2-92fbcf53809c.png

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • ARES
    +关注

    关注

    0

    文章

    3

    浏览量

    9712
  • 研扬科技
    +关注

    关注

    0

    文章

    22

    浏览量

    7320
  • AIGC
    +关注

    关注

    1

    文章

    361

    浏览量

    1539
收藏 人收藏

    评论

    相关推荐

    广和通开启端侧AI新时代

    AI发展正酣,随着终端芯片算力越来越高、端侧模型能力越来越强、实时响应及隐私保护的端侧应用需求增加,端侧AI已然具备落地的条件。端侧AI离客户和应用场景更近,也是具象化AI的重要方式。
    的头像 发表于 12-12 10:35 157次阅读

    联众未涉足AI基础研发

    联众近日发布公告,就市场关注的AI技术热点进行说明。公告指出,尽管当前市场上对AI技术的关注度持续升温,但华联众目前并未涉足AI技术的
    的头像 发表于 12-11 09:47 118次阅读

    深度解析华全栈式AI产品布局

    在人工智能迈向边缘智能化的浪潮中,华科技通过“Edge AI+生态协同”战略推动AIoT 2.0时代的产业落地。本文专访华科技产品总监邱柏儒,深度解析
    的头像 发表于 12-05 09:51 210次阅读

    华科技全员积极拥抱AI时代

    华全员积极拥抱AI时代,本文专访华数字化转型部门负责人Jeff,通过内部AI竞赛和WISE-AI
    的头像 发表于 12-04 18:18 373次阅读

    如何在STM32f4系列开发板上部署STM32Cube.AI

    已下载STM32Cube.AI扩展包,但是无法使用,感觉像是没有部署AI模型,我是想要通过摄像头拍照,上传图像后,经过开发板处理器进行AI模型处理识别过后,告诉我识别结果,显示在TFL
    发表于 11-18 09:39

    IPv6 大规模部署开启网络新时代的强劲引擎

    在互联网技术迅猛发展的今天,IPv6作为新一代互联网协议,正以不可阻挡的势头引领全球网络进入一个全新的演进阶段,成为开启网络新时代的关键钥匙。IPv6部署现状:全球加速,中国领跑2024年,全球
    的头像 发表于 11-06 10:24 540次阅读
    IPv6 大规模<b class='flag-5'>部署</b>,<b class='flag-5'>开启</b>网络<b class='flag-5'>新时代</b>的强劲引擎

    ARES不能显示中文丝印

    WIN10系统,PROTEUS7.4版本,启用ARES绘制PCB,打开2D文本输入模式,选“微软雅黑”输入中文,打开3D预览,不能显示中文, 而显示“?????”,不知道什么原因?之前还能显示,现在无论如何设置,都不行。请赐教,谢谢!
    发表于 07-04 17:39

    谈谈创意设计中的AI、AGI、AIGC

    在当今的数字化时代,创意设计领域正经历着前所未有的变革。随着人工智能(AI)、通用人工智能(AGI)以及人工智能生成内容(AIGC)的迅猛发展,设计师们的工作方式和创作手段都发生了深刻的变化。本文
    的头像 发表于 07-01 18:20 728次阅读
    谈谈创意设计中的<b class='flag-5'>AI</b>、AGI、<b class='flag-5'>AIGC</b>

    华为汪涛:5G-A商用元年和AI入端元年碰撞,将开启“移动AI时代

    [中国,上海,2024年6月26日] 2024 MWC上海期间,华为常务董事、ICT基础设施业务管理委员会主任汪涛在大会上发表了“加速5G-A发展,开启移动AI时代”的主题演讲。他表示,2024年
    的头像 发表于 06-27 17:28 1211次阅读

    NVIDIA三大平台引领AI机器人新时代

    随着科技的不断进步,AI机器人已成为制造业转型升级的重要驱动力。NVIDIA凭借其Omniverse、Metropolis和Isaac三大平台,正在与富士康、比亚迪电子、西门子、泰瑞达和Intrinsic等全球知名企业共同打造数字孪生,引领AI机器人进入
    的头像 发表于 06-04 14:57 780次阅读

    BOXER-8645AI:凭借卓越边缘AI解决方案,使车载部署更加智能

    最新的AI系统,BOXER-8645AI搭载了NVIDIAJetsonAGXOrin模块,被誉为嵌入式技术的先驱。具备坚固的特性,适用于车载部署
    的头像 发表于 06-01 08:05 123次阅读
    BOXER-8645<b class='flag-5'>AI</b>:凭借卓越边缘<b class='flag-5'>AI</b>解决方案,使车载<b class='flag-5'>部署</b>更加智能

    李未可科技发布全新首款AI眼镜Chat,搭载自AI大模型

    AI语音助手,为用户开启超拟人的AI语音交互新体验。用户可使用语音交互让AI帮助解决工作&日程安排,或开启百科问答、学习辅助、英文翻译、语音
    发表于 04-26 10:45 1647次阅读
    李未可科技发布全新首款<b class='flag-5'>AI</b>眼镜Chat,搭载自<b class='flag-5'>研</b><b class='flag-5'>AI</b>大模型

    华为云 Serverless 应用中心:一键开启 AI 文生图新时代,引领行业创新浪潮

    随着数字化时代的快速发展,AI 技术已成为推动行业创新的关键动力。华为云紧跟时代步伐,全新上线 Serverless 应用中心,为用户提供海量应用模板,实现一键部署函数和周边依赖资源,
    的头像 发表于 03-19 22:57 460次阅读

    聚焦AI,探析边缘智能新动向,AI on Arm合作伙伴会议开启报名!

    。   议程一览: 上午主会场:边缘运算未来趋势 迎接新兴产业应用新时代 下午分会场1:硬件设计构建AI可靠基础 下午分会场2:软件服务助力AI应用落地   演讲嘉宾: 本次活动邀请到来自高通,瑞芯微,Hailo,瞰瞰智能,微软
    发表于 03-14 11:09 402次阅读
    聚焦<b class='flag-5'>AI</b>,探析边缘智能新动向,<b class='flag-5'>研</b>华<b class='flag-5'>AI</b> on Arm合作伙伴会议<b class='flag-5'>开启</b>报名!

    荣耀引领端侧AI新时代

    在今年的MWC盛会上,荣耀宣布与高通、Meta携手,将70亿参数大模型引入端侧,这一创新举措预示着端侧AI新时代的到来。荣耀终端CEO赵明在发布会上详细介绍了荣耀魔法大模型,并通过现场演示展示了其强大的功能,包括任意门和一键成片等MagicOS 8.0中的全新
    的头像 发表于 03-01 10:28 629次阅读