在人工智能(AI)技术飞速发展的今天,AI大模型的部署需求正迅速从云端向端侧和边缘侧设备迁移。这一转变对AI芯片的性能、功耗和响应速度提出了前所未有的挑战。正是在这样的背景下,后摩智能凭借其创新的技术实力,推出了基于存算一体架构的边端大模型AI芯片——后摩漫界™️M30,引领了AI芯片领域的新一轮革命。
后摩漫界™️M30芯片以其高达100TOPS的最高算力和仅12W的典型功耗,成功实现了高性能与低功耗的完美融合。这一特性使得M30芯片能够轻松应对边端侧大模型部署对高效率和实时性的严苛要求,为AI技术在更多领域的应用提供了强大的硬件支持。
作为一款通用的边端大模型AI芯片,M30能够支持多种大模型,包括但不限于ChatGLM、Llama2、通义千问等。在Qwen1.5-7B-Chat大模型上,M30的运行性能可达15-20 Tokens/s,这一表现足以证明其在处理复杂AI任务时的卓越能力。
为了进一步提升部署的便捷性,后摩智能同步推出了基于M30芯片的智算模组(SoM)和力谋®️AI加速卡。智算模组(SoM)支持PCIe EP模式,以其小巧的体积、强劲的性能和极低的功耗,成为小型化设备和功耗敏感嵌入式场景的理想选择。而力谋®️AI加速卡作为标准的半高半长PCIe加速卡,则能在PC、一体机和服务器中实现快速部署,支持主动散热和被动散热两种模式,确保设备在不同环境下的稳定运行。
后摩漫界™️M30芯片的推出,不仅为传统的端侧和边缘侧设备注入了强大的大模型能力,还成功适配了包括X86、ARM在内的多种主流处理器。这使得M30芯片能够广泛应用于AI PC、边缘AI一体机、智能座舱、商用显示、智能融合网关,NAS(网络附加存储)等领域,为AI技术在更多领域的深入应用注入了强大动力。
展望未来,后摩智能将继续秉承创新、务实、高效的理念,不断推出更多高性能、低功耗的AI芯片产品,为AI技术的发展和应用做出更大的贡献。同时,我们也期待更多企业和机构能够加入到AI技术的研发和应用中来,共同推动AI技术的繁荣发展。
-
AI
+关注
关注
87文章
30726浏览量
268870 -
人工智能
+关注
关注
1791文章
47182浏览量
238195 -
后摩智能
+关注
关注
0文章
23浏览量
1182
发布评论请先 登录
相关推荐
评论