摩尔线程GPU算力底座助力大模型产业发展-德赢Vwin官网网

以大模型为代表的新一代人工智能技术是引领新一轮科技革命和产业变革的战略性技术和重要驱动力量，随着对算力需求的日益高涨，人工智能算力底座公司日益成为新一波人工智能技术浪潮重要组成部分。

2024年5月，摩尔线程与智谱AI开展了新一轮GPU 大模型适配及性能测试，包括大模型推理以及基于夸娥（KUAE）千卡智算集群的大模型预训练。测试用相关大模型来自智谱AI基座大模型及其开源版本。

测试结果表明，在推理方面，摩尔线程自研全功能GPU显著优于基准对比产品RTX 3090和RTX 4090，在全部测试用例中优于RTX 3090，在多batch下优于RTX 4090；在训练方面，摩尔线程夸娥千卡智算集群训练精度与A100集群误差在1%以内，夸娥千卡智算集群性能扩展系数超过90%，模型算力利用率（MFU）与A100集群相当。

智谱AI致力于打造新一代认知智能大模型，专注于做大模型的中国创新。早在2022年8月，智谱AI开源了GLM-130B模型，2023 年，智谱 AI 推出千亿基座对话模型ChatGLM，开源版本的 ChatGLM-6B 让大模型开发者的本地微调和部署成为可能，在开源社区受到广泛欢迎。从自主开发的原创GLM预训练框架搭建之初，智谱AI就十分注意算力利用率问题。通过国产算力适配，智谱AI已支持10余种国产硬件生态，努力推动建设大模型软硬件生态和与国产芯片企业的联合创新与升级。

摩尔线程出色的测试结果对于更好建设中国大模型产品技术生态具有重要意义。

技术自主新突破：摩尔线程千卡智算集群成功应用ChatGLM预训练，标志着摩尔线程全功能GPU算力底座有能力支撑行业领先的大模型全链条研发，有助于增强技术自主性，保障信息安全。大模型训练与推理将能够在全国产可控的算力底座上运行，在满足信息安全的前提下服务于千行百业，成为发展AI+新质生产力的核心力量。

助力打破算力瓶颈：Scaling laws（尺度定律）已经预示了AGI技术发展对算力日益增长的需求规律，同时也表明有限的算力供应可能成为制约大模型发展的关键瓶颈。本次测试结果显示，国产GPU算力底座有能力助力中国人工智能技术发展。摩尔线程作为国产GPU的代表，将助力提高大模型迭代速度和自研水平，助推中国大模型更好发展。

开拓创新空间：算法、算力、数据是AGI技术的核心要素，摩尔线程与智谱AI卓有成效的适配与测试合作，有利于推动实现软硬件的深度融合与协同创新，有利于助力中国大模型实现更好发展。

降低运营成本：摩尔线程凭借自研国产全功能GPU，致力于构建先进的AGI算力底座，不仅能够兼容适配全球主流AI软件生态，节约软件迁移成本，而且在单位算力总体拥有成本上拥有较为明显优势，能够有效降低大模型产品研发成本。

智谱AI硬件适配与测试负责人表示：“摩尔线程夸娥千卡智算集群在计算精度和稳定性等方面的表现令人印象深刻，智谱AI将与包括摩尔线程在内的大模型产业生态合作伙伴携手，共同推动大模型产业生态繁荣发展。”

关于智谱AI

北京智谱华章科技有限公司（简称：智谱AI）致力于打造新一代认知智能大模型，专注于做大模型的中国创新。公司践行Model as a Service（MaaS）的市场理念，推出大模型MaaS开放平台，打造高效率、通用化的“模型即服务”AI开发新范式。通过认知大模型链接物理世界的亿级用户，智谱AI基于完整的模型生态和全流程技术支持，为千行百业带来持续创新与变革，加速迈向通用人工智能的时代。

关于摩尔线程

摩尔线程是一家以全功能GPU芯片设计为主的集成电路高科技公司，能够为广泛的科技生态合作伙伴提供强大的计算加速能力，致力于打造为下一代互联网提供多元算力的元计算平台。

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

人工智能

人工智能

+关注

关注
1791

文章
47183

浏览量
238209
摩尔线程

摩尔线程

+关注

关注
2

文章
200

浏览量
4560
大模型

大模型

+关注

关注
2

文章
2423

浏览量
2637

原文标题：性能新突破！媲美国际水准！国产千卡智算集群助力国产大模型训推

文章出处：【微信号：moorethreads，微信公众号：摩尔线程】欢迎添加关注！文章转载请注明出处。

【「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】--了解算力芯片GPU

本篇阅读学习第七、八章，了解GPU架构演进及CPGPU存储体系与线程管理 █从图形到计算的GPU架构演进 GPU图像计算发展 ●从三角形开始

发表于 11-03 12:55

摩尔线程GPU与超图软件大模型适配:共筑国产地理空间AI新生态

10月24日，摩尔线程公司宣布与超图软件达成重要合作里程碑。经过双方的严格测试，摩尔线程的MTT S/X系列全功能GPU已成功与超图软件最新

发表于 10-24 11:29 •680次阅读

摩尔线程与羽人科技完成大语言模型训练测试

近日，摩尔线程与羽人科技携手宣布，双方已成功实现夸娥（KUAE）千卡智算集群与羽人系列模型解决方案的训练兼容适配。在本次测试中，羽人科技通过摩尔

发表于 08-27 16:19 •523次阅读

摩尔线程夸娥智算中心解决方案重磅升级

摩尔线程重磅宣布其AI旗舰产品夸娥（KUAE）智算集群解决方案实现重大升级，从当前的千卡级别大幅扩展至万卡规模。摩尔线程夸娥（KUAE）万卡

发表于 08-27 16:09 •697次阅读

摩尔线程携手东华软件完成AI大模型推理测试与适配

近日，摩尔线程与东华软件云筑AI创新中心宣布，双方已完成大模型推理测试与适配。依托摩尔线程的全功能GPU

发表于 07-31 10:51 •730次阅读

IaaS+on+DPU(IoD)+下一代高性能算力底座技术白皮书

DPU 是当下算力基础设施的核心创新之一。如果把 CPU 比做大脑，那么 GPU 就好比是肌肉，而 DPU 就是神经中枢。CPU 承载了应用生态，提供了通用型算

发表于 07-24 15:32

摩尔线程和乐创能源签署战略合作协议

近日，摩尔线程和乐创能源签署了战略合作协议，双方将聚焦能源大模型的创新与应用，围绕新能源领域的电池、新能源发电、负荷管理、需求侧响应等产品技术方向，共同研发能源大模型。依托

发表于 07-11 14:35 •715次阅读

摩尔线程与智谱AI完成大模型性能测试与适配

近日，摩尔线程与智谱AI在人工智能领域开展了一轮深入的合作，共同对GPU大模型进行了适配及性能测试。此次测试不仅涵盖了大模型的推理能力，还涉

发表于 06-14 16:40 •1063次阅读

摩尔线程与师者AI携手完成70亿参数教育AI大模型训练测试

近日，国内知名的GPU制造商摩尔线程与全学科教育AI大模型“师者AI”联合宣布，双方已成功完成了一项重要的大模型训练测试。此次测试依托

发表于 06-14 16:31 •571次阅读

摩尔线程千卡智算集群与滴普企业大模型已完成训练及推理适配

近日，摩尔线程与国内领先的数据智能服务商滴普科技共同宣布，摩尔线程夸娥（KUAE）千卡智算集群与滴普企业大

发表于 05-29 10:28 •462次阅读

大模型快速发展，GPU IP有何作用

德赢Vwin官网网报道（文/李弯弯）随着人工智能技术的快速发展，GPU作为重要的算力支撑时常被提及。国内外重要的GPU芯片公司也为人熟知，包括

发表于 05-29 00:05 •2331次阅读

摩尔线程与无问芯穹在国产GPU上首次实现大模型实训

近日，摩尔线程与无问芯穹共同宣布，双方已正式完成基于国产全功能GPU千卡集群的3B规模大模型实训。这款名为“MT-infini-3B”的模型

发表于 05-27 10:59 •657次阅读

摩尔线程携手憨猴集团，共同探索国产AI算力的新应用场景与落地实践

摩尔线程与憨猴科技集团有限公司（简称：憨猴集团）近日宣布，基于摩尔线程的夸娥（KUAE）千卡智算集群，憨猴集团已成功完成了7B、34B、70

发表于 05-17 15:08 •448次阅读

摩尔线程张建中：以国产算力助力数智世界，满足大模型算力需求

摩尔线程创始人兼CEO张建中在会上透露，为了满足国内对AI算力的迫切需求，他们正在积极寻求与国内顶尖科研机构的深度合作，共同推动更大规模的AI智算

发表于 05-10 16:36 •949次阅读

摩尔线程助力AI大模型训练与计算升级，共建美好数字化未来

此外，在中关村国际技术交易大会高精尖技术产品首发会上，摩尔线程与无问芯穹联合宣布，双方正致力于开发基于夸娥千卡智算集群的“MT-infini-3B”合作大模型。

发表于 04-28 16:42 •1081次阅读

搜索历史

摩尔线程GPU算力底座助力大模型产业发展

评论

【「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】--了解算力芯片GPU

摩尔线程GPU与超图软件大模型适配:共筑国产地理空间AI新生态

摩尔线程与羽人科技完成大语言模型训练测试

摩尔线程夸娥智算中心解决方案重磅升级

摩尔线程携手东华软件完成AI大模型推理测试与适配

IaaS+on+DPU(IoD)+下一代高性能算力底座技术白皮书

摩尔线程和乐创能源签署战略合作协议

摩尔线程与智谱AI完成大模型性能测试与适配

摩尔线程与师者AI携手完成70亿参数教育AI大模型训练测试

摩尔线程千卡智算集群与滴普企业大模型已完成训练及推理适配

大模型快速发展，GPU IP有何作用

摩尔线程与无问芯穹在国产GPU上首次实现大模型实训

摩尔线程携手憨猴集团，共同探索国产AI算力的新应用场景与落地实践

摩尔线程张建中：以国产算力助力数智世界，满足大模型算力需求

摩尔线程助力AI大模型训练与计算升级，共建美好数字化未来