AMD正式发布 MI300X AI 加速器，力压英伟达H100-德赢Vwin官网网

今年一月份，AMD在CES展会上揭开了一款名为 MI300X 的巨型数据中心芯片的面纱，作为即将来临的新品的预告。如今，该芯片已经正式亮相，这也意味着我们终于可以看到 AMD 为其巨无霸级数据中心/AI加速器GPU提供的首次基准测试数据。果不其然，AMD 宣称，无论你从哪个指标去比较，MI300X 都可以击败英伟达的旗舰产品 H100 GPU。AMD 此前在 AI 领域并未有太大动作，现在 AI 巨头之战正式打响。

本周，AMD 在其 "推动 AI" 活动上发布了 MI300X GPU，并正式向英伟达的 H100 发起挑战。AMD 宣称，它的 MI300X GPU 在诸多方面优于英伟达的 GPU，堪称全球最快的AI加速器。例如，一份幻灯片显示，与H100相比，MI300X提供了2.4倍的内存容量，1.6倍的内存带宽，以及在FP8和FP16计算操作中分别提供了1.3倍的TFLOPS。在实际应用中，这也意味着 MI300X 在特定任务中的速度会比 H100 快1.6倍。

AMD 首席执行官 Lisa Su 举例说，在运行Bloom "吞吐量"（使用1760亿参数）的服务器平台中，8块MI300X芯片比HGX服务器中的8块H100快60%，在"延迟提升"上，使用70亿参数的Llama 2测试中也提高了40%。在单芯片对比中，AMD声称MI300X在FlashAttention-2和Llama 2等特定应用中依然有高达20%的速度优势。Su还表示，在直接的LLM培训中，8块MI300X GPU与HGX服务器中的H100持平，但是在推理性能上领先。

除了MI300X，AMD还宣布了其下一代软件套件，以与英伟达的CUDA平台竞争。该套件被命名为ROCm 6，并已更新以支持最新的大规模语言模型和AI应用。更新后的套件提供了许多性能提升的改进，将提升AI相关任务的性能，但我们还需要等待基准测试结果，看看它在实际应用中的表现如何。

如今，AMD已正式步入高性能计算（HPC）领域，并携正规的数据中心GPU，观察其与英伟达主导地位的角逐将会相当有趣。这场战斗类似于游戏GPU领域中的角逐，英伟达已占据了绝大多数市场份额，AMD 正为争夺剩余的市场而战。然而，MI300X对英伟达的H100构成了有力的竞争，甚至微软的首席技术官最近都表示，他认为AMD最终在这个市场上将非常有竞争力。然而，AMD真正面临的挑战是克服英伟达凭借CUDA在软件上的主导地位，这的确是一项艰巨的任务。

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

amd

amd

+关注

关注
25

文章
5466

浏览量
134087
AI

AI

+关注

关注
87

文章
30728

浏览量
268886
英伟达

英伟达

+关注

关注
22

文章
3770

浏览量
90985
H100

H100

+关注

关注
0

文章
31

浏览量
287

AMD最强AI芯片，性能强过英伟达H200，但市场仍不买账，生态是最大短板？

。其中，全新旗舰AI芯片的型号为AMD Instinct MI325X GPU，虽然仍然是采用CDNA 3架构，但是相较于AMD Instinct

发表于 10-14 01:32 •3409次阅读

<b class='flag-5'>AMD</b>最强<b class='flag-5'>AI</b>芯片，性能强过<b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>H</b>200，但市场仍不买账，生态是最大短板？

IBM与AMD携手部署MI300X加速器，强化AI与HPC能力

举措预计将于2025年上半年正式推出。此次合作的核心目标是提升通用人工智能(AI)模型的性能与能效，并为企业客户提供高性能计算(HPC)应用的强大支持。AMD的Instinct MI300X

发表于 11-21 11:07 •210次阅读

IBM将在云平台部署AMD加速器

IBM与AMD近期宣布了一项重要合作协议，根据协议，IBM将在其云平台上部署AMD Instinct MI300X加速器。这一举措旨在提升企业客户在生成式

发表于 11-19 16:24 •212次阅读

IBM与AMD携手将在IBM云上部署AMD Instinct MI300X加速器

近日，全球领先的科技企业IBM与AMD共同宣布了一项重要合作。双方计划在IBM云上部署AMD的Instinct MI300X加速器服务，以满足企业客户对于高性能和高效能

发表于 11-19 11:03 •442次阅读

英伟达H100芯片市场降温

随着英伟达新一代AI芯片GB200需求的不断攀升，其上一代明星产品H100芯片却遭遇了市场的冷落。据业内人士透露，搭载H100的服务

发表于 10-28 15:42 •503次阅读

三星首度引入AMD MI300X，缓解AI GPU短缺

三星电子近日斥资约270亿韩元（约合1.42亿元人民币），购买了AMD Instinct MI300X加速器。这一举措标志着三星电子首次引入非英伟达

发表于 10-10 17:15 •509次阅读

微软将采用AMD AI芯片以替代英伟达，为云计算提供更优解决方案

微软将大规模采用AMD的旗舰产品MI300X，并通过Azure云计算平台向用户提供计算集群服务。鉴于Nvidia的H100和H200芯片供应紧张，微软决定提供备选方案。

发表于 05-17 16:38 •795次阅读

人工智能市场风向转变，AMD Instinct MI300X GPU更受欢迎

近一半的受访者表示对AMD的Instinct MI300X GPU持乐观态度。与英伟达的H100系列相比，

发表于 03-11 15:28 •963次阅读

英伟达H200和H100的比较

英伟达H200和H100是两款不同的AI芯片，它们各自具有独特的特点和优势。以下是关于这两款芯片的一些比较。

发表于 03-07 15:53 •4591次阅读

AMD Instinct MI300新版将采用HBM3e内存，竞争英伟达B100

AMD于去年宣布旗下两款Instinct MI300加速器，包括基于GPU的MI300X以及基于APU架构的MI300A， both配备19

发表于 02-23 14:36 •1021次阅读

英伟达繁荣背后的挑战仍面临着各种内忧外患

为抢占AI商机，英特尔和AMD都紧跟着NVIDIA脚步，在NVIDIA率先推出采用台积电4nm的H100后，AMD于去年推出首批应用于AI和

发表于 02-21 14:16 •792次阅读

AMD首批Instinct MI300X已开始交付

模型。与Instinct MI300A不同，Instinct MI300X不包含x86 CPU内核，但通过增加CDNA 3小芯片的数量和搭载192 GB HBM3内存，实现了更高的计算性能。根据

发表于 01-24 16:57 •698次阅读

硬钢英伟达！这个GPU已发货……

AMD MI300X集成八个5nm XCD加速计算模块，共计304个计算单元，搭配四个6nm IOD模块，集成256MB无限缓存，还有八颗共192GB HBM3内存，总计1530亿个晶体管。按照官方说法，

发表于 01-23 16:23 •721次阅读

AMD Instinct MI300X已向LaminiAI批量供货

LaminaAI作为AMD的长期合作伙伴，能够抢先体验到全新MI300X加速器的强大优势，实属正常。该公司首席执行官Sharon Zhou在社交媒体进行了公告，同时透露，已经接收到配置8个Instinct

发表于 01-23 09:53 •453次阅读

英伟达、AMD AI芯片今年将生产150万颗，先进封装设备商受惠

据早前报道，NVIDIA的高端AI芯片H200和GH200以外，明年还将推出B100和GB200等下一代产品。同时，AMD今年主推的AI

发表于 01-08 14:11 •620次阅读

搜索历史

AMD正式发布 MI300X AI 加速器，力压英伟达H100

评论

AMD最强AI芯片，性能强过英伟达H200，但市场仍不买账，生态是最大短板？

IBM与AMD携手部署MI300X加速器，强化AI与HPC能力

IBM将在云平台部署AMD加速器

IBM与AMD携手将在IBM云上部署AMD Instinct MI300X加速器

英伟达H100芯片市场降温

三星首度引入AMD MI300X，缓解AI GPU短缺

微软将采用AMD AI芯片以替代英伟达，为云计算提供更优解决方案

人工智能市场风向转变，AMD Instinct MI300X GPU更受欢迎

英伟达H200和H100的比较

AMD Instinct MI300新版将采用HBM3e内存，竞争英伟达B100

英伟达繁荣背后的挑战仍面临着各种内忧外患

AMD首批Instinct MI300X已开始交付

硬钢英伟达！这个GPU已发货……

AMD Instinct MI300X已向LaminiAI批量供货

英伟达、AMD AI芯片今年将生产150万颗，先进封装设备商受惠