Rambus提升GDDR6带宽，以应对边缘计算挑战-德赢Vwin官网网

为了不断满足人工智能和机器学习需求的迅速增长，算力在快速增长，数据量也在快速增长。

现在ChatGPT等人工智能相关的应用程序，它的增长速度以及对数据的需求更是非常庞大，而且ChatGPT-3是以1750 亿个参数进行训练的。这些人工智能应用的快速发展，也对处理器及带宽提出了更高的要求和标准。

“市面上越来越多的客户和公司都开始专注于开发自己个性化、定制化的处理器产品，以更好地满足神经网络以及专属应用的需求。”Rambus IP核产品营销高级总监Frank Ferro说道。

此时，内存墙问题越来越成为制约算力的重要问题。Frank表示：“尽管算力的增长非常显著，但是带宽上的进步却无法改善，也就是造成两者间的不匹配，很多计算资源并没有被充分利用到。”

正是由于对带宽需求更加进一步的增加，以及对需求的上涨，驱动了像Rambus公司一样不断打造新一代的产品，提高内存带宽以及接口带宽。实际上，根据Rambus 5月初刚刚公布的2023年一季度业绩公告，在内存接口芯片的推动下，季度产品收入达到 6380 万美元，同比增长 33%，总营收达到了1亿1400万，均创出新高。

HBM还是GDDR

人工智能的应用场景可划分为训练和推理两部分，其中训练是指通过大数据训练出一个复杂的神经网络模型,通过大量标记过的数据来训练相应的系统,使其能够适应特定的功能。而推理则是利用训练好的模型,使用新数据推理出各种结论。借助神经网络模型进行运算,利用输入的新数据来一次性获得正确结论的过程。

训练和推理在算力和存储上的需求并不完全相同，训练需要更大的数据进行分析，而推理则更注重成本。也正因此，产业界诞生了包括HBM与GDDR两种存储解决方案，以适应不同的场景要求。

AI推理场景带宽大概需要400-500Gb/s的带宽，如果用HBM3，带宽可以提高至800Gb/s，但却是大材小用，同时成本会增加3-4倍之多。

HBM（高带宽内存）于 2013 年推出，是一种高性能 3D 堆叠 SDRAM架构。如其名称所述，HBM最重要的是带宽更高，尽管HBM的内存都以相对较低的数据速率运行，但其通道数更多。例如，以3.6 Gbps运行的HBM2E在存储和处理器间的通道数达到了1024条，这无法在PCB上实现，因此硅中阶层（interposal）被用来连接内存和处理器。

GDDR的历史

随着AI的推理越来越多地向边缘设备上进行集成和转移，GDDR越来越成为边缘AI处理所需。比起HBM，GDDR的历史则更为悠久。GDDR可以追溯到PC和游戏机时代，早期的GPU使用SDRAM和DDR，这与CPU相同。随着对GPU性能追求增强，推动了GDDR专用图形显示的需求增长。

2003 年 10 月，英伟达推出了 GeForce FX 5700 Ultra，搭配了256 MB GDDR2 DRAM，当时5000系列大部分仍使用DDR DRAM。直到 2018 年底 GeForce 16 和 20 系列，GDDR被用于整个产品线。如今，GDDR6 是最先进的显存解决方案。

相比于LPDDR和DDR，GDDR在带宽关键参数上具有绝对优势，在24Gb/s传输速率和32位总线的时候，GDDR6可以提供最多96GB/s的带宽，在速度、带宽和延迟方面显著优于其他产品。

Rambus GDDR6方案

Rambus提供业内鲜有的全面内存IP产品组合，包括DDR、LPDDR、GDDR以及HBM，此外还有连接类Serdes，诸如PCIe和CXL，均达到了业界领先水平。并且Rambus的解决方案大多是提供包括控制器和PHY在内的全套方案。

为了应对边缘AI对于GDDR的需求，Rambus日前推出的GDDR6 PHY，提供市场领先的数据传输速率，最高可达24 Gb/s，能够为每个GDDR6内存设备带来96 GB/s的带宽，达到了行业标杆水平。此前GDDR6的传输率为16Gb/s，总带宽64GB/s，全新的GDDR6使带宽增加了50%，从而为人工智能/机器学习（AI/ML）、图形和网络应用提供更高成本效益、高带宽的内存。并凭借与Foundry的密切合作，支持先进的工艺节点。

除了业界领先的24Gb/s性能外，Rambus GDDR6 PHY还经过了全方位的优化，可满足AI/ML及其他需要高带宽、低延迟内存解决方案的先进应用的需求。Rambus能够实现24Gb/s的数据传输速率，依靠的是其在信号完整性和电源完整性（SI/PI）方面享誉世界的专业知识，这些知识可用于设计PHY、芯片封装和印刷电路板（PCB）。

此外，Frank还强调Rambus的工程师会和客户在设计初期就紧密合作，并提供封装参考设计，以确保系统达到最优性能。

总而言之，Rambus的GDDR6方案在性能、功耗管理、集成、完整性、以及支持等方面都具有明显优势，是提升边缘计算能力的理想合作伙伴。

审核编辑：李倩

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

处理器

处理器

+关注

关注
68

文章
19259

浏览量
229638
神经网络

神经网络

+关注

关注
42

文章
4771

浏览量
100703
Rambus

Rambus

+关注

关注
0

文章
60

浏览量
18803
架构

架构

+关注

关注
1

文章
513

浏览量
25468

原文标题：【媒体报道】Rambus提升GDDR6带宽，以应对边缘计算挑战

文章出处：【微信号：Rambus 蓝铂世科技，微信公众号：Rambus 蓝铂世科技】欢迎添加关注！文章转载请注明出处。

GDDR6和HBM2E双利器！Rambus内存接口方案助力突破AI应用带宽瓶颈

12月9日，Rambus线上设计峰会召开，针对数据中心的存储挑战、5G边缘计算，以及内存接口方案如何提高人工智能和训练推理应用程序的性能，Rambu

发表于 12-21 22:15 •6220次阅读

Achronix Speedster7t FPGA如何运用GDDR6满足网络产品的高带宽需求

将GDDR6的优势从图形计算扩展至高性能网络应用？下文主要介绍Achronix Speedster7t FPGA如何运用GDDR6满足下一代网络产品的高带宽需求。

发表于 02-17 20:48 •1648次阅读

GDDR6接口通道需要特殊的设计考虑

　　许多系统公司正在进行关于参与下一代 GDDR6 DRAM 实施的设计讨论。与前几代 DDR 不同，这一代存在许多设计挑战，需要 SoC 和系统设计人员仔细评估完整的 GDDR6 内存接口，

发表于 07-28 08:03 •1125次阅读

Rambus通过业界领先的24Gb/s GDDR6 PHY提升AI性能

中国北京，2023年5月17日 ——作为业界领先的芯片和半导体IP供应商，致力于使数据传输更快更安全，Rambus Inc.（纳斯达克股票代码：RMBS）今日宣布推出新的里程碑式产品，提升GDDR6

发表于 05-17 13:47 •457次阅读

如何缓解GDDR6 DRAM实施所带来的挑战

下一代GDDR6 DRAM的设计讨论。与之前的DDR系列不同，这一系列产品还存在许多设计挑战，它要求SoC和系统设计人员仔细评估整个GDDR6存储器接口以实现成功的设计。

发表于 01-01 06:29

探究GDDR6给FPGA带来的大带宽存储优势以及性能测试（上）

的瓶颈。2020年7月15日，JEDEC存储协会正式发布了DDR5 SDRAM的标准（JESD79-5），内存的频率相对DDR4的标准频率有了大幅的提升，总传输带宽也提升了38%，但是还是和G

发表于 12-21 08:00

探究GDDR6给FPGA带来的大带宽存储优势以及性能测试（下）

GDDR6的颗粒，用x16模式，实现最高512Gb/s的带宽。因为目前市面上GDDR6颗粒的最大容量是16Gb，在有些应用中如果对容量有一定的要求，可以使用一种叫Clamshell的连接方式，如图7

发表于 12-22 08:00

Rambus GDDR6 PHY内存达18 Gbps 延续了公司长期开发领先产品的传统

硅IP和芯片提供商Rambus 31日宣布其Rambus GDDR6 PHY 内存已达到行业领先的18 Gbps性能。Rambus GDDR6

发表于 11-15 16:07 •999次阅读

搭配GDDR6显存的GTX 1650显卡曝光带宽将从128GB/s提升到192GB/s

DIY玩家都知道NVIDIA近年来刀法精妙，卡位很准，不过老黄也会有良心升级的时候，千元级GTX 1650显卡很快会从GDDR5升级到GDDR6显存，显存带宽预计提升50%。

发表于 03-30 14:45 •2580次阅读

GTX 1650 GDDR6和GTX 1650 GDDR5区别在哪里

GDDR6显存很长时间以来是中高端显卡的标志，可是随着GDDR6价格的不断下降，时代早就变了，近几天入门级游戏显卡GTX 1650终于也投向了GDDR6，相关产品纷纷上架。不过GDDR

发表于 08-18 14:24 •2.2w次阅读

紫光国芯宣布推出12nm工艺的GDDR6存储控制器和物理接口IP

根据紫光国芯介绍，这个GDDR6 MC/PHY IP包括一个可配置的内存控制器（MC），其完全符合DFI3.1和AMBA AXI4.0标准，并允许设计工程师生成具有优化延迟和带宽的GDDR6控制器

发表于 11-19 14:53 •2269次阅读

探究GDDR6给FPGA带来的大带宽存储优势以及性能测试（下）

接上一篇。。。。。。 5. GDDR6技术细节以及Clamshell模式 GDDR6它是采用16n Prefetch结构，一次写操作或者读操作的数据是16n。每个GDDR6颗粒有两个独立的通道，每个

发表于 12-03 11:49 •6243次阅读

Rambus推出提升GDDR6内存接口性能的Rambus GDDR6

凭借Rambus GDDR6 PHY所实现的新一级性能，设计人员可以为带宽要求极为苛刻的工作负载提供所需的带宽。和我们领先的HBM3内存接口一样，这项最新成就表明了我们不断致力于开发最

发表于 05-17 14:22 •824次阅读

为AI推理打造高达24Gb/s的GDDR6 PHY，Rambus全面支持中国市场的AI升级

，但对成本和功耗更为敏感。在AI推理应用越来越多的趋势下，Rambus率先研判与推出GDDR6 IP产品组合。Rambus IP核产品营销高级总监Frank Ferro先生表示，作为更加理想的方案，

发表于 05-26 16:38 •1576次阅读

缓解AI推理算力焦虑，高带宽GDDR6成杀手锏？

据 Rambus IP 核产品营销高级总监 Frank Ferro 分享，AI 推理应用对带宽的需求通常在 200 到 500Gb/s 的范围之间波动，每一个 GDDR6 设备的带宽都

发表于 06-02 15:49 •590次阅读