AI大模型不断拉高上限，内存控制器IP提早部署，力拱HBM3E的到来-德赢Vwin官网网

自2012年以来，大规模的AI训练所使用的数据集的计算量以每年10倍的速度增长。比如在2022年11月ChatGPT的版本参数是1750亿个，今年3月的版本使用的参数则达到1.5万亿个。随着AI模型数据量、复杂度在增加，HBM内存被彻底带火。这种高带宽高速的内存十分适合于AI训练场景。最近，内存芯片厂商已经不约而同地切入HBM3E竞争当中。内存控制器IP厂商Rambus也率先发布HBM3内存控制器产品，应对这一需求的到来。

RambusHBM3控制器

Rambus HBM3内存控制器IP可提供高达9.6 Gbps的性能，可支持HBM3标准的持续演进。相比HBM3 Gen1 6.4 Gbps 的数据速率，Rambus HBM3内存控制器的数据速率提高了50%，总内存吞吐量超过1.2 TB/s，适用于推理系统的训练、生成式AI以及其他要求苛刻的数据中心工作负载。它支持HBM3以及包括被命名为HBM3E的内存设备。

HBM3子系统包含HBM3控制器以及HBM3 PHY（物理层）。Rambus提供的控制器可以跟合作伙伴所提供的PHY来共同应用在这些内存组件上。如下图所示。

Rambus 接口IP产品管理和营销副总裁Joe Salvad or先生表示，Rambus提供的是一整套完整的经过验证的解决方案， HBM3控制器不仅作为独立的产品，而且能够跟市面上目前比较常见的HBM3以及相关的内存模组进行匹配，像是与SK海力士、美光、三星等厂商完成了一整套的测试。另外，还经过了第三方来自西门子Avery的验证IP。并且与很多第三方PHY（物理层）也都是完全兼容的。

在此不得不提的是，早前Rambus将PHY IP业务出售给了Cadence。而在Joe Salvador看来这一战略性地出售，是与Rambus的商业生态有关。

他表示，我们的PHY业务当时发展也非常好，但是我们的控制器IP是提供给包括Cadence以及其他的PHY IP合作伙伴。当我们把PHY的业务出售给Cadence以后，可以帮助我们更好地去跟其他的PHY合作伙伴合作，因为我们已经不构成跟他们直接的竞争关系，而是成为很好的上下游的合作伙伴关系。控制器IP可以跟客户所选择的PHY进行很好的结合，并且都是能够通过大量的测试和验证，尽可能都保证一次流片成功，这对于客户来说是很大的价值。

Rambus接口IP的产品组合集中供货给数据中心市场以及人工智能和边缘计算。在内存控制器方面，Rambus所支持的内存类型包括DDR、LPDDR、GDDR以及HBM。而在接口IP所提供的互联控制器，可以支持CXL、PCIe以及MIPI。同时还提供视频压缩的IP，可以应用在MIPI以及DP（DisplayPort）接口。

此外，Rambus还提供最广泛的安全IP产品组合以及解决方案。特别是随着AI的发展，数据安全引来越来越多的关注。Rambus 大中华区总经理苏雷先生表示，Rambus提供安全IP全套方案可以为AI的安全保驾护航，这跟Rambus公司的使命，“让数据传输更快、更安全”不谋而合。

HBM内存控制器的设计挑战与Rambus的优势

HBM内存控制器的设计面临诸多挑战，首先是对于总体架构设计的复杂度和了解程度。Rambus已经有多年的设计控制器经验，其中包括HBM、GDDR、LPDDR以及DDR。

“正是因为这多年的经验，使得我们所设计出来的内存控制器可以做到性能高、功耗低，而且对于客户来说成本也相对较低。”Joe Salvador说道。

其次，Rambus拥有多年跟主流内存厂商合作的经验，把内存组件纳入到控制器的兼容性、以及相关的性能测试环节当中进行验证。同时，在进行架构设计时已经留足了一定的自定义配置空间，这样可以根据客户不同需求来选择相应的控制器。

另外，Rambus多年以来所构建的测试环境和验证环节，是跟许多的物理层提供商的合作伙伴共同去搭建的。那么控制器和物理层能够很好地集成在一起保持兼容，从而使得客户的子系统设计更容易成功。

应用领域不只于AI

值得注意的是，从规格的角度上来讲，目前所说的HBM3E还不是正式的行业标准规格。Joe Salvador说，，虽然英伟达H200已宣称采用了HBM3E，几家主流的内存厂商也都发布了HBM3E的内存，但实际上指的是9.6Gbps的HBM3。对于后续HBM4的规格和标准，目前业界有许多预测，Rambus也在进行相应的研究，会继续努力保持在HBM技术领域的行业领先地位。

至于HBM的应用领域，未来将不限于在数据中心、高性能计算方面。Joe Salvador表示，现在已经有一些显卡在使用HBM内存，暂时还不是主流。另外，HBM也可能会进入汽车行业，尽管目前还没有看到哪家公司推出经过验证的车规级芯片使用HBM内存，但前景可期。

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

Rambus

Rambus

+关注

关注
0

文章
60

浏览量
18803
内存控制器

内存控制器

+关注

关注
0

文章
40

浏览量
8884
HBM3

HBM3

+关注

关注
0

文章
74

浏览量
154
AI大模型

AI大模型

+关注

关注
0

文章
315

浏览量
305
HBM3E

HBM3E

+关注

关注
0

文章
78

浏览量
248

美光12层堆叠HBM3E 36GB内存启动交付

美光科技近期宣布，其“生产可用”的12层堆叠HBM3E 36GB内存已成功启动交付，标志着AI计算领域的一大飞跃。这款先进内存正陆续送达主要行业合作伙伴手中，以全面融入并验证其在整个

发表于 09-09 17:42 •778次阅读

三星电子HBM3E内存获英伟达认证，加速AI GPU市场布局

近日，知名市场研究机构TrendForce在最新发布的报告中宣布了一项重要进展：三星电子的HBM3E内存产品已成功通过英伟达验证，并正式开启出货流程。具体而言，三星的HBM3E 8Hi版本已被确认

发表于 09-05 17:15 •697次阅读

SK海力士9月底将量产12层HBM3E高性能内存

HBM市场全球最高市占率的地位，也标志着HBM3E技术再次引领行业潮流，特别是在满足日益增长的人工智能服务器对高性能内存需求的背景下。

发表于 09-05 16:31 •718次阅读

美光HBM3E解决方案，高带宽内存助力AI未来发展

美光近期发布的内存和存储产品组合创新备受瞩目，这些成就加速了 AI 的发展。美光 8 层堆叠和 12 层堆叠 HBM3E 解决方案提供业界前沿性能，功耗比竞品1低 30%。

发表于 05-28 14:08 •655次阅读

三星与AMD达成HBM3E采购大单，总金额达4万亿韩元

三星方面表示，预计今年上半年将正式生产出HBM3E 12H内存，而AMD则计划于下半年开始生产相应的AI加速卡。值得注意的是，三星HBM3E 12H

发表于 04-24 14:44 •425次阅读

NVIDIA预定购三星独家供应的大量12层HBM3E内存

据悉，HBM3E 12H内存具备高达1280GB/s的宽带速率以及36GB的超大存储容量，较8层堆叠的HBM3 8H，分别提升了50%以上的带宽及容量。

发表于 03-25 15:36 •418次阅读

什么是HBM3E内存？Rambus HBM3E/3内存控制器内核

Rambus HBM3E/3 内存控制器内核针对高带宽和低延迟进行了优化，以紧凑的外形和高能效的封装为人工智能训练提供了最大的性能和灵活性。

发表于 03-20 14:12 •2482次阅读

SK海力士HBM3E正式量产，巩固AI存储领域的领先地位

SK海力士作为HBM3E的首发玩家，预计这款最新产品的大批量投产及其作为业内首家供应HBM3制造商所累积的经验，将进一步强化公司在AI存储器市场的领导者地位。

发表于 03-19 15:18 •1013次阅读

SK海力士HBM3E内存正式量产，AI性能提升30倍，成本能耗降低96%

同日，SK海力士宣布启动 HBM3E 内存的量产工作，并在本月下旬开始供货。自去年宣布研发仅过了七个月。据称，该公司成为全球首家量产出货HBM3E 的厂商，每秒钟能处理高达 1.18TB 的数据。此项数据处理能力足以支持在一小时

发表于 03-19 09:57 •1070次阅读

美光量产行业领先的HBM3E解决方案，加速人工智能发展

领先地位，并且凭借 HBM3E 的超凡性能和能效为人工智能（AI）解决方案赋能。 HBM3E：推动人工智能革命随着人工智能需求的持续激增，内存解决

发表于 03-04 18:51 •1198次阅读

AMD MI300加速器将支持HBM3E内存

据手机资讯网站IT之家了解，MI300加速器配备了HBM3内存模块，并面向HBM3E进行了重新设计。另外，该公司在供应链交付合作方面颇为深入，不仅与主要的存储

发表于 02-27 15:45 •654次阅读

三星发布首款12层堆叠HBM3E DRAM

近日，三星电子宣布，已成功发布其首款12层堆叠的高带宽内存（HBM3E）产品——HBM3E 12H，再次巩固了其在半导体技术领域的领先地位。据了解，HBM3E 12H不仅是三星迄今为止

发表于 02-27 14:28 •1057次阅读

三星电子成功发布其首款12层堆叠HBM3E DRAM—HBM3E 12H

2024年2月27日 - 三星电子今日宣布，公司成功发布其首款12层堆叠HBM3E DRAM——HBM3E 12H，这是三星目前为止容量最大的HBM产品。

发表于 02-27 11:07 •767次阅读

AMD发布HBM3e AI加速器升级版，2025年推新款Instinct MI

目前，只有英伟达的Hopper GH200芯片配备了HBM3e内存。与现有的HBM3相比，HBM3e的速度提升了50%，单个平台可以达到10TB/s的带宽，单颗芯片能够实现5TB/s的

发表于 02-25 11:22 •615次阅读

英伟达大量订购HBM3E内存，抢占市场先机

英伟达（NVIDIA）近日宣布，已向SK海力士、美光等公司订购大量HBM3E内存，为其AI领域的下一代产品做准备。也预示着内存市场将新一轮竞争。

发表于 12-29 16:32 •1044次阅读

搜索历史

AI大模型不断拉高上限，内存控制器IP提早部署，力拱HBM3E的到来

RambusHBM3控制器

HBM内存控制器的设计挑战与Rambus的优势

应用领域不只于AI

评论

美光12层堆叠HBM3E 36GB内存启动交付

三星电子HBM3E内存获英伟达认证，加速AI GPU市场布局

SK海力士9月底将量产12层HBM3E高性能内存

美光HBM3E解决方案，高带宽内存助力AI未来发展

三星与AMD达成HBM3E采购大单，总金额达4万亿韩元

NVIDIA预定购三星独家供应的大量12层HBM3E内存

什么是HBM3E内存？Rambus HBM3E/3内存控制器内核

SK海力士HBM3E正式量产，巩固AI存储领域的领先地位

SK海力士HBM3E内存正式量产，AI性能提升30倍，成本能耗降低96%

美光量产行业领先的HBM3E解决方案，加速人工智能发展

AMD MI300加速器将支持HBM3E内存

三星发布首款12层堆叠HBM3E DRAM

三星电子成功发布其首款12层堆叠HBM3E DRAM—HBM3E 12H

AMD发布HBM3e AI加速器升级版，2025年推新款Instinct MI

英伟达大量订购HBM3E内存，抢占市场先机