/导读/
内存,对于装机爱好者来说已经再熟悉不过了。它是计算机的重要部件,用于暂时存放CPU中的运算数据,以及与硬盘等外部存储器交换的数据。简单来说,内存就是CPU的“草稿纸”,负责将CPU这个大脑暂时用不到的数据存放起来,以备随时取用。这种将数据放在CPU外暂存的结构被称为“冯·诺依曼结构”。即使将CPU升级为服务器级别,其数据交换方式仍旧是这样。
不过,随着AI时代来临,服务器核心的算力越来越高,它与内存间的数据交换频率也水涨船高,算力的增长非常显著,但是带宽上的进步却无法改善,造成两者间不匹配,也导致了很多GPU资源的浪费。存储带宽制约了计算系统的有效带宽,这也导致芯片算力增长步履维艰。近日,Rambus在产品发布会上带来了GDDR6 PHY产品,可以有效提升内存数据传输速率,满足生成式AI等先进计算应用的需求。
/01/
服务器的GDDR时代来了
传统内存,按照不同代际分为DDR至DDR5。DDR的全称为Double Data Rate SDRAM(双倍速率的SDRAM)。DRAM指动态随机存取内存,SDRAM就是一种传输速率更高的DRAM。
DDR内存从1代进化到5代,它的时钟周期变短了,频率也就变高了,因此传输速度也就更快。此外,更高代的内存支持的最大容量也越大,电压更低,耗电更少。
而GDDR通常指的是用在显卡上的内存,本质上还是双倍速率同步动态随机存储器,它是为了设计高端显卡而特别设计的高性能 DDR 存储器规格,其有专属的工作频率、时钟频率、电压,因此与市面上标准的 DDR 存储器有所差异,与普通 DDR 内存不同且不能共用。一般它比主内存中使用的普通 DDR 存储器时钟频率更高,发热量更小,所以更适合搭配高端显示芯片。
GDDR的出现是因为程序需要进行更频繁的图形计算,需要频繁读取内存中的数据,因此就需要更高性能的内存来辅助显卡运行。
AI应用对于内存带宽有着旺盛需求,其训练集每年也以10倍的速度增长。GDDR内存逐渐成为众望所归。Rambus GDDR6 PHY提供市场领先的数据传输速率,最高可达24 Gb/s,能够为每个GDDR6内存设备带来96 GB/s的带宽。作为系统级解决方案的一部分,Rambus GDDR6能够为人工智能/机器学习(AI/ML)、图形和网络应用提供高成本效益、高带宽的内存性能。
Rambus首席运营官范贤志表示:“凭借Rambus GDDR6 PHY所实现的新一级性能,设计人员可以为带宽要求极为苛刻的工作负载提供所需的带宽。和我们领先的HBM3内存接口一样,这项最新成就表明了我们不断致力于开发最先进的内存性能,以满足生成式AI等先进计算应用的需求。”
/02/
快,就够了吗?
人工智能的推理正在向边缘端进行迁移,要做到这一点需要更高的带宽和更低延迟的内存。
Rambus GDDR6 PHY除了业界领先的24Gb/s性能外,还经过了全方位的优化,可满足AI/ML及其他需要高带宽、低延迟内存解决方案的先进应用的需求。Rambus能够实现24Gb/s的数据传输速率,依靠的是其在信号完整性和电源完整性(SI/PI)方面享誉世界的专业知识,这些知识可用于设计PHY、芯片封装和印刷电路板(PCB)。Rambus GDDR6 PHY可与Rambus GDDR6数字控制器IP相结合,提供完整的GDDR6内存接口子系统解决方案。
值得一提的是,GDDR6现在已经支持比较先进的FinFET工艺节点。从2019年开始,Rambus就已经在该工艺上进行布局,包括24Gb/s速率的GDDR6。此外,Rambus还针对PCB以及封装提供相关的参考设计。
IDC内存半导体副总裁Soo-Kyoum Kim表示:“凭借领先的速度和带宽,Rambus GDDR6 PHY将为新一代图形应用带来巨大的性能提升。”
/03/
客户需要怎样的内存?
本次发布会上,Rambus还回答了记者的采访。其中包括为什么GDDR会被用到服务器上?DDR和GDDR这两种不同的产品优势和差别分别是什么?用户在具体选择的时候,有怎么样的标准?
Rambus IP核产品营销高级总监Frank Ferro表示:以DDR4为例,它的成本相对是比较低的。劣势是运行速度相对较慢,它的速度可能最高能达到3.2Gb/s。作为GDDR这项技术,从几年前开始就已经能够实现16Gb/s的带宽,而这已经是超过了DDR技术三到四倍之多。由于在DDR4和GDDR6两者之间存在着巨大的性能差异的鸿沟,越来越多的客户也开始探寻如何把GDDR6应用到自己的设计上的方法。这也是为什么GDDR6转变到非图形应用的重要契机和原因。
有关DDR和GDDR的差别,需求端来讲,带宽是主要的标准和最重要的衡量因素,但如果是从存储密度,也就是能够存储多少数据,以及对成本的敏感性来看的话,DDR是更好的选择了。同时, DDR、GDDR和LPDDR这些不同的产品,都是以标准的DRAM为基础。不管你怎么设计,在整个功耗性能上其实都是大同小异。LPDDR,更加关注的更低功耗管理,DDR本身的数据存储密度会更高一点, GDDR是更关注于速度,这三者之间各有千秋。
记者也就AI对于内存的需求与落地时间进行提问。
Rambus 大中华区总经理Raymond Su(苏雷)表示:对于内存产品的需求,首先就是要实现高带宽。在满足带宽需求的大前提下,方案的成本和复杂性就成为第二个考量因素。GDDR技术是在带宽、成本和方案复杂性的各因素之间,提供了一个非常完美的折中技术方案。在设计阶段,Rambus直接和客户合作,提供信号完整性和功能完整性的技术分析,还会帮助客户优化芯片的布局。
关于产品的落地时间,芯片业界的一般规律是从IP最初加入芯片设计,到最终芯片流片成功到推出市场,一颗芯片的诞生需要一到两年的时间。因此我们可能会在2025年或2026年市场上看到使用GDDR6 IP的芯片。
-
存储器
+关注
关注
38文章
7484浏览量
163759 -
DDR
+关注
关注
11文章
712浏览量
65317 -
服务器
+关注
关注
12文章
9123浏览量
85320 -
AI
+关注
关注
87文章
30728浏览量
268871
原文标题:Rambus GDDR6 PHY 赋能AI服务器
文章出处:【微信号:Rambus 蓝铂世科技,微信公众号:Rambus 蓝铂世科技】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论