1 Rambus GDDR6 PHY 赋能AI服务器-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Rambus GDDR6 PHY 赋能AI服务器

Rambus 蓝铂世科技 来源:eefocus 2023-06-26 14:41 次阅读

/导读/

内存,对于装机爱好者来说已经再熟悉不过了。它是计算机的重要部件,用于暂时存放CPU中的运算数据,以及与硬盘等外部存储器交换的数据。简单来说,内存就是CPU的“草稿纸”,负责将CPU这个大脑暂时用不到的数据存放起来,以备随时取用。这种将数据放在CPU外暂存的结构被称为“冯·诺依曼结构”。即使将CPU升级为服务器级别,其数据交换方式仍旧是这样。

不过,随着AI时代来临,服务器核心的算力越来越高,它与内存间的数据交换频率也水涨船高,算力的增长非常显著,但是带宽上的进步却无法改善,造成两者间不匹配,也导致了很多GPU资源的浪费。存储带宽制约了计算系统的有效带宽,这也导致芯片算力增长步履维艰。近日,Rambus在产品发布会上带来了GDDR6 PHY产品,可以有效提升内存数据传输速率,满足生成式AI等先进计算应用的需求。

/01/

服务器的GDDR时代来了

传统内存,按照不同代际分为DDR至DDR5。DDR的全称为Double Data Rate SDRAM(双倍速率的SDRAM)。DRAM指动态随机存取内存,SDRAM就是一种传输速率更高的DRAM。

DDR内存从1代进化到5代,它的时钟周期变短了,频率也就变高了,因此传输速度也就更快。此外,更高代的内存支持的最大容量也越大,电压更低,耗电更少。

而GDDR通常指的是用在显卡上的内存,本质上还是双倍速率同步动态随机存储器,它是为了设计高端显卡而特别设计的高性能 DDR 存储器规格,其有专属的工作频率、时钟频率、电压,因此与市面上标准的 DDR 存储器有所差异,与普通 DDR 内存不同且不能共用。一般它比主内存中使用的普通 DDR 存储器时钟频率更高,发热量更小,所以更适合搭配高端显示芯片。

GDDR的出现是因为程序需要进行更频繁的图形计算,需要频繁读取内存中的数据,因此就需要更高性能的内存来辅助显卡运行。

AI应用对于内存带宽有着旺盛需求,其训练集每年也以10倍的速度增长。GDDR内存逐渐成为众望所归。Rambus GDDR6 PHY提供市场领先的数据传输速率,最高可达24 Gb/s,能够为每个GDDR6内存设备带来96 GB/s的带宽。作为系统级解决方案的一部分,Rambus GDDR6能够为人工智能/机器学习(AI/ML)、图形和网络应用提供高成本效益、高带宽的内存性能。

Rambus首席运营官范贤志表示:“凭借Rambus GDDR6 PHY所实现的新一级性能,设计人员可以为带宽要求极为苛刻的工作负载提供所需的带宽。和我们领先的HBM3内存接口一样,这项最新成就表明了我们不断致力于开发最先进的内存性能,以满足生成式AI等先进计算应用的需求。”

bc285cd6-13e9-11ee-962d-dac502259ad0.jpg

/02/

快,就够了吗?

人工智能的推理正在向边缘端进行迁移,要做到这一点需要更高的带宽和更低延迟的内存。

Rambus GDDR6 PHY除了业界领先的24Gb/s性能外,还经过了全方位的优化,可满足AI/ML及其他需要高带宽、低延迟内存解决方案的先进应用的需求。Rambus能够实现24Gb/s的数据传输速率,依靠的是其在信号完整性和电源完整性(SI/PI)方面享誉世界的专业知识,这些知识可用于设计PHY、芯片封装和印刷电路板(PCB)。Rambus GDDR6 PHY可与Rambus GDDR6数字控制器IP相结合,提供完整的GDDR6内存接口子系统解决方案。

值得一提的是,GDDR6现在已经支持比较先进的FinFET工艺节点。从2019年开始,Rambus就已经在该工艺上进行布局,包括24Gb/s速率的GDDR6。此外,Rambus还针对PCB以及封装提供相关的参考设计。

IDC内存半导体副总裁Soo-Kyoum Kim表示:“凭借领先的速度和带宽,Rambus GDDR6 PHY将为新一代图形应用带来巨大的性能提升。”

/03/

客户需要怎样的内存?

本次发布会上,Rambus还回答了记者的采访。其中包括为什么GDDR会被用到服务器上?DDR和GDDR这两种不同的产品优势和差别分别是什么?用户在具体选择的时候,有怎么样的标准?

Rambus IP核产品营销高级总监Frank Ferro表示:以DDR4为例,它的成本相对是比较低的。劣势是运行速度相对较慢,它的速度可能最高能达到3.2Gb/s。作为GDDR这项技术,从几年前开始就已经能够实现16Gb/s的带宽,而这已经是超过了DDR技术三到四倍之多。由于在DDR4和GDDR6两者之间存在着巨大的性能差异的鸿沟,越来越多的客户也开始探寻如何把GDDR6应用到自己的设计上的方法。这也是为什么GDDR6转变到非图形应用的重要契机和原因。

有关DDR和GDDR的差别,需求端来讲,带宽是主要的标准和最重要的衡量因素,但如果是从存储密度,也就是能够存储多少数据,以及对成本的敏感性来看的话,DDR是更好的选择了。同时, DDR、GDDR和LPDDR这些不同的产品,都是以标准的DRAM为基础。不管你怎么设计,在整个功耗性能上其实都是大同小异。LPDDR,更加关注的更低功耗管理,DDR本身的数据存储密度会更高一点, GDDR是更关注于速度,这三者之间各有千秋。

记者也就AI对于内存的需求与落地时间进行提问。

Rambus 大中华区总经理Raymond Su(苏雷)表示:对于内存产品的需求,首先就是要实现高带宽。在满足带宽需求的大前提下,方案的成本和复杂性就成为第二个考量因素。GDDR技术是在带宽、成本和方案复杂性的各因素之间,提供了一个非常完美的折中技术方案。在设计阶段,Rambus直接和客户合作,提供信号完整性和功能完整性的技术分析,还会帮助客户优化芯片的布局。

关于产品的落地时间,芯片业界的一般规律是从IP最初加入芯片设计,到最终芯片流片成功到推出市场,一颗芯片的诞生需要一到两年的时间。因此我们可能会在2025年或2026年市场上看到使用GDDR6 IP的芯片。

bc304ae0-13e9-11ee-962d-dac502259ad0.png

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储器
    +关注

    关注

    38

    文章

    7484

    浏览量

    163759
  • DDR
    DDR
    +关注

    关注

    11

    文章

    712

    浏览量

    65317
  • 服务器
    +关注

    关注

    12

    文章

    9123

    浏览量

    85320
  • AI
    AI
    +关注

    关注

    87

    文章

    30728

    浏览量

    268871

原文标题:Rambus GDDR6 PHY 赋能AI服务器

文章出处:【微信号:Rambus 蓝铂世科技,微信公众号:Rambus 蓝铂世科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    紫光国芯发布GDDR6控制芯片:12nm工艺 速率可达16Gbps

    日前西安紫光国芯宣布推出12nm工艺的GDDR6存储控制和物理接口IP(GDDR6 MC/PHY IP)。紫光国芯之前做过DDR内存芯片,还有就是NAND闪存,推出显存相关的IP芯片
    的头像 发表于 11-09 10:34 2890次阅读

    Rambus通过业界领先的24Gb/s GDDR6 PHY提升AI性能

    内存接口性能。Rambus GDDR6 PHY提供市场领先的数据传输速率,最高可达24 Gb/s,能够为每个GDDR6内存设备带来96 GB/s的带宽。作为系统级解决方案的一部分,
    发表于 05-17 13:47 457次阅读

    如何缓解GDDR6 DRAM实施所带来的挑战

      本文探讨了几个设计考量和方法用以缓解GDDR6 DRAM实施所带来的挑战。特别指出了在整个接口通道保持信号完整性的重要性。必须特别重视GDDR6存储接口设计的每个阶段,才能够成功解决信号完整性
    发表于 01-01 06:29

    探究GDDR6给FPGA带来的大带宽存储优势以及性能测试(上)

    GDDR6控制所带来的优势。2.GDDR6的发展在GDDR的设计之初,其定位是针对图形显示卡所特别优化的一种DDR内存。因为2000年后电脑游戏特别是3D游戏的发展和火爆,使运行电脑
    发表于 12-21 08:00

    探究GDDR6给FPGA带来的大带宽存储优势以及性能测试(下)

    上传输16bit的数据。这样GDDR6每个通道最小的访问粒度是256bit或者32Byte。一个GDDR6控制支持两个独立通道,一个GDDR6颗粒也是两个独立的通道,所以在通常模式下
    发表于 12-22 08:00

    美光已完成12Gbps /14Gbps GDDR6认证 计划2018年量产

    GDDR6 将有望成为2018年性能最强的显示卡记忆体,不过相比GDDR5 ,GDDR6 的价格可能比较昂贵。据报道,美光宣布已经完成了GDDR6 设计与内部认证,公司计划会在 201
    发表于 12-25 11:49 1660次阅读
    美光已完成12Gbps /14Gbps <b class='flag-5'>GDDR6</b>认证 计划2018年量产

    Rambus GDDR6 PHY内存达18 Gbps 延续了公司长期开发领先产品的传统

    硅IP和芯片提供商Rambus 31日宣布其Rambus GDDR6 PHY 内存已达到行业领先的18 Gbps性能。Rambus
    发表于 11-15 16:07 999次阅读

    三星GDDR5停产,向GDDR6显存转移

    根据消息,三星GDDR5显存已停产,未来主流显卡将标配GDDR6显存。
    的头像 发表于 12-18 14:14 2587次阅读

    GTX 1650 GDDR6和GTX 1650 GDDR5区别在哪里

    GDDR6显存很长时间以来是中高端显卡的标志,可是随着GDDR6价格的不断下降,时代早就变了,近几天入门级游戏显卡GTX 1650终于也投向了GDDR6,相关产品纷纷上架。不过GDDR
    的头像 发表于 08-18 14:24 2.2w次阅读
    GTX 1650 <b class='flag-5'>GDDR6</b>和GTX 1650 <b class='flag-5'>GDDR</b>5区别在哪里

    凭借12nm工艺,国产芯片终杀进GDDR6存储控制市场

    不经意间,中国的芯片公司又闯入了一个新领域,日前西安紫光国芯宣布推出12nm工艺的GDDR6存储控制和物理接口IP(GDDR6 MC/PHY IP)。
    的头像 发表于 11-07 09:27 3107次阅读

    紫光国芯宣布推出12nm工艺的GDDR6存储控制和物理接口IP

    根据紫光国芯介绍,这个GDDR6 MC/PHY IP包括一个可配置的内存控制(MC),其完全符合DFI3.1和AMBA AXI4.0标准,并允许设计工程师生成具有优化延迟和带宽的GDDR6
    的头像 发表于 11-19 14:53 2269次阅读

    部分AMD Radeon RX 6000系列显卡搭载美光GDDR6内存

    美光GDDR6显存AMD Radeon RX 6700、Radeon RX 6600系列实现性能“无妥协”。美光正与AMD合作,提供颠覆性的图形解决方案与极致游戏体验。
    的头像 发表于 01-20 11:49 2009次阅读

    Rambus推出提升GDDR6内存接口性能的Rambus GDDR6

    凭借Rambus GDDR6 PHY所实现的新一级性能,设计人员可以为带宽要求极为苛刻的工作负载提供所需的带宽。和我们领先的HBM3内存接口一样,这项最新成就表明了我们不断致力于开发最先进的内存性能,以满足生成式
    的头像 发表于 05-17 14:22 826次阅读

    AI推理打造高达24Gb/s的GDDR6 PHYRambus全面支持中国市场的AI升级

    ,但对成本和功耗更为敏感。   在AI推理应用越来越多的趋势下,Rambus率先研判与推出GDDR6 IP产品组合。Rambus IP核产品营销高级总监Frank Ferro先生表示,
    的头像 发表于 05-26 16:38 1577次阅读
    为<b class='flag-5'>AI</b>推理打造高达24Gb/s的<b class='flag-5'>GDDR6</b> <b class='flag-5'>PHY</b>,<b class='flag-5'>Rambus</b>全面支持中国市场的<b class='flag-5'>AI</b>升级

    缓解AI推理算力焦虑,高带宽GDDR6成杀手锏?

    Rambus IP 核产品营销高级总监 Frank Ferro 分享,AI 推理应用对带宽的需求通常在 200 到 500Gb/s 的范围之间波动,每一个 GDDR6 设备的带宽都可以达到
    的头像 发表于 06-02 15:49 590次阅读
    缓解<b class='flag-5'>AI</b>推理算力焦虑,高带宽<b class='flag-5'>GDDR6</b>成杀手锏?