1 Rambus推出9.6Gbps HBM3内存控制器IP-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Rambus推出9.6Gbps HBM3内存控制器IP

Rambus 蓝铂世科技 来源:Rambus 蓝铂世科技 2023-12-22 13:50 次阅读

人工智能AI)无疑是近几年最火的技术。从开发到部署AI技术主要可分为两大步骤,即AI训练和AI推理。

AI训练主要是为AI模型提供数据,使其掌握了解将要分析的数据类型所需的一切信息的过程;而AI推理则是通过经过训练的AI模型运行新的实时数据,从而作出预测并产生可执行结果的过程。

在这两个过程中,它们对于计算的需求不同,AI训练的计算周期长,需要大量优质数据,是一次性的投资。AI推理则是短时间的算力需求激增,需要快速、高效能的计算,是一个长期投资。

尤其对于AI训练,随着AI大模型的复杂度不断提升,AI训练所需的数据也在持续增长。根据OpenAI的数据,自2012年以来,最大规模的AI训练所使用的计算量以每年10倍的速度增长。以OpenAI的ChatGPT为例,2022年11月发布的GPT-3当时使用了1750亿个参数构建,而到2023年3月发布的GPT-4时,使用的参数数量已经超过1.5万亿个。这一数据还在持续增长中。

如此大规模的数据总量对于内存提出了较高要求,如高带宽、高容量、高性能等,传统的内存产品已经无法满足AI训练的需求。而HBM似乎是为AI训练量身定做的存储器产品。

HBM(High Bandwidth Memory,高带宽存储器)最先是AMD和SK海力士发起的一种基于3D堆栈工艺的高性能DRAM,它包含了中介层、处理器以及内存堆栈。这意味着HBM可以提供非常高的带宽,而且还具有非常高的能效及低延迟。目前,HBM内存已经演进了了几代,最新一代为HBM3E,英伟达即将发布的H200将是首款提供HBM3E的GPU产品。

人工智能技术的发展也带动了HBM市场的不断发展,在今年内存市场普遍低迷的情况下,HBM需求井喷,未来几年的增幅也将扩大。据咨询机构TrendForce预测,2024年全球HBM的位元供给有望增长105%。到2024年,HBM的市场规模有望达到89亿美元,同比增长127%,2025年预计将突破100亿美元。

在此情况下,作为内存控制器IP的主要提供商之一,Rambus也积极布局HBM内存市场,近期推出了数据传输速率高达9.6Gb/s的HBM3内存控制器IP,可帮助大幅提高AI性能。据Rambus接口IP产品管理和营销副总裁Joe Salvador先生介绍,Rambus的这一内存控制器IP产品是经过验证的,可支持所有HBM3产品,也包括最新的HBM3E内存设备。

1f1aa36c-a085-11ee-8b88-92fbcf53809c.png

Rambus HBM3控制器模块图

Joe Salvador强调:“Rambus HBM3控制器不仅仅是一个独立产品,我们还能提供一整套完整的经过验证的解决方案,能够和市面上目前比较常见的HBM3以及相关的内存模组进行匹配,如SK海力士、美光和三星的产品,我们都已经完成了一整套的测试。另外,我们也经过了第三方来自西门子Avery的验证IP,也可以完整地支持相应的功能。”

目前,随着AI技术的不断发展,对于算力和内存的需求也将不断增长。Rambus大中华区总经理苏雷先生表示:“AI技术发展面临的挑战将更多集中于存储墙问题,而算力的演进将不会面临太多的挑战。目前的内存和带宽的发展还是太慢,无法跟上AI技术的发展脚步。作为存储方面的专家,Rambus可以预见,伴随着AI的新成长和驱动,我们会在这一轮的科技浪潮中发挥越来越重要的作用,助力AI的发展。”

另外,数据安全也是在AI技术发展中不可忽视的问题。苏雷表示:“我们也提供安全IP方面的全套方案,让数据传输更快、更安全。”

AI时代的来临,带来了很多挑战和机遇。而对于存储器市场来说,则是一次很好的发展机会。作为存储行业的老兵,Rambus未来也大有可为。







审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 控制器
    +关注

    关注

    112

    文章

    16332

    浏览量

    177795
  • 人工智能
    +关注

    关注

    1791

    文章

    47182

    浏览量

    238199
  • ai技术
    +关注

    关注

    1

    文章

    1266

    浏览量

    24284
  • HBM3
    +关注

    关注

    0

    文章

    74

    浏览量

    154

原文标题:【媒体报道】术业专攻,Rambus推出9.6Gbps HBM3内存控制器IP

文章出处:【微信号:Rambus 蓝铂世科技,微信公众号:Rambus 蓝铂世科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    风景独好?12层HBM3E量产,16层HBM3E在研,产业链涌动

    9.6Gbps,这是在以搭载四个HBM的单个GPU运行大型语言模型(LLM)“Llama 3 70B”时,每秒可读取35次
    的头像 发表于 10-06 01:03 3807次阅读
    风景独好?12层<b class='flag-5'>HBM3</b>E量产,16层<b class='flag-5'>HBM3</b>E在研,产业链涌动

    HBM格局生变!传三星HBM3量产供货英伟达,国内厂商积极布局

    德赢Vwin官网 网报道(文/吴子鹏)根据韩媒sedaily 的最新报道,三星华城17号产线已开始量产并向英伟达供应HBM3内存。同时,美光已经为英伟达供应HBM3E。至此,高端HBM
    的头像 发表于 07-23 00:04 3754次阅读

    HBM4进一步打破内存墙,Rambus控制器IP先行

    倍。但我们看到,在相同时间内硬件内存的规模仅增长了两倍。   那么要完成这些AI模型的任务,就必须投入额外数量的GPU和AI加速,才能满足对内存容量和带宽的需求。同时内存系统也必须不
    的头像 发表于 11-19 16:41 1036次阅读
    <b class='flag-5'>HBM</b>4进一步打破<b class='flag-5'>内存</b>墙,<b class='flag-5'>Rambus</b><b class='flag-5'>控制器</b><b class='flag-5'>IP</b>先行

    Rambus推出业界首款HBM4控制器IP

    Rambus Inc.,业界知名的芯片和半导体IP供应商,近日宣布了一项重大突破:推出业界首款HBM4(High Bandwidth Memory 4,高带宽
    的头像 发表于 11-14 16:33 454次阅读

    Rambus宣布推出业界首款HBM4控制器IP,加速下一代AI工作负载

    产品组合   图1:Rambus HBM4控制器   中国北京,2024年11月13日 —— 作为业界领先的芯片和半导体IP供应商,致力于使数据传输更快更安全,
    发表于 11-13 15:36 382次阅读
    <b class='flag-5'>Rambus</b>宣布<b class='flag-5'>推出</b>业界首款<b class='flag-5'>HBM</b>4<b class='flag-5'>控制器</b><b class='flag-5'>IP</b>,加速下一代AI工作负载

    Rambus推GDDR7内存控制器IP满足AI应用需求

    据报道,该公司的 GDDR7 控制器采用 PAM3 信号,运行速度高达 40 Gbps,能为 GDDR7 存储设备提供 160 GB/s 的吞吐量,相比其自身研发的GDDR6
    的头像 发表于 04-23 15:52 424次阅读

    三星LPDDR5X DRAM内存创10.7Gbps速率新高

    值得注意的是,此前市场上其他品牌的LPDDR5X DRAM内存最高速度仅为9.6Gbps。三星表示,新款10.7Gbps LPDDR5X内存采用12纳米级制程工艺,相较前代产品性能提升
    的头像 发表于 04-17 16:29 698次阅读

    HBM3E起飞,冲锋战鼓已然擂响

    HBM3自2022年1月诞生,便凭借其独特的2.5D/3D内存架构,迅速成为高性能计算领域的翘楚。HBM3不仅继承了前代产品的优秀特性,更在技术上取得了显著的突破。它采用了高达1024
    的头像 发表于 03-30 14:34 2176次阅读
    <b class='flag-5'>HBM3</b>E起飞,冲锋战鼓已然擂响

    NVIDIA预定购三星独家供应的大量12层HBM3E内存

    据悉,HBM3E 12H内存具备高达1280GB/s的宽带速率以及36GB的超大存储容量,较8层堆叠的HBM3 8H,分别提升了50%以上的带宽及容量。
    的头像 发表于 03-25 15:36 418次阅读

    英伟达CEO赞誉三星HBM内存,计划采购

     提及此前有人预测英伟达可能向三星购买HBM3HBM3E等内存,黄仁勋在会上直接认可三星实力,称其为“极具价值的公司”。他透露目前已对三星HBM
    的头像 发表于 03-20 16:17 835次阅读

    什么是HBM3E内存Rambus HBM3E/3内存控制器内核

    Rambus HBM3E/3 内存控制器内核针对高带宽和低延迟进行了优化,以紧凑的外形和高能效的封装为人工智能训练提供了最大的性能和灵活性。
    发表于 03-20 14:12 2482次阅读
    什么是<b class='flag-5'>HBM3</b>E<b class='flag-5'>内存</b>?<b class='flag-5'>Rambus</b> <b class='flag-5'>HBM3</b>E/<b class='flag-5'>3</b><b class='flag-5'>内存</b><b class='flag-5'>控制器</b>内核

    AMD MI300加速将支持HBM3E内存

    据手机资讯网站IT之家了解,MI300加速配备了HBM3内存模块,并面向HBM3E进行了重新设计。另外,该公司在供应链交付合作方面颇为深入,不仅与主要的存储
    的头像 发表于 02-27 15:45 654次阅读

    AMD发布HBM3e AI加速升级版,2025年推新款Instinct MI

    目前,只有英伟达的Hopper GH200芯片配备了HBM3e内存。与现有的HBM3相比,HBM3e的速度提升了50%,单个平台可以达到10TB/s的带宽,单颗芯片能够实现5TB/s的
    的头像 发表于 02-25 11:22 615次阅读

    Rambus HBM3内存控制器IP速率达到9.6 Gbps

    在人工智能大模型浪潮的推动下,AI训练数据集正极速扩增。以ChatGPT为例,去年11月发布的GPT-3,使用1750亿个参数构建,今年3月发布的GPT-4使用超过1.5万亿个参数。海量的数据训练,这对算力提出了高需求。
    的头像 发表于 01-23 11:19 971次阅读
    <b class='flag-5'>Rambus</b> <b class='flag-5'>HBM3</b><b class='flag-5'>内存</b><b class='flag-5'>控制器</b><b class='flag-5'>IP</b>速率达到<b class='flag-5'>9.6</b> <b class='flag-5'>Gbps</b>

    英伟达斥资预购HBM3内存,为H200及超级芯片储备产能

    据最新传闻,英伟达正在筹划发布两款搭载HBM3E内存的新品——包括141GB HBM3E的H200 GPU及GH200超级芯片,这也进一步说明了对于HBM
    的头像 发表于 01-02 09:27 764次阅读