电子发烧友网报道(文/周凯扬)随着AI芯片逐渐成为半导体市场的香饽饽,与之相关的附属产物也在不断升值,被一并炒热。就拿高带宽内存HBM来说,无论是英伟达的GPU芯片,还是初创公司打造的AI芯片,又或是大型CSP自研的服务器芯片,都开始引入HBM。
成为新时代另一主流的HBM
过去HBM主要用于AMD或英伟达的高端GPU产品中,这与成本息息相关,比如额外的硅中介层、更大的封装等,增加的系统成本使得HBM只会出现在一些顶级消费级产品中,甚至两者最终都在消费级产品上放弃了HBM,改用于数据中心这样的企业级场景。
可随着人工智能/机器学习的需求驱动这类产品用量增长,内存墙的瓶颈开始显现。我们不再缺超高性能的CPU,缺的反而是超高性能的GPU/AI加速器,以及更高带宽的内存,应对大量低延时的数据移动。
所以HBM被认为是AI/ML时代下的首选内存,为某些算法提供了训练所需的最大带宽,比如最近英伟达公布的第二代Grace Hopper Superchip,就分成了不同GPU内存配置的版本,率先推出的是搭载96GB HBM3的版本,明年第二季度将推出搭载144GB HBM3e的版本。
HBM的市场供应已经发生变动
要说HBM的供应商,主要是SK海力士、三星和美光。TrendForce通过当下各大供应商的生产计划数据分析,内存厂商正在提高其产能,比如扩大TSV产线等。预计到2024年,HBM供应将增加105%。其中SK海力士因为收获了来自英伟达的大量订单,所以尚且占据头号交椅的位置。而在三星的奋起直追下,已经拉近了与SK海力士的市占比距离。
三星作为存储厂商和晶圆代工厂,既提供了HBM方案也提供了对应的多HBM封装方案,这种一站式的方案也收获了更多的订单。根据韩媒的报道,三星与可能会与英伟达在年末达成服务与供应协议,为英伟达的H100以之后搭载HBM3的芯片提供HBM产能,
至于美光虽然也有HBM产品,但主要优势还是在传统内存上。可随着生成式AI一炮走红之后,美光也开始决心在HBM产品上奋起直追。比如上个月底,美光就基于其先进的1β工艺节点,发布了业界首个8-high 24GB HBM3第二代产品,带宽可达1.2TB/s以上,并宣布已经开始送样。
美光也在通稿中专门提到了该HBM产品对于GPT-4等生成式AI应用起到的助力,比如为AI推理提供更高的能效比,以及为运营者提供更优的TCO解决方案。此外,美光已经开始准备12-high的36GB版本,并计划于2024年第一季度送样。
至于HBM的价格问题,鉴于目前主流芯片用的还是HBM2和HBM2e,且出货量仍在增加,所以短期内不会有太大的波动。不过,TrendForce预计随着HBM3的推出,以及H100等基于HBM3设计的AI芯片逐渐面世,老一代HBM内存的价格应该会有所下跌,让位给ASP价格更高但性价比依然有所提升的HBM3。
小结
尽管HBM以及后续迭代的版本解决了当下AI计算的内存墙问题,但内存厂商们考虑到传统内存最近的库存情况,明显对于满足客户需求、扩大市场份额以及避免产能过剩有了新的权衡,在产能扩张的决策上也会更加谨慎。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网
网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
相关推荐
爱普生投影机,看看它是如何凭借卓越性能和技术优势,成为高校教室焕新的新宠儿! 爱普生投影机凭借卓越的性能和技术优势,为众多高校教室提供了多样化的显示方案,助力解决传统教室环境中显示设备清晰度不足、尺寸不够大
发表于 11-23 14:43
•389次阅读
传统泡水法出局,气密性检测仪成为防水产品新宠儿
发表于 11-01 11:03
•2653次阅读
在军工领域,技术的每一次革新都预示着战场格局的深刻变化。近年来,一体化摄像机机芯模组凭借其独特的技术优势和广泛的应用潜力,成为了军工领域的新宠儿。本文将详细探讨一体化摄像机机芯模组在军工领域
发表于 09-13 14:34
•254次阅读
产能布局,将大量资源转向生产面向AI需求的高频宽内存(HBM),导致DDR5等常规内存规格的生产量急剧减少。
发表于 08-15 10:19
•743次阅读
的气密性检测技术成为了汽车制造领域的重要课题。本文将深入探讨汽车线束连接器气密性检测的科技新宠儿——高精度气密性检测仪,并阐述其在现代汽车生产中的重要作用。一、汽
发表于 08-08 15:12
•1185次阅读
慧明电子目前热卖的、自主研发的MX系列数字调音台,目前共有2个型号,分别是12进6出的MX12和16进8出的MX16。让我们一探究竟,看看它如何成为音响扩声系统的新宠儿! 轻巧设计,功能全面 MX
发表于 06-19 11:15
•854次阅读
这类内存的售价远高于主流 DRAM,而由于制作 TSV 工艺的良率问题,对晶圆的消费量更是达到普通内存的 2-3 倍。因此,内存厂商需提高 HBM
发表于 05-14 17:15
•541次阅读
HBM 制造商 Kim Gwi-wook 宣布,由于市场需求,SK海力士将提速研发进程,预计最快在 2026 年推出 HBM4E 内存在内存带宽上比 HBM4 提升 1.4 倍。
发表于 05-14 10:23
•443次阅读
HBM内存基础裸片即DRAM堆叠基座,兼具与处理器通信的控制功能。SK海力士近期与台积电签订HBM内存合作协议,首要任务便是提升HBM基础逻
发表于 04-23 16:41
•802次阅读
提及此前有人预测英伟达可能向三星购买HBM3或HBM3E等内存,黄仁勋在会上直接认可三星实力,称其为“极具价值的公司”。他透露目前已对三星HBM内
发表于 03-20 16:17
•835次阅读
Rambus HBM3E/3 内存控制器内核针对高带宽和低延迟进行了优化,以紧凑的外形和高能效的封装为人工智能训练提供了最大的性能和灵活性。
发表于 03-20 14:12
•2482次阅读
SK 海力士副总裁 Kim Ki-Tae 对此表示,作为 HBM 行业翘楚,海力士洞察到市场对 HBM 存储的巨大需求,现已提前调整产量,以期更好地满足市场需求,保护其市场占有率。
发表于 02-23 14:12
•841次阅读
掌控未来:DCS vs PLC,谁将成为工业控制的新宠儿? 随着科技的不断进步,工业自动化控制系统的需求也在不断增加。DCS和PLC是工业自动化控制系统中最常见的两种控制器,它们在控制方式、应用场
发表于 01-02 17:07
•683次阅读
HBM作为基于3D堆栈工艺的高性能DRAM,打破内存带宽及功耗瓶颈。HBM(High Bandwidth Memory)即高带宽存储器,通过使用先进封装(如TSV硅通孔、微凸块)将多个DRAM芯片进行堆叠,并与GPU一同进行封装
发表于 01-02 09:59
•5216次阅读
据最新传闻,英伟达正在筹划发布两款搭载HBM3E内存的新品——包括141GB HBM3E的H200 GPU及GH200超级芯片,这也进一步说明了对于HBM
发表于 01-02 09:27
•764次阅读
评论