1 AI时代核心存力HBM(中)-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI时代核心存力HBM(中)

闪德半导体 来源:闪德半导体 2024-11-16 09:59 次阅读

HBM 对半导体产业链的影响1. HBM 的核心工艺在于硅通孔技术(TSV)和堆叠键合技术 硅通孔:TSV(Through-Silicon Via) 是一种能让 3D 封装遵循摩尔定律演进的互连技术,芯片与芯片之间(Chip to Chip)、芯片与晶圆之间(Chip to Wafer)、晶圆与晶圆之间(Wafer to Wafer)实现完全穿孔的垂直电气连接,可像三明治一样堆叠晶片。

这些垂直连接可用于互连多个芯片、存储器、传感器和其他模块,硅通孔互连赋予了各种 2.5D/3D封装应用和架构芯片纵向维度的集成能力,以最低的能耗/性能指标提供极高的性能和功能,以打造更小更快更节能的设备。

通过更薄的硅芯片缩短互连长度和短垂直连接,有助于减少芯片的整体面积和功耗、将信号传播延迟减少几个数量级。

同时可以实现异构集成,将来自不同技术和制造商的多个芯片组合到一个封装中,从而使它们能够提供更好的功能和性能。这使其非常适合用于不同的高速应用,如数据中心、服务器、图形处理单元 (GPU)、基于人工智能AI) 的处理器和多种无线通信设备。

HBM 通过 SIP 和 TSV 技术将数个 DRAM 裸片像楼层一样垂直堆叠,在 DRAM 芯片打上数千个 细微的孔,并通过垂直贯通的电极连接上下芯片的技术,可显著提升数据传输速度,适用于高存储器带宽需求,成为当前 AI GPU 存储单元的理想方案和关键部件。

HBM 通过 TSV 技术内部连接情况

英伟达 A100 SEM 扫描图 堆叠键合技术:在 HBM 产品开发之初,HBM 主要采用“TSV+Bumping”+TCB 键合方式堆叠(TSV 一般由晶圆厂完成,封测厂可在堆叠环节进行配套)。其中,热压键合主要用于创建原子级金属键合,它利用力和热量来促进原子在晶格之间迁移,从而形成清洁、高导电性和坚固的键合。

通常,TCB 被用于垂直集成器件的 CMOS 工艺、金引线和表面之间固态键合的顺应键合(compliant bonding)、用于将芯片凸块键合到基板的倒装芯片应用以及用于连接微型组件的热压键合。随着层数变高,晶片会出现翘曲和发热等因素,但又要满足 HBM 芯片的标准厚度——720 微米(μm),这就对封装工艺提出较高要求。

三星采用TC-NCF焊接法,在DRAM之间夹上一层不导电的粘合剂薄膜 (NCF),然后进行热压,但随着堆叠层数的增加散热效率很差,TCB 不再满足需求,但 TCB 技术仍有着一定的优势,如其解决了标准倒装芯片的基板翘曲问题。同时,这种键合方式确保均匀粘合,没有间隙变化或倾斜;而且这种粘合几乎没有空隙,也没有污染。

海力士从 HBM2e 开始放弃了 TC-NCF 工艺,改用批量回流模制底部填充(MR-MUF)工艺,即芯片之间用液态环氧模塑料作为填充材料,导热率比TC-NCF中的导热率高出2倍左右,实现了更低的键合应力和更优的散热性能,这无论对于工艺速度,还是良率等都有很大影响。预计海力士 HBM3e 将采用改进的 MR-MUF 工艺,进一步降低键合应力,提升散热性能, 增加堆叠层数。

SK 海力士 MR-MUF 技术

MR-MUF 比 NCF 导热率高出 2 倍左右 然而,无论是 TCB 技术还是 MR-MUF 工艺均存在着一定的局限性,难以实现更小的间距,行业内在尝试用混合键合技术。混合键合互连方案,是指在一个键合步骤中同时键合电介质(dielectric)和金属键合焊盘(metal bond pads),可以显著降低整体封装厚度,在多芯片堆叠封装中甚至可能高达数百微米。但混合键合对环境要求非常高,要达到 class1clean room(非常的清洁),这对厂商带来较大的挑战。

随着 HBM 历次迭代,HBM 中的DRAM 数量也同步提升,堆叠于 HBM2 中的 DRAM 数量为 4-8 个,HBM3/3E 则增加到8-12 个,HBM4 中堆叠的 DRAM 数量将增加到 16 个。

如 2024 年 4 月 7 日,三星电子先进封装团队高管 Dae Woo Kim 在 2024 年度韩国微电子与封装学会年会上表示,三星电子成功制造了基于混合键合技术的 16 层堆叠 HBM3 内存, 该内存样品工作正常,未来 16 层堆叠混合键合技术将用于 HBM4 内存量产。

三星 HBM4 预计采用混合键合技术 2 HBM 对散热材料 EMC 提出分散性和散热性要求HBM 对 EMC 提出分散性和散热性要求,EMC和填料价值量大幅提升。环氧塑封料(EMC,Epoxy Molding Compound),是一种常见的半导体封装外壳材料,也是半导体封装中主要的包封材料,EMC 中主要组分来自填料,其中调料主要用于降低膨胀系数和内应力、提高散热性能。 HBM 独特的叠构形态使得外围用于塑封的 EMC 及内部填料也需要相应的升级,具体逻辑在于: 1) HBM 采用芯片垂直叠构的框架,使得塑封的高度显著高于传统单芯片的塑封高度,较高的高度要求外围塑封料要有充分的分散性,则 EMC 就要从传统注塑饼状变为撒粉颗粒状的颗粒状环氧塑封料(GMC,Granular Molding Compound)和液态塑封料(LMC,Liquid Molding Compound),对于 EMC 厂商,这样的升级需要在配方中同时兼顾分散性和绝缘性,配方难度较大。

HBM 对 EMC 性能提出新要求,所用填料也需要改变 2) 由于 1 颗 HBM 中将搭载 4-8 层甚至更多层的存储芯片,单颗 HBM 中所涉及到的数据存 储和数据运输量较大,将带来发热量大的问题,散热方案的优劣将决定整颗 HBM 性能, 因此HBM的EMC中将开始大量使用low α球铝和球硅来保证快速散热和控制热膨胀问题。

当前运用 TSV 技术的场景主要在 2.5D 硅中阶层和 3D 垂直叠构,其中 3D TSV 的特点 在于通过垂直叠构的方式缩短了芯片间通信距离,相较于传统水平排布的方式,外围用于塑封的 EMC 及内部填料料也需要相应的升级。

一方面垂直叠构导致塑封的高度显著高于传统单芯片的塑封高度,较高的高度要求外围塑封料要有充分的分散性,则EMC就要从传统注塑饼状变为撒粉颗粒状的颗粒状环氧塑封料(GMC,GranularMolding Compound)和液态塑封料(LMC,Liquid Molding Compound),对于 EMC 厂商,这样的升级需要在配方中同时兼顾分散性和绝缘性,配方难度较大。

HBM 封装需要用到 GMC 和 LMC 两类偏高端的 EMC

另一方面采用 TSV 方式连接的芯片需要一起塑封,则单个塑封体中的运算量急剧上升,从而带来较大的发热问题,需要大量使用low α球铝和球硅来保证快速散热和控制热膨胀问题。

以 HBM 为例,1 颗 HBM 中将搭载4-8 颗甚至更多芯片,封装高度高且存储带宽大,需要用添加 low α球硅/球铝的GMC/LMC 来做塑封外壳。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    455

    文章

    50711

    浏览量

    423098
  • DRAM
    +关注

    关注

    40

    文章

    2310

    浏览量

    183434
  • HBM
    HBM
    +关注

    关注

    0

    文章

    378

    浏览量

    14742

原文标题:AI时代核心存力 HBM(中)

文章出处:【微信号:闪德半导体,微信公众号:闪德半导体】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    HBM4到来前夕,HBM热出现两极分化

    德赢Vwin官网 网报道(文/黄晶晶)高带宽存储器HBM由于生成式AI的到来而异军突起,成为AI训练不可或缺的存储产品。三大HBM厂商SK海力士、三星电子、美光科技也因
    的头像 发表于 09-23 12:00 2586次阅读

    AI时代核心存HBM(上)

      一、HBM 是什么? 1、HBMAI 时代的必需品作为行业主流存储产品的动态随机存取存储器 DRAM 针对不同的应用领域定义了不同的产 品,几个主要大类包括 LPDDR、DD
    的头像 发表于 11-16 10:30 542次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>时代</b><b class='flag-5'>核心存</b><b class='flag-5'>力</b><b class='flag-5'>HBM</b>(上)

    AI时代的重要性及现状:平衡发展与优化配置的挑战

    AI时代,算扮演着至关重要的角色。如果说数据是AI大模型的“燃料”,那么算则是其强大的“动力引擎”。据资料显示,为了训练GPT大模型,
    的头像 发表于 11-04 11:45 406次阅读

    亿铸科技熊大鹏探讨AI大算芯片的挑战与解决策略

    在SEMiBAY2024《HBM与存储器技术与应用论坛》上,亿铸科技的创始人、董事长兼CEO熊大鹏博士发表了题为《超越极限:大算芯片的技术挑战与解决之道》的演讲,深入剖析了AI大模型时代
    的头像 发表于 10-25 11:52 378次阅读

    大模型时代的算需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的算,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问题,我需要在此书中找到答案。
    发表于 08-20 09:04

    被称为“小号HBM”,华邦电子CUBE进阶边缘AI存储

    ,分享了华邦推出的CUBE产品在边缘AI上的应用优势以及对存储应用市场的看法等话题。   CUBE :小号HBM   “华邦电子近两三年都在推CUBE产品,我们可以把CUBE形象地看作小号的HBM。”朱迪说道,推动
    的头像 发表于 07-01 16:21 3019次阅读

    英伟达巨资预订HBM3E,力拼上半年算市场

    在全球AI芯片领域的激烈竞争,英伟达以其卓越的技术实力和市场影响,始终保持着领先地位。最近,这家AI芯片大厂再次展现出了其独特的战略眼光和强大的资金实力,以确保其新品GH200和H
    的头像 发表于 06-22 16:46 967次阅读

    中国AI芯片和HBM市场的未来

     然而,全球HBM产能几乎被SK海力士、三星和美光垄断,其中SK海力士占据AI GPU市场80%份额,是Nvidia HBM3内存独家供应商,且已于今年3月启动HBM3E量产。
    的头像 发表于 05-28 09:40 901次阅读

    三星联席CEO在AI合作交流力推HBM内存

    庆桂显此行主要推广三星的HBM内存,并探索AI合作可能性。然而,由于此前在HBM策略上出现失误,三星已被竞争对手SK海力士超越;位于第三位的美光近年来也在HBM3芯片上取得突破,成功获
    的头像 发表于 04-16 16:46 607次阅读

    一图看懂星河AI数据中心网络,全面释放AI时代

    华为中国合作伙伴大会 | 一图看懂星河AI数据中心网络,以网强算,全面释放AI时代
    的头像 发表于 03-22 10:28 750次阅读
    一图看懂星河<b class='flag-5'>AI</b>数据中心网络,全面释放<b class='flag-5'>AI</b><b class='flag-5'>时代</b>算<b class='flag-5'>力</b>

    HBM:突破AI内存瓶颈,技术迭代引领高性能存储新纪元

    HBM制造集成前道工艺与先进封装,TSV、EMC、键合工艺是关键。HBM制造的关键在于TSV DRAM,以及每层TSV DRAM之间的连接方式。
    发表于 03-14 09:58 1223次阅读
    <b class='flag-5'>HBM</b>:突破<b class='flag-5'>AI</b>算<b class='flag-5'>力</b>内存瓶颈,技术迭代引领高性能存储新纪元

    AI时代势不可挡,HBM价格飙升突显其核心价值

    与传统的DRAM相比,HBM拥有更高的数据容量和更低的功耗,使其成为需要高性能和高效率的人工智能应用程序的理想选择。 一位业内人士表示,在人工智能计算系统领域,目前没有其他内存芯片可以取代HBM
    发表于 03-01 11:25 358次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>时代</b>势不可挡,<b class='flag-5'>HBM</b>价格飙升突显其<b class='flag-5'>核心</b>价值

    HBMHBM2、HBM3和HBM3e技术对比

    AI服务器出货量增长催化HBM需求爆发,且伴随服务器平均HBM容量增加,经测算,预期25年市场规模约150亿美元,增速超过50%。
    发表于 03-01 11:02 1404次阅读
    <b class='flag-5'>HBM</b>、<b class='flag-5'>HBM</b>2、<b class='flag-5'>HBM</b>3和<b class='flag-5'>HBM</b>3e技术对比

    三星发布首款12层堆叠HBM3E DRAM,带宽高达1280GB/s,容量达36G

    “随着AI行业对大容量HBM的需求日益增大,我们的新产品HBM3E 12H应运而生,”三星电子内存规划部门Yongcheol Bae解释道,“这个存储方案是我们在人人工智能时代所推崇的
    的头像 发表于 02-27 10:36 820次阅读

    立足算,聚焦AI!顺网科技全面走进AI智算时代

    “立足算,聚焦AI”,顺网科技进军AI智算时代的号角已被吹响。 1月18日,顺网科技(300113.SZ)以“跃迁·向未来”为主题的战略升级暨产品升级发布会在杭州圆满召开。发布会上,
    的头像 发表于 01-19 10:57 455次阅读
    立足算<b class='flag-5'>力</b>,聚焦<b class='flag-5'>AI</b>!顺网科技全面走进<b class='flag-5'>AI</b>智算<b class='flag-5'>时代</b>