英伟达AI加速器新蓝图：集成硅光子I/O，3D垂直堆叠 DRAM 内存
来源：TECHPOWERUP
2024 IEEE IEDM 会议目前正在美国加州旧金山举行。据分析师 Ian Cutress 在其社交平台上发布的动态，英伟达在本次学术会议上分享了有关未来 AI 加速器设计的愿景。
英伟达认为未来整个 AI 加速器复合体将位于大面积先进封装基板之上，采用垂直供电，集成硅光子 I/O 器件，GPU 采用多模块设计，3D 垂直堆叠 DRAM 内存，并在模块内直接整合冷板。
在英伟达给出的模型中，每个 AI 加速器复合体包含 4 个 GPU 模块，每个 GPU 模块与 6 个小型 DRAM 内存模块垂直连接并与 3 组硅光子 I/O 器件配对。
硅光子 I/O 可实现超越现有电气 I/O 的带宽与能效表现，是目前先进工艺的重要发展方向；3D 垂直堆叠的 DRAM 内存较目前的 2.5D HBM 方案拥有更低信号传输距离，有益于 I/O 引脚的增加和每引脚速率的提升；垂直集成更多器件导致发热提升，模块整合冷板可提升解热能力。
热管理是另一个关键考虑因素。多层 GPU 设计带来了复杂的冷却挑战，而目前的技术无法充分解决这一问题。NVIDIA 承认，在将 DRAM 堆叠在逻辑上的概念成为现实之前，材料科学必须取得重大进展。该公司正在探索创新解决方案，包括实施芯片内冷却系统，例如使用专用冷板进行模块级冷却。这种设计的商业化还需要一段时间，Ian Cutress 博士等分析师预测，采用这种技术的产品可能会在 2028-2030 年左右上市。
审核编辑 黄宇
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网
网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
加速器
+关注
关注
2文章
796浏览量
37838 -
AI
+关注
关注
87文章
30728浏览量
268872 -
英伟达
+关注
关注
22文章
3770浏览量
90980 -
DRAM内存
+关注
关注
0文章
8浏览量
3675
发布评论请先 登录
相关推荐
微软携手英伟达与GitHub推出生成式AI加速器
近日，微软宣布在英国推出一项重大合作项目——生成式人工智能加速器。这一项目由微软、英伟达和GitHub三家科技巨头强强联手，旨在加速生成式人工智能技术的研发与应用。 生成式人工智能作为
Inflection AI转向英特尔Gaudi 3，放弃英伟达GPU
近日，人工智能技术公司Inflection AI宣布了一项重要决策，其最新的企业平台将放弃采用英伟达（Nvidia）的GPU，转而选择英特尔的Gaudi 3
英特尔发布Gaudi3 AI加速器,押注低成本优势挑战市场
英特尔近期震撼发布了专为AI工作负载设计的Gaudi3加速器，这款新芯片虽在速度上不及英伟达热门型号H100与H200 GPU，但英特尔巧妙
三星电子HBM3E内存获英伟达认证，加速AI GPU市场布局
近日，知名市场研究机构TrendForce在最新发布的报告中宣布了一项重要进展：三星电子的HBM3E内存产品已成功通过英伟达验证，并正式开启出货流程。具体而言，三星的HBM
3D DRAM内嵌AI芯片，AI计算性能暴增
当前高带宽内存(HBM)中的DRAM芯片，通过在3D DRAM中实现AI处理来解决数据总线问题。 通常来说，当前的
SK海力士5层堆叠3D DRAM制造良率已达56.1%
在全球半导体技术的激烈竞争中，SK海力士再次展示了其卓越的研发实力与创新能力。近日，在美国夏威夷举行的VLSI 2024峰会上，SK海力士宣布了其在3D DRAM技术领域的最新研究成果，其中5层堆叠的
纬颖加速布局AI，携英伟达芯片崭新AI服务器抢占市场
该公司近日宣布，将于本年度的台北国际电脑展上亮相，展示搭载英伟达、AMD与英特尔加速器的AI服务器机柜，并推出单相/两相的“直接式（Dire
三星电子研发16层3D DRAM芯片及垂直堆叠单元晶体管
在今年的IEEE IMW 2024活动中，三星DRAM业务的资深副总裁Lee指出，已有多家科技巨头如三星成功制造出16层3D DRAM，其中美光更是发展至8层水平。
进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片
，通过英伟达高带宽接口（NV-HBI）将两个最大可制造芯片合并为一个图形处理器单元，支持10TB/s带宽，形成高效的通信通道，提升整体性能。
配备192GB的HBM3e
发表于 05-13 17:16
3D DRAM进入量产倒计时，3D DRAM开发路线图
目前，各大内存芯片厂商，以及全球知名半导体科研机构都在进行3D DRAM的研发工作，并且取得了不错的进展，距离成熟产品量产不远了。
发表于 04-17 11:09
•781次阅读
三星2025年后将首家进入3D DRAM内存时代
在Memcon 2024上，三星披露了两款全新的3D DRAM内存技术——垂直通道晶体管和堆栈DRAM。
工商网监
评论