英伟达推出百亿参数AI模型处理方案——DGX SuperPOD
据报道，当地时间3月19日，英伟达于GTC开发者大会上发布了以处理百亿参数AI模型为核心的新品——DGX SuperPOD，旨在助力超大规模AI训练和推理工作负载实现稳定而高效的性能输出。
据悉，新型DGX SuperPOD采用全新的高效水冷机架式设计，搭载英伟达DGX GB200系统，FP4精度下具备11.5 exaflops的人工智能超级计算力以及240 terabytes的高速内存。用户可以通过加装机架进行持续扩充。
一套DGX GB200系统内含36块英伟达GB200加速卡，其中包含36颗英伟达Grace CPU以及72颗英伟达Blackwell GPU，经由第五代英伟达NVLink技术组合成一具高性能超算。
相较于英伟达基于H100 Tensor Core GPU打造的产品，GB200加速卡在大型语言模型推理任务中的表现将有望提高最多30倍。
英伟达现有的DGX SuperPOD套装包含至少8套DGX GB200系统，通过英伟达Quantum InfiniBand技术扩容后，能够容纳数万枚GB200加速卡。
英伟达名誉主席及首席执行官黄仁勋指出，“英伟达的DGX系列人工智能超级计算机是智能化工业革命的催化剂。而此次推出的DGX SuperPOD集成了最先进的加速计算、网络和软件技术，使每一家企业、行业乃至国家均能充分利用该平台完善并发展自身的人工智能技术”。
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网
网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
人工智能
+关注
关注
1791文章
47183浏览量
238209 -
加速卡
+关注
关注
1文章
60浏览量
10943 -
英伟达
+关注
关注
22文章
3770浏览量
90980
发布评论请先 登录
相关推荐
英伟达Blackwell可支持10万亿参数模型AI训练，实时大语言模型推理
、NVLink交换机、Spectrum以太网交换机和Quantum InfiniBand交换机。 英伟达称，Blackwell拥有6项革命性技术，可支持多达10万亿参数的模型进行
英伟达推出Flextron AI框架:赋能灵活高效的AI模型部署
在人工智能与机器学习领域，随着技术的不断演进，模型的高效部署与适应性成为研究的新热点。近日，英伟达与德克萨斯大学奥斯汀分校携手宣布了一项重大突破——推出了一种名为FLEXTRON的新型
英伟达首席执行官黄仁勋：AI模型推动英伟达AI芯片需求
近来，以ChatGPT为代表的AI聊天机器人已经导致英伟达AI芯片供应紧张。然而，随着能够创造视频并进行近似人类交流的新型AI
进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片
百亿亿次计算和万亿参数模型提供基础
NVIDIA推出世界首个高速GPU互连技术NVLink™，提供的速度远超基于PCIe的解决方案，是多GPU系统扩展内存和性能的理想选择。NVLink
发表于 05-13 17:16
英伟达宣布收购Run:ai
英伟达近期宣布收购Run:ai公司，以进一步推动后者的产品路线图并整合其资源至Nvidia DGX Cloud。虽然具体的收购金额和完成时间尚未对外公布，但这一举措无疑显示了
英伟达战略收购Run:ai，推进产品战略，整合资源至Nvidia DGX C
4 月 25 日，英伟达正式推出新闻公告，宣布成功收购了 Run:ai 公司，以加快推进其产品蓝图的实施，并将其与 Nvidia DGX C
NVIDIA Blackwell DGX SuperPOD助力万亿级生成式AI计算
全新 DGX SuperPOD 采用新型高效液冷机架级扩展架构，基于 NVIDIA DGX GB200 系统构建而成，在 FP4 精度下可提供 11.5 exaflops 的 AI 超
发表于 03-21 09:49
•209次阅读
NVIDIA推出搭载GB200 Grace Blackwell超级芯片的NVIDIA DGX SuperPOD™
NVIDIA 于太平洋时间 3 月 18 日发布新一代 AI 超级计算机 —— 搭载 NVIDIA GB200 Grace Blackwell 超级芯片的 NVIDIA DGX SuperPOD™。
NVIDIA 推出 Blackwell 架构 DGX SuperPOD，适用于万亿参数级的生成式 AI 超级计算
—— NVIDIA 于今日发布新一代 AI 超级计算机 —— 搭载 NVIDIA GB200 Grace Blackwell 超级芯片的 NVIDIA DGX SuperPOD™。这台 A
发表于 03-19 10:56
•419次阅读
工商网监
评论