1 NVIDIA和谷歌云宣布开展一项新的合作,加速AI开发-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA和谷歌云宣布开展一项新的合作,加速AI开发

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 2024-04-11 14:03 次阅读

NVIDIA 和谷歌云宣布开展一项新的合作,以帮助全球初创企业加速创建生成式 AI 应用和服务。

双方于今日在拉斯维加斯举行的 Google Cloud Next '24 大会上宣布这一消息,将把针对初创企业的NVIDIA 初创加速计划与 Google for Startups Cloud 计划相结合。此举将扩大云积分、产品上市支持和技术专业知识的受众面,帮助初创企业更快地为客户创造价值。

NVIDIA 初创加速计划是一项为 18,000 多家初创企业提供助力的全球性计划,符合资格的会员将能够通过加速途径使用谷歌云基础设施,并获得谷歌云积分,将为专注于 AI 的初创企业提供高达 35 万美元的积分。

Google for Startups Cloud 计划成员可加入 NVIDIA 初创加速计划并获得技术专业知识、NVIDIA 深度学习培训中心(DLI)课程学分、NVIDIA 硬件和软件等。符合条件的 Google for Startups Cloud 计划成员还可以参加 NVIDIA Inception Capital Connect,该平台让初创企业能够接触到对该领域感兴趣的风投公司

参加这两项计划的高增长新兴软件制造商还可以快速入驻谷歌云 Marketplace,获得联合营销和产品加速支持。

此次合作是两家公司发布一系列公告的最新成果,旨在帮助各种规模的企业减少生成式 AI 应用开发成本和障碍。其中,AI 投资所产生的高额成本对初创企业有一定的制约。

需要一个全栈式 AI 平台

今年 2 月,谷歌 DeepMind 推出了先进的开放模型系列 Gemma。NVIDIA 最近与谷歌合作,在所有适用于 Gemma 的 NVIDIA AI 平台上推出了优化方案,帮助降低客户成本,并加快针对特定领域用例的创新工作。

两家公司的团队进行了密切合作,利用NVIDIA TensorRT-LLM(一个开源库,用于优化在NVIDIA GPU上运行的大语言模型的推理性能)加速 Gemma 的性能。创建 Gemma 所采用的研究和技术,与创建谷歌 DeepMind 功能强大的 Gemini 模型完全相同。

包含在NVIDIA AI Enterprise 软件平台中的NVIDIA NIM 微服务将与 Google Kubernetes Engine(GKE)共同为 AI 应用开发以及将优化的 AI 模型部署到生产中提供简化的途径。NIM 是基于NVIDIA Triton 推理服务器、TensorRT-LLM 等推理引擎所构建,其支持各种领先的 AI 模型,并提供无缝衔接、可扩展的 AI 推理,以加速企业中的生成式 AI 部署。

Gemma 系列模型包括 Gemma 7B、RecurrentGemma 和 CodeGemma 等,这些模型均可从 NVIDIA API 目录中获取。用户可在浏览器、带有 API 端点的原型和 NIM 的自托管中进行试用。

通过 GKE 和 Google Cloud HPC Toolkit,在谷歌云平台上部署NVIDIA NeMo框架变得更加轻松。这使开发者能够自动化与扩展生成式 AI 模型的训练和服务,并通过可定制蓝图来快速部署一站式环境,从而快速启动开发流程。

NVIDIA AI Enterprise 中的 NVIDIA NeMo 也可以在谷歌云 Marketplace 上获得,这为客户提供了另一种轻松访问 NeMo 和其他框架的方式,以加速 AI 开发。

为进一步扩大由 NVIDIA 提供加速的生成式 AI 计算的供应范围,谷歌云还宣布 A3 Mega 将于下月全面上市。这些实例是其 A3 虚拟机系列的扩展,搭载了 NVIDIA H100 Tensor Core GPU。新实例将使 A3 虚拟机的 GPU 到 GPU 网络带宽增加一倍。

A3 上的谷歌云全新机密虚拟机还将加入对机密计算的支持,以便帮助客户保护其敏感数据的机密性和完整性,并在训练和推理过程中确保应用和 AI 工作负载的安全(在使用 H100 GPU 加速时无需更改代码)。这些 GPU 驱动的机密虚拟机将在今年推出预览版。

下一个主角:

NVIDIA Blackwell 架构 GPU

采用NVIDIA Blackwell 平台的 NVIDIA 最新 GPU 将于明年初登陆谷歌云,推出NVIDIA HGX B200NVIDIA GB200 NVL72两种版本。

HGX B200 专门用于要求最高的 AI、数据分析和高性能计算工作负载;GB200 NVL72 专门用于下一代大规模万亿参数模型的训练和实时推理。

NVIDIA GB200 NVL72 通过 900GB/s 的片间互联连接 36 个 Grace Blackwell 超级芯片,每个超级芯片上有 2 个NVIDIA Blackwell GPU和 1 个NVIDIA Grace CPU,一个 NVIDIA NVLink 域最高支持 72 个 Blackwell GPU 和 130TB/s 的带宽。与上一代产品相比,它克服了通信瓶颈并且能够作为单颗 GPU 运行,其实时 LLM 推理和训练速度分别提高了 30 倍和 4 倍。

NVIDIA GB200 NVL72 是一套多节点机架级扩展系统,它将使用谷歌云的第四代先进液冷系统。

NVIDIA 于 3 月宣布,NVIDIA DGX Cloud已在搭载 H100 GPU 的 A3 虚拟机上全面推出,该 AI 平台是面向企业开发者的 AI 平台,针对生成式 AI 的需求进行了优化。搭载 GB200 NVL72 的 DGX Cloud 也将于 2025 年在谷歌云上推出。




审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4978

    浏览量

    102980
  • LLM
    LLM
    +关注

    关注

    0

    文章

    286

    浏览量

    327
  • 生成式AI
    +关注

    关注

    0

    文章

    502

    浏览量

    471
  • AI大模型
    +关注

    关注

    0

    文章

    315

    浏览量

    305

原文标题:引擎全开:NVIDIA 与谷歌云共同加速 AI 开发

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA谷歌量子AI部门达成合作

    NVIDIA CUDA-Q 平台使谷歌量子 AI 研究人员能够为其量子计算机创建大规模的数字模型,以解决设计中面临的各种挑战
    的头像 发表于 11-20 09:39 233次阅读

    IBM将在平台部署AMD加速

    IBM与AMD近期宣布一项重要合作协议,根据协议,IBM将在其平台上部署AMD Instinct MI300X加速器。这
    的头像 发表于 11-19 16:24 209次阅读

    NVIDIA与软银集团合作加速日本主权AI计划

    NVIDIA 宣布与软银集团开展系列合作,旨在加速日本主权
    的头像 发表于 11-19 15:49 302次阅读

    谷歌宣布一项重要人事任命

    近日,谷歌(Google Cloud)正式宣布一项重要人事任命,尹世明将加入谷歌,担任大中
    的头像 发表于 11-18 15:07 276次阅读

    微软GitHub与Anthropic和谷歌合作

    近日,微软旗下的GitHub宣布一项重要合作,将Anthropic和谷歌AI模型整合到其代码助理中,为数百万软件
    的头像 发表于 10-30 16:25 174次阅读

    霍尼韦尔宣布谷歌达成合作

    近日,霍尼韦尔(Honeywell)宣布谷歌(Google Cloud)达成合作,共同将生成式人工智能Gemini引入工业领域。这一合作
    的头像 发表于 10-23 17:36 470次阅读

    高通与谷歌达成多年技术合作,共推汽车行业数字化转型

    北京时间10月23日,高通技术公司宣布谷歌达成一项为期多年的技术合作,旨在加速c行业的数字化转型。   基于双方长期的
    的头像 发表于 10-23 11:53 1043次阅读

    谷歌获Character.AI大模型技术授权,创始人重归谷歌怀抱

    8月5日最新资讯,创新企业Character.AI在上周五正式宣布,他们已经与科技巨头谷歌的母公司Alphabet达成了一项重要合作,非独家
    的头像 发表于 08-05 14:35 437次阅读

    NVIDIA推出NVIDIA AI Computing by HPE加速生成式 AI 变革

    作为极具开创性的站式“交钥匙”私有人工智能(private-cloud AI)解决方案,NVIDIA AI Computing by H
    的头像 发表于 06-20 17:36 711次阅读

    甲骨文与谷歌建立合作伙伴

    近日,全球领先的数据库和技术提供商甲骨文(Oracle)与谷歌(Google Cloud)共同宣布建立了一项意义深远的
    的头像 发表于 06-12 17:22 916次阅读

    MediaTek与NVIDIA TAO加速物联网边缘AI应用发展

    在即将到来的COMPUTEX 2024科技盛会上,全球知名的芯片制造商MediaTek宣布一项重要合作——将NVIDIA的TAO(TensorRT Accelerated Optim
    的头像 发表于 06-12 14:49 464次阅读

    NVIDIA数字人技术加速部署生成式AI驱动的游戏角色

    NVIDIA 在 GDC 2024 大会上宣布,Inworld AI 等领先的 AI 应用程序开发者,正在使用
    的头像 发表于 04-09 10:08 662次阅读
    <b class='flag-5'>NVIDIA</b>数字人技术<b class='flag-5'>加速</b>部署生成式<b class='flag-5'>AI</b>驱动的游戏角色

    SAP与NVIDIA携手加速生成式AI在企业应用中的普及

    SAP SE 和 NVIDIA 宣布深化合作,致力于加速企业客户在 SAP 解决方案和应用组合中利用数据和生成式
    的头像 发表于 03-22 10:02 596次阅读

    NVIDIA即将推出一项新的生成式AI专业认证

    NVIDIA 即将推出一项新的生成式 AI 专业认证,助力开发者在这重要领域证明自身技术实力。
    的头像 发表于 03-14 09:43 541次阅读

    TensorRT LLM加速Gemma!NVIDIA谷歌牵手,RTX助推AI聊天

    NVIDIA今天在其官方博客中表示,今天与谷歌合作,在所有NVIDIA AI平台上为Gemma推出了优化。
    的头像 发表于 02-23 09:42 598次阅读
    TensorRT LLM<b class='flag-5'>加速</b>Gemma!<b class='flag-5'>NVIDIA</b>与<b class='flag-5'>谷歌</b>牵手,RTX助推<b class='flag-5'>AI</b>聊天