0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心
发布

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

基于NVIDIA DOCA 2.6实现高性能和安全的AI云设计

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 2024-02-23 10:02 次阅读

作为专为 NVIDIA BlueField网络平台而设计的数据中心基础设施软件框架,NVIDIA DOCA 使广大开发者能够利用其行业标准 API在 NVIDIA BlueField 网络平台上快速创建应用程序和服务,并启用 NVIDIA BlueField DPU 和 NVIDIA BlueField SuperNIC的强大功能,提供突破性的网络、安全和存储性能。

近日发布的 NVIDIA DOCA 2.6 引入了 NVIDIA BlueField 网络平台的新增功能和增强功能,可实现高性能和安全的AI云,从而大规模加速数据中心工作负载和 AI 应用。借助可编程拥塞控制(PCC)和数据路径加速(DPA),更新的 DOCASDK 也为开发者提供了广泛的开发框架,并提供新增功能和增强功能。

专为 AI 云而设计的网络平台

NVIDIA Spectrum-X 是适用于 AI 云“东西向”流量的以太网参考架构,其中主要包括 NVIDIA BlueField-3 SuperNIC 和 Spectrum-4交换机。Spectrum-X 通过创新的高性能网络为 AI 云提供峰值性能,从而有效满足 AI 工作负载对 AI 云基础设施的性能需求。

最新的 DOCA 2.6 版本支持 Spectrum-X 参考架构 1.0,优化了 Spectrum-4 交换机和 BlueField-3 SuperNIC 的性能协同,不但为 AI 工作负载提供优化的无损 RoCEv2 和动态路由功能,而且支持零接触 RoCE 拥塞控制(ZTR-CC)和可编程的 DOCA-PCC,从而显著提高 AI 云的性能,并为租户提供确定和隔离的性能。

开发硬件加速的网络应用程序

DOCA Flow 是用于卸载和加速网络转向(Network Steering)的开发库,可以在软件定义网络(SDN)的服务中提供可编程的快速流水线(Pipeline),并通过采用 DOCA-CT 管道(Pipe)来加速连接跟踪和管理会话状态。

在 DOCA 2.6 版本中,DOCA-CT 通过简化流水线来提升效率,并支持 NAT64 来实现 IPv6 和 IPv4 之间的地址转换,从而使连接跟踪与 NAT 流水线相结合来获得更好的性能。同时,DOCA Flow 可以通过修改可选字段来扩展 Geneve 隧道,且通过启用 Geneve 来替代如 MPLS 等其他隧道方案。DOCA Flow 还支持将硬件哈希计算公开给软件,对于复杂的流水线可以对齐软硬件的哈希结果。

DOCA 服务新增功能

基于 BlueField 的分布式路由和 EVPN 服务

DOCA 基于主机的网络(HBN)服务 2.1 版本支持 EVPN 增强功能,可为大规模裸金属云构建无控制器的虚拟私有云(VPC)网络。同时,它支持 L3 EVPN 来实现对称的 VXLAN 路由,从而实现 L3 的多租户安全;支持本地VRF 路由泄露(测试版),从而隔离租户以安全访问互联网和共享服务;支持多跳 eBGP 对等互连,从而适用于大规模 VXLAN EVPN 的部署;支持用于有状态访问控制列表(ACL)的 L3接口绑定,从而实现对 L3 流量的过滤;支持其它面向 DPU 的接口,以便与其他服务进行集成。

计时即服务解决方案

DOCA Firefly 服务利用 BlueField SuperNIC 和 DPU 来加速时间同步。在 DOCA 2.6 版本中,它增加了时钟跳转时的时间检查功能,从而可以对伺服计时算法进行修复。DOCA Firefly 服务可以广泛的应用于电信、传媒娱乐、金融服务等行业,比如电信行业在5G移动通信部署的基于网络的时间同步,传媒娱乐行业基于虚幻引擎(Unreal Engine)的虚拟制作,以及金融服务行业满足 MiFID II 合规性的高频交易(HFT)。

更多其他更新

BlueField 平台增强功能

平台安全 – UEFI 密码策略

平台管理 – BMC 健壮性

BlueField 安装包简化升级 – 增加 BMC 和 eROT 固件





审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 控制器
    +关注

    关注

    112

    文章

    15743

    浏览量

    174445
  • NVIDIA
    +关注

    关注

    14

    文章

    4738

    浏览量

    102280
  • AI设计
    +关注

    关注

    0

    文章

    5

    浏览量

    785
  • VxLAN
    +关注

    关注

    0

    文章

    23

    浏览量

    3796

原文标题:基于 NVIDIA DOCA 2.6 实现高性能和安全的 AI 云

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    应用NVIDIASpectrum-X网络构建新型主权AI

    务。 Scaleway 是法国的一家拥有 高性能基础设施的 服务提供商,创立于 1999 年,拥有 80+ 产品及服务,为全球 25,000+ 客户提供 服务,客户包括 Mistral
    的头像 发表于07-26 18:58 1014次阅读

    借助NVIDIADOCA2.7增强AI数据中心和NVIDIASpectrum-X

    NVIDIA DOCA加速框架为开发者提供了丰富的库、驱动和 API,以便为 NVIDIABlueField DPU 和 SuperNIC 创建 高性能的应用程序和服务。
    的头像 发表于05-29 09:22 276次阅读

    NVIDIAInfiniBand和UFM平台赋能高性能AI计算

    在数据驱动的时代, AI网络解决方案需要在保障数据 安全的前提下, 实现对庞大数据流的快速处理和对复杂 AI模型的高效训练与推理。
    的头像 发表于03-27 13:49 527次阅读

    NVIDIA发布全新交换机,全面优化万亿参数级 GPU 计算和AI基础设施

    NVIDIA软件 实现了跨 Blackwell GPU、新交换机和 BlueField-3 SuperNIC 的分布式计算,大幅提升了 AI、数据处理、 高性能计算和
    发表于03-19 10:05 222次阅读
    <b class='flag-5'>NVIDIA</b> 发布全新交换机,全面优化万亿参数级 GPU 计算和 <b class='flag-5'>AI</b> 基础设施

    NVIDIADOCA2.5 长期支持版本发布

    正值 NVIDIA DOCA面世三周年之际, NVIDIA于近日发布了适用于 NVIDIABlueField-3 网络平台的 NVIDIA
    的头像 发表于12-26 18:25 295次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> 2.5 长期支持版本发布

    亚马逊科技与NVIDIA宣布开展战略合作,为生成式AI提供全新超级计算基础架构、软件和服务

    计算机,用于 NVIDIA AI研发和自定义模型开发。 搭载 NVIDIAGH200、H200、L40S 和 L4 GPU的全新亚马逊 EC2 实例为生成式 AI
    的头像 发表于11-29 21:00 494次阅读
    亚马逊<b class='flag-5'>云</b>科技与 <b class='flag-5'>NVIDIA</b> 宣布开展战略合作,为生成式 <b class='flag-5'>AI</b> 提供全新超级计算基础架构、软件和服务

    创新企业福利:腾讯×NVIDIA初创加速计划

    x NVIDIA初创加速计划 助您降低产品使用门槛 高性能计算集 群 HCC 以 高性能 服务器为节点,通过 RDMA 互联,大幅提升网络 性能
    的头像 发表于11-13 20:40 465次阅读
    创新企业<b class='flag-5'>云</b>福利:腾讯<b class='flag-5'>云</b> × <b class='flag-5'>NVIDIA</b> 初创加速计划

    全新NVIDIASpectrum-X网络平台构筑阿里生成式AI底座

    全新 NVIDIASpectrum-X 网络平台构筑阿里生成式 AI 底座。
    的头像 发表于11-02 09:07 573次阅读
    全新<b class='flag-5'>NVIDIA</b> Spectrum-X网络平台构筑阿里生成式<b class='flag-5'>AI</b><b class='flag-5'>云</b>底座

    阿里NVIDIA合作测试以太网络新架构

    全新 NVIDIASpectrum-X 网络平台构筑阿里生成式 AI 底座 随着生成式 AI的热潮席卷全球,用于训练生成式 AI的大
    的头像 发表于11-01 09:30 270次阅读

    【书籍评测活动NO.23】数据处理器:DPU编程入门

    ® BlueField® 系列 DPU以及搭建 NVIDIA DOCA™ 软件开发环境,并通过深入了解 NVIDIA DOCA™ 应用程序开发实例来掌握如何
    发表于10-24 15:21

    NVIDIAAI现已在 Oracle Cloud Marketplace 推出

    只需点点手指,即可访问 高性能加速计算和软件,以运行 安全、稳定且得到支持的生产级 AI。 这一业内首创的扩展为 Oracle Cloud 上的端到端开发和部署带来了新功能。企业可以从 Oracle Cloud Marketplac
    的头像 发表于10-24 10:30 339次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> 现已在 Oracle Cloud Marketplace 推出

    NVIDIA发布首部DPU和DOCA编程入门书籍

    NVIDIA DOCA是一个为 NVIDIABlueField 系列 DPU 量身定做的软件开发环境,通过打造一个全面、开放的开发环境,可以让开发者快速创建基于 DPU 加速的 高性能
    的头像 发表于10-20 15:45 510次阅读

    NVIDIA发布首部 DPU 和DOCA编程入门书籍(互动有礼)

    为使用 NVIDIABlueField 系列 DPU 和 NVIDIA DOCA开发环境的开发者提供实用指南 NVIDIA今日宣布,由 NVI
    的头像 发表于10-18 16:05 314次阅读
    <b class='flag-5'>NVIDIA</b> 发布首部 DPU 和 <b class='flag-5'>DOCA</b> 编程入门书籍(互动有礼)

    NVIDIA发布首部 DPU 和DOCA编程入门书籍

    为使用 NVIDIA® BlueField® 系列 DPU 和 NVIDIA DOCA™ 开发环境的开发者提供实用指南 北京时间 2023 年 10 月 17 日, NVIDIA
    发表于10-18 11:34 279次阅读
    <b class='flag-5'>NVIDIA</b> 发布首部 DPU 和 <b class='flag-5'>DOCA</b> 编程入门书籍

    使用NVIDIADOCA2.2 加速数据中心工作负载和AI应用程序

    NVIDIA DOCASDK 和加速框架为开发者提供了丰富的库、驱动程序和 API,以便为 NVIDIABlueField DPU 和 ConnectX 智能网卡创建 高性能应用程序
    的头像 发表于09-05 19:40 510次阅读
    使用 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> 2.2 加速数据中心工作负载和 <b class='flag-5'>AI</b> 应用程序