1 软件生态上超越CUDA,究竟有多难?-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

软件生态上超越CUDA,究竟有多难?

E4Life 来源:德赢Vwin官网 作者:周凯扬 2024-06-20 00:09 次阅读

电子发烧友网报道(文/周凯扬)近日,英伟达凭借持续上涨的股价,正式超过了微软成为全球市值最高的公司,这固然离不开GPU这一AI硬件的火热,但之所以能一举做到世界第一,也离不开软件的加持,真正将其推向神坛的,还是围绕CUDA打造的一系列软件生态。

英伟达——CUDA的绝对统治

相信对GPU有过一定了解的都知道,英伟达的最大护城河就是CUDA。CUDA在后端架构上处于绝对的统治地位,随着AI发展越快,英伟达GPU+CUDA的开发生态发展愈发壮大,甚至到了很多竞争对手望其项背的水平。CUDA自2006年推出以来,即便在AI和深度学习没有成为主流的时期,也在不断发展并行计算,为开发者提供丰富的库、工具和算法

时至今日,CUDA已经为全球开发者打造了一个庞大的社区,几乎所有的深度学习框架,包括TensorFlow、Pytorch等都对CUDA做了优化。为了尽快切入市场,绝大多数开发者都更倾向于选择CUDA作为首要计算平台。

与此同时,英伟达也在围绕着CUDA在硬件架构上做更深入的创新和升级,借助更先进的工艺和封装技术提升计算性能和效率。比如随着Volta架构中引入Tensor核心后,英伟达GPU的矩阵运算得到大幅加强,深度学习训练和推理的性能实现飞跃。两者结合之下,使得CUDA坐稳了第一的宝座。

在游戏软件领域,英伟达的DLSS可以说是市面上最先进的专有超分技术,且得益于持续的训练,每一次版本升级都能带来图形渲染领域的突破。

最后是生产力工具相关的软件生态上,英伟达在这块的优势就更加足了,过去苹果与AMD还在GPU上合作之际,不少生产力工具还是针对AMD的GPU做了不少硬件优化的。然而随着苹果走向Arm架构,英伟达慢慢在这个市场壮大起来。

无论是Adobe旗下的多媒体处理软件,还是一些独立开发商打造的软件,很多都有英伟达CUDA硬件加速的支持,甚至连英特尔的核显在一些软件支持上,都要好于AMD。正因如此,除了一些特效制作相关的工作外,工作站里的AMD GPU越来越少。

尽管谷歌、英特尔和高通科技巨头也在寻找打破CUDA垄断地位的契机,但对于软件生态而言,合作并不一定意味着共赢,最后很可能只是为市场提供更多的可选择项,但在易用性、性能等方面,仍不如没有驻足一路狂奔的CUDA。

AMD

AMD对于其GPU软件生态则持以较为开放的态度,且极其重视开源开发社区。AMD的ROCm对标的正是英伟达的CUDA,但其并没有对硬件做出限制,除了Radeon、Instinct系列的GPU外,也在扩展至其他硬件厂商的设备。这也得益于AMD没有在硬件内引入Tensor核心这样的专有硬件,但也正是因为如此,导致其ROCm在某些任务上略显逊色。

ROCm作为开源平台,也提供多种库和框架支持,也有一整套的开源工具链。正因如此,在HPC和云计算等领域,厂商其实更宁愿使用AMD的GPU,而不必要忍受英伟达的专用软件栈。但苦于英伟达先行的软件生态,他们不得不首选英伟达的GPU。

AMD即便有了ROCm,整体软件生态的成熟度依然不敌英伟达,对于HPC中部分不以商业成功为目标的项目而言,AMD已经斩获了不少份额,比如TOP500中前十的几台超算。但以整个TOP500榜单来看,英伟达依然占据主导地位。然而对于云供应商来说,短时间内依然没法摆脱英伟达的统治,因为租用这些云服务的客户们,更愿意在英伟达的CUDA平台上开发。

在驱动软件上,尤其是针对Linux的显卡驱动,AMD采取了开源和闭源两条路线,持续更新闭源驱动的同时,也允许开源社区定制化开源驱动。以基于Linux系统中AMD Radeon显卡打造的Vulkan驱动AMDVLK为例,就支持了光线追踪。然而,尽管开源驱动由于手动配置和社区贡献的原因,兼容性要更高一些,但如果追求的是更高的性能,那么闭源驱动还是更具优势。

摩尔线程

国产GPU主要分为两个方向,分别是支持图形渲染的和不支持图形渲染的,后者仍然想在AI领域内突破,前者在推进C端产品的同时,也在布局B端的一系列AI GPU产品。在国产GPU产品中,在软件生态上做得比较好的当属摩尔线程了,他们在AI和图形渲染上的软件支持都有喜人的进展。

基于MUSA这一统一架构,摩尔线程打造了MTT S80这样的桌面显卡,以及面面向服务器应用的MTT S3000等。与之配套的,是摩尔线程打造的软件开发平台,包括AI开发平台、MUSA SDK、MT Smart Media和MTVerse XR等。

而且摩尔线程打造的这套生态架构中,可以充分兼容现有软件生态,借助MUSIFY工具实现代码零成本迁移到MUSA平台。与AMD的ROCm一样,MUSA做的也是兼容CUDA的路线,而不是像ZLUDA一样重新编译二进制代码,所以并不违反英伟达的EULA条款。

从摩尔线程近来官方发布的消息看来,他们在AI上选择了逐步对大模型完成适配支持的路线。在摩尔线程的夸娥千卡智算集群上,他们已经完成了30亿到700亿参数的大模型训练和推理适配。摩尔线程的GPU在算力上对比国际大厂还是略有逊色,不过随着未来他们在IP、硬件设计上进一步突破,相信他们也能打造出高性能的AI算力底座。

在针对消费级图形显卡的驱动程序上,摩尔线程也在不断更新优化性能。以5月底发布的v260.70版本驱动为例,除了提供对OpenGL 4.0功能的支持和优化Blender 3.6 LTS体验外,也为诸多热门游戏在DirectX 11下的性能做了明显优化。尽管这类驱动更新的规模比起英伟达还有所差距,但也代表了厂商持续优化性能表现的决心。

写在最后

其实从越来越多的厂商进军GPU,越来越多的GPU厂商发力AI就可以看出,即便CUDA有着深厚的生态积累,但在日新月异的AI中,其他厂商仍有分一杯羹的机会,甚至可能在某个应用中后来者居上。但在图形渲染相关的软件生态上,厂商面临的技术壁垒更加厚。不仅要带着钻研十数年的决心,还要持续打磨硬件产品,与产业软件生态圈合作,挖掘和培养更多的图形研究人才。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4729

    浏览量

    128885
  • CUDA
    +关注

    关注

    0

    文章

    121

    浏览量

    13619
  • 英伟达
    +关注

    关注

    22

    文章

    3770

    浏览量

    90978
  • 软件生态系统

    关注

    0

    文章

    7

    浏览量

    7125
收藏 人收藏

    评论

    相关推荐

    有没有大佬知道NI vision 有没有办法通过gpu和cuda来加速图像处理

    有没有大佬知道NI vision 有没有办法通过gpu和cuda来加速图像处理
    发表于 10-20 09:14

    2024年芯片行业有多难?用数据说话

    2024年芯片行业有多难?用数据说话
    的头像 发表于 08-10 18:20 4029次阅读

    打破英伟达CUDA壁垒?AMD显卡现在也能无缝适配CUDA

    德赢Vwin官网 网报道(文/梁浩斌)一直以来,围绕CUDA打造的软件生态,是英伟达在GPU领域最大的护城河,尤其是随着目前AI领域的发展加速,市场火爆,英伟达GPU+CUDA的开发
    的头像 发表于 07-19 00:16 4661次阅读

    英国公司实现英伟达CUDA软件在AMD GPU上的无缝运行

    7月18日最新资讯,英国创新科技企业Spectral Compute震撼发布了其革命性GPGPU编程工具包——“SCALE”,该工具包实现了英伟达CUDA软件在AMD GPU上的无缝迁移与运行,标志着在GPU计算领域,NVIDIA长期以来的市场垄断地位或将迎来重大挑战。
    的头像 发表于 07-18 14:40 634次阅读

    请问STM32F407 USB的FIFO究竟有多少空间?

    FIFO 连接。但是另一方面,在CSR存储器映射图中,一个主机通道的 FIFO地址范围为 0x1000 (4KB),并且主机模式下有8个这样的通道。所以真搞不明白究竟 FIFO真正有多少空间?
    发表于 07-04 07:46

    华为生态设备崛起,大中华区全面超越苹果

    随着科技的飞速发展和消费者需求的日益多元化,智能手机厂商之间的竞争已经不再是单纯的产品竞争,而是扩展到了整个生态系统。近日,华为在中国市场的表现引起了广泛关注,这家科技巨头不仅在智能手机领域取得了显著成就,更在生态系统方面实现了对苹果的全面
    的头像 发表于 06-14 17:19 644次阅读

    STM32的DAC输出有个BUFFER功能,BUFFer的驱动能力究竟有多大,普通的运放输出可以吗?驱动LED可以吗?

    DAC是输出模拟电压给外界参考,STM32的DAC输出有个BUFFER功能,但不知这个BUFFer的驱动能力究竟有多大,普通的运放输出可以吗?驱动LED可以吗?有没有人做过这块,给个建议,因为最近要设计个DAC输出调节运放输出,希望能有个参考。 如果外接跟随的话,用LM358可以吗?请一起讨论下!!!
    发表于 05-15 07:42

    共模电感选型依据究竟有哪些

    德赢Vwin官网 网站提供《共模电感选型依据究竟有哪些.docx》资料免费下载
    发表于 05-06 10:26 1次下载

    SMT贴片加工中元器件移位的原因究竟有哪些?

    ,元器件移位的问题仍然时有发生。那么,造成SMT贴片加工中元器件移位的原因究竟有哪些呢?接下来深圳佳金源锡膏厂家来讲一下:首先,贴片机吸嘴的气压是影响元器件位置的重要
    的头像 发表于 04-26 16:00 561次阅读
    SMT贴片加工中元器件移位的原因<b class='flag-5'>究竟有</b>哪些?

    Keil使用AC6编译提示CUDA版本过高怎么解决?

    \' ArmClang: warning: Unknown CUDA version 10.2. Assuming the latest supported version 10.1
    发表于 04-11 07:56

    贴片功率电感究竟有没有正负极之分

    德赢Vwin官网 网站提供《贴片功率电感究竟有没有正负极之分.docx》资料免费下载
    发表于 02-28 10:15 0次下载

    什么是DMA?DMA究竟有多快!

    助于提高数据传输速度和系统效率。 那么,DMA究竟有多快呢? 实践出真知 恰好,最近有个多通道数据采集的项目,受限于通道数多、分辨率高,而系统带宽有限,为了尽可能充分利用有限带宽,就得想办法优化时序,把时间都留给数据采集和传输。 优化方向就是DMA。 硬件链路是A
    的头像 发表于 02-22 10:43 2005次阅读
    什么是DMA?DMA<b class='flag-5'>究竟有</b>多快!

    GPU技术、生态及算力分析

    对比AMD从2013年开始建设GPU生态,近10年时间后用于通用计算的ROCm开放式软件平台才逐步有影响力,且还是在兼容CUDA的基础上。因此我们认为国内厂商在软件
    的头像 发表于 01-14 10:06 1231次阅读
    GPU技术、<b class='flag-5'>生态</b>及算力分析

    深入浅出理解PagedAttention CUDA实现

    vLLM 中,LLM 推理的 prefill 阶段 attention 计算使用第三方库 xformers 的优化实现,decoding 阶段 attention 计算则使用项目编译 CUDA 代码实现。
    的头像 发表于 01-09 11:43 1869次阅读
    深入浅出理解PagedAttention <b class='flag-5'>CUDA</b>实现

    什么是CUDA?谁能打破CUDA的护城河?

    在最近的一场“AI Everywhere”发布会上,Intel的CEO Pat Gelsinger炮轰Nvidia的CUDA生态护城河并不深,而且已经成为行业的众矢之的。
    的头像 发表于 12-28 10:26 1.3w次阅读
    什么是<b class='flag-5'>CUDA</b>?谁能打破<b class='flag-5'>CUDA</b>的护城河?