GPU引领的深度学习-德赢Vwin官网网

早期的机器学习以搜索为基础，主要依靠进行过一定优化的暴力方法。但是随着机器学习逐渐成熟，它开始专注于加速技术已经很成熟的统计方法和优化问题。同时深度学习的问世更是带来原本可能无法实现的优化方法。本文将介绍现代机器学习如何找到兼顾规模和速度的新方法。

AI领域的转变

在本系列的第1部分中，我们探讨了AI的一些历史，以及从Lisp到现代编程语言以及深度学习等新型计算智能范式的历程。我们还讨论了人工智能的早期应用，它们依赖于经过优化的搜索形式、在海量数据集上进行训练的现代神经网络架构，同时解决了十年前还被认为不可能的难题。然而目前仍有两大难题有待解决，即：如何进一步加速这些应用，以及将它们限制在智能手机这样的功耗优化环境中。

今天，深度学习成为了多数加速技术的重点研究对象。深度学习是一种神经网络架构，它依赖于多层神经网络，其中的每一层都可以支持不同的功能以进行特征检测。这些深层神经网络依赖于可方便运用并行计算的矢量运算，并为神经网络层分布式计算以及同层诸多神经元并行计算创造了条件。

通过GPU加速机器学习

图形处理单元（GPU）最初并不是用于加速深度学习应用。GPU是一种特殊的设备，用于加速输出到显示设备的帧缓冲区（内存）的构建。它将渲染后的图像存入帧缓冲区，而不是依靠处理器来完成。GPU由数以千计的独立内核组成，它们并行运行并执行矢量运算等特定类型的计算。尽管最初GPU专为视频应用而设计，但人们发现它们也可以加速矩阵乘法等科学计算。

开发人员既可以借助于GPU供应商提供的API将GPU处理功能集成到应用中，也可以采用适用于诸多不同环境的标准软件包方式。R编程语言和编程环境包含与GPU协同工作来加快处理速度的软件包，例如gputools、gmatrix和gpuR。GPU也可以通过numba软件包或Theano等各种库借助于Python进行编程。

通过这些软件包，任何有意将GPU加速应用于机器学习的人都可以达成愿望。但是工程师们还在研究更专门的方法。2019年，英特尔®以20亿美元的价格收购了Habana Labs，一家致力于为服务器中的机器学习加速器开发定制芯片的公司。此外，英特尔还于2017年以150亿美元收购了自动驾驶芯片技术企业Mobileye。

定制芯片和指令

除了服务器和台式机中的GPU加速之外，用于机器学习的加速器正在试图超越传统平台，进军功耗受限的嵌入式设备和智能手机。这些加速器形式多样，包括U盘、API、智能手机神经网络加速器以及用于深度学习加速的矢量指令等。

适用于智能手机的深度学习

深度学习工具包已经从PC端延伸到智能手机，可为存在更多限制的网络提供支持。TensorFlow Lite和Core ML等框架已经部署在用于机器学习应用的移动设备上。Apple®最近发布了A12 Bionic芯片，这款芯片包括一个8核神经网络引擎，用于开发更加节能的神经网络应用，从而扩展Apple智能手机上的深度学习应用。

Google发布了适用于Android® 8.1并具有机器学习功能的神经网络API (NNAPI)，目前已应用于Google Lens自然语言处理和图像识别背景下的Google Assistant。NNAPI与其他深度学习工具包相似，但它是针对Android智能手机环境及其资源限制而构建的。

深度学习USB

英特尔发布了其新版神经计算棒，以U盘的形式加速深度学习应用。TensorFlow、Caffe和PyTorch等众多机器学习框架都可以使用它。当没有GPU可用时，这将是一个不错的选择，同时还可以快速构建深度学习应用原型。

深度学习指令

最后，在机器学习计算从CPU转移到GPU的同时，英特尔使用新的指令优化了其Xeon指令集，来加速深度学习。这些被称为AVX-512扩展的新指令（所谓的矢量神经网络指令或VNNi）提高了卷积神经网络运算的处理量。

总结

GPU在机器学习中的应用实现了在众多应用中构建和部署大规模深度神经网络的能力。机器学习框架使构建深度学习应用变得简单。智能手机供应商也不甘人后，为受到诸多限制的应用集成了高能效的神经网络加速器（以及用于定制应用的API）。现在市面上还有其他可转移到USB硬件上的加速器，许多新的初创公司也在加大加速器领域的投入，为未来机器学习应用做准备。

审核编辑：郭婷

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

gpu

gpu

+关注

关注
28

文章
4729

浏览量
128887
机器学习

机器学习

+关注

关注
66

文章
8406

浏览量
132557
深度学习

深度学习

+关注

关注
73

文章
5500

浏览量
121109

相比GPU和GPP，FPGA是深度学习的未来？

相比GPU和GPP，FPGA在满足深度学习的硬件需求上提供了具有吸引力的替代方案。凭借流水线并行计算的能力和高效的能耗，FPGA将在一般的深度学习

发表于 07-28 12:16 •7477次阅读

FPGA在深度学习应用中或将取代GPU

现场可编程门阵列 (FPGA) 解决了 GPU 在运行深度学习模型时面临的许多问题在过去的十年里，人工智能的再一次兴起使显卡行业受益匪浅。英伟达 (Nvidia) 和 AMD 等公司的股价也大幅

发表于 03-21 15:19

新手小白怎么学GPU云服务器跑深度学习?

新手小白想用GPU云服务器跑深度学习应该怎么做? 用个人主机通常pytorch可以跑但是LexNet，AlexNet可能就直接就跑不动,如何实现更经济便捷的实现GPU云服务器

发表于 06-11 17:09

深度学习框架TensorFlow&TensorFlow-GPU详解

TensorFlow&TensorFlow-GPU：深度学习框架TensorFlow&TensorFlow-GPU的简介、安装、使用方法详细攻略

发表于 12-25 17:21

Mali GPU支持tensorflow或者caffe等深度学习模型吗

Mali GPU 支持tensorflow或者caffe等深度学习模型吗？好像caffe2go和tensorflow lit可以部署到ARM，但不知道是否支持在GPU运行？我希望把训

发表于 09-16 14:13

什么是深度学习？使用FPGA进行深度学习的好处？

上述分类之外，还被用于多项任务（下面显示了四个示例）。在 FPGA 上进行深度学习的好处我们已经提到，许多服务和技术都使用深度学习，而 GPU

发表于 02-17 16:56

深度学习方案ASIC、FPGA、GPU比较哪种更有潜力

几乎所有深度学习的研究者都在使用GPU，但是对比深度学习硬鉴方案，ASIC、FPGA、GPU三种

发表于 02-02 15:21 •1w次阅读

GPU和GPP相比谁才是深度学习的未来

相比GPU和GPP，FPGA在满足深度学习的硬件需求上提供了具有吸引力的替代方案。凭借流水线并行计算的能力和高效的能耗，FPGA将在一般的深度学习

发表于 10-18 15:48 •1488次阅读

GPU引领的深度学习

早期的机器学习以搜索为基础，主要依靠进行过一定优化的暴力方法。但是随着机器学习逐渐成熟，它开始专注于加速技术已经很成熟的统计方法和优化问题。同时深度学习的问世更是带来原本可能无法实现的

发表于 02-26 06:11 •5次下载

GPU 引领的深度学习

GPU 引领的深度学习

发表于 01-04 11:17 •719次阅读

深度学习如何挑选GPU？

NVIDIA的标准库使在CUDA中建立第一个深度学习库变得非常容易。早期的优势加上NVIDIA强大的社区支持意味着如果使用NVIDIA GPU，则在出现问题时可以轻松得到支持。

发表于 07-12 11:49 •559次阅读

GPU的张量核心：深度学习的秘密武器

GPU最初是为图形渲染而设计的，但是由于其卓越的并行计算能力，它们很快被引入深度学习中。深度学习的迅速发展离不开计算机图形处理单元（

发表于 09-26 08:29 •937次阅读

GPU在深度学习中的应用与优势

人工智能的飞速发展，深度学习作为其重要分支，正在推动着诸多领域的创新。在这个过程中，GPU扮演着不可或缺的角色。就像超级英雄电影中的主角一样，GPU在

发表于 12-06 08:27 •1297次阅读

深度学习GPU加速效果如何

图形处理器（GPU）凭借其强大的并行计算能力，成为加速深度学习任务的理想选择。

发表于 10-17 10:07 •183次阅读

GPU深度学习应用案例

GPU在深度学习中的应用广泛且重要，以下是一些GPU深度学习应用案例：一、图像识别图像识别是

发表于 10-27 11:13 •378次阅读