1 AI让FPGA获得新生:CPU+GPU都搞不定的机器学习问题,微软和百度用FPGA解决了-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI让FPGA获得新生:CPU+GPU都搞不定的机器学习问题,微软和百度用FPGA解决了

TI17_shenzhenwa 来源:深圳湾 作者:佚名 2017-08-25 16:14 次阅读

在今年的 Hot Chips 2017 会议上,微软推出基于 FPGA 的超低延迟计算平台 Brainwave,用于在云端加速深度学习。该平台采用英特尔 Stratix 10 FPGA,经测试得出,Brainwave 不需要任何 batching 就能在大型 GRU(Gated recurrent unit)上达到 39.5 Teraflops 的性能。

微软将 DPU 或者 DNN 处理单元合并到 FPGA 中,希望通过加强深度学习网络的研究,更快地适应其云服务基础设施建设,以应对接近于实时的运算处理需求。

同样是在 Hot Chips 大会上,百度发布一款 256 核、基于 FPGA 的云计算加速芯片 XPU,其合作伙伴是著名 FPGA 厂商 Xilinx。XPU 的目标是在性能和效率之间实现平衡,处理多样化的计算任务,而 FPGA 本身就擅长于处理某些特定的计算。

百度研究员欧阳剑表示:「FPGA 是高效的,可以专注于特定计算任务。传统 CPU 擅长通用计算任务,尤其是基于规则的计算任务,同时非常灵活。GPU 瞄准了并行计算,因此有很强大的性能,XPU 则专注于计算密集型、基于多规则的多样化计算任务,提高效率和性能,并带来类似 CPU 的灵活性。」

近两年随着人工智能浪潮的到来,让有些冷门 FPGA 又重新焕发了生机,其实各大科技厂商很早就发现了 FPGA 在 AI 领域所拥有的优势,并开始布局。

微软在 Hot Chips 上展示 Brainwave

早在2015 年,微软就提出了一种使用 FPGA 加速 Bing 搜索引擎的方案,这些 CPU + FPGA 混合器在当年便投入了生产和布置,用以加速 Bing 的页面排名功能。去年,亚马逊 AWS 也推出了基于 FPGA 的云服务 EC2 F1。事实上,百度、阿里云、腾讯云等巨头也相继推出了 FPGA 云服务。

FPGA 之所以普遍受到业界的关注,是源于 2015 年英特尔有史以来最大的一笔收购案 —— 以 167 亿美元的价格收购 FPGA 大厂 Altera。英特尔判断, 2020 年 CPU + FPGA 的异构计算将占据运输局中心市场的三分之一。

和传统的 CPU 、GPU 相比,FPGA 无指令、无需共享内存的体系结构可以拥有更高的计算效率,在处理类似矩阵运算、图像处理、机器学习、压缩、Bing 搜索排序等计算密集型任务中有相当优秀的表现。另外,FPGA 拥有更低的功耗,百度在线上服务使用的 FPGA 版百度大脑,在同样的功耗下,其性能是天河二号超级计算机的十倍以上。

摩尔定律已经不再符合现今技术的发展状态,而机器学习和 Web 服务的规模却以指数级增长,技术和行业的快速发展,对处理器提出了可被重新编程以适应新类型计算任务的要求,FPGA 正是这样一种可以重构的体系结构,而这也是各科技巨头如此看重 FPGA 的原因。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • FPGA
    +关注

    关注

    1629

    文章

    21729

    浏览量

    602961
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4729

    浏览量

    128887
  • AI
    AI
    +关注

    关注

    87

    文章

    30728

    浏览量

    268872
  • 人工智能
    +关注

    关注

    1791

    文章

    47183

    浏览量

    238209
  • 机器学习
    +关注

    关注

    66

    文章

    8406

    浏览量

    132557

原文标题:CPU+GPU 搞不定的机器学习问题,微软和百度都采用 FPGA 解决

文章出处:【微信号:shenzhenware,微信公众号:深圳湾】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    百度将发布AI智能眼镜

    近日,有知情人士透露,百度旗下的人工智能品牌小计划在即将举行的百度世界大会上推出一款全新的AI智能眼镜。这款眼镜将内置先进的人工智能助手,并配备摄像头,为用户提供前所未有的智能体验。
    的头像 发表于 11-11 14:50 402次阅读

    百度市值被低估?分析师看好其长期发展潜力

    近期,尽管微软和Meta公布超预期的财报,但市场对人工智能领域的热情似乎有所减退。在此背景下,中概股也普遍走低,百度同样未能幸免。然而,多位分析师对百度的长期发展潜力表示看好,认为其
    的头像 发表于 11-05 11:16 553次阅读

    百度AI计算平台4.0震撼发布

    在2024年百度云智大会的璀璨舞台上,百度智能云重磅推出了AI异构计算平台的全新力作——4.0版本。此次升级,标志着百度
    的头像 发表于 09-26 14:46 468次阅读

    百度搜索AI生成内容占比达11%

    在2024年举办的百度移动生态万象大会上,百度集团资深副总裁、百度移动生态事业群组总经理何俊杰分享一系列令人瞩目的数据。他透露,百度新搜索
    的头像 发表于 05-31 09:24 716次阅读

    2024百度移动生态万象大会:百度新搜索11%内容已AI生成

    万象大会上百度集团资深副总裁、百度移动生态事业群组(MEG)总经理何俊杰公布一项统计数据:百度新搜索已有11%的搜索内容是由AI生成的。同
    发表于 05-30 18:58 407次阅读

    百度搜索重磅推出AI图片助手

    近日,百度搜索全新上线一款名为“百度AI图片助手”的智能工具,该工具赋予用户一键处理图片的强大能力。无论是搜索中的图片还是用户自主上传的
    的头像 发表于 05-06 10:20 1429次阅读

    AI服务器异构计算深度解读

    AI服务器按芯片类型可分为CPU+GPUCPU+FPGACPU+ASIC等组合形式,CPU+GPU是目前国内的主要选择(占比91.9%)
    发表于 04-12 12:27 606次阅读
    <b class='flag-5'>AI</b>服务器异构计算深度解读

    优必选宣布人形机器人Walker S接入百度文心大模型

    优必选宣布人形机器人Walker S接入百度文心大模型,共同探索中国AI大模型+人形机器人的应用。
    的头像 发表于 04-07 10:17 906次阅读

    新火种AI|苹果携手百度共创AI手机,是“病急乱投医”吗?

    消息影响,百度港股直线拉升超6.42%,不过由于双方尚未进行官方印证,百度收盘时仅微涨2.55%。 与此同时,和百度合作的传闻众多果粉表
    的头像 发表于 03-26 22:09 310次阅读
    新火种<b class='flag-5'>AI</b>|苹果携手<b class='flag-5'>百度</b>共创<b class='flag-5'>AI</b>手机,是“病急乱投医”吗?

    百度将为苹果新品提供AI功能

    据知情人士透露,百度已确定将为苹果即将发布的iPhone16、Mac系统和iOS18提供AI功能。此前,苹果曾与阿里等其他国内大模型公司进行过洽谈,但最终选择百度作为合作伙伴。
    的头像 发表于 03-26 09:15 524次阅读

    FPGA在深度学习应用中或将取代GPU

    对神经网络进行任何更改,也不需要学习任何新工具。不过你可以保留你的 GPU 用于训练。” Zebra 提供将深度学习代码转换为 FPGA
    发表于 03-21 15:19

    新火种AI|百度AI赚翻了!全年营收1346亿,碾压OpenAI成盈利第一?

    狂飙的AI风口,为什么百度赚到钱
    的头像 发表于 03-02 09:10 991次阅读
    新火种<b class='flag-5'>AI</b>|<b class='flag-5'>百度</b><b class='flag-5'>AI</b>赚翻了!全年营收1346亿,碾压OpenAI成盈利第一?

    百度搜索推出AI拜年新能力

    随着人工智能技术的迅猛发展,百度搜索始终站在技术前沿,致力于为用户提供更加智能化、便捷的服务。百度搜索重磅推出了AI拜年新能力,在春节期间,用户能够更加轻松地表达祝福、传递情感。
    的头像 发表于 02-05 10:54 6103次阅读

    人形机器人初创公司Figure AI微软和OpenAI展开融资谈判

    近日,人形机器人初创公司Figure AI Inc.正与微软和OpenAI展开融资谈判,目标筹集高达5亿美元的资金。据悉,微软和OpenAI可能分别投资9500万美元和500万美元。如
    的头像 发表于 02-04 11:00 935次阅读

    到底什么是ASIC和FPGA

    用在ADAS(高级驾驶辅助系统)和伺服电机驱动上。 消费电子FPGA,是因为产品迭代太快。ASIC的开发周期太长了,等做出东西来,黄花菜凉了。 FPGA、ASIC、
    发表于 01-23 19:08