微软坚持投注于用FPGA加速机器学习模型
昨晚，微软Build2018大会开幕，发布Project Brainwave预览版，并且称延迟比TPU低5倍，正面与谷歌交锋。现在，谷歌等公司都押注在专用定制芯片（ASIC）上，微软坚持投注于用FPGA加速机器学习模型，到底谁更胜一筹？
昨晚午夜，微软Build 2018大会开幕，微软CEO萨提亚·纳德拉（Satya Nadella）重点介绍几个方面的进展：
Project Brainwave预览版
Azure IoT Edge开源
Kinect回归
AI语音工具和未来会议室
其中最令人关注的是Brainwave预览版，在这个平台上，能够用FPGA在Azure云和边缘设备上实时运行深度学习模型。
Project Brainwave使用英特尔的FPGA，纳德拉说，大家不要只看到谷歌的TPU，还有我们微软的Brainwave嘛。
Brainwave到底有多厉害？
Project Brainwave：实时硬件AI能力延迟比TPU低5倍
目前，微软的一些竞争对手，包括谷歌，都押注在专用定制芯片（ASIC），但微软坚持投注于用FPGA加速机器学习模型，Brainwave也不例外。
微软认为FPGA比设计定制芯片更灵活，并且标准Intel Stratix FPGA的性能至少可以与定制芯片相媲美。在大会上，微软认为Project Brainwave的实时AI能力延迟比TPU低5倍。
微软称，利用Project Brainwave的客户可以使用标准的图像识别模型处理100万张图片，而单个图像只需要在1.8毫秒内就能处理，这比现在的任何竞争对手的云服务都要好。
Brainwave首次亮相是在去年8月的Hot Chips大会上，当时公开的信息显示，Brainwave由三个不同的层组成：
一个高性能分布式架构;
已经整合在FPGA上一个硬件深度神经网络引擎;
用于部署预训练的模型的编译器和运行时。
用于Project Brainwave的硬件示例
微软正在将FPGA整合到其整个数据中心网络，成为一种硬件微服务。这样做的好处是高吞吐量和大幅减少延迟，因为该架构允许微软绕过传统服务器的CPU直接与FPGA进行通信。
BrainWave最初发布时，支持微软CNTK和谷歌TensorFlow框架。
Project Brainwave为传统AI带来了两个重要的区别。
首先，它使用的FPGA可以经常更新升级，以对最新算法提供加速，并且它可以快速处理AI任务，适合用于对响应时间要求很高的实时任务。
其次，客户将能够在他们自己的网站上运行使用微软硬件的AI任务，而不用通过接入微软的数据中心，这又加快了速度。
不过，FPGA在云计算中并没有被广泛使用，因此大多数公司都没有必要的专业知识来编程，微软做出了大胆的一步。微软表示，其云服务可以将客户的软件应用于FPGA。
另一方面的谷歌TPU势头正猛。
上个月，谷歌的AI负责人Jeff Dean 表示，他们在 ImageNet 图像分类上发布了新的 DAWNBench 结果，新型 AmoebaNet-D 网络在 TPU 上实现了最低的训练时间和最少的训练成本。
明天，谷歌的I/O大会将开幕，预计也会在TPU上大做文章，好戏还在后面。
Azure IoT Edge开源和Kinect“回归”
纳德拉说，预计到2020年，智能设备总数将超过200亿台。接着他公布了微软Build 2018的另一个进展：智能边缘计算与智能云，并宣布Azure IoT Edge Runtime开源。
Azure IoT Edge Runtime开源能让用户修改、调试边缘应用，透明度和控制能力也更高。不够，现在认知服务目前只有视觉，将来会有更多的服务出来。
另外，微软还发布了Project Kinect for Azure，Kinect以前是用于Xbox的体感设备，这次相当于是回归。
Project Kinect for Azure能完成动作追踪等任务，背后是Azure IoT Edge Runtime技术。
黄学东：微软的麦克风阵列让语音识别再上一个台阶
还有一个值得关注的领域是微软Build大会上展示的未来会议室。
会议室使用的是360度相机和麦克风阵列，可以检测会议室中的任何人说话。摄像头能够把各个画面拼成一个全景画面，还可以进行人脸识别，以确保参会者的身份，此外，还能把会议室预约系统做进去，真是强大。
更强大的是，这个未来会议室还有基于语义分析的会议纪要功能，能够实时同传+速记。
多年来，微软一直致力于Skype的翻译功能，未来的会议室也包括这项技术。会后，微软全球技术院士黄学东表示，视频中展示的未来会议室使用了他们刚刚宣布的Microsoft Speech Device SDK，“微软公司极其优秀的麦克风阵列可以让语音识别再上一个台阶。”
黄学东还提到，中国的AI公司ROOBO和微软合作开发认知服务开发套件。
微软提供Speech Service开发平台，ROOBO完成Microsoft Speech Device SDK在音频、声学及硬件的设计与实现，由开发者使用的硬件也是由ROOBO提供。
此外，微软还宣布“人工智能无障碍计划（AI for Accessibility）”，未来五年内将投入2500万美元，用于研发能够增强人类能力的人工智能技术。
-
微软
+关注
关注
4文章
6590浏览量
104024 -
语音识别
+关注
关注
38文章
1739浏览量
112632 -
机器学习
+关注
关注
66文章
8406浏览量
132557
原文标题：微软押注FPGA与谷歌TPU对擂，AI会议室秒杀同传+速记
文章出处：【微信号：AI_era，微信公众号：新智元】欢迎添加关注！文章转载请注明出处。
发布评论请先 登录
相关推荐
AI让FPGA获得新生：CPU+GPU都搞不定的机器学习问题，微软和百度用FPGA解决了
采用Xilinx FPGA加速机器学习应用
机器学习实战：GNN加速器的FPGA解决方案
什么是机器学习? 机器学习基础入门
百度采用 Xilinx FPGA 加速机器学习应用
Xilinx FPGA如何通过深度学习图像分类加速机器学习
如何借助Xilinx FPGA和MATLAB技术加速机器学习应用
工商网监
评论