人工智能到底用 GPU？还是用 FPGA？

有一个比喻打得很恰当，CPU就像大学里一位德高望重的老教授，积分微分啥都会算，但毕竟它只有一个人，当计算任务太重的时候也会被累趴下，而FPGA这样的结构，就像是整个小学里所有小学生组成的队列，每个人都只会算简单的加减乘除，但有些量大但不复杂的运算任务交给他们就是会比较快。具体表现在性能上，很明显的一点就是一般的CPU只能同时处理4到8个指令，而不算太差的只要FPGA优化得当，可以同时处理256个甚至更多的指令。其实GPU的设计思路同FPGA类似，都是为了处理大量简单重复的运算而出现的设备。但GPU的性能强悍的同时耗能也很高，而FPGA因为编程和优化都是直接在硬件层面进行的，能耗会低很多。 FPGA相对于CPU和GPU，在进行感知处理等简单重复的任务的时候的优势很明显，按照现在的趋势发展下去，FPGA或许会在未来取代机器人开发中GPU的工作。因为FPGA和GPU虽然都精于大量的重复运算，但FPGA的能耗会远低于GPU。所以我觉得会替代GPU。

就任务计算而言，在针对密集型任务时，FPGA能够表现出相当于GPU的吞吐量，相当于ASIC的时延和功耗，吞吐量表现方面，GPU接近于10T，FPGA也接近于10T，ASIC也接近于10T，三者不相上下，在时延方面，GPU为接近1ms，FPGA和ASIC都接近于1us，不相上下，在功耗方便，GPU明显高于FPGA（～30w）为～300W。灵活性方面GPU和FPGA都是比较高的。在通信密集型任务方面，GPU和FPGA吞吐量差不多，皆能表现出接近于200M，时延方面GPU就明显落后于FPGA了，GPU为～1ms，FPGA为～1us，功耗方面GPU为～300W，而FPGA为～30W，在灵活性方面，两者都是比较高的。

FPGA对GPU的潜力在于其计算速度与GPU不相上下，却在成本和功耗上对GPU有着显著优势。FPGA 可以开发出为机器学习算法专用的架构，但是 FPGA 本身的峰值性能较 GPU 要差很多。但是从灵活性来说，FPGA 远好于 GPU。作为一个想要推向市场的商品来说，FPGA最需要克服，也是最容易克服的问题是普及程度。FPGA 和 GPU 哪个跑机器学习算法更强（平均性能更好），完全取决于 FPGA 架构优化能否弥补峰值性能的劣势。

我在搞FPGA，对于GPU还不是很了解，就功耗方面，虽然现在的GPU比较高，但这都是技术问题，以后可能出现新的材料就不好说了。GPU 适合对人工智能进行“训练”，我认为这个就是厉害了。