不愧国产第一缘由
2020-04-18 来源:开平租房网
关于主流深度学习芯片的优缺点分析
深度学习全称深度神经络,本质上是多层次的人工神经络算法,即模仿人脑的神经络,从最基本的单元上摹拟了人类大脑的运行机制。近年来,其所获得的前所未有的突破掀起了人工智能新一轮的发展热潮。
最早的神经络的思想起源于1943年的MCP人工神经元模型,当时是希望能够用计算机来模拟人的神经元反应的进程,但直到最近,它才真正让人工智能火起来。主要原因在于:算法的突破、数据量的激增和计算机能力/成本的下落。其中计算能力的提升的作为人工智能实现的物理基础,对人工智能发展的意义不言而喻。
本文我们就来分析目前主流的深度学习芯片的优缺点。
cpu不适合深度学习
深度学习与传统计算模式最大的区别就是不需要编程,它是从输入的大量数据中自发地总结出规律,而传统计算模式更多都需要人为提取所需解决问题的特征或总结规律来进行编程。也正由于如此,深度学习对计算能力要求非常高,以至于有人将深度学习称之为“暴力计算”。
因此,传统的CPU其实不适用于深度学习。
从内部结构上来看,CPU中70%晶体管都是用来构建Cache(高速缓冲存储器)和一部分控制单元,负责逻辑运算的部份(ALU模块)其实不多。控制单元等模块的存在都是为了保证指令能够一条接一条的有序执行。
这种通用性结构对传统的编程计算模式非常适合,但对并不需要太多的程序指令,却需要海量数据运算的深度学习的计算需求,这类结构就显得有心无力了。
gpu
,深度学习主流芯片
与CPU少许的逻辑运算单元相比,GPU整个就是一个庞大的计算矩阵,GPU具有数以千计的计算核心、可实现10-100倍应用吞吐量,而且它还支持对深度学习至关重要的并行计算能力,可以比传统处理器更加快速,大大加快了训练进程。GPU是目前最普遍采取的深度学习运算单元之一。
目前,谷歌、Facebook、微软、Twitter和百度等互联巨头,都在使用GPU作为其深度学习载体,让服务器学习海量的照片、视频、声音文档,以及社交媒体上的信息,来改善搜索和自动化照片标记等各种各样的软件功能。而某些汽车制造商也在利用这项技术开发无人驾驶汽车。
不过,由于GPU的设计初衷是为了应对图象处理中需要大规模并行计算。因此,根据乐晴智库介绍,其在应用于深度学习算法时有数个方面的局限性:
第一,应用过程中无法充分发挥并行计算优势。深度学习包括训练和运用两个计算环节,GPU在深度学习算法训练上非常高效,但在应用时一次性只能对一张输入图象进行处理,并行度的优势不能完全发挥。
第二,硬件结构固定不具有可编程性。深度学习算法还未完全稳定,若深度学习算法发生大的变化,GPU没法灵活的配置硬件结构。
另外,在能耗上面,虽然GPU要好于CPU,但其能耗仍旧很大。
备受看好的fpga
FPGA,即现场可门阵列,是一种新型的可编程逻辑器件,由于其具有静态可重复编程和动态在系统重构的特性,使得硬件的功能可以像软件一样通过编程来修改。
FPGA作为人工智能深度学习方面的计算工具,主要原因就在于其本身特性:可编程专用性,高性能,低功耗。
北京大学与加州大学的一个关于FPGA加速深度学习算法的合作研究。展现了FPGA与CPU在执行深度学习算法时的耗时比较。在运行一次迭代时,使用CPU耗时375毫秒,而使用FPGA只耗时21毫秒,取得了18倍左右的加速比。
根据瑞士苏黎世联邦理工学院(ETHZurich)研究发现,基于FPGA的应用加速比CPU/GPU方案,单位功耗性能可提升25倍,而时延则缩短了50到75倍,与此同时还能实现出色的I/O集成。而微软的研究也表明,FPGA的单位功耗性能是GPU的10倍以上,由多个FPGA组成的集群能到达GPU的图像处理能力并保持低功耗的特点。
根据英特尔预计,到2020年,将有1/3的云数据中心节点采取FPGA技术。
不可估量的Asic
ASIC(Application Specific Integrated Circuits,专用集成电路),是指应特定用户要求或特定电子系统的需要而设计、制造的集成电路。ASIC用于专门的任务,比如去除噪声的电路,播放视频的电路,但是ASIC明显的短板是不可更改任务。但与通用集成电路相比,具有以下几个方面的优越性:体积更小、功耗更低、可靠性提高、性能提高、保密性增强、本钱降低。
从算力上来说,ASIC产品的计算能力是GK210的2.5倍。功耗上,ASIC功耗做到了GK210的1/15。
固然ASIC是能效最高的,但目前,都在早期阶段,算法变化各异。想搞一款通用的ASIC适配多种场景,还是有很多路需要走的。但从比特币挖矿机经历的从CPU、GPU、FPGA到最后ASIC的四个阶段来推论,ASIC将是人工智能发展的重要趋势之一。另外,在通信领域,FPGA曾也是风靡一时,但是随着ASIC的不断发展和蚕食,FPGA的份额和市场空间已岌岌可危。
据了解,谷歌最近曝光的专用于人工智能深度学习计算的TPU,其实也是一款ASIC。
一岁半小孩便秘怎么办小儿积食甚么原因孩子脸色发黄徐州中医男科医院
小孩子不消化怎么办
清远癫痫病医院地址
鼻窦炎症状与医治
心律失常和早搏
老人风湿骨痛的症状
月经期腹痛是什么原因贝分盐酸西替利嗪糖浆效果怎么样
石家庄白癜风中医院
-
- 上一篇
- [p]最近天气酷热缘由
-
- 下一篇
- 写山乡的可爱