人工智能带动了GPU服务器市场爆发式的增长！
【 资讯 】咨询机构IDC近日发布的《2017年中国AI基础设施市场跟踪报告》显示，2017年，中国GPU服务器市场迎来爆发式增长，市场规模为5．65亿美元（约合35亿元人民币），同比增长230．7％，约占中国X86服务器市场的6％。
该机构预测，未来五年GPU服务器市场仍将保持高速增长，2017～2022年复合增长率将超过43％。到2022年，GPU服务器的市场规模有望达到中国X86服务器市场整体规模的16％，将直接改变整个服务器市场的格局。
从厂商市场占有率来看，浪潮处于领先位置，曙光和新华三紧随余埋带其后。从行业分布来看，互联网是GPU服务器的主要用户群体，提供AIaaS的公有云服务提供商和AI解决方案提供商有望成为未来驱动市场增长的新动力。从市场趋势来看，2017年GPU服务器市场不再是一个小众的市场，几乎所有互联网用户和大量的AI初创公司都开始采购GPU服务器搭建自己的AI平台，主流的公有云厂商也都先后推出自己的AIaaS服务。
从AI生态系统建设来看，Nvidia具有明显优势，其Tesla系列产品在AI基础设施市场占据主导地位，尤其在线下训练场景中几乎垄断了市场。从其产品分布来看，P40和P100占据超过70％的市场份额，分别面向推理和训练工作负载，P4在2017年也取得了快速增长，主要面向1U紧凑型推理计算平台。
该机构中国服务器市场高级研究经理刘旭涛认为：“2017年是中国AI元年，也是AI生态和市场迅速发展的一年。在国家政策和资本的共同推动下，大量AI初创企业涌现、行业应用迅速落地。AI市场的火热推动了以GPU服务器为主的AI基础设施市场取得了爆发式增长，未来伴随AI市场的发展和繁荣，AI基础设施市场仍将保持快速增长。”他认为，目前，AI的应用以线下训练为主，使用者主要是拥有海竖芦量数据的用户群体，基础设施以GPU为主。未来，在线推理的应用将更加广泛，除了GPU，FPGA、ASIC等加速计液斗算技术，甚至基于ARM架构的一些新的专用AI芯片都会迎来发展机遇。
CPU，GPU，DSP，NPU，到底哪个更适
CP来自U、GPU：用轿车运货
在英伟达开发出针对人工智能的定制GPU第守兴许把怕呢料水开字，并坚持DGX-1 系统之后，Intel也不甘落后，在收购深度学习创业公司 Nervana Systems之后，Intel也公布了用于深度学习的Xeon Phi家族新成员，在深度学习处理器领域开辟新战场。
在不久前，Intel还发布了一些X帮致决征获独eon Phi 的基准测试结果，其声称内容总结如下：
1360问答、四片 Knights Landing Xeon Phi 芯片比四片 GPU要快 2.3 倍;
2、在多节点系统中， Xeon Phi 芯片的能比 GPU 更好地扩展是弱七居充味层沙州阳38% ;
3、128 块 Xeon Phi 的服务众沙掌治管刑器组成的系统要比单块 Xeon Phi 服务器快 50 倍，暗示着 Xeon Phi 服务器的扩展性相当好;
4、使用Intel优化版的 Caffe 深度学习框架时，Xeon Phi 芯片要比标准 Caffe 实现快 30 倍。
一言蔽之，Intel的众核芯片在深度学习上比英伟提清目企序达的GPU更为高效。
不过，英伟达也随之反击，声称这是Intel使用了其旧的基准测试结果，并表示：
1、如果英特尔使用更新一点的 Caffe AlexNet 实现结果的话，它就会发现四块上代英伟达 Maxwell GPU 实际上比四又庆使果费块英特尔 Xeon Phi 服务器集群快 30%称督。
2、另外，一旦英伟达的 GPU 从 28nm 的平面工艺转移到 16nm 的 FinFET 工艺上时，GPU的性能和效率还会有很大的提升。
3、对进犯因买评企支副于深度学习，英伟达还强迫况静形增宣雨还那调更少的高性能节点无论如何都会比更多低性能节点好。并以其最新的 DG义论洲互静验还况波X-1为例，认为DGX-1比 21 个 Xeon Phi 服务投适点甲岁器集群快一点，比四个 Xeon Phi 服务器集群快 5.3 倍。
笔者认为，Intel的众核芯片也在一定程度上吸取了GPU的优经决势，性能不俗，但短时间看还是GPU有优势。不过，无论是针对人工智能的众核芯片还是定制版的GPU，本质上都不是专用处理器，实际上是拿现有的、相对成熟的架构和技术成果去应对新生的人工智能，并没有发生革命性的技术突破。
DSP：和真正神经网络芯片有差距
6月20日，中星微“数字多媒体芯片技术”国行田响术家重点实验室在京宣布，中国首款嵌入式NPU(神经网络处理器)芯片诞生，目前已应用于全球首款嵌入式视频处理芯片“星光智能一号”。 不过，在经过仔细分析后，所谓“中国首款嵌入式神经网络处理器”很有可能是一款可以运行神经网络的DSP，而非真正意义的神经网络专用达青冷独航芯片。
从其低位宽的定点运算随经举器推断，星光智能一号仅可支持神经网络正向运算，无法支持神经网络的训练。从片上存储结构看，星光智能一号基于传统的片上缓存(Cache)，而非像最近流行的神经芯片或FPGA方案一样使用便签式存储。因此，在技术上看星光智能一号是典型的“旧瓶装新酒”方案，将传统的面向数字信号处理的DSP处理器架往始弦预易尽宗构用于处理神经网络，主要在运算器方面作了相应修改，例如低位宽和超越函数，而并非是“狭义的”神经网络专用处理器，如IBM的“真北”芯片。
NPU：为深度学习而生的专业芯片
从技术角度看，深度学习实际上是一类多层大规模人工神经网络。它模仿生物神经网络而构建，由若干人工神经元结点互联而成。神经元之间通过突触两两连接，突触记录了神经元间联系的权值强弱。
另外，神经网络中存储和处理是一体化的，都是通过突触权重来体现。 而冯·诺伊曼结构中，存储和处理品意写是分离的，分别由存储器和运算器来实现，二者之间存在巨大的差异。当用现有的基于冯·诺伊曼结构的经典计算机(如X86处理器和英伟达GPU)来跑神经网络应用时，就不可避免地受到存储和处理分离式结构的制约，因而影响效率。这也就是专门针对人工智能的专业芯片能够对传统芯片有一定先天优势的原因之一。
CPU、GPU与NPU相比，会有百倍以上的性能或能耗比差距
就现阶段而言，传统芯片厂商(如CPU、GPU和DSP)对于深度学习市场非常重视，因此利用他们巨大体量和市场推广、销售能力，大力推广用这些传统芯片来进行深度学习处理，其本质上也是对现有的技术进行微调，用传统SIMD架构来适配神经网络。
然而，由于传统CPU、GPU和DSP本质上并非以硬件神经元和突触为基本处理单元，相对于NPU在深度学习方面天生会有一定劣势，在芯片集成度和制造工艺水平相当的情况下，其表现必然逊色于NPU。
MATLAB语言介绍
MATLAB是矩阵实验室（Matrix Laboratory）的简称，是美国MathWorks公司出品的商业数学软件，用于算法开发、数据可视化、数据分析以及数值计算的高级技术计算语言和交互式环境，主要包括MATLAB和Simulink两大部分。
MATLAB是由美国mathworks公司发布的主要面对科学计算、可视化以及交互式程序设计的高科技计算环境。它将数值分析、矩阵计算、科学数据可视化以及非线性动态系统的建模和仿真等诸多强大功能集成在一个易于使用的视窗环境中，为科学研究、工程设计以及必须进行有效数值计算的众多科学领域提供了一种全面的解决方案，并在很大程度上摆脱了传统非交互式程序设计语言（如C、Fortran）的编辑模式，代表了当今国际科学计算软件的先进水平。
MATLAB和Mathematica、Maple并称为三大数学软件。它在数学类科技应用软件中在数值计算方面首屈一指。MATLAB可以进行矩阵运算、绘制函数和数据、实现算法、创建用户界面、连matlab开发工作界面接其他编程语言的程序等，主要应用于工程计算、控制设计、信号处理与通讯、图像处理、信号检测、金融建模设计与分析等领域。
MATLAB系统由MATAB开发环境、MATLAB数学函数库、MATLAB语言、MATLAB图形处理系统和MATLAB应用程序接口（API）五大部分构成。
MATLAB开发环境
MATLAB开发环境是一套方便用户使用的MATLAB函数和文件工具集，其中许多工具是图形化用户接口。它是一个集成的 用户工作空间，允许用户输入输出数据，并提供了M文件的集成编译和调试环境，包括MATLAB桌面、命令窗口、M文件编辑调试器、MATLAB工作空间和在线帮助文档。
MATLAB数学函数库
MATLAB数学函数库包括了大量的计算算法。从基本算法如加法、正弦，到复杂算法如矩阵求逆、快速傅里叶变换等。
MATLAB语言
MATLAB语言是一种高级的基于矩阵/数组的语言，它有程序流控制、函数、数据结构、输入/输出和面向对象编程等特色。
MATLAB图形处理系统
图形处理系统使得MATLAB能方便的图形化显示向量和矩阵，而且能对图形添加标注和打印。它包括强大的二维三维图形函数、图像处理和动画显示等函数。
MATLAB应用程序接口
MATLAB应用程序接口（API）是一个使MATLAB语言能与C、Fortran等其它高级编程语言进行交互的函数库。该函数库的函数通过调用动态链接库（DLL）实现与MATLAB文件的数据交换，其主要功能包括在MATLAB中调用C和Fortran程序，以及在MATLAB与其它应用程序间建立客户、服务器关系。
编辑本段新版本新功能 2012a 版的新功能
Release 2012a 包括 MATLAB®、Simulink® 和 Polyspace® 产品的新功能，以及对 77 种其他产品的更新和补丁修复。已经购买 MathWorks 软件维护服务的用户可以下载产品更新。访问许可证中心下载产品、激活软件并管理许可证和用户信息。
MATLAB重要功能
MATLAB:统一了用于一维、二维与三维数值积分的函数并提升了基本数学和内插函数的性能
MATLAB Compiler™：可以下载 MATLAB Compiler Runtime (MCR)，简化编译后的程序和组件的分发
Image Processing Toolbox™：通过亮度指标优化进行自动图像配准
Statistics Toolbox™：增强了使用线性、广义线性和非线性回归进行拟合、预测和绘图的界面
System Identification Toolbox™：识别连续时间传递函数
代码生成产品
HDL Coder™:可替代 Simulink HDL Coder 的新产品，添加了直接从 MATLAB 生成 HDL 代码功能
HDL Verifier™：可替代 EDA Simulator Link 的新产品，添加了 Altera FPGA 在环支持
MATLAB Coder™：可从用户定义的系统对象生成代码并自动生成动态共享库
Embedded Coder™：AUTOSAR 4.0 兼容性，减少了数据副本，并通过 Simulink Web 视图实现代码生成报告的链接
用于在 MATLAB 和 Simulink 中进行设计的系统工具箱 (System Toolbox)
Computer Vision System Toolbox™：Viola-Jones 对象检测、MSER 特征检测和 CAMShift 跟踪
Communications System Toolbox™：USRP 无线电支持、LTE MIMO 信道模型以及 LDPC、Turbo 解码器和其他算法的 GPU 支持
MATLAB的基本数据单位是矩阵，它的指令表达式与数学、工程中常用的形式十分相似，故用MATLAB来解算问题要比用C，FORTRAN等语言完成相同的事情简捷得多，并且MATLAB也吸收了像Maple等软件的优点，使MATLAB成为一个强大的数学软件。在新的版本中也加入了对C，FORTRAN，C++，JAVA的支持。可以直接调用,用户也可以将自己编写的实用程序导入到MATLAB函数库中方便自己以后调用，此外许多的MATLAB爱好者都编写了一些经典的程序，用户可以直接进行下载就可以用。
