全新 NVIDIA Pascal GPU 加速深度学习推论
NVIDIA（英伟达）21日宣布推出Pascal架构深度学习平台的最新生力军NVIDIA Tesla P4及P40 GPU加速器与全新软件，在效能及速度提供大幅度的提升以加速人工智能服务的推论生产作业负载。
语音助理、待过滤垃圾邮件及电影与产品推荐引擎等现代人工智能（AI）服务越来越复杂，与一年前的神经网络相比需要高出10倍的运算。目前以CPU为主的技术无法提供现代人工智能服务所需要的即时回应能力，导致不佳的使用者经验。
Tesla P4及P40特别针对推论设计，使用经训练的深度神经网络辨识语音、影像及文字以回应用户和设备要求。Pascal架构GPU具备以8位（INT8）运算为主的专门推论指令，提供比CPU快45倍的反应速度，与不到一年前推出的GPU解决方案相比则提升了4倍。
Tesla P4为数据中心带来最高的能源效率，其小尺寸及最小50瓦特的低功率设计可安装于任何服务器内，让生产作业负载推论的能源效率达CPU的40倍。在进行视讯推论作业负载时，单一服务器瑞安装单颗TeslaP4即可取代13台仅采用CPU的服务器；而包含服务器及用电量的总持有成本则能节省达8倍。
Tesla P40为深度学习作业负载带来最大的处理量。一台搭载8颗Tesla P40加速器的服务器拥有每秒47兆次运算（TOPS）的推论效能及INT8指令，可取代140台以上的CPU服务器的效能。若以每台CPU服务器约5,000美元计算，可节省65万美元以上的服务器采购成本。
NVIDIA加速运算总经理Ian Buck表示：“有了Tesla P100以及新推出的Tesla P4及P40，NVIDIA为数据中心提供唯一的端对端深度学习平台，为各大产业释放庞大的人工智能潜力。将训练时间从数天大幅缩短至数小时，能立即解析资料，并透过人工智能服务即时对消费者做出回应。”
实现更快速推论的软件工具
另外与TeslaP4及P40推出的包含两项加速人工智能推论的创新软件：NVIDIATensorRT及NVIDIA DeepStream SDK。
TensorRT为针对优化生产部署所设计的深度学习模型函式库，具有立即回应极度复杂网络的能力。透过训练过的32位或16位定义神经网络以及设定以降低精度的INT8运算为目的进行优化，将深度学习应用的处理量及效率极大化。
NVIDIA DeepStream SDK衔接强大的Pascal服务器，与双CPU只能处理7个串流的运算能力相比，能即时同步解码并分析高达93个HD视讯串流。这解决人工智能的其中一项重大挑战：处理大规模的影音内容分析以应用到如自驾车、互动式机器人、过滤及广告投放等领域。深度学习整合至视讯应用中让企业能提供前所未有、智能且创新的视讯服务。
协助客户向前迈进
NVIDIA的客户提供越来越多需要最高运算效能的创新人工智能服务。其中中国台湾厂商广达持续在服务器业务与NVIDIA合作，从世上首座人工智能超级电脑系统DGX-1、Facebook Big Sur推论服务器到搭载NVIDIA糖果盒大小Tesla P4轻巧1U服务器，皆透过该公司而得以打造出优异的产品阵容。
NVIDIA共同创办人暨CEO黄仁勋表示：“广达从早期便与我们一同致力于GPU服务器发展，不论想建造何种类型数据中心，透过我们与广达及云达的合作都能达成。”
云达科技总经理杨晴华表示：“我们的客户相当倚重云达在超大规模、高密度融合机架式等级解决方案中的领导地位，这些解决方案通常都需要高效能的作业负载。以深度学习的应用而言，平行运算回应之间的延迟性表现十分重要，而TeslaP40和P4正是能表现出准确与灵敏效能的新一代GPU解决方案。”
编辑：admin 最后修改时间：2018-01-05
