华为云GPU服务器P4推理加速Pi1实例性能参数

达佳

华为云GPU服务器推理加速型Pi1实例专为AI推理打造的NVIDIA Tesla P4 GPU，Pi1型GPU云服务器P4的INT8运算器，能够将推理延时降低15倍，Pi1实例的CPU采用Intel 至强处理器 E5-2697 v4，主频2.3GHz，睿频3.5GHz。云服务器吧来详细说下华为云GPU服务器NVIDIA P4推理加速型Pi1实例性能参数：
华为云GPU服务器P4性能参数

华为云GPU服务器Pi1实例为推理加速型云服务器，Pi1型GPU实例硬件参数如下：

• 处理器：英特尔® 至强® 处理器 E5-2697 v4，主频2.3GHz，睿频3.5GHz。
  
• 支持NVIDIA Tesla P4 GPU卡，单实例最大支持4张P4 GPU卡。
  
• 提供GPU硬件直通能力。
  
• 单GPU单精度计算能力最高5.5 TFLOPS。
  
• 单GPU INT8计算能力最高22 TOPS。
  
• 单GPU提供8GiB ECC显存，带宽192GiB/s。
  
• GPU内置硬件视频编解码引擎，能够同时进行35路高清视频解码与实时推理。
  

不同CPU内存规格的云服务器性能参数表如下：

规格名称	vCPU	内存（GiB）	最大带宽/基准带宽（Gbps）	最大收发包能力（万PPS）	网卡多队列数	GPU	显存（GiB）	本地盘	虚拟化类型
pi1.2xlarge.4	8	32	5/1.6	40	2	1×P4	1×8GiB	-	KVM
pi1.4xlarge.4	16	64	8/3.2	70	4	2×P4	2×8GiB	-	KVM
pi1.8xlarge.4	32	128	10/6.5	140	8	4×P4	4×8GiB	-	KVM

Pi1实例主要用于GPU推理计算场景，例如图片识别、语音识别、自然语言处理等场景，常用于运行Tensorflow、Caffe、PyTorch、MXNet等深度学习框架。
华为云GPU服务器Pi1实例支持的操作系统如下：

• Windows Server 2019 Standard 64bit
  
• Windows Server 2016 Standard 64bit
  
• CentOS 7.3 64bit
  
• Ubuntu Server 16.04 64bit
  
• Ubuntu Server 14.04 64bit
  

更多关于华为云GPU云服务器说明，请以官方文档为准：华为云GPU服务器官方详解

作者：云服务器吧
原文链接：华为云GPU服务器NVIDIA P4推理加速型Pi1性能参数