GPU云处事器深度进修机能模子初探

 一、配景

得益于GPU强盛的计较手段，深度进修连年来在图像处理赏罚、语音辨认、天然说话处理赏罚等规模取得了重大突GPU处事器险些成了深度进修加快的标配。

阿里云GPU云处事器在公有云上提供的弹性GPU处事，可以辅佐用户快速用上GPU加快处事，并大大简化陈设和运维的伟大度。怎样提供一个吻合的实例规格，从而以最高的性价比提供应深度进修客户，是我们必要思量的一个题目，本文试图从CPU、内存、磁盘这三个角度对单机GPU云处事器的深度进修实习和猜测的机能模子做了起源的说明，但愿能对实例规格的选择提供一个科学的计划模子。

下面是我们行使主流的几个开源深度进修框架在NVIDIA GPU上做的一些深度进修的测试。涉及NVCaffe、MXNet主流深度进修框架，测试了多个经典CNN收集在图像分类规模的实习和推理以及RNN收集在天然说话处理赏罚规模的实习。

二、实习测试

我们行使NVCaffe、MXNet主流深度进修框架测试了图像分类规模和天然说话处理赏罚规模的实习模子。

2.1 图像分类

我们行使NVCaffe、MXNet测试了图像分类规模的CNN收集的单GPU模子实习。

NVCaffe和MXNet测试行使ImageNet ILSVRC2012数据集，实习图片1281167张，包括1000个分类，每个分类包括1000张阁下的图片。

2.1.1 CPU+Memory

2.1.1.1 NVCaffe

NVCaffe是NVIDIA基于BVLC-Caffe针对NVIDIA GPU尤其是多GPU加快的开源深度进修框架。LMDB名目标ImageNet实习集巨细为240GB ，验证集巨细为9.4GB。

我们行使NVcaffe对AlexNet、GoogLeNet、ResNet50、Vgg16四种经典卷积神经收集做了图像分类使命的模子实习测试。别离比拟了差异vCPU和Memory设置下的实习机能。机能数据单元是Images/Second（每秒处理赏罚的图像张数）。图中标注为10000指的是迭代次数10000次，其余都是测试迭代次数为1000次。

2.1.1.2 MXNet

MXNet的数据集行使RecordIO名目，ImageNet实习集 93GB ，验证集 3.7GB。

我们行使收集Inception-v3（GoogLeNet的进级版）做了图像分类的实习测试。别离比拟了差异vCPU和Memory设置下的实习机能。数据单元是Samples/Second（每秒处理赏罚的图像张数）。

2.1.2 磁盘IO

我们在阿里云GN5(P100)实例上行使NVCaffe测试了GoogLeNet收集模子在NVMe SSD当地皮、SSD云盘和高效云盘上的实习机能，测试功效如下（机能数据单元是Images/Second）：

2.2 天然说话处理赏罚

我们行使MXNet测试了RNN收集的LSTM模子的实习，行使PennTreeBank天然说话数据集。PennTreeBank数据集的文本语料库包括近100万个单词，单词表被限制在10000个单词。别离比拟了差异vCPU和Memory设置下的实习机能：

三、推理测试

3.1 图像分类

我们行使NVCaffe测试了图像分类规模的CNN收集的模子推理。

测试行使ImageNet ILSVRC2012数据集，验证测试图片 50000张。

3.1.1 CPU+Memory

我们行使NVcaffe对AlexNet、GoogLeNet、ResNet50、VGG16四种经典卷积神经收集做了图像分类的推理测试。别离比拟了差异vCPU和Memory设置下的实习机能。数据单元是Images/Second（每秒处理赏罚的图像张数）。

3.1.2 磁盘IO

我们行使NVCaffe测试了GoogLeNet收集在NVMe SSD当地皮、SSD云盘和高效云盘上的图像分类推理机能，测试功效如下（数据单元是Images/Second）：

四、数据预处理赏罚测试

在实习模子之前，每每要对实习数据集做数据预处理赏罚，同一数据名目，并做必然的归一化处理赏罚。

我们行使NVCaffe对ImageNet ILSVRC2012数据集做了数据预处理赏罚的测试，别离比拟了NVMe SSD当地皮、SSD云盘和高效云盘的数据预处理赏罚时刻，数据单元是秒，数据如下：

五、数据说明

5.1 实习

5.1.1 图像分类

（编辑：河北网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!