全部文档
当前文档

暂无内容

如果没有找到您期望的内容,请尝试其他搜索词

文档中心

产品类型

最近更新时间:2023-09-12 10:30:30

GPU云服务器针对典型应用场景,提供多种产品类型供用户选择。各类型产品所采用的硬件(GPU、CPU、内存和硬盘)及网络资源配置各有不同。

本节将详细介绍产品适用场景、型号及配置信息。

实例类型概览

GPU云服务器可分为两大类,详见下表:

GPU云服务器 实例类型 适用场景
直通 (Passthrough) 深度学习、语音、图形/图像学习等常见训练和推理场景
vGPU 云端渲染和小规模、弹性、灵活的AI应用场景

GPU通用计算型P4V

  • 计算:

    • 处理器:2.6 GHz主频的Intel® Xeon® Processor E5-2690 v4
    • 基于NVIDIA Tesla V100,每GPU具备16GB HBM2 GPU内存、15TFLOPS的单精度 (FP32) 计算能力和125TFLOPS的混合精度计算能力。
  • 存储:

    • 支持系统盘类型:本地SSD
    • 支持数据盘类型:本地SSD、EBS3.0
  • 使用场景:

    • 该实例适用于深度学习的训练场景和推理场景。
  • P4V实例包括的型号和参数规格如下表所示:

型号 GPU (Tesla V100) GPU显存 (HBM2) vCPU (核) 内存 (DDR4) 数据盘 (本地SSD) 网络收发包能力 (万PPS) 网络带宽能力 (Gbit/s)
P4V.8A1 1颗 16GB*1 8 32GB 240GB 20 1.5
P4V.16B2 2颗 16GB*2 16 64GB 480GB 30 3
P4V.28C4 4颗 16GB*4 28 128GB 960GB 30 6
P4V.56D8 8颗 16GB*8 56 256GB 1920GB 40 8

GPU高效计算型P5V

  • 计算:

    • 处理器: 2.6 GHz主频的Intel Xeon Platinum 8358P Processor
    • 基于NVIDIA A100,每块GPU具备80GB GDDR6显存,8.1TFLOPS的单精度 (FP32) 计算能力和130 TOPS的INT8计算能力,多卡之间以NVSwitch实现两两互联。
  • 存储:

    • 支持系统盘类型:EBS3.0
    • 支持数据盘类型:EBS3.0
  • 使用场景:

    • 可用于深度学习 、高性能数据分析和高性能计算应用场景。
    • 深度学习,例如:无人驾驶、对象检测、语音翻译识别等人工智能算法训练。
    • 高性能数据分析和高性能计算,例如石油勘探、生命科学、气象环境分析等场景。
  • P5V实例包括的型号和参数规格如下表所示:

型号 GPU GPU显存 (GDDR6) vCPU (核) 内存 (GiB) 网络收发包能力 (万PPS) 网络带宽能力 (Gbit/s) 多队列
P5V.14A1 A100*1 80GB*1 14 112 60 5 8
P5V.28B2 A100*2 80GB*2 28 224 120 10 16
P5V.56C4 A100*4 80GB*4 56 448 250 25 16
P5V.112D8 A100*8 80GB*8 112 896 500 25 32

GPU推理Ⅱ型GN6I

  • 计算:

    • 处理器:2.6 GHz主频的Intel® Xeon® Gold 6240 Processor
    • 基于NVIDIA Tesla T4,每GPU具备16GB GDDR6显存、8.1TFLOPS的单精度 (FP32) 计算能力和130 TOPS的INT8计算能力。
  • 存储:

    • 支持系统盘类型:EBS3.0
    • 支持数据盘类型:EBS3.0
  • 使用场景:

    • 该实例适用于推理场景,以及简单的训练场景。
  • GN6I实例包括的型号和参数规格如下表所示:

型号 GPU GPU显存 (GDDR6) vCPU (核) 内存 (GiB) 网络收发包能力 (万PPS) 网络带宽能力 (Gbit/s) 多队列
GN6I.4A1 T4*1 16GB*1 4 16 50 4 2
GN6I.8A1 T4*1 16GB*1 8 32 80 5 2
GN6I.16A1 T4*1 16GB*1 16 64 120 6 4
GN6I.16B2 T4*2 16GB*2 16 64 120 6 4
GN6I.32B2 T4*2 16GB*2 32 128 240 8 8
GN6I.32C4 T4*4 16GB*4 32 128 240 8 8

GPU通用计算型GN7I

  • 计算:

    • 处理器:2.6 GHz主频的Intel Xeon Platinum 8358P
    • 基于NVIDIA A10,每GPU具备24GB GDDR6显存、31.2TFLOPS的单精度 (FP32) 计算能力和250 TOPS的INT8计算能力。
  • 存储:

    • 支持系统盘类型:SSD3.0和高效云盘EHDD
    • 支持数据盘类型:SSD3.0和高效云盘EHDD
  • 使用场景:

    • 该实例适用于推理场景,以及简单的训练场景。
  • GN7I实例包括的型号和参数规格如下表所示:

型号 GPU GPU显存 (GDDR6) vCPU (核) 内存 (GiB) 网络收发包能力 (万PPS) 网络带宽能力 (Gbit/s) 多队列
GN7I.16C1 A10*1 24GB*1 16 64 150 6 16
GN7I.16D1 A10*1 24GB*1 16 96 150 6 16
GN7I.32D1 A10*1 24GB*1 32 192 300 12 16
GN7I.64D2 A10*2 24GB*2 64 384 500 20 16
GN7I.112D4 A10*4 24GB*4 112 719 500 20 16

GPU虚拟化vGN6

  • 计算:

    • GPU:采用NVIDIA T4 GPU
    • 处理器:2.6 GHz主频的Intel® Xeon® Gold 6240 Processor
  • vGPU类别

    • vCS:专门用于深度学习,提供1/2*Tesla T4、1/4*Tesla T4两种实例
    • vPC:图形/图像处理场景,提供1/8*Tesla T4实例
  • 存储:

    • 支持系统盘类型:EBS3.0
    • 支持数据盘类型:EBS3.0
  • 使用场景:

    • 云游戏的云端实时渲染
    • AR/VR的云端实时渲染
    • AI(深度学习DL/机器学习ML)
  • vGN6实例包括的型号和参数规格如下表所示:

型号 GPU (Tesla T4) GPU显存 (GDDR6) vCPU (核) 内存 (DDR4) 网络收发包能力 (万PPS) 网络带宽能力 (Gbit/s)
vGN6.vCS-10B2 1/2颗 8GB 10 40GB 80 3
vGN6.vCS-4C4 1/4颗 4GB 4 20GB 50 2
vGN6.vPC-2D8 1/8颗 2GB 2 10GB 30 1

其中vPC适用于图形图像处理,vCS适用于CUDA计算,如AI推理等。
关于vGN6的具体配置方法,可以参考vGPU用户指南

文档导读
纯净模式常规模式

纯净模式

点击可全屏预览文档内容
文档反馈