GPU云服务器为用户提供安全,稳定,弹性的GPU算力平台,满足用户AI计算,图形渲染,仿真模拟等各类GPU计算需求。
GPU 云服务器
GPU卡型 | NVIDIA L20 | NVIDIA A10 | NVIDIA V100 16G | NVIDIA V100 32G | NVIDIA T4 |
|---|
架构名称 | Ada Lovelace | Ampere | Volta | Volta | Turing |
核心代号 | AD102 | GA100 | GV100 | GV100 | TU104 |
显存大小(GB) | 48 | 24 | 16 | 32 | 16 |
显存类型 | GDDR6 | GDDR6 | HBM2 | HBM2 | GDDR6 |
显存带宽(GB/s) (大模型推理性能影响参考) | 864 | 933 | 900 | 900 | 300 |
外接总线类型 | PCIe4.0x16 | PCIe4.0x16 | PCIe3.0x16 | PCIe3.0x16 | PCIe3.0x16 |
互联总线类型 | 不支持 | 不支持 | SXM2 | SXM2 | 不支持 |
互联总线带宽(GB/S) | 不支持 | 不支持 | 300 | 300 | 不支持 |
TDP(W) | 350 | 150 | 300 | 300 | 70 |
FP64(TFLOPS) | 不支持 | 0.97 | 7.8 | 7.8 | 0.25 |
FP64_Tensor(TFLOPS) | 不支持 | 0.97 | 7.8 | 7.8 | 0.25 |
FP32(TFLOPS) (CV处理和图形能力参考) | 59.8 | 31.2 | 15.7 | 15.7 | 8.1 |
TF32_Tensor(TFLOPS) | 59.8 | 62.5 | 不支持 | 不支持 | 不支持 |
FP16_Tensor(TFLOPS) (大模型推理算力参考) | 119.5 | 125 | 125 | 125 | 65.13 |
FP8_Tensor(TFLOPS) | 239 | 不支持 | 不支持 | 不支持 | 不支持 |
INT8_Tensor(TOPS) | 239 | 250 | 不支持 | 不支持 | 不支持 |
INT4_Tensor(TOPS) | 0 | 500 | 不支持 | 不支持 | 不支持 |
GPU 计算型弹性裸金属服务器实例规格 | |||||
GPU 计算型实例规格 | |||||
GPU 虚拟化型实例规格 |
为了满足不同用户需求,我们提供了包年包月、按量付费和抢占式实例3种计费方式,您可以根据自身需求灵活选择。
GPU云服务器提供灵活的计费方式,帮您节省使用成本
抢占式实例(后付费)
包年包月(预付费)