NVIDIA A30

发布时间:2023-06-28点击次数:36

适用于不同企业的 AI 推理和主流计算

借助 NVIDIA A30 Tensor Core GPU 为各种企业工作负载带来加速性能。借助 NVIDIA Ampere 架构 Tensor Core 多实例 GPU (MIG),它可以安全加速各种工作负载,其中包括大规模 AI 推理和高性能计算 (HPC) 应用程序。具有 PCIe 外形规格(非常适合主流服务器)的 A30 集快速显存带宽与低功耗于一体,不仅能实现弹性数据中心,还能为企业带来更大价值。

A30 Tensor Core GPU 规格

FP64

5.2 teraFLOPS

FP64 Tensor Core

10.3 teraFLOPS

FP32

10.3 teraFLOPS

TF32 Tensor Core

82 teraFLOPS | 165 teraFLOPS*

BFLOAT16 Tensor Core

165 teraFLOPS | 330 teraFLOPS*

FP16 Tensor Core

165 teraFLOPS | 330 teraFLOPS*

INT8 Tensor Core

330 TOPS | 661 TOPS*

INT4 Tensor Core

661 TOPS | 1321 TOPS*

媒体引擎

1 个光流加速器 (OFA)
1 个 JPEG 解码器 (NVJPEG)
4 个视频解码器 (NVDEC)

GPU 显存

24GB HBM2

GPU 显存带宽

933GB/s

互联

PCIe Gen4: 64GB/s
第三代 NVLINK:200 GB/s**

外形规格

双插槽、全高、全长 (FHFL)

最大热设计功耗 (TDP)

165W

多实例 GPU (MIG)

4 个 GPU 实例,每个 6 GB
2 个 GPU 实例,每个 12GB each
1 个 GPU 实例,24 GB

虚拟 GPU (vGPU) 软件支持

适用于 NVIDIA AI Enterprise
NVIDIA 虚拟计算服务器