NVIDIA® T4 GPU

发布时间:2023-06-28点击次数:36

NVIDIA® T4 GPU 为不同的云端工作负载提供加速,其中包括高性能计算、深度学习训练和推理、机器学习、数据分析和图形学。T4 基于新型 NVIDIA Turing™ 架构,采用节能高效(70 瓦)的小尺寸 PCIe 封装,它已针对主流计算环境进行优化,并配备多精度 Turing Tensor Core 和新的 RT Core。与来自 NGC 的加速容器化软件堆栈相结合,T4 可提供大规模的革命性性能。

规格

GPU 架构 NVIDIA Turing

NVIDIA Turing Tensor 核心数量 320

NVIDIA CUDA® 核心数量 2560

单精度 8.1 TFLOPS

混合精度 (FP16/FP32) 65 TFLOPS

INT8 130 TOPS

INT4 260 TOPS

GPU 显存 16 GB GDDR6 300 GB/s

ECC 支持

互联带宽 32 GB / 秒

系统接口 x16 PCIe Gen3

外形尺寸 PCIe 半高卡

散热解决方案 被动式

计算 API CUDA NVIDIA TensorRT™ ONNX