A100 80G

規格

規格

9.7 兆次浮點運算

FP64 Tensor 核心

19.5 兆次浮點運算

FP32

19.5 兆次浮點運算

Tensor Float 32 (TF32)

156 兆次浮點運算 | 312 兆次浮點運算*

BFLOAT16 Tensor 核心

312 兆次浮點運算 | 624 兆次浮點運算*

FP16 Tensor 核心

312 兆次浮點運算 | 624 兆次浮點運算*

INT8 Tensor 核心

624 兆次浮點運算 | 1248 兆次浮點運算*

GPU 記憶體

80GB HBM2e

GPU 記憶體頻寬

每秒 1,935GB

大散熱設計功耗 (TDP)

300W

行個體 GPU

最多 7 個 MIG @ 10GB

尺寸規格

PCIe

互連技術

NVIDIA® NVLink® 橋接器，可支援 2 個 GPU：每秒 600GB **

第四代 PCIe：每秒 64GB

伺服器選項

合作夥伴提供的 NVIDIA 認證系統™，搭載 1-8 個 GPU