规格速查 SPEC CARD
NVIDIA A100
Ampere 数据中心双料主力（AI训练+推理+HPC通吃），40GB/80GB×PCIe/SXM4 四版本构成二手专业卡市场流通量最大的型号
概述
NVIDIA A100 是基于 Ampere 架构（GA100 核心）的数据中心 GPU，采用第三代 Tensor Core，提供 40GB HBM2 与 80GB HBM2e 两种显存配置，并均有 PCIe 与 SXM4 两种形态。其 FP64 与 Tensor Core 算力组合使其同时覆盖 AI 训练、推理与高性能计算场景，并支持 Multi-Instance GPU 将单卡切分为多个实例供多用户共享。凭借庞大的装机量与生态成熟度，该型号也是二手专业卡市场流通量最大的数据中心产品之一。
核心规格
| 架构 | NVIDIA Ampere (GA100)，第3代 Tensor Core |
| 显存 | 40GB HBM2 / 80GB HBM2e 双版本（80GB 版 2020-11-16 SC20 增发），带 ECC |
| 显存带宽 | 40GB 版 1,555 GB/s（PCIe/SXM 同）；80GB SXM4 版 2,039 GB/s / 80GB PCIe 版 1,935 GB/s（官方 datasheet 四列分列口径） |
| 显存位宽 | 5120bit |
| 算力 | FP32 19.5 / FP64 9.7 / FP64 Tensor 19.5 TFLOPS；TF32 156(312*) / BF16 312(624*) / FP16 312(624*) TFLOPS / INT8 624(1248*) TOPS——官方 datasheet 四形态（40G PCIe/80G PCIe/40G SXM/80G SXM）算力同口径，*为稀疏加速 |
| 功耗 | SXM4 400W（40GB/80GB 同）；PCIe 版 40GB 250W / 80GB 300W |
| 互联 | SXM4 版：NVLink 3.0 12链路 600GB/s 双向 + PCIe Gen4 64GB/s；PCIe 版：NVLink Bridge 双卡互连 600GB/s + PCIe Gen4 64GB/s |
| 发布年 | 2020（40GB 版 2020-05-14 GTC 发布；80GB 版 2020-11-16 SC20 发布） |
| CUDA核心 | 6912 FP32 CUDA（108 SM）/ 第3代 Tensor Core |
| 工艺 | TSMC 7nm（N7 定制），54.2B 晶体管，826mm² |
| MIG | Multi-Instance GPU 最多 7 硬件隔离实例（40GB 版单实例最高 5GB / 80GB 版 10GB） |
| 形态 | SXM4 模组（HGX A100 4/8/16卡、DGX A100 8卡）/ PCIe 双槽 10.5英寸全长 |
规格已经官方资料核验（
官方基准，更新于 2026-10-10）· 价格以货主实际报价为准
适用场景
- 大规模深度学习模型训练：借助第三代 Tensor Core 的 TF32/BF16/FP16 算力，配合 SXM4 形态下的 NVLink 3.0 高速互联组建多卡训练集群
- 大模型与生成式 AI 推理服务：大容量 HBM2/HBM2e 显存适合承载参数量较大的模型，Multi-Instance GPU 可将单卡切分给多路推理负载
- 科学计算与工程仿真：FP64 与 FP64 Tensor Core 性能使其适用于计算流体力学、分子动力学、气候模拟等传统 HPC 场景
- 多租户算力池化与云平台资源切分：通过 MIG 最多切分为 7 个实例，为中小规模任务提供隔离的 GPU 资源
同族型号
视频讲解 VIDEO
采购与验货要点
- 先明确形态与机房条件匹配：SXM4 模块需搭配 HGX A100 或 DGX A100 基板，整体供电与散热要求显著高于常规 PCIe 服务器，采购前需确认机柜供电冗余与风冷/液冷方案；PCIe 版为双槽 10.5 英寸全长卡，需核对机箱槽位间距与气流方向
- 区分四个版本（40GB/80GB × PCIe/SXM4）：二手市场流通量大、批次繁杂，务必核对显存容量、显存类型（HBM2 与 HBM2e）、ECC 状态及 ECC 报错日志，80GB 版本的 PCIe 与 SXM4 显存规格亦有差异，标价应区分对待
- 验证互联与平台兼容性：SXM4 版本的 NVLink 3.0 互联依赖 HGX 基板，单买模块无法独立使用；PCIe 版若需双卡 NVLink 需另行购置 NVLink Bridge，且主机需支持 PCIe Gen4 才能完整发挥系统接口带宽；建议上机跑满载压力测试并核查散热器与导热垫状态
常见问题
A100 40GB 和 80GB 怎么选？
主要看显存需求与预算。80GB 版本容量更大，适合大参数模型的训练与推理；40GB 版本价格门槛更低，对显存需求不极端的任务性价比更高。两者 FP64 与 Tensor Core 峰值算力一致，差异主要体现在显存容量和显存带宽上。
SXM4 版和 PCIe 版 A100 有什么区别？
SXM4 是模块化形态，需安装在 HGX A100 或 DGX A100 基板上，可通过 NVLink 3.0 实现多卡高速互联，适合大规模集群；PCIe 版是标准双槽全长卡，可直接装入通用服务器，也可通过 NVLink Bridge 连接两卡。二手交易中两者价格与流通渠道差异明显，购买前务必确认形态与手头平台的兼容性。
买二手 A100 需要注意什么？
建议核对显存容量与类型、运行 ECC 报错日志、确认是否为矿场或数据中心退役件，上机进行满载压力测试观察温度与稳定性；SXM4 版还需确认基板兼容性，PCIe 版需确认 NVLink Bridge、散热器与供电线材是否齐全。
资料更新 2026-10-10 · 升级深度词条走
编辑政策 流程