规格速查 SPEC CARD
NVIDIA H20
H100的对华合规裁剪版——FP8砍到296 TFLOPS(约H100的7.5%)但塞进96GB HBM3+4.0TB/s+NVLink 900GB/s,砍算力不砍显存和互联,专为大模型推理而生;国内AI推理采购的主力Hopper卡,HGX 8路整机是推理集群刚需,存量流通口径对交易场景最重要
概述
NVIDIA H20是NVIDIA基于Hopper架构、面向大模型推理场景设计的数据中心GPU，以SXM形态为主，通过8路HGX方案部署。其规格取舍特征明显：FP8密集算力为296 TFLOPS（稀疏592 TFLOPS），而显存容量达96 GB HBM3，并保留900 GB/s的NVLink互联与最多7路MIG切分能力，可支撑8机互联下的大参数模型推理与多租户隔离。该型号在国内AI推理集群采购中流通量较大，存量渠道信息对其交易定价具有直接影响。
核心规格
| 架构 | NVIDIA Hopper |
| 显存 | 96GB HBM3(Flopper/VipraTech/腾讯新闻三源一致) |
| 显存带宽 | 4.0TB/s |
| 算力 | FP8 Tensor Core 296 TFLOPS(密集)/592 TFLOPS(2:4稀疏,单源);FP16/BF16 Tensor Core 148 TFLOPS;TF32 Tensor Core 74 TFLOPS;FP32 44 TFLOPS;FP64 1.0 TFLOPS(合规裁剪:H100 SXM同表FP8 3958/FP16 1979/FP64 34);INT8 296 TOPS/592 TOPS(单源) |
| 功耗 | 400W TDP(Flopper/VipraTech规格表/腾讯新闻'热设计功耗400W'三源;VipraTech正文另有350W矛盾口径已弃) |
| 互联 | NVLink 900GB/s+PCIe Gen5 x16 128GB/s |
| 发布年 | 2024(Flopper核验Launch Year 2024;腾讯新闻2023-11-10首发报道'即将推出';具体发布日未核验双源,不录) |
| 形态 | HGX 8路SXM基板模组(Flopper'SXM'/VipraTech'8-way HGX'/腾讯新闻'HGX方案8路GPU配置+H20 SXM';同批L20/L2为PCIe形态) |
| L2缓存 | 60MB(单源VipraTech) |
| CUDA核心 | 14,592 FP32 CUDA核心(单源VipraTech) |
| MIG切片 | 最多7实例(VipraTech+腾讯新闻'7路MIG'双源) |
| 编解码器 | 7 NVDEC + 7 NVJPEG(单源VipraTech) |
| 出口合规背景 | 2022-10美国出口管制后对华合规特供卡:算力密度较H100大幅裁剪(FP8约为H100 SXM的7.5%),以显存96GB+NVLink900GB/s保推理场景(QQ:综合算力约H100的20%) |
规格已经官方资料核验（
官方基准，更新于 2026-10-10）· 价格以货主实际报价为准
适用场景
- 大参数量语言模型的在线推理服务，96 GB HBM3显存可在单卡容纳较大模型或较长上下文的KV Cache
- 基于8路HGX整机搭建的推理集群，多卡通过NVLink 900 GB/s互联协同服务单个大模型实例
- 借助最多7路MIG切分，向多个业务方或租户提供隔离的推理算力资源池
- 视频与图像类AI处理，卡上配备7路NVDEC解码与7路NVJPEG引擎，适合高并发视频理解类负载
同族型号
视频讲解 VIDEO
采购与验货要点
- 该型号没有公开发布的官方数据表，NVIDIA开发者论坛工作人员曾答复称需联系NVIDIA销售团队获取资料，采购时应要求供应商提供可溯源的规格文档，并注意区分FP8 296 TFLOPS（密集）与592 TFLOPS（稀疏）等口径表述
- TDP为400 W，采用SXM形态、以8路HGX整机方式交付，机柜需按整机供电与散热规划，不能按单卡PCIe设备简单估算功耗；若渠道报价按350 W口径说明，应要求书面澄清
- 流通以HGX 8路整机为主，验货时应确认NVLink 900 GB/s互联（8卡全互联）实际可用、MIG切分（最多7路）功能正常，并核对显存96 GB HBM3与CUDA核心数14,592与规格一致；存量卡交易需留存序列号与来源凭证
常见问题
H20和H100的主要区别是什么？
H20是为合规要求所做的裁剪版本，核心差异在算力：其FP8密集算力为296 TFLOPS，显著低于H100。但显存容量（96 GB HBM3）与NVLink互联（900 GB/s）得到保留，因此该卡的定位偏向大模型推理而非训练，砍算力、保显存和互联是其规格设计的基本逻辑。
H20适合训练大模型吗，还是只适合推理？
从规格取舍看，H20主要面向推理负载：FP16/BF16密集算力为148 TFLOPS，FP8为296 TFLOPS（密集），训练效率不是其强项；而96 GB HBM3显存、900 GB/s NVLink（8路HGX）和最多7路MIG切分均服务于推理场景，尤其适合大参数模型部署与多租户推理资源池。训练需求通常需要更高算力档位的方案。
为什么H20查不到官方规格表？二手交易时怎么核实参数？
H20没有公开发布的规格文档，NVIDIA官方数据页在多个区域站点均已无法访问，开发者论坛中NVIDIA工作人员的答复也是建议联系销售团队获取资料。采购或交易时应要求卖方提供授权分销渠道凭证，并上机核验关键参数：显存96 GB HBM3、CUDA核心14,592、L2缓存60 MB、NVLink 900 GB/s互联、最多7路MIG、TDP 400 W，同时注意不同渠道对算力口径（密集与稀疏）的表述差异。
资料更新 2026-10-10 · 升级深度词条走
编辑政策 流程