规格速查 SPEC CARD
NVIDIA T4
史上部署量最大的推理卡之一: 70W插槽供电单槽半高被动卡, 任何服务器都能插, INT8 130 TOPS多精度推理+38路视频解码两用, 各大云厂商T4实例(如AWS G4dn 8卡机)规模化铺了海量存量, 是二手市场货源最充沛的入门推理卡
概述
NVIDIA T4 是一款基于 Turing（图灵）架构的 PCIe 加速卡，采用 TU104 GPU，配备 320 个 Tensor Core 与 40 个 RT Core。显存为 16 GB GDDR6，位宽 256 bits，通过 x16 PCIe Gen3 接口与主机相连。其典型精度性能为单精度 8.1 TFLOPS、混合精度 65 TFLOPS、INT8 130 TOPS、INT4 260 TOPS。T4 采用单槽半高半长的被动散热设计，整机板卡功耗上限 70 W，无需外接供电，可适配高密度服务器。它同时支持深度学习推理与视频解码加速，是云端推理实例和边缘服务器中部署极为广泛的通用推理卡。
核心规格
| 架构 | Turing (TU104-895) |
| 显存 | 16GB GDDR6 with ECC (默认开启) |
| 显存带宽 | 320GB/s (早期一页版datasheet口径300GB/s) |
| 显存位宽 | 256bit |
| 算力 | FP32 8.1 TFLOPS / FP16·FP32混合精度 65 TFLOPS / INT8 130 TOPS / INT4 260 TOPS |
| CUDA核心 | 2,560 (40 SM) / Tensor Core 320 / RT Core 40 |
| 功耗 | 70W (Total board power, 默认) |
| 互联 | PCIe Gen3 x16 (支持x8运行, Interconnect BW 32GB/s) |
| 发布年 | 2018 (Product Brief v01 2018-10-24初版, Dec18版datasheet © 2018 NVIDIA) |
| 形态 | 单槽半高半长 Low-Profile 6.6英寸(长169.53mm), 被动散热, 板重301g |
| 时钟 | Base 585MHz / Boost 1590MHz (Base为70W功耗墙下调校) |
| 媒体引擎 | 1080p30解码 H.264 32路 / HEVC 44路 / VP9 32路 |
| SR-IOV | Supported; 16 VF（支持） |
| 工艺 | 12nm FFN, 136亿晶体管, 545mm2 |
| Compute APIs | CUDA, NVIDIA TensorRT, ONNX |
规格已经官方资料核验（
官方基准，更新于 2026-10-10）· 价格以货主实际报价为准
适用场景
- 深度学习模型推理部署：借助 Tensor Core 与 INT8/INT4 量化能力，配合 TensorRT、ONNX 等工具链，适合在线推理服务的规模化部署
- 视频转码与流媒体处理：单卡可并行解码数十路 1080p30 的 H.264、HEVC 或 VP9 流，适合视频网关、转码集群与监控分析场景
- 高密度虚拟化与云桌面：支持 SR-IOV（最多 16 个 VF）与 ECC 显存，适合多租户 GPU 分池与虚拟桌面基础设施
- 轻量渲染与图形加速：内置 RT Core 提供硬件光线追踪能力，可用于中小规模渲染、可视化与混合工作负载
同族型号
| 型号 | 显存 | 功耗 |
|---|
| NVIDIA A100 对比 | 40GB HBM2 / 80GB HBM2e 双版本（80GB 版 2020-11-16 SC20 增发），带 ECC | SXM4 400W（40GB/80GB 同）；PCIe 版 40GB 250W / 80GB 300W |
| NVIDIA H20 对比 | 96GB HBM3(Flopper/VipraTech/腾讯新闻三源一致) | 400W TDP(Flopper/VipraTech规格表/腾讯新闻'热设计功耗400W'三源;VipraTech正文另有350W矛盾口径已弃) |
| NVIDIA GB300 对比 | 288GB HBM3e（单GPU封装；超级芯片576GB；HGX板级2.1TB/机柜20TB并存） | TGP 最高 1400W |
| NVIDIA A30 对比 | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 对比 | 24GB GDDR6X | 450W TGP (平均游戏315W, 建议系统电源850W) |
| NVIDIA RTX PRO 6000 Blackwell 对比 | 96GB GDDR7 with ECC (单卡最大显存的专业工作站 GPU) | 600W Total board power (官方), 供电 1x PCIe CEM5 16-pin, 双贯穿式散热(Double-flow-through) |
视频讲解 VIDEO
采购与验货要点
- T4 为被动散热设计，依赖机箱强制风道散热，采购前需确认目标服务器具备适配 GPU 的气流方案，并核实机箱是否支持单槽半高（low-profile）卡位；同时注意其通过 PCIe 插槽取电、无外接供电接口，无需额外电源线，但要确认插槽供电能力满足整卡功耗上限要求
- 核验接口与兼容性：T4 使用 PCIe Gen3 x16 接口（官方亦支持 x8 安装），对老旧主机和新型服务器均有良好兼容性，采购时应确认 PCIe 拓扑、机箱高度（半高半长、板卡长约 6.6 英寸）以及驱动与虚拟化（SR-IOV、ECC 配置）需求
- 二手与库存采购时建议逐卡验机：确认 ECC 显存可正常开启并通过压力测试，核查 Tensor Core 完整性与视频解码能力（可用对应解码基准工具验证 H.264/HEVC/VP9 多路并发），并索要原厂 SN 以核对保修与来源；该型号市场存量极大，注意区分不同批次与拆机卡成色
常见问题
T4 需要外接供电吗？普通服务器能插吗？
T4 整卡功耗上限为 70 W，全部通过 PCIe 插槽取电，无需外接供电线。它采用单槽半高半长的被动散热设计，绝大多数标准服务器（含 1U/2U 机架服务器）都能安装，但被动散热要求机箱有正向气流风道，普通桌面机箱风道不足时需谨慎使用。
T4 适合跑大模型推理吗？16 GB 显存够用吗？
T4 定位于推理而非训练，16 GB GDDR6 显存可容纳量化后的中小型模型（如 INT8/INT4 量化的语言或视觉模型），配合 TensorRT 部署效率较高。对于参数量较大的模型，需要借助量化、分层加载或多卡切分，若追求更高吞吐建议评估更新的推理卡。
二手 T4 值得买吗？验货要注意什么？
T4 是各大云厂商推理实例大量使用的型号，市场存量与二手货源都很充足，价格门槛较低，是入门推理和视频转码的常见选择。验货时应确认显存 ECC 可开启并跑满显存压力测试、满载温度与降频情况正常、解码与 Tensor Core 功能完好，并核对 SN 与保修状态。
资料更新 2026-10-10 · 升级深度词条走
编辑政策 流程