跑 SDXL 需要多少显存:权重 ≈7GB,12GB 起步——一张表看懂
结论先行:SDXL 全套(UNet 2.6B + 双 CLIP + VAE)FP16 权重 ≈7GB,1024×1024 推理整包 10-12GB。一张 24GB 卡可跑双实例;80GB 数据中心卡是一个生图工作台的合理单位——权重只占零头,其余全部给并发与高分辨率。
显存算账
| 分项 | 参数量 | 精度(B/参数) | 显存 |
|---|
| UNet(SDXL 主干) | 2.6B | FP16(2) | ≈5.2GB |
| CLIP-L + OpenCLIP-G(双文本编码器) | ≈0.82B | FP16(2) | ≈1.6GB |
| VAE | 0.084B | FP16(2) | ≈0.2GB |
| 权重小计 | — | — | ≈7GB |
| 1024² 激活+潜变量+输出缓冲 | — | — | ≈3-5GB |
| 推理整包 | — | — | ≈10-12GB |
| LoRA 微调(r=16,冻结基座) | 基座 2.6B+0.9B | FP16(2) | ≈16GB+激活 |
口径:参数量 × 每参数字节数 = 显存。SDXL 全参微调 UNet 需 2.6B×12B ≈ 31GB 起(含 Adam 优化器状态),80GB 单卡覆盖;LoRA 只训注入参数,显存下限≈基座权重+激活。
推荐配置(按预算档 · 人民币整机口径)
预算 ≤150万 · 单卡方案为主词条建设中NVIDIA H100 80GB
显存 80GB HBM3 · NVLink 900GB/s(SXM 形态)/ PCIe 5.0 · 单卡
为什么是它:一张卡一个生图工作台:权重 7GB 只占零头,80GB 全留给并发与高分辨率,并发无压力。
词条 →NVIDIA H200 141GB
显存 141GB HBM3e · NVLink 900GB/s(SXM) · 单卡
萬安指数 78 · 视频生成
为什么是它:同款工作台的大杯:141GB 可同卡驻留十几份 SDXL 实例,队列再长也不爆显存。
预算 150-600万 · 可入双卡·入门八卡词条建设中NVIDIA H100 80GB
显存 80GB HBM3 · NVLink 900GB/s(SXM 形态)/ PCIe 5.0 · 单卡
为什么是它:单卡整包 10-12GB 已被 80GB 全覆盖;升档意义在横向加卡扩并发,而非装更大的模型。
词条建设中HGX H100 八卡
显存 8×80GB = 640GB · NVLink/NVSwitch 900GB/s · 8U 风冷整机
为什么是它:生图工厂口径:640GB 可容纳 40+ 并发实例,批量出图按千张计。
预算 600-2000万 · 旗舰八卡·B300 NVL8 档词条建设中HGX H100 八卡
显存 8×80GB = 640GB · NVLink/NVSwitch 900GB/s · 8U 风冷整机
为什么是它:批量生产主力:单卡整包 10-12GB,八卡 640GB 同机容纳 40+ 实例。
词条 →HGX H200 八卡
显存 8×141GB = 1.128TB · NVLink/NVSwitch · 8U 风冷整机
萬安指数 78 · 视频生成
大陆行情带 585-700 万/台(8 卡整机口径)
为什么是它:生图吞吐之上再留多模态管线余量:1.128TB 装下任意文生图组合。
常见问答
SDXL 需要多少显存?
推理 10-12GB 起(1024×1024 口径):FP16 全套权重≈7GB,加激活约 3-5GB。24GB 卡可双实例并发;80GB 卡适合多队列生产。
SDXL 微调(LoRA)要什么卡?
LoRA 冻结基座,显存下限=基座权重(≈7GB)+激活,24GB 卡可小批量跑;80GB 单卡是舒适档,可开大批次。
为什么选型器只推 H100/H200?
本库口径为数据中心级卡与整机,面向长期生产负载(ECC 显存、企业级驱动与整备度)。消费级 24GB 卡可推理,但不在本库在售口径内。
参考选型不构成交易要约,配置与价格实际以货主报价为准。数据来源:萬安算交所