萬安算力百科COMPUTEPEDIA
萬安百科 › 算力选型器 › LLM推理

跑 DeepSeek-R1 满血需要多少显存:FP8 ≈690GB,八卡 H200 单机——一张表看懂

结论先行:R1 满血 671B(MoE,每 token 激活 37B),FP8 权重 = 671B×1B ≈ 671GB,含缩放因子与嵌入余量按 690GB 计。一张卡无解——HGX H200 八卡(8×141GB = 1.128TB)是满血单机部署的标准答案:权重占 61%,余 438GB 给 KV 与激活。

显存算账

分项参数量精度(B/参数)显存
权重 FP8(官方部署口径)671BFP8(1)≈671GB,按 690GB 计
权重 BF16(不推荐)671BBF16(2)≈1342GB,需两台八卡
权重 INT4(下限口径)671BINT4(0.5)≈336GB
KV cache(MLA 压缩,FP16 口径)61层×576维隐向量2B≈0.07MB/token
KV cache @32K×32并发—FP16≈72GB
八卡 H200 总显存8×141GB—1.128TB(装 690GB 权重后余 438GB)
口径:MoE 显存装的是总参数(671B),算力吃的是每 token 激活(37B)——所以“省算力不省显存”。R1 的 MLA 注意力把 KV 压到 ≈0.07MB/token,长上下文显存开销比同规模稠密模型低一个量级。INT4 336GB 理论上 4×H200 可容,但 671B MoE 的 INT4 量化有质量与工程代价,不作为推荐口径。

推荐配置(按预算档 · 人民币整机口径)

预算 ≤150万 · 单卡方案为主
该预算档无落地解
结论:≤150万 档无落地解:FP8 权重 690GB 超任何单卡(H200 141GB 连零头都装不下)。物理下限=八卡整机(HGX H200,600-2000万 档)。替代口径:DeepSeek 官方 API,或 R1-Distill-70B(走本器 Llama-70B 级档)。
预算 150-600万 · 可入双卡·入门八卡
该预算档无落地解
结论:150-600万 贴不进:HGX H200 八卡行情带 585-700 万/台,绝大多数成交落在 600-2000万 档。可先以 R1-Distill-70B(Llama-70B 级档)过渡。
预算 600-2000万 · 旗舰八卡·B300 NVL8 档
词条 →
HGX H200 八卡
显存 8×141GB = 1.128TB · NVLink/NVSwitch · 8U 风冷整机
萬安指数 88 · LLM推理
大陆行情带 585-700 万/台(8 卡整机口径)
为什么是它:满血单机部署标准解:1.128TB 总显存装 690GB 权重,余约 4 成给 KV 与激活;MLA 令长上下文开销极低。
词条 →
NVIDIA B300 NVL8
显存 8×288GB = 2.304TB HBM3e · NVLink 5 · 8U 风冷整机
萬安指数 94 · LLM推理
大陆在售约 1700 万级(8 卡整机口径)
为什么是它:旗舰余量:2.304TB 装下 690GB 权重后剩 1.6TB,长上下文×高并发全开;萬安指数·LLM推理 94(词条值)。

常见问答

4 张 H200(564GB)能跑满血 R1 吗?
不能:FP8 权重按 690GB 计 > 564GB。单机下限口径是八卡 H200(1.128TB),权重占 61% 留足 KV 与激活余量。
R1-Distill-70B 需要多少显存?
蒸馏版基于 Llama-70B:FP8 权重 70GB,H200 141GB 单卡即可满血跑——走本库 Llama-70B 档的选型口径。
为什么推荐 FP8 而不是 BF16?
BF16 权重 ≈1342GB,显存翻倍换不到质量增益;DeepSeek 官方部署口径即 FP8。BF16 只在需要全精度再训练时才考虑。
同类算账:SDXLFLUX.1Wan2.1Llama-70BSora 类视频模型
参考选型不构成交易要约,配置与价格实际以货主报价为准。数据来源:萬安算交所
口径说明:预算档为人民币整机口径参考;显存算账 = 参数量 × 每参数字节数(FP16=2B / FP8=1B / INT4=0.5B),KV cache 与框架开销另计,算法详见页内表格,可复核。
参考选型不构成交易要约,配置与价格实际以货主报价为准。数据来源:萬安算交所 · © 2026 萬安百科