NVIDIA · Blackwell · 2025
RTX 5060（8GB）跑什么大模型 · 完整规格
8GB GDDR7 · 448 GB/s · 以下为常见开源模型在 8K 上下文、batch 1 下的推理判定。
完整规格
| 显存 | 8 GB GDDR7 |
| 显存带宽 | 448 GB/s |
| 位宽 | 128-bit |
| FP32 | 19.2 TFLOPS |
| FP16 Tensor | 76.8 TFLOPS |
| FP8 Tensor | 153.6 TFLOPS |
| TDP | 145 W |
| 架构 / 年份 | Blackwell · 2025 |
| 发布价 | $299 |
常见模型判定（8K 上下文 · batch 1）
| 模型 · 量化 | 显存需求 | 判定 |
|---|---|---|
| Qwen3-8B · FP16 / BF16 | 17.4 GiB | 能跑 · 需 3 卡 |
| Qwen3-32B · GGUF Q4_K_M | 22.3 GiB | 勉强 · 需 3 卡 |
| Llama 3.3 70B · GGUF Q4_K_M | 44.1 GiB | 勉强 · 需 6 卡 |
| DeepSeek-V4-Flash · FP8 (E4M3) | 273.1 GiB | 跑不动 · 需 35 卡 |
| gpt-oss-120b · MXFP4（gpt-oss 原生） | 59.9 GiB | 勉强 · 需 8 卡 |
「能跑」= 按所需最少卡数总显存占用 ≤85%；「勉强」≤100%。单卡装不下时标注需 N 卡（上限 8 卡，超出判「跑不动」）。速度与并发请打开计算器查看。