跳到主内容
显存罗盘VRAM Compass

数字画布

Qwen2.5-72B

交互式显存晶圆:悬停扰动、点击发送总线脉冲,实时观察权重 / KV / 缓冲的物理分布。数字与计算器共用同一套引擎。

运行规格

Qwen2.5-72B · GQA

49.6% · 能跑

GPU 常驻总量

70.0GiB

/ 141 GiB · H200

余量 71.0 GiB

权重KV Cache计算/输入缓冲框架开销溢出
1024 存储单元

交互式硅晶圆

60.0 FPS

悬停扰动 · 点击脉冲

权重
41.1 GiB
权重量化
KV Cache
20.0 GiB
16,384 × 4
计算/输入缓冲
8.19 GiB
框架开销
0.75 GiB
Playground

参数矩阵

目标模型

权重量化

单序列上下文(含生成)
并发用户数

目标硬件

Roofline

解码速度 · Roofline

访存受限

单用户生成速度

65.9tok/s · user

总吞吐 264 tok/s · 估算

首 Token 延迟 (TTFT)
5530 ms
每百万 token 成本
$3.78
$3.59 / h

目标模型

Qwen2.5-72B · 72.71B

GQA · 131,072 ctx

标准计算器