数字画布
Qwen2.5-72B
交互式显存晶圆:悬停扰动、点击发送总线脉冲,实时观察权重 / KV / 缓冲的物理分布。数字与计算器共用同一套引擎。
60.0 FPS标准计算器
运行规格
Qwen2.5-72B · GQA
49.6% · 能跑
GPU 常驻总量
70.0GiB
/ 141 GiB · H200
余量 71.0 GiB
权重KV Cache计算/输入缓冲框架开销溢出
1024 存储单元
交互式硅晶圆
60.0 FPS
悬停扰动 · 点击脉冲
权重
41.1 GiB
权重量化
KV Cache
20.0 GiB
16,384 × 4
计算/输入缓冲
8.19 GiB
框架开销
0.75 GiB
Playground
参数矩阵
目标模型
权重量化
单序列上下文(含生成)
并发用户数
目标硬件
Roofline
解码速度 · Roofline
访存受限
单用户生成速度
65.9tok/s · user
总吞吐 264 tok/s · 估算
首 Token 延迟 (TTFT)
5530 ms
每百万 token 成本
$3.78
$3.59 / h