AI 算力天梯榜第一页

这期把能跑本地大模型的显卡整理成了一份天梯,一共 102 款,按 AI Score 综合分排。想看哪款翻到哪块,全程长图;想查具体型号的各模型速度,文末有在线查询工具。

AI Score 是什么:文本、生图、视频共 12 项模型实测吞吐的几何均值,1~100 分,分越高生成越快。标 √ 的是实测或官方数据,标「估算」的是同架构类推值。注意这说的是跑分/推理吞吐,不是游戏帧率。

前三

#显卡AI Score
1NVIDIA B30093.8
2NVIDIA B20078.0
3NVIDIA B10067.0

数据中心卡霸榜并不意外,往下翻才是消费级的主场:4090、3090 这批 24G 卡在性价比段位上依然是本地部署的中坚。

完整天梯(102 款)

AI 算力天梯榜 1/6
天梯榜 1/6
AI 算力天梯榜 2/6
天梯榜 2/6
AI 算力天梯榜 3/6
天梯榜 3/6
AI 算力天梯榜 4/6
天梯榜 4/6
AI 算力天梯榜 5/6
天梯榜 5/6
AI 算力天梯榜 6/6
天梯榜 6/6

怎么用这份天梯

  • 挑卡看三段位:数据中心卡(B300/B200/H100)是算力天花板;RTX 4090/3090 是性价比主力;V100/P40 这些老卡适合捡漏
  • 分数差距的意义:AI Score 差 1 倍,各模型 tok/s 也大致差 1 倍量级——它就是「跑大模型有多快」的综合体检
  • 别只看分数:显存决定能跑多大模型,5090 的 32G 和 A100 的 80G 是两个世界;分数只是速度维度

想按模型查具体速度(Qwen3-32B 跑多少 tok/s、70B 能不能塞下),用 显卡 AI 算力速查工具,102 款卡都收录了,每张卡都能展开看 12 项模型的逐项速度。选卡思路和实测数据则看这篇显卡跑大模型速查

说明:数据分数仅供参考,不一定准确,部分型号未标注实测标记。数据来源:GPU Battle(gpubattle.com/ai,AI Score 与各模型 tok/s)、github.com/carsonpo/gpus(显存/带宽/FP16 理论峰值),更新于 2026 年 8 月。

We ranked all 102 GPUs capable of running local LLMs by AI Score — a geometric mean of 12 measured workloads (text, image and video generation), scored 1–100. Higher means faster generation. Cards marked √ use measured or official figures; others are architecture-based estimates. Note: this measures inference throughput, not gaming fps.

Podium

#GPUAI Score
1NVIDIA B30093.8
2NVIDIA B20078.0
3NVIDIA B10067.0

Datacenter cards dominate the top — no surprise. Further down, the 24 GB consumer workhorses (4090/3090) hold the value zone for local deployment.

Full ladder (102 cards)

AI compute ladder 1/6
Ladder 1/6
AI compute ladder 2/6
Ladder 2/6
AI compute ladder 3/6
Ladder 3/6
AI compute ladder 4/6
Ladder 4/6
AI compute ladder 5/6
Ladder 5/6
AI compute ladder 6/6
Ladder 6/6

How to use it

  • Three tiers: datacenter (B300/B200/H100) tops raw compute; 4090/3090 lead value; V100/P40 are bargains
  • Score gaps are meaningful: a 2× AI Score roughly means 2× tok/s on the same models
  • But check VRAM too: 5090's 32 GB and A100's 80 GB are different worlds — score only covers speed

To look up per-model tok/s for any card, use the GPU AI Compute Lookup — all 102 cards, 12 models each. Buying advice lives in the 24-GPU cheat sheet.

Note: scores are for reference and may be imperfect. Sources: gpubattle.com/ai (AI Score & tok/s), github.com/carsonpo/gpus (specs), August 2026 snapshot.
返回文章列表