买显卡之前先看本地大模型跑多快:浏览器里按硬件(RTX 3090/4090/5090、Strix Halo、Mac Studio M5 Ultra、DGX Spark 等)或按模型(Qwen 3.8、GLM-5.3、Gemma 4、GPT-OSS、DeepSeek V4.1 Flash 等)查吞吐与延迟,实测数据来自社区基准,其余由相近配置推算并明确标注。免费、MIT 开源。 定价:免费(MIT 开源,浏览器直接用,无需账号)。
LLMSpeed 是什么?
LLMSpeed 是一个纯浏览器的「本地大模型速度模拟器」,解决的问题很朴素:在花几千上万买显卡之前,先知道某个模型在这张卡上到底能跑多快。它提供两个入口——按硬件找,或按模型找——点进去就能看到吞吐与首 token 延迟的量级。
数据是怎么来的
这一点官网写得很清楚,也是它比多数「跑分站」可信的地方:页面明确区分两类数字。
- 实测:来自社区基准(r/LocalLLaMA、localscore.ai 等)。
- 推算:由相近配置推导,或按硬件规格投影。
页面同时声明口径是「单设备上的短提示」。也就是说,它给的是量级参考,不是可引用的严谨 benchmark——同一张卡换个量化格式、拉长上下文,数字会明显变化。
覆盖范围
硬件侧列了 30 多档:NVIDIA 的 3090/4090/5090、5060 Ti、5070 Ti、5080、RTX PRO 6000 96GB、RTX Spark N1X、DGX Spark、Tesla V100、H100/H200(云);AMD 的 Strix Halo(Ryzen AI Max+ 395 128GB)、Gorgon Halo(PRO 495 192GB)、Radeon AI PRO R9700、RX 7900 XTX/XT、9070 XT、MI50;Apple 的 Mac Studio M5 Ultra 256/512GB、M3 Ultra 512GB、M4 Max 128GB、MacBook Pro M5 Max/Pro、Mac mini M5 Pro;以及 Intel Arc Pro B70 和纯 CPU(Ryzen 9 9950X + 96GB DDR5)配置。
模型侧覆盖 Qwen 3.5/3.6/3.8 系列、GLM-5.3 与 Flash、Gemma 4 的 12B/26B A4B/31B、GPT-OSS 20B/120B、Llama 3.1 8B、DeepSeek V4 与 V4.1 Flash、Nemotron 3.5 Lightning 等。
价格与形态
完全免费、无需账号,代码与数据以 MIT 开源在 github.com/nicorobinreal/llmspeed(GitHub API 实测 126 星,创建于 2026-08-28),可以自己部署或提 PR 补数据。
适合谁
准备入手本地推理硬件的人、要在「大显存统一内存」和「独显」之间做取舍的人、以及想快速判断某个新模型在自己现有设备上是否可行的开发者。
注意
别把这里的数字当生产容量:并发、长上下文、批处理都会改变结果。它的价值在于「买之前排除明显跑不动的组合」,而不是给出精确的 tokens/s 承诺。