# 本地部署大模型要多少显存？2026 显卡、量化与框架选型

想在本地部署大模型，先看显存和内存够不够。省事的办法是拿官方模型库列出的文件体积当权重下限，再给上下文留余量：Ollama 模型库里 qwen3 的 8B 版本 5.2GB、14B 9.3GB、30B 19GB；LM Studio 官方系统需求写的是 Windows 机器内存至少 16GB、独显显存至少 4GB 起步。8GB 内存的笔记本也能跑，只是要挑小模型、把上下文开小。

## 一、两家官方给的硬件基线

LM Studio 的系统需求页把三套系统都列了。macOS 要 Apple Silicon（M1 及以后）加 macOS 14 以上，建议 16GB 内存起，Intel 芯片的 Mac 不在支持范围。Windows 分 x64 和 ARM（骁龙 X Elite），CPU 要支持 AVX2，内存建议 16GB 以上，独显显存建议 4GB 以上。Linux 发的是 AppImage，Ubuntu 20.04 起步。

![图1：LM Studio 官方 System Requirements 文档页，Windows 一段列出内存与显存下限](https://www.aitoollab.cn/images/articles/local-llm-vram-config-guide-2026/1-lmstudio-requirements.png)

## 二、显存要多少：拿官方模型体积当尺子

Ollama 模型库把每个尺寸的文件体积都标出来了：qwen3:0.6b 523MB、1.7b 1.4GB、4b 2.5GB、8b 5.2GB、14b 9.3GB、30b 19GB、32b 20GB、235b 142GB。这些就是下载要占的空间，也基本等于权重那部分要吃的显存，Ollama 默认尽量把模型层放进显存，放不下才退回内存。

![图2：Ollama 官方模型库 qwen3 页面，各尺寸的文件体积与上下文长度](https://www.aitoollab.cn/images/articles/local-llm-vram-config-guide-2026/2-ollama-model-sizes.png)

## 三、驱动和显卡门槛

Ollama 硬件支持页写得很细：N 卡算力 5.0 以上、驱动 550 及以上，算力在 5.0 到 6.2 之间的老卡要 570 以上。RTX 30、40、50 系都在支持表里，装之前先确认自己的卡在不在表内。

![图3：Ollama 官方硬件支持页，N 卡算力分档与驱动版本要求](https://www.aitoollab.cn/images/articles/local-llm-vram-config-guide-2026/3-ollama-gpu-support.png)

## 四、显存不够的两条路：量化、调上下文

量化是把权重从 16 位压到 4 位（GGUF 里的 Q4_K_M 这类），体积能降到四分之一上下，代价是精度有一点损失，llama.cpp 官方建议配 imatrix 校准来减小损失。上下文同样吃显存：Ollama 默认 4096 token，可以用 OLLAMA_CONTEXT_LENGTH 调大，调之前先看还剩多少显存。跑起来用 ollama ps 看 PROCESSOR 列，100% GPU 就是整模型在显卡上，出现 CPU 字样说明显存不够、退到内存了。

![图4：Ollama 官方 FAQ 移动端视口，上下文长度设置与显存占用判断](https://www.aitoollab.cn/images/articles/local-llm-vram-config-guide-2026/4-ollama-faq-mobile.png)

## 五、框架怎么选

自己试玩，Ollama 命令行最省事；[LM Studio](/tools/lm-studio/) 适合想用图形界面的人，下载模型、拖文件聊天都在窗口里点。要让多人同时调用，或者给内部系统做服务，换 [vLLM](/tools/vllm/)：它用 PagedAttention 管 KV cache、支持连续批处理和张量并行，对外给 OpenAI 兼容接口，量化支持 FP8、INT8、GPTQ、AWQ、GGUF。

我的顺序是：先按模型体积挑一个装得下的尺寸，跑起来看 ollama ps，掉到 CPU 再回去调上下文或换量化版。想按显存分层挑机器，看站内[本地部署完整指南](/articles/local-ai-model-deployment-guide-2026/)；工具入口在 [Ollama](/tools/ollama/)。官方原文：[Ollama FAQ](https://docs.ollama.com/faq)、[LM Studio 系统需求](https://lmstudio.ai/docs/app/system-requirements)、[vLLM 文档](https://docs.vllm.ai/en/latest/)。