LM Studio 是一款在本地电脑上运行大语言模型的桌面应用,支持 macOS、Windows 和 Linux。用户可直接下载并运行 Llama、Qwen、DeepSeek、Gemma 等开源模型,提供聊天界面与兼容 OpenAI 的本地 REST API,所有推理均可离线进行,数据留在本地设备。 定价:完全免费(个人及商用)。编辑评分:⭐4.6。
LM Studio 是什么?
LM Studio 是一款让你在自己电脑上跑大语言模型(LLM)的桌面应用,支持 macOS、Windows 和 Linux。它的定位很清晰:不想把数据传到云端、又想用上 Llama、Qwen、DeepSeek、Gemma 这类开源模型的人,装一个就能用。
你不需要懂推理框架,打开软件、在 Discover 里挑个模型、点下载,就能像用 ChatGPT 一样和它聊天。需要写代码调用时,它还能提供一个兼容 OpenAI 格式的本地 REST API,把你本地的模型接进自己的应用里。
核心功能
1. 本地下载并运行开源模型
LM Studio 内置模型发现功能,可以直接从 Hugging Face 拉取 GGUF / Safetensors 权重的模型。支持 Llama、Qwen、DeepSeek、Gemma、Phi 等主流系列。模型加载到内存后即可对话,所有推理都在本机完成。
2. 类 ChatGPT 的聊天界面
提供图形化聊天窗口,支持多会话、提示词管理与本地模型配置。对不想碰命令行的用户很友好。
3. 兼容 OpenAI 的本地 API
这是开发者最常用的能力。LM Studio 暴露一个 OpenAI 兼容的 REST API(beta),你现有的基于 OpenAI SDK 的代码几乎不用改,把 base_url 指到本地即可。还提供 lms 命令行、Python SDK(lmstudio-python)和 TypeScript SDK(lmstudio-js)。
4. 文档对话(RAG)与离线运行
可以把文档拖进对话做离线问答;只要先把模型权重下载好,整个聊天与 API 服务都能断网运行,数据完全留在本地。
5. 无界面模式(llmster)
LM Studio 的 llmster 是无 GUI 的核心版本,适合部署在服务器、云实例或 CI 环境里做无头推理。
值不值得用?
优点:
- 完全本地运行,隐私性最好,企业内网/离线环境也能用
- 模型商店 + 一键下载,上手成本低
- OpenAI 兼容 API,接入现有项目几乎零成本
- 支持 llama.cpp(GGUF)与 Apple MLX,Mac/Win/Linux 通吃
- 可作为 MCP 客户端,连接本地模型到 Codex、Claude Code 等工具
缺点:
- 推理速度完全看本机配置,没独显或内存小会明显卡
- 大模型对磁盘和内存占用不低(比如 14B 模型就需要相当内存)
- 想用 API/SDK 做开发,仍需一点技术基础
我的看法: 如果你关心数据不出本机、又想方便地试各种开源模型,LM Studio 是目前最顺手的本地入口之一。配合 Ollama 一起用也很常见——一个管界面和 API,一个管命令行工作流。
使用建议
- 先试小模型:新手从 7B/8B 量化模型开始,确认本机跑得动再上更大的
- 善用本地 API:把 base_url 指向 LM Studio,现有 OpenAI 代码直接复用
- 离线前先下权重:计划断网使用,务必提前下载好模型文件
- 关注硬件:跑 14B 以上建议 16G+ 内存、有独显更佳
适合谁用?
推荐:
- 对数据隐私敏感的开发者与企业
- 想本地试各类开源模型的研究者
- 需要把本地模型接进自有应用的工程师
可考虑:
- 普通用户(界面友好,但大模型对机器有要求)
不推荐:
- 本机配置很低、又想跑超大模型的人(云端方案更现实)