LM Studio 本地模型安装指南
模型文件存放规则
LM Studio 对模型文件的目录结构有严格要求,必须遵循三层子目录格式:
<模型根目录>/
└── models/
└── <作者名>/ ← 第一层:作者/组织名
└── <模型名>/ ← 第二层:模型名称
└── <文件.gguf> ← 第三层:实际的模型权重文件
正确示例
F:\kaifaENVs\lmstudio\
└── models/
└── Qwen/
└── Qwen3.5-9B\
└── Qwen3.5-9B.Q4_K_M.gguf ✅ 可被识别
常见错误
F:\kaifaENVs\lmstudio\
└── models\
└── Qwen3.5-9B.Q4_K_M.gguf ❌ 直接放在 models 根目录,无法识别
安装步骤
- 下载 GGUF 格式的模型文件(从 HuggingFace 或 ModelScope 等源)
- 创建三层目录结构:
models/<作者>/<模型名>/
- 将 .gguf 文件放入最内层
- 打开/刷新 LM Studio → 左侧 My Models 面板即可看到模型
目录名命名建议
| 层级 | 填写内容 | 示例 |
|---|---|---|
| 作者名 | HuggingFace 上的组织或用户名 | Qwen、meta-llama、mistralai |
| 模型名 | 具体模型名称 | Qwen3.5-9B、Llama-3.1-8B |
| 文件名 | 包含量化级别的完整文件名 | Qwen3.5-9B.Q4_K_M.gguf |
当前已安装模型
- Qwen3.5-9B (Q4_K_M) — 路径:
F:\kaifaENVs\lmstudio\models\Qwen\Qwen3.5-9B\Qwen3.5-9B.Q4_K_M.gguf
相关配置
安装后通过 LM Studio 启动本地推理服务,OpenClaw custom-proxy provider 连接地址:
- API Base:
http://127.0.0.1:8080/v1
- API 类型:
openai-responses
- 模型 ID:
Qwen3.5-9B