AI 应用
· 2026-04-02
DeepSeek 本地部署实操
在普通电脑上用 Ollama 跑通 DeepSeek 蒸馏模型，覆盖安装、量化选择与常见报错。
#AI#DeepSeek#本地部署
为什么本地跑
云端 API 方便，但本地模型胜在隐私可控、零调用成本、可离线。DeepSeek 的蒸馏版对硬件相当友好。
安装 Ollama
Ollama 把模型管理简化为一条命令：
- 从官网下载安装 Ollama
- 命令行执行
ollama run deepseek-r1:7b
量化怎么选
- 7B 级别：4-bit 即可，8GB 内存可跑
- 14B 级别：建议 16GB 内存
- 32B 以上：需要独立显卡
常见报错
显存不足时，优先降量化，而非换模型。
遇到 CUDA out of memory，把量化降到 q4 再试，通常就能跑起来。
本文标题： DeepSeek 本地部署实操
标签：
#AI#DeepSeek#本地部署