资源合集
· 2026-03-15
开源大模型本地部署资源包
整理常用的开源大模型权重与量化版本下载资源,便于在国内网络环境下做本地推理部署。
#网盘#模型#资源
资源说明
本资源包汇总了多个主流开源大模型的 GGUF 量化版本,适合在本地用 llama.cpp 或 Ollama 跑起来。
请遵守各模型的许可协议,仅用于个人学习与本地推理。
包含内容
- Qwen2.5 系列 7B / 14B 量化
- DeepSeek 系列量化
- 配套一键启动脚本(Windows / macOS)
使用建议
- 优先用 4-bit 量化,显存占用最低
- 普通笔记本可跑 7B 级别
- 下载后务必校验哈希