想在自己电脑上免费跑 DeepSeek、通义千问(Qwen)这类开源大模型,Ollama 是目前最简单的方案:一条命令下载模型、一条命令启动对话,断网也能用,数据完全不出本机。截至 2026 年 9 月,Ollama 最新稳定版为 v0.34.0(2026 年 9 月 5 日发布,据官方 GitHub Releases),全球已有超过 900 万开发者使用(据 Ollama 官网)。这篇教程面向 Windows 10/11 用户,从下载安装到跑通第一个模型,全程图文级步骤。
一、安装前:确认你的 Windows 电脑够不够用
Ollama 本体很小(安装包约 1GB 多),真正吃硬件的是模型。经验法则:模型文件多大,大致就需要多少内存/显存(据 ai-encyclopedia 的 Ollama 资料卡)。
| 模型(Ollama 标签) | 文件大小 | 建议内存/显存 | 适合的电脑 |
|---|---|---|---|
| qwen3.5:0.8b | 约 1.0GB | 8GB 内存 | 老旧笔记本、纯 CPU 也能跑 |
| deepseek-r1:1.5b | 约 1.1GB | 8GB 内存 | 入门尝鲜 |
| deepseek-r1:7b / qwen3.5:4b | 约 3.4–4.7GB | 16GB 内存(8GB 显存更流畅) | 主流办公本、游戏本 |
| qwen3.5:9b | 约 6.6GB | 16–24GB 内存 | 中高端配置 |
| deepseek-r1:14b | 约 9.0GB | 32GB 内存 / 12GB 显存 | 带 RTX 3060 及以上独显 |
系统要求:Windows 10 或 Windows 11 的 64 位系统,建议先打好系统补丁;安装过程需要管理员权限。没有独立显卡也能装——Ollama 会自动用 CPU 推理,只是速度慢一些(据头条 Ollama 部署教程)。
二、第一步:下载并安装 Ollama
- 打开 Ollama 官网下载页:[https://ollama.com/download](https://ollama.com/download) ,点击 Windows 图标,下载
OllamaSetup.exe(官方安装包,据 Ollama 官网)。 - 双击安装包,点击 Install,等待几十秒安装完成。安装程序会自动把
ollama命令加入系统路径,并在右下角系统托盘放入一个羊驼图标——看到它就说明后台服务已经自动启动。 - 验证安装:按
Win + R,输入cmd回车打开命令提示符,执行:
ollama --version能显示版本号(如 ollama version is 0.34.0)即安装成功(命令用法据菜鸟教程 Ollama 专栏)。
提示:官网服务器在海外,下载慢可以挂代理加速;不要从不明网盘下载非官方的修改版/打包版,只认 ollama.com 官网。
三、强烈建议:先改模型存放路径(别占满 C 盘)
模型动辄几个 GB 到几十 GB,默认却存在 C 盘用户目录下,很容易把系统盘塞满。安装后第一步就改掉:
- Windows 搜索栏输入"环境变量",选择"编辑系统环境变量" → 点击"环境变量"按钮;
- 在"用户变量"或"系统变量"中点"新建":变量名填
OLLAMA_MODELS,变量值填你想存放的路径,例如D:\OllamaModels; - 确定保存后,右键托盘羊驼图标 → Quit Ollama,再重新启动 Ollama,配置才会生效(操作步骤据头条 Ollama 教学课时)。
四、第二步:下载并运行第一个模型
模型库在官网搜索页浏览:[https://ollama.com/search](https://ollama.com/search) 。新手推荐两个中文表现好的开源系列:
- 通义千问 Qwen3.5(阿里开源,支持图文多模态,256K 上下文):标签有
qwen3.5:0.8b、qwen3.5:4b、qwen3.5:9b、qwen3.5:27b,据 Ollama 模型页 - DeepSeek-R1 蒸馏版(深度求索开源,MIT 许可,推理能力强):标签有
deepseek-r1:1.5b、7b、8b、14b、32b,据 Ollama 模型页
在命令提示符中执行(首次运行会自动下载,支持断点续传):
ollama run qwen3.5:4b或者跑 DeepSeek 推理模型:
ollama run deepseek-r1:7b看到 >>> 提示符就说明模型已加载,直接打字提问、回车即可;输入 /bye 退出对话,模型空闲约 5 分钟后自动释放内存(据菜鸟教程)。
注意:2026 年新出的 DeepSeek-V4-Flash(284B 参数 MoE)在 Ollama 里目前是云端标签(deepseek-v4-flash:cloud,需 ollama signin 登录 Ollama 账号走官方托管),普通个人电脑无法本地加载全量权重;想本地跑 DeepSeek,现阶段请用 R1 蒸馏版或社区量化版(据 deepseekai.guide 教程)。
五、日常常用命令速查
| 命令 | 作用 |
|---|---|
ollama run 模型名 | 下载(如未下载)并启动对话 |
ollama pull 模型名 | 只下载不启动 |
ollama list | 查看本机已下载的模型 |
ollama ps | 查看当前正在运行的模型 |
ollama rm 模型名 | 删除模型、释放磁盘 |
直接输入 ollama 回车 | 打开新版交互式菜单,可视化选模型 |
Ollama 还在本机 11434 端口提供兼容 OpenAI 格式的 HTTP 接口,Cherry Studio、Chatbox、Open WebUI 等图形客户端都能直接连。快速测试:
curl http://localhost:11434/api/generate -d "{\"model\":\"qwen3.5:4b\",\"prompt\":\"用一句话解释人工智能\"}"六、想要图形界面?配一个客户端就行
命令行会用了,再装个免费图形界面,体验媲美 ChatGPT 网页版:
- Cherry Studio(开源免费桌面客户端):设置 → 模型服务 → 选 Ollama,API 地址填
http://localhost:11434,点"管理"勾选已下载的模型即可(据 Cherry Studio 官方文档)。 - Open WebUI(开源 Web 界面,支持知识库/文档问答):安装 Docker Desktop 后,一条命令启动,浏览器访问
http://localhost:3000(据 Open WebUI 官方文档):
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main七、常见报错排查
- 提示 `'ollama' 不是内部或外部命令`:安装后没重开命令行,关掉 cmd 重新打开;仍不行就重启电脑。
- 模型下载到一半断了:重新执行同一条
ollama run,会从断点续传,不用重头来。 - 回复特别慢、风扇狂转:模型超出了你的内存/显存,Ollama 在"挤内存"运行。换小一档的模型(如 9b 换成 4b),速度立刻改善。
- C 盘变红:模型默认存 C 盘,按第三节设置
OLLAMA_MODELS后,把旧模型删掉重新下载到新路径。 - 图形客户端连不上模型:确认 Ollama 托盘图标在运行;客户端里 Ollama 地址填
http://localhost:11434,端口别写错。 - 想让局域网其他设备调用:新建系统环境变量
OLLAMA_HOST,值填0.0.0.0:11434,重启 Ollama,并在 Windows 防火墙放行 11434 端口(据头条 Windows 部署教程)。
📦 省心资料包
- 《本地部署AI完全指南》(19.9元):从硬件判断、Ollama/LM Studio 安装到 Open WebUI 图形界面、DeepSeek 开源权重部署,每一步都有截图和报错排查清单,卡壳了照着翻就行,省下自己搜一晚上的时间。→ https://pay.66buff.com/buy/2
- 《AI提效指令库》(9.9元):85 个验证过的高频提示词模板,写作、代码、办公自动化直接套用,本地模型也能发挥出八成功力。→ https://pay.66buff.com/buy/3
- 《AI工具充值避坑手册》(9.9元):如果本地硬件跑不动、想转用 DeepSeek 官方 API,充值前先看渠道辨真伪,别被第三方中转坑。→ https://pay.66buff.com/buy/1
需要远程代部署、企业私有 AI / RAG 知识库搭建等定制服务,可扫码联系客服一对一咨询:👉 https://pay.66buff.com/kefu.jpg
(本文基于 Ollama v0.34.0 及 2026 年 9 月模型库现状整理,模型标签与版本以 Ollama 官网为准。)
参考资料
- Ollama 官网(下载/模型库):ollama.com 、下载页
- Ollama GitHub Releases(v0.34.0,2026-09-05):github.com
- Ollama 模型库 · DeepSeek-R1:ollama.com
- Qwen3.5 模型标签页:ollama.com
- 菜鸟教程 · Ollama 运行模型:runoob.com
- Open WebUI 官方文档:openwebui.com
- Cherry Studio 官方文档:cherryai.com.cn
- How to Run DeepSeek Locally in 2026(dev.to):dev.to
