Mac(尤其是 M 系列芯片)是跑本地大模型的"甜点设备":苹果的统一内存(Unified Memory)把显存和内存合二为一,大容量内存的 Mac 不用独立显卡也能跑几十 B 参数的模型。截至 2026 年 9 月,Ollama 最新稳定版为 v0.34.0(据 GitHub Releases),新版在 Apple Silicon 上使用 MLX 引擎加速,结构化输出和多模态性能都有提升。这篇教程带你从零开始:装 Ollama → 跑通 DeepSeek/Qwen → 装上 Open WebUI 图形界面,全程复制粘贴即可。
一、先判断你的 Mac 能跑多大的模型
Mac 没有独立显存概念,内存大小直接决定你能跑什么模型(据本地 LLM 硬件速查指南)。下表是 Q4 量化(Ollama 默认)下的经验值:
| Mac 配置 | 能流畅跑的模型 | 体验 |
|---|---|---|
| 8GB 统一内存(M1/M2 基础款) | qwen3.5:0.8b、deepseek-r1:1.5b | 能聊天,其他应用会变慢 |
| 16GB | qwen3.5:4b/9b、deepseek-r1:7b/8b | 日常对话、摘要、轻量编程,性价比甜点 |
| 32GB | qwen3.5:27b、deepseek-r1:14b | 质量与速度平衡最佳,推荐档 |
| 64GB | deepseek-r1:32b/70b | 回答质量接近中端云端 |
| 128GB 以上(M4/M5 Max/Ultra) | 70B 量化版、深度量化的 V4 级 MoE | 硬核玩家档 |
实测参考:Mac Mini M4 上 8B 模型 Q4 量化约 18–22 tokens/s,30B 约 5 tokens/s(据 ai-encyclopedia Ollama 资料卡)。Intel 芯片 Mac 也能用,但只能 CPU 推理,建议只跑 1.5B–7B 小模型。
二、安装 Ollama(两种方式任选)
方式 A:官网下载(推荐新手)
- 打开 [https://ollama.com/download](https://ollama.com/download) ,下载 macOS 版
Ollama.dmg(Apple Silicon 和 Intel 均有对应版本,据 Ollama 官网); - 打开 dmg,把 Ollama 图标拖进"应用程序"文件夹;
- 启动 Ollama,菜单栏出现羊驼图标即后台服务已运行(默认监听 11434 端口)。
方式 B:Homebrew 命令行安装
已装 Homebrew 的用户,打开"终端(Terminal)"执行:
brew install ollama装完用下面命令验证(两种方式都适用):
ollama --version显示 ollama version is 0.34.0 之类版本号即成功。
三、下载并运行模型
模型库浏览地址:[https://ollama.com/search](https://ollama.com/search) 。中文用户首推两个开源系列:
- Qwen3.5(通义千问,阿里开源):原生支持图文多模态、256K 上下文,标签
qwen3.5:0.8b/2b/4b/9b/27b(据 Ollama 标签页); - DeepSeek-R1 蒸馏版(MIT 许可):推理能力强,标签
deepseek-r1:1.5b/7b/8b/14b/32b(据 Ollama 模型页)。
终端执行(以 16GB 内存 Mac 为例):
ollama run qwen3.5:4b或:
ollama run deepseek-r1:7b首次运行自动下载(支持断点续传),看到 >>> 提示符后直接输入问题即可对话;/bye 退出。模型文件默认存放在 ~/.ollama/models,想改到外置硬盘,可在终端设置环境变量后重启 Ollama:
launchctl setenv OLLAMA_MODELS /Volumes/你的盘名/ollama-models注意:DeepSeek-V4-Flash 这类 284B 参数 MoE 在 Ollama 目前是云端标签(
deepseek-v4-flash:cloud,需ollama signin),Mac 本地请选 R1 蒸馏版或社区量化版(据 deepseekai.guide)。
四、装图形界面:Open WebUI 保姆级步骤
命令行够用但不够好看。Open WebUI 是最流行的开源 Web 界面,支持多模型切换、文档问答(RAG)、语音、插件,全本地运行(据 Open WebUI 官方文档)。
方法 1:Docker 一键部署(官方推荐)
- 先装 Docker Desktop for Mac ,注意 Apple Silicon 选 ARM 版;启动后等菜单栏小鲸鱼显示 "Docker is running",并在 Settings → Resources 里给它分配至少 8GB 内存。
- 终端执行一条命令:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main- 浏览器打开 http://localhost:3000 ,首次访问注册一个本地管理员账号(账号密码只存在你自己电脑上,随便填)。
- 进入后左上角模型选择框能看到你
ollama list里的所有模型,选中即可聊天。
如果界面里找不到模型,进 设置 → 连接(Connections),把 Ollama 地址确认成 http://host.docker.internal:11434(据掘金 Open WebUI 部署手册)。
方法 2:pip 安装(不想装 Docker)
需要 Python 3.11,终端执行(据 Open WebUI GitHub README):
pip install open-webui
open-webui serve完成后访问 http://localhost:8080 即可。
不想折腾的替代方案:直接装 Cherry Studio(开源免费桌面客户端,cherry-ai.com),设置 → 模型服务 → 选 Ollama,地址填 http://localhost:11434,勾选模型就能用,零 Docker 零命令行。
五、进阶:让手机/其他电脑也能调用
Ollama 默认只允许本机访问。想在同一 Wi-Fi 下用 iPad 或另一台电脑连:
- 终端设置环境变量并重启服务:
launchctl setenv OLLAMA_HOST 0.0.0.0:11434- 菜单栏退出 Ollama 再重新打开;
- 其他设备的客户端里,把 Ollama 地址填成你 Mac 的局域网 IP(如
http://192.168.3.10:11434,IP 在"系统设置 → Wi-Fi → 详细信息"里查看)。
六、常见问题排查
- 模型一加载,Mac 就变卡/弹内存不足:模型超出内存容量,换小一档标签;或关掉其他大型应用再跑。
- Docker 命令报 `Cannot connect to the Docker daemon`:Docker Desktop 没启动,先打开它等鲸鱼图标变绿。
- Open WebUI 打不开 3000 端口:容器没跑起来,终端执行
docker ps看是否有 open-webui;没有就docker start open-webui。 - Intel Mac 速度极慢:属正常现象,Intel 版无 GPU 加速,建议只跑 7B 以下模型。
- 更新 Ollama:官网版重新下载 dmg 覆盖安装;brew 版执行
brew upgrade ollama,已下载的模型不会丢失。
📦 省心资料包
- 《本地部署AI完全指南》(19.9元):Mac/Windows 双平台的完整部署手册,Ollama、Open WebUI、LM Studio、知识库 RAG 全流程截图 + 报错排查清单,照着点就能成。→ https://pay.66buff.com/buy/2
- 《AI提效指令库》(9.9元):85 个高频提示词模板,本地小模型配上好指令,效果直追大模型。→ https://pay.66buff.com/buy/3
- 《AI工具充值避坑手册》(9.9元):本地跑不动大模型时,官方 API 怎么充值最省、怎么辨官方渠道,充钱前必看。→ https://pay.66buff.com/buy/1
需要远程代部署、企业私有 AI / 知识库搭建等定制服务,可扫码联系客服一对一咨询:👉 https://pay.66buff.com/kefu.jpg
(本文基于 Ollama v0.34.0 与 2026 年 9 月模型库现状整理,模型标签与性能数据以 Ollama 官网为准。)
参考资料
- Ollama 官网下载:ollama.com
- Ollama GitHub Releases(v0.34.0):github.com
- Ollama 模型库 · DeepSeek-R1:ollama.com ;Qwen3.5 标签:ollama.com
- Open WebUI 官方文档:openwebui.com ;GitHub:github.com
- Cherry Studio 官网:cherry-ai.com
- 本地 LLM 硬件需求速查表:itlibra.com
- 掘金 · ChromaDB+Ollama+Open WebUI 本地知识库手册:juejin.cn
