返回教程列表
本地部署OllamaMac教程

Mac本地部署大模型教程:Ollama+图形界面保姆级

发布于 2026-09-10阅读约 10 分钟

Mac(尤其是 M 系列芯片)是跑本地大模型的"甜点设备":苹果的统一内存(Unified Memory)把显存和内存合二为一,大容量内存的 Mac 不用独立显卡也能跑几十 B 参数的模型。截至 2026 年 9 月,Ollama 最新稳定版为 v0.34.0(据 GitHub Releases),新版在 Apple Silicon 上使用 MLX 引擎加速,结构化输出和多模态性能都有提升。这篇教程带你从零开始:装 Ollama → 跑通 DeepSeek/Qwen → 装上 Open WebUI 图形界面,全程复制粘贴即可。

一、先判断你的 Mac 能跑多大的模型

Mac 没有独立显存概念,内存大小直接决定你能跑什么模型(据本地 LLM 硬件速查指南)。下表是 Q4 量化(Ollama 默认)下的经验值:

Mac 配置能流畅跑的模型体验
8GB 统一内存(M1/M2 基础款)qwen3.5:0.8b、deepseek-r1:1.5b能聊天,其他应用会变慢
16GBqwen3.5:4b/9b、deepseek-r1:7b/8b日常对话、摘要、轻量编程,性价比甜点
32GBqwen3.5:27b、deepseek-r1:14b质量与速度平衡最佳,推荐档
64GBdeepseek-r1:32b/70b回答质量接近中端云端
128GB 以上(M4/M5 Max/Ultra)70B 量化版、深度量化的 V4 级 MoE硬核玩家档

实测参考:Mac Mini M4 上 8B 模型 Q4 量化约 18–22 tokens/s,30B 约 5 tokens/s(据 ai-encyclopedia Ollama 资料卡)。Intel 芯片 Mac 也能用,但只能 CPU 推理,建议只跑 1.5B–7B 小模型。

二、安装 Ollama(两种方式任选)

方式 A:官网下载(推荐新手)

  1. 打开 [https://ollama.com/download](https://ollama.com/download) ,下载 macOS 版 Ollama.dmg(Apple Silicon 和 Intel 均有对应版本,据 Ollama 官网);
  2. 打开 dmg,把 Ollama 图标拖进"应用程序"文件夹;
  3. 启动 Ollama,菜单栏出现羊驼图标即后台服务已运行(默认监听 11434 端口)。

方式 B:Homebrew 命令行安装

已装 Homebrew 的用户,打开"终端(Terminal)"执行:

brew install ollama

装完用下面命令验证(两种方式都适用):

ollama --version

显示 ollama version is 0.34.0 之类版本号即成功。

三、下载并运行模型

模型库浏览地址:[https://ollama.com/search](https://ollama.com/search) 。中文用户首推两个开源系列:

  • Qwen3.5(通义千问,阿里开源):原生支持图文多模态、256K 上下文,标签 qwen3.5:0.8b/2b/4b/9b/27b(据 Ollama 标签页);
  • DeepSeek-R1 蒸馏版(MIT 许可):推理能力强,标签 deepseek-r1:1.5b/7b/8b/14b/32b(据 Ollama 模型页)。

终端执行(以 16GB 内存 Mac 为例):

ollama run qwen3.5:4b

或:

ollama run deepseek-r1:7b

首次运行自动下载(支持断点续传),看到 >>> 提示符后直接输入问题即可对话;/bye 退出。模型文件默认存放在 ~/.ollama/models,想改到外置硬盘,可在终端设置环境变量后重启 Ollama:

launchctl setenv OLLAMA_MODELS /Volumes/你的盘名/ollama-models

注意:DeepSeek-V4-Flash 这类 284B 参数 MoE 在 Ollama 目前是云端标签(deepseek-v4-flash:cloud,需 ollama signin),Mac 本地请选 R1 蒸馏版或社区量化版(据 deepseekai.guide)。

四、装图形界面:Open WebUI 保姆级步骤

命令行够用但不够好看。Open WebUI 是最流行的开源 Web 界面,支持多模型切换、文档问答(RAG)、语音、插件,全本地运行(据 Open WebUI 官方文档)。

方法 1:Docker 一键部署(官方推荐)

  1. 先装 Docker Desktop for Mac ,注意 Apple Silicon 选 ARM 版;启动后等菜单栏小鲸鱼显示 "Docker is running",并在 Settings → Resources 里给它分配至少 8GB 内存。
  2. 终端执行一条命令:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
  1. 浏览器打开 http://localhost:3000 ,首次访问注册一个本地管理员账号(账号密码只存在你自己电脑上,随便填)。
  2. 进入后左上角模型选择框能看到你 ollama list 里的所有模型,选中即可聊天。

如果界面里找不到模型,进 设置 → 连接(Connections),把 Ollama 地址确认成 http://host.docker.internal:11434(据掘金 Open WebUI 部署手册)。

方法 2:pip 安装(不想装 Docker)

需要 Python 3.11,终端执行(据 Open WebUI GitHub README):

pip install open-webui
open-webui serve

完成后访问 http://localhost:8080 即可。

不想折腾的替代方案:直接装 Cherry Studio(开源免费桌面客户端,cherry-ai.com),设置 → 模型服务 → 选 Ollama,地址填 http://localhost:11434,勾选模型就能用,零 Docker 零命令行。

五、进阶:让手机/其他电脑也能调用

Ollama 默认只允许本机访问。想在同一 Wi-Fi 下用 iPad 或另一台电脑连:

  1. 终端设置环境变量并重启服务:
launchctl setenv OLLAMA_HOST 0.0.0.0:11434
  1. 菜单栏退出 Ollama 再重新打开;
  2. 其他设备的客户端里,把 Ollama 地址填成你 Mac 的局域网 IP(如 http://192.168.3.10:11434,IP 在"系统设置 → Wi-Fi → 详细信息"里查看)。

六、常见问题排查

  1. 模型一加载,Mac 就变卡/弹内存不足:模型超出内存容量,换小一档标签;或关掉其他大型应用再跑。
  2. Docker 命令报 `Cannot connect to the Docker daemon`:Docker Desktop 没启动,先打开它等鲸鱼图标变绿。
  3. Open WebUI 打不开 3000 端口:容器没跑起来,终端执行 docker ps 看是否有 open-webui;没有就 docker start open-webui
  4. Intel Mac 速度极慢:属正常现象,Intel 版无 GPU 加速,建议只跑 7B 以下模型。
  5. 更新 Ollama:官网版重新下载 dmg 覆盖安装;brew 版执行 brew upgrade ollama,已下载的模型不会丢失。

📦 省心资料包

  • 《本地部署AI完全指南》(19.9元):Mac/Windows 双平台的完整部署手册,Ollama、Open WebUI、LM Studio、知识库 RAG 全流程截图 + 报错排查清单,照着点就能成。→ https://pay.66buff.com/buy/2
  • 《AI提效指令库》(9.9元):85 个高频提示词模板,本地小模型配上好指令,效果直追大模型。→ https://pay.66buff.com/buy/3
  • 《AI工具充值避坑手册》(9.9元):本地跑不动大模型时,官方 API 怎么充值最省、怎么辨官方渠道,充钱前必看。→ https://pay.66buff.com/buy/1

需要远程代部署、企业私有 AI / 知识库搭建等定制服务,可扫码联系客服一对一咨询:👉 https://pay.66buff.com/kefu.jpg

(本文基于 Ollama v0.34.0 与 2026 年 9 月模型库现状整理,模型标签与性能数据以 Ollama 官网为准。)

参考资料

  1. Ollama 官网下载:ollama.com
  2. Ollama GitHub Releases(v0.34.0):github.com
  3. Ollama 模型库 · DeepSeek-R1:ollama.com ;Qwen3.5 标签:ollama.com
  4. Open WebUI 官方文档:openwebui.com ;GitHub:github.com
  5. Cherry Studio 官网:cherry-ai.com
  6. 本地 LLM 硬件需求速查表:itlibra.com
  7. 掘金 · ChromaDB+Ollama+Open WebUI 本地知识库手册:juejin.cn

想要更系统、更全的整理?

配套付费资料,把本页讲不透的细节一次补全

微信客服二维码 - 大山资源

购买或使用有疑问?需要远程代部署、建站、支付对接、企业私有 AI/RAG 定制?加工程师微信,本人接单

微信:大山资源点击添加工程师微信