词元之母TOK.MOM - 平台充值汇率 1:1 即 1 人民币充值到账 1 美元，支持一个 Key 调用近 600+ 海内外模型，限时特价模型低至 1 折，欢迎上岸！
连接 Ollama（本地模型）
学完你能做什么
不吹牛，只写「立刻能干」的事
你现在的困境
如果你正在经历这些，这课就是给你的
/connect 想找本地 Ollama，却只看到 Ollama Cloud，不知道下一步怎么做什么时候用这一招
本地模型的核心价值：隐私第一
💡 本地模型 vs 云端模型
| 场景 | 本地模型（Ollama） | 云端模型 |
|---|---|---|
| 处理敏感 Excel 数据 | ✅ 数据不出本机 | ❌ 需要上传 |
| 开发保密项目 | ✅ 代码在本地处理 | ❌ 需要上传 |
| 日常开发任务 | ⚠️ 能力较弱 | ✅ 能力强 |
| 完全离线使用 | ✅ 支持 | ❌ 需要联网 |
🎒 开始前的准备
确保你已经完成以下事项，否则请先停下
核心思路
先讲「怎么想」，不讲命令
/connect 只用来保存 API key（所以你会看到 Ollama Cloud）；本地 Ollama 不需要 key，需要用 opencode.json 配置 provider 才能在 /models 里选到*-coder，通用对话选 llama/qwen/gemma跟我做
一步一步来，假设你会犯错
第 1 步：安装 Ollama
你需要一个本地模型运行时，它会在本机启动服务，OpenCode 才能连上。
# 从官网下载安装包
# https://ollama.com/downloadollama version x.y.z）。第 2 步：选一个适合你硬件的模型并下载
模型选太大，常见结果就是：下载很久、跑起来很慢、甚至直接内存/显存不够。
下载大小 ≠ 运行占用
llama3.2:3b（约 2.0GB 下载）llama3.1:8b（约 4.9GB 下载）qwen2.5:7b（约 4.7GB 下载）、qwen2.5:14b（约 9.0GB 下载）qwen2.5-coder:7b（约 4.7GB 下载）、qwen2.5-coder:14b（约 9.0GB 下载）、qwen2.5-coder:32b（约 20GB 下载）gemma2:9b（约 5.4GB 下载）、mistral:7b（约 4.4GB 下载）| 你的硬件 | 推荐参数规模 | 推荐模型（举例） |
|---|---|---|
| MacBook（Apple Silicon）16GB 统一内存（例如 M4 16GB） | 3B~8B | llama3.2:3b / llama3.1:8b / qwen2.5-coder:7b |
| 独显 16GB 显存（例如 16GB VRAM 的 NVIDIA/AMD） | 7B~14B | qwen2.5-coder:14b / qwen2.5:14b / gemma2:9b |
| 独显 24GB 显存 | 14B~32B | qwen2.5-coder:32b / qwen2.5:32b / gemma2:27b |
| 独显 32GB 显存（以 RTX 5090 32GB 为例） | 32B | qwen2.5-coder:32b / qwen2.5:32b |
| 独显 48GB+ 显存 | 70B/72B | llama3.1:70b / qwen2.5:72b |
关于“5090 能跑多少 B”
pulling manifest ... success 的下载过程与成功提示。第 3 步：启动 Ollama 服务
OpenCode 需要通过本地 HTTP 服务和 Ollama 通信。
Listening on 127.0.0.1:11434（保持这个终端窗口开着）。第 4 步：在 OpenCode 配置“本地 Ollama 提供商”（可复制）
你在
/connect 里只看到 Ollama Cloud 是正常的：/connect 只负责保存 API key（写到 ~/.local/share/opencode/auth.json）。opencode.json 里配置一个 provider，把 Ollama 的 OpenAI 兼容地址填进去。~/.config/opencode/opencode.json（所有项目通用）opencode.json 放到当前项目根目录（只对这个项目生效）{
"$schema": "https://opencode.ai/config.json",
"provider": {
"ollama": {
"npm": "@ai-sdk/openai-compatible",
"name": "Ollama (local)",
"options": {
"baseURL": "http://localhost:11434/v1"
},
"models": {
"qwen2.5-coder:7b": { "name": "Qwen2.5 Coder 7B (local)" },
"llama3.1:8b": { "name": "Llama 3.1 8B (local)" },
"llama3.2:3b": { "name": "Llama 3.2 3B (local)" }
}
}
}
}两个容易忽略的点
1.
models 里的 key（例如 qwen2.5-coder:7b）建议和你 ollama pull 的模型名一致。2.
ollama pull ...。/models 里会出现 Ollama (local) 下的模型（下一步验证）。第 5 步：重启 OpenCode，选择本地模型并发送第一句话
OpenCode 需要在启动时读取
opencode.json ；你改完配置后通常要重启一次才能生效。/models你好，请介绍一下你自己为什么要用本地模型？
本地模型 vs 云端模型：选对场景很重要
本地模型的两大核心价值
即使大模型服务商承诺"不保存你的数据"，但数据确实传输到了他们的服务器。对于严格合规要求（如金融、医疗、政府）的场景，这可能违反规定。
:::
💡 什么时候必须用本地模型
本地模型的局限性
| 方面 | 本地模型 | 云端模型 |
|---|---|---|
| 隐私安全 | ⭐⭐⭐⭐⭐ 数据不出本机 | ⭐⭐ 数据需要上传 |
| 模型能力 | ⭐⭐⭐ 相对较弱 | ⭐⭐⭐⭐⭐ 能力更强 |
| 响应速度 | ⭐⭐ 取决于硬件 | ⭐⭐⭐⭐⭐ 更快 |
| 使用成本 | ⭐⭐⭐⭐⭐ 免费（需要硬件） | ⭐⭐ 需要付费 |
| 网络要求 | ⭐⭐⭐⭐⭐ 可离线 | ⭐ 需要联网 |
💡 推荐使用策略
1.
2.
检查点 ✅
全部通过才能继续；任一项失败，回到对应步骤重来
ollama --version 能输出版本号ollama serve 能监听在 127.0.0.1:11434opencode.json 已配置 baseURL: http://localhost:11434/v1/models 能看到 Ollama (local) 和你配置的模型踩坑提醒
80% 的人会卡在这里
| 现象 | 原因 | 解决 |
|---|---|---|
/connect 里只有 Ollama Cloud | /connect 只用来保存 API key | 按第 4 步配置 opencode.json，然后用 /models 选择本地模型 |
/models 里看不到 Ollama (local) | 配置文件位置不对 / JSON 写错 / 没重启 OpenCode | 运行 opencode debug paths 找到 config 目录；检查 JSON；重启 OpenCode |
connection refused | Ollama 服务没启动 | 先运行 ollama serve，再回到 OpenCode /models |
| 下载很慢 | 网络问题或镜像源慢 | 换个时间段重试；先下小模型（3B/7B） |
| 一跑就卡死/报内存不足 | 模型太大 | 换小一档（例如 14B → 7B/8B；32B → 14B） |
| 回复特别慢 | 在跑 CPU/资源不足/首次加载 | 先关掉占用大的应用；再试更小模型；首次加载慢是正常的 |
| 端口被占用 | 已有 ollama serve 在运行 | 不要重复启动；保留一个服务进程即可 |
Ollama 的注意事项
1.
ollama serve2.
3.
本课小结
1.
2.
3.
4.
opencode.json 配置并使用 Ollama 本地模型完成第一次对话下一课预告
你已经跑通本地模型路线了。接下来进入第一阶段的最后一课：自动更新。
快速预览
本地模型加载慢？加入社群，和 2000+ 同路人一起交流，实时答疑。
:::
修改于 2026-05-31 05:43:10