很多人不敢把公司文件、合同、代码放到 ChatGPT 或 Claude——但又需要 AI 帮助处理这些内容。

Open WebUI + Ollama 的组合解决了这个矛盾：你获得了 ChatGPT 级别的使用体验，但所有数据只在你自己的电脑上处理。

一、系统要求

配置最低要求推荐配置

内存8GB16GB+ 存储10GB（模型文件）50GB+ GPU可选（有会快很多）NVIDIA 8GB+ 或 Apple Silicon 系统macOS/Linux/WindowsmacOS（Apple Silicon 最优）

二、完整安装流程

步骤1：安装 Ollama

bash
macOS / Linux
curl -fsSL https://ollama.com/install.sh | sh
下载推荐模型
ollama pull qwen2.5:7b          # 中文任务（主力）
ollama pull llama3.2:3b         # 快速任务
ollama pull qwen2.5-coder:7b   # 代码任务

步骤2：安装 Open WebUI（Docker 方式）

bash
docker run -d \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  -e WEBUI_AUTH=true \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

访问 http://localhost:3000，首次访问需要注册管理员账号。

步骤3：非 Docker 方式（pip 安装）

bash
pip install open-webui
open-webui serve

三、核心功能配置

3.1 添加 Claude / OpenAI API（混合使用）

如果想在本地模型之外也能用 Claude 或 GPT：

进入 Open WebUI → Admin Panel → Connections

添加 OpenAI 兼容连接：

- Claude：https://api.anthropic.com/v1，API Key 填 Anthropic key - OpenAI：https://api.openai.com/v1，API Key 填 OpenAI key

这样你可以在同一界面里，根据任务选择本地模型或云端模型。

3.2 文档上传与 RAG

Open WebUI 内置了文档处理能力：

在对话框里点击 "+" 上传 PDF/Word/txt

系统会自动向量化文档并在对话中检索

可以建立"知识库"存放常用文档

私密文档处理的最佳实践：

合同、财务报表 → 上传到 Open WebUI，用本地 Qwen 处理

一般写作任务 → 直接用 Claude API（速度快，质量高）

3.3 创建自定义角色（System Prompt 模板）

创建一个"代码审查员"角色：
名称：Senior Code Reviewer
模型：qwen2.5-coder:7b
System Prompt：你是一个有 10 年经验的 TypeScript 开发者。
  审查代码时，重点关注：类型安全、潜在 bug、性能问题、安全漏洞。
  用列表格式给出问题，每个问题附上修改建议。

四、团队共享部署

如果团队里多个人需要使用，可以把 Open WebUI 部署在局域网服务器：

bash
在服务器上运行，绑定局域网 IP
docker run -d \
  -p 0.0.0.0:3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  -e WEBUI_AUTH=true \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

局域网内的其他电脑访问 http://服务器IP:3000 即可。

注意：如果有外网访问需求，必须配置 HTTPS 和更强的认证（不要直接暴露在公网）。

五、常见问题

Q：模型回答速度很慢怎么办？ A：首先确认 GPU 加速是否生效（ollama ps 查看）；其次换小一点的模型（3B 比 7B 快 2-3 倍）；或者换量化程度更高的版本。

Q：文档上传后 AI 回答不准确 A：这是 RAG 的常见问题。尝试：(1) 缩小文档范围，只上传相关部分；(2) 在提问时更明确地引用文档章节；(3) 调整向量检索的 Top-K 参数。

Q：如何备份对话历史？ A：Open WebUI 的数据存在 Docker Volume open-webui 里。备份方法：

bash
docker run --rm -v open-webui:/source -v $(pwd):/backup ubuntu tar czf /backup/webui-backup.tar.gz -C /source .

---

延伸阅读

Ollama 进阶指南

DeepSeek R1 本地部署教程

Dify 搭建企业知识库