云图AI云图AI
教程 · install

Open WebUI 如何连接 Ollama

很多人第一次接触本地大模型,都会安装 Ollama。

安装完之后,又会发现一个问题:

虽然可以在命令行聊天,但体验一般。

例如:

ollama run qwen3:8b

只能一直在 Terminal 里面聊天。

如果希望像 ChatGPT 一样,有聊天记录、多轮对话、代码高亮、文件上传等功能,那么 Open WebUI 就是目前最好用的选择之一。

本文就一步一步介绍如何让 Open WebUI 连接 Ollama


什么是 Open WebUI?

Open WebUI 可以理解成:

一个专门给各种大模型使用的 Web 聊天界面。

它支持:

  • ChatGPT 风格界面

  • 多轮对话

  • Markdown 渲染

  • 数学公式

  • 代码高亮

  • 文件上传

  • 图片识别(支持视觉模型)

  • 多用户管理

  • 权限控制

  • 接入 Ollama

  • 接入 OpenAI API

  • 接入 Gemini

  • 接入 Claude

  • 接入各种 OpenAI Compatible API

因此很多公司都会把它作为 AI 内部聊天平台。


Open WebUI 与 Ollama 的关系

很多新手容易混淆这两个项目。

其实职责非常明确。

                用户

                  │

            Open WebUI

                  │

             HTTP API

                  │

              Ollama

                  │

             本地大模型

其中:

Ollama

负责:

  • 下载模型

  • 加载模型

  • 推理模型

  • 提供 API

例如:

http://localhost:11434

就是 Ollama 提供的 API。

而:

Open WebUI

只是一个前端聊天界面。

真正回答问题的仍然是 Ollama。


第一步:确认 Ollama 已安装

先确认 Ollama 已经正常运行。

终端执行:

ollama list

例如:

NAME

qwen3:8b

llama3.2

gemma3

再执行:

ollama run qwen3:8b

如果能够正常聊天,就说明 Ollama 没问题。


第二步:启动 Ollama 服务

正常情况下,安装完成以后 Ollama 会自动启动。

可以检查:

curl http://localhost:11434/api/tags

如果返回:

{
  "models":[
      ...
  ]
}

说明 API 已经正常。


第三步:安装 Open WebUI

官方推荐 Docker 部署。

例如:

docker run -d \
  --name open-webui \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  --restart always \
  ghcr.io/open-webui/open-webui:main

几个参数需要注意。

端口

3000:8080

表示:

浏览器访问:

http://服务器IP:3000

即可打开 Open WebUI。


数据目录

-v open-webui:/app/backend/data

用于保存:

  • 聊天记录

  • 用户信息

  • 配置

  • API Key

以后升级镜像不会丢失数据。


最重要的一项

OLLAMA_BASE_URL

例如:

http://host.docker.internal:11434

它告诉 Open WebUI:

Ollama 在哪里。

如果这里配置错误,就找不到模型。


第四步:首次登录

浏览器打开:

http://localhost:3000

第一次进入会要求创建管理员账号。

填写:

  • 用户名

  • 邮箱

  • 密码

创建即可。


第五步:检查模型

登录后。

点击:

Select Model

如果看到:

qwen3:8b

llama3.2

gemma3

说明连接成功。

直接选择模型即可聊天。


如果没有模型怎么办?

先检查:

Settings

↓

Connections

↓

Ollama

看看:

Base URL

是不是:

http://host.docker.internal:11434

如果部署在同一台 Linux 上,也可以写:

http://172.17.0.1:11434

或者:

http://宿主机IP:11434

根据部署方式不同有所区别。


Docker 与 Ollama 不在同一台机器

例如:

Open WebUI

↓

192.168.1.100

而:

Ollama

↓

192.168.1.20

那么:

OLLAMA_BASE_URL

应该填写:

http://192.168.1.20:11434

前提是:

Ollama 已监听公网或局域网地址。

例如:

OLLAMA_HOST=0.0.0.0

否则默认只能本机访问。


如何验证连接成功?

可以直接请求:

curl http://localhost:11434/api/tags

或者:

curl http://服务器IP:11434/api/tags

如果返回:

{
  "models":[...]
}

说明网络已经打通。


常见问题

1. Open WebUI 找不到 Ollama

最常见原因:

OLLAMA_BASE_URL

配置错误。

Docker 容器里的:

localhost

并不是宿主机。

因此:

http://localhost:11434

很多情况下是错误的。

推荐:

host.docker.internal

或者:

宿主机IP

2. 模型列表为空

检查:

ollama list

如果没有模型:

先下载:

ollama pull qwen3:8b

下载完成以后刷新页面即可。


3. API 无法访问

执行:

curl http://localhost:11434/api/tags

如果失败:

说明 Ollama 没启动。

重新启动:

ollama serve

即可。


4. Docker 无法访问宿主机

Linux 下很多人都会遇到。

建议:

Docker 启动时增加:

--add-host=host.docker.internal:host-gateway

这样:

host.docker.internal

即可解析到宿主机。


总结

Open WebUI 和 Ollama 是一对非常经典的组合:

  • Ollama:负责下载、管理和运行本地大模型,并提供统一的 API。

  • Open WebUI:提供类似 ChatGPT 的网页聊天界面,支持多轮对话、历史记录、文件上传等功能。

整个连接流程并不复杂,只需要确认三件事:

  1. Ollama 已正常运行,并能通过 http://localhost:11434 提供 API。

  2. Open WebUI 能够访问到 Ollama 的 API(正确配置 OLLAMA_BASE_URL)。

  3. 本地已经下载至少一个模型,例如 qwen3:8bllama3.2gemma3

完成以上配置后,打开 Open WebUI,就可以像使用 ChatGPT 一样,与本地运行的大模型进行对话。如果后续需要接入更多模型或远程推理服务,也只需要修改连接配置,无需更换聊天界面。