open-webui

Open WebUI 是一个开源的 Web UI 框架，用于构建和部署 AI 应用。

安装

最简单的方式是通过 [[pip]] 安装：

1
pip install open-webui

安装完成后，可以通过 open-webui 命令启动服务：

1
open-webui serve

也可以通过 [[Docker]] 安装：

1
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

使用

接口调用

通过 [[cURL]] 调用接口：

1
curl "http://open-webeui:3000/api/chat/completions" \
2
  -H "Content-Type: application/json" \
3
  -H "Authorization: Bearer api_key" \
4
  -d '{
5
    "model": "qwen2.5vl:32b",
6
    "messages": [
7
      {
8
        "role": "user",
9
        "content": "hello"
10
      }
11
    ],
12
    "max_tokens": 1024
13
  }'

通过 [[Python]] 的 [[packages/openai]] 库进行调用：

1
from openai import OpenAI
2

3
client = OpenAI(api_key="api_key", base_url="https://open-webeui:3000/api/v1")
4

5
completion = client.chat.completions.create(
6
    model="qwen2.5vl:32b",
7
    messages=[
8
        {
9
            "role": "user",
10
            "content": "heloo",
11
        },
12
    ],
13
)
14

15
print(completion.choices[0].message.content)

需要注意的是 base_url 需要包含 /api（v1 可省略），而且只能使用 [[packages/openai]] 接口，不支持 [[packages/openai]] 接口。

连接 ollama

如果 [[ollama]] 不是通过 [[Docker]] 运行，那么需要把 ollama host 改成: 0.0.0.0。

安装

使用

接口调用

连接 ollama

参考