Open WebUI 的免费 LLM API
Open WebUI 是一个自托管的聊天界面。它可以连接任何支持 OpenAI Chat Completions API 的服务器。本指南将 Open WebUI 连接到 FreeLLMAPI。FreeLLMAPI 通过一个密钥整合了 45 个免费提供方套餐。您只需添加一个连接。路由器会将每次对话发送到一个免费模型。当某个限制导致请求失败时,路由器会切换到下一个提供方。
代码、模型名称和目录中的实时标签以英文显示。
连接的工作方式
Open WebUI 将聊天请求发送到每个 OpenAI 连接的 URL。FreeLLMAPI 在 http://localhost:3001/v1 上监听,并接受相同的请求。它选择一个免费模型,发送请求,并以 OpenAI 格式返回回答。
- 一个连接,多个提供方:您只需添加一个 URL 和一个统一密钥。您的提供方密钥保存在您计算机上的 FreeLLMAPI 中。
- 自动切换:当某个提供方返回 429 错误时,路由器会尝试回退链中的下一个模型。
- 限制:免费套餐有请求和令牌限制。添加更多提供方密钥可获得更多每日请求数。自动切换可分散负载,但不会取消这些限制。
请先安装 FreeLLMAPI。它在 Docker 中运行。在浏览器中打开 http://localhost:3001 仪表板,在 Keys 页面添加至少两个免费提供方密钥,然后复制您的统一密钥。
安装 FreeLLMAPI(macOS 或 Linux)
curl -fsSL https://freellmapi.co/install.sh | bash第 1 步:找到正确的 URL
Open WebUI 必须使用的 URL 取决于每个程序的运行位置。Open WebUI 通常在 Docker 中运行。在容器内,localhost 指向容器本身,而不是您的计算机。
| Open WebUI 运行于 | FreeLLMAPI 运行于 | 使用的 URL |
|---|---|---|
| 主机上(pip 或 uv) | 主机上(Docker 或桌面应用) | http://localhost:3001/v1 |
| Docker Desktop 中(macOS、Windows) | 主机上 | http://host.docker.internal:3001/v1 |
| Linux 上的 Docker 中 | Docker 中(安装脚本) | 共享 Docker 网络上的 http://freellmapi:3001/v1 |
| 另一台计算机上 | 局域网内的服务器上 | http://<server-ip>:3001/v1,并且仅在可信网络上设置 HOST_BIND=0.0.0.0 |
默认情况下,FreeLLMAPI 容器只将其端口发布到 127.0.0.1。在 Linux 上,另一个容器通常无法通过主机访问该端口。请将两个容器连接到同一个 Docker 网络。然后将服务名 freellmapi 用作主机名。
将 Open WebUI 连接到 FreeLLMAPI 网络(Linux)
# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls
# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui
# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
-H "Authorization: Bearer <unified-key>" | head -c 300第 2 步:添加连接
您可以在界面中添加连接,也可以使用环境变量。界面方法最简单。
- 打开 Admin Panel,进入 Settings > Connections。
- 找到 Manage OpenAI API Connections 列表。点击 Add Connection。
- 在 URL 中输入第 1 步中的 URL,例如
http://host.docker.internal:3001/v1。 - 在 API Key 中粘贴您的 FreeLLMAPI 统一密钥。
- 点击 Verify Connection。然后点击 Save。
要在容器启动时设置连接,请使用 OPENAI_API_BASE_URL 和 OPENAI_API_KEY。下面的命令是标准的 Open WebUI docker run 命令,并添加了这两个变量。
使用 FreeLLMAPI 连接执行 docker run
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e OPENAI_API_KEY=<unified-key> \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:main要保留已有的 OpenAI 连接,请使用复数变量。OPENAI_API_BASE_URLS 和 OPENAI_API_KEYS 接受以分号分隔的列表。第一个密钥对应第一个 URL。
一个容器中的两个连接
-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"ENABLE_PERSISTENT_CONFIG=False,使环境变量生效。第 3 步:保持模型列表简短
FreeLLMAPI 在 /v1/models 上返回完整目录。该目录也包含您尚未添加密钥、因而暂时无法调用的模型。Open WebUI 会显示连接返回的每个模型。大量失败的模型并无用处。
重新打开该连接,使用 Model IDs 字段。添加 ID 后,Open WebUI 只显示这些 ID,并停止读取完整列表。请先添加路由器条目:
| 模型 ID | 路由器的行为 |
|---|---|
auto | 遵循仪表板中您当前启用的回退链 |
auto:fast | 按实测速度对已启用的模型排序 |
auto:smart | 按智能水平对已启用的模型排序 |
auto:reliable | 按近期成功率对已启用的模型排序 |
auto:<profile> | 使用指定的回退链,例如视觉链 |
您也可以添加固定的模型 ID,例如下表中的某个模型。固定模型每次给出的回答风格相同。当该模型的免费额度用完时,它也会停止响应,除非同一模型在其他提供方同样免费。
为节省额度,请将任务模型设置为一个快速条目。Open WebUI 使用任务模型生成标题和搜索查询。变量为 TASK_MODEL_EXTERNAL,例如 TASK_MODEL_EXTERNAL=auto:fast。
| 模型 | 免费提供方 | 上下文 | 免费额度(最优惠) | 工具 | 视觉 |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 请求/分钟 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | 是 | 否 |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM 另外 1 个 | 1M | 40 请求/分钟 40 RPM | 是 | 是 |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 请求/分钟 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | 是 | 是 |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | 是 | 否 |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | 是 | 是 |
| Deepseek V4.1 Flash | APINex | 1M | 5 请求/分钟 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | 否 | 否 |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 请求/分钟 20 请求/天 250,000 令牌/分钟 ~3M | 是 | 是 |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | 是 | 是 |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 请求/分钟 50 请求/天 50 req/day account-wide (1,000 after a $10 purchase) | 是 | 是 |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 请求/分钟 50 请求/天 Shared rate limit | 是 | 否 |
显示 10 个(共 184 个匹配的免费模型)。 查看所有模型.
数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。
如果您在 Open WebUI 中发送图片,路由器只会为该请求使用视觉模型。如果您的链中没有视觉模型,请求将返回错误 422。以下免费模型接受图片:
| 模型 | 免费提供方 | 上下文 | 免费额度(最优惠) | 工具 | 视觉 |
|---|---|---|---|---|---|
| GLM 5.3 Flash | UnoRouter | 1M | 1 请求/分钟 1 req/min per model | 是 | 是 |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | 是 | 是 |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 请求/分钟 20 请求/天 250,000 令牌/分钟 ~3M | 是 | 是 |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | 是 | 是 |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 请求/分钟 20 请求/天 250,000 令牌/分钟 ~3M | 是 | 是 |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | 是 | 是 |
显示 6 个(共 67 个匹配的免费模型)。 查看所有模型.
数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。
为文档使用免费嵌入
Open WebUI 可以通过兼容 OpenAI 的 API 为您的文档生成嵌入。FreeLLMAPI 提供 /v1/embeddings。嵌入的自动切换从不更换模型,因此您存储中的向量保持兼容。
Open WebUI 的嵌入设置
-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3选择一个嵌入系列并保持不变。如果更换系列,请为所有文档重新生成嵌入。当前目录中的免费嵌入模型如下:
| 模型 | 提供方 | 维度 | 最大输入 | 免费额度 |
|---|---|---|---|---|
Gemini Embeddinggemini-embedding-001 | Google AI Studio | 3072 | 2048 | 100 rpm · 1K req/day |
Nemotron Embed VL 1Bnvidia/llama-nemotron-embed-vl-1b-v2 | NVIDIA NIM | 2048 | 8192 | ~40 rpm |
Nemotron 3 Embed 1B (OR free)nvidia/nemotron-3-embed-1b:free | OpenRouter | 2048 | 32768 | 20 rpm · shared free daily cap |
SEA-LION E5 Embedding 600Maisingapore/SEA-LION-E5-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 300Maisingapore/SEA-LION-ModernBERT-Embedding-300M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 600Maisingapore/SEA-LION-ModernBERT-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
BGE-M3@cf/baai/bge-m3 | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
EmbeddingGemma 300M@cf/google/embeddinggemma-300m | Cloudflare Workers AI | 768 | 2048 | 10K neurons/day (shared) |
Qwen3 Embedding 0.6B@cf/qwen/qwen3-embedding-0.6b | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
Cohere Embed v4embed-v4.0 | Cohere | 1536 | 128000 | 1K calls/mo (shared w/ chat) |
Gemini Embedding 2gemini-embedding-2 | Google AI Studio | 3072 | 8192 | free-tier rate limited |
Nemotron 3 Embed 1Bnvidia/nemotron-3-embed-1b | NVIDIA NIM | 2048 | 4096 | ~40 rpm |
PLaMo Embedding 1B (CF)@cf/pfnet/plamo-embedding-1b | Cloudflare Workers AI | 2048 | 4096 | 10K neurons/day (shared) |
BGE Small EN v1.5 (CF)@cf/baai/bge-small-en-v1.5 | Cloudflare Workers AI | 384 | 512 | 10K neurons/day (shared) |
BGE Base EN v1.5 (CF)@cf/baai/bge-base-en-v1.5 | Cloudflare Workers AI | 768 | 512 | 10K neurons/day (shared) |
BGE Large EN v1.5 (CF)@cf/baai/bge-large-en-v1.5 | Cloudflare Workers AI | 1024 | 512 | 10K neurons/day (shared) |
Mistral Embedmistral-embed | Mistral | 1024 | 8192 | free mode · monthly cap (shared) |
Codestral Embedcodestral-embed | Mistral | 1536 | 8192 | free mode · monthly cap (shared) |
Llama Text Embed v2 (Pinecone)llama-text-embed-v2 | Pinecone | 1024 | 2048 | 5M tokens/mo per model |
Multilingual E5 Large (Pinecone)multilingual-e5-large | Pinecone | 1024 | 507 | 5M tokens/mo per model |
Nemotron 3 Embed 1B (Speka)nvidia/nemotron-3-embed-1b | Speka | 2048 | 8192 | $1/month shared across Speka models |
OpenAI: Text Embedding 3 Small (ElectronHub)text-embedding-3-small | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
OpenAI: Text Embedding 3 Large (ElectronHub)text-embedding-3-large | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Nemotron 3 Embed 8B (Inferbase)nvidia-nemotron-3-embed-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 0.6B (Inferbase)qwen3-embedding-0-6b | Inferbase | 1024 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 4B (Inferbase)qwen3-embedding-4b | Inferbase | 2560 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 8B (Inferbase)qwen3-embedding-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
LFM2.5 Embedding 350M (LLMTR)liquid/lfm-2.5-embedding-350m-free | LLMTR | 1024 | 512 | Ongoing zero-price route; provider terms apply |
BGE-M3 (SEA-LION)BAAI/bge-m3 | SEA-LION | 1024 | 8192 | free · 10 rpm |
Cohere Embed English v3embed-english-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Qwen3 Embedding 8B (OVH)Qwen3-Embedding-8B | OVH AI Endpoints | 4096 | 32768 | free · anonymous 2 req/min per IP |
BGE-M3 (OVH)bge-m3 | OVH AI Endpoints | 1024 | 8192 | free · anonymous 2 req/min per IP |
BGE Multilingual Gemma2 (OVH)bge-multilingual-gemma2 | OVH AI Endpoints | 3584 | 8192 | free · anonymous 2 req/min per IP |
Mistral: Codestral Embed (ElectronHub)codestral-embed | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Mistral: Mistral Embed (ElectronHub)mistral-embed | ElectronHub | 1024 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 2 (ElectronHub)gemini-embedding-2 | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 001 (ElectronHub)gemini-embedding-001 | ElectronHub | 3072 | 2048 | $0.25/week shared free credits |
OpenAI: Text Embedding Ada 002 (ElectronHub)text-embedding-ada-002 | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Cohere Embed English Light v3embed-english-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual v3embed-multilingual-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual Light v3embed-multilingual-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。
故障排除
| 问题 | 原因 | 解决方法 |
|---|---|---|
| Verify Connection 因网络错误失败 | localhost 指向 Open WebUI 容器 | 如第 1 步所示,使用 host.docker.internal 或共享 Docker 网络 |
| Verify Connection 返回 401 | 密钥错误或包含空格 | 从 Keys 页面重新复制统一密钥 |
| 选择器中有数百个模型 | 连接读取了完整目录 | 在 Model IDs 中添加 auto 和您选择的 ID |
| 某个模型每条消息都失败 | 没有该模型提供方的密钥 | 添加该提供方的密钥,或选择 auto |
| 多次聊天后出现 429 错误 | 链中所有提供方密钥都已达到限制 | 添加更多提供方的密钥,或等待 Retry-After 标头中的重置时间 |
| 环境变量没有效果 | 数据库中保存的值优先 | 在 Admin Panel 中编辑该连接 |
要查看哪个提供方回答了某次聊天,请读取响应中的 X-Routed-Via 标头。仪表板 Analytics 菜单中的 Server Logs 查看器也会显示路由决策和密钥冷却状态。
常见问题
Open WebUI 有免费的 API 吗?
有。Open WebUI 支持任何兼容 OpenAI 的 API。FreeLLMAPI 通过一个 URL 和一个密钥整合了多个免费提供方套餐。每个免费套餐都有各自的限制。
在 Open WebUI 中,兼容 OpenAI 的连接应使用什么 URL?
使用末尾带 /v1 的基础 URL,例如 http://host.docker.internal:3001/v1。不要添加 /chat/completions。如果 Open WebUI 在 Docker 中运行,请不要使用 localhost。
为什么 Open WebUI 忽略我对 OPENAI_API_BASE_URL 的修改?
Open WebUI 在首次启动后将连接设置保存到其数据库中。数据库中的值优先。请在 Admin Panel 中编辑该连接,或设置 ENABLE_PERSISTENT_CONFIG=False。
Open WebUI 能否同时使用多个免费提供方?
可以。每个提供方可以添加一个连接。使用 FreeLLMAPI 时,一个连接就足够,因为路由器会选择提供方,并在某个限制导致请求失败时切换到下一个提供方。
在 Open WebUI 中,哪个免费模型最好?
从 auto 开始。它遵循您的回退链。如需固定模型,请从本页的表格中选择一个上下文窗口较大的模型。
相关指南
来源
- Open WebUI docs: environment variable configuration (检查于 20 November 2026)
- Open WebUI docs: connect an OpenAI-compatible provider (检查于 20 November 2026)
- Open WebUI README: Docker installation (检查于 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, embeddings) (检查于 20 November 2026)
- FreeLLMAPI docs: Docker deployment (检查于 20 November 2026)