API LLM miễn phí cho Open WebUI
Open WebUI là giao diện chat tự lưu trữ. Nó kết nối với mọi máy chủ dùng API OpenAI Chat Completions. Hướng dẫn này kết nối Open WebUI với FreeLLMAPI, nơi gom 45 gói miễn phí của nhà cung cấp sau một khóa duy nhất. Bạn thêm một kết nối. Bộ định tuyến gửi mỗi cuộc chat tới một mô hình miễn phí và chuyển sang nhà cung cấp tiếp theo khi một giới hạn làm dừng yêu cầu.
Mã, tên mô hình và nhãn danh mục trực tiếp được hiển thị bằng tiếng Anh.
Cách kết nối hoạt động
Open WebUI gửi yêu cầu chat tới URL của mỗi kết nối OpenAI. FreeLLMAPI lắng nghe tại http://localhost:3001/v1 và nhận cùng loại yêu cầu. Nó chọn một mô hình miễn phí, gửi yêu cầu và trả về câu trả lời theo định dạng OpenAI.
- Một kết nối, nhiều nhà cung cấp: bạn thêm một URL và một khóa thống nhất. Khóa của nhà cung cấp vẫn nằm trong FreeLLMAPI trên máy tính của bạn.
- Chuyển đổi dự phòng: khi một nhà cung cấp trả về lỗi 429, bộ định tuyến thử mô hình tiếp theo trong chuỗi dự phòng của bạn.
- Giới hạn: gói miễn phí có giới hạn yêu cầu và token. Nhiều khóa nhà cung cấp hơn cho nhiều yêu cầu mỗi ngày hơn. Chuyển đổi dự phòng chia đều tải, nhưng không xóa bỏ giới hạn.
Cài đặt FreeLLMAPI trước. Nó chạy trong Docker. Mở bảng điều khiển tại http://localhost:3001, thêm ít nhất hai khóa nhà cung cấp miễn phí trên trang Keys và sao chép khóa thống nhất của bạn.
Cài đặt FreeLLMAPI (macOS hoặc Linux)
curl -fsSL https://freellmapi.co/install.sh | bashBước 1: Tìm đúng URL
URL mà Open WebUI phải dùng phụ thuộc vào nơi mỗi chương trình chạy. Open WebUI thường chạy trong Docker. Bên trong container, localhost là chính container đó, không phải máy tính của bạn.
| Open WebUI chạy | FreeLLMAPI chạy | URL cần dùng |
|---|---|---|
| Trên máy chủ (pip hoặc uv) | Trên máy chủ (Docker hoặc ứng dụng desktop) | http://localhost:3001/v1 |
| Trong Docker Desktop (macOS, Windows) | Trên máy chủ | http://host.docker.internal:3001/v1 |
| Trong Docker trên Linux | Trong Docker (script cài đặt) | http://freellmapi:3001/v1 trên một mạng Docker dùng chung |
| Trên máy tính khác | Trên máy chủ trong mạng LAN của bạn | http://<server-ip>:3001/v1, với HOST_BIND=0.0.0.0 chỉ trên mạng đáng tin cậy |
Theo mặc định, container FreeLLMAPI chỉ mở cổng trên 127.0.0.1. Trên Linux, container thứ hai không phải lúc nào cũng truy cập được cổng đó qua máy chủ. Kết nối cả hai container vào một mạng Docker. Sau đó dùng tên dịch vụ freellmapi làm tên máy chủ.
Kết nối Open WebUI với mạng FreeLLMAPI (Linux)
# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls
# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui
# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
-H "Authorization: Bearer <unified-key>" | head -c 300Bước 2: Thêm kết nối
Bạn có thể thêm kết nối trong giao diện hoặc bằng biến môi trường. Giao diện là cách đơn giản nhất.
- Mở Admin Panel và đi tới Settings > Connections.
- Tìm danh sách Manage OpenAI API Connections. Nhấp Add Connection.
- Trong URL, nhập URL từ Bước 1, ví dụ
http://host.docker.internal:3001/v1. - Trong API Key, dán khóa thống nhất FreeLLMAPI của bạn.
- Nhấp Verify Connection. Sau đó nhấp Save.
Để đặt kết nối khi container khởi động, dùng OPENAI_API_BASE_URL và OPENAI_API_KEY. Lệnh dưới đây là lệnh docker run chuẩn của Open WebUI, với hai biến này được thêm vào.
docker run với kết nối FreeLLMAPI
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e OPENAI_API_KEY=<unified-key> \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:mainĐể giữ kết nối OpenAI đã có, dùng các biến dạng số nhiều. OPENAI_API_BASE_URLS và OPENAI_API_KEYS nhận danh sách cách nhau bằng dấu chấm phẩy. Khóa đầu tiên đi với URL đầu tiên.
Hai kết nối trong một container
-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"ENABLE_PERSISTENT_CONFIG=False để môi trường có hiệu lực.Bước 3: Giữ danh sách mô hình ngắn
FreeLLMAPI trả về toàn bộ danh mục tại /v1/models. Danh mục cũng chứa các mô hình bạn chưa thể gọi, vì bạn chưa thêm khóa cho chúng. Open WebUI hiển thị mọi mô hình mà kết nối trả về. Một danh sách dài gồm các mô hình lỗi thì không hữu ích.
Mở lại kết nối và dùng trường Model IDs. Khi bạn thêm ID, Open WebUI chỉ hiển thị các ID này và ngừng đọc toàn bộ danh sách. Thêm các mục của bộ định tuyến trước:
| Model ID | Bộ định tuyến làm gì |
|---|---|
auto | Theo chuỗi dự phòng đang hoạt động từ bảng điều khiển |
auto:fast | Xếp hạng các mô hình đã bật theo tốc độ đo được |
auto:smart | Xếp hạng các mô hình đã bật theo trí tuệ |
auto:reliable | Xếp hạng các mô hình đã bật theo tỷ lệ thành công gần đây |
auto:<profile> | Dùng một chuỗi dự phòng có tên, ví dụ chuỗi thị giác |
Bạn cũng có thể thêm một model ID cố định, ví dụ một mô hình trong bảng dưới đây. Mô hình cố định cho kiểu câu trả lời giống nhau mỗi lần. Nó cũng dừng khi hạn mức miễn phí của mô hình đó hết, trừ khi cùng mô hình miễn phí trên nhà cung cấp khác.
Để tiết kiệm hạn mức, đặt mô hình tác vụ thành một mục nhanh. Open WebUI dùng mô hình tác vụ cho tiêu đề và truy vấn tìm kiếm. Biến là TASK_MODEL_EXTERNAL, ví dụ TASK_MODEL_EXTERNAL=auto:fast.
| Mô hình | Miễn phí trên | Ngữ cảnh | Giới hạn miễn phí (ưu đãi tốt nhất) | Công cụ | Thị giác |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 yêu cầu/phút 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | Có | Không |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +1 nữa | 1M | 40 yêu cầu/phút 40 RPM | Có | Có |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 yêu cầu/phút 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Có | Có |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | Có | Không |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Có | Có |
| Deepseek V4.1 Flash | APINex | 1M | 5 yêu cầu/phút 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Không | Không |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 yêu cầu/phút 20 yêu cầu/ngày 250,000 token/phút ~3M | Có | Có |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Có | Có |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 yêu cầu/phút 50 yêu cầu/ngày 50 req/day account-wide (1,000 after a $10 purchase) | Có | Có |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 yêu cầu/phút 50 yêu cầu/ngày Shared rate limit | Có | Không |
Đang hiển thị 10 trong số 184 mô hình miễn phí phù hợp. Xem tất cả mô hình.
Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.
Nếu bạn gửi hình ảnh trong Open WebUI, bộ định tuyến chỉ dùng mô hình thị giác cho yêu cầu đó. Nếu không có mô hình thị giác nào trong chuỗi của bạn, yêu cầu trả về lỗi 422. Các mô hình miễn phí sau đây nhận hình ảnh:
| Mô hình | Miễn phí trên | Ngữ cảnh | Giới hạn miễn phí (ưu đãi tốt nhất) | Công cụ | Thị giác |
|---|---|---|---|---|---|
| GLM 5.3 Flash | UnoRouter | 1M | 1 yêu cầu/phút 1 req/min per model | Có | Có |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | Có | Có |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 yêu cầu/phút 20 yêu cầu/ngày 250,000 token/phút ~3M | Có | Có |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Có | Có |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 yêu cầu/phút 20 yêu cầu/ngày 250,000 token/phút ~3M | Có | Có |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Có | Có |
Đang hiển thị 6 trong số 67 mô hình miễn phí phù hợp. Xem tất cả mô hình.
Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.
Dùng embedding miễn phí cho tài liệu
Open WebUI có thể tạo embedding cho tài liệu của bạn qua API tương thích OpenAI. FreeLLMAPI phục vụ /v1/embeddings. Chuyển đổi dự phòng embedding không bao giờ đổi mô hình, nên các vector trong kho của bạn vẫn tương thích.
Cài đặt embedding cho Open WebUI
-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3Chọn một họ embedding và giữ nguyên. Nếu bạn đổi họ, hãy tạo lại embedding cho tất cả tài liệu. Các mô hình embedding miễn phí trong danh mục hôm nay gồm:
| Mô hình | Nhà cung cấp | Số chiều | Đầu vào tối đa | Giới hạn miễn phí |
|---|---|---|---|---|
Gemini Embeddinggemini-embedding-001 | Google AI Studio | 3072 | 2048 | 100 rpm · 1K req/day |
Nemotron Embed VL 1Bnvidia/llama-nemotron-embed-vl-1b-v2 | NVIDIA NIM | 2048 | 8192 | ~40 rpm |
Nemotron 3 Embed 1B (OR free)nvidia/nemotron-3-embed-1b:free | OpenRouter | 2048 | 32768 | 20 rpm · shared free daily cap |
SEA-LION E5 Embedding 600Maisingapore/SEA-LION-E5-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 300Maisingapore/SEA-LION-ModernBERT-Embedding-300M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 600Maisingapore/SEA-LION-ModernBERT-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
BGE-M3@cf/baai/bge-m3 | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
EmbeddingGemma 300M@cf/google/embeddinggemma-300m | Cloudflare Workers AI | 768 | 2048 | 10K neurons/day (shared) |
Qwen3 Embedding 0.6B@cf/qwen/qwen3-embedding-0.6b | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
Cohere Embed v4embed-v4.0 | Cohere | 1536 | 128000 | 1K calls/mo (shared w/ chat) |
Gemini Embedding 2gemini-embedding-2 | Google AI Studio | 3072 | 8192 | free-tier rate limited |
Nemotron 3 Embed 1Bnvidia/nemotron-3-embed-1b | NVIDIA NIM | 2048 | 4096 | ~40 rpm |
PLaMo Embedding 1B (CF)@cf/pfnet/plamo-embedding-1b | Cloudflare Workers AI | 2048 | 4096 | 10K neurons/day (shared) |
BGE Small EN v1.5 (CF)@cf/baai/bge-small-en-v1.5 | Cloudflare Workers AI | 384 | 512 | 10K neurons/day (shared) |
BGE Base EN v1.5 (CF)@cf/baai/bge-base-en-v1.5 | Cloudflare Workers AI | 768 | 512 | 10K neurons/day (shared) |
BGE Large EN v1.5 (CF)@cf/baai/bge-large-en-v1.5 | Cloudflare Workers AI | 1024 | 512 | 10K neurons/day (shared) |
Mistral Embedmistral-embed | Mistral | 1024 | 8192 | free mode · monthly cap (shared) |
Codestral Embedcodestral-embed | Mistral | 1536 | 8192 | free mode · monthly cap (shared) |
Llama Text Embed v2 (Pinecone)llama-text-embed-v2 | Pinecone | 1024 | 2048 | 5M tokens/mo per model |
Multilingual E5 Large (Pinecone)multilingual-e5-large | Pinecone | 1024 | 507 | 5M tokens/mo per model |
Nemotron 3 Embed 1B (Speka)nvidia/nemotron-3-embed-1b | Speka | 2048 | 8192 | $1/month shared across Speka models |
OpenAI: Text Embedding 3 Small (ElectronHub)text-embedding-3-small | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
OpenAI: Text Embedding 3 Large (ElectronHub)text-embedding-3-large | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Nemotron 3 Embed 8B (Inferbase)nvidia-nemotron-3-embed-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 0.6B (Inferbase)qwen3-embedding-0-6b | Inferbase | 1024 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 4B (Inferbase)qwen3-embedding-4b | Inferbase | 2560 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 8B (Inferbase)qwen3-embedding-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
LFM2.5 Embedding 350M (LLMTR)liquid/lfm-2.5-embedding-350m-free | LLMTR | 1024 | 512 | Ongoing zero-price route; provider terms apply |
BGE-M3 (SEA-LION)BAAI/bge-m3 | SEA-LION | 1024 | 8192 | free · 10 rpm |
Cohere Embed English v3embed-english-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Qwen3 Embedding 8B (OVH)Qwen3-Embedding-8B | OVH AI Endpoints | 4096 | 32768 | free · anonymous 2 req/min per IP |
BGE-M3 (OVH)bge-m3 | OVH AI Endpoints | 1024 | 8192 | free · anonymous 2 req/min per IP |
BGE Multilingual Gemma2 (OVH)bge-multilingual-gemma2 | OVH AI Endpoints | 3584 | 8192 | free · anonymous 2 req/min per IP |
Mistral: Codestral Embed (ElectronHub)codestral-embed | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Mistral: Mistral Embed (ElectronHub)mistral-embed | ElectronHub | 1024 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 2 (ElectronHub)gemini-embedding-2 | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 001 (ElectronHub)gemini-embedding-001 | ElectronHub | 3072 | 2048 | $0.25/week shared free credits |
OpenAI: Text Embedding Ada 002 (ElectronHub)text-embedding-ada-002 | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Cohere Embed English Light v3embed-english-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual v3embed-multilingual-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual Light v3embed-multilingual-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.
Xử lý sự cố
| Vấn đề | Nguyên nhân | Cách khắc phục |
|---|---|---|
| Verify Connection báo lỗi mạng | localhost trỏ tới container Open WebUI | Dùng host.docker.internal hoặc mạng Docker dùng chung, như ở Bước 1 |
| Verify Connection báo lỗi 401 | Khóa sai hoặc có khoảng trắng | Sao chép lại khóa thống nhất từ trang Keys |
| Có hàng trăm mô hình trong bộ chọn | Kết nối đọc toàn bộ danh mục | Thêm auto và các ID bạn chọn vào Model IDs |
| Một mô hình lỗi với mọi tin nhắn | Không có khóa cho nhà cung cấp của mô hình đó | Thêm khóa của nhà cung cấp, hoặc chọn auto |
| Lỗi 429 sau nhiều cuộc chat | Mọi khóa nhà cung cấp trong chuỗi đã đạt giới hạn | Thêm khóa từ nhiều nhà cung cấp hơn, hoặc chờ đến thời điểm đặt lại trong tiêu đề Retry-After |
| Biến môi trường không có tác dụng | Giá trị đã lưu trong cơ sở dữ liệu có độ ưu tiên cao hơn | Sửa kết nối trong Admin Panel |
Để xem nhà cung cấp nào đã trả lời một cuộc chat, đọc tiêu đề X-Routed-Via của phản hồi. Trình xem Server Logs trong menu Analytics của bảng điều khiển cũng hiển thị quyết định định tuyến và thời gian chờ khóa.
Câu hỏi thường gặp
Có API miễn phí cho Open WebUI không?
Có. Open WebUI hoạt động với mọi API tương thích OpenAI. FreeLLMAPI gom các gói miễn phí của nhà cung cấp sau một URL và một khóa. Mỗi gói miễn phí có giới hạn riêng.
Tôi dùng URL nào cho kết nối tương thích OpenAI trong Open WebUI?
Dùng URL gốc có /v1 ở cuối, ví dụ http://host.docker.internal:3001/v1. Không thêm /chat/completions. Nếu Open WebUI chạy trong Docker, đừng dùng localhost.
Tại sao Open WebUI bỏ qua thay đổi OPENAI_API_BASE_URL của tôi?
Open WebUI lưu cài đặt kết nối vào cơ sở dữ liệu sau lần khởi động đầu tiên. Giá trị trong cơ sở dữ liệu có độ ưu tiên cao hơn. Hãy sửa kết nối trong Admin Panel, hoặc đặt ENABLE_PERSISTENT_CONFIG=False.
Open WebUI có thể dùng nhiều nhà cung cấp miễn phí cùng lúc không?
Có. Bạn có thể thêm một kết nối cho mỗi nhà cung cấp. Với FreeLLMAPI, một kết nối là đủ, vì bộ định tuyến chọn nhà cung cấp và chuyển sang nhà cung cấp tiếp theo khi một giới hạn làm dừng yêu cầu.
Mô hình miễn phí nào tốt nhất trong Open WebUI?
Bắt đầu với auto. Nó theo chuỗi dự phòng của bạn. Với mô hình cố định, chọn một mô hình có cửa sổ ngữ cảnh lớn từ bảng trên trang này.
Hướng dẫn liên quan
- API miễn phí cho SillyTavern
- Base URL API tương thích OpenAI miễn phí
- API embeddings miễn phí
- API LLM miễn phí cho RAG
- Giới hạn tốc độ API LLM miễn phí
Nguồn
- Open WebUI docs: environment variable configuration (đã kiểm tra 20 November 2026)
- Open WebUI docs: connect an OpenAI-compatible provider (đã kiểm tra 20 November 2026)
- Open WebUI README: Docker installation (đã kiểm tra 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, embeddings) (đã kiểm tra 20 November 2026)
- FreeLLMAPI docs: Docker deployment (đã kiểm tra 20 November 2026)