Trang chủ / Hướng dẫn / API LLM miễn phí cho Open WebUI

API LLM miễn phí cho Open WebUI

Open WebUI là giao diện chat tự lưu trữ. Nó kết nối với mọi máy chủ dùng API OpenAI Chat Completions. Hướng dẫn này kết nối Open WebUI với FreeLLMAPI, nơi gom 45 gói miễn phí của nhà cung cấp sau một khóa duy nhất. Bạn thêm một kết nối. Bộ định tuyến gửi mỗi cuộc chat tới một mô hình miễn phí và chuyển sang nhà cung cấp tiếp theo khi một giới hạn làm dừng yêu cầu.

Mã, tên mô hình và nhãn danh mục trực tiếp được hiển thị bằng tiếng Anh.

Cách kết nối hoạt động

Open WebUI gửi yêu cầu chat tới URL của mỗi kết nối OpenAI. FreeLLMAPI lắng nghe tại http://localhost:3001/v1 và nhận cùng loại yêu cầu. Nó chọn một mô hình miễn phí, gửi yêu cầu và trả về câu trả lời theo định dạng OpenAI.

  • Một kết nối, nhiều nhà cung cấp: bạn thêm một URL và một khóa thống nhất. Khóa của nhà cung cấp vẫn nằm trong FreeLLMAPI trên máy tính của bạn.
  • Chuyển đổi dự phòng: khi một nhà cung cấp trả về lỗi 429, bộ định tuyến thử mô hình tiếp theo trong chuỗi dự phòng của bạn.
  • Giới hạn: gói miễn phí có giới hạn yêu cầu và token. Nhiều khóa nhà cung cấp hơn cho nhiều yêu cầu mỗi ngày hơn. Chuyển đổi dự phòng chia đều tải, nhưng không xóa bỏ giới hạn.

Cài đặt FreeLLMAPI trước. Nó chạy trong Docker. Mở bảng điều khiển tại http://localhost:3001, thêm ít nhất hai khóa nhà cung cấp miễn phí trên trang Keys và sao chép khóa thống nhất của bạn.

Cài đặt FreeLLMAPI (macOS hoặc Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Bước 1: Tìm đúng URL

URL mà Open WebUI phải dùng phụ thuộc vào nơi mỗi chương trình chạy. Open WebUI thường chạy trong Docker. Bên trong container, localhost là chính container đó, không phải máy tính của bạn.

Open WebUI chạyFreeLLMAPI chạyURL cần dùng
Trên máy chủ (pip hoặc uv)Trên máy chủ (Docker hoặc ứng dụng desktop)http://localhost:3001/v1
Trong Docker Desktop (macOS, Windows)Trên máy chủhttp://host.docker.internal:3001/v1
Trong Docker trên LinuxTrong Docker (script cài đặt)http://freellmapi:3001/v1 trên một mạng Docker dùng chung
Trên máy tính khácTrên máy chủ trong mạng LAN của bạnhttp://<server-ip>:3001/v1, với HOST_BIND=0.0.0.0 chỉ trên mạng đáng tin cậy

Theo mặc định, container FreeLLMAPI chỉ mở cổng trên 127.0.0.1. Trên Linux, container thứ hai không phải lúc nào cũng truy cập được cổng đó qua máy chủ. Kết nối cả hai container vào một mạng Docker. Sau đó dùng tên dịch vụ freellmapi làm tên máy chủ.

Kết nối Open WebUI với mạng FreeLLMAPI (Linux)

# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls

# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui

# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
  -H "Authorization: Bearer <unified-key>" | head -c 300

Bước 2: Thêm kết nối

Bạn có thể thêm kết nối trong giao diện hoặc bằng biến môi trường. Giao diện là cách đơn giản nhất.

  1. Mở Admin Panel và đi tới Settings > Connections.
  2. Tìm danh sách Manage OpenAI API Connections. Nhấp Add Connection.
  3. Trong URL, nhập URL từ Bước 1, ví dụ http://host.docker.internal:3001/v1.
  4. Trong API Key, dán khóa thống nhất FreeLLMAPI của bạn.
  5. Nhấp Verify Connection. Sau đó nhấp Save.

Để đặt kết nối khi container khởi động, dùng OPENAI_API_BASE_URL và OPENAI_API_KEY. Lệnh dưới đây là lệnh docker run chuẩn của Open WebUI, với hai biến này được thêm vào.

docker run với kết nối FreeLLMAPI

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
  -e OPENAI_API_KEY=<unified-key> \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

Để giữ kết nối OpenAI đã có, dùng các biến dạng số nhiều. OPENAI_API_BASE_URLS và OPENAI_API_KEYS nhận danh sách cách nhau bằng dấu chấm phẩy. Khóa đầu tiên đi với URL đầu tiên.

Hai kết nối trong một container

-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"
Quan trọng: các biến này được lưu vào cơ sở dữ liệu Open WebUI ở lần khởi động đầu tiên. Sau đó, giá trị đã lưu trong Admin Panel có độ ưu tiên cao hơn môi trường. Nếu thay đổi biến không có tác dụng, hãy sửa kết nối trong Admin Panel. Bạn cũng có thể đặt ENABLE_PERSISTENT_CONFIG=False để môi trường có hiệu lực.

Bước 3: Giữ danh sách mô hình ngắn

FreeLLMAPI trả về toàn bộ danh mục tại /v1/models. Danh mục cũng chứa các mô hình bạn chưa thể gọi, vì bạn chưa thêm khóa cho chúng. Open WebUI hiển thị mọi mô hình mà kết nối trả về. Một danh sách dài gồm các mô hình lỗi thì không hữu ích.

Mở lại kết nối và dùng trường Model IDs. Khi bạn thêm ID, Open WebUI chỉ hiển thị các ID này và ngừng đọc toàn bộ danh sách. Thêm các mục của bộ định tuyến trước:

Model IDBộ định tuyến làm gì
autoTheo chuỗi dự phòng đang hoạt động từ bảng điều khiển
auto:fastXếp hạng các mô hình đã bật theo tốc độ đo được
auto:smartXếp hạng các mô hình đã bật theo trí tuệ
auto:reliableXếp hạng các mô hình đã bật theo tỷ lệ thành công gần đây
auto:<profile>Dùng một chuỗi dự phòng có tên, ví dụ chuỗi thị giác

Bạn cũng có thể thêm một model ID cố định, ví dụ một mô hình trong bảng dưới đây. Mô hình cố định cho kiểu câu trả lời giống nhau mỗi lần. Nó cũng dừng khi hạn mức miễn phí của mô hình đó hết, trừ khi cùng mô hình miễn phí trên nhà cung cấp khác.

Để tiết kiệm hạn mức, đặt mô hình tác vụ thành một mục nhanh. Open WebUI dùng mô hình tác vụ cho tiêu đề và truy vấn tìm kiếm. Biến là TASK_MODEL_EXTERNAL, ví dụ TASK_MODEL_EXTERNAL=auto:fast.

Các mô hình chat miễn phí mạnh với ngữ cảnh 128K trở lên
Mô hìnhMiễn phí trênNgữ cảnhGiới hạn miễn phí (ưu đãi tốt nhất)Công cụThị giác
GLM 5.3APINex, UnoRouter1M5 yêu cầu/phút
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
CóKhông
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +1 nữa1M40 yêu cầu/phút
40 RPM
CóCó
Gemini 3.8 FlashAPINex, Google AI Studio1M5 yêu cầu/phút
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
CóCó
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceCóKhông
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditCóCó
Deepseek V4.1 FlashAPINex1M5 yêu cầu/phút
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
KhôngKhông
Gemini 3.7 FlashGoogle AI Studio1M10 yêu cầu/phút
20 yêu cầu/ngày
250,000 token/phút
~3M
CóCó
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditCóCó
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 yêu cầu/phút
50 yêu cầu/ngày
50 req/day account-wide (1,000 after a $10 purchase)
CóCó
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 yêu cầu/phút
50 yêu cầu/ngày
Shared rate limit
CóKhông

Đang hiển thị 10 trong số 184 mô hình miễn phí phù hợp. Xem tất cả mô hình.

Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.

Nếu bạn gửi hình ảnh trong Open WebUI, bộ định tuyến chỉ dùng mô hình thị giác cho yêu cầu đó. Nếu không có mô hình thị giác nào trong chuỗi của bạn, yêu cầu trả về lỗi 422. Các mô hình miễn phí sau đây nhận hình ảnh:

Mô hình miễn phí có đầu vào hình ảnh
Mô hìnhMiễn phí trênNgữ cảnhGiới hạn miễn phí (ưu đãi tốt nhất)Công cụThị giác
GLM 5.3 FlashUnoRouter1M1 yêu cầu/phút
1 req/min per model
CóCó
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaCóCó
Gemini Flash (latest alias)Google AI Studio-10 yêu cầu/phút
20 yêu cầu/ngày
250,000 token/phút
~3M
CóCó
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditCóCó
Gemini 3.7 FlashGoogle AI Studio1M10 yêu cầu/phút
20 yêu cầu/ngày
250,000 token/phút
~3M
CóCó
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditCóCó

Đang hiển thị 6 trong số 67 mô hình miễn phí phù hợp. Xem tất cả mô hình.

Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.

Dùng embedding miễn phí cho tài liệu

Open WebUI có thể tạo embedding cho tài liệu của bạn qua API tương thích OpenAI. FreeLLMAPI phục vụ /v1/embeddings. Chuyển đổi dự phòng embedding không bao giờ đổi mô hình, nên các vector trong kho của bạn vẫn tương thích.

Cài đặt embedding cho Open WebUI

-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3

Chọn một họ embedding và giữ nguyên. Nếu bạn đổi họ, hãy tạo lại embedding cho tất cả tài liệu. Các mô hình embedding miễn phí trong danh mục hôm nay gồm:

Mô hìnhNhà cung cấpSố chiềuĐầu vào tối đaGiới hạn miễn phí
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.

Xử lý sự cố

Vấn đềNguyên nhânCách khắc phục
Verify Connection báo lỗi mạnglocalhost trỏ tới container Open WebUIDùng host.docker.internal hoặc mạng Docker dùng chung, như ở Bước 1
Verify Connection báo lỗi 401Khóa sai hoặc có khoảng trắngSao chép lại khóa thống nhất từ trang Keys
Có hàng trăm mô hình trong bộ chọnKết nối đọc toàn bộ danh mụcThêm auto và các ID bạn chọn vào Model IDs
Một mô hình lỗi với mọi tin nhắnKhông có khóa cho nhà cung cấp của mô hình đóThêm khóa của nhà cung cấp, hoặc chọn auto
Lỗi 429 sau nhiều cuộc chatMọi khóa nhà cung cấp trong chuỗi đã đạt giới hạnThêm khóa từ nhiều nhà cung cấp hơn, hoặc chờ đến thời điểm đặt lại trong tiêu đề Retry-After
Biến môi trường không có tác dụngGiá trị đã lưu trong cơ sở dữ liệu có độ ưu tiên cao hơnSửa kết nối trong Admin Panel

Để xem nhà cung cấp nào đã trả lời một cuộc chat, đọc tiêu đề X-Routed-Via của phản hồi. Trình xem Server Logs trong menu Analytics của bảng điều khiển cũng hiển thị quyết định định tuyến và thời gian chờ khóa.

Dùng tất cả các mô hình này qua một khóa duy nhất. FreeLLMAPI là bộ định tuyến mã nguồn mở, tự lưu trữ. Nó đặt tất cả các gói miễn phí này sau một endpoint duy nhất tương thích OpenAI, và tự chuyển sang nhà cung cấp khác khi một nhà cung cấp bị giới hạn tốc độ. Xem danh mục hoặc bắt đầu.

Câu hỏi thường gặp

Có API miễn phí cho Open WebUI không?

Có. Open WebUI hoạt động với mọi API tương thích OpenAI. FreeLLMAPI gom các gói miễn phí của nhà cung cấp sau một URL và một khóa. Mỗi gói miễn phí có giới hạn riêng.

Tôi dùng URL nào cho kết nối tương thích OpenAI trong Open WebUI?

Dùng URL gốc có /v1 ở cuối, ví dụ http://host.docker.internal:3001/v1. Không thêm /chat/completions. Nếu Open WebUI chạy trong Docker, đừng dùng localhost.

Tại sao Open WebUI bỏ qua thay đổi OPENAI_API_BASE_URL của tôi?

Open WebUI lưu cài đặt kết nối vào cơ sở dữ liệu sau lần khởi động đầu tiên. Giá trị trong cơ sở dữ liệu có độ ưu tiên cao hơn. Hãy sửa kết nối trong Admin Panel, hoặc đặt ENABLE_PERSISTENT_CONFIG=False.

Open WebUI có thể dùng nhiều nhà cung cấp miễn phí cùng lúc không?

Có. Bạn có thể thêm một kết nối cho mỗi nhà cung cấp. Với FreeLLMAPI, một kết nối là đủ, vì bộ định tuyến chọn nhà cung cấp và chuyển sang nhà cung cấp tiếp theo khi một giới hạn làm dừng yêu cầu.

Mô hình miễn phí nào tốt nhất trong Open WebUI?

Bắt đầu với auto. Nó theo chuỗi dự phòng của bạn. Với mô hình cố định, chọn một mô hình có cửa sổ ngữ cảnh lớn từ bảng trên trang này.

Hướng dẫn liên quan

Nguồn

Tất cả hướng dẫn · Xem tất cả mô hình miễn phí