API LLM percuma untuk Open WebUI
Open WebUI ialah antara muka sembang yang anda hoskan sendiri. Ia bersambung ke mana-mana pelayan yang menggunakan API OpenAI Chat Completions. Panduan ini menyambungkan Open WebUI ke FreeLLMAPI, yang menghimpunkan 45 peringkat pembekal percuma di belakang satu kunci. Anda menambah satu sambungan. Penghala menghantar setiap sembang ke model percuma dan beralih ke pembekal seterusnya apabila had menghentikan permintaan.
Kod, nama model dan label katalog langsung dipaparkan dalam bahasa Inggeris.
Cara sambungan berfungsi
Open WebUI menghantar permintaan sembang ke URL bagi setiap sambungan OpenAI. FreeLLMAPI mendengar pada http://localhost:3001/v1 dan menerima permintaan yang sama. Ia memilih model percuma, menghantar permintaan dan memulangkan jawapan dalam format OpenAI.
- Satu sambungan, banyak pembekal: anda menambah satu URL dan satu kunci bersatu. Kunci pembekal anda kekal dalam FreeLLMAPI pada komputer anda.
- Peralihan: apabila pembekal memulangkan ralat 429, penghala mencuba model seterusnya dalam rantai sandaran anda.
- Had: peringkat percuma mempunyai had permintaan dan token. Lebih banyak kunci pembekal memberikan lebih banyak permintaan sehari. Peralihan mengagihkan beban, tetapi ia tidak menghapuskan had.
Pasang FreeLLMAPI dahulu. Ia berjalan dalam Docker. Buka papan pemuka di http://localhost:3001, tambah sekurang-kurangnya dua kunci pembekal percuma pada halaman Keys dan salin kunci bersatu anda.
Pasang FreeLLMAPI (macOS atau Linux)
curl -fsSL https://freellmapi.co/install.sh | bashLangkah 1: Cari URL yang betul
URL yang mesti digunakan oleh Open WebUI bergantung pada tempat setiap program berjalan. Open WebUI biasanya berjalan dalam Docker. Dalam bekas, localhost merujuk kepada bekas itu sendiri, bukan komputer anda.
| Open WebUI berjalan | FreeLLMAPI berjalan | URL untuk digunakan |
|---|---|---|
| Pada hos (pip atau uv) | Pada hos (Docker atau aplikasi desktop) | http://localhost:3001/v1 |
| Dalam Docker Desktop (macOS, Windows) | Pada hos | http://host.docker.internal:3001/v1 |
| Dalam Docker pada Linux | Dalam Docker (skrip pemasangan) | http://freellmapi:3001/v1 pada rangkaian Docker yang dikongsi |
| Pada komputer lain | Pada pelayan dalam LAN anda | http://<server-ip>:3001/v1, dengan HOST_BIND=0.0.0.0 pada rangkaian yang dipercayai sahaja |
Secara lalai, bekas FreeLLMAPI hanya menerbitkan portnya pada 127.0.0.1. Pada Linux, bekas kedua tidak selalunya dapat mencapai port itu melalui hos. Sambungkan kedua-dua bekas ke satu rangkaian Docker. Kemudian gunakan nama perkhidmatan freellmapi sebagai nama hos.
Sambungkan Open WebUI ke rangkaian FreeLLMAPI (Linux)
# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls
# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui
# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
-H "Authorization: Bearer <unified-key>" | head -c 300Langkah 2: Tambah sambungan
Anda boleh menambah sambungan dalam antara muka atau dengan pembolehubah persekitaran. Antara muka ialah kaedah yang paling mudah.
- Buka Admin Panel dan pergi ke Settings > Connections.
- Cari senarai Manage OpenAI API Connections. Klik Add Connection.
- Dalam URL, taip URL dari Langkah 1, contohnya
http://host.docker.internal:3001/v1. - Dalam API Key, tampal kunci bersatu FreeLLMAPI anda.
- Klik Verify Connection. Kemudian klik Save.
Untuk menetapkan sambungan apabila bekas bermula, gunakan OPENAI_API_BASE_URL dan OPENAI_API_KEY. Arahan di bawah ialah arahan docker run standard Open WebUI dengan kedua-dua pembolehubah ini ditambah.
docker run dengan sambungan FreeLLMAPI
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e OPENAI_API_KEY=<unified-key> \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:mainUntuk mengekalkan sambungan OpenAI sedia ada, gunakan pembolehubah jamak. OPENAI_API_BASE_URLS dan OPENAI_API_KEYS menerima senarai yang dipisahkan dengan koma bertitik. Kunci pertama sepadan dengan URL pertama.
Dua sambungan dalam satu bekas
-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"ENABLE_PERSISTENT_CONFIG=False supaya persekitaran diutamakan.Langkah 3: Pendekkan senarai model
FreeLLMAPI memulangkan katalog penuhnya pada /v1/models. Katalog itu juga mengandungi model yang belum boleh anda panggil, kerana anda belum menambah kunci untuk model tersebut. Open WebUI memaparkan setiap model yang dipulangkan oleh sambungan. Senarai panjang model yang gagal tidak berguna.
Buka semula sambungan dan gunakan medan Model IDs. Apabila anda menambah ID, Open WebUI hanya memaparkan ID ini dan berhenti membaca senarai penuh. Tambah entri penghala dahulu:
| ID model | Apa yang dilakukan penghala |
|---|---|
auto | Mengikut rantai sandaran aktif anda dari papan pemuka |
auto:fast | Menyusun model yang didayakan mengikut kelajuan yang diukur |
auto:smart | Menyusun model yang didayakan mengikut kecerdasan |
auto:reliable | Menyusun model yang didayakan mengikut kadar kejayaan terkini |
auto:<profile> | Menggunakan rantai sandaran yang dinamakan, contohnya rantai penglihatan |
Anda juga boleh menambah ID model tetap, contohnya model dari jadual di bawah. Model tetap memberikan gaya jawapan yang sama setiap kali. Ia juga berhenti apabila had percuma model itu habis, melainkan model yang sama percuma pada pembekal lain.
Untuk menjimatkan kuota, tetapkan model tugas kepada entri yang pantas. Open WebUI menggunakan model tugas untuk tajuk dan pertanyaan carian. Pembolehubahnya ialah TASK_MODEL_EXTERNAL, contohnya TASK_MODEL_EXTERNAL=auto:fast.
| Model | Percuma pada | Konteks | Had percuma (tawaran terbaik) | Alat | Penglihatan |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 permintaan/minit 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | Ya | Tidak |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +1 lagi | 1M | 40 permintaan/minit 40 RPM | Ya | Ya |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 permintaan/minit 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Ya | Ya |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | Ya | Tidak |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Ya | Ya |
| Deepseek V4.1 Flash | APINex | 1M | 5 permintaan/minit 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Tidak | Tidak |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 permintaan/minit 20 permintaan/hari 250,000 token/minit ~3M | Ya | Ya |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Ya | Ya |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 permintaan/minit 50 permintaan/hari 50 req/day account-wide (1,000 after a $10 purchase) | Ya | Ya |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 permintaan/minit 50 permintaan/hari Shared rate limit | Ya | Tidak |
Memaparkan 10 daripada 184 model percuma yang sepadan. Lihat semua model.
Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.
Jika anda menghantar imej dalam Open WebUI, penghala hanya menggunakan model penglihatan untuk permintaan itu. Jika tiada model penglihatan dalam rantai anda, permintaan memulangkan ralat 422. Model percuma berikut menerima imej:
| Model | Percuma pada | Konteks | Had percuma (tawaran terbaik) | Alat | Penglihatan |
|---|---|---|---|---|---|
| GLM 5.3 Flash | UnoRouter | 1M | 1 permintaan/minit 1 req/min per model | Ya | Ya |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | Ya | Ya |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 permintaan/minit 20 permintaan/hari 250,000 token/minit ~3M | Ya | Ya |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Ya | Ya |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 permintaan/minit 20 permintaan/hari 250,000 token/minit ~3M | Ya | Ya |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Ya | Ya |
Memaparkan 6 daripada 67 model percuma yang sepadan. Lihat semua model.
Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.
Gunakan embedding percuma untuk dokumen
Open WebUI boleh membuat embedding untuk dokumen anda melalui API serasi OpenAI. FreeLLMAPI menyediakan /v1/embeddings. Peralihan embedding tidak sekali-kali menukar model, jadi vektor dalam storan anda kekal serasi.
Tetapan embedding untuk Open WebUI
-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3Pilih satu keluarga embedding dan kekalkannya. Jika anda menukar keluarga, buat semula embedding untuk semua dokumen. Model embedding percuma dalam katalog hari ini ialah:
| Model | Pembekal | Dimensi | Input maks | Had percuma |
|---|---|---|---|---|
Gemini Embeddinggemini-embedding-001 | Google AI Studio | 3072 | 2048 | 100 rpm · 1K req/day |
Nemotron Embed VL 1Bnvidia/llama-nemotron-embed-vl-1b-v2 | NVIDIA NIM | 2048 | 8192 | ~40 rpm |
Nemotron 3 Embed 1B (OR free)nvidia/nemotron-3-embed-1b:free | OpenRouter | 2048 | 32768 | 20 rpm · shared free daily cap |
SEA-LION E5 Embedding 600Maisingapore/SEA-LION-E5-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 300Maisingapore/SEA-LION-ModernBERT-Embedding-300M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 600Maisingapore/SEA-LION-ModernBERT-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
BGE-M3@cf/baai/bge-m3 | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
EmbeddingGemma 300M@cf/google/embeddinggemma-300m | Cloudflare Workers AI | 768 | 2048 | 10K neurons/day (shared) |
Qwen3 Embedding 0.6B@cf/qwen/qwen3-embedding-0.6b | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
Cohere Embed v4embed-v4.0 | Cohere | 1536 | 128000 | 1K calls/mo (shared w/ chat) |
Gemini Embedding 2gemini-embedding-2 | Google AI Studio | 3072 | 8192 | free-tier rate limited |
Nemotron 3 Embed 1Bnvidia/nemotron-3-embed-1b | NVIDIA NIM | 2048 | 4096 | ~40 rpm |
PLaMo Embedding 1B (CF)@cf/pfnet/plamo-embedding-1b | Cloudflare Workers AI | 2048 | 4096 | 10K neurons/day (shared) |
BGE Small EN v1.5 (CF)@cf/baai/bge-small-en-v1.5 | Cloudflare Workers AI | 384 | 512 | 10K neurons/day (shared) |
BGE Base EN v1.5 (CF)@cf/baai/bge-base-en-v1.5 | Cloudflare Workers AI | 768 | 512 | 10K neurons/day (shared) |
BGE Large EN v1.5 (CF)@cf/baai/bge-large-en-v1.5 | Cloudflare Workers AI | 1024 | 512 | 10K neurons/day (shared) |
Mistral Embedmistral-embed | Mistral | 1024 | 8192 | free mode · monthly cap (shared) |
Codestral Embedcodestral-embed | Mistral | 1536 | 8192 | free mode · monthly cap (shared) |
Llama Text Embed v2 (Pinecone)llama-text-embed-v2 | Pinecone | 1024 | 2048 | 5M tokens/mo per model |
Multilingual E5 Large (Pinecone)multilingual-e5-large | Pinecone | 1024 | 507 | 5M tokens/mo per model |
Nemotron 3 Embed 1B (Speka)nvidia/nemotron-3-embed-1b | Speka | 2048 | 8192 | $1/month shared across Speka models |
OpenAI: Text Embedding 3 Small (ElectronHub)text-embedding-3-small | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
OpenAI: Text Embedding 3 Large (ElectronHub)text-embedding-3-large | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Nemotron 3 Embed 8B (Inferbase)nvidia-nemotron-3-embed-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 0.6B (Inferbase)qwen3-embedding-0-6b | Inferbase | 1024 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 4B (Inferbase)qwen3-embedding-4b | Inferbase | 2560 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 8B (Inferbase)qwen3-embedding-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
LFM2.5 Embedding 350M (LLMTR)liquid/lfm-2.5-embedding-350m-free | LLMTR | 1024 | 512 | Ongoing zero-price route; provider terms apply |
BGE-M3 (SEA-LION)BAAI/bge-m3 | SEA-LION | 1024 | 8192 | free · 10 rpm |
Cohere Embed English v3embed-english-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Qwen3 Embedding 8B (OVH)Qwen3-Embedding-8B | OVH AI Endpoints | 4096 | 32768 | free · anonymous 2 req/min per IP |
BGE-M3 (OVH)bge-m3 | OVH AI Endpoints | 1024 | 8192 | free · anonymous 2 req/min per IP |
BGE Multilingual Gemma2 (OVH)bge-multilingual-gemma2 | OVH AI Endpoints | 3584 | 8192 | free · anonymous 2 req/min per IP |
Mistral: Codestral Embed (ElectronHub)codestral-embed | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Mistral: Mistral Embed (ElectronHub)mistral-embed | ElectronHub | 1024 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 2 (ElectronHub)gemini-embedding-2 | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 001 (ElectronHub)gemini-embedding-001 | ElectronHub | 3072 | 2048 | $0.25/week shared free credits |
OpenAI: Text Embedding Ada 002 (ElectronHub)text-embedding-ada-002 | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Cohere Embed English Light v3embed-english-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual v3embed-multilingual-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual Light v3embed-multilingual-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.
Penyelesaian masalah
| Masalah | Punca | Pembetulan |
|---|---|---|
| Verify Connection gagal dengan ralat rangkaian | localhost merujuk kepada bekas Open WebUI | Gunakan host.docker.internal atau rangkaian Docker yang dikongsi, seperti dalam Langkah 1 |
| Verify Connection gagal dengan 401 | Kunci salah atau mengandungi ruang | Salin semula kunci bersatu dari halaman Keys |
| Ratusan model dalam pemilih | Sambungan membaca katalog penuh | Tambah auto dan ID pilihan anda dalam Model IDs |
| Model gagal untuk setiap mesej | Tiada kunci untuk pembekal model itu | Tambah kunci pembekal, atau pilih auto |
| Ralat 429 selepas banyak sembang | Semua kunci pembekal dalam rantai telah mencapai had | Tambah kunci dari lebih ramai pembekal, atau tunggu masa tetapan semula dalam header Retry-After |
| Pembolehubah persekitaran tidak memberi kesan | Nilai yang disimpan dalam pangkalan data diutamakan | Sunting sambungan dalam Admin Panel |
Untuk melihat pembekal mana yang menjawab sembang, baca header X-Routed-Via bagi respons. Pemapar Server Logs dalam menu Analytics papan pemuka juga menunjukkan keputusan laluan dan tempoh rehat kunci.
Soalan lazim
Adakah terdapat API percuma untuk Open WebUI?
Ya. Open WebUI berfungsi dengan mana-mana API serasi OpenAI. FreeLLMAPI menggabungkan peringkat pembekal percuma di belakang satu URL dan satu kunci. Setiap peringkat percuma mempunyai had sendiri.
URL apa yang saya guna untuk sambungan serasi OpenAI dalam Open WebUI?
Gunakan URL asas dengan /v1 di hujungnya, contohnya http://host.docker.internal:3001/v1. Jangan tambah /chat/completions. Jika Open WebUI berjalan dalam Docker, jangan guna localhost.
Mengapa Open WebUI mengabaikan perubahan OPENAI_API_BASE_URL saya?
Open WebUI menyimpan tetapan sambungan dalam pangkalan datanya selepas permulaan pertama. Nilai dalam pangkalan data diutamakan. Sunting sambungan dalam Admin Panel, atau tetapkan ENABLE_PERSISTENT_CONFIG=False.
Bolehkah Open WebUI menggunakan beberapa pembekal percuma sekaligus?
Ya. Anda boleh menambah satu sambungan bagi setiap pembekal. Dengan FreeLLMAPI, satu sambungan memadai, kerana penghala memilih pembekal dan beralih ke yang seterusnya apabila had menghentikan permintaan.
Model percuma yang mana paling baik dalam Open WebUI?
Mulakan dengan auto. Ia mengikut rantai sandaran anda. Untuk model tetap, pilih satu yang mempunyai tetingkap konteks besar dari jadual di halaman ini.
Panduan berkaitan
- API percuma untuk SillyTavern
- Base URL API percuma yang serasi dengan OpenAI
- API embeddings percuma
- Free LLM API untuk RAG
- Had kadar Free LLM API
Sumber
- Open WebUI docs: environment variable configuration (disemak 20 November 2026)
- Open WebUI docs: connect an OpenAI-compatible provider (disemak 20 November 2026)
- Open WebUI README: Docker installation (disemak 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, embeddings) (disemak 20 November 2026)
- FreeLLMAPI docs: Docker deployment (disemak 20 November 2026)