Open WebUI के लिए मुफ़्त LLM API
Open WebUI एक स्व-होस्टेड चैट इंटरफ़ेस है। यह OpenAI Chat Completions API वाले किसी भी सर्वर से जुड़ सकता है। यह गाइड Open WebUI को FreeLLMAPI से जोड़ती है, जो एक key के पीछे 45 मुफ़्त provider टियर को जोड़ता है। आप एक कनेक्शन जोड़ते हैं। राउटर हर चैट को एक मुफ़्त मॉडल भेजता है, और जब कोई सीमा अनुरोध को रोकती है, तो अगले provider पर जाता है।
कोड, मॉडल नाम और लाइव कैटलॉग लेबल अंग्रेज़ी में दिखाए गए हैं।
कनेक्शन कैसे काम करता है
Open WebUI हर OpenAI कनेक्शन के URL पर चैट अनुरोध भेजता है। FreeLLMAPI http://localhost:3001/v1 पर सुनता है और वही अनुरोध स्वीकार करता है। यह एक मुफ़्त मॉडल चुनता है, अनुरोध भेजता है, और उत्तर OpenAI फ़ॉर्मेट में लौटाता है।
- एक कनेक्शन, कई provider: आप एक URL और एक एकीकृत key जोड़ते हैं। आपकी provider keys आपके कंप्यूटर पर FreeLLMAPI में ही रहती हैं।
- फ़ेलओवर: जब कोई provider 429 त्रुटि लौटाता है, तो राउटर आपकी fallback chain में अगला मॉडल आज़माता है।
- सीमाएँ: मुफ़्त टियर में अनुरोध और token की सीमाएँ होती हैं। अधिक provider keys से प्रति दिन अधिक अनुरोध मिलते हैं। फ़ेलओवर भार बाँटता है, लेकिन सीमाएँ नहीं हटाता।
पहले FreeLLMAPI इंस्टॉल करें। यह Docker में चलता है। http://localhost:3001 पर dashboard खोलें, Keys पेज पर कम से कम दो मुफ़्त provider keys जोड़ें, और अपनी एकीकृत key कॉपी करें।
FreeLLMAPI इंस्टॉल करें (macOS या Linux)
curl -fsSL https://freellmapi.co/install.sh | bashचरण 1: सही URL खोजें
Open WebUI को कौन सा URL इस्तेमाल करना चाहिए, यह इस पर निर्भर करता है कि हर प्रोग्राम कहाँ चलता है। Open WebUI आमतौर पर Docker में चलता है। किसी container के अंदर, localhost वह container खुद है, आपका कंप्यूटर नहीं।
| Open WebUI चलता है | FreeLLMAPI चलता है | इस्तेमाल करने वाला URL |
|---|---|---|
| होस्ट पर (pip या uv) | होस्ट पर (Docker या desktop ऐप) | http://localhost:3001/v1 |
| Docker Desktop में (macOS, Windows) | होस्ट पर | http://host.docker.internal:3001/v1 |
| Linux पर Docker में | Docker में (इंस्टॉल स्क्रिप्ट) | एक साझा Docker network पर http://freellmapi:3001/v1 |
| किसी दूसरे कंप्यूटर पर | आपके LAN पर किसी सर्वर पर | http://<server-ip>:3001/v1, और HOST_BIND=0.0.0.0 केवल एक भरोसेमंद network पर |
डिफ़ॉल्ट रूप से, FreeLLMAPI container अपना port केवल 127.0.0.1 पर प्रकाशित करता है। Linux पर दूसरा container होस्ट के ज़रिए उस port तक हमेशा नहीं पहुँच पाता। दोनों containers को एक Docker network से जोड़ें। फिर होस्ट नाम के रूप में service नाम freellmapi का उपयोग करें।
Open WebUI को FreeLLMAPI network से जोड़ें (Linux)
# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls
# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui
# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
-H "Authorization: Bearer <unified-key>" | head -c 300चरण 2: कनेक्शन जोड़ें
आप कनेक्शन को interface में या environment variables से जोड़ सकते हैं। Interface सबसे सरल तरीका है।
- Admin Panel खोलें और Settings > Connections पर जाएँ।
- Manage OpenAI API Connections सूची खोजें। Add Connection पर क्लिक करें।
- URL में चरण 1 का URL लिखें, उदाहरण के लिए
http://host.docker.internal:3001/v1। - API Key में अपनी FreeLLMAPI एकीकृत key चिपकाएँ।
- Verify Connection पर क्लिक करें। फिर Save पर क्लिक करें।
Container शुरू होने पर कनेक्शन सेट करने के लिए, OPENAI_API_BASE_URL और OPENAI_API_KEY का उपयोग करें। नीचे दिया गया command Open WebUI का मानक docker run command है, जिसमें ये दो variables जोड़े गए हैं।
FreeLLMAPI कनेक्शन के साथ docker run
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e OPENAI_API_KEY=<unified-key> \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:mainमौजूदा OpenAI कनेक्शन रखने के लिए, बहुवचन variables का उपयोग करें। OPENAI_API_BASE_URLS और OPENAI_API_KEYS semicolon से अलग की गई सूचियाँ लेते हैं। पहली key पहले URL के साथ जाती है।
एक container में दो कनेक्शन
-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"ENABLE_PERSISTENT_CONFIG=False भी सेट कर सकते हैं।चरण 3: मॉडल सूची छोटी रखें
FreeLLMAPI /v1/models पर अपनी पूरी catalog लौटाता है। इस catalog में ऐसे मॉडल भी होते हैं जिन्हें आप अभी नहीं चला सकते, क्योंकि आपने उनके लिए key नहीं जोड़ी है। Open WebUI कनेक्शन से लौटाया गया हर मॉडल दिखाता है। असफल होने वाले मॉडलों की लंबी सूची उपयोगी नहीं होती।
कनेक्शन फिर से खोलें और Model IDs फ़ील्ड का उपयोग करें। जब आप IDs जोड़ते हैं, तो Open WebUI केवल ये IDs दिखाता है और पूरी सूची पढ़ना बंद कर देता है। पहले राउटर की प्रविष्टियाँ जोड़ें:
| मॉडल ID | राउटर क्या करता है |
|---|---|
auto | dashboard से आपकी सक्रिय fallback chain का पालन करता है |
auto:fast | सक्षम मॉडलों को मापी गई गति के अनुसार क्रमबद्ध करता है |
auto:smart | सक्षम मॉडलों को बुद्धिमत्ता के अनुसार क्रमबद्ध करता है |
auto:reliable | सक्षम मॉडलों को हाल की सफलता दर के अनुसार क्रमबद्ध करता है |
auto:<profile> | नामित fallback chain का उपयोग करता है, उदाहरण के लिए एक vision chain |
आप एक निश्चित मॉडल ID भी जोड़ सकते हैं, उदाहरण के लिए नीचे की तालिका का कोई मॉडल। निश्चित मॉडल हर बार एक ही शैली में उत्तर देता है। जब उस मॉडल की मुफ़्त सीमा समाप्त होती है, तो वह रुक जाता है, जब तक वही मॉडल दूसरे providers पर भी मुफ़्त न हो।
quota बचाने के लिए, task model को एक तेज़ प्रविष्टि पर सेट करें। Open WebUI शीर्षक और खोज क्वेरी के लिए task model का उपयोग करता है। variable का नाम TASK_MODEL_EXTERNAL है, उदाहरण के लिए TASK_MODEL_EXTERNAL=auto:fast।
| मॉडल | मुफ़्त उपलब्ध | कॉन्टेक्स्ट | मुफ़्त सीमाएँ (सबसे अच्छा विकल्प) | टूल | विज़न |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 अनुरोध/मिनट 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | हाँ | नहीं |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +1 और | 1M | 40 अनुरोध/मिनट 40 RPM | हाँ | हाँ |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 अनुरोध/मिनट 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | हाँ | हाँ |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | हाँ | नहीं |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | हाँ | हाँ |
| Deepseek V4.1 Flash | APINex | 1M | 5 अनुरोध/मिनट 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | नहीं | नहीं |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 अनुरोध/मिनट 20 अनुरोध/दिन 250,000 टोकन/मिनट ~3M | हाँ | हाँ |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | हाँ | हाँ |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 अनुरोध/मिनट 50 अनुरोध/दिन 50 req/day account-wide (1,000 after a $10 purchase) | हाँ | हाँ |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 अनुरोध/मिनट 50 अनुरोध/दिन Shared rate limit | हाँ | नहीं |
184 मिलते-जुलते मुफ़्त मॉडल में से 10 दिखाए जा रहे हैं। सभी मॉडल देखें.
FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।
अगर आप Open WebUI में छवियाँ भेजते हैं, तो राउटर उस अनुरोध के लिए केवल vision मॉडल इस्तेमाल करता है। अगर आपकी chain में कोई vision मॉडल नहीं है, तो अनुरोध 422 त्रुटि लौटाता है। ये मुफ़्त मॉडल छवियाँ स्वीकार करते हैं:
| मॉडल | मुफ़्त उपलब्ध | कॉन्टेक्स्ट | मुफ़्त सीमाएँ (सबसे अच्छा विकल्प) | टूल | विज़न |
|---|---|---|---|---|---|
| GLM 5.3 Flash | UnoRouter | 1M | 1 अनुरोध/मिनट 1 req/min per model | हाँ | हाँ |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | हाँ | हाँ |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 अनुरोध/मिनट 20 अनुरोध/दिन 250,000 टोकन/मिनट ~3M | हाँ | हाँ |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | हाँ | हाँ |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 अनुरोध/मिनट 20 अनुरोध/दिन 250,000 टोकन/मिनट ~3M | हाँ | हाँ |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | हाँ | हाँ |
67 मिलते-जुलते मुफ़्त मॉडल में से 6 दिखाए जा रहे हैं। सभी मॉडल देखें.
FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।
दस्तावेज़ों के लिए मुफ़्त embeddings का उपयोग करें
Open WebUI एक OpenAI-संगत API के ज़रिए आपके दस्तावेज़ों के embeddings बना सकता है। FreeLLMAPI /v1/embeddings देता है। Embedding फ़ेलओवर कभी मॉडल नहीं बदलता, इसलिए आपके store के vectors संगत रहते हैं।
Open WebUI के लिए embedding सेटिंग्स
-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3एक embedding family चुनें और उसी को रखें। अगर आप family बदलते हैं, तो सभी दस्तावेज़ों के embeddings फिर से बनाएँ। आज की catalog में मुफ़्त embedding मॉडल ये हैं:
| मॉडल | प्रदाता | आयाम | अधिकतम इनपुट | मुफ़्त सीमा |
|---|---|---|---|---|
Gemini Embeddinggemini-embedding-001 | Google AI Studio | 3072 | 2048 | 100 rpm · 1K req/day |
Nemotron Embed VL 1Bnvidia/llama-nemotron-embed-vl-1b-v2 | NVIDIA NIM | 2048 | 8192 | ~40 rpm |
Nemotron 3 Embed 1B (OR free)nvidia/nemotron-3-embed-1b:free | OpenRouter | 2048 | 32768 | 20 rpm · shared free daily cap |
SEA-LION E5 Embedding 600Maisingapore/SEA-LION-E5-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 300Maisingapore/SEA-LION-ModernBERT-Embedding-300M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 600Maisingapore/SEA-LION-ModernBERT-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
BGE-M3@cf/baai/bge-m3 | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
EmbeddingGemma 300M@cf/google/embeddinggemma-300m | Cloudflare Workers AI | 768 | 2048 | 10K neurons/day (shared) |
Qwen3 Embedding 0.6B@cf/qwen/qwen3-embedding-0.6b | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
Cohere Embed v4embed-v4.0 | Cohere | 1536 | 128000 | 1K calls/mo (shared w/ chat) |
Gemini Embedding 2gemini-embedding-2 | Google AI Studio | 3072 | 8192 | free-tier rate limited |
Nemotron 3 Embed 1Bnvidia/nemotron-3-embed-1b | NVIDIA NIM | 2048 | 4096 | ~40 rpm |
PLaMo Embedding 1B (CF)@cf/pfnet/plamo-embedding-1b | Cloudflare Workers AI | 2048 | 4096 | 10K neurons/day (shared) |
BGE Small EN v1.5 (CF)@cf/baai/bge-small-en-v1.5 | Cloudflare Workers AI | 384 | 512 | 10K neurons/day (shared) |
BGE Base EN v1.5 (CF)@cf/baai/bge-base-en-v1.5 | Cloudflare Workers AI | 768 | 512 | 10K neurons/day (shared) |
BGE Large EN v1.5 (CF)@cf/baai/bge-large-en-v1.5 | Cloudflare Workers AI | 1024 | 512 | 10K neurons/day (shared) |
Mistral Embedmistral-embed | Mistral | 1024 | 8192 | free mode · monthly cap (shared) |
Codestral Embedcodestral-embed | Mistral | 1536 | 8192 | free mode · monthly cap (shared) |
Llama Text Embed v2 (Pinecone)llama-text-embed-v2 | Pinecone | 1024 | 2048 | 5M tokens/mo per model |
Multilingual E5 Large (Pinecone)multilingual-e5-large | Pinecone | 1024 | 507 | 5M tokens/mo per model |
Nemotron 3 Embed 1B (Speka)nvidia/nemotron-3-embed-1b | Speka | 2048 | 8192 | $1/month shared across Speka models |
OpenAI: Text Embedding 3 Small (ElectronHub)text-embedding-3-small | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
OpenAI: Text Embedding 3 Large (ElectronHub)text-embedding-3-large | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Nemotron 3 Embed 8B (Inferbase)nvidia-nemotron-3-embed-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 0.6B (Inferbase)qwen3-embedding-0-6b | Inferbase | 1024 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 4B (Inferbase)qwen3-embedding-4b | Inferbase | 2560 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 8B (Inferbase)qwen3-embedding-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
LFM2.5 Embedding 350M (LLMTR)liquid/lfm-2.5-embedding-350m-free | LLMTR | 1024 | 512 | Ongoing zero-price route; provider terms apply |
BGE-M3 (SEA-LION)BAAI/bge-m3 | SEA-LION | 1024 | 8192 | free · 10 rpm |
Cohere Embed English v3embed-english-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Qwen3 Embedding 8B (OVH)Qwen3-Embedding-8B | OVH AI Endpoints | 4096 | 32768 | free · anonymous 2 req/min per IP |
BGE-M3 (OVH)bge-m3 | OVH AI Endpoints | 1024 | 8192 | free · anonymous 2 req/min per IP |
BGE Multilingual Gemma2 (OVH)bge-multilingual-gemma2 | OVH AI Endpoints | 3584 | 8192 | free · anonymous 2 req/min per IP |
Mistral: Codestral Embed (ElectronHub)codestral-embed | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Mistral: Mistral Embed (ElectronHub)mistral-embed | ElectronHub | 1024 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 2 (ElectronHub)gemini-embedding-2 | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 001 (ElectronHub)gemini-embedding-001 | ElectronHub | 3072 | 2048 | $0.25/week shared free credits |
OpenAI: Text Embedding Ada 002 (ElectronHub)text-embedding-ada-002 | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Cohere Embed English Light v3embed-english-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual v3embed-multilingual-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual Light v3embed-multilingual-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।
समस्या निवारण
| समस्या | कारण | समाधान |
|---|---|---|
| Verify Connection नेटवर्क त्रुटि के साथ विफल होता है | localhost Open WebUI container की ओर इशारा करता है | चरण 1 की तरह host.docker.internal या एक साझा Docker network का उपयोग करें |
| Verify Connection 401 के साथ विफल होता है | key गलत है या उसमें spaces हैं | Keys पेज से एकीकृत key फिर से कॉपी करें |
| selector में सैकड़ों मॉडल दिखते हैं | कनेक्शन पूरी catalog पढ़ता है | Model IDs में auto और अपने चुने हुए IDs जोड़ें |
| एक मॉडल हर संदेश पर विफल होता है | उस मॉडल के provider की कोई key नहीं है | provider key जोड़ें, या auto चुनें |
| कई चैट के बाद 429 त्रुटि | chain की सभी provider keys अपनी सीमा पर हैं | अधिक providers की keys जोड़ें, या Retry-After header में दिए गए reset समय तक प्रतीक्षा करें |
| Environment variables का असर नहीं होता | database में सेव किए गए मान प्राथमिकता रखते हैं | Admin Panel में कनेक्शन संपादित करें |
यह देखने के लिए कि किस provider ने चैट का उत्तर दिया, उत्तर का X-Routed-Via header पढ़ें। dashboard के Analytics मेनू में Server Logs viewer भी राउटिंग के फ़ैसले और key cooldowns दिखाता है।
अक्सर पूछे जाने वाले प्रश्न
क्या Open WebUI के लिए कोई मुफ़्त API है?
हाँ। Open WebUI किसी भी OpenAI-संगत API के साथ काम करता है। FreeLLMAPI मुफ़्त provider टियर को एक URL और एक key के पीछे जोड़ता है। हर मुफ़्त टियर की अपनी सीमाएँ होती हैं।
Open WebUI में OpenAI-संगत कनेक्शन के लिए कौन सा URL इस्तेमाल करूँ?
अंत में /v1 वाला base URL इस्तेमाल करें, उदाहरण के लिए http://host.docker.internal:3001/v1। /chat/completions न जोड़ें। अगर Open WebUI Docker में चलता है, तो localhost इस्तेमाल न करें।
Open WebUI मेरे OPENAI_API_BASE_URL बदलाव को क्यों नज़रअंदाज़ करता है?
Open WebUI पहली बार शुरू होने के बाद कनेक्शन सेटिंग्स अपनी database में सेव करता है। database के मान प्राथमिकता रखते हैं। Admin Panel में कनेक्शन संपादित करें, या ENABLE_PERSISTENT_CONFIG=False सेट करें।
क्या Open WebUI एक साथ कई मुफ़्त providers इस्तेमाल कर सकता है?
हाँ। आप हर provider के लिए एक कनेक्शन जोड़ सकते हैं। FreeLLMAPI के साथ एक कनेक्शन काफ़ी है, क्योंकि राउटर provider चुनता है और जब कोई सीमा अनुरोध को रोकती है, तो अगले provider पर जाता है।
Open WebUI में सबसे अच्छा मुफ़्त मॉडल कौन सा है?
auto से शुरू करें। यह आपकी fallback chain का पालन करता है। निश्चित मॉडल के लिए, इस पेज की तालिका से एक बड़े context window वाला मॉडल चुनें।
संबंधित गाइड
- SillyTavern के लिए मुफ़्त API
- मुफ़्त OpenAI-compatible API base URLs
- मुफ़्त embeddings API
- RAG के लिए मुफ़्त LLM API
- मुफ़्त LLM API रेट सीमाएँ
स्रोत
- Open WebUI docs: environment variable configuration (जाँचा गया 20 November 2026)
- Open WebUI docs: connect an OpenAI-compatible provider (जाँचा गया 20 November 2026)
- Open WebUI README: Docker installation (जाँचा गया 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, embeddings) (जाँचा गया 20 November 2026)
- FreeLLMAPI docs: Docker deployment (जाँचा गया 20 November 2026)