Open WebUI-നായി സൗജന്യ LLM API
Open WebUI ഒരു സ്വയം ഹോസ്റ്റ് ചെയ്യുന്ന ചാറ്റ് ഇന്റർഫേസാണ്. OpenAI Chat Completions API സംസാരിക്കുന്ന ഏത് സെർവറുമായും ഇത് ബന്ധപ്പെടുന്നു. ഈ ഗൈഡ് Open WebUI-യെ FreeLLMAPI-യുമായി ബന്ധിപ്പിക്കുന്നു. FreeLLMAPI ഒരൊറ്റ കീയ്ക്കു പിന്നിൽ 45 സൗജന്യ ദാതാവ് ടയറുകൾ ഒരുമിപ്പിക്കുന്നു. നിങ്ങൾ ഒരു കണക്ഷൻ ചേർക്കുന്നു. റൂട്ടർ ഓരോ ചാറ്റും ഒരു സൗജന്യ മോഡലിലേക്ക് അയയ്ക്കുന്നു. ഒരു പരിധി അഭ്യർഥനയെ തടയുമ്പോൾ അടുത്ത ദാതാവിലേക്ക് മാറുന്നു.
കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.
കണക്ഷൻ എങ്ങനെ പ്രവർത്തിക്കുന്നു
ഓരോ OpenAI കണക്ഷന്റെയും URL-ലേക്ക് Open WebUI ചാറ്റ് അഭ്യർഥനകൾ അയയ്ക്കുന്നു. FreeLLMAPI http://localhost:3001/v1 എന്നതിൽ കേൾക്കുന്നു, അതേ അഭ്യർഥനകൾ സ്വീകരിക്കുന്നു. ഇത് ഒരു സൗജന്യ മോഡൽ തിരഞ്ഞെടുക്കുന്നു, അഭ്യർഥന അയയ്ക്കുന്നു, ഉത്തരം OpenAI ഫോർമാറ്റിൽ തിരികെ നൽകുന്നു.
- ഒരു കണക്ഷൻ, പല ദാതാക്കൾ: ഒരു URLഉം ഒരൊറ്റ ഏകീകൃത കീയും ചേർക്കുക. നിങ്ങളുടെ ദാതാവ് കീകൾ നിങ്ങളുടെ കമ്പ്യൂട്ടറിലെ FreeLLMAPI-യിൽ തന്നെ തുടരുന്നു.
- ഫെയിൽഓവർ: ഒരു ദാതാവ് 429 പിശക് നൽകുമ്പോൾ, റൂട്ടർ നിങ്ങളുടെ ഫോൾബാക്ക് ശൃംഖലയിലെ അടുത്ത മോഡൽ പരീക്ഷിക്കുന്നു.
- പരിധികൾ: സൗജന്യ ടയറുകൾക്ക് അഭ്യർഥന, ടോക്കൺ പരിധികളുണ്ട്. കൂടുതൽ ദാതാവ് കീകൾ ഒരു ദിവസം കൂടുതൽ അഭ്യർഥനകൾ നൽകുന്നു. ഫെയിൽഓവർ ലോഡ് വിതരണം ചെയ്യുന്നു, പക്ഷേ പരിധികൾ നീക്കം ചെയ്യുന്നില്ല.
ആദ്യം FreeLLMAPI ഇൻസ്റ്റാൾ ചെയ്യുക. ഇത് Docker-ൽ പ്രവർത്തിക്കുന്നു. http://localhost:3001 എന്നതിൽ ഡാഷ്ബോർഡ് തുറക്കുക, Keys പേജിൽ കുറഞ്ഞത് രണ്ട് സൗജന്യ ദാതാവ് കീകൾ ചേർക്കുക, നിങ്ങളുടെ ഏകീകൃത കീ പകർത്തുക.
FreeLLMAPI ഇൻസ്റ്റാൾ ചെയ്യുക (macOS അല്ലെങ്കിൽ Linux)
curl -fsSL https://freellmapi.co/install.sh | bashഘട്ടം 1: ശരിയായ URL കണ്ടെത്തുക
Open WebUI ഉപയോഗിക്കേണ്ട URL, ഓരോ പ്രോഗ്രാം എവിടെ പ്രവർത്തിക്കുന്നു എന്നതിനെ ആശ്രയിച്ചിരിക്കുന്നു. Open WebUI സാധാരണയായി Docker-ൽ പ്രവർത്തിക്കുന്നു. ഒരു കണ്ടെയ്നറിനുള്ളിൽ localhost എന്നത് ആ കണ്ടെയ്നർ തന്നെയാണ്, നിങ്ങളുടെ കമ്പ്യൂട്ടർ അല്ല.
| Open WebUI പ്രവർത്തിക്കുന്നത് | FreeLLMAPI പ്രവർത്തിക്കുന്നത് | ഉപയോഗിക്കേണ്ട URL |
|---|---|---|
| ഹോസ്റ്റിൽ (pip അല്ലെങ്കിൽ uv) | ഹോസ്റ്റിൽ (Docker അല്ലെങ്കിൽ ഡെസ്ക്ടോപ്പ് ആപ്പ്) | http://localhost:3001/v1 |
| Docker Desktop-ൽ (macOS, Windows) | ഹോസ്റ്റിൽ | http://host.docker.internal:3001/v1 |
| Linux-ലെ Docker-ൽ | Docker-ൽ (ഇൻസ്റ്റാൾ സ്ക്രിപ്റ്റ്) | പങ്കിട്ട Docker നെറ്റ്വർക്കിൽ http://freellmapi:3001/v1 |
| മറ്റൊരു കമ്പ്യൂട്ടറിൽ | നിങ്ങളുടെ LAN-ലെ ഒരു സെർവറിൽ | http://<server-ip>:3001/v1, വിശ്വസനീയമായ നെറ്റ്വർക്കിൽ മാത്രം HOST_BIND=0.0.0.0 ഉപയോഗിച്ച് |
സ്ഥിരസ്ഥിതിയായി FreeLLMAPI കണ്ടെയ്നർ അതിന്റെ പോർട്ട് 127.0.0.1-ൽ മാത്രമാണ് പ്രസിദ്ധീകരിക്കുന്നത്. Linux-ൽ മറ്റൊരു കണ്ടെയ്നറിന് ഹോസ്റ്റ് വഴി ആ പോർട്ടിൽ എപ്പോഴും എത്താൻ കഴിയില്ല. രണ്ട് കണ്ടെയ്നറുകളും ഒരു Docker നെറ്റ്വർക്കുമായി ബന്ധിപ്പിക്കുക. പിന്നെ ഹോസ്റ്റ് നാമമായി freellmapi എന്ന സേവന നാമം ഉപയോഗിക്കുക.
Open WebUI-യെ FreeLLMAPI നെറ്റ്വർക്കുമായി ബന്ധിപ്പിക്കുക (Linux)
# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls
# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui
# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
-H "Authorization: Bearer <unified-key>" | head -c 300ഘട്ടം 2: കണക്ഷൻ ചേർക്കുക
ഇന്റർഫേസിലോ എൻവയോൺമെന്റ് വേരിയബിളുകൾ വഴിയോ കണക്ഷൻ ചേർക്കാം. ഇന്റർഫേസാണ് ഏറ്റവും ലളിതമായ രീതി.
- Admin Panel തുറന്ന് Settings > Connections-ലേക്ക് പോകുക.
- Manage OpenAI API Connections പട്ടിക കണ്ടെത്തുക. Add Connection ക്ലിക്ക് ചെയ്യുക.
- URL-ൽ ഘട്ടം 1-ലെ URL ടൈപ്പ് ചെയ്യുക, ഉദാഹരണത്തിന്
http://host.docker.internal:3001/v1. - API Key-ൽ നിങ്ങളുടെ FreeLLMAPI ഏകീകൃത കീ ഒട്ടിക്കുക.
- Verify Connection ക്ലിക്ക് ചെയ്യുക. പിന്നെ Save ക്ലിക്ക് ചെയ്യുക.
കണ്ടെയ്നർ തുടങ്ങുമ്പോൾ കണക്ഷൻ സജ്ജമാക്കാൻ OPENAI_API_BASE_URL, OPENAI_API_KEY എന്നിവ ഉപയോഗിക്കുക. താഴെയുള്ള കമാൻഡ് ഈ രണ്ട് വേരിയബിളുകളും ചേർത്ത സാധാരണ Open WebUI docker run കമാൻഡ് ആണ്.
FreeLLMAPI കണക്ഷനോടുകൂടിയ docker run
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e OPENAI_API_KEY=<unified-key> \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:mainനിലവിലുള്ള OpenAI കണക്ഷൻ നിലനിർത്താൻ, ബഹുവചന വേരിയബിളുകൾ ഉപയോഗിക്കുക. OPENAI_API_BASE_URLS, OPENAI_API_KEYS എന്നിവ സെമികോളൺ കൊണ്ട് വേർതിരിച്ച പട്ടികകൾ സ്വീകരിക്കുന്നു. ആദ്യ കീ ആദ്യ URL-നൊപ്പം പോകുന്നു.
ഒരു കണ്ടെയ്നറിൽ രണ്ട് കണക്ഷനുകൾ
-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"ENABLE_PERSISTENT_CONFIG=False എന്നും സജ്ജമാക്കാം.ഘട്ടം 3: മോഡൽ പട്ടിക ചെറുതാക്കി നിർത്തുക
FreeLLMAPI /v1/models-ൽ അതിന്റെ മുഴുവൻ കാറ്റലോഗും നൽകുന്നു. ഈ കാറ്റലോഗിൽ നിങ്ങൾ കീ ചേർക്കാത്തതിനാൽ ഇപ്പോൾ വിളിക്കാൻ കഴിയാത്ത മോഡലുകളും ഉണ്ട്. കണക്ഷൻ തിരികെ നൽകുന്ന ഓരോ മോഡലും Open WebUI കാണിക്കുന്നു. പരാജയപ്പെടുന്ന മോഡലുകളുടെ നീണ്ട പട്ടിക ഉപയോഗപ്രദമല്ല.
കണക്ഷൻ വീണ്ടും തുറന്ന് Model IDs ഫീൽഡ് ഉപയോഗിക്കുക. ID-കൾ ചേർക്കുമ്പോൾ Open WebUI ഈ ID-കൾ മാത്രം കാണിക്കുകയും മുഴുവൻ പട്ടിക വായിക്കുന്നത് നിർത്തുകയും ചെയ്യുന്നു. ആദ്യം റൂട്ടർ എൻട്രികൾ ചേർക്കുക:
| മോഡൽ ID | റൂട്ടർ ചെയ്യുന്നത് |
|---|---|
auto | ഡാഷ്ബോർഡിൽ നിന്നുള്ള നിങ്ങളുടെ സജീവ ഫോൾബാക്ക് ശൃംഖലയെ പിന്തുടരുന്നു |
auto:fast | പ്രവർത്തനക്ഷമമാക്കിയ മോഡലുകളെ അളന്ന വേഗത അനുസരിച്ച് റാങ്ക് ചെയ്യുന്നു |
auto:smart | പ്രവർത്തനക്ഷമമാക്കിയ മോഡലുകളെ ബുദ്ധിശക്തി അനുസരിച്ച് റാങ്ക് ചെയ്യുന്നു |
auto:reliable | പ്രവർത്തനക്ഷമമാക്കിയ മോഡലുകളെ സമീപകാല വിജയ നിരക്ക് അനുസരിച്ച് റാങ്ക് ചെയ്യുന്നു |
auto:<profile> | പേരുള്ള ഒരു ഫോൾബാക്ക് ശൃംഖല ഉപയോഗിക്കുന്നു, ഉദാഹരണത്തിന് ഒരു വിഷൻ ശൃംഖല |
താഴെയുള്ള പട്ടികയിലെ ഒരു മോഡൽ പോലെ നിശ്ചിത മോഡൽ ID-യും ചേർക്കാം. നിശ്ചിത മോഡൽ ഓരോ തവണയും ഒരേ ശൈലിയിലുള്ള ഉത്തരം നൽകുന്നു. ആ മോഡലിന്റെ സൗജന്യ പരിധി തീരുമ്പോൾ അത് നിൽക്കുകയും ചെയ്യുന്നു, അതേ മോഡൽ മറ്റ് ദാതാക്കളിൽ സൗജന്യമല്ലെങ്കിൽ.
ക്വോട്ട ലാഭിക്കാൻ, ടാസ്ക് മോഡൽ വേഗമേറിയ ഒരു എൻട്രിയായി സജ്ജമാക്കുക. Open WebUI ശീർഷകങ്ങൾക്കും തിരയൽ ചോദ്യങ്ങൾക്കും ടാസ്ക് മോഡൽ ഉപയോഗിക്കുന്നു. വേരിയബിൾ TASK_MODEL_EXTERNAL ആണ്, ഉദാഹരണത്തിന് TASK_MODEL_EXTERNAL=auto:fast.
| മോഡൽ | സൗജന്യമായി ലഭ്യം | കോൺടെക്സ്റ്റ് | സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ) | ടൂളുകൾ | ദൃശ്യ ശേഷി |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 അഭ്യർഥന/മിനിറ്റ് 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | അതെ | ഇല്ല |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +1 കൂടി | 1M | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | അതെ | അതെ |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 അഭ്യർഥന/മിനിറ്റ് 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | അതെ | അതെ |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | അതെ | ഇല്ല |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | അതെ | അതെ |
| Deepseek V4.1 Flash | APINex | 1M | 5 അഭ്യർഥന/മിനിറ്റ് 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | ഇല്ല | ഇല്ല |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | അതെ | അതെ |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 അഭ്യർഥന/മിനിറ്റ് 50 അഭ്യർഥന/ദിവസം 50 req/day account-wide (1,000 after a $10 purchase) | അതെ | അതെ |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 50 അഭ്യർഥന/ദിവസം Shared rate limit | അതെ | ഇല്ല |
പൊരുത്തപ്പെടുന്ന 184 സൗജന്യ മോഡലുകളിൽ 10 എണ്ണം കാണിക്കുന്നു. എല്ലാ മോഡലുകളും കാണുക.
FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.
Open WebUI-ൽ ചിത്രങ്ങൾ അയച്ചാൽ, ആ അഭ്യർഥനയ്ക്ക് റൂട്ടർ വിഷൻ മോഡലുകൾ മാത്രം ഉപയോഗിക്കുന്നു. നിങ്ങളുടെ ശൃംഖലയിൽ വിഷൻ മോഡൽ ഇല്ലെങ്കിൽ അഭ്യർഥന 422 പിശക് നൽകുന്നു. ഈ സൗജന്യ മോഡലുകൾ ചിത്രങ്ങൾ സ്വീകരിക്കുന്നു:
| മോഡൽ | സൗജന്യമായി ലഭ്യം | കോൺടെക്സ്റ്റ് | സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ) | ടൂളുകൾ | ദൃശ്യ ശേഷി |
|---|---|---|---|---|---|
| GLM 5.3 Flash | UnoRouter | 1M | 1 അഭ്യർഥന/മിനിറ്റ് 1 req/min per model | അതെ | അതെ |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | അതെ | അതെ |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | അതെ | അതെ |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | അതെ | അതെ |
പൊരുത്തപ്പെടുന്ന 67 സൗജന്യ മോഡലുകളിൽ 6 എണ്ണം കാണിക്കുന്നു. എല്ലാ മോഡലുകളും കാണുക.
FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.
രേഖകൾക്കായി സൗജന്യ എംബെഡിംഗുകൾ ഉപയോഗിക്കുക
OpenAI-അനുയോജ്യ API വഴി Open WebUI-ക്ക് നിങ്ങളുടെ രേഖകൾക്കായി എംബെഡിംഗുകൾ ഉണ്ടാക്കാം. FreeLLMAPI /v1/embeddings നൽകുന്നു. എംബെഡിംഗ് ഫെയിൽഓവർ ഒരിക്കലും മോഡൽ മാറ്റുന്നില്ല, അതിനാൽ നിങ്ങളുടെ സ്റ്റോറിലെ വെക്ടറുകൾ പൊരുത്തപ്പെടുന്നതായി തുടരുന്നു.
Open WebUI-യ്ക്കുള്ള എംബെഡിംഗ് ക്രമീകരണങ്ങൾ
-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3ഒരു എംബെഡിംഗ് കുടുംബം തിരഞ്ഞെടുത്ത് അത് നിലനിർത്തുക. കുടുംബം മാറ്റിയാൽ എല്ലാ രേഖകൾക്കും എംബെഡിംഗുകൾ വീണ്ടും ഉണ്ടാക്കുക. ഇന്നത്തെ കാറ്റലോഗിലെ സൗജന്യ എംബെഡിംഗ് മോഡലുകൾ ഇവയാണ്:
| മോഡൽ | ദാതാവ് | ഡൈമെൻഷനുകൾ | പരമാവധി ഇൻപുട്ട് | സൗജന്യ പരിധി |
|---|---|---|---|---|
Gemini Embeddinggemini-embedding-001 | Google AI Studio | 3072 | 2048 | 100 rpm · 1K req/day |
Nemotron Embed VL 1Bnvidia/llama-nemotron-embed-vl-1b-v2 | NVIDIA NIM | 2048 | 8192 | ~40 rpm |
Nemotron 3 Embed 1B (OR free)nvidia/nemotron-3-embed-1b:free | OpenRouter | 2048 | 32768 | 20 rpm · shared free daily cap |
SEA-LION E5 Embedding 600Maisingapore/SEA-LION-E5-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 300Maisingapore/SEA-LION-ModernBERT-Embedding-300M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 600Maisingapore/SEA-LION-ModernBERT-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
BGE-M3@cf/baai/bge-m3 | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
EmbeddingGemma 300M@cf/google/embeddinggemma-300m | Cloudflare Workers AI | 768 | 2048 | 10K neurons/day (shared) |
Qwen3 Embedding 0.6B@cf/qwen/qwen3-embedding-0.6b | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
Cohere Embed v4embed-v4.0 | Cohere | 1536 | 128000 | 1K calls/mo (shared w/ chat) |
Gemini Embedding 2gemini-embedding-2 | Google AI Studio | 3072 | 8192 | free-tier rate limited |
Nemotron 3 Embed 1Bnvidia/nemotron-3-embed-1b | NVIDIA NIM | 2048 | 4096 | ~40 rpm |
PLaMo Embedding 1B (CF)@cf/pfnet/plamo-embedding-1b | Cloudflare Workers AI | 2048 | 4096 | 10K neurons/day (shared) |
BGE Small EN v1.5 (CF)@cf/baai/bge-small-en-v1.5 | Cloudflare Workers AI | 384 | 512 | 10K neurons/day (shared) |
BGE Base EN v1.5 (CF)@cf/baai/bge-base-en-v1.5 | Cloudflare Workers AI | 768 | 512 | 10K neurons/day (shared) |
BGE Large EN v1.5 (CF)@cf/baai/bge-large-en-v1.5 | Cloudflare Workers AI | 1024 | 512 | 10K neurons/day (shared) |
Mistral Embedmistral-embed | Mistral | 1024 | 8192 | free mode · monthly cap (shared) |
Codestral Embedcodestral-embed | Mistral | 1536 | 8192 | free mode · monthly cap (shared) |
Llama Text Embed v2 (Pinecone)llama-text-embed-v2 | Pinecone | 1024 | 2048 | 5M tokens/mo per model |
Multilingual E5 Large (Pinecone)multilingual-e5-large | Pinecone | 1024 | 507 | 5M tokens/mo per model |
Nemotron 3 Embed 1B (Speka)nvidia/nemotron-3-embed-1b | Speka | 2048 | 8192 | $1/month shared across Speka models |
OpenAI: Text Embedding 3 Small (ElectronHub)text-embedding-3-small | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
OpenAI: Text Embedding 3 Large (ElectronHub)text-embedding-3-large | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Nemotron 3 Embed 8B (Inferbase)nvidia-nemotron-3-embed-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 0.6B (Inferbase)qwen3-embedding-0-6b | Inferbase | 1024 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 4B (Inferbase)qwen3-embedding-4b | Inferbase | 2560 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 8B (Inferbase)qwen3-embedding-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
LFM2.5 Embedding 350M (LLMTR)liquid/lfm-2.5-embedding-350m-free | LLMTR | 1024 | 512 | Ongoing zero-price route; provider terms apply |
BGE-M3 (SEA-LION)BAAI/bge-m3 | SEA-LION | 1024 | 8192 | free · 10 rpm |
Cohere Embed English v3embed-english-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Qwen3 Embedding 8B (OVH)Qwen3-Embedding-8B | OVH AI Endpoints | 4096 | 32768 | free · anonymous 2 req/min per IP |
BGE-M3 (OVH)bge-m3 | OVH AI Endpoints | 1024 | 8192 | free · anonymous 2 req/min per IP |
BGE Multilingual Gemma2 (OVH)bge-multilingual-gemma2 | OVH AI Endpoints | 3584 | 8192 | free · anonymous 2 req/min per IP |
Mistral: Codestral Embed (ElectronHub)codestral-embed | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Mistral: Mistral Embed (ElectronHub)mistral-embed | ElectronHub | 1024 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 2 (ElectronHub)gemini-embedding-2 | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 001 (ElectronHub)gemini-embedding-001 | ElectronHub | 3072 | 2048 | $0.25/week shared free credits |
OpenAI: Text Embedding Ada 002 (ElectronHub)text-embedding-ada-002 | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Cohere Embed English Light v3embed-english-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual v3embed-multilingual-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual Light v3embed-multilingual-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.
പ്രശ്നപരിഹാരം
| പ്രശ്നം | കാരണം | പരിഹാരം |
|---|---|---|
| Verify Connection ഒരു നെറ്റ്വർക്ക് പിശകോടെ പരാജയപ്പെടുന്നു | localhost Open WebUI കണ്ടെയ്നറിനെ സൂചിപ്പിക്കുന്നു | ഘട്ടം 1-ലെ പോലെ host.docker.internal അല്ലെങ്കിൽ പങ്കിട്ട Docker നെറ്റ്വർക്ക് ഉപയോഗിക്കുക |
| Verify Connection 401-ൽ പരാജയപ്പെടുന്നു | കീ തെറ്റാണ് അല്ലെങ്കിൽ അതിൽ സ്പെയ്സുകളുണ്ട് | Keys പേജിൽ നിന്ന് ഏകീകൃത കീ വീണ്ടും പകർത്തുക |
| സെലക്ടറിൽ നൂറുകണക്കിന് മോഡലുകൾ | കണക്ഷൻ മുഴുവൻ കാറ്റലോഗും വായിക്കുന്നു | Model IDs-ൽ auto-ഉം നിങ്ങൾ തിരഞ്ഞെടുത്ത ID-കളും ചേർക്കുക |
| ഓരോ സന്ദേശത്തിലും ഒരു മോഡൽ പരാജയപ്പെടുന്നു | ആ മോഡലിന്റെ ദാതാവിന് കീ ഇല്ല | ദാതാവിന്റെ കീ ചേർക്കുക, അല്ലെങ്കിൽ auto തിരഞ്ഞെടുക്കുക |
| നിരവധി ചാറ്റുകൾക്ക് ശേഷം 429 പിശക് | ശൃംഖലയിലെ എല്ലാ ദാതാവ് കീകളും അവയുടെ പരിധിയിലാണ് | കൂടുതൽ ദാതാക്കളുടെ കീകൾ ചേർക്കുക, അല്ലെങ്കിൽ Retry-After ഹെഡറിലെ റീസെറ്റ് സമയം വരെ കാത്തിരിക്കുക |
| എൻവയോൺമെന്റ് വേരിയബിളുകൾക്ക് ഫലമില്ല | ഡാറ്റാബേസിൽ സംരക്ഷിച്ച മൂല്യങ്ങൾക്ക് മുൻഗണനയുണ്ട് | Admin Panel-ൽ കണക്ഷൻ എഡിറ്റ് ചെയ്യുക |
ഏത് ദാതാവാണ് ഒരു ചാറ്റിന് ഉത്തരം നൽകിയതെന്ന് അറിയാൻ, പ്രതികരണത്തിന്റെ X-Routed-Via ഹെഡർ വായിക്കുക. ഡാഷ്ബോർഡിലെ Analytics മെനുവിലുള്ള Server Logs വ്യൂവറും റൂട്ടിംഗ് തീരുമാനങ്ങളും കീ കൂൾഡൗണുകളും കാണിക്കുന്നു.
പതിവ് ചോദ്യങ്ങൾ
Open WebUI-യ്ക്ക് സൗജന്യ API ഉണ്ടോ?
ഉണ്ട്. Open WebUI ഏത് OpenAI-അനുയോജ്യ API-യുമായും പ്രവർത്തിക്കുന്നു. FreeLLMAPI സൗജന്യ ദാതാവ് ടയറുകൾ ഒരൊറ്റ URL-ഉം ഒരൊറ്റ കീയും വഴി ഒരുമിപ്പിക്കുന്നു. ഓരോ സൗജന്യ ടയറിനും സ്വന്തം പരിധികളുണ്ട്.
Open WebUI-യിലെ OpenAI-അനുയോജ്യ കണക്ഷനായി ഏത് URL ഉപയോഗിക്കണം?
അവസാനം /v1 ഉള്ള ബേസ് URL ഉപയോഗിക്കുക, ഉദാഹരണത്തിന് http://host.docker.internal:3001/v1. /chat/completions ചേർക്കരുത്. Open WebUI Docker-ൽ പ്രവർത്തിക്കുന്നുവെങ്കിൽ localhost ഉപയോഗിക്കരുത്.
എന്തുകൊണ്ടാണ് Open WebUI എന്റെ OPENAI_API_BASE_URL മാറ്റം അവഗണിക്കുന്നത്?
ആദ്യ തുടക്കത്തിന് ശേഷം Open WebUI കണക്ഷൻ ക്രമീകരണങ്ങൾ അതിന്റെ ഡാറ്റാബേസിൽ സംരക്ഷിക്കുന്നു. ഡാറ്റാബേസിലെ മൂല്യങ്ങൾക്ക് മുൻഗണനയുണ്ട്. Admin Panel-ൽ കണക്ഷൻ എഡിറ്റ് ചെയ്യുക, അല്ലെങ്കിൽ ENABLE_PERSISTENT_CONFIG=False സജ്ജമാക്കുക.
Open WebUI-ക്ക് ഒരേ സമയം നിരവധി സൗജന്യ ദാതാക്കളെ ഉപയോഗിക്കാനാകുമോ?
ഉണ്ട്. ഓരോ ദാതാവിനും ഒരു കണക്ഷൻ വീതം ചേർക്കാം. FreeLLMAPI-യിൽ ഒരു കണക്ഷൻ മതി, കാരണം റൂട്ടർ ദാതാവിനെ തിരഞ്ഞെടുക്കുകയും ഒരു പരിധി അഭ്യർഥനയെ തടയുമ്പോൾ അടുത്തതിലേക്ക് മാറുകയും ചെയ്യുന്നു.
Open WebUI-യിൽ ഏത് സൗജന്യ മോഡലാണ് ഏറ്റവും നല്ലത്?
auto-യിൽ തുടങ്ങുക. അത് നിങ്ങളുടെ ഫോൾബാക്ക് ശൃംഖലയെ പിന്തുടരുന്നു. നിശ്ചിത മോഡലിന്, ഈ പേജിലെ പട്ടികയിൽ നിന്ന് വലിയ കോൺടെക്സ്റ്റ് വിൻഡോയുള്ള ഒന്ന് തിരഞ്ഞെടുക്കുക.
അനുബന്ധ ഗൈഡുകൾ
- SillyTavern-നുള്ള സൗജന്യ API
- സൗജന്യ OpenAI-compatible API base URL-കൾ
- സൗജന്യ embeddings API
- RAG-നുള്ള സൗജന്യ LLM API
- സൗജന്യ LLM API റേറ്റ് പരിധികൾ
ഉറവിടങ്ങൾ
- Open WebUI docs: environment variable configuration (20 November 2026 ൽ പരിശോധിച്ചത്)
- Open WebUI docs: connect an OpenAI-compatible provider (20 November 2026 ൽ പരിശോധിച്ചത്)
- Open WebUI README: Docker installation (20 November 2026 ൽ പരിശോധിച്ചത്)
- FreeLLMAPI docs: REST API (routing strategies, model listing, embeddings) (20 November 2026 ൽ പരിശോധിച്ചത്)
- FreeLLMAPI docs: Docker deployment (20 November 2026 ൽ പരിശോധിച്ചത്)