സൗജന്യ OpenAI-compatible API base URL-കൾ
മിക്ക സൗജന്യ LLM providers-ഉം OpenAI API ഫോർമാറ്റ് സ്വീകരിക്കുന്നു. നിങ്ങളുടെ client-ൽ രണ്ട് മൂല്യങ്ങൾ മാറ്റുന്നു: base URL ഉം API കീയും. ഓരോ സൗജന്യ provider-ന്റെയും base URL ഈ പേജ് പട്ടികപ്പെടുത്തുന്നു, provider-ന്റെ സ്വന്തം ഡോക്യുമെന്റേഷനിൽ പരിശോധിച്ചത്.
കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.
സൗജന്യ providers-ന്റെ base URL-കൾ
| Provider | OpenAI-compatible base URL | കീ |
|---|---|---|
| Google AI Studio (Gemini) | https://generativelanguage.googleapis.com/v1beta/openai/ | Gemini API കീ |
| Groq | https://api.groq.com/openai/v1 | Groq API കീ |
| OpenRouter | https://openrouter.ai/api/v1 | OpenRouter കീ. :free-ൽ അവസാനിക്കുന്ന model ids ഉപയോഗിക്കുക. |
| NVIDIA API Catalog | https://integrate.api.nvidia.com/v1 | NVIDIA API കീ |
| Cloudflare Workers AI | https://api.cloudflare.com/client/v4/accounts/<account-id>/ai/v1 | Cloudflare API token |
| Cohere | https://api.cohere.ai/compatibility/v1 | Cohere trial അല്ലെങ്കിൽ production കീ |
| Z.ai (Zhipu) | https://api.z.ai/api/paas/v4/ | Z.ai API കീ |
| OVHcloud AI Endpoints | https://oai.endpoints.kepler.ai.cloud.ovh.net/v1 | ഓപ്ഷണൽ. കുറഞ്ഞ പരിധിയിൽ അജ്ഞാത ഉപയോഗം അനുവദിച്ചിരിക്കുന്നു. |
| Kilo Gateway | https://ai-gateway.kilo.ai/api/v1 | സൗജന്യ മോഡലുകൾക്ക് ഓപ്ഷണൽ |
| AI Horde | https://oai.aihorde.net/v1 | Horde കീ, അല്ലെങ്കിൽ അജ്ഞാത കീ 0000000000 |
| Mistral | https://api.mistral.ai/v1 | Mistral കീ. API-ക്ക് billing സജീവമാക്കേണ്ടതുണ്ട്. |
| Scaleway Generative APIs | https://api.scaleway.ai/v1 | Scaleway secret key |
/chat/completions ചേർക്കുന്നു. base URL-ൽ /chat/completions സ്വയം ഇടരുത്. അവസാന path കാണിച്ചിരിക്കുന്നതുപോലെ തന്നെ സൂക്ഷിക്കുക.നിങ്ങളുടെ client-ൽ base URL എങ്ങനെ മാറ്റാം
OpenAI SDK-കൾ base URL ഒരു parameter-ൽ നിന്നോ ഒരു environment variable-ൽ നിന്നോ വായിക്കുന്നു. ഈ ഉദാഹരണം Groq ഉപയോഗിക്കുന്നു. മറ്റൊരു provider-ന് URL, കീ, model id എന്നിവ മാറ്റുക.
Python (OpenAI SDK)
from openai import OpenAI
client = OpenAI(
base_url="https://api.groq.com/openai/v1",
api_key="<groq-key>",
)
resp = client.chat.completions.create(
model="openai/gpt-oss-20b",
messages=[{"role": "user", "content": "Say hello"}],
)
print(resp.choices[0].message.content)Environment variables
export OPENAI_BASE_URL=https://api.groq.com/openai/v1
export OPENAI_API_KEY=<groq-key>Open WebUI, Cline, Aider പോലുള്ള പല ടൂളുകളിലും OpenAI-compatible base URL-ന് ഒരു ഫീൽഡ് ഉണ്ട്. പട്ടികയിലെ URL ആ ഫീൽഡിൽ ഇടുക.
ഉപയോഗിക്കുന്നതിന് മുമ്പ് base URL പരിശോധിക്കുക
ഒരു ടൂൾ കോൺഫിഗർ ചെയ്യുന്നതിന് മുമ്പ് രണ്ട് പരിശോധനകൾ നടത്തുക. ആദ്യം, മോഡലുകളുടെ പട്ടിക വായിക്കുക. URL-ഉം കീയും ശരിയാണെന്ന് ഈ പരിശോധന കാണിക്കുന്നു. രണ്ടാമതായി, ഒരു ചെറിയ chat അഭ്യർത്ഥന അയയ്ക്കുക. model id സാധുവാണെന്നും നിങ്ങൾക്ക് quota ഉണ്ടെന്നും ഈ പരിശോധന കാണിക്കുന്നു.
URL, കീ, ഒരു മോഡൽ പരിശോധിക്കുക
BASE=https://api.groq.com/openai/v1
KEY=<groq-key>
# 1. List the models
curl -s $BASE/models -H "Authorization: Bearer $KEY" | head -c 600
# 2. Send one short request
curl -s $BASE/chat/completions \
-H "Authorization: Bearer $KEY" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 200}'reasoning മോഡലുകളിൽ വളരെ ചെറിയ max_tokens മൂല്യം സജ്ജമാക്കരുത്. ചില സൗജന്യ മോഡലുകൾ കാണുന്ന ഉത്തരത്തിന് മുമ്പ് മറഞ്ഞിരിക്കുന്ന reasoning tokens ഉപയോഗിക്കുന്നു. ചെറിയ പരിധിയിൽ, പ്രതികരണം ശൂന്യമായ ഉത്തരത്തോടെ നിന്നേക്കാം.
ആദ്യ പരിശോധന 401 നൽകിയാൽ, ഈ URL-ന് കീ തെറ്റാണ്. രണ്ടാമത്തെ പരിശോധന 429 നൽകിയാൽ, URL-ഉം കീയും ശരിയാണ്, പക്ഷേ സൗജന്യ പരിധി എത്തി. റീസെറ്റ് സമയം കണ്ടെത്താൻ provider-ന്റെ rate limit ഹെഡറുകൾ വായിക്കുക.
അറിഞ്ഞിരിക്കേണ്ട പൊരുത്തക്കേടുകൾ
"OpenAI-compatible" എന്നതിനർത്ഥം ഓരോ parameter-ഉം പ്രവർത്തിക്കുന്നു എന്നല്ല. ഓരോ provider-ഉം വ്യത്യസ്ത ഉപവിഭാഗം പിന്തുണയ്ക്കുന്നു.
- Groq:
logprobs,logit_bias,top_logprobs,messages[].nameഅല്ലെങ്കിൽ 1 അല്ലാത്തnഉള്ള അഭ്യർത്ഥനകൾ പിശക് 400 നൽകുന്നു.temperature0 ആയാൽ1e-8ആയി മാറുന്നു. - Cloudflare: URL-ൽ നിങ്ങളുടെ account id ഉണ്ട്. token ഒരു Bearer token ആയി അയയ്ക്കുന്നു.
- AI Horde: endpoint
/v1/chat/completions,/v1/modelsഎന്നിവ പിന്തുണയ്ക്കുന്നു. സന്നദ്ധ പ്രവർത്തകർ മോഡലുകൾ പ്രവർത്തിപ്പിക്കുന്നതിനാൽ വേഗതയും മോഡൽ പട്ടികയും മാറുന്നു. - Model ids: ഓരോ provider-ഉം സ്വന്തം മോഡൽ പേരുകൾ ഉപയോഗിക്കുന്നു. സാധുവായ ids ലഭിക്കാൻ ഓരോ base URL-ലും
GET /v1/modelsവായിക്കുക.
ഇന്ന് വിളിക്കാവുന്ന സൗജന്യ മോഡലുകൾ
ഈ സൗജന്യ മോഡലുകൾ tool calling പിന്തുണയ്ക്കുന്നു, കുറഞ്ഞത് 128K tokens context window ഉണ്ട്. ഓരോ മോഡലും സൗജന്യമായി നൽകുന്ന providers പട്ടിക കാണിക്കുന്നു.
| മോഡൽ | സൗജന്യമായി ലഭ്യം | കോൺടെക്സ്റ്റ് | സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ) | ടൂളുകൾ | ദൃശ്യ ശേഷി |
|---|---|---|---|---|---|
| GLM 5.3 Flash | NVIDIA NIM | 1M | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | അതെ | ഇല്ല |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | അതെ | അതെ |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 അഭ്യർഥന/മിനിറ്റ് 50 അഭ്യർഥന/ദിവസം 50 req/day account-wide (1,000 after a $10 purchase) | അതെ | അതെ |
| Qwen3.8 27B | Groq, OVH AI Endpoints | 262K | 30 അഭ്യർഥന/മിനിറ്റ് 250 അഭ്യർഥന/ദിവസം 70,000 ടോക്കൺ/മിനിറ്റ് ~6M | അതെ | അതെ |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | അതെ | അതെ |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| Nemotron 3 Ultra 550B | Kilo Gateway, NVIDIA NIM, OpenRouter | 1M | 20 അഭ്യർഥന/മിനിറ്റ് 50 അഭ്യർഥന/ദിവസം 50 req/day account-wide (1,000 after a $10 purchase) | അതെ | ഇല്ല |
| Gemini 3.5 Flash Lite | Google AI Studio | 1M | 15 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| Qwen3.6 27B | OVH AI Endpoints | 131K | 2 അഭ്യർഥന/മിനിറ്റ് 2/min per IP | അതെ | ഇല്ല |
| Muse Glimmer 30B | NVIDIA NIM | 131K | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | അതെ | അതെ |
പൊരുത്തപ്പെടുന്ന 46 സൗജന്യ മോഡലുകളിൽ 12 എണ്ണം കാണിക്കുന്നു. എല്ലാ മോഡലുകളും കാണുക.
FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.
എല്ലാ സൗജന്യ providers-നും ഒരു base URL
പട്ടികയിലെ ഓരോ base URL-നും സ്വന്തം കീയും സ്വന്തം rate limit-ഉം ഉണ്ട്. ഒരു provider 429 പിശക് അയയ്ക്കുമ്പോൾ, നിങ്ങളുടെ കോഡ് മറ്റൊരു URL-ലേക്ക് മാറണം. പകരം, FreeLLMAPI നിങ്ങൾക്ക് ഒരു OpenAI-compatible base URL നൽകുന്നു. അത് നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ പ്രവർത്തിക്കുകയും ഓരോ അഭ്യർത്ഥനയും ഇപ്പോഴും quota ഉള്ള ഒരു സൗജന്യ provider-ലേക്ക് അയയ്ക്കുകയും ചെയ്യുന്നു.
പ്രാദേശിക base URL ഇൻസ്റ്റാൾ ചെയ്ത് വിളിക്കുക
curl -fsSL https://freellmapi.co/install.sh | bash
export OPENAI_BASE_URL=http://localhost:3001/v1
export OPENAI_API_KEY=<unified-key>
curl $OPENAI_BASE_URL/chat/completions \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "auto", "messages": [{"role": "user", "content": "hi"}]}'http://localhost:3001-ലെ Keys പേജിൽ നിങ്ങളുടെ provider കീകൾ ചേർക്കുക.- router തിരഞ്ഞെടുക്കാൻ
autoഉപയോഗിക്കുക. വേഗതയോ ബുദ്ധിശക്തിയോ മുൻഗണന നൽകാൻauto:fastഅല്ലെങ്കിൽauto:smartഉപയോഗിക്കുക. ഒരു model id അയയ്ക്കാനും കഴിയും. X-Routed-Viaresponse ഹെഡർ ഉത്തരം നൽകിയ provider-ഉം മോഡലും കാണിക്കുന്നു.- അതേ സെർവറിൽ Anthropic clients-നായി
/v1/messages, Gemini CLI-ക്കായി/v1betaഎന്നിവയുമുണ്ട്.
FreeLLMAPI സൗജന്യ tiers ഉപയോഗിക്കുന്നതിനാൽ, ഓരോ provider-ന്റെയും rate limits ഇപ്പോഴും ബാധകമാണ്. failover ലോഡ് providers-ലുടനീളം വിതരണം ചെയ്യുന്നു, പക്ഷേ അത് പരിധികൾ നീക്കം ചെയ്യുന്നില്ല.
പ്രശ്നപരിഹാരം
| പ്രശ്നം | കാരണം | പരിഹാരം |
|---|---|---|
| 404 Not Found | base URL-ന് തെറ്റായ path ഉണ്ട്, അല്ലെങ്കിൽ അതിൽ /chat/completions ഉണ്ട് | പട്ടികയിലെ base URL കൃത്യമായി ഉപയോഗിക്കുക |
| 401 Unauthorized | കീ മറ്റൊരു provider-ന്റേതാണ് | base URL ഉള്ള അതേ provider-ന്റെ കീ ഉപയോഗിക്കുക |
| സാധുവായ അഭ്യർത്ഥനയിൽ 400 | provider ഒരു parameter പിന്തുണയ്ക്കുന്നില്ല | logprobs അല്ലെങ്കിൽ n പോലുള്ള parameters നീക്കം ചെയ്യുക |
| Model not found | model id മറ്റൊരു provider-ൽ നിന്നുള്ളതാണ് | base URL-ൽ GET /v1/models വിളിക്കുക |
| 429 Too Many Requests | സൗജന്യ പരിധി എത്തി | റീസെറ്റിനായി കാത്തിരിക്കുക, അല്ലെങ്കിൽ failover ചെയ്യുന്ന ഒരു gateway ഉപയോഗിക്കുക |
പതിവ് ചോദ്യങ്ങൾ
Gemini-യുടെ OpenAI-compatible base URL എന്താണ്?
Google https://generativelanguage.googleapis.com/v1beta/openai/ base URL ആയി രേഖപ്പെടുത്തുന്നു. AI Studio-യിൽ നിന്നുള്ള നിങ്ങളുടെ Gemini API കീ API കീ ആയി ഉപയോഗിക്കുക.
Groq OpenAI base URL എന്താണ്?
Groq https://api.groq.com/openai/v1 രേഖപ്പെടുത്തുന്നു. ഒരു Groq API കീയും ഒരു Groq model id-യും ഉപയോഗിക്കുക.
കീയില്ലാതെ സൗജന്യ OpenAI-compatible API ഉണ്ടോ?
ഉണ്ട്, കുറഞ്ഞ പരിധികളോടെ. OVHcloud AI Endpoints ഓരോ IP-ക്കും ഓരോ മോഡലിനും മിനിറ്റിൽ 2 അജ്ഞാത അഭ്യർത്ഥനകൾ അനുവദിക്കുന്നു. Kilo Gateway സൗജന്യ മോഡലുകളിലേക്ക് മണിക്കൂറിൽ 200 അജ്ഞാത അഭ്യർത്ഥനകൾ അനുവദിക്കുന്നു.
സൗജന്യ providers-ൽ OpenAI Python SDK ഉപയോഗിക്കാമോ?
ഉവ്വ്. base_url provider URL ആയും api_key provider കീ ആയും സജ്ജമാക്കുക. ആ provider-ൽ നിന്നുള്ള ഒരു model id ഉപയോഗിക്കുക.
ഒരു base URL ഉപയോഗിച്ച് നിരവധി സൗജന്യ providers എങ്ങനെ ഉപയോഗിക്കാം?
നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ FreeLLMAPI പോലുള്ള ഒരു gateway പ്രവർത്തിപ്പിക്കുക. ഒരു ഏകീകൃത കീയോടെ നിങ്ങളുടെ client-നെ http://localhost:3001/v1-ലേക്ക് ചൂണ്ടിക്കാണിക്കുക. ഓരോ അഭ്യർത്ഥനയ്ക്കും router ഒരു provider തിരഞ്ഞെടുക്കുന്നു.
അനുബന്ധ ഗൈഡുകൾ
- കാർഡ് ഇല്ലാതെ സൗജന്യ LLM API
- സൈൻ അപ്പ് ഇല്ലാതെ LLM API
- സൗജന്യ LLM API റേറ്റ് പരിധികൾ
- Python-ൽ സൗജന്യ LLM API
- free llm api
- openrouter free alternative
ഉറവിടങ്ങൾ
- Google AI Studio: OpenAI compatibility (20 November 2026 ൽ പരിശോധിച്ചത്)
- GroqCloud: OpenAI compatibility (20 November 2026 ൽ പരിശോധിച്ചത്)
- OpenRouter: API rate limits (20 November 2026 ൽ പരിശോധിച്ചത്)
- NVIDIA API Catalog: API reference (20 November 2026 ൽ പരിശോധിച്ചത്)
- Cloudflare Workers AI: OpenAI compatible endpoints (20 November 2026 ൽ പരിശോധിച്ചത്)
- Cohere: Compatibility API (20 November 2026 ൽ പരിശോധിച്ചത്)
- Z.ai: OpenAI Python SDK (20 November 2026 ൽ പരിശോധിച്ചത്)
- OVHcloud: AI Endpoints Responses API (20 November 2026 ൽ പരിശോധിച്ചത്)
- Kilo Gateway: Authentication (20 November 2026 ൽ പരിശോധിച്ചത്)
- AI Horde README (20 November 2026 ൽ പരിശോധിച്ചത്)
- Mistral API reference (20 November 2026 ൽ പരിശോധിച്ചത്)
- Scaleway Generative APIs: Rate limits (20 November 2026 ൽ പരിശോധിച്ചത്)
- FreeLLMAPI docs: REST API (20 November 2026 ൽ പരിശോധിച്ചത്)