ഹോം / ഗൈഡുകൾ / സൗജന്യ OpenAI-compatible API base URL-കൾ

സൗജന്യ OpenAI-compatible API base URL-കൾ

മിക്ക സൗജന്യ LLM providers-ഉം OpenAI API ഫോർമാറ്റ് സ്വീകരിക്കുന്നു. നിങ്ങളുടെ client-ൽ രണ്ട് മൂല്യങ്ങൾ മാറ്റുന്നു: base URL ഉം API കീയും. ഓരോ സൗജന്യ provider-ന്റെയും base URL ഈ പേജ് പട്ടികപ്പെടുത്തുന്നു, provider-ന്റെ സ്വന്തം ഡോക്യുമെന്റേഷനിൽ പരിശോധിച്ചത്.

കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.

സൗജന്യ providers-ന്റെ base URL-കൾ

provider ഡോക്യുമെന്റേഷനിൽ പരിശോധിച്ചത്
ProviderOpenAI-compatible base URLകീ
Google AI Studio (Gemini)https://generativelanguage.googleapis.com/v1beta/openai/Gemini API കീ
Groqhttps://api.groq.com/openai/v1Groq API കീ
OpenRouterhttps://openrouter.ai/api/v1OpenRouter കീ. :free-ൽ അവസാനിക്കുന്ന model ids ഉപയോഗിക്കുക.
NVIDIA API Cataloghttps://integrate.api.nvidia.com/v1NVIDIA API കീ
Cloudflare Workers AIhttps://api.cloudflare.com/client/v4/accounts/<account-id>/ai/v1Cloudflare API token
Coherehttps://api.cohere.ai/compatibility/v1Cohere trial അല്ലെങ്കിൽ production കീ
Z.ai (Zhipu)https://api.z.ai/api/paas/v4/Z.ai API കീ
OVHcloud AI Endpointshttps://oai.endpoints.kepler.ai.cloud.ovh.net/v1ഓപ്ഷണൽ. കുറഞ്ഞ പരിധിയിൽ അജ്ഞാത ഉപയോഗം അനുവദിച്ചിരിക്കുന്നു.
Kilo Gatewayhttps://ai-gateway.kilo.ai/api/v1സൗജന്യ മോഡലുകൾക്ക് ഓപ്ഷണൽ
AI Hordehttps://oai.aihorde.net/v1Horde കീ, അല്ലെങ്കിൽ അജ്ഞാത കീ 0000000000
Mistralhttps://api.mistral.ai/v1Mistral കീ. API-ക്ക് billing സജീവമാക്കേണ്ടതുണ്ട്.
Scaleway Generative APIshttps://api.scaleway.ai/v1Scaleway secret key
കുറിപ്പ്: ചില SDK-കൾ base URL-ലേക്ക് /chat/completions ചേർക്കുന്നു. base URL-ൽ /chat/completions സ്വയം ഇടരുത്. അവസാന path കാണിച്ചിരിക്കുന്നതുപോലെ തന്നെ സൂക്ഷിക്കുക.

നിങ്ങളുടെ client-ൽ base URL എങ്ങനെ മാറ്റാം

OpenAI SDK-കൾ base URL ഒരു parameter-ൽ നിന്നോ ഒരു environment variable-ൽ നിന്നോ വായിക്കുന്നു. ഈ ഉദാഹരണം Groq ഉപയോഗിക്കുന്നു. മറ്റൊരു provider-ന് URL, കീ, model id എന്നിവ മാറ്റുക.

Python (OpenAI SDK)

from openai import OpenAI

client = OpenAI(
    base_url="https://api.groq.com/openai/v1",
    api_key="<groq-key>",
)
resp = client.chat.completions.create(
    model="openai/gpt-oss-20b",
    messages=[{"role": "user", "content": "Say hello"}],
)
print(resp.choices[0].message.content)

Environment variables

export OPENAI_BASE_URL=https://api.groq.com/openai/v1
export OPENAI_API_KEY=<groq-key>

Open WebUI, Cline, Aider പോലുള്ള പല ടൂളുകളിലും OpenAI-compatible base URL-ന് ഒരു ഫീൽഡ് ഉണ്ട്. പട്ടികയിലെ URL ആ ഫീൽഡിൽ ഇടുക.

ഉപയോഗിക്കുന്നതിന് മുമ്പ് base URL പരിശോധിക്കുക

ഒരു ടൂൾ കോൺഫിഗർ ചെയ്യുന്നതിന് മുമ്പ് രണ്ട് പരിശോധനകൾ നടത്തുക. ആദ്യം, മോഡലുകളുടെ പട്ടിക വായിക്കുക. URL-ഉം കീയും ശരിയാണെന്ന് ഈ പരിശോധന കാണിക്കുന്നു. രണ്ടാമതായി, ഒരു ചെറിയ chat അഭ്യർത്ഥന അയയ്ക്കുക. model id സാധുവാണെന്നും നിങ്ങൾക്ക് quota ഉണ്ടെന്നും ഈ പരിശോധന കാണിക്കുന്നു.

URL, കീ, ഒരു മോഡൽ പരിശോധിക്കുക

BASE=https://api.groq.com/openai/v1
KEY=<groq-key>

# 1. List the models
curl -s $BASE/models -H "Authorization: Bearer $KEY" | head -c 600

# 2. Send one short request
curl -s $BASE/chat/completions \
  -H "Authorization: Bearer $KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 200}'

reasoning മോഡലുകളിൽ വളരെ ചെറിയ max_tokens മൂല്യം സജ്ജമാക്കരുത്. ചില സൗജന്യ മോഡലുകൾ കാണുന്ന ഉത്തരത്തിന് മുമ്പ് മറഞ്ഞിരിക്കുന്ന reasoning tokens ഉപയോഗിക്കുന്നു. ചെറിയ പരിധിയിൽ, പ്രതികരണം ശൂന്യമായ ഉത്തരത്തോടെ നിന്നേക്കാം.

ആദ്യ പരിശോധന 401 നൽകിയാൽ, ഈ URL-ന് കീ തെറ്റാണ്. രണ്ടാമത്തെ പരിശോധന 429 നൽകിയാൽ, URL-ഉം കീയും ശരിയാണ്, പക്ഷേ സൗജന്യ പരിധി എത്തി. റീസെറ്റ് സമയം കണ്ടെത്താൻ provider-ന്റെ rate limit ഹെഡറുകൾ വായിക്കുക.

അറിഞ്ഞിരിക്കേണ്ട പൊരുത്തക്കേടുകൾ

"OpenAI-compatible" എന്നതിനർത്ഥം ഓരോ parameter-ഉം പ്രവർത്തിക്കുന്നു എന്നല്ല. ഓരോ provider-ഉം വ്യത്യസ്ത ഉപവിഭാഗം പിന്തുണയ്ക്കുന്നു.

  • Groq: logprobs, logit_bias, top_logprobs, messages[].name അല്ലെങ്കിൽ 1 അല്ലാത്ത n ഉള്ള അഭ്യർത്ഥനകൾ പിശക് 400 നൽകുന്നു. temperature 0 ആയാൽ 1e-8 ആയി മാറുന്നു.
  • Cloudflare: URL-ൽ നിങ്ങളുടെ account id ഉണ്ട്. token ഒരു Bearer token ആയി അയയ്ക്കുന്നു.
  • AI Horde: endpoint /v1/chat/completions, /v1/models എന്നിവ പിന്തുണയ്ക്കുന്നു. സന്നദ്ധ പ്രവർത്തകർ മോഡലുകൾ പ്രവർത്തിപ്പിക്കുന്നതിനാൽ വേഗതയും മോഡൽ പട്ടികയും മാറുന്നു.
  • Model ids: ഓരോ provider-ഉം സ്വന്തം മോഡൽ പേരുകൾ ഉപയോഗിക്കുന്നു. സാധുവായ ids ലഭിക്കാൻ ഓരോ base URL-ലും GET /v1/models വായിക്കുക.

ഇന്ന് വിളിക്കാവുന്ന സൗജന്യ മോഡലുകൾ

ഈ സൗജന്യ മോഡലുകൾ tool calling പിന്തുണയ്ക്കുന്നു, കുറഞ്ഞത് 128K tokens context window ഉണ്ട്. ഓരോ മോഡലും സൗജന്യമായി നൽകുന്ന providers പട്ടിക കാണിക്കുന്നു.

Tool calling ഉം 128K+ context ഉം ഉള്ള സൗജന്യ മോഡലുകൾ
മോഡൽസൗജന്യമായി ലഭ്യംകോൺടെക്സ്റ്റ്സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ)ടൂളുകൾദൃശ്യ ശേഷി
GLM 5.3 FlashNVIDIA NIM1M40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
അതെഇല്ല
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaഅതെഅതെ
Gemini 3.7 FlashGoogle AI Studio1M10 അഭ്യർഥന/മിനിറ്റ്
20 അഭ്യർഥന/ദിവസം
250,000 ടോക്കൺ/മിനിറ്റ്
~3M
അതെഅതെ
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 അഭ്യർഥന/മിനിറ്റ്
50 അഭ്യർഥന/ദിവസം
50 req/day account-wide (1,000 after a $10 purchase)
അതെഅതെ
Qwen3.8 27BGroq, OVH AI Endpoints262K30 അഭ്യർഥന/മിനിറ്റ്
250 അഭ്യർഥന/ദിവസം
70,000 ടോക്കൺ/മിനിറ്റ്
~6M
അതെഅതെ
Gemini 3.6 FlashGoogle AI Studio1M10 അഭ്യർഥന/മിനിറ്റ്
20 അഭ്യർഥന/ദിവസം
250,000 ടോക്കൺ/മിനിറ്റ്
~3M
അതെഅതെ
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayഅതെഅതെ
Gemini 3.5 FlashGoogle AI Studio1M10 അഭ്യർഥന/മിനിറ്റ്
20 അഭ്യർഥന/ദിവസം
250,000 ടോക്കൺ/മിനിറ്റ്
~3M
അതെഅതെ
Nemotron 3 Ultra 550BKilo Gateway, NVIDIA NIM, OpenRouter1M20 അഭ്യർഥന/മിനിറ്റ്
50 അഭ്യർഥന/ദിവസം
50 req/day account-wide (1,000 after a $10 purchase)
അതെഇല്ല
Gemini 3.5 Flash LiteGoogle AI Studio1M15 അഭ്യർഥന/മിനിറ്റ്
20 അഭ്യർഥന/ദിവസം
250,000 ടോക്കൺ/മിനിറ്റ്
~3M
അതെഅതെ
Qwen3.6 27BOVH AI Endpoints131K2 അഭ്യർഥന/മിനിറ്റ്
2/min per IP
അതെഇല്ല
Muse Glimmer 30BNVIDIA NIM131K40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
അതെഅതെ

പൊരുത്തപ്പെടുന്ന 46 സൗജന്യ മോഡലുകളിൽ 12 എണ്ണം കാണിക്കുന്നു. എല്ലാ മോഡലുകളും കാണുക.

FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.

എല്ലാ സൗജന്യ providers-നും ഒരു base URL

പട്ടികയിലെ ഓരോ base URL-നും സ്വന്തം കീയും സ്വന്തം rate limit-ഉം ഉണ്ട്. ഒരു provider 429 പിശക് അയയ്ക്കുമ്പോൾ, നിങ്ങളുടെ കോഡ് മറ്റൊരു URL-ലേക്ക് മാറണം. പകരം, FreeLLMAPI നിങ്ങൾക്ക് ഒരു OpenAI-compatible base URL നൽകുന്നു. അത് നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ പ്രവർത്തിക്കുകയും ഓരോ അഭ്യർത്ഥനയും ഇപ്പോഴും quota ഉള്ള ഒരു സൗജന്യ provider-ലേക്ക് അയയ്ക്കുകയും ചെയ്യുന്നു.

പ്രാദേശിക base URL ഇൻസ്റ്റാൾ ചെയ്ത് വിളിക്കുക

curl -fsSL https://freellmapi.co/install.sh | bash

export OPENAI_BASE_URL=http://localhost:3001/v1
export OPENAI_API_KEY=<unified-key>

curl $OPENAI_BASE_URL/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "hi"}]}'
  • http://localhost:3001-ലെ Keys പേജിൽ നിങ്ങളുടെ provider കീകൾ ചേർക്കുക.
  • router തിരഞ്ഞെടുക്കാൻ auto ഉപയോഗിക്കുക. വേഗതയോ ബുദ്ധിശക്തിയോ മുൻഗണന നൽകാൻ auto:fast അല്ലെങ്കിൽ auto:smart ഉപയോഗിക്കുക. ഒരു model id അയയ്ക്കാനും കഴിയും.
  • X-Routed-Via response ഹെഡർ ഉത്തരം നൽകിയ provider-ഉം മോഡലും കാണിക്കുന്നു.
  • അതേ സെർവറിൽ Anthropic clients-നായി /v1/messages, Gemini CLI-ക്കായി /v1beta എന്നിവയുമുണ്ട്.

FreeLLMAPI സൗജന്യ tiers ഉപയോഗിക്കുന്നതിനാൽ, ഓരോ provider-ന്റെയും rate limits ഇപ്പോഴും ബാധകമാണ്. failover ലോഡ് providers-ലുടനീളം വിതരണം ചെയ്യുന്നു, പക്ഷേ അത് പരിധികൾ നീക്കം ചെയ്യുന്നില്ല.

പ്രശ്നപരിഹാരം

പ്രശ്നംകാരണംപരിഹാരം
404 Not Foundbase URL-ന് തെറ്റായ path ഉണ്ട്, അല്ലെങ്കിൽ അതിൽ /chat/completions ഉണ്ട്പട്ടികയിലെ base URL കൃത്യമായി ഉപയോഗിക്കുക
401 Unauthorizedകീ മറ്റൊരു provider-ന്റേതാണ്base URL ഉള്ള അതേ provider-ന്റെ കീ ഉപയോഗിക്കുക
സാധുവായ അഭ്യർത്ഥനയിൽ 400provider ഒരു parameter പിന്തുണയ്ക്കുന്നില്ലlogprobs അല്ലെങ്കിൽ n പോലുള്ള parameters നീക്കം ചെയ്യുക
Model not foundmodel id മറ്റൊരു provider-ൽ നിന്നുള്ളതാണ്base URL-ൽ GET /v1/models വിളിക്കുക
429 Too Many Requestsസൗജന്യ പരിധി എത്തിറീസെറ്റിനായി കാത്തിരിക്കുക, അല്ലെങ്കിൽ failover ചെയ്യുന്ന ഒരു gateway ഉപയോഗിക്കുക
ഇവയെല്ലാം ഒരൊറ്റ കീ വഴി ഉപയോഗിക്കുക. FreeLLMAPI ഒരു ഓപ്പൺ-സോഴ്സ്, സ്വയം ഹോസ്റ്റ് ചെയ്യാവുന്ന റൂട്ടറാണ്. ഇത് ഈ സൗജന്യ ടയറുകളെല്ലാം ഒരൊറ്റ OpenAI-അനുയോജ്യ എൻഡ്‌പോയിന്റിനു പിന്നിൽ വയ്ക്കുന്നു. ഒരു മോഡലിന്റെ നിരക്ക് പരിധി എത്തുമ്പോൾ മറ്റൊന്നിലേക്ക് മാറുന്നു. കാറ്റലോഗ് ബ്രൗസ് ചെയ്യുക അല്ലെങ്കിൽ തത്സമയമാക്കുക.

പതിവ് ചോദ്യങ്ങൾ

Gemini-യുടെ OpenAI-compatible base URL എന്താണ്?

Google https://generativelanguage.googleapis.com/v1beta/openai/ base URL ആയി രേഖപ്പെടുത്തുന്നു. AI Studio-യിൽ നിന്നുള്ള നിങ്ങളുടെ Gemini API കീ API കീ ആയി ഉപയോഗിക്കുക.

Groq OpenAI base URL എന്താണ്?

Groq https://api.groq.com/openai/v1 രേഖപ്പെടുത്തുന്നു. ഒരു Groq API കീയും ഒരു Groq model id-യും ഉപയോഗിക്കുക.

കീയില്ലാതെ സൗജന്യ OpenAI-compatible API ഉണ്ടോ?

ഉണ്ട്, കുറഞ്ഞ പരിധികളോടെ. OVHcloud AI Endpoints ഓരോ IP-ക്കും ഓരോ മോഡലിനും മിനിറ്റിൽ 2 അജ്ഞാത അഭ്യർത്ഥനകൾ അനുവദിക്കുന്നു. Kilo Gateway സൗജന്യ മോഡലുകളിലേക്ക് മണിക്കൂറിൽ 200 അജ്ഞാത അഭ്യർത്ഥനകൾ അനുവദിക്കുന്നു.

സൗജന്യ providers-ൽ OpenAI Python SDK ഉപയോഗിക്കാമോ?

ഉവ്വ്. base_url provider URL ആയും api_key provider കീ ആയും സജ്ജമാക്കുക. ആ provider-ൽ നിന്നുള്ള ഒരു model id ഉപയോഗിക്കുക.

ഒരു base URL ഉപയോഗിച്ച് നിരവധി സൗജന്യ providers എങ്ങനെ ഉപയോഗിക്കാം?

നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ FreeLLMAPI പോലുള്ള ഒരു gateway പ്രവർത്തിപ്പിക്കുക. ഒരു ഏകീകൃത കീയോടെ നിങ്ങളുടെ client-നെ http://localhost:3001/v1-ലേക്ക് ചൂണ്ടിക്കാണിക്കുക. ഓരോ അഭ്യർത്ഥനയ്ക്കും router ഒരു provider തിരഞ്ഞെടുക്കുന്നു.

അനുബന്ധ ഗൈഡുകൾ

ഉറവിടങ്ങൾ

എല്ലാ ഗൈഡുകളും · എല്ലാ സൗജന്യ മോഡലുകളും കാണുക