होम / गाइड / मुफ़्त OpenAI-compatible API base URLs

मुफ़्त OpenAI-compatible API base URLs

अधिकांश मुफ़्त LLM providers OpenAI API format स्वीकार करते हैं। आप अपने client में दो मान बदलते हैं: base URL और API key। यह पेज हर मुफ़्त provider का base URL सूचीबद्ध करता है, जिसे provider के अपने documentation पर जांचा गया है।

कोड, मॉडल नाम और लाइव कैटलॉग लेबल अंग्रेज़ी में दिखाए गए हैं।

मुफ़्त providers के base URLs

Provider documentation पर जांचा गया
ProviderOpenAI-compatible base URLKey
Google AI Studio (Gemini)https://generativelanguage.googleapis.com/v1beta/openai/Gemini की API key
Groqhttps://api.groq.com/openai/v1Groq की API key
OpenRouterhttps://openrouter.ai/api/v1OpenRouter key। ऐसी model ids उपयोग करें जो :free पर खत्म होती हों।
NVIDIA API Cataloghttps://integrate.api.nvidia.com/v1NVIDIA की API key
Cloudflare Workers AIhttps://api.cloudflare.com/client/v4/accounts/<account-id>/ai/v1Cloudflare API token
Coherehttps://api.cohere.ai/compatibility/v1Cohere की trial या production key
Z.ai (Zhipu)https://api.z.ai/api/paas/v4/Z.ai की API key
OVHcloud AI Endpointshttps://oai.endpoints.kepler.ai.cloud.ovh.net/v1वैकल्पिक। कम limit पर anonymous उपयोग की अनुमति है।
Kilo Gatewayhttps://ai-gateway.kilo.ai/api/v1मुफ़्त models के लिए वैकल्पिक
AI Hordehttps://oai.aihorde.net/v1Horde key, या anonymous key 0000000000
Mistralhttps://api.mistral.ai/v1Mistral key। API के लिए billing activation चाहिए।
Scaleway Generative APIshttps://api.scaleway.ai/v1Scaleway की secret key
नोट: कुछ SDKs base URL में /chat/completions जोड़ते हैं। base URL में स्वयं /chat/completions न डालें। अंतिम path को ठीक वैसा ही रखें जैसा दिखाया गया है।

अपने client में base URL कैसे बदलें

OpenAI SDKs base URL को किसी parameter से या environment variable से पढ़ते हैं। यह उदाहरण Groq का उपयोग करता है। किसी दूसरे provider के लिए URL, key और model id बदलें।

Python (OpenAI SDK)

from openai import OpenAI

client = OpenAI(
    base_url="https://api.groq.com/openai/v1",
    api_key="<groq-key>",
)
resp = client.chat.completions.create(
    model="openai/gpt-oss-20b",
    messages=[{"role": "user", "content": "Say hello"}],
)
print(resp.choices[0].message.content)

Environment variables (पर्यावरण चर)

export OPENAI_BASE_URL=https://api.groq.com/openai/v1
export OPENAI_API_KEY=<groq-key>

कई tools, उदाहरण के लिए Open WebUI, Cline और Aider, में OpenAI-compatible base URL के लिए फ़ील्ड होता है। तालिका का URL उस फ़ील्ड में डालें।

उपयोग से पहले base URL की जांच करें

Tool कॉन्फ़िगर करने से पहले दो जांचें करें। पहले, models की सूची लें। यह जांच दिखाती है कि URL और key सही हैं। दूसरे, एक छोटा chat अनुरोध भेजें। यह जांच दिखाती है कि model id मान्य है और आपका quota उपलब्ध है।

URL, key और एक model की जांच करें

BASE=https://api.groq.com/openai/v1
KEY=<groq-key>

# 1. List the models
curl -s $BASE/models -H "Authorization: Bearer $KEY" | head -c 600

# 2. Send one short request
curl -s $BASE/chat/completions \
  -H "Authorization: Bearer $KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 200}'

Reasoning models पर बहुत छोटी max_tokens वैल्यू न सेट करें। कुछ मुफ़्त models दिखने वाले उत्तर से पहले छिपे reasoning tokens उपयोग करते हैं। छोटी सीमा के साथ, response खाली उत्तर पर रुक सकता है।

यदि पहली जांच 401 लौटाती है, तो इस URL के लिए key गलत है। यदि दूसरी जांच 429 लौटाती है, तो URL और key सही हैं, पर मुफ़्त limit पूरी हो चुकी है। Reset समय जानने के लिए provider के rate limit headers पढ़ें।

ध्यान रखने योग्य compatibility अंतर

"OpenAI-compatible" का अर्थ यह नहीं है कि हर parameter काम करता है। हर provider अलग उपसमूह का समर्थन करता है।

  • Groq: logprobs, logit_bias, top_logprobs, messages[].name या 1 से अलग n वाले अनुरोध error 400 लौटाते हैं। temperature 0 हो तो वह 1e-8 में बदल जाता है।
  • Cloudflare: URL में आपका account id होता है। Token Bearer token के रूप में भेजा जाता है।
  • AI Horde: endpoint /v1/chat/completions और /v1/models समर्थित करता है। Models स्वयंसेवक चलाते हैं, इसलिए गति और model सूची बदलती है।
  • Model ids: हर provider अपने model नाम उपयोग करता है। मान्य ids पाने के लिए हर base URL पर GET /v1/models पढ़ें।

आज call किए जा सकने वाले मुफ़्त models

ये मुफ़्त models tool calling सपोर्ट करते हैं और उनकी context window कम से कम 128K tokens है। तालिका उन providers को दिखाती है जो हर model मुफ़्त देते हैं।

Tool calling और 128K+ context वाले मुफ़्त models
मॉडलमुफ़्त उपलब्धकॉन्टेक्स्टमुफ़्त सीमाएँ (सबसे अच्छा विकल्प)टूलविज़न
GLM 5.3 FlashNVIDIA NIM1M40 अनुरोध/मिनट
40 RPM
हाँनहीं
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaहाँहाँ
Gemini 3.7 FlashGoogle AI Studio1M10 अनुरोध/मिनट
20 अनुरोध/दिन
250,000 टोकन/मिनट
~3M
हाँहाँ
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 अनुरोध/मिनट
50 अनुरोध/दिन
50 req/day account-wide (1,000 after a $10 purchase)
हाँहाँ
Qwen3.8 27BGroq, OVH AI Endpoints262K30 अनुरोध/मिनट
250 अनुरोध/दिन
70,000 टोकन/मिनट
~6M
हाँहाँ
Gemini 3.6 FlashGoogle AI Studio1M10 अनुरोध/मिनट
20 अनुरोध/दिन
250,000 टोकन/मिनट
~3M
हाँहाँ
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayहाँहाँ
Gemini 3.5 FlashGoogle AI Studio1M10 अनुरोध/मिनट
20 अनुरोध/दिन
250,000 टोकन/मिनट
~3M
हाँहाँ
Nemotron 3 Ultra 550BKilo Gateway, NVIDIA NIM, OpenRouter1M20 अनुरोध/मिनट
50 अनुरोध/दिन
50 req/day account-wide (1,000 after a $10 purchase)
हाँनहीं
Gemini 3.5 Flash LiteGoogle AI Studio1M15 अनुरोध/मिनट
20 अनुरोध/दिन
250,000 टोकन/मिनट
~3M
हाँहाँ
Qwen3.6 27BOVH AI Endpoints131K2 अनुरोध/मिनट
2/min per IP
हाँनहीं
Muse Glimmer 30BNVIDIA NIM131K40 अनुरोध/मिनट
40 RPM
हाँहाँ

46 मिलते-जुलते मुफ़्त मॉडल में से 12 दिखाए जा रहे हैं। सभी मॉडल देखें.

FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।

हर मुफ़्त provider के लिए एक base URL

तालिका के हर base URL की अपनी key और अपनी rate limit है। जब एक provider 429 error भेजता है, तो आपके code को दूसरे URL पर बदलना पड़ता है। FreeLLMAPI इसकी जगह आपको एक OpenAI-compatible base URL देता है। यह आपके कंप्यूटर पर चलता है और हर अनुरोध को ऐसे मुफ़्त provider को भेजता है जिसका quota अभी बचा है।

स्थानीय base URL इंस्टॉल करें और call करें

curl -fsSL https://freellmapi.co/install.sh | bash

export OPENAI_BASE_URL=http://localhost:3001/v1
export OPENAI_API_KEY=<unified-key>

curl $OPENAI_BASE_URL/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "hi"}]}'
  • http://localhost:3001 पर Keys page में अपनी provider keys जोड़ें।
  • Router को चुनने देने के लिए auto उपयोग करें। गति या intelligence को प्राथमिकता देने के लिए auto:fast या auto:smart उपयोग करें। आप model id भी भेज सकते हैं।
  • X-Routed-Via response header दिखाता है कि किस provider और model ने उत्तर दिया।
  • वही server Anthropic clients के लिए /v1/messages और Gemini CLI के लिए /v1beta भी रखता है।

FreeLLMAPI मुफ़्त tiers उपयोग करता है, इसलिए हर provider की rate limits फिर भी लागू होती हैं। Failover भार को providers पर बांटता है, पर वह limits नहीं हटाता।

समस्या निवारण

समस्याकारणसमाधान
404 Not FoundBase URL का path गलत है, या उसमें /chat/completions हैतालिका से base URL ठीक वैसा ही उपयोग करें
401 UnauthorizedKey किसी दूसरे provider की हैBase URL वाले उसी provider की key उपयोग करें
सही अनुरोध पर 400Provider एक parameter का समर्थन नहीं करताlogprobs या n जैसे parameters हटाएं
त्रुटि संदेश: "Model not found"Model id किसी दूसरे provider की हैBase URL पर GET /v1/models call करें
429 Too Many Requestsमुफ़्त limit पूरी हो गई हैReset तक प्रतीक्षा करें, या ऐसा gateway उपयोग करें जो failover करता हो
इनमें से हर एक का उपयोग एक ही कुंजी से करें। FreeLLMAPI एक ओपन-सोर्स, सेल्फ़-होस्टेड राउटर है। यह इन सभी मुफ़्त टियर को एक OpenAI-संगत एंडपॉइंट के पीछे रखता है। जब कोई एक सीमा पर पहुँचता है, तो यह अगले प्रदाता पर स्विच कर देता है। कैटलॉग देखें या शुरू करें.

अक्सर पूछे जाने वाले प्रश्न

Gemini के लिए OpenAI-compatible base URL क्या है?

Google https://generativelanguage.googleapis.com/v1beta/openai/ को base URL के रूप में दस्तावेज़ित करता है। API key के रूप में AI Studio से अपनी Gemini API key उपयोग करें।

Groq का OpenAI base URL क्या है?

Groq https://api.groq.com/openai/v1 दस्तावेज़ित करता है। Groq API key और Groq model id उपयोग करें।

क्या बिना key वाली कोई मुफ़्त OpenAI-compatible API है?

हां, कम limits के साथ। OVHcloud AI Endpoints हर IP और model के लिए प्रति मिनट 2 anonymous requests देता है। Kilo Gateway मुफ़्त models के लिए प्रति घंटा 200 anonymous requests देता है।

क्या मैं मुफ़्त providers के साथ OpenAI Python SDK उपयोग कर सकता हूं?

हां। base_url को provider URL पर और api_key को provider key पर सेट करें। उस provider की model id उपयोग करें।

एक base URL से कई मुफ़्त providers कैसे उपयोग करूं?

अपने कंप्यूटर पर FreeLLMAPI जैसा gateway चलाएं। अपने client को एक unified key के साथ http://localhost:3001/v1 की ओर इंगित करें, और router हर अनुरोध के लिए एक provider चुनता है।

संबंधित गाइड

स्रोत

सभी गाइड · सभी मुफ़्त मॉडल देखें