मुफ़्त OpenAI-compatible API base URLs
अधिकांश मुफ़्त LLM providers OpenAI API format स्वीकार करते हैं। आप अपने client में दो मान बदलते हैं: base URL और API key। यह पेज हर मुफ़्त provider का base URL सूचीबद्ध करता है, जिसे provider के अपने documentation पर जांचा गया है।
कोड, मॉडल नाम और लाइव कैटलॉग लेबल अंग्रेज़ी में दिखाए गए हैं।
मुफ़्त providers के base URLs
| Provider | OpenAI-compatible base URL | Key |
|---|---|---|
| Google AI Studio (Gemini) | https://generativelanguage.googleapis.com/v1beta/openai/ | Gemini की API key |
| Groq | https://api.groq.com/openai/v1 | Groq की API key |
| OpenRouter | https://openrouter.ai/api/v1 | OpenRouter key। ऐसी model ids उपयोग करें जो :free पर खत्म होती हों। |
| NVIDIA API Catalog | https://integrate.api.nvidia.com/v1 | NVIDIA की API key |
| Cloudflare Workers AI | https://api.cloudflare.com/client/v4/accounts/<account-id>/ai/v1 | Cloudflare API token |
| Cohere | https://api.cohere.ai/compatibility/v1 | Cohere की trial या production key |
| Z.ai (Zhipu) | https://api.z.ai/api/paas/v4/ | Z.ai की API key |
| OVHcloud AI Endpoints | https://oai.endpoints.kepler.ai.cloud.ovh.net/v1 | वैकल्पिक। कम limit पर anonymous उपयोग की अनुमति है। |
| Kilo Gateway | https://ai-gateway.kilo.ai/api/v1 | मुफ़्त models के लिए वैकल्पिक |
| AI Horde | https://oai.aihorde.net/v1 | Horde key, या anonymous key 0000000000 |
| Mistral | https://api.mistral.ai/v1 | Mistral key। API के लिए billing activation चाहिए। |
| Scaleway Generative APIs | https://api.scaleway.ai/v1 | Scaleway की secret key |
/chat/completions जोड़ते हैं। base URL में स्वयं /chat/completions न डालें। अंतिम path को ठीक वैसा ही रखें जैसा दिखाया गया है।अपने client में base URL कैसे बदलें
OpenAI SDKs base URL को किसी parameter से या environment variable से पढ़ते हैं। यह उदाहरण Groq का उपयोग करता है। किसी दूसरे provider के लिए URL, key और model id बदलें।
Python (OpenAI SDK)
from openai import OpenAI
client = OpenAI(
base_url="https://api.groq.com/openai/v1",
api_key="<groq-key>",
)
resp = client.chat.completions.create(
model="openai/gpt-oss-20b",
messages=[{"role": "user", "content": "Say hello"}],
)
print(resp.choices[0].message.content)Environment variables (पर्यावरण चर)
export OPENAI_BASE_URL=https://api.groq.com/openai/v1
export OPENAI_API_KEY=<groq-key>कई tools, उदाहरण के लिए Open WebUI, Cline और Aider, में OpenAI-compatible base URL के लिए फ़ील्ड होता है। तालिका का URL उस फ़ील्ड में डालें।
उपयोग से पहले base URL की जांच करें
Tool कॉन्फ़िगर करने से पहले दो जांचें करें। पहले, models की सूची लें। यह जांच दिखाती है कि URL और key सही हैं। दूसरे, एक छोटा chat अनुरोध भेजें। यह जांच दिखाती है कि model id मान्य है और आपका quota उपलब्ध है।
URL, key और एक model की जांच करें
BASE=https://api.groq.com/openai/v1
KEY=<groq-key>
# 1. List the models
curl -s $BASE/models -H "Authorization: Bearer $KEY" | head -c 600
# 2. Send one short request
curl -s $BASE/chat/completions \
-H "Authorization: Bearer $KEY" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 200}'Reasoning models पर बहुत छोटी max_tokens वैल्यू न सेट करें। कुछ मुफ़्त models दिखने वाले उत्तर से पहले छिपे reasoning tokens उपयोग करते हैं। छोटी सीमा के साथ, response खाली उत्तर पर रुक सकता है।
यदि पहली जांच 401 लौटाती है, तो इस URL के लिए key गलत है। यदि दूसरी जांच 429 लौटाती है, तो URL और key सही हैं, पर मुफ़्त limit पूरी हो चुकी है। Reset समय जानने के लिए provider के rate limit headers पढ़ें।
ध्यान रखने योग्य compatibility अंतर
"OpenAI-compatible" का अर्थ यह नहीं है कि हर parameter काम करता है। हर provider अलग उपसमूह का समर्थन करता है।
- Groq:
logprobs,logit_bias,top_logprobs,messages[].nameया 1 से अलगnवाले अनुरोध error 400 लौटाते हैं।temperature0 हो तो वह1e-8में बदल जाता है। - Cloudflare: URL में आपका account id होता है। Token Bearer token के रूप में भेजा जाता है।
- AI Horde: endpoint
/v1/chat/completionsऔर/v1/modelsसमर्थित करता है। Models स्वयंसेवक चलाते हैं, इसलिए गति और model सूची बदलती है। - Model ids: हर provider अपने model नाम उपयोग करता है। मान्य ids पाने के लिए हर base URL पर
GET /v1/modelsपढ़ें।
आज call किए जा सकने वाले मुफ़्त models
ये मुफ़्त models tool calling सपोर्ट करते हैं और उनकी context window कम से कम 128K tokens है। तालिका उन providers को दिखाती है जो हर model मुफ़्त देते हैं।
| मॉडल | मुफ़्त उपलब्ध | कॉन्टेक्स्ट | मुफ़्त सीमाएँ (सबसे अच्छा विकल्प) | टूल | विज़न |
|---|---|---|---|---|---|
| GLM 5.3 Flash | NVIDIA NIM | 1M | 40 अनुरोध/मिनट 40 RPM | हाँ | नहीं |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | हाँ | हाँ |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 अनुरोध/मिनट 20 अनुरोध/दिन 250,000 टोकन/मिनट ~3M | हाँ | हाँ |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 अनुरोध/मिनट 50 अनुरोध/दिन 50 req/day account-wide (1,000 after a $10 purchase) | हाँ | हाँ |
| Qwen3.8 27B | Groq, OVH AI Endpoints | 262K | 30 अनुरोध/मिनट 250 अनुरोध/दिन 70,000 टोकन/मिनट ~6M | हाँ | हाँ |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 अनुरोध/मिनट 20 अनुरोध/दिन 250,000 टोकन/मिनट ~3M | हाँ | हाँ |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | हाँ | हाँ |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 अनुरोध/मिनट 20 अनुरोध/दिन 250,000 टोकन/मिनट ~3M | हाँ | हाँ |
| Nemotron 3 Ultra 550B | Kilo Gateway, NVIDIA NIM, OpenRouter | 1M | 20 अनुरोध/मिनट 50 अनुरोध/दिन 50 req/day account-wide (1,000 after a $10 purchase) | हाँ | नहीं |
| Gemini 3.5 Flash Lite | Google AI Studio | 1M | 15 अनुरोध/मिनट 20 अनुरोध/दिन 250,000 टोकन/मिनट ~3M | हाँ | हाँ |
| Qwen3.6 27B | OVH AI Endpoints | 131K | 2 अनुरोध/मिनट 2/min per IP | हाँ | नहीं |
| Muse Glimmer 30B | NVIDIA NIM | 131K | 40 अनुरोध/मिनट 40 RPM | हाँ | हाँ |
46 मिलते-जुलते मुफ़्त मॉडल में से 12 दिखाए जा रहे हैं। सभी मॉडल देखें.
FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।
हर मुफ़्त provider के लिए एक base URL
तालिका के हर base URL की अपनी key और अपनी rate limit है। जब एक provider 429 error भेजता है, तो आपके code को दूसरे URL पर बदलना पड़ता है। FreeLLMAPI इसकी जगह आपको एक OpenAI-compatible base URL देता है। यह आपके कंप्यूटर पर चलता है और हर अनुरोध को ऐसे मुफ़्त provider को भेजता है जिसका quota अभी बचा है।
स्थानीय base URL इंस्टॉल करें और call करें
curl -fsSL https://freellmapi.co/install.sh | bash
export OPENAI_BASE_URL=http://localhost:3001/v1
export OPENAI_API_KEY=<unified-key>
curl $OPENAI_BASE_URL/chat/completions \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "auto", "messages": [{"role": "user", "content": "hi"}]}'http://localhost:3001पर Keys page में अपनी provider keys जोड़ें।- Router को चुनने देने के लिए
autoउपयोग करें। गति या intelligence को प्राथमिकता देने के लिएauto:fastयाauto:smartउपयोग करें। आप model id भी भेज सकते हैं। X-Routed-Viaresponse header दिखाता है कि किस provider और model ने उत्तर दिया।- वही server Anthropic clients के लिए
/v1/messagesऔर Gemini CLI के लिए/v1betaभी रखता है।
FreeLLMAPI मुफ़्त tiers उपयोग करता है, इसलिए हर provider की rate limits फिर भी लागू होती हैं। Failover भार को providers पर बांटता है, पर वह limits नहीं हटाता।
समस्या निवारण
| समस्या | कारण | समाधान |
|---|---|---|
| 404 Not Found | Base URL का path गलत है, या उसमें /chat/completions है | तालिका से base URL ठीक वैसा ही उपयोग करें |
| 401 Unauthorized | Key किसी दूसरे provider की है | Base URL वाले उसी provider की key उपयोग करें |
| सही अनुरोध पर 400 | Provider एक parameter का समर्थन नहीं करता | logprobs या n जैसे parameters हटाएं |
| त्रुटि संदेश: "Model not found" | Model id किसी दूसरे provider की है | Base URL पर GET /v1/models call करें |
| 429 Too Many Requests | मुफ़्त limit पूरी हो गई है | Reset तक प्रतीक्षा करें, या ऐसा gateway उपयोग करें जो failover करता हो |
अक्सर पूछे जाने वाले प्रश्न
Gemini के लिए OpenAI-compatible base URL क्या है?
Google https://generativelanguage.googleapis.com/v1beta/openai/ को base URL के रूप में दस्तावेज़ित करता है। API key के रूप में AI Studio से अपनी Gemini API key उपयोग करें।
Groq का OpenAI base URL क्या है?
Groq https://api.groq.com/openai/v1 दस्तावेज़ित करता है। Groq API key और Groq model id उपयोग करें।
क्या बिना key वाली कोई मुफ़्त OpenAI-compatible API है?
हां, कम limits के साथ। OVHcloud AI Endpoints हर IP और model के लिए प्रति मिनट 2 anonymous requests देता है। Kilo Gateway मुफ़्त models के लिए प्रति घंटा 200 anonymous requests देता है।
क्या मैं मुफ़्त providers के साथ OpenAI Python SDK उपयोग कर सकता हूं?
हां। base_url को provider URL पर और api_key को provider key पर सेट करें। उस provider की model id उपयोग करें।
एक base URL से कई मुफ़्त providers कैसे उपयोग करूं?
अपने कंप्यूटर पर FreeLLMAPI जैसा gateway चलाएं। अपने client को एक unified key के साथ http://localhost:3001/v1 की ओर इंगित करें, और router हर अनुरोध के लिए एक provider चुनता है।
संबंधित गाइड
- बिना credit card के मुफ़्त LLM API
- Signup के बिना LLM API
- मुफ़्त LLM API रेट सीमाएँ
- Python में मुफ़्त LLM API
- free llm api
- openrouter free alternative
स्रोत
- Google AI Studio: OpenAI compatibility (जाँचा गया 20 November 2026)
- GroqCloud: OpenAI compatibility (जाँचा गया 20 November 2026)
- OpenRouter: API rate limits (जाँचा गया 20 November 2026)
- NVIDIA API Catalog: API reference (जाँचा गया 20 November 2026)
- Cloudflare Workers AI: OpenAI compatible endpoints (जाँचा गया 20 November 2026)
- Cohere: Compatibility API (जाँचा गया 20 November 2026)
- Z.ai: OpenAI Python SDK (जाँचा गया 20 November 2026)
- OVHcloud: AI Endpoints Responses API (जाँचा गया 20 November 2026)
- Kilo Gateway: Authentication (जाँचा गया 20 November 2026)
- AI Horde README (जाँचा गया 20 November 2026)
- Mistral API reference (जाँचा गया 20 November 2026)
- Scaleway Generative APIs: Rate limits (जाँचा गया 20 November 2026)
- FreeLLMAPI docs: REST API (जाँचा गया 20 November 2026)