હોમ / માર્ગદર્શિકાઓ / મફત OpenAI સાથે સુસંગત API base URL

મફત OpenAI સાથે સુસંગત API base URL

મોટાભાગના મફત LLM પ્રદાતા OpenAI API ફોર્મેટ સ્વીકારે છે. તમારા client માં બે મૂલ્ય બદલો: base URL અને API કી. આ પેજ દરેક મફત પ્રદાતાનો base URL યાદી કરે છે, જે પ્રદાતાના પોતાના દસ્તાવેજ પર ચકાસેલ છે.

કોડ, મૉડેલ નામ અને લાઇવ કૅટલૉગ લેબલ અંગ્રેજીમાં બતાવવામાં આવે છે.

મફત પ્રદાતાના base URL

પ્રદાતા દસ્તાવેજ પર ચકાસેલ
પ્રદાતાOpenAI સાથે સુસંગત base URLકી
Google AI Studio (Gemini)https://generativelanguage.googleapis.com/v1beta/openai/Gemini API કી
Groqhttps://api.groq.com/openai/v1Groq API કી
OpenRouterhttps://openrouter.ai/api/v1OpenRouter કી. :free પર સમાપ્ત થતી model id વાપરો.
NVIDIA API Cataloghttps://integrate.api.nvidia.com/v1NVIDIA API કી
Cloudflare Workers AIhttps://api.cloudflare.com/client/v4/accounts/<account-id>/ai/v1Cloudflare API token
Coherehttps://api.cohere.ai/compatibility/v1Cohere trial અથવા production કી
Z.ai (Zhipu)https://api.z.ai/api/paas/v4/Z.ai API કી
OVHcloud AI Endpointshttps://oai.endpoints.kepler.ai.cloud.ovh.net/v1વૈકલ્પિક. ઓછી મર્યાદા સાથે અનામી ઉપયોગની મંજૂરી છે.
Kilo Gatewayhttps://ai-gateway.kilo.ai/api/v1મફત મોડેલ માટે વૈકલ્પિક
AI Hordehttps://oai.aihorde.net/v1Horde કી, અથવા અનામી કી 0000000000
Mistralhttps://api.mistral.ai/v1Mistral કી. API ને billing સક્રિય કરવાની જરૂર છે.
Scaleway Generative APIshttps://api.scaleway.ai/v1Scaleway secret key
નોંધ: કેટલાક SDK base URL માં /chat/completions ઉમેરે છે. /chat/completions જાતે base URL માં મૂકો નહીં. બતાવ્યા પ્રમાણે અંતનો path બરાબર રાખો.

તમારા client માં base URL કેવી રીતે બદલવો

OpenAI SDK base URL એક parameter માંથી અથવા environment variable માંથી વાંચે છે. આ ઉદાહરણ Groq વાપરે છે. બીજા પ્રદાતા માટે URL, કી અને model id બદલો.

Python (OpenAI SDK)

from openai import OpenAI

client = OpenAI(
    base_url="https://api.groq.com/openai/v1",
    api_key="<groq-key>",
)
resp = client.chat.completions.create(
    model="openai/gpt-oss-20b",
    messages=[{"role": "user", "content": "Say hello"}],
)
print(resp.choices[0].message.content)

Environment variables

export OPENAI_BASE_URL=https://api.groq.com/openai/v1
export OPENAI_API_KEY=<groq-key>

ઘણા સાધનો, ઉદાહરણ તરીકે Open WebUI, Cline અને Aider, OpenAI સાથે સુસંગત base URL માટે ફીલ્ડ ધરાવે છે. કોષ્ટકનો URL તે ફીલ્ડમાં મૂકો.

ઉપયોગ કરતા પહેલાં base URL ચકાસો

સાધન ગોઠવતા પહેલાં બે ચકાસણી કરો. પહેલા, મોડેલ યાદી કરો. આ ચકાસણી બતાવે છે કે URL અને કી સાચા છે. બીજું, એક ટૂંકી chat વિનંતી મોકલો. આ ચકાસણી બતાવે છે કે model id માન્ય છે અને તમારી પાસે ક્વોટા છે.

URL, કી અને એક મોડેલ ચકાસો

BASE=https://api.groq.com/openai/v1
KEY=<groq-key>

# 1. List the models
curl -s $BASE/models -H "Authorization: Bearer $KEY" | head -c 600

# 2. Send one short request
curl -s $BASE/chat/completions \
  -H "Authorization: Bearer $KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 200}'

reasoning મોડેલ પર ખૂબ નાની max_tokens કિંમત સેટ કરો નહીં. કેટલાક મફત મોડેલ દેખાતા જવાબ પહેલાં છુપાયેલા reasoning tokens વાપરે છે. નાની મર્યાદા સાથે, પ્રતિસાદ ખાલી જવાબ સાથે અટકી શકે છે.

પહેલી ચકાસણી 401 આપે, તો આ URL માટે કી ખોટી છે. બીજી ચકાસણી 429 આપે, તો URL અને કી સાચા છે, પરંતુ મફત મર્યાદા પહોંચી ગઈ છે. reset સમય શોધવા પ્રદાતાના rate limit હેડર વાંચો.

જાણવા જેવી સુસંગતતાની ખામીઓ

"OpenAI-compatible" નો અર્થ એ નથી કે દરેક parameter કામ કરે છે. દરેક પ્રદાતા અલગ ઉપગણ સપોર્ટ કરે છે.

  • Groq: logprobs, logit_bias, top_logprobs, messages[].name અથવા 1 સિવાયના n વાળી વિનંતીઓ ભૂલ 400 પાછી આપે છે. temperature 0 હોય તો તે 1e-8 માં બદલાય છે.
  • Cloudflare: URL માં તમારો account id હોય છે. token Bearer token તરીકે મોકલાય છે.
  • AI Horde: endpoint /v1/chat/completions અને /v1/models ને સપોર્ટ કરે છે. સ્વયંસેવકો મોડેલ ચલાવે છે, તેથી ગતિ અને મોડેલ યાદી બદલાય છે.
  • Model ids: દરેક પ્રદાતા પોતાના મોડેલ નામ વાપરે છે. માન્ય id મેળવવા દરેક base URL પર GET /v1/models વાંચો.

આજે તમે કૉલ કરી શકો તેવા મફત મોડેલ

આ મફત મોડેલ tool calling ને સપોર્ટ કરે છે અને ઓછામાં ઓછો 128K tokens નો context window ધરાવે છે. કોષ્ટક દરેક મોડેલ મફત પીરસતા પ્રદાતાઓ બતાવે છે.

tool calling અને 128K+ context ધરાવતા મફત મોડેલ
મૉડેલમફત ઉપલબ્ધસંદર્ભમફત મર્યાદા (શ્રેષ્ઠ ઑફર)સાધનોવિઝન
GLM 5.3 FlashNVIDIA NIM1M40 વિનંતી/મિનિટ
40 RPM
હાના
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaહાહા
Gemini 3.7 FlashGoogle AI Studio1M10 વિનંતી/મિનિટ
20 વિનંતી/દિવસ
250,000 ટોકન/મિનિટ
~3M
હાહા
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 વિનંતી/મિનિટ
50 વિનંતી/દિવસ
50 req/day account-wide (1,000 after a $10 purchase)
હાહા
Qwen3.8 27BGroq, OVH AI Endpoints262K30 વિનંતી/મિનિટ
250 વિનંતી/દિવસ
70,000 ટોકન/મિનિટ
~6M
હાહા
Gemini 3.6 FlashGoogle AI Studio1M10 વિનંતી/મિનિટ
20 વિનંતી/દિવસ
250,000 ટોકન/મિનિટ
~3M
હાહા
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayહાહા
Gemini 3.5 FlashGoogle AI Studio1M10 વિનંતી/મિનિટ
20 વિનંતી/દિવસ
250,000 ટોકન/મિનિટ
~3M
હાહા
Nemotron 3 Ultra 550BKilo Gateway, NVIDIA NIM, OpenRouter1M20 વિનંતી/મિનિટ
50 વિનંતી/દિવસ
50 req/day account-wide (1,000 after a $10 purchase)
હાના
Gemini 3.5 Flash LiteGoogle AI Studio1M15 વિનંતી/મિનિટ
20 વિનંતી/દિવસ
250,000 ટોકન/મિનિટ
~3M
હાહા
Qwen3.6 27BOVH AI Endpoints131K2 વિનંતી/મિનિટ
2/min per IP
હાના
Muse Glimmer 30BNVIDIA NIM131K40 વિનંતી/મિનિટ
40 RPM
હાહા

મેળ ખાતા 46 મફત મૉડેલમાંથી 12 બતાવ્યા. બધા મૉડેલ જુઓ.

FreeLLMAPI કૅટલૉગનો લાઇવ ડેટા (સંસ્કરણ 2026.11.19, તપાસ્યું 2026-11-19). મફત મર્યાદાઓ વારંવાર બદલાય છે. કૅટલૉગ દરરોજ તપાસવામાં આવે છે.

દરેક મફત પ્રદાતા માટે એક base URL

કોષ્ટકના દરેક base URL ની પોતાની કી અને પોતાની rate limit છે. જ્યારે એક પ્રદાતા 429 ભૂલ મોકલે, ત્યારે તમારા કોડને બીજા URL પર બદલવો પડે છે. તેના બદલે FreeLLMAPI તમને એક OpenAI સાથે સુસંગત base URL આપે છે. તે તમારા કમ્પ્યુટર પર ચાલે છે અને દરેક વિનંતીને એવા મફત પ્રદાતા પર મોકલે છે જેની પાસે હજી ક્વોટા છે.

સ્થાનિક base URL ઇન્સ્ટોલ કરો અને કૉલ કરો

curl -fsSL https://freellmapi.co/install.sh | bash

export OPENAI_BASE_URL=http://localhost:3001/v1
export OPENAI_API_KEY=<unified-key>

curl $OPENAI_BASE_URL/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "hi"}]}'
  • http://localhost:3001 પર Keys પેજ પર તમારી પ્રદાતા કી ઉમેરો.
  • રાઉટરને પસંદ કરવા દેવા auto વાપરો. ગતિ કે બુદ્ધિમત્તાને પસંદ કરવા auto:fast અથવા auto:smart વાપરો. તમે model id પણ મોકલી શકો છો.
  • X-Routed-Via પ્રતિસાદ હેડર જવાબ આપનાર પ્રદાતા અને મોડેલ બતાવે છે.
  • એ જ સર્વર પર Anthropic clients માટે /v1/messages અને Gemini CLI માટે /v1beta પણ છે.

FreeLLMAPI મફત ટાયર વાપરે છે, તેથી દરેક પ્રદાતાની rate limit હજી લાગુ પડે છે. Failover લોડને પ્રદાતાઓ પર વહેંચે છે, પરંતુ તે મર્યાદા દૂર કરતું નથી.

મુશ્કેલી નિવારણ

સમસ્યાકારણઉકેલ
404 Not Foundbase URL નો path ખોટો છે, અથવા તેમાં /chat/completions છેકોષ્ટકનો base URL બરાબર વાપરો
401 Unauthorizedકી બીજા પ્રદાતાની છેbase URL જેવા જ પ્રદાતાની કી વાપરો
માન્ય વિનંતી પર 400પ્રદાતો એક parameter સપોર્ટ કરતો નથીlogprobs અથવા n જેવા parameter દૂર કરો
Model not foundmodel id બીજા પ્રદાતાની છેbase URL પર GET /v1/models કૉલ કરો
429 Too Many Requestsમફત મર્યાદા પહોંચી ગઈ છેreset ની રાહ જુઓ, અથવા failover કરતું ગેટવે વાપરો
આ બધાનો ઉપયોગ એક જ કી દ્વારા કરો. FreeLLMAPI એક ઓપન-સોર્સ, સ્વ-હોસ્ટેડ રાઉટર છે. તે આ બધા મફત ટાયરને એક OpenAI સાથે સુસંગત એન્ડપોઇન્ટ પાછળ મૂકે છે અને જ્યારે એક મૉડેલની રેટ મર્યાદા આવે ત્યારે બીજા પર આપમેળે સ્વિચ કરે છે. કૅટલૉગ બ્રાઉઝ કરો અથવા લાઇવ જાઓ.

વારંવાર પૂછાતા પ્રશ્નો

Gemini માટે OpenAI સાથે સુસંગત base URL શું છે?

Google https://generativelanguage.googleapis.com/v1beta/openai/ ને base URL તરીકે દસ્તાવેજ કરે છે. API કી તરીકે AI Studio ની તમારી Gemini API કી વાપરો.

Groq OpenAI base URL શું છે?

Groq https://api.groq.com/openai/v1 દસ્તાવેજ કરે છે. Groq API કી અને Groq model id વાપરો.

શું કી વગરનો મફત OpenAI સાથે સુસંગત API છે?

હા, ઓછી મર્યાદા સાથે. OVHcloud AI Endpoints દરેક IP અને મોડેલ માટે પ્રતિ મિનિટ 2 અનામી વિનંતી આપે છે. Kilo Gateway મફત મોડેલ માટે પ્રતિ કલાક 200 અનામી વિનંતી આપે છે.

શું મફત પ્રદાતા સાથે OpenAI Python SDK વાપરી શકાય?

હા. base_url ને પ્રદાતા URL પર અને api_key ને પ્રદાતા કી પર સેટ કરો. તે પ્રદાતાની model id વાપરો.

એક base URL સાથે ઘણા મફત પ્રદાતા કેવી રીતે વાપરવા?

તમારા કમ્પ્યુટર પર FreeLLMAPI જેવું ગેટવે ચલાવો. તમારા client ને એક યુનિફાઇડ કી સાથે http://localhost:3001/v1 પર નિર્દેશ કરો, અને રાઉટર દરેક વિનંતી માટે પ્રદાતા પસંદ કરે છે.

સંબંધિત માર્ગદર્શિકાઓ

સ્રોતો

બધી માર્ગદર્શિકાઓ · બધા મફત મૉડેલ જુઓ