Nyumbani / Miongozo / Base URL za free API zinazooana na OpenAI

Base URL za free API zinazooana na OpenAI

Watoa huduma wengi wa bure wa LLM wanakubali muundo wa OpenAI API. Unabadilisha thamani mbili kwenye client yako: base URL na ufunguo wa API. Ukurasa huu unaorodhesha base URL ya kila mtoa huduma wa bure, iliyokaguliwa kwenye nyaraka zake wenyewe.

Msimbo, majina ya modeli na lebo za katalogi ya moja kwa moja zinaonyeshwa kwa Kiingereza.

Base URL za watoa huduma wa bure

Imekaguliwa kwenye nyaraka za watoa huduma
Mtoa hudumaBase URL inayooana na OpenAIUfunguo
Google AI Studio (Gemini)https://generativelanguage.googleapis.com/v1beta/openai/Ufunguo wa Gemini API
Groqhttps://api.groq.com/openai/v1Ufunguo wa Groq API
OpenRouterhttps://openrouter.ai/api/v1Ufunguo wa OpenRouter. Tumia vitambulisho vya model vinavyoishia na :free.
NVIDIA API Cataloghttps://integrate.api.nvidia.com/v1Ufunguo wa NVIDIA API
Cloudflare Workers AIhttps://api.cloudflare.com/client/v4/accounts/<account-id>/ai/v1Token ya Cloudflare API
Coherehttps://api.cohere.ai/compatibility/v1Ufunguo wa majaribio au wa uzalishaji wa Cohere
Z.ai (Zhipu)https://api.z.ai/api/paas/v4/Ufunguo wa Z.ai API
OVHcloud AI Endpointshttps://oai.endpoints.kepler.ai.cloud.ovh.net/v1Hiari. Matumizi yasiyojitambulisha yanaruhusiwa kwa kikomo kidogo.
Kilo Gatewayhttps://ai-gateway.kilo.ai/api/v1Hiari kwa model za bure
AI Hordehttps://oai.aihorde.net/v1Ufunguo wa Horde, au ufunguo usiojitambulisha 0000000000
Mistralhttps://api.mistral.ai/v1Ufunguo wa Mistral. API inahitaji kuwezesha malipo.
Scaleway Generative APIshttps://api.scaleway.ai/v1Ufunguo wa siri wa Scaleway
Kumbuka: baadhi ya SDK huongeza /chat/completions kwenye base URL. Usiweke /chat/completions kwenye base URL mwenyewe. Weka njia ya mwisho kama inavyoonyeshwa.

Jinsi ya kubadilisha base URL kwenye client yako

OpenAI SDK husoma base URL kutoka parameter au variable ya mazingira. Mfano huu unatumia Groq. Badilisha URL, ufunguo na kitambulisho cha model kwa mtoa huduma mwingine.

Python (OpenAI SDK)

from openai import OpenAI

client = OpenAI(
    base_url="https://api.groq.com/openai/v1",
    api_key="<groq-key>",
)
resp = client.chat.completions.create(
    model="openai/gpt-oss-20b",
    messages=[{"role": "user", "content": "Say hello"}],
)
print(resp.choices[0].message.content)

Variable za mazingira

export OPENAI_BASE_URL=https://api.groq.com/openai/v1
export OPENAI_API_KEY=<groq-key>

Zana nyingi, kwa mfano Open WebUI, Cline na Aider, zina sehemu ya base URL inayooana na OpenAI. Weka URL kutoka jedwali kwenye sehemu hiyo.

Jaribu base URL kabla ya kuitumia

Fanya ukaguzi mbili kabla ya kusanidi zana. Kwanza, orodhesha model. Ukaguzi huu unaonyesha kwamba URL na ufunguo ni sahihi. Pili, tuma ombi moja fupi la gumzo. Ukaguzi huu unaonyesha kwamba kitambulisho cha model ni halali na kwamba una kiwango.

Angalia URL, ufunguo na model moja

BASE=https://api.groq.com/openai/v1
KEY=<groq-key>

# 1. List the models
curl -s $BASE/models -H "Authorization: Bearer $KEY" | head -c 600

# 2. Send one short request
curl -s $BASE/chat/completions \
  -H "Authorization: Bearer $KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 200}'

Usiweke thamani ndogo sana ya max_tokens kwenye model za kufikiri. Baadhi ya model za bure hutumia tokens za kufikiri za siri kabla ya jibu linaloonekana. Kwa kikomo kidogo, jibu linaweza kusimama likiwa tupu.

Ukaguzi wa kwanza ukirudisha 401, ufunguo si sahihi kwa URL hii. Ukaguzi wa pili ukirudisha 429, URL na ufunguo ni sahihi, lakini kikomo cha bure kimefikiwa. Soma vichwa vya kikomo cha kiwango vya mtoa huduma kutafuta muda wa kuweka upya.

Mapungufu ya upatanifu ya kuzingatia

"Inayooana na OpenAI" haimaanishi kwamba kila parameter inafanya kazi. Kila mtoa huduma anaunga mkono sehemu tofauti.

  • Groq: maombi yenye logprobs, logit_bias, top_logprobs, messages[].name au n isiyo 1 hurudisha hitilafu 400. temperature ya 0 hubadilika kuwa 1e-8.
  • Cloudflare: URL ina kitambulisho cha akaunti yako. Token hutumwa kama Bearer token.
  • AI Horde: endpoint inaunga mkono /v1/chat/completions na /v1/models. Watu wanaojitolea huendesha model, kwa hivyo kasi na orodha ya model hubadilika.
  • Vitambulisho vya model: kila mtoa huduma hutumia majina yake ya model. Soma GET /v1/models kwenye kila base URL ili upate vitambulisho halali.

Model za bure unazoweza kuita leo

Model hizi za bure zinaunga mkono tool calling na zina dirisha la muktadha la angalau tokens 128K. Jedwali linaonyesha watoa huduma wanaotoa kila model bure.

Model za bure zenye tool calling na muktadha wa 128K+
ModeliBure kwenyeMuktadhaVikomo vya bure (ofa bora)ZanaUoni
GLM 5.3 FlashNVIDIA NIM1M40 maombi/dakika
40 RPM
NdiyoHapana
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaNdiyoNdiyo
Gemini 3.7 FlashGoogle AI Studio1M10 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 maombi/dakika
50 maombi/siku
50 req/day account-wide (1,000 after a $10 purchase)
NdiyoNdiyo
Qwen3.8 27BGroq, OVH AI Endpoints262K30 maombi/dakika
250 maombi/siku
70,000 tokeni/dakika
~6M
NdiyoNdiyo
Gemini 3.6 FlashGoogle AI Studio1M10 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayNdiyoNdiyo
Gemini 3.5 FlashGoogle AI Studio1M10 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
Nemotron 3 Ultra 550BKilo Gateway, NVIDIA NIM, OpenRouter1M20 maombi/dakika
50 maombi/siku
50 req/day account-wide (1,000 after a $10 purchase)
NdiyoHapana
Gemini 3.5 Flash LiteGoogle AI Studio1M15 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
Qwen3.6 27BOVH AI Endpoints131K2 maombi/dakika
2/min per IP
NdiyoHapana
Muse Glimmer 30BNVIDIA NIM131K40 maombi/dakika
40 RPM
NdiyoNdiyo

Inaonyesha 12 kati ya 46 modeli za bure zinazolingana. Tazama modeli zote.

Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.

Base URL moja kwa kila mtoa huduma wa bure

Kila base URL kwenye jedwali ina ufunguo wake na kikomo chake cha kiwango. Mtoa huduma mmoja akituma hitilafu 429, msimbo wako lazima ubadilike kwenda URL nyingine. FreeLLMAPI inakupa base URL moja inayooana na OpenAI badala yake. Inaendeshwa kwenye kompyuta yako na kutuma kila ombi kwa mtoa huduma wa bure aliye na kiwango bado.

Sakinisha na uite base URL ya ndani

curl -fsSL https://freellmapi.co/install.sh | bash

export OPENAI_BASE_URL=http://localhost:3001/v1
export OPENAI_API_KEY=<unified-key>

curl $OPENAI_BASE_URL/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "hi"}]}'
  • Ongeza funguo zako za watoa huduma kwenye ukurasa wa Keys kwenye http://localhost:3001.
  • Tumia auto ili router ichague. Tumia auto:fast au auto:smart kupendelea kasi au akili. Unaweza pia kutuma kitambulisho cha model.
  • Kichwa cha jibu cha X-Routed-Via kinaonyesha mtoa huduma na model iliyojibu.
  • Seva hiyo hiyo pia ina /v1/messages kwa clients za Anthropic na /v1beta kwa Gemini CLI.

FreeLLMAPI hutumia viwango vya bure, kwa hivyo vikomo vya kiwango vya kila mtoa huduma bado vinatumika. Failover husambaza mzigo kwa watoa huduma, lakini haiondoi vikomo.

Utatuzi wa matatizo

TatizoChanzoSuluhisho
404 Not FoundBase URL ina njia isiyo sahihi, au ina /chat/completionsTumia base URL kutoka jedwali kama ilivyo
401 UnauthorizedUfunguo ni wa mtoa huduma mwingineTumia ufunguo kutoka mtoa huduma yule yule wa base URL
400 kwenye ombi halaliMtoa huduma haunga mkono parameter mojaOndoa parameters kama logprobs au n
Model haijapatikanaKitambulisho cha model ni cha mtoa huduma mwinginePiga GET /v1/models kwenye base URL
429 Too Many RequestsKikomo cha bure kimefikiwaSubiri kuweka upya, au tumia lango linalofanya failover
Tumia kila moja ya hizi kwa ufunguo mmoja. FreeLLMAPI ni kipanga njia huria, unachoendesha mwenyewe. Kinaweka tabaka hizi zote za bure nyuma ya kituo kimoja cha OpenAI kinachooana, na kinahamia kwenye nyingine pale kikomo kinapofikiwa. Vinjari katalogi au anza sasa.

Maswali yanayoulizwa mara kwa mara

Base URL inayooana na OpenAI ya Gemini ni ipi?

Google inaandika https://generativelanguage.googleapis.com/v1beta/openai/ kama base URL. Tumia ufunguo wako wa Gemini API kutoka AI Studio kama ufunguo wa API.

Base URL ya OpenAI ya Groq ni ipi?

Groq inaandika https://api.groq.com/openai/v1. Tumia ufunguo wa Groq API na kitambulisho cha model cha Groq.

Je, kuna free API inayooana na OpenAI bila ufunguo?

Ndiyo, kwa vikomo vidogo. OVHcloud AI Endpoints inaruhusu maombi 2 yasiyojitambulisha kwa dakika kwa kila IP na model. Kilo Gateway inaruhusu maombi 200 yasiyojitambulisha kwa saa kwa model za bure.

Je, naweza kutumia OpenAI Python SDK na watoa huduma wa bure?

Ndiyo. Weka base_url kuwa URL ya mtoa huduma na api_key kuwa ufunguo wa mtoa huduma. Tumia kitambulisho cha model kutoka mtoa huduma huyo.

Ninawezaje kutumia watoa huduma wengi wa bure kwa base URL moja?

Endesha lango kama FreeLLMAPI kwenye kompyuta yako. Elekeza client yako kwa http://localhost:3001/v1 kwa ufunguo mmoja, na router huchagua mtoa huduma kwa kila ombi.

Miongozo inayohusiana

Vyanzo

Miongozo yote · Tazama modeli zote za bure