முகப்பு / வழிகாட்டிகள் / இலவச OpenAI-compatible API base URLs

இலவச OpenAI-compatible API base URLs

பெரும்பாலான இலவச LLM வழங்குநர்கள் OpenAI API வடிவத்தை ஏற்கின்றன. உங்கள் client-இல் இரண்டு மதிப்புகளை மாற்றுகிறீர்கள்: base URL மற்றும் API key. இந்தப் பக்கம் ஒவ்வொரு இலவச வழங்குநரின் base URL-ஐப் பட்டியலிடுகிறது, அதன் சொந்த ஆவணங்களில் சரிபார்க்கப்பட்டது.

குறியீடு, மாதிரிப் பெயர்கள் மற்றும் நேரடி பட்டியல் லேபிள்கள் ஆங்கிலத்தில் காட்டப்படுகின்றன.

இலவச வழங்குநர்களின் base URLs

வழங்குநர் ஆவணங்களில் சரிபார்க்கப்பட்டது
வழங்குநர்OpenAI-compatible base URLKey
Google AI Studio (Gemini)https://generativelanguage.googleapis.com/v1beta/openai/Gemini API key
Groqhttps://api.groq.com/openai/v1Groq API key
OpenRouterhttps://openrouter.ai/api/v1OpenRouter key. :free-இல் முடியும் model ids-ஐப் பயன்படுத்தவும்.
NVIDIA API Cataloghttps://integrate.api.nvidia.com/v1NVIDIA API key
Cloudflare Workers AIhttps://api.cloudflare.com/client/v4/accounts/<account-id>/ai/v1Cloudflare API token
Coherehttps://api.cohere.ai/compatibility/v1Cohere trial அல்லது production key
Z.ai (Zhipu)https://api.z.ai/api/paas/v4/Z.ai API key
OVHcloud AI Endpointshttps://oai.endpoints.kepler.ai.cloud.ovh.net/v1விருப்பத்தேர்வு. அநாமதேயப் பயன்பாடு குறைந்த வரம்பில் அனுமதிக்கப்படுகிறது.
Kilo Gatewayhttps://ai-gateway.kilo.ai/api/v1இலவச models-க்கு விருப்பத்தேர்வு
AI Hordehttps://oai.aihorde.net/v1Horde key, அல்லது அநாமதேய key 0000000000
Mistralhttps://api.mistral.ai/v1Mistral key. API-க்கு billing செயல்படுத்தல் தேவை.
Scaleway Generative APIshttps://api.scaleway.ai/v1Scaleway secret key
குறிப்பு: சில SDKs base URL-உடன் /chat/completions-ஐச் சேர்க்கின்றன. Base URL-இல் /chat/completions-ஐ நீங்களாகவே வைக்க வேண்டாம். இறுதிப் பாதையைக் காட்டியபடியே வைத்திருக்கவும்.

உங்கள் client-இல் base URL-ஐ எப்படி மாற்றுவது

OpenAI SDKs base URL-ஐ ஒரு parameter-இலிருந்தோ ஒரு environment variable-இலிருந்தோ படிக்கின்றன. இந்த எடுத்துக்காட்டு Groq-ஐப் பயன்படுத்துகிறது. வேறு வழங்குநருக்கு URL, key மற்றும் model id-ஐ மாற்றவும்.

Python (OpenAI SDK)

from openai import OpenAI

client = OpenAI(
    base_url="https://api.groq.com/openai/v1",
    api_key="<groq-key>",
)
resp = client.chat.completions.create(
    model="openai/gpt-oss-20b",
    messages=[{"role": "user", "content": "Say hello"}],
)
print(resp.choices[0].message.content)

Environment variables

export OPENAI_BASE_URL=https://api.groq.com/openai/v1
export OPENAI_API_KEY=<groq-key>

Open WebUI, Cline மற்றும் Aider போன்ற பல கருவிகளில் OpenAI-compatible base URL-க்கு ஒரு புலம் உள்ளது. அட்டவணையிலிருந்து URL-ஐ அந்தப் புலத்தில் வைக்கவும்.

பயன்படுத்துவதற்கு முன் base URL-ஐ சோதிக்கவும்

கருவியை அமைப்பதற்கு முன் இரண்டு சோதனைகளைச் செய்யவும். முதலில், models-ஐப் பட்டியலிடவும். URL மற்றும் key சரியானவை என்பதை இந்தச் சோதனை காட்டுகிறது. இரண்டாவதாக, ஒரு குறுகிய chat கோரிக்கையை அனுப்பவும். Model id செல்லுபடியாகும் என்பதையும், உங்களுக்கு quota உள்ளது என்பதையும் இந்தச் சோதனை காட்டுகிறது.

URL, key மற்றும் ஒரு model-ஐச் சரிபார்க்கவும்

BASE=https://api.groq.com/openai/v1
KEY=<groq-key>

# 1. List the models
curl -s $BASE/models -H "Authorization: Bearer $KEY" | head -c 600

# 2. Send one short request
curl -s $BASE/chat/completions \
  -H "Authorization: Bearer $KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 200}'

Reasoning models-க்கு மிகச் சிறிய max_tokens மதிப்பை அமைக்க வேண்டாம். சில இலவச models தெரியும் பதிலுக்கு முன் மறைந்த reasoning tokens-ஐப் பயன்படுத்துகின்றன. சிறிய வரம்புடன், பதில் வெற்றுப் பதிலுடன் நின்றுவிடலாம்.

முதல் சோதனை 401-ஐத் திருப்பினால், இந்த URL-க்கு key தவறானது. இரண்டாவது சோதனை 429-ஐத் திருப்பினால், URL மற்றும் key சரியானவை, ஆனால் இலவச வரம்பு எட்டப்பட்டுள்ளது. மீட்டமைப்பு நேரத்தைக் கண்டறிய வழங்குநரின் rate limit headers-ஐப் படிக்கவும்.

தெரிந்து கொள்ள வேண்டிய இணக்கமின்மைகள்

"OpenAI-compatible" என்றால் ஒவ்வொரு parameter-உம் வேலை செய்யும் என்று பொருள் அல்ல. ஒவ்வொரு வழங்குநரும் வெவ்வேறு துணைக்குழுவை ஆதரிக்கிறது.

  • Groq: logprobs, logit_bias, top_logprobs, messages[].name அல்லது 1-ஐத் தவிர வேறு n உள்ள கோரிக்கைகள் error 400-ஐத் திருப்புகின்றன. temperature 0 ஆக இருந்தால் 1e-8 ஆக மாறுகிறது.
  • Cloudflare: URL-இல் உங்கள் account id உள்ளது. Token Bearer token ஆக அனுப்பப்படுகிறது.
  • AI Horde: endpoint /v1/chat/completions மற்றும் /v1/models-ஐ ஆதரிக்கிறது. தன்னார்வலர்கள் models-ஐ இயக்குவதால், வேகமும் model பட்டியலும் மாறுகின்றன.
  • Model ids: ஒவ்வொரு வழங்குநரும் தனது சொந்த model பெயர்களைப் பயன்படுத்துகிறது. செல்லுபடியாகும் ids-ஐப் பெற ஒவ்வொரு base URL-இலும் GET /v1/models-ஐப் படிக்கவும்.

இன்று நீங்கள் அழைக்கக்கூடிய இலவச models

இந்த இலவச models tool calling-ஐ ஆதரிக்கின்றன, குறைந்தது 128K tokens context window உள்ளன. ஒவ்வொரு model-ஐயும் இலவசமாக வழங்கும் வழங்குநர்களை அட்டவணை காட்டுகிறது.

Tool calling மற்றும் 128K+ context உள்ள இலவச models
மாதிரிஇலவசம்சூழல் அளவுஇலவச வரம்புகள் (சிறந்த சலுகை)கருவிகள்படப் பார்வை
GLM 5.3 FlashNVIDIA NIM1M40 கோரிக்கை/நிமிடம்
40 RPM
ஆம்இல்லை
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaஆம்ஆம்
Gemini 3.7 FlashGoogle AI Studio1M10 கோரிக்கை/நிமிடம்
20 கோரிக்கை/நாள்
250,000 டோக்கன்/நிமிடம்
~3M
ஆம்ஆம்
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 கோரிக்கை/நிமிடம்
50 கோரிக்கை/நாள்
50 req/day account-wide (1,000 after a $10 purchase)
ஆம்ஆம்
Qwen3.8 27BGroq, OVH AI Endpoints262K30 கோரிக்கை/நிமிடம்
250 கோரிக்கை/நாள்
70,000 டோக்கன்/நிமிடம்
~6M
ஆம்ஆம்
Gemini 3.6 FlashGoogle AI Studio1M10 கோரிக்கை/நிமிடம்
20 கோரிக்கை/நாள்
250,000 டோக்கன்/நிமிடம்
~3M
ஆம்ஆம்
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayஆம்ஆம்
Gemini 3.5 FlashGoogle AI Studio1M10 கோரிக்கை/நிமிடம்
20 கோரிக்கை/நாள்
250,000 டோக்கன்/நிமிடம்
~3M
ஆம்ஆம்
Nemotron 3 Ultra 550BKilo Gateway, NVIDIA NIM, OpenRouter1M20 கோரிக்கை/நிமிடம்
50 கோரிக்கை/நாள்
50 req/day account-wide (1,000 after a $10 purchase)
ஆம்இல்லை
Gemini 3.5 Flash LiteGoogle AI Studio1M15 கோரிக்கை/நிமிடம்
20 கோரிக்கை/நாள்
250,000 டோக்கன்/நிமிடம்
~3M
ஆம்ஆம்
Qwen3.6 27BOVH AI Endpoints131K2 கோரிக்கை/நிமிடம்
2/min per IP
ஆம்இல்லை
Muse Glimmer 30BNVIDIA NIM131K40 கோரிக்கை/நிமிடம்
40 RPM
ஆம்ஆம்

பொருந்தும் 46 இலவச மாதிரிகளில் 12 காட்டப்படுகின்றன. அனைத்து மாதிரிகளையும் பார்க்கவும்.

FreeLLMAPI பட்டியலிலிருந்து நேரடி தரவு (பதிப்பு 2026.11.19, சரிபார்க்கப்பட்டது 2026-11-19). இலவச வரம்புகள் அடிக்கடி மாறும். பட்டியல் ஒவ்வொரு நாளும் சரிபார்க்கப்படுகிறது.

எல்லா இலவச வழங்குநர்களுக்கும் ஒரு base URL

அட்டவணையில் உள்ள ஒவ்வொரு base URL-உம் அதன் சொந்த key-ஐயும் அதன் சொந்த rate limit-ஐயும் கொண்டுள்ளது. ஒரு வழங்குநர் 429 பிழையை அனுப்பும்போது, உங்கள் code வேறொரு URL-க்கு மாற வேண்டும். FreeLLMAPI அதற்குப் பதிலாக ஒரு OpenAI-compatible base URL-ஐத் தருகிறது. அது உங்கள் கணினியில் இயங்கி, ஒவ்வொரு கோரிக்கையையும் இன்னும் quota உள்ள ஒரு இலவச வழங்குநருக்கு அனுப்புகிறது.

உள்ளூர் base URL-ஐ நிறுவி அழைக்கவும்

curl -fsSL https://freellmapi.co/install.sh | bash

export OPENAI_BASE_URL=http://localhost:3001/v1
export OPENAI_API_KEY=<unified-key>

curl $OPENAI_BASE_URL/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "hi"}]}'
  • http://localhost:3001-இல் Keys பக்கத்தில் உங்கள் provider keys-ஐச் சேர்க்கவும்.
  • Router தேர்வு செய்ய auto-ஐப் பயன்படுத்தவும். வேகத்தையோ நுண்ணறிவையோ விரும்ப auto:fast அல்லது auto:smart-ஐப் பயன்படுத்தவும். ஒரு model id-ஐயும் அனுப்பலாம்.
  • X-Routed-Via response header பதிலளித்த வழங்குநரையும் model-ஐயும் காட்டுகிறது.
  • அதே சேவையகத்தில் Anthropic clients-க்கு /v1/messages-உம், Gemini CLI-க்கு /v1beta-உம் உள்ளன.

FreeLLMAPI இலவச அடுக்குகளைப் பயன்படுத்துகிறது, எனவே ஒவ்வொரு வழங்குநரின் rate limits-உம் பொருந்தும். Failover சுமையை வழங்குநர்கள் முழுவதும் பரப்புகிறது, ஆனால் வரம்புகளை நீக்குவதில்லை.

சிக்கல் தீர்வு

சிக்கல்காரணம்தீர்வு
404 Not FoundBase URL-இன் பாதை தவறானது, அல்லது அதில் /chat/completions உள்ளதுஅட்டவணையிலிருந்து base URL-ஐ அப்படியே பயன்படுத்தவும்
401 UnauthorizedKey வேறொரு வழங்குநருக்கானதுBase URL உள்ள அதே வழங்குநரின் key-ஐப் பயன்படுத்தவும்
சரியான கோரிக்கையில் 400வழங்குநர் ஒரு parameter-ஐ ஆதரிக்கவில்லைlogprobs அல்லது n போன்ற parameters-ஐ நீக்கவும்
Model கிடைக்கவில்லைModel id வேறொரு வழங்குநரிலிருந்து வந்ததுBase URL-இல் GET /v1/models-ஐ அழைக்கவும்
429 Too Many Requestsஇலவச வரம்பு எட்டப்பட்டதுமீட்டமைப்புக்காகக் காத்திருக்கவும், அல்லது failover செய்யும் gateway-ஐப் பயன்படுத்தவும்
இவை அனைத்தையும் ஒரே விசை மூலம் பயன்படுத்துங்கள். FreeLLMAPI என்பது திறந்த மூலமான, நீங்களே நிறுவும் ரூட்டர். இந்த இலவச அடுக்குகள் அனைத்தையும் ஒரே OpenAI-இணக்கமான இறுதிப்புள்ளிக்குப் பின்னால் வைக்கிறது. ஒரு வழங்குநர் வரம்பை எட்டும்போது தானாக அடுத்ததற்கு மாறுகிறது. பட்டியலைப் பார்க்கவும் அல்லது நேரலைக்குச் செல்லவும்.

அடிக்கடி கேட்கப்படும் கேள்விகள்

Gemini-க்கான OpenAI-compatible base URL என்ன?

Google, base URL ஆக https://generativelanguage.googleapis.com/v1beta/openai/ என்பதை ஆவணப்படுத்துகிறது. API key ஆக AI Studio-இலிருந்து உங்கள் Gemini API key-ஐப் பயன்படுத்தவும்.

Groq OpenAI base URL என்ன?

Groq https://api.groq.com/openai/v1 என்பதை ஆவணப்படுத்துகிறது. Groq API key-ஐயும் Groq model id-ஐயும் பயன்படுத்தவும்.

Key இல்லாத இலவச OpenAI-compatible API உள்ளதா?

ஆம், குறைந்த வரம்புகளுடன். OVHcloud AI Endpoints ஒவ்வொரு IP-க்கும் model-க்கும் நிமிடத்துக்கு 2 அநாமதேயக் கோரிக்கைகளை அனுமதிக்கிறது. Kilo Gateway இலவச models-க்கு மணிக்கு 200 அநாமதேயக் கோரிக்கைகளை அனுமதிக்கிறது.

இலவச வழங்குநர்களுடன் OpenAI Python SDK-ஐப் பயன்படுத்தலாமா?

ஆம். base_url-ஐ வழங்குநர் URL ஆகவும், api_key-ஐ வழங்குநர் key ஆகவும் அமைக்கவும். அந்த வழங்குநரின் model id-ஐப் பயன்படுத்தவும்.

ஒரே base URL உடன் பல இலவச வழங்குநர்களை எப்படிப் பயன்படுத்துவது?

உங்கள் கணினியில் FreeLLMAPI போன்ற ஒரு gateway-ஐ இயக்கவும். ஒரு ஒருங்கிணைந்த key உடன் உங்கள் client-ஐ http://localhost:3001/v1-க்குச் சுட்டவும், router ஒவ்வொரு கோரிக்கைக்கும் ஒரு வழங்குநரைத் தேர்ந்தெடுக்கும்.

தொடர்புடைய வழிகாட்டிகள்

ஆதாரங்கள்

அனைத்து வழிகாட்டிகள் · அனைத்து இலவச மாதிரிகளையும் பார்க்கவும்