1 million token context ഉള്ള സൗജന്യ LLM API
നീണ്ട context window ഒരു മോഡലിന് ഒരൊറ്റ അഭ്യർത്ഥനയിൽ ഒരു പൂർണ്ണ പുസ്തകം, വലിയ code base, അല്ലെങ്കിൽ മണിക്കൂറുകളുടെ ട്രാൻസ്ക്രിപ്റ്റുകൾ വായിക്കാൻ അനുവദിക്കുന്നു. FreeLLMAPI catalog-ൽ 1 million tokens അല്ലെങ്കിൽ അതിലധികം context window ഉള്ള 56 സൗജന്യ മോഡൽ ഓഫറുകൾ ഉണ്ട്. ഈ ഗൈഡ് ആ മോഡലുകളും, നിങ്ങൾക്ക് യഥാർത്ഥത്തിൽ എത്രമാത്രം അയയ്ക്കാമെന്ന് തീരുമാനിക്കുന്ന സൗജന്യ tier പരിധികളും കാണിക്കുന്നു.
കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.
ഇന്ന് 1M+ token context ഉള്ള സൗജന്യ മോഡലുകൾ
കുറഞ്ഞത് 1,000,000 tokens context window ഉള്ള സൗജന്യ മോഡലുകളുടെ പട്ടിക ഏറ്റവും വലുത് ആദ്യം കാണിക്കുന്നു. ഡാറ്റ തത്സമയ catalog-ൽ നിന്നാണ്. context വലുപ്പത്തിനൊപ്പം "Free limits" column-ഉം നോക്കുക.
| മോഡൽ | സൗജന്യമായി ലഭ്യം | കോൺടെക്സ്റ്റ് | സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ) | ടൂളുകൾ | ദൃശ്യ ശേഷി |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | ഇല്ല | ഇല്ല |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 അഭ്യർഥന/മിനിറ്റ് 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | അതെ | അതെ |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 50 അഭ്യർഥന/ദിവസം Shared rate limit | അതെ | ഇല്ല |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | ഇല്ല | ഇല്ല |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | ഇല്ല | ഇല്ല |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 അഭ്യർഥന/മിനിറ്റ് 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | ഇല്ല | ഇല്ല |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +3 കൂടി | 1M | 200 അഭ്യർഥന/ദിവസം 200 rpd | അതെ | ഇല്ല |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 അഭ്യർഥന/മിനിറ്റ് 5,000 അഭ്യർഥന/ദിവസം 500,000 ടോക്കൺ/ദിവസം 500K tokens/day · 5,000 req/day | അതെ | അതെ |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 അഭ്യർഥന/മിനിറ്റ് 5,000 അഭ്യർഥന/ദിവസം 500,000 ടോക്കൺ/ദിവസം 500K tokens/day · 5,000 req/day | അതെ | അതെ |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +2 കൂടി | 1M | 20 അഭ്യർഥന/മിനിറ്റ് 50 അഭ്യർഥന/ദിവസം 50 req/day account-wide (1,000 after a $10 purchase) | അതെ | ഇല്ല |
പൊരുത്തപ്പെടുന്ന 33 സൗജന്യ മോഡലുകളിൽ 15 എണ്ണം കാണിക്കുന്നു. എല്ലാ മോഡലുകളും കാണുക.
FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.
Google AI Studio-യിൽ നിന്നുള്ള Gemini Flash മോഡലുകളാണ് ഏറ്റവും അറിയപ്പെടുന്ന 1M-token സൗജന്യ മോഡലുകൾ. അവ images ഉം tool calls ഉം സ്വീകരിക്കുന്നു. മറ്റ് വരികൾ സൗജന്യ routers-ൽ നിന്നും NVIDIA-യിൽ നിന്നും വരുന്നു.
യഥാർത്ഥ പരിധി: മിനിറ്റിലെ tokens
context window എന്നാൽ മോഡലിന് വായിക്കാൻ കഴിയുന്ന ഏറ്റവും വലിയ prompt ആണ്. സൗജന്യ tier-ന് മിനിറ്റിലെ tokens (TPM) പരിധിയും ഉണ്ട്. പല സൗജന്യ tiers-ലും TPM പരിധി context window-നേക്കാൾ ചെറുതാണ്.
- ഉദാഹരണം: പട്ടികയിലെ ഒരു സൗജന്യ Gemini Flash key മിനിറ്റിൽ 250,000 tokens അനുവദിക്കുന്നു. 800,000 tokens ഉള്ള ഒരു prompt context window-നുള്ളിലാണ്, പക്ഷേ TPM പരിധിക്ക് മുകളിലാണ്. provider 429 പിശക് അയയ്ക്കുന്നു.
- ദിവസം അഭ്യർത്ഥനകൾ: ചില സൗജന്യ Gemini മോഡലുകൾ ഓരോ ദിവസവും ഏകദേശം 20 അഭ്യർത്ഥനകൾ മാത്രമേ അനുവദിക്കുന്നുള്ളൂ. ആവശ്യമുള്ള ജോലികൾക്ക് നീണ്ട prompts ഉപയോഗിക്കുക.
- Output വേറെയാണ്: ഉത്തരത്തിന് അതിന്റേതായ പരമാവധി നീളമുണ്ട്. 1M-token context 1M-token ഉത്തരം നൽകുന്നില്ല.
അതിനാൽ പ്രായോഗികമായി, ഒരു സൗജന്യ 1M-context മോഡലിന് ഒരു അഭ്യർത്ഥനയിൽ കുറച്ച് നൂറു ആയിരം tokens വായിക്കാം. അയയ്ക്കുന്നതിന് മുമ്പ് നിങ്ങളുടെ prompt അളക്കുക.
ഘട്ടം 1: FreeLLMAPI ഇൻസ്റ്റാൾ ചെയ്ത് keys ചേർക്കുക
FreeLLMAPI open source ആണ്. ഇത് നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ Docker-ൽ പ്രവർത്തിക്കുന്നു. നിങ്ങളുടെ provider keys നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ തന്നെ തുടരുന്നു.
ഇൻസ്റ്റാൾ ചെയ്യുക (macOS അല്ലെങ്കിൽ Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001-ൽ dashboard തുറക്കുക. Keys പേജിൽ ഒരു Google AI Studio key ചേർക്കുക. Google 429 പിശക് അയയ്ക്കുമ്പോൾ റൂട്ടറിന് മറ്റൊരു long-context മോഡൽ ഉണ്ടാകാൻ, പട്ടികയിലെ മറ്റ് providers-ൽ നിന്നുള്ള keys-ഉം ചേർക്കുക. അതേ പേജിൽ നിന്ന് നിങ്ങളുടെ ഏകീകൃത key പകർത്തുക.
ഘട്ടം 2: tokens എണ്ണുക, തുടർന്ന് നീണ്ട രേഖ അയയ്ക്കുക
FreeLLMAPI native Gemini countTokens method നൽകുന്നു. അയയ്ക്കുന്നതിന് മുമ്പ് prompt അളക്കാൻ ഇത് ഉപയോഗിക്കുക.
curl: native Gemini endpoint ഉപയോഗിച്ച് tokens എണ്ണുക
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: 1M-context മോഡലിലേക്ക് നീണ്ട ഫയൽ അയയ്ക്കുക
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)long-context മോഡൽ അതിന്റെ id ഉപയോഗിച്ച് ഉറപ്പിക്കുക. model: "auto" ഉപയോഗിച്ചാൽ, റൂട്ടർ ചെറിയ context window ഉള്ള മോഡൽ തിരഞ്ഞെടുത്തേക്കാം. വലിയ prompts വായിക്കാൻ സമയമെടുക്കുന്നതിനാൽ നീണ്ട client timeout സജ്ജമാക്കുക.
Long context അല്ലെങ്കിൽ RAG?
| Long context ഉപയോഗിക്കേണ്ടത് എപ്പോൾ | RAG ഉപയോഗിക്കേണ്ടത് എപ്പോൾ |
|---|---|
| രേഖ ഒരിക്കൽ വായിക്കുന്നു, ഉദാഹരണത്തിന് ഒരു കരാർ അല്ലെങ്കിൽ ഒരു റിപ്പോർട്ട് | ഒരേ വലിയ ഡാറ്റയെക്കുറിച്ച് നിങ്ങൾ പല ചോദ്യങ്ങൾ ചോദിക്കുന്നു |
| ഉത്തരത്തിന് മുഴുവൻ ടെക്സ്റ്റും വേണം, ഉദാഹരണത്തിന് ഒരു സംഗ്രഹം അല്ലെങ്കിൽ വിഭാഗങ്ങളുടെ താരതമ്യം | ഉത്തരം ഏതാനും ചെറിയ ഖണ്ഡികകളിലാണ് |
| ടെക്സ്റ്റ് നിങ്ങളുടെ സൗജന്യ key-യുടെ TPM പരിധിയേക്കാൾ ചെറുതാണ് | ഡാറ്റ ഏതൊരു സൗജന്യ context window-നേക്കാളോ TPM പരിധിയേക്കാളോ വലുതാണ് |
| ടെക്സ്റ്റിന്റെ ക്രമവും ഘടനയും മോഡൽ കാണണം | ഓരോ അഭ്യർത്ഥനയും ചെറുതും വേഗമുള്ളതുമായി നിലനിർത്തണം |
RAG ഓരോ ചോദ്യത്തിനൊപ്പവും ഡാറ്റയുടെ പ്രസക്തമായ ഭാഗങ്ങൾ മാത്രം അയയ്ക്കുന്നു. സൗജന്യ tiers-ൽ ഇത് കുറച്ച് tokens ഉപയോഗിക്കുന്നു. ഇത് സജ്ജമാക്കാൻ RAG-നുള്ള സൗജന്യ LLM API, സൗജന്യ embeddings API വായിക്കുക.
പിഴവുകളും പ്രശ്നപരിഹാരവും
- നഷ്ടപ്പെട്ട വിവരങ്ങൾ: വളരെ നീണ്ട prompt-ന്റെ മധ്യത്തിൽ മോഡലുകൾക്ക് വസ്തുതകൾ നഷ്ടപ്പെടാം. രേഖയ്ക്ക് ശേഷം നിങ്ങളുടെ ചോദ്യം വെക്കുക, മോഡലിനോട് അതിന്റെ ഉറവിടം ഉദ്ധരിക്കാൻ ആവശ്യപ്പെടുക.
- Thinking tokens: Gemini Flash മോഡലുകൾ output ബജറ്റിൽ നിന്ന് മറഞ്ഞ thinking tokens ഉപയോഗിച്ചേക്കാം. വളരെ ചെറിയ
max_tokensസജ്ജമാക്കരുത്. - PDF ഫയലുകൾ: FreeLLMAPI PDF, DOCX അല്ലെങ്കിൽ XLSX ഫയലുകൾ മാറ്റുന്നില്ല. ഒരു binary രേഖ attachment പിശക് 400 നൽകുന്നു. ആദ്യം ടെക്സ്റ്റ് എടുക്കുക, തുടർന്ന് ടെക്സ്റ്റ് അയയ്ക്കുക.
- ടെക്സ്റ്റ് വൃത്തിയാക്കുക: ഒരു രേഖ അയയ്ക്കുന്നതിന് മുമ്പ് പേജ് headers, footers, ആവർത്തിക്കുന്ന ഉള്ളടക്ക പട്ടികകൾ നീക്കം ചെയ്യുക. അവ tokens ഉപയോഗിക്കുന്നു, വസ്തുതകൾ ചേർക്കുന്നില്ല.
- ആവർത്തിച്ചുള്ള prompts: ഓരോ അഭ്യർത്ഥനയും മുഴുവൻ രേഖയും വീണ്ടും അയയ്ക്കുന്നു. കഴിയുമെങ്കിൽ ഒരു അഭ്യർത്ഥനയിൽ നിരവധി ചോദ്യങ്ങൾ ചോദിക്കുക.
| പ്രശ്നം | കാരണം | പരിഹാരം |
|---|---|---|
| ആദ്യത്തെ നീണ്ട അഭ്യർത്ഥനയിൽ പിശക് 429 | prompt TPM പരിധിയേക്കാൾ വലുതാണ് | prompt ചെറുതാക്കുക, അല്ലെങ്കിൽ RAG ഉപയോഗിക്കുക |
| context length-നെക്കുറിച്ചുള്ള പിശക് 400 | അഭ്യർത്ഥന ചെറിയ window ഉള്ള ഒരു മോഡലിലേക്ക് പോയി | പട്ടികയിൽ നിന്ന് ഒരു model id ഉറപ്പിക്കുക |
| ശൂന്യമായ അല്ലെങ്കിൽ മുറിഞ്ഞ ഉത്തരം | max_tokens വളരെ ചെറുതാണ്, അല്ലെങ്കിൽ thinking അത് ഉപയോഗിച്ചു | വലിയ max_tokens സജ്ജമാക്കുക |
| Timeout | prompt വായിക്കാൻ മോഡലിന് സമയം വേണം | 300 സെക്കൻഡോ അതിൽ കൂടുതലോ client timeout സജ്ജമാക്കുക |
പതിവ് ചോദ്യങ്ങൾ
1 million token context ഉള്ള സൗജന്യ LLM API ഉണ്ടോ?
ഉണ്ട്. Google AI Studio സൗജന്യ tier-ലെ Gemini Flash മോഡലുകൾക്ക് ഏകദേശം 1 million tokens context window ഉണ്ട്. FreeLLMAPI catalog-ൽ 1M അല്ലെങ്കിൽ അതിലധികം tokens ഉള്ള 56 സൗജന്യ മോഡൽ ഓഫറുകൾ ഉണ്ട്.
ഒരൊറ്റ അഭ്യർത്ഥനയിൽ 1 million tokens സൗജന്യമായി അയയ്ക്കാമോ?
സാധാരണയായി ഇല്ല. catalog-ലെ സൗജന്യ Gemini tier മിനിറ്റിൽ 250,000 tokens അനുവദിക്കുന്നു, അതിനാൽ വലിയ prompt പിശക് 429 നൽകുന്നു. ഓരോ അഭ്യർത്ഥനയ്ക്കും കുറച്ച് നൂറു ആയിരം tokens ആസൂത്രണം ചെയ്യുക.
prompt അയയ്ക്കുന്നതിന് മുമ്പ് tokens എങ്ങനെ എണ്ണാം?
FreeLLMAPI വഴി /v1beta/models/{model}:countTokens-ൽ native Gemini countTokens method വിളിക്കുക. ഇംഗ്ലീഷ് ടെക്സ്റ്റിന്, ഏകദേശം 4 അക്ഷരങ്ങൾ ഒരു token ആണ്.
ഏറ്റവും വലിയ context window ഉള്ള സൗജന്യ LLM ഏതാണ്?
ഈ പേജിലെ പട്ടിക സൗജന്യ മോഡലുകളെ context വലുപ്പം അനുസരിച്ച്, ഏറ്റവും വലുത് ആദ്യം അടുക്കുന്നു. ഏതാനും സൗജന്യ മോഡലുകൾ ഏകദേശം 1 million tokens എത്തുന്നു. free limits column-ഉം വായിക്കുക, കാരണം TPM പരിധി ഒരു അഭ്യർത്ഥനയുടെ യഥാർത്ഥ വലുപ്പം തീരുമാനിക്കുന്നു.
long context, RAG-നെക്കാൾ നല്ലതാണോ?
ഒരിക്കൽ വായിക്കുന്ന ഒരൊറ്റ രേഖയ്ക്ക് long context നല്ലതാണ്. വലിയ ഡാറ്റയെക്കുറിച്ചുള്ള പല ചോദ്യങ്ങൾക്ക് RAG നല്ലതാണ്, കാരണം ഓരോ തവണയും അത് കുറച്ച് tokens അയയ്ക്കുന്നു.
അനുബന്ധ ഗൈഡുകൾ
- RAG-നുള്ള സൗജന്യ LLM API
- സൗജന്യ embeddings API
- free gemini api
- Gemini API ക്വോട്ട കവിഞ്ഞു (429 RESOURCE_EXHAUSTED)
- സൗജന്യ LLM API റേറ്റ് പരിധികൾ
ഉറവിടങ്ങൾ
- FreeLLMAPI docs: Native Gemini API (20 November 2026 ൽ പരിശോധിച്ചത്)
- FreeLLMAPI docs: Chat completions and routing (20 November 2026 ൽ പരിശോധിച്ചത്)
- Google AI Studio docs: Thinking (20 November 2026 ൽ പരിശോധിച്ചത്)
- Gemini Developer API pricing (20 November 2026 ൽ പരിശോധിച്ചത്)