1 million token context સાથે મફત LLM API
લાંબી context window મૉડેલને એક વિનંતીમાં આખું પુસ્તક, મોટો code base અથવા કલાકોના transcripts વાંચવા દે છે. FreeLLMAPI catalog માં 10 લાખ tokens કે તેથી વધુ context window ધરાવતી 56 મફત મૉડેલ offers છે. આ માર્ગદર્શિકા એ મૉડેલો અને મફત ટિયરની મર્યાદાઓ બતાવે છે, જે નક્કી કરે છે કે તમે ખરેખર કેટલું મોકલી શકો છો.
કોડ, મૉડેલ નામ અને લાઇવ કૅટલૉગ લેબલ અંગ્રેજીમાં બતાવવામાં આવે છે.
આજે 1M+ token context ધરાવતા મફત મૉડેલો
કોષ્ટક ઓછામાં ઓછી 1,000,000 tokens ની context window ધરાવતા મફત મૉડેલો યાદી આપે છે, સૌથી મોટા પહેલા. ડેટા લાઇવ catalog માંથી આવે છે. context કદ ઉપરાંત "Free limits" કૉલમ પણ તપાસો.
| મૉડેલ | મફત ઉપલબ્ધ | સંદર્ભ | મફત મર્યાદા (શ્રેષ્ઠ ઑફર) | સાધનો | વિઝન |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | ના | ના |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 વિનંતી/મિનિટ 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | હા | હા |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 વિનંતી/મિનિટ 20 વિનંતી/દિવસ 250,000 ટોકન/મિનિટ ~3M | હા | હા |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 વિનંતી/મિનિટ 50 વિનંતી/દિવસ Shared rate limit | હા | ના |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | ના | ના |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 વિનંતી/મિનિટ 20 વિનંતી/દિવસ 250,000 ટોકન/મિનિટ ~3M | હા | હા |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | ના | ના |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 વિનંતી/મિનિટ 20 વિનંતી/દિવસ 250,000 ટોકન/મિનિટ ~3M | હા | હા |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 વિનંતી/મિનિટ 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | ના | ના |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +3 વધુ | 1M | 200 વિનંતી/દિવસ 200 rpd | હા | ના |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 વિનંતી/મિનિટ 20 વિનંતી/દિવસ 250,000 ટોકન/મિનિટ ~3M | હા | હા |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 વિનંતી/મિનિટ 20 વિનંતી/દિવસ 250,000 ટોકન/મિનિટ ~3M | હા | હા |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 વિનંતી/મિનિટ 5,000 વિનંતી/દિવસ 500,000 ટોકન/દિવસ 500K tokens/day · 5,000 req/day | હા | હા |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 વિનંતી/મિનિટ 5,000 વિનંતી/દિવસ 500,000 ટોકન/દિવસ 500K tokens/day · 5,000 req/day | હા | હા |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +2 વધુ | 1M | 20 વિનંતી/મિનિટ 50 વિનંતી/દિવસ 50 req/day account-wide (1,000 after a $10 purchase) | હા | ના |
મેળ ખાતા 33 મફત મૉડેલમાંથી 15 બતાવ્યા. બધા મૉડેલ જુઓ.
FreeLLMAPI કૅટલૉગનો લાઇવ ડેટા (સંસ્કરણ 2026.11.19, તપાસ્યું 2026-11-19). મફત મર્યાદાઓ વારંવાર બદલાય છે. કૅટલૉગ દરરોજ તપાસવામાં આવે છે.
Google AI Studio ના Gemini Flash મૉડેલો સૌથી જાણીતા 1-million-token મફત મૉડેલો છે. તેઓ images અને tool calls પણ સ્વીકારે છે. બીજી પંક્તિઓ મફત routers અને NVIDIA તરફથી આવે છે.
વાસ્તવિક મર્યાદા: પ્રતિ મિનિટ tokens
context window એ સૌથી મોટો prompt છે જે મૉડેલ વાંચી શકે છે. મફત ટિયરમાં પ્રતિ મિનિટ tokens (TPM) ની મર્યાદા પણ હોય છે. ઘણા મફત ટિયર પર, TPM મર્યાદા context window કરતાં નાની હોય છે.
- ઉદાહરણ: કોષ્ટકમાંની મફત Gemini Flash key પ્રતિ મિનિટ 250,000 tokens ની મંજૂરી આપે છે. 800,000 tokens નો prompt context window ની અંદર છે, પરંતુ TPM મર્યાદા કરતાં ઉપર છે. provider ભૂલ 429 મોકલે છે.
- પ્રતિ દિવસ વિનંતીઓ: કેટલાક મફત Gemini મૉડેલો દરરોજ ફક્ત લગભગ 20 વિનંતીઓ આપે છે. જેને તેની જરૂર હોય તેવા કાર્યો માટે લાંબા prompts વાપરો.
- Output અલગ છે: જવાબની પોતાની મહત્તમ લંબાઈ છે. 1M-token context 1M-token જવાબ આપતું નથી.
તેથી વ્યવહારમાં, મફત 1M-context મૉડેલ એક વિનંતીમાં થોડા સો હજાર tokens વાંચી શકે છે. મોકલતા પહેલાં તમારા prompt નું માપ લો.
પગલું 1: FreeLLMAPI ઇન્સ્ટૉલ કરો અને keys ઉમેરો
FreeLLMAPI open source છે. તે Docker માં તમારા computer પર ચાલે છે. તમારી provider keys તમારા computer પર રહે છે.
ઇન્સ્ટૉલ કરો (macOS અથવા Linux)
curl -fsSL https://freellmapi.co/install.sh | bashdashboard http://localhost:3001 પર ખોલો. Keys પૃષ્ઠ પર Google AI Studio key ઉમેરો. કોષ્ટકના બીજા providers ની keys પણ ઉમેરો, જેથી Google 429 ભૂલ મોકલે ત્યારે રાઉટર પાસે બીજું લાંબા-context મૉડેલ હોય. એ જ પૃષ્ઠ પરથી તમારી unified key કૉપિ કરો.
પગલું 2: tokens ગણો, પછી લાંબો દસ્તાવેજ મોકલો
FreeLLMAPI મૂળ Gemini countTokens method ની સેવા આપે છે. મોકલતા પહેલાં prompt નું માપ લેવા તેનો ઉપયોગ કરો.
curl: મૂળ Gemini endpoint વડે tokens ગણો
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: 1M-context મૉડેલને લાંબી ફાઇલ મોકલો
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)તેના id વડે લાંબા-context મૉડેલ પિન કરો. model: "auto" સાથે, રાઉટર નાની context window ધરાવતું મૉડેલ પસંદ કરી શકે છે. લાંબો client timeout સેટ કરો, કારણ કે મોટા prompts વાંચવામાં સમય લે છે.
લાંબો context કે RAG?
| લાંબો context ક્યારે વાપરવો | RAG ક્યારે વાપરવો |
|---|---|
| દસ્તાવેજ એક વાર વંચાય છે, ઉદાહરણ તરીકે એક કરાર અથવા એક report | તમે એ જ મોટા ડેટા વિશે ઘણા પ્રશ્નો પૂછો છો |
| જવાબને પૂરું લખાણ જોઈએ, ઉદાહરણ તરીકે સારાંશ અથવા વિભાગોની સરખામણી | જવાબ થોડા ટૂંકા ફકરાઓમાં છે |
| લખાણ તમારી મફત key ની TPM મર્યાદા કરતાં નાનું છે | ડેટા કોઈ પણ મફત context window અથવા TPM મર્યાદા કરતાં મોટો છે |
| મૉડેલે લખાણનો ક્રમ અને માળખું જોવું જરૂરી છે | દરેક વિનંતી નાની અને ઝડપી રાખવી જરૂરી છે |
RAG દરેક પ્રશ્ન સાથે ડેટાના ફક્ત સંબંધિત ભાગો મોકલે છે. મફત ટિયર પર તે ઓછા tokens વાપરે છે. તેને સેટ કરવા RAG માટે મફત LLM API અને મફત embeddings API વાંચો.
મુશ્કેલીઓ અને સમસ્યાનિવારણ
- ખોવાયેલી વિગતો: ખૂબ લાંબા prompt ના મધ્યમાં મૉડેલ તથ્યો ચૂકી શકે છે. પ્રશ્ન દસ્તાવેજ પછી મૂકો, અને મૉડેલને તેનો સ્રોત ટાંકવા કહો.
- Thinking tokens: Gemini Flash મૉડેલો output બજેટમાંથી છુપાયેલા thinking tokens વાપરી શકે છે. ખૂબ નાનો
max_tokensસેટ ન કરો. - PDF ફાઇલો: FreeLLMAPI PDF, DOCX અથવા XLSX ફાઇલોને બદલતું નથી. binary દસ્તાવેજ attachment ભૂલ 400 પરત કરે છે. પહેલાં લખાણ કાઢો, પછી લખાણ મોકલો.
- લખાણ સાફ કરો: દસ્તાવેજ મોકલતા પહેલાં પેજ હેડર, ફૂટર અને વારંવાર આવતી સામગ્રીની સૂચિ કાઢી નાખો. તે tokens વાપરે છે અને કોઈ તથ્ય ઉમેરતી નથી.
- પુનરાવર્તિત prompts: દરેક વિનંતી આખો દસ્તાવેજ ફરી મોકલે છે. જ્યારે શક્ય હોય ત્યારે એક વિનંતીમાં ઘણા પ્રશ્નો પૂછો.
| સમસ્યા | કારણ | ઉકેલ |
|---|---|---|
| પહેલી લાંબી વિનંતી પર ભૂલ 429 | prompt TPM મર્યાદા કરતાં મોટો છે | prompt નાનો બનાવો, અથવા RAG વાપરો |
| context લંબાઈ વિશે ભૂલ 400 | વિનંતી નાની window ધરાવતા મૉડેલ પર ગઈ | કોષ્ટકમાંથી model id પિન કરો |
| ખાલી અથવા કપાયેલો જવાબ | max_tokens ખૂબ નાનું છે, અથવા thinking એ તે વાપર્યું | મોટું max_tokens સેટ કરો |
| સમય સમાપ્ત | મૉડેલને prompt વાંચવા સમય જોઈએ | 300 સેકન્ડ કે તેથી વધુનો client timeout સેટ કરો |
વારંવાર પૂછાતા પ્રશ્નો
શું 1 million token context સાથે મફત LLM API છે?
હા. Google AI Studio મફત ટિયર પરના Gemini Flash મૉડેલોની context window લગભગ 1 million tokens છે. FreeLLMAPI catalog માં 1M કે તેથી વધુ tokens ધરાવતી 56 મફત મૉડેલ offers છે.
શું હું એક વિનંતીમાં મફતમાં 1 million tokens મોકલી શકું?
સામાન્ય રીતે ના. catalog માંનું મફત Gemini ટિયર પ્રતિ મિનિટ 250,000 tokens ની મંજૂરી આપે છે, તેથી મોટા prompt પર ભૂલ 429 મળે છે. દરેક વિનંતી માટે થોડા સો હજાર tokens નું આયોજન કરો.
Prompt મોકલતા પહેલાં હું tokens કેવી રીતે ગણું?
FreeLLMAPI દ્વારા /v1beta/models/{model}:countTokens પર મૂળ Gemini countTokens method કૉલ કરો. અંગ્રેજી લખાણ માટે, લગભગ 4 અક્ષરો એક token બનાવે છે.
કયા મફત LLM ની context window સૌથી મોટી છે?
આ પૃષ્ઠનું કોષ્ટક મફત મૉડેલોને context કદ મુજબ, સૌથી મોટા પહેલા, સૉર્ટ કરે છે. ઘણા મફત મૉડેલો લગભગ 1 million tokens સુધી પહોંચે છે. "Free limits" કૉલમ પણ વાંચો, કારણ કે TPM મર્યાદા એક વિનંતીનું વાસ્તવિક કદ નક્કી કરે છે.
શું લાંબો context RAG કરતાં સારો છે?
એક દસ્તાવેજ માટે જે તમે એક વાર વાંચો છો, લાંબો context સારો છે. મોટા ડેટા પરના ઘણા પ્રશ્નો માટે RAG સારું છે, કારણ કે તે દરેક વખતે ઓછા tokens મોકલે છે.
સંબંધિત માર્ગદર્શિકાઓ
- RAG માટે મફત LLM API
- મફત embeddings API
- free gemini api
- Gemini API ક્વોટા વટાવાયો (429 RESOURCE_EXHAUSTED)
- મફત LLM API rate limits
સ્રોતો
- FreeLLMAPI docs: Native Gemini API (તપાસ્યું 20 November 2026)
- FreeLLMAPI docs: Chat completions and routing (તપાસ્યું 20 November 2026)
- Google AI Studio docs: Thinking (તપાસ્યું 20 November 2026)
- Gemini Developer API pricing (તપાસ્યું 20 November 2026)