હોમ / માર્ગદર્શિકાઓ / 1 million token context સાથે મફત LLM API

1 million token context સાથે મફત LLM API

લાંબી context window મૉડેલને એક વિનંતીમાં આખું પુસ્તક, મોટો code base અથવા કલાકોના transcripts વાંચવા દે છે. FreeLLMAPI catalog માં 10 લાખ tokens કે તેથી વધુ context window ધરાવતી 56 મફત મૉડેલ offers છે. આ માર્ગદર્શિકા એ મૉડેલો અને મફત ટિયરની મર્યાદાઓ બતાવે છે, જે નક્કી કરે છે કે તમે ખરેખર કેટલું મોકલી શકો છો.

કોડ, મૉડેલ નામ અને લાઇવ કૅટલૉગ લેબલ અંગ્રેજીમાં બતાવવામાં આવે છે.

આજે 1M+ token context ધરાવતા મફત મૉડેલો

કોષ્ટક ઓછામાં ઓછી 1,000,000 tokens ની context window ધરાવતા મફત મૉડેલો યાદી આપે છે, સૌથી મોટા પહેલા. ડેટા લાઇવ catalog માંથી આવે છે. context કદ ઉપરાંત "Free limits" કૉલમ પણ તપાસો.

1M+ token context ધરાવતા મફત મૉડેલો, સૌથી મોટા પહેલા
મૉડેલમફત ઉપલબ્ધસંદર્ભમફત મર્યાદા (શ્રેષ્ઠ ઑફર)સાધનોવિઝન
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsનાના
Gemini 3.8 FlashAPINex, Google AI Studio1M5 વિનંતી/મિનિટ
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
હાહા
Gemini 3.7 FlashGoogle AI Studio1M10 વિનંતી/મિનિટ
20 વિનંતી/દિવસ
250,000 ટોકન/મિનિટ
~3M
હાહા
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 વિનંતી/મિનિટ
50 વિનંતી/દિવસ
Shared rate limit
હાના
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetનાના
Gemini 3.6 FlashGoogle AI Studio1M10 વિનંતી/મિનિટ
20 વિનંતી/દિવસ
250,000 ટોકન/મિનિટ
~3M
હાહા
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetનાના
Gemini 3.5 FlashGoogle AI Studio1M10 વિનંતી/મિનિટ
20 વિનંતી/દિવસ
250,000 ટોકન/મિનિટ
~3M
હાહા
DeepSeek V4 ProAPINex, Router91M5 વિનંતી/મિનિટ
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
નાના
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3 વધુ1M200 વિનંતી/દિવસ
200 rpd
હાના
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 વિનંતી/મિનિટ
20 વિનંતી/દિવસ
250,000 ટોકન/મિનિટ
~3M
હાહા
Gemini 3 Flash PreviewGoogle AI Studio1M10 વિનંતી/મિનિટ
20 વિનંતી/દિવસ
250,000 ટોકન/મિનિટ
~3M
હાહા
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 વિનંતી/મિનિટ
5,000 વિનંતી/દિવસ
500,000 ટોકન/દિવસ
500K tokens/day · 5,000 req/day
હાહા
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 વિનંતી/મિનિટ
5,000 વિનંતી/દિવસ
500,000 ટોકન/દિવસ
500K tokens/day · 5,000 req/day
હાહા
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2 વધુ1M20 વિનંતી/મિનિટ
50 વિનંતી/દિવસ
50 req/day account-wide (1,000 after a $10 purchase)
હાના

મેળ ખાતા 33 મફત મૉડેલમાંથી 15 બતાવ્યા. બધા મૉડેલ જુઓ.

FreeLLMAPI કૅટલૉગનો લાઇવ ડેટા (સંસ્કરણ 2026.11.19, તપાસ્યું 2026-11-19). મફત મર્યાદાઓ વારંવાર બદલાય છે. કૅટલૉગ દરરોજ તપાસવામાં આવે છે.

Google AI Studio ના Gemini Flash મૉડેલો સૌથી જાણીતા 1-million-token મફત મૉડેલો છે. તેઓ images અને tool calls પણ સ્વીકારે છે. બીજી પંક્તિઓ મફત routers અને NVIDIA તરફથી આવે છે.

વાસ્તવિક મર્યાદા: પ્રતિ મિનિટ tokens

context window એ સૌથી મોટો prompt છે જે મૉડેલ વાંચી શકે છે. મફત ટિયરમાં પ્રતિ મિનિટ tokens (TPM) ની મર્યાદા પણ હોય છે. ઘણા મફત ટિયર પર, TPM મર્યાદા context window કરતાં નાની હોય છે.

  • ઉદાહરણ: કોષ્ટકમાંની મફત Gemini Flash key પ્રતિ મિનિટ 250,000 tokens ની મંજૂરી આપે છે. 800,000 tokens નો prompt context window ની અંદર છે, પરંતુ TPM મર્યાદા કરતાં ઉપર છે. provider ભૂલ 429 મોકલે છે.
  • પ્રતિ દિવસ વિનંતીઓ: કેટલાક મફત Gemini મૉડેલો દરરોજ ફક્ત લગભગ 20 વિનંતીઓ આપે છે. જેને તેની જરૂર હોય તેવા કાર્યો માટે લાંબા prompts વાપરો.
  • Output અલગ છે: જવાબની પોતાની મહત્તમ લંબાઈ છે. 1M-token context 1M-token જવાબ આપતું નથી.

તેથી વ્યવહારમાં, મફત 1M-context મૉડેલ એક વિનંતીમાં થોડા સો હજાર tokens વાંચી શકે છે. મોકલતા પહેલાં તમારા prompt નું માપ લો.

પગલું 1: FreeLLMAPI ઇન્સ્ટૉલ કરો અને keys ઉમેરો

FreeLLMAPI open source છે. તે Docker માં તમારા computer પર ચાલે છે. તમારી provider keys તમારા computer પર રહે છે.

ઇન્સ્ટૉલ કરો (macOS અથવા Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

dashboard http://localhost:3001 પર ખોલો. Keys પૃષ્ઠ પર Google AI Studio key ઉમેરો. કોષ્ટકના બીજા providers ની keys પણ ઉમેરો, જેથી Google 429 ભૂલ મોકલે ત્યારે રાઉટર પાસે બીજું લાંબા-context મૉડેલ હોય. એ જ પૃષ્ઠ પરથી તમારી unified key કૉપિ કરો.

પગલું 2: tokens ગણો, પછી લાંબો દસ્તાવેજ મોકલો

FreeLLMAPI મૂળ Gemini countTokens method ની સેવા આપે છે. મોકલતા પહેલાં prompt નું માપ લેવા તેનો ઉપયોગ કરો.

curl: મૂળ Gemini endpoint વડે tokens ગણો

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: 1M-context મૉડેલને લાંબી ફાઇલ મોકલો

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

તેના id વડે લાંબા-context મૉડેલ પિન કરો. model: "auto" સાથે, રાઉટર નાની context window ધરાવતું મૉડેલ પસંદ કરી શકે છે. લાંબો client timeout સેટ કરો, કારણ કે મોટા prompts વાંચવામાં સમય લે છે.

લાંબો context કે RAG?

લાંબો context ક્યારે વાપરવોRAG ક્યારે વાપરવો
દસ્તાવેજ એક વાર વંચાય છે, ઉદાહરણ તરીકે એક કરાર અથવા એક reportતમે એ જ મોટા ડેટા વિશે ઘણા પ્રશ્નો પૂછો છો
જવાબને પૂરું લખાણ જોઈએ, ઉદાહરણ તરીકે સારાંશ અથવા વિભાગોની સરખામણીજવાબ થોડા ટૂંકા ફકરાઓમાં છે
લખાણ તમારી મફત key ની TPM મર્યાદા કરતાં નાનું છેડેટા કોઈ પણ મફત context window અથવા TPM મર્યાદા કરતાં મોટો છે
મૉડેલે લખાણનો ક્રમ અને માળખું જોવું જરૂરી છેદરેક વિનંતી નાની અને ઝડપી રાખવી જરૂરી છે

RAG દરેક પ્રશ્ન સાથે ડેટાના ફક્ત સંબંધિત ભાગો મોકલે છે. મફત ટિયર પર તે ઓછા tokens વાપરે છે. તેને સેટ કરવા RAG માટે મફત LLM API અને મફત embeddings API વાંચો.

મુશ્કેલીઓ અને સમસ્યાનિવારણ

  • ખોવાયેલી વિગતો: ખૂબ લાંબા prompt ના મધ્યમાં મૉડેલ તથ્યો ચૂકી શકે છે. પ્રશ્ન દસ્તાવેજ પછી મૂકો, અને મૉડેલને તેનો સ્રોત ટાંકવા કહો.
  • Thinking tokens: Gemini Flash મૉડેલો output બજેટમાંથી છુપાયેલા thinking tokens વાપરી શકે છે. ખૂબ નાનો max_tokens સેટ ન કરો.
  • PDF ફાઇલો: FreeLLMAPI PDF, DOCX અથવા XLSX ફાઇલોને બદલતું નથી. binary દસ્તાવેજ attachment ભૂલ 400 પરત કરે છે. પહેલાં લખાણ કાઢો, પછી લખાણ મોકલો.
  • લખાણ સાફ કરો: દસ્તાવેજ મોકલતા પહેલાં પેજ હેડર, ફૂટર અને વારંવાર આવતી સામગ્રીની સૂચિ કાઢી નાખો. તે tokens વાપરે છે અને કોઈ તથ્ય ઉમેરતી નથી.
  • પુનરાવર્તિત prompts: દરેક વિનંતી આખો દસ્તાવેજ ફરી મોકલે છે. જ્યારે શક્ય હોય ત્યારે એક વિનંતીમાં ઘણા પ્રશ્નો પૂછો.
સમસ્યાકારણઉકેલ
પહેલી લાંબી વિનંતી પર ભૂલ 429prompt TPM મર્યાદા કરતાં મોટો છેprompt નાનો બનાવો, અથવા RAG વાપરો
context લંબાઈ વિશે ભૂલ 400વિનંતી નાની window ધરાવતા મૉડેલ પર ગઈકોષ્ટકમાંથી model id પિન કરો
ખાલી અથવા કપાયેલો જવાબmax_tokens ખૂબ નાનું છે, અથવા thinking એ તે વાપર્યુંમોટું max_tokens સેટ કરો
સમય સમાપ્તમૉડેલને prompt વાંચવા સમય જોઈએ300 સેકન્ડ કે તેથી વધુનો client timeout સેટ કરો
આ બધાનો ઉપયોગ એક જ કી દ્વારા કરો. FreeLLMAPI એક ઓપન-સોર્સ, સ્વ-હોસ્ટેડ રાઉટર છે. તે આ બધા મફત ટાયરને એક OpenAI સાથે સુસંગત એન્ડપોઇન્ટ પાછળ મૂકે છે અને જ્યારે એક મૉડેલની રેટ મર્યાદા આવે ત્યારે બીજા પર આપમેળે સ્વિચ કરે છે. કૅટલૉગ બ્રાઉઝ કરો અથવા લાઇવ જાઓ.

વારંવાર પૂછાતા પ્રશ્નો

શું 1 million token context સાથે મફત LLM API છે?

હા. Google AI Studio મફત ટિયર પરના Gemini Flash મૉડેલોની context window લગભગ 1 million tokens છે. FreeLLMAPI catalog માં 1M કે તેથી વધુ tokens ધરાવતી 56 મફત મૉડેલ offers છે.

શું હું એક વિનંતીમાં મફતમાં 1 million tokens મોકલી શકું?

સામાન્ય રીતે ના. catalog માંનું મફત Gemini ટિયર પ્રતિ મિનિટ 250,000 tokens ની મંજૂરી આપે છે, તેથી મોટા prompt પર ભૂલ 429 મળે છે. દરેક વિનંતી માટે થોડા સો હજાર tokens નું આયોજન કરો.

Prompt મોકલતા પહેલાં હું tokens કેવી રીતે ગણું?

FreeLLMAPI દ્વારા /v1beta/models/{model}:countTokens પર મૂળ Gemini countTokens method કૉલ કરો. અંગ્રેજી લખાણ માટે, લગભગ 4 અક્ષરો એક token બનાવે છે.

કયા મફત LLM ની context window સૌથી મોટી છે?

આ પૃષ્ઠનું કોષ્ટક મફત મૉડેલોને context કદ મુજબ, સૌથી મોટા પહેલા, સૉર્ટ કરે છે. ઘણા મફત મૉડેલો લગભગ 1 million tokens સુધી પહોંચે છે. "Free limits" કૉલમ પણ વાંચો, કારણ કે TPM મર્યાદા એક વિનંતીનું વાસ્તવિક કદ નક્કી કરે છે.

શું લાંબો context RAG કરતાં સારો છે?

એક દસ્તાવેજ માટે જે તમે એક વાર વાંચો છો, લાંબો context સારો છે. મોટા ડેટા પરના ઘણા પ્રશ્નો માટે RAG સારું છે, કારણ કે તે દરેક વખતે ઓછા tokens મોકલે છે.

સંબંધિત માર્ગદર્શિકાઓ

સ્રોતો

બધી માર્ગદર્શિકાઓ · બધા મફત મૉડેલ જુઓ