1 दशलक्ष टोकन संदर्भ असलेले मोफत LLM API
लांब संदर्भ विंडोमुळे मॉडेल एका विनंतीत पूर्ण पुस्तक, मोठा कोड बेस किंवा तासभराचे ट्रान्सक्रिप्ट वाचू शकते. FreeLLMAPI कॅटलॉगमध्ये 10 लाख टोकन किंवा अधिक संदर्भ विंडो असलेल्या 56 मोफत मॉडेल ऑफर्स आहेत. हे मार्गदर्शक ती मॉडेल्स आणि मोफत टियरच्या मर्यादा दाखवते, ज्या ठरवतात की तुम्ही प्रत्यक्षात किती पाठवू शकता.
कोड, मॉडेलची नावे आणि थेट कॅटलॉग लेबल इंग्रजीत दाखवले जातात.
आज 1M+ टोकन संदर्भ असलेली मोफत मॉडेल्स
तक्त्यात किमान 1,000,000 टोकन संदर्भ विंडो असलेली मोफत मॉडेल्स आहेत, सर्वात मोठी आधी. डेटा थेट कॅटलॉगमधून येतो. संदर्भ आकारासोबत "मोफत मर्यादा" स्तंभही पाहा.
| मॉडेल | मोफत उपलब्ध | संदर्भ | मोफत मर्यादा (सर्वोत्तम ऑफर) | साधने | व्हिजन |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | नाही | नाही |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 विनंत्या/मिनिट 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | होय | होय |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 विनंत्या/मिनिट 20 विनंत्या/दिवस 250,000 टोकन/मिनिट ~3M | होय | होय |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 विनंत्या/मिनिट 50 विनंत्या/दिवस Shared rate limit | होय | नाही |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | नाही | नाही |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 विनंत्या/मिनिट 20 विनंत्या/दिवस 250,000 टोकन/मिनिट ~3M | होय | होय |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | नाही | नाही |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 विनंत्या/मिनिट 20 विनंत्या/दिवस 250,000 टोकन/मिनिट ~3M | होय | होय |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 विनंत्या/मिनिट 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | नाही | नाही |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +3 अधिक | 1M | 200 विनंत्या/दिवस 200 rpd | होय | नाही |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 विनंत्या/मिनिट 20 विनंत्या/दिवस 250,000 टोकन/मिनिट ~3M | होय | होय |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 विनंत्या/मिनिट 20 विनंत्या/दिवस 250,000 टोकन/मिनिट ~3M | होय | होय |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 विनंत्या/मिनिट 5,000 विनंत्या/दिवस 500,000 टोकन/दिवस 500K tokens/day · 5,000 req/day | होय | होय |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 विनंत्या/मिनिट 5,000 विनंत्या/दिवस 500,000 टोकन/दिवस 500K tokens/day · 5,000 req/day | होय | होय |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +2 अधिक | 1M | 20 विनंत्या/मिनिट 50 विनंत्या/दिवस 50 req/day account-wide (1,000 after a $10 purchase) | होय | नाही |
जुळणाऱ्या 33 मोफत मॉडेलपैकी 15 दाखवले जात आहेत. सर्व मॉडेल पहा.
FreeLLMAPI कॅटलॉगमधील थेट डेटा (आवृत्ती 2026.11.19, तपासले 2026-11-19). मोफत मर्यादा वारंवार बदलतात. कॅटलॉग दररोज तपासले जाते.
Google AI Studio वरील Gemini Flash मॉडेल्स ही सर्वात परिचित 1M-टोकन मोफत मॉडेल्स आहेत. ती इमेज आणि टूल कॉल्सही स्वीकारतात. इतर ओळी मोफत राउटर आणि NVIDIA कडून येतात.
खरी मर्यादा: प्रति मिनिट टोकन
संदर्भ विंडो हा सर्वात मोठा प्रॉम्प्ट आहे जो मॉडेल वाचू शकते. मोफत टियरवर प्रति-मिनिट टोकन (TPM) मर्यादा देखील असते. अनेक मोफत टियरवर TPM मर्यादा संदर्भ विंडोपेक्षा लहान असते.
- उदाहरण: तक्त्यातील मोफत Gemini Flash की प्रति मिनिट 250,000 टोकनला परवानगी देते. 800,000 टोकनचा प्रॉम्प्ट संदर्भ विंडोत आहे, पण TPM मर्यादेपेक्षा जास्त आहे. प्रदाता त्रुटी 429 पाठवतो.
- प्रति दिवस विनंत्या: काही मोफत Gemini मॉडेल्स दररोज फक्त सुमारे 20 विनंत्यांना परवानगी देतात. ज्या कामांना त्याची गरज आहे त्यांच्यासाठीच लांब प्रॉम्प्ट वापरा.
- आउटपुट वेगळे आहे: उत्तराची स्वतःची कमाल लांबी असते. 1M-टोकन संदर्भ म्हणजे 1M-टोकन उत्तर नाही.
म्हणून व्यवहारात, मोफत 1M-संदर्भ मॉडेल एका विनंतीत काही लाख टोकन वाचू शकते. प्रॉम्प्ट पाठवण्यापूर्वी त्याचे मोजमाप करा.
पायरी 1: FreeLLMAPI इन्स्टॉल करा आणि की जोडा
FreeLLMAPI ओपन सोर्स आहे. ते तुमच्या संगणकावर Docker मध्ये चालते. तुमच्या प्रदात्यांच्या की तुमच्या संगणकावरच राहतात.
इन्स्टॉल करा (macOS किंवा Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001 वर डॅशबोर्ड उघडा. Keys पेजवर Google AI Studio ची की जोडा. तक्त्यातील इतर प्रदात्यांच्या की देखील जोडा, म्हणजे Google 429 त्रुटी पाठवतो तेव्हा राउटरकडे दुसरे लांब-संदर्भ मॉडेल असेल. त्याच पेजवरून तुमची एकत्रित की कॉपी करा.
पायरी 2: टोकन मोजा, मग लांब दस्तऐवज पाठवा
FreeLLMAPI मूळ Gemini countTokens पद्धत पुरवते. प्रॉम्प्ट पाठवण्यापूर्वी त्याचे मोजमाप करण्यासाठी ती वापरा.
curl: मूळ Gemini एंडपॉइंटने टोकन मोजा
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: 1M-संदर्भ मॉडेलला लांब फाइल पाठवा
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)लांब-संदर्भ मॉडेल त्याच्या ID ने निश्चित करा. model: "auto" सह राउटर लहान संदर्भ विंडो असलेले मॉडेल निवडू शकतो. लांब क्लाएंट टाइमआउट सेट करा, कारण मोठ्या प्रॉम्प्टना वाचायला वेळ लागतो.
लांब संदर्भ की RAG?
| लांब संदर्भ कधी वापरायचा | RAG कधी वापरायचा |
|---|---|
| दस्तऐवज एकदाच वाचले जाते, उदाहरणार्थ एक करार किंवा एक अहवाल | तुम्ही एकाच मोठ्या डेटाबद्दल अनेक प्रश्न विचारता |
| उत्तराला पूर्ण मजकूर लागतो, उदाहरणार्थ सारांश किंवा विभागांची तुलना | उत्तर काही छोट्या उताऱ्यांमध्ये आहे |
| मजकूर तुमच्या मोफत कीच्या TPM मर्यादेपेक्षा लहान आहे | डेटा कोणत्याही मोफत संदर्भ विंडो किंवा TPM मर्यादेपेक्षा मोठा आहे |
| मॉडेलने मजकुरातील क्रम आणि रचना पाहणे गरजेचे आहे | प्रत्येक विनंती लहान आणि जलद ठेवायची आहे |
RAG प्रत्येक प्रश्नासोबत डेटाचे फक्त संबंधित भाग पाठवते. मोफत टियरवर ते कमी टोकन वापरते. सेटअपसाठी RAG साठी मोफत LLM API आणि मोफत एम्बेडिंग API वाचा.
अडचणी आणि समस्या निवारण
- हरवलेले तपशील: खूप लांब प्रॉम्प्टच्या मध्यभागी मॉडेल तथ्ये चुकवू शकते. तुमचा प्रश्न दस्तऐवजानंतर ठेवा, आणि मॉडेलला त्याचा स्रोत उद्धृत करायला सांगा.
- विचार टोकन: Gemini Flash मॉडेल्स आउटपुट बजेटमधून लपलेले विचार टोकन वापरू शकतात. खूप लहान
max_tokensसेट करू नका. - PDF फाइल्स: FreeLLMAPI PDF, DOCX किंवा XLSX फाइल्सचे रूपांतर करत नाही. बायनरी दस्तऐवज जोडल्यास त्रुटी 400 येते. आधी मजकूर काढा, मग मजकूर पाठवा.
- मजकूर स्वच्छ करा: दस्तऐवज पाठवण्यापूर्वी पृष्ठ शीर्षके, तळटीपा आणि वारंवार येणारी विषयसूची काढा. त्या टोकन वापरतात आणि कोणतीही तथ्ये जोडत नाहीत.
- पुनरावृत्त प्रॉम्प्ट: प्रत्येक विनंती पूर्ण दस्तऐवज पुन्हा पाठवते. शक्य असल्यास एका विनंतीत अनेक प्रश्न विचारा.
| समस्या | कारण | उपाय |
|---|---|---|
| पहिल्या लांब विनंतीवर त्रुटी 429 | प्रॉम्प्ट TPM मर्यादेपेक्षा मोठा आहे | प्रॉम्प्ट लहान करा, किंवा RAG वापरा |
| संदर्भ लांबीबद्दल त्रुटी 400 | विनंती लहान विंडो असलेल्या मॉडेलकडे गेली | तक्त्यातील मॉडेल ID निश्चित करा |
| रिकामे किंवा कापलेले उत्तर | max_tokens खूप लहान आहे, किंवा विचाराने ते वापरले | मोठे max_tokens सेट करा |
| टाइमआउट | प्रॉम्प्ट वाचायला मॉडेलला वेळ लागतो | क्लाएंट टाइमआउट 300 सेकंद किंवा अधिक सेट करा |
वारंवार विचारले जाणारे प्रश्न
1 दशलक्ष टोकन संदर्भ असलेले मोफत LLM API आहे का?
होय. Google AI Studio मोफत टियरवरील Gemini Flash मॉडेल्सची संदर्भ विंडो सुमारे 1 दशलक्ष टोकन आहे. FreeLLMAPI कॅटलॉगमध्ये 1M किंवा अधिक टोकन असलेल्या 56 मोफत मॉडेल ऑफर्स आहेत.
एका विनंतीत मोफत 1 दशलक्ष टोकन पाठवता येतात का?
सामान्यतः नाही. कॅटलॉगमधील मोफत Gemini टियर प्रति मिनिट 250,000 टोकनला परवानगी देते, त्यामुळे मोठा प्रॉम्प्ट त्रुटी 429 देतो. प्रत्येक विनंतीसाठी काही लाख टोकनचे नियोजन करा.
प्रॉम्प्ट पाठवण्यापूर्वी टोकन कसे मोजायचे?
FreeLLMAPI द्वारे /v1beta/models/{model}:countTokens वर मूळ Gemini countTokens पद्धत कॉल करा. इंग्रजी मजकुरासाठी सुमारे 4 अक्षरे एक टोकन बनवतात.
कोणत्या मोफत LLM ची संदर्भ विंडो सर्वात मोठी आहे?
या पृष्ठावरील तक्ता मोफत मॉडेल्स संदर्भ आकारानुसार, सर्वात मोठा आधी, लावतो. अनेक मोफत मॉडेल्स सुमारे 1 दशलक्ष टोकनपर्यंत पोहोचतात. मोफत मर्यादांचा स्तंभही वाचा, कारण TPM मर्यादा एका विनंतीचा खरा आकार ठरवते.
लांब संदर्भ RAG पेक्षा चांगला आहे का?
एकदा वाचायच्या एका दस्तऐवजासाठी लांब संदर्भ चांगला आहे. मोठ्या डेटावरील अनेक प्रश्नांसाठी RAG चांगला आहे, कारण तो प्रत्येक वेळी कमी टोकन पाठवतो.
संबंधित मार्गदर्शक
- RAG साठी मोफत LLM API
- मोफत Embeddings API
- free gemini api
- Gemini API कोटा ओलांडला (429 RESOURCE_EXHAUSTED)
- मोफत LLM API रेट मर्यादा
स्रोत
- FreeLLMAPI docs: Native Gemini API (तपासले 20 November 2026)
- FreeLLMAPI docs: Chat completions and routing (तपासले 20 November 2026)
- Google AI Studio docs: Thinking (तपासले 20 November 2026)
- Gemini Developer API pricing (तपासले 20 November 2026)