मुख्यपृष्ठ / मार्गदर्शक / 1 दशलक्ष टोकन संदर्भ असलेले मोफत LLM API

1 दशलक्ष टोकन संदर्भ असलेले मोफत LLM API

लांब संदर्भ विंडोमुळे मॉडेल एका विनंतीत पूर्ण पुस्तक, मोठा कोड बेस किंवा तासभराचे ट्रान्सक्रिप्ट वाचू शकते. FreeLLMAPI कॅटलॉगमध्ये 10 लाख टोकन किंवा अधिक संदर्भ विंडो असलेल्या 56 मोफत मॉडेल ऑफर्स आहेत. हे मार्गदर्शक ती मॉडेल्स आणि मोफत टियरच्या मर्यादा दाखवते, ज्या ठरवतात की तुम्ही प्रत्यक्षात किती पाठवू शकता.

कोड, मॉडेलची नावे आणि थेट कॅटलॉग लेबल इंग्रजीत दाखवले जातात.

आज 1M+ टोकन संदर्भ असलेली मोफत मॉडेल्स

तक्त्यात किमान 1,000,000 टोकन संदर्भ विंडो असलेली मोफत मॉडेल्स आहेत, सर्वात मोठी आधी. डेटा थेट कॅटलॉगमधून येतो. संदर्भ आकारासोबत "मोफत मर्यादा" स्तंभही पाहा.

1M+ टोकन संदर्भ असलेली मोफत मॉडेल्स, सर्वात मोठी आधी
मॉडेलमोफत उपलब्धसंदर्भमोफत मर्यादा (सर्वोत्तम ऑफर)साधनेव्हिजन
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsनाहीनाही
Gemini 3.8 FlashAPINex, Google AI Studio1M5 विनंत्या/मिनिट
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
होयहोय
Gemini 3.7 FlashGoogle AI Studio1M10 विनंत्या/मिनिट
20 विनंत्या/दिवस
250,000 टोकन/मिनिट
~3M
होयहोय
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 विनंत्या/मिनिट
50 विनंत्या/दिवस
Shared rate limit
होयनाही
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetनाहीनाही
Gemini 3.6 FlashGoogle AI Studio1M10 विनंत्या/मिनिट
20 विनंत्या/दिवस
250,000 टोकन/मिनिट
~3M
होयहोय
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetनाहीनाही
Gemini 3.5 FlashGoogle AI Studio1M10 विनंत्या/मिनिट
20 विनंत्या/दिवस
250,000 टोकन/मिनिट
~3M
होयहोय
DeepSeek V4 ProAPINex, Router91M5 विनंत्या/मिनिट
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
नाहीनाही
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3 अधिक1M200 विनंत्या/दिवस
200 rpd
होयनाही
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 विनंत्या/मिनिट
20 विनंत्या/दिवस
250,000 टोकन/मिनिट
~3M
होयहोय
Gemini 3 Flash PreviewGoogle AI Studio1M10 विनंत्या/मिनिट
20 विनंत्या/दिवस
250,000 टोकन/मिनिट
~3M
होयहोय
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 विनंत्या/मिनिट
5,000 विनंत्या/दिवस
500,000 टोकन/दिवस
500K tokens/day · 5,000 req/day
होयहोय
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 विनंत्या/मिनिट
5,000 विनंत्या/दिवस
500,000 टोकन/दिवस
500K tokens/day · 5,000 req/day
होयहोय
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2 अधिक1M20 विनंत्या/मिनिट
50 विनंत्या/दिवस
50 req/day account-wide (1,000 after a $10 purchase)
होयनाही

जुळणाऱ्या 33 मोफत मॉडेलपैकी 15 दाखवले जात आहेत. सर्व मॉडेल पहा.

FreeLLMAPI कॅटलॉगमधील थेट डेटा (आवृत्ती 2026.11.19, तपासले 2026-11-19). मोफत मर्यादा वारंवार बदलतात. कॅटलॉग दररोज तपासले जाते.

Google AI Studio वरील Gemini Flash मॉडेल्स ही सर्वात परिचित 1M-टोकन मोफत मॉडेल्स आहेत. ती इमेज आणि टूल कॉल्सही स्वीकारतात. इतर ओळी मोफत राउटर आणि NVIDIA कडून येतात.

खरी मर्यादा: प्रति मिनिट टोकन

संदर्भ विंडो हा सर्वात मोठा प्रॉम्प्ट आहे जो मॉडेल वाचू शकते. मोफत टियरवर प्रति-मिनिट टोकन (TPM) मर्यादा देखील असते. अनेक मोफत टियरवर TPM मर्यादा संदर्भ विंडोपेक्षा लहान असते.

  • उदाहरण: तक्त्यातील मोफत Gemini Flash की प्रति मिनिट 250,000 टोकनला परवानगी देते. 800,000 टोकनचा प्रॉम्प्ट संदर्भ विंडोत आहे, पण TPM मर्यादेपेक्षा जास्त आहे. प्रदाता त्रुटी 429 पाठवतो.
  • प्रति दिवस विनंत्या: काही मोफत Gemini मॉडेल्स दररोज फक्त सुमारे 20 विनंत्यांना परवानगी देतात. ज्या कामांना त्याची गरज आहे त्यांच्यासाठीच लांब प्रॉम्प्ट वापरा.
  • आउटपुट वेगळे आहे: उत्तराची स्वतःची कमाल लांबी असते. 1M-टोकन संदर्भ म्हणजे 1M-टोकन उत्तर नाही.

म्हणून व्यवहारात, मोफत 1M-संदर्भ मॉडेल एका विनंतीत काही लाख टोकन वाचू शकते. प्रॉम्प्ट पाठवण्यापूर्वी त्याचे मोजमाप करा.

पायरी 1: FreeLLMAPI इन्स्टॉल करा आणि की जोडा

FreeLLMAPI ओपन सोर्स आहे. ते तुमच्या संगणकावर Docker मध्ये चालते. तुमच्या प्रदात्यांच्या की तुमच्या संगणकावरच राहतात.

इन्स्टॉल करा (macOS किंवा Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001 वर डॅशबोर्ड उघडा. Keys पेजवर Google AI Studio ची की जोडा. तक्त्यातील इतर प्रदात्यांच्या की देखील जोडा, म्हणजे Google 429 त्रुटी पाठवतो तेव्हा राउटरकडे दुसरे लांब-संदर्भ मॉडेल असेल. त्याच पेजवरून तुमची एकत्रित की कॉपी करा.

पायरी 2: टोकन मोजा, मग लांब दस्तऐवज पाठवा

FreeLLMAPI मूळ Gemini countTokens पद्धत पुरवते. प्रॉम्प्ट पाठवण्यापूर्वी त्याचे मोजमाप करण्यासाठी ती वापरा.

curl: मूळ Gemini एंडपॉइंटने टोकन मोजा

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: 1M-संदर्भ मॉडेलला लांब फाइल पाठवा

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

लांब-संदर्भ मॉडेल त्याच्या ID ने निश्चित करा. model: "auto" सह राउटर लहान संदर्भ विंडो असलेले मॉडेल निवडू शकतो. लांब क्लाएंट टाइमआउट सेट करा, कारण मोठ्या प्रॉम्प्टना वाचायला वेळ लागतो.

लांब संदर्भ की RAG?

लांब संदर्भ कधी वापरायचाRAG कधी वापरायचा
दस्तऐवज एकदाच वाचले जाते, उदाहरणार्थ एक करार किंवा एक अहवालतुम्ही एकाच मोठ्या डेटाबद्दल अनेक प्रश्न विचारता
उत्तराला पूर्ण मजकूर लागतो, उदाहरणार्थ सारांश किंवा विभागांची तुलनाउत्तर काही छोट्या उताऱ्यांमध्ये आहे
मजकूर तुमच्या मोफत कीच्या TPM मर्यादेपेक्षा लहान आहेडेटा कोणत्याही मोफत संदर्भ विंडो किंवा TPM मर्यादेपेक्षा मोठा आहे
मॉडेलने मजकुरातील क्रम आणि रचना पाहणे गरजेचे आहेप्रत्येक विनंती लहान आणि जलद ठेवायची आहे

RAG प्रत्येक प्रश्नासोबत डेटाचे फक्त संबंधित भाग पाठवते. मोफत टियरवर ते कमी टोकन वापरते. सेटअपसाठी RAG साठी मोफत LLM API आणि मोफत एम्बेडिंग API वाचा.

अडचणी आणि समस्या निवारण

  • हरवलेले तपशील: खूप लांब प्रॉम्प्टच्या मध्यभागी मॉडेल तथ्ये चुकवू शकते. तुमचा प्रश्न दस्तऐवजानंतर ठेवा, आणि मॉडेलला त्याचा स्रोत उद्धृत करायला सांगा.
  • विचार टोकन: Gemini Flash मॉडेल्स आउटपुट बजेटमधून लपलेले विचार टोकन वापरू शकतात. खूप लहान max_tokens सेट करू नका.
  • PDF फाइल्स: FreeLLMAPI PDF, DOCX किंवा XLSX फाइल्सचे रूपांतर करत नाही. बायनरी दस्तऐवज जोडल्यास त्रुटी 400 येते. आधी मजकूर काढा, मग मजकूर पाठवा.
  • मजकूर स्वच्छ करा: दस्तऐवज पाठवण्यापूर्वी पृष्ठ शीर्षके, तळटीपा आणि वारंवार येणारी विषयसूची काढा. त्या टोकन वापरतात आणि कोणतीही तथ्ये जोडत नाहीत.
  • पुनरावृत्त प्रॉम्प्ट: प्रत्येक विनंती पूर्ण दस्तऐवज पुन्हा पाठवते. शक्य असल्यास एका विनंतीत अनेक प्रश्न विचारा.
समस्याकारणउपाय
पहिल्या लांब विनंतीवर त्रुटी 429प्रॉम्प्ट TPM मर्यादेपेक्षा मोठा आहेप्रॉम्प्ट लहान करा, किंवा RAG वापरा
संदर्भ लांबीबद्दल त्रुटी 400विनंती लहान विंडो असलेल्या मॉडेलकडे गेलीतक्त्यातील मॉडेल ID निश्चित करा
रिकामे किंवा कापलेले उत्तरmax_tokens खूप लहान आहे, किंवा विचाराने ते वापरलेमोठे max_tokens सेट करा
टाइमआउटप्रॉम्प्ट वाचायला मॉडेलला वेळ लागतोक्लाएंट टाइमआउट 300 सेकंद किंवा अधिक सेट करा
या सर्व मॉडेलचा वापर एकाच कीद्वारे करा. FreeLLMAPI हा एक ओपन-सोर्स, स्वतः होस्ट केलेला राउटर आहे. तो हे सर्व मोफत टियर एका OpenAI-सुसंगत एंडपॉइंटमागे ठेवतो आणि एखादे मॉडेल मर्यादेत असताना दुसऱ्याकडे वळवतो. कॅटलॉग ब्राउझ करा किंवा थेट पहा.

वारंवार विचारले जाणारे प्रश्न

1 दशलक्ष टोकन संदर्भ असलेले मोफत LLM API आहे का?

होय. Google AI Studio मोफत टियरवरील Gemini Flash मॉडेल्सची संदर्भ विंडो सुमारे 1 दशलक्ष टोकन आहे. FreeLLMAPI कॅटलॉगमध्ये 1M किंवा अधिक टोकन असलेल्या 56 मोफत मॉडेल ऑफर्स आहेत.

एका विनंतीत मोफत 1 दशलक्ष टोकन पाठवता येतात का?

सामान्यतः नाही. कॅटलॉगमधील मोफत Gemini टियर प्रति मिनिट 250,000 टोकनला परवानगी देते, त्यामुळे मोठा प्रॉम्प्ट त्रुटी 429 देतो. प्रत्येक विनंतीसाठी काही लाख टोकनचे नियोजन करा.

प्रॉम्प्ट पाठवण्यापूर्वी टोकन कसे मोजायचे?

FreeLLMAPI द्वारे /v1beta/models/{model}:countTokens वर मूळ Gemini countTokens पद्धत कॉल करा. इंग्रजी मजकुरासाठी सुमारे 4 अक्षरे एक टोकन बनवतात.

कोणत्या मोफत LLM ची संदर्भ विंडो सर्वात मोठी आहे?

या पृष्ठावरील तक्ता मोफत मॉडेल्स संदर्भ आकारानुसार, सर्वात मोठा आधी, लावतो. अनेक मोफत मॉडेल्स सुमारे 1 दशलक्ष टोकनपर्यंत पोहोचतात. मोफत मर्यादांचा स्तंभही वाचा, कारण TPM मर्यादा एका विनंतीचा खरा आकार ठरवते.

लांब संदर्भ RAG पेक्षा चांगला आहे का?

एकदा वाचायच्या एका दस्तऐवजासाठी लांब संदर्भ चांगला आहे. मोठ्या डेटावरील अनेक प्रश्नांसाठी RAG चांगला आहे, कारण तो प्रत्येक वेळी कमी टोकन पाठवतो.

संबंधित मार्गदर्शक

स्रोत

सर्व मार्गदर्शक · सर्व मोफत मॉडेल पहा