முகப்பு / வழிகாட்டிகள் / 1 மில்லியன் டோக்கன் context கொண்ட இலவச LLM API

1 மில்லியன் டோக்கன் context கொண்ட இலவச LLM API

நீண்ட context window ஒரே கோரிக்கையில் ஒரு முழு புத்தகம், ஒரு பெரிய குறியீட்டுத் தளம் அல்லது மணிநேர உரையாடல் பதிவுகளை மாடலுக்குப் படிக்க அனுமதிக்கிறது. FreeLLMAPI catalog-இல் 1 மில்லியன் டோக்கன்கள் அல்லது அதற்கு மேற்பட்ட context window கொண்ட 56 இலவச மாடல் சலுகைகள் உள்ளன. இந்த வழிகாட்டி அந்த மாடல்களையும், நீங்கள் உண்மையில் எவ்வளவு அனுப்பலாம் என்பதைத் தீர்மானிக்கும் இலவச அடுக்கு வரம்புகளையும் காட்டுகிறது.

குறியீடு, மாதிரிப் பெயர்கள் மற்றும் நேரடி பட்டியல் லேபிள்கள் ஆங்கிலத்தில் காட்டப்படுகின்றன.

இன்று 1M+ டோக்கன் context கொண்ட இலவச மாடல்கள்

இந்த அட்டவணை குறைந்தது 1,000,000 டோக்கன்கள் context window கொண்ட இலவச மாடல்களைப் பெரியவை முதலில் பட்டியலிடுகிறது. தரவு நேரடி catalog-இலிருந்து வருகிறது. context அளவுடன் "இலவச வரம்புகள்" நெடுவரிசையையும் பாருங்கள்.

1M+ டோக்கன் context கொண்ட இலவச மாடல்கள், பெரியவை முதலில்
மாதிரிஇலவசம்சூழல் அளவுஇலவச வரம்புகள் (சிறந்த சலுகை)கருவிகள்படப் பார்வை
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsஇல்லைஇல்லை
Gemini 3.8 FlashAPINex, Google AI Studio1M5 கோரிக்கை/நிமிடம்
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
ஆம்ஆம்
Gemini 3.7 FlashGoogle AI Studio1M10 கோரிக்கை/நிமிடம்
20 கோரிக்கை/நாள்
250,000 டோக்கன்/நிமிடம்
~3M
ஆம்ஆம்
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 கோரிக்கை/நிமிடம்
50 கோரிக்கை/நாள்
Shared rate limit
ஆம்இல்லை
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetஇல்லைஇல்லை
Gemini 3.6 FlashGoogle AI Studio1M10 கோரிக்கை/நிமிடம்
20 கோரிக்கை/நாள்
250,000 டோக்கன்/நிமிடம்
~3M
ஆம்ஆம்
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetஇல்லைஇல்லை
Gemini 3.5 FlashGoogle AI Studio1M10 கோரிக்கை/நிமிடம்
20 கோரிக்கை/நாள்
250,000 டோக்கன்/நிமிடம்
~3M
ஆம்ஆம்
DeepSeek V4 ProAPINex, Router91M5 கோரிக்கை/நிமிடம்
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
இல்லைஇல்லை
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3 மேலும்1M200 கோரிக்கை/நாள்
200 rpd
ஆம்இல்லை
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 கோரிக்கை/நிமிடம்
20 கோரிக்கை/நாள்
250,000 டோக்கன்/நிமிடம்
~3M
ஆம்ஆம்
Gemini 3 Flash PreviewGoogle AI Studio1M10 கோரிக்கை/நிமிடம்
20 கோரிக்கை/நாள்
250,000 டோக்கன்/நிமிடம்
~3M
ஆம்ஆம்
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 கோரிக்கை/நிமிடம்
5,000 கோரிக்கை/நாள்
500,000 டோக்கன்/நாள்
500K tokens/day · 5,000 req/day
ஆம்ஆம்
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 கோரிக்கை/நிமிடம்
5,000 கோரிக்கை/நாள்
500,000 டோக்கன்/நாள்
500K tokens/day · 5,000 req/day
ஆம்ஆம்
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2 மேலும்1M20 கோரிக்கை/நிமிடம்
50 கோரிக்கை/நாள்
50 req/day account-wide (1,000 after a $10 purchase)
ஆம்இல்லை

பொருந்தும் 33 இலவச மாதிரிகளில் 15 காட்டப்படுகின்றன. அனைத்து மாதிரிகளையும் பார்க்கவும்.

FreeLLMAPI பட்டியலிலிருந்து நேரடி தரவு (பதிப்பு 2026.11.19, சரிபார்க்கப்பட்டது 2026-11-19). இலவச வரம்புகள் அடிக்கடி மாறும். பட்டியல் ஒவ்வொரு நாளும் சரிபார்க்கப்படுகிறது.

Google AI Studio-இலிருந்து வரும் Gemini Flash மாடல்கள் மிகவும் அறியப்பட்ட 1M-டோக்கன் இலவச மாடல்கள். அவை படங்களையும் tool அழைப்புகளையும் ஏற்கின்றன. பிற வரிசைகள் இலவச router-களிலிருந்தும் NVIDIA-விலிருந்தும் வருகின்றன.

உண்மையான வரம்பு: நிமிடத்துக்கான டோக்கன்கள்

context window என்பது மாடல் படிக்கக்கூடிய மிகப் பெரிய prompt. இலவச அடுக்கில் நிமிடத்துக்கான டோக்கன் (TPM) வரம்பும் உண்டு. பல இலவச அடுக்குகளில் TPM வரம்பு context window-ஐ விடச் சிறியது.

  • எடுத்துக்காட்டு: அட்டவணையிலுள்ள இலவச Gemini Flash key நிமிடத்துக்கு 250,000 டோக்கன்களை அனுமதிக்கிறது. 800,000 டோக்கன்கள் கொண்ட prompt context window-க்கு உள்ளே உள்ளது, ஆனால் TPM வரம்புக்கு மேலே. வழங்குநர் பிழை 429-ஐ அனுப்புகிறார்.
  • நாளுக்கான கோரிக்கைகள்: சில இலவச Gemini மாடல்கள் ஒவ்வொரு நாளும் சுமார் 20 கோரிக்கைகளை மட்டுமே அனுமதிக்கின்றன. தேவைப்படும் பணிகளுக்கு மட்டும் நீண்ட prompts-ஐப் பயன்படுத்துங்கள்.
  • வெளியீடு தனியானது: பதிலுக்கு அதன் சொந்த அதிகபட்ச நீளம் உண்டு. 1M-டோக்கன் context 1M-டோக்கன் பதிலைத் தராது.

எனவே நடைமுறையில், ஓர் இலவச 1M-context மாடல் ஒரே கோரிக்கையில் சில நூறு ஆயிரம் டோக்கன்களைப் படிக்கலாம். அனுப்பும் முன் உங்கள் prompt-ஐ அளவிடுங்கள்.

படி 1: FreeLLMAPI-ஐ நிறுவி key-களைச் சேர்க்கவும்

FreeLLMAPI ஒரு open-source நிரல். இது Docker-இல் உங்கள் கணினியில் இயங்குகிறது. உங்கள் வழங்குநர் key-கள் உங்கள் கணினியிலேயே இருக்கும்.

நிறுவுங்கள் (macOS அல்லது Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001-இல் dashboard-ஐத் திறவுங்கள். Keys பக்கத்தில் ஒரு Google AI Studio key-ஐச் சேர்க்கவும். Google 429 பிழையை அனுப்பும்போது router-க்கு இன்னொரு நீண்ட-context மாடல் கிடைக்க, அட்டவணையில் உள்ள பிற வழங்குநர்களின் key-களையும் சேர்க்கவும். அதே பக்கத்திலிருந்து உங்கள் ஒருங்கிணைந்த key-ஐ நகலெடுக்கவும்.

படி 2: டோக்கன்களை எண்ணுங்கள், பின்னர் நீண்ட ஆவணத்தை அனுப்புங்கள்

FreeLLMAPI சொந்த Gemini countTokens முறையை வழங்குகிறது. அனுப்பும் முன் prompt-ஐ அளவிட அதைப் பயன்படுத்துங்கள்.

curl: சொந்த Gemini endpoint மூலம் டோக்கன்களை எண்ணுங்கள்

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: 1M-context மாடலுக்கு நீண்ட கோப்பை அனுப்புங்கள்

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

மாடல் id மூலம் ஒரு நீண்ட-context மாடலை நிலைப்படுத்துங்கள். model: "auto" உடன், router சிறிய context window கொண்ட மாடலைத் தேர்ந்தெடுக்கலாம். பெரிய prompts படிக்க நேரம் ஆவதால், நீண்ட client timeout-ஐ அமையுங்கள்.

நீண்ட context-ஆ அல்லது RAG-ஆ?

நீண்ட context-ஐப் பயன்படுத்தும்போதுRAG-ஐப் பயன்படுத்தும்போது
ஆவணம் ஒருமுறை படிக்கப்படுகிறது, எடுத்துக்காட்டாக ஓர் ஒப்பந்தம் அல்லது ஓர் அறிக்கைஒரே பெரிய தரவைப் பற்றி பல கேள்விகள் கேட்கிறீர்கள்
பதிலுக்கு முழு உரை தேவை, எடுத்துக்காட்டாக ஒரு சுருக்கம் அல்லது பிரிவுகளின் ஒப்பீடுபதில் சில குறுகிய பகுதிகளில் உள்ளது
உரை உங்கள் இலவச key-இன் TPM வரம்பை விடச் சிறியதுதரவு எந்த இலவச context window அல்லது TPM வரம்பையும் விடப் பெரியது
உரையின் வரிசையையும் கட்டமைப்பையும் மாடல் பார்க்க வேண்டும்ஒவ்வொரு கோரிக்கையையும் சிறியதாகவும் வேகமாகவும் வைக்க வேண்டும்

RAG ஒவ்வொரு கேள்வியுடனும் தரவின் தொடர்புடைய பகுதிகளை மட்டுமே அனுப்புகிறது. இலவச அடுக்குகளில் அது குறைவான டோக்கன்களைப் பயன்படுத்துகிறது. அதை அமைக்க RAG-க்கு இலவச LLM API மற்றும் இலவச embeddings API படியுங்கள்.

பிழைகளும் சிக்கல் தீர்வும்

  • தவறிய விவரங்கள்: மிக நீளமான prompt-இன் நடுவில் உள்ள உண்மைகளை மாடல்கள் தவறவிடலாம். உங்கள் கேள்வியை ஆவணத்துக்குப் பின் வையுங்கள், மற்றும் மாடல் தனது மூலத்தை மேற்கோள் காட்ட வேண்டும் என்று கேளுங்கள்.
  • சிந்தனை டோக்கன்கள்: Gemini Flash மாடல்கள் வெளியீட்டு பட்ஜெட்டிலிருந்து மறைந்த சிந்தனை டோக்கன்களைப் பயன்படுத்தலாம். மிகச் சிறிய max_tokens-ஐ அமைக்காதீர்கள்.
  • PDF கோப்புகள்: FreeLLMAPI PDF, DOCX அல்லது XLSX கோப்புகளை மாற்றுவதில்லை. ஒரு binary ஆவண இணைப்பு பிழை 400-ஐத் திருப்பும். முதலில் உரையைப் பிரித்தெடுங்கள், பின்னர் உரையை அனுப்புங்கள்.
  • உரையைச் சுத்தம் செய்யுங்கள்: ஆவணத்தை அனுப்பும் முன் பக்கத் தலைப்புகள், அடிக்குறிப்புகள் மற்றும் திரும்பத் திரும்ப வரும் உள்ளடக்க அட்டவணைகளை நீக்குங்கள். அவை டோக்கன்களைப் பயன்படுத்துகின்றன, எந்த உண்மையையும் சேர்ப்பதில்லை.
  • திரும்பத் திரும்ப வரும் prompts: ஒவ்வொரு கோரிக்கையும் முழு ஆவணத்தையும் மீண்டும் அனுப்புகிறது. முடிந்தால் ஒரே கோரிக்கையில் பல கேள்விகளைக் கேளுங்கள்.
சிக்கல்காரணம்தீர்வு
முதல் நீண்ட கோரிக்கையில் பிழை 429prompt TPM வரம்பை விடப் பெரியதுprompt-ஐச் சிறியதாக ஆக்குங்கள், அல்லது RAG-ஐப் பயன்படுத்துங்கள்
context நீளம் பற்றிய பிழை 400கோரிக்கை சிறிய window கொண்ட மாடலுக்குச் சென்றதுஅட்டவணையிலிருந்து ஒரு மாடல் id-ஐ நிலைப்படுத்துங்கள்
காலியான அல்லது துண்டிக்கப்பட்ட பதில்max_tokens மிகச் சிறியது, அல்லது சிந்தனை அதைப் பயன்படுத்தியதுபெரிய max_tokens-ஐ அமையுங்கள்
நேரமுடிவுமாடல் prompt-ஐப் படிக்க நேரம் தேவை300 வினாடிகள் அல்லது அதற்கு மேல் client timeout-ஐ அமையுங்கள்
இவை அனைத்தையும் ஒரே விசை மூலம் பயன்படுத்துங்கள். FreeLLMAPI என்பது திறந்த மூலமான, நீங்களே நிறுவும் ரூட்டர். இந்த இலவச அடுக்குகள் அனைத்தையும் ஒரே OpenAI-இணக்கமான இறுதிப்புள்ளிக்குப் பின்னால் வைக்கிறது. ஒரு வழங்குநர் வரம்பை எட்டும்போது தானாக அடுத்ததற்கு மாறுகிறது. பட்டியலைப் பார்க்கவும் அல்லது நேரலைக்குச் செல்லவும்.

அடிக்கடி கேட்கப்படும் கேள்விகள்

1 மில்லியன் டோக்கன் context கொண்ட இலவச LLM API உள்ளதா?

ஆம். Google AI Studio இலவச அடுக்கில் உள்ள Gemini Flash மாடல்களுக்கு சுமார் 1 மில்லியன் டோக்கன்கள் context window உண்டு. FreeLLMAPI catalog-இல் 1M அல்லது அதற்கு மேற்பட்ட டோக்கன்கள் கொண்ட 56 இலவச மாடல் சலுகைகள் உள்ளன.

ஒரே கோரிக்கையில் 1 மில்லியன் டோக்கன்களை இலவசமாக அனுப்பலாமா?

பொதுவாக முடியாது. catalog-இல் உள்ள இலவச Gemini அடுக்கு நிமிடத்துக்கு 250,000 டோக்கன்களை அனுமதிக்கிறது, எனவே பெரிய prompt பிழை 429-ஐப் பெறும். ஒவ்வொரு கோரிக்கைக்கும் சில நூறு ஆயிரம் டோக்கன்களைத் திட்டமிடுங்கள்.

prompt-ஐ அனுப்பும் முன் டோக்கன்களை எப்படி எண்ணுவது?

FreeLLMAPI மூலம் /v1beta/models/{model}:countTokens-இல் சொந்த Gemini countTokens முறையை அழையுங்கள். ஆங்கில உரைக்கு, சுமார் 4 எழுத்துகள் ஒரு டோக்கன்.

எந்த இலவச LLM-க்கு மிகப் பெரிய context window உள்ளது?

இந்தப் பக்கத்தின் அட்டவணை இலவச மாடல்களை context அளவின்படி, பெரியவை முதலில் வரிசைப்படுத்துகிறது. பல இலவச மாடல்கள் சுமார் 1 மில்லியன் டோக்கன்களை அடைகின்றன. இலவச வரம்புகள் நெடுவரிசையையும் படியுங்கள், ஏனெனில் TPM வரம்பே ஒரு கோரிக்கையின் உண்மையான அளவை முடிவு செய்கிறது.

நீண்ட context, RAG-ஐ விடச் சிறந்ததா?

நீங்கள் ஒருமுறை படிக்கும் ஒரு ஆவணத்துக்கு நீண்ட context சிறந்தது. பெரிய தரவைப் பற்றிய பல கேள்விகளுக்கு RAG சிறந்தது, ஏனெனில் அது ஒவ்வொரு முறையும் குறைவான டோக்கன்களை அனுப்புகிறது.

தொடர்புடைய வழிகாட்டிகள்

ஆதாரங்கள்

அனைத்து வழிகாட்டிகள் · அனைத்து இலவச மாதிரிகளையும் பார்க்கவும்