హోమ్ / గైడ్‌లు / 1 మిలియన్ టోకెన్ కాంటెక్స్ట్‌తో ఉచిత LLM API

1 మిలియన్ టోకెన్ కాంటెక్స్ట్‌తో ఉచిత LLM API

దీర్ఘ కాంటెక్స్ట్ విండో ఒక మోడల్‌కు ఒకే అభ్యర్థనలో పూర్తి పుస్తకం, పెద్ద కోడ్ బేస్ లేదా గంటల తరబడి ట్రాన్స్‌క్రిప్ట్‌లను చదవడానికి అవకాశం ఇస్తుంది. FreeLLMAPI కేటలాగ్‌లో 1 మిలియన్ టోకెన్లు లేదా అంతకంటే ఎక్కువ కాంటెక్స్ట్ విండో ఉన్న 56 ఉచిత మోడల్ ఆఫర్‌లు ఉన్నాయి. ఈ గైడ్ ఈ మోడళ్లను మరియు మీరు నిజంగా ఎంత పంపగలరో నిర్ణయించే ఉచిత-టియర్ పరిమితులను చూపుతుంది.

కోడ్, మోడల్ పేర్లు మరియు ప్రత్యక్ష కేటలాగ్ లేబుల్‌లు ఇంగ్లీషులోనే చూపబడతాయి.

ఈ రోజు 1M+ టోకెన్ కాంటెక్స్ట్ ఉన్న ఉచిత మోడళ్లు

పట్టిక కనీసం 1,000,000 టోకెన్ల కాంటెక్స్ట్ విండో ఉన్న ఉచిత మోడళ్లను, అతిపెద్దది మొదట, జాబితా చేస్తుంది. డేటా లైవ్ కేటలాగ్ నుండి వస్తుంది. కాంటెక్స్ట్ పరిమాణంతో పాటు "Free limits" కాలమ్‌ను కూడా చూడండి.

1M+ టోకెన్ కాంటెక్స్ట్ ఉన్న ఉచిత మోడళ్లు, అతిపెద్దది మొదట
మోడల్ఉచితంగా లభ్యంకాంటెక్స్ట్ఉచిత పరిమితులు (ఉత్తమ ఆఫర్)సాధనాలువిజన్
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsలేదులేదు
Gemini 3.8 FlashAPINex, Google AI Studio1M5 అభ్యర్థనలు/నిమిషం
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
అవునుఅవును
Gemini 3.7 FlashGoogle AI Studio1M10 అభ్యర్థనలు/నిమిషం
20 అభ్యర్థనలు/రోజు
250,000 టోకెన్‌లు/నిమిషం
~3M
అవునుఅవును
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 అభ్యర్థనలు/నిమిషం
50 అభ్యర్థనలు/రోజు
Shared rate limit
అవునులేదు
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetలేదులేదు
Gemini 3.6 FlashGoogle AI Studio1M10 అభ్యర్థనలు/నిమిషం
20 అభ్యర్థనలు/రోజు
250,000 టోకెన్‌లు/నిమిషం
~3M
అవునుఅవును
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetలేదులేదు
Gemini 3.5 FlashGoogle AI Studio1M10 అభ్యర్థనలు/నిమిషం
20 అభ్యర్థనలు/రోజు
250,000 టోకెన్‌లు/నిమిషం
~3M
అవునుఅవును
DeepSeek V4 ProAPINex, Router91M5 అభ్యర్థనలు/నిమిషం
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
లేదులేదు
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3 మరిన్ని1M200 అభ్యర్థనలు/రోజు
200 rpd
అవునులేదు
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 అభ్యర్థనలు/నిమిషం
20 అభ్యర్థనలు/రోజు
250,000 టోకెన్‌లు/నిమిషం
~3M
అవునుఅవును
Gemini 3 Flash PreviewGoogle AI Studio1M10 అభ్యర్థనలు/నిమిషం
20 అభ్యర్థనలు/రోజు
250,000 టోకెన్‌లు/నిమిషం
~3M
అవునుఅవును
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 అభ్యర్థనలు/నిమిషం
5,000 అభ్యర్థనలు/రోజు
500,000 టోకెన్‌లు/రోజు
500K tokens/day · 5,000 req/day
అవునుఅవును
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 అభ్యర్థనలు/నిమిషం
5,000 అభ్యర్థనలు/రోజు
500,000 టోకెన్‌లు/రోజు
500K tokens/day · 5,000 req/day
అవునుఅవును
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2 మరిన్ని1M20 అభ్యర్థనలు/నిమిషం
50 అభ్యర్థనలు/రోజు
50 req/day account-wide (1,000 after a $10 purchase)
అవునులేదు

సరిపోలే 33 ఉచిత మోడల్‌లలో 15 చూపబడుతున్నాయి. అన్ని మోడల్‌లను చూడండి.

FreeLLMAPI కేటలాగ్ నుండి ప్రత్యక్ష డేటా (వెర్షన్ 2026.11.19, 2026-11-19 న తనిఖీ చేయబడింది). ఉచిత పరిమితులు తరచుగా మారుతాయి. కేటలాగ్ ప్రతి రోజు తనిఖీ చేయబడుతుంది.

Google AI Studio నుండి Gemini Flash మోడళ్లు బాగా తెలిసిన 1M-టోకెన్ ఉచిత మోడళ్లు. అవి ఇమేజ్‌లను మరియు టూల్ కాల్‌లను కూడా అంగీకరిస్తాయి. ఇతర వరుసలు ఉచిత రౌటర్ల నుండి మరియు NVIDIA నుండి వస్తాయి.

నిజమైన పరిమితి: నిమిషానికి టోకెన్లు

కాంటెక్స్ట్ విండో మోడల్ చదవగల అతిపెద్ద ప్రాంప్ట్. ఉచిత టియర్‌కు నిమిషానికి టోకెన్ల (TPM) పరిమితి కూడా ఉంటుంది. అనేక ఉచిత టియర్‌లపై, TPM పరిమితి కాంటెక్స్ట్ విండో కంటే చిన్నది.

  • ఉదాహరణ: పట్టికలోని ఉచిత Gemini Flash కీ నిమిషానికి 250,000 టోకెన్లను అనుమతిస్తుంది. 800,000 టోకెన్ల ప్రాంప్ట్ కాంటెక్స్ట్ విండోలో ఉంది, కానీ TPM పరిమితి కంటే ఎక్కువ. ప్రొవైడర్ ఎర్రర్ 429ని పంపుతుంది.
  • రోజుకు అభ్యర్థనలు: కొన్ని ఉచిత Gemini మోడళ్లు ప్రతి రోజు సుమారు 20 అభ్యర్థనలను మాత్రమే అనుమతిస్తాయి. వాటి అవసరం ఉన్న పనులకు దీర్ఘ ప్రాంప్ట్‌లను ఉపయోగించండి.
  • అవుట్‌పుట్ వేరుగా ఉంటుంది: సమాధానానికి దాని స్వంత గరిష్ట పొడవు ఉంటుంది. 1M-టోకెన్ కాంటెక్స్ట్ 1M-టోకెన్ సమాధానాన్ని ఇవ్వదు.

కాబట్టి ఆచరణలో, ఉచిత 1M-కాంటెక్స్ట్ మోడల్ ఒక అభ్యర్థనలో కొన్ని లక్షల టోకెన్లను చదవగలదు. పంపే ముందు మీ ప్రాంప్ట్‌ను కొలవండి.

దశ 1: FreeLLMAPIని ఇన్‌స్టాల్ చేసి కీలను జోడించండి

FreeLLMAPI ఓపెన్ సోర్స్. ఇది మీ కంప్యూటర్‌లో Dockerలో నడుస్తుంది. మీ ప్రొవైడర్ కీలు మీ కంప్యూటర్‌లోనే ఉంటాయి.

ఇన్‌స్టాల్ చేయండి (macOS లేదా Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001లో డ్యాష్‌బోర్డ్‌ను తెరవండి. Keys పేజీలో Google AI Studio కీని జోడించండి. Google 429 ఎర్రర్ పంపినప్పుడు రౌటర్‌కు మరో దీర్ఘ-కాంటెక్స్ట్ మోడల్ ఉండేలా, పట్టికలోని ఇతర ప్రొవైడర్ల కీలను కూడా జోడించండి. అదే పేజీ నుండి మీ ఏకీకృత కీని కాపీ చేయండి.

దశ 2: టోకెన్లను లెక్కించండి, తర్వాత దీర్ఘ పత్రాన్ని పంపండి

FreeLLMAPI స్థానిక Gemini countTokens పద్ధతిని అందిస్తుంది. పంపే ముందు ప్రాంప్ట్‌ను కొలవడానికి దాన్ని ఉపయోగించండి.

curl: స్థానిక Gemini ఎండ్‌పాయింట్‌తో టోకెన్లను లెక్కించండి

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: 1M-కాంటెక్స్ట్ మోడల్‌కు దీర్ఘ ఫైల్ పంపండి

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

దీర్ఘ-కాంటెక్స్ట్ మోడల్‌ను దాని ID ద్వారా పిన్ చేయండి. model: "auto" తో, రౌటర్ చిన్న కాంటెక్స్ట్ విండో ఉన్న మోడల్‌ను ఎంచుకోవచ్చు. పెద్ద ప్రాంప్ట్‌లను చదవడానికి సమయం పడుతుంది కాబట్టి, దీర్ఘ క్లయింట్ టైమ్‌అవుట్ సెట్ చేయండి.

దీర్ఘ కాంటెక్స్ట్ లేదా RAG?

దీర్ఘ కాంటెక్స్ట్ ఎప్పుడు ఉపయోగించాలిRAG ఎప్పుడు ఉపయోగించాలి
పత్రం ఒకసారి చదవబడుతుంది, ఉదాహరణకు ఒక ఒప్పందం లేదా ఒక నివేదికఒకే పెద్ద డేటా గురించి మీరు అనేక ప్రశ్నలు అడుగుతారు
సమాధానానికి పూర్తి టెక్స్ట్ కావాలి, ఉదాహరణకు సారాంశం లేదా విభాగాల పోలికసమాధానం కొన్ని చిన్న భాగాలలో ఉంది
టెక్స్ట్ మీ ఉచిత కీ యొక్క TPM పరిమితి కంటే చిన్నదిడేటా ఏ ఉచిత కాంటెక్స్ట్ విండో లేదా TPM పరిమితి కంటే పెద్దది
టెక్స్ట్ యొక్క క్రమం మరియు నిర్మాణాన్ని మోడల్ చూడాలిప్రతి అభ్యర్థనను చిన్నగా మరియు వేగంగా ఉంచాలి

RAG ప్రతి ప్రశ్నతో డేటాలోని సంబంధిత భాగాలను మాత్రమే పంపుతుంది. ఉచిత టియర్‌లపై ఇది తక్కువ టోకెన్లను ఉపయోగిస్తుంది. దాన్ని సెట్ చేయడానికి RAG కోసం ఉచిత LLM API మరియు ఉచిత embeddings API చదవండి.

ఇబ్బందులు మరియు సమస్య పరిష్కారం

  • కోల్పోయిన వివరాలు: చాలా పొడవైన ప్రాంప్ట్ మధ్యలో మోడళ్లు వాస్తవాలను మిస్ కావచ్చు. మీ ప్రశ్నను పత్రం తర్వాత ఉంచండి, మరియు మోడల్ తన మూలాన్ని కోట్ చేయమని అడగండి.
  • Thinking టోకెన్లు: Gemini Flash మోడళ్లు అవుట్‌పుట్ బడ్జెట్ నుండి దాచిన thinking టోకెన్లను ఉపయోగించవచ్చు. చాలా చిన్న max_tokens సెట్ చేయవద్దు.
  • PDF ఫైల్‌లు: FreeLLMAPI PDF, DOCX లేదా XLSX ఫైల్‌లను మార్చదు. బైనరీ పత్రం జోడింపు ఎర్రర్ 400ని ఇస్తుంది. ముందుగా టెక్స్ట్‌ను సంగ్రహించి, తర్వాత టెక్స్ట్‌ను పంపండి.
  • టెక్స్ట్‌ను శుభ్రం చేయండి: పత్రం పంపే ముందు పేజీ హెడర్‌లు, ఫుటర్‌లు మరియు పునరావృతమయ్యే విషయ సూచికలను తొలగించండి. అవి టోకెన్లను ఉపయోగిస్తాయి మరియు ఏ వాస్తవాన్నీ జోడించవు.
  • పునరావృత ప్రాంప్ట్‌లు: ప్రతి అభ్యర్థన పూర్తి పత్రాన్ని మళ్లీ పంపుతుంది. వీలైనప్పుడు ఒకే అభ్యర్థనలో అనేక ప్రశ్నలు అడగండి.
సమస్యకారణంపరిష్కారం
మొదటి దీర్ఘ అభ్యర్థనపై ఎర్రర్ 429ప్రాంప్ట్ TPM పరిమితి కంటే పెద్దదిప్రాంప్ట్‌ను చిన్నదిగా చేయండి, లేదా RAG ఉపయోగించండి
కాంటెక్స్ట్ పొడవు గురించి ఎర్రర్ 400అభ్యర్థన చిన్న విండో ఉన్న మోడల్‌కు వెళ్లిందిపట్టిక నుండి ఒక మోడల్ IDని పిన్ చేయండి
ఖాళీ లేదా కత్తిరించిన సమాధానంmax_tokens చాలా చిన్నది, లేదా thinking దాన్ని ఉపయోగించిందిపెద్ద max_tokens సెట్ చేయండి
టైమ్‌అవుట్ప్రాంప్ట్ చదవడానికి మోడల్‌కు సమయం కావాలిక్లయింట్ టైమ్‌అవుట్‌ను 300 సెకన్లు లేదా అంతకంటే ఎక్కువకు సెట్ చేయండి
ఇవన్నీ ఒకే కీ ద్వారా ఉపయోగించండి. FreeLLMAPI ఒక ఓపెన్-సోర్స్, సెల్ఫ్-హోస్ట్ రూటర్. ఇది ఈ ఉచిత టియర్‌లన్నింటినీ ఒకే OpenAI-అనుకూల ఎండ్‌పాయింట్ వెనుక ఉంచుతుంది. ఒకటి రేట్ లిమిట్ అయినప్పుడు, అది మరొక దానికి మారుతుంది. కేటలాగ్‌ను బ్రౌజ్ చేయండి లేదా ప్రత్యక్షంగా.

తరచుగా అడిగే ప్రశ్నలు

1 మిలియన్ టోకెన్ కాంటెక్స్ట్‌తో ఉచిత LLM API ఉందా?

అవును. Google AI Studio ఉచిత టియర్‌లోని Gemini Flash మోడళ్లకు సుమారు 1 మిలియన్ టోకెన్ల కాంటెక్స్ట్ విండో ఉంది. FreeLLMAPI కేటలాగ్‌లో 1M లేదా అంతకంటే ఎక్కువ టోకెన్లతో 56 ఉచిత మోడల్ ఆఫర్‌లు ఉన్నాయి.

ఒకే అభ్యర్థనలో 1 మిలియన్ టోకెన్లను ఉచితంగా పంపగలనా?

సాధారణంగా కాదు. కేటలాగ్‌లోని ఉచిత Gemini టియర్ నిమిషానికి 250,000 టోకెన్లను అనుమతిస్తుంది, కాబట్టి పెద్ద ప్రాంప్ట్ ఎర్రర్ 429ని పొందుతుంది. ప్రతి అభ్యర్థనకు కొన్ని లక్షల టోకెన్లను ప్లాన్ చేయండి.

ప్రాంప్ట్ పంపే ముందు టోకెన్లను ఎలా లెక్కించాలి?

FreeLLMAPI ద్వారా /v1beta/models/{model}:countTokens వద్ద స్థానిక Gemini countTokens పద్ధతిని కాల్ చేయండి. ఇంగ్లీష్ టెక్స్ట్ కోసం, సుమారు 4 అక్షరాలు ఒక టోకెన్.

ఏ ఉచిత LLMకు అతిపెద్ద కాంటెక్స్ట్ విండో ఉంది?

ఈ పేజీలోని పట్టిక ఉచిత మోడళ్లను కాంటెక్స్ట్ పరిమాణం ప్రకారం, అతిపెద్దది మొదట, క్రమబద్ధీకరిస్తుంది. అనేక ఉచిత మోడళ్లు సుమారు 1 మిలియన్ టోకెన్లకు చేరుకుంటాయి. Free limits కాలమ్‌ను కూడా చదవండి, ఎందుకంటే ఒక అభ్యర్థన యొక్క నిజమైన పరిమాణాన్ని TPM పరిమితి నిర్ణయిస్తుంది.

దీర్ఘ కాంటెక్స్ట్ RAG కంటే మెరుగైనదా?

మీరు ఒకసారి చదివే ఒక పత్రానికి దీర్ఘ కాంటెక్స్ట్ మెరుగైనది. పెద్ద డేటాపై అనేక ప్రశ్నలకు RAG మెరుగైనది, ఎందుకంటే అది ప్రతిసారి తక్కువ టోకెన్లు పంపుతుంది.

సంబంధిత గైడ్‌లు

మూలాలు

అన్ని గైడ్‌లు · అన్ని ఉచిత మోడల్‌లను చూడండి