Acasă / Ghiduri / API LLM gratuit cu context de 1 milion de tokeni

API LLM gratuit cu context de 1 milion de tokeni

O fereastră de context lungă permite unui model să citească o carte întreagă, o bază mare de cod sau ore de transcrieri într-o singură cerere. Catalogul FreeLLMAPI are 56 oferte de modele gratuite cu o fereastră de context de 1 milion de tokeni sau mai mult. Acest ghid arată aceste modele și limitele nivelurilor gratuite, care decid cât puteți trimite de fapt.

Codul, numele modelelor și etichetele live din catalog sunt afișate în engleză.

Modele gratuite cu context de 1M+ tokeni, astăzi

Tabelul listează modelele gratuite cu o fereastră de context de cel puțin 1,000,000 de tokeni, cele mai mari primele. Datele provin din catalogul live. Uitați-vă și la coloana "Free limits", nu doar la dimensiunea contextului.

Modele gratuite cu context de 1M+ tokeni, cele mai mari primele
ModelGratuit peContextLimite gratuite (cea mai bună ofertă)InstrumenteViziune
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsNuNu
Gemini 3.8 FlashAPINex, Google AI Studio1M5 cereri/min
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
DaDa
Gemini 3.7 FlashGoogle AI Studio1M10 cereri/min
20 cereri/zi
250,000 tokeni/min
~3M
DaDa
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 cereri/min
50 cereri/zi
Shared rate limit
DaNu
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetNuNu
Gemini 3.6 FlashGoogle AI Studio1M10 cereri/min
20 cereri/zi
250,000 tokeni/min
~3M
DaDa
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetNuNu
Gemini 3.5 FlashGoogle AI Studio1M10 cereri/min
20 cereri/zi
250,000 tokeni/min
~3M
DaDa
DeepSeek V4 ProAPINex, Router91M5 cereri/min
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
NuNu
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3 în plus1M200 cereri/zi
200 rpd
DaNu
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 cereri/min
20 cereri/zi
250,000 tokeni/min
~3M
DaDa
Gemini 3 Flash PreviewGoogle AI Studio1M10 cereri/min
20 cereri/zi
250,000 tokeni/min
~3M
DaDa
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 cereri/min
5,000 cereri/zi
500,000 tokeni/zi
500K tokens/day · 5,000 req/day
DaDa
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 cereri/min
5,000 cereri/zi
500,000 tokeni/zi
500K tokens/day · 5,000 req/day
DaDa
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2 în plus1M20 cereri/min
50 cereri/zi
50 req/day account-wide (1,000 after a $10 purchase)
DaNu

Se afișează 15 din 33 modele gratuite care se potrivesc. Vezi toate modelele.

Date live din catalogul FreeLLMAPI (versiunea 2026.11.19, verificat 2026-11-19). Limitele gratuite se schimbă des. Catalogul este verificat în fiecare zi.

Modelele Gemini Flash de la Google AI Studio sunt cele mai cunoscute modele gratuite cu 1M de tokeni. Acceptă și imagini și apeluri de instrumente. Celelalte rânduri provin de la routere gratuite și de la NVIDIA.

Limita reală: tokeni pe minut

Fereastra de context este cel mai mare prompt pe care îl poate citi modelul. Nivelul gratuit are și o limită de tokeni pe minut (TPM). La multe niveluri gratuite, limita TPM este mai mică decât fereastra de context.

  • Exemplu: o cheie gratuită Gemini Flash din tabel permite 250,000 de tokeni pe minut. Un prompt de 800,000 de tokeni se încadrează în fereastra de context, dar depășește limita TPM. Furnizorul trimite eroarea 429.
  • Cereri pe zi: unele modele Gemini gratuite permit doar aproximativ 20 de cereri pe zi. Folosiți prompturi lungi doar pentru sarcinile care le cer.
  • Ieșirea este separată: răspunsul are propria lungime maximă. Un context de 1M de tokeni nu înseamnă un răspuns de 1M de tokeni.

Deci, în practică, un model gratuit cu context de 1M poate citi câteva sute de mii de tokeni într-o cerere. Măsurați promptul înainte să-l trimiteți.

Pasul 1: Instalați FreeLLMAPI și adăugați chei

FreeLLMAPI este cu cod deschis. Rulează pe calculatorul dumneavoastră în Docker. Cheile furnizorilor rămân pe calculatorul dumneavoastră.

Instalare (macOS sau Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Deschideți panoul la http://localhost:3001. Adăugați o cheie Google AI Studio pe pagina Keys. Adăugați și chei de la alți furnizori din tabel, ca routerul să aibă un alt model cu context lung atunci când Google trimite o eroare 429. Copiați cheia unificată de pe aceeași pagină.

Pasul 2: Numărați tokenii, apoi trimiteți un document lung

FreeLLMAPI servește metoda nativă Gemini countTokens. Folosiți-o ca să măsurați promptul înainte să-l trimiteți.

curl: numărați tokenii cu punctul final nativ Gemini

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: trimiteți un fișier lung către un model cu context de 1M

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

Fixați un model cu context lung după ID-ul său. Cu model: "auto", routerul poate alege un model cu o fereastră de context mai mică. Setați un timeout lung al clientului, deoarece prompturile mari necesită timp de citire.

Context lung sau RAG?

Folosiți context lung cândFolosiți RAG când
Documentul se citește o singură dată, de exemplu un contract sau un raportPuneți multe întrebări despre aceleași date mari
Răspunsul are nevoie de textul complet, de exemplu un rezumat sau o comparație de secțiuniRăspunsul se află în câteva pasaje scurte
Textul este mai mic decât limita TPM a cheii dumneavoastră gratuiteDatele sunt mai mari decât orice fereastră de context gratuită sau limită TPM
Aveți nevoie ca modelul să vadă ordinea și structura textuluiAveți nevoie ca fiecare cerere să rămână mică și rapidă

RAG trimite cu fiecare întrebare doar părțile relevante ale datelor. Folosește mai puțini tokeni pe nivelurile gratuite. Citiți API LLM gratuit pentru RAG și API gratuit pentru embeddings ca să-l configurați.

Capcane și depanare

  • Detalii pierdute: modelele pot omite fapte din mijlocul unui prompt foarte lung. Puneți întrebarea după document și cereți modelului să citeze sursa.
  • Tokeni de gândire: modelele Gemini Flash pot folosi tokeni de gândire ascunși din bugetul de ieșire. Nu setați un max_tokens foarte mic.
  • Fișiere PDF: FreeLLMAPI nu convertește fișierele PDF, DOCX sau XLSX. Un atașament binar de document returnează eroarea 400. Extrageți mai întâi textul, apoi trimiteți textul.
  • Curățați textul: eliminați antetele și subsolurile paginilor și cuprinsurile repetate înainte să trimiteți un document. Ele folosesc tokeni și nu adaugă fapte.
  • Prompturi repetate: fiecare cerere trimite din nou documentul complet. Puneți mai multe întrebări într-o singură cerere, când puteți.
ProblemăCauzăRemediere
Eroarea 429 la prima cerere lungăPromptul este mai mare decât limita TPMFaceți promptul mai mic sau folosiți RAG
Eroarea 400 despre lungimea contextuluiCererea a mers către un model cu o fereastră mai micăFixați un ID de model din tabel
Răspuns gol sau tăiatmax_tokens este prea mic, sau gândirea l-a folositSetați un max_tokens mai mare
TimeoutModelul are nevoie de timp ca să citească promptulSetați un timeout al clientului de 300 de secunde sau mai mult
Folosiți fiecare dintre aceste modele printr-o singură cheie. FreeLLMAPI este un router open-source, găzduit de dumneavoastră, care pune toate aceste niveluri gratuite în spatele unui singur endpoint compatibil cu OpenAI și trece la alt furnizor când un furnizor este limitat la rată. Vezi catalogul sau trece live.

Întrebări frecvente

Există un API LLM gratuit cu context de 1 milion de tokeni?

Da. Modelele Gemini Flash de pe nivelul gratuit Google AI Studio au o fereastră de context de aproximativ 1 milion de tokeni. Catalogul FreeLLMAPI are 56 oferte de modele gratuite cu 1M sau mai mulți tokeni.

Pot trimite gratuit 1 milion de tokeni într-o singură cerere?

De obicei, nu. Nivelul gratuit Gemini din catalog permite 250,000 de tokeni pe minut, deci un prompt mai mare primește eroarea 429. Planificați câteva sute de mii de tokeni pentru fiecare cerere.

Cum număr tokenii înainte să trimit un prompt?

Apelați metoda nativă Gemini countTokens prin FreeLLMAPI, la /v1beta/models/{model}:countTokens. Pentru text în engleză, aproximativ 4 caractere fac un token.

Care LLM gratuit are cea mai mare fereastră de context?

Tabelul de pe această pagină sortează modelele gratuite după dimensiunea contextului, cele mai mari primele. Mai multe modele gratuite ating aproximativ 1 milion de tokeni. Citiți și coloana limitelor gratuite, deoarece limita TPM decide dimensiunea reală a unei cereri.

Este contextul lung mai bun decât RAG?

Contextul lung este mai bun pentru un document pe care îl citiți o singură dată. RAG este mai bun pentru multe întrebări despre date mari, deoarece trimite de fiecare dată mai puțini tokeni.

Ghiduri înrudite

Surse

Toate ghidurile · Vezi toate modelele gratuite