API LLM gratuit cu context de 1 milion de tokeni
O fereastră de context lungă permite unui model să citească o carte întreagă, o bază mare de cod sau ore de transcrieri într-o singură cerere. Catalogul FreeLLMAPI are 56 oferte de modele gratuite cu o fereastră de context de 1 milion de tokeni sau mai mult. Acest ghid arată aceste modele și limitele nivelurilor gratuite, care decid cât puteți trimite de fapt.
Codul, numele modelelor și etichetele live din catalog sunt afișate în engleză.
Modele gratuite cu context de 1M+ tokeni, astăzi
Tabelul listează modelele gratuite cu o fereastră de context de cel puțin 1,000,000 de tokeni, cele mai mari primele. Datele provin din catalogul live. Uitați-vă și la coloana "Free limits", nu doar la dimensiunea contextului.
| Model | Gratuit pe | Context | Limite gratuite (cea mai bună ofertă) | Instrumente | Viziune |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | Nu | Nu |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 cereri/min 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Da | Da |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 cereri/min 20 cereri/zi 250,000 tokeni/min ~3M | Da | Da |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 cereri/min 50 cereri/zi Shared rate limit | Da | Nu |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Nu | Nu |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 cereri/min 20 cereri/zi 250,000 tokeni/min ~3M | Da | Da |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Nu | Nu |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 cereri/min 20 cereri/zi 250,000 tokeni/min ~3M | Da | Da |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 cereri/min 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Nu | Nu |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +3 în plus | 1M | 200 cereri/zi 200 rpd | Da | Nu |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 cereri/min 20 cereri/zi 250,000 tokeni/min ~3M | Da | Da |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 cereri/min 20 cereri/zi 250,000 tokeni/min ~3M | Da | Da |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 cereri/min 5,000 cereri/zi 500,000 tokeni/zi 500K tokens/day · 5,000 req/day | Da | Da |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 cereri/min 5,000 cereri/zi 500,000 tokeni/zi 500K tokens/day · 5,000 req/day | Da | Da |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +2 în plus | 1M | 20 cereri/min 50 cereri/zi 50 req/day account-wide (1,000 after a $10 purchase) | Da | Nu |
Se afișează 15 din 33 modele gratuite care se potrivesc. Vezi toate modelele.
Date live din catalogul FreeLLMAPI (versiunea 2026.11.19, verificat 2026-11-19). Limitele gratuite se schimbă des. Catalogul este verificat în fiecare zi.
Modelele Gemini Flash de la Google AI Studio sunt cele mai cunoscute modele gratuite cu 1M de tokeni. Acceptă și imagini și apeluri de instrumente. Celelalte rânduri provin de la routere gratuite și de la NVIDIA.
Limita reală: tokeni pe minut
Fereastra de context este cel mai mare prompt pe care îl poate citi modelul. Nivelul gratuit are și o limită de tokeni pe minut (TPM). La multe niveluri gratuite, limita TPM este mai mică decât fereastra de context.
- Exemplu: o cheie gratuită Gemini Flash din tabel permite 250,000 de tokeni pe minut. Un prompt de 800,000 de tokeni se încadrează în fereastra de context, dar depășește limita TPM. Furnizorul trimite eroarea 429.
- Cereri pe zi: unele modele Gemini gratuite permit doar aproximativ 20 de cereri pe zi. Folosiți prompturi lungi doar pentru sarcinile care le cer.
- Ieșirea este separată: răspunsul are propria lungime maximă. Un context de 1M de tokeni nu înseamnă un răspuns de 1M de tokeni.
Deci, în practică, un model gratuit cu context de 1M poate citi câteva sute de mii de tokeni într-o cerere. Măsurați promptul înainte să-l trimiteți.
Pasul 1: Instalați FreeLLMAPI și adăugați chei
FreeLLMAPI este cu cod deschis. Rulează pe calculatorul dumneavoastră în Docker. Cheile furnizorilor rămân pe calculatorul dumneavoastră.
Instalare (macOS sau Linux)
curl -fsSL https://freellmapi.co/install.sh | bashDeschideți panoul la http://localhost:3001. Adăugați o cheie Google AI Studio pe pagina Keys. Adăugați și chei de la alți furnizori din tabel, ca routerul să aibă un alt model cu context lung atunci când Google trimite o eroare 429. Copiați cheia unificată de pe aceeași pagină.
Pasul 2: Numărați tokenii, apoi trimiteți un document lung
FreeLLMAPI servește metoda nativă Gemini countTokens. Folosiți-o ca să măsurați promptul înainte să-l trimiteți.
curl: numărați tokenii cu punctul final nativ Gemini
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: trimiteți un fișier lung către un model cu context de 1M
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)Fixați un model cu context lung după ID-ul său. Cu model: "auto", routerul poate alege un model cu o fereastră de context mai mică. Setați un timeout lung al clientului, deoarece prompturile mari necesită timp de citire.
Context lung sau RAG?
| Folosiți context lung când | Folosiți RAG când |
|---|---|
| Documentul se citește o singură dată, de exemplu un contract sau un raport | Puneți multe întrebări despre aceleași date mari |
| Răspunsul are nevoie de textul complet, de exemplu un rezumat sau o comparație de secțiuni | Răspunsul se află în câteva pasaje scurte |
| Textul este mai mic decât limita TPM a cheii dumneavoastră gratuite | Datele sunt mai mari decât orice fereastră de context gratuită sau limită TPM |
| Aveți nevoie ca modelul să vadă ordinea și structura textului | Aveți nevoie ca fiecare cerere să rămână mică și rapidă |
RAG trimite cu fiecare întrebare doar părțile relevante ale datelor. Folosește mai puțini tokeni pe nivelurile gratuite. Citiți API LLM gratuit pentru RAG și API gratuit pentru embeddings ca să-l configurați.
Capcane și depanare
- Detalii pierdute: modelele pot omite fapte din mijlocul unui prompt foarte lung. Puneți întrebarea după document și cereți modelului să citeze sursa.
- Tokeni de gândire: modelele Gemini Flash pot folosi tokeni de gândire ascunși din bugetul de ieșire. Nu setați un
max_tokensfoarte mic. - Fișiere PDF: FreeLLMAPI nu convertește fișierele PDF, DOCX sau XLSX. Un atașament binar de document returnează eroarea 400. Extrageți mai întâi textul, apoi trimiteți textul.
- Curățați textul: eliminați antetele și subsolurile paginilor și cuprinsurile repetate înainte să trimiteți un document. Ele folosesc tokeni și nu adaugă fapte.
- Prompturi repetate: fiecare cerere trimite din nou documentul complet. Puneți mai multe întrebări într-o singură cerere, când puteți.
| Problemă | Cauză | Remediere |
|---|---|---|
| Eroarea 429 la prima cerere lungă | Promptul este mai mare decât limita TPM | Faceți promptul mai mic sau folosiți RAG |
| Eroarea 400 despre lungimea contextului | Cererea a mers către un model cu o fereastră mai mică | Fixați un ID de model din tabel |
| Răspuns gol sau tăiat | max_tokens este prea mic, sau gândirea l-a folosit | Setați un max_tokens mai mare |
| Timeout | Modelul are nevoie de timp ca să citească promptul | Setați un timeout al clientului de 300 de secunde sau mai mult |
Întrebări frecvente
Există un API LLM gratuit cu context de 1 milion de tokeni?
Da. Modelele Gemini Flash de pe nivelul gratuit Google AI Studio au o fereastră de context de aproximativ 1 milion de tokeni. Catalogul FreeLLMAPI are 56 oferte de modele gratuite cu 1M sau mai mulți tokeni.
Pot trimite gratuit 1 milion de tokeni într-o singură cerere?
De obicei, nu. Nivelul gratuit Gemini din catalog permite 250,000 de tokeni pe minut, deci un prompt mai mare primește eroarea 429. Planificați câteva sute de mii de tokeni pentru fiecare cerere.
Cum număr tokenii înainte să trimit un prompt?
Apelați metoda nativă Gemini countTokens prin FreeLLMAPI, la /v1beta/models/{model}:countTokens. Pentru text în engleză, aproximativ 4 caractere fac un token.
Care LLM gratuit are cea mai mare fereastră de context?
Tabelul de pe această pagină sortează modelele gratuite după dimensiunea contextului, cele mai mari primele. Mai multe modele gratuite ating aproximativ 1 milion de tokeni. Citiți și coloana limitelor gratuite, deoarece limita TPM decide dimensiunea reală a unei cereri.
Este contextul lung mai bun decât RAG?
Contextul lung este mai bun pentru un document pe care îl citiți o singură dată. RAG este mai bun pentru multe întrebări despre date mari, deoarece trimite de fiecare dată mai puțini tokeni.
Ghiduri înrudite
- API LLM gratuit pentru RAG
- API gratuit pentru embeddings
- free gemini api
- Cotă Gemini API depășită (429 RESOURCE_EXHAUSTED)
- Limite de rată pentru Free LLM API
Surse
- FreeLLMAPI docs: Native Gemini API (verificat 20 November 2026)
- FreeLLMAPI docs: Chat completions and routing (verificat 20 November 2026)
- Google AI Studio docs: Thinking (verificat 20 November 2026)
- Gemini Developer API pricing (verificat 20 November 2026)