API LLM gratuita con contesto da 1 milione di token
Una finestra di contesto lunga permette a un modello di leggere un libro intero, una grande base di codice o ore di trascrizioni in una sola richiesta. Il catalogo FreeLLMAPI contiene 56 offerte di modelli gratuiti con una finestra di contesto da 1 milione di token o più. Questa guida mostra questi modelli e i limiti dei piani gratuiti che decidono quanto puoi davvero inviare.
Codice, nomi dei modelli ed etichette del catalogo in tempo reale sono mostrati in inglese.
Modelli gratuiti con contesto da 1M+ token oggi
La tabella elenca i modelli gratuiti con una finestra di contesto di almeno 1,000,000 di token, dal più grande. I dati provengono dal catalogo attivo. Controlla anche la colonna "Limiti gratuiti", oltre alla dimensione del contesto.
| Modello | Gratis su | Contesto | Limiti gratuiti (offerta migliore) | Strumenti | Visione |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | No | No |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 richieste/min 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Sì | Sì |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 richieste/min 20 richieste/giorno 250,000 token/min ~3M | Sì | Sì |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 richieste/min 50 richieste/giorno Shared rate limit | Sì | No |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | No | No |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 richieste/min 20 richieste/giorno 250,000 token/min ~3M | Sì | Sì |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | No | No |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 richieste/min 20 richieste/giorno 250,000 token/min ~3M | Sì | Sì |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 richieste/min 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | No | No |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +3 altri | 1M | 200 richieste/giorno 200 rpd | Sì | No |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 richieste/min 20 richieste/giorno 250,000 token/min ~3M | Sì | Sì |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 richieste/min 20 richieste/giorno 250,000 token/min ~3M | Sì | Sì |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 richieste/min 5,000 richieste/giorno 500,000 token/giorno 500K tokens/day · 5,000 req/day | Sì | Sì |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 richieste/min 5,000 richieste/giorno 500,000 token/giorno 500K tokens/day · 5,000 req/day | Sì | Sì |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +2 altri | 1M | 20 richieste/min 50 richieste/giorno 50 req/day account-wide (1,000 after a $10 purchase) | Sì | No |
Mostrati 15 di 33 modelli gratuiti corrispondenti. Vedi tutti i modelli.
Dati in tempo reale dal catalogo FreeLLMAPI (versione 2026.11.19, verificato il 2026-11-19). I limiti gratuiti cambiano spesso. Il catalogo viene verificato ogni giorno.
I modelli Gemini Flash di Google AI Studio sono i modelli gratuiti da 1M token più noti. Accettano anche immagini e chiamate a strumenti. Le altre righe provengono da router gratuiti e da NVIDIA.
Il limite reale: token al minuto
La finestra di contesto è il prompt più grande che il modello può leggere. Il piano gratuito ha anche un limite di token al minuto (TPM). Su molti piani gratuiti, il limite TPM è più piccolo della finestra di contesto.
- Esempio: una chiave gratuita di Gemini Flash in tabella consente 250,000 token al minuto. Un prompt di 800,000 token rientra nella finestra di contesto, ma supera il limite TPM. Il provider invia l'errore 429.
- Richieste al giorno: alcuni modelli Gemini gratuiti consentono solo circa 20 richieste al giorno. Usa i prompt lunghi solo per i compiti che li richiedono.
- L'output è separato: la risposta ha una lunghezza massima propria. Un contesto da 1M token non dà una risposta da 1M token.
Quindi, in pratica, un modello gratuito con contesto da 1M può leggere alcune centinaia di migliaia di token in una richiesta. Misura il prompt prima di inviarlo.
Passo 1: installa FreeLLMAPI e aggiungi le chiavi
FreeLLMAPI è open source. Gira sul tuo computer in Docker. Le chiavi dei tuoi provider restano sul tuo computer.
Installa (macOS o Linux)
curl -fsSL https://freellmapi.co/install.sh | bashApri la dashboard su http://localhost:3001. Aggiungi una chiave di Google AI Studio nella pagina Keys. Aggiungi anche chiavi di altri provider della tabella, così il router ha un altro modello a contesto lungo quando Google invia un errore 429. Copia la tua chiave unificata dalla stessa pagina.
Passo 2: conta i token, poi invia un documento lungo
FreeLLMAPI offre il metodo nativo countTokens di Gemini. Usalo per misurare il prompt prima di inviarlo.
curl: conta i token con l'endpoint nativo di Gemini
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: invia un file lungo a un modello da 1M di contesto
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)Fissa un modello a contesto lungo tramite il suo id. Con model: "auto", il router può scegliere un modello con una finestra di contesto più piccola. Imposta un timeout lungo nel client, perché i prompt grandi richiedono tempo per essere letti.
Contesto lungo o RAG?
| Usa il contesto lungo quando | Usa la RAG quando |
|---|---|
| Il documento viene letto una volta, per esempio un contratto o un report | Fai molte domande sugli stessi dati grandi |
| La risposta richiede il testo completo, per esempio un riassunto o un confronto di sezioni | La risposta si trova in pochi brani brevi |
| Il testo è più piccolo del limite TPM della tua chiave gratuita | I dati sono più grandi di qualsiasi finestra di contesto o limite TPM gratuito |
| Ti serve che il modello veda l'ordine e la struttura del testo | Ti serve mantenere ogni richiesta piccola e veloce |
La RAG invia con ogni domanda solo le parti pertinenti dei dati. Usa meno token sui piani gratuiti. Leggi Free LLM API per RAG e Free embeddings API per configurarla.
Insidie e risoluzione dei problemi
- Dettagli persi: i modelli possono perdere fatti a metà di un prompt molto lungo. Metti la domanda dopo il documento, e chiedi al modello di citare la sua fonte.
- Token di ragionamento: i modelli Gemini Flash possono usare token di ragionamento nascosti dal budget di output. Non impostare un
max_tokensmolto piccolo. - File PDF: FreeLLMAPI non converte i file PDF, DOCX o XLSX. Un allegato binario restituisce l'errore 400. Estrai prima il testo, poi invia il testo.
- Pulisci il testo: rimuovi intestazioni e piè di pagina delle pagine e gli indici ripetuti prima di inviare un documento. Consumano token e non aggiungono fatti.
- Prompt ripetuti: ogni richiesta invia di nuovo il documento intero. Quando puoi, fai più domande in una sola richiesta.
| Problema | Causa | Soluzione |
|---|---|---|
| Errore 429 sulla prima richiesta lunga | Il prompt è più grande del limite TPM | Riduci il prompt, oppure usa la RAG |
| Errore 400 sulla lunghezza del contesto | La richiesta è finita su un modello con una finestra più piccola | Fissa un id di modello dalla tabella |
| Risposta vuota o tagliata | max_tokens è troppo piccolo, oppure il ragionamento lo ha usato | Imposta un max_tokens più grande |
| Timeout | Il modello ha bisogno di tempo per leggere il prompt | Imposta un timeout del client di 300 secondi o più |
Domande frequenti
Esiste un'API LLM gratuita con contesto da 1 milione di token?
Sì. I modelli Gemini Flash del piano gratuito di Google AI Studio hanno una finestra di contesto di circa 1 milione di token. Il catalogo FreeLLMAPI contiene 56 offerte di modelli gratuiti con 1M token o più.
Posso inviare 1 milione di token gratis in una sola richiesta?
Di solito no. Il piano gratuito di Gemini nel catalogo consente 250,000 token al minuto, quindi un prompt più grande riceve l'errore 429. Prevedi qualche centinaio di migliaia di token per ogni richiesta.
Come conto i token prima di inviare un prompt?
Chiama il metodo nativo countTokens di Gemini tramite FreeLLMAPI su /v1beta/models/{model}:countTokens. Per il testo inglese, circa 4 caratteri formano un token.
Quale LLM gratuito ha la finestra di contesto più grande?
La tabella di questa pagina ordina i modelli gratuiti per dimensione del contesto, dal più grande. Diversi modelli gratuiti arrivano a circa 1 milione di token. Leggi anche la colonna dei limiti gratuiti, perché il limite TPM decide la dimensione reale di una richiesta.
Il contesto lungo è meglio della RAG?
Il contesto lungo è meglio per un documento che leggi una volta. La RAG è meglio per molte domande su dati grandi, perché ogni volta invia meno token.
Guide correlate
- API LLM gratuita per RAG
- API gratuita per embedding
- free gemini api
- Quota Gemini API superata (429 RESOURCE_EXHAUSTED)
- Rate limit delle Free LLM API
Fonti
- FreeLLMAPI docs: Native Gemini API (verificato il 20 November 2026)
- FreeLLMAPI docs: Chat completions and routing (verificato il 20 November 2026)
- Google AI Studio docs: Thinking (verificato il 20 November 2026)
- Gemini Developer API pricing (verificato il 20 November 2026)