Gratis LLM API met context van 1 miljoen tokens
Een lang contextvenster laat een model een heel boek, een grote codebase of uren aan transcripten in één verzoek lezen. De FreeLLMAPI-catalogus heeft 56 gratis modelaanbiedingen met een contextvenster van 1 miljoen tokens of meer. Deze gids toont die modellen en de limieten van het gratis tier die bepalen hoeveel je echt kunt sturen.
Code, modelnamen en labels uit de live catalogus worden in het Engels getoond.
Gratis modellen met 1M+ tokens context van dit moment
De tabel toont gratis modellen met een contextvenster van minstens 1.000.000 tokens, het grootste eerst. De gegevens komen uit de live catalogus. Let op de kolom "Gratis limieten" en op de grootte van de context.
| Model | Gratis op | Context | Gratis limieten (beste aanbod) | Tools | Vision |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | Nee | Nee |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 aanvragen/min 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Ja | Ja |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 aanvragen/min 20 aanvragen/dag 250,000 tokens/min ~3M | Ja | Ja |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 aanvragen/min 50 aanvragen/dag Shared rate limit | Ja | Nee |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Nee | Nee |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 aanvragen/min 20 aanvragen/dag 250,000 tokens/min ~3M | Ja | Ja |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Nee | Nee |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 aanvragen/min 20 aanvragen/dag 250,000 tokens/min ~3M | Ja | Ja |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 aanvragen/min 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Nee | Nee |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +3 meer | 1M | 200 aanvragen/dag 200 rpd | Ja | Nee |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 aanvragen/min 20 aanvragen/dag 250,000 tokens/min ~3M | Ja | Ja |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 aanvragen/min 20 aanvragen/dag 250,000 tokens/min ~3M | Ja | Ja |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 aanvragen/min 5,000 aanvragen/dag 500,000 tokens/dag 500K tokens/day · 5,000 req/day | Ja | Ja |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 aanvragen/min 5,000 aanvragen/dag 500,000 tokens/dag 500K tokens/day · 5,000 req/day | Ja | Ja |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +2 meer | 1M | 20 aanvragen/min 50 aanvragen/dag 50 req/day account-wide (1,000 after a $10 purchase) | Ja | Nee |
Toont 15 van 33 overeenkomende gratis modellen. Bekijk alle modellen.
Actuele gegevens uit de FreeLLMAPI-catalogus (versie 2026.11.19, gecontroleerd 2026-11-19). Gratis limieten veranderen vaak. De catalogus wordt elke dag gecontroleerd.
Gemini Flash-modellen van Google AI Studio zijn de bekendste gratis modellen met 1M tokens. Ze accepteren ook afbeeldingen en toolaanroepen. Andere rijen komen van gratis routers en van NVIDIA.
De echte limiet: tokens per minuut
Het contextvenster is de grootste prompt die het model kan lezen. Het gratis tier heeft ook een limiet voor tokens per minuut (TPM). Bij veel gratis tiers is de TPM-limiet kleiner dan het contextvenster.
- Voorbeeld: een gratis Gemini Flash-sleutel in de tabel staat 250.000 tokens per minuut toe. Een prompt van 800.000 tokens past in het contextvenster, maar gaat boven de TPM-limiet. De provider stuurt fout 429.
- Verzoeken per dag: sommige gratis Gemini-modellen staan maar ongeveer 20 verzoeken per dag toe. Gebruik lange prompts voor taken die ze nodig hebben.
- Output is apart: het antwoord heeft een eigen maximale lengte. Een context van 1M tokens geeft geen antwoord van 1M tokens.
In de praktijk kan een gratis model met 1M context dus enkele honderdduizenden tokens in één verzoek lezen. Meet je prompt voordat je hem stuurt.
Stap 1: installeer FreeLLMAPI en voeg sleutels toe
FreeLLMAPI is open source. Het draait op je computer in Docker. Je providersleutels blijven op je computer.
Installeren (macOS of Linux)
curl -fsSL https://freellmapi.co/install.sh | bashOpen het dashboard op http://localhost:3001. Voeg een Google AI Studio-sleutel toe op de pagina Keys. Voeg ook sleutels van andere providers uit de tabel toe, zodat de router een ander model met lange context heeft wanneer Google een 429-fout stuurt. Kopieer je uniforme sleutel van dezelfde pagina.
Stap 2: tel de tokens en stuur daarna een lang document
FreeLLMAPI biedt de native Gemini-methode countTokens aan. Gebruik die om de prompt te meten voordat je hem stuurt.
curl: tel tokens met het native Gemini-eindpunt
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: stuur een lang bestand naar een model met 1M context
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)Zet een model met lange context vast met het id ervan. Met model: "auto" kan de router een model met een kleiner contextvenster kiezen. Stel een lange client-timeout in, omdat grote prompts tijd kosten om te lezen.
Lange context of RAG?
| Gebruik lange context wanneer | Gebruik RAG wanneer |
|---|---|
| Het document wordt één keer gelezen, bijvoorbeeld één contract of één rapport | Je veel vragen stelt over dezelfde grote data |
| Het antwoord de volledige tekst nodig heeft, bijvoorbeeld een samenvatting of een vergelijking van secties | Het antwoord in een paar korte passages staat |
| De tekst kleiner is dan de TPM-limiet van je gratis sleutel | De data groter is dan elk gratis contextvenster of elke TPM-limiet |
| Het model de volgorde en structuur van de tekst moet zien | Je elk verzoek klein en snel wilt houden |
RAG stuurt bij elke vraag alleen de relevante delen van de data. Het gebruikt minder tokens op gratis tiers. Lees Gratis LLM API voor RAG en Gratis embeddings-API om het in te stellen.
Valkuilen en probleemoplossing
- Verloren details: modellen kunnen feiten missen in het midden van een zeer lange prompt. Zet je vraag na het document, en vraag het model zijn bron te citeren.
- Denktokens: Gemini Flash-modellen kunnen verborgen denktokens gebruiken uit het outputbudget. Stel geen zeer kleine
max_tokensin. - PDF-bestanden: FreeLLMAPI zet geen PDF-, DOCX- of XLSX-bestanden om. Een binaire documentbijlage geeft fout 400. Haal eerst de tekst eruit en stuur daarna de tekst.
- Maak de tekst schoon: verwijder kopteksten, voetteksten en herhaalde inhoudsopgaven voordat je een document stuurt. Ze gebruiken tokens en voegen geen feiten toe.
- Herhaalde prompts: elk verzoek stuurt het volledige document opnieuw. Stel meerdere vragen in één verzoek wanneer dat kan.
| Probleem | Oorzaak | Oplossing |
|---|---|---|
| Fout 429 bij het eerste lange verzoek | De prompt is groter dan de TPM-limiet | Maak de prompt kleiner, of gebruik RAG |
| Fout 400 over de contextlengte | Het verzoek ging naar een model met een kleiner venster | Zet een model-id uit de tabel vast |
| Leeg of afgekapt antwoord | max_tokens is te klein, of het denken heeft het opgebruikt | Stel een grotere max_tokens in |
| Time-out | Het model heeft tijd nodig om de prompt te lezen | Stel een client-timeout van 300 seconden of meer in |
Veelgestelde vragen
Is er een gratis LLM API met een context van 1 miljoen tokens?
Ja. Gemini Flash-modellen op het gratis tier van Google AI Studio hebben een contextvenster van ongeveer 1 miljoen tokens. De FreeLLMAPI-catalogus heeft 56 gratis modelaanbiedingen met 1M tokens of meer.
Kan ik 1 miljoen tokens gratis in één verzoek sturen?
Meestal niet. Het gratis Gemini-tier in de catalogus staat 250.000 tokens per minuut toe, dus een grotere prompt geeft fout 429. Reken op enkele honderdduizenden tokens per verzoek.
Hoe tel ik tokens voordat ik een prompt stuur?
Roep de native Gemini-methode countTokens aan via FreeLLMAPI op /v1beta/models/{model}:countTokens. Voor Engelse tekst vormen ongeveer 4 tekens één token.
Welke gratis LLM heeft het grootste contextvenster?
De tabel op deze pagina sorteert gratis modellen op contextgrootte, het grootste eerst. Verschillende gratis modellen bereiken ongeveer 1 miljoen tokens. Lees ook de kolom met gratis limieten, want de TPM-limiet bepaalt de echte grootte van één verzoek.
Is lange context beter dan RAG?
Lange context is beter voor één document dat je één keer leest. RAG is beter voor veel vragen over grote data, omdat het elke keer minder tokens stuurt.
Gerelateerde gidsen
- Gratis LLM API voor RAG
- Gratis embeddings-API
- free gemini api
- Gemini API-quota overschreden (429 RESOURCE_EXHAUSTED)
- Rate limits van de gratis LLM API
Bronnen
- FreeLLMAPI docs: Native Gemini API (gecontroleerd 20 November 2026)
- FreeLLMAPI docs: Chat completions and routing (gecontroleerd 20 November 2026)
- Google AI Studio docs: Thinking (gecontroleerd 20 November 2026)
- Gemini Developer API pricing (gecontroleerd 20 November 2026)