Kostenlose LLM-API mit 1 Million Tokens Kontext
Ein langes Kontextfenster erlaubt einem Modell, in einer Anfrage ein ganzes Buch, eine große Codebasis oder Stunden an Transkripten zu lesen. Der FreeLLMAPI-Katalog hat 56 kostenlose Modellangebote mit einem Kontextfenster von 1 Million Tokens oder mehr. Dieser Leitfaden zeigt diese Modelle und die Limits der kostenlosen Tarife, die bestimmen, wie viel Sie tatsächlich senden können.
Code, Modellnamen und Bezeichnungen aus dem Live-Katalog werden auf Englisch angezeigt.
Kostenlose Modelle mit mehr als 1 Mio. Tokens Kontext heute
Die Tabelle listet kostenlose Modelle mit einem Kontextfenster von mindestens 1,000,000 Tokens auf, das größte zuerst. Die Daten stammen aus dem Live-Katalog. Achten Sie neben der Kontextgröße auch auf die Spalte "Free limits".
| Modell | Kostenlos bei | Kontext | Kostenlose Limits (bestes Angebot) | Tools | Bildverarbeitung |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | Nein | Nein |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 Anfragen/Min. 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Ja | Ja |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 Anfragen/Min. 20 Anfragen/Tag 250,000 Token/Min. ~3M | Ja | Ja |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 Anfragen/Min. 50 Anfragen/Tag Shared rate limit | Ja | Nein |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Nein | Nein |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 Anfragen/Min. 20 Anfragen/Tag 250,000 Token/Min. ~3M | Ja | Ja |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Nein | Nein |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 Anfragen/Min. 20 Anfragen/Tag 250,000 Token/Min. ~3M | Ja | Ja |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 Anfragen/Min. 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Nein | Nein |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +3 weitere | 1M | 200 Anfragen/Tag 200 rpd | Ja | Nein |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 Anfragen/Min. 20 Anfragen/Tag 250,000 Token/Min. ~3M | Ja | Ja |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 Anfragen/Min. 20 Anfragen/Tag 250,000 Token/Min. ~3M | Ja | Ja |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 Anfragen/Min. 5,000 Anfragen/Tag 500,000 Token/Tag 500K tokens/day · 5,000 req/day | Ja | Ja |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 Anfragen/Min. 5,000 Anfragen/Tag 500,000 Token/Tag 500K tokens/day · 5,000 req/day | Ja | Ja |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +2 weitere | 1M | 20 Anfragen/Min. 50 Anfragen/Tag 50 req/day account-wide (1,000 after a $10 purchase) | Ja | Nein |
Es werden 15 von 33 passenden kostenlosen Modellen angezeigt. Alle Modelle ansehen.
Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.
Die Gemini-Flash-Modelle von Google AI Studio sind die bekanntesten kostenlosen Modelle mit 1 Mio. Tokens. Sie akzeptieren auch Bilder und Tool-Aufrufe. Andere Zeilen stammen von kostenlosen Routern und von NVIDIA.
Das echte Limit: Tokens pro Minute
Das Kontextfenster ist der größte Prompt, den das Modell lesen kann. Der kostenlose Tarif hat außerdem ein Limit für Tokens pro Minute (TPM). Bei vielen kostenlosen Tarifen ist das TPM-Limit kleiner als das Kontextfenster.
- Beispiel: Ein kostenloser Gemini-Flash-Schlüssel in der Tabelle erlaubt 250,000 Tokens pro Minute. Ein Prompt mit 800,000 Tokens liegt im Kontextfenster, aber über dem TPM-Limit. Der Anbieter sendet Fehler 429.
- Anfragen pro Tag: Einige kostenlose Gemini-Modelle erlauben nur etwa 20 Anfragen pro Tag. Verwenden Sie lange Prompts für Aufgaben, die sie brauchen.
- Die Ausgabe ist getrennt: Die Antwort hat eine eigene maximale Länge. Ein Kontext von 1 Mio. Tokens ergibt keine Antwort mit 1 Mio. Tokens.
In der Praxis kann ein kostenloses Modell mit 1 Mio. Kontext also in einer Anfrage einige hunderttausend Tokens lesen. Messen Sie Ihren Prompt, bevor Sie ihn senden.
Schritt 1: FreeLLMAPI installieren und Schlüssel hinzufügen
FreeLLMAPI ist Open Source. Es läuft auf Ihrem Computer in Docker. Ihre Anbieter-Schlüssel bleiben auf Ihrem Computer.
Installation (macOS oder Linux)
curl -fsSL https://freellmapi.co/install.sh | bashÖffnen Sie das Dashboard unter http://localhost:3001. Fügen Sie auf der Seite Keys einen Schlüssel für Google AI Studio hinzu. Fügen Sie auch Schlüssel anderer Anbieter aus der Tabelle hinzu, damit der Router ein weiteres Modell für langen Kontext hat, wenn Google einen Fehler 429 sendet. Kopieren Sie Ihren einheitlichen Schlüssel von derselben Seite.
Schritt 2: Tokens zählen, dann ein langes Dokument senden
FreeLLMAPI stellt die native Gemini-Methode countTokens bereit. Messen Sie damit den Prompt, bevor Sie ihn senden.
curl: Tokens mit dem nativen Gemini-Endpunkt zählen
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: eine lange Datei an ein Modell mit 1 Mio. Kontext senden
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)Legen Sie ein Modell für langen Kontext über seine ID fest. Mit model: "auto" kann der Router ein Modell mit einem kleineren Kontextfenster wählen. Setzen Sie ein langes Client-Zeitlimit, weil das Lesen großer Prompts Zeit braucht.
Langer Kontext oder RAG?
| Langen Kontext verwenden, wenn | RAG verwenden, wenn |
|---|---|
| Das Dokument wird einmal gelesen, zum Beispiel ein Vertrag oder ein Bericht | Sie viele Fragen zu denselben großen Daten stellen |
| Die Antwort den vollen Text braucht, zum Beispiel eine Zusammenfassung oder einen Vergleich von Abschnitten | Die Antwort in wenigen kurzen Passagen steht |
| Der Text kleiner ist als das TPM-Limit Ihres kostenlosen Schlüssels | Die Daten größer sind als jedes kostenlose Kontextfenster oder TPM-Limit |
| Das Modell die Reihenfolge und den Aufbau des Textes sehen muss | Sie jede Anfrage klein und schnell halten müssen |
RAG sendet bei jeder Frage nur die relevanten Teile der Daten. In kostenlosen Tarifen verbraucht es weniger Tokens. Lesen Sie Kostenlose LLM-API für RAG und Kostenlose Embeddings-API, um es einzurichten.
Fallstricke und Fehlerbehebung
- Verlorene Details: Modelle können Fakten in der Mitte eines sehr langen Prompts übersehen. Setzen Sie Ihre Frage nach das Dokument und bitten Sie das Modell, seine Quelle zu zitieren.
- Denk-Tokens: Gemini-Flash-Modelle können verborgene Denk-Tokens aus dem Ausgabebudget nutzen. Setzen Sie
max_tokensnicht sehr klein. - PDF-Dateien: FreeLLMAPI wandelt keine PDF-, DOCX- oder XLSX-Dateien um. Ein binärer Dokumentanhang liefert Fehler 400. Extrahieren Sie zuerst den Text und senden Sie dann den Text.
- Text bereinigen: Entfernen Sie Kopf- und Fußzeilen der Seiten sowie wiederholte Inhaltsverzeichnisse, bevor Sie ein Dokument senden. Sie verbrauchen Tokens und bringen keine Fakten.
- Wiederholte Prompts: Jede Anfrage sendet das vollständige Dokument erneut. Stellen Sie mehrere Fragen in einer Anfrage, wenn Sie können.
| Problem | Ursache | Lösung |
|---|---|---|
| Fehler 429 bei der ersten langen Anfrage | Der Prompt ist größer als das TPM-Limit | Machen Sie den Prompt kleiner oder verwenden Sie RAG |
| Fehler 400 zur Kontextlänge | Die Anfrage ging an ein Modell mit einem kleineren Fenster | Legen Sie eine Modell-ID aus der Tabelle fest |
| Leere oder abgeschnittene Antwort | max_tokens ist zu klein, oder das Nachdenken hat es verbraucht | Setzen Sie ein größeres max_tokens |
| Zeitüberschreitung | Das Modell braucht Zeit, um den Prompt zu lesen | Setzen Sie ein Client-Zeitlimit von 300 Sekunden oder mehr |
Häufig gestellte Fragen
Gibt es eine kostenlose LLM-API mit 1 Million Tokens Kontext?
Ja. Gemini-Flash-Modelle im kostenlosen Tarif von Google AI Studio haben ein Kontextfenster von etwa 1 Million Tokens. Der FreeLLMAPI-Katalog hat 56 kostenlose Modellangebote mit 1 Mio. oder mehr Tokens.
Kann ich 1 Million Tokens kostenlos in einer Anfrage senden?
In der Regel nicht. Der kostenlose Gemini-Tarif im Katalog erlaubt 250,000 Tokens pro Minute. Ein größerer Prompt erhält daher Fehler 429. Planen Sie für jede Anfrage einige hunderttausend Tokens.
Wie zähle ich Tokens, bevor ich einen Prompt sende?
Rufen Sie die native Gemini-Methode countTokens über FreeLLMAPI unter /v1beta/models/{model}:countTokens auf. Bei englischem Text ergeben etwa 4 Zeichen ein Token.
Welches kostenlose LLM hat das größte Kontextfenster?
Die Tabelle auf dieser Seite sortiert kostenlose Modelle nach der Kontextgröße, das größte zuerst. Mehrere kostenlose Modelle erreichen etwa 1 Million Tokens. Lesen Sie außerdem die Spalte mit den kostenlosen Limits, denn das TPM-Limit bestimmt die echte Größe einer Anfrage.
Ist langer Kontext besser als RAG?
Langer Kontext ist besser für ein Dokument, das Sie einmal lesen. RAG ist besser für viele Fragen zu großen Daten, weil es jedes Mal weniger Tokens sendet.
Verwandte Anleitungen
- Kostenlose LLM-API für RAG
- Kostenlose Embeddings-API
- free gemini api
- Gemini-API-Kontingent überschritten (429 RESOURCE_EXHAUSTED)
- Rate-Limits kostenloser LLM-APIs
Quellen
- FreeLLMAPI docs: Native Gemini API (geprüft 20 November 2026)
- FreeLLMAPI docs: Chat completions and routing (geprüft 20 November 2026)
- Google AI Studio docs: Thinking (geprüft 20 November 2026)
- Gemini Developer API pricing (geprüft 20 November 2026)