Startseite / Anleitungen / Kostenlose LLM-API mit 1 Million Tokens Kontext

Kostenlose LLM-API mit 1 Million Tokens Kontext

Ein langes Kontextfenster erlaubt einem Modell, in einer Anfrage ein ganzes Buch, eine große Codebasis oder Stunden an Transkripten zu lesen. Der FreeLLMAPI-Katalog hat 56 kostenlose Modellangebote mit einem Kontextfenster von 1 Million Tokens oder mehr. Dieser Leitfaden zeigt diese Modelle und die Limits der kostenlosen Tarife, die bestimmen, wie viel Sie tatsächlich senden können.

Code, Modellnamen und Bezeichnungen aus dem Live-Katalog werden auf Englisch angezeigt.

Kostenlose Modelle mit mehr als 1 Mio. Tokens Kontext heute

Die Tabelle listet kostenlose Modelle mit einem Kontextfenster von mindestens 1,000,000 Tokens auf, das größte zuerst. Die Daten stammen aus dem Live-Katalog. Achten Sie neben der Kontextgröße auch auf die Spalte "Free limits".

Kostenlose Modelle mit mehr als 1 Mio. Tokens Kontext, das größte zuerst
ModellKostenlos beiKontextKostenlose Limits (bestes Angebot)ToolsBildverarbeitung
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsNeinNein
Gemini 3.8 FlashAPINex, Google AI Studio1M5 Anfragen/Min.
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
JaJa
Gemini 3.7 FlashGoogle AI Studio1M10 Anfragen/Min.
20 Anfragen/Tag
250,000 Token/Min.
~3M
JaJa
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 Anfragen/Min.
50 Anfragen/Tag
Shared rate limit
JaNein
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetNeinNein
Gemini 3.6 FlashGoogle AI Studio1M10 Anfragen/Min.
20 Anfragen/Tag
250,000 Token/Min.
~3M
JaJa
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetNeinNein
Gemini 3.5 FlashGoogle AI Studio1M10 Anfragen/Min.
20 Anfragen/Tag
250,000 Token/Min.
~3M
JaJa
DeepSeek V4 ProAPINex, Router91M5 Anfragen/Min.
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
NeinNein
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3 weitere1M200 Anfragen/Tag
200 rpd
JaNein
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 Anfragen/Min.
20 Anfragen/Tag
250,000 Token/Min.
~3M
JaJa
Gemini 3 Flash PreviewGoogle AI Studio1M10 Anfragen/Min.
20 Anfragen/Tag
250,000 Token/Min.
~3M
JaJa
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 Anfragen/Min.
5,000 Anfragen/Tag
500,000 Token/Tag
500K tokens/day · 5,000 req/day
JaJa
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 Anfragen/Min.
5,000 Anfragen/Tag
500,000 Token/Tag
500K tokens/day · 5,000 req/day
JaJa
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2 weitere1M20 Anfragen/Min.
50 Anfragen/Tag
50 req/day account-wide (1,000 after a $10 purchase)
JaNein

Es werden 15 von 33 passenden kostenlosen Modellen angezeigt. Alle Modelle ansehen.

Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.

Die Gemini-Flash-Modelle von Google AI Studio sind die bekanntesten kostenlosen Modelle mit 1 Mio. Tokens. Sie akzeptieren auch Bilder und Tool-Aufrufe. Andere Zeilen stammen von kostenlosen Routern und von NVIDIA.

Das echte Limit: Tokens pro Minute

Das Kontextfenster ist der größte Prompt, den das Modell lesen kann. Der kostenlose Tarif hat außerdem ein Limit für Tokens pro Minute (TPM). Bei vielen kostenlosen Tarifen ist das TPM-Limit kleiner als das Kontextfenster.

  • Beispiel: Ein kostenloser Gemini-Flash-Schlüssel in der Tabelle erlaubt 250,000 Tokens pro Minute. Ein Prompt mit 800,000 Tokens liegt im Kontextfenster, aber über dem TPM-Limit. Der Anbieter sendet Fehler 429.
  • Anfragen pro Tag: Einige kostenlose Gemini-Modelle erlauben nur etwa 20 Anfragen pro Tag. Verwenden Sie lange Prompts für Aufgaben, die sie brauchen.
  • Die Ausgabe ist getrennt: Die Antwort hat eine eigene maximale Länge. Ein Kontext von 1 Mio. Tokens ergibt keine Antwort mit 1 Mio. Tokens.

In der Praxis kann ein kostenloses Modell mit 1 Mio. Kontext also in einer Anfrage einige hunderttausend Tokens lesen. Messen Sie Ihren Prompt, bevor Sie ihn senden.

Schritt 1: FreeLLMAPI installieren und Schlüssel hinzufügen

FreeLLMAPI ist Open Source. Es läuft auf Ihrem Computer in Docker. Ihre Anbieter-Schlüssel bleiben auf Ihrem Computer.

Installation (macOS oder Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Öffnen Sie das Dashboard unter http://localhost:3001. Fügen Sie auf der Seite Keys einen Schlüssel für Google AI Studio hinzu. Fügen Sie auch Schlüssel anderer Anbieter aus der Tabelle hinzu, damit der Router ein weiteres Modell für langen Kontext hat, wenn Google einen Fehler 429 sendet. Kopieren Sie Ihren einheitlichen Schlüssel von derselben Seite.

Schritt 2: Tokens zählen, dann ein langes Dokument senden

FreeLLMAPI stellt die native Gemini-Methode countTokens bereit. Messen Sie damit den Prompt, bevor Sie ihn senden.

curl: Tokens mit dem nativen Gemini-Endpunkt zählen

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: eine lange Datei an ein Modell mit 1 Mio. Kontext senden

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

Legen Sie ein Modell für langen Kontext über seine ID fest. Mit model: "auto" kann der Router ein Modell mit einem kleineren Kontextfenster wählen. Setzen Sie ein langes Client-Zeitlimit, weil das Lesen großer Prompts Zeit braucht.

Langer Kontext oder RAG?

Langen Kontext verwenden, wennRAG verwenden, wenn
Das Dokument wird einmal gelesen, zum Beispiel ein Vertrag oder ein BerichtSie viele Fragen zu denselben großen Daten stellen
Die Antwort den vollen Text braucht, zum Beispiel eine Zusammenfassung oder einen Vergleich von AbschnittenDie Antwort in wenigen kurzen Passagen steht
Der Text kleiner ist als das TPM-Limit Ihres kostenlosen SchlüsselsDie Daten größer sind als jedes kostenlose Kontextfenster oder TPM-Limit
Das Modell die Reihenfolge und den Aufbau des Textes sehen mussSie jede Anfrage klein und schnell halten müssen

RAG sendet bei jeder Frage nur die relevanten Teile der Daten. In kostenlosen Tarifen verbraucht es weniger Tokens. Lesen Sie Kostenlose LLM-API für RAG und Kostenlose Embeddings-API, um es einzurichten.

Fallstricke und Fehlerbehebung

  • Verlorene Details: Modelle können Fakten in der Mitte eines sehr langen Prompts übersehen. Setzen Sie Ihre Frage nach das Dokument und bitten Sie das Modell, seine Quelle zu zitieren.
  • Denk-Tokens: Gemini-Flash-Modelle können verborgene Denk-Tokens aus dem Ausgabebudget nutzen. Setzen Sie max_tokens nicht sehr klein.
  • PDF-Dateien: FreeLLMAPI wandelt keine PDF-, DOCX- oder XLSX-Dateien um. Ein binärer Dokumentanhang liefert Fehler 400. Extrahieren Sie zuerst den Text und senden Sie dann den Text.
  • Text bereinigen: Entfernen Sie Kopf- und Fußzeilen der Seiten sowie wiederholte Inhaltsverzeichnisse, bevor Sie ein Dokument senden. Sie verbrauchen Tokens und bringen keine Fakten.
  • Wiederholte Prompts: Jede Anfrage sendet das vollständige Dokument erneut. Stellen Sie mehrere Fragen in einer Anfrage, wenn Sie können.
ProblemUrsacheLösung
Fehler 429 bei der ersten langen AnfrageDer Prompt ist größer als das TPM-LimitMachen Sie den Prompt kleiner oder verwenden Sie RAG
Fehler 400 zur KontextlängeDie Anfrage ging an ein Modell mit einem kleineren FensterLegen Sie eine Modell-ID aus der Tabelle fest
Leere oder abgeschnittene Antwortmax_tokens ist zu klein, oder das Nachdenken hat es verbrauchtSetzen Sie ein größeres max_tokens
ZeitüberschreitungDas Modell braucht Zeit, um den Prompt zu lesenSetzen Sie ein Client-Zeitlimit von 300 Sekunden oder mehr
Nutzen Sie alle diese Modelle über einen einzigen Schlüssel. FreeLLMAPI ist ein Open-Source-Router, den Sie selbst hosten. Er stellt alle diese kostenlosen Angebote hinter einem einzigen OpenAI-kompatiblen Endpunkt bereit und wechselt zum nächsten Anbieter, wenn ein Anbieter das Limit erreicht. Katalog ansehen oder Jetzt starten.

Häufig gestellte Fragen

Gibt es eine kostenlose LLM-API mit 1 Million Tokens Kontext?

Ja. Gemini-Flash-Modelle im kostenlosen Tarif von Google AI Studio haben ein Kontextfenster von etwa 1 Million Tokens. Der FreeLLMAPI-Katalog hat 56 kostenlose Modellangebote mit 1 Mio. oder mehr Tokens.

Kann ich 1 Million Tokens kostenlos in einer Anfrage senden?

In der Regel nicht. Der kostenlose Gemini-Tarif im Katalog erlaubt 250,000 Tokens pro Minute. Ein größerer Prompt erhält daher Fehler 429. Planen Sie für jede Anfrage einige hunderttausend Tokens.

Wie zähle ich Tokens, bevor ich einen Prompt sende?

Rufen Sie die native Gemini-Methode countTokens über FreeLLMAPI unter /v1beta/models/{model}:countTokens auf. Bei englischem Text ergeben etwa 4 Zeichen ein Token.

Welches kostenlose LLM hat das größte Kontextfenster?

Die Tabelle auf dieser Seite sortiert kostenlose Modelle nach der Kontextgröße, das größte zuerst. Mehrere kostenlose Modelle erreichen etwa 1 Million Tokens. Lesen Sie außerdem die Spalte mit den kostenlosen Limits, denn das TPM-Limit bestimmt die echte Größe einer Anfrage.

Ist langer Kontext besser als RAG?

Langer Kontext ist besser für ein Dokument, das Sie einmal lesen. RAG ist besser für viele Fragen zu großen Daten, weil es jedes Mal weniger Tokens sendet.

Verwandte Anleitungen

Quellen

Alle Anleitungen · Alle kostenlosen Modelle ansehen