Startseite / Anleitungen / Groq-Ratenlimit erreicht (429)

Groq-Ratenlimit erreicht (429)

Groq ist schnell, daher erreicht ein kostenloser Groq-Schlüssel seine Limits schnell. Dann gibt Groq HTTP 429 mit einer Meldung zurück, die das Limit nennt. Diese Seite erklärt die Meldung, die kostenlosen Limits je Modell, die Header, die Sie lesen sollten, und wie Sie weiterarbeiten können.

Code, Modellnamen und Bezeichnungen aus dem Live-Katalog werden auf Englisch angezeigt.

Die Fehlermeldung lesen

Die 429-Meldung von Groq nennt das Modell, die Organisation, die Dienststufe, den Limittyp und die Wartezeit. Dieses Beispiel wurde in einem öffentlichen Fehlerbericht veröffentlicht:

Beispiel für den Text eines 429-Body

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
Limit in der MeldungWas aufgebraucht istWas zu tun ist
Anfragen pro Minute (RPM)Zu viele Anfragen in 60 SekundenWarten Sie einige Sekunden und versuchen Sie es erneut
Tokens pro Minute (TPM)Zu viele Tokens in 60 SekundenWarten Sie oder senden Sie kürzere Prompts
Anfragen pro Tag (RPD)Das tägliche AnfragekontingentWarten Sie die Zeit aus der Meldung ab oder verwenden Sie ein anderes Modell
Tokens pro Tag (TPD)Das tägliche Token-KontingentWarten Sie die Zeit aus der Meldung ab oder verwenden Sie ein anderes Modell

Ein anderer Fehler ist HTTP 413 mit "Request too large". Er bedeutet, dass eine einzelne Anfrage größer ist als das TPM-Limit des Modells. Warten hilft nicht. Machen Sie die Anfrage kleiner oder verwenden Sie ein Modell mit höherem TPM-Limit.

Limits des kostenlosen Groq-Tarifs

Groq wendet Ratenlimits auf die Organisation an, nicht auf jeden Nutzer oder Schlüssel. Diese Werte stammen aus dem Tab Free Plan der Seite zu den Ratenlimits von Groq. Gecachte Tokens zählen nicht zu den Limits.

Limits des Free Plan von Groq, geprüft am 20. November 2026
ModellRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Whisper-Modelle haben außerdem Audio-Limits: 7.200 Audiosekunden pro Stunde und 28.800 pro Tag. Die Tabelle unten zeigt die Groq-Zeilen im Katalog von FreeLLMAPI. Weichen Werte im Katalog von der Seite von Groq ab, ist die Seite von Groq maßgeblich.

Groq-Modelle im heutigen kostenlosen Katalog
ModellKostenlos beiKontextKostenlose Limits (bestes Angebot)ToolsBildverarbeitung
Qwen3.8 27BGroq262K30 Anfragen/Min.
250 Anfragen/Tag
70,000 Token/Min.
~6M
JaJa
GPT-OSS 120BGroq131K30 Anfragen/Min.
1,000 Anfragen/Tag
8,000 Token/Min.
200,000 Token/Tag
~6M
JaNein
GPT-OSS 20BGroq131K30 Anfragen/Min.
1,000 Anfragen/Tag
8,000 Token/Min.
200,000 Token/Tag
~6M
JaNein
GPT-OSS Safeguard 20BGroq131K30 Anfragen/Min.
1,000 Anfragen/Tag
8,000 Token/Min.
200,000 Token/Tag
~6M
JaNein
ALLaM 2 7BGroq4K30 Anfragen/Min.
1,000 Anfragen/Tag
6,000 Token/Min.
500,000 Token/Tag
~15M
NeinNein
Llama Prompt Guard 2 22MGroq51230 Anfragen/Min.
14,400 Anfragen/Tag
15,000 Token/Min.
14.4K rpd
NeinNein
Llama Prompt Guard 2 86MGroq51230 Anfragen/Min.
14,400 Anfragen/Tag
15,000 Token/Min.
14.4K rpd
NeinNein

Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.

Die Ratenlimit-Header

Jede Antwort von Groq enthält Ratenlimit-Header. Lesen Sie sie, um langsamer zu werden, bevor Sie einen Fehler 429 erhalten.

HeaderBezieht sich aufBedeutung
x-ratelimit-limit-requestsRPDHeute erlaubte Anfragen
x-ratelimit-remaining-requestsRPDHeute verbleibende Anfragen
x-ratelimit-reset-requestsRPDZeit bis zum Zurücksetzen des Anfragelimits, zum Beispiel 2m59.56s
x-ratelimit-limit-tokensTPMPro Minute erlaubte Tokens
x-ratelimit-remaining-tokensTPMIn dieser Minute verbleibende Tokens
x-ratelimit-reset-tokensTPMZeit bis zum Zurücksetzen des Token-Limits, zum Beispiel 7.66s
retry-afterBeliebigSekunden zum Warten. Groq setzt diesen Wert nur, nachdem Sie ein Limit erreicht haben.

Die Header anzeigen

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

Richtig wiederholen

Verwenden Sie retry-after, wenn Groq den Header sendet. Fehlt er, verwenden Sie exponentielles Backoff mit einer Obergrenze. Wiederholen Sie tägliche Limits nicht in einer engen Schleife. Jeder Versuch ist eine neue Anfrage.

Wiederholung mit retry-after (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • Nennt die Meldung RPD oder TPD und beträgt die Wartezeit Minuten, wechseln Sie das Modell oder den Anbieter.
  • Um höhere Limits bei Groq zu erhalten, wechseln Sie zum Developer-Tarif. Er braucht eine Zahlungsmethode.
  • HTTP 498 ist ein anderer Fehler. Er bedeutet, dass der Flex-Tarif ausgelastet ist.

Ihr Groq-Kontingent planen

Rechnet man nach, sind die kostenlosen Limits klein. Prüfen Sie für Ihre Last, welches Limit Sie zuerst stoppt.

  • Anfragen: Bei 30 Anfragen pro Minute reichen 1.000 Anfragen pro Tag etwa 34 Minuten Nutzung mit voller Geschwindigkeit.
  • Tokens pro Minute: 8.000 TPM erlauben etwa vier Anfragen mit je 2.000 Tokens pro Minute. Eine Anfrage mit 9.000 Tokens ergibt Fehler 413.
  • Tokens pro Tag: 200.000 TPD entsprechen etwa 25 Anfragen mit je 8.000 Tokens. Coding-Agenten senden große Prompts. Daher sind die TPD oft früher aufgebraucht als die RPD.
  • Organisation: Alle Schlüssel und alle Mitglieder der Organisation teilen sich diese Werte.

Halten Sie bei Agentenarbeit Prompts kurz und entfernen Sie alten Kontext oft. Verwenden Sie Groq für schnelle, kurze Aufrufe. Senden Sie Aufrufe mit langem Kontext an Anbieter mit höherem Token-Limit.

Auf einen anderen Anbieter wechseln, wenn Groq ausgelastet ist

FreeLLMAPI ist ein Open-Source-Gateway, das auf Ihrem Computer läuft. Es führt Zähler für RPM, RPD, TPM und TPD für jedes Groq-Modell und jeden Schlüssel. Vor jeder Anfrage prüft es diese Zähler. Ist Groq ausgelastet, sendet der Router die Anfrage an den nächsten kostenlosen Anbieter.

  • Ein kurzes 429 bei einem Minutenlimit setzt den Schlüssel für 90 Sekunden in eine Abklingzeit.
  • Ein 429 bei einem Tageslimit erhält eine längere Abklingzeit oder die Wartezeit von Groq, falls sie länger ist.
  • Nennt der Fehlertext von Groq das tatsächliche Limit, speichert der Router es. Zum Beispiel setzt ein 413 mit Limit 30000, Requested 33476 das TPM-Limit auf 30.000.
  • Der Header X-Fallback-Trail zeigt jeden fehlgeschlagenen Schritt, zum Beispiel groq/llama-3.3-70b key1=rate_limited.

Das Gateway statt Groq aufrufen

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast bevorzugt die Modelle mit der besten gemessenen Geschwindigkeit. Ist Groq am Limit, antworten andere Anbieter. Sie können langsamer sein als Groq.

Nutzen Sie alle diese Modelle über einen einzigen Schlüssel. FreeLLMAPI ist ein Open-Source-Router, den Sie selbst hosten. Er stellt alle diese kostenlosen Angebote hinter einem einzigen OpenAI-kompatiblen Endpunkt bereit und wechselt zum nächsten Anbieter, wenn ein Anbieter das Limit erreicht. Katalog ansehen oder Jetzt starten.

Häufig gestellte Fragen

Was bedeutet 'Rate limit reached for model' bei Groq?

Ihre Organisation hat ein Limit für dieses Modell vollständig verbraucht. Die Meldung nennt das Limit (RPM, RPD, TPM oder TPD) und die Wartezeit.

Welche Ratenlimits hat der kostenlose Tarif von Groq?

Sie unterscheiden sich je Modell. Im Free Plan erlaubt openai/gpt-oss-120b 30 Anfragen pro Minute, 1.000 pro Tag, 8.000 Tokens pro Minute und 200.000 Tokens pro Tag.

Warum erhalte ich den Groq-Fehler 413 Request too large?

Eine Anfrage hat mehr Tokens als das TPM-Limit des Modells. Machen Sie den Prompt kürzer oder verwenden Sie ein Modell mit höherem TPM-Limit. Warten behebt den Fehler nicht.

Setzt ein neuer Groq-API-Schlüssel das Ratenlimit zurück?

Nein. Groq wendet Limits auf die Organisation an. Alle Schlüssel darin teilen sich daher dieselben Limits.

Wie erhöhe ich mein Groq-Ratenlimit?

Wechseln Sie mit einer Zahlungsmethode zum Developer-Tarif. Um kostenlos zu bleiben, fügen Sie andere Anbieter hinter einem Gateway hinzu, das auf sie umschaltet, wenn Groq ausgelastet ist.

Verwandte Anleitungen

Quellen

Alle Anleitungen · Alle kostenlosen Modelle ansehen