Groq-Ratenlimit erreicht (429)
Groq ist schnell, daher erreicht ein kostenloser Groq-Schlüssel seine Limits schnell. Dann gibt Groq HTTP 429 mit einer Meldung zurück, die das Limit nennt. Diese Seite erklärt die Meldung, die kostenlosen Limits je Modell, die Header, die Sie lesen sollten, und wie Sie weiterarbeiten können.
Code, Modellnamen und Bezeichnungen aus dem Live-Katalog werden auf Englisch angezeigt.
Die Fehlermeldung lesen
Die 429-Meldung von Groq nennt das Modell, die Organisation, die Dienststufe, den Limittyp und die Wartezeit. Dieses Beispiel wurde in einem öffentlichen Fehlerbericht veröffentlicht:
Beispiel für den Text eines 429-Body
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| Limit in der Meldung | Was aufgebraucht ist | Was zu tun ist |
|---|---|---|
| Anfragen pro Minute (RPM) | Zu viele Anfragen in 60 Sekunden | Warten Sie einige Sekunden und versuchen Sie es erneut |
| Tokens pro Minute (TPM) | Zu viele Tokens in 60 Sekunden | Warten Sie oder senden Sie kürzere Prompts |
| Anfragen pro Tag (RPD) | Das tägliche Anfragekontingent | Warten Sie die Zeit aus der Meldung ab oder verwenden Sie ein anderes Modell |
| Tokens pro Tag (TPD) | Das tägliche Token-Kontingent | Warten Sie die Zeit aus der Meldung ab oder verwenden Sie ein anderes Modell |
Ein anderer Fehler ist HTTP 413 mit "Request too large". Er bedeutet, dass eine einzelne Anfrage größer ist als das TPM-Limit des Modells. Warten hilft nicht. Machen Sie die Anfrage kleiner oder verwenden Sie ein Modell mit höherem TPM-Limit.
Limits des kostenlosen Groq-Tarifs
Groq wendet Ratenlimits auf die Organisation an, nicht auf jeden Nutzer oder Schlüssel. Diese Werte stammen aus dem Tab Free Plan der Seite zu den Ratenlimits von Groq. Gecachte Tokens zählen nicht zu den Limits.
| Modell | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
Whisper-Modelle haben außerdem Audio-Limits: 7.200 Audiosekunden pro Stunde und 28.800 pro Tag. Die Tabelle unten zeigt die Groq-Zeilen im Katalog von FreeLLMAPI. Weichen Werte im Katalog von der Seite von Groq ab, ist die Seite von Groq maßgeblich.
| Modell | Kostenlos bei | Kontext | Kostenlose Limits (bestes Angebot) | Tools | Bildverarbeitung |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 Anfragen/Min. 250 Anfragen/Tag 70,000 Token/Min. ~6M | Ja | Ja |
| GPT-OSS 120B | Groq | 131K | 30 Anfragen/Min. 1,000 Anfragen/Tag 8,000 Token/Min. 200,000 Token/Tag ~6M | Ja | Nein |
| GPT-OSS 20B | Groq | 131K | 30 Anfragen/Min. 1,000 Anfragen/Tag 8,000 Token/Min. 200,000 Token/Tag ~6M | Ja | Nein |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 Anfragen/Min. 1,000 Anfragen/Tag 8,000 Token/Min. 200,000 Token/Tag ~6M | Ja | Nein |
| ALLaM 2 7B | Groq | 4K | 30 Anfragen/Min. 1,000 Anfragen/Tag 6,000 Token/Min. 500,000 Token/Tag ~15M | Nein | Nein |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 Anfragen/Min. 14,400 Anfragen/Tag 15,000 Token/Min. 14.4K rpd | Nein | Nein |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 Anfragen/Min. 14,400 Anfragen/Tag 15,000 Token/Min. 14.4K rpd | Nein | Nein |
Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.
Die Ratenlimit-Header
Jede Antwort von Groq enthält Ratenlimit-Header. Lesen Sie sie, um langsamer zu werden, bevor Sie einen Fehler 429 erhalten.
| Header | Bezieht sich auf | Bedeutung |
|---|---|---|
x-ratelimit-limit-requests | RPD | Heute erlaubte Anfragen |
x-ratelimit-remaining-requests | RPD | Heute verbleibende Anfragen |
x-ratelimit-reset-requests | RPD | Zeit bis zum Zurücksetzen des Anfragelimits, zum Beispiel 2m59.56s |
x-ratelimit-limit-tokens | TPM | Pro Minute erlaubte Tokens |
x-ratelimit-remaining-tokens | TPM | In dieser Minute verbleibende Tokens |
x-ratelimit-reset-tokens | TPM | Zeit bis zum Zurücksetzen des Token-Limits, zum Beispiel 7.66s |
retry-after | Beliebig | Sekunden zum Warten. Groq setzt diesen Wert nur, nachdem Sie ein Limit erreicht haben. |
Die Header anzeigen
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'Richtig wiederholen
Verwenden Sie retry-after, wenn Groq den Header sendet. Fehlt er, verwenden Sie exponentielles Backoff mit einer Obergrenze. Wiederholen Sie tägliche Limits nicht in einer engen Schleife. Jeder Versuch ist eine neue Anfrage.
Wiederholung mit retry-after (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- Nennt die Meldung RPD oder TPD und beträgt die Wartezeit Minuten, wechseln Sie das Modell oder den Anbieter.
- Um höhere Limits bei Groq zu erhalten, wechseln Sie zum Developer-Tarif. Er braucht eine Zahlungsmethode.
- HTTP 498 ist ein anderer Fehler. Er bedeutet, dass der Flex-Tarif ausgelastet ist.
Ihr Groq-Kontingent planen
Rechnet man nach, sind die kostenlosen Limits klein. Prüfen Sie für Ihre Last, welches Limit Sie zuerst stoppt.
- Anfragen: Bei 30 Anfragen pro Minute reichen 1.000 Anfragen pro Tag etwa 34 Minuten Nutzung mit voller Geschwindigkeit.
- Tokens pro Minute: 8.000 TPM erlauben etwa vier Anfragen mit je 2.000 Tokens pro Minute. Eine Anfrage mit 9.000 Tokens ergibt Fehler 413.
- Tokens pro Tag: 200.000 TPD entsprechen etwa 25 Anfragen mit je 8.000 Tokens. Coding-Agenten senden große Prompts. Daher sind die TPD oft früher aufgebraucht als die RPD.
- Organisation: Alle Schlüssel und alle Mitglieder der Organisation teilen sich diese Werte.
Halten Sie bei Agentenarbeit Prompts kurz und entfernen Sie alten Kontext oft. Verwenden Sie Groq für schnelle, kurze Aufrufe. Senden Sie Aufrufe mit langem Kontext an Anbieter mit höherem Token-Limit.
Auf einen anderen Anbieter wechseln, wenn Groq ausgelastet ist
FreeLLMAPI ist ein Open-Source-Gateway, das auf Ihrem Computer läuft. Es führt Zähler für RPM, RPD, TPM und TPD für jedes Groq-Modell und jeden Schlüssel. Vor jeder Anfrage prüft es diese Zähler. Ist Groq ausgelastet, sendet der Router die Anfrage an den nächsten kostenlosen Anbieter.
- Ein kurzes 429 bei einem Minutenlimit setzt den Schlüssel für 90 Sekunden in eine Abklingzeit.
- Ein 429 bei einem Tageslimit erhält eine längere Abklingzeit oder die Wartezeit von Groq, falls sie länger ist.
- Nennt der Fehlertext von Groq das tatsächliche Limit, speichert der Router es. Zum Beispiel setzt ein 413 mit
Limit 30000, Requested 33476das TPM-Limit auf 30.000. - Der Header
X-Fallback-Trailzeigt jeden fehlgeschlagenen Schritt, zum Beispielgroq/llama-3.3-70b key1=rate_limited.
Das Gateway statt Groq aufrufen
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast bevorzugt die Modelle mit der besten gemessenen Geschwindigkeit. Ist Groq am Limit, antworten andere Anbieter. Sie können langsamer sein als Groq.
Häufig gestellte Fragen
Was bedeutet 'Rate limit reached for model' bei Groq?
Ihre Organisation hat ein Limit für dieses Modell vollständig verbraucht. Die Meldung nennt das Limit (RPM, RPD, TPM oder TPD) und die Wartezeit.
Welche Ratenlimits hat der kostenlose Tarif von Groq?
Sie unterscheiden sich je Modell. Im Free Plan erlaubt openai/gpt-oss-120b 30 Anfragen pro Minute, 1.000 pro Tag, 8.000 Tokens pro Minute und 200.000 Tokens pro Tag.
Warum erhalte ich den Groq-Fehler 413 Request too large?
Eine Anfrage hat mehr Tokens als das TPM-Limit des Modells. Machen Sie den Prompt kürzer oder verwenden Sie ein Modell mit höherem TPM-Limit. Warten behebt den Fehler nicht.
Setzt ein neuer Groq-API-Schlüssel das Ratenlimit zurück?
Nein. Groq wendet Limits auf die Organisation an. Alle Schlüssel darin teilen sich daher dieselben Limits.
Wie erhöhe ich mein Groq-Ratenlimit?
Wechseln Sie mit einer Zahlungsmethode zum Developer-Tarif. Um kostenlos zu bleiben, fügen Sie andere Anbieter hinter einem Gateway hinzu, das auf sie umschaltet, wenn Groq ausgelastet ist.
Verwandte Anleitungen
- Rate-Limits kostenloser LLM-APIs
- free groq api
- Gemini-API-Kontingent überschritten (429 RESOURCE_EXHAUSTED)
- NVIDIA NIM API Rate-Limit
- Groq vs Cerebras
Quellen
- GroqCloud: Rate limits (geprüft 20 November 2026)
- GroqCloud: Errors (geprüft 20 November 2026)
- GroqCloud: Billing FAQs (geprüft 20 November 2026)
- Public report of the Groq TPD message (Discourse) (geprüft 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (geprüft 20 November 2026)
- FreeLLMAPI docs: Response headers (geprüft 20 November 2026)