Limita de rată Groq atinsă (429)
Groq este rapid, deci o cheie Groq gratuită ajunge repede la limite. Când se întâmplă asta, Groq returnează HTTP 429 cu un mesaj care numește limita. Această pagină explică mesajul, limitele gratuite pe model, antetele de citit și cum continuați să lucrați.
Codul, numele modelelor și etichetele live din catalog sunt afișate în engleză.
Citiți mesajul de eroare
Mesajul 429 al Groq numește modelul, organizația, nivelul de serviciu, tipul limitei și timpul de așteptare. Acest exemplu a fost publicat într-un raport public de eroare:
Exemplu de text din corpul 429
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| Limita din mesaj | Ce s-a epuizat | Ce trebuie făcut |
|---|---|---|
| cereri pe minut (RPM) | Prea multe cereri în 60 de secunde | Așteptați câteva secunde și reîncercați |
| tokenuri pe minut (TPM) | Prea multe tokenuri în 60 de secunde | Așteptați sau trimiteți prompturi mai scurte |
| cereri pe zi (RPD) | Cota zilnică de cereri | Așteptați timpul din mesaj sau folosiți alt model |
| tokenuri pe zi (TPD) | Cota zilnică de tokenuri | Așteptați timpul din mesaj sau folosiți alt model |
O altă eroare este HTTP 413 cu „Request too large”. Înseamnă că o cerere este mai mare decât limita TPM a modelului. Așteptarea nu ajută. Faceți cererea mai mică sau folosiți un model cu o limită TPM mai mare.
Limitele planului gratuit Groq
Groq aplică limite de rată organizației, nu fiecărui utilizator sau cheii. Aceste valori sunt din fila Free Plan a paginii de limite de rată Groq. Tokenurile din cache nu se numără în limite.
| Model | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
Modelele Whisper au și limite audio: 7,200 de secunde audio pe oră și 28,800 pe zi. Tabelul de mai jos arată rândurile Groq din catalogul FreeLLMAPI. Dacă o valoare din catalog și pagina Groq diferă, pagina Groq are prioritate.
| Model | Gratuit pe | Context | Limite gratuite (cea mai bună ofertă) | Instrumente | Viziune |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 cereri/min 250 cereri/zi 70,000 tokeni/min ~6M | Da | Da |
| GPT-OSS 120B | Groq | 131K | 30 cereri/min 1,000 cereri/zi 8,000 tokeni/min 200,000 tokeni/zi ~6M | Da | Nu |
| GPT-OSS 20B | Groq | 131K | 30 cereri/min 1,000 cereri/zi 8,000 tokeni/min 200,000 tokeni/zi ~6M | Da | Nu |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 cereri/min 1,000 cereri/zi 8,000 tokeni/min 200,000 tokeni/zi ~6M | Da | Nu |
| ALLaM 2 7B | Groq | 4K | 30 cereri/min 1,000 cereri/zi 6,000 tokeni/min 500,000 tokeni/zi ~15M | Nu | Nu |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 cereri/min 14,400 cereri/zi 15,000 tokeni/min 14.4K rpd | Nu | Nu |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 cereri/min 14,400 cereri/zi 15,000 tokeni/min 14.4K rpd | Nu | Nu |
Date live din catalogul FreeLLMAPI (versiunea 2026.11.19, verificat 2026-11-19). Limitele gratuite se schimbă des. Catalogul este verificat în fiecare zi.
Antetele de limită de rată
Fiecare răspuns Groq are antete de limită de rată. Citiți-le ca să încetiniți înainte să primiți un 429.
| Antet | Se referă la | Înseamnă |
|---|---|---|
x-ratelimit-limit-requests | RPD | Cereri permise pe zi |
x-ratelimit-remaining-requests | RPD | Cereri rămase astăzi |
x-ratelimit-reset-requests | RPD | Timp până se resetează limita de cereri, de exemplu 2m59.56s |
x-ratelimit-limit-tokens | TPM | Tokenuri permise pe minut |
x-ratelimit-remaining-tokens | TPM | Tokenuri rămase în acest minut |
x-ratelimit-reset-tokens | TPM | Timp până se resetează limita de tokenuri, de exemplu 7.66s |
retry-after | Oricare | Secunde de așteptat. Groq o setează doar după ce atingeți o limită. |
Vedeți antetele
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'Reîncercați corect
Folosiți retry-after când Groq îl trimite. Dacă lipsește, folosiți backoff exponențial cu un plafon. Nu reîncercați limitele zilnice într-o buclă strânsă. Fiecare reîncercare este o cerere nouă.
Reîncercare cu retry-after (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- Dacă mesajul numește RPD sau TPD și așteptarea este de minute, treceți la alt model sau alt furnizor.
- Pentru limite mai mari de la Groq, treceți la nivelul Developer. Necesită o metodă de plată.
- HTTP 498 este o eroare diferită. Înseamnă că nivelul flex este la capacitate maximă.
Planificați bugetul Groq
Limitele gratuite sunt mici când faceți calculul. Verificați care limită se atinge prima pentru tipul de sarcină.
- Cereri: la 30 de cereri pe minut, 1,000 de cereri pe zi ține aproximativ 34 de minute de utilizare la viteză maximă.
- Tokenuri pe minut: 8,000 TPM permit aproximativ patru cereri de câte 2,000 de tokenuri fiecare, pe minut. O cerere de 9,000 de tokenuri primește eroarea 413.
- Tokenuri pe zi: 200,000 TPD înseamnă aproximativ 25 de cereri de 8,000 de tokenuri. Agenții de programare trimit prompturi mari, deci TPD se epuizează adesea înaintea RPD.
- Organizație: toate cheile și toți membrii organizației împart aceste valori.
Pentru munca cu agenți, păstrați prompturile scurte și curățați des contextul vechi. Folosiți Groq pentru apeluri rapide și scurte. Trimiteți apelurile cu context lung la furnizori cu o limită de tokenuri mai mare.
Treceți la rezervă când Groq este plin
FreeLLMAPI este un gateway open source care rulează pe computer. Păstrează contoare RPM, RPD, TPM și TPD pentru fiecare model și cheie Groq. Le verifică înainte de fiecare cerere. Când Groq este plin, routerul trimite cererea la următorul furnizor gratuit.
- Un 429 scurt pe o limită de minut pune cheia în pauză de 90 de secunde.
- Un 429 pe o limită zilnică folosește o pauză mai lungă, sau timpul de reîncercare al Groq dacă este mai lung.
- Când corpul unei erori Groq indică limita reală, routerul o salvează. De exemplu, un 413 cu
Limit 30000, Requested 33476setează limita TPM la 30,000. - Antetul
X-Fallback-Trailarată fiecare etapă eșuată, de exemplugroq/llama-3.3-70b key1=rate_limited.
Apelați gateway-ul în loc de Groq
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast preferă modelele cu cea mai bună viteză măsurată. Când Groq este la limită, răspund alți furnizori. Ei pot fi mai lenți decât Groq.
Întrebări frecvente
Ce înseamnă „Rate limit reached for model” pe Groq?
Organizația a folosit toată o limită pentru acel model. Mesajul numește limita (RPM, RPD, TPM sau TPD) și timpul de așteptare.
Care sunt limitele de rată ale nivelului gratuit Groq?
Diferă în funcție de model. Pe planul gratuit, openai/gpt-oss-120b permite 30 de cereri pe minut, 1,000 pe zi, 8,000 de tokenuri pe minut și 200,000 de tokenuri pe zi.
De ce primesc eroarea Groq 413 Request too large?
O cerere are mai mulți tokenuri decât limita TPM a modelului. Faceți promptul mai scurt sau folosiți un model cu o limită TPM mai mare. Așteptarea nu rezolvă problema.
O cheie Groq API nouă resetează limita de rată?
Nu. Groq aplică limitele organizației, deci toate cheile din ea împart aceleași limite.
Cum îmi cresc limita de rată Groq?
Treceți la nivelul Developer cu o metodă de plată. Ca să rămâneți gratuit, adăugați alți furnizori în spatele unui gateway care trece la rezervă când Groq este plin.
Ghiduri înrudite
- Limite de rată pentru Free LLM API
- free groq api
- Cotă Gemini API depășită (429 RESOURCE_EXHAUSTED)
- Limita de rată NVIDIA NIM API
- Groq vs Cerebras
Surse
- GroqCloud: Rate limits (verificat 20 November 2026)
- GroqCloud: Errors (verificat 20 November 2026)
- GroqCloud: Billing FAQs (verificat 20 November 2026)
- Public report of the Groq TPD message (Discourse) (verificat 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (verificat 20 November 2026)
- FreeLLMAPI docs: Response headers (verificat 20 November 2026)