Acasă / Ghiduri / Limita de rată Groq atinsă (429)

Limita de rată Groq atinsă (429)

Groq este rapid, deci o cheie Groq gratuită ajunge repede la limite. Când se întâmplă asta, Groq returnează HTTP 429 cu un mesaj care numește limita. Această pagină explică mesajul, limitele gratuite pe model, antetele de citit și cum continuați să lucrați.

Codul, numele modelelor și etichetele live din catalog sunt afișate în engleză.

Citiți mesajul de eroare

Mesajul 429 al Groq numește modelul, organizația, nivelul de serviciu, tipul limitei și timpul de așteptare. Acest exemplu a fost publicat într-un raport public de eroare:

Exemplu de text din corpul 429

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
Limita din mesajCe s-a epuizatCe trebuie făcut
cereri pe minut (RPM)Prea multe cereri în 60 de secundeAșteptați câteva secunde și reîncercați
tokenuri pe minut (TPM)Prea multe tokenuri în 60 de secundeAșteptați sau trimiteți prompturi mai scurte
cereri pe zi (RPD)Cota zilnică de cereriAșteptați timpul din mesaj sau folosiți alt model
tokenuri pe zi (TPD)Cota zilnică de tokenuriAșteptați timpul din mesaj sau folosiți alt model

O altă eroare este HTTP 413 cu „Request too large”. Înseamnă că o cerere este mai mare decât limita TPM a modelului. Așteptarea nu ajută. Faceți cererea mai mică sau folosiți un model cu o limită TPM mai mare.

Limitele planului gratuit Groq

Groq aplică limite de rată organizației, nu fiecărui utilizator sau cheii. Aceste valori sunt din fila Free Plan a paginii de limite de rată Groq. Tokenurile din cache nu se numără în limite.

Limitele planului gratuit Groq, verificate la 20 noiembrie 2026
ModelRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Modelele Whisper au și limite audio: 7,200 de secunde audio pe oră și 28,800 pe zi. Tabelul de mai jos arată rândurile Groq din catalogul FreeLLMAPI. Dacă o valoare din catalog și pagina Groq diferă, pagina Groq are prioritate.

Modele Groq din catalogul gratuit de astăzi
ModelGratuit peContextLimite gratuite (cea mai bună ofertă)InstrumenteViziune
Qwen3.8 27BGroq262K30 cereri/min
250 cereri/zi
70,000 tokeni/min
~6M
DaDa
GPT-OSS 120BGroq131K30 cereri/min
1,000 cereri/zi
8,000 tokeni/min
200,000 tokeni/zi
~6M
DaNu
GPT-OSS 20BGroq131K30 cereri/min
1,000 cereri/zi
8,000 tokeni/min
200,000 tokeni/zi
~6M
DaNu
GPT-OSS Safeguard 20BGroq131K30 cereri/min
1,000 cereri/zi
8,000 tokeni/min
200,000 tokeni/zi
~6M
DaNu
ALLaM 2 7BGroq4K30 cereri/min
1,000 cereri/zi
6,000 tokeni/min
500,000 tokeni/zi
~15M
NuNu
Llama Prompt Guard 2 22MGroq51230 cereri/min
14,400 cereri/zi
15,000 tokeni/min
14.4K rpd
NuNu
Llama Prompt Guard 2 86MGroq51230 cereri/min
14,400 cereri/zi
15,000 tokeni/min
14.4K rpd
NuNu

Date live din catalogul FreeLLMAPI (versiunea 2026.11.19, verificat 2026-11-19). Limitele gratuite se schimbă des. Catalogul este verificat în fiecare zi.

Antetele de limită de rată

Fiecare răspuns Groq are antete de limită de rată. Citiți-le ca să încetiniți înainte să primiți un 429.

AntetSe referă laÎnseamnă
x-ratelimit-limit-requestsRPDCereri permise pe zi
x-ratelimit-remaining-requestsRPDCereri rămase astăzi
x-ratelimit-reset-requestsRPDTimp până se resetează limita de cereri, de exemplu 2m59.56s
x-ratelimit-limit-tokensTPMTokenuri permise pe minut
x-ratelimit-remaining-tokensTPMTokenuri rămase în acest minut
x-ratelimit-reset-tokensTPMTimp până se resetează limita de tokenuri, de exemplu 7.66s
retry-afterOricareSecunde de așteptat. Groq o setează doar după ce atingeți o limită.

Vedeți antetele

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

Reîncercați corect

Folosiți retry-after când Groq îl trimite. Dacă lipsește, folosiți backoff exponențial cu un plafon. Nu reîncercați limitele zilnice într-o buclă strânsă. Fiecare reîncercare este o cerere nouă.

Reîncercare cu retry-after (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • Dacă mesajul numește RPD sau TPD și așteptarea este de minute, treceți la alt model sau alt furnizor.
  • Pentru limite mai mari de la Groq, treceți la nivelul Developer. Necesită o metodă de plată.
  • HTTP 498 este o eroare diferită. Înseamnă că nivelul flex este la capacitate maximă.

Planificați bugetul Groq

Limitele gratuite sunt mici când faceți calculul. Verificați care limită se atinge prima pentru tipul de sarcină.

  • Cereri: la 30 de cereri pe minut, 1,000 de cereri pe zi ține aproximativ 34 de minute de utilizare la viteză maximă.
  • Tokenuri pe minut: 8,000 TPM permit aproximativ patru cereri de câte 2,000 de tokenuri fiecare, pe minut. O cerere de 9,000 de tokenuri primește eroarea 413.
  • Tokenuri pe zi: 200,000 TPD înseamnă aproximativ 25 de cereri de 8,000 de tokenuri. Agenții de programare trimit prompturi mari, deci TPD se epuizează adesea înaintea RPD.
  • Organizație: toate cheile și toți membrii organizației împart aceste valori.

Pentru munca cu agenți, păstrați prompturile scurte și curățați des contextul vechi. Folosiți Groq pentru apeluri rapide și scurte. Trimiteți apelurile cu context lung la furnizori cu o limită de tokenuri mai mare.

Treceți la rezervă când Groq este plin

FreeLLMAPI este un gateway open source care rulează pe computer. Păstrează contoare RPM, RPD, TPM și TPD pentru fiecare model și cheie Groq. Le verifică înainte de fiecare cerere. Când Groq este plin, routerul trimite cererea la următorul furnizor gratuit.

  • Un 429 scurt pe o limită de minut pune cheia în pauză de 90 de secunde.
  • Un 429 pe o limită zilnică folosește o pauză mai lungă, sau timpul de reîncercare al Groq dacă este mai lung.
  • Când corpul unei erori Groq indică limita reală, routerul o salvează. De exemplu, un 413 cu Limit 30000, Requested 33476 setează limita TPM la 30,000.
  • Antetul X-Fallback-Trail arată fiecare etapă eșuată, de exemplu groq/llama-3.3-70b key1=rate_limited.

Apelați gateway-ul în loc de Groq

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast preferă modelele cu cea mai bună viteză măsurată. Când Groq este la limită, răspund alți furnizori. Ei pot fi mai lenți decât Groq.

Folosiți fiecare dintre aceste modele printr-o singură cheie. FreeLLMAPI este un router open-source, găzduit de dumneavoastră, care pune toate aceste niveluri gratuite în spatele unui singur endpoint compatibil cu OpenAI și trece la alt furnizor când un furnizor este limitat la rată. Vezi catalogul sau trece live.

Întrebări frecvente

Ce înseamnă „Rate limit reached for model” pe Groq?

Organizația a folosit toată o limită pentru acel model. Mesajul numește limita (RPM, RPD, TPM sau TPD) și timpul de așteptare.

Care sunt limitele de rată ale nivelului gratuit Groq?

Diferă în funcție de model. Pe planul gratuit, openai/gpt-oss-120b permite 30 de cereri pe minut, 1,000 pe zi, 8,000 de tokenuri pe minut și 200,000 de tokenuri pe zi.

De ce primesc eroarea Groq 413 Request too large?

O cerere are mai mulți tokenuri decât limita TPM a modelului. Faceți promptul mai scurt sau folosiți un model cu o limită TPM mai mare. Așteptarea nu rezolvă problema.

O cheie Groq API nouă resetează limita de rată?

Nu. Groq aplică limitele organizației, deci toate cheile din ea împart aceleași limite.

Cum îmi cresc limita de rată Groq?

Treceți la nivelul Developer cu o metodă de plată. Ca să rămâneți gratuit, adăugați alți furnizori în spatele unui gateway care trece la rezervă când Groq este plin.

Ghiduri înrudite

Surse

Toate ghidurile · Vezi toate modelele gratuite