Kikomo cha Groq kimefikiwa (429)
Groq ni ya haraka, kwa hivyo ufunguo wa bure wa Groq hufikia vikomo vyake haraka. Hilo likitokea, Groq hurudisha HTTP 429 yenye ujumbe unaotaja kikomo. Ukurasa huu unaeleza ujumbe huo, vikomo vya bure kwa kila model, vichwa vya kusoma, na jinsi ya kuendelea kufanya kazi.
Msimbo, majina ya modeli na lebo za katalogi ya moja kwa moja zinaonyeshwa kwa Kiingereza.
Soma ujumbe wa hitilafu
Ujumbe wa 429 wa Groq unataja model, shirika, kiwango cha huduma, aina ya kikomo na muda wa kusubiri. Mfano huu ulichapishwa kwenye ripoti ya hitilafu ya umma:
Maandishi ya mwili wa 429 kwa mfano
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| Kikomo kilicho kwenye ujumbe | Kilichoisha | Cha kufanya |
|---|---|---|
| maombi kwa dakika (RPM) | Maombi mengi ndani ya sekunde 60 | Subiri sekunde chache kisha ujaribu tena |
| tokens kwa dakika (TPM) | Tokens nyingi ndani ya sekunde 60 | Subiri, au tuma prompt fupi zaidi |
| maombi kwa siku (RPD) | Kiwango cha maombi cha kila siku | Subiri muda ulioko kwenye ujumbe, au tumia model nyingine |
| tokens kwa siku (TPD) | Kiwango cha tokens cha kila siku | Subiri muda ulioko kwenye ujumbe, au tumia model nyingine |
Hitilafu nyingine ni HTTP 413 yenye "Request too large". Inamaanisha kwamba ombi moja ni kubwa kuliko kikomo cha TPM cha model. Kusubiri hakusaidii. Fanya ombi liwe dogo, au tumia model yenye kikomo cha juu zaidi cha TPM.
Vikomo vya mpango wa bure wa Groq
Groq inatumia vikomo vya kiwango kwa shirika, si kwa kila mtumiaji au ufunguo. Thamani hizi zinatoka kwenye kichupo cha Free Plan cha ukurasa wa vikomo vya kiwango wa Groq. Tokens zilizohifadhiwa kwenye akiba hazihesabiwi kwenye vikomo.
| Model | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
Model za Whisper pia zina vikomo vya sauti: sekunde 7,200 za sauti kwa saa na sekunde 28,800 kwa siku. Jedwali lililo hapa chini linaonyesha safu za Groq kwenye katalogi ya FreeLLMAPI. Thamani ya katalogi ikitofautiana na ukurasa wa Groq, ukurasa wa Groq ndio wenye mamlaka.
| Modeli | Bure kwenye | Muktadha | Vikomo vya bure (ofa bora) | Zana | Uoni |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 maombi/dakika 250 maombi/siku 70,000 tokeni/dakika ~6M | Ndiyo | Ndiyo |
| GPT-OSS 120B | Groq | 131K | 30 maombi/dakika 1,000 maombi/siku 8,000 tokeni/dakika 200,000 tokeni/siku ~6M | Ndiyo | Hapana |
| GPT-OSS 20B | Groq | 131K | 30 maombi/dakika 1,000 maombi/siku 8,000 tokeni/dakika 200,000 tokeni/siku ~6M | Ndiyo | Hapana |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 maombi/dakika 1,000 maombi/siku 8,000 tokeni/dakika 200,000 tokeni/siku ~6M | Ndiyo | Hapana |
| ALLaM 2 7B | Groq | 4K | 30 maombi/dakika 1,000 maombi/siku 6,000 tokeni/dakika 500,000 tokeni/siku ~15M | Hapana | Hapana |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 maombi/dakika 14,400 maombi/siku 15,000 tokeni/dakika 14.4K rpd | Hapana | Hapana |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 maombi/dakika 14,400 maombi/siku 15,000 tokeni/dakika 14.4K rpd | Hapana | Hapana |
Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.
Vichwa vya kikomo cha kiwango
Kila jibu la Groq lina vichwa vya kikomo cha kiwango. Visome ili upunguze kasi kabla ya kupata 429.
| Kichwa | Kinahusu | Maana |
|---|---|---|
x-ratelimit-limit-requests | RPD | Maombi yanayoruhusiwa kwa siku |
x-ratelimit-remaining-requests | RPD | Maombi yaliyobaki leo |
x-ratelimit-reset-requests | RPD | Muda hadi kikomo cha maombi kiweke upya, kwa mfano 2m59.56s |
x-ratelimit-limit-tokens | TPM | Tokens zinazoruhusiwa kwa dakika |
x-ratelimit-remaining-tokens | TPM | Tokens zilizobaki dakika hii |
x-ratelimit-reset-tokens | TPM | Muda hadi kikomo cha tokens kiweke upya, kwa mfano 7.66s |
retry-after | Yoyote | Sekunde za kusubiri. Groq huiweka tu baada ya kufikia kikomo. |
Ona vichwa
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'Jaribu tena kwa usahihi
Tumia retry-after Groq inapoituma. Ikikosekana, tumia exponential backoff yenye kikomo cha juu. Usijaribu tena vikomo vya kila siku kwa mzunguko wa haraka. Kila jaribio ni ombi jipya.
Jaribu tena kwa retry-after (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- Ujumbe ukitaja RPD au TPD na muda wa kusubiri ni dakika, badilisha kwenda model au mtoa huduma mwingine.
- Ili kupata vikomo vya juu kutoka Groq, pandisha hadi kiwango cha Developer. Kinahitaji njia ya malipo.
- HTTP 498 ni hitilafu tofauti. Inamaanisha kwamba kiwango cha flex kimejaa.
Panga bajeti yako ya Groq
Vikomo vya bure ni vidogo ukifanya hesabu. Angalia kikomo kipi kinakusimamisha kwanza kwa mzigo wako wa kazi.
- Maombi: kwa maombi 30 kwa dakika, maombi 1,000 kwa siku hudumu takriban dakika 34 za matumizi kwa kasi kamili.
- Tokens kwa dakika: TPM 8,000 zinaruhusu takriban maombi manne ya tokens 2,000 kila dakika. Ombi moja la tokens 9,000 linapata hitilafu 413.
- Tokens kwa siku: TPD 200,000 ni takriban maombi 25 ya tokens 8,000. Agents za usimbaji hutuma prompt kubwa, kwa hivyo TPD mara nyingi huisha kabla ya RPD.
- Shirika: funguo zote na wanachama wote wa shirika wanashiriki namba hizi.
Kwa kazi za agent, weka prompt fupi na safi muktadha wa zamani mara kwa mara. Tumia Groq kwa wito wa haraka na mfupi. Tuma wito wa muktadha mrefu kwa watoa huduma wenye kikomo cha juu cha tokens.
Hamia kwa mtoa huduma mwingine Groq ikijaa
FreeLLMAPI ni lango la chanzo huria linaloendeshwa kwenye kompyuta yako. Inaweka kaunta za RPM, RPD, TPM na TPD kwa kila model na ufunguo wa Groq. Inazikagua kabla ya kila ombi. Groq ikijaa, router hutuma ombi kwa mtoa huduma wa bure anayefuata.
- 429 fupi kwenye kikomo cha dakika huweka ufunguo kwenye muda wa kupumzika wa sekunde 90.
- 429 kwenye kikomo cha kila siku hutumia muda mrefu zaidi wa kupumzika, au muda wa kujaribu tena wa Groq ikiwa ni mrefu zaidi.
- Mwili wa hitilafu wa Groq unapotaja kikomo halisi, router huhifadhi thamani hiyo. Kwa mfano, 413 yenye
Limit 30000, Requested 33476huweka kikomo cha TPM kuwa 30,000. - Kichwa cha
X-Fallback-Trailkinaonyesha kila hatua iliyoshindwa, kwa mfanogroq/llama-3.3-70b key1=rate_limited.
Piga lango badala ya Groq
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast hupendelea model zenye kasi bora iliyopimwa. Groq ikiwa kwenye kikomo chake, watoa huduma wengine hujibu. Wanaweza kuwa polepole kuliko Groq.
Maswali yanayoulizwa mara kwa mara
Ujumbe 'Rate limit reached for model' kwenye Groq unamaanisha nini?
Shirika lako limetumia kikomo chote kimoja kwa model hiyo. Ujumbe unataja kikomo (RPM, RPD, TPM au TPD) na muda wa kusubiri.
Vikomo vya kiwango vya mpango wa bure wa Groq ni vipi?
Vinatofautiana kwa model. Kwenye mpango wa bure, openai/gpt-oss-120b inaruhusu maombi 30 kwa dakika, 1,000 kwa siku, tokens 8,000 kwa dakika na tokens 200,000 kwa siku.
Kwa nini ninapata hitilafu ya Groq 413 Request too large?
Ombi moja lina tokens zaidi ya kikomo cha TPM cha model. Fupisha prompt au tumia model yenye kikomo cha juu cha TPM. Kusubiri hakurekebishi hili.
Je, ufunguo mpya wa Groq API unaweka upya kikomo cha kiwango?
Hapana. Groq inatumia vikomo kwa shirika, kwa hivyo funguo zote ndani yake zinashiriki vikomo vilevile.
Ninawezaje kuongeza kikomo changu cha kiwango cha Groq?
Pandisha hadi kiwango cha Developer kwa njia ya malipo. Ili ubaki bila gharama, ongeza watoa huduma wengine nyuma ya lango linalohamia kwa mwingine Groq ikijaa.
Miongozo inayohusiana
- Mipaka ya kiwango cha API ya LLM bure
- free groq api
- Kikomo cha Gemini API kimezidi (429 RESOURCE_EXHAUSTED)
- Kikomo cha kiwango cha API ya NVIDIA NIM
- Groq dhidi ya Cerebras
Vyanzo
- GroqCloud: Rate limits (imekaguliwa 20 November 2026)
- GroqCloud: Errors (imekaguliwa 20 November 2026)
- GroqCloud: Billing FAQs (imekaguliwa 20 November 2026)
- Public report of the Groq TPD message (Discourse) (imekaguliwa 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (imekaguliwa 20 November 2026)
- FreeLLMAPI docs: Response headers (imekaguliwa 20 November 2026)