Nyumbani / Miongozo / Kikomo cha Groq kimefikiwa (429)

Kikomo cha Groq kimefikiwa (429)

Groq ni ya haraka, kwa hivyo ufunguo wa bure wa Groq hufikia vikomo vyake haraka. Hilo likitokea, Groq hurudisha HTTP 429 yenye ujumbe unaotaja kikomo. Ukurasa huu unaeleza ujumbe huo, vikomo vya bure kwa kila model, vichwa vya kusoma, na jinsi ya kuendelea kufanya kazi.

Msimbo, majina ya modeli na lebo za katalogi ya moja kwa moja zinaonyeshwa kwa Kiingereza.

Soma ujumbe wa hitilafu

Ujumbe wa 429 wa Groq unataja model, shirika, kiwango cha huduma, aina ya kikomo na muda wa kusubiri. Mfano huu ulichapishwa kwenye ripoti ya hitilafu ya umma:

Maandishi ya mwili wa 429 kwa mfano

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
Kikomo kilicho kwenye ujumbeKilichoishaCha kufanya
maombi kwa dakika (RPM)Maombi mengi ndani ya sekunde 60Subiri sekunde chache kisha ujaribu tena
tokens kwa dakika (TPM)Tokens nyingi ndani ya sekunde 60Subiri, au tuma prompt fupi zaidi
maombi kwa siku (RPD)Kiwango cha maombi cha kila sikuSubiri muda ulioko kwenye ujumbe, au tumia model nyingine
tokens kwa siku (TPD)Kiwango cha tokens cha kila sikuSubiri muda ulioko kwenye ujumbe, au tumia model nyingine

Hitilafu nyingine ni HTTP 413 yenye "Request too large". Inamaanisha kwamba ombi moja ni kubwa kuliko kikomo cha TPM cha model. Kusubiri hakusaidii. Fanya ombi liwe dogo, au tumia model yenye kikomo cha juu zaidi cha TPM.

Vikomo vya mpango wa bure wa Groq

Groq inatumia vikomo vya kiwango kwa shirika, si kwa kila mtumiaji au ufunguo. Thamani hizi zinatoka kwenye kichupo cha Free Plan cha ukurasa wa vikomo vya kiwango wa Groq. Tokens zilizohifadhiwa kwenye akiba hazihesabiwi kwenye vikomo.

Vikomo vya Groq Free Plan, vilivyokaguliwa 20 Novemba 2026
ModelRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Model za Whisper pia zina vikomo vya sauti: sekunde 7,200 za sauti kwa saa na sekunde 28,800 kwa siku. Jedwali lililo hapa chini linaonyesha safu za Groq kwenye katalogi ya FreeLLMAPI. Thamani ya katalogi ikitofautiana na ukurasa wa Groq, ukurasa wa Groq ndio wenye mamlaka.

Model za Groq kwenye katalogi ya bure leo
ModeliBure kwenyeMuktadhaVikomo vya bure (ofa bora)ZanaUoni
Qwen3.8 27BGroq262K30 maombi/dakika
250 maombi/siku
70,000 tokeni/dakika
~6M
NdiyoNdiyo
GPT-OSS 120BGroq131K30 maombi/dakika
1,000 maombi/siku
8,000 tokeni/dakika
200,000 tokeni/siku
~6M
NdiyoHapana
GPT-OSS 20BGroq131K30 maombi/dakika
1,000 maombi/siku
8,000 tokeni/dakika
200,000 tokeni/siku
~6M
NdiyoHapana
GPT-OSS Safeguard 20BGroq131K30 maombi/dakika
1,000 maombi/siku
8,000 tokeni/dakika
200,000 tokeni/siku
~6M
NdiyoHapana
ALLaM 2 7BGroq4K30 maombi/dakika
1,000 maombi/siku
6,000 tokeni/dakika
500,000 tokeni/siku
~15M
HapanaHapana
Llama Prompt Guard 2 22MGroq51230 maombi/dakika
14,400 maombi/siku
15,000 tokeni/dakika
14.4K rpd
HapanaHapana
Llama Prompt Guard 2 86MGroq51230 maombi/dakika
14,400 maombi/siku
15,000 tokeni/dakika
14.4K rpd
HapanaHapana

Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.

Vichwa vya kikomo cha kiwango

Kila jibu la Groq lina vichwa vya kikomo cha kiwango. Visome ili upunguze kasi kabla ya kupata 429.

KichwaKinahusuMaana
x-ratelimit-limit-requestsRPDMaombi yanayoruhusiwa kwa siku
x-ratelimit-remaining-requestsRPDMaombi yaliyobaki leo
x-ratelimit-reset-requestsRPDMuda hadi kikomo cha maombi kiweke upya, kwa mfano 2m59.56s
x-ratelimit-limit-tokensTPMTokens zinazoruhusiwa kwa dakika
x-ratelimit-remaining-tokensTPMTokens zilizobaki dakika hii
x-ratelimit-reset-tokensTPMMuda hadi kikomo cha tokens kiweke upya, kwa mfano 7.66s
retry-afterYoyoteSekunde za kusubiri. Groq huiweka tu baada ya kufikia kikomo.

Ona vichwa

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

Jaribu tena kwa usahihi

Tumia retry-after Groq inapoituma. Ikikosekana, tumia exponential backoff yenye kikomo cha juu. Usijaribu tena vikomo vya kila siku kwa mzunguko wa haraka. Kila jaribio ni ombi jipya.

Jaribu tena kwa retry-after (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • Ujumbe ukitaja RPD au TPD na muda wa kusubiri ni dakika, badilisha kwenda model au mtoa huduma mwingine.
  • Ili kupata vikomo vya juu kutoka Groq, pandisha hadi kiwango cha Developer. Kinahitaji njia ya malipo.
  • HTTP 498 ni hitilafu tofauti. Inamaanisha kwamba kiwango cha flex kimejaa.

Panga bajeti yako ya Groq

Vikomo vya bure ni vidogo ukifanya hesabu. Angalia kikomo kipi kinakusimamisha kwanza kwa mzigo wako wa kazi.

  • Maombi: kwa maombi 30 kwa dakika, maombi 1,000 kwa siku hudumu takriban dakika 34 za matumizi kwa kasi kamili.
  • Tokens kwa dakika: TPM 8,000 zinaruhusu takriban maombi manne ya tokens 2,000 kila dakika. Ombi moja la tokens 9,000 linapata hitilafu 413.
  • Tokens kwa siku: TPD 200,000 ni takriban maombi 25 ya tokens 8,000. Agents za usimbaji hutuma prompt kubwa, kwa hivyo TPD mara nyingi huisha kabla ya RPD.
  • Shirika: funguo zote na wanachama wote wa shirika wanashiriki namba hizi.

Kwa kazi za agent, weka prompt fupi na safi muktadha wa zamani mara kwa mara. Tumia Groq kwa wito wa haraka na mfupi. Tuma wito wa muktadha mrefu kwa watoa huduma wenye kikomo cha juu cha tokens.

Hamia kwa mtoa huduma mwingine Groq ikijaa

FreeLLMAPI ni lango la chanzo huria linaloendeshwa kwenye kompyuta yako. Inaweka kaunta za RPM, RPD, TPM na TPD kwa kila model na ufunguo wa Groq. Inazikagua kabla ya kila ombi. Groq ikijaa, router hutuma ombi kwa mtoa huduma wa bure anayefuata.

  • 429 fupi kwenye kikomo cha dakika huweka ufunguo kwenye muda wa kupumzika wa sekunde 90.
  • 429 kwenye kikomo cha kila siku hutumia muda mrefu zaidi wa kupumzika, au muda wa kujaribu tena wa Groq ikiwa ni mrefu zaidi.
  • Mwili wa hitilafu wa Groq unapotaja kikomo halisi, router huhifadhi thamani hiyo. Kwa mfano, 413 yenye Limit 30000, Requested 33476 huweka kikomo cha TPM kuwa 30,000.
  • Kichwa cha X-Fallback-Trail kinaonyesha kila hatua iliyoshindwa, kwa mfano groq/llama-3.3-70b key1=rate_limited.

Piga lango badala ya Groq

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast hupendelea model zenye kasi bora iliyopimwa. Groq ikiwa kwenye kikomo chake, watoa huduma wengine hujibu. Wanaweza kuwa polepole kuliko Groq.

Tumia kila moja ya hizi kwa ufunguo mmoja. FreeLLMAPI ni kipanga njia huria, unachoendesha mwenyewe. Kinaweka tabaka hizi zote za bure nyuma ya kituo kimoja cha OpenAI kinachooana, na kinahamia kwenye nyingine pale kikomo kinapofikiwa. Vinjari katalogi au anza sasa.

Maswali yanayoulizwa mara kwa mara

Ujumbe 'Rate limit reached for model' kwenye Groq unamaanisha nini?

Shirika lako limetumia kikomo chote kimoja kwa model hiyo. Ujumbe unataja kikomo (RPM, RPD, TPM au TPD) na muda wa kusubiri.

Vikomo vya kiwango vya mpango wa bure wa Groq ni vipi?

Vinatofautiana kwa model. Kwenye mpango wa bure, openai/gpt-oss-120b inaruhusu maombi 30 kwa dakika, 1,000 kwa siku, tokens 8,000 kwa dakika na tokens 200,000 kwa siku.

Kwa nini ninapata hitilafu ya Groq 413 Request too large?

Ombi moja lina tokens zaidi ya kikomo cha TPM cha model. Fupisha prompt au tumia model yenye kikomo cha juu cha TPM. Kusubiri hakurekebishi hili.

Je, ufunguo mpya wa Groq API unaweka upya kikomo cha kiwango?

Hapana. Groq inatumia vikomo kwa shirika, kwa hivyo funguo zote ndani yake zinashiriki vikomo vilevile.

Ninawezaje kuongeza kikomo changu cha kiwango cha Groq?

Pandisha hadi kiwango cha Developer kwa njia ya malipo. Ili ubaki bila gharama, ongeza watoa huduma wengine nyuma ya lango linalohamia kwa mwingine Groq ikijaa.

Miongozo inayohusiana

Vyanzo

Miongozo yote · Tazama modeli zote za bure