હોમ / માર્ગદર્શિકાઓ / Groq rate limit પહોંચી ગઈ (429)

Groq rate limit પહોંચી ગઈ (429)

Groq ઝડપી છે, તેથી મફત Groq કી ઝડપથી તેની મર્યાદા પર પહોંચે છે. ત્યારે Groq એક સંદેશ સાથે HTTP 429 પાછું આપે છે જે મર્યાદાનું નામ આપે છે. આ પેજ સંદેશ, દરેક મોડેલની મફત મર્યાદા, વાંચવા જેવા હેડર અને કામ ચાલુ રાખવાની રીત સમજાવે છે.

કોડ, મૉડેલ નામ અને લાઇવ કૅટલૉગ લેબલ અંગ્રેજીમાં બતાવવામાં આવે છે.

ભૂલ સંદેશ વાંચો

Groq ના 429 સંદેશમાં મોડેલ, સંસ્થા, સેવા tier, મર્યાદાનો પ્રકાર અને રાહ જોવાનો સમય નામ સાથે હોય છે. આ ઉદાહરણ એક જાહેર bug report માં પોસ્ટ થયું હતું:

ઉદાહરણ 429 body લખાણ

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
સંદેશમાં મર્યાદાશું ખૂટ્યુંશું કરવું
requests per minute (RPM)60 સેકંડમાં ઘણી બધી વિનંતીથોડી સેકંડ રાહ જુઓ અને ફરી પ્રયાસ કરો
tokens per minute (TPM)60 સેકંડમાં ઘણા બધા tokensરાહ જુઓ, અથવા ટૂંકા પ્રોમ્પ્ટ મોકલો
requests per day (RPD)દૈનિક વિનંતી ક્વોટાસંદેશમાંનો સમય રાહ જુઓ, અથવા બીજું મોડેલ વાપરો
tokens per day (TPD)દૈનિક token ક્વોટાસંદેશમાંનો સમય રાહ જુઓ, અથવા બીજું મોડેલ વાપરો

એક અલગ ભૂલ HTTP 413 છે, "Request too large" સાથે. તેનો અર્થ છે કે એક વિનંતી મોડેલની TPM મર્યાદા કરતાં મોટી છે. રાહ જોવાથી મદદ મળતી નથી. વિનંતી નાની કરો, અથવા ઊંચી TPM મર્યાદા ધરાવતું મોડેલ વાપરો.

Groq મફત પ્લાનની મર્યાદા

Groq rate limits સંસ્થા પર લાગુ કરે છે, દરેક વપરાશકર્તા કે કી પર નહીં. આ કિંમતો Groq ના rate limits પેજના Free Plan tab માંથી છે. cached tokens મર્યાદામાં ગણાતા નથી.

Groq Free Plan મર્યાદા, 20 નવેમ્બર 2026 ના રોજ ચકાસેલ
મોડેલRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Whisper મોડેલ પર audio મર્યાદા પણ છે: પ્રતિ કલાક 7,200 audio સેકંડ અને પ્રતિ દિવસ 28,800. નીચેનું કોષ્ટક FreeLLMAPI catalog ની Groq પંક્તિઓ બતાવે છે. જો catalog ની કિંમત અને Groq ના પેજ વચ્ચે ફરક હોય, તો Groq નું પેજ અધિકૃત છે.

આજે મફત catalog માં Groq મોડેલ
મૉડેલમફત ઉપલબ્ધસંદર્ભમફત મર્યાદા (શ્રેષ્ઠ ઑફર)સાધનોવિઝન
Qwen3.8 27BGroq262K30 વિનંતી/મિનિટ
250 વિનંતી/દિવસ
70,000 ટોકન/મિનિટ
~6M
હાહા
GPT-OSS 120BGroq131K30 વિનંતી/મિનિટ
1,000 વિનંતી/દિવસ
8,000 ટોકન/મિનિટ
200,000 ટોકન/દિવસ
~6M
હાના
GPT-OSS 20BGroq131K30 વિનંતી/મિનિટ
1,000 વિનંતી/દિવસ
8,000 ટોકન/મિનિટ
200,000 ટોકન/દિવસ
~6M
હાના
GPT-OSS Safeguard 20BGroq131K30 વિનંતી/મિનિટ
1,000 વિનંતી/દિવસ
8,000 ટોકન/મિનિટ
200,000 ટોકન/દિવસ
~6M
હાના
ALLaM 2 7BGroq4K30 વિનંતી/મિનિટ
1,000 વિનંતી/દિવસ
6,000 ટોકન/મિનિટ
500,000 ટોકન/દિવસ
~15M
નાના
Llama Prompt Guard 2 22MGroq51230 વિનંતી/મિનિટ
14,400 વિનંતી/દિવસ
15,000 ટોકન/મિનિટ
14.4K rpd
નાના
Llama Prompt Guard 2 86MGroq51230 વિનંતી/મિનિટ
14,400 વિનંતી/દિવસ
15,000 ટોકન/મિનિટ
14.4K rpd
નાના

FreeLLMAPI કૅટલૉગનો લાઇવ ડેટા (સંસ્કરણ 2026.11.19, તપાસ્યું 2026-11-19). મફત મર્યાદાઓ વારંવાર બદલાય છે. કૅટલૉગ દરરોજ તપાસવામાં આવે છે.

rate limit હેડર

દરેક Groq પ્રતિસાદમાં rate limit હેડર હોય છે. 429 મળતા પહેલાં ધીમા પડવા માટે તેમને વાંચો.

હેડરસંબંધિતઅર્થ
x-ratelimit-limit-requestsRPDદિવસ દીઠ મંજૂર વિનંતી
x-ratelimit-remaining-requestsRPDઆજે બાકી વિનંતી
x-ratelimit-reset-requestsRPDવિનંતી મર્યાદા reset થવાનો સમય, ઉદાહરણ તરીકે 2m59.56s
x-ratelimit-limit-tokensTPMપ્રતિ મિનિટ મંજૂર tokens
x-ratelimit-remaining-tokensTPMઆ મિનિટે બાકી tokens
x-ratelimit-reset-tokensTPMtoken મર્યાદા reset થવાનો સમય, ઉદાહરણ તરીકે 7.66s
retry-afterકોઈપણરાહ જોવાની સેકંડ. Groq તેને ફક્ત મર્યાદા પહોંચ્યા પછી સેટ કરે છે.

હેડર જુઓ

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

યોગ્ય રીતે ફરી પ્રયાસ કરો

Groq મોકલે ત્યારે retry-after વાપરો. તે ન હોય તો, મર્યાદા સાથે exponential backoff વાપરો. દૈનિક મર્યાદા ચુસ્ત loop માં ફરી પ્રયાસ કરો નહીં. દરેક retry એ નવી વિનંતી છે.

retry-after સાથે ફરી પ્રયાસ કરો (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • જો સંદેશ RPD કે TPD નામ આપે અને રાહ મિનિટોની હોય, તો બીજા મોડેલ કે પ્રદાતા પર જાઓ.
  • Groq પાસેથી ઊંચી મર્યાદા મેળવવા, Developer tier પર અપગ્રેડ કરો. તેને ચુકવણી પદ્ધતિ જોઈએ.
  • HTTP 498 એક અલગ ભૂલ છે. તેનો અર્થ છે કે flex tier ક્ષમતા પર છે.

તમારું Groq બજેટ આયોજન કરો

ગણતરી કરતા મફત મર્યાદા નાની છે. તમારા કાર્ય માટે પહેલા કઈ મર્યાદા તમને રોકે છે તે તપાસો.

  • વિનંતીઓ: પ્રતિ મિનિટ 30 વિનંતી પર, પ્રતિ દિવસ 1,000 વિનંતી પૂર્ણ ઝડપે લગભગ 34 મિનિટ ચાલે છે.
  • મિનિટ દીઠ tokens: 8,000 TPM દર મિનિટે દરેક 2,000 tokens ની લગભગ ચાર વિનંતી આપે છે. 9,000 tokens ની એક વિનંતી ભૂલ 413 આપે છે.
  • દિવસ દીઠ tokens: 200,000 TPD એ 8,000 tokens ની લગભગ 25 વિનંતી છે. Coding એજન્ટ મોટા પ્રોમ્પ્ટ મોકલે છે, તેથી TPD ઘણી વાર RPD પહેલાં ખૂટે છે.
  • સંસ્થા: બધી કી અને સંસ્થાના બધા સભ્યો આ સંખ્યાઓ વહેંચે છે.

એજન્ટ કાર્ય માટે, પ્રોમ્પ્ટ ટૂંકા અને સ્પષ્ટ રાખો અને જૂનો સંદર્ભ વારંવાર સાફ કરો. ઝડપી, ટૂંકા કૉલ માટે Groq વાપરો. લાંબા સંદર્ભના કૉલ ઊંચી token મર્યાદા ધરાવતા પ્રદાતાઓ પર મોકલો.

Groq ભરાય ત્યારે failover કરો

FreeLLMAPI એ ઓપન-સોર્સ ગેટવે છે જે તમારા કમ્પ્યુટર પર ચાલે છે. તે દરેક Groq મોડેલ અને કી માટે RPM, RPD, TPM અને TPD counters રાખે છે. દરેક વિનંતી પહેલાં તે તેમને ચકાસે છે. Groq ભરાય ત્યારે, રાઉટર વિનંતી આગલા મફત પ્રદાતા પર મોકલે છે.

  • મિનિટ મર્યાદા પર ટૂંકી 429 કીને 90 સેકંડના cooldown પર મૂકે છે.
  • દૈનિક મર્યાદા પર 429 લાંબા cooldown વાપરે છે, અથવા Groq નો retry સમય જો લાંબો હોય તો તે.
  • જ્યારે Groq ભૂલ body વાસ્તવિક મર્યાદા જણાવે, ત્યારે રાઉટર તેને સાચવે છે. ઉદાહરણ તરીકે, Limit 30000, Requested 33476 સાથેની 413 TPM મર્યાદા 30,000 પર સેટ કરે છે.
  • X-Fallback-Trail હેડર દરેક નિષ્ફળ hop બતાવે છે, ઉદાહરણ તરીકે groq/llama-3.3-70b key1=rate_limited.

Groq ને બદલે ગેટવે કૉલ કરો

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast માપેલી શ્રેષ્ઠ ગતિવાળા મોડેલને પસંદ કરે છે. Groq તેની મર્યાદા પર હોય ત્યારે, બીજા પ્રદાતા જવાબ આપે છે. તેઓ Groq કરતાં ધીમા હોઈ શકે છે.

આ બધાનો ઉપયોગ એક જ કી દ્વારા કરો. FreeLLMAPI એક ઓપન-સોર્સ, સ્વ-હોસ્ટેડ રાઉટર છે. તે આ બધા મફત ટાયરને એક OpenAI સાથે સુસંગત એન્ડપોઇન્ટ પાછળ મૂકે છે અને જ્યારે એક મૉડેલની રેટ મર્યાદા આવે ત્યારે બીજા પર આપમેળે સ્વિચ કરે છે. કૅટલૉગ બ્રાઉઝ કરો અથવા લાઇવ જાઓ.

વારંવાર પૂછાતા પ્રશ્નો

Groq પર 'Rate limit reached for model' નો અર્થ શું છે?

તમારી સંસ્થાએ તે મોડેલ માટે એક મર્યાદાનો બધો ઉપયોગ કરી લીધો છે. સંદેશ મર્યાદાનું નામ (RPM, RPD, TPM અથવા TPD) અને રાહ જોવાનો સમય આપે છે.

Groq મફત ટાયરની rate limits શું છે?

તે મોડેલ પ્રમાણે અલગ છે. મફત પ્લાન પર, openai/gpt-oss-120b પ્રતિ મિનિટ 30 વિનંતી, પ્રતિ દિવસ 1,000, પ્રતિ મિનિટ 8,000 tokens અને પ્રતિ દિવસ 200,000 tokens આપે છે.

મને Groq ભૂલ 413 Request too large કેમ મળે છે?

એક વિનંતીમાં મોડેલની TPM મર્યાદા કરતાં વધુ tokens છે. પ્રોમ્પ્ટ ટૂંકો કરો અથવા ઊંચી TPM મર્યાદા ધરાવતું મોડેલ વાપરો. રાહ જોવાથી તે ઠીક થતું નથી.

શું નવી Groq API કી rate limit reset કરે છે?

ના. Groq મર્યાદા સંસ્થા પર લાગુ કરે છે, તેથી તેની બધી કી એ જ મર્યાદા વહેંચે છે.

મારી Groq rate limit કેવી રીતે વધારવી?

ચુકવણી પદ્ધતિ સાથે Developer tier પર અપગ્રેડ કરો. મફત રહેવા માટે, ગેટવે પાછળ બીજા પ્રદાતા ઉમેરો, જે Groq ભરાય ત્યારે failover કરે.

સંબંધિત માર્ગદર્શિકાઓ

સ્રોતો

બધી માર્ગદર્શિકાઓ · બધા મફત મૉડેલ જુઓ