Groq rate limit પહોંચી ગઈ (429)
Groq ઝડપી છે, તેથી મફત Groq કી ઝડપથી તેની મર્યાદા પર પહોંચે છે. ત્યારે Groq એક સંદેશ સાથે HTTP 429 પાછું આપે છે જે મર્યાદાનું નામ આપે છે. આ પેજ સંદેશ, દરેક મોડેલની મફત મર્યાદા, વાંચવા જેવા હેડર અને કામ ચાલુ રાખવાની રીત સમજાવે છે.
કોડ, મૉડેલ નામ અને લાઇવ કૅટલૉગ લેબલ અંગ્રેજીમાં બતાવવામાં આવે છે.
ભૂલ સંદેશ વાંચો
Groq ના 429 સંદેશમાં મોડેલ, સંસ્થા, સેવા tier, મર્યાદાનો પ્રકાર અને રાહ જોવાનો સમય નામ સાથે હોય છે. આ ઉદાહરણ એક જાહેર bug report માં પોસ્ટ થયું હતું:
ઉદાહરણ 429 body લખાણ
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| સંદેશમાં મર્યાદા | શું ખૂટ્યું | શું કરવું |
|---|---|---|
| requests per minute (RPM) | 60 સેકંડમાં ઘણી બધી વિનંતી | થોડી સેકંડ રાહ જુઓ અને ફરી પ્રયાસ કરો |
| tokens per minute (TPM) | 60 સેકંડમાં ઘણા બધા tokens | રાહ જુઓ, અથવા ટૂંકા પ્રોમ્પ્ટ મોકલો |
| requests per day (RPD) | દૈનિક વિનંતી ક્વોટા | સંદેશમાંનો સમય રાહ જુઓ, અથવા બીજું મોડેલ વાપરો |
| tokens per day (TPD) | દૈનિક token ક્વોટા | સંદેશમાંનો સમય રાહ જુઓ, અથવા બીજું મોડેલ વાપરો |
એક અલગ ભૂલ HTTP 413 છે, "Request too large" સાથે. તેનો અર્થ છે કે એક વિનંતી મોડેલની TPM મર્યાદા કરતાં મોટી છે. રાહ જોવાથી મદદ મળતી નથી. વિનંતી નાની કરો, અથવા ઊંચી TPM મર્યાદા ધરાવતું મોડેલ વાપરો.
Groq મફત પ્લાનની મર્યાદા
Groq rate limits સંસ્થા પર લાગુ કરે છે, દરેક વપરાશકર્તા કે કી પર નહીં. આ કિંમતો Groq ના rate limits પેજના Free Plan tab માંથી છે. cached tokens મર્યાદામાં ગણાતા નથી.
| મોડેલ | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
Whisper મોડેલ પર audio મર્યાદા પણ છે: પ્રતિ કલાક 7,200 audio સેકંડ અને પ્રતિ દિવસ 28,800. નીચેનું કોષ્ટક FreeLLMAPI catalog ની Groq પંક્તિઓ બતાવે છે. જો catalog ની કિંમત અને Groq ના પેજ વચ્ચે ફરક હોય, તો Groq નું પેજ અધિકૃત છે.
| મૉડેલ | મફત ઉપલબ્ધ | સંદર્ભ | મફત મર્યાદા (શ્રેષ્ઠ ઑફર) | સાધનો | વિઝન |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 વિનંતી/મિનિટ 250 વિનંતી/દિવસ 70,000 ટોકન/મિનિટ ~6M | હા | હા |
| GPT-OSS 120B | Groq | 131K | 30 વિનંતી/મિનિટ 1,000 વિનંતી/દિવસ 8,000 ટોકન/મિનિટ 200,000 ટોકન/દિવસ ~6M | હા | ના |
| GPT-OSS 20B | Groq | 131K | 30 વિનંતી/મિનિટ 1,000 વિનંતી/દિવસ 8,000 ટોકન/મિનિટ 200,000 ટોકન/દિવસ ~6M | હા | ના |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 વિનંતી/મિનિટ 1,000 વિનંતી/દિવસ 8,000 ટોકન/મિનિટ 200,000 ટોકન/દિવસ ~6M | હા | ના |
| ALLaM 2 7B | Groq | 4K | 30 વિનંતી/મિનિટ 1,000 વિનંતી/દિવસ 6,000 ટોકન/મિનિટ 500,000 ટોકન/દિવસ ~15M | ના | ના |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 વિનંતી/મિનિટ 14,400 વિનંતી/દિવસ 15,000 ટોકન/મિનિટ 14.4K rpd | ના | ના |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 વિનંતી/મિનિટ 14,400 વિનંતી/દિવસ 15,000 ટોકન/મિનિટ 14.4K rpd | ના | ના |
FreeLLMAPI કૅટલૉગનો લાઇવ ડેટા (સંસ્કરણ 2026.11.19, તપાસ્યું 2026-11-19). મફત મર્યાદાઓ વારંવાર બદલાય છે. કૅટલૉગ દરરોજ તપાસવામાં આવે છે.
rate limit હેડર
દરેક Groq પ્રતિસાદમાં rate limit હેડર હોય છે. 429 મળતા પહેલાં ધીમા પડવા માટે તેમને વાંચો.
| હેડર | સંબંધિત | અર્થ |
|---|---|---|
x-ratelimit-limit-requests | RPD | દિવસ દીઠ મંજૂર વિનંતી |
x-ratelimit-remaining-requests | RPD | આજે બાકી વિનંતી |
x-ratelimit-reset-requests | RPD | વિનંતી મર્યાદા reset થવાનો સમય, ઉદાહરણ તરીકે 2m59.56s |
x-ratelimit-limit-tokens | TPM | પ્રતિ મિનિટ મંજૂર tokens |
x-ratelimit-remaining-tokens | TPM | આ મિનિટે બાકી tokens |
x-ratelimit-reset-tokens | TPM | token મર્યાદા reset થવાનો સમય, ઉદાહરણ તરીકે 7.66s |
retry-after | કોઈપણ | રાહ જોવાની સેકંડ. Groq તેને ફક્ત મર્યાદા પહોંચ્યા પછી સેટ કરે છે. |
હેડર જુઓ
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'યોગ્ય રીતે ફરી પ્રયાસ કરો
Groq મોકલે ત્યારે retry-after વાપરો. તે ન હોય તો, મર્યાદા સાથે exponential backoff વાપરો. દૈનિક મર્યાદા ચુસ્ત loop માં ફરી પ્રયાસ કરો નહીં. દરેક retry એ નવી વિનંતી છે.
retry-after સાથે ફરી પ્રયાસ કરો (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- જો સંદેશ RPD કે TPD નામ આપે અને રાહ મિનિટોની હોય, તો બીજા મોડેલ કે પ્રદાતા પર જાઓ.
- Groq પાસેથી ઊંચી મર્યાદા મેળવવા, Developer tier પર અપગ્રેડ કરો. તેને ચુકવણી પદ્ધતિ જોઈએ.
- HTTP 498 એક અલગ ભૂલ છે. તેનો અર્થ છે કે flex tier ક્ષમતા પર છે.
તમારું Groq બજેટ આયોજન કરો
ગણતરી કરતા મફત મર્યાદા નાની છે. તમારા કાર્ય માટે પહેલા કઈ મર્યાદા તમને રોકે છે તે તપાસો.
- વિનંતીઓ: પ્રતિ મિનિટ 30 વિનંતી પર, પ્રતિ દિવસ 1,000 વિનંતી પૂર્ણ ઝડપે લગભગ 34 મિનિટ ચાલે છે.
- મિનિટ દીઠ tokens: 8,000 TPM દર મિનિટે દરેક 2,000 tokens ની લગભગ ચાર વિનંતી આપે છે. 9,000 tokens ની એક વિનંતી ભૂલ 413 આપે છે.
- દિવસ દીઠ tokens: 200,000 TPD એ 8,000 tokens ની લગભગ 25 વિનંતી છે. Coding એજન્ટ મોટા પ્રોમ્પ્ટ મોકલે છે, તેથી TPD ઘણી વાર RPD પહેલાં ખૂટે છે.
- સંસ્થા: બધી કી અને સંસ્થાના બધા સભ્યો આ સંખ્યાઓ વહેંચે છે.
એજન્ટ કાર્ય માટે, પ્રોમ્પ્ટ ટૂંકા અને સ્પષ્ટ રાખો અને જૂનો સંદર્ભ વારંવાર સાફ કરો. ઝડપી, ટૂંકા કૉલ માટે Groq વાપરો. લાંબા સંદર્ભના કૉલ ઊંચી token મર્યાદા ધરાવતા પ્રદાતાઓ પર મોકલો.
Groq ભરાય ત્યારે failover કરો
FreeLLMAPI એ ઓપન-સોર્સ ગેટવે છે જે તમારા કમ્પ્યુટર પર ચાલે છે. તે દરેક Groq મોડેલ અને કી માટે RPM, RPD, TPM અને TPD counters રાખે છે. દરેક વિનંતી પહેલાં તે તેમને ચકાસે છે. Groq ભરાય ત્યારે, રાઉટર વિનંતી આગલા મફત પ્રદાતા પર મોકલે છે.
- મિનિટ મર્યાદા પર ટૂંકી 429 કીને 90 સેકંડના cooldown પર મૂકે છે.
- દૈનિક મર્યાદા પર 429 લાંબા cooldown વાપરે છે, અથવા Groq નો retry સમય જો લાંબો હોય તો તે.
- જ્યારે Groq ભૂલ body વાસ્તવિક મર્યાદા જણાવે, ત્યારે રાઉટર તેને સાચવે છે. ઉદાહરણ તરીકે,
Limit 30000, Requested 33476સાથેની 413 TPM મર્યાદા 30,000 પર સેટ કરે છે. X-Fallback-Trailહેડર દરેક નિષ્ફળ hop બતાવે છે, ઉદાહરણ તરીકેgroq/llama-3.3-70b key1=rate_limited.
Groq ને બદલે ગેટવે કૉલ કરો
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast માપેલી શ્રેષ્ઠ ગતિવાળા મોડેલને પસંદ કરે છે. Groq તેની મર્યાદા પર હોય ત્યારે, બીજા પ્રદાતા જવાબ આપે છે. તેઓ Groq કરતાં ધીમા હોઈ શકે છે.
વારંવાર પૂછાતા પ્રશ્નો
Groq પર 'Rate limit reached for model' નો અર્થ શું છે?
તમારી સંસ્થાએ તે મોડેલ માટે એક મર્યાદાનો બધો ઉપયોગ કરી લીધો છે. સંદેશ મર્યાદાનું નામ (RPM, RPD, TPM અથવા TPD) અને રાહ જોવાનો સમય આપે છે.
Groq મફત ટાયરની rate limits શું છે?
તે મોડેલ પ્રમાણે અલગ છે. મફત પ્લાન પર, openai/gpt-oss-120b પ્રતિ મિનિટ 30 વિનંતી, પ્રતિ દિવસ 1,000, પ્રતિ મિનિટ 8,000 tokens અને પ્રતિ દિવસ 200,000 tokens આપે છે.
મને Groq ભૂલ 413 Request too large કેમ મળે છે?
એક વિનંતીમાં મોડેલની TPM મર્યાદા કરતાં વધુ tokens છે. પ્રોમ્પ્ટ ટૂંકો કરો અથવા ઊંચી TPM મર્યાદા ધરાવતું મોડેલ વાપરો. રાહ જોવાથી તે ઠીક થતું નથી.
શું નવી Groq API કી rate limit reset કરે છે?
ના. Groq મર્યાદા સંસ્થા પર લાગુ કરે છે, તેથી તેની બધી કી એ જ મર્યાદા વહેંચે છે.
મારી Groq rate limit કેવી રીતે વધારવી?
ચુકવણી પદ્ધતિ સાથે Developer tier પર અપગ્રેડ કરો. મફત રહેવા માટે, ગેટવે પાછળ બીજા પ્રદાતા ઉમેરો, જે Groq ભરાય ત્યારે failover કરે.
સંબંધિત માર્ગદર્શિકાઓ
- મફત LLM API rate limits
- free groq api
- Gemini API ક્વોટા વટાવાયો (429 RESOURCE_EXHAUSTED)
- NVIDIA NIM API rate limit
- Groq vs Cerebras
સ્રોતો
- GroqCloud: Rate limits (તપાસ્યું 20 November 2026)
- GroqCloud: Errors (તપાસ્યું 20 November 2026)
- GroqCloud: Billing FAQs (તપાસ્યું 20 November 2026)
- Public report of the Groq TPD message (Discourse) (તપાસ્યું 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (તપાસ્યું 20 November 2026)
- FreeLLMAPI docs: Response headers (તપાસ્યું 20 November 2026)