Groq rate limit എത്തി (429)
Groq വേഗതയുള്ളതിനാൽ, സൗജന്യ Groq കീ വേഗത്തിൽ പരിധികളിലെത്തുന്നു. അത് സംഭവിക്കുമ്പോൾ, പരിധി പേരിടുന്ന ഒരു സന്ദേശത്തോടെ Groq HTTP 429 നൽകുന്നു. ഈ പേജ് ആ സന്ദേശം, ഓരോ മോഡലിന്റെയും സൗജന്യ പരിധികൾ, വായിക്കേണ്ട ഹെഡറുകൾ, പ്രവർത്തനം തുടരുന്നത് എങ്ങനെ എന്നിവ വിശദീകരിക്കുന്നു.
കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.
പിശക് സന്ദേശം വായിക്കുക
Groq-ന്റെ 429 സന്ദേശം മോഡൽ, organization, സേവന tier, പരിധിയുടെ തരം, കാത്തിരിപ്പ് സമയം എന്നിവ പേരിടുന്നു. ഈ ഉദാഹരണം ഒരു പൊതു bug റിപ്പോർട്ടിൽ പോസ്റ്റ് ചെയ്തതാണ്:
ഉദാഹരണ 429 body വാചകം
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| സന്ദേശത്തിലെ പരിധി | എന്താണ് തീർന്നത് | ചെയ്യേണ്ടത് |
|---|---|---|
| മിനിറ്റിലെ അഭ്യർത്ഥനകൾ (RPM) | 60 സെക്കൻഡിൽ വളരെയധികം അഭ്യർത്ഥനകൾ | കുറച്ച് സെക്കൻഡ് കാത്തിരുന്ന് വീണ്ടും ശ്രമിക്കുക |
| മിനിറ്റിലെ tokens (TPM) | 60 സെക്കൻഡിൽ വളരെയധികം tokens | കാത്തിരിക്കുക, അല്ലെങ്കിൽ ചെറിയ prompts അയയ്ക്കുക |
| പ്രതിദിന അഭ്യർത്ഥനകൾ (RPD) | പ്രതിദിന അഭ്യർത്ഥന ക്വോട്ട | സന്ദേശത്തിലെ സമയം കാത്തിരിക്കുക, അല്ലെങ്കിൽ മറ്റൊരു മോഡൽ ഉപയോഗിക്കുക |
| പ്രതിദിന tokens (TPD) | പ്രതിദിന token ക്വോട്ട | സന്ദേശത്തിലെ സമയം കാത്തിരിക്കുക, അല്ലെങ്കിൽ മറ്റൊരു മോഡൽ ഉപയോഗിക്കുക |
"Request too large" എന്ന സന്ദേശത്തോടെയുള്ള മറ്റൊരു പിശകാണ് HTTP 413. അതിനർത്ഥം ഒരൊറ്റ അഭ്യർത്ഥന മോഡലിന്റെ TPM പരിധിയേക്കാൾ വലുതാണ് എന്നാണ്. കാത്തിരിക്കുന്നത് സഹായിക്കില്ല. അഭ്യർത്ഥന ചെറുതാക്കുക, അല്ലെങ്കിൽ ഉയർന്ന TPM പരിധിയുള്ള ഒരു മോഡൽ ഉപയോഗിക്കുക.
Groq സൗജന്യ പ്ലാൻ പരിധികൾ
Groq rate limits പ്രയോഗിക്കുന്നത് organization-ന് ആണ്, ഓരോ ഉപയോക്താവിനോ കീയ്ക്കോ അല്ല. ഈ മൂല്യങ്ങൾ Groq-ന്റെ rate limits പേജിലെ Free Plan ടാബിൽ നിന്നുള്ളതാണ്. cache ചെയ്ത tokens പരിധികളിൽ കണക്കാക്കില്ല.
| മോഡൽ | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
Whisper മോഡലുകൾക്ക് audio പരിധികളുമുണ്ട്: മണിക്കൂറിൽ 7,200 audio സെക്കൻഡും പ്രതിദിനം 28,800 ഉം. താഴെയുള്ള പട്ടിക FreeLLMAPI catalog-ലെ Groq വരികൾ കാണിക്കുന്നു. catalog മൂല്യവും Groq-ന്റെ പേജും വ്യത്യസ്തമാണെങ്കിൽ, Groq-ന്റെ പേജാണ് അധികാരപ്പെട്ടത്.
| മോഡൽ | സൗജന്യമായി ലഭ്യം | കോൺടെക്സ്റ്റ് | സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ) | ടൂളുകൾ | ദൃശ്യ ശേഷി |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 അഭ്യർഥന/മിനിറ്റ് 250 അഭ്യർഥന/ദിവസം 70,000 ടോക്കൺ/മിനിറ്റ് ~6M | അതെ | അതെ |
| GPT-OSS 120B | Groq | 131K | 30 അഭ്യർഥന/മിനിറ്റ് 1,000 അഭ്യർഥന/ദിവസം 8,000 ടോക്കൺ/മിനിറ്റ് 200,000 ടോക്കൺ/ദിവസം ~6M | അതെ | ഇല്ല |
| GPT-OSS 20B | Groq | 131K | 30 അഭ്യർഥന/മിനിറ്റ് 1,000 അഭ്യർഥന/ദിവസം 8,000 ടോക്കൺ/മിനിറ്റ് 200,000 ടോക്കൺ/ദിവസം ~6M | അതെ | ഇല്ല |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 അഭ്യർഥന/മിനിറ്റ് 1,000 അഭ്യർഥന/ദിവസം 8,000 ടോക്കൺ/മിനിറ്റ് 200,000 ടോക്കൺ/ദിവസം ~6M | അതെ | ഇല്ല |
| ALLaM 2 7B | Groq | 4K | 30 അഭ്യർഥന/മിനിറ്റ് 1,000 അഭ്യർഥന/ദിവസം 6,000 ടോക്കൺ/മിനിറ്റ് 500,000 ടോക്കൺ/ദിവസം ~15M | ഇല്ല | ഇല്ല |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 അഭ്യർഥന/മിനിറ്റ് 14,400 അഭ്യർഥന/ദിവസം 15,000 ടോക്കൺ/മിനിറ്റ് 14.4K rpd | ഇല്ല | ഇല്ല |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 അഭ്യർഥന/മിനിറ്റ് 14,400 അഭ്യർഥന/ദിവസം 15,000 ടോക്കൺ/മിനിറ്റ് 14.4K rpd | ഇല്ല | ഇല്ല |
FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.
Rate limit ഹെഡറുകൾ
ഓരോ Groq പ്രതികരണത്തിലും rate limit ഹെഡറുകളുണ്ട്. 429 ലഭിക്കുന്നതിന് മുമ്പ് വേഗത കുറയ്ക്കാൻ അവ വായിക്കുക.
| ഹെഡർ | ബാധകം | അർത്ഥം |
|---|---|---|
x-ratelimit-limit-requests | RPD | ഒരു ദിവസം അനുവദനീയമായ അഭ്യർത്ഥനകൾ |
x-ratelimit-remaining-requests | RPD | ഇന്ന് ശേഷിക്കുന്ന അഭ്യർത്ഥനകൾ |
x-ratelimit-reset-requests | RPD | അഭ്യർത്ഥന പരിധി റീസെറ്റ് ആകുന്നതുവരെയുള്ള സമയം, ഉദാഹരണത്തിന് 2m59.56s |
x-ratelimit-limit-tokens | TPM | ഒരു മിനിറ്റിൽ അനുവദനീയമായ tokens |
x-ratelimit-remaining-tokens | TPM | ഈ മിനിറ്റിൽ ശേഷിക്കുന്ന tokens |
x-ratelimit-reset-tokens | TPM | token പരിധി റീസെറ്റ് ആകുന്നതുവരെയുള്ള സമയം, ഉദാഹരണത്തിന് 7.66s |
retry-after | ഏതെങ്കിലും | കാത്തിരിക്കേണ്ട സെക്കൻഡുകൾ. ഒരു പരിധി എത്തിയതിന് ശേഷം മാത്രമേ Groq ഇത് സജ്ജമാക്കൂ. |
ഹെഡറുകൾ കാണുക
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'ശരിയായി വീണ്ടും ശ്രമിക്കുക
Groq അയയ്ക്കുമ്പോൾ retry-after ഉപയോഗിക്കുക. അത് ഇല്ലെങ്കിൽ, ഒരു പരിധിയോടെ exponential backoff ഉപയോഗിക്കുക. പ്രതിദിന പരിധികൾ ഇറുകിയ ലൂപ്പിൽ വീണ്ടും ശ്രമിക്കരുത്. ഓരോ retry-ഉം ഒരു പുതിയ അഭ്യർത്ഥനയാണ്.
retry-after ഉപയോഗിച്ച് വീണ്ടും ശ്രമിക്കുക (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- സന്ദേശം RPD അല്ലെങ്കിൽ TPD പേരിടുകയും കാത്തിരിപ്പ് മിനിറ്റുകളാണെങ്കിൽ, മറ്റൊരു മോഡലിലേക്കോ provider-ലേക്കോ മാറുക.
- Groq-ൽ നിന്ന് ഉയർന്ന പരിധികൾ നേടാൻ, Developer tier-ലേക്ക് അപ്ഗ്രേഡ് ചെയ്യുക. അതിന് ഒരു പണമടയ്ക്കൽ രീതി ആവശ്യമാണ്.
- HTTP 498 മറ്റൊരു പിശകാണ്. flex tier ശേഷി നിറഞ്ഞിരിക്കുന്നു എന്നാണ് അതിനർത്ഥം.
നിങ്ങളുടെ Groq ബജറ്റ് ആസൂത്രണം ചെയ്യുക
കണക്ക് ചെയ്യുമ്പോൾ സൗജന്യ പരിധികൾ ചെറുതാണ്. നിങ്ങളുടെ ജോലിഭാരത്തിന് ഏത് പരിധിയാണ് ആദ്യം തടയുന്നതെന്ന് പരിശോധിക്കുക.
- അഭ്യർത്ഥനകൾ: മിനിറ്റിൽ 30 അഭ്യർത്ഥനകളിൽ, പ്രതിദിനം 1,000 അഭ്യർത്ഥനകൾ പൂർണ്ണ വേഗതയിലുള്ള ഉപയോഗത്തിൽ ഏകദേശം 34 മിനിറ്റ് നീണ്ടുനിൽക്കും.
- മിനിറ്റിലെ tokens: 8,000 TPM ഓരോ മിനിറ്റിലും ഏകദേശം നാല് അഭ്യർത്ഥനകൾ അനുവദിക്കുന്നു, ഓരോന്നിലും 2,000 tokens. 9,000 tokens ഉള്ള ഒരൊറ്റ അഭ്യർത്ഥന പിശക് 413 നൽകുന്നു.
- പ്രതിദിന tokens: 200,000 TPD എന്നത് 8,000 tokens വീതമുള്ള ഏകദേശം 25 അഭ്യർത്ഥനകളാണ്. coding ഏജന്റുകൾ വലിയ prompts അയയ്ക്കുന്നതിനാൽ, RPD-ക്ക് മുമ്പ് TPD പലപ്പോഴും തീരുന്നു.
- Organization: എല്ലാ കീകളും organization-ലെ എല്ലാ അംഗങ്ങളും ഈ സംഖ്യകൾ പങ്കിടുന്നു.
ഏജന്റ് ജോലികൾക്ക്, prompts ചെറുതും വ്യക്തവുമായി സൂക്ഷിക്കുക, പഴയ സന്ദർഭം പതിവായി ഒഴിവാക്കുക. വേഗതയുള്ള, ചെറിയ calls-ന് Groq ഉപയോഗിക്കുക. നീണ്ട സന്ദർഭമുള്ള calls ഉയർന്ന token പരിധിയുള്ള providers-ലേക്ക് അയയ്ക്കുക.
Groq നിറഞ്ഞാൽ failover ചെയ്യുക
FreeLLMAPI നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ പ്രവർത്തിക്കുന്ന ഒരു open-source gateway ആണ്. ഓരോ Groq മോഡലിനും കീയ്ക്കും RPM, RPD, TPM, TPD counters അത് സൂക്ഷിക്കുന്നു. ഓരോ അഭ്യർത്ഥനയ്ക്ക് മുമ്പും അത് അവ പരിശോധിക്കുന്നു. Groq നിറഞ്ഞിരിക്കുമ്പോൾ, router അഭ്യർത്ഥന അടുത്ത സൗജന്യ provider-ലേക്ക് അയയ്ക്കുന്നു.
- ഒരു മിനിറ്റ് പരിധിയിലെ ഒരു ചെറിയ 429, കീയെ 90 സെക്കൻഡ് cooldown-ൽ ഇടുന്നു.
- ഒരു പ്രതിദിന പരിധിയിലെ 429 നീണ്ട cooldown ഉപയോഗിക്കുന്നു, അല്ലെങ്കിൽ Groq-ന്റെ retry സമയം അതിനേക്കാൾ നീളമുണ്ടെങ്കിൽ അത്.
- Groq പിശക് body യഥാർത്ഥ പരിധി പറയുമ്പോൾ, router അത് സംരക്ഷിക്കുന്നു. ഉദാഹരണത്തിന്,
Limit 30000, Requested 33476ഉള്ള 413 TPM പരിധി 30,000 ആയി സജ്ജമാക്കുന്നു. X-Fallback-Trailഹെഡർ പരാജയപ്പെട്ട ഓരോ hop-ഉം കാണിക്കുന്നു, ഉദാഹരണത്തിന്groq/llama-3.3-70b key1=rate_limited.
Groq-ന് പകരം gateway വിളിക്കുക
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast ഏറ്റവും മികച്ച അളന്ന വേഗതയുള്ള മോഡലുകളെ മുൻഗണന നൽകുന്നു. Groq അതിന്റെ പരിധിയിലെത്തുമ്പോൾ, മറ്റ് providers ഉത്തരം നൽകുന്നു. അവ Groq-നേക്കാൾ മന്ദഗതിയിലായിരിക്കാം.
പതിവ് ചോദ്യങ്ങൾ
Groq-ൽ model-ന് 'Rate limit reached for model' എന്നതിന്റെ അർത്ഥമെന്ത്?
ആ മോഡലിന് നിങ്ങളുടെ organization ഒരു പരിധി മുഴുവൻ ഉപയോഗിച്ചു. സന്ദേശം പരിധി (RPM, RPD, TPM അല്ലെങ്കിൽ TPD) ഉം കാത്തിരിക്കേണ്ട സമയവും പേരിടുന്നു.
Groq സൗജന്യ tier-ന്റെ rate limits എന്തൊക്കെയാണ്?
അവ മോഡലിന് അനുസരിച്ച് വ്യത്യസ്തമാണ്. സൗജന്യ പ്ലാനിൽ, openai/gpt-oss-120b മിനിറ്റിൽ 30 അഭ്യർത്ഥനകളും പ്രതിദിനം 1,000 ഉം, മിനിറ്റിൽ 8,000 tokens ഉം പ്രതിദിനം 200,000 tokens ഉം അനുവദിക്കുന്നു.
എന്തുകൊണ്ടാണ് എനിക്ക് Groq പിശക് 413 Request too large ലഭിക്കുന്നത്?
ഒരൊറ്റ അഭ്യർത്ഥനയിൽ മോഡലിന്റെ TPM പരിധിയേക്കാൾ കൂടുതൽ tokens ഉണ്ട്. prompt ചെറുതാക്കുക, അല്ലെങ്കിൽ ഉയർന്ന TPM പരിധിയുള്ള ഒരു മോഡൽ ഉപയോഗിക്കുക. കാത്തിരിക്കുന്നത് ഇത് പരിഹരിക്കില്ല.
പുതിയ Groq API കീ rate limit റീസെറ്റ് ചെയ്യുമോ?
ഇല്ല. Groq പരിധികൾ organization-ന് പ്രയോഗിക്കുന്നു, അതിനാൽ അതിലെ എല്ലാ കീകളും ഒരേ പരിധികൾ പങ്കിടുന്നു.
എന്റെ Groq rate limit എങ്ങനെ ഉയർത്താം?
പണമടയ്ക്കൽ രീതിയോടെ Developer tier-ലേക്ക് അപ്ഗ്രേഡ് ചെയ്യുക. സൗജന്യമായി തുടരാൻ, Groq നിറയുമ്പോൾ failover ചെയ്യുന്ന ഒരു gateway-ക്ക് പിന്നിൽ മറ്റ് providers ചേർക്കുക.
അനുബന്ധ ഗൈഡുകൾ
- സൗജന്യ LLM API റേറ്റ് പരിധികൾ
- free groq api
- Gemini API ക്വോട്ട കവിഞ്ഞു (429 RESOURCE_EXHAUSTED)
- NVIDIA NIM API റേറ്റ് പരിധി
- Groq vs Cerebras
ഉറവിടങ്ങൾ
- GroqCloud: Rate limits (20 November 2026 ൽ പരിശോധിച്ചത്)
- GroqCloud: Errors (20 November 2026 ൽ പരിശോധിച്ചത്)
- GroqCloud: Billing FAQs (20 November 2026 ൽ പരിശോധിച്ചത്)
- Public report of the Groq TPD message (Discourse) (20 November 2026 ൽ പരിശോധിച്ചത്)
- FreeLLMAPI docs: Quota and cooldown engine (20 November 2026 ൽ പരിശോധിച്ചത്)
- FreeLLMAPI docs: Response headers (20 November 2026 ൽ പരിശോധിച്ചത്)