Groq रेट लिमिट गाठली (429)
Groq वेगवान आहे, त्यामुळे मोफत Groq की लवकर मर्यादेपर्यंत पोहोचते. असे झाल्यावर, Groq HTTP 429 परत करते, ज्या संदेशात मर्यादेचे नाव असते. हे पृष्ठ संदेश, प्रति मॉडेल मोफत मर्यादा, वाचायची हेडर आणि काम सुरू ठेवण्याचे मार्ग स्पष्ट करते.
कोड, मॉडेलची नावे आणि थेट कॅटलॉग लेबल इंग्रजीत दाखवले जातात.
त्रुटी संदेश वाचा
Groq च्या 429 संदेशात मॉडेल, संस्था, सेवा टियर, मर्यादेचा प्रकार आणि प्रतीक्षा वेळ यांची नावे असतात. हे उदाहरण सार्वजनिक बग रिपोर्टमध्ये पोस्ट केले होते:
429 मजकुराचे उदाहरण
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| संदेशातील मर्यादा | काय संपले | काय करावे |
|---|---|---|
| प्रति मिनिट विनंत्या (RPM) | 60 सेकंदात खूप विनंत्या | काही सेकंद थांबा आणि पुन्हा प्रयत्न करा |
| प्रति मिनिट टोकन (TPM) | 60 सेकंदात खूप टोकन | थांबा, किंवा लहान प्रॉम्प्ट पाठवा |
| प्रति दिवस विनंत्या (RPD) | दैनिक विनंती कोटा | संदेशातील वेळ थांबा, किंवा दुसरे मॉडेल वापरा |
| प्रति दिवस टोकन (TPD) | दैनिक टोकन कोटा | संदेशातील वेळ थांबा, किंवा दुसरे मॉडेल वापरा |
वेगळी त्रुटी HTTP 413 आहे, तिच्यात "Request too large" असते. याचा अर्थ एक विनंती मॉडेलच्या TPM मर्यादेपेक्षा मोठी आहे. थांबल्याने मदत होत नाही. विनंती लहान करा, किंवा जास्त TPM मर्यादा असलेले मॉडेल वापरा.
Groq मोफत प्लॅनच्या मर्यादा
Groq रेट मर्यादा प्रत्येक वापरकर्ता किंवा की ला नव्हे, तर संस्थेला लागू करते. ही मूल्ये Groq च्या rate limits पृष्ठावरील Free Plan टॅबमधील आहेत. Cached टोकन मर्यादेत मोजले जात नाहीत.
| मॉडेल | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
Whisper मॉडेल्सवर ऑडिओ मर्यादा देखील आहेत: प्रति तास 7,200 ऑडिओ सेकंद आणि प्रति दिवस 28,800. खालील तक्त्यात FreeLLMAPI कॅटलॉगमधील Groq ओळी दाखवल्या आहेत. कॅटलॉग मूल्य आणि Groq चे पृष्ठ वेगळे असल्यास, Groq चे पृष्ठ अधिकृत आहे.
| मॉडेल | मोफत उपलब्ध | संदर्भ | मोफत मर्यादा (सर्वोत्तम ऑफर) | साधने | व्हिजन |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 विनंत्या/मिनिट 250 विनंत्या/दिवस 70,000 टोकन/मिनिट ~6M | होय | होय |
| GPT-OSS 120B | Groq | 131K | 30 विनंत्या/मिनिट 1,000 विनंत्या/दिवस 8,000 टोकन/मिनिट 200,000 टोकन/दिवस ~6M | होय | नाही |
| GPT-OSS 20B | Groq | 131K | 30 विनंत्या/मिनिट 1,000 विनंत्या/दिवस 8,000 टोकन/मिनिट 200,000 टोकन/दिवस ~6M | होय | नाही |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 विनंत्या/मिनिट 1,000 विनंत्या/दिवस 8,000 टोकन/मिनिट 200,000 टोकन/दिवस ~6M | होय | नाही |
| ALLaM 2 7B | Groq | 4K | 30 विनंत्या/मिनिट 1,000 विनंत्या/दिवस 6,000 टोकन/मिनिट 500,000 टोकन/दिवस ~15M | नाही | नाही |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 विनंत्या/मिनिट 14,400 विनंत्या/दिवस 15,000 टोकन/मिनिट 14.4K rpd | नाही | नाही |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 विनंत्या/मिनिट 14,400 विनंत्या/दिवस 15,000 टोकन/मिनिट 14.4K rpd | नाही | नाही |
FreeLLMAPI कॅटलॉगमधील थेट डेटा (आवृत्ती 2026.11.19, तपासले 2026-11-19). मोफत मर्यादा वारंवार बदलतात. कॅटलॉग दररोज तपासले जाते.
रेट लिमिट हेडर
प्रत्येक Groq प्रतिसादात रेट लिमिट हेडर असतात. 429 मिळण्यापूर्वी वेग कमी करण्यासाठी ते वाचा.
| हेडर | कशाशी संबंधित | अर्थ |
|---|---|---|
x-ratelimit-limit-requests | RPD | दररोज परवानगी असलेल्या विनंत्या |
x-ratelimit-remaining-requests | RPD | आज उरलेल्या विनंत्या |
x-ratelimit-reset-requests | RPD | विनंती मर्यादा रीसेट होईपर्यंतचा वेळ, उदाहरणार्थ 2m59.56s |
x-ratelimit-limit-tokens | TPM | प्रति मिनिट परवानगी असलेले टोकन |
x-ratelimit-remaining-tokens | TPM | या मिनिटात उरलेले टोकन |
x-ratelimit-reset-tokens | TPM | टोकन मर्यादा रीसेट होईपर्यंतचा वेळ, उदाहरणार्थ 7.66s |
retry-after | कोणताही | थांबण्याचे सेकंद. Groq ते फक्त तुम्ही मर्यादा गाठल्यानंतरच सेट करते. |
हेडर पहा
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'योग्य प्रकारे पुन्हा प्रयत्न करा
Groq पाठवते तेव्हा retry-after वापरा. ते नसल्यास, मर्यादेसह exponential backoff वापरा. दैनिक मर्यादा घट्ट लूपमध्ये पुन्हा प्रयत्न करू नका. प्रत्येक retry ही नवीन विनंती आहे.
retry-after सह पुन्हा प्रयत्न करा (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- संदेशात RPD किंवा TPD असेल आणि प्रतीक्षा मिनिटांची असेल, तर दुसऱ्या मॉडेल किंवा प्रोव्हायडरकडे जा.
- Groq कडून जास्त मर्यादा हव्या असल्यास, Developer टियरवर अपग्रेड करा. त्यासाठी पेमेंट पद्धत लागते.
- HTTP 498 ही वेगळी त्रुटी आहे. याचा अर्थ flex टियर क्षमतेवर आहे.
तुमचे Groq बजेट आखा
हिशेब केल्यावर मोफत मर्यादा लहान वाटतात. तुमच्या कामासाठी प्रथम कोणती मर्यादा थांबवते ते तपासा.
- विनंत्या: प्रति मिनिट 30 विनंत्यांवर, दिवसाला 1,000 विनंत्या पूर्ण वेगाने सुमारे 34 मिनिटे चालतात.
- प्रति मिनिट टोकन: 8,000 TPM मध्ये प्रत्येकी 2,000 टोकनच्या सुमारे चार विनंत्या प्रति मिनिट बसतात. 9,000 टोकनची एक विनंती त्रुटी 413 देते.
- प्रति दिवस टोकन: 200,000 TPD म्हणजे प्रत्येकी 8,000 टोकनच्या सुमारे 25 विनंत्या. कोडिंग एजंट मोठे प्रॉम्प्ट पाठवतात, त्यामुळे RPD आधी TPD अनेकदा संपते.
- संस्था: सर्व की आणि संस्थेचे सर्व सदस्य हेच आकडे सामायिक करतात.
एजंट कामासाठी प्रॉम्प्ट लहान आणि स्पष्ट ठेवा, आणि जुना कॉन्टेक्स्ट वारंवार साफ करा. जलद, लहान कॉलसाठी Groq वापरा. लांब-कॉन्टेक्स्ट कॉल जास्त टोकन मर्यादा असलेल्या प्रोव्हायडरकडे पाठवा.
Groq भरलेले असताना failover करा
FreeLLMAPI हे तुमच्या संगणकावर चालणारे ओपन-सोर्स गेटवे आहे. ते प्रत्येक Groq मॉडेल आणि कीसाठी RPM, RPD, TPM आणि TPD काउंटर ठेवते. प्रत्येक विनंतीपूर्वी ते तपासते. Groq भरलेले असताना, राउटर विनंती पुढच्या मोफत प्रोव्हायडरकडे पाठवतो.
- मिनिट मर्यादेवरील लहान 429 मुळे की 90 सेकंद कूलडाउनवर जाते.
- दैनिक मर्यादेवरील 429 मोठा कूलडाउन वापरते, किंवा Groq ची retry वेळ जास्त असल्यास ती.
- Groq त्रुटी बॉडी खरी मर्यादा सांगते तेव्हा, राउटर ती जतन करतो. उदाहरणार्थ,
Limit 30000, Requested 33476असलेली 413 TPM मर्यादा 30,000 वर सेट करते. X-Fallback-Trailहेडर प्रत्येक अयशस्वी हॉप दाखवतो, उदाहरणार्थgroq/llama-3.3-70b key1=rate_limited.
Groq ऐवजी गेटवेला कॉल करा
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast सर्वोत्तम मोजलेला वेग असलेल्या मॉडेल्सना प्राधान्य देते. Groq त्याच्या मर्यादेवर असताना, इतर प्रोव्हायडर उत्तर देतात. ते Groq पेक्षा संथ असू शकतात.
वारंवार विचारले जाणारे प्रश्न
Groq वर 'Rate limit reached for model' चा अर्थ काय आहे?
त्या मॉडेलसाठी तुमच्या संस्थेने एका मर्यादेचा पूर्ण कोटा वापरला आहे. संदेश मर्यादेचे नाव (RPM, RPD, TPM किंवा TPD) आणि थांबण्याची वेळ सांगतो.
Groq मोफत टियर रेट मर्यादा किती आहेत?
त्या मॉडेलनुसार वेगळ्या आहेत. मोफत प्लॅनवर, openai/gpt-oss-120b प्रति मिनिट 30 विनंत्या, प्रति दिवस 1,000, प्रति मिनिट 8,000 टोकन आणि प्रति दिवस 200,000 टोकनला परवानगी देते.
मला Groq त्रुटी 413 Request too large का मिळते?
एका विनंतीत मॉडेलच्या TPM मर्यादेपेक्षा जास्त टोकन आहेत. प्रॉम्प्ट लहान करा, किंवा जास्त TPM मर्यादा असलेले मॉडेल वापरा. थांबल्याने ते दुरुस्त होत नाही.
नवीन Groq API की रेट मर्यादा रीसेट करते का?
नाही. Groq मर्यादा संस्थेला लागू करते, त्यामुळे त्यातील सर्व की समान मर्यादा सामायिक करतात.
मी माझी Groq रेट मर्यादा कशी वाढवू?
पेमेंट पद्धतीसह Developer टियरवर अपग्रेड करा. मोफत राहण्यासाठी, Groq भरलेले असताना failover करणाऱ्या गेटवेमागे इतर प्रोव्हायडर जोडा.
संबंधित मार्गदर्शक
- मोफत LLM API रेट मर्यादा
- free groq api
- Gemini API कोटा ओलांडला (429 RESOURCE_EXHAUSTED)
- NVIDIA NIM API रेट मर्यादा
- Groq vs Cerebras
स्रोत
- GroqCloud: Rate limits (तपासले 20 November 2026)
- GroqCloud: Errors (तपासले 20 November 2026)
- GroqCloud: Billing FAQs (तपासले 20 November 2026)
- Public report of the Groq TPD message (Discourse) (तपासले 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (तपासले 20 November 2026)
- FreeLLMAPI docs: Response headers (तपासले 20 November 2026)