मुख्यपृष्ठ / मार्गदर्शक / Groq रेट लिमिट गाठली (429)

Groq रेट लिमिट गाठली (429)

Groq वेगवान आहे, त्यामुळे मोफत Groq की लवकर मर्यादेपर्यंत पोहोचते. असे झाल्यावर, Groq HTTP 429 परत करते, ज्या संदेशात मर्यादेचे नाव असते. हे पृष्ठ संदेश, प्रति मॉडेल मोफत मर्यादा, वाचायची हेडर आणि काम सुरू ठेवण्याचे मार्ग स्पष्ट करते.

कोड, मॉडेलची नावे आणि थेट कॅटलॉग लेबल इंग्रजीत दाखवले जातात.

त्रुटी संदेश वाचा

Groq च्या 429 संदेशात मॉडेल, संस्था, सेवा टियर, मर्यादेचा प्रकार आणि प्रतीक्षा वेळ यांची नावे असतात. हे उदाहरण सार्वजनिक बग रिपोर्टमध्ये पोस्ट केले होते:

429 मजकुराचे उदाहरण

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
संदेशातील मर्यादाकाय संपलेकाय करावे
प्रति मिनिट विनंत्या (RPM)60 सेकंदात खूप विनंत्याकाही सेकंद थांबा आणि पुन्हा प्रयत्न करा
प्रति मिनिट टोकन (TPM)60 सेकंदात खूप टोकनथांबा, किंवा लहान प्रॉम्प्ट पाठवा
प्रति दिवस विनंत्या (RPD)दैनिक विनंती कोटासंदेशातील वेळ थांबा, किंवा दुसरे मॉडेल वापरा
प्रति दिवस टोकन (TPD)दैनिक टोकन कोटासंदेशातील वेळ थांबा, किंवा दुसरे मॉडेल वापरा

वेगळी त्रुटी HTTP 413 आहे, तिच्यात "Request too large" असते. याचा अर्थ एक विनंती मॉडेलच्या TPM मर्यादेपेक्षा मोठी आहे. थांबल्याने मदत होत नाही. विनंती लहान करा, किंवा जास्त TPM मर्यादा असलेले मॉडेल वापरा.

Groq मोफत प्लॅनच्या मर्यादा

Groq रेट मर्यादा प्रत्येक वापरकर्ता किंवा की ला नव्हे, तर संस्थेला लागू करते. ही मूल्ये Groq च्या rate limits पृष्ठावरील Free Plan टॅबमधील आहेत. Cached टोकन मर्यादेत मोजले जात नाहीत.

Groq Free Plan मर्यादा, 20 नोव्हेंबर 2026 रोजी तपासल्या
मॉडेलRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Whisper मॉडेल्सवर ऑडिओ मर्यादा देखील आहेत: प्रति तास 7,200 ऑडिओ सेकंद आणि प्रति दिवस 28,800. खालील तक्त्यात FreeLLMAPI कॅटलॉगमधील Groq ओळी दाखवल्या आहेत. कॅटलॉग मूल्य आणि Groq चे पृष्ठ वेगळे असल्यास, Groq चे पृष्ठ अधिकृत आहे.

आज मोफत कॅटलॉगमधील Groq मॉडेल्स
मॉडेलमोफत उपलब्धसंदर्भमोफत मर्यादा (सर्वोत्तम ऑफर)साधनेव्हिजन
Qwen3.8 27BGroq262K30 विनंत्या/मिनिट
250 विनंत्या/दिवस
70,000 टोकन/मिनिट
~6M
होयहोय
GPT-OSS 120BGroq131K30 विनंत्या/मिनिट
1,000 विनंत्या/दिवस
8,000 टोकन/मिनिट
200,000 टोकन/दिवस
~6M
होयनाही
GPT-OSS 20BGroq131K30 विनंत्या/मिनिट
1,000 विनंत्या/दिवस
8,000 टोकन/मिनिट
200,000 टोकन/दिवस
~6M
होयनाही
GPT-OSS Safeguard 20BGroq131K30 विनंत्या/मिनिट
1,000 विनंत्या/दिवस
8,000 टोकन/मिनिट
200,000 टोकन/दिवस
~6M
होयनाही
ALLaM 2 7BGroq4K30 विनंत्या/मिनिट
1,000 विनंत्या/दिवस
6,000 टोकन/मिनिट
500,000 टोकन/दिवस
~15M
नाहीनाही
Llama Prompt Guard 2 22MGroq51230 विनंत्या/मिनिट
14,400 विनंत्या/दिवस
15,000 टोकन/मिनिट
14.4K rpd
नाहीनाही
Llama Prompt Guard 2 86MGroq51230 विनंत्या/मिनिट
14,400 विनंत्या/दिवस
15,000 टोकन/मिनिट
14.4K rpd
नाहीनाही

FreeLLMAPI कॅटलॉगमधील थेट डेटा (आवृत्ती 2026.11.19, तपासले 2026-11-19). मोफत मर्यादा वारंवार बदलतात. कॅटलॉग दररोज तपासले जाते.

रेट लिमिट हेडर

प्रत्येक Groq प्रतिसादात रेट लिमिट हेडर असतात. 429 मिळण्यापूर्वी वेग कमी करण्यासाठी ते वाचा.

हेडरकशाशी संबंधितअर्थ
x-ratelimit-limit-requestsRPDदररोज परवानगी असलेल्या विनंत्या
x-ratelimit-remaining-requestsRPDआज उरलेल्या विनंत्या
x-ratelimit-reset-requestsRPDविनंती मर्यादा रीसेट होईपर्यंतचा वेळ, उदाहरणार्थ 2m59.56s
x-ratelimit-limit-tokensTPMप्रति मिनिट परवानगी असलेले टोकन
x-ratelimit-remaining-tokensTPMया मिनिटात उरलेले टोकन
x-ratelimit-reset-tokensTPMटोकन मर्यादा रीसेट होईपर्यंतचा वेळ, उदाहरणार्थ 7.66s
retry-afterकोणताहीथांबण्याचे सेकंद. Groq ते फक्त तुम्ही मर्यादा गाठल्यानंतरच सेट करते.

हेडर पहा

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

योग्य प्रकारे पुन्हा प्रयत्न करा

Groq पाठवते तेव्हा retry-after वापरा. ते नसल्यास, मर्यादेसह exponential backoff वापरा. दैनिक मर्यादा घट्ट लूपमध्ये पुन्हा प्रयत्न करू नका. प्रत्येक retry ही नवीन विनंती आहे.

retry-after सह पुन्हा प्रयत्न करा (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • संदेशात RPD किंवा TPD असेल आणि प्रतीक्षा मिनिटांची असेल, तर दुसऱ्या मॉडेल किंवा प्रोव्हायडरकडे जा.
  • Groq कडून जास्त मर्यादा हव्या असल्यास, Developer टियरवर अपग्रेड करा. त्यासाठी पेमेंट पद्धत लागते.
  • HTTP 498 ही वेगळी त्रुटी आहे. याचा अर्थ flex टियर क्षमतेवर आहे.

तुमचे Groq बजेट आखा

हिशेब केल्यावर मोफत मर्यादा लहान वाटतात. तुमच्या कामासाठी प्रथम कोणती मर्यादा थांबवते ते तपासा.

  • विनंत्या: प्रति मिनिट 30 विनंत्यांवर, दिवसाला 1,000 विनंत्या पूर्ण वेगाने सुमारे 34 मिनिटे चालतात.
  • प्रति मिनिट टोकन: 8,000 TPM मध्ये प्रत्येकी 2,000 टोकनच्या सुमारे चार विनंत्या प्रति मिनिट बसतात. 9,000 टोकनची एक विनंती त्रुटी 413 देते.
  • प्रति दिवस टोकन: 200,000 TPD म्हणजे प्रत्येकी 8,000 टोकनच्या सुमारे 25 विनंत्या. कोडिंग एजंट मोठे प्रॉम्प्ट पाठवतात, त्यामुळे RPD आधी TPD अनेकदा संपते.
  • संस्था: सर्व की आणि संस्थेचे सर्व सदस्य हेच आकडे सामायिक करतात.

एजंट कामासाठी प्रॉम्प्ट लहान आणि स्पष्ट ठेवा, आणि जुना कॉन्टेक्स्ट वारंवार साफ करा. जलद, लहान कॉलसाठी Groq वापरा. लांब-कॉन्टेक्स्ट कॉल जास्त टोकन मर्यादा असलेल्या प्रोव्हायडरकडे पाठवा.

Groq भरलेले असताना failover करा

FreeLLMAPI हे तुमच्या संगणकावर चालणारे ओपन-सोर्स गेटवे आहे. ते प्रत्येक Groq मॉडेल आणि कीसाठी RPM, RPD, TPM आणि TPD काउंटर ठेवते. प्रत्येक विनंतीपूर्वी ते तपासते. Groq भरलेले असताना, राउटर विनंती पुढच्या मोफत प्रोव्हायडरकडे पाठवतो.

  • मिनिट मर्यादेवरील लहान 429 मुळे की 90 सेकंद कूलडाउनवर जाते.
  • दैनिक मर्यादेवरील 429 मोठा कूलडाउन वापरते, किंवा Groq ची retry वेळ जास्त असल्यास ती.
  • Groq त्रुटी बॉडी खरी मर्यादा सांगते तेव्हा, राउटर ती जतन करतो. उदाहरणार्थ, Limit 30000, Requested 33476 असलेली 413 TPM मर्यादा 30,000 वर सेट करते.
  • X-Fallback-Trail हेडर प्रत्येक अयशस्वी हॉप दाखवतो, उदाहरणार्थ groq/llama-3.3-70b key1=rate_limited.

Groq ऐवजी गेटवेला कॉल करा

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast सर्वोत्तम मोजलेला वेग असलेल्या मॉडेल्सना प्राधान्य देते. Groq त्याच्या मर्यादेवर असताना, इतर प्रोव्हायडर उत्तर देतात. ते Groq पेक्षा संथ असू शकतात.

या सर्व मॉडेलचा वापर एकाच कीद्वारे करा. FreeLLMAPI हा एक ओपन-सोर्स, स्वतः होस्ट केलेला राउटर आहे. तो हे सर्व मोफत टियर एका OpenAI-सुसंगत एंडपॉइंटमागे ठेवतो आणि एखादे मॉडेल मर्यादेत असताना दुसऱ्याकडे वळवतो. कॅटलॉग ब्राउझ करा किंवा थेट पहा.

वारंवार विचारले जाणारे प्रश्न

Groq वर 'Rate limit reached for model' चा अर्थ काय आहे?

त्या मॉडेलसाठी तुमच्या संस्थेने एका मर्यादेचा पूर्ण कोटा वापरला आहे. संदेश मर्यादेचे नाव (RPM, RPD, TPM किंवा TPD) आणि थांबण्याची वेळ सांगतो.

Groq मोफत टियर रेट मर्यादा किती आहेत?

त्या मॉडेलनुसार वेगळ्या आहेत. मोफत प्लॅनवर, openai/gpt-oss-120b प्रति मिनिट 30 विनंत्या, प्रति दिवस 1,000, प्रति मिनिट 8,000 टोकन आणि प्रति दिवस 200,000 टोकनला परवानगी देते.

मला Groq त्रुटी 413 Request too large का मिळते?

एका विनंतीत मॉडेलच्या TPM मर्यादेपेक्षा जास्त टोकन आहेत. प्रॉम्प्ट लहान करा, किंवा जास्त TPM मर्यादा असलेले मॉडेल वापरा. थांबल्याने ते दुरुस्त होत नाही.

नवीन Groq API की रेट मर्यादा रीसेट करते का?

नाही. Groq मर्यादा संस्थेला लागू करते, त्यामुळे त्यातील सर्व की समान मर्यादा सामायिक करतात.

मी माझी Groq रेट मर्यादा कशी वाढवू?

पेमेंट पद्धतीसह Developer टियरवर अपग्रेड करा. मोफत राहण्यासाठी, Groq भरलेले असताना failover करणाऱ्या गेटवेमागे इतर प्रोव्हायडर जोडा.

संबंधित मार्गदर्शक

स्रोत

सर्व मार्गदर्शक · सर्व मोफत मॉडेल पहा