Groq کی rate limit پوری ہو گئی (429)
Groq تیز ہے، اس لیے مفت Groq کلید جلد اپنی حدوں تک پہنچتی ہے۔ جب ایسا ہوتا ہے، تو Groq HTTP 429 واپس کرتا ہے جس کے پیغام میں حد کا نام ہوتا ہے۔ یہ صفحہ پیغام، ہر ماڈل کی مفت حدیں، پڑھنے کے ہیڈرز، اور کام جاری رکھنے کا طریقہ بیان کرتا ہے۔
کوڈ، ماڈل کے نام اور براہِ راست کیٹلاگ کے لیبل انگریزی میں دکھائے جاتے ہیں۔
خرابی کا پیغام پڑھیں
Groq کے 429 پیغام میں ماڈل، تنظیم، سروس ٹائر، حد کی قسم اور انتظار کا وقت درج ہوتا ہے۔ یہ مثال ایک عوامی bug رپورٹ میں شائع ہوئی تھی:
429 باڈی کے متن کی مثال
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| پیغام میں حد | کیا ختم ہوا | کیا کریں |
|---|---|---|
| فی منٹ درخواستیں (RPM) | 60 سیکنڈ میں بہت زیادہ درخواستیں | چند سیکنڈ انتظار کریں اور دوبارہ کوشش کریں |
| فی منٹ tokens (TPM) | 60 سیکنڈ میں بہت زیادہ tokens | انتظار کریں، یا چھوٹے prompts بھیجیں |
| فی دن درخواستیں (RPD) | روزانہ درخواستوں کا کوٹہ | پیغام میں دیا گیا وقت انتظار کریں، یا دوسرا ماڈل استعمال کریں |
| فی دن tokens (TPD) | روزانہ tokens کا کوٹہ | پیغام میں دیا گیا وقت انتظار کریں، یا دوسرا ماڈل استعمال کریں |
ایک مختلف خرابی HTTP 413 ہے جس میں "Request too large" لکھا ہوتا ہے۔ اس کا مطلب ہے کہ ایک درخواست ماڈل کی TPM حد سے بڑی ہے۔ انتظار مدد نہیں کرتا۔ درخواست چھوٹی کریں، یا زیادہ TPM حد والا ماڈل استعمال کریں۔
Groq مفت پلان کی حدیں
Groq rate limits تنظیم پر لاگو کرتا ہے، ہر صارف یا کلید پر نہیں۔ یہ قدریں Groq کے rate limits صفحے کے Free Plan ٹیب سے ہیں۔ محفوظ شدہ (cached) tokens حدوں میں نہیں گنے جاتے۔
| ماڈل | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
Whisper ماڈلز کی آڈیو حدیں بھی ہیں: فی گھنٹہ 7,200 آڈیو سیکنڈ اور فی دن 28,800۔ نیچے کا جدول FreeLLMAPI کیٹلاگ کی Groq قطاریں دکھاتا ہے۔ اگر کیٹلاگ کی قدر اور Groq کے صفحے میں فرق ہو، تو Groq کا صفحہ مستند ہے۔
| ماڈل | مفت دستیاب | سیاق و سباق | مفت حدیں (بہترین پیشکش) | ٹولز | ویژن |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 درخواستیں فی منٹ 250 درخواستیں فی دن 70,000 ٹوکن فی منٹ ~6M | ہاں | ہاں |
| GPT-OSS 120B | Groq | 131K | 30 درخواستیں فی منٹ 1,000 درخواستیں فی دن 8,000 ٹوکن فی منٹ 200,000 ٹوکن فی دن ~6M | ہاں | نہیں |
| GPT-OSS 20B | Groq | 131K | 30 درخواستیں فی منٹ 1,000 درخواستیں فی دن 8,000 ٹوکن فی منٹ 200,000 ٹوکن فی دن ~6M | ہاں | نہیں |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 درخواستیں فی منٹ 1,000 درخواستیں فی دن 8,000 ٹوکن فی منٹ 200,000 ٹوکن فی دن ~6M | ہاں | نہیں |
| ALLaM 2 7B | Groq | 4K | 30 درخواستیں فی منٹ 1,000 درخواستیں فی دن 6,000 ٹوکن فی منٹ 500,000 ٹوکن فی دن ~15M | نہیں | نہیں |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 درخواستیں فی منٹ 14,400 درخواستیں فی دن 15,000 ٹوکن فی منٹ 14.4K rpd | نہیں | نہیں |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 درخواستیں فی منٹ 14,400 درخواستیں فی دن 15,000 ٹوکن فی منٹ 14.4K rpd | نہیں | نہیں |
FreeLLMAPI کیٹلاگ کا براہِ راست ڈیٹا (ورژن 2026.11.19، 2026-11-19 کو جانچا گیا)۔ مفت حدیں اکثر بدلتی ہیں۔ کیٹلاگ ہر روز جانچا جاتا ہے۔
rate limit ہیڈرز
ہر Groq ردعمل میں rate limit ہیڈرز ہوتے ہیں۔ 429 آنے سے پہلے رفتار کم کرنے کے لیے انہیں پڑھیں۔
| ہیڈر | کس سے متعلق | مطلب |
|---|---|---|
x-ratelimit-limit-requests | RPD | فی دن اجازت یافتہ درخواستیں |
x-ratelimit-remaining-requests | RPD | آج باقی درخواستیں |
x-ratelimit-reset-requests | RPD | درخواست کی حد دوبارہ شروع ہونے تک کا وقت، مثلاً 2m59.56s |
x-ratelimit-limit-tokens | TPM | فی منٹ اجازت یافتہ tokens |
x-ratelimit-remaining-tokens | TPM | اس منٹ میں باقی tokens |
x-ratelimit-reset-tokens | TPM | token حد دوبارہ شروع ہونے تک کا وقت، مثلاً 7.66s |
retry-after | کوئی بھی | انتظار کے سیکنڈ۔ Groq یہ صرف حد پوری ہونے کے بعد مقرر کرتا ہے۔ |
ہیڈرز دیکھیں
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'درست طریقے سے دوبارہ کوشش کریں
جب Groq retry-after بھیجے تو اسے استعمال کریں۔ اگر یہ نہ ہو، تو ایک حد کے ساتھ exponential backoff استعمال کریں۔ روزانہ حدوں کو تنگ loop میں دوبارہ آزمائیں نہیں۔ ہر دوبارہ کوشش ایک نئی درخواست ہے۔
retry-after کے ساتھ دوبارہ کوشش (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- اگر پیغام میں RPD یا TPD ہو اور انتظار منٹوں کا ہو، تو کسی اور ماڈل یا فراہم کنندہ پر جائیں۔
- Groq سے زیادہ حدیں لینے کے لیے Developer ٹائر پر اپ گریڈ کریں۔ اس کے لیے ادائیگی کا طریقہ درکار ہے۔
- HTTP 498 ایک مختلف خرابی ہے۔ اس کا مطلب ہے کہ flex ٹائر اپنی گنجائش پر ہے۔
اپنے Groq بجٹ کی منصوبہ بندی کریں
حساب لگانے پر مفت حدیں چھوٹی ہیں۔ دیکھیں کہ آپ کے کام کے لیے کون سی حد سب سے پہلے روکتی ہے۔
- درخواستیں: 30 درخواستیں فی منٹ پر، 1,000 درخواستیں فی دن تقریباً 34 منٹ کے مکمل رفتار استعمال تک چلتی ہیں۔
- فی منٹ tokens: 8,000 TPM فی منٹ تقریباً چار درخواستیں، ہر ایک 2,000 tokens کی، کی اجازت دیتا ہے۔ 9,000 tokens کی ایک درخواست خرابی 413 دیتی ہے۔
- فی دن tokens: 200,000 TPD تقریباً 25 درخواستیں، ہر ایک 8,000 tokens کی، ہے۔ coding ایجنٹس بڑے prompts بھیجتے ہیں، اس لیے TPD اکثر RPD سے پہلے ختم ہو جاتا ہے۔
- تنظیم: تنظیم کی تمام کلیدیں اور تمام ارکان یہ اعداد بانٹتے ہیں۔
ایجنٹ کے کام کے لیے prompts مختصر اور واضح رکھیں، اور پرانا context بار بار صاف کریں۔ تیز، مختصر کالز کے لیے Groq استعمال کریں۔ طویل context کی کالز ایسے فراہم کنندگان کو بھیجیں جن کی token حد زیادہ ہو۔
جب Groq بھر جائے تو failover کریں
FreeLLMAPI ایک اوپن سورس gateway ہے جو آپ کے کمپیوٹر پر چلتا ہے۔ یہ ہر Groq ماڈل اور کلید کے لیے RPM، RPD، TPM اور TPD کاؤنٹرز رکھتا ہے۔ یہ ہر درخواست سے پہلے انہیں جانچتا ہے۔ جب Groq بھرا ہو، تو راؤٹر درخواست اگلے مفت فراہم کنندہ کو بھیجتا ہے۔
- فی منٹ کی حد پر مختصر 429 کلید کو 90 سیکنڈ کے cooldown پر ڈال دیتا ہے۔
- روزانہ حد پر 429 لمبا cooldown استعمال کرتا ہے، یا Groq کا retry وقت اگر وہ زیادہ ہو۔
- جب Groq خرابی کا باڈی اصل حد بتاتا ہے، تو راؤٹر اسے محفوظ کر لیتا ہے۔ مثال کے طور پر
Limit 30000, Requested 33476والی 413 TPM حد کو 30,000 پر سیٹ کرتی ہے۔ X-Fallback-Trailہیڈر ہر ناکام قدم دکھاتا ہے، مثلاًgroq/llama-3.3-70b key1=rate_limited۔
Groq کے بجائے gateway کو کال کریں
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast ان ماڈلز کو ترجیح دیتا ہے جن کی ناپی گئی رفتار سب سے بہتر ہے۔ جب Groq اپنی حد پر ہو، تو دوسرے فراہم کنندگان جواب دیتے ہیں۔ وہ Groq سے سست ہو سکتے ہیں۔
اکثر پوچھے گئے سوالات
Groq پر 'Rate limit reached for model' کا کیا مطلب ہے؟
آپ کی تنظیم نے اس ماڈل کی ایک حد پوری طرح استعمال کر لی ہے۔ پیغام حد کا نام (RPM، RPD، TPM یا TPD) اور انتظار کا وقت بتاتا ہے۔
Groq کے مفت ٹائر کی rate limits کیا ہیں؟
یہ ماڈل کے لحاظ سے مختلف ہیں۔ مفت پلان پر openai/gpt-oss-120b 30 درخواستیں فی منٹ، 1,000 فی دن، 8,000 tokens فی منٹ اور 200,000 tokens فی دن کی اجازت دیتا ہے۔
مجھے Groq خرابی 413 Request too large کیوں ملتی ہے؟
ایک درخواست میں ماڈل کی TPM حد سے زیادہ tokens ہیں۔ prompt چھوٹا کریں، یا زیادہ TPM حد والا ماڈل استعمال کریں۔ انتظار اسے ٹھیک نہیں کرتا۔
کیا نئی Groq API کلید rate limit ری سیٹ کرتی ہے؟
نہیں۔ Groq حدیں تنظیم پر لاگو کرتا ہے، اس لیے اس کی تمام کلیدیں ایک ہی حدیں بانٹتی ہیں۔
میں اپنی Groq rate limit کیسے بڑھاؤں؟
ادائیگی کے طریقے کے ساتھ Developer ٹائر پر اپ گریڈ کریں۔ مفت رہنے کے لیے، ایک gateway کے پیچھے دوسرے فراہم کنندگان شامل کریں جو Groq بھرنے پر failover کرے۔
متعلقہ گائیڈز
- مفت LLM API ریٹ حدیں
- free groq api
- Gemini API کا کوٹہ ختم (429 RESOURCE_EXHAUSTED)
- NVIDIA NIM API ریٹ حد
- Groq بمقابلہ Cerebras
ماخذ
- GroqCloud: Rate limits (20 November 2026 کو جانچا گیا)
- GroqCloud: Errors (20 November 2026 کو جانچا گیا)
- GroqCloud: Billing FAQs (20 November 2026 کو جانچا گیا)
- Public report of the Groq TPD message (Discourse) (20 November 2026 کو جانچا گیا)
- FreeLLMAPI docs: Quota and cooldown engine (20 November 2026 کو جانچا گیا)
- FreeLLMAPI docs: Response headers (20 November 2026 کو جانچا گیا)