ہوم / گائیڈز / Groq کی rate limit پوری ہو گئی (429)

Groq کی rate limit پوری ہو گئی (429)

Groq تیز ہے، اس لیے مفت Groq کلید جلد اپنی حدوں تک پہنچتی ہے۔ جب ایسا ہوتا ہے، تو Groq HTTP 429 واپس کرتا ہے جس کے پیغام میں حد کا نام ہوتا ہے۔ یہ صفحہ پیغام، ہر ماڈل کی مفت حدیں، پڑھنے کے ہیڈرز، اور کام جاری رکھنے کا طریقہ بیان کرتا ہے۔

کوڈ، ماڈل کے نام اور براہِ راست کیٹلاگ کے لیبل انگریزی میں دکھائے جاتے ہیں۔

خرابی کا پیغام پڑھیں

Groq کے 429 پیغام میں ماڈل، تنظیم، سروس ٹائر، حد کی قسم اور انتظار کا وقت درج ہوتا ہے۔ یہ مثال ایک عوامی bug رپورٹ میں شائع ہوئی تھی:

429 باڈی کے متن کی مثال

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
پیغام میں حدکیا ختم ہواکیا کریں
فی منٹ درخواستیں (RPM)60 سیکنڈ میں بہت زیادہ درخواستیںچند سیکنڈ انتظار کریں اور دوبارہ کوشش کریں
فی منٹ tokens (TPM)60 سیکنڈ میں بہت زیادہ tokensانتظار کریں، یا چھوٹے prompts بھیجیں
فی دن درخواستیں (RPD)روزانہ درخواستوں کا کوٹہپیغام میں دیا گیا وقت انتظار کریں، یا دوسرا ماڈل استعمال کریں
فی دن tokens (TPD)روزانہ tokens کا کوٹہپیغام میں دیا گیا وقت انتظار کریں، یا دوسرا ماڈل استعمال کریں

ایک مختلف خرابی HTTP 413 ہے جس میں "Request too large" لکھا ہوتا ہے۔ اس کا مطلب ہے کہ ایک درخواست ماڈل کی TPM حد سے بڑی ہے۔ انتظار مدد نہیں کرتا۔ درخواست چھوٹی کریں، یا زیادہ TPM حد والا ماڈل استعمال کریں۔

Groq مفت پلان کی حدیں

Groq rate limits تنظیم پر لاگو کرتا ہے، ہر صارف یا کلید پر نہیں۔ یہ قدریں Groq کے rate limits صفحے کے Free Plan ٹیب سے ہیں۔ محفوظ شدہ (cached) tokens حدوں میں نہیں گنے جاتے۔

Groq مفت پلان کی حدیں، 20 نومبر 2026 کو جانچی گئیں
ماڈلRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Whisper ماڈلز کی آڈیو حدیں بھی ہیں: فی گھنٹہ 7,200 آڈیو سیکنڈ اور فی دن 28,800۔ نیچے کا جدول FreeLLMAPI کیٹلاگ کی Groq قطاریں دکھاتا ہے۔ اگر کیٹلاگ کی قدر اور Groq کے صفحے میں فرق ہو، تو Groq کا صفحہ مستند ہے۔

آج مفت کیٹلاگ میں Groq ماڈلز
ماڈلمفت دستیابسیاق و سباقمفت حدیں (بہترین پیشکش)ٹولزویژن
Qwen3.8 27BGroq262K30 درخواستیں فی منٹ
250 درخواستیں فی دن
70,000 ٹوکن فی منٹ
~6M
ہاںہاں
GPT-OSS 120BGroq131K30 درخواستیں فی منٹ
1,000 درخواستیں فی دن
8,000 ٹوکن فی منٹ
200,000 ٹوکن فی دن
~6M
ہاںنہیں
GPT-OSS 20BGroq131K30 درخواستیں فی منٹ
1,000 درخواستیں فی دن
8,000 ٹوکن فی منٹ
200,000 ٹوکن فی دن
~6M
ہاںنہیں
GPT-OSS Safeguard 20BGroq131K30 درخواستیں فی منٹ
1,000 درخواستیں فی دن
8,000 ٹوکن فی منٹ
200,000 ٹوکن فی دن
~6M
ہاںنہیں
ALLaM 2 7BGroq4K30 درخواستیں فی منٹ
1,000 درخواستیں فی دن
6,000 ٹوکن فی منٹ
500,000 ٹوکن فی دن
~15M
نہیںنہیں
Llama Prompt Guard 2 22MGroq51230 درخواستیں فی منٹ
14,400 درخواستیں فی دن
15,000 ٹوکن فی منٹ
14.4K rpd
نہیںنہیں
Llama Prompt Guard 2 86MGroq51230 درخواستیں فی منٹ
14,400 درخواستیں فی دن
15,000 ٹوکن فی منٹ
14.4K rpd
نہیںنہیں

FreeLLMAPI کیٹلاگ کا براہِ راست ڈیٹا (ورژن 2026.11.19، 2026-11-19 کو جانچا گیا)۔ مفت حدیں اکثر بدلتی ہیں۔ کیٹلاگ ہر روز جانچا جاتا ہے۔

rate limit ہیڈرز

ہر Groq ردعمل میں rate limit ہیڈرز ہوتے ہیں۔ 429 آنے سے پہلے رفتار کم کرنے کے لیے انہیں پڑھیں۔

ہیڈرکس سے متعلقمطلب
x-ratelimit-limit-requestsRPDفی دن اجازت یافتہ درخواستیں
x-ratelimit-remaining-requestsRPDآج باقی درخواستیں
x-ratelimit-reset-requestsRPDدرخواست کی حد دوبارہ شروع ہونے تک کا وقت، مثلاً 2m59.56s
x-ratelimit-limit-tokensTPMفی منٹ اجازت یافتہ tokens
x-ratelimit-remaining-tokensTPMاس منٹ میں باقی tokens
x-ratelimit-reset-tokensTPMtoken حد دوبارہ شروع ہونے تک کا وقت، مثلاً 7.66s
retry-afterکوئی بھیانتظار کے سیکنڈ۔ Groq یہ صرف حد پوری ہونے کے بعد مقرر کرتا ہے۔

ہیڈرز دیکھیں

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

درست طریقے سے دوبارہ کوشش کریں

جب Groq retry-after بھیجے تو اسے استعمال کریں۔ اگر یہ نہ ہو، تو ایک حد کے ساتھ exponential backoff استعمال کریں۔ روزانہ حدوں کو تنگ loop میں دوبارہ آزمائیں نہیں۔ ہر دوبارہ کوشش ایک نئی درخواست ہے۔

retry-after کے ساتھ دوبارہ کوشش (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • اگر پیغام میں RPD یا TPD ہو اور انتظار منٹوں کا ہو، تو کسی اور ماڈل یا فراہم کنندہ پر جائیں۔
  • Groq سے زیادہ حدیں لینے کے لیے Developer ٹائر پر اپ گریڈ کریں۔ اس کے لیے ادائیگی کا طریقہ درکار ہے۔
  • HTTP 498 ایک مختلف خرابی ہے۔ اس کا مطلب ہے کہ flex ٹائر اپنی گنجائش پر ہے۔

اپنے Groq بجٹ کی منصوبہ بندی کریں

حساب لگانے پر مفت حدیں چھوٹی ہیں۔ دیکھیں کہ آپ کے کام کے لیے کون سی حد سب سے پہلے روکتی ہے۔

  • درخواستیں: 30 درخواستیں فی منٹ پر، 1,000 درخواستیں فی دن تقریباً 34 منٹ کے مکمل رفتار استعمال تک چلتی ہیں۔
  • فی منٹ tokens: 8,000 TPM فی منٹ تقریباً چار درخواستیں، ہر ایک 2,000 tokens کی، کی اجازت دیتا ہے۔ 9,000 tokens کی ایک درخواست خرابی 413 دیتی ہے۔
  • فی دن tokens: 200,000 TPD تقریباً 25 درخواستیں، ہر ایک 8,000 tokens کی، ہے۔ coding ایجنٹس بڑے prompts بھیجتے ہیں، اس لیے TPD اکثر RPD سے پہلے ختم ہو جاتا ہے۔
  • تنظیم: تنظیم کی تمام کلیدیں اور تمام ارکان یہ اعداد بانٹتے ہیں۔

ایجنٹ کے کام کے لیے prompts مختصر اور واضح رکھیں، اور پرانا context بار بار صاف کریں۔ تیز، مختصر کالز کے لیے Groq استعمال کریں۔ طویل context کی کالز ایسے فراہم کنندگان کو بھیجیں جن کی token حد زیادہ ہو۔

جب Groq بھر جائے تو failover کریں

FreeLLMAPI ایک اوپن سورس gateway ہے جو آپ کے کمپیوٹر پر چلتا ہے۔ یہ ہر Groq ماڈل اور کلید کے لیے RPM، RPD، TPM اور TPD کاؤنٹرز رکھتا ہے۔ یہ ہر درخواست سے پہلے انہیں جانچتا ہے۔ جب Groq بھرا ہو، تو راؤٹر درخواست اگلے مفت فراہم کنندہ کو بھیجتا ہے۔

  • فی منٹ کی حد پر مختصر 429 کلید کو 90 سیکنڈ کے cooldown پر ڈال دیتا ہے۔
  • روزانہ حد پر 429 لمبا cooldown استعمال کرتا ہے، یا Groq کا retry وقت اگر وہ زیادہ ہو۔
  • جب Groq خرابی کا باڈی اصل حد بتاتا ہے، تو راؤٹر اسے محفوظ کر لیتا ہے۔ مثال کے طور پر Limit 30000, Requested 33476 والی 413 TPM حد کو 30,000 پر سیٹ کرتی ہے۔
  • X-Fallback-Trail ہیڈر ہر ناکام قدم دکھاتا ہے، مثلاً groq/llama-3.3-70b key1=rate_limited۔

Groq کے بجائے gateway کو کال کریں

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast ان ماڈلز کو ترجیح دیتا ہے جن کی ناپی گئی رفتار سب سے بہتر ہے۔ جب Groq اپنی حد پر ہو، تو دوسرے فراہم کنندگان جواب دیتے ہیں۔ وہ Groq سے سست ہو سکتے ہیں۔

ان سب کو ایک ہی کلید سے استعمال کریں۔ FreeLLMAPI ایک اوپن سورس، خود میزبانی والا راؤٹر ہے۔ یہ ان تمام مفت ٹائرز کو ایک ہی OpenAI سے ہم آہنگ اینڈ پوائنٹ کے پیچھے رکھتا ہے، اور جب کوئی ایک ریٹ لمٹ ہو جائے تو خودکار طور پر دوسرے پر منتقل ہو جاتا ہے۔ کیٹلاگ دیکھیں یا لائیو جائیں.

اکثر پوچھے گئے سوالات

Groq پر 'Rate limit reached for model' کا کیا مطلب ہے؟

آپ کی تنظیم نے اس ماڈل کی ایک حد پوری طرح استعمال کر لی ہے۔ پیغام حد کا نام (RPM، RPD، TPM یا TPD) اور انتظار کا وقت بتاتا ہے۔

Groq کے مفت ٹائر کی rate limits کیا ہیں؟

یہ ماڈل کے لحاظ سے مختلف ہیں۔ مفت پلان پر openai/gpt-oss-120b 30 درخواستیں فی منٹ، 1,000 فی دن، 8,000 tokens فی منٹ اور 200,000 tokens فی دن کی اجازت دیتا ہے۔

مجھے Groq خرابی 413 Request too large کیوں ملتی ہے؟

ایک درخواست میں ماڈل کی TPM حد سے زیادہ tokens ہیں۔ prompt چھوٹا کریں، یا زیادہ TPM حد والا ماڈل استعمال کریں۔ انتظار اسے ٹھیک نہیں کرتا۔

کیا نئی Groq API کلید rate limit ری سیٹ کرتی ہے؟

نہیں۔ Groq حدیں تنظیم پر لاگو کرتا ہے، اس لیے اس کی تمام کلیدیں ایک ہی حدیں بانٹتی ہیں۔

میں اپنی Groq rate limit کیسے بڑھاؤں؟

ادائیگی کے طریقے کے ساتھ Developer ٹائر پر اپ گریڈ کریں۔ مفت رہنے کے لیے، ایک gateway کے پیچھے دوسرے فراہم کنندگان شامل کریں جو Groq بھرنے پر failover کرے۔

متعلقہ گائیڈز

ماخذ

تمام گائیڈز · تمام مفت ماڈلز دیکھیں