محدودیت نرخ Groq رسیده است (429)
Groq سریع است، پس یک کلید رایگان Groq سریع به محدودیتهایش میرسد. وقتی این اتفاق میافتد، Groq پاسخ HTTP 429 با پیامی برمیگرداند که محدودیت را نام میبرد. این صفحه پیام، محدودیتهای رایگان برای هر مدل، هدرهایی که باید بخوانید و روش ادامه دادن کار را توضیح میدهد.
کد، نام مدلها و برچسبهای زندهٔ کاتالوگ به زبان انگلیسی نمایش داده میشوند.
پیام خطا را بخوانید
پیام 429 در Groq نام مدل، سازمان، سطح سرویس، نوع محدودیت و مدت انتظار را نام میبرد. این مثال در یک گزارش عمومی باگ ارسال شده است:
نمونه متن بدنه 429
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| محدودیت در پیام | چه چیزی تمام شد | چه کنید |
|---|---|---|
| درخواست در دقیقه (RPM) | درخواستهای زیاد در 60 ثانیه | چند ثانیه صبر کنید و دوباره تلاش کنید |
| توکن در دقیقه (TPM) | توکنهای زیاد در 60 ثانیه | صبر کنید، یا پرامپتهای کوتاهتر بفرستید |
| درخواست در روز (RPD) | سهمیه روزانه درخواست | زمان ذکرشده در پیام را صبر کنید، یا از مدل دیگری استفاده کنید |
| توکن در روز (TPD) | سهمیه روزانه توکن | زمان ذکرشده در پیام را صبر کنید، یا از مدل دیگری استفاده کنید |
خطای دیگری با HTTP 413 و «Request too large» رخ میدهد. این یعنی یک درخواست از محدودیت TPM مدل بزرگتر است. صبر کردن کمکی نمیکند. درخواست را کوچکتر کنید، یا از مدلی با محدودیت TPM بالاتر استفاده کنید.
محدودیتهای طرح رایگان Groq
Groq محدودیت نرخ را برای سازمان اعمال میکند، نه برای هر کاربر یا کلید. این مقادیر از زبانه Free Plan صفحه محدودیتهای نرخ Groq هستند. توکنهای کششده در محدودیتها شمرده نمیشوند.
| مدل | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
مدلهای Whisper هم محدودیت صوتی دارند: 7,200 ثانیه صدا در ساعت و 28,800 در روز. جدول زیر ردیفهای Groq را در کاتالوگ FreeLLMAPI نشان میدهد. اگر مقدار کاتالوگ با صفحه Groq فرق داشت، صفحه Groq مرجع است.
| مدل | رایگان در | متن ورودی | محدودیتهای رایگان (بهترین پیشنهاد) | ابزارها | بینایی |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 درخواست در دقیقه 250 درخواست در روز 70,000 توکن در دقیقه ~6M | بله | بله |
| GPT-OSS 120B | Groq | 131K | 30 درخواست در دقیقه 1,000 درخواست در روز 8,000 توکن در دقیقه 200,000 توکن در روز ~6M | بله | خیر |
| GPT-OSS 20B | Groq | 131K | 30 درخواست در دقیقه 1,000 درخواست در روز 8,000 توکن در دقیقه 200,000 توکن در روز ~6M | بله | خیر |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 درخواست در دقیقه 1,000 درخواست در روز 8,000 توکن در دقیقه 200,000 توکن در روز ~6M | بله | خیر |
| ALLaM 2 7B | Groq | 4K | 30 درخواست در دقیقه 1,000 درخواست در روز 6,000 توکن در دقیقه 500,000 توکن در روز ~15M | خیر | خیر |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 درخواست در دقیقه 14,400 درخواست در روز 15,000 توکن در دقیقه 14.4K rpd | خیر | خیر |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 درخواست در دقیقه 14,400 درخواست در روز 15,000 توکن در دقیقه 14.4K rpd | خیر | خیر |
دادههای زنده از کاتالوگ FreeLLMAPI (نسخه 2026.11.19، بررسیشده در 2026-11-19). محدودیتهای رایگان اغلب تغییر میکنند. کاتالوگ هر روز بررسی میشود.
هدرهای محدودیت نرخ
هر پاسخ Groq هدرهای محدودیت نرخ دارد. آنها را بخوانید تا پیش از دریافت 429 سرعت خود را کم کنید.
| هدر | مربوط به | معنی |
|---|---|---|
x-ratelimit-limit-requests | RPD | درخواستهای مجاز در روز |
x-ratelimit-remaining-requests | RPD | درخواستهای باقیمانده امروز |
x-ratelimit-reset-requests | RPD | مدت تا بازنشانی محدودیت درخواست، مثلاً 2m59.56s |
x-ratelimit-limit-tokens | TPM | توکنهای مجاز در دقیقه |
x-ratelimit-remaining-tokens | TPM | توکنهای باقیمانده در این دقیقه |
x-ratelimit-reset-tokens | TPM | مدت تا بازنشانی محدودیت توکن، مثلاً 7.66s |
retry-after | هر کدام | ثانیههایی که باید صبر کنید. Groq فقط بعد از رسیدن به یک محدودیت آن را تنظیم میکند. |
دیدن هدرها
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'تلاش مجدد درست
وقتی Groq آن را میفرستد، از retry-after استفاده کنید. اگر نبود، از backoff نمایی با سقف استفاده کنید. محدودیتهای روزانه را در یک حلقه تنگ دوباره امتحان نکنید. هر تلاش مجدد یک درخواست جدید است.
تلاش مجدد با retry-after (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- اگر پیام به RPD یا TPD اشاره کند و مدت انتظار چند دقیقه باشد، به مدل یا ارائهدهنده دیگری بروید.
- برای گرفتن محدودیتهای بالاتر از Groq، به سطح Developer ارتقا دهید. این سطح روش پرداخت میخواهد.
- HTTP 498 خطای دیگری است. یعنی سطح flex به ظرفیت خود رسیده است.
بودجه Groq خود را برنامهریزی کنید
وقتی حساب کنید، محدودیتهای رایگان کوچکاند. برای کار خودتان، بررسی کنید کدام محدودیت زودتر شما را متوقف میکند.
- درخواستها: با 30 درخواست در دقیقه، 1,000 درخواست در روز حدود 34 دقیقه استفاده با سرعت کامل دوام میآورد.
- توکن در دقیقه: 8,000 TPM حدود چهار درخواست 2,000 توکنی در هر دقیقه را مجاز میکند. یک درخواست 9,000 توکنی خطای 413 میگیرد.
- توکن در روز: 200,000 TPD حدود 25 درخواست 8,000 توکنی است. عاملهای کدنویسی پرامپتهای بزرگ میفرستند، پس TPD اغلب زودتر از RPD تمام میشود.
- سازمان: همه کلیدها و همه اعضای سازمان این عددها را با هم مصرف میکنند.
برای کار با عامل، پرامپتها را کوتاه و روشن نگه دارید و زمینه قدیمی را اغلب پاک کنید. از Groq برای فراخوانیهای سریع و کوتاه استفاده کنید. فراخوانیهای با زمینه بلند را به ارائهدهندگانی بفرستید که سقف توکن بالاتری دارند.
وقتی Groq پر است، جایگزینی کنید
FreeLLMAPI یک درگاه متنباز است که روی رایانه شما اجرا میشود. شمارندههای RPM، RPD، TPM و TPD را برای هر مدل و کلید Groq نگه میدارد. پیش از هر درخواست آنها را بررسی میکند. وقتی Groq پر است، مسیریاب درخواست را به ارائهدهنده رایگان بعدی میفرستد.
- یک 429 کوتاه روی محدودیت دقیقهای، کلید را به مدت 90 ثانیه در دوره استراحت قرار میدهد.
- یک 429 روی محدودیت روزانه، دوره استراحت طولانیتری میگیرد، یا زمان تلاش مجدد Groq اگر طولانیتر باشد.
- وقتی بدنه خطای Groq محدودیت واقعی را بیان کند، مسیریاب آن را ذخیره میکند. مثلاً یک 413 با
Limit 30000, Requested 33476محدودیت TPM را روی 30,000 میگذارد. - هدر
X-Fallback-Trailهر مرحله ناموفق را نشان میدهد، مثلاًgroq/llama-3.3-70b key1=rate_limited.
به جای Groq، درگاه را فراخوانی کنید
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast مدلهایی را ترجیح میدهد که بهترین سرعت اندازهگیریشده را دارند. وقتی Groq به محدودیتش رسیده، ارائهدهندگان دیگر پاسخ میدهند. آنها ممکن است کندتر از Groq باشند.
پرسشهای متداول
معنی 'Rate limit reached for model' در Groq چیست؟
سازمان شما تمام یک محدودیت را برای آن مدل مصرف کرده است. پیام محدودیت (RPM، RPD، TPM یا TPD) و مدت انتظار را نام میبرد.
محدودیتهای نرخ طرح رایگان Groq چیست؟
این مقادیر بسته به مدل فرق دارند. در طرح رایگان، openai/gpt-oss-120b امکان 30 درخواست در دقیقه، 1,000 در روز، 8,000 توکن در دقیقه و 200,000 توکن در روز را میدهد.
چرا خطای 413 از Groq با پیام «Request too large» میگیرم؟
یک درخواست توکن بیشتری از محدودیت TPM مدل دارد. پرامپت را کوتاهتر کنید، یا از مدلی با محدودیت TPM بالاتر استفاده کنید. صبر کردن این مشکل را حل نمیکند.
آیا یک کلید جدید Groq API محدودیت نرخ را بازنشانی میکند؟
خیر. Groq محدودیتها را برای سازمان اعمال میکند، پس همه کلیدهای داخل آن محدودیتهای یکسان را مصرف میکنند.
چطور محدودیت نرخ Groq خود را بالا ببرم؟
به سطح Developer با روش پرداخت ارتقا دهید. برای ماندن در حالت رایگان، ارائهدهندگان دیگر را پشت یک درگاه اضافه کنید که وقتی Groq پر است جایگزینی کند.
راهنماهای مرتبط
- محدودیت نرخ API رایگان LLM
- free groq api
- عبور از سهمیه Gemini API (429 RESOURCE_EXHAUSTED)
- محدودیت نرخ NVIDIA NIM API
- Groq در برابر Cerebras
منابع
- GroqCloud: Rate limits (بررسیشده در 20 November 2026)
- GroqCloud: Errors (بررسیشده در 20 November 2026)
- GroqCloud: Billing FAQs (بررسیشده در 20 November 2026)
- Public report of the Groq TPD message (Discourse) (بررسیشده در 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (بررسیشده در 20 November 2026)
- FreeLLMAPI docs: Response headers (بررسیشده در 20 November 2026)