Groq hız limitine ulaşıldı (429)
Groq hızlıdır, bu nedenle ücretsiz bir Groq anahtarı limitlerine hızla ulaşır. Bu olduğunda Groq, limiti adlandıran bir mesajla HTTP 429 döndürür. Bu sayfa mesajı, model başına ücretsiz limitleri, okunacak üstbilgileri ve çalışmaya nasıl devam edeceğinizi açıklar.
Kod, model adları ve canlı katalog etiketleri İngilizce gösterilir.
Hata mesajını okuyun
Groq'un 429 mesajı; modeli, kuruluşu, hizmet katmanını, limit türünü ve bekleme süresini adlandırır. Bu örnek, herkese açık bir hata raporunda paylaşıldı:
Örnek 429 gövde metni
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| Mesajdaki limit | Neyin tükendiği | Yapılacak |
|---|---|---|
| dakikada istek (RPM) | 60 saniyede çok fazla istek | Birkaç saniye bekleyin ve yeniden deneyin |
| dakikada token (TPM) | 60 saniyede çok fazla token | Bekleyin veya daha kısa istemler gönderin |
| günde istek (RPD) | Günlük istek kotası | Mesajdaki süreyi bekleyin veya başka bir model kullanın |
| günde token (TPD) | Günlük token kotası | Mesajdaki süreyi bekleyin veya başka bir model kullanın |
Farklı bir hata, "Request too large" mesajı içeren HTTP 413'tür. Bu, tek bir isteğin modelin TPM limitinden büyük olduğu anlamına gelir. Beklemek yardımcı olmaz. İsteği küçültün veya daha yüksek TPM limiti olan bir model kullanın.
Groq ücretsiz plan limitleri
Groq hız limitlerini her kullanıcıya veya anahtara değil, kuruluşa uygular. Bu değerler Groq'un hız limitleri sayfasındaki Free Plan sekmesinden alınmıştır. Önbelleğe alınmış token'lar limitlere dahil edilmez.
| Model | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
Whisper modellerinin ayrıca ses limitleri vardır: saatte 7,200 ses saniyesi ve günde 28,800. Aşağıdaki tablo, FreeLLMAPI kataloğundaki Groq satırlarını gösterir. Katalog değeri ile Groq'un sayfası farklıysa, Groq'un sayfası geçerlidir.
| Model | Ücretsiz olduğu yer | Bağlam | Ücretsiz limitler (en iyi teklif) | Araçlar | Görsel girdi |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 istek/dk 250 istek/gün 70,000 jeton/dk ~6M | Evet | Evet |
| GPT-OSS 120B | Groq | 131K | 30 istek/dk 1,000 istek/gün 8,000 jeton/dk 200,000 jeton/gün ~6M | Evet | Hayır |
| GPT-OSS 20B | Groq | 131K | 30 istek/dk 1,000 istek/gün 8,000 jeton/dk 200,000 jeton/gün ~6M | Evet | Hayır |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 istek/dk 1,000 istek/gün 8,000 jeton/dk 200,000 jeton/gün ~6M | Evet | Hayır |
| ALLaM 2 7B | Groq | 4K | 30 istek/dk 1,000 istek/gün 6,000 jeton/dk 500,000 jeton/gün ~15M | Hayır | Hayır |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 istek/dk 14,400 istek/gün 15,000 jeton/dk 14.4K rpd | Hayır | Hayır |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 istek/dk 14,400 istek/gün 15,000 jeton/dk 14.4K rpd | Hayır | Hayır |
Canlı veriler FreeLLMAPI kataloğundan alınır (sürüm 2026.11.19, 2026-11-19 tarihinde kontrol edildi). Ücretsiz limitler sık değişir. Katalog her gün kontrol edilir.
Hız limiti üstbilgileri
Her Groq yanıtında hız limiti üstbilgileri bulunur. 429 almadan önce yavaşlamak için bunları okuyun.
| Üstbilgi | İlgili | Anlamı |
|---|---|---|
x-ratelimit-limit-requests | RPD | Günde izin verilen istek |
x-ratelimit-remaining-requests | RPD | Bugün kalan istek |
x-ratelimit-reset-requests | RPD | İstek limiti sıfırlanana kadar geçen süre, örneğin 2m59.56s |
x-ratelimit-limit-tokens | TPM | Dakikada izin verilen token |
x-ratelimit-remaining-tokens | TPM | Bu dakikada kalan token |
x-ratelimit-reset-tokens | TPM | Token limiti sıfırlanana kadar geçen süre, örneğin 7.66s |
retry-after | Herhangi biri | Beklenecek saniye. Groq bunu yalnızca bir limite ulaştıktan sonra ayarlar. |
Üstbilgileri görün
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'Doğru şekilde yeniden deneyin
Groq gönderdiğinde retry-after kullanın. Yoksa üst sınırı olan üstel geri çekilme kullanın. Günlük limitleri sıkı bir döngüde yeniden denemeyin. Her yeniden deneme yeni bir istektir.
retry-after ile yeniden deneyin (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- Mesaj RPD veya TPD adını veriyorsa ve bekleme dakikalar sürüyorsa, başka bir modele veya sağlayıcıya geçin.
- Groq'tan daha yüksek limitler almak için Developer katmanına yükseltin. Bir ödeme yöntemi gerekir.
- HTTP 498 farklı bir hatadır. Flex katmanının kapasitesinin dolu olduğu anlamına gelir.
Groq bütçenizi planlayın
Hesap yapıldığında ücretsiz limitler küçüktür. İş yükünüz için önce hangi limitin sizi durdurduğunu kontrol edin.
- İstekler: dakikada 30 istekte, günde 1,000 istek yaklaşık 34 dakikalık tam hızlı kullanım sürer.
- Dakikada token: 8,000 TPM, her dakika yaklaşık dört istek için 2,000 token'a izin verir. 9,000 token'lık tek bir istek 413 hatası alır.
- Günde token: 200,000 TPD, yaklaşık 25 istek için 8,000 token demektir. Kodlama agentları büyük istemler gönderir, bu nedenle TPD çoğu zaman RPD'den önce biter.
- Kuruluş: tüm anahtarlar ve kuruluşun tüm üyeleri bu sayıları paylaşır.
Agent işleri için istemleri kısa ve net tutun, eski bağlamı sık sık temizleyin. Hızlı ve kısa çağrılar için Groq kullanın. Uzun bağlamlı çağrıları daha yüksek token limiti olan sağlayıcılara gönderin.
Groq dolunca yedeklemeye geçin
FreeLLMAPI, bilgisayarınızda çalışan açık kaynaklı bir ağ geçididir. Her Groq modeli ve anahtarı için RPM, RPD, TPM ve TPD sayaçlarını tutar. Her istekten önce bunları kontrol eder. Groq dolu olduğunda yönlendirici isteği sonraki ücretsiz sağlayıcıya gönderir.
- Dakika limitinde kısa bir 429, anahtarı 90 saniyelik bir bekleme süresine alır.
- Günlük limitte 429, daha uzun bir bekleme süresi kullanır veya Groq'un yeniden deneme süresi daha uzunsa onu kullanır.
- Bir Groq hata gövdesi gerçek limiti belirtirse, yönlendirici bunu kaydeder. Örneğin
Limit 30000, Requested 33476içeren bir 413, TPM limitini 30,000 olarak ayarlar. X-Fallback-Trailüstbilgisi, başarısız olan her adımı gösterir, örneğingroq/llama-3.3-70b key1=rate_limited.
Groq yerine ağ geçidini çağırın
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast, ölçülen en iyi hıza sahip modelleri tercih eder. Groq limitindeyken diğer sağlayıcılar yanıt verir. Groq'tan daha yavaş olabilirler.
Sık sorulan sorular
Groq'ta model için 'Rate limit reached' ne anlama gelir?
Kuruluşunuz o modelde bir limitin tamamını kullandı. Mesaj limiti (RPM, RPD, TPM veya TPD) ve beklenecek süreyi adlandırır.
Groq ücretsiz katman hız limitleri nedir?
Modele göre değişir. Ücretsiz planda openai/gpt-oss-120b, dakikada 30 istek, günde 1,000 istek, dakikada 8,000 token ve günde 200,000 token'a izin verir.
Neden Groq hatası 413 Request too large alıyorum?
Tek bir istek, modelin TPM limitinden daha fazla token içeriyor. İstemi kısaltın veya daha yüksek TPM limiti olan bir model kullanın. Beklemek bunu çözmez.
Yeni bir Groq API anahtarı hız limitini sıfırlar mı?
Hayır. Groq limitleri kuruluşa uygular, bu nedenle içindeki tüm anahtarlar aynı limitleri paylaşır.
Groq hız limitimi nasıl artırırım?
Bir ödeme yöntemiyle Developer katmanına yükseltin. Ücretsiz kalmak için Groq dolduğunda yedeklemeye geçen bir ağ geçidinin arkasına diğer sağlayıcıları ekleyin.
İlgili rehberler
- Ücretsiz LLM API hız sınırları
- free groq api
- Gemini API kotası aşıldı (429 RESOURCE_EXHAUSTED)
- NVIDIA NIM API hız sınırı
- Groq ve Cerebras karşılaştırması
Kaynaklar
- GroqCloud: Rate limits (20 November 2026 tarihinde kontrol edildi)
- GroqCloud: Errors (20 November 2026 tarihinde kontrol edildi)
- GroqCloud: Billing FAQs (20 November 2026 tarihinde kontrol edildi)
- Public report of the Groq TPD message (Discourse) (20 November 2026 tarihinde kontrol edildi)
- FreeLLMAPI docs: Quota and cooldown engine (20 November 2026 tarihinde kontrol edildi)
- FreeLLMAPI docs: Response headers (20 November 2026 tarihinde kontrol edildi)