Had kadar Groq dicapai (429)
Groq pantas, jadi kunci Groq percuma cepat mencapai had. Apabila itu berlaku, Groq memulangkan HTTP 429 dengan mesej yang menamakan had tersebut. Halaman ini menerangkan mesej itu, had percuma bagi setiap model, pengepala yang perlu dibaca, dan cara untuk terus berfungsi.
Kod, nama model dan label katalog langsung dipaparkan dalam bahasa Inggeris.
Baca mesej ralat
Mesej 429 Groq menamakan model, organisasi, tier perkhidmatan, jenis had dan masa menunggu. Contoh ini telah disiarkan dalam laporan pepijat awam:
Contoh teks badan 429
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| Had dalam mesej | Yang habis | Apa yang perlu dilakukan |
|---|---|---|
| permintaan seminit (RPM) | Terlalu banyak permintaan dalam 60 saat | Tunggu beberapa saat dan cuba semula |
| token seminit (TPM) | Terlalu banyak token dalam 60 saat | Tunggu, atau hantar gesaan yang lebih pendek |
| permintaan sehari (RPD) | Kuota permintaan harian | Tunggu masa yang dinyatakan dalam mesej, atau guna model lain |
| token sehari (TPD) | Kuota token harian | Tunggu masa yang dinyatakan dalam mesej, atau guna model lain |
Ralat lain ialah HTTP 413 dengan "Request too large". Ia bermaksud satu permintaan lebih besar daripada had TPM model itu. Menunggu tidak membantu. Kecilkan permintaan, atau guna model dengan had TPM yang lebih tinggi.
Had pelan percuma Groq
Groq mengenakan had kadar pada organisasi, bukan pada setiap pengguna atau kunci. Nilai ini diambil daripada tab Free Plan pada halaman had kadar Groq. Token cache tidak dikira dalam had.
| Model | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
Model Whisper juga mempunyai had audio: 7,200 saat audio sejam dan 28,800 sehari. Jadual di bawah menunjukkan baris Groq dalam katalog FreeLLMAPI. Jika nilai katalog dan halaman Groq berbeza, halaman Groq ialah sumber yang sahih.
| Model | Percuma pada | Konteks | Had percuma (tawaran terbaik) | Alat | Penglihatan |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 permintaan/minit 250 permintaan/hari 70,000 token/minit ~6M | Ya | Ya |
| GPT-OSS 120B | Groq | 131K | 30 permintaan/minit 1,000 permintaan/hari 8,000 token/minit 200,000 token/hari ~6M | Ya | Tidak |
| GPT-OSS 20B | Groq | 131K | 30 permintaan/minit 1,000 permintaan/hari 8,000 token/minit 200,000 token/hari ~6M | Ya | Tidak |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 permintaan/minit 1,000 permintaan/hari 8,000 token/minit 200,000 token/hari ~6M | Ya | Tidak |
| ALLaM 2 7B | Groq | 4K | 30 permintaan/minit 1,000 permintaan/hari 6,000 token/minit 500,000 token/hari ~15M | Tidak | Tidak |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 permintaan/minit 14,400 permintaan/hari 15,000 token/minit 14.4K rpd | Tidak | Tidak |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 permintaan/minit 14,400 permintaan/hari 15,000 token/minit 14.4K rpd | Tidak | Tidak |
Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.
Pengepala had kadar
Setiap respons Groq mempunyai pengepala had kadar. Baca pengepala ini untuk memperlahankan permintaan sebelum anda menerima 429.
| Pengepala | Merujuk kepada | Maksud |
|---|---|---|
x-ratelimit-limit-requests | RPD | Permintaan yang dibenarkan sehari |
x-ratelimit-remaining-requests | RPD | Permintaan yang tinggal hari ini |
x-ratelimit-reset-requests | RPD | Masa sehingga had permintaan ditetapkan semula, contohnya 2m59.56s |
x-ratelimit-limit-tokens | TPM | Token yang dibenarkan seminit |
x-ratelimit-remaining-tokens | TPM | Token yang tinggal pada minit ini |
x-ratelimit-reset-tokens | TPM | Masa sehingga had token ditetapkan semula, contohnya 7.66s |
retry-after | Mana-mana | Saat untuk menunggu. Groq menetapkannya hanya selepas anda mencapai had. |
Lihat pengepala
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'Cuba semula dengan betul
Guna retry-after apabila Groq menghantarnya. Jika ia tiada, guna backoff eksponen dengan had atas. Jangan cuba semula had harian dalam gelung yang ketat. Setiap percubaan semula ialah permintaan baharu.
Cuba semula dengan retry-after (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- Jika mesej menamakan RPD atau TPD dan masa menunggunya ialah minit, tukar kepada model atau penyedia lain.
- Untuk mendapatkan had yang lebih tinggi daripada Groq, naik taraf ke tier Developer. Ia memerlukan kaedah pembayaran.
- HTTP 498 ialah ralat yang berbeza. Ia bermaksud tier flex sudah penuh.
Rancang bajet Groq anda
Had percuma adalah kecil apabila anda mengira. Semak had mana yang menghentikan anda dahulu bagi beban kerja anda.
- Permintaan: pada 30 permintaan seminit, 1,000 permintaan sehari bertahan kira-kira 34 minit penggunaan kelajuan penuh.
- Token seminit: 8,000 TPM membenarkan kira-kira empat permintaan, setiap satu 2,000 token, dalam satu minit. Satu permintaan 9,000 token mendapat ralat 413.
- Token sehari: 200,000 TPD ialah kira-kira 25 permintaan, setiap satu 8,000 token. Ejen pengekodan menghantar gesaan yang besar, jadi TPD selalunya habis sebelum RPD.
- Organisasi: semua kunci dan semua ahli organisasi berkongsi nombor ini.
Untuk kerja ejen, pastikan gesaan pendek dan kerap kosongkan konteks lama. Guna Groq untuk panggilan yang pantas dan pendek. Hantar panggilan konteks panjang ke penyedia dengan had token yang lebih tinggi.
Failover apabila Groq penuh
FreeLLMAPI ialah gerbang sumber terbuka yang dijalankan pada komputer anda. Ia menyimpan pembilang RPM, RPD, TPM dan TPD bagi setiap model dan kunci Groq. Ia menyemaknya sebelum setiap permintaan. Apabila Groq penuh, penghala menghantar permintaan ke penyedia percuma seterusnya.
- 429 pendek pada had seminit meletakkan kunci dalam tempoh rehat 90 saat.
- 429 pada had harian menggunakan tempoh rehat yang lebih panjang, atau masa cuba semula Groq jika ia lebih panjang.
- Apabila badan ralat Groq menyatakan had sebenar, penghala menyimpannya. Contohnya, 413 dengan
Limit 30000, Requested 33476menetapkan had TPM kepada 30,000. - Pengepala
X-Fallback-Trailmenunjukkan setiap lompatan yang gagal, contohnyagroq/llama-3.3-70b key1=rate_limited.
Panggil gerbang dan bukan Groq
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast mengutamakan model dengan kelajuan terukur terbaik. Apabila Groq mencapai had, penyedia lain menjawab. Mereka mungkin lebih perlahan daripada Groq.
Soalan lazim
Apakah maksud 'Rate limit reached for model' pada Groq?
Organisasi anda telah menggunakan semua satu had bagi model itu. Mesej menamakan had (RPM, RPD, TPM atau TPD) dan masa untuk menunggu.
Apakah had kadar tier percuma Groq?
Ia berbeza mengikut model. Pada pelan percuma, openai/gpt-oss-120b membenarkan 30 permintaan seminit, 1,000 sehari, 8,000 token seminit dan 200,000 token sehari.
Mengapa saya mendapat ralat Groq 413 Request too large?
Satu permintaan mempunyai lebih banyak token daripada had TPM model itu. Pendekkan gesaan atau guna model dengan had TPM yang lebih tinggi. Menunggu tidak membetulkannya.
Adakah kunci API Groq baharu menetapkan semula had kadar?
Tidak. Groq mengenakan had pada organisasi, jadi semua kunci dalamnya berkongsi had yang sama.
Bagaimana saya meningkatkan had kadar Groq saya?
Naik taraf ke tier Developer dengan kaedah pembayaran. Untuk kekal percuma, tambah penyedia lain di belakang gerbang yang melakukan failover apabila Groq penuh.
Panduan berkaitan
- Had kadar Free LLM API
- free groq api
- Kuota Gemini API melebihi (429 RESOURCE_EXHAUSTED)
- Had kadar NVIDIA NIM API
- Groq vs Cerebras
Sumber
- GroqCloud: Rate limits (disemak 20 November 2026)
- GroqCloud: Errors (disemak 20 November 2026)
- GroqCloud: Billing FAQs (disemak 20 November 2026)
- Public report of the Groq TPD message (Discourse) (disemak 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (disemak 20 November 2026)
- FreeLLMAPI docs: Response headers (disemak 20 November 2026)