Laman utama / Panduan / Had kadar Groq dicapai (429)

Had kadar Groq dicapai (429)

Groq pantas, jadi kunci Groq percuma cepat mencapai had. Apabila itu berlaku, Groq memulangkan HTTP 429 dengan mesej yang menamakan had tersebut. Halaman ini menerangkan mesej itu, had percuma bagi setiap model, pengepala yang perlu dibaca, dan cara untuk terus berfungsi.

Kod, nama model dan label katalog langsung dipaparkan dalam bahasa Inggeris.

Baca mesej ralat

Mesej 429 Groq menamakan model, organisasi, tier perkhidmatan, jenis had dan masa menunggu. Contoh ini telah disiarkan dalam laporan pepijat awam:

Contoh teks badan 429

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
Had dalam mesejYang habisApa yang perlu dilakukan
permintaan seminit (RPM)Terlalu banyak permintaan dalam 60 saatTunggu beberapa saat dan cuba semula
token seminit (TPM)Terlalu banyak token dalam 60 saatTunggu, atau hantar gesaan yang lebih pendek
permintaan sehari (RPD)Kuota permintaan harianTunggu masa yang dinyatakan dalam mesej, atau guna model lain
token sehari (TPD)Kuota token harianTunggu masa yang dinyatakan dalam mesej, atau guna model lain

Ralat lain ialah HTTP 413 dengan "Request too large". Ia bermaksud satu permintaan lebih besar daripada had TPM model itu. Menunggu tidak membantu. Kecilkan permintaan, atau guna model dengan had TPM yang lebih tinggi.

Had pelan percuma Groq

Groq mengenakan had kadar pada organisasi, bukan pada setiap pengguna atau kunci. Nilai ini diambil daripada tab Free Plan pada halaman had kadar Groq. Token cache tidak dikira dalam had.

Had Pelan Percuma Groq, disemak 20 November 2026
ModelRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Model Whisper juga mempunyai had audio: 7,200 saat audio sejam dan 28,800 sehari. Jadual di bawah menunjukkan baris Groq dalam katalog FreeLLMAPI. Jika nilai katalog dan halaman Groq berbeza, halaman Groq ialah sumber yang sahih.

Model Groq dalam katalog percuma hari ini
ModelPercuma padaKonteksHad percuma (tawaran terbaik)AlatPenglihatan
Qwen3.8 27BGroq262K30 permintaan/minit
250 permintaan/hari
70,000 token/minit
~6M
YaYa
GPT-OSS 120BGroq131K30 permintaan/minit
1,000 permintaan/hari
8,000 token/minit
200,000 token/hari
~6M
YaTidak
GPT-OSS 20BGroq131K30 permintaan/minit
1,000 permintaan/hari
8,000 token/minit
200,000 token/hari
~6M
YaTidak
GPT-OSS Safeguard 20BGroq131K30 permintaan/minit
1,000 permintaan/hari
8,000 token/minit
200,000 token/hari
~6M
YaTidak
ALLaM 2 7BGroq4K30 permintaan/minit
1,000 permintaan/hari
6,000 token/minit
500,000 token/hari
~15M
TidakTidak
Llama Prompt Guard 2 22MGroq51230 permintaan/minit
14,400 permintaan/hari
15,000 token/minit
14.4K rpd
TidakTidak
Llama Prompt Guard 2 86MGroq51230 permintaan/minit
14,400 permintaan/hari
15,000 token/minit
14.4K rpd
TidakTidak

Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.

Pengepala had kadar

Setiap respons Groq mempunyai pengepala had kadar. Baca pengepala ini untuk memperlahankan permintaan sebelum anda menerima 429.

PengepalaMerujuk kepadaMaksud
x-ratelimit-limit-requestsRPDPermintaan yang dibenarkan sehari
x-ratelimit-remaining-requestsRPDPermintaan yang tinggal hari ini
x-ratelimit-reset-requestsRPDMasa sehingga had permintaan ditetapkan semula, contohnya 2m59.56s
x-ratelimit-limit-tokensTPMToken yang dibenarkan seminit
x-ratelimit-remaining-tokensTPMToken yang tinggal pada minit ini
x-ratelimit-reset-tokensTPMMasa sehingga had token ditetapkan semula, contohnya 7.66s
retry-afterMana-manaSaat untuk menunggu. Groq menetapkannya hanya selepas anda mencapai had.

Lihat pengepala

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

Cuba semula dengan betul

Guna retry-after apabila Groq menghantarnya. Jika ia tiada, guna backoff eksponen dengan had atas. Jangan cuba semula had harian dalam gelung yang ketat. Setiap percubaan semula ialah permintaan baharu.

Cuba semula dengan retry-after (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • Jika mesej menamakan RPD atau TPD dan masa menunggunya ialah minit, tukar kepada model atau penyedia lain.
  • Untuk mendapatkan had yang lebih tinggi daripada Groq, naik taraf ke tier Developer. Ia memerlukan kaedah pembayaran.
  • HTTP 498 ialah ralat yang berbeza. Ia bermaksud tier flex sudah penuh.

Rancang bajet Groq anda

Had percuma adalah kecil apabila anda mengira. Semak had mana yang menghentikan anda dahulu bagi beban kerja anda.

  • Permintaan: pada 30 permintaan seminit, 1,000 permintaan sehari bertahan kira-kira 34 minit penggunaan kelajuan penuh.
  • Token seminit: 8,000 TPM membenarkan kira-kira empat permintaan, setiap satu 2,000 token, dalam satu minit. Satu permintaan 9,000 token mendapat ralat 413.
  • Token sehari: 200,000 TPD ialah kira-kira 25 permintaan, setiap satu 8,000 token. Ejen pengekodan menghantar gesaan yang besar, jadi TPD selalunya habis sebelum RPD.
  • Organisasi: semua kunci dan semua ahli organisasi berkongsi nombor ini.

Untuk kerja ejen, pastikan gesaan pendek dan kerap kosongkan konteks lama. Guna Groq untuk panggilan yang pantas dan pendek. Hantar panggilan konteks panjang ke penyedia dengan had token yang lebih tinggi.

Failover apabila Groq penuh

FreeLLMAPI ialah gerbang sumber terbuka yang dijalankan pada komputer anda. Ia menyimpan pembilang RPM, RPD, TPM dan TPD bagi setiap model dan kunci Groq. Ia menyemaknya sebelum setiap permintaan. Apabila Groq penuh, penghala menghantar permintaan ke penyedia percuma seterusnya.

  • 429 pendek pada had seminit meletakkan kunci dalam tempoh rehat 90 saat.
  • 429 pada had harian menggunakan tempoh rehat yang lebih panjang, atau masa cuba semula Groq jika ia lebih panjang.
  • Apabila badan ralat Groq menyatakan had sebenar, penghala menyimpannya. Contohnya, 413 dengan Limit 30000, Requested 33476 menetapkan had TPM kepada 30,000.
  • Pengepala X-Fallback-Trail menunjukkan setiap lompatan yang gagal, contohnya groq/llama-3.3-70b key1=rate_limited.

Panggil gerbang dan bukan Groq

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast mengutamakan model dengan kelajuan terukur terbaik. Apabila Groq mencapai had, penyedia lain menjawab. Mereka mungkin lebih perlahan daripada Groq.

Guna setiap satu daripada ini melalui satu kunci. FreeLLMAPI ialah penghala sumber terbuka yang anda hoskan sendiri. Ia meletakkan semua peringkat percuma ini di belakang satu titik akhir serasi OpenAI dan beralih ke pembekal lain apabila had kadar dicapai. Layari katalog atau mula sekarang.

Soalan lazim

Apakah maksud 'Rate limit reached for model' pada Groq?

Organisasi anda telah menggunakan semua satu had bagi model itu. Mesej menamakan had (RPM, RPD, TPM atau TPD) dan masa untuk menunggu.

Apakah had kadar tier percuma Groq?

Ia berbeza mengikut model. Pada pelan percuma, openai/gpt-oss-120b membenarkan 30 permintaan seminit, 1,000 sehari, 8,000 token seminit dan 200,000 token sehari.

Mengapa saya mendapat ralat Groq 413 Request too large?

Satu permintaan mempunyai lebih banyak token daripada had TPM model itu. Pendekkan gesaan atau guna model dengan had TPM yang lebih tinggi. Menunggu tidak membetulkannya.

Adakah kunci API Groq baharu menetapkan semula had kadar?

Tidak. Groq mengenakan had pada organisasi, jadi semua kunci dalamnya berkongsi had yang sama.

Bagaimana saya meningkatkan had kadar Groq saya?

Naik taraf ke tier Developer dengan kaedah pembayaran. Untuk kekal percuma, tambah penyedia lain di belakang gerbang yang melakukan failover apabila Groq penuh.

Panduan berkaitan

Sumber

Semua panduan · Lihat semua model percuma