Beranda / Panduan / Batas laju Groq tercapai (429)

Batas laju Groq tercapai (429)

Groq cepat, jadi kunci Groq gratis cepat mencapai batasnya. Saat itu terjadi, Groq mengembalikan HTTP 429 dengan pesan yang menyebutkan batasnya. Halaman ini menjelaskan pesan tersebut, batas gratis per model, header yang perlu dibaca, dan cara tetap bekerja.

Kode, nama model, dan label katalog langsung ditampilkan dalam bahasa Inggris.

Baca pesan error

Pesan 429 Groq menyebutkan model, organisasi, tier layanan, jenis batas, dan waktu tunggu. Contoh ini diposting di laporan bug publik:

Contoh isi body 429

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
Batas dalam pesanYang habisYang harus dilakukan
permintaan per menit (RPM)Terlalu banyak permintaan dalam 60 detikTunggu beberapa detik lalu coba lagi
token per menit (TPM)Terlalu banyak token dalam 60 detikTunggu, atau kirim prompt yang lebih pendek
permintaan per hari (RPD)Kuota permintaan harianTunggu sesuai waktu dalam pesan, atau gunakan model lain
token per hari (TPD)Kuota token harianTunggu sesuai waktu dalam pesan, atau gunakan model lain

Error lain adalah HTTP 413 dengan "Request too large". Ini berarti satu permintaan lebih besar dari batas TPM model. Menunggu tidak membantu. Perkecil permintaan, atau gunakan model dengan batas TPM yang lebih tinggi.

Batas paket gratis Groq

Groq menerapkan batas laju pada organisasi, bukan pada setiap pengguna atau kunci. Nilai ini berasal dari tab Free Plan di halaman batas laju Groq. Token yang di-cache tidak dihitung dalam batas.

Batas Groq Free Plan, diperiksa 20 November 2026
ModelRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Model Whisper juga memiliki batas audio: 7.200 detik audio per jam dan 28.800 per hari. Tabel di bawah menunjukkan baris Groq di katalog FreeLLMAPI. Jika nilai katalog dan halaman Groq berbeda, halaman Groq adalah acuan utama.

Model Groq di katalog gratis saat ini
ModelGratis diKonteksBatas gratis (penawaran terbaik)AlatPemrosesan gambar
Qwen3.8 27BGroq262K30 permintaan/menit
250 permintaan/hari
70,000 token/menit
~6M
YaYa
GPT-OSS 120BGroq131K30 permintaan/menit
1,000 permintaan/hari
8,000 token/menit
200,000 token/hari
~6M
YaTidak
GPT-OSS 20BGroq131K30 permintaan/menit
1,000 permintaan/hari
8,000 token/menit
200,000 token/hari
~6M
YaTidak
GPT-OSS Safeguard 20BGroq131K30 permintaan/menit
1,000 permintaan/hari
8,000 token/menit
200,000 token/hari
~6M
YaTidak
ALLaM 2 7BGroq4K30 permintaan/menit
1,000 permintaan/hari
6,000 token/menit
500,000 token/hari
~15M
TidakTidak
Llama Prompt Guard 2 22MGroq51230 permintaan/menit
14,400 permintaan/hari
15,000 token/menit
14.4K rpd
TidakTidak
Llama Prompt Guard 2 86MGroq51230 permintaan/menit
14,400 permintaan/hari
15,000 token/menit
14.4K rpd
TidakTidak

Data langsung dari katalog FreeLLMAPI (versi 2026.11.19, diperiksa 2026-11-19). Batas gratis sering berubah. Katalog diperiksa setiap hari.

Header batas laju

Setiap respons Groq memiliki header batas laju. Baca header tersebut untuk memperlambat sebelum Anda mendapat 429.

HeaderMerujuk keArti
x-ratelimit-limit-requestsRPDPermintaan yang diizinkan per hari
x-ratelimit-remaining-requestsRPDPermintaan yang tersisa hari ini
x-ratelimit-reset-requestsRPDWaktu hingga batas permintaan di-reset, misalnya 2m59.56s
x-ratelimit-limit-tokensTPMToken yang diizinkan per menit
x-ratelimit-remaining-tokensTPMToken yang tersisa dalam menit ini
x-ratelimit-reset-tokensTPMWaktu hingga batas token di-reset, misalnya 7.66s
retry-afterApa punDetik untuk menunggu. Groq hanya mengatur nilai ini setelah Anda mencapai batas.

Lihat header

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

Coba lagi dengan benar

Gunakan retry-after saat Groq mengirimkannya. Jika tidak ada, gunakan exponential backoff dengan batas maksimum. Jangan mencoba ulang batas harian dalam loop yang rapat. Setiap percobaan ulang adalah permintaan baru.

Coba lagi dengan retry-after (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • Jika pesan menyebutkan RPD atau TPD dan waktu tunggunya beberapa menit, ganti ke model atau penyedia lain.
  • Untuk mendapatkan batas yang lebih tinggi dari Groq, tingkatkan ke tier Developer. Tier ini memerlukan metode pembayaran.
  • HTTP 498 adalah error yang berbeda. Ini berarti tier flex sudah penuh.

Rencanakan anggaran Groq Anda

Batas gratis sangat kecil jika dihitung. Periksa batas mana yang menghentikan Anda lebih dulu untuk beban kerja Anda.

  • Permintaan: dengan 30 permintaan per menit, 1.000 permintaan per hari bertahan sekitar 34 menit penggunaan dengan kecepatan penuh.
  • Token per menit: 8.000 TPM mengizinkan sekitar empat permintaan berisi 2.000 token setiap menit. Satu permintaan berisi 9.000 token mendapat error 413.
  • Token per hari: 200.000 TPD setara sekitar 25 permintaan berisi 8.000 token. Agent coding mengirim prompt besar, sehingga TPD sering habis sebelum RPD.
  • Organisasi: semua kunci dan semua anggota organisasi berbagi angka ini.

Untuk pekerjaan agent, jaga prompt tetap singkat dan jelas, dan sering hapus konteks lama. Gunakan Groq untuk panggilan yang cepat dan singkat. Kirim panggilan dengan konteks panjang ke penyedia yang memiliki batas token lebih tinggi.

Failover saat Groq penuh

FreeLLMAPI adalah gateway open source yang berjalan di komputer Anda. Gateway ini menyimpan penghitung RPM, RPD, TPM, dan TPD untuk setiap model dan kunci Groq. Gateway memeriksanya sebelum setiap permintaan. Saat Groq penuh, router mengirim permintaan ke penyedia gratis berikutnya.

  • 429 singkat pada batas per menit membuat kunci masuk cooldown 90 detik.
  • 429 pada batas harian menggunakan cooldown yang lebih lama, atau waktu retry Groq jika lebih lama.
  • Saat isi error Groq menyatakan batas yang sebenarnya, router menyimpannya. Misalnya, 413 dengan Limit 30000, Requested 33476 mengatur batas TPM menjadi 30.000.
  • Header X-Fallback-Trail menunjukkan setiap hop yang gagal, misalnya groq/llama-3.3-70b key1=rate_limited.

Panggil gateway, bukan Groq secara langsung

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast memilih model dengan kecepatan terukur terbaik. Saat Groq mencapai batasnya, penyedia lain yang menjawab. Penyedia tersebut dapat lebih lambat daripada Groq.

Gunakan semua ini melalui satu kunci. FreeLLMAPI adalah router sumber terbuka yang Anda hosting sendiri. Router ini menempatkan semua paket gratis ini di balik satu endpoint yang kompatibel dengan OpenAI, dan beralih ke penyedia lain saat batas permintaan tercapai. Lihat katalog atau mulai.

Pertanyaan yang sering diajukan

Apa arti 'Rate limit reached for model' di Groq?

Organisasi Anda telah menghabiskan seluruh satu batas untuk model tersebut. Pesan menyebutkan batasnya (RPM, RPD, TPM, atau TPD) dan waktu tunggu.

Berapa batas laju tier gratis Groq?

Nilainya berbeda untuk setiap model. Pada paket gratis, openai/gpt-oss-120b mengizinkan 30 permintaan per menit, 1.000 per hari, 8.000 token per menit, dan 200.000 token per hari.

Mengapa saya mendapat error Groq 413 Request too large?

Satu permintaan memiliki lebih banyak token daripada batas TPM model. Perpendek prompt atau gunakan model dengan batas TPM yang lebih tinggi. Menunggu tidak memperbaikinya.

Apakah kunci API Groq baru mengatur ulang batas laju?

Tidak. Groq menerapkan batas pada organisasi, sehingga semua kunci di dalamnya berbagi batas yang sama.

Bagaimana cara menaikkan batas laju Groq saya?

Tingkatkan ke tier Developer dengan metode pembayaran. Untuk tetap gratis, tambahkan penyedia lain di belakang gateway yang melakukan failover saat Groq penuh.

Panduan terkait

Sumber

Semua panduan · Lihat semua model gratis