Groq ถึงขีดจำกัดอัตรา (429)
Groq เร็ว ดังนั้นคีย์ Groq ฟรีจะถึงขีดจำกัดอย่างรวดเร็ว เมื่อถึงขีดจำกัด Groq ส่ง HTTP 429 พร้อมข้อความที่ระบุขีดจำกัด หน้านี้อธิบายข้อความนั้น ขีดจำกัดฟรีต่อโมเดล header ที่ต้องอ่าน และวิธีทำงานต่อ
โค้ด ชื่อโมเดล และป้ายกำกับของแคตตาล็อกสดจะแสดงเป็นภาษาอังกฤษ
อ่านข้อความแสดงข้อผิดพลาด
ข้อความ 429 ของ Groq ระบุชื่อโมเดล องค์กร ระดับบริการ ประเภทขีดจำกัด และเวลารอ ตัวอย่างนี้ถูกโพสต์ในรายงานบั๊กสาธารณะ:
ตัวอย่างเนื้อหาข้อความ 429
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| ขีดจำกัดในข้อความ | สิ่งที่หมด | สิ่งที่ต้องทำ |
|---|---|---|
| คำขอต่อนาที (RPM) | คำขอมากเกินไปในช่วง 60 วินาที | รอไม่กี่วินาทีแล้วลองใหม่ |
| โทเคนต่อนาที (TPM) | โทเคนมากเกินไปในช่วง 60 วินาที | รอ หรือส่งพรอมต์ที่สั้นลง |
| คำขอต่อวัน (RPD) | โควตาคำขอรายวัน | รอเวลาที่ระบุในข้อความ หรือใช้โมเดลอื่น |
| โทเคนต่อวัน (TPD) | โควตาโทเคนรายวัน | รอเวลาที่ระบุในข้อความ หรือใช้โมเดลอื่น |
ข้อผิดพลาดอีกแบบคือ HTTP 413 พร้อม "Request too large" หมายความว่าคำขอหนึ่งรายการใหญ่กว่าขีดจำกัด TPM ของโมเดล การรอไม่ช่วย ทำให้คำขอเล็กลง หรือใช้โมเดลที่มีขีดจำกัด TPM สูงกว่า
ขีดจำกัดของแผนฟรีของ Groq
Groq ใช้ขีดจำกัดอัตราต่อองค์กร ไม่ใช่ต่อผู้ใช้หรือต่อคีย์ ค่าเหล่านี้มาจากแท็บ Free Plan ในหน้า rate limits ของ Groq โทเคนที่ถูกแคชไม่นับรวมในขีดจำกัด
| โมเดล | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
โมเดล Whisper มีขีดจำกัดเสียงด้วย: 7,200 วินาทีของเสียงต่อชั่วโมง และ 28,800 วินาทีต่อวัน ตารางด้านล่างแสดงแถวของ Groq ในแคตตาล็อก FreeLLMAPI หากค่าในแคตตาล็อกกับหน้าของ Groq ไม่ตรงกัน หน้าของ Groq คือแหล่งอ้างอิงที่ถูกต้อง
| โมเดล | ฟรีบน | ขนาดบริบท | ขีดจำกัดฟรี (ข้อเสนอที่ดีที่สุด) | เครื่องมือ | การอ่านภาพ |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 คำขอ/นาที 250 คำขอ/วัน 70,000 โทเคน/นาที ~6M | ใช่ | ใช่ |
| GPT-OSS 120B | Groq | 131K | 30 คำขอ/นาที 1,000 คำขอ/วัน 8,000 โทเคน/นาที 200,000 โทเคน/วัน ~6M | ใช่ | ไม่ |
| GPT-OSS 20B | Groq | 131K | 30 คำขอ/นาที 1,000 คำขอ/วัน 8,000 โทเคน/นาที 200,000 โทเคน/วัน ~6M | ใช่ | ไม่ |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 คำขอ/นาที 1,000 คำขอ/วัน 8,000 โทเคน/นาที 200,000 โทเคน/วัน ~6M | ใช่ | ไม่ |
| ALLaM 2 7B | Groq | 4K | 30 คำขอ/นาที 1,000 คำขอ/วัน 6,000 โทเคน/นาที 500,000 โทเคน/วัน ~15M | ไม่ | ไม่ |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 คำขอ/นาที 14,400 คำขอ/วัน 15,000 โทเคน/นาที 14.4K rpd | ไม่ | ไม่ |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 คำขอ/นาที 14,400 คำขอ/วัน 15,000 โทเคน/นาที 14.4K rpd | ไม่ | ไม่ |
ข้อมูลสดจากแคตตาล็อก FreeLLMAPI (เวอร์ชัน 2026.11.19 ตรวจสอบเมื่อ 2026-11-19) ขีดจำกัดฟรีเปลี่ยนบ่อย แคตตาล็อกถูกตรวจสอบทุกวัน
header ขีดจำกัดอัตรา
การตอบกลับของ Groq แต่ละครั้งมี header ขีดจำกัดอัตรา อ่านค่าเหล่านี้เพื่อลดความเร็วก่อนที่จะได้รับ 429
| Header | อ้างถึง | ความหมาย |
|---|---|---|
x-ratelimit-limit-requests | RPD | คำขอที่อนุญาตต่อวัน |
x-ratelimit-remaining-requests | RPD | คำขอที่เหลือวันนี้ |
x-ratelimit-reset-requests | RPD | เวลาจนกว่าขีดจำกัดคำขอจะรีเซ็ต เช่น 2m59.56s |
x-ratelimit-limit-tokens | TPM | โทเคนที่อนุญาตต่อนาที |
x-ratelimit-remaining-tokens | TPM | โทเคนที่เหลือในนาทีนี้ |
x-ratelimit-reset-tokens | TPM | เวลาจนกว่าขีดจำกัดโทเคนจะรีเซ็ต เช่น 7.66s |
retry-after | ทุกประเภท | จำนวนวินาทีที่ต้องรอ Groq ตั้งค่านี้เฉพาะหลังจากที่คุณถึงขีดจำกัดแล้ว |
ดู header
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'ลองใหม่อย่างถูกต้อง
ใช้ retry-after เมื่อ Groq ส่งค่านี้มา หากไม่มี ให้ใช้ exponential backoff พร้อมขีดจำกัดสูงสุด อย่าลองใหม่ขีดจำกัดรายวันในลูปที่ถี่ ทุกครั้งที่ลองใหม่คือคำขอใหม่
ลองใหม่ด้วย retry-after (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- หากข้อความระบุ RPD หรือ TPD และเวลารอเป็นนาที ให้เปลี่ยนไปใช้โมเดลหรือผู้ให้บริการอื่น
- หากต้องการขีดจำกัดที่สูงกว่าจาก Groq ให้อัปเกรดเป็นระดับ Developer ซึ่งต้องมีวิธีการชำระเงิน
- HTTP 498 เป็นข้อผิดพลาดอีกแบบ หมายความว่าระดับ flex เต็มความจุแล้ว
วางแผนงบประมาณ Groq ของคุณ
ขีดจำกัดฟรีมีขนาดเล็กเมื่อคำนวณ ตรวจสอบว่าขีดจำกัดใดหยุดคุณก่อนสำหรับงานของคุณ
- คำขอ: ที่ 30 คำขอต่อนาที 1,000 คำขอต่อวันใช้เวลาประมาณ 34 นาทีของการใช้งานความเร็วเต็ม
- โทเคนต่อนาที: 8,000 TPM อนุญาตคำขอประมาณสี่รายการ รายการละ 2,000 โทเคนต่อนาที คำขอหนึ่งรายการ 9,000 โทเคนจะได้ข้อผิดพลาด 413
- โทเคนต่อวัน: 200,000 TPD เท่ากับประมาณ 25 คำขอ รายการละ 8,000 โทเคน เอเจนต์เขียนโค้ดส่งพรอมต์ขนาดใหญ่ ดังนั้น TPD มักหมดก่อน RPD
- องค์กร: ทุกคีย์และสมาชิกทุกคนขององค์กรใช้ตัวเลขเหล่านี้ร่วมกัน
สำหรับงานของเอเจนต์ ให้พรอมต์สั้นและชัดเจน และล้างบริบทเก่าบ่อย ใช้ Groq สำหรับการเรียกที่เร็วและสั้น ส่งการเรียกที่มีบริบทยาวไปยังผู้ให้บริการที่มีขีดจำกัดโทเคนสูงกว่า
สลับผู้ให้บริการเมื่อ Groq เต็ม
FreeLLMAPI เป็นเกตเวย์โอเพนซอร์สที่ทำงานบนคอมพิวเตอร์ของคุณ มันเก็บตัวนับ RPM, RPD, TPM และ TPD สำหรับแต่ละโมเดลและคีย์ของ Groq และตรวจก่อนแต่ละคำขอ เมื่อ Groq เต็ม เราเตอร์จะส่งคำขอไปยังผู้ให้บริการฟรีรายถัดไป
- 429 สั้น ๆ จากขีดจำกัดรายนาที จะทำให้คีย์อยู่ในช่วงพัก 90 วินาที
- 429 จากขีดจำกัดรายวันใช้ช่วงพักที่ยาวกว่า หรือเวลาลองใหม่ของ Groq หากเวลานั้นยาวกว่า
- เมื่อเนื้อหาข้อผิดพลาดของ Groq ระบุขีดจำกัดจริง เราเตอร์จะบันทึกไว้ ตัวอย่างเช่น 413 ที่มี
Limit 30000, Requested 33476จะตั้งขีดจำกัด TPM เป็น 30,000 - header
X-Fallback-Trailแสดงแต่ละขั้นที่ล้มเหลว เช่นgroq/llama-3.3-70b key1=rate_limited
เรียกเกตเวย์แทน Groq
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast เลือกโมเดลที่มีความเร็วที่วัดได้ดีที่สุดก่อน เมื่อ Groq ถึงขีดจำกัด ผู้ให้บริการอื่นจะตอบ ซึ่งอาจช้ากว่า Groq
คำถามที่พบบ่อย
ข้อความ 'Rate limit reached for model' ของ Groq หมายความว่าอย่างไร
องค์กรของคุณใช้ขีดจำกัดหนึ่งรายการของโมเดลนั้นจนหมดแล้ว ข้อความระบุขีดจำกัด (RPM, RPD, TPM หรือ TPD) และเวลาที่ต้องรอ
ขีดจำกัดอัตราของระดับฟรีของ Groq มีเท่าใด
ขีดจำกัดต่างกันตามโมเดล บนแผนฟรี openai/gpt-oss-120b อนุญาต 30 คำขอต่อนาที 1,000 ต่อวัน 8,000 โทเคนต่อนาที และ 200,000 โทเคนต่อวัน
ทำไมฉันได้รับข้อผิดพลาด 413 Request too large ของ Groq
คำขอหนึ่งรายการมีโทเคนมากกว่าขีดจำกัด TPM ของโมเดล ทำให้พรอมต์สั้นลง หรือใช้โมเดลที่มีขีดจำกัด TPM สูงกว่า การรอไม่แก้ปัญหานี้
คีย์ Groq API ใหม่รีเซ็ตขีดจำกัดอัตราหรือไม่
ไม่ Groq ใช้ขีดจำกัดกับองค์กร ดังนั้นทุกคีย์ในองค์กรใช้ขีดจำกัดเดียวกัน
ฉันจะเพิ่มขีดจำกัดอัตรา Groq ได้อย่างไร
อัปเกรดเป็นระดับ Developer พร้อมวิธีการชำระเงิน หากต้องการใช้งานฟรีต่อ ให้เพิ่มผู้ให้บริการอื่นไว้หลังเกตเวย์ที่สลับไปเมื่อ Groq เต็ม
คู่มือที่เกี่ยวข้อง
- Rate limit ของ Free LLM API
- free groq api
- Gemini API เกินโควตา (429 RESOURCE_EXHAUSTED)
- NVIDIA NIM API rate limit
- Groq กับ Cerebras
แหล่งข้อมูล
- GroqCloud: Rate limits (ตรวจสอบเมื่อ 20 November 2026)
- GroqCloud: Errors (ตรวจสอบเมื่อ 20 November 2026)
- GroqCloud: Billing FAQs (ตรวจสอบเมื่อ 20 November 2026)
- Public report of the Groq TPD message (Discourse) (ตรวจสอบเมื่อ 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (ตรวจสอบเมื่อ 20 November 2026)
- FreeLLMAPI docs: Response headers (ตรวจสอบเมื่อ 20 November 2026)