หน้าแรก / คู่มือ / Groq ถึงขีดจำกัดอัตรา (429)

Groq ถึงขีดจำกัดอัตรา (429)

Groq เร็ว ดังนั้นคีย์ Groq ฟรีจะถึงขีดจำกัดอย่างรวดเร็ว เมื่อถึงขีดจำกัด Groq ส่ง HTTP 429 พร้อมข้อความที่ระบุขีดจำกัด หน้านี้อธิบายข้อความนั้น ขีดจำกัดฟรีต่อโมเดล header ที่ต้องอ่าน และวิธีทำงานต่อ

โค้ด ชื่อโมเดล และป้ายกำกับของแคตตาล็อกสดจะแสดงเป็นภาษาอังกฤษ

อ่านข้อความแสดงข้อผิดพลาด

ข้อความ 429 ของ Groq ระบุชื่อโมเดล องค์กร ระดับบริการ ประเภทขีดจำกัด และเวลารอ ตัวอย่างนี้ถูกโพสต์ในรายงานบั๊กสาธารณะ:

ตัวอย่างเนื้อหาข้อความ 429

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
ขีดจำกัดในข้อความสิ่งที่หมดสิ่งที่ต้องทำ
คำขอต่อนาที (RPM)คำขอมากเกินไปในช่วง 60 วินาทีรอไม่กี่วินาทีแล้วลองใหม่
โทเคนต่อนาที (TPM)โทเคนมากเกินไปในช่วง 60 วินาทีรอ หรือส่งพรอมต์ที่สั้นลง
คำขอต่อวัน (RPD)โควตาคำขอรายวันรอเวลาที่ระบุในข้อความ หรือใช้โมเดลอื่น
โทเคนต่อวัน (TPD)โควตาโทเคนรายวันรอเวลาที่ระบุในข้อความ หรือใช้โมเดลอื่น

ข้อผิดพลาดอีกแบบคือ HTTP 413 พร้อม "Request too large" หมายความว่าคำขอหนึ่งรายการใหญ่กว่าขีดจำกัด TPM ของโมเดล การรอไม่ช่วย ทำให้คำขอเล็กลง หรือใช้โมเดลที่มีขีดจำกัด TPM สูงกว่า

ขีดจำกัดของแผนฟรีของ Groq

Groq ใช้ขีดจำกัดอัตราต่อองค์กร ไม่ใช่ต่อผู้ใช้หรือต่อคีย์ ค่าเหล่านี้มาจากแท็บ Free Plan ในหน้า rate limits ของ Groq โทเคนที่ถูกแคชไม่นับรวมในขีดจำกัด

ขีดจำกัดของ Groq Free Plan ตรวจสอบเมื่อ 20 พฤศจิกายน 2026
โมเดลRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

โมเดล Whisper มีขีดจำกัดเสียงด้วย: 7,200 วินาทีของเสียงต่อชั่วโมง และ 28,800 วินาทีต่อวัน ตารางด้านล่างแสดงแถวของ Groq ในแคตตาล็อก FreeLLMAPI หากค่าในแคตตาล็อกกับหน้าของ Groq ไม่ตรงกัน หน้าของ Groq คือแหล่งอ้างอิงที่ถูกต้อง

โมเดลของ Groq ในแคตตาล็อกฟรีวันนี้
โมเดลฟรีบนขนาดบริบทขีดจำกัดฟรี (ข้อเสนอที่ดีที่สุด)เครื่องมือการอ่านภาพ
Qwen3.8 27BGroq262K30 คำขอ/นาที
250 คำขอ/วัน
70,000 โทเคน/นาที
~6M
ใช่ใช่
GPT-OSS 120BGroq131K30 คำขอ/นาที
1,000 คำขอ/วัน
8,000 โทเคน/นาที
200,000 โทเคน/วัน
~6M
ใช่ไม่
GPT-OSS 20BGroq131K30 คำขอ/นาที
1,000 คำขอ/วัน
8,000 โทเคน/นาที
200,000 โทเคน/วัน
~6M
ใช่ไม่
GPT-OSS Safeguard 20BGroq131K30 คำขอ/นาที
1,000 คำขอ/วัน
8,000 โทเคน/นาที
200,000 โทเคน/วัน
~6M
ใช่ไม่
ALLaM 2 7BGroq4K30 คำขอ/นาที
1,000 คำขอ/วัน
6,000 โทเคน/นาที
500,000 โทเคน/วัน
~15M
ไม่ไม่
Llama Prompt Guard 2 22MGroq51230 คำขอ/นาที
14,400 คำขอ/วัน
15,000 โทเคน/นาที
14.4K rpd
ไม่ไม่
Llama Prompt Guard 2 86MGroq51230 คำขอ/นาที
14,400 คำขอ/วัน
15,000 โทเคน/นาที
14.4K rpd
ไม่ไม่

ข้อมูลสดจากแคตตาล็อก FreeLLMAPI (เวอร์ชัน 2026.11.19 ตรวจสอบเมื่อ 2026-11-19) ขีดจำกัดฟรีเปลี่ยนบ่อย แคตตาล็อกถูกตรวจสอบทุกวัน

header ขีดจำกัดอัตรา

การตอบกลับของ Groq แต่ละครั้งมี header ขีดจำกัดอัตรา อ่านค่าเหล่านี้เพื่อลดความเร็วก่อนที่จะได้รับ 429

Headerอ้างถึงความหมาย
x-ratelimit-limit-requestsRPDคำขอที่อนุญาตต่อวัน
x-ratelimit-remaining-requestsRPDคำขอที่เหลือวันนี้
x-ratelimit-reset-requestsRPDเวลาจนกว่าขีดจำกัดคำขอจะรีเซ็ต เช่น 2m59.56s
x-ratelimit-limit-tokensTPMโทเคนที่อนุญาตต่อนาที
x-ratelimit-remaining-tokensTPMโทเคนที่เหลือในนาทีนี้
x-ratelimit-reset-tokensTPMเวลาจนกว่าขีดจำกัดโทเคนจะรีเซ็ต เช่น 7.66s
retry-afterทุกประเภทจำนวนวินาทีที่ต้องรอ Groq ตั้งค่านี้เฉพาะหลังจากที่คุณถึงขีดจำกัดแล้ว

ดู header

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

ลองใหม่อย่างถูกต้อง

ใช้ retry-after เมื่อ Groq ส่งค่านี้มา หากไม่มี ให้ใช้ exponential backoff พร้อมขีดจำกัดสูงสุด อย่าลองใหม่ขีดจำกัดรายวันในลูปที่ถี่ ทุกครั้งที่ลองใหม่คือคำขอใหม่

ลองใหม่ด้วย retry-after (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • หากข้อความระบุ RPD หรือ TPD และเวลารอเป็นนาที ให้เปลี่ยนไปใช้โมเดลหรือผู้ให้บริการอื่น
  • หากต้องการขีดจำกัดที่สูงกว่าจาก Groq ให้อัปเกรดเป็นระดับ Developer ซึ่งต้องมีวิธีการชำระเงิน
  • HTTP 498 เป็นข้อผิดพลาดอีกแบบ หมายความว่าระดับ flex เต็มความจุแล้ว

วางแผนงบประมาณ Groq ของคุณ

ขีดจำกัดฟรีมีขนาดเล็กเมื่อคำนวณ ตรวจสอบว่าขีดจำกัดใดหยุดคุณก่อนสำหรับงานของคุณ

  • คำขอ: ที่ 30 คำขอต่อนาที 1,000 คำขอต่อวันใช้เวลาประมาณ 34 นาทีของการใช้งานความเร็วเต็ม
  • โทเคนต่อนาที: 8,000 TPM อนุญาตคำขอประมาณสี่รายการ รายการละ 2,000 โทเคนต่อนาที คำขอหนึ่งรายการ 9,000 โทเคนจะได้ข้อผิดพลาด 413
  • โทเคนต่อวัน: 200,000 TPD เท่ากับประมาณ 25 คำขอ รายการละ 8,000 โทเคน เอเจนต์เขียนโค้ดส่งพรอมต์ขนาดใหญ่ ดังนั้น TPD มักหมดก่อน RPD
  • องค์กร: ทุกคีย์และสมาชิกทุกคนขององค์กรใช้ตัวเลขเหล่านี้ร่วมกัน

สำหรับงานของเอเจนต์ ให้พรอมต์สั้นและชัดเจน และล้างบริบทเก่าบ่อย ใช้ Groq สำหรับการเรียกที่เร็วและสั้น ส่งการเรียกที่มีบริบทยาวไปยังผู้ให้บริการที่มีขีดจำกัดโทเคนสูงกว่า

สลับผู้ให้บริการเมื่อ Groq เต็ม

FreeLLMAPI เป็นเกตเวย์โอเพนซอร์สที่ทำงานบนคอมพิวเตอร์ของคุณ มันเก็บตัวนับ RPM, RPD, TPM และ TPD สำหรับแต่ละโมเดลและคีย์ของ Groq และตรวจก่อนแต่ละคำขอ เมื่อ Groq เต็ม เราเตอร์จะส่งคำขอไปยังผู้ให้บริการฟรีรายถัดไป

  • 429 สั้น ๆ จากขีดจำกัดรายนาที จะทำให้คีย์อยู่ในช่วงพัก 90 วินาที
  • 429 จากขีดจำกัดรายวันใช้ช่วงพักที่ยาวกว่า หรือเวลาลองใหม่ของ Groq หากเวลานั้นยาวกว่า
  • เมื่อเนื้อหาข้อผิดพลาดของ Groq ระบุขีดจำกัดจริง เราเตอร์จะบันทึกไว้ ตัวอย่างเช่น 413 ที่มี Limit 30000, Requested 33476 จะตั้งขีดจำกัด TPM เป็น 30,000
  • header X-Fallback-Trail แสดงแต่ละขั้นที่ล้มเหลว เช่น groq/llama-3.3-70b key1=rate_limited

เรียกเกตเวย์แทน Groq

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast เลือกโมเดลที่มีความเร็วที่วัดได้ดีที่สุดก่อน เมื่อ Groq ถึงขีดจำกัด ผู้ให้บริการอื่นจะตอบ ซึ่งอาจช้ากว่า Groq

ใช้ทุกตัวในรายการนี้ผ่านคีย์เดียว FreeLLMAPI คือเราเตอร์โอเพนซอร์สที่คุณโฮสต์เอง รวมระดับฟรีทั้งหมดนี้ไว้หลังปลายทางเดียวที่เข้ากันได้กับ OpenAI และเปลี่ยนไปใช้ตัวอื่นเมื่อตัวใดตัวหนึ่งถูกจำกัดอัตรา ดูแคตตาล็อก หรือ เริ่มใช้งานจริง.

คำถามที่พบบ่อย

ข้อความ 'Rate limit reached for model' ของ Groq หมายความว่าอย่างไร

องค์กรของคุณใช้ขีดจำกัดหนึ่งรายการของโมเดลนั้นจนหมดแล้ว ข้อความระบุขีดจำกัด (RPM, RPD, TPM หรือ TPD) และเวลาที่ต้องรอ

ขีดจำกัดอัตราของระดับฟรีของ Groq มีเท่าใด

ขีดจำกัดต่างกันตามโมเดล บนแผนฟรี openai/gpt-oss-120b อนุญาต 30 คำขอต่อนาที 1,000 ต่อวัน 8,000 โทเคนต่อนาที และ 200,000 โทเคนต่อวัน

ทำไมฉันได้รับข้อผิดพลาด 413 Request too large ของ Groq

คำขอหนึ่งรายการมีโทเคนมากกว่าขีดจำกัด TPM ของโมเดล ทำให้พรอมต์สั้นลง หรือใช้โมเดลที่มีขีดจำกัด TPM สูงกว่า การรอไม่แก้ปัญหานี้

คีย์ Groq API ใหม่รีเซ็ตขีดจำกัดอัตราหรือไม่

ไม่ Groq ใช้ขีดจำกัดกับองค์กร ดังนั้นทุกคีย์ในองค์กรใช้ขีดจำกัดเดียวกัน

ฉันจะเพิ่มขีดจำกัดอัตรา Groq ได้อย่างไร

อัปเกรดเป็นระดับ Developer พร้อมวิธีการชำระเงิน หากต้องการใช้งานฟรีต่อ ให้เพิ่มผู้ให้บริการอื่นไว้หลังเกตเวย์ที่สลับไปเมื่อ Groq เต็ม

คู่มือที่เกี่ยวข้อง

แหล่งข้อมูล

คู่มือทั้งหมด · ดูโมเดลฟรีทั้งหมด