Groq 요율 제한 도달 (429)
Groq는 빠르므로, 무료 Groq 키는 한도에 빨리 도달합니다. 도달하면 Groq는 한도 이름이 적힌 메시지와 함께 HTTP 429를 반환합니다. 이 페이지는 메시지의 의미, 모델별 무료 한도, 읽어야 할 헤더, 계속 작업하는 방법을 설명합니다.
코드, 모델 이름, 실시간 카탈로그 레이블은 영어로 표시합니다.
오류 메시지 읽기
Groq의 429 메시지에는 모델, 조직, 서비스 등급, 한도 유형, 대기 시간이 적혀 있습니다. 이 예시는 공개 버그 보고서에 게시된 것입니다.
예시 429 본문 텍스트
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| 메시지의 한도 | 소진된 항목 | 해야 할 일 |
|---|---|---|
| 분당 요청 수 (RPM) | 60초 안에 요청이 너무 많음 | 몇 초 기다렸다가 다시 시도하세요 |
| 분당 토큰 수 (TPM) | 60초 안에 토큰이 너무 많음 | 기다리거나, 더 짧은 프롬프트를 보내세요 |
| 일일 요청 수 (RPD) | 하루 요청 할당량 | 메시지에 나온 시간만큼 기다리거나, 다른 모델을 쓰세요 |
| 일일 토큰 수 (TPD) | 하루 토큰 할당량 | 메시지에 나온 시간만큼 기다리거나, 다른 모델을 쓰세요 |
다른 오류는 "Request too large"가 포함된 HTTP 413입니다. 요청 하나가 모델의 TPM 한도보다 크다는 뜻입니다. 기다려도 도움이 되지 않습니다. 요청을 더 작게 만들거나, TPM 한도가 더 높은 모델을 쓰세요.
Groq 무료 요금제 한도
Groq는 요율 제한을 사용자나 키 단위가 아니라 조직 단위로 적용합니다. 이 값은 Groq 요율 제한 페이지의 Free Plan 탭에서 가져왔습니다. 캐시된 토큰은 한도에 포함되지 않습니다.
| 모델 | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
Whisper 모델에는 오디오 한도도 있습니다. 시간당 7,200 오디오 초, 하루 28,800 오디오 초입니다. 아래 표는 FreeLLMAPI 카탈로그의 Groq 항목을 보여 줍니다. 카탈로그 값과 Groq 페이지가 다르면, Groq 페이지가 기준입니다.
| 모델 | 무료 제공 | 컨텍스트 | 무료 한도 (가장 좋은 조건) | 도구 | 비전 |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 요청/분 250 요청/일 70,000 토큰/분 ~6M | 예 | 예 |
| GPT-OSS 120B | Groq | 131K | 30 요청/분 1,000 요청/일 8,000 토큰/분 200,000 토큰/일 ~6M | 예 | 아니요 |
| GPT-OSS 20B | Groq | 131K | 30 요청/분 1,000 요청/일 8,000 토큰/분 200,000 토큰/일 ~6M | 예 | 아니요 |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 요청/분 1,000 요청/일 8,000 토큰/분 200,000 토큰/일 ~6M | 예 | 아니요 |
| ALLaM 2 7B | Groq | 4K | 30 요청/분 1,000 요청/일 6,000 토큰/분 500,000 토큰/일 ~15M | 아니요 | 아니요 |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 요청/분 14,400 요청/일 15,000 토큰/분 14.4K rpd | 아니요 | 아니요 |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 요청/분 14,400 요청/일 15,000 토큰/분 14.4K rpd | 아니요 | 아니요 |
FreeLLMAPI 카탈로그의 실시간 데이터입니다 (버전 2026.11.19, 2026-11-19 확인). 무료 한도는 자주 바뀝니다. 카탈로그는 매일 확인합니다.
요율 제한 헤더
Groq 응답에는 모두 요율 제한 헤더가 있습니다. 429를 받기 전에 속도를 줄이려면 이 헤더를 읽으세요.
| 헤더 | 대상 | 의미 |
|---|---|---|
x-ratelimit-limit-requests | RPD | 하루에 허용되는 요청 수 |
x-ratelimit-remaining-requests | RPD | 오늘 남은 요청 수 |
x-ratelimit-reset-requests | RPD | 요청 한도가 초기화되기까지의 시간. 예: 2m59.56s |
x-ratelimit-limit-tokens | TPM | 분당 허용되는 토큰 수 |
x-ratelimit-remaining-tokens | TPM | 이번 분에 남은 토큰 수 |
x-ratelimit-reset-tokens | TPM | 토큰 한도가 초기화되기까지의 시간. 예: 7.66s |
retry-after | 모두 | 기다려야 할 초. Groq는 한도에 도달한 후에만 이 값을 설정합니다. |
헤더 보기
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'올바르게 재시도하기
Groq가 retry-after를 보내면 그 값을 사용하세요. 없으면 상한이 있는 지수 백오프를 쓰세요. 일일 한도는 빠른 반복문으로 재시도하지 마세요. 재시도마다 새 요청이 됩니다.
retry-after로 재시도 (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- 메시지가 RPD 또는 TPD를 가리키고 대기 시간이 몇 분이라면, 다른 모델이나 제공업체로 바꾸세요.
- Groq에서 더 높은 한도를 받으려면 Developer 등급으로 업그레이드하세요. 결제 수단이 필요합니다.
- HTTP 498은 다른 오류입니다. flex 등급의 용량이 가득 찼다는 뜻입니다.
Groq 사용량 계획하기
계산해 보면 무료 한도는 작습니다. 작업에서 어느 한도가 먼저 막는지 확인하세요.
- 요청: 분당 30개 요청에서 하루 1,000개 요청은 전속력 사용으로 약 34분 동안 지속됩니다.
- 분당 토큰: TPM 8,000은 분당 2,000 토큰짜리 요청 약 4개를 허용합니다. 9,000 토큰짜리 요청 하나는 오류 413을 받습니다.
- 일일 토큰: TPD 200,000은 8,000 토큰짜리 요청 약 25개입니다. 코딩 에이전트는 큰 프롬프트를 보내므로, TPD가 RPD보다 먼저 소진되는 경우가 많습니다.
- 조직: 조직의 모든 키와 모든 구성원이 이 수치를 공유합니다.
에이전트 작업에서는 프롬프트를 짧고 명확하게 유지하고, 오래된 컨텍스트를 자주 지우세요. Groq는 빠르고 짧은 호출에 쓰세요. 긴 컨텍스트 호출은 토큰 한도가 더 높은 제공업체로 보내세요.
Groq가 가득 찼을 때 장애 대응하기
FreeLLMAPI는 사용자의 컴퓨터에서 실행되는 오픈 소스 게이트웨이입니다. 각 Groq 모델과 키마다 RPM, RPD, TPM, TPD 카운터를 유지합니다. 각 요청 전에 이 카운터를 확인합니다. Groq가 가득 찼으면, 라우터는 요청을 다음 무료 제공업체로 보냅니다.
- 분당 한도에서 짧은 429가 나오면, 해당 키는 90초 쿨다운에 들어갑니다.
- 일일 한도에서 429가 나오면 더 긴 쿨다운을 쓰며, Groq의 재시도 시간이 더 길면 그 시간을 씁니다.
- Groq 오류 본문에 실제 한도가 나오면, 라우터가 이를 저장합니다. 예를 들어
Limit 30000, Requested 33476이 있는 413은 TPM 한도를 30,000으로 설정합니다. X-Fallback-Trail헤더는 실패한 각 단계를 보여 줍니다. 예:groq/llama-3.3-70b key1=rate_limited.
Groq 대신 게이트웨이 호출하기
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast는 측정된 속도가 가장 빠른 모델을 우선합니다. Groq가 한도에 도달하면 다른 제공업체가 답변합니다. 이들은 Groq보다 느릴 수 있습니다.
자주 묻는 질문
Groq에서 'Rate limit reached for model'은 무슨 뜻인가요?
조직이 그 모델의 한도 하나를 모두 사용했다는 뜻입니다. 메시지에는 한도(RPM, RPD, TPM, TPD)와 기다릴 시간이 나옵니다.
Groq 무료 요금제의 요율 제한은 무엇인가요?
모델마다 다릅니다. 무료 요금제에서 openai/gpt-oss-120b는 분당 요청 30개, 하루 1,000개, 분당 8,000 토큰, 하루 200,000 토큰을 허용합니다.
Groq 오류 413 Request too large는 왜 발생하나요?
요청 하나의 토큰 수가 모델의 TPM 한도보다 많습니다. 프롬프트를 더 짧게 하거나, TPM 한도가 더 높은 모델을 쓰세요. 기다려도 해결되지 않습니다.
새 Groq API 키를 만들면 요율 제한이 초기화되나요?
아니요. Groq는 한도를 조직 단위로 적용하므로, 조직의 모든 키가 같은 한도를 공유합니다.
Groq 요율 제한을 어떻게 올리나요?
결제 수단을 등록하고 Developer 등급으로 업그레이드하세요. 무료를 유지하려면, Groq가 가득 찼을 때 장애 대응하는 게이트웨이 뒤에 다른 제공업체를 추가하세요.
관련 가이드
- 무료 LLM API 속도 제한
- free groq api
- Gemini API 할당량 초과 (429 RESOURCE_EXHAUSTED)
- NVIDIA NIM API 속도 제한
- Groq 대 Cerebras
출처
- GroqCloud: Rate limits (20 November 2026 확인)
- GroqCloud: Errors (20 November 2026 확인)
- GroqCloud: Billing FAQs (20 November 2026 확인)
- Public report of the Groq TPD message (Discourse) (20 November 2026 확인)
- FreeLLMAPI docs: Quota and cooldown engine (20 November 2026 확인)
- FreeLLMAPI docs: Response headers (20 November 2026 확인)