홈 / 가이드 / Groq 요율 제한 도달 (429)

Groq 요율 제한 도달 (429)

Groq는 빠르므로, 무료 Groq 키는 한도에 빨리 도달합니다. 도달하면 Groq는 한도 이름이 적힌 메시지와 함께 HTTP 429를 반환합니다. 이 페이지는 메시지의 의미, 모델별 무료 한도, 읽어야 할 헤더, 계속 작업하는 방법을 설명합니다.

코드, 모델 이름, 실시간 카탈로그 레이블은 영어로 표시합니다.

오류 메시지 읽기

Groq의 429 메시지에는 모델, 조직, 서비스 등급, 한도 유형, 대기 시간이 적혀 있습니다. 이 예시는 공개 버그 보고서에 게시된 것입니다.

예시 429 본문 텍스트

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
메시지의 한도소진된 항목해야 할 일
분당 요청 수 (RPM)60초 안에 요청이 너무 많음몇 초 기다렸다가 다시 시도하세요
분당 토큰 수 (TPM)60초 안에 토큰이 너무 많음기다리거나, 더 짧은 프롬프트를 보내세요
일일 요청 수 (RPD)하루 요청 할당량메시지에 나온 시간만큼 기다리거나, 다른 모델을 쓰세요
일일 토큰 수 (TPD)하루 토큰 할당량메시지에 나온 시간만큼 기다리거나, 다른 모델을 쓰세요

다른 오류는 "Request too large"가 포함된 HTTP 413입니다. 요청 하나가 모델의 TPM 한도보다 크다는 뜻입니다. 기다려도 도움이 되지 않습니다. 요청을 더 작게 만들거나, TPM 한도가 더 높은 모델을 쓰세요.

Groq 무료 요금제 한도

Groq는 요율 제한을 사용자나 키 단위가 아니라 조직 단위로 적용합니다. 이 값은 Groq 요율 제한 페이지의 Free Plan 탭에서 가져왔습니다. 캐시된 토큰은 한도에 포함되지 않습니다.

Groq 무료 요금제 한도, 2026년 11월 20일 확인
모델RPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Whisper 모델에는 오디오 한도도 있습니다. 시간당 7,200 오디오 초, 하루 28,800 오디오 초입니다. 아래 표는 FreeLLMAPI 카탈로그의 Groq 항목을 보여 줍니다. 카탈로그 값과 Groq 페이지가 다르면, Groq 페이지가 기준입니다.

오늘 무료 카탈로그의 Groq 모델
모델무료 제공컨텍스트무료 한도 (가장 좋은 조건)도구비전
Qwen3.8 27BGroq262K30 요청/분
250 요청/일
70,000 토큰/분
~6M
예예
GPT-OSS 120BGroq131K30 요청/분
1,000 요청/일
8,000 토큰/분
200,000 토큰/일
~6M
예아니요
GPT-OSS 20BGroq131K30 요청/분
1,000 요청/일
8,000 토큰/분
200,000 토큰/일
~6M
예아니요
GPT-OSS Safeguard 20BGroq131K30 요청/분
1,000 요청/일
8,000 토큰/분
200,000 토큰/일
~6M
예아니요
ALLaM 2 7BGroq4K30 요청/분
1,000 요청/일
6,000 토큰/분
500,000 토큰/일
~15M
아니요아니요
Llama Prompt Guard 2 22MGroq51230 요청/분
14,400 요청/일
15,000 토큰/분
14.4K rpd
아니요아니요
Llama Prompt Guard 2 86MGroq51230 요청/분
14,400 요청/일
15,000 토큰/분
14.4K rpd
아니요아니요

FreeLLMAPI 카탈로그의 실시간 데이터입니다 (버전 2026.11.19, 2026-11-19 확인). 무료 한도는 자주 바뀝니다. 카탈로그는 매일 확인합니다.

요율 제한 헤더

Groq 응답에는 모두 요율 제한 헤더가 있습니다. 429를 받기 전에 속도를 줄이려면 이 헤더를 읽으세요.

헤더대상의미
x-ratelimit-limit-requestsRPD하루에 허용되는 요청 수
x-ratelimit-remaining-requestsRPD오늘 남은 요청 수
x-ratelimit-reset-requestsRPD요청 한도가 초기화되기까지의 시간. 예: 2m59.56s
x-ratelimit-limit-tokensTPM분당 허용되는 토큰 수
x-ratelimit-remaining-tokensTPM이번 분에 남은 토큰 수
x-ratelimit-reset-tokensTPM토큰 한도가 초기화되기까지의 시간. 예: 7.66s
retry-after모두기다려야 할 초. Groq는 한도에 도달한 후에만 이 값을 설정합니다.

헤더 보기

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

올바르게 재시도하기

Groq가 retry-after를 보내면 그 값을 사용하세요. 없으면 상한이 있는 지수 백오프를 쓰세요. 일일 한도는 빠른 반복문으로 재시도하지 마세요. 재시도마다 새 요청이 됩니다.

retry-after로 재시도 (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • 메시지가 RPD 또는 TPD를 가리키고 대기 시간이 몇 분이라면, 다른 모델이나 제공업체로 바꾸세요.
  • Groq에서 더 높은 한도를 받으려면 Developer 등급으로 업그레이드하세요. 결제 수단이 필요합니다.
  • HTTP 498은 다른 오류입니다. flex 등급의 용량이 가득 찼다는 뜻입니다.

Groq 사용량 계획하기

계산해 보면 무료 한도는 작습니다. 작업에서 어느 한도가 먼저 막는지 확인하세요.

  • 요청: 분당 30개 요청에서 하루 1,000개 요청은 전속력 사용으로 약 34분 동안 지속됩니다.
  • 분당 토큰: TPM 8,000은 분당 2,000 토큰짜리 요청 약 4개를 허용합니다. 9,000 토큰짜리 요청 하나는 오류 413을 받습니다.
  • 일일 토큰: TPD 200,000은 8,000 토큰짜리 요청 약 25개입니다. 코딩 에이전트는 큰 프롬프트를 보내므로, TPD가 RPD보다 먼저 소진되는 경우가 많습니다.
  • 조직: 조직의 모든 키와 모든 구성원이 이 수치를 공유합니다.

에이전트 작업에서는 프롬프트를 짧고 명확하게 유지하고, 오래된 컨텍스트를 자주 지우세요. Groq는 빠르고 짧은 호출에 쓰세요. 긴 컨텍스트 호출은 토큰 한도가 더 높은 제공업체로 보내세요.

Groq가 가득 찼을 때 장애 대응하기

FreeLLMAPI는 사용자의 컴퓨터에서 실행되는 오픈 소스 게이트웨이입니다. 각 Groq 모델과 키마다 RPM, RPD, TPM, TPD 카운터를 유지합니다. 각 요청 전에 이 카운터를 확인합니다. Groq가 가득 찼으면, 라우터는 요청을 다음 무료 제공업체로 보냅니다.

  • 분당 한도에서 짧은 429가 나오면, 해당 키는 90초 쿨다운에 들어갑니다.
  • 일일 한도에서 429가 나오면 더 긴 쿨다운을 쓰며, Groq의 재시도 시간이 더 길면 그 시간을 씁니다.
  • Groq 오류 본문에 실제 한도가 나오면, 라우터가 이를 저장합니다. 예를 들어 Limit 30000, Requested 33476이 있는 413은 TPM 한도를 30,000으로 설정합니다.
  • X-Fallback-Trail 헤더는 실패한 각 단계를 보여 줍니다. 예: groq/llama-3.3-70b key1=rate_limited.

Groq 대신 게이트웨이 호출하기

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast는 측정된 속도가 가장 빠른 모델을 우선합니다. Groq가 한도에 도달하면 다른 제공업체가 답변합니다. 이들은 Groq보다 느릴 수 있습니다.

하나의 키로 이 모델을 모두 사용하십시오. FreeLLMAPI는 오픈 소스이며 직접 호스팅하는 라우터입니다. 이 모든 무료 제공 서비스를 하나의 OpenAI 호환 엔드포인트로 묶고, 요청 한도에 걸리면 다른 모델로 자동 전환합니다. 카탈로그 보기 또는 바로 시작.

자주 묻는 질문

Groq에서 'Rate limit reached for model'은 무슨 뜻인가요?

조직이 그 모델의 한도 하나를 모두 사용했다는 뜻입니다. 메시지에는 한도(RPM, RPD, TPM, TPD)와 기다릴 시간이 나옵니다.

Groq 무료 요금제의 요율 제한은 무엇인가요?

모델마다 다릅니다. 무료 요금제에서 openai/gpt-oss-120b는 분당 요청 30개, 하루 1,000개, 분당 8,000 토큰, 하루 200,000 토큰을 허용합니다.

Groq 오류 413 Request too large는 왜 발생하나요?

요청 하나의 토큰 수가 모델의 TPM 한도보다 많습니다. 프롬프트를 더 짧게 하거나, TPM 한도가 더 높은 모델을 쓰세요. 기다려도 해결되지 않습니다.

새 Groq API 키를 만들면 요율 제한이 초기화되나요?

아니요. Groq는 한도를 조직 단위로 적용하므로, 조직의 모든 키가 같은 한도를 공유합니다.

Groq 요율 제한을 어떻게 올리나요?

결제 수단을 등록하고 Developer 등급으로 업그레이드하세요. 무료를 유지하려면, Groq가 가득 찼을 때 장애 대응하는 게이트웨이 뒤에 다른 제공업체를 추가하세요.

관련 가이드

출처

전체 가이드 · 무료 모델 전체 보기