Strona główna / Poradniki / Limit Groq przekroczony (429)

Limit Groq przekroczony (429)

Groq jest szybki, więc darmowy klucz Groq szybko osiąga limity. Gdy to się stanie, Groq zwraca HTTP 429 z komunikatem, który nazywa limit. Ta strona wyjaśnia ten komunikat, darmowe limity na model, nagłówki do odczytu i sposób, jak dalej pracować.

Kod, nazwy modeli i etykiety z katalogu na żywo są podane po angielsku.

Odczytaj komunikat błędu

Komunikat 429 od Groq podaje model, organizację, poziom usługi, typ limitu i czas oczekiwania. Ten przykład został opublikowany w publicznym zgłoszeniu błędu:

Przykładowa treść błędu 429

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
Limit w komunikacieCo się wyczerpałoCo zrobić
żądania na minutę (RPM)Zbyt wiele żądań w ciągu 60 sekundPoczekaj kilka sekund i ponów
tokeny na minutę (TPM)Zbyt wiele tokenów w ciągu 60 sekundPoczekaj albo wyślij krótsze prompty
żądania na dzień (RPD)Dzienny limit żądańPoczekaj czas podany w komunikacie albo użyj innego modelu
tokeny na dzień (TPD)Dzienny limit tokenówPoczekaj czas podany w komunikacie albo użyj innego modelu

Inny błąd to HTTP 413 z komunikatem "Request too large". Oznacza, że jedno żądanie jest większe niż limit TPM modelu. Czekanie nie pomaga. Zmniejsz żądanie albo użyj modelu z wyższym limitem TPM.

Limity darmowego planu Groq

Groq stosuje limity szybkości do organizacji, a nie do każdego użytkownika czy klucza. Te wartości pochodzą z karty Free Plan na stronie limitów Groq. Tokeny z cache nie wliczają się do limitów.

Limity darmowego planu Groq, sprawdzone 20 listopada 2026
ModelRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Modele Whisper mają też limity audio: 7 200 sekund audio na godzinę i 28 800 dziennie. Poniższa tabela pokazuje wiersze Groq w katalogu FreeLLMAPI. Jeśli wartość w katalogu różni się od strony Groq, miarodajna jest strona Groq.

Modele Groq w dzisiejszym darmowym katalogu
ModelZa darmo wKontekstDarmowe limity (najlepsza oferta)NarzędziaWizja
Qwen3.8 27BGroq262K30 żądań/min
250 żądań/dzień
70,000 tokenów/min
~6M
TakTak
GPT-OSS 120BGroq131K30 żądań/min
1,000 żądań/dzień
8,000 tokenów/min
200,000 tokenów/dzień
~6M
TakNie
GPT-OSS 20BGroq131K30 żądań/min
1,000 żądań/dzień
8,000 tokenów/min
200,000 tokenów/dzień
~6M
TakNie
GPT-OSS Safeguard 20BGroq131K30 żądań/min
1,000 żądań/dzień
8,000 tokenów/min
200,000 tokenów/dzień
~6M
TakNie
ALLaM 2 7BGroq4K30 żądań/min
1,000 żądań/dzień
6,000 tokenów/min
500,000 tokenów/dzień
~15M
NieNie
Llama Prompt Guard 2 22MGroq51230 żądań/min
14,400 żądań/dzień
15,000 tokenów/min
14.4K rpd
NieNie
Llama Prompt Guard 2 86MGroq51230 żądań/min
14,400 żądań/dzień
15,000 tokenów/min
14.4K rpd
NieNie

Dane na żywo z katalogu FreeLLMAPI (wersja 2026.11.19, sprawdzono 2026-11-19). Darmowe limity często się zmieniają. Katalog jest sprawdzany codziennie.

Nagłówki limitów szybkości

Każda odpowiedź Groq zawiera nagłówki limitów szybkości. Odczytuj je, aby zwolnić, zanim dostaniesz błąd 429.

NagłówekDotyczyZnaczenie
x-ratelimit-limit-requestsRPDŻądania dozwolone na dzień
x-ratelimit-remaining-requestsRPDŻądania pozostałe na dziś
x-ratelimit-reset-requestsRPDCzas do resetu limitu żądań, na przykład 2m59.56s
x-ratelimit-limit-tokensTPMTokeny dozwolone na minutę
x-ratelimit-remaining-tokensTPMTokeny pozostałe w tej minucie
x-ratelimit-reset-tokensTPMCzas do resetu limitu tokenów, na przykład 7.66s
retry-afterDowolnySekundy do czekania. Groq ustawia go tylko po przekroczeniu limitu.

Zobacz nagłówki

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

Ponawiaj poprawnie

Używaj retry-after, gdy Groq go wysyła. Jeśli go brakuje, użyj wykładniczego opóźnienia z limitem. Nie ponawiaj dziennych limitów w ciasnej pętli. Każde ponowienie to nowe żądanie.

Ponawianie z retry-after (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • Jeśli komunikat wskazuje RPD lub TPD, a czekanie trwa minuty, przejdź na inny model lub dostawcę.
  • Aby uzyskać wyższe limity od Groq, przejdź na poziom Developer. Wymaga metody płatności.
  • HTTP 498 to inny błąd. Oznacza, że poziom flex jest w pełni wykorzystany.

Zaplanuj budżet Groq

Darmowe limity są małe, gdy policzysz. Sprawdź, który limit zatrzyma Cię pierwszy przy Twoim obciążeniu.

  • Żądania: przy 30 żądaniach na minutę, 1 000 żądań dziennie wystarcza na około 34 minuty pracy z pełną prędkością.
  • Tokeny na minutę: 8 000 TPM pozwala na około cztery żądania po 2 000 tokenów na minutę. Jedno żądanie na 9 000 tokenów zwraca błąd 413.
  • Tokeny na dzień: 200 000 TPD to około 25 żądań po 8 000 tokenów. Agenty kodowania wysyłają duże prompty, więc TPD często wyczerpuje się przed RPD.
  • Organizacja: wszystkie klucze i wszyscy członkowie organizacji dzielą te liczby.

W pracy z agentami trzymaj prompty krótkie i często czyść stary kontekst. Używaj Groq do szybkich, krótkich wywołań. Wywołania z długim kontekstem wysyłaj do dostawców z wyższym limitem tokenów.

Przełączaj awaryjnie, gdy Groq jest pełny

FreeLLMAPI to brama open source działająca na Twoim komputerze. Prowadzi liczniki RPM, RPD, TPM i TPD dla każdego modelu i klucza Groq. Sprawdza je przed każdym żądaniem. Gdy Groq jest pełny, router wysyła żądanie do następnego darmowego dostawcy.

  • Krótki błąd 429 na limicie minutowym wprowadza klucz w cooldown na 90 sekund.
  • Błąd 429 na limicie dziennym używa dłuższego cooldownu albo czasu ponowienia Groq, jeśli jest dłuższy.
  • Gdy treść błędu Groq podaje rzeczywisty limit, router go zapisuje. Na przykład 413 z Limit 30000, Requested 33476 ustawia limit TPM na 30 000.
  • Nagłówek X-Fallback-Trail pokazuje każdy nieudany krok, na przykład groq/llama-3.3-70b key1=rate_limited.

Wywołuj bramę zamiast Groq

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast preferuje modele o najlepszej zmierzonej szybkości. Gdy Groq jest na limicie, odpowiadają inni dostawcy. Mogą być wolniejsi niż Groq.

Używaj wszystkich tych modeli przez jeden klucz. FreeLLMAPI to router o otwartym kodzie, uruchamiany na własnym serwerze. Łączy wszystkie te darmowe plany za jednym punktem końcowym zgodnym z OpenAI i przełącza się na inny dostawcę, gdy limit zostanie przekroczony. Przeglądaj katalog lub uruchom.

Najczęstsze pytania

Co oznacza „Rate limit reached for model” w Groq?

Organizacja wykorzystała cały jeden limit dla tego modelu. Komunikat podaje limit (RPM, RPD, TPM lub TPD) i czas oczekiwania.

Jakie są limity szybkości darmowego planu Groq?

Różnią się w zależności od modelu. W darmowym planie openai/gpt-oss-120b pozwala na 30 żądań na minutę, 1 000 dziennie, 8 000 tokenów na minutę i 200 000 tokenów dziennie.

Dlaczego dostaję błąd Groq 413 Request too large?

Jedno żądanie ma więcej tokenów niż limit TPM modelu. Skróć prompt albo użyj modelu z wyższym limitem TPM. Czekanie tego nie naprawi.

Czy nowy klucz API Groq resetuje limit szybkości?

Nie. Groq stosuje limity do organizacji, więc wszystkie klucze w niej mają te same limity.

Jak zwiększyć limit szybkości Groq?

Przejdź na poziom Developer z metodą płatności. Aby pozostać przy darmowym rozwiązaniu, dodaj innych dostawców za bramą, która przełącza awaryjnie, gdy Groq jest pełny.

Powiązane poradniki

Źródła

Wszystkie poradniki · Przeglądaj wszystkie darmowe modele