Достигнут лимит Groq (429)
Groq работает быстро, поэтому бесплатный ключ Groq быстро достигает своих лимитов. Когда это происходит, Groq возвращает HTTP 429 с сообщением, в котором назван лимит. Эта страница объясняет сообщение, бесплатные лимиты по моделям, заголовки, которые нужно читать, и способы продолжить работу.
Код, названия моделей и метки живого каталога показаны на английском языке.
Прочитайте текст ошибки
Сообщение 429 от Groq называет модель, организацию, уровень сервиса, тип лимита и время ожидания. Этот пример опубликован в открытом отчете об ошибке:
Пример текста тела ответа 429
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| Лимит в сообщении | Что закончилось | Что делать |
|---|---|---|
| запросы в минуту (RPM) | Слишком много запросов за 60 секунд | Подождите несколько секунд и повторите запрос |
| токены в минуту (TPM) | Слишком много токенов за 60 секунд | Подождите или отправляйте более короткие промпты |
| запросы в день (RPD) | Дневная квота запросов | Подождите время из сообщения или используйте другую модель |
| токены в день (TPD) | Дневная квота токенов | Подождите время из сообщения или используйте другую модель |
Другая ошибка это HTTP 413 с текстом «Request too large». Она означает, что один запрос больше лимита TPM модели. Ожидание не помогает. Сделайте запрос меньше или используйте модель с более высоким лимитом TPM.
Лимиты бесплатного тарифа Groq
Groq применяет лимиты частоты к организации, а не к каждому пользователю или ключу. Эти значения взяты со вкладки Free Plan на странице лимитов Groq. Кэшированные токены не учитываются в лимитах.
| Модель | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
У моделей Whisper также есть лимиты аудио: 7,200 секунд аудио в час и 28,800 в день. В таблице ниже показаны строки Groq из каталога FreeLLMAPI. Если значение в каталоге и на странице Groq различаются, верна страница Groq.
| Модель | Бесплатно в | Контекст | Бесплатные лимиты (лучшее предложение) | Инструменты | Зрение |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 запр./мин 250 запр./день 70,000 токенов/мин ~6M | Да | Да |
| GPT-OSS 120B | Groq | 131K | 30 запр./мин 1,000 запр./день 8,000 токенов/мин 200,000 токенов/день ~6M | Да | Нет |
| GPT-OSS 20B | Groq | 131K | 30 запр./мин 1,000 запр./день 8,000 токенов/мин 200,000 токенов/день ~6M | Да | Нет |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 запр./мин 1,000 запр./день 8,000 токенов/мин 200,000 токенов/день ~6M | Да | Нет |
| ALLaM 2 7B | Groq | 4K | 30 запр./мин 1,000 запр./день 6,000 токенов/мин 500,000 токенов/день ~15M | Нет | Нет |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 запр./мин 14,400 запр./день 15,000 токенов/мин 14.4K rpd | Нет | Нет |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 запр./мин 14,400 запр./день 15,000 токенов/мин 14.4K rpd | Нет | Нет |
Актуальные данные из каталога FreeLLMAPI (версия 2026.11.19, проверено 2026-11-19). Бесплатные лимиты часто меняются. Каталог проверяется каждый день.
Заголовки лимитов частоты
Каждый ответ Groq содержит заголовки лимитов частоты. Читайте их, чтобы замедлиться до того, как получите 429.
| Заголовок | Относится к | Значение |
|---|---|---|
x-ratelimit-limit-requests | RPD | Запросов разрешено в день |
x-ratelimit-remaining-requests | RPD | Запросов осталось на сегодня |
x-ratelimit-reset-requests | RPD | Время до сброса лимита запросов, например 2m59.56s |
x-ratelimit-limit-tokens | TPM | Токенов разрешено в минуту |
x-ratelimit-remaining-tokens | TPM | Токенов осталось в эту минуту |
x-ratelimit-reset-tokens | TPM | Время до сброса лимита токенов, например 7.66s |
retry-after | Любой | Секунды ожидания. Groq задает его, только когда вы достигли лимита. |
Просмотр заголовков
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'Правильные повторные попытки
Используйте retry-after, когда Groq его отправляет. Если его нет, используйте экспоненциальную задержку с ограничением. Не повторяйте дневные лимиты в плотном цикле. Каждая повторная попытка это новый запрос.
Повтор с retry-after (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- Если в сообщении назван RPD или TPD и ожидание измеряется минутами, перейдите на другую модель или другого провайдера.
- Чтобы получить более высокие лимиты от Groq, перейдите на тариф Developer. Для него нужен способ оплаты.
- HTTP 498 это другая ошибка. Она означает, что тариф flex исчерпан.
Планируйте бюджет Groq
Бесплатные лимиты малы, если посчитать. Проверьте, какой лимит останавливает вас первым для вашей нагрузки.
- Запросы: при 30 запросах в минуту 1,000 запросов в день хватает примерно на 34 минуты работы на полной скорости.
- Токены в минуту: 8,000 TPM позволяют примерно четыре запроса по 2,000 токенов в минуту. Один запрос на 9,000 токенов возвращает ошибку 413.
- Токены в день: 200,000 TPD это примерно 25 запросов по 8,000 токенов. Агенты для написания кода отправляют большие промпты, поэтому TPD часто заканчивается раньше RPD.
- Организация: все ключи и все участники организации используют эти значения совместно.
Для работы агента держите промпты короткими и часто очищайте старый контекст. Используйте Groq для быстрых коротких вызовов. Вызовы с длинным контекстом отправляйте провайдерам с более высоким лимитом токенов.
Переключение при сбое, когда Groq заполнен
FreeLLMAPI это шлюз с открытым исходным кодом, который работает на вашем компьютере. Он ведет счетчики RPM, RPD, TPM и TPD для каждой модели и ключа Groq. Он проверяет их перед каждым запросом. Когда Groq заполнен, маршрутизатор отправляет запрос следующему бесплатному провайдеру.
- Короткая ошибка 429 по минутному лимиту ставит ключ на паузу 90 секунд.
- Ошибка 429 по дневному лимиту ставит ключ на более длинную паузу или на время повтора Groq, если оно больше.
- Когда тело ответа Groq указывает реальный лимит, маршрутизатор его сохраняет. Например, ошибка 413 с
Limit 30000, Requested 33476задает лимит TPM 30,000. - Заголовок
X-Fallback-Trailпоказывает каждый неудачный переход, напримерgroq/llama-3.3-70b key1=rate_limited.
Вызывайте шлюз вместо Groq
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast отдает предпочтение моделям с лучшей измеренной скоростью. Когда Groq достигает лимита, отвечают другие провайдеры. Они могут быть медленнее Groq.
Часто задаваемые вопросы
Что означает «Rate limit reached for model» на Groq?
Ваша организация израсходовала весь один лимит для этой модели. Сообщение называет лимит (RPM, RPD, TPM или TPD) и время ожидания.
Какие лимиты частоты у бесплатного тарифа Groq?
Они различаются по моделям. На бесплатном плане openai/gpt-oss-120b разрешает 30 запросов в минуту, 1,000 в день, 8,000 токенов в минуту и 200,000 токенов в день.
Почему я получаю ошибку Groq 413 Request too large?
Один запрос содержит больше токенов, чем лимит TPM модели. Сделайте промпт короче или используйте модель с более высоким лимитом TPM. Ожидание не исправляет ошибку.
Сбрасывает ли новый ключ Groq API лимит частоты?
Нет. Groq применяет лимиты к организации, поэтому все ключи в ней разделяют одни и те же лимиты.
Как повысить мой лимит частоты Groq?
Перейдите на тариф Developer со способом оплаты. Чтобы оставаться на бесплатном варианте, добавьте других провайдеров за шлюзом, который переключается при сбое, когда Groq заполнен.
Похожие руководства
- Лимиты запросов бесплатного LLM API
- free groq api
- Превышена квота Gemini API (429 RESOURCE_EXHAUSTED)
- Лимит запросов NVIDIA NIM API
- Groq или Cerebras
Источники
- GroqCloud: Rate limits (проверено 20 November 2026)
- GroqCloud: Errors (проверено 20 November 2026)
- GroqCloud: Billing FAQs (проверено 20 November 2026)
- Public report of the Groq TPD message (Discourse) (проверено 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (проверено 20 November 2026)
- FreeLLMAPI docs: Response headers (проверено 20 November 2026)