Главная / Руководства / Достигнут лимит Groq (429)

Достигнут лимит Groq (429)

Groq работает быстро, поэтому бесплатный ключ Groq быстро достигает своих лимитов. Когда это происходит, Groq возвращает HTTP 429 с сообщением, в котором назван лимит. Эта страница объясняет сообщение, бесплатные лимиты по моделям, заголовки, которые нужно читать, и способы продолжить работу.

Код, названия моделей и метки живого каталога показаны на английском языке.

Прочитайте текст ошибки

Сообщение 429 от Groq называет модель, организацию, уровень сервиса, тип лимита и время ожидания. Этот пример опубликован в открытом отчете об ошибке:

Пример текста тела ответа 429

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
Лимит в сообщенииЧто закончилосьЧто делать
запросы в минуту (RPM)Слишком много запросов за 60 секундПодождите несколько секунд и повторите запрос
токены в минуту (TPM)Слишком много токенов за 60 секундПодождите или отправляйте более короткие промпты
запросы в день (RPD)Дневная квота запросовПодождите время из сообщения или используйте другую модель
токены в день (TPD)Дневная квота токеновПодождите время из сообщения или используйте другую модель

Другая ошибка это HTTP 413 с текстом «Request too large». Она означает, что один запрос больше лимита TPM модели. Ожидание не помогает. Сделайте запрос меньше или используйте модель с более высоким лимитом TPM.

Лимиты бесплатного тарифа Groq

Groq применяет лимиты частоты к организации, а не к каждому пользователю или ключу. Эти значения взяты со вкладки Free Plan на странице лимитов Groq. Кэшированные токены не учитываются в лимитах.

Лимиты Groq Free Plan, проверено 20 ноября 2026
МодельRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

У моделей Whisper также есть лимиты аудио: 7,200 секунд аудио в час и 28,800 в день. В таблице ниже показаны строки Groq из каталога FreeLLMAPI. Если значение в каталоге и на странице Groq различаются, верна страница Groq.

Модели Groq в бесплатном каталоге на сегодня
МодельБесплатно вКонтекстБесплатные лимиты (лучшее предложение)ИнструментыЗрение
Qwen3.8 27BGroq262K30 запр./мин
250 запр./день
70,000 токенов/мин
~6M
ДаДа
GPT-OSS 120BGroq131K30 запр./мин
1,000 запр./день
8,000 токенов/мин
200,000 токенов/день
~6M
ДаНет
GPT-OSS 20BGroq131K30 запр./мин
1,000 запр./день
8,000 токенов/мин
200,000 токенов/день
~6M
ДаНет
GPT-OSS Safeguard 20BGroq131K30 запр./мин
1,000 запр./день
8,000 токенов/мин
200,000 токенов/день
~6M
ДаНет
ALLaM 2 7BGroq4K30 запр./мин
1,000 запр./день
6,000 токенов/мин
500,000 токенов/день
~15M
НетНет
Llama Prompt Guard 2 22MGroq51230 запр./мин
14,400 запр./день
15,000 токенов/мин
14.4K rpd
НетНет
Llama Prompt Guard 2 86MGroq51230 запр./мин
14,400 запр./день
15,000 токенов/мин
14.4K rpd
НетНет

Актуальные данные из каталога FreeLLMAPI (версия 2026.11.19, проверено 2026-11-19). Бесплатные лимиты часто меняются. Каталог проверяется каждый день.

Заголовки лимитов частоты

Каждый ответ Groq содержит заголовки лимитов частоты. Читайте их, чтобы замедлиться до того, как получите 429.

ЗаголовокОтносится кЗначение
x-ratelimit-limit-requestsRPDЗапросов разрешено в день
x-ratelimit-remaining-requestsRPDЗапросов осталось на сегодня
x-ratelimit-reset-requestsRPDВремя до сброса лимита запросов, например 2m59.56s
x-ratelimit-limit-tokensTPMТокенов разрешено в минуту
x-ratelimit-remaining-tokensTPMТокенов осталось в эту минуту
x-ratelimit-reset-tokensTPMВремя до сброса лимита токенов, например 7.66s
retry-afterЛюбойСекунды ожидания. Groq задает его, только когда вы достигли лимита.

Просмотр заголовков

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

Правильные повторные попытки

Используйте retry-after, когда Groq его отправляет. Если его нет, используйте экспоненциальную задержку с ограничением. Не повторяйте дневные лимиты в плотном цикле. Каждая повторная попытка это новый запрос.

Повтор с retry-after (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • Если в сообщении назван RPD или TPD и ожидание измеряется минутами, перейдите на другую модель или другого провайдера.
  • Чтобы получить более высокие лимиты от Groq, перейдите на тариф Developer. Для него нужен способ оплаты.
  • HTTP 498 это другая ошибка. Она означает, что тариф flex исчерпан.

Планируйте бюджет Groq

Бесплатные лимиты малы, если посчитать. Проверьте, какой лимит останавливает вас первым для вашей нагрузки.

  • Запросы: при 30 запросах в минуту 1,000 запросов в день хватает примерно на 34 минуты работы на полной скорости.
  • Токены в минуту: 8,000 TPM позволяют примерно четыре запроса по 2,000 токенов в минуту. Один запрос на 9,000 токенов возвращает ошибку 413.
  • Токены в день: 200,000 TPD это примерно 25 запросов по 8,000 токенов. Агенты для написания кода отправляют большие промпты, поэтому TPD часто заканчивается раньше RPD.
  • Организация: все ключи и все участники организации используют эти значения совместно.

Для работы агента держите промпты короткими и часто очищайте старый контекст. Используйте Groq для быстрых коротких вызовов. Вызовы с длинным контекстом отправляйте провайдерам с более высоким лимитом токенов.

Переключение при сбое, когда Groq заполнен

FreeLLMAPI это шлюз с открытым исходным кодом, который работает на вашем компьютере. Он ведет счетчики RPM, RPD, TPM и TPD для каждой модели и ключа Groq. Он проверяет их перед каждым запросом. Когда Groq заполнен, маршрутизатор отправляет запрос следующему бесплатному провайдеру.

  • Короткая ошибка 429 по минутному лимиту ставит ключ на паузу 90 секунд.
  • Ошибка 429 по дневному лимиту ставит ключ на более длинную паузу или на время повтора Groq, если оно больше.
  • Когда тело ответа Groq указывает реальный лимит, маршрутизатор его сохраняет. Например, ошибка 413 с Limit 30000, Requested 33476 задает лимит TPM 30,000.
  • Заголовок X-Fallback-Trail показывает каждый неудачный переход, например groq/llama-3.3-70b key1=rate_limited.

Вызывайте шлюз вместо Groq

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast отдает предпочтение моделям с лучшей измеренной скоростью. Когда Groq достигает лимита, отвечают другие провайдеры. Они могут быть медленнее Groq.

Используйте каждую из этих моделей через один ключ. FreeLLMAPI это маршрутизатор с открытым исходным кодом, который работает на вашем сервере. Он объединяет все эти бесплатные тарифы за одной конечной точкой, совместимой с OpenAI, и переключается на другой провайдер, когда достигнут лимит запросов. Открыть каталог или перейти.

Часто задаваемые вопросы

Что означает «Rate limit reached for model» на Groq?

Ваша организация израсходовала весь один лимит для этой модели. Сообщение называет лимит (RPM, RPD, TPM или TPD) и время ожидания.

Какие лимиты частоты у бесплатного тарифа Groq?

Они различаются по моделям. На бесплатном плане openai/gpt-oss-120b разрешает 30 запросов в минуту, 1,000 в день, 8,000 токенов в минуту и 200,000 токенов в день.

Почему я получаю ошибку Groq 413 Request too large?

Один запрос содержит больше токенов, чем лимит TPM модели. Сделайте промпт короче или используйте модель с более высоким лимитом TPM. Ожидание не исправляет ошибку.

Сбрасывает ли новый ключ Groq API лимит частоты?

Нет. Groq применяет лимиты к организации, поэтому все ключи в ней разделяют одни и те же лимиты.

Как повысить мой лимит частоты Groq?

Перейдите на тариф Developer со способом оплаты. Чтобы оставаться на бесплатном варианте, добавьте других провайдеров за шлюзом, который переключается при сбое, когда Groq заполнен.

Похожие руководства

Источники

Все руководства · Смотреть все бесплатные модели