Головна / Посібники / Досягнуто ліміту Groq (429)

Досягнуто ліміту Groq (429)

Groq працює швидко, тому безкоштовний ключ Groq швидко досягає своїх лімітів. Коли це стається, Groq повертає HTTP 429 з повідомленням, яке називає ліміт. Ця сторінка пояснює повідомлення, безкоштовні ліміти для кожної моделі, заголовки, які варто читати, і те, як продовжувати роботу.

Код, назви моделей і мітки живого каталогу показано англійською.

Прочитайте повідомлення про помилку

Повідомлення Groq 429 називає модель, організацію, рівень сервісу, тип ліміту і час очікування. Цей приклад опубліковано у загальнодоступному звіті про помилку:

Приклад тексту відповіді 429

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
Ліміт у повідомленніЩо вичерпалосяЩо робити
запити за хвилину (RPM)Забагато запитів за 60 секундЗачекайте кілька секунд і повторіть спробу
токени за хвилину (TPM)Забагато токенів за 60 секундЗачекайте або надсилайте коротші запити
запити за день (RPD)Денна квота запитівЗачекайте час, вказаний у повідомленні, або використайте іншу модель
токени за день (TPD)Денна квота токенівЗачекайте час, вказаний у повідомленні, або використайте іншу модель

Інша помилка це HTTP 413 з текстом «Request too large». Вона означає, що один запит більший за ліміт TPM моделі. Очікування не допоможе. Зробіть запит меншим або використайте модель з вищим лімітом TPM.

Ліміти безкоштовного плану Groq

Groq застосовує ліміти частоти до організації, а не до кожного користувача або ключа. Ці значення взято з вкладки Free Plan на сторінці лімітів частоти Groq. Кешовані токени не враховуються в лімітах.

Ліміти Groq Free Plan, перевірено 20 листопада 2026
МодельRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Моделі Whisper також мають ліміти аудіо: 7,200 секунд аудіо на годину і 28,800 на день. Нижче в таблиці наведено рядки Groq у каталозі FreeLLMAPI. Якщо значення в каталозі і на сторінці Groq відрізняються, остаточною є сторінка Groq.

Моделі Groq у безкоштовному каталозі на сьогодні
МодельБезкоштовно наКонтекстБезкоштовні ліміти (найкращі)ІнструментиЗображення
Qwen3.8 27BGroq262K30 запитів/хв
250 запитів/добу
70,000 токенів/хв
~6M
ТакТак
GPT-OSS 120BGroq131K30 запитів/хв
1,000 запитів/добу
8,000 токенів/хв
200,000 токенів/добу
~6M
ТакНі
GPT-OSS 20BGroq131K30 запитів/хв
1,000 запитів/добу
8,000 токенів/хв
200,000 токенів/добу
~6M
ТакНі
GPT-OSS Safeguard 20BGroq131K30 запитів/хв
1,000 запитів/добу
8,000 токенів/хв
200,000 токенів/добу
~6M
ТакНі
ALLaM 2 7BGroq4K30 запитів/хв
1,000 запитів/добу
6,000 токенів/хв
500,000 токенів/добу
~15M
НіНі
Llama Prompt Guard 2 22MGroq51230 запитів/хв
14,400 запитів/добу
15,000 токенів/хв
14.4K rpd
НіНі
Llama Prompt Guard 2 86MGroq51230 запитів/хв
14,400 запитів/добу
15,000 токенів/хв
14.4K rpd
НіНі

Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.

Заголовки ліміту частоти

Кожна відповідь Groq містить заголовки ліміту частоти. Читайте їх, щоб сповільнитися до того, як ви отримаєте 429.

ЗаголовокСтосуєтьсяЗначення
x-ratelimit-limit-requestsRPDЗапити, дозволені за день
x-ratelimit-remaining-requestsRPDЗапити, що залишилися сьогодні
x-ratelimit-reset-requestsRPDЧас до скидання ліміту запитів, наприклад 2m59.56s
x-ratelimit-limit-tokensTPMТокени, дозволені за хвилину
x-ratelimit-remaining-tokensTPMТокени, що залишилися цієї хвилини
x-ratelimit-reset-tokensTPMЧас до скидання ліміту токенів, наприклад 7.66s
retry-afterБудь-якийСекунди очікування. Groq встановлює його лише після того, як ви досягли ліміту.

Перегляньте заголовки

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

Правильні повторні спроби

Використовуйте retry-after, коли Groq його надсилає. Якщо його немає, використовуйте експоненційну затримку з верхньою межею. Не повторюйте денні ліміти у щільному циклі. Кожна повторна спроба це новий запит.

Повторна спроба з retry-after (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • Якщо повідомлення називає RPD або TPD, а очікування становить хвилини, перейдіть на іншу модель або провайдера.
  • Щоб отримати вищі ліміти від Groq, перейдіть на рівень Developer. Для нього потрібен спосіб оплати.
  • HTTP 498 це інша помилка. Вона означає, що рівень flex вичерпав свою потужність.

Розрахуйте бюджет Groq

Безкоштовні ліміти малі, якщо порахувати. Перевірте, який ліміт зупиняє вас першим для вашого навантаження.

  • Запити: при 30 запитах за хвилину 1,000 запитів на день вистачає приблизно на 34 хвилини роботи на повній швидкості.
  • Токени за хвилину: 8,000 TPM дозволяє приблизно чотири запити по 2,000 токенів кожен за хвилину. Один запит на 9,000 токенів отримує помилку 413.
  • Токени за день: 200,000 TPD це приблизно 25 запитів по 8,000 токенів. Агенти написання коду надсилають великі запити, тому TPD часто вичерпується раніше за RPD.
  • Організація: усі ключі і всі учасники організації спільно використовують ці числа.

Для роботи з агентами тримайте запити короткими і часто очищайте старий контекст. Використовуйте Groq для швидких коротких викликів. Надсилайте виклики з довгим контекстом провайдерам з вищим лімітом токенів.

Перемикання на резерв, коли Groq заповнений

FreeLLMAPI це шлюз з відкритим кодом, який працює на вашому комп'ютері. Він веде лічильники RPM, RPD, TPM і TPD для кожної моделі та ключа Groq. Він перевіряє їх перед кожним запитом. Коли Groq заповнений, маршрутизатор надсилає запит наступному безкоштовному провайдеру.

  • Короткий 429 за хвилинним лімітом ставить ключ на паузу 90 секунд.
  • 429 за денним лімітом використовує довшу паузу або час повторної спроби від Groq, якщо він довший.
  • Коли текст помилки Groq вказує реальний ліміт, маршрутизатор його зберігає. Наприклад, 413 з Limit 30000, Requested 33476 встановлює ліміт TPM на 30,000.
  • Заголовок X-Fallback-Trail показує кожну невдалу ланку, наприклад groq/llama-3.3-70b key1=rate_limited.

Викликайте шлюз замість Groq

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast віддає перевагу моделям з найкращою виміряною швидкістю. Коли Groq досягає свого ліміту, відповідають інші провайдери. Вони можуть бути повільнішими за Groq.

Використовуйте кожну з цих моделей через один ключ. FreeLLMAPI це маршрутизатор з відкритим кодом, який ви розгортаєте самі. Він об'єднує всі ці безкоштовні тарифи за однією кінцевою точкою, сумісною з OpenAI, і переходить до наступного, коли один з них досягає ліміту. Переглянути каталог або або почніть роботу.

Часті запитання

Що означає «Rate limit reached for model» у Groq?

Ваша організація вичерпала один ліміт для цієї моделі. Повідомлення називає ліміт (RPM, RPD, TPM або TPD) і час очікування.

Які ліміти частоти безкоштовного тарифу Groq?

Вони різняться залежно від моделі. На безкоштовному плані openai/gpt-oss-120b дозволяє 30 запитів за хвилину, 1,000 на день, 8,000 токенів за хвилину і 200,000 токенів на день.

Чому я отримую помилку Groq 413 Request too large?

Один запит має більше токенів, ніж ліміт TPM моделі. Зробіть запит коротшим або використайте модель з вищим лімітом TPM. Очікування це не виправить.

Чи скидає новий ключ API Groq ліміт частоти?

Ні. Groq застосовує ліміти до організації, тому всі ключі в ній мають спільні ліміти.

Як підвищити свій ліміт частоти Groq?

Перейдіть на рівень Developer зі способом оплати. Щоб залишитися безкоштовним, додайте інших провайдерів за шлюзом, який перемикається на резерв, коли Groq заповнений.

Схожі посібники

Джерела

Усі посібники · Переглянути всі безкоштовні моделі